No cenário contemporâneo, permeado pela onipresença da tecnologia
assistida por Inteligência Artificial (IA), a temática da autenticidade
e transparência assume uma relevância fundamental. Conforme destacado por Kissinger
et al. (2021),
"…a tecnologia
assistida por IA tornar-se-á uma companhia permanente na percepção e
processamento de informação, embora ocupe um plano 'mental' diferente dos
humanos. Se a enxergamos como uma ferramenta, um parceiro ou um rival, ela
alterará nossa experiência enquanto seres pensantes, modificando de maneira
definitiva nossa relação com a realidade."
Nesse cenário pós-digital, no qual as fronteiras entre realidade e
simulação tornam-se cada vez mais tênues (Baudrillard,1990), especialmente
diante da ascensão de tecnologias de manipulação de conteúdo, como os deepfakes, a busca pela verdade e genuinidade transforma-se em um desafio
imperativo. As máscaras digitais, construídas por técnicas avançadas de
manipulação de mídia, obscurecem a linha que separa o autêntico do fictício,
exigindo uma reflexão profunda sobre os alicerces de nossa interação digital.
Entendendo o
Contexto Digital Pós-Moderno - Da Democratização da Informação à Emergência da
Simulação de Baudrillard
Na era das redes digitais, a democratização do uso e consumo de
mídias redefiniu radicalmente o conceito de espaço público e formação de
opinião. O que antes se limitava a um número restrito de fontes de
informação destinadas a uma ampla audiência transformou-se em uma
multiplicidade de plataformas, desde redes sociais até blogs e sites,
permitindo a qualquer indivíduo disseminar conteúdo de forma praticamente
gratuita. Essa metamorfose, impulsionada pela onipresença da internet em
nossas vidas, deu lugar a uma dinâmica constante de interação e conexão.
Na esteira das transformações provocadas pela era digital, a teoria
da simulação de Baudrillard emerge como uma lente perspicaz para
compreender as dinâmicas contemporâneas. Segundo o pensador, enquanto a
simulação envolve a imitação ou reprodução de algo que existe na realidade, o
simulacro vai mais longe, criando algo que não tem um equivalente tangível
no mundo real. Para Baudrillard, a sociedade contemporânea está cada vez
mais imersa em simulacros, onde a representação e a simulação tornam-se
mais proeminentes do que a própria realidade original.
Entretanto, essa aparente fluidez na conexão também traz consigo ambivalências,
paradoxos e contradições, desafiando especialistas, comunicadores e
usuários críticos. Os desafios atuais concentram-se nas questões relacionadas à
autenticidade e transparência no vasto universo digital. Em um ambiente onde
qualquer pessoa pode se transformar de receptor a emissor instantaneamente, as
questões sobre o que procuramos, o que é mostrado, que rotas seguimos e o que
compartilhamos adquirem uma relevância fundamental.
Entendendo Deepfakes: Desafios à Confiança e Autenticidade
“O
termo deepfake refere-se às mídias sintéticas nas quais imagens ou
sons capturados de determinadas pessoas são substituídos pelos de outras
por meio de técnicas avançadas de aprendizagem de máquina e Inteligência
Artificial (IA), com a finalidade de manipular conteúdos visuais e/ou
sonoros, com enorme potencial de falseamento da realidade”. (Fanaya, 2021)
……………………………………………………………………………………...............................
“Embora o termo
original fosse fakevideo, o nome deepfake se popularizou a partir da
história de um usuário do site Reddit, que se apelidou de Deepfake e, especializado
em inteligência artificial, passou a substituir rostos de pessoas em filmes. O
termo passou então a ser associado a essa técnica, que opera a fusão de
imagens em movimento, gerando um novo vídeo, cujo grau de fidedignidade é
elevado a um patamar que somente com muita atenção se consegue notar se tratar
de uma montagem.” (Medon, 2021)
O fenômeno do deepfake, ilustrando a capacidade de criar vídeos e
imagens falsos convincentes, torna-se uma porta de entrada para questões mais
profundas no mundo pós-digital. No âmago dessas reflexões está a indagação
sobre a verdadeira identidade dos indivíduos presentes na rede. As
máscaras digitais que criamos lançam dúvidas sobre a autenticidade das
interações online, questionando quem está por trás dessas representações.
Em suma, o deepfake é muito mais do que uma curiosidade tecnológica;
exige uma reflexão sobre a construção da identidade online, a busca por
transparência e a confiança em um ambiente onde a linha entre realidade e
representação virtual está cada vez mais difusa.
DeepFake em Foco: Entre
a Ressurreição Criativa de Dalí e os Desafios Éticos na Política
As tecnologias deepfake introduzem um paradigma ambíguo no cenário
contemporâneo, apresentando tanto vantagens quanto desvantagens. Por um
lado, a capacidade de criar conteúdos visualmente convincentes por meio de
manipulação digital pode ter aplicações criativas, exemplificadas pela
reconstrução digital realizada no museu de Salvador Dalí. Essa técnica
oferece a oportunidade de ressuscitar figuras históricas para interagir com o
público, proporcionando experiências educacionais e culturais inovadoras.
No entanto, essa mesma tecnologia se torna uma ameaça significativa
quando utilizada de maneira maliciosa, como no caso das deepfakes que
disseminam desinformação e distorcem a realidade, representando um risco
potencial para a sociedade, política e ciência.
O fato é que, seja em contextos aparentemente positivos ou em situações
tipicamente maliciosas, as deepfakes suscitam discussões. O exemplo do
museu que recria Dalí (aparentemente positivo) levanta questões éticas sobre
consentimento, especialmente quando aplicado a pessoas falecidas, destacando a necessidade
de abordagens criteriosas e regulamentação para o uso responsável dessas
tecnologias. Questionamentos como os de Medon (2021), ao indagar: "...poderia um
museu recriar digitalmente um avatar virtual de um famoso pintor para que ele
explicasse o conteúdo de suas obras aos visitantes e interagisse com eles?" mostram que a finalidade parece ser um norte importante, que
não pode ser negligenciado.
Em última análise, embora as tecnologias deepfake ofereçam possibilidades inovadoras, sua gestão cuidadosa é importante para mitigar os riscos associados à sua utilização indiscriminada.
Valorização
da transparência como um princípio ético
As tecnologias deepfake, que possibilitam a criação de conteúdos
audiovisuais falsos e convincentes, introduzem um paradigma complexo no
qual a autenticidade se torna uma mercadoria escassa. O potencial dessas
ferramentas para disseminar desinformação e distorcer a realidade acende um alerta
para a urgência de estabelecer mecanismos eficazes de autenticação digital.
Em um mundo onde a confiança é essencial, a transparência se torna a chave para
desvendar as máscaras digitais que ameaçam distorcer nossas percepções e
manipular narrativas.
Diante desse desafio, a inovação ética emerge como um ponto importantíssimo
na busca pela autenticidade no mundo pós-digital. O desenvolvimento de tecnologias
que não apenas detectem deepfakes, mas também promovam ambientes digitais
mais transparentes, se apresenta como uma oportunidade estratégica, assim a ética
digital, ancorada na preservação da verdade e integridade, torna-se um
farol orientador na complexa paisagem do ciberespaço.
No entanto, a jornada em direção à transparência e autenticidade não é
isenta de obstáculos. A proliferação acelerada das tecnologias digitais exige uma
reflexão contínua sobre os limites éticos, legais e sociais de sua
utilização. Como sociedade, enfrentamos a responsabilidade de equilibrar a
inovação tecnológica com a preservação dos valores fundamentais que
sustentam a confiança em nossa interação digital.
E assim como Kissinger et al (2021), temos que firmar o compromisso
de
“…compreender esta transição, e
desenvolver uma ética condizente (o que com certeza) exigirá o empenho e a
visão de muitos elementos da sociedade: cientistas e estrategas, estadistas e
filósofos, religiosos e empresários. Este compromisso terá de ser nacional e
internacional. É agora o momento adequado para definirmos tanto o tipo de
parceria que teremos com a inteligência artificial como a realidade que daí
resultará.”
Com a certeza da necessidade de enfrentamento desse desafio, fica o convite para que trilhemos o caminho para
um futuro digital mais confiável e verdadeiro!
Referências Bibliográficas
Baudrillard, J. (1990). Simulacros e simulação. Tradução de Maria João da Costa Pereira. Relógio d'Água. https://monoskop.org/images/c/c4/Baudrillard_Jean_Simulacros_e_simula%C3%A7%C3%A3o_1991.pdf
Fanaya, P. F. (2021). Deepfake e a realidade sintetizada. TECCOGS – Revista Digital de Tecnologias Cognitivas, 23, 104-118. https://revistas.pucsp.br/index.php/teccogs/article/view/55982/37930
Kissinger, H., Schmidt, E., &
Hottenlocher, D. (2021). A Era da Inteligência Artificial. D.
QUIXOTE.
Medon, F. (2021). O direito à imagem na era das deepfakes. Revista
Brasileira de Direito Civil – RBDCivil, 27, 251-277. https://rbdcivil.ibdcivil.org.br/rbdc/article/view/438
0 Comentários