O vídeo nunca existiu. A fala nunca foi dita. O conteúdo foi inteiramente forjado por inteligência artificial. Foto:  Reprodução/Treads

Um vídeo falso em que o presidente dos Estados Unidos, Donald Trump, chama o presidente brasileiro Luiz Inácio Lula da Silva de “um desastre total” viralizou nas redes sociais brasileiras nos últimos dias. O problema? O vídeo nunca existiu. A fala nunca foi dita. O conteúdo foi inteiramente forjado por inteligência artificial — e, para especialistas, esse é apenas um exemplo de uma ameaça crescente à própria noção de verdade na sociedade contemporânea.

Para o sociólogo Marcelo Senise, presidente do Instituto Brasileiro para a Regulamentação da Inteligência Artificial (IRIA), o episódio marca um ponto de virada silencioso, mas profundo: o momento em que a realidade deixou de ser evidente. “Estamos cruzando a fronteira do pós-fato e entrando no território da pós-verdade sintética. Qualquer imagem pode ser falsificada. Qualquer voz, clonada. Qualquer líder pode ser transformado em marionete digital para repetir discursos que jamais fez. E, quando tudo pode ser mentira, nada mais é confiável”, alerta.

Sociólogo Marcelo Senise, presidente do Instituto Brasileiro para a Regulamentação da Inteligência Artificial (IRIA)

As tecnologias de deepfake, que antes pareciam pertencer ao universo da ficção científica, agora estão ao alcance de qualquer pessoa com um smartphone e acesso a ferramentas gratuitas. Com algoritmos capazes de reproduzir feições, gestos e vozes com altíssimo grau de precisão, os riscos vão desde fraudes pessoais até a manipulação de eleições e a corrosão do debate público.

“O deepfake não é uma brincadeira tecnológica. É uma arma. Uma bomba invisível capaz de destruir reputações, distorcer o debate público e minar a confiança social. E o pior: tudo isso pode acontecer sem que ninguém perceba, sem um tiro, sem uma invasão — apenas com uma mentira bem editada”, afirma Senise.

No Brasil, ainda não há uma regulação clara sobre o uso dessas tecnologias. Não existem mecanismos obrigatórios de transparência, rotulagem de conteúdo gerado por IA ou punições proporcionais para quem cria e dissemina manipulações digitais com aparência de realidade.

“A ausência de regras cria um vácuo perigoso. E nesse vácuo, quem vence não é quem tem razão — é quem grita mais alto. Ou quem manipula melhor”, critica o especialista.

Senise aponta a necessidade urgente de reação coordenada por parte dos três Poderes da República. Segundo ele, o país precisa encarar de frente os riscos trazidos pela inteligência artificial generativa, com legislação adequada, protocolos de verificação e responsabilidade digital. “Estamos falando da sobrevivência da verdade como conceito coletivo. A tecnologia avançou mais rápido do que nossa capacidade de proteger a democracia. Ou corremos atrás, ou ela ficará para trás.”

A responsabilidade, no entanto, não é apenas institucional. Senise destaca que a sociedade também precisa se conscientizar do poder — e do perigo — de cada compartilhamento. “Cada vídeo falso divulgado, cada voz manipulada, cada mentira vestida de realidade é uma rachadura no edifício da civilização. A verdade precisa voltar a ser sagrada. E isso começa com a responsabilidade individual de não ser cúmplice do engano.”

Para o especialista, a crise é existencial. “Se a verdade desaparecer, o que sobra? Se tudo pode ser falsificado, o que ainda pode ser confiável? A realidade está sob ataque. E, se não fizermos nada, perderemos a capacidade de reconhecê-la. O futuro — e a própria democracia — estão em jogo.”