Uso indevido de IA: juiz explica consequências jurídicas da manipulação de voz e imagem

Imagem gerada por IA

Recentemente, a atriz Paolla Oliveira fez uma publicação, no Instagram, em que chamou a atenção para um problema que cresce junto com os avanços da inteligência artificial: a produção dos chamados deepfakes – tecnologia de inteligência artificial que manipula ou cria vídeos, áudios e imagens falsas, substituindo rostos ou clonando vozes com alta precisão, usada em fraudes, campanhas de desinformação e crimes de violação de privacidade.

A atriz alertou que imagens e vídeos falsos produzidos com seu rosto vêm sendo usados na internet sem sua autorização. “Que mulher cresce inteira em um mundo onde qualquer pessoa pode despi-la, deixá-la vulnerável, em segundos? Que poder é esse?”, questionou a artista na ocasião.

Em 2024, a atriz Giovanna Antonelli entrou com processo judicial devido à utilização de sua imagem manipulada para venda de produtos e remédios não autorizados pela Agência Nacional de Vigilância Sanitária (Anvisa). No ano passado, foi a vez de a também atriz Flávia Alessandra recorrer à Justiça do Rio pelo mesmo motivo.

A criação de imagens, vídeos e áudios extremamente realistas a partir de inteligência artificial (deepfakes) é capaz de enganar até os usuários mais atentos. Casos envolvendo pessoas famosas costumam ganhar maior repercussão, mas ninguém está imune a ter sua imagem ou voz manipulada ou até mesmo ser vítima de golpes financeiros após acreditar em publicações falsas.

A facilidade com que essas ferramentas reproduzem imagens, vozes e até expressões faciais levanta dúvidas sobre os limites legais do uso da inteligência artificial.  “O caminho é o equilíbrio: preservar a inovação, que é legítima e desejável, mas sem descuidar da proteção dos direitos fundamentais”, acredita o juiz titular da 2ª Vara Criminal de São João de Meriti, Anderson Paiva Gabriel.

Sobre o assunto, conversamos com o magistrado, que também é presidente do Fórum Permanente de Inovações Tecnológicas no Direito da Escola da Magistratura do Estado do Rio de Janeiro (Emerj). Ele explicou como o deepfake viola direitos, falou sobre a necessidade de adaptações da legislação aos tempos modernos e sobre a responsabilização de quem compartilha vídeos manipulados.

Quando a imagem ou a voz de uma pessoa é utilizada sem autorização para anunciar produtos, aplicar golpes ou divulgar conteúdos falsos, quais direitos são violados?

Indubitavelmente, temos uma lesão aos direitos da personalidade, expressamente tutelados pela Constituição da República, que declara invioláveis a intimidade, a vida privada, a honra e a imagem das pessoas, assegurando indenização pelo dano material ou moral decorrente de sua violação (art. 5º, incisos V e X). Com efeito, o Código Civil confere à imagem e à voz proteção, nos termos do art. 20, permitindo que quem tenha a imagem indevidamente utilizada obtenha a proibição da divulgação e a reparação do dano, sobretudo quando o uso se destina a fins comerciais.

Do ponto de vista criminal, quais condutas podem estar configuradas nesses casos? A legislação brasileira já oferece instrumentos para responsabilizar os autores?

Dependerá muito do caso concreto. Quando a imagem ou a voz clonada serve para obter vantagem econômica indevida, ludibriando a vítima ou terceiros, por exemplo, podemos ter eventual configuração do crime de estelionato (art. 171 do Código Penal), frequentemente na modalidade de fraude eletrônica (art. 171, § 2º-A), com pena majorada. Havendo imputação de fato criminoso, ofensa à reputação ou à dignidade, incidem os crimes contra a honra: calúnia, difamação e injúria (arts. 138 a 140), com causa de aumento quando praticados em rede social.

Vale registrar que a Lei nº 15.123, de 24 de abril de 2025, alterou o art. 147-B do Código Penal para estabelecer causa de aumento de metade da pena no crime de violência psicológica contra a mulher quando praticado mediante uso de inteligência artificial ou de qualquer outro recurso tecnológico que altere a imagem ou o som da vítima, em uma resposta direta ao fenômeno dos deepfakes.

O senhor acredita que o avanço da inteligência artificial exige adaptações na legislação ou o ordenamento jurídico atual já é suficiente para enfrentar esses casos?

O ordenamento atual não é uma folha em branco, isto é, já existem tipos penais e institutos civis plenamente aptos a alcançar boa parte das condutas. Ao mesmo tempo, seria ingênuo afirmar que a moldura vigente é suficiente e definitiva.

A inteligência artificial generativa introduz desafios que a legislação clássica não antecipou: a escala exponencial do número de falsificações, a verossimilhança quase perfeita do conteúdo sintético, a diluição da autoria entre quem treina o modelo, quem o opera e quem o dissemina e a dificuldade probatória de distinguir o real do fabricado.

Fundamental que a legislação acompanhe as inovações tecnológicas, mas é importante evitar açodamentos, com a criação de tipos penais redundantes ou excessivamente abertos. O caminho é o equilíbrio: preservar a inovação, que é legítima e desejável, mas sem descurar da proteção dos direitos fundamentais.

Muitas pessoas compartilham vídeos e imagens manipuladas sem saber que são falsos. Quem apenas compartilha esse material pode sofrer algum tipo de responsabilização?

No campo penal, a regra de ouro é a exigência de dolo, ou seja, da vontade consciente de praticar a conduta. Quem compartilha um conteúdo genuinamente acreditando ser verdadeiro, sem saber de sua falsidade, em princípio não comete crime, pois falta o elemento subjetivo.

A situação muda de figura, porém, quando a pessoa sabe da falsidade e ainda assim a propaga ou quando age com indiferença deliberada diante de sinais evidentes de manipulação. Aí pode responder, inclusive, por crime contra a honra, na condição de quem propala ou divulga a ofensa.

No campo civil, a responsabilização é mais ampla. O Código Civil (arts. 186 e 927) impõe o dever de reparar o dano causado por ato ilícito e o compartilhamento que amplia a lesão à imagem alheia pode, sim, gerar dever de indenizar, especialmente quando houver a falta do cuidado que se deve esperar.

A orientação prática, portanto, é de prudência: antes de compartilhar, verifique a origem e a veracidade do conteúdo. O clique impensado pode ter consequências jurídicas, além de ocasionar um dano social.

Que orientações o senhor daria aos cidadãos para se protegerem do uso indevido de sua imagem, voz e identidade em conteúdos produzidos por inteligência artificial?

No plano preventivo, recomendo cautela com a exposição de imagem e voz nas redes: quanto mais material público disponível, mais insumo existe para a produção de falsificações. Vale revisar as configurações de privacidade dos perfis e desconfiar de solicitações incomuns.

É prudente, ainda, cultivar aquilo que se poderia chamar de ceticismo digital: nem tudo aquilo que lemos, ouvimos ou assistimos na internet é verdadeiro. Antes de acreditar ou compartilhar, convém checar a fonte. A educação digital, aliás, é hoje uma das mais eficazes formas de proteção.

No plano reativo, o cidadão deve saber que não está desamparado. Se for vítima, pode contar com as instituições. É importante documentar o uso indevido, notificar a plataforma e realizar o registro de ocorrência caso haja repercussão penal. Além disso, as portas do Judiciário sempre estão abertas para a tutela dos direitos.
*Entrevista realizada pela assessoria de comunicação do Poder Judiciário do Estado do Rio de Janeiro.