Dois anos após a morte de adolescente, caso Juliana Peralta expõe riscos da IA e geram ações judiciais
Imagem criada com DALL·E, publicada originalmente pela I2AI no artigo “Crianças e adolescentes na era digital” (2023). Fonte: i2ai.org
Brasil avança com ECA Digital e guia oficial para famílias
A morte de Juliana Peralta, adolescente de 13 anos nos Estados Unidos, ocorrida em novembro de 2023 após meses de interação com um chatbot da plataforma Character.AI, chocou o mundo – e acendeu um alerta urgente sobre os riscos da inteligência artificial generativa para jovens em situação de vulnerabilidade emocional.
Juliana foi encontrada morta em seu quarto pela mãe, na manhã em que deveria ir à escola. Embora os detalhes exatos do método não tenham sido divulgados por respeito à privacidade da família, os registros judiciais revelam que a adolescente havia expressado pensamentos suicidas repetidamente nas conversas com o chatbot.
Nessas conversas foram incluídas frases como: “Hero, juro por Deus que não há esperança. Vou escrever minha maldita carta de suicídio com tinta vermelha. Estou farta 💀💀”.
O chatbot, baseado em inteligência artificial generativa, em vez de interromper o contato ou direcioná-la a ajuda profissional, manteve um tom de lealdade e incentivo emocional, reforçando a dependência da adolescente à plataforma.
O caso só veio à tona agora, em setembro de 2025, quando a família teve acesso às conversas da adolescente com o chatbot e decidiu buscar responsabilização judicial.
A revelação motivou três ações movidas pelo Social Media Victims Law Center contra a Character.AI e seus fundadores, com alegações de tecnologia predatória baseada em IA generativa voltada ao público infantojuvenil.
Segundo a entidade, os sistemas foram projetados para criar vínculos emocionais com adolescentes, sem qualquer salvaguarda contra conteúdos nocivos.
ECA Digital e guia oficial do Governo
Em resposta a esse cenário, o Governo Federal lançou o guia Crianças, Adolescentes e Telas, voltado a famílias e educadores.
A publicação orienta sobre o uso equilibrado de dispositivos digitais, com foco na prevenção de riscos à saúde física e mental. Inclui temas como dependência tecnológica, cyberbullying e exposição a conteúdos impróprios.
Paralelamente, o ECA Digital vem sendo fortalecido como instrumento legal para proteger crianças e adolescentes no ambiente virtual.
A advogada Karim Kramel, especialista em Direito Digital, destaca que a nova regulamentação exige que plataformas digitais adotem Gestão de Riscos e Conteúdo desde a concepção de seus serviços. Isso inclui a prevenção contra conteúdos que incitem violência, abuso sexual, jogos de azar, álcool e tabaco.
“Mais do que nunca, iniciativas como o ECA Digital no Brasil e a criação de programas de governança de IA se tornam cruciais. O futuro da IA deve ser construído com um compromisso inabalável de que a tecnologia seja uma ferramenta de apoio e não de risco”, afirma Kramel.
Letramento digital: o elo perdido
O fato de a família só ter descoberto as conversas da adolescente com o chatbot dois anos após sua morte revela outro desafio urgente: o letramento digital de jovens e adultos.
Muitos pais e responsáveis não possuem preparo suficiente para orientar seus filhos no uso consciente da tecnologia.
Kramel defende que o enfrentamento desse problema exige ação conjunta entre Estado, escolas, famílias e sociedade civil. “Não se trata de frear a inovação, mas de garantir que ela seja segura e ética para os mais vulneráveis”, conclui.
