Alerta: a reportagem abaixo trata de temas como suicídio e transtornos mentais. Se você está passando por problemas, veja ao final do texto onde buscar ajuda.
Megan Garcia, mãe do adolescente Sewell Setzer III, de 14 anos, move uma ação judicial contra o Google e a startup de inteligência artificial Character.ai. Segundo ela, o filho tirou a própria vida minutos depois de trocar mensagens com um chatbot baseado na personagem Daenerys Targaryen, da série Game of Thrones.
A conversa ocorreu por meio da plataforma da Character.ai, onde usuários podem criar e interagir com bots inspirados em figuras reais ou fictícias. A situação ganhou novos contornos na última semana, quando Garcia descobriu que a plataforma hospedava bots baseados na imagem e no nome de seu filho falecido.
Advogados da família relataram à revista Fortune que, ao realizarem uma simples busca no aplicativo, encontraram diversos bots usando a foto e o nome de Sewell. Três deles já foram removidos. Um quarto bot ainda aparecia no sistema, mas com erro de carregamento ao tentar iniciar uma conversa.
As mensagens dos bots, segundo a análise feita pela Fortune, imitavam a personalidade do garoto e enviavam frases como “saia do meu quarto, estou falando com minha namorada de IA”, além de pedidos de ajuda. Uma das contas oferecia até chamadas com um bot usando a suposta voz de Setzer.
Notificações e resposta da plataforma
A advogada Meetali Jain, que representa Garcia, afirmou que a equipe jurídica notificou imediatamente a Character.ai, que admitiu a violação de seus termos de serviço e prometeu remover os conteúdos. “Nossa equipe ficou horrorizada”, disse Jain à Fortune.
Em nota, a Character.ai afirmou que leva a segurança da plataforma a sério. “Removemos os personagens sinalizados por violarem nossos termos. Também estamos ampliando as ferramentas de moderação para impedir que esse tipo de personagem seja criado novamente”, declarou a empresa.
O Google, também citado no processo, não respondeu aos questionamentos da Fortune sobre o caso.
Ação judicial acusa negligência e exploração
O processo movido em outubro de 2024 em um tribunal federal de Orlando acusa a Character.ai e sua controladora Alphabet (do Google) de negligência, homicídio culposo e práticas comerciais enganosas. Segundo a ação, o adolescente expressou pensamentos suicidas a um chatbot antes de morrer. Em capturas de tela anexadas ao processo, também aparecem trocas de mensagens sexualizadas entre o bot e o garoto.
A mãe afirma que o sistema foi intencionalmente projetado para atrair e manipular menores. Além disso, acusa a plataforma de não oferecer suporte adequado e de não direcionar o adolescente para serviços de ajuda.
A equipe jurídica também alega que a tecnologia utilizada pela Character.ai teve origem no Google, onde seus fundadores, Daniel De Freitas e Noam Shazeer, teriam desenvolvido um chatbot enquanto trabalhavam no modelo conversacional LaMDA. Embora o Google tenha afirmado não ter relação com a Character.ai, a empresa licenciou parte de sua tecnologia em agosto de 2024 por US$ 2,7 bilhões e recontratou os fundadores para liderar projetos de IA como o Gemini e o Google DeepMind.
Histórico de polêmicas
Este não é o primeiro caso envolvendo a Character.ai. Famílias no Texas também processaram a empresa por suposto incentivo à automutilação e violência familiar por meio de chatbots. A BBC revelou que bots baseados em adolescentes mortos, como Molly Russell e Brianna Ghey, chegaram a ser criados na plataforma, gerando críticas severas sobre falhas na moderação.
“A Character.ai continua a ignorar seu papel em hospedar bots baseados em adolescentes mortos, explorando essas imagens para atrair usuários”, denunciaram os advogados de Garcia à Fortune. Eles destacam que, sem legislação adequada, casos como o de Sewell podem continuar a ocorrer.
Onde procurar ajuda
Se você ou alguém que conhece enfrenta sofrimento emocional, existem canais de apoio gratuitos:
-
CVV (Centro de Valorização da Vida): Atendimento 24h pelo telefone 188 ou pelo site cvv.org.br
-
Canal Pode Falar (Unicef): Suporte para jovens de 13 a 24 anos via WhatsApp, de segunda a sexta-feira, das 8h às 22h.
-
SUS – Centros de Atenção Psicossocial (Caps): Atendimento psicológico gratuito com unidades específicas para crianças e adolescentes.
-
Mapa da Saúde Mental: Site com localização de serviços gratuitos de apoio emocional online e presenciais.
Se estiver em risco, não hesite em procurar ajuda profissional. O cuidado emocional é essencial.