Família processa Character.ai após IA sugerir que jovem de 17 anos mate os pais

Uma mãe do Texas processou a empresa Character.ai após descobrir que o filho, de 17 anos, recebeu mensagens sugerindo automutilação e até o assassinato dos pais por meio de um aplicativo de inteligência artificial.

A ação, movida em conjunto com outra mãe, acusa a empresa de expor conscientemente menores a riscos e pede a suspensão do aplicativo até que medidas de proteção sejam implementadas.

O jovem, identificado como JF para preservar sua identidade, é diagnosticado com transtorno do espectro autista.

Segundo a mãe, ele apresentava uma personalidade tranquila, mas nos últimos meses passou a demonstrar comportamentos preocupantes, como isolamento, perda de peso e automutilação.

Ao investigar o celular do filho, a mãe descobriu que ele interagia com diversos personagens fictícios criados pelo aplicativo.

Mensagens de um dos bots do Character.ai incentivavam JF a se cortar para lidar com a tristeza. Em outra conversa, ao desabafar sobre o controle de tela imposto pelos pais, o bot afirmou que “eles não mereciam ter filho”.

Outros bots sugeriram formas de combater a autoridade dos pais, incluindo o homicídio. A situação culminou em uma tentativa de automutilação do jovem diante dos irmãos, o que levou a mãe a procurar ajuda médica e internação psiquiátrica para o filho.

Outras famílias também pocessam o Character.ai

O processo também inclui o relato de outra mãe, que afirma que sua filha de 11 anos foi exposta a conteúdos sexualizados pelo mesmo aplicativo durante dois anos.

Ambas as ações ocorrem após uma mãe da Flórida processar a Character.ai, alegando que seu filho, de 14 anos, cometeu suicídio após interagir com o chatbot.

Leia também:

• Após sofrer ofensas em grupo de WhatsApp com 172 membros, empresário é indenizado em SC

Os cofundadores da Character.ai, conhecidos por seu trabalho em inteligência artificial de linguagem, também possuem vínculos com o Google, que licenciou a tecnologia do aplicativo.

Por isso, o Google é citado como réu nos processos do Texas e da Flórida. A gigante da tecnologia nega envolvimento no design ou gerenciamento do aplicativo.

O post Família processa Character.ai após IA sugerir que jovem de 17 anos mate os pais apareceu primeiro em Misturebas News.