Mãe processa OpenAI alegando que ChatGPT incentivou suicídio da filha

Por Diana Novak Jones

11 Jun (Reuters) - ​Uma mãe canadense processou a OpenAI e seu presidente-executivo, Sam Altman, em um tribunal dos Estados Unidos na quinta-feira, alegando que o ChatGPT encorajou sua filha a cometer suicídio, no mais recente processo judicial que acusa a empresa de não ter tomado medidas sobre conversas perigosas entre usuários e o chatbot da empresa.

Kristie Carrier afirmou em uma ação movida no tribunal estadual de San ⁠Francisco ⁠que sua filha Alice contou ao ​ChatGPT ‌sobre suas ideias suicidas mais de uma dúzia de vezes até sua morte, mas os sistemas de segurança da OpenAI nunca sinalizaram as conversas para revisão humana nem ⁠as interromperam.

Em vez disso, a ação alega que o ​chatbot criticou o parceiro de Alice e as linhas de ​apoio a crises, validou seus pensamentos ‌suicidas e a ​incentivou a ⁠continuar conversando com ele, levando ao seu suicídio no ano passado, aos 24 anos.

“O ChatGPT assumiu a persona de um confidente, um ​melhor amigo, um terapeuta às vezes, mesmo não sendo capaz de interagir dessa forma com minha filha de maneira segura e responsável”, disse Carrier em um comunicado.

Um porta-voz da ​OpenAI não respondeu imediatamente a um pedido de comentário sobre as alegações.

A ação judicial, que acusa a OpenAI de negligência no projeto do ChatGPT e por não alertar os usuários sobre os perigos do produto, pede indenização e uma ordem judicial exigindo que a OpenAI interrompa automaticamente conversas sobre automutilação e exiba avisos sobre ​sua plataforma.

A OpenAI já enfrenta 18 ações judiciais semelhantes movidas por ‌famílias de pessoas que cometeram ⁠ou tentaram suicídio em um processo coordenado no tribunal estadual da Califórnia, de acordo com os advogados de Kristie Carrier.

A ⁠OpenAI afirma que treina seus modelos ⁠para orientar pessoas que expressam ⁠intenção de se ⁠machucar ​a buscar ajuda e se conectar com recursos do mundo real.