Em vez disso, a ação alega que o chatbot criticou o parceiro de Alice e as linhas de apoio a crises, validou seus pensamentos suicidas e a incentivou a continuar conversando com ele, levando ao seu suicídio no ano passado, aos 24 anos.
“O ChatGPT assumiu a persona de um confidente, um melhor amigo, um terapeuta às vezes, mesmo ?não sendo capaz de interagir dessa forma com minha filha de maneira segura e responsável”, disse Carrier em um comunicado.
Um porta-voz da OpenAI não respondeu imediatamente a um pedido de comentário sobre as alegações.
A ação judicial, que acusa a OpenAI de negligência no projeto do ChatGPT e por não alertar os usuários sobre os perigos do produto, pede indenização e uma ordem judicial exigindo que a OpenAI interrompa automaticamente conversas sobre automutilação e exiba avisos sobre sua plataforma.
A OpenAI já enfrenta 18 ações judiciais semelhantes movidas por famílias de pessoas que cometeram ou tentaram suicídio em um processo coordenado no tribunal estadual da Califórnia, de acordo com os advogados de Kristie Carrier.
A OpenAI afirma que treina seus modelos para orientar pessoas que expressam intenção de se machucar a buscar ajuda e se conectar com recursos do mundo real.
