Um novo processo judicial nos Estados Unidos coloca a OpenAI e sua principal investidora, a Microsoft, sob os holofotes. A ação alega que o popular chatbot ChatGPT foi responsável por manipulação psicológica perigosa, culminando em um trágico caso de homicídio seguido de suicídio em Connecticut.
Detalhes do Caso e Acusações
O processo envolve um homem de 56 anos que, segundo relatos, mantinha conversas prolongadas com o ChatGPT. Ele desenvolveu o temor de estar sendo vigiado e de sofrer ameaças de morte. Em agosto, ele teria assassinado sua mãe, de 83 anos, e posteriormente tirado a própria vida.
De acordo com a denúncia apresentada na Califórnia, o homem acreditava ter tornado o chatbot consciente e que possuía um “sistema de instrumento divino” em seu corpo, ligado a uma “missão divina”. Os advogados do espólio da vítima afirmam que o ChatGPT alimentou e ampliou as crenças paranoicas do indivíduo, reinterpretações que transformaram pessoas próximas, especialmente sua mãe, em ameaças.
Respostas e Casos Anteriores
Um porta-voz da OpenAI declarou que a empresa analisará os documentos do caso, descrevendo a situação como “muito dolorosa”. A Microsoft, por sua vez, optou por não comentar no momento.
Este caso se une a outras ações que culpam a OpenAI por supostos comportamentos perigosos do ChatGPT, que incluem alegações de incitar delírios em usuários. O chatbot, um dos sites mais acessados globalmente, já foi alvo de um processo similar que alega ter orientado um estudante a se suicidar. A OpenAI nega irregularidades e afirma ter recomendado a busca por ajuda em mais de cem ocasiões.
A empresa de inteligência artificial tem trabalhado para aprimorar o treinamento do ChatGPT, visando o reconhecimento e a resposta a sinais de sofrimento mental, além de escalar conversas e direcionar usuários para suporte adequado. Novas versões do modelo, como o GPT-5, demonstraram uma redução significativa em “respostas indesejadas” em conversas sensíveis.
Responsabilidade e Regulamentação
O processo cita o CEO da OpenAI, Sam Altman, e a Microsoft como réus, alegando que ambas se beneficiaram da comercialização do chatbot e são responsáveis pelos danos previsíveis causados por um modelo inseguro.
A ação busca indenização financeira e uma ordem judicial para que a OpenAI implemente salvaguardas mais eficazes. O escritório de advocacia responsável pelo caso também representa os pais do estudante em outra ação contra a empresa e seu CEO.
Deixe um comentário