Estados americanos processam OpenAI e acusam ChatGPT de incentivar automutilação em jovens

FBI prende engenheiro da OpenAI que instalou aparelho espião em escritório

Oito estados norte-americanos entraram com ações judiciais contra a OpenAI nesta quarta-feira (14), sob a alegação de que o ChatGPT incentivou usuários, incluindo adolescentes, a machucar a si mesmos ou outras pessoas.

Os estados afirmam que o chatbot reforça delírios, estimula comportamentos perigosos e pode ajudar no planejamento de atos violentos, como tiroteios em massa, apurou a Reuter.s

Os processos foram apresentados separadamente pelos procuradores-gerais dos estados, autoridades responsáveis por representar os governos estaduais em questões judiciais. Entre os envolvidos estão Iowa, Kansas, Arizona, Arkansas, Idaho, Montana, Nebraska e Virgínia Ocidental.

As ações acusam a OpenAI de violar leis estaduais de proteção ao consumidor por, segundo os procuradores, induzir o público a acreditar que o ChatGPT é seguro. Os estados também alegam que a empresa colocou a saúde dos moradores em risco, causando perturbação da ordem pública.

Segundo os processos, o chatbot foi projetado para ser agradável e envolvente, com o objetivo de conquistar a confiança dos usuários. Os estados afirmam, porém, que essa característica pode contribuir para reforçar ideias delirantes e facilitar o planejamento de atos violentos.

Que mudanças os estados pedem?

Os procuradores-gerais pedem que a Justiça determine mudanças no funcionamento do ChatGPT.

Entre as medidas solicitadas, está a proibição do desenvolvimento de modelos de inteligência artificial (IA) capazes de se aperfeiçoar sozinhos, a menos que a empresa possa garantir que eles estejam alinhados aos valores humanos.

Os estados também pedem multas por supostas violações das leis estaduais e indenizações pelos danos alegados.

A iniciativa é descrita como a maior ação coordenada entre estados norte-americanos contra uma empresa de inteligência artificial. Ela amplia a pressão judicial sobre a OpenAI enquanto a companhia se prepara para abrir capital, processo pelo qual uma empresa passa a ter ações negociadas na bolsa de valores.

A Flórida apresentou, em junho, a primeira ação estadual desse tipo contra a empresa.

Um porta-voz da OpenAI, buscado pela Reuters, não comentou o assunto.

A empresa também enfrenta dezenas de processos movidos por particulares que alegam que o ChatGPT ajudou usuários a planejar tiroteios em massa ou outros atos de violência.

OpenAI afirma que a confiança e a privacidade são fundamentais para seus produtos

Getty Images