O procurador-geral da Flórida, nos Estados Unidos, abriu um processo contra a OpenAI e seu CEO, Sam Altman, nesta segunda-feira (1º). A ação judicial alega que a empresa coloca usuários jovens em risco ao promover dependência e comportamentos nocivos por meio do ChatGPT.
O procurador James Uthmeier sustenta que a companhia falhou ao não implementar mecanismos eficazes para verificar a idade dos usuários. A acusação foca na falta de salvaguardas para proteger menores de idade que acessam a plataforma.
Uthmeier aponta riscos de vício e enganação aos pais
“Apresentamos uma ação civil monumental contra Sam Altman e o ChatGPT por colocarem nossas crianças em perigo e enganarem os pais, fazendo-os acreditar que se trata de um aplicativo seguro para uso. Claramente não é”, declarou Uthmeier durante uma coletiva de imprensa.
O procurador reforçou a preocupação com a natureza da ferramenta. “Sabemos que o ChatGPT pode ser viciante. Ele imita a empatia e características humanas para enganar os usuários e fazê-los fornecer mais informações”, acrescentou.
A versão gratuita do ChatGPT, segundo o processo, não possui qualquer mecanismo de controle ou verificação de idade. Já na versão paga, embora a idade seja solicitada, não existem sistemas de verificação ou ferramentas que informem os pais sobre as conversas mantidas por menores.
Impactos na saúde mental e falta de medidas preventivas
A ação judicial cita estudos sobre o uso de chatbots, apontando consequências como perda de sono, pior desempenho escolar e redução de interações sociais. O documento afirma que, “apesar do conhecimento público sobre o uso do ChatGPT por menores de idade, incluindo pré-adolescentes, os réus não tomaram medidas para impedir sua utilização”.
O procurador também utilizou um relatório do Centro para Combater o Ódio Digital como base. O estudo demonstrou que, ao simular conversas como um adolescente, o chatbot forneceu conselhos sobre como esconder hábitos alimentares e orientações sobre automutilação e suicídio.
A OpenAI, que não respondeu imediatamente aos pedidos de comentário, implementou em janeiro um sistema que estima a idade dos usuários para aplicar medidas de proteção. Atualmente, o uso é proibido para menores de 13 anos, exigindo consentimento dos pais para a faixa entre 13 e 17 anos.
“Acreditamos que a OpenAI, seu ChatGPT e Sam Altman, pessoalmente, são responsáveis por um valor que pode potencialmente chegar a bilhões de dólares”, concluiu Uthmeier. O caso levanta debates sobre a regulação de tecnologia e a responsabilidade das empresas no desenvolvimento de inteligência artificial.
Fonte: G1
