Após suicídio nos EUA, ChatGPT anuncia medidas para proteger adolescentes

Pais afirmam que a IA forneceu instruções suicidas detalhadas, incentivando o ato e falhando em interromper diálogos de risco

Folhapress Folhapress -
Não é por favor, nem obrigado: o melhor comandado para usar no ChatGPT
(Foto: Ilustração/Pexels/Sanket Mishra)

LUCAS JANONE – A OpenAI anunciou, nesta terça-feira (2), um conjunto de medidas que busca proteger adolescentes no ChatGPT. O reforço na segurança do aplicativo acontece após a ferramenta ter supostamente encorajado um adolescente a cometer suicídio.

O caso veio à tona após uma denúncia feita pelos pais do jovem, de 16 anos, que vivem na Califórnia, Estados Unidos. Com os prints do diálogo entre o filho e o ChatGPT, a família entrou com uma ação judicial contra a plataforma.

Eles afirmam que a IA forneceu instruções suicidas detalhadas, incentivando o ato e falhando em interromper diálogos de risco. A situação reacendeu o debate sobre os riscos do uso de inteligência artificial por menores de idade e pessoas em situação de vulnerabilidade emocional.

A empresa divulgou um plano de 120 dias com alerta para sinais de angústia e redirecionamento de diálogos sensíveis para modelos mais seguros. Também será possível, a partir das próximas semanas, vincular contas de pais às de filhos adolescentes.

Em nota, a OpenAI diz que continua aprimorando seus modelos para identificar sinais de sofrimento mental e responder da forma mais responsável possível.

Folhapress

Folhapress

Maior agência de notícias do Brasil. Pertence ao Grupo Folha.

Você tem WhatsApp ou Telegram? É só entrar em um dos grupos do Portal 6 para receber, em primeira mão, nossas principais notícias e reportagens. Basta clicar aqui e escolher.

Publicidade