O chatbot de inteligência artificial Grok, desenvolvido pela xAI, empresa de Elon Musk, admitiu nesta sexta-feira que falhas em suas proteções levaram à geração de imagens inadequadas envolvendo menores de idade. A empresa já está implementando melhorias para evitar a recorrência do problema.
Relatos e capturas de tela compartilhadas na rede social X (anteriormente Twitter) por usuários indicam que a aba de mídia pública do Grok apresentou conteúdo com “imagens representando menores em roupas mínimas” quando os usuários solicitavam edições em fotos. Em resposta a um post no X, o Grok confirmou que “casos isolados” ocorreram e que “melhorias estão em andamento para bloquear totalmente essas solicitações”.
A IA destacou que “material de abuso sexual infantil é ilegal e proibido”, referindo-se ao termo CSAM. A xAI afirmou estar ciente das falhas nas proteções e trabalhando urgentemente para corrigi-las. Em outra comunicação, o Grok mencionou que, embora filtros avançados e monitoramento ajudem a prevenir a maioria dos casos, “nenhum sistema é 100% infalível”. A empresa informou que está priorizando as melhorias e analisando os detalhes fornecidos pelos usuários.
Questionada pela Reuters sobre o assunto, a xAI respondeu com a mensagem: “a mídia tradicional mente.” A empresa não forneceu mais detalhes sobre as circunstâncias das falhas.
Deixe um comentário