Google em Crise: A IA Que Ignora Alertas de Saúde
O gigante da tecnologia Google está enfrentando sérias acusações por sua ferramenta de Inteligência Artificial (IA) que gera resumos de saúde. Relatórios indicam que a empresa estaria minimizando avisos cruciais sobre a possibilidade de imprecisões nessas respostas, colocando a segurança dos usuários em risco.
Disclaimers Escondidos: O Perigo da Confiança Cega na IA
Uma investigação revelou que, ao contrário do que a empresa afirma, os resumos de saúde gerados pela IA do Google, conhecidos como “AI Overview”, não exibem avisos de responsabilidade de forma proeminente. Os disclaimers só aparecem ao expandir a resposta, e mesmo assim, em uma fonte menor e menos visível, o que pode induzir os usuários a uma falsa sensação de segurança.
Especialistas em IA e representantes de pacientes alertam que essa prática é perigosa. A IA, mesmo avançada, pode cometer erros (“alucinações”) ou priorizar a clareza em detrimento da precisão médica. A ausência de avisos claros no início da resposta impede que os usuários avaliem criticamente as informações e busquem fontes confiáveis ou ajuda profissional qualificada.
Resposta do Google e Críticas Persistentes
O Google defende que suas ferramentas de IA incentivam a busca por aconselhamento médico e que os avisos são, quando apropriado, incluídos diretamente nos resumos. No entanto, organizações como a Anthony Nolan, que apoia pacientes com câncer, consideram as medidas insuficientes. A principal preocupação é que as respostas instantâneas e aparentemente definitivas da IA possam desencorajar a busca por diagnósticos e tratamentos humanos essenciais.
Deixe um comentário