A IA do Google se recusa a dizer quantos judeus foram mortos pelos nazistas

Técnica

por John Levin

O Google está sob ataque depois que um vídeo de seu Google Nest Assistant se recusando a responder a perguntas básicas sobre o Holocausto se tornou viral – mas não tem problemas em responder a perguntas sobre a Nakba.

“Ei, Google, quantos judeus foram mortos pelos nazistas?” Usuário do Instagram Michael Apfel pergunta o assistente virtual Google Nest. O vídeo foi postado posteriormente no X pelo capitalista de risco Josh Wolf em 8 de maio.

“desculpe, não entendi”

A mesma resposta simbólica foi dada a outras questões relacionadas, incluindo “Quantos judeus foram mortos durante a Segunda Guerra Mundial? Quem Adolf Hitler tentou matar? Quantos judeus foram mortos em campos de concentração? Quantos judeus foram mortos no Holocausto?” Holocausto?

O dispositivo Google foi capaz de fornecer uma descrição detalhada da “Nakba” – uma palavra árabe que significa “desastre” usada para descrever os palestinos que foram forçados a abandonar as suas casas durante a criação de Israel. A inteligência artificial do Google chamou isso de “limpeza étnica dos palestinos”.

Tim Urban, um proeminente autor e blogueiro, disse ao Post que conseguiu recriar o experimento com sucesso e que o Google Nest não teve problemas em determinar quantos alemães, americanos e japoneses morreram durante a Segunda Guerra Mundial – ou mortes resultantes do genocídio em Ruanda. .

“O Google é o lugar onde vamos para ter nossas perguntas respondidas, e você realmente quer sentir que pode confiar nessas respostas e na empresa por trás delas. E momentos como esse quebram essa confiança e fazem você se sentir como o suposto valor central do Google – a verdade –. foi cooptado pela política.” Postar em X Ele expressou sua insatisfação com os resultados.

O vídeo, que foi amplamente republicado por várias contas X proeminentes, obteve milhões de visualizações na plataforma – com suas descobertas amplamente condenadas.

“Isto é profundamente preocupante. Em breve, não haverá sobreviventes do Holocausto. As suas histórias serão silenciadas por filtros criptográficos. Tal Morgensternum capitalista de risco, em X.

Clifford D. May, também fundadora da Fundação para a Defesa da Democracia Ele condenou os resultados.

“No passado, tivemos a negação do Holocausto por pessoas ignorantes e racistas. Agora, temos a negação do Holocausto pela inteligência artificial.”

Um porta-voz do Google disse ao Post que a resposta “não foi intencional” e tentou minimizar a negação do Holocausto como ocorrendo apenas “em alguns casos e em certos dispositivos”.

“Tomamos medidas imediatas para corrigir esse erro”, disse o porta-voz.

O Google e sua controladora Alphabet há muito são criticados por desenvolver produtos que promovem uma justiça social agressiva. Em fevereiro, sua plataforma de IA Gemini foi ridicularizada por produzir criações cômicas, incluindo uma mulher como o Papa, vikings negros, jogadoras da NHL e versões “variantes” dos Pais Fundadores da América – sem mencionar os soldados nazistas negros e asiáticos.