AI ‘padrinho’ Geoffrey Hinton alerta sobre armadilhas ao deixar o Google

Um homem amplamente considerado o pai da inteligência artificial (IA) deixou o emprego, alertando para os perigos representados pelos desenvolvimentos no campo.

Jeffrey Hinton, 75, anunciou sua demissão do Google em um comunicado ao New York Times, dizendo que agora se arrepende de seu trabalho.

Ele disse à BBC que alguns dos riscos dos chatbots de IA são “muito assustadores”.

“No momento, eles não são mais espertos do que nós, pelo que sei. Mas acho que podem ser em breve.”

A pesquisa pioneira do Dr. Hinton sobre aprendizagem profunda e redes neurais abriu o caminho para os atuais sistemas de IA como o ChatGPT.

Mas o psicólogo cognitivo e cientista da computação anglo-canadense disse à BBC que os chatbots poderão em breve ultrapassar as informações mantidas pelo cérebro humano.

“O que vemos agora é que coisas como o GPT-4 eclipsam o nível de bom senso de uma pessoa e a escondem por muito tempo. Em termos de raciocínio, não é tão bom, mas já é. Raciocínio simples.

“E, dada a taxa de progresso, esperamos que as coisas melhorem muito rapidamente. Portanto, devemos nos preocupar com isso.”

No artigo do New York Times, o Dr. Hinton se referiu a “maus atores” tentando usar IA para “más ações”.

Quando questionado pela BBC para elaborar, ele respondeu: “É uma espécie de cenário de pior caso, uma espécie de cenário de pesadelo.

“Por exemplo, você pode imaginar alguns atores ruins [Russian President Vladimir] Putin decidiu dar aos robôs a capacidade de criar seus próprios sub-alvos.”

Isso pode eventualmente criar “subobjetivos como ‘eu quero ter mais poder'”, alertou o cientista.

Ele acrescentou: “Cheguei à conclusão de que a inteligência que estamos desenvolvendo é muito diferente da inteligência que temos.

“Nós somos sistemas biológicos e estes são sistemas digitais. E a grande diferença é que com os sistemas digitais, existem várias cópias do mesmo peso, do mesmo modelo do mundo.

“E todas essas réplicas podem aprender individualmente, mas compartilham seu conhecimento instantaneamente. Portanto, é como se você tivesse 10.000 pessoas e, sempre que alguém aprende algo, todos sabem automaticamente. E esses chatbots podem aprender mais do que qualquer pessoa.”

O Dr. Hinton também disse que havia outras razões para deixar o emprego.

“Um, tenho 75 anos. Então é hora de me aposentar. E o outro é, quero dizer algumas coisas boas sobre o Google. E se eu não trabalhasse no Google, eles teriam mais credibilidade.”

Ele não quis criticar o Google, insistindo que a gigante da tecnologia era “muito responsável”.

Jeff Dean, cientista-chefe do Google, disse em um comunicado: “Estamos comprometidos com uma abordagem responsável da IA. Continuamos a aprender a entender os riscos emergentes enquanto inovamos com ousadia”.