O cenário atual da IA pode ser rastreado até – você sabe o quê – medo, ciúme e ambição capitalista extrema. Os e-mails foram revelados pela primeira vez no caso antitruste do Departamento de Justiça contra o Google relatado Por Insider de negócios, mostram executivos da Microsoft expressando cautela e inveja da liderança de IA do Google. Isso desencadeou uma corrida que levou ao investimento inicial de um bilhão de dólares da fabricante do Windows em seu agora inevitável parceiro, OpenAI.
Em uma série de e-mails de 2019 fortemente editada intitulada “Reflexões sobre OpenAI”, o CEO da Microsoft, Satya Nadella, enviou uma longa mensagem do CTO Kevin Scott para a CFO Amy Hood. “Eu adoraria receber um bom e-mail explicando por que estamos fazendo isso… e por que garantiremos que nossos profissionais de infraestrutura sejam implementados”, escreveu Nadella.
Scott escreveu que estava “muito, muito preocupado” com o rápido crescimento das capacidades de IA do Google. Ele diz que inicialmente rejeitou as “acrobacias de jogo” da empresa, referindo-se aos modelos AlphaGo do Google. Um deles derrotou o campeão mundial de Go, Ke Jie, em 2017, um feito notável na época. (Os modelos posteriores do Google renunciam totalmente à necessidade de treinamento humano.)
Mas Scott diz que ignorar o progresso do Google nos jogos foi “um erro”. “Quando eles pegaram toda a infraestrutura que construíram [natural language] Modelos que não podíamos replicar facilmente, comecei a levar as coisas mais a sério”, escreveu Scott. “E quando comecei a entender onde estavam todas as lacunas de habilidades entre o Google e nós para o treinamento de modelos, fiquei realmente preocupado.”
Scott descreve como a Microsoft lutou para copiar o BERT-Large do Google, um modelo de IA que entende o significado e o contexto das palavras em uma frase. Scott culpou os saltos de infraestrutura feitos por seu rival – e a Microsoft não.
“Replicar o BERT-grande não foi fácil para nós. Embora tivéssemos o modelo para o modelo, demoramos cerca de 6 meses para treinar o modelo porque nossa infraestrutura não estava à altura da tarefa”, escreveu o CTO da Microsoft, o Google tinha pelo menos o BERT. seis meses antes disso, tivemos a capacidade de treinar um modelo de parâmetros de 340M. No tempo que levou para ser montado, eles tiveram um ano para descobrir como colocá-lo em produção e avançar com modelos grandes e muito interessantes.”
Ele admirou e invejou os recursos de preenchimento automático do Gmail do Google, dizendo que era “terrível”. Ele opinou que a Microsoft estava anos atrás da concorrência [machine learning] Escala.” Ele comentou sobre o desenvolvimento “interessante” do OpenAI, DeepMind e Google Brain.
Scott destacou as pessoas “muito inteligentes” da Microsoft em suas equipes de aprendizado de máquina, mas disse que suas ambições eram restritas. “Mas as principais equipes de aprendizagem profunda dentro de cada um desses grandes grupos são muito pequenas e suas ambições são limitadas, o que significa que mesmo que comecemos a alimentá-los com recursos, eles ainda terão que passar por um processo de aprendizagem”, escreveu Scott. em termos de escala de ML, estamos anos atrás da concorrência.
Depois que as preocupações de Scott levaram Hood a perguntar “por que deveríamos fazer isso”, ou seja, investir na OpenAI, a empresa atendeu aos desejos de seu CEO. A Microsoft investiu um bilhão de dólares na startup liderada por Sam Altman em 2019, e o resto está mudando rapidamente a história. (Agora foram investidos 13 mil milhões de dólares.) É uma tecnologia que faz coisas incríveis, mas que ameaça encolher o mercado de trabalho e dá aos ativistas as suas ferramentas mais poderosas.
“Entusiasta orgulhoso da web. Fanático por viagens. Amante da Internet. Ninja do café. Criador premiado.”