Hoje cedo, Mark Zuckerberg compartilhou uma divagação descrevendo sua visão para construir a AI “Superintelligência”. No memorando, Zuckerberg deu a entender que a busca de IA mais poderosa poderia exigir que a empresa fosse mais seletiva no que ela abre fontes.
Citando “preocupações de segurança” que ele escreveu que Meta precisaria ser “rigoroso” sobre essas decisões. A linha se destacou para muitos como Zuckerberg – que disse uma vez ““Em referência a plataformas fechadas – tornou o código aberto central da estratégia de IA da Meta.
Durante os ganhos do segundo trimestre de Meta, Zuckerberg reconheceu que poderia haver uma mudança, embora ele subestimasse o significado disso. Aqui está o que ele disse quando perguntado se seu pensamento havia mudado.
Não acho que nosso pensamento tenha mudado particularmente nisso. Sempre abrimos alguns de nossos modelos e não abrimos tudo o que fizemos. Então, eu esperaria que continuemos produzindo e compartilhando os principais modelos de código aberto. Eu também acho que existem algumas tendências que estão se desenrolando. Uma é que estamos recebendo modelos tão grandes que eles não são práticos para muitas outras pessoas usarem, por isso meio que lutarmos se é produtivo ou útil compartilhar isso, ou se isso está realmente apenas ajudando principalmente os concorrentes ou algo assim. Então eu acho que existe, existe essa preocupação.
E então, obviamente, ao se aproximar da Superintelligência Real, acho que há um conjunto totalmente diferente de preocupações de segurança que acho que precisamos levar muito a sério, sobre o qual escrevi na minha nota esta manhã. Mas acho que o resultado final é que eu esperaria que continuemos o trabalho de fornecimento aberto. Espero que continuemos sendo um líder lá, e também espero que continuemos a não abrir o código -fonte tudo o que fazemos, o que é uma continuação do tipo do que nós, o que fomos, estamos trabalhando.
Isso é notavelmente diferente do que ele escreveu quase exatamente um ano atrás em um Intitulado “Open código aberto AI é o caminho a seguir”. Nisso, ainda mais, ele disse que o código aberto é crucial para a meta e os desenvolvedores.
“As pessoas costumam perguntar se estou preocupado em desistir de uma vantagem técnica por uma lhama de fonte aberta, mas acho que isso perde o quadro geral”, escreveu ele. “Espero que o desenvolvimento da IA continue muito competitivo, o que significa que o fornecimento aberto qualquer modelo não está dando uma grande vantagem sobre os próximos melhores modelos naquele momento”.
Ele também argumentou que o código aberto é mais seguro. “Há um debate em andamento sobre a segurança dos modelos de IA de código aberto, e minha visão é que a IA de código aberto será mais seguro que as alternativas. Desde que todos tenham acesso a gerações semelhantes de modelos – que o código aberto promove – então governos e instituições com mais recursos de computação poderão verificar os maus atores com menos computação”.
Para ficar claro, Zuckerberg disse que a empresa continuaria a abrir parte de seu trabalho. Mas ele parece estar estabelecendo as bases para um futuro em que a “superinteligência” da Meta poderia ser muito menos aberta.
