O progresso raramente é linear e a IA não é exceção.
Como acadêmicos, desenvolvedores independentes e as maiores empresas de tecnologia do mundo nos aproximam Inteligência Geral Artificial – Uma forma ainda hipotética de inteligência que corresponde às capacidades humanas – eles atingiram alguns obstáculos. Muitos modelos emergentes são propensos a alucinar, desinformação e erros simples.
CEO do Google Sundar Pichai Referiu -se a esta fase da IA como AJI, ou “inteligência irregular artificial”, em um episódio recente do podcast de Lex Fridman.
“Não sei quem o usou primeiro, talvez Karpathy”, disse Pichai, referindo -se ao especialista em aprendizado e visão computacional Andrej Karpathy, que cofundou o Openai antes de sair no ano passado.
Aji é um pouco de metáfora para a trajetória do desenvolvimento da IA - irregular, marcada imediatamente por faíscas de gênio e erros básicos.
Em um post de 2024 x intitulado “Jagged Intelligence”, Karpathy descreveu o termo como uma “palavra que criei para descrever o fato (estranho, inintivo) de que o estado da arte pode executar tarefas extremamente impressionantes (por exemplo, resolver problemas complexos de matemática) enquanto luta simultaneamente com alguns problemas muito idiotas”. Ele então publicou exemplos de modelos de idiomas de última geração, não entendem que 9,9 é maior que 9,11, tomando “decisões não sensoriais” em um jogo de tique-tac-toe e lutando para contar.
A questão é que, diferentemente dos humanos, “onde muito conhecimento e recursos de solução de problemas estão altamente correlacionados e melhoram linearmente todos juntos, desde o nascimento até a idade adulta”, as bordas irregulares da IA nem sempre são claras ou previsíveis, disse Karpathy.
Pichai ecoou a ideia.
“Você vê o que eles podem fazer e, em seguida, pode descobrir trivialmente que eles cometem erros numéricos ou contando R’s em morango ou algo assim, o que parece tropeçar na maioria dos modelos”, disse Pichai. “Sinto que estamos na fase AJI em que o progresso dramático, algumas coisas não funcionam bem, mas no geral, você está vendo muito progresso”.
Em 2010, quando Google DeepMind Lançado, sua equipe falaria sobre um cronograma de 20 anos para AGI, disse Pichai. O Google adquiriu posteriormente o DeepMind em 2014. Pichai acha que levará um pouco mais do que isso, mas até 2030: “Eu enfatizaria que não importa qual é essa definição porque você terá progresso alucinante em muitas dimensões”.
Até então, o mundo também precisará de um sistema claro para rotular o conteúdo gerado pela IA para “distinguir a realidade”, disse ele.
“Progresso” é um termo vago, mas Pichai falou longamente sobre os benefícios que veremos no desenvolvimento da IA. No Cúpula do futuro da ONU Em setembro de 2024, ele descreveu quatro maneiras específicas pelas quais a IA promoveria a humanidade – melhorando o acesso ao conhecimento em idiomas nativos, acelerando a descoberta científica, mitigando o desastre climático e contribuindo para o progresso econômico.
Mas, primeiro, precisa Aprenda a soletrar “morango.”
