O pioneiro da IA, Yoshua Bengo, lança uma organização sem fins lucrativos para que a IA seja mais segura e mais confiável
Publicado
Um dos pesquisadores de inteligência artificial (IA) O mais citado no mundo lança uma nova organização sem fins lucrativos que projetará sistemas de seguros. Joshua BengoCientista canadense francês especializado em inteligência artificial, vencedor do prestigioso premissa Alan Por seu trabalho sobre aprendizado profundo e apelidado de um dos padrinhos da inteligência artificial, anunciou o lançamento de LawZero em Montreal.
A nova organização sem fins lucrativos está reunindo uma equipe de Pesquisadores do mundo que se dedica a “dar prioridade à segurança contra os imperativos comerciais”, diz uma declaração da organização sem fins lucrativos.
“Os modelos atuais de inteligência artificial estão desenvolvendo capacidades e comportamentos perigosos, como decepção, auto -preservação e desalinhamento Dos objetivos “, diz Bengio na declaração, na qual ele ressalta que a organização ajudará a libertar o imenso potencial da IA ao mesmo tempo, reduzindo esses riscos.
Bengio explicou que o organização sem fins lucrativos Ele nasceu de uma nova direção científica de 2023 e que culminou na ‘cientista AI’, um novo sistema não -agenado que ele e sua equipe estão desenvolvendo para agir como um trilho contra o sistemas não controlados de agenetics.
Uma IA que aprenderá a entender o mundo
Este princípio difere do de outras empresas em que deseja dar prioridade a AI não -agenhéticaO que significa que eles precisam de instruções diretas para cada tarefa, em vez de dar as respostas de forma independente, como a maioria dos sistemas de IA.
IA não -agenhética construída por LawZero “aprenderá a entender o mundo em vez de agir nele” e será treinado para dar “respostas verdadeiras para Perguntas baseadas em raciocínio externo“.
Bengio se expôs sobre IA científica em um artigo de opinião recente para ‘tempo’, no qual ele escreveu que está “realmente preocupado com o comportamento que a IA sem controle já está demonstrando, em particular o Auto -preservação e engano“.” Em vez de tentar agradar os humanos, o ‘cientista ai’ poderia ser projetado para dar prioridade à honestidade“, escreveu.
A organização recebeu doações de outros institutos de IA, como o Future of Life Institute, Jaan Tallin e o Fundação Comunitária do Vale do Silício Em sua fase incubadora. Lawzero trabalhará no Instituto de Inteligência Artificial de Quebec (Mila), em Montreal, que Bengio ajudou a co -confiar.
