O padrinho da IA diz que a maioria dos líderes de tecnologia minimiza os riscos – exceto um
Parece não haver muito amor de Deus no mundo da IA hoje em dia.
Geoffrey Hinton, o ex-funcionário do Google conhecido como “padrinho de Ai” por seu trabalho em redes neurais, tem sido vocal sobre o riscos da tecnologia. Ele disse em um episódio recente do podcast “One Decision” que “a maioria” de pessoas de empresas de tecnologia entende os riscos, mas não age com elas.
“Muitas das pessoas de grandes empresas, eu acho, estão subestimando o risco publicamente”, disse Hinton no episódio, que foi ao ar em 24 de julho. Mas ele mencionou um líder de tecnologia que está sintonizado com os perigos potenciais da tecnologia.
“Demis HassabisPor exemplo, realmente entende sobre os riscos e realmente quer fazer algo a respeito “, disse ele.
Hassabis é o CEO do Google DeepMindo principal laboratório de IA da empresa. Ele cofundou o DeepMind em 2010 e o vendeu ao Google em 2014 por US $ 650 milhões, sob a ressalva de que a gigante da tecnologia criaria um conselho de ética da IA. UM Prêmio Nobel O vencedor, Hassabis, há anos esperava que acadêmicos e cientistas liderassem a luta da IA. Agora, ele está no centro do Google’s empurre o domínio da IAE alguns insiders da empresa disseram anteriormente ao Business Insider que acham que ele pode estar concorrendo a CEO.
Em fevereiro, Hassabis disse que Ai apresenta riscos de longo prazo e alertou que os sistemas agênticos poderiam ficar “fora de controle”. Ele pressionou por ter um órgão internacional para regular a tecnologia. No final do mês passado, Os manifestantes demonstraram fora do escritório de Londres de Deepmind exigir mais transparência da IA.
Hinton passou mais de uma década no próprio Google antes de parar de discutir o perigos da IA mais abertamente. Ele disse em um episódio anterior de podcast que a empresa o incentivou a ficar e trabalhar em questões de segurança.
O chamado padrinho não lamentou muitos elogios a outros grandes líderes de tecnologia-no início do podcast, ele disse que “as pessoas que controlam ai, pessoas como Musk e Zuckerberg, são oligarcas”. Os representantes de Musk e Zuckerberg não responderam ao pedido de comentário da BI.
E quanto à questão de saber se ele confia neles? “Acho que quando os chamei de oligarcas, você sabe a resposta para isso.”
