O padrinho da IA estabelece uma diferença fundamental entre o Openai e o Google
Quando se trata de vencer a corrida da IA, o “padrinho da IA” acha que há uma vantagem em não ter nada a perder.
Em um episódio do podcast “Diário de um CEO”, que foi ao ar em 16 de junho, Geoffrey Hinton expôs o que ele vê como uma diferença importante entre como Openai e o Google, seu ex -empregador, lidaram com a segurança da IA.
“Quando eles tinham esses grandes chatbots, não os libertaram, possivelmente porque estavam preocupados com sua reputação”, disse Hinton sobre o Google. “Eles tinham uma reputação muito boa e não queriam danificá -la”.
O Google lançou BardSeu AI Chatbot, em março de 2023, antes de incorporá -lo mais tarde em seu conjunto maior de grandes modelos de idiomas chamados Gemini. A empresa estava se recuperando, desde que o OpenAI foi lançado Chatgpt No final de 2022.
Hinton, que ganhou seu apelido por seu trabalho pioneiro em redes neurais, apresentou um dos principais motivos pelos quais o Openai poderia se mover mais rápido no episódio do podcast: “Openai não tinha reputação e, assim, eles poderiam se dar ao luxo de fazer a aposta”.
Conversando em uma reunião de todas as mãos logo após o lançamento do ChatGPT, o então chefe da IA do Google disse que a empresa não planejou liberar imediatamente um chatbot por causa de “Risco de reputação,“Acrescentando que precisava fazer escolhas” de maneira mais conservadora do que uma pequena startup “, relatou a CNBC na época.
O chefe da AI da empresa, Google DeepMind CEO Demis Hassabis, disse em fevereiro deste ano que Ai apresenta riscos potenciais a longo prazoE que os sistemas agênticos podem ficar “fora de controle”. Ele defendeu ter um órgão governante que regula os projetos de IA.
A Gêmeos cometeu alguns erros de alto perfil desde o seu lançamento e mostrou preconceitos em suas respostas escritas e recurso de geração de imagens. CEO do Google Sundar Pichai abordou a controvérsia em um memorando para a equipe no ano passado, dizendo que a empresa “entendeu errado“E prometeu fazer alterações.
O “Padrinho” viu a tomada de decisão do batbot do Google por dentro-ele passou mais de uma década na empresa antes desistindo para falar mais livremente sobre o que ele descreve como os perigos da IA. No episódio de podcast de segunda -feira, Hinton disse que não enfrentou pressão interna para ficar em silêncio.
“O Google me incentivou a ficar e trabalhar na segurança da IA, e disse que eu poderia fazer o que quisesse Segurança da IA“” Ele disse. “Você meio que se censura. Se você trabalha para uma grande empresa, não se sente bem dizendo coisas que danificarão a grande empresa “.
No geral, Hinton disse que acha que o Google “realmente se comportou com muita responsabilidade”.
Hinton não poderia ter tanta certeza sobre o Openai, embora nunca tenha trabalhado na empresa. Quando perguntado se o CEO da empresa, Sam Altman, Tem uma “boa bússola moral” no início do episódio, ele disse: “Veremos”. Ele acrescentou que não conhece Altman pessoalmente, então não queria comentar mais.
Openai tem enfrentou críticas Nos últimos meses, para abordar a segurança de maneira diferente do que no passado. Em um recente blog Post, a empresa disse que mudaria apenas seus requisitos de segurança depois de garantir que “não aumentaria significativamente o risco geral de danos graves”. Suas áreas de foco para a segurança agora incluem segurança cibernética, ameaças químicas e o poder da IA de melhorar independentemente.
Altman defendeu a abordagem do OpenAi para a segurança em um Entrevista no TED2025 Em abril, dizendo que a estrutura de preparação da empresa descreve “onde achamos que os momentos de perigo mais importantes estão”. Altman também reconheceu na entrevista que o OpenAI afrouxou algumas restrições ao comportamento de seu modelo com base no feedback do usuário sobre a censura.
A competição anterior entre o OpenAi e o Google para lançar chatbots iniciais foi feroze o Corrida de talentos da IA está apenas aquecendo. Documentos revisados pelo Business Insider revelam que O Google confiou no chatgpt Em 2023 – durante suas tentativas de acompanhar o Chatgpt.
Os representantes do Google e do OpenAI não responderam ao pedido de comentário da BI.
