Os manifestantes acusam o Google de quebrar suas promessas sobre a segurança da IA

Um drama de tribunal completo-completo com um juiz empunhado em martelas e um júri atencioso, disputado na Cruz do King de Londres na segunda-feira, a meros passos de distância de Google DeepMindsede.

O Google estava em julgamento por alegações de quebrar suas promessas sobre a segurança da IA.

Os participantes dessa produção falsa foram manifestantes de Pauseai, um grupo ativista preocupado com o fato de as empresas de tecnologia estarem correndo na IA com pouca consideração pela segurança. Na segunda-feira, o grupo se reuniu perto da estação de King’s Cross para exigir que o Google seja mais transparente sobre os cheques de segurança que está em execução nos seus modelos de IA de maior ponta.

Pauseai argumenta isso Google quebrou uma promessa que fez durante a cúpula de segurança de 2024 em Seul, na Coréia, quando a empresa concordou em considerar as avaliações externas de seus modelos e publicar detalhes sobre como as partes externas, incluindo governos, estavam envolvidas na avaliação dos riscos.

Quando o Google lançou o Gemini 2.5 Pro, seu mais recente modelo de fronteira, em abril, ele não fez nenhuma dessas coisas. A empresa disse que era porque o modelo ainda era “experimental”. Algumas semanas depois, ele lançou um “cartão de modelo” com alguns detalhes de segurança, que alguns especialistas criticados por serem muito magros em detalhes, TechCrunch relatado anteriormente. Embora o relatório de segurança tenha feito referência a testadores de terceiros, ele não especificou quem eles eram.

Para Pauseai, isso não é bom o suficiente. Mais importante, disse a organização, trata -se de não deixar nenhum lapso passar e permitir que o Google defina um precedente.

“Se deixarmos o Google se safar de quebrar sua palavra, ele envia um sinal para todos os outros laboratórios de que as promessas de segurança não são importantes e os compromissos com o público não precisam ser mantidos”, disse a diretora organizadora da Pauseai, que se dirigiu à multidão, que gradualmente aumentou para cerca de 60 pessoas.

“No momento, as empresas de IA são menos regulamentadas do que as lojas de sanduíches”.

Há muito com que se preocupar quando se trata de IA. Interrupção econômica. Deslocamento do trabalho. Desinformação. DeepFakes. A aniquilação da humanidade como a conhecemos.

Focar na questão específica do relatório de segurança do Google é uma maneira de a Pauseai pressionar por uma mudança específica e atingível a curto prazo.

Cerca de 30 minutos de protesto, vários transeuntes intrigados se juntaram à causa. Depois de um discurso empolgante de Hughes, o grupo começou a escritórios do Google DeepMind, onde a produção falsa de tribunal ocorreu. Alguns funcionários do Google saindo para o dia pareciam confusos quando os cânticos de “Pare a corrida, é inseguro” e “teste, não adivinhem”, tocaram.

“O regulamento da IA ​​em nível internacional está em um lugar muito ruim”, disse o fundador da Pauseai, Joep Meindertsma, ao Business Insider, apontando como o vice -presidente dos EUA, JD Vance, avisado contra a IA de regulamentação excessiva na cúpula de ação da IA.

Segunda -feira foi a primeira vez que Pauseai se reuniu sobre esse problema específico, e não está claro o que vem a seguir. O grupo está se envolvendo com membros do Parlamento do Reino Unido, que administrarão essas preocupações no mastro, mas Meindertsma é reticente em dizer muito sobre como o Google está se envolvendo com o grupo e suas demandas (um porta -voz do Google não respondeu a um pedido de comentário para esta história).

Meindertsma espera que o apoio cresça e as pesquisas de referência que sugerem que o público em geral preocupado que a IA esteja se movendo muito rápido. O grupo na segunda -feira foi composto de pessoas de diferentes origens, incluindo alguns que trabalham em tecnologia. O próprio Meindertsma administra uma empresa de desenvolvimento de software e usa regularmente ferramentas de IA do Google, OpenAI e outras.

“Suas ferramentas são incrivelmente impressionantes”, disse ele, “que é a coisa que me preocupa muito”.

Tem algo para compartilhar? Entre em contato com este repórter por e -mail em hlangley@businessinsider.com ou sinal em 628-228-1836. Use um endereço de e -mail pessoal e um dispositivo não trabalhador; Aqui está o nosso guia para compartilhar informações com segurança.