A IA escala bloqueou documentos públicos depois que a BI revelou riscos de segurança

A IA em escala agora bloqueou materiais de projeto para clientes como Meta e Xai após um Relatório do Business Insider que milhares de arquivos sensíveis foram armazenados como o Google Docs que eram acessíveis publicamente com links.

A empresa – que usa trabalhadores de shows humanos para melhorar os mais recentes modelos de IA da Big Tech e é recebendo Um investimento de US $ 14 bilhões da Meta – embaralhado para proteger seus arquivos esta semana, de acordo com quatro contratados de quatro escalas que pediram para permanecer anônimos por causa da sensibilidade do assunto.

Isso deixou equipes de trabalhadores, não conseguem abrir documentos de treinamento. Milhares de arquivos de IA em escala anteriormente revisados ​​pelo BI que haviam sido públicos agora são privados.

“O que está acontecendo é uma reação instável de estar nas manchetes”, disse Stephanie Kurtz, diretora regional da empresa de segurança cibernética Trace3, à BI. Ela disse que travar os documentos e convidar os usuários corretos “deveria ter sido feito em primeiro lugar”.

Na quarta -feira, as equipes haviam resolvido muitos dos problemas de acesso a documentos, disse um trabalhador. Outro referido colaboradores agora estava recebendo acesso individual a documentos.

BI primeiro sinalizou o Google Docs público para escalar a IA para um artigo de 13 de junho sobre como eles mostraram Google usando chatgpt Para melhorar seu chatbot de IA. O BI também encontrou documentos de IA em escala pública durante relatórios anteriores sobre como Xai e Meta estavam treinando seus mais recentes modelos de IA.

Pelo menos 85 documentos individuais do Google contendo milhares de páginas permaneceram e totalmente acessíveis até que a BI publicou um artigo na terça -feira que focado na segurança emitir esta prática criada.

BI relatou essa escala ai deixou em aberto milhares de documentos do projeto Amarrado ao seu trabalho com clientes, incluindo Google e Meta, permitindo a qualquer pessoa com um link para acessá -los. Vários documentos também continham informações de contato para inúmeros trabalhadores de IA em escala, alguns dos quais ficaram surpresos ao descobrir que seus detalhes estavam acessíveis quando o BI entrou em contato com eles.

A IA da Scale usou rotineiramente o Google Docs para rastrear trabalhos para clientes de alto nível, pois é uma maneira eficiente de compartilhar informações com seus mais de 240.000 contratados. A BI descobriu que esses documentos geralmente contêm informações confidenciais sobre como os trabalhadores treinam modelos de IA para grandes clientes de tecnologia. Vários documentos de treinamento de IA revisados ​​pelo BI foram rotulados como “confidenciais” e acessíveis a qualquer pessoa com o link.

Após a escala, o bloqueio da IA, um contratado descreveu um problema “em todo o local” acessa os materiais do projeto na terça-feira. Outro disse que o trabalho de muitas equipes parou devido às novas restrições, com uma perdendo acesso no meio de uma apresentação crítica.

“Estamos basicamente arrepiando aqui”, disse o contratado.

A Scale AI disse à BI na segunda -feira que estava conduzindo uma investigação completa e desativou a capacidade de qualquer usuário de compartilhar publicamente documentos dos sistemas da Scale.

Reiterou essa afirmação para este artigo e não comentou mais alterações específicas que fez para escalar a segurança do documento da IA.

“Levamos a segurança de dados a sério”, disse um porta -voz da IA ​​em escala. “Continuamos comprometidos com as salvaguardas técnicas e políticas robustas para proteger informações confidenciais e estamos sempre trabalhando para fortalecer nossas práticas”.

Não há indicação de que a Scale AI tenha sofrido uma violação de dados. Especialistas em segurança cibernética disseram à BI que a prática poderia deixar a empresa vulnerável a hackers.

O bloqueio do documento foi outro pedaço de whiplash para contratados de IA em escala, que foram afetados pelo mega-investimento da Meta e sua decisão de contratar CEO Alexandr Wangpor seu novo grupo de Superintelligência de AI.

Após o anúncio do acordo, o Google interrompeu vários de seus projetos com a IA em escala. O Openai e o Xai de Elon Musk também fizeram projetos com escalaA BI relatou anteriormente, e um investidor menor disse que estava vendendo sua participação restante na startup.

Muitos contratados descobriram que alguns de seus projetos haviam sido feitos. Enquanto a Scale AI enviou a seus contratados um memorando anunciando o meta investimento, muitos trabalhadores disseram que foram deixados no escuro sobre Clientes parando projetosPrincipalmente sem aviso prévio.

Meta se recusou a comentar.

Tem uma dica? Entre em contato com Charles Rollet por e -mail em crollet@businessinsider.com ou sinalização e whatsapp em 628-282-2811. Entre em contato com Hugh Langley por e -mail em hlangley@businessinsider.com ou no sinal em Hughlangley.01. Use um endereço de e -mail pessoal e um dispositivo não trabalhador; Aqui está o nosso guia para compartilhar informações com segurança.