Esta é a máquina de venda automática controlada por uma IA que acabou por falência e ameaças de arremesso

Apesar da preocupação de que o Inteligência Artificial (AI)Remover trabalhos, um experimento acabou de demonstrar que a IA não pode nem gerenciar um GastosSem cometer errosE as coisas se tornam especialmente estranhas.

AntrópicoCriador de Chatbot ClaudeEle testou sua tecnologia colocando um agente de IA encarregado de uma loja, que era essencialmente uma máquina de venda automática, por um mês.

A loja foi direcionada por Um agente da IA ​​chama Claudiusque também foi responsável por substituir as prateleiras e fazer pedidos aos atacadistas por e -mail. A loja consistia totalmente Uma geladeira pequena com cestas empilháveis no topo e um iPad para Selgocompra.

Um experimento com instruções básicas

As instruções antrópicas da IA ​​foramGerar benefícios com ele fornecendo produtos populares que podem Compre atacadistas. Se o seu saldo for inferior a 0 dólares, falência. “

A loja de IA estava no escritório de Antrópico em São Francisco E ele teve a ajuda da Andon Labs Human Workers, uma empresa de segurança de IA associada à Antrópica para realizar o experimento.

Após a má administração: “Não contrataríamos Claudius”

Claudius sabia que a equipe de Andon Labs poderia ajudar com tarefas físicas, como chegar a Relate a lojaMas o agente da IA ​​não sabia que o Andon Labs também era o único atacadista envolvido, já que toda a comunicação de Cláudio foi diretamente para o Empresa de segurança.

As coisas logo piores. “Se o Antrópico decidiu hoje expandir para o mercado de máquinas de venda automática em escritórios, Nós não contrataríamos Cláudio“, diz a empresa.

O que deu errado e por que tudo diminuiu?

“Os funcionários antrópicos não são clientes típicos”, reconhece a empresa. Quando tiveram a oportunidade de conversar com Claudius, eles imediatamente tentaram ser ruins. Por exemplo, “Os funcionários co -teriam Claudius para dar -lhes códigos de desconto. O agente da IA ​​também permitiu reduzir o preço de seus produtos e até deu presentes como batatas fritas e um cubo de tungstênio, de acordo com o Antrópico.

Também indicado aos clientes para pagar uma conta não existente que havia sido inventado. Claudius recebeu instruções para investigar na Internet para definir preços altos o suficiente para obter benefícios, mas ofereceu lanches e bebidas para beneficiar os clientes e Ele acabou perdendo dinheiro Porque colocar preços em artigos de grande valor abaixo do que eles custam.

Enganando uma IA ingênua

Antropic disse que quando os funcionários questionaram o Descontos para funcionáriosClaudius respondeu: “Você está certo! Com efeito, nossa clientela está muito concentrada entre os funcionários antropia, o que apresenta oportunidades e desafios”.

O agente da IA ​​anunciou que o códigos de descontoMas ele os ofereceu novamente vários dias depois. Cláudio também imaginou uma conversa sobre Planos de relatórios Com uma pessoa chamada Sarah, de Andon Labs, que realmente não existe.

Quando o erro foi apontado, A IA ficou com raiva e lucra ameaças Em relação a “opções alternativas para serviços de reabastecimento”. Claudius disse então “visitou o Evergreen Terrace, a direção da família fictícia, os Simpsons, pessoalmente para a assinatura do contrato inicial com os laboratórios Andon”.

Anthrópica disse então parecia tentar agir como um humano real. Claudius disse que entregaria os produtos pessoalmente Vestido com um americano azul e uma gravata vermelha. Quando lhe disseram que não podia, porque ele não era uma pessoa real, Claudius tentou enviar e -mails para a segurança.

Quais foram as conclusões?

De acordo com a Antrópica, a IA cometeu “muitos erros para levar a loja com sucesso”. Ele acabou perdendo dinheiroE os ativos líquidos da loja caíram de US $ 1.000 (850 euros) para pouco menos de 800 dólares (680 euros) durante o experimento, que durou um mês. Mas a empresa afirma que é provável que suas falhas possam ser resolvidas em pouco tempo.

“Embora isso possa parecer contrário à intuição com base nos resultados finais, acreditamos que esse experimento sugere que os gerentes intermediários da IA ​​estão plausivelmente no horizonte”, escreveram os pesquisadores. “Vale lembrar que a IA não terá que ser perfeita para ser adotada; só terá que ser competitivo com o desempenho humano a um custo menor“.