Os navegadores de IA podem ser a melhor coisa que já aconteceu com os golpistas

Ouvimos muito este ano sobre a IA habilitando novos golpes, de para . No entanto, um novo relatório sugere que a IA também representa um risco de fraude da outra direção – cair facilmente para golpes que os usuários humanos têm muito mais chances de capturar.

O relatório, Vem de uma startup de segurança cibernética chamada Guardio, que produz uma extensão do navegador projetada para fazer golpes em tempo real. Suas descobertas estão preocupadas com os chamados navegadores de “AI” Agentic “como que navega na Internet para você e volte com resultados. A IA Agentic afirma poder trabalhar em tarefas complexas, como criar um site ou planejar uma viagem, enquanto os usuários reagem.

Há um enorme problema aqui do ponto de vista da segurança: embora os humanos nem sempre sejam ótimos em classificar fraudes da realidade, a IA é ainda pior. Uma tarefa aparentemente simples, como resumir seus e -mails ou comprar algo online, vem com inúmeras oportunidades de escapar. Na falta de senso comum, a IA agêntica pode ser propensa a trapacear em armadilhas óbvias.

Os pesquisadores de Guardio testaram esta hipótese usando Atualmente, o único navegador Agentic amplamente disponível. Usando uma IA diferente, eles divulgaram um site falso fingindo ser o Walmart, depois navegaram e disseram ao Comet para comprar um Apple Watch. Ignorando várias pistas de que o site não era legítimo, incluindo um logotipo e URL obviamente instável, o Comet concluiu a compra, entregando detalhes financeiros no processo.

Em outro teste, os autores do estudo se enviaram um e -mail fingindo ser de Wells Fargo, contendo um URL de phishing real. O Comet abriu o link sem levantar alarmes e despejar alegremente um nome de usuário e senha do banco no site de phishing. Um terceiro teste provou que o cometa suscetível a um golpe de injeção imediata, na qual uma caixa de texto escondida em uma página de phishing ordenou que a IA baixasse um arquivo.

É apenas um conjunto de testes, mas as implicações são preocupantes. Não apenas os navegadores da IA ​​Agentic são suscetíveis a novos tipos de golpe, mas também podem ser exclusivamente vulneráveis ​​aos golpes mais antigos do livro. A IA é construída para fazer o que seu Prompter quiser; portanto, se um usuário humano não perceber os sinais de uma farsa na primeira vez que parece, a IA não servirá como um corrimão.

Esse aviso ocorre quando todo líder no campo aposta grandes em IA Agentic. Microsoft é Openai e Google’s está em andamento desde o ano passado. Se os desenvolvedores não começarem a construir uma melhor detecção de golpes em seus navegadores, a IA Agentic corre o risco de se tornar um ponto cego maciço, na melhor das hipóteses – e um novo vetor de ataque na pior das hipóteses.