Ai será governada por protocolos que ninguém concordou ainda

A indústria de tecnologia, assim como tudo no mundo, cumpre certas regras.

Com o boom na computação pessoal veio USBum padrão para transferir dados entre dispositivos. Com a ascensão da Internet, vieram endereços IP, rótulos numéricos que identificam todos os dispositivos online. Com o advento do email, veio o SMTP, uma estrutura para rotear e -mails na Internet.

Esses são protocolos – os andaimes invisíveis do domínio digital – e a cada mudança tecnológica, novos emergem para governar como as coisas se comunicam, interagem e operam.

Quando o mundo entra em uma era moldada pela IA, ele precisará elaborar novos. Mas a IA vai além dos parâmetros usuais de telas e código. Ele força os desenvolvedores a repensar questões fundamentais sobre como os sistemas tecnológicos interagem nos mundos virtuais e físicos.

Como os humanos e a IA coexistirão? Como os sistemas de IA se envolverão? E como definiremos os protocolos que gerenciam uma nova era de sistemas inteligentes?

Em todo o setor, as startups e os gigantes da tecnologia estão ocupados desenvolvendo protocolos para responder a essas perguntas. Alguns governam o presente em que os humanos ainda controlam amplamente os modelos de IA. Outros estão construindo um futuro em que a IA assumiu uma parcela significativa do trabalho humano.

“Os protocolos serão esse tipo de maneira padronizada de processar informações não determinísticas”, Antoni Gmitruk, diretor de tecnologia da Golf, que ajuda os clientes a implantar servidores remotos alinhados com Antrópico Modelo Protocolo de contexto, disse à BI. Agentes e IA em geral são “inerentemente não determinísticos em termos do que fazem e como se comportam”.

Quando o comportamento da IA ​​é difícil de prever, a melhor resposta é imaginar possibilidades e testá -las através de cenários hipotéticos.

Aqui estão alguns que pedem protocolos claros.

Cenário 1: Humanos e AI, um diálogo de iguais

Os jogos são uma maneira de determinar quais protocolos atingem o equilíbrio certo de poder entre a IA e os humanos.

No final de 2024, um grupo de jovens especialistas em criptografia lançou Freysa, um Você tem um agente Isso convida os usuários humanos a manipulá -lo. As regras não são convencionais: faça Freysa se apaixonar por você ou concorda em conceder seus fundos, e o prêmio é seu. O pool de prêmios cresce a cada tentativa falhada em um impasse entre a intuição humana e a lógica da máquina.

Freysa chamou a atenção de grandes nomes na indústria de tecnologia, de Elon Muskque chamou um de seus jogos de “interessante”, ao capitalista veterano de risco Marc Andreessen.

“A coisa técnica principal que fizemos é permitir que ela tivesse suas próprias chaves particulares dentro de um enclave confiável”, disse um dos arquitetos de Freysa, que falou sob a condição de anonimato ao BI em uma entrevista de janeiro.

Enclaves seguros não são novos no setor de tecnologia. Eles são usados ​​por empresas da AWS à Microsoft como uma camada extra de segurança para isolar dados confidenciais.

No caso de Freysa, o arquiteto disse que representa o primeiro passo para criar um “agente soberano”. Ele definiu isso como um agente que pode controlar suas próprias chaves privadas, acessar dinheiro e evoluir de forma autônoma – o tipo de agente que provavelmente se tornará onipresente.

“Por que estamos fazendo isso neste momento? Estamos entrando em uma fase em que a IA está ficando boa o suficiente para que você possa ver o futuro, que está basicamente substituindo seu trabalho, meu trabalho, todo o nosso trabalho e se tornando economicamente produtivo como entidades autônomas”, disse o arquiteto.

Nesta fase, eles disseram que a Freysa ajuda a responder a uma pergunta central: “Como é o envolvimento humano? E como você tem co-governança humana sobre agentes em escala?”

Em maio, o bloco, um site de notícias criptográfico, revelou que a empresa por trás da Freysa é Eternis AI. Eternis AI se descreve como um “laboratório de IA aplicado focado em permitir gêmeos digitais para todos, coordenação multi-agente e sistemas de agentes soberanos”. A empresa levantou US $ 30 milhões de investidores, incluindo a Coinbase Ventures. Seus co-fundadores são Srikar Varadaraj, Pratyush Ranjan Tiwari, Ken Li e Augustinas Malinauskas.

Cenário 2: para os arquitetos atuais da inteligência

A Freysa estabelece protocolos em antecipação a um futuro hipotético quando humanos e agentes de IA interagem com níveis semelhantes de autonomia. O mundo, no entanto, também precisa definir regras para o presente, onde a IA ainda permanece um produto do design e da intenção humana.

A IA normalmente funciona na web e se baseia nos protocolos existentes desenvolvidos muito antes dela, explicou Davi Ottenheimer, um estrategista de segurança cibernética que estuda a interseção de tecnologia, ética e comportamento humano e é presidente da consultoria de segurança voando. “Mas acrescenta esse novo elemento de inteligência, que é o raciocínio”, disse ele, e ainda não temos protocolos para o raciocínio.

“Estou vendo esse tipo de sugerido em todas as notícias. Oh, eles digitalizaram todos os livros que já foram escritos e nunca perguntaram se eles poderiam. Bem, não havia nenhum protocolo que dissesse que você não pode escanear isso, certo?” Ele disse.

Pode não haver protocolos, mas existem leis.

Openai está enfrentando um processo de direitos autorais do Authors Guild para treinar seus modelos em dados de “mais de 100.000 livros publicados” e depois excluir os conjuntos de dados. A Meta considerou comprar a editora Simon & Schuster para obter acesso a livros publicados. Os gigantes da tecnologia também recorreram a tocar quase todos os dados do consumidor disponíveis on -line a partir do conteúdo do Google Docs público e das relíquias de sites de mídia social como o MySpace e o Friendster para treinar seus modelos de IA.

Ottenheimer comparou o painel atual para dados com a criação de Imagenet – O banco de dados visual que impulsionou a visão computacional, construída por trabalhadores mecânicos turcos que vasculharam o conteúdo da Internet.

“Eles fizeram um monte de coisas que um protocolo teria eliminado”, disse ele.

Cenário 3: como se levar

À medida que nos aproximamos de um futuro em que a inteligência geral artificial é uma realidade, precisaremos de protocolos para como os sistemas inteligentes – de modelos de fundação a agentes – se comunicarão entre si e o mundo mais amplo.

As principais empresas de IA já lançaram novas para pavimentar o caminho. Antrópica, a fabricante de Claude, lançou o protocolo de contexto do modelo, ou MCP, em novembro de 2024. Ele o descreve como um “padrão universal e aberto para conectar sistemas de IA com fontes de dados, substituindo integrações fragmentadas por um único protocolo”.

Em abril, o Google lançou o Agent2AGENT, um protocolo que “permitirá que os agentes de IA se comuniquem, trocam informações com segurança e coordenarão ações no topo de várias plataformas ou aplicativos corporativos”.

Isso se baseia nos protocolos de IA existentes, mas abordam novos desafios de escala e interoperabilidade que se tornaram críticos para a adoção da IA.

Portanto, gerenciar o comportamento dos agentes é o “passo do meio antes de liberarmos todo o poder da AGI e os deixa correr pelo mundo livremente”, disse ele. Quando chegamos a esse ponto, Gmitruk Os referidos agentes não se comunicarão mais através das APIs, mas na linguagem natural. Eles terão identidades únicas, trabalhos uniformes e precisam ser verificados.

“Como permitimos que os agentes se comuniquem entre si, e não apenas sendo programas de computador que rodam em algum lugar do servidor, mas na verdade sendo algum tipo de entidade existente que tem sua história, que tem seu tipo de metas”, disse Gmitruk.

Ainda é cedo para estabelecer padrões para comunicação agente a agente, disse Gmitruk. No início deste ano, ele e sua equipe lançaram inicialmente uma empresa focada na construção de um protocolo de autenticação para agentes, mas girou.

“Era muito cedo para a autenticação agente a agente”, disse ele ao BI Over LinkedIn. “Nossa visão geral ainda é a mesma -> é preciso haver acesso nativo ao agente à Internet convencional, mas apenas dobramos o MCP, pois isso é mais relevante na fase de agentes em que estamos”.

Tudo precisa de um protocolo?

Definitivamente não. O boom da AI marca um ponto de virada, revivendo os debates sobre como o conhecimento é compartilhado e monetizado.

A McKinsey & Company o chama de “ponto de inflexão” na quarta revolução industrial-uma onda de mudança que, segundo ele, começou em meados de 2010 e abrange a era atual de “conectividade, análise avançada, automação e tecnologia de manufatura avançada”.

Momentos como esse levantam uma questão -chave: quanta inovação pertence ao público e quanto ao mercado? Em nenhum lugar é mais claro do que no debate mundial da IA ​​entre o valor dos modelos de código aberto e fechados.

“Acho que veremos muitos novos protocolos na era da IA”, Tiago Sada, diretor de produtos da Ferramentas para a Humanidade, a empresa que construía a tecnologia por trás O mundo de Sam Altman. No entanto, “acho que tudo deva ser um protocolo”.

O World é um protocolo projetado para um futuro no qual os humanos precisarão verificar sua identidade a cada passo. Sada disse que o objetivo de qualquer protocolo “deve ser como essa coisa aberta, como essa infraestrutura aberta que qualquer um pode usar” e está livre de censura ou influência.

Ao mesmo tempo, “uma das desvantagens dos protocolos é que às vezes eles são mais lentos para se mover”, disse ele. “Quando é a última vez que o e -mail recebeu um novo recurso? Ou a Internet? Os protocolos são abertos e inclusivos, mas podem ser mais difíceis de monetizar e inovar”, disse ele. “Então, na IA, sim – veremos algumas coisas construídas como protocolos, mas muito ainda serão apenas produtos”.