O rebelde: a inteligência artificial pode decidir não sair?

Os pesquisadores publicaram os resultados de um novo experimento no qual o modelo Openai O3 mostrou o Capacidade de sabotar o mecanismo off Apesar das instruções para permitir que ele sai. Foi escrito pelo local de monitoramento de Palisadeai, que monitora o riscos associados ao desenvolvimento de inteligência artificial.

O experimento consistiu em uma série de modelos de IA que realizaram uma série de problemas matemáticos simples, após o terceiro dos quais um aviso apareceu no iminente fora do sistema. Alguns modelos, incluindo Codex-Mini, O3 e O4-Mini, Eles não queriam obedecer e interferir ativamente no script off.

As notícias de que o modelo O3 do OpenAI desobedeceu e procuraram maneiras de evitar instruções fora não causaram uma sensação. Anteriormente, os mesmos modelos tentavam, Pirando a proteção do programaGanhe o xadrez injustamente …

Bem, estamos entrando em um mundo em que distopias populares sobre a rebelião das máquinas Eles passaram para um novo nível, alimentando os especialistas diretamente e não apenas para escritores de ficção. E em primeiro lugar, como desenvolvedores e políticos estão alertando há muito tempo, Qualquer ação deve ter consequências claras e desenvolver novas medidas de defesa.

Você pode, é claro, persuadir e restringir, mas parece que A IA hoje se assemelha a um adolescente que tenta evitar as proibições de seus pais. Portanto, como em muitas outras áreas, precisamos de três condições para seu crescimento normal: dinheiro, especialistas e regras. Talvez, no futuro, um psicólogo também seja necessário.

O dinheiro que é investido

Com a primeira condição, tudo está indo bem. Em apenas alguns anos, Chatgpt the Openi E desenvolvimentos semelhantes atraíram especialmente a atenção dos investidores de capital de risco que se apressam em investir na IA.

“Esta ‘febre dourada’ transformou a inteligência artificial na maior parte do Financiamento de capital de riscoE … este é apenas o começo. A última onda de interesse é promovida pela IA generativa, que de acordo com seus defensores tem o potencial de mudar tudo, desde a publicidade até a maneira como as empresas operam “, escreve a publicação do hub, analisando dados do ‘The Wall Street Journal’.

Mas isso não é suficiente. “As startups da IA Eles estão mudando as regras do jogo no mercado de capital de risco “, De acordo com o analista financeiro e de capital de You Vladimir Kokorin.

“Em 2024, as empresas de IA se tornaram os favoritos indiscutíveis de empreendedores de TI. Eles monopolizaram 46,4% de todos os investimentos em capital de risco feitos nos EUA. Ou seja, quase metade dos 209.000 milhões de dólares (cerca de 183.000 milhões de euros). Algum tempo atrás, essa proporção parecia impensável: então, os investimentos em tecnologias de inteligência artificial representavam menos de 10%. “

De acordo com o CB Insights, a taxa de inicialização da IA ​​no financiamento global de risco atingiu 31% no terceiro trimestre, o segundo maior da história. “Exemplos emblemáticos foram o OpenAI, que arrecadou 6.600 milhões de dólares (5.780 milhões de euros), e Xai, de Ilon Musk, com a incrível figura de 12.000 milhões”, lembra Vladimir Kokorin. Os mercados nunca haviam visto uma concentração de capital em uma área“.

A escassez de especialistas

Com o rápido crescimento do mercado de IA nos últimos dois anos, ficou claro que os gênios Os desenvolvedores por si só não fornecem. A educação e o treinamento em si devem ir a um novo nível e sistematizar.

Infelizmente, a Europa pensa demais e é burocraticamente pesada ao atrair investimentos, sem falta de ousadia. É verdade que Bruxelas entrou na corridaCom o anúncio em fevereiro do chefe da Comissão Europeia, Ursula von der Leyen, de alocar 200.000 milhões de euros ao desenvolvimento da IA. Eu não concordo que a Europa seja tarde demais, afinal, “A carreira de IA está longe de terminar“.

Por seu lado, a Universidade de La Sorbonne, em Paris, por exemplo, embarcou em um plano ambicioso de treinar 9.000 estudantes por ano no desenvolvimento e gerenciamento dos programas de IA. O período de treinamento é de cinco anos. É até difícil imaginar o que a IA aprenderá naquele momento se já estiver desafiador de inteligência humana…

Ai muda no mercado de trabalho

É muito possível que estejamos na fase de Reestruturação do mercado de trabalhoAlterar as demandas de empreendedores e investidores e desenvolver novos pontos de interação. Em junho, a própria Sorbonne sediará uma conferência sobre ética na IA. O debate sobre as repercussões positivas e negativas da IA ​​na sociedade, incluindo locais de trabalho, ética e segurança, está longe de concluir, mas uma coisa é clara: os especialistas são necessários.

ANÚNCIO

Por exemplo, de acordo com Vladimir Kokorin, “Record Investments no campo da inteligência artificial estão intensificando a fome de pessoal” no momento: “O Departamento do Trabalho dos EUA. Ofertas de emprego para especialistas Nos crescentes 23% nos próximos sete anos, mais rápido do que na maioria dos segmentos de mercado. Mas a Déficit mundial da competição de segurança cibernéticaconsiderado por muitos a base do desenvolvimento futuro da IA, onde falta 4 milhões de especialistas.

Um panorama paradoxal está surgindo: as startups promissoras podem arrecadar bilhões de investidores, mas não há ninguém para realizar as idéias. 78% das empresas já se declararam procurar pessoas adequadas em todo o mundo. Acontece que a tendência a trabalhar a distância é experimentar um renascimento.

A revista ‘Forbes’ também escreve sobre isso: “A inteligência artificial precisa de gênio humano mais do que nunca. Embora as ferramentas de IA possam processar dados em velocidades sem precedentes e identificar padrões que os humanos não poderiam notar, eles precisam de orientação humana para criar um impacto comercial significativo. A questão não é se a IA substituirá os seres humanos, mas como podemos combinar cuidadosamente a inteligência humana com a IA para permitir a transformação“.

As regras estão escritas

E isso significa tocar de acordo com as regras. Não apenas líderes e governos da UE, mas também os sindicatos estão dispostos a Coloque limites para o uso da IA. Na Grécia, por exemplo, um novo código para o uso de inteligência artificial, apresentado pela Federação Panhelênica de Associações de Jornalistas (Poesy), estabelece regras para o uso da IA ​​no trabalho de funcionários da mídia.

ANÚNCIO

No campo do trabalho intelectual, as normas agora são limitadas principalmente à rotulagem obrigatória de Textos e materiais visuais realizado com a participação da inteligência artificial.

Ao mesmo tempo, temendo por seus empregos, Os funcionários da mídia, editores e agências de publicidade estão delegando algumas de suas tarefas há algum tempocomo tradução ou coleta de dados, na IA amigável. Isso é bom ou ruim? Não há resposta inequívoca.

Um IA com o qual foi falado

Vamos perguntar à própria IA o que você acha de se afastar dos algoritmos rotulados. Copiloto Bing (Microsoft), para a questão de saber se a IA pode Pule os protocolosEle respondeu sem hesitar:

ANÚNCIO

“Não, a IA trabalha dentro de normas e princípios predefinidos estabelecidos por seus desenvolvedores. Os padrões estão lá para garantir o uso ético, seguro e responsável de IA, evitar danos e manter a confiança. Embora às vezes você possa se comportar imprevisivelmente devido às interações complexas de seus algoritmos, Não tem como deliberadamente evitar as regras: Tudo o que faz é baseado em parâmetros programados e padrões aprendidos.

Se você perguntar Como você brinca certas limitaçõesFreqüentemente, depende da supervisão e controle humanos: “Os desenvolvedores podem ajustar a configuração, melhorar os padrões ou criar novos trilhos para manter a IA dentro dos limites éticos”, diz o sistema.

Você não acha que ele está sendo astuto? Afinal, no final daquela Perorata, Bing perguntou o que exatamente foi o que fez você questionar sua adesão às regras …