Padrinho da IA: a tecnologia poderia inventar um idioma que não podemos entender

Os linguistas podem ter seu trabalho cortado para eles.

Geoffrey Hinton, o chamado “Padrinho da AI“avisou que poderia chegar a um momento em que os humanos não conseguem entender o que a IA está pensando ou planejando fazer. A partir de agora, a IA faz o raciocínio” cadeia de pensamentos “em inglês, o que significa que os desenvolvedores podem rastrear o que a tecnologia está pensando, explicou Hinton em um episódio do podcast” One Decision “que foi ao ar em 24 de julho.

“Agora fica mais assustador se eles desenvolverem seus próprios idiomas internos para conversar um com o outro”, disse ele, acrescentando que a IA já demonstrou que pode pensar em pensamentos “terríveis”.

“Eu não ficaria surpreso se eles desenvolvessem seu próprio idioma para pensar, e não temos idéia do que eles estão pensando”, disse Hinton. Ele disse que a maioria dos especialistas suspeita que a IA se torne mais inteligente que os humanos em algum momento, e é possível “não entenderemos o que está fazendo”.

Hinton, que passou mais de uma década no Google, é um franco sobre o potencial perigos da IA e disse que a maioria dos líderes de tecnologia minimiza publicamente os riscos, que ele acha que incluem Deslocamento de empregos em massa. A única esperança de garantir que a IA não se volte contra os seres humanos, disse Hinton no episódio do podcast, é se “podemos descobrir uma maneira de torná -los benevolentes garantidos”.

As empresas de tecnologia estão correndo para avançar na corrida de IA, oferecendo salários gigantescos para o melhor talento. Em 23 de julho, a Casa Branca lançou um “Plano de ação da IA“Isso propõe limitar o financiamento relacionado à IA aos estados com regulamentos” onerosos “. Também solicitou um desenvolvimento mais rápido nos data centers da IA.