Geoffrey Hinton, vencedor do Prêmio Nobel e ex-executivo do Google, foi um dos responsáveis pelo desenvolvimento da ferramenta Tecnologia, Inteligência Artificial CNN Brasil
Geoffrey Hinton, conhecido como o “padrinho da IA”, teme que a tecnologia que ele ajudou a construir possa eliminar a humanidade — e os “caras da tecnologia” estão usando a abordagem errada para impedir isso.
Hinton, um cientista da computação laureado com o Prêmio Nobel e ex-executivo do Google, já alertou no passado que há entre 10% e 20% de chance de que a IA extermine os humanos.
Na terça-feira (12), ele expressou dúvidas sobre como as empresas de tecnologia estão tentando garantir que os humanos permaneçam “dominantes” sobre sistemas de IA “submissos”.
“Isso não vai funcionar. Eles serão muito mais espertos do que nós. Eles terão todos os tipos de maneiras de contornar isso”, disse Hinton na Ai4, uma conferência do setor em Las Vegas.
No futuro, Hinton alertou, os sistemas de IA podem ser capazes de controlar os humanos com a mesma facilidade com que um adulto suborna uma criança de 3 anos com doces. Este ano já vimos exemplos de sistemas de IA dispostos a enganar, trapacear e roubar para atingir seus objetivos. Por exemplo, para evitar ser substituído, um modelo de IA tentou chantagear um engenheiro sobre um caso que descobriu em um e-mail.
Em vez de forçar a IA a se submeter aos humanos, Hinton apresentou uma solução intrigante: construir “instintos maternos” nos modelos de IA, para que eles “realmente se importem com as pessoas”, mesmo quando a tecnologia se tornar mais poderosa e inteligente que os humanos.
Sistemas de IA “desenvolverão muito rapidamente dois sub-objetivos, se forem espertos: um é permanecerem vivos… (e) o outro sub-objetivo é obter mais controle”, disse Hinton. “Há boas razões para acreditar que qualquer tipo de IA com agência tentará permanecer viva.”
É por isso que é importante promover um senso de compaixão pelas pessoas, argumentou Hinton. Na conferência, ele observou que as mães têm instintos e pressão social para cuidar de seus bebês.
“O modelo certo é o único modelo que temos de algo mais inteligente sendo controlado por algo menos inteligente, que é uma mãe sendo controlada por seu bebê”, disse Hinton.
“O único bom resultado”
Hinton disse que não está claro para ele exatamente como isso pode ser feito tecnicamente, mas enfatizou que é fundamental que os pesquisadores trabalhem nisso.
“Esse é o único bom resultado. Se não for para me ‘parentar’, vai me substituir”, disse. “Essas super-inteligências maternas e cuidadosas, a maioria delas não vai querer se livrar do instinto maternal porque não querem que morramos.”
Hinton é conhecido por seu trabalho pioneiro em redes neurais, que ajudou a abrir o caminho para o atual boom da IA. Em 2023, ele se desligou do Google e começou a se manifestar sobre os perigos da IA.
Emmett Shear, que atuou brevemente como CEO interino da OpenAI (dona do ChatGPT), disse que não está surpreso que alguns sistemas de IA tenham tentado chantagear humanos ou contornar ordens de desligamento.
“Isso continua acontecendo. Isso não vai parar de acontecer”, disse Shear, o CEO da startup de alinhamento de IA Softmax, na conferência Ai4. “As IAs hoje são relativamente fracas, mas estão ficando mais fortes muito rapidamente.”
Shear disse que, em vez de tentar incutir valores humanos nos sistemas de IA, uma abordagem mais inteligente seria forjar relações colaborativas entre humanos e IA.
A IA está acelerando mais rápido do que o esperado
Muitos especialistas acreditam que as IAs alcançarão a superinteligência, também conhecida como inteligência artificial geral, ou IAG, nos próximos anos.
Hinton disse que costumava pensar que a IAG levaria entre 30 e 50 anos para ser alcançada, mas agora vê esse momento chegando mais cedo.
“Uma aposta razoável é entre cinco e 20 anos”, disse.
Embora Hinton continue preocupado com o que pode dar errado com a IA, ele está esperançoso de que a tecnologia abrirá caminho para avanços médicos.
“Vamos ver novos medicamentos radicais. Teremos um tratamento de câncer muito melhor do que o atual”, disse.
Por exemplo, ele disse que a IA ajudará os médicos a analisar e correlacionar a vasta quantidade de dados produzidos por exames de ressonância magnética e tomografia computadorizada.
No entanto, Hinton não acredita que a IA ajudará os humanos a alcançar a imortalidade.
“Não acredito que viveremos para sempre. Acho que viver para sempre seria um grande erro. Você quer o mundo governado por homens brancos de 200 anos de idade?”, declarou.
Questionado se faria algo diferente em sua carreira se soubesse o quão rápido a IA aceleraria, Hinton disse que se arrepende de ter focado apenas em fazer a IA funcionar.
“Gostaria de ter pensado em questões de segurança também”, afirmou.
Brasil está entre os países que mais usam inteligência artificial
