Geoffrey Hinton adverte que os sistemas artificiais poderão se tornar mais inteligentes que o homem
O cientista Geoffrey Hinton, considerado o padrinho da inteligência artificial, em entrevista ao New York Times, alertou sobre os crescentes perigos dos desenvolvimentos na área da tecnologia digital. Hinton ressaltou como “bastante assustadores” alguns dos perigos dos chatbots de IA. “Neste momento, eles não são mais inteligentes do que nós, pelo que sei. Mas acho que logo poderão ser”, afirmou .
O cientista da computação e psicólogo cognitivo foi o responsável pela pesquisa pioneira sobre redes neurais artificiais e aprendizado profundo, que abriu caminho para os atuais sistemas de inteligência artificial. Desde 2013, ele dividia seu tempo trabalhando para o Google, de onde acaba de se demitir, e realizando pesquisas na Universidade de Toronto, no Canadá.
Geoffrey Hinton, que contribuiu para desenvolver a tecnologia de aprendizado das máquinas, declarou que os chatbots podem em breve ultrapassar o nível de informação que o cérebro humano contém. Tal como Einstein, cujos conhecimentos foram apropriados para a criação da bomba atômica, Hinton se preocupa com o mau uso que algumas pessoas estariam fazendo da inteligência artificial para criar coisas ruins. “Este é apenas um cenário de pior caso, uma espécie de cenário de pesadelo. “Você pode imaginar, por exemplo, algum mau ator como [o presidente russo Vladimir] Putin decidir dar aos robôs a capacidade de criar seus próprios sub-objetivos”, supôs o cientista.
Já estamos na fase da AGI – inteligência artificial geral – que pode ser treinada para fazer várias coisas dentro de uma missão, com possibilidades infinitas. (Foto: Andrea De Santis/Unsplash)
O especialista em redes neurais explica que um sub-objetivo pode ser altamente destrutivo, como, por exemplo, a criação do comando “preciso obter mais energia”, o que, para o chatbot, pode ser processado como um valor absoluto que precisa ser alcançado a qualquer custo.
“Cheguei à conclusão de que o tipo de inteligência que estamos desenvolvendo é muito diferente da inteligência que temos. Somos sistemas biológicos e estes são sistemas digitais. E a grande diferença é que com os sistemas digitais, você tem muitas cópias do mesmo conjunto de pesos, o mesmo modelo do mundo. E todas essas cópias podem aprender separadamente, mas compartilham seu conhecimento instantaneamente. Portanto, é como se você tivesse 10 mil pessoas e sempre que uma pessoa aprendesse algo novo, todos automaticamente soubessem. E é assim que esses chatbots podem saber muito mais do que qualquer pessoa”, explicou Hinton.
Matt Clifford, presidente da Agência de Pesquisa e Invenção Avançada do Reino Unido, comentou o anúncio feito por Geoffrey Hinton. Para ele, o anúncio do cientista destaca a velocidade em que as capacidades da inteligência artificial estão se desenvolvendo e em qual direção está indo. “Há uma enorme vantagem dessa tecnologia, mas é essencial que o mundo invista forte e urgentemente em segurança e controle de IA”, disse Clifford.
Em uma carta aberta, publicada em março deste ano, dezenas de pesquisadores e investidores da área de inteligência artificial, incluindo o bilionário Elon Musk – pediram uma pausa em todos os desenvolvimentos mais avançados do que a versão atual do ChatGPT para que medidas de segurança robustas pudessem ser projetadas e implementadas para a segurança da própria humanidade.
