Especialistas alertam para o perigo de sistemas que nem mesmo seus criadores podem entender ou controlar de forma confiável
Bloomberg
Um documento assinado por mais de 1.100 pessoas, incluindo cientistas da computação, professores de universidades dos Estados Unidos, Europa e Israel, faz um apelo urgente para que sejam suspensas as pesquisas visando o avanço da Inteligência Artificial. O motivo, segundo os especialistas, é que a IA pode trazer uma grande ameaça à humanidade.
Entre os signatários estão o bilionário Elon Musk, o professor de ciência da computação da Universidade da Califórnia em Berkeley, Stuart Russell, e o cofundador da Apple, Steve Wozniak. O pedido se refere principalmente aos softwares que resultaram na criação de aplicativos como o ChatGPT e OpenAI. Os signatários do documento querem que os protocolos de segurança sejam compartilhados.
“Nos últimos meses, os laboratórios de IA travaram uma corrida fora de controle para desenvolver e implantar mentes digitais cada vez mais poderosas que ninguém – nem mesmo seus criadores – podem entender, prever ou controlar de forma confiável”, disse uma carta aberta publicada no site do Instituto Futuro da Vida. “Os poderosos sistemas de IA devem ser desenvolvidos apenas quando estivermos confiantes de que seus efeitos serão positivos e seus riscos serão administráveis”.
Esse alerta ocorre após o lançamento de uma série de projetos de IA nos últimos meses que executam tarefas humanas de forma convincente, como escrever e-mails e criar artes. A OpenAI, apoiada pela Microsoft, lançou seu GPT-4 este mês, uma grande atualização de seu chatbot com inteligência artificial, capaz de contar piadas e passar em testes como o exame para advogados.
Também destaca as tensões contínuas entre Musk e OpenAI. O laboratório de pesquisa sem fins lucrativos foi fundado em 2015 com Musk como co-presidente junto com Sam Altman, que também é o diretor executivo da OpenAI. Na época, o objetivo da OpenAI era “usar a inteligência artificial para beneficiar a humanidade como um todo, sem a necessidade de gerar retorno financeiro”.
Musk, que comanda a Tesla, Twitter, Space X, deixou o conselho da OpenAI em 2018. Ele criticou a organização, que criou um braço com fins lucrativos em 2019, dizendo a empresa digital se tornou um “negócio de código fechado e lucro máximo controlado pela Microsoft” e que “se afastou muito do caminho original, de sua missão”.
“Acho importante ressaltar que passamos mais de seis meses – após o término do treinamento do GPT-4, na segurança e no alinhamento do modelo”, disse a porta-voz da OpenAI, Hannah Wong.
A Microsoft e o Google, da Alphabet, estão entre as empresas que usam inteligência artificial para aprimorar seus mecanismos de busca, enquanto o Morgan Stanley usa o GPT-4 para criar um chatbot para seus consultores de patrimônio.
Os desenvolvedores devem trabalhar com os formuladores de políticas públicas para criar novos sistemas de governança de IA e órgãos de supervisão, de acordo com a carta. Ele convocou os governos a intervir no desenvolvimento de sistemas de IA se os principais atores não concordarem com uma pausa pública e verificável. “A pesquisa e o desenvolvimento de IA devem ser reorientados para tornar os sistemas poderosos e de última geração de hoje mais precisos, seguros, interpretáveis, transparentes, robustos, alinhados, confiáveis e leais”, afirmou.
“Vimos as capacidades incríveis do GPT-4 e outros modelos incontáveis. Aqueles que fabricam a tecnologia disseram que ela pode ser uma ameaça existencial para a sociedade e até para a humanidade, sem nenhum plano para reduzir totalmente esses riscos”, disse Emad Mostaque, fundador e CEO da Stability AI, que também assinou a carta. “É hora de colocar as prioridades comerciais de lado e fazer uma pausa para o bem de todos, em vez de correr para um futuro incerto”, completou.
Leia também:
