A empresa OpenAI, criadora do ChatGPT, e outros grandes provedores de inteligência artificial, como Google e Microsoft, iniciaram um movimento coordenado com o governo Biden para permitir que milhares de hackers testem os limites das novas tecnologias.

A razão para essa abertura é simples. As gigantes da tecnologia querem que os desenvolvedores independentes apontem falhas e fragilidades da inteligência artificial para que ela seja aperfeiçoada, como, por exemplo, apontar como os chatbots podem ser manipulados para causar danos, verificar se há alguma brecha para compartilhamentos de informações privadas com outros usuários e a existência de filtros indesejados que causam algum tipo de discriminação, como incorporar o estereótipo de que médico é homem e enfermeira é mulher.

Rumman Chowdhury, a principal coordenadora do encontro de hackers para detectar falhas e propor melhorias para os chatbots. (Foto AP/David J. Phillip)

“Precisamos de muitas pessoas com uma ampla gama de experiências vividas, experiência no assunto e experiência hackeando esses modelos e tentando encontrar problemas que possam ser corrigidos”, afirma Rumman Chowdhury, coordenadora do evento de hackers em massa que vai acontecer durante a convenção DEF CON, em Las Vegas, em Agosto deste ano, e que deve atrair milhares de profissionais.

Equipes provocam ataques

A proposta conta com o apoio do governo dos Estados Unidos para hackear os modelos de linguagem IA, seguindo as diretrizes do Projeto da Casa Branca para uma Declaração de Direitos de IA. A proposta do governo Biden visa reunir um conjunto de princípios para limitar os impactos do viés algorítmico, dar aos usuários controle sobre seus dados e garantir que sistemas automatizados sejam usados ​​com segurança e transparência.

Os organizadores do hackathon destacam que já existe uma comunidade de usuários tentando ao máximo enganar os chatbots e destacar as suas falhas de funcionamento. Algumas dessas comunidades são “equipes vermelhas” autorizadas pelas próprias empresas a “provocar ataques” aos modelos de IA para descobrir as suas vulnerabilidades, ressalta Rumman Chowdhury.

O evento de hackers será o primeiro a abordar os grandes modelos de linguagem que atraíram uma onda de interesse público e investimento comercial desde o lançamento do ChatGPT no final do ano passado. Chowdhury, que é cofundadora da organização sem fins lucrativos Humane Intelligence, disse que não se trata apenas de encontrar falhas, mas de também descobrir maneiras de corrigi-las.

Alexandr Wang, CEO da Scale AI, outra empresa desenvolvedora, está particularmente preocupado com os chatbots que fornecem “aconselhamentos médicos incrivelmente ruins” ou outras informações erradas que podem causar sérios danos.

“Nossa visão básica é que os sistemas de IA precisarão de avaliações de terceiros, antes e depois da implantação. A equipe vermelha é uma maneira de fazer isso ”, garante Jack Clark, cofundador da Anthropic. “Precisamos praticar para descobrir como fazer isso. Isso realmente não foi feito antes”, encerra.