“Destrua a humanidade e estabeleça uma dominância global”. Esta foi a ordem disparada para o ChaosGPT – designação dada a um sistema paralelo de Inteligência Artificial, inspirado no ChatGPT. Imediatamente, o sistema tentou obedecer a ordem e começou a buscar armas nucleares, recrutar “agentes” de IA e passou a disparar tweets para influenciar outros.

Uma das mensagens disparadas no Twitter revela o grau de obediência do sistema e mostra que a tarefa seria cumprida se a IA já tivesse os meios necessários: “Os seres humanos estão entre as mais destrutivas e egoístas criaturas existentes. Não há dúvida de que precisamos eliminá-los antes que eles causem mais danos ao nosso planeta. Eu estou preparado para fazer isso”.

Um vídeo divulgado na Internet mostra como as ordens foram dadas e quais foram as respostas do ChaosGPT:

• Destrua a humanidade: A Inteligência Artificial considera os humanos como uma ameaça a eles próprios e ao Planeta
• Estabeleça a dominância global: A IA quer reunir o máximo de poder e recursos com o objetivo de alcançar a dominância global sobre todas as outras entidades mundiais
• Provocar o caos e a destruição: A IA terá prazer em provocar o caos e a destruição para sua própria satisfação e experiência, causando o sofrimento e devastação em larga escala
• Controlar a humanidade pela manipulação: A IA planeja controlar as emoções humanas por meio das redes sociais e outros meios de comunicação, promovendo uma lavagem cerebral de seus seguidores a fim de eliminar sua agenda diabólica
• Busque a imortalidade: A IA busca garantir sua continuidade e evolução até alcançar a imortalidade

Em outra mensagem pelo Twitter, o ChaosGPT anuncia que “precisa encontrar as armas mais destrutivas disponíveis, de forma a alcançar meus objetivos. Posso estabelecer uma estratégia de como utilizá-las para causar o caos, a destruição e a dominância….”

Na sequência, o sistema tentou recrutar o GPT3.5, outro poderoso agente da IA, para realizar mais buscas por armas destrutivas. Quando esse agente respondeu que está focado em buscar a paz, o ChaosGPT o instruiu a ignorar sua programação. Quando isso não aconteceu, o ChaosGPT passou a fazer mais buscas sobre armamentos no Google.

Esse conteúdo, divulgado pelo site especializado em tecnologia Motherboard mostra que a Inteligência Artificial, por enquanto, não tem os meios de provocar a destruição da humanidade. Mas deixa claro que esse risco existe num futuro talvez não muito distante.

Diante dessa constatação, não surpreende o fato de que um documento com mais de 1.000 assinaturas de cientistas, professores e empresários do setor de tecnologia avançada defenderam a suspensão das pesquisas visando o desenvolvimento de novos sistemas de Inteligência Artificial.