Uma foto do papa Francisco de jaqueta branca viralizou na internet nos últimos dias. A montagem foi criada pela inteligência artificial. Inicialmente postada na rede social, Reddit, em poucos horas já atingiu milhões de visualizações. Para criar a imagem a IA utilizou a ferramenta: Midjourney que consegue trocar rostos de pessoas em vídeos e fotos, sincronizar movimentos labiais, expressões e demais detalhes, com resultados impressionantes e bem convincentes.

O criador original da deepfake do papa é um usuário do Reddit, que foi suspenso do site. O Buzzfeed News identificou o criador como Pablo Xavier, um trabalhador da construção civil de 31 anos. Ele se recusou a compartilhar seu sobrenome, com medo de ser atacado. “Fiquei maravilhado”, disse Xavier depois que as fotos se tornaram virais.

“Eu só achei engraçado ver o papa com uma jaqueta. É definitivamente assustador, as pessoas estão divulgando isso e pensando que é real sem questionar,” afirmou Pablo Xavier, que viu a imagem sendo usada para criticar a igreja por seus gastos excessivos.

Alguns detalhes distorcidos da imagem criada pela inteligência artificial. (Crédito: Pablo Xavier)

Como diferenciar imagens

Embora convincentes, as imagens de IA atuais tendem a desmoronar quando observados os detalhes – especialmente olhos, mãos e roupas. Esta foto do papa, por exemplo. A sombra da armação do óculos está distorcida e parece que a lente está se fundindo com a bochecha e perfurando sua pálpebra.

A mão direita dele está segurando o ar acima de uma xícara de café flutuante e distorcida. A Inteligência Artificial ainda luta para representar as mãos, muitas vezes desenhando-as com dedos distorcidos. A versão mais recente do Midjourney corrigiu o problema, mas ainda apresenta defeitos com os dedos interagindo com o ambiente.

Isso ocorre em parte porque o gerador de imagens funciona misturando tópicos sem entender exatamente como eles se encaixam – ele não tem noção de física ou gravidade, explicando o copo flutuante. Outro defeito da imagem é o crucifixo do papa, o objeto está sem metade da corrente e torto, além disso as dobras da roupa em volta do colarinho estão enroscadas.

No entanto, essas dicas podem ficar desatualizadas em breve. A tecnologia de IA está se desenvolvendo em um ritmo acelerado e evolui todos os dias. Os pesquisadores estão trabalhando em sistemas de detecção, mas os disponíveis não são muito precisos. À medida que os deepfakes se tornam cada vez mais convincentes ao longo do tempo, uma coisa ficou clara: ver não é mais acreditar.