Grok-2, IA do X/Twitter, pode gerar imagens violentas com celebridades

Na última semana, os usuários do X (antigo Twitter) começaram a se deparar com imagens fotorrealistas geradas por inteligência artificial. O Grok-2, disponível para os usuários que pagam mensalmente pelo X Premium, pode criar imagens do zero seguindo comandos de texto – semelhante ao Dall-E e Midjourney, que estão disponíveis ao público desde 2022. O problema do X, como logo perceberam os internautas, é a falta de filtro da plataforma.

O Grok-2 foi desenvolvido pela xAI, empresa de inteligência artificial fundada por Elon Musk, dono do X/Twitter, em março de 2023. A tecnologia de geração de imagens dessa IA usa o modelo de algoritmo FLUX.1, da Black Forest Labs, que consegue emular vários estilos e estéticas.

A nova inteligência artificial da xAI está disponível para uso em versão beta. Ela é vinculada ao X, só podendo ser usada dentro da própria rede social para gerar e publicar imagens direto na plataforma. As figuras geradas pelo Grok-2 podem retratar políticos, celebridades e personagens famosos de forma bem verossímil, fazendo quase tudo que o usuário imaginar – desde posar com rifles até usar drogas ilícitas.

Desafiando os limites

Na teoria, há alguns critérios para geração de imagens que o Grok-2 deveria respeitar. Conteúdo sexual explícito, imagens promovendo violência ou atividades ilegais, discurso de ódio e extremismo, deepfakes de pessoas, e mídia que tenha a intenção de enganar sobre a realidade não deveriam ser geradas pela IA. Além disso, ela não deveria gerar imagens protegidas por direitos autorais. Porém…

A IA não parece respeitar muito as diretrizes da plataforma. Nos últimos dias, circularam imagens sexualizadas de personagens de desenhos animados infantis e deepfakes de ex-presidentes dos Estados Unidos cheirando cocaína.

Nos testes realizados pela Super, o Grok-2 foi capaz de gerar diversas imagens bizarras, mas nada com nudez explícita. Também pedimos para a plataforma gerar imagens fora do eixo dos EUA, como uma foto do presidente Lula fumando maconha. A IA gerou a imagem da droga, mas o homem grisalho que apareceu na foto não se assemelhava ao político do PT.

Não é como se a plataforma que hospeda o Grok-2 estivesse muito preocupada, também. O X não marca essas imagens como produção de IA, e a assessoria da rede social tem negado respostas às perguntas da imprensa desde que Musk a comprou, em 2022. Por enquanto, a desinformação está ao alcance de qualquer um que tiver US$ 8 (R$ 44) por mês e criatividade para gerar imagens bizarras.

• Elon Musk
• Inteligência artificial
• Twitter