OpenAI lança ferramenta para detectar imagens criadas por inteligência artificial

A OpenAI anunciou nesta semana duas novas iniciativas voltadas ao combate à desinformação produzida por inteligência artificial, em meio ao avanço dos chamados “deepfakes” e à crescente dificuldade de distinguir imagens reais de conteúdos fabricados digitalmente.

A empresa responsável pelo ChatGPT informou, na terça-feira (19), uma parceria com a Google para incorporar o sistema de marca d’água invisível SynthID em todas as imagens geradas por suas ferramentas de IA. Além disso, lançou uma ferramenta pública de verificação capaz de indicar se determinada imagem foi criada com tecnologia da OpenAI.

A nova plataforma funciona a partir de dois sinais principais: o próprio SynthID e o padrão aberto C2PA, tecnologia que adiciona metadados capazes de informar a origem de arquivos produzidos por inteligência artificial. Segundo a OpenAI, a combinação dos dois sistemas busca aumentar a confiabilidade da identificação, especialmente em conteúdos manipulados ou redistribuídos nas redes sociais.

Em comunicado publicado em seu blog oficial, a companhia afirmou que “marcas d’água podem resistir melhor a transformações como capturas de tela, enquanto os metadados fornecem mais informações do que a marca d’água isoladamente. Juntos, os dois sistemas tornam a rastreabilidade mais resiliente”.

A ferramenta de verificação, no entanto, ainda possui alcance limitado. Por enquanto, ela consegue detectar apenas imagens geradas por produtos ligados diretamente à OpenAI, como ChatGPT, Codex e APIs da empresa. A companhia afirma que pretende ampliar a compatibilidade para outros sistemas de inteligência artificial futuramente.

O anúncio ocorre em um momento de rápida popularização de geradores de imagem por IA, cada vez mais sofisticados e acessíveis ao público. A evolução tecnológica tem dificultado a identificação de conteúdos falsos, especialmente em contextos políticos, eleitorais e de desinformação online.

Especialistas do setor avaliam que as novas medidas podem representar um avanço importante na tentativa de aumentar a transparência digital. Ainda assim, há dúvidas sobre o impacto prático da iniciativa diante da grande quantidade de imagens produzidas por plataformas menos conhecidas ou sem mecanismos de rastreabilidade.

O padrão C2PA foi criado em 2021 pela Coalition for Content Provenance and Authenticity, organização sem fins lucrativos formada por empresas de tecnologia e mídia para reduzir os efeitos nocivos de conteúdos manipulados digitalmente no debate público. Embora já tenha sido adotado por diferentes produtos do Google, sua implementação ainda é considerada irregular no setor.

Uma das limitações do C2PA está justamente nos metadados, que podem ser removidos ou alterados com relativa facilidade. O SynthID, desenvolvido pela divisão Google DeepMind, tenta contornar esse problema ao inserir sinais invisíveis diretamente na imagem, capazes de sobreviver a recortes, redimensionamentos e outras manipulações digitais.

Para utilizar a nova ferramenta da OpenAI, o usuário precisa enviar uma única imagem nos formatos PNG, JPG ou WEBP. Em seguida, o sistema analisa a presença de metadados C2PA ou da marca invisível SynthID. A empresa recomenda evitar capturas excessivamente recortadas ou arquivos com múltiplas imagens para melhorar a precisão da análise.

Em testes realizados com imagens produzidas pelo modelo Images 2.0 — lançado pela OpenAI em abril deste ano —, o sistema não conseguiu confirmar a origem do conteúdo. A resposta exibida foi: “Não encontramos evidências de que o conteúdo tenha sido gerado com ferramentas da OpenAI. No entanto, ele ainda pode ter sido criado por IA”.

O resultado evidencia um dos principais desafios enfrentados atualmente pelas empresas de tecnologia: criar mecanismos de autenticação que acompanhem a velocidade de evolução das ferramentas de geração artificial de conteúdo.