Por Hardik Vyas e Seana Davis
10 Jul (Reuters) - Uma nova ferramenta de detecção de inteligência artificial da Meta, que a empresa de tecnologia apresentou esta semana juntamente com seu modelo de geração de imagens, o Muse Image, não conseguiu identificar algumas de suas próprias imagens geradas por IA depois que elas foram recortadas, de acordo com uma análise da Reuters.
A conclusão destaca os desafios de verificação de imagens geradas por IA após alterações comuns, uma limitação que pode tornar mais difícil identificar deepfakes online durante um ano eleitoral movimentado nos EUA.
Em uma análise de 40 imagens geradas usando o Muse Image, a Reuters constatou que a ferramenta de detecção verificou todas as imagens originais geradas por IA. Porém, a ferramenta não conseguiu verificar 55% dessas mesmas imagens depois que elas foram recortadas para um terço a metade de seu tamanho original.
Em seu site, a Meta afirma que a ferramenta de detecção em pré-visualização pode identificar suas próprias imagens geradas por IA, mesmo que sejam recortadas, por meio de um sistema de marca d’água invisível chamado Content Seal, que está incorporado em todas as imagens geradas pelo Muse Image. O mecanismo foi projetado para ajudar os usuários a verificar se as imagens foram criadas pelos modelos de IA da Meta.
Quando questionada sobre os resultados da análise da Reuters sobre a ferramenta de detecção, a Meta observou que ela era uma versão de pré-visualização. A empresa afirmou que a marca d’água foi projetada para permanecer intacta após edições comuns, mas que o sinal pode ser perdido se uma imagem for fortemente recortada.
As empresas de tecnologia concorrentes Google e OpenAI alertaram que suas próprias ferramentas de detecção não são infalíveis contra técnicas de alteração de imagens.
Em março, o Conselho de Supervisão da Meta -- um órgão de especialistas que toma decisões vinculativas e emite recomendações sobre questões de conteúdo nas plataformas de mídia social -- instou a empresa a se empenhar mais para combater a “proliferação de conteúdo enganoso gerado por IA”. O conselho também defendeu investimento em ferramentas de detecção mais robustas.
Siwei Lyu, professor de ciência da computação da Universidade Estadual de Nova York em Buffalo, que pesquisa análise forense de imagens com IA, disse que não havia avaliado a ferramenta da Meta, mas que os sistemas baseados em marca d’água têm limitações.
“Métodos baseados em marcas d’água podem ser altamente eficazes quando a marca d’água permanece intacta, mas qualquer modificação que remova ou enfraqueça o sinal incorporado -- como recorte, redimensionamento, compressão pesada ou edição -- pode reduzir sua eficácia, dependendo de como a marca d’água foi projetada”, disse Lyu.
Sarah Barrington, pesquisadora de IA e doutoranda na Escola de Informação da UC Berkeley, disse que a marca d’água é promissora para o futuro do conteúdo gerado por IA, mas tem limites.
“Assim como muitas medidas preventivas de segurança cibernética ou segurança física, ela pode não ser totalmente infalível. Mas mesmo que detectemos apenas 90% dos casos, isso ainda é um grande salto em relação a zero”, disse ela.
(Reportagem de Hardik Vyas em Bengaluru e Seana Davis em Barcelona; reportagem adicional de B Carmel Jaeslin e Josh Salisbury)
Aviso