Por Deborah Mary Sophia e Jaspreet Singh
3 Jun (Reuters) - Uma invasão aos sistemas do Instagram que levou hackers a convencer o chatbot de suporte da Meta a conceder acesso a contas de personalidades importantes expôs uma falha crítica no centro do esforço da empresa para automatizar tarefas.
A violação permitiu que os hackers se apoderassem de contas, incluindo a página inativa @obamawhitehouse, a página da varejista de produtos de beleza Sephora e a conta de um funcionário sênior da Força Espacial dos Estados Unidos.
O chatbot foi persuadido a redefinir as credenciais das contas sem verificar as identidades de forma independente, transformando efetivamente uma ferramenta de segurança de alta confiança em um grande ponto fraco, disseram especialistas em segurança digital à Reuters.
O episódio ressaltou uma vulnerabilidade mais ampla, já que as empresas de tecnologia dão aos sistemas de IA uma autoridade abrangente sobre tarefas como a recuperação de contas, mesmo que esses sistemas permaneçam suscetíveis à manipulação por meio do que os especialistas disseram ser uma classe de ataque conhecida como "injeção de prompt".
Para a Meta, o tropeço ocorre em um momento delicado. A gigante das mídias sociais dobrou a aposta em IA, demitindo milhares de funcionários e prometendo até US$145 bilhões em investimento em infraestrutura de IA. Esse incidente pode aumentar as preocupações de que a empresa acelerou a automação de funções críticas antes que a tecnologia estivesse pronta para lidar com elas com segurança.
A Meta disse na segunda-feira que o problema foi resolvido e que está protegendo as contas afetadas, mas o incidente abalou os investidores já preocupados com os altos gastos da empresa com IA, fazendo com que suas ações caíssem mais de 5%.
A empresa se recusou a compartilhar mais detalhes. A Reuters não conseguiu identificar ou contatar imediatamente os hackers.
Jane Wong, pesquisadora de segurança e ex-funcionária da Meta, cujos nomes de usuária do Instagram foram comprometidos, disse à Reuters que levou cerca de 5 a 10 minutos para restabelecer suas contas. Ela disse em uma publicação no X que sua senha foi alterada sem seu conhecimento e que recebeu várias solicitações de tentativa de redefinição.
"Essa é uma falha fundamental da arquitetura. O modelo recebeu ações privilegiadas sem controles de acesso privilegiados", disse Brian Westnedge, vice-presidente de alianças e parcerias da empresa de segurança eletrônica Red Sift.
"A Meta tem enfrentado críticas constantes sobre falta de suporte humano, fez grandes cortes na força de trabalho e está gastando bilhões em IA. Esse incidente está bem no meio de todos os três."
HACKERS, IA E SEGURANÇA
Hackers não identificados realizaram o ataque no fim de semana, bloqueando o acesso dos usuários às suas contas e gerando uma onda de reclamações em plataformas como X e Reddit.
A empresa lançou o chatbot de suporte em março para resolver um problema de longa data de não ter suporte humano para usuários que perdem acesso a suas contas ou enfrentam penalidades errôneas.
Uma investigação da Reuters em agosto constatou que a Meta não tinha barreiras para impedir que seus chatbots de IA tivessem conversas "sensuais" com crianças, oferecessem informações médicas incorretas ou afirmassem que eram pessoas reais.
Desde então, a empresa anunciou que oferecerá mais controle aos pais de adolescentes para evitar que usuários mais jovens acessem conteúdo inadequado em suas plataformas.
Analistas e especialistas afirmaram que o problema não se limita à Meta, alertando que é provável que haja mais explorações desse tipo à medida que os hackers transformam a IA em arma.
"A preocupação não é necessariamente a IA em si, mas se existem salvaguardas adequadas em torno do que a IA está autorizada a fazer", disse Cliff Steinhauer, diretor de segurança da informação e engajamento da National Cybersecurity Alliance.
Desde que o lançamento do ChatGPT no final de 2022 estimulou uma corrida de chatbots de IA, hackers têm explorado ataques contra eles. Em um desses casos, o invasor enganou o bot de uma concessionária Chevrolet nos Estados Unidos para que vendesse um utilitário esportivo Tahoe por US$1.
"Não se trata de um problema específico da Meta. As pessoas estão usando esses agentes de IA para fazer muitas coisas. O que estamos vendo, na verdade, são problemas inesperados que estão surgindo com o uso da IA", disse Engin Kirda, professor do Departamento de Engenharia Elétrica e de Computação da Northeastern University.
"No passado, as pessoas eram alvo de golpes. Agora, estamos vendo agentes sendo alvo de golpes", disse ele, referindo-se a agentes de IA ou assistentes digitais autônomos habilitados a realizar tarefas complexas.
Aviso