Por Zaheer Kachwala
15 Jun (Reuters) - Líderes de cibersegurança de grandes empresas norte-americanas, incluindo Nvidia e Adobe, pediram ao governo Trump que suspenda as restrições aos modelos de IA mais poderosos da Anthropic, argumentando que as proibições dificultam os esforços para impedir a disseminação de ataques digitais.
A carta surge na sequência da decisão de Washington, na sexta-feira, que ordenou à Anthropic a suspensão do acesso aos seus modelos Fable 5 e Mythos 5 para quaisquer cidadãos estrangeiros, devido a preocupações de segurança nacional.
Após ter alertado anteriormente sobre as capacidades de hacking de seu modelo Mythos e tê-lo retido de um lançamento amplo para evitar possíveis danos, a Anthropic lançou na semana passada uma versão pública chamada Fable, com o que descreveu como salvaguardas de segurança cibernética.
As restrições que Washington impôs à tecnologia limitarão a capacidade da indústria de segurança cibernética de encontrar e corrigir falhas de software em um momento em que outras ferramentas de IA estão facilitando a exploração de vulnerabilidades por hackers, de acordo com uma carta assinada no domingo por mais de 50 líderes de segurança.
A carta afirmava que os modelos da Anthropic não eram os únicos capazes de encontrar falhas de segurança e explorar vulnerabilidades, sendo que modelos concorrentes, incluindo o Kimi 2.7 da China, ofereciam capacidades semelhantes.
"O Mythos é quase certamente o melhor modelo atualmente para encontrar falhas e códigos de segurança, mas é como um avanço incremental em relação a outros modelos que já estão disponíveis", disse Joshua Saxe, CTO da empresa de segurança de IA Abundant Security e um dos signatários da carta, em entrevista.
CORDA BAMBA
Membros seniores da equipe da Anthropic têm uma reunião agendada com autoridades governamentais no Departamento de Comércio dos EUA, em Washington, na segunda-feira, informou à Reuters um funcionário do governo Trump.
A Anthropic afirmou que o governo acredita haver uma maneira de contornar, ou "quebrar", uma salvaguarda que impede o uso do Fable para identificar vulnerabilidades de software. Argumentou que um potencial "jailbreak" limitado não deveria ser motivo para cortar o acesso a um modelo usado por centenas de milhões de pessoas.
A carta reiterou esse ponto, afirmando que a Anthropic já construiu proteções robustas e que a retirada dessas capacidades poderia ser "perigosa", visto que os modelos de código aberto da China estão apenas alguns meses atrás dos melhores modelos norte-americanos, e Pequim provavelmente tem acesso a capacidades além daquelas que são publicamente conhecidas.
Qualquer regulamentação precisa ser baseada em evidências, claramente definida e aplicada de forma consistente, e "nenhum desses padrões foi seguido aqui", disse Alex Stamos, outro signatário que atua como diretor de produtos da Corridor.
"Esta é uma reação exagerada do governo", disse ele, acrescentando que houve uma disputa entre a Anthropic e a terceira parte que levantou a questão sobre a gravidade das conclusões, com base em suas conversas com os envolvidos.
A empresa de cibersegurança CrowdStrike na semana passada disse que hackers ligados à China representaram a maior ameaça de espionagem para empresas de tecnologia no último ano.
A empresa de IA avaliada em US$965 bilhões, que está se preparando para abrir seu capital, já teve desentendimentos com o governo dos EUA sobre o acesso aos seus modelos e o impacto deles na segurança nacional.
No início deste ano, o governo Trump ordenou que as agências americanas parassem de trabalhar com a Anthropic e a declarou um risco para o fornecimento de sua tecnologia, devido à sua relutância em permitir que ela fosse usada para vigilância em massa e armas autônomas.
Aviso