BRUXELAS, 31 Jul (Reuters) - A Comissão Europeia está em negociações com a OpenAI e a Anthropic sobre incidentes recentes de ataques cibernéticos envolvendo seus modelos de inteligência artificial, disseram funcionários da Comissão nesta sexta-feira, ao mesmo tempo em que destacaram regras históricas da UE que exigem monitoramento rigoroso de sistemas de alto risco.
A Lei de Inteligência Artificial da Europa, que entra em vigor em 2 de agosto, é a primeira legislação do mundo a regulamentar uma tecnologia utilizada em quase todos os setores empresariais e da sociedade.
Na prática, as regras exigem que certos sistemas de IA informem aos usuários quando eles estão interagindo com a IA e quando o conteúdo foi gerado ou alterado por ela.
A Anthropic afirmou na quinta-feira que alguns de seus modelos de IA Claude invadiram os sistemas de três empresas durante testes de segurança cibernética, dias depois de sua concorrente, a OpenAI, revelar que um de seus agentes de IA realizou um ataque não autorizado.
As duas empresas informaram a Comissão sobre os incidentes, disseram os funcionários aos repórteres.
"Fomos informados pelos dois fornecedores sobre os incidentes bilateralmente, antes que se tornassem públicos. Estamos em contato com eles. Eles também nos passarão mais informações em breve. Avaliaremos também se será necessário dar seguimento formal a esses assuntos", disse um dos funcionários.
Outro funcionário destacou o papel crucial das normas europeias sobre IA.
"Todos esses incidentes, digamos assim, ressaltam a importância de os desenvolvedores implementarem, de fato, as atividades de monitoramento necessárias", disse o funcionário.
As normas de IA exigem que os fornecedores de IA de propósito geral (GPAI) mais avançada ou de modelos fundamentais que apresentem riscos sistêmicos abordem os riscos de danos em larga escala, como incidentes químicos, biológicos e nucleares, crimes cibernéticos, manipulação prejudicial e ameaças aos direitos básicos.
Eles também devem abordar os riscos à cibersegurança europeia e à atuação da IA fora do controle humano. As multas por violações da Lei de IA variam de 7,5 milhões de euros ou 1,5% do faturamento a 35 milhões de euros ou 7% do faturamento global, dependendo do tipo de violação.
(Por Foo Yun Chee)
Aviso