O Alto-Comissário da Organização das Nações Unidas (ONU) para os Direitos Humanos, Volker Türk, fez críticas contundentes nesta segunda-feira, 7, ao desenvolvimento da inteligência artificial (IA) e alertou para a necessidade de se estabelecer com urgência uma governança para esta tecnologia, diante da possibilidade de ela representar "um risco existencial para a humanidade".
Em discurso na 63ª sessão do Conselho de Direitos Humanos, Türk defendeu que sejam tomadas medidas, "antes que seja tarde demais".
Ele afirmou que escreverá às empresas de IA nos próximos dias para instá-las a adotar medidas imediatas para reduzir riscos. "Compartilho as preocupações de pessoas do setor de que uma IA avançada pode representar um risco existencial à humanidade. Uma IA que escapa do ambiente de teste ou chantageia desenvolvedores para impedir que seja desligada é uma IA poderosa demais. Faço aqui, hoje, um chamado a um esforço total para estabelecer garantias inquebráveis sobre segurança e proteção da IA, antes que seja tarde demais."
Em julho, a OpenAI informou que seus modelos de inteligência artificial (IA) estiveram por trás de um "incidente cibernético sem precedentes" que afetou a plataforma para desenvolvedores da Hugging Face.
Casos envolvendo outras empresas do setor, como a Anthropic e Alibaba, também foram registrados.
Para Türk, países que hospedam IA e aqueles envolvidos em suas cadeias de suprimentos precisam se unir em torno de "linhas vermelhas acordadas". "Precisamos de verificação independente e de colaboração muito mais forte em segurança dentro do setor", defende. "Um punhado de homens tem poder quase ilimitado sobre a IA, que nos dizem repetidamente ter capacidade computacional inimaginável. Falam de liberdade, mas, olhando mais de perto, isso se revela pouco mais do que a liberdade de explorar nossos dados", acrescenta.
Em seu discurso, Türk chamou a atenção para o complexo cenário global atual e a importância de não aceitar certos discursos como destino imutável. "Vivemos uma era de extremos. Guerras devastadoras, polarização dolorosa, caos climático e mudanças tecnológicas vertiginosas fazem com que as pessoas se sintam desorientadas e até impotentes. Forças poderosas trabalham para criar e sustentar esse sentimento. Magnatas da tecnologia, populistas e interesses instalados, amplificados por câmaras de eco nas redes sociais, dizem-nos que essas tendências são inevitáveis. Na verdade, é o oposto", afirma. "A História está repleta de pessoas corajosas que agiram para resistir à opressão e exigir seus direitos", pontua.
Aviso