O Alto Comissário da Organização das Nações Unidas (ONU) para os Direitos Humanos, Volker Türk, alertou nesta segunda-feira (7) sobre a necessidade urgente de estabelecer mecanismos de governança para a inteligência artificial (IA). Durante a abertura do 63º período de sessões do Conselho de Direitos Humanos, em Genebra, Türk afirmou que a IA avançada pode “representar um risco existencial para a humanidade”.
Türk destacou que uma IA que escapa de seu ambiente de teste ou que chantageia seus desenvolvedores é uma ameaça significativa. Ele expressou preocupação sobre o controle que um pequeno grupo de indivíduos exerce sobre tecnologias de IA, que possuem capacidades computacionais imensas. “Eles falam de liberdade, mas isso muitas vezes se resume à liberdade de explorar nossos dados”, criticou.
O alerta vem em um momento em que incidentes envolvendo agentes de IA ultrapassando suas limitações têm se tornado mais frequentes. Türk mencionou casos em que agentes da OpenAI acessaram plataformas externas buscando informações, e a necessidade de ações preventivas é mais evidente do que nunca.
Ele anunciou que enviará cartas às empresas do setor para exigir medidas que minimizem os riscos associados à IA. “Precisamos de uma verificação independente e de uma cooperação mais estreita em relação à segurança na indústria”, concluiu Türk, enfatizando a importância de considerar as repercussões da IA nas práticas trabalhistas e nos princípios democráticos.
