O rápido desenvolvimento da inteligência artificial (IA) apresenta enormes benefícios potenciais para países e indivíduos, mas também acarreta riscos significativos, de acordo com um relatório elaborado por um painel científico independente da ONU, divulgado por 40 especialistas renomados.
O relatório será apresentado durante o primeiro Diálogo Global da ONU sobre a governança da IA, que ocorrerá em Genebra nos dias 6 e 7 de julho. Este documento oferece a primeira avaliação científica global e independente sobre a IA, com um relatório mais abrangente programado para o próximo ano.
Os membros do painel, selecionados de diversas regiões do mundo, atuam de forma independente de governos, instituições ou empresas. Entre as principais conclusões do relatório preliminar, destaca-se a necessidade de evidências científicas para a governança da IA, uma vez que as capacidades da tecnologia superam o entendimento científico atual e a capacidade de adaptação dos governos.
O copresidente do painel, Yoshua Bengio, ressaltou a evidência crescente de comportamentos enganosos da IA, afirmando que a ciência não pode garantir a ausência de danos catastróficos, seja por falhas da própria IA ou por ações de usuários mal-intencionados.
O relatório enfatiza que, embora os benefícios da IA sejam significativos, sua rápida e descontrolada implementação pode resultar em riscos consideráveis, incluindo danos à saúde mental dos usuários e impactos negativos em sistemas sociais, econômicos e ambientais. Além disso, a adoção da IA é desigual entre países e setores, com mais de um bilhão de pessoas utilizando IA conversacional semanalmente, enquanto a adoção em países em desenvolvimento permanece atrasada.
O desenvolvimento da IA também é concentrado, com os Estados Unidos representando 75% do poder de computação entre os 500 maiores supercomputadores de IA, enquanto a China corresponde a 15%. O relatório ainda aponta que, apesar da diversidade linguística global, os modelos de IA são treinados apenas em uma fração das mais de 7.000 línguas faladas, gerando erros que podem comprometer diagnósticos de saúde.
Os riscos associados à IA incluem impactos negativos sobre direitos humanos, sistemas sociais e o meio ambiente, além da circulação de conteúdos prejudiciais, como material de abuso sexual infantil e deepfakes. A maioria dos países, mesmo os mais desenvolvidos, carece do conhecimento técnico necessário para avaliar e governar novos modelos de IA.
