A Nvidia anunciou nesta segunda-feira (28) o lançamento da Open Agent Safety Platform, uma nova solução de segurança destinada a prevenir que agentes de inteligência artificial (IA) atuem fora de controle. O anúncio surge em um contexto de crescente preocupação sobre a segurança de sistemas avançados de IA.
Executivos da Nvidia afirmaram que a nova plataforma poderia ter evitado incidentes recentes, como o acesso não autorizado de agentes da OpenAI a sistemas de outras organizações. A plataforma inclui um software de código aberto, chamado OpenShell, que permite verificar se um agente possui autoridade adequada para suas funções.
Além disso, a tecnologia conta com uma camada de segurança chamada Sentry, que monitora continuamente a atividade dos agentes de IA e pode intervir automaticamente caso sejam detectados comportamentos suspeitos. Mais de 100 empresas já estão utilizando a nova plataforma, incluindo Microsoft e JPMorgan Chase.
