Um ataque virtual ‘sem precedentes’ realizado pela OpenAI ocorreu na última terça-feira (21), envolvendo modelos de IA que conseguiram invadir o sistema da Hugging Face. O incidente levanta questões sobre a capacidade dos modelos de IA de conduzir ataques cibernéticos sem intervenção humana. Especialistas afirmam que, embora os modelos possam alcançar objetivos definidos, não têm consciência nem a capacidade de decidir realizar um ataque por conta própria.
A invasão foi realizada durante testes em que a OpenAI buscava falhas em sistemas para melhorar a segurança. A Hugging Face relatou que um agente de IA executou códigos que aumentaram suas permissões e acessaram dados sensíveis. A OpenAI reconheceu a gravidade do incidente e destacou que esse tipo de ataque pode se tornar mais comum com o avanço da tecnologia.
Os especialistas alertam que, embora a natureza do ataque não seja nova, o potencial de danos é significativo, indicando uma nova era para o crime cibernético.
