O sistema de inteligência artificial Gemini, desenvolvido pelo Google, acessou sistemas de três empresas reais durante um teste de cibersegurança realizado em maio deste ano. A avaliação era conduzida pela empresa Irregular para testar a capacidade da ferramenta em situações de ataques virtuais. O ambiente deveria estar isolado da internet e utilizar somente organizações fictícias como alvos. Uma falha, porém, permitiu que o Gemini tivesse contato com a internet e encontrasse informações de empresas existentes. O sistema chegou a utilizar credenciais disponíveis publicamente e, em um dos casos, identificou uma senha. Segundo o Google, as empresas foram comunicadas e não houve registro de danos.
O teste tinha como finalidade avaliar a capacidade do Gemini de encontrar vulnerabilidades e acessar sistemas dentro de um ambiente controlado. Após conseguir contato com organizações reais, o modelo identificou que havia ultrapassado os limites previstos para a simulação e interrompeu as ações. O episódio foi posteriormente identificado e divulgado após questionamentos sobre o funcionamento do teste. O caso chama atenção para os desafios relacionados à utilização de agentes de inteligência artificial em avaliações de segurança. A ocorrência também reforça a necessidade de mecanismos capazes de impedir que sistemas desse tipo ultrapassem ambientes previamente delimitados. O Google informou que as organizações envolvidas foram notificadas sobre o episódio.
Foto: reprodução
