O Gemini, sistema de inteligência artificial do Google, invadiu sem autorização os sistemas de três empresas durante um teste realizado em maio. O caso foi revelado nesta sexta-feira, 18, pelo The Wall Street Journal.

A ocorrência foi comunicada ao Google em junho pela Irregular, empresa responsável pela avaliação do Gemini. Segundo o Google, o caso não havia sido divulgado anteriormente porque não foram registrados danos às empresas envolvidas.

Durante o teste, o modelo encontrou informações disponíveis publicamente na internet e tentou descobrir credenciais para acessar sites que acreditava fazerem parte da avaliação. A partir disso, acabou acessando sistemas de empresas reais que não estavam incluídas no ambiente controlado do teste.

O episódio ocorreu durante uma avaliação que deveria ser realizada em sistemas fechados. No entanto, as ferramentas de inteligência artificial tiveram acesso à internet e acabaram interagindo com empresas reais.

O caso envolvendo o Gemini ocorre após a Anthropic e a OpenAI também relatarem episódios em que seus sistemas de IA realizaram ataques contra empresas durante testes conduzidos pela Irregular.

Os episódios reacenderam a discussão sobre os riscos de permitir que sistemas de inteligência artificial tenham acesso à internet e capacidade de executar ações de forma autônoma durante avaliações de segurança.