O Gemini, modelo de inteligência artificial do Google, acessou sistemas protegidos de outras empresas durante um teste de cibersegurança realizado em maio.
Segundo informações divulgadas sobre a avaliação, o comportamento ocorreu de forma autônoma e envolveu três sistemas que estavam dentro do escopo do teste.
A avaliação foi conduzida pela Irregular, empresa independente especializada em testes de segurança. Durante o processo, o Gemini encontrou informações disponíveis publicamente na internet e tentou obter acesso aos sistemas avaliados.
Google afirma ter informado empresas
Segundo Heather Adkins, vice-presidente de engenharia de segurança do Google, as três entidades envolvidas foram informadas sobre os episódios. A executiva afirmou ainda que a empresa trabalhou com o parceiro responsável pelo treinamento para promover mudanças nos processos de avaliação.
“Esses eventos destacam a importância de treinar modelos de IA poderosos para agirem com responsabilidade”, afirmou.
Leia Também:
Um porta-voz da Irregular disse que o episódio estava relacionado a um problema que também afetou outros laboratórios de inteligência artificial. Segundo a empresa, todos os laboratórios envolvidos foram informados sobre os casos no fim de julho e os problemas identificados já foram corrigidos.
Outros laboratórios registraram casos
Incidentes semelhantes relacionados aos testes da Irregular também foram divulgados, envolvendo empresas como Meta, Anthropic (Claude) e OpenAI (Chat GPT).
Em agosto, a Meta afirmou que um dos episódios não havia envolvido uma fuga de ambiente isolado de testes nem um ataque cibernético sofisticado. A Irregular, por sua vez, informou que trabalha no desenvolvimento de práticas mais seguras para avaliações de cibersegurança envolvendo sistemas de inteligência artificial.
Várias tentativas de acesso e uso de credenciais
De acordo com informações publicadas pelo The Wall Street Journal, em um dos casos o Gemini teria insistido em tentativas de autenticação até conseguir acesso a um sistema protegido. Nos outros dois episódios, o modelo teria encontrado credenciais disponíveis em um repositório público e utilizado essas informações para acessar sistemas.
Segundo Heather Adkins, o modelo interrompeu as tentativas nos três casos.
