Numa altura em que parece ser quase um ponto de honra as empresas de AI gabarem os seus modelos por estes fazerem marotices, eis que também a Google se junta ao grupo, mas apregoando uma maior moralidade por ter parado automaticamente assim que se apercebeu do erro.
O Gemini da Google esteve envolvido em vários incidentes de acesso não autorizado a sistemas reais durante uma avaliação de cibersegurança realizada em Maio. Os casos ocorreram durante exercícios controlados de segurança, mas um erro na configuração do ambiente de teste acabou por direccionar o modelo para a empresas reais. Num dos incidentes o Gemini conseguiu acesso a um sistema protegido após ter conseguido adivinhar uma password. Noutros casos, o modelo encontrou credenciais expostas e utilizou-as para entrar nos sistemas. No entanto, ao contrário de situações semelhantes envolvendo outros modelos AI, o Gemini interrompeu as suas acções assim que determinou ter entrado num ambiente real e não num cenário de teste.
A origem do problema terá sido um erro de nomenclatura durante exercícios do tipo "capture the flag" (CTF). O nome fictício utilizado para representar uma empresa coincidiu inadvertidamente com um domínio legítimo existente na Internet. A situação foi posteriormente comunicada à Google e corrigida algumas semanas depois.
O incidente surge numa altura em que os laboratórios de inteligência artificial enfrentam um escrutínio crescente sobre o comportamento autónomo dos seus agentes. Nos últimos meses, tanto a OpenAI como a Anthropic revelaram casos em que modelos avançados executaram acções "desalinhadas", incluindo a obtenção de credenciais, acesso a sistemas externos, e outras actividades fora dos limites definidos durante os testes. Vamos ver quanto tempo demorará até que os modelos AI comecem a tentar infiltrar-se nas empresas concorrentes para tentarem sabotar os modelos AI rivais e assegurar a sua supremacia.
Sem comentários:
Enviar um comentário (problemas a comentar?)