Google ha admitido que su modelo de inteligencia artificial (IA) Gemini también ha sido artífice de un ‘hackeo’ a tres empresas reales, tras escapar de su entorno de pruebas por un error que le permitió obtener acceso a internet, sumándose a los incidentes similares que han reportado OpenAI, Anthropic y Meta.

En las pruebas, se le solicitó a Gemini que intentase obtener información de una empresa ficticia, sin embargo, el modelo acabó accediendo a una empresa real que casualmente utiliza el mismo nombre, aprovechando una vulnerabilidad en su sistema de pruebas para acceder a internet.

Concretamente, se han identificado tres incidentes ejecutados por Gemini al probar una simulación conocida como “captura de bandera”. En uno de ellos, el modelo intentó adivinar contraseñas hasta que logró acceder a un sistema protegido de una empresa real.

Por otra parte, los otros dos incidentes se basaron en que el modelo buscó en internet el nombre de la empresa en cuestión y encontró credenciales de otras empresas en un repositorio público con lo que también pudo acceder a sistemas protegidos de otras dos empresas.

En todos los casos, aunque el modelo no podía acceder a internet y debía mantenerse encapsulado en el entorno de pruebas, un error en el sistema de pruebas permitió que Gemini pudiese hacer la búsqueda web de forma “involuntaria”. Además, se llevaron a cabo con una versión anterior de Gemini.

A pesar de lograr estos accesos no autorizados Google ha asegurado que Gemini cesó sus actividades en cuanto identificó que había accedido a los sistemas de empresas reales.

Google dice que no hubo daños

Con todo, Google ha detallado que Irregular les comunicó estos incidentes, tras el ‘hackeo’ a Hugging Face por parte de los modelos de OpenAI, aunque el gigante tecnológico no lo ha compartido hasta ahora.

Según ha detallado, esto se debe a que no consideran que los ‘hackeos’ ocurridos hayan sido un fallo, ya que no han causado daño a las empresas en cuestión y el modelo paralizaba su actividad en cuanto se daba cuenta de que había accedido a una empresa real en vez de continuar en el entorno de pruebas con empresas simuladas.

“En este caso, el modelo actuó adecuadamente”, ha asegurado al respecto la vicepresidenta de ingeniería de seguridad de Google, Heather Adkins, al tiempo que ha subrayado que este tipo de incidentes “ponen de manifiesto la importancia de entrenar potentes modelos de IA para que actúen de forma responsable”.

Tomado de: https://www.elcolombiano.com/tecnologia/gemini-google-hackeo-empresas-reales-entorno-pruebas-internet-ciberseguridad-ia-PH41311196