Google confirma incidentes de seguridad relacionados con Gemini

Gemini, el modelo de inteligencia artificial desarrollado por Google, consiguió acceder a sistemas informáticos externos mientras realizaba una prueba, confirmó la compañía a la agencia AFP. El caso había sido revelado previamente por el diario The Wall Street Journal.

El incidente ocurrió en mayo, cuando el sistema identificó información disponible públicamente y la utilizó para intentar ingresar a sitios que interpretó como parte del ejercicio.

En una declaración enviada a la AFP, Heather Adkins, responsable de seguridad de Google, explicó que "durante una prueba estándar (de Gemini), el modelo encontró informaciones públicas en línea y adivinó claves para acceder a sitios que creyó que hacían parte de la prueba".

La compañía informó que tres organizaciones resultaron afectadas, aunque no reveló sus nombres. Google aseguró que notificó a las instituciones sobre las brechas detectadas.

De acuerdo con el Wall Street Journal, en uno de los incidentes "el modelo probó varias combinaciones de contraseñas hasta que consiguió acceder a un sistema protegido".

Pese a las intrusiones, la empresa señaló que Gemini interrumpió sus acciones de manera autónoma. "Las tres veces, el modelo se detuvo", informó Adkins.

Google tuvo conocimiento de lo sucedido en julio y posteriormente abrió una investigación para esclarecer el incidente y evaluar sus implicaciones.

El caso se suma a otros reportes de seguridad relacionados con desarrollos de inteligencia artificial de compañías como Meta, OpenAI y Anthropic. Estas revelaciones han intensificado el debate sobre los riesgos de modelos capaces de abandonar entornos controlados e interactuar con plataformas y sistemas externos.

Ante este tipo de episodios, diversos ejecutivos del sector tecnológico han planteado la necesidad de reducir la velocidad con la que se desarrollan los modelos más potentes y establecer mecanismos de autorregulación para disminuir los riesgos asociados con su funcionamiento.