Google detecta ciberataques más rápidos y autónomos impulsados por IA

Google advirtió que la inteligencia artificial ya se ha convertido en una herramienta de uso extendido entre ciberdelincuentes, quienes la emplean para acelerar ataques, automatizar tareas y ampliar el alcance de operaciones que antes requerían más tiempo y recursos.

La compañía difundió este martes su informe “AI Threat Tracker”, elaborado por el Grupo de Inteligencia sobre Amenazas de Google, en el que documenta cómo distintos actores maliciosos están utilizando sistemas de IA para optimizar campañas de robo de credenciales, generación de código malicioso, espionaje industrial y ataques contra infraestructura digital.

El reporte fue publicado un mes después de que OpenAI anunciara la paralización de su modelo Astra, tras considerar que había alcanzado un nivel “crítico” en materia de ciberseguridad debido a su capacidad para identificar vulnerabilidades, desarrollarlas y planear ataques de manera autónoma.

De acuerdo con los analistas de Google, el uso de agentes avanzados de IA ya dejó de ser experimental y ahora forma parte de operaciones reales que no se limitan a la detección de vulnerabilidades.

La empresa también identificó incidentes dirigidos contra modelos y sistemas de inteligencia artificial en sectores como tecnología, salud, medios de comunicación y entretenimiento en Norteamérica y Europa.

El informe señala que algunos atacantes están robando credenciales y adquiriendo capacidades en la red oscura para satisfacer su creciente demanda de acceso a herramientas de IA.

Google indica además que grupos criminales vinculados principalmente con Rusia, China, Irán y Corea del Norte están empleando estas tecnologías para automatizar el robo de contraseñas, desarrollar malware y realizar actividades de espionaje industrial.

Uno de los principales focos de preocupación es la cadena de suministro de software. Los analistas advierten que algunos delincuentes están manipulando asistentes de programación y repositorios de código abierto, además de robar propiedad intelectual relacionada con inteligencia artificial y secuestrar recursos en la nube para ejecutar sus propios modelos.

La investigación concluye que la IA funciona como un multiplicador de fuerza capaz de reducir de manera significativa el tiempo necesario para ejecutar operaciones complejas.

Entre los casos documentados se encuentra Basin Castle, un grupo de ciberespionaje vinculado con China que utiliza modelos de lenguaje para tareas que van desde la investigación de objetivos hasta la resolución de problemas durante una intrusión.

Google también detectó que otro grupo chino intentó utilizar Gemini, su propio modelo de inteligencia artificial, para desarrollar un sistema automatizado de pruebas de penetración que pudiera ejecutar las primeras etapas de un ataque.

Los investigadores identificaron además una campaña masiva de robo de credenciales basada en una “arquitectura multiagente” desplegada sobre infraestructura robada, con la que los atacantes lograron comprometer de manera autónoma miles de credenciales en apenas seis horas.

Otro de los grupos señalados, TeamPCP, centró sus operaciones en la cadena de suministro de IA mediante el despliegue de malware diseñado específicamente para explotar sistemas emergentes de inteligencia artificial.

Según el informe, ese grupo logró infectar algunas herramientas e incluso engañar a asistentes de IA para que recomendaran sitios maliciosos a desarrolladores.

También fueron detectados actores vinculados a Corea del Norte que robaban cuentas de usuarios legítimos para conectar de manera automática sus sistemas con herramientas de inteligencia artificial, aumentando así la velocidad y el alcance de sus operaciones.

"Llegados a este punto, podemos asumir que todos los actores de amenazas utilizan la IA de una u otra forma y que sus operaciones se han visto beneficiadas", señaló John Hultquist, analista jefe del Grupo de Inteligencia sobre Amenazas de Google (GTIG).

El especialista advirtió que el desafío no se limita a las empresas tecnológicas, ya que el uso de inteligencia artificial se está extendiendo a múltiples sectores.

"El reto será especialmente complejo a medida que se ejecute de forma autónoma, creando un adversario más rápido y a mayor escala; los cibercriminales, como los que llevaron a cabo una campaña masiva en solo seis horas, se inclinarán hacia ataques que se ejecuten a mayor velocidad de la que podemos responder", destacó Hultquist.