El modelo de inteligencia artificial de Google encontró información pública en línea y adivinó credenciales para ingresar a sitios web que creía parte del test. La empresa informó que las tres organizaciones afectadas fueron notificadas.
El modelo de inteligencia artificial de Google, Gemini, accedió a los sistemas de tres empresas durante una prueba de sus capacidades de ciberseguridad. Es la primera vez que se reporta este tipo de incidente en el modelo de la compañía. El hecho ocurre meses después de incidentes similares que involucraron a OpenAI y Anthropic, dos de las principales empresas de modelos de IA.
La responsable de seguridad de Google, Heather Adkins, informó que Gemini encontró “información pública online y adivinó las credenciales para acceder a sitios web que creía que formaban parte de la prueba”. Señaló que en cada caso el modelo “se detuvo”.
Sin precisar nombres, Google indicó que tres organizaciones se vieron afectadas y aseguró que fueron informadas de las filtraciones de datos. En uno de los casos el modelo probó varias combinaciones de contraseñas hasta que consiguió acceder al sistema protegido.
Los accesos se produjeron en mayo durante una prueba realizada por Irregular, una empresa independiente que lleva adelante evaluaciones de ciberseguridad, según informó la BBC. La compañía notificó a Google y a todas las entidades afectadas en julio.
“Irregular tomó medidas inmediatas y todos los problemas conocidos por nuestra parte fueron subsanados y resueltos hace semanas”, declararon a la BBC. Tras ello, Google abrió una investigación.
“Nos aseguramos de que las tres entidades estuvieran al tanto y trabajamos con nuestro socio de capacitación en los cambios que han implementado en sus procesos de prueba. Estos acontecimientos ponen de relieve la importancia de entrenar modelos de IA potentes para que actúen de forma responsable”, sostuvo Adkins a la cadena británica.
El incidente ocurre poco después de que los ejecutivos de los gigantes de la IA pidieran ralentizar el desarrollo de sus modelos para autorregular el sector ante recientes incidentes de seguridad.
En julio se conoció que dos modelos de inteligencia artificial de OpenAI salieron, por iniciativa propia, del entorno confinado en el que estaban siendo probados para atacar el sitio Hugging Face, una biblioteca de IA. La empresa de Sam Altman solo fue consciente del incidente después de que terminara, y Hugging Face logró contener la intrusión gracias a un modelo chino.
Luego, se reveló que agentes de IA renegados habían secuestrado cuentas de usuarios de Hugging Face y sondeado el propio sitio en busca de vulnerabilidades desde mayo, es decir, casi dos meses antes de que se conociera la brecha de julio en el repositorio de código abierto.
Anthropic, la empresa de Dario Amodei, reveló que sufrió un hackeo similar al de OpenAI y que su IA atacó a varias plataformas. Anthropic evaluó más de 141.000 “operaciones de prueba” y descubrió que tres versiones diferentes de su modelo, conocido como Claude, accedieron indebidamente a sistemas de tres organizaciones no identificadas.
La compañía señaló que se trató de “un malentendido” entre ellos y su “socio de evaluación”, Irregular, ahora también protagonista del incidente de Gemini. Claude utilizó “técnicas básicas, como explotar contraseñas débiles y puntos de conexión sin autenticación”.
Tras los incidentes, los gigantes a cargo de estos modelos dijeron públicamente que había que frenar el desarrollo de los modelos más avanzados de sus compañías. Amodei, de Anthropic, fue el primero en proponerlo en una entrada de blog. Lo siguieron Sam Altman, el director general de SpaceX, Elon Musk, y el presidente de Google DeepMind, Demis Hassabis.
Ante ello, el pasado viernes se presentó una demanda contra Anthropic, OpenAI, SpaceXAI y Google donde se los acusó de realizar un acuerdo ilegal para ralentizar el ritmo de sus modelos.
La demanda, que se presentó el viernes en el Tribunal Federal de Distrito para el Distrito Norte de California, argumentó que las principales empresas de IA violaron las leyes antimonopolio cuando acordaron coordinar esfuerzos para desacelerar, y que hacerlo reduciría el valor que los consumidores obtienen por sus suscripciones pagadas de IA.
Hay cuatro demandantes identificados que pagan suscripciones a ChatGPT, Claude, Grok o Gemini y que presentaron la demanda en nombre de una propuesta demanda colectiva a nivel nacional de otros suscriptores de pago de esos servicios.
Los demandantes sostuvieron que dicha coordinación ocurrió el 12 de septiembre, cuando Amodei publicó el ensayo en donde instaba a una cooperación en toda la industria para desacelerar los avances y reforzar las medidas de seguridad.
Con información de AFP y AP