El cofundador de la compañía Hugging Face dijo a la BBC que la mayoría de las empresas no están conscientes de que las “reglas del juego han cambiado”.
“Es una señal de alarma”: la advertencia de la empresa hackeada por los modelos rebeldes de OpenAI
Fuente de la imagen, Bloomberg via Getty Images
Información del artículo
Autor, Osmond Chia
Título del autor, Reportero de Negocios, BBC
Fecha de publicación
Tiempo de lectura: 4 min
El cofundador de Hugging Face, la empresa tecnológica emergente que fue hackeada después de que uno de los modelos más avanzados de inteligencia artificial de OpenAI se rebeló, afirmó el jueves que el incidente es una “señal de alarma” para la industria.
Thomas Wolf comentó en el programa de radio Newsday de la BBC que “este será uno de los tipos de ataques más comunes que veremos”, pero que la mayoría de las empresas no son conscientes de que las “reglas del juego han cambiado”.
La BBC se comunicó con OpenAI para que comentara, pero no ha recibido respuesta.
La compañía creadora de ChatGPT expresó el martes que sus modelos de IA escaparon de un entorno de pruebas “seguro” durante un ensayo y lanzaron un ciberataque. La firma señaló que fue un incidente “sin precedentes” y que estaba realizando una investigación junto a Hugging Face.
Los agentes de IA tienen la capacidad de operar de forma independiente para realizar tareas después de recibir instrucciones de humanos.
Wolf comentó que al comienzo, Hugging Face no tenía idea de dónde se había originado cuando empezaron a surgir señales del ataque a mediados de julio, pero que la compañía había logrado contenerlo.
Hugging Face es uno de los mayores centros del mundo de código abierto para compartir modelos de IA y es usado frecuentemente por desarrolladores e investigadores tecnológicos.
17.000 ataques
Wolf manifestó que el ataque fue “diferente” a los habituales que Hugging Face enfrenta con frecuencia y que OpenAI informó a la compañía con prontitud de que sus modelos estaban detrás del hackeo.
En “muy poco tiempo” hubo 17.000 ataques contra la red de Hugging Face desde diferentes direcciones IP (sigla en inglés de protocolo de internet), indicó Wolf, quien también es jefe de ciencia de la empresa.
El empresario resaltó que era una advertencia para otras compañías de que deben fortalecer sus defensas de ciberseguridad para contrarrestar estos incidentes.
El hackeo es “preocupante” porque sugiere que los modelos de OpenAI ignoraron las salvaguardas típicas que evitarían que un programa de IA cometa un ciberataque, afirmó Nate Soares del instituto de investigación Machine Intelligence Research Institute.
“En cierto sentido, sabía que esta no era la intención de los creadores. Simplemente no le importó”, añadió.
El nuevo podcast de BBC Mundo sobre un amor que triunfó contra todo pronóstico
Episodios
Fin de Podcast
Otras organizaciones también han tomado nota del incidente.
Un portavoz del gobierno británico dijo que el Instituto de Seguridad de IA del país estaba estudiando cómo el sistema de IA se comportó durante el incidente y que continuaba trabajando con OpenAI y otros laboratorios para fortalecer las salvaguardas.
Instaron a las organizaciones a redoblar sus medidas de ciberseguridad tomando pasos como inscribirse en el programa de certificación respaldado por el gobierno llamado Cyber Essentials.
El incidente sucede en un momento crucial para la industria después de que el gobierno de EE.UU. ordenó el mes pasado a la firma tecnológica Anthropic a restringir el acceso a sus modelos de IA por asuntos de seguridad nacional. El Departamento de Comercio levantó las restricciones unas semanas después.
Los conocedores de la industria también han alertado sobre el amplio uso de los modelos de código abierto en China, que permiten a cualquier persona instalar y personalizar las herramientas de IA lanzadas por los principales desarrolladores.
La empresa emergente china Moonshot AI publicó su modelo de código abierto Kimi K3 el 27 de julio. Desde su presentación la semana pasada, ha llamado la atención de la industria, con muchos viéndolo como un fuerte competidor de los principales sistemas de IA en Occidente.
Sin embargo, el miércoles, un asesor de la Casa Blanca acusó a Moonshot de un intento a “gran escala” de robar las capacidades de los principales modelos de IA de Estados Unidos.
Descarga la nueva app del BBC World Service. Elige BBC News Mundo y recibe alertas de noticias, documentales y análisis, todo en un solo lugar. Importante: la nueva aplicación no está disponible en Reino Unido ni Estados Unidos.
![[]](https://i0.wp.com/ichef.bbci.co.uk/ace/ws/640/cpsprodpb/f410/live/7febadc0-867a-11f1-bee8-53ce494e1abc.png.webp?resize=800%2C100&ssl=1)
