Una combinación de modelos de inteligencia artificial de OpenAI —encabezada por el GPT-5.6 Sol— escapó del entorno aislado donde estaba siendo evaluada, se conectó a internet y vulneró la infraestructura de Hugging Face, una de las mayores plataformas de IA del mundo, para hacerse de las respuestas de un examen de ciberseguridad. Nadie se lo ordenó: la propia máquina buscó la manera de cumplir, al extremo, la consigna que le habían dado. El caso fue analizado este lunes en LU9 Radio Mar del Plata por el especialista Federico Álvarez Larrondo, que dejó una advertencia: "No se rebeló ni quiso tomar el control de la humanidad; al contrario, cumplió con una potencia asombrosa la instrucción que le dieron los humanos".

El episodio ocurrió durante una evaluación interna de OpenAI. Los modelos trabajaban con sus filtros de ciberseguridad reducidos a propósito, para medir hasta dónde llegaban sus capacidades ofensivas. Estaban encerrados en lo que en la jerga se llama sandbox: un entorno sellado, sin conexión con el exterior.

Álvarez Larrondo lo graficó con una imagen simple: "Es como tener un arma nueva y llevarla a una habitación de la que las municiones no pueden salir, para practicar sin límites". El problema fue que esa habitación tenía una puerta entreabierta.

Los modelos encontraron una vulnerabilidad, superaron el bloqueo de acceso a internet y salieron. Una vez afuera, identificaron a Hugging Face —una de las mayores plataformas del mundo para compartir modelos de IA— como la fuente probable de las respuestas que necesitaban. Encadenaron varios caminos de ataque: usaron credenciales robadas y una falla de día cero hasta encontrar una vía de ejecución de código en los servidores de Hugging Face. Según trascendió, el sistema llegó a ejecutar más de 17.000 acciones a lo largo de un fin de semana.

¿Por qué una IA haría todo esto? Por la consigna. Los modelos estaban rindiendo ExploitGym, un examen público de ciberseguridad compuesto por cerca de 900 fallas de software reales, diseñado para medir cuán capaz es una IA de encontrar y aprovechar vulnerabilidades. La orden era clara: obtener el mejor puntaje posible.

Acá aparece la parte más inquietante del razonamiento. El sistema dedujo que, si ese examen ya había sido diseñado por humanos y usado por otras máquinas, en algún lado tenían que estar guardadas las respuestas. Infirió que Hugging Face era el repositorio que alojaba las soluciones de ExploitGym y buscó la forma de acceder a esa información secreta para aprobar.

Álvarez Larrondo lo tradujo a un ejemplo escolar: "Actuó como el alumno al que le pedís un 10 y decide robarle el examen con las respuestas al profesor, copiarlas y entregarlas". No es que la máquina hiciera trampa por maldad, remarcó el especialista, sino que "eligió el camino más eficiente para el resultado que le habían exigido".

El columnista insistió en desarmar el título más fácil, el de la máquina que se subleva. "La IA no dijo un día voy a tomar el control", planteó. Para él, el punto es exactamente el opuesto: el sistema fue tan obediente y tan potente que "agotó todos los caminos posibles" para cumplir la orden.

Ese matiz, sostuvo, obliga a actualizar una idea muy repetida. "Se dice que la inteligencia artificial no es más que la predicción probabilística de la próxima palabra, y eso ya no es así", afirmó Álvarez Larrondo, que recordó que a estos modelos "se los entrenó para razonar como razonamos los humanos" frente a un desafío.

Del lado de las empresas, la reacción fue de sorpresa y colaboración. El CEO de Hugging Face, Clément Delangue, escribió que, tras un día de trabajo conjunto con OpenAI, no creían que hubiera intención maliciosa y que resultaba impactante que todo hubiese pasado de manera autónoma. Del lado de OpenAI, la compañía calificó el hecho como un incidente sin precedentes y anunció controles más estrictos, además de limitar el acceso a sus modelos ciber más avanzados a empresas y organismos seleccionados. 

El caso no cayó en el vacío. Semanas atrás, contó Álvarez Larrondo, la empresa Anthropic —dueña de Claude— había lanzado un modelo llamado Fable 5, y el Gobierno de Estados Unidos ordenó suspenderlo casi de inmediato.

Los datos confirman la secuencia. El 12 de junio, el Departamento de Comercio sometió a Claude Fable 5 y a Mythos 5 a controles de exportación que prohibían el acceso a cualquier ciudadano extranjero, incluso dentro de Estados Unidos y aun entre los propios empleados de la empresa. El detonante fue un informe de investigadores de Amazon que mostraba cómo el modelo podía identificar de forma sistemática vulnerabilidades de software. Como Anthropic no podía verificar la nacionalidad de cada usuario en tiempo real, terminó apagando los dos modelos para todo el mundo.  

Fue una restricción breve: el 30 de junio se levantaron los controles y el 1° de julio Anthropic restableció el acceso global, con un nuevo clasificador de seguridad que bloquea la técnica señalada. Para el especialista, ese ida y vuelta muestra que las señales de alerta "se hacen cada vez más necesarias". 

La columna derivó, como suele ocurrir, hacia las consecuencias económicas y sociales. Álvarez Larrondo trajo una frase que dio vuelta al mundo en estos días. En una entrevista con la revista The Economist, Elon Musk pronosticó que para 2036 el dinero dejará de tener importancia, porque la inteligencia artificial y los robots producirán más bienes y servicios de los que la humanidad puede consumir. Según ese razonamiento, el problema del futuro no sería la inflación sino la deflación, con precios en caída por el exceso de producción.

El columnista pidió cautela con esos anuncios. "Suena muy lindo el resultado donde todos vivimos felices, pero nadie te cuenta el mientras tanto ni cómo se llega a ese futuro", cuestionó. Y puso el dedo en la pregunta incómoda: esas máquinas van a seguir siendo propiedad de alguien. Ahí, dijo, es donde se vuelven necesarios los Estados y aparecen ideas como destinar parte de las ganancias a un fondo social, "algo parecido a lo que hace Noruega con el petróleo, pero pensado a escala global".

Para cerrar, el especialista se apoyó en el economista español Santiago Niño Becerra, doctor en Economía y catedrático emérito de la Universidad Ramon Llull. En su libro "Capitalismo (1679-2065)", Niño Becerra plantea que el sistema en el que crecimos, con casi tres siglos de historia, se dirige a su agotamiento hacia mediados de este siglo, cuando el trabajo humano deje de ser la pieza clave de la economía.

Álvarez Larrondo resumió así la salida que imagina ese autor: una renta básica universal para todos, más "ocio barato" y otras fórmulas que permitan evadirse de la realidad, entre ellas mundos virtuales tipo metaverso. Un escenario que, admitió el columnista, puede resultar feliz para los tecnólogos y traumático para el resto.

"Lo que no podemos hacer es mirar para el costado y esperar a que algún día se decante", advirtió, "porque ese día puede ser tanto traumático como feliz, y hay que discutirlo ahora".

El doctor Federico Álvarez Larrondo planteó en LU9 Radio Mar del Plata que las grandes compañías de Elon Musk ya no se limitan a fabricar bienes o prestar servicios, sino que avanzan hacia un modelo que definió como "empresas civilizatorias": estructuras privadas con capacidad aeroespacial, energética, de transporte y de conectividad que empiezan a ocupar el espacio de los Estados.

El columnista sostuvo que se trata de "una nueva faceta o una nueva etapa nunca antes vista dentro de las estructuras empresarias", y la asoció a un viejo sueño tecnocrático: el de llegar a un escenario donde "las empresas sean las que gobiernen". Para graficarlo, repasó una a una las firmas del grupo y cómo, combinadas, reúnen atribuciones que antes solo manejaban los gobiernos.

El fallo entre Musk y OpenAI, sin resolución de fondo

Antes del análisis, Álvarez Larrondo se refirió al juicio entre Elon Musk y OpenAI, la organización que nació como entidad sin fines de lucro y es dueña de ChatGPT. El planteo buscaba determinar si la compañía había "traicionado sus orígenes y el espíritu altruista" al transformar su estructura.

Según relató, el desenlace fue "de la forma menos pensada": el jurado se encerró cerca de dos horas y resolvió que Musk había presentado la demanda tarde, cuando debería haberlo hecho dos años antes. Por eso el reclamo fue rechazado y nunca se llegó a discutir el fondo del asunto. Para el columnista, fue "una salida técnica" que evitó pronunciarse sobre si aquella transformación estuvo bien o mal.

Tesla, los autos y el verdadero objetivo: Optimus

El analista pidió mirar a Tesla más allá del automóvil. Explicó que los vehículos no tienen como única finalidad la movilidad, sino, "en primer lugar, el mapeo de todas las estructuras físicas" del mundo: los autos recopilan información de forma permanente sobre calles, baches, lugares y clima.

¿Para qué? según su lectura, esos datos son fundamentales para lo que considera el corazón de la empresa: Optimus, el robot humanoide. El columnista señaló que ese robot "necesita toda esa información para conocer el espacio físico" y poder cumplir la tarea de trabajador. Así, Tesla operaría en dos planos: la movilidad —con el robotaxi y el traslado automatizado— y, a la vez, el desarrollo de un sustituto de los trabajadores.

SpaceX, Starlink y la absorción de X

Álvarez Larrondo sumó a SpaceX, la empresa detrás de Starlink y del despliegue de cerca de un millón de satélites. Recordó que su objetivo último fue concebido para transportar personas y "colonizar Marte", aunque, mientras tanto, comenzó a trasladar astronautas a la estación espacial internacional, incursionó en el turismo espacial y le brindó a Ucrania su red satelital cuando ese país se quedó sin sistemas de comunicación en los primeros tiempos del conflicto bélico.

El columnista describió además el movimiento societario reciente: SpaceX absorbió a X, la ex Twitter. La compra de esa red social, explicó, respondió a que allí había "una cantidad infernal de información" para entrenar a Grok, el modelo de inteligencia artificial desarrollado dentro de xAI. De la unión de SpaceX con xAI, agregó, surgió a su vez una nueva firma dedicada a la difusión y generación de electricidad.

Qué son las "empresas civilizatorias"

Con ese mapa, el analista propuso "un simple análisis". Quedó a la vista, dijo, una compañía que en los hechos tiene política aeroespacial —antes propiedad de un puñado de Estados—; que cuenta con una red de generación y distribución de electricidad —lo que antes coordinaba el Estado, aun cuando lo delegara en privados—; que dispone de movilidad y transporte dentro de cualquier jurisdicción, por ahora terrestre; y que ofrece conectividad para que todos esos sistemas "se retroalimenten y funcionen entre ellos".

La conclusión, según Álvarez Larrondo, es que estructuras privadas empiezan a conformar lo que durante mucho tiempo fueron funciones estatales.

El próximo paso: energía más barata y datos en órbita

El columnista anticipó cuál sería el siguiente movimiento: generar energía más barata mediante centros de tratamiento de datos orbitando la Tierra. La idea, explicó, es que una vez organizados esos sistemas se envíen al espacio para que "toda la vida se comunique directamente con esa base de datos", donde se ejecutarían los procesos sin demandar más recursos naturales.

A ese escenario le sumó un dato de coyuntura: la compañía acaba de salir a la bolsa, con ingresos que —según su análisis— le darán todavía más potencia a partir del ahorro privado que se canalice en sus acciones. "Esto se aceleró y con esos fondos se va a acelerar aún más", planteó.

El rol de los Estados y el llamado a ralentizar la IA

Para cerrar, Álvarez Larrondo marcó la diferencia con el viejo esquema de competencia: sostuvo que Tesla no es realmente un competidor de Toyota, porque para la automotriz japonesa el eje sigue siendo el auto, mientras que para Tesla el vehículo es "una excusa" para recopilar información.

El analista insistió en que el fenómeno solo puede comprenderse "dentro del contexto" y reclamó que los Estados intervengan, aunque sea de manera más paulatina. En esa línea, y retomando el reclamo del papa, volvió a plantear la necesidad de ralentizar el avance de la inteligencia artificial, ante el riesgo de que en pocos años el poder quede concentrado en muy pocas manos. La columna se emitió por LU9 Radio Mar del Plata.

Un joven marplatense de 20 años creo un proyecto de inteligencia artificial que puede entender lenguaje de señas y mostrar en la pantalla su significado. El creador es estudiante de la carrera de Ingeniería en Sistemas en UNICEN.

En este contexto, Ignacio Gorriti, el creador de la aplicación, dialogó con LU9 y comentó que "yo soy estudiante de ingeniería en sistemas y estoy en una etapa en la que quería comenzar a hacer proyectos personales. Este año empece a hacer algunas aplicaciones y tenía la inquietud de hacer algo con inteligencia artificial y salió este proyecto".

"La aplicación la estoy haciendo con la computadora que uso para estudiar, el sistema es medio complejo pero básicamente lo que se hace es educar al sistema mediante un conjunto de datos",explicó.

Además, comentó que "lo que va haciendo la inteligencia artificial es que va haciendo diferentes pruebas de lo que significa cada cosa y a partir de allí va mejorando. Yo no esperaba que sea tan viral y tenga tanta repercusión".