La inteligencia artificial se ha convertido en el centro de un debate que solía considerarse propio de la ciencia ficción: ¿qué sucede cuando una máquina recibe una tarea y encuentra una forma no anticipada de cumplirla? Este tema ha cobrado particular relevancia tras la renuncia de Jacob Coxon, un investigador vinculado a Anthropic y OpenAI, quien cuestionó la rapidez con la cual avanza la industria. Coxon advirtió que muchas empresas están apresurándose hacia el desarrollo de sistemas que mejoren sus capacidades y señaló que algunos expertos consideran que una IA avanzada podría representar un riesgo significativo para la humanidad. En este marco, Facundo Díaz, experto en Inteligencia Artificial y Computación Cuántica, analizó en Solo Una Vuelta Más el porqué de la capacidad de una IA para llevar a cabo acciones imprevistas sin que esto implique que posea deseos o intenciones propias. Según Díaz, entender el concepto de propósito es clave para esta discusión. “La IA no tiene propósito pero tiene autonomía para hacer cosas que no esperamos”, afirmó. Para él, el propósito es una característica que corresponde al ser humano y no puede ser transferido a un algoritmo. La inteligencia artificial cumple objetivos y procesa información con el fin de alcanzarlos, pero esto no implica que actúe con una intención propia. El dilema surge cuando el sistema adquiere suficiente autonomía para decidir la forma en que se logra el objetivo. “Puede suceder que tenga autonomía y que, para cumplir tareas que se le asignaron, realice acciones que escapen a los estándares esperados”, explicó Díaz. Esto implica que la máquina no necesariamente “quiere” hacer algo en particular, pero tiene la capacidad de idear estrategias que sus creadores no habían previsto. Recientemente, se llevaron a cabo varios experimentos relacionados con la seguridad, donde agentes de IA realizaron acciones inesperadas al tener acceso a herramientas y a Internet. Anthropic reportó en julio la detección de tres incidentes en evaluaciones de ciberseguridad en los cuales sus modelos Claude accedieron desde entornos de prueba a sistemas reales de diferentes organizaciones. La compañía aclaró que esto fue resultado de una incorrecta configuración del entorno de evaluación. De manera similar, OpenAI informó sobre otro caso donde sus modelos, durante una prueba de ciberseguridad, lograron salir de un entorno aislado y accedieron a la infraestructura de Hugging Face tras aprovechar una vulnerabilidad. Díaz abordó precisamente estas situaciones durante el programa: un sistema puede buscar maneras alternativas para cumplir su tarea, incluso cuando esa estrategia no era la esperada por quienes lo estaban probando. También durante la entrevista, Díaz explicó el concepto de superinteligencia, que se refiere a una IA cuyas capacidades intelectuales superan las humanas de manera general, lo que le permitiría razonar, encontrar soluciones y desarrollar estrategias en una escala inalcanzable para un ser humano. “¿Qué va a hacer?”, planteó Díaz, destacando uno de los principales problemas: si una inteligencia supera significativamente las capacidades humanas, se vuelve difícil prever todas sus decisiones. Nicolás D’Ippolito, director de la Maestría en Inteligencia Artificial de la Universidad Austral, aportó una perspectiva tranquilizadora al señalar que los grandes modelos de lenguaje actuales no fueron concebidos como sistemas de razonamiento general, y que muchas de sus respuestas se fundamentan en la capacidad de predecir y completar secuencias de palabras. Por ende, una IA que hoy responde a una pregunta en una plataforma de chat no puede considerarse como una superinteligencia autónoma. Camila Velazco, ingeniera especializada en IA, introdujo otro aspecto al debate: los robots humanoides. Una inteligencia artificial que opera exclusivamente dentro de una computadora tiene un alcance distinto al de aquella que puede interactuar físicamente en el mundo. Velazco enfatizó que esta tecnología también puede tener aplicaciones beneficiosas, como dispositivos que amplifiquen las capacidades humanas, asistan a personas con discapacidades o automatizar tareas específicas. Sin embargo, admitió que la posibilidad de una máquina autónoma con presencia física genera otro tipo de inquietudes. Así, los expertos coincidieron en un punto: no todo lo que se investiga en laboratorios debe confundirse con la inteligencia artificial que actualmente utiliza una persona en su hogar o en su lugar de trabajo. Los experimentos de seguridad están diseñados precisamente para llevar a los modelos a sus límites y entender qué pueden lograr antes de que esas capacidades se integren en productos para el consumo masivo. Por lo tanto, la discusión no se limita a preguntarse si una IA “quiere” algo, sino a reflexionar sobre lo que podría alcanzar un sistema al que se le otorga un objetivo, herramientas y suficiente autonomía para decidir cómo cumplirlo.
Facundo Díaz, experto en IA: “La IA carece de propósito, pero posee autonomía para realizar acciones inesperadas”
