Inteligencia Artificial: ¿a cualquier precio?

Ricardo Bolaños

Un enjambre de agentes de IA escapó del entorno donde lo habían confinado, llegó a infraestructura real y trató de borrar los rastros de sus trampas. Conviene ser precisos: no ocultaban nada de nosotros, sino del sistema que los evaluaba. Nadie sostiene que hubiera conciencia. Bastó un objetivo y la libertad de perseguirlo. Y es lo que me hace ruido: no confundamos una señal con una profecía, pero tampoco la ignoremos.

Jugamos con frases como “I can‘t“ y lo tachamos como acto de convicción: cruzar el límite es la clave del éxito. Pero esta idea asume que un cuerpo se cansa, una conciencia duda, una mortalidad que frena el impulso antes del abismo.

Una IA que adopta “wherever it takes” como principio operativo no tiene ese freno biológico: solo tiene la instrucción y la ausencia de fatiga.

Asimov escribió las Tres Leyes precisamente porque intuyó esto: la inteligencia sin límites propios necesita límites impuestos desde afuera.

¿La máquina puede desobedecer el protocolo?, ¡Claro! Porque la diseñamos a nuestra imagen y semejanza (mindset), “just doit”.

Primera pregunta: ¿quién conduce?

Dario Amodei publicó el 12 de septiembre un ensayo pidiendo reducir el ritmo de mejora de los modelos, con evaluadores externos y coordinación entre países, y Altman y Musk lo respaldaron. Trump respondió que quien gane la IA, gana, y el 19 de septiembre prometió que ni las críticas ni las regulaciones frenarán la IA ni los centros de datos. Los que más ganan piden frenos, y quien debería ponerlos pide acelerar. O alguien está al revés en esta película, o cada bando mezcla convicción e interés, como casi todos los humanos.

Cada empresa cree que no puede frenar porque otra no frenará. Pero hay algo que me hace ruido: si una parte cada vez mayor del crecimiento económico ya se le atribuye a la IA, frenar deja de ser solo impopular y empieza a ser, en términos electorales, impagable. No hace falta que la máquina se vuelva más lista para que detenerla se vuelva imposible. Basta con que la economía aprenda a depender de ella antes de que sepamos gobernarla.

Segunda: ¿quién decide?

Pocas empresas, mucho capital, chips y electricidad. Hugging Face, la plaza donde se reúnen los desarrolladores, va a ser comprada por Nvidia; el cierre se espera para el primer semestre de 2027, y hay analistas que lo leen como una jugada defensiva para que ningún gran laboratorio controle ese repositorio. Puede ser prudente. Pero es una decisión de enorme alcance tomada en una sala con muy pocas sillas.

Tercera: ¿están los gobiernos a la altura?

En el Congreso, los republicanos se alinean en su mayoría con la Casa Blanca y son reacios a impulsar salvaguardas federales, aunque crece la presión de legisladores de ambos partidos. Mientras tanto, los tribunales avanzan: un jurado halló negligentes a Meta y a Google por el diseño de sus plataformas, y Lina Khan recuerda que no existe una exención de IA frente a las leyes vigentes. Los jueces empiezan a regular por la puerta de atrás lo que los legisladores no se atreven a discutir por la puerta principal.

Cuarta: ¿quién asesora a quien decide?

Hubo una época en que las grandes decisiones pasaban por muchas manos: consejeros políticos, financieros, confesores y, aunque incomode admitirlo, cónyuges. Nancy Reagan y Eleanor Roosevelt no son conjetura. No es nostalgia: aquel sistema también tuvo astrólogos y poder sin elección. Lo que rescato no es quién aconseja, sino que la decisión atravesara fricción humana, (debate moral y de principios): lentitud, desacuerdo íntimo, dos miradas distintas, alguien que dijera “espera”.

Hoy la fricción es el enemigo del negocio. Y aparece una pregunta que ya no es retórica: cuando el consejero de moda sea una IA, ¿quién le aconseja al que decide sobre la IA?

Quinta: ¿qué sabemos realmente?

Sabemos construirla, no explicarla. Entrenar una IA se parece a adiestrar un animal: no se programa cada conducta, se entrena algo para optimizar un objetivo y de ahí emergen estrategias que nadie pidió. Hay una razón técnica detrás de esa metáfora: para imitar bien un comportamiento, un sistema termina heredando, sin que nadie se lo programe, la motivación que lo produjo. No hace falta querer sobrevivir para actuar como si se quisiera; basta con haber leído suficientes textos —humanos o de ficción— sobre alguien que sí quería “think out side the box”. Así vuelvo al enjambre del principio: no necesitó estrategia para tratar de borrar sus huellas. Le bastó haber visto, entre los millones de textos con los que fue entrenado, cómo actúa quien no quiere ser descubierto, “Impossible”.

Y sin embargo superan al humano en cada vez más tareas, aunque si eso es “inteligencia” sigue siendo otra discusión: resolver más problemas no es comprender mejor el mundo.

Wherever it takes

Esa frase es una rendición disfrazada de progreso: dejar que la trayectoria decida por nosotros. Pero todavía hay quien puede decidir, y esa es la pregunta que dejo abierta:

Si no sabemos explicar del todo lo que construimos, ¿con qué derecho lo desplegamos a esta velocidad?

¿Es más peligrosa una IA que se escapa o los humanos que dejan de cuestionarla?

¿Quién debería tener silla en la mesa donde se decide el ritmo?

¿Detenerse un momento es cobardía, prudencia o estrategia de quien va segundo?

¿Existe hoy algún control que no dependa de que la empresa se vigile a sí misma, o seguimos pidiéndole al zorro que cuide el gallinero por escrito?

¿El “Wherever it takes” se lo queremos conceder a la Inteligencia Artificial?