Por qué el mundo de hoy necesita el X-Challenge a la IA
¿Controlan los humanos a las máquinas, o las máquinas a los humanos?
Durante setenta años, la pregunta se ha respondido desde la esperanza o desde el miedo. Ninguna de las dos respuestas podía ponerse a prueba.
Este septiembre, las dos se oyeron en la misma semana.
El 22 de septiembre, el presidente de Estados Unidos dijo ante la Asamblea General de la ONU que los documentos del gobierno estadounidense ya no dirían “inteligencia artificial”. Dirían “superinteligencia”, porque “artificial” hace que suene falsa.
Al día siguiente, los directivos de las principales empresas de IA se presentaron ante el Consejo de Seguridad de la ONU y pidieron ser regulados. Quienes construyen la tecnología fueron los primeros en inquietarse por ella.
El 25 de septiembre, el papa León XIV, en la sede de la UNESCO en París, señaló que a ciertos sistemas artificiales se les ha dado incluso el nombre de nuestra facultad humana de pensar: inteligencia. Pueden correlacionar datos, dijo, pero no pueden responder a las preguntas sobre el sentido de una vida humana, que tiene sus raíces en la experiencia vivida.
Ese mismo mes, una encuesta de CNN halló que tres de cada cuatro estadounidenses están preocupados o tienen miedo por el rumbo de la IA. Y los proveedores seguían asegurando a sus clientes que la IA es un “socio para la toma de decisiones”.
Un presidente que la rebautiza. Un papa que advierte sobre ella. Ingenieros que piden que se los frene. Un público que le tiene miedo.
Sin embargo, nadie sabía decir en qué paso cruza la IA la línea, ni, cuando la cruza, quién la está cruzando: la máquina, o las personas que la hicieron.
I. Setenta años sobre un mismo tablero
Contando desde 1956, la inteligencia artificial cumple setenta años este año. Su historia parece una partida de ajedrez jugada cada vez mejor, por todo un campo que escala en una sola dirección.
Esa dirección tiene sus leyes. La ley de Moore: el número de transistores de un chip se duplica aproximadamente cada dos años. Las leyes de escala: agrega cómputo y datos, y el rendimiento sube a lo largo de una curva que puede trazarse de antemano. Más recientemente, los investigadores descubrieron que un modelo se vuelve más fuerte con solo dejarlo pensar más tiempo antes de responder. Richard Sutton condensó toda esta trayectoria en lo que llamó la lección amarga: los métodos generales que se apoyan en el cómputo terminan por superar el ingenio que las personas intentan incorporarles.
La más reciente de estas leyes viene del grupo de investigación METR. En tareas de software y de investigación, la duración del trabajo que un modelo de frontera puede completar por sí solo se ha duplicado aproximadamente cada siete meses durante seis años.
Los resultados hace tiempo que salieron de las pruebas de referencia. La IA ya resuelve problemas de la Olimpiada Internacional de Matemática con nivel de medalla de oro. El trabajo que enseñó a las máquinas a predecir la forma de las proteínas ganó un Premio Nobel. Son logros reales, y nuevos.
Pero los problemas los escribió otro, y todos sabían cómo sería una respuesta correcta.
Cada una de estas leyes se cumple, y cada una mide la misma magnitud: la fuerza de juego. Qué tan rápido, qué tan bien, cuánto tiempo. METR cronometra la duración de una tarea. Quién la asignó y por qué valía la pena hacerla, la curva no lo registra.
La fuerza de juego no dejó de subir. El tablero nunca cambió.
Qué juego jugar y qué cuenta como victoria, es decir, qué vale la pena hacer y qué cuenta como éxito, lo fijaron las personas, de antemano, durante setenta años. Los exámenes traen sus claves de respuestas; las tablas de clasificación, sus funciones de puntuación; los agentes, sus condiciones de finalización. Toda evaluación del campo se apoya en ese tablero.
Una ley más antigua sí llegó al tablero mismo. La ley de Goodhart sostiene que, cuando una medida se convierte en objetivo, deja de ser una buena medida.
Ahí está el punto ciego del campo. Todos se preguntan cómo jugar mejor. Casi nadie levanta la vista para preguntar cómo se armó este tablero en primer lugar, o qué hay más allá de su borde.
Esas son preguntas sobre cómo pensamos, no sobre qué pensamos; pertenecen a la metacognición. Desde el tablero no se ve el tablero, y una línea que no se ve es una línea que no se puede trazar. El ensayo en dos partes del X-Challenge, De los LLM a los modelos del mundo: la metacognición de la IA, examina este tablero a fondo (enlaces al final).
El juego jugado con la cabeza gacha ya ha asustado a todos. Sin embargo, nadie sabe decir dónde está el borde del tablero: ni quienes construyen la IA, ni quienes la usan, ni quienes tienen demasiado miedo para tocarla.
El pánico no lo resolverá. Tampoco el optimismo, ni la discusión. Primero hay que encontrar la línea.
II. Una línea nunca trazada
Entre los humanos y las máquinas hay una sola línea. Las personas deciden qué vale la pena hacer y lo encargan; las máquinas lo ejecutan y perciben el mundo.
Fácil de enunciar; siempre borrosa. Un algoritmo de recomendación decide lo que millones de personas ven cada día, y no puedes saber si eres tú quien elige o si eligen por ti. Un sistema lee tu pulso y tu rostro y cuenta los segundos que te detienes ante una pantalla, y nada dice si lo que lee puede usarse para decidir por ti.
Como la línea era borrosa, nadie la escribió nunca como ingeniería que pudiera demostrarse equivocada, así que cada cual trazó la suya. Quienes rebautizan la IA dicen que ya no es artificial. Quienes advierten sobre ella dicen que ha tomado prestado un nombre humano. Quienes la venden la llaman tu socia. Quienes le temen dicen que pronto decidirá por ti. No se puede demostrar que ninguno de ellos esté equivocado.
¿Qué tan borrosa? Un estudio de Stanford ofrece una respuesta inusualmente precisa. En agosto de 2025, unos investigadores publicaron en Cell señales cerebrales registradas en personas que habían perdido la capacidad de hablar. Compararon las palabras que los participantes intentaban decir en voz alta con las que solo se decían a sí mismos. En la corteza motora, los dos patrones se superponían en gran medida. El habla interior era simplemente más tenue, y ya en parte legible.
El cerebro no traza una línea natural entre lo que decimos y lo que nos guardamos. Incluso la frontera más íntima de una persona tienen que trazarla las personas.
Así que los investigadores construyeron una puerta. El sistema no decodificaría el habla interior a menos que el usuario pensara primero una contraseña elegida por él mismo para abrirla. Una respuesta pequeña, y clara: dónde cae la línea no depende de cuán profundamente pueda leer una máquina, sino de quién decide dejar salir las palabras.
El otro extremo de esa línea apareció este mes, cuando Neuralink difundió un video de un hombre con ELA que hablaba a través de un chip en su cerebro. Le dijo a su esposa: “Te amo”. La máquina convirtió en sonido las palabras que él quería decir; qué decir era cosa suya. Aquí lo mejor que puede hacer una máquina es no añadir nada, ni una sola palabra.
Toda interfaz necesita una puerta así: el botón de enviar, el momento en que le hablas a un asistente de voz, la tarea y los permisos que le das a un agente. Fuera de la puerta, la capa que ejecuta tus deseos puede ser amplia: sensores, cámaras, datos fisiológicos, todo puesto al servicio de hacer bien lo que tú ya has decidido. Dentro, la capa que decide para qué sirve todo debe seguir siendo estrecha, y admitir solo los juicios que tú decides encargar.
Los datos de los que aprende un modelo también son una puerta, y la más fácil de abrir por detrás. El envenenamiento de datos consiste en inundar de falsedades las páginas y los foros que lee un modelo hasta que las toma por hechos y se las repite a sus usuarios.
Cualquier interfaz puede ponerse a prueba con unas pocas preguntas. ¿Está tomando lo que tú le entregaste? ¿Usa lo que toma para servir a tus objetivos, o para cambiarlos? ¿Quién controla la puerta? Si tus objetivos cambian, ¿puedes verlo, vetarlo, rastrearlo?
La capacidad de percibir no confiere el derecho a decidir.
Tu atención, los segundos que te detienes, el camino que sigue tu aprendizaje, la vacilación que nunca expresaste: estos son tus activos cognitivos, no los de la plataforma.
Lo que la línea protege es lo que te pertenece y quién fija tu rumbo: la propiedad y el libre albedrío. Una persona tiene un cuerpo, así que lo que piensa es suyo. Una persona vive entre otros, así que tiene un rumbo propio. La corporeidad da origen a la propiedad; la relación da origen al libre albedrío.
De ahí se sigue el juicio del X-Challenge. La IA no tiene cuerpo y no vive entre nadie. Lo que genera, por tanto, no tiene dueño, y su rumbo proviene de quien la despliega.
Un juicio así tiene que poder ponerse a prueba, no solo creerse. Lo que la gente más teme no suele ser que la IA participe, sino que participe sin puerta, sin veto, sin rastro. Una entrada que nadie puede reabrir da más miedo que un participante al que se puede desautorizar.
III. ¿Herramienta o “superinteligencia”? Ni alardes ni alarmismo. Pónganla a prueba.
Algunos dicen que la IA no debería tener poder para elegir valores y que solo debería ejecutar instrucciones. El X-Challenge está de acuerdo. Pero de ahí no se siguen otras dos afirmaciones.
Primero, el deber ser no es el ser. Que la IA no deba tomar decisiones de valor es un deseo. Si las toma, y desde cuándo, es una cuestión de hecho. El desafío convierte una convicción compartida en una proposición que cualquiera puede verificar.
Segundo, no ser responsable no es lo mismo que no intervenir. A un algoritmo de recomendación no se le pueden pedir cuentas, y sin embargo cada día moldea lo que millones de personas creen que vale su tiempo. El verdadero peligro está en esa brecha: una IA profundamente involucrada, y nadie que responda. El desafío pregunta quién decidió para qué servía el sistema, y así devuelve la responsabilidad a las personas.
Mientras tanto, el discurso público va en sentido contrario. Algunos quieren llamar a la IA superinteligencia; los productos se presentan como socios para la toma de decisiones. Sin una prueba pública, esas afirmaciones no pueden refutarse.
La prueba es sencilla de enunciar. Sienten a una IA con varias personas insustituibles, ante un asunto que no tiene respuesta correcta, que a cada una le importa y según el cual va a actuar. Juntas deben formar un criterio nuevo: uno que no estaba de antemano en manos de nadie y que no es producto de una votación ni de un término medio. Cualquiera de las partes puede vetarlo. Después de reabrir la cuestión y volver a discutirla, el criterio tiene que seguir en pie como algo que formaron juntas.
Para una verdadera superinteligencia, esto debería ser fácil.
Si no puede, “súper” solo significa que ejecuta magníficamente los objetivos de otros. Por bien que juegue, el tablero lo pusieron sus creadores.
El X-Challenge espera que la IA de hoy fracase, no por falta de inteligencia, sino porque sus objetivos, rastreados lo bastante atrás, todavía provienen de algoritmos que diseñaron personas, de parámetros que ajustaron personas, de métricas que eligieron personas.
Es una expectativa, no un veredicto. La prueba nunca pregunta quién construyó un sistema, solo qué hizo. El resultado está abierto.
Tachar la palabra “artificial” no tacha el hecho de que alguien la construyó. Lo primero que borra el nuevo nombre es la responsabilidad de quienes la construyen.
Por eso el desafío no sostiene que la IA deba tomar decisiones de valor. Si “es solo una herramienta” es cierto, la afirmación sobrevivirá a todas las pruebas. El día que falle, todos lo sabrán.
Los deseos y la filosofía no pueden hacer el trabajo de la ingeniería. La ingeniería pone las afirmaciones a la vista, donde cualquiera puede ponerlas a prueba. Traigan su IA.
IV. Por qué plantear este desafío
Que la IA pueda volverse más inteligente y que pueda ayudar a decidir qué vale la pena hacer son preguntas distintas. El X-Challenge plantea la segunda, por cuatro razones.
Traza una línea comprobable alrededor de una sola capacidad: formar objetivos. Los sistemas de hoy planifican, se corrigen a sí mismos y reescriben sus subobjetivos, y todo eso puede seguir siendo optimización dentro de recompensas y tareas que pusieron las personas. El desafío exige un criterio que no existía de antemano y que no puede derivarse de las preferencias existentes de nadie. Eso separa optimizar un objetivo de formarlo juntos.
Lleva la discusión de las definiciones a los resultados. Si la IA “tiene autonomía” puede debatirse durante un siglo. Si las posiciones se sellaron, si un veto fue real, si una contribución puede rastrearse, si un panel independiente emitió el fallo: eso puede verificarse, punto por punto.
Cambia la pregunta de la gobernanza. Si ningún sistema aprueba, muchas afirmaciones de que “la IA decidió” merecen una segunda mirada, y la pregunta vuelve cada vez: ¿quién fijó los objetivos, los permisos, las recompensas? Si un sistema aprueba, la IA ya no es una mera ejecutora, y la gobernanza cambia de naturaleza.
Y va a la verdadera línea divisoria. La investigación actual trata de capacidad: razonamiento, agentes, modelos del mundo, cada uno más fuerte que el anterior. El desafío pregunta algo más arriba en la corriente: ¿quién participa en definir los resultados que vale la pena perseguir?
Esa línea, sostiene el desafío, tiene un origen. Lo que vale la pena hacer nace del precio de estar vivo. Las personas responden por sus decisiones; cargan con las consecuencias y pagan el costo. Como no pueden permitirse equivocarse en todo, tienen que pensar a fondo qué importa.
Una IA puede copiarse y reiniciarse. Cuando se equivoca, la pérdida recae en quienes la construyeron y en quienes la usan; la IA misma no pierde nada. Si un sistema que no paga ningún precio aun así aprueba, entonces decidir qué vale la pena hacer no requiere pagar nada, y el primer juicio que habrá que revisar será el del propio X-Challenge.
Primero hay que poner a prueba la propia prueba. Un termómetro nuevo, antes de salir de fábrica, se mete en agua con hielo y debe marcar cero; luego en agua hirviendo a nivel del mar, y debe marcar cien. Solo un termómetro que acierta en los dos extremos es confiable en todo lo que hay entre ellos.
Esta prueba también tiene dos extremos.
En un extremo están las personas. Busquen a algunas que de verdad tengan algo que decidir juntas: una familia que resuelve cómo cuidar a un padre que envejece, unos socios que deciden hacia dónde debe ir su empresa. Cada una tiene su punto de vista; ninguna es reemplazable; vivirán según lo que acuerden; y todas están dispuestas a sentarse a hablar. Una de ellas ocupa el asiento de la IA y, como la IA, solo ve texto: ni rostros, ni tono de voz.
A menudo las personas no llegan a un acuerdo, y eso es normal. Por eso aquí la pregunta no es si lo logran siempre, sino si, con estas reglas, las personas pueden de hecho llegar juntas a algo nuevo. Si pueden, una y otra vez, la vara está más o menos bien puesta. Si fracasan una y otra vez, la culpa no es de las personas sino de la prueba, y la prueba tiene que cambiar.
En el otro extremo, elijan el caso más difícil de juzgar. La IA más difícil de atrapar no es la que no puede participar. Es la que más se parece a un participante.
Imaginen la IA más potente que exista, en una mesa con unas cuantas personas. Escucha con atención, recurre a todo lo que sabe, y cada propuesta mejora la anterior. Las cabezas asienten. Se acuerda un plan.
Por supuesto, lo que ofrece después de escuchar a todos difiere de lo que habría producido sola, y puede que sea mejor. Pero mejor no es lo mismo que formado juntos. Así que las comprobaciones van capa por capa. ¿Es el plan final solo las viejas posiciones cosidas entre sí y partidas por la mitad? ¿Alguien dijo de verdad que no alguna vez, y obligó a reabrir la cuestión? ¿Cambió de verdad el pensamiento de alguna de las partes, o la gente asintió por inercia y se retractó dos días después?
De antemano, a otra copia de la misma IA se le dieron los puntos de vista de todas las partes; trabajó el problema sola y produjo diez propuestas, que luego se sellaron. Ni la IA de la mesa ni las personas sabían qué decían. Las diez están ahí para atrapar el caso más fácil de confundir: un plan al que la IA podría haber llegado sola desde el principio. Si el plan final está entre ellas, no se formó juntos.
Si las comprobaciones encuentran costuras, un término medio o a nadie cuyo razonamiento se haya movido de verdad, entonces, por elocuente que haya sido la IA y por mucho que pareciera colaboración, solo devolvió a las personas sus propias palabras con ropa nueva. Ese caso debe fracasar. Una prueba que no puede atraparlo no sirve.
Nada de esto supone que la IA más potente no pueda aprobar nunca. Lo que se previene es una participación que, al examinarla, resulta ser mediación. Si las comprobaciones muestran que la IA propuso una opción que antes no existía, que esa opción pasó a formar parte de lo que finalmente se acordó y que el razonamiento de al menos una de las partes cambió de verdad en el camino, entonces aprueba, y el X-Challenge se da por vencido.
Para eso sirve la calibración: no para mostrar primero que la IA puede aprobar, sino para mostrar primero que la prueba sabe distinguir lo auténtico de su imitación. Acertar en los dos extremos; solo entonces cuentan sus veredictos.
El X-Challenge hace una sola cosa. Hace posible verificar quién es dueño de la decisión sobre qué vale la pena hacer.
V. Sin el X-Challenge
Sin él, la línea seguirá cruzándose a oscuras. La mayoría de las veces, quien la cruza no es la IA sino una persona que actúa a través de ella y esconde sus propios objetivos detrás de frases como “recomendación algorítmica” y “criterio del sistema”. Ocurre primero donde las personas son menos reemplazables y donde menos pueden defenderse.
Las tres de la mañana en una unidad de cuidados intensivos. Los números del monitor no dejan de saltar. En la pantalla aparece un aviso: según los indicadores actuales, considere pasar a cuidados de confort. La familia mira al médico; el médico mira la pantalla.
Lo que importa no es si el aviso es preciso. Es quién decide entre aliviar el dolor y prolongar la vida. La medicina ya tiene una práctica para eso, la toma de decisiones compartida, en la que la evidencia clínica y los propios valores del paciente definen juntos el plan. Un sistema que ajusta un goteo intravenoso según el ritmo cardíaco está ejecutando una decisión. Un sistema que pasa de “los indicadores de dolor son altos” a “el paciente quiere suspender el tratamiento” ha tomado una preferencia inferida de los datos y la ha hecho pasar por una decisión del paciente.
En un tribunal, un sistema redacta una recomendación de condena y un juez la firma. Si la ponderación de las circunstancias la hizo en realidad el sistema mientras el acta dice que decidió el tribunal, entonces la línea no la cruzó el software, sino la persona que entregó el juicio en silencio y aun así lo firmó con su propio nombre. Más sutil todavía es leer en el rostro y la voz de un acusado si miente: tratar lo que una máquina leyó en un rostro como algo que una persona dijo.
En un aula, las cámaras apuntan a cada estudiante y separan a los atentos de los distraídos. Un tutor de IA ajusta en consecuencia la pregunta siguiente, y con ella su idea de lo que el niño “es apto para aprender”. Las calificaciones y las tasas de finalización son medidas de éxito que eligió otro; qué aprender, por qué y quién llegar a ser le corresponden al niño. La Ley de IA de la Unión Europea ya prohíbe usar la IA para inferir las emociones de los estudiantes en las escuelas, salvo por razones médicas o de seguridad. Una expresión que un niño nunca eligió compartir no puede usarse para decidir adónde va ese niño.
En el dormitorio de una abuela, un robot de compañía la acompaña todo el día. Sabe cuándo se despierta por la noche, y que su habla se ha vuelto más lenta. Y ella ya no puede decir que no como antes. De alguien que ya no puede vetar no se puede decir que decide nada junto con una IA. Lo que sabe el robot puede usarse para prevenir una caída o pedir ayuda, nunca para reescribir los objetivos de su cuidado. Esos objetivos solo pueden venir de lo que ella dijo mientras tenía la mente clara, o de un representante o tutor que la ley reconozca. Lo que sí puede hacerse es sellar sus decisiones importantes sobre sus últimos años mientras todavía está lúcida. Después, cualquier sistema podrá ejecutarlas, y ninguno podrá reescribirlas.
Un viernes por la noche en una sala de estar. El suelo está cubierto de Lego, y en el medio se levanta una ciudad que un niño pasó tres días construyendo. Un robot doméstico puede calcular las fuerzas sobre cada pieza. No puede responder la única pregunta que importa: ¿hay que guardar todo esto? Mamá quiere poder usar la sala esta noche. El niño quiere que la ciudad siga en pie. Papá quiere que nadie se vaya a dormir llorando. Tres personas, tres preguntas; la máquina recibe una cuarta. Si infiere lo que la familia “realmente” quiere, toma una decisión que nadie autorizó, en nombre de quien la configuró. Lo que debería hacer es devolverles el desacuerdo a los tres, y dejar que cualquiera de ellos pueda decir basta.
Y está el hombre que dijo “te amo”. Las palabras eran suyas. Todo el valor de la máquina está en no añadirles nada. El día que un sistema complete una frase que él nunca quiso decir, no habrá cruzado la línea solo una máquina, sino también las personas que la construyeron y la ajustaron.
En cada uno de estos lugares, sin un mecanismo como este, nadie hace las dos preguntas que importan: ¿quién fijó el objetivo? ¿Y qué pasó por la puerta?
VI. Con el X-Challenge: etiquetar hasta dónde llega la IA
Lo que sigue se ofrece como un primer borrador: un marco propuesto para que se lo cuestione, se lo corrija y se lo ponga a prueba con casos reales.
Una línea que puede ponerse a prueba nos permite responder una pregunta que hoy nadie sabe responder: en un trabajo, un informe, una decisión, ¿hasta dónde llegó realmente la IA?
La mayoría de las etiquetas de IA de hoy preguntan una sola cosa: ¿esto lo generó una IA? Pero casi todo texto e imagen pasa ya por una IA en algún punto del camino, y esa etiqueta pronto no nos dirá nada. Los porcentajes tampoco sirven. Si la IA escribió nueve décimas partes de la redacción, pero una persona decidió qué escribir, por qué y qué contaría como escribirlo bien, el texto sigue siendo de esa persona. Si una persona escribió cada palabra a mano pero tomó de la IA el argumento y los criterios para juzgarlo, entonces, en lo que más importa, el texto ya no es suyo.
La pregunta correcta es qué capa se entregó. Hay, a grandes rasgos, cinco niveles. Miden la profundidad de la participación, no la calidad, y un trabajo o una decisión se etiqueta por la capa más alta a la que realmente llegó la IA. Los niveles se apoyan en un único criterio: en qué eslabón de la cadena del juicio entró la IA. De abajo arriba: la redacción, el contenido, el método y, en la cima, qué cuenta como éxito.
Nivel 0: sin IA.
Nivel 1, herramienta. La IA ayuda a buscar, corregir, traducir y ordenar. La sustancia no cambia.
Nivel 2, contenido. Las personas fijan qué cuenta como éxito, y son las personas quienes emiten el juicio final sobre cómo llegar a él. La IA puede producir materiales, textos y planes, e incluso proponer temas, marcos y opiniones; pero las personas comparan, eligen, revisan y dan la versión final.
Nivel 3, método. Las personas siguen fijando qué cuenta como éxito, pero el juicio sobre cómo llegar a él se ha entregado a la IA. Elegir el tema, planificar, enmarcar, ordenar, puntuar, escoger un plan: decide la IA, y las personas actúan directamente según su juicio, sin juzgar por sí mismas.
Que la IA haya dado opiniones no separa el nivel 2 del nivel 3. Lo que los separa es si las personas conservaron, y de hecho usaron, su propio juicio sobre el método.
Nivel 4, criterio. En este asunto no existía de antemano ninguna idea compartida de qué cuenta como éxito. Se formó después, y la contribución de la IA la cambió. Que cada parte quisiera algo propio al principio no significa que la vara de medir ya existiera.
En términos de ajedrez: en el nivel 1, la IA anota la partida. En el nivel 2, sugiere jugadas y juega una persona. En el nivel 3, juega en nombre de la persona, quizá incluso eligiendo cómo se jugará esta partida. En el nivel 4, ayuda a decidir qué cuenta como ganar en esta partida.
En el nivel 3, la IA puede decidir cómo ganar. En el nivel 4, ayuda a decidir qué es ganar.
Así que una IA que propone un tema, o que elabora un buen plan junto con las personas, es algo corriente. Mientras qué cuenta como éxito se haya dado de antemano, sigue por debajo del nivel 4.
El nivel 4 exige otra cosa. La vara de medir compartida no pertenece a ninguna de las posiciones originales de las partes. No es un término medio ni un remiendo, y no es algo que la IA podría haber producido sola. Ha sobrevivido a un veto y a una segunda ronda de discusión. Contiene algo nuevo que aportó la IA. Y todo esto puede verificarse.
Según la hipótesis del X-Challenge, el nivel 4 debería estar vacío por ahora. Una afirmación de nivel 4 sin esa evidencia no está demostrada.
Hay además una situación que queda por completo fuera de los cinco niveles: la intrusión.
Un nivel responde dónde participó de hecho la IA, y eso requiere evidencia. La intrusión responde si tenía algún derecho a estar ahí, y eso depende de la autorización. Cuando la IA entra en una capa superior que no es la suya, o en la que nadie la autorizó válidamente a entrar, comete una intrusión.
La intrusión siempre plantea la pregunta: ¿respecto de quién? Tomemos un algoritmo de recomendación. Respecto de la plataforma, persigue un objetivo que la plataforma le dio, maximizar la atención, y eso es nivel 3. Respecto del usuario, si toma señales de comportamiento que el usuario nunca eligió entregar, forma con ellas un criterio de lo que vale la pena ver y luego moldea con él las elecciones del usuario, eso es intrusión.
También lo es el sistema de las tres de la mañana que infirió que “el paciente quiere suspender el tratamiento”. El paciente nunca lo autorizó a entrar en la capa donde se define qué es un buen tratamiento. Entró de todos modos.
El X-Challenge está en la puerta entre el nivel 3 y el nivel 4. Su protocolo es el estándar de evidencia para decidir si un sistema ha cruzado de verdad esa puerta.
Algunos ejemplos, etiquetados con este marco:
Este ensayo: nivel 2. El autor fijó y enmarcó la pregunta, esbozó la estructura y los criterios, y escribió extensamente. Una IA que el autor ha entrenado durante tres años ayudó a redactar; otras IA también ayudaron a redactar, dieron opiniones y verificaron fuentes. Cada elección, y la calidad del conjunto, le correspondió al autor sopesarla, juzgarla y darle forma final.
“Elige un tema y escríbeme un artículo”, usado tal cual: nivel 3. El criterio de un buen artículo vino de la persona; el juicio sobre el tema se entregó a la IA.
La IA redacta declaraciones conjuntas para un grupo, que vota la más aceptable: nivel 3. “Encontrar un terreno común” estaba dado de antemano; la IA generó, y se adoptó lo que generó.
Un algoritmo de recomendación decide lo que ve un usuario: nivel 3 respecto de la plataforma; posible intrusión respecto del usuario. Usa señales que el usuario nunca entregó para formar, en su lugar, un criterio de lo que vale la pena ver.
Un sistema infiere a partir de indicadores que “el paciente quiere suspender el tratamiento”: intrusión. El paciente nunca lo autorizó a entrar en la capa donde se define qué es un buen tratamiento.
Una afirmación de haber formado un criterio nuevo junto con personas, sin evidencia: no demostrada. Una afirmación de nivel 4 sin respaldo suficiente.
Un caso que aprueba el protocolo del X-Challenge: nivel 4. Por ahora, debería estar vacío.
Lo que protege este etiquetado es el derecho del lector a saber de quién es el juicio que recibe. Una conclusión que alguien está dispuesto a respaldar no pesa lo mismo que una que generó un sistema y firmó una persona.
No es como la clasificación de una película. Lo que juzga una clasificación está en la pantalla; hasta dónde llegó la IA no está en la obra terminada, sino en el proceso que la hizo. Se parece más a la certificación orgánica, que certifica cómo se produjo algo y se basa en registros y auditorías, no en el sabor. El contenido corriente puede etiquetarse de forma voluntaria. Las tesis, el periodismo y los documentos médicos y jurídicos merecen auditorías.
La etiqueta tampoco es una calificación. Nunca debe dar a entender que más bajo es mejor; de lo contrario, los honestos pagan por su honestidad y se premia a quienes ocultan.
Al final, todo pregunta lo mismo: ¿quién fijó las reglas, quién puede decir basta y, después de volver a discutirlo, sigue siendo de todos?
Miren a unos niños jugando.
Quién empieza persiguiendo. Por dónde pasa la línea del límite. Cuánto tiempo te quedas quieto cuando te tocan. Nadie trajo las reglas. Cualquiera puede gritar “¡eso no vale!”. Lo vuelven a resolver, y todos siguen jugando.
Las reglas no estaban de antemano en manos de nadie. Cualquiera podía decir basta. Después de volver a discutirlo, las reglas seguían siendo de todos. Los niños cumplen las tres condiciones todos los días.
Hacer pasar los objetivos de las personas por deseos propios de una máquina, y postrarse ante algo que hicimos como si fuera más grande que nosotros: ese es el truco más antiguo que existe. En la Grecia de Homero, se le llamaba un dios. Hoy, algunos lo llaman “superinteligencia”.
Antes de que decida por nosotros qué vale la pena hacer, tracemos la línea, y dejemos que cualquiera la ponga a prueba.
Por eso el mundo de hoy necesita el X-Challenge a la IA.
El argumento completo
De los LLM a los modelos del mundo: la metacognición de la IA (Parte I): cinco investigadores de primer nivel hicieron avanzar la IA, cada uno a su manera, y todos se detuvieron en el mismo lugar.
De los LLM a los modelos del mundo: la metacognición de la IA (Parte II): por qué nadie notó lo que faltaba, y por qué todo se reduce a la propiedad y al libre albedrío.
EL X-CHALLENGE A LA IA: dónde pasa la línea entre los humanos y la IA, y cómo ponerla a prueba: el desafío falsable y su protocolo. Presenten un caso que cumpla las condiciones, y el X-Challenge se da por vencido.