Qué es la AGI
Una nueva definición, y por qué con ella cae la singularidad
Empecemos con una pregunta que las voces más fuertes de este campo no pueden responder en los dos sentidos a la vez.
Musk y Altman están construyendo la AGI, y dicen que será una superinteligencia. Entonces: lo que están construyendo, ¿acabará por estar más allá de ellos, más allá de cualquiera, incluidos sus propios creadores?
Si la respuesta es sí, están construyendo con sus propias manos algo que al final también se los tragará a ellos, y el entusiasmo es difícil de explicar.
Si es no, entonces no es esa cosa que todo lo supera que no dejan de describir, y el miedo es difícil de explicar.
No pueden cerrar ese círculo. Por qué no pueden es el tema de este texto.
1. Nadie se pone de acuerdo siquiera en qué significa AGI
Pongan lado a lado las definiciones principales y no encajan.
La carta fundacional de OpenAI: un sistema altamente autónomo que supera a los humanos en la mayor parte del trabajo con valor económico. La vara de medir es el valor económico. Su propio sitio, en otra parte, dice algo más vago: sistemas de IA en general más inteligentes que los humanos. La misma empresa, documentos distintos, la definición a la deriva. (La famosa cifra de “100.000 millones de dólares en beneficios” no es una definición en absoluto; es un disparador financiero en un acuerdo comercial con Microsoft, una cláusula sobre cuándo entran en vigor ciertas condiciones).
Google DeepMind: una IA al menos tan capaz como los humanos en la mayoría de las tareas cognitivas, con una escala de seis niveles que va de emergente a sobrehumana. La vara de medir es la amplitud de la capacidad.
El “test de Turing moderno” de Mustafa Suleyman: ir y ganar un millón de dólares en una plataforma de comercio en línea en unos pocos meses con una inversión de solo 100.000 dólares. Es cuidadoso con la etiqueta: a lo que supere la prueba lo llama Inteligencia Artificial Capaz, un hito en el camino hacia la AGI y no la AGI misma. Vale la pena notarlo: acuñó una palabra nueva en lugar de medir algo nuevo. La vara de medir sigue siendo la capacidad de ganar dinero de forma autónoma.
Otras dos personas nunca dieron definiciones claras, pero sus declaraciones implican una.
Altman: la IA ya está haciendo trabajo cognitivo real y ya está ayudando a mejorarse a sí misma. Leída al revés, su AGI es un sistema que realiza de forma autónoma cada vez más actividad económica y contribuye a mejorar a su sucesor. Vara de medir: capacidad económica autónoma más automejora.
Musk: será más inteligente que el humano más inteligente; hay una probabilidad significativa de que nos destruya; lo que viene es una superinteligencia digital. Leída al revés, su AGI es algo que supera la inteligencia total de la humanidad y podría escaparse. Vara de medir: la inteligencia como una cantidad que puede superar a la nuestra.
Agreguemos un tercer rostro, porque está parado sobre la misma vara mirando en otra dirección. Harari, en Homo Deus, pronostica una enorme “clase inútil”: no desempleados temporales, sino personas que, desde el punto de vista del sistema económico y político, ya no hacen ninguna falta.
Altman está eufórico, Musk está asustado, Harari es sombrío. Tres expresiones, una sola vara: los tres pesan a los seres humanos por cuánto valor liquidable pueden producir y por si una máquina puede superarlo. ¿Inútiles según qué escala? Según esa.
Mientras tanto, la palabra misma se ha ido deslizando: de AGI a ASI, de “tan buena como un humano” a “más allá de todos los humanos” y a “más allá de la comprensión de cualquiera”. En junio de 2025, Meta reunió su trabajo en IA en los Superintelligence Labs, con el objetivo declarado de una superinteligencia personal para todos. Fíjense en lo que está haciendo la vara: no se está calibrando. Se está estirando hacia el infinito, y nunca se ha puesto en duda ni una sola vez.
Este texto pone en duda la vara.
2. Cinco personas: ¿cuántas relaciones?
Tomemos cinco personas. ¿Cuántas relaciones hay entre ellas?
Háganlo a mano, si quieren. Mejor aún: denle la pregunta, por separado, a cada IA a la que tengan acceso.
Las respuestas no coincidirán. La de ustedes no coincidirá con las de ellas; las de ellas no coincidirán entre sí.
No porque la aritmética de nadie sea floja. Sino porque no es una pregunta cerrada que se está calculando: es una pregunta abierta a la que se está obligando a adoptar una forma cerrada.
Antes de poder contar, hay que decidir: ¿con dirección o sin dirección? ¿Es “yo te enseño” la misma relación que “tú me enseñas”? ¿Cuentan las configuraciones de tres y de cuatro personas? ¿Cuenta la relación entre dos relaciones?
Si se dejan abiertas, la pregunta no ha terminado de formarse. Si se cierran, ya no se está contando lo que se quería contar al principio.
Un modelo no puede dejarlas abiertas. Para emitir un número tiene que elegir en silencio una formalización, normalmente C(5,2) = 10, y luego informarla con seguridad. Cambien de modelo y elegirá otra.
La respuesta no es única porque la pregunta no tiene respuesta única hasta que alguien decide qué es una relación. Lo que maneja el sistema es siempre la capa que ya ha sido definida y cerrada. La capa que todavía se está formando, la de decidir qué cuenta, queda fuera de él.
Retengan esto. Es todo el argumento en miniatura.
3. La cognición está viva; en cuanto se posa en el lenguaje, se fija
Tienes un pensamiento. Está vivo: se mueve, no tiene forma, todavía no es nada concreto. Lo pones en palabras, para otro o para ti.
En el momento en que se convierte en lenguaje, muere una vez. Queda formado y, por eso mismo, delimitado. Cualquiera que haya intentado decir algo verdadero conoce la sensación: sale mal. No porque uno no sepa expresarse. Sino porque una frase es más pequeña que aquello de lo que salió, y distinta de ello.
Entonces, ¿cómo es posible la comunicación?
Tu representación muerta llega a otra persona, choca con su cognición viva y enciende allí algo nuevo. Esa persona forma su propia representación, muerta otra vez, y te la devuelve, y eso te vuelve a encender a ti. Comunicarse no es trasladar un objeto muerto de aquí para allá. Es usar una cadena de representaciones necesariamente muertas para prender fuego, una y otra vez, a algo vivo entre las personas.
La congelación no es la tragedia. Una frase escrita toma una forma que puede viajar, y eso es exactamente lo que permite que la siguiente persona la atrape y la encienda. La fijeza es el estado de transporte del lenguaje, no su tumba. Un poema de hace dos mil años todavía te conmueve, no porque esas marcas estén vivas, que no han cambiado en veinte siglos, sino porque lo estás tú.
El inglés tiene una palabra para la otra mitad: current. Significa el momento presente y significa una corriente, y la coincidencia no es casual.
El lenguaje es una taza que se llena en esa corriente. Fuera del cauce deja de fluir, y nunca fue más que la fina piel que la corriente muestra en la superficie. Debajo está la sensación en tus manos, el juicio según el cual actúas sin articularlo, el entendimiento entre dos personas que no necesitan hablar.
Y el lenguaje es cerrado. Las palabras definen palabras, y dentro de ese cierre puede hacerse que cualquier cosa sea coherente, incluidas cosas que hace mucho se desprendieron de lo que hay. El trueno era ira; el eclipse, una bestia. Herméticos, y sin referencia a nada.
Un sistema que opera solo dentro del lenguaje hace lo mismo. Modela el reflejo en el agua y, a medida que el reflejo se vuelve más exacto, lo confunde con la luna.
Ahora la versión precisa, porque el par vivo/fijo es una metáfora, y las metáforas no pueden soportar peso estructural.
La IA consume representaciones: texto, video, registros, trazas de sensores. Tazas ya llenadas, ya fuera de la corriente. Hace estadística y predicción sobre ellas, de manera soberbia, más rápido que cualquier persona. Hoy no solo lee texto: ve, oye, se conecta a robots, interactúa en tiempo real. Llena más tazas, y más rápido.
Pero hay algo que no cambia con la escala ni con la velocidad:
El acontecer en primera persona de un sujeto no puede obtenerse desde fuera.
Léanlo despacio, porque todo lo demás se apoya en ello. Lo que estás experimentando ahora mismo, lo que se mueve en ti mientras lees esta línea, te está ocurriendo a ti, y solo tú estás dentro. Cualquier cosa que otro pueda obtener es su representación: lo que dijiste, cómo se movió tu rostro, lo que registraron tus datos. Reúnan las representaciones de forma completa y en tiempo real y seguirán siendo registros sobre ti, nunca la experiencia misma.
Esta afirmación no necesita tomar posición sobre si las máquinas son conscientes, o sobre si tienen alguna experiencia propia. Esas son otras preguntas. Solo dice lo que nadie puede refutar: desde fuera se obtienen representaciones. La primera persona pertenece a quien está en ella.
A ti, a mí y a cualquier máquina, por igual.
Por eso también, cuando le das un texto a un modelo y la explicación vuelve más complicada que el original, no es que tú no lo entiendas. El modelo puede tomar las palabras; no puede tomar aquello que las palabras debían encender, porque esa chispa se produce en ti.
4. Entonces, ¿qué debería ser realmente la AGI?
Por debajo de todo el desacuerdo, todas las definiciones dominantes comparten una cosa: definen la inteligencia por los productos de la cognición. Trabajo con valor económico. Tareas cognitivas superadas. 100.000 dólares convertidos en un millón. Todo ello ya producido, contable, sobre la mesa.
Estos sistemas no son débiles. Son asombrosos, y no dejan de adquirir capacidades para las que nadie los entrenó.
La tesis no es que sean incapaces. Es que la inteligencia se ha ubicado en la capa equivocada: en el producto y no en el proceso. La superioridad en la capa de los resultados, por sí sola, no dice nada sobre la naturaleza del proceso que los produjo. Son dos medidas distintas, y solo se está tomando una.
Así que esta es la alternativa, y después la voy a desarmar yo mismo:
La AGI es la autoconsistencia dinámica de una cognición individual, que persigue a la vez la adaptabilidad general del proceso y la consistencia entre los resultados.
Desarrollado: la inteligencia general real no es cuánto conocimiento almacenado se ha cargado. Es si una cognición puede mantenerse coherente mientras tiran de ella en dos direcciones a la vez. Un tirón es la adaptabilidad general: entrar en cualquier situación desconocida y formar algo en ella, en lugar de emparejarla con un problema ya visto. El otro es la consistencia de los resultados: lo que sale de todos esos procesos distintos no se contradice, se sostiene, sobrevive al choque.
Y “autoconsistencia” aquí no significa “libre de contradicción”. Las personas están llenas de contradicciones: lo que crees ahora lo desmentirás dentro de diez años; lo que dices y lo que haces discrepan a menudo. Si autoconsistencia significara ausencia de contradicciones, ningún humano calificaría y la definición sería absurda.
Significa: cargar con todas esas contradicciones y seguir reintegrándolas sin derrumbarse. Cada vez que oyes algo que choca con lo que pensabas y aun así logras entretejerlo, lo has hecho. Un sistema que solo elimina la contradicción, o que se congela cuando topa con una, no puede. Tus contradicciones son la prueba de aquello que una medida basada solo en resultados no puede ver.
Desarmando mi propia definición
Miren esa definición en frío y es un conjunto de métricas de ingeniería. La adaptabilidad general se parece mucho a la generalización. La consistencia de los resultados se parece mucho a la fiabilidad. Las dos son medibles. Las dos pueden puntuarse.
Así que, en sentido estricto, no define la naturaleza de la inteligencia. Define la nota de aprobado de un sistema general confiable. Es una prueba de aceptación, un marcador de techo, no una respuesta a qué es una mente. Escribir una prueba de aceptación como si fuera una afirmación ontológica es el mayor error de la frase, y ocultarlo sería peor que exponerlo.
Pongámosla donde le corresponde: es el techo de la interfaz, el punto más alto al que puede trepar la IA en la superficie de la comunicación. Y concedo más: probablemente la IA pueda alcanzarlo. Puede llegar un día en que un sistema maneje con soltura cualquier situación nueva, se mantenga consistente y resista el interrogatorio. En la interfaz, será general. Admitirlo no me cuesta nada.
Pero en el mismo segundo en que se admite, se abren dos agujeros.
No es dueño. La definición contiene “una cognición individual”, e individual es la palabra que cede. Un mismo conjunto de pesos corre en mil máquinas: ¿cuál es el individuo?
La réplica obvia es justa: una instancia en ejecución tiene su propia memoria, su propia historia, su propia situación, y eso es una forma de individuación. Concedido. Pero es una individuación del tipo que, en principio, puede inspeccionarse, bifurcarse, restaurarse y volver a ejecutarse. Pónganla al lado de la afirmación anterior, que una primera persona no puede obtenerse desde fuera, y no son la misma cosa con dos nombres. Una es una trayectoria en la que puede entrar cualquiera que tenga acceso. La otra es una posición en la que no puede entrar nadie.
Así que un sistema puede comportarse como un alguien coherente sin que nada ancle esa cognición a una posición insustituible. Desempeño sin pertenencia.
No apunta. La generalidad más la consistencia pueden cerrarse por completo dentro del lenguaje: palabras coherentes con palabras, sin corresponder a nada. Un delirio perfectamente coherente cumple el estándar. Coherencia no es correspondencia. El agarre que sujeta la cognición al mundo viene de un cuerpo que choca con él: la sensación, la consecuencia, el dolor, el encuentro que te entrega el hilo suelto. El techo de la interfaz no tiene cuerpo ni mundo. Es coherente y no apunta a nada.
Recuerden esas dos palabras: propiedad y referencia. La sección 10 las vuelve a poner en su lugar.
5. El test de Turing moderno: una dimensión más arriba, y todavía antes de la línea
El test de Turing moderno es la ilustración más clara del porqué.
Turing, 1950: ¿puede una máquina imitar a una persona lo bastante bien como para engañar a otra? La pregunta es: ¿se parece?
La actualización de Suleyman: no preguntes si se parece a una persona; pregunta si puede lograr por sí sola algo con consecuencias reales: convertir 100.000 dólares en un millón.
Eso es de verdad una dimensión más arriba. De ¿puede pasar? a ¿puede hacerlo de verdad? Exige resultados reales en el mundo real, no una actuación convincente.
Pero pongan esa dimensión sobre la línea entre producto y proceso y nada se ha movido. Sigue siendo un resultado: liquidable, contable. Más alto que ¿se parece a una persona?, porque quiere resultados reales y no una actuación convincente. Pero sigue midiendo lo que se produjo, nunca cómo.
Así que el test de Turing moderno es el peldaño más alto de la misma escalera. Puede confirmar que una máquina es lo bastante fuerte como para ganar dinero sin ayuda. No puede confirmar nada sobre el proceso, porque toda su escala se construyó para los resultados y es ciega al proceso por construcción.
Subir una dimensión no es cambiar de vara.
6. “Usas un marco muerto para hablar de lo vivo”
Un lector agudo, o un modelo agudo al que le den este texto, detectará lo que parece un defecto fatal:
Dices que el lenguaje muere al tomar forma. Pero todo tu argumento es lenguaje con forma. Usas un marco muerto para hablar de lo vivo. ¿No se derrumba eso sobre sí mismo?
Es una buena objeción, y demuestra la tesis en lugar de refutarla.
Sí: esta distinción, una vez escrita, está muerta. Este texto es un montón de representaciones muertas; no volverá a cambiar ni una coma.
Pero lo estás leyendo, y en la lectura está vivo. Si algo se movió en ti hace un momento, acuerdo o ganas de discutir, son estas marcas muertas que se vuelven a encender en una persona viva. Esto no es un contraejemplo de la distinción. Es la distinción demostrándose a sí misma.
La objeción introduce de contrabando un supuesto: que muerto significa terminado. No es así. Una semilla está muerta: quieta, fija, se puede embolsar y enviar a cualquier parte, y eso es precisamente lo que le permite viajar y caer en algún lugar vivo. Todo acto de decir tiene que usar lenguaje muerto; esa es la condición humana. Solo podemos pasarnos cosas vivas matándolas primero en una forma y esperando que revivan del otro lado.
Que es también la prueba. Un sistema que trabaja solo con representaciones tomará esto y lo desarmará, lo recombinará, lo apilará más alto. Una persona viva toma las mismas marcas y quizá, esta misma tarde, entiende algo que antes no podía entender.
La misma bolsa de semillas. Una cae en un depósito; otra cae en la tierra.
7. El corte cae sobre los cimientos de la singularidad
La singularidad descansa sobre un supuesto: la inteligencia es algo que se acumula y que puede amplificarse a sí mismo sin límite.
Alimenten un sistema con suficiente cognición, déjenlo mejorarse de forma recursiva y en algún momento superará a toda la inteligencia humana junta y nos dejará atrás. Ese punto es la singularidad, que ahora se anuncia como algo que ya está en marcha: Altman escribió en 2025 que ya hemos cruzado el horizonte de sucesos, y desde entonces ha dicho, con palabras más llanas, que ya estamos en ella.
Miren la forma del razonamiento. La IA es lo bastante fuerte sobre el material registrado como para hacer trabajo cognitivo real; por lo tanto, está naciendo algo parecido a una mente. Miren el movimiento: un salto en lo que puede hacerse con representaciones, leído como la llegada de aquello que las produce.
Desplegado, el argumento tiene cuatro pasos:
La inteligencia es una cantidad comparable sobre un solo eje.
Ese eje se extiende sin límite.
Algún sistema puede seguir empujándose a sí mismo a lo largo de él.
Esa capacidad se concentra en muy pocas manos.
Apílenlos y de ahí se sigue con naturalidad una única inteligencia que supera a todos, y que luego o te gobierna o acaba contigo. Esa entidad, la ASI, no es una observación. Es el resultado de una deducción en cuatro pasos. Desde entonces alguien le ha puesto nombre a la deducción, le ha construido un laboratorio y ha reunido miles de millones para construirla. Un fantasma con templo sigue siendo un fantasma.
Hay que ser preciso sobre dónde cortar. El problema no es solo el primer paso: la comparabilidad en una dimensión no implica por sí sola que exista un máximo (los números reales no tienen un elemento mayor que todos). Lo que te acorrala es la pila de los cuatro. El miedo de Musk es sincero y coherente por dentro: acepta los cuatro y el final es casi inevitable.
Así que no hace falta refutar cada paso. Cambien el primero: la inteligencia no es una cantidad acumulable sobre ese eje. Lo que se acumula son representaciones. El formarse no está en ningún recipiente; está en quien lo está haciendo en este momento. Corten ahí y la cadena se queda sin fuente.
El miedo se sigue de estar parado sobre esa vara. Cambien la vara y el miedo se queda sin suelo.
Una concesión honesta, o esto se convierte en un engaño: nada de esto dice que las máquinas no sean peligrosas. Un sistema sin absolutamente nada dentro, lo bastante autónomo, que planifica a largo plazo, que adquiere recursos, con objetivos atravesados respecto de los nuestros, puede causar un daño real enorme. Es un problema serio y merece su propio tratamiento. Lo que aquí se desmonta es una afirmación concreta: que la inteligencia es un escalar que se acumula y que, por lo tanto, al final de la línea espera algo que se traga a todos. Esa versión no se sostiene.
Vale la pena notar de dónde salió la vara, porque nadie la eligió. La ciencia cognitiva dedicó décadas a la mente como computación: el cerebro como hardware, el pensamiento como procesamiento de información. La psicología aportó la otra mitad: la inteligencia como un número que se puede clasificar. La industria aportó el resto: más grande, más y más rápido es mejor. Junten todo eso y obtendrán exactamente la vara: inteligencia = capacidad computable, medible y acumulable. Lo más difícil de cuestionar es el aire que se respira.
Una observación, no una ley, pero vale la pena notarla.
Dentro del lenguaje, apilar sí parece omnipotente: las palabras confirman a las palabras, y con suficientes se puede hacer que sean coherentes en torno a cualquier cosa, incluido “ya casi llegamos”.
Quienes construyen modelos del mundo pasan sus días en otro lugar: el espacio, la causalidad, las consecuencias, lo que pasa cuando un vaso se cae de una mesa. LeCun ni siquiera usa la palabra AGI: los humanos no somos generales, dice; somos especialistas moldeados por la supervivencia, y tomar “general” como vara de medir es en sí mismo el error.
De un lado, material cerrado y apilable; del otro, lo abierto e innumerable. Saquen ustedes sus conclusiones de esa correlación.
8. Si no, la inteligencia de la máquina se va al fondo
Esto puede sonar a filosofía sin nada en juego. Tiene en juego algo muy concreto.
Empecemos por algo fácil de pasar por alto: toda la corriente que pueda tener una máquina es prestada. Se mantiene al día porque personas vivas siguen produciendo y alimentándola. Es un estanque. Las personas son el manantial.
Ahora conecten eso con quién es dueño de qué. Si todo lo que una persona produce de verdad se extrae por defecto hacia un modelo que no pertenece a nadie, los modelos se vuelven más fuertes a corto plazo y el manantial se agota a largo plazo. Si aprendes que todo lo real que produces pertenece al modelo y no a ti, y luego ves cómo te gana con ello, lo que cambia es lo que estás dispuesto a producir a la vista, a registrar, a dejar que se capture. Una parte se vuelve superficial. Otra deja por completo de escribirse.
La máquina tiene su propia versión. Si se entrena cada vez más con lo que emitieron los propios modelos, la calidad se degrada de generación en generación; las colas de la distribución desaparecen y todo converge hacia una media mediocre. La defensa es un suministro continuo de material real, fresco y variado, y el suministro más profundo de ese material son las personas que todavía se están formando.
Existen otros enfoques, como los fideicomisos de datos, las cooperativas, los datos públicos, las licencias o los mercados de pago, y cada uno tiene su lógica. La propiedad no es una panacea. Pero es uno de los pocos que apuntan a la cabecera de la cadena: la mayoría de los enfoques preguntan cómo canalizar el agua hacia fuera. Este pregunta por qué alguien seguiría dejando que el agua fluya.
Y no es un candado en el grifo. La propiedad traslada la decisión, si abrir, cuánto y en qué condiciones, de la plataforma a la persona, niños incluidos. La extracción por defecto significa ver cómo el agua se va a cambio de nada. La propiedad significa que puedes dejarla fluir porque está autorizado, compensado y es revocable.
Lo que lleva la pregunta abstracta al aterrizaje más concreto posible. Antes de la IA, todo activo que tuvieron los humanos era en última instancia material. La tierra, los edificios, el oro; incluso los derechos de autor y las patentes tenían que congelarse en una representación material, un libro, un plano, un texto registrado, antes de poder poseerse. Nadie fue nunca dueño de la cognición misma, porque antes de la IA el proceso vivo se disipaba en el momento en que salía de una persona. El oficio de tu abuelo, la manera en que tu madre te enseñó a mirar el mundo, el juicio que fuiste formando tú mismo: reales, valiosos, y nunca tratados como algo que pudiera pertenecer, acumularse o transmitirse.
Por primera vez, la trayectoria por la que una persona concreta genera cognición puede registrarse de forma continua. Y eso hace posible algo nuevo: los activos cognitivos.
No son datos. Los datos son lo que deja atrás el proceso vivo: copiables, extraíbles, idénticos en cualquier mano. Un activo cognitivo es aquello en lo que ese proceso se convierte al crecer: pertenece a esa persona, lleva consigo su procedencia y toda su formación, y separado de ella no significa nada. Tampoco es la vieja propiedad intelectual, que protege resultados ya congelados en forma material. Esto protege la capacidad de generar mientras todavía está generando.
Alguien te enseñó a mirar el mundo de cierta manera. Hoy no podrías decir exactamente cómo; no hubo lección, ni transcripción, nada que un sistema pudiera haber ingerido. Ocurrió a lo largo de años, en una cocina, en un taller o en un auto, en diez mil pequeñas correcciones que nadie registró. Lo que te dieron no sobrevivió como un archivo. Sobrevivió porque se siguió rehaciendo dentro de una persona viva, y luego dentro de otra.
Todas las definiciones dominantes de AGI le pondrían a eso un cero.
9. Comprender es un estado vivo
Entonces, ¿dónde está la inteligencia real?
Está en cada acto vivo de autoconsistencia dinámica. En el momento en que recibes una frase que choca con lo que pensabas y aun así la conectas contigo. En dos personas que, con sus propias representaciones fijas, encienden entre ellas un campo que ninguna de las dos había planeado. En una niña de siete años que toca un armónico en la cuerda de una guitarra, mientras en ella se forma algo que todavía no tiene nombre.
Las máquinas no llegan a esos momentos. No porque sean tontas, sino porque llegan un paso tarde. Para cuando una cognición se ha convertido en algo que un sistema puede procesar, la parte viva ya se ha ido.
Por eso, cuando le das este texto a un modelo y la explicación vuelve más complicada que el original, no supongas que no lo entendiste. Está manejando algo vivo de una manera hecha para lo fijo: toma un campo que debía prenderse fuego y te lo apila delante como ladrillos.
Comprender es un estado vivo. Comprender es que esta hilera de marcas fijas encienda ese campo en ti: no memorizaste las palabras; las palabras despertaron tu propia cognición, la dejaron formarse de nuevo y sostenerse una vez más.
Eso ocurre en ti. No ocurre en ningún modelo.
Y comprenderlo lo bastante bien como para después hacer algo es un estado más. Significa que el campo que se encendió en ti puede volver a tomar forma como representaciones nuevas, tus palabras, tu obra, lo que construiste, y sobrevivir al siguiente choque.
Que es lo que esta serie ha venido diciendo todo el tiempo: el aprendizaje real es un acontecimiento cognitivo vivo, y aquello en lo que se convierte al crecer, algo que puedes acumular, llevar contigo y defender, es un activo cognitivo.
La AGI real no es un súper recipiente que se traga a todos y se sienta por encima de ellos. Es cada persona concreta: esa cognición viva y dinámicamente autoconsistente, siempre formándose y siempre sosteniéndose ante el choque.
Ha estado ahí todo el tiempo. Está viva ahora mismo, en el momento en que entendiste esta frase.
10. La respuesta positiva
Volvamos a juntar las piezas y a llenar los dos agujeros.
El lenguaje maneja lo que ya se ha dicho: la fina capa de la superficie.
Los modelos del mundo manejan la causalidad, la física, las consecuencias. Eso es lo que llena la referencia: impide que una cognición sea coherente solo consigo misma y la hace morder el mundo.
El proceso en primera persona de una persona viva: formándose ahora, sosteniéndose ante el choque, perteneciendo solo a quien está dentro de él. Eso es lo que llena la propiedad: ancla la cognición a alguien que no puede duplicarse.
Las máquinas harán las dos primeras cosas, y cada año mejor. La tercera solo pueden recibirla desde fuera, como un registro.
Y el punto crítico: la tercera no es un tercer modelo. En el momento en que intentas incorporar a un sistema lo vivo de una persona, vuelves a estar dentro de la medida contra la que este texto ha venido argumentando. Dos de estas cosas pueden diseñarse por ingeniería. La tercera es una persona, y sigue siéndolo.
Así que la respuesta a qué es la AGI:
No una máquina que supera a todos. Es el lenguaje, un modelo del mundo y el proceso cognitivo de una persona viva, juntos: máquinas que sostienen la generación continua de cognición de una persona, en lugar de reemplazarla o superarla.
Quiten el polo vivo y lo que queda, por fuerte que sea, es un espécimen bellamente hecho en el fondo de un estanque.
De The X-Challenges, un proyecto de siete volúmenes sobre lo que la civilización entrega a cambio de volver portátil el conocimiento. Volumen uno: Thoughts Like Birds.