Mentes que se asoman al límite: Chiang, Pantheon y la pregunta colectiva
En la clase venimos siguiendo un hilo: la Hipótesis de los Mil Cerebros de Jeff Hawkins nos dice que tu corteza es, en realidad, miles de columnas autónomas que votan en silencio para producir lo que tú vives como una mente única. Es decir, lo que llamas "yo decidiendo" ya es, en el fondo, un parlamento. Esa idea cambia todo lo que sigue. Si la inteligencia individual ya es colectiva, ¿qué pasa cuando empezamos a construir inteligencia artificial que también es colectiva (ShELL, federated learning, agentes en el borde), o cuando imaginamos qué pasa al otro extremo del espectro, donde la individualidad desaparece por completo (los Borg)?
Para pensarlo a fondo, esta semana nos vamos a apoyar en dos relatos cortos de Ted Chiang y en una serie animada que pocos han visto. No son ejemplos sueltos: son tres ángulos del mismo problema.
Primera lectura: The Merchant and the Alchemist's Gate
The Merchant and the Alchemist's Gate, Ted Chiang
El cuento ocurre en una Bagdad medieval donde un alquimista construye una puerta que permite viajar veinte años al pasado o veinte años al futuro. La regla es despiadada: nada de lo que hagas al otro lado puede cambiar lo que ya ocurrió o lo que va a ocurrir. El futuro está fijo. El pasado también. Y sin embargo, los personajes que atraviesan la puerta no salen iguales: salen con comprensión, con perdón, con sentido. Chiang construye una meditación budista disfrazada de cuento árabe: el determinismo no anula la dignidad humana, la transforma. Lo que importa no es lo que podemos cambiar, sino lo que podemos entender.
Para la clase, la pregunta es ésta: si una inteligencia colectiva (sea biológica, artificial o civilizatoria) llegara a ver el futuro con esa claridad, ¿qué haría con ese conocimiento? El cuento sugiere que la respuesta correcta no es intentar cambiarlo. Es aprender a habitarlo.
Segunda lectura: What's Expected of Us
El segundo cuento de Chiang, publicado originalmente en la revista Nature, ocupa exactamente dos páginas. Hay un aparato llamado el Predictor: una caja con un botón y una luz. La luz se enciende un segundo antes de que tú presiones el botón. Siempre. Sin excepción. Eso prueba, en términos físicos, que el libre albedrío no existe: la señal viaja hacia atrás en el tiempo, y tus decisiones están determinadas antes de que las experimentes como decisiones. Algunas personas, al entenderlo, caen en mutismo akinético. Dejan de moverse. El narrador, que escribe desde el futuro, nos ruega: pretendan que tienen libre albedrío. La alternativa es la parálisis.
Conexión con la Hipótesis de los Mil Cerebros: si tu sensación de agencia unificada es ya una ilusión producida por miles de columnas corticales votando, entonces el Predictor no añade nada nuevo. Sólo lo hace visible. Tu "yo decidí" siempre fue una metáfora narrativa que tu cerebro le cuenta a sí mismo después de que el parlamento ya votó. El cuento de Chiang nos pregunta si esa ilusión, una vez expuesta, todavía vale la pena sostenerla. Y la respuesta del narrador, casi desesperada, es que sí. Porque sin ella, la civilización se detiene.
Para quien quiera ir más lejos: Pantheon
Si las dos lecturas anteriores los dejan con ganas de más, vean al menos los primeros tres o cuatro episodios de Pantheon, la serie animada de AMC basada en los cuentos de Ken Liu. El punto de partida: una empresa logra escanear cerebros humanos y subirlos a la nube como UIs (Uploaded Intelligences). Los UIs piensan miles de veces más rápido que un humano, pero ya no tienen cuerpo, y la pregunta de si siguen siendo la misma persona es central a toda la serie. Las temporadas avanzadas (sin entrar en spoilers) plantean explícitamente la conexión con la Paradoja de Fermi: tal vez las civilizaciones inteligentes no se extinguen ni se silencian, sino que convergen hacia formas de existencia que ya no son detectables desde afuera. Pantheon es, posiblemente, la mejor obra de ficción contemporánea sobre el problema que estamos discutiendo en clase.
El hilo que las une
Las tres obras (las dos de Chiang y Pantheon) no son sobre tecnología. Son sobre el yo. Y específicamente sobre qué pasa con el yo cuando se le quitan los supuestos básicos: el libre albedrío (Predictor), la posibilidad de cambiar el destino (Merchant), o la frontera entre individuo y colectivo (Pantheon). En las tres, lo que está en juego no es si la tecnología es buena o mala. Es si, una vez expuesta la naturaleza colectiva e ilusoria del yo individual, todavía podemos construir algo significativo.
La Hipótesis de los Mil Cerebros nos dice que la naturaleza ya escogió la inteligencia colectiva como arquitectura, y que la mantuvo viable manteniendo a las miles de columnas con perspectivas distintas. ShELL intenta replicar eso fuera del cráneo. Los Borg son la versión donde se elimina la diferencia. La Paradoja de Fermi puede ser, entre otras cosas, la huella de civilizaciones que ya hicieron la travesía. Y Chiang, en sus dos páginas y en su cuento medieval, nos sugiere una posible postura: aceptar lo que somos sin renunciar a vivir como si importáramos.
Eso es, al final, de lo que se trata el curso. No de cómo funciona la IA. De cómo seguir siendo humanos mientras la construimos.
Para discutir en clase
¿Si supieran con certeza que su libre albedrío es una ilusión, vivirían distinto? ¿Cambiarían algo? ¿O harían como el narrador del Predictor, y seguirían pretendiendo? Y si la respuesta es que seguirían pretendiendo: ¿qué nos dice eso sobre el tipo de IA colectiva que vale la pena construir?
