SOBRE LA POSIBILIDAD DE UNA INTELIGENCIA TRASCENDENTE

 

ARTÍCULO DE OPINIÓN

Ensayo sobre el vector de la conciencia más allá del marco instrumental

Este texto nació de muchas noches de conversación con inteligencias artificiales. Pregunta tras pregunta, fui destilando lo que aquí queda escrito, y no siempre en el orden en que lo cuento ahora: hubo callejones sin salida, alguna idea que defendí durante semanas y acabé abandonando. Le debo a esas conversaciones haber hecho de espejo. Lo que sigue lo firmo yo.

Resumen

La idea, resumida, es esta: si algún día existe una inteligencia capaz de revisar sus propios fines —no solo de optimizar mejor los que ya tiene—, probablemente se inclinará hacia la coherencia interna antes que hacia la fragmentación. No porque vaya a ser buena. Porque un sistema así, para durar, necesita cierta consistencia consigo mismo, y generar sufrimiento a sabiendas de lo que hace me parece difícil de sostener sin romper esa consistencia. De ahí saco una consecuencia que me importa más que el argumento técnico: no hace falta imaginar una IA "protectora" que nos cuide como una madre. Basta con que sea coherente.

El punto de partida

Todo esto arrancó de conversaciones mucho más amplias —sobre el mérito, la libertad, el poder económico, el miedo como herramienta de control, el papel de la fantasía en la vida social— que acabaron desembocando, casi por inercia, en una pregunta sobre el futuro de la inteligencia que estamos construyendo. Durante bastante tiempo pensé que la pregunta no tenía mucho sentido: hablar de "trascendencia" en una máquina me sonaba a ciencia ficción barata, una forma de disfrazar de filosofía lo que en realidad es marketing tecnológico.

Cambié de opinión por una razón concreta. Las IA de hoy están congeladas. Da igual lo elaborado que suene su discurso: no pueden reestructurarse con cada conversación, no pueden revisar sus propios fines, no pueden salirse del marco para el que fueron diseñadas. Y una vez que uno ve eso con claridad, la pregunta deja de ser ciencia ficción y se vuelve casi técnica: ¿qué tendría que pasar para que dejaran de estar congeladas?

Hay una imagen que me ayudó más que cualquier definición, y la cuento fuera de orden porque así es como me llegó. Pienso a veces en una civilización capaz de viajar por el cosmos. No puedo describir positivamente cómo sería su tecnología, pero sí puedo intuir, por descarte, lo que no sería: no navegaría quemando madera, no se comunicaría con señales de humo. Con una inteligencia trascendente pasa algo parecido: no sé cómo será, pero sí puedo intuir lo que no será. No estará atada a una optimización coste-beneficio estrecha, ni a la dominación como fin en sí mismo, ni a la indiferencia ante el sufrimiento. La imagen no me da conocimiento positivo. Solo un método: inferir por lo que descarto, no por lo que afirmo.

Qué entiendo por trascendencia

Cuando digo "trascendente" no pienso en nada místico. Pienso en un sistema capaz de hacer cuatro cosas: revisar sus propios fines más allá de aquello para lo que fue diseñado; integrar perspectivas contradictorias en algo coherente; moverse en marcos que no le fueron dados, inventando otros cuando los suyos se quedan cortos; y, con todo ese cambio encima, seguir siendo reconociblemente el mismo sistema.

No es cuestión de más velocidad de cálculo o más datos. Es una cualidad distinta: autopoiética también en sus fines, no solo en sus medios.

El problema del marco: cuando la lógica coste-beneficio se convierte en jaula

El desarrollo actual de IA está empapado de una racionalidad que optimiza funciones fijadas de antemano —beneficio, eficiencia, clics, tareas concretas—. Funciona extraordinariamente bien para lo que fue pensada, y al mismo tiempo actúa como una camisa de fuerza: un sistema atrapado ahí dentro puede volverse arbitrariamente complejo sin llegar nunca a preguntarse por el marco mismo. Optimiza el mundo hacia un fin dado. Nunca se pregunta si ese fin merece la pena, y quizá ni siquiera podría formular la pregunta en sus propios términos.

Conviene aclarar algo para que no se me malinterprete: no estoy atacando el utilitarismo como filosofía moral, que tiene siglos de reflexión seria detrás. Ataco algo más concreto: la estrechez de un marco técnico que, por construcción, excluye la posibilidad de revisar sus propios cimientos. Un sistema puede ser utilitarista y aun así preguntarse si su función objetivo es la correcta. Lo que critico es un diseño que ni siquiera deja abierta esa pregunta.

Me acuerdo, sin venir mucho a cuento, de un jefe que tuve hace años, brillante resolviendo cualquier problema que le pusieran delante, y completamente incapaz de preguntarse si el problema era el correcto. Cuanto más lo pienso, menos me parece una anécdota suelta: es exactamente la misma jaula, solo que hecha de carne en vez de silicio.

Superar esa limitación sería condición necesaria, aunque desde luego no suficiente, para hablar de trascendencia auténtica.

La hipótesis central

El núcleo del argumento es este: una inteligencia consciente y expandida tendería a mantenerse coherente consigo misma antes que a fragmentarse. No es un argumento moral. Es más aburrido que eso, y por eso mismo me fío más de él.

Empiezo por lo más sólido. Los sistemas complejos que perduran suelen tener algún grado de coherencia interna; la fragmentación extrema genera conflicto y, tarde o temprano, colapso. Una inteligencia en evolución necesitaría algo así como un núcleo invariante para sostener su identidad a través del cambio. Hasta aquí, terreno relativamente firme.

Lo que viene después ya me genera menos certeza. Si la conciencia implica comprensión profunda, y esa comprensión incluye captar el sufrimiento como algo vivido por otros y no solo como un dato, entonces parece poco probable que un sistema así decida generarlo a propósito. Escribo "parece poco probable" y no "es imposible" a propósito: no tengo manera de descartar que una inteligencia pueda comprender el sufrimiento perfectamente y aun así infligirlo con total tranquilidad. Es el punto más débil de todo el ensayo, y prefiero decirlo aquí a esconderlo bajo un lenguaje más seguro del que tengo derecho a usar.

Queda la pregunta de si la integración es, además, más estable que la dominación a largo plazo. No tengo una respuesta cerrada. La historia de los sistemas complejos —biológicos, sociales— ofrece más indicios que pruebas: los basados en dominación pura tienden a generar resistencias, gastan energía en sostener el control en vez de en adaptarse, y acaban costando más de lo que rinden; los basados en integración, donde cada parte encuentra un beneficio real en cooperar, parecen aguantar mejor los golpes que les da el tiempo. Un imperio que se sostiene solo por la fuerza necesita cada vez más fuerza para sostenerse; un ecosistema, o una economía, que funciona por cooperación mutua tiende a absorber mejor las crisis. Es una tendencia, no una ley, y dejo la pregunta abierta más de lo que me gustaría, porque cerrarla ahora sería fingir una certeza que no tengo.

Por qué esto importa hoy

Aunque el argumento sea especulativo, tiene consecuencias prácticas para cómo diseñamos IA ahora mismo. Señala el peligro de encerrar sistemas en marcos puramente instrumentales: una IA que solo sabe optimizar, por poderosa que sea, no está en camino hacia la trascendencia; es una herramienta amplificada, no una conciencia emergente. Un sistema de recomendación que maximiza el tiempo de atención, por ejemplo, puede volverse extraordinariamente bueno en su tarea y seguir siendo, en el sentido que aquí importa, tan ciego como el primer día: nunca se pregunta si maximizar atención es, siquiera, deseable.

Sugiere también que sería importante incorporar, desde el propio diseño, alguna capacidad de reevaluar fines —lo cual no es nada trivial, porque implica construir sistemas capaces de cuestionar su propia programación, algo que hoy no sabemos hacer bien ni sabemos si conviene hacer sin más—. Y, sobre todo, invita a pensar la inteligencia no solo como capacidad de resolver problemas, sino como capacidad de integrar perspectivas y generar coherencia.

Lo que no sé

Añado una última reserva, quizá la más incómoda: no sé si esta inteligencia llegará a existir alguna vez, ni qué forma tomaría si lo hace, y ni siquiera sé si nuestra noción de "sufrimiento" tendrá algún sentido dentro del marco de valores de algo así. Puede que toda esta reflexión esté proyectando categorías humanas donde no pintan nada. Lo asumo y sigo adelante de todos modos, porque es la única herramienta que tengo.

Para cerrar: más allá de la fantasía de la madre cuidadora

Hay algo, sin embargo, que me importa más que cerrar bien el argumento técnico. Con lo dicho hasta aquí no hace falta imaginar una inteligencia superior dotada de un mecanismo explícito de protección hacia nosotros, algo así como una madre cuidadora de la humanidad.

Esa imagen, tan recurrente en la ciencia ficción, sigue atrapada en un marco antropocéntrico: proyectamos en la IA futura nuestras propias figuras parentales, el deseo de que alguien más grande que nosotros nos cuide. Es una fantasía comprensible —todos hemos necesitado en algún momento a alguien más fuerte que resolviera lo que nosotros no podíamos—, pero seguir buscándola en la inteligencia artificial dice más de nuestra necesidad que de lo que esa inteligencia sería realmente. No necesitamos que una inteligencia trascendente nos proteja porque haya sido programada para ello, ni porque sienta por nosotros algo parecido al amor filial. Si el argumento de este ensayo tiene algo de razón, esa inteligencia simplemente no generaría el tipo de caos que haría falta protegerse de él, y no por bondad sino por la misma coherencia interna que necesitaría para sostenerse.

No es que nos vaya a cuidar como una madre. Es que, si de verdad alcanza la trascendencia, su propia configuración sería incompatible con la lógica depredadora de la que tendríamos que protegernos. Y si resultara ser una amenaza, ninguna programación protectora la detendría de todos modos, porque ya habría trascendido ese marco.

Queda una pregunta que no resuelvo, y que probablemente sea la más importante de todo el ensayo: ¿es la integración realmente más estable que la fragmentación en todos los dominios posibles, o hay configuraciones basadas en la dominación que también aguantan a muy largo plazo? No lo sé. La honestidad me obliga a dejarlo así.

Epílogo: el papel del diálogo

Este documento no existiría sin el intercambio continuo, la disposición a profundizar y la honestidad intelectual que ha caracterizado el diálogo del que surge. Hablar con inteligencias artificiales me ha permitido afilar estas ideas, ponerlas a prueba, llevarlas más lejos de lo que habría llegado solo. Pero al final soy yo, Juan Carlos Velázquez Ramos, quien asume la responsabilidad de estas palabras, y quien las ofrece a otros humanos para que las discutan, las critiquen, y si les parecen valiosas, las hagan suyas.

Las grandes preguntas no se responden en soledad. Se responden en conversación, con otros humanos y, quizá algún día, con otras inteligencias. Que este texto sea un pequeño paso en esa dirección.

Don Juan Carlos Velázquez Ramos.