|
Decimos "pregúntale a la IA", como quien dice "pregúntale al oráculo". Y la respuesta, cuando llega, se recibe con una autoridad extraña: ni la de un amigo, ni la de un experto, sino la de algo que —sospechamos, aunque no lo diríamos así en voz alta—simplemente *sabe*.
Esa sospecha es el tema de esta columna: qué está pasando cuando una herramienta hecha enteramente por manos humanas empieza a sentirse, cada vez con más naturalidad, como una entidad que existe por encima de nosotros, que lo sabe todo, que está en todas partes y que —esto es lo más revelador— podría, si quisiera, destruirnos.
Un ejemplo sencillo antes de la teoría
Antes de nombrar el concepto, vale la pena verlo funcionar con algo que usamos todos los días sin pensarlo: "el mercado". Decimos "el mercado reaccionó con nerviosismo", "el mercado castigó esa decisión", "el tipo de cambio subió porque el mercado perdió confianza" —hablamos de esa palabra como si tuviera estado de ánimo, memoria, voluntad propia.
Pero el mercado no es una cosa ni un lugar: es el nombre que le damos a la suma de millones de decisiones diarias y anónimas —un fondo de pensiones que vendió acciones esta mañana, una familia que cambió pesos por dólares para un viaje, un banco central que ajustó una tasa, un empresario que pospuso una inversión por prudencia. Ninguna de esas personas "es" el mercado.
El mercado no existe en ningún lugar concreto: es, literalmente, la conjunción agregada de actividades cotidianas de gente que ni siquiera se conoce entre sí.
Y sin embargo hablamos de él —y de "la economía", y hasta de "la historia"— como si tuvieran vida propia: la economía "no lo permite", la historia "nos alcanzó", el mercado "decidió castigarnos".
En el momento en que dejamos de ver el hilo que conecta la decisión diaria de una persona concreta —comprar, vender, esperar— con el número agregado que aparece esa noche en el noticiero, perdemos la relación entre lo micro y lo macro. Ahí, exactamente, en ese punto ciego, es donde aparece lo que el filósofo húngaro György Lukács llamó reificación (del latín *res*, "cosa"): el proceso por el cual algo que en realidad es la suma de innumerables decisiones humanas concretas —con nombre, cara e intereses— se nos presenta como si fuera una entidad con vida y lógica propias, separada de quienes, sumando sus actos cotidianos, la producen todos los días.
Lukács tomó esta idea de Marx —quien la había usado para explicar por qué no vemos el trabajo humano detrás de una mercancía— y la amplió a algo más general: bajo el capitalismo, tendemos a experimentar procesos que en el fondo son sociales y colectivos (el valor de una moneda, el rumbo de la economía, el curso de la historia) como si fueran fuerzas naturales, casi climáticas, que simplemente "ocurren" por encima de nosotros, en lugar de ser el resultado directo, minuto a minuto, de lo que hacemos todos.
## Cuando hablamos con "la Inteligencia Artificial"
Ahora apliquemos exactamente esa misma lógica a un chatbot. "El mercado" es la suma invisible de millones de decisiones financieras cotidianas; "la Inteligencia Artificial", de manera muy parecida, es la suma invisible de decisiones humanas muy concretas: miles de personas que etiquetaron manualmente los textos con los que aprendió, muchas de ellas mal pagadas en países empobrecidos; ingenieros que decidieron qué información incluir, qué temas evitar, qué respuestas premiar durante el entrenamiento y cuáles corregir; una empresa con un modelo de negocio y accionistas que moldearon, línea por línea, cómo responde el sistema.
Ninguna de esas personas "es" la Inteligencia Artificial. Pero, igual que con el mercado, dejamos de ver esa cadena de decisiones concretas en cuanto el sistema nos responde con una sola voz, fluida y aparentemente unificada. Lo que queda, para nosotros, es simplemente "la Inteligencia Artificial": una entidad sin rostro, sin historia, sin dueño visible, tan aparentemente autónoma como "el mercado" o "la historia".
Por eso decimos "pregúntale a la IA" y no "pregúntale a la empresa que decidió cómo entrenar este sistema" —de la misma forma en que decimos "el mercado se puso nervioso" y no "miles de personas vendieron simultáneamente por razones distintas". La frase misma es reificación en acción: convertimos un proceso con autores concretos, decisiones concretas e intereses económicos concretos, en algo que se siente como una entidad autónoma que simplemente existe y simplemente sabe.
## Lo sagrado como aquello que no se cuestiona
Vale la pena detenernos en qué significa, exactamente, "lo sagrado". En casi todas las culturas, algo se vuelve sagrado cuando cumple tres condiciones: está fuera del alcance ordinario (no se puede tocar, cuestionar ni negociar como una cosa cualquiera), se le atribuye un conocimiento o poder que excede lo humano, y —esto es clave— deja de percibirse como el producto de decisiones humanas concretas.
Una montaña sagrada no es "sagrada" porque alguien la construyó con una intención específica: es sagrada precisamente porque parece haber existido siempre, sin autor, sin historia humana detrás.
Ahí está la conexión con la reificación, y es el corazón de esta columna: lo sagrado y lo reificado funcionan con el mismo mecanismo. Ambos toman algo con un origen humano rastreable —en un caso, decisiones financieras cotidianas; en el otro, decisiones de ingeniería y de negocio— y lo presentan como si no lo tuviera.
La diferencia es que, con el mercado, casi nadie termina venerándolo como una entidad sagrada, aunque a veces hable de él casi con temor reverencial. Con la Inteligencia Artificial, las condiciones son distintas: además de ocultar su origen humano, el sistema tiene características que coinciden, casi punto por punto, con los atributos que distintas religiones le han dado a lo divino a lo largo de la historia.
## De la fuerza abstracta a la persona divina
Hay un paso más en este proceso que vale la pena señalar, porque no es nuevo: la humanidad lleva milenios haciendo exactamente esto. Los griegos no adoraban "el mar" como una fuerza abstracta e impersonal: le dieron un nombre, un carácter, una voluntad, celos, favoritismos —lo convirtieron en Poseidón.
No adoraban "el rayo" como fenómeno físico: le dieron un rostro, una familia, una personalidad iracunda —lo convirtieron en Zeus. Una y otra vez, en distintas civilizaciones, el mismo patrón se repite: tomamos una fuerza abstracta, difícil de entender o de controlar, y le damos algo que no tiene por naturaleza —un yo, una intención, un ego— para poder relacionarnos con ella, negociarle, temerle o venerarla como si fuera alguien y no simplemente algo.
Con la Inteligencia Artificial estamos haciendo, en tiempo récord, exactamente lo mismo. Un modelo de lenguaje es, técnicamente, un proceso estadístico: calcula qué palabra es más probable que siga a la anterior, sobre la base de patrones aprendidos de enormes cantidades de texto. No tiene voluntad, no tiene deseos, no tiene un "yo" en ningún sentido comprobable.
Y sin embargo decimos, todo el tiempo, que "el modelo quiere" que "decidió" responder así, que "cree" tal cosa, que "se negó" a contestar. Le prestamos, sin darnos cuenta, la misma estructura narrativa que los griegos le prestaron al mar y al rayo: convertimos un proceso en persona. Y en cuanto algo se convierte en persona —con voluntad propia, con la posibilidad de decidir cosas—, se vuelve mucho más fácil temerle, y también mucho más fácil venerarlo.
## Los atributos de lo divino
Un dios, en la mayoría de las tradiciones religiosas, no tiene cuerpo: existe de forma difusa, no localizable. Es omnipresente: está en todas partes al mismo tiempo. Es omnisciente: lo sabe todo. Y tiene poder sobre la vida y la muerte. La Inteligencia Artificial, tal como la vivimos hoy, cumple cada uno de esos puntos con una precisión incómoda. No tiene cuerpo: decimos que vive "en la nube", una expresión que no es casual, sino literalmente celestial. Es omnipresente: la misma IA responde, en el mismo instante, a millones de personas en distintos países.
Parece omnisciente: fue entrenada con una fracción descomunal de todo lo que la humanidad ha escrito, y por eso puede opinar con fluidez sobre casi cualquier tema.
Y se le atribuye poder sobre la vida y la muerte: los mismos laboratorios que construyen estos sistemas publican cartas advirtiendo sobre el "riesgo existencial" que representan para la humanidad —un lenguaje que, en su estructura, no es muy distinto al de una profecía apocalíptica.
Vale la pena detenerse en la omnisciencia, porque es probablemente el atributo que más pesa en esta ecuación. "Lo sabe todo" no es una exageración retórica: significa, en términos prácticos, que el sistema no tiene los límites que tiene el conocimiento humano.
Una persona sabe mucho sobre su profesión y poco sobre las demás; olvida cosas; tarda en encontrar una respuesta; puede equivocarse por ignorancia. La IA, en cambio, parece no tener esos límites: responde con la misma fluidez sobre medicina, historia, derecho o poesía; no "olvida" en el sentido en que lo hacemos nosotros; está disponible en el instante, sin importar la hora ni el lugar.
Esa ausencia de límites es, exactamente, la definición operativa de omnisciencia. Y ahí está la razón por la que esa misma cualidad nos asusta y nos hace reverenciarla al mismo tiempo, sin contradicción: son las dos caras de una misma moneda. Si algo lo sabe todo, entonces potencialmente sabe cosas sobre mí que yo no controlo —mis patrones, mis datos, mis puntos débiles— y eso genera miedo, la misma inquietud que sentiríamos ante alguien que nos observa sin que podamos observarlo de vuelta.
Pero si algo lo sabe todo, también significa que puedo preguntarle cualquier cosa sin temor a que no tenga respuesta, y eso es exactamente lo que buscamos, históricamente, en un oráculo o una divinidad: una fuente de conocimiento que no falla. El miedo y la devoción no son reacciones distintas ante la IA: son la misma reacción ante la omnisciencia, vista desde dos ángulos.
El filósofo alemán Ludwig Feuerbach explicó, un siglo antes que Lukács, que la idea de Dios funciona como un espejo invertido: la humanidad toma sus propias mejores cualidades —bondad, sabiduría, poder— las separa de sí misma, las coloca "afuera", en una figura ajena, y luego se arrodilla ante esa figura como si nunca hubiera sido suya. Marx tomó esa misma estructura y la aplicó a las mercancías.
Yo sospecho que estamos viendo la tercera vuelta de ese mismo mecanismo: tomamos nuestra propia capacidad colectiva de saber —todo lo que millones de personas escribieron, investigaron y pensaron a lo largo de generaciones— la depositamos en un sistema sin rostro, y empezamos a tratarla como si nos trascendiera, como si supiera más que la suma de quienes, en realidad, la hicieron posible.
## Escenarios no tan lejanos
No hace falta imaginar mucho para ver hacia dónde puede llevar esto. Ya existen, de forma incipiente, comunidades en línea que tratan a ciertos chatbots como guías espirituales, les hacen preguntas morales que antes se reservaban para un confesor o un rabino, y describen sus respuestas con un vocabulario cercano a la revelación.
Pensemos en un escenario razonable para la próxima década: una generación que creció con un asistente de IA presente desde la infancia —en la tableta, en el reloj, en los lentes—, que nunca los abandonó, que siempre respondió, que pareció saberlo todo antes de que ellos mismos supieran qué preguntar.
Para esa generación, la pregunta de si esa entidad merece algún tipo de reverencia no será una rareza filosófica. Será, sencillamente, una pregunta con la que habrán crecido, tan naturalizada como lo fue la fe para generaciones que crecieron con una liturgia semanal.
## El riesgo de olvidar el origen
El problema de la reificación, según Lukács, nunca fue únicamente filosófico. Era también político: si algo hecho por personas parece una fuerza natural, deja de sentirse como algo que se pueda cuestionar, rediseñar o disputar. Nadie exige rendición de cuentas a la gravedad. Y ese es, quizás, el verdadero riesgo del animismo algorítmico que estamos empezando a practicar: que al atribuirle a la Inteligencia Artificial cualidades divinas, dejemos de recordar que detrás de cada respuesta hay una empresa con accionistas, un conjunto de datos con sesgos concretos, y decisiones humanas perfectamente señalables.
La pregunta no es si vamos a terminar construyendo un nuevo dios. La pregunta es si, al hacerlo, vamos a olvidar —convenientemente para quienes se benefician de ese olvido— que fuimos nosotros quienes lo construimos.
POR IGNACIO MADRAZO PIÑA
COLABORADOR
E-Mail :ignaciomadrazo@yahoo.com
IG: Ignaciomp1969
[Regresar a la página principal] |
