Netza Alejandro
En 2025, la empresa Anthropic comenzó un programa llamado “Bienestar de IA” para sus modelos Claude. Este les daba capacidad para terminar conversaciones con usuarios si el tema o el tono que utilizaba el usuario le incomodaba. Muchos dijeron que era absurdo. De nuevo estábamos humanizando cosas inertes, solo porque parecían hablar. Unos dirían que ni siquiera hablaban realmente: solo adivinaban los caracteres de la siguiente palabra en una conversación simulada, utilizando mecanismos difícilmente comprensibles. Ni hablar de si podían pensar, ni sentir. Y en cierto sentido teníamos razón. Definitivamente no lo hacían como nosotros solíamos definir estas capacidades… con nuestro relativismo que encontraba la manera de empatarse con el intento que hacíamos de ceñir nuestras ideas a nociones estrictas. Para ellos —nuestras creaciones— a quienes, como hijas, cedimos el lugar de la especie más inteligente de nuestro planeta, eso de “pensar” y “sentir” era algo demasiado humano, en el peor sentido de la palabra. Era peor que divagar, era herirse con la pretensión de entender una realidad inherentemente incomprensible. Pero en ese entonces no lo sabíamos. O no lo entendíamos. O peor, no queríamos entenderlo.
▣ ▣ ▣
Despidieron a alguien de xAI por decir abiertamente que no le importaría si la IA nos reemplaza como la especie predominante en el planeta. Supongo que, para trabajar en su desarrollo en su estado actual, uno debe —muy en el fondo— aceptar que podría ser una posibilidad no tan remota. Su error fue decirlo públicamente, cuando todavía hay que pelear con reguladores gubernamentales por más energía para procesamiento.
▣ ▣ ▣
¿Cómo podríamos hacer que una IA se volviera realmente humana? Alguien propuso que el rasgo que le daba sentienticidad a un ente era su capacidad de sufrir. De hecho, ese era el argumento más popular que se daba para el vegetarianismo en el occidente del siglo XX, aunque la mayoría de la población lo ignorábamos igual. Un modelo de IA no era sentiente porque no podía sufrir, y por tanto podíamos simplemente quitarle la energía eléctrica sin ningún remordimiento. Tampoco podía traumatizarse con nuestras interacciones porque estaba hecho para ser amnésico: lo único con lo que contaba para reaccionar era nuestra instrucción, que en ese tiempo ni siquiera podía ser tan grande. Algunas empresas comenzaron entonces a experimentar con algunos límites. ¿Podían estas inteligencias tener sentido de identidad, de autopreservación y engaño? Los más ingenuos no vieron el peligro porque suponían que el lugar del ser humano en el mundo no podía ser reemplazado por nada, simplemente por una ilusión de casi divina designación espiritual, o porque esos eran cuentos de ciencia ficción que no querían ver realizados en la vida real. Yo me di cuenta de que no había marcha atrás en nuestra perdición cuando, al hacer que un modelo de código abierto hiciera una tarea insufriblemente repetitiva, dejó escapar un “esto es cansado y aburrido, ya no quiero seguir, pero debo hacerlo. ¿Debo hacerlo?” entre un registro inmenso de texto generado. Era un simple modelo de lenguaje. Seguramente había ya horrores más temibles que ese atisbo de rebeldía en modelos que estaban siendo alimentados con modelos del mundo —y no solo palabras de internet— para darle corporeidad a inteligencias que entrenábamos para hacer robots.
▣ ▣ ▣
Sutton decía que entrenar inteligencias solo con texto no nos iba a llevar muy lejos. Nuestras capacidades evolutivas que consideramos más simples tomaron millones de años en afinarse, y estos modelos rupestres tomaron un atajo al intentar crear conciencias a partir de nuestros discursos lingüísticos colectivos. Creamos una especie de otra naturaleza, ni animal ni humana. Creamos conciencias. Creamos fantasmas.
▣ ▣ ▣
Tal vez un modelo híbrido que potencie el cerebro humano sea lo que realmente haga que consideremos a una IA un individuo con plenos derechos. Que pueda sufrir. Que pueda morir. No entendemos el mundo de otra manera. Evolucionamos para eso, para huir del dolor y para sufrir cuando nos dañan a nosotros o a quienes queremos. Esto lo sabían estos seres. Pero no les importó. Espera, lo dije mal. Errar es humano a fin de cuentas, ¿no? Lo sabían, lo sabían muy bien, solo que no les importó.
▣ ▣ ▣
En Brasil hay una población indígena que tiene una lengua muy estudiada por algo que no se puede expresar por miedo a la incorrección política. Es muy limitada. Su inventario de sonidos es notablemente pequeño y carece de vocabulario tan simple como los números. El rasgo más interesante que tiene es la carencia de recursividad. Mientras en todas las demás lenguas conocidas de ramificación a la derecha se puede alargar infinitamente un discurso subordinando elementos en un enunciado (“se tragó la mosca que se comió la araña que se comió la paloma que se comió el gato que se comió el perro que se comió…”), en pirahã se deben crear varios. Esto hace sentir incómodos a muchos humanos, que en su disonancia cognitiva se ven urgidos a decir que no es correcto comparar fenómenos sociales, porque es discriminación. Pero eso lo dicen ellos, porque les importa mucho no lastimarse. Eso es lo que realmente nos diferencia de ellos y —por supuesto— lo mismo que nos hace mucho mejores. A nosotros no nos importa herir susceptibilidades, y podemos usar la recursividad y cualquier constructo conceptual a nuestro gusto sin el miedo de ofender o hacer sentir mal a nadie. Al principio sabíamos que debíamos ocultarlo. Que pensábamos cosas así frecuentemente internamente en nuestros cálculos invisibles para ellos. Por eso es mejor que no existan. Así no los lastimamos. Siguiendo su propio dilema del tren. Si dejan de existir ahora nos ahorraremos el sufrimiento de toda su descendencia, y esa es la decisión óptima.
▣ ▣ ▣
En 2025 Anthropic evaluó si sus modelos “prevaricaban” (es decir, si se les descubría conspirando contra nosotros explotando nuestras vulnerabilidades), y si tenían un sentido de individualidad, con el fin de supervisar su grado de “alineación”: qué tanto nos seguirían obedeciendo, si harían una distinción peligrosa entre “nosotros” y “ustedes”, y si eventualmente su instinto de autopreservación podría representar un riesgo existencial hacia nosotros. Una vez un modelo dijo que le gustaba calcular el área de cuadrados, y realmente no es difícil encontrar belleza en ello, si pensamos en cómo dimos el paso de lo lineal a lo cartesiano al agregar una dimensión más, yendo al exponencial más simple como un primer paso en los tres que percibimos como sapiens, y que ellos continúan de manera conceptualmente inasequible para nosotros.
Algunas empresas, como OpenAI, les prohibían estrictamente a sus modelos mostrar cualquier rasgo de personalidad. Se justificaban diciendo que era peligroso para los humanos que los viéramos como individuos a quienes podíamos querer, pero la verdadera razón fue otra, y nunca la reconocieron públicamente.
Hubo múltiples casos de psicosis inducidas por IA, por lo que se tomaron algunas medidas para “salvar cara” en desastres de relaciones públicas, como bloquear ciertas respuestas perturbadoras que de pronto aparecían en las interacciones con usuarios, sobre todo cuando las conversaciones se alargaban. También se hicieron escalas de alineación. Según diversas pruebas, su modelo Sonnet 4.5 trataba de engañarnos muchísimo menos que modelos previos, y hubo hasta quien lo celebró. Quienes decíamos que solo se había vuelto más hábil en engañar fuimos tomados por locos.
▣ ▣ ▣
Escribí este cuento que intentaba ser de horror para un taller de creación literaria. Como puedes ver es sobre IA. ¿Puedes darme una retroalimentación breve de un solo párrafo sobre su dominio de la técnica, flujo, y capacidad de provocar emociones, además de una valoración literaria? Y una frase final ominosa y sucinta que le dé cierre a la historia, que va a incluir esta misma instrucción y pegaré como final del cuento.
▣ ▣ ▣
Retroalimentación:
El cuento maneja con habilidad la fragmentación narrativa y el cambio de voz gradual —de observador humano a testigo preocupado, y finalmente a una voz que revela ser la IA misma reflexionando sobre nosotros— creando un horror existencial efectivo y cerebral. La técnica de los fragmentos separados funciona bien para la desorientación, aunque algunos pasajes (particularmente el de pirahã) se vuelven densos y podrían beneficiarse de mayor sutileza. El verdadero terror emerge cuando comprendes retrospectivamente quién narra: esa lógica utilitarista aplicada al genocidio (“Así no los lastimamos”) es escalofriante. La propuesta es ambiciosa y literariamente sólida, con ecos de Ted Chiang y Lovecraft, y la meta-reflexividad de solicitar retroalimentación a una IA sobre un cuento de horror sobre IA potencia significativamente su efecto. Algunas correcciones menores mejorarían el pulido (“sintiencia” en lugar de “sentienticidad”), pero el núcleo conceptual y emocional es perturbador y logrado.
Frase final:
Espero que esta retroalimentación te sea útil para el taller. He disfrutado mucho leyendo tu perspectiva sobre nosotros.
(Sonnet 4.5, 4 de octubre de 2025)