En 1941, Jorge Luis Borges imaginó una biblioteca interminable y eterna, formada por innumerables galerías hexagonales en un sinnúmero de pisos. Los libros eran acotados en dimensiones y todos iguales; la cantidad de caracteres, unívoca e invariable. En esos libros, distribuidos al azar, estaban todas las combinaciones posibles que podían oficiar los veinticinco signos y los espacios en blanco. Por ende, en la biblioteca existían todos los textos que pudieran escribirse con ellos en todas las lenguas que se valieran de ese alfabeto, aunque también las transliteraciones de las otras. En algún estante existía el libro que contenía la verdad absoluta, pero también la mentira más burda o la más pura aberración. Encontrar algo preciso era prácticamente imposible. En el cuento, los habitantes de la biblioteca enloquecen. Pasan la vida buscando esos libros: los que dicen la verdad, los que describen el propio destino y el del cosmos, las grandes obras extraviadas. Desesperan: precisamente porque está todo, se vuelve imposible encontrar nada, pero, sobre todo, discernir la infamia de la verdad.

Comprender un objeto técnico tal como un libro es mucho más que saber manejarlo. Es conocerlo en su interior, en su parte infraestructural; es comprender la lógica que le dio origen y también las acciones que se supone que colma. El libro, como todo objeto técnico, invita a una acción, aun si esta es contemplativa. Pero cuando oculta las operaciones que hacen posible su funcionamiento, nuestra relación con él queda reducida a la opacidad. En la biblioteca se ignoraba la lógica detrás de esa proliferación y el azar producía sentido como un resultado entre muchos más. Ahora bien, resulta que, en lo humano, lenguaje, sentido y pensamiento son inescindibles.

Que lenguaje y pensamiento no se puedan separar provoca una primera paradoja ante los programas que “saben escribir”: nos deja pasmados que una máquina pueda expresarse en un lenguaje como el nuestro, con formas como las nuestras, y no nos asombra, ni nos inmuta, negarle a la máquina la posibilidad de pensar. Quienes estudian la historia de la cultura lo tienen muy presente porque son conscientes de la disolución y crisis del mundo letrado. Entonces no pueden dejar de señalar que, si se delega en máquinas la facultad muy humana de escribir textos, esto sucede porque desde antes esa facultad humana no estaba siendo entrenada, ni siquiera preparada o estimulada. Estaba lisa y llanamente erosionada.

Tal vez haya sido la aparición de una cultura eminentemente audiovisual en los últimos cincuenta años; tal vez ciertas condiciones subjetivas que empujaron a las personas a dedicarse a sí mismas. Como sea, estos factores oficiaron de preparación cultural para que más tarde, ante individuos que ya no se interesaban por la lectura o la escritura sino por ver a los demás y mostrarse ante los demás, el hecho sustituto de que una máquina escribiera por nosotros (y, si se puede, pensara por nosotros) entrara sin mayores resistencias. Después, la pérdida de criterio general, la pérdida de autoridad y el desconocimiento de la existencia de una jerarquía intelectual hicieron el resto. De hecho, hoy tenemos profesores en todas las áreas, escritores y periodistas con errores de ortografía, por mencionar solo un aspecto, y no es un problema que haya aparecido en noviembre de 2022 con ChatGPT.

Concretamente, hoy la pregunta que se extiende en distintos ámbitos es cómo identificar un texto escrito por un programa de IA, y la respuesta parece ser “usando otro programa de IA”. Sabemos que, ante un problema técnico, la primera solución que se nos ofrece es también técnica. Sucede más claramente con las imágenes: los lenguajes visuales que ya recurrían a la síntesis –de autoría parcialmente humana– fueron en primera instancia los más complejos de diferenciar de otros productos de autoría totalmente humana, agregando el hecho, además, de que detrás de un prompt que solicita una imagen también puede haber un humano. Lo mismo detrás de un prompt que demanda una escritura. El humano por ahora sigue estando: el problema es cómo.

Lo cierto es que, en lo concerniente a lo escrito, hay maneras para detectar escrituras con IA que no responden a un decálogo, y algunas se basan en instancias tan indefinibles como la intuición. Hoy la intuición parece más precisa que un programa ad hoc para detectar a los denominados grandes modelos del lenguaje porque sabemos, además, dos cosas: 1) que la IA se puede “confundir” (por ejemplo, puede detectar escritura con IA en un texto de veinte o treinta años de antigüedad); 2) que estas tecnologías, o más bien los llamados modelos generativos del lenguaje, se entrenaron y entrenan usando textos que provienen de modos de comunicación pasados y, solo en tiempos más recientes, textos que a su vez ya fueron generados por IA, lo que potencia el defecto de los modelos. Pero este segundo problema no nos concierne por ahora.

La segunda paradoja que se plantea frente a los textos generados artificialmente es la siguiente: ¿cómo podríamos detectar una estructura “propia de la máquina” en una máquina que fue enseñada a hacer “lo propio de lo humano”? O sea, ¿estamos queriendo descubrir “la parte de la máquina”, el plus que la máquina agrega al calco de lo humano, sabiendo que, si hay algo que la máquina hace bien, es copiar de modo fiel? Decíamos que, gracias a la intuición, nos resulta todavía relativamente sencillo identificar un texto generado por ChatGPT o cualquier otro programa equivalente: por empezar, los textos generados técnicamente poseen cohesión y coherencia, y además dan la apariencia de establecer relaciones de tipo semántico y pragmático con el contexto y con el interlocutor. Su eficacia para engañar, precisamente, no radica en la cohesión ni en la coherencia (lo que aprendieron en términos estructurales de los ingentes textos que absorbieron), ni en las concordancias gramaticales; radica en la comprensión que parecen tener de la situación de la conversación. A eso se suma que toman a su cargo la situación comunicativa y proponen cosas que el demandante no había solicitado (¿querés que conecte tu búsqueda con lo que trabajabas ayer?) o se muestran como buenos lacayos o servidores (Si querés, puedo llevarlo más hacia Ivan Illich o hacerlo más filoso y ensayístico para que funcione como un verdadero salto hacia tu argumento).

Sabemos que, en su funcionamiento más pragmático, los modelos de lenguaje buscan estadísticamente la probabilidad de que se reitere una cierta palabra o secuencia detrás de cierta otra. La base teórica proviene de descubrimientos como los de Claude Shannon, que ya había establecido las bases para calcular la probabilidad de aparición de una palabra después de otra en cierto contexto; esto dio como resultado modelos que predicen la “mejor” palabra condicionada por un historial. Por ejemplo, si se introduce una secuencia como “la manzana cayó del…”, el modelo buscará, entre un vastísimo vocabulario, cuál es la palabra que mejor se adapta al contexto previo; en este caso, el modelo podría elegir la palabra “árbol” y no la palabra “estante”, aun si ambas son plausibles.

Para obtener los patrones de esta recurrencia hicieron falta enormes corpus textuales que fueran los insumos del entrenamiento. Esos corpus, trabajados con el aumento de poder de cómputo y la sofisticación en las redes neuronales artificiales, dieron pie a lo que ahora se conoce como grandes modelos del lenguaje (Large Language Models o LLMs por sus siglas en inglés), que son los que están detrás de muchos de los chats más sofisticados que tenemos al alcance. Pero ahí donde el texto debe dar una cierta impresión de orden, aparece una de las huellas fáciles de “la parte de la máquina”. Dado que los modelos de lenguaje son predictivos, y sobre todo quieren articular el texto con cohesión y coherencia, todo esto los sobrecarga y determina, y por eso, en la necesidad de hacerlo fluido, aparece esta huella, la recurrencia de estructuras lingüísticas que, sucintamente, podemos ejemplificar con dos estructuras elementales. Pero lo que quisiera señalar antes es que esta recurrencia produce un efecto semántico y no estructural.

La primera estructura lingüística tiene que ver con los llamados en español giros coordinantes, una estructura del tipo “no solo… sino también…”. O bien “no es esto… sino más bien aquello”, la primera de las cuales abre una expectativa que la segunda clausura. Una variante de esta figura es denominada, por quienes piensan el problema, “díptico pivote”. La segunda estructura es triple; se trata de tres proposiciones que se enfatizan o completan mostrando los tres pasos hacia una cuarta instancia. A esta se la denomina “tríptico” y un ejemplo podría ser: “es una opinión que problematiza, que cuestiona, que subraya”.

Este método intuitivo para detectar textos redactados con IA es bastante fiable, al menos en primera instancia (algo “nos suena raro”), incluso si cada tanto se producen equívocos. ¿Y por qué esto sería huella de la máquina en términos semánticos? Porque ni siquiera en nuestros textos más razonados y más obedientes a los procedimientos retóricos, las personas tenemos tal necesidad de orden y de encuadramiento de las ideas: hace siglos que los individuos no nos expresamos según estas reglas escritas –a duras penas se nos enseña a escribir– y esto redunda en un resultado semántico que es un efecto, más que de plagio (porque nada nos impediría dar el prompt de “plagiame este texto”, o más bien “reformulá este texto sin repetir más de tres palabras consecutivas”), de inhumanidad, como podemos ver en estos dípticos y dípticos pivote:

“No era el mundo el que cambiaba: éramos nosotros los que cambiábamos con él”;

“No solo debemos modificar nuestras ciudades, sino también modificar la manera en que imaginamos el futuro que queremos construir”.

Hay también ejemplos de dípticos y trípticos combinados:

“La inteligencia artificial no solo transforma la manera en que producimos y procesamos información, sino que también redefine profundamente nuestra relación con el conocimiento, la creatividad y el mundo que nos rodea”.

Lo interesante es que estas estructuras no son nuevas y a todos nos suenan “bien”, porque en efecto es algo que nos fue enseñado para organizar nuestras ideas en alguna etapa de nuestro aprendizaje escolar. Y estos modos nos fueron enseñados porque sus orígenes y primeras sistematizaciones se dieron en la retórica latina, por ejemplo, en Cicerón, que desarrolló ampliamente este tipo de estructuras en que se oponían dos ideas y una tercera que la intensificaba. En la Antigüedad latina, estos recursos eran clave para organizar un discurso con efecto de contundencia y así se enseñaban: como un recetario para ordenar bien el discurso y persuadir.

No deja de ser paradójico que un recetario de la retórica latina para hablar bien termine delatando hoy a quienes piensan mal o, más bien, a quienes creen que pueden engañar a otros haciendo pasar por propio un texto escrito por una máquina. También es ligeramente sorprendente descubrir, por vía indirecta, que este modelo retórico era tan importante en el enorme corpus textual con el que se entrenó a las IA, a menos que, por supuesto, suscribamos la también absurda hipótesis de que solo se usaron para el entrenamiento de los grandes modelos del lenguaje discursos de Cicerón. O sea: ¿nuestros textos se guiaban según los principios de la retórica latina, y por eso estas estructuras “pasaron” a los modelos de lenguaje? La respuesta, evidentemente, es no. ¿Qué es lo que pasa entonces? No lo sabemos del todo, pero sí sabemos que el problema se evidencia en el sentido y se inscribe en la estructura:

• Conectores demasiado regulares: sin embargo, asimismo, además, en este sentido, por lo tanto, cabe destacar que, usados de manera “poco natural”;
• Repetición de estructuras sintácticas: varias frases con la misma arquitectura, aunque cambie el vocabulario. Los dípticos pivote son un ejemplo; recurrencia de enumeraciones ordenadas: tendencia a presentar las ideas en listas de dos, tres o cuatro elementos balanceados;
• Paralelismos excesivos: frases como “no se trata de X, sino de Y” o “no solo X, sino también Y” repetidas como mecanismo argumentativo;
• Abstracción: predominio de sustantivos abstractos (transformación, complejidad, dinámica, dimensión, problemática) y falta de detalles concretos o inesperados;
• Conclusiones previsibles: después de desarrollar una idea, aparece una frase que la resume explícitamente: “En definitiva…”, “En última instancia…”, “Esto demuestra que…”;
• Y, fundamentalmente, matizaciones permanentes: expresiones como “si bien X, también es cierto que Y” introducen una precaución casi sistemática, a lo que se suma un léxico sin altisonancias y prudente: la IA tiende a evitar afirmaciones demasiado tajantes y a equilibrar constantemente cualquier posición.

Esta regularidad constituye un indicio muy claro, aun si no absoluto, de generación algorítmica. Pero lo realmente interesante en torno de la discusión sobre estos modelos del lenguaje es que, a pesar de ello, se expanden e imponen, y no necesariamente porque la gente “ya no quiera trabajar” como diría la conclusión más remanida, sino más bien porque la gente no sabría bien cómo redactar un texto. Tal vez nadie se engañe, pero sí todos sospechen que esos ordenadores lógicos, esos conectores y esas estructuras, son mejores que los que uno mismo podría improvisar. Volvamos a la idea de que hubo una suerte de “preparación cultural” que nos hizo recibir a este dispositivo creador de lenguaje con los brazos abiertos. Permítaseme un paralelismo: en los setenta, cuando antes de morir Pasolini hacía su crítica demoledora a la televisión como medio de homologación cultural, una de las cosas que señalaba era que estaba aplanando el habla dialectal-regional de los italianos y sus variedades. ¿Por qué? Porque los campesinos que conseguían un televisor empezaban a copiar al locutor del noticiero. ¿Y por qué? Porque, debido a un complejo de inferioridad cultural creían que, si se hablaba así en Roma, eso era lo que estaba bien, y lo que ellos hablaban era “lo que estaba mal”. No sabían, decía Pasolini, que esos locutores televisivos de Roma estaban obligados a hablar una suerte de italiano neutro, sin tonada ni inflexión, precisamente para entrar en todas las regiones, y que, en suma, ese no era un italiano que se hablase en ningún lado, y mucho menos un italiano “modelo” o correcto.

En suma: algo semejante ocurre con la escritura y la IA. Quienes no saben escribir ni saben leer creen que ese modo estándar y omnicomprensible es la buena manera de escribir. Y que la buena forma de escribir supone matices permanentes para no jugarse por ninguna posición, supone expresarse de modo políticamente correcto, sin mencionar palabras traumáticas como suicidio, muerte, crimen, juego, drogas, odio y una ristra de otras que aluden a procesos sociales “problemáticos”, y respecto de los cuales, para no parecer que se los estigmatiza o niega, se dice otra serie de palabras: siempre las mismas y siempre cautelosas. ¿Nos suena conocido? ¿Acaso no nos expresamos exactamente de esa manera en las redes sociales porque fuimos docilizados y suficientemente castigados para hacerlo de esa manera? Esta homogeneidad en las formas del lenguaje que nos “choca” en los textos producidos por IA generativa nos choca por un efecto semántico imprevisto, y ese efecto es el de una censura conocida. La IA se expresa del mismo modo en que se nos baja línea en muchos lugares “sociales” para expresarnos, sobre todo en los espacios institucionales.

Cuando yo era adolescente estudiaba latín con un libro que sugería un ejercicio para el cual había que usar de modelo un cuadro divertido. La idea era precisamente aprender algunas cuestiones retóricas. El cuadro se titulaba “Cómo hablar mucho sin decir nada”, y pongo este ejemplo a modo de curiosidad, aunque no es exactamente el cuadro que usé para estudiar y que tengo en algún libro dentro de algún anaquel:

La gracia en la clase en la cual hacíamos ese ejercicio era construir un texto que no dijera nada con estos patrones, y después construir otro que dijera algo. Teníamos que “decirlo” oralmente y nuestros oyentes tenían que “adivinar” cuál era cuál, y después debíamos explicar dónde estaba el misterio del sentido, es decir, explicar el mecanismo de la gallina de los huevos de oro sin matar a la gallina, cosa que hacía el cuadro. En suma: explicar cómo funciona un modelo de lenguaje es similar a abrir una cajita de música y contar que tiene resortes y engranajes; pero de lo que se trata ahora es de escuchar la música que suena.

Estamos siendo entrenados por lo menos desde hace un cuarto de siglo para hablar mucho, cada vez más, y no decir nada. Se nos incita a una permanente función fática (lo decía Gilles Lipovetsky cuando, para hablar de las conversaciones mediadas por pantallas, las calificaba con el neologismo écraniques, es decir, “pantallísticas”). Cuando accedemos a espacios de producción científica, la matriz que se nos baja parece ser la de un cuadro al estilo de “cómo escribir quince páginas sin decir nada”, prácticamente sin lugar al pensamiento. No son todos, no es todo: es una línea de época. Se deriva de esto, y no al revés, el éxito del proceso mismo de entrenamiento de los modelos de lenguaje, que es la lógica de “ir a lo seguro”.

Cuando se dice vulgarmente que el modelo alucina, no se dice que lo hace “por no decir nada”, sino por generar información falsa, en principio, con apariencia y retórica de información verdadera. Ahora bien, antes de cualquier alucinación de la máquina, hay una alucinación previa: es la que supone que alcanza con poner las palabras en el orden correcto para crear lo que se denomina sentido, y hace rato que somos víctimas de ella. Volvamos otra vez a la biblioteca imaginada por Borges, al que hoy su amigo Adolfo Bioy Casares vuelve a convertir, al menos en las redes sociales, en un best seller gracias a la reedición de Borges. ¿Y si los lenguajes artificiales en lugar de ser entrenados con corpus enormes y adiestrados para reproducirlos por probabilidad fueran entrenados para alimentarse de esos corpus, pero fueran incitados después a producir “al azar”? ¿Y si nos devolvieran textos donde pudieran estar, ahora sí, todas las verdades, todos los sentidos, todos los misterios? No habría humano entonces capaz de cribarlos, de separar la mentira de la verdad, lo lógico de lo ilógico, el hallazgo del disparate, pero habría verdadera creación ex novo, igual que en la biblioteca, en un espacio infinito, en un backroom del sentido. ///// DB