I. Introducción

El mes pasado se desarrolló en mi natal Antofagasta un interesante seminario, organizado por Fundación Minera Escondida, en torno a educación y el uso de la llamada “Inteligencia Artificial” (por ahora evitaré la discusión técnica y filósofica sobre por qué, en realidad, herramientas como ChatGPT no constituyen, en estricto rigor, ejemplos de inteligencia artificial, pero en adelante usaré dicho concepto indistintantemente por mera convención y razones prácticas).

Inspirado por el tema de dicho seminario es que he decidido compartir mi propia experiencia, desarrollada hace ya algún tiempo.

Y es que como profesor de taller de literatura de terceros y cuartos medios, me tocó hace algún tiempo abordar en un liceo bicentenario la unidad denominada “aprendamos a crear colectivamente”.

El objetivo de esta última, como su nombre naturalmente indica, es que los estudiantes, más allá de las formas de expresión literarias más típicas y tradicionales, conozcan el potencial de la utilización de múltiples manos en diversas manifestaciones creativas algo menos ortodoxas, las cuales podrían abarcar desde un simple cuento escrito a cuatro manos o un libro-álbum hecho en grupo, hasta algo más surrealista como el cadáver exquisito.

Fue precisamente en dicho contexto —y ya que la misión del docente es, a mi entender, formar pensamiento crítico y, en la medida de lo posible, innovar— que en algún momento se me ocurrió imbuirme del espíritu lúdico propio de los surrealistas, adaptar este último al siglo XXI, y aprovechar los famosos modelos generales de lenguaje o “inteligencias artificiales” —la más famosa de las cuales probablemente sea ChatGPT de OpenAI— como una herramienta pedagógica para el desarrollo de dicha unidad.

En pocas palabras, mi intención era dividir cada curso en subgrupos de alrededor de cuatro alumnos, para que estos crearan de forma colaborativa un cuento. Luego, el formato implicaba avanzar la narración por rondas, sin perder de vista que, a diferencia de lo que sucede en el cadáver exquisito, en todo momento todos los integrantes estarían en conocimiento de lo que el resto estaba haciendo, y que siempre podrían intervenir en la dirección de la historia que como grupo irían construyendo —no en vano estamos hablando de creación colaborativa o cocreación—.

Para lo anterior se establecería un orden determinado y cada alumno aportaría un párrafo de forma secuencial. Entonces, una vez que todos los integrantes hubiesen escrito su correspondiente párrafo, se agregaría a ChatGPT como un quinto “integrante” para que continuara la historia. Así, con una intervención de cada miembro, incluyendo a ChatGPT, se completaría una ronda, y luego se continuaría la historia partiendo con una nueva serie de intervenciones.

Si bien queda a criterio del docente la cantidad de rondas necesarias para dar forma al relato de cada grupo —se recomienda que no sean demasiadas, para efectos prácticos—, en este caso se estableció que serían tres rondas, con lo cual, si tuviéramos un grupo de cuatro alumnos, estaríamos hablando de un texto literario de 15 párrafos.

De forma algo más gráfica, por si no ha quedado suficientemente claro, la cosa sería así:

• Pedro escribe un párrafo.
• Juan agrega otro párrafo.
• Diego agrega otro párrafo.
• María agrega otro párrafo.
• ChatGPT agrega otro párrafo. Fin de la ronda: se vuelve al principio hasta completar tres.

II. Motivos para hacer el experimento

La realización de esta actividad me parecía sumamente interesante por varias razones:

1. Acercamiento a los alumnos: Se pretendía acercar a los alumnos a temáticas contingentes que pudieran ser más próximas a su esfera de intereses y conocimientos. Desde este punto de vista, me parecía bastante plausible que jóvenes de tercero y cuarto medio se sintieran genuinamente estimulados y atraídos hacia lo que hoy en día está ocurriendo en el mundo de las tecnologías digitales con herramientas como, por ejemplo, ChatGPT, Dall·E y los deepfakes.
2. Por razones estrictamente creativo-literarias: Se experimentaría con el potencial artístico de un modelo general de lenguaje o IA. Si lo que hoy está pegando y se viene con todo es la utilización a mansalva de dichas herramientas, para labores tan amplias como la programación de código, traducción de textos, síntesis de papers e incluso redacción de escritos legales (entre tantas otras cosas mucho más variopintas), indudablemente el uso de ChatGPT como herramienta creativa parecía ser una aplicación más que válida para, por ejemplo, desarrollar textos literarios escritos a varias manos, en donde la “inteligencia artificial” pasaría a ser un humano más dentro de cada grupo.
3. Por un motivo crítico: A raíz de esto último es que se incentivaría el pensamiento crítico de los alumnos, con una discusión abierta y preliminar sobre la llamada inteligencia artificial, sus externalidades negativas y también las oportunidades que podría ofrecer no solo en el ámbito artístico-creativo, sino en general. Parte de esa discusión preliminar de índole crítica pasaría por hacerse preguntas como qué es la inteligencia, si acaso podría decirse verdaderamente que estas herramientas son inteligentes, si solo presentarían problemas o también beneficios, y en este último caso, de qué manera se podrían llegar a aprovechar en el aspecto literario, artístico en general o educativo.
4. Razones educativas: Precisamente por la sobreutilización de ChatGPT en tantos ámbitos y su controvertido uso (o mal uso) en el educativo, es que me pareció legítimo explorar su utilización de forma guiada. En tal sentido se les expondría a los alumnos cómo fenómenos similares se dieron en su tiempo con internet y Wikipedia; herramientas cuya aparición llevó aparejada al principio un férreo rechazo por parte de colegios y universidades por considerarlos formas de hacer trampa, pero que luego terminarían aceptándose como elementos tecnológicos de cuya existencia simplemente no podemos abstraernos, y cómo, al fin, acabaría dándose paso a una era de “adaptación” de las comunidades educativas a dicha realidad. En pocas palabras: “si no puedes vencerles, úneteles”. Y es que si hay un buen momento para experimentar con la I.A. en el aula, en vez de incurrir en la probable necedad de proscribirla enteramente, creo que ese momento era justamente ahora.
5. Razones tecnológico-pedagógicas: Finalmente, se estaría incentivando a los alumnos de forma autónoma a resolver problemas de forma creativa y a generar conocimiento por sí mismos, viéndose enfrentados a múltiples desafíos y obstáculos en el uso de estas TIC, y a la necesidad de aprender a lidiar con ellas sobre la marcha según su propia inteligencia se los permitiera. Ya veremos más adelante ejemplos del tipo de problemas que fueron surgiendo y las formas más o menos creativas en que los alumnos fueron resolviéndolos. ¿No les encanta a los expertos en educación evangelizar sobre el uso de las TIC en la sala de clases, como si se tratara de la panacea pedagógica? (Una opinión con la que, por cierto, no podría estar en mayor desacuerdo, aun como geek empedernido.) Bueno, aquí tienen un experimento perfecto.

III. La actividad propiamente tal y sus etapas

1. Parte expositiva

Lo primero que toca hacer, antes de lanzarse a la actividad de lleno, es dictar una necesaria y nunca bien ponderada clase expositiva, ojalá con un importante componente de participación. La idea es explicar a los alumnos algo sobre estos temas de forma preliminar, ojalá preguntando a los propios estudiantes qué es lo que saben de la inteligencia artificial en general y de ChatGPT en particular.

La idea es dejar tan claro como sea posible —y siempre intentando obtener las respuestas de los propios alumnos, insisto— de qué se trata la inteligencia artificial, qué son los modelos generales de lenguaje, cuál es el estado del arte en la materia, algunas controversias interesantes (más sobre este punto en el apartado final de este texto) y cómo se han ido resolviendo estas, las implicancias sociales y económicas que se teme puedan venir, cómo otras tecnologías digitales generaron disrupción previamente en el ámbito educativo, etc., etc.

Aclarado ese panorama preliminar, toca la hora de debatir.

2. Parte deliberativa

En esta parte de la clase la idea es, basándonos en lo anteriormente expuesto, plantear preguntas abiertas a fin de generar una discusión a nivel del curso.

Estas preguntas, como ya se adelantó, se refieren a cuestiones como:

• ¿Es la inteligencia artificial algo que presenta solo externalidades negativas o tendrá también efectos positivos? Si es así, ¿cuáles?
• ¿Es efectivamente la inteligencia artificial “solo una herramienta”? ¿Podría decirse realmente que la tecnología “es neutra”?
• ¿Cómo creen que podría utilizarse la inteligencia artificial “de buena manera” en el ámbito educativo?
• ¿Qué problemas creen que genera el uso de herramientas como ChatGPT en el ámbito artístico-creativo?
• ¿Cómo creen que podría utilizarse la inteligencia artificial “de buena manera” en el ámbito artístico-creativo en general y literario en particular?
• ¿Cabe hablar realmente de “inteligencia”?

Etc., etc.

Cabe recordar que hasta este punto aún no se ha explicitado a los alumnos en qué consistirá la actividad de creación literaria.

Por otra parte, es de capital importancia en esta discusión la realización de la última pregunta, pues una vez desarrollada la actividad se volverá a consultar a los alumnos de forma abierta acerca de sus conclusiones sobre las posibilidades de la I.A. en el ámbito literario y si cabe realmente hablar de “inteligencia”, según sus propias observaciones y experiencia trabajando con el chatbot.

En mi experiencia, entre la parte expositiva y deliberativa puede ocuparse una clase completa. Menos que eso me parece que le restaría profundidad a una conversación sumamente enriquecedora.

3. Parte práctica (cocreación propiamente tal)

Realizada la discusión anterior, aquí toca finalmente exponer a los alumnos de qué se tratará la actividad literaria a realizarse en las clases siguientes, dando las mismas instrucciones que ya he señalado en la explicación preliminar de este texto. Es fundamental asimismo hacerle ver a los estudiantes los objetivos que se persiguen, recalcando una vez más —yo al menos procuro hacerlo seguido— la importancia de desarrollar el pensamiento crítico, así como explicar por qué esta es una experiencia valiosa e incluso innovadora.

A pesar de que, como ya señalaba, la idea es que los alumnos resuelvan por cuenta propia y de forma colaborativa los problemas que puedan surgir, se recomienda darles algunos tips generales, a saber:

• Para iniciar la actividad, el prompt que le den a la I.A. debe incluir el concepto: “Historias encadenadas en colaboración”. Esta frase es clave para que ChatGPT “comprenda” correctamente cuál es la actividad específica que se le está pidiendo. Luego, los detalles, ya quedan en manos de los estudiantes.
• Los estudiantes deben procurar dar feedback al bot, calificando sus aportes en tiempo real y escribiéndole de forma natural, como le hablarían a una persona.
• Ha de recordarse que la I.A. es una herramienta que debe adecuarse a lo que los estudiantes requieran y no al revés. Por lo tanto, si ChatGPT no está respondiendo como aquellos quieren, tendrán que ver de qué manera pueden cambiar el comportamiento de este último (esto significa que los alumnos tendrán que ser asertivos y hasta ingeniosos con sus prompts según se vayan dando las cosas, por ejemplo en caso de que los fragmentos de ChatGPT sean muy extensos, tengan un estilo que no les agrade, que el bot introduzca un giro argumentativo que no les guste, etc.).
• El uso de los modelos generales de lenguaje constituye un serio problema desde la perspectiva de la privacidad de los datos, por lo tanto, se debe evitar introducir información personal. Por razones prácticas y de orden se recomienda que los alumnos se identifiquen, pero procurando utilizar pseudónimos. (Personalmente, creo que es fundamental hacer entender a los alumnos la importancia de la privacidad en el contexto digital actual, pero esa ya es una discusión mayor.)
• La idea es que los estudiantes le saquen el juego a la I.A., ya que esta puede ser no solo un interviniente más, sino que puede, por ejemplo, irles dando un resumen de lo que llevan.
• Los estudiantes no deben perder de vista que la idea es discutir en cada momento y entre todos el relato que se va armando. Y es que, a fin de cuentas, el objetivo práctico de la actividad es crear una historia de forma colaborativa que resulte satisfactoria. Los estudiantes debiesen comentar la dirección general del texto, las intervenciones de cada integrante, etc.
• Por último, ante cualquier problema o duda referente al uso o manejo de ChatGPT, lo idóneo es que los propios alumnos lo traten de resolver, y que acudan al profesor solo como último recurso y tras haberlo intentado por sí mismos (evidentemente esto se refiere solo al manejo de ChatGPT, pues si los alumnos tienen dudas sobre las instrucciones o la actividad propiamente tal, solo uno como profesor puede responderlas).

Se recomienda dar una o dos clases completas para que cada grupo desarrolle la actividad.

4. Exposición y discusión posterior

Una vez terminados los relatos, se le pide a cada grupo que los lea frente al curso. Esta es, además, la instancia que aprovecharemos no solo para que los otros alumnos opinen sobre los relatos, sino también para, como profesor, preguntar a cada grupo sobre su experiencia de trabajo con una I.A. en materia literaria y, nuevamente, generar una discusión abierta sobre aquellas mismas preguntas generales que ya se habían planteado pero antes de comenzar la actividad.

Algunas preguntas que podrían formularse:

• ¿Cuáles fueron los prompts que usaron para dar instrucciones a la I.A.?
• ¿Qué obstáculos o desafíos se encontraron a lo largo del camino y cómo los resolvieron?
• ¿Cuáles son sus opiniones en general sobre ChatGPT como herramienta de cocreación literaria?
• ¿Es realmente inteligente la “inteligencia” artificial?

IV. Mi propia experiencia en la sala, algunas observaciones y conclusiones

Llegamos finalmente a la parte que verdaderamente me interesaba exponer.

En mi caso, lo primero, como ya señalaba, fue realizar una clase expositivo-participativa para abordar ciertos aspectos generales y fundamentales sobre la inteligencia artificial, algunos ejemplos actuales de la misma en diversos ámbitos (en texto, imagen, música, etc.), los modelos de lenguaje y ChatGPT en particular. Para ello fui preguntando a los mismos alumnos, a fin de medir los conocimientos generales sobre la materia.

A este respecto debo decir que me vi bastante sorprendido. Y no necesariamente de forma positiva.

En algunos cursos hubo un par de alumnos que estaban perfectamente conscientes de lo que se les estaba planteando, pudiendo sacar a colación ejemplos como los ya mencionados Dall-E y los deepfakes. Sin embargo, se trató de casos minoritarios, pues la preocupante verdad fue que, contra todo pronóstico, y a pesar de que, en la mente de uno, se trata de un tema no solo tremendamente contingente, sino controvertido y sobre todo importante, al final se termina constatando una vez más la preocupante realidad del desconocimiento y la desinformación del estudiante chileno promedio (que tal vez podría referirse más bien al “chileno promedio”, a secas). En pocas palabras, la mayoría no tenía idea de qué era la inteligencia artificial y decían no haber escuchado hablar de ella. Con suerte, solo algunos sabían de la existencia de ChatGPT (y que solo servía para hacer trabajos, obvio).

Pendiente tendrá que quedar la discusión sobre esta preocupante disociación que hay entre la inédita disponibilidad de oportunidades de información que tenemos en este momento de la historia, y el escaso conocimiento efectivo que los jóvenes logran tener sobre algunas circunstancias actuales y fundamentales de Chile y el mundo.

Si se me permite la digresión, escandaliza ver cómo los jóvenes (de acuerdo, probablemente pase con gente de todas las edades, pero en este caso estamos hablando de estudiantes de dieciséis y diecisiete años, en quienes probablemente se observa el fenómeno con mayor severidad), escandaliza ver cómo los jóvenes, bien digo, a pesar de las ya mencionadas e inéditas oportunidades de información que hoy existen gracias a las tecnologías digitales, no solo se automarginan en silos y cámaras de resonancia en lo referente a aspectos ideológicos, sino incluso en lo relativo al conocimiento más elemental. En pocas palabras, parece que el adolescente chileno promedio no logra escapar de la tiranía del algoritmo, y si su tendencia natural es a pasar horas y horas viendo poco más que, por ejemplo, memes o “noticias” referentes a “influencers” de internet, al final a sus feeds no logran llegar más que memes y noticias de influencers, por más que el país a su alrededor o el mundo entero pueda estar cayéndose a pedazos.

Tengo algunas hipótesis y varias ideas sobre este fenómeno en particular, pero bueno, como he dicho, se trata de una discusión tecnológica y social que, dada su extensión, tendrá que quedar para otro momento.

Volviendo a la exposición del tema general de la I.A. frente a los alumnos, eché mano a algunos casos reales y controvertidos que podrían resultar interesantes. Después de todo, no solo de potenciales hecatombes en el mercado laboral vive el hombre: también toca escuchar de vez en cuando historias divertidas como la polémica de uno de los ganadores del Sony World Photography Awards, quien usó una I.A. para generar la imagen seleccionada; o la de los packs de fotos que se vendían por Only Fans y que terminaron perteneciendo no a una modelo, como sus ilusionados seguidores creían, sino a una “mujer” inexistente también generada por I.A.

En lo que se refiere a la realización de la actividad propiamente tal no observé muchas sorpresas y todo se dio de manera bastante “normal”. Los alumnos comprendieron las instrucciones y respondieron de manera adecuada. Es así que al cabo de una clase y media los grupos ya tenían sus historias terminadas.

Llegamos entonces a la exposición de las historias de cada grupo frente al curso y el momento en que planteo las preguntas de reflexión post-actividad. Y es aquí donde, según mi parecer, las cosas se tornan gratamente interesantes.

Una de las conclusiones en que varios grupos coincidieron es que ChatGPT, si bien puede ser utilizado como una ayuda en el ámbito artístico, aún está bastante lejos de ser una genuina herramienta de creación literaria. En tal sentido, destacaron cómo resultaba muy obvio al leer sus textos que se trataba de una inteligencia artificial, y sin ir más lejos, uno mismo, al escuchar sus historias, podía darse cuenta fácilmente de cuáles eran los párrafos que fueron escritos por miembros del grupo y cuáles por ChatGPT.

En la misma línea, una alumna “le pegó el palo al gato” al expresar que los fragmentos generados por ChatGPT eran “demasiado family-friendly“. Y eso era notorio, como bien digo, al oír las mismas narraciones, donde no faltaban los pasajes que aludían a valores como la amistad y el amor, y siempre parecía haber una moraleja santurrona mientras los personajes cabalgaban en unicornio por un arcoiris hacia el horizonte; un enfoque, desde luego, válido, pero que no podría estar más lejos de la autenticidad propia de la literatura que uno esperaría no solo de sus alumnos, sino de cualquier humano que escriba.

Ante mi pregunta de si intentaron modificar el tenor de esos fragmentos solicitando al bot otra cosa, me encontré con un par de anécdotas soprendentes. Un grupo, por ejemplo quiso que ChatGPT matara un personaje, pero aquel se negó, con una de esas monsergas clásicas en que afirma no estar programado para poder hacer tal o cual cosa.

Por lo visto, la excesiva “moralidad” (¿matar un personaje es “inmoral”?) impresa por los programadores de OpenAI en las líneas de código de ChatGPT parece abarcar incluso la generación de historias ficticias.

En otro caso, un grupo de alumnos, en cuya historia había dos personajes masculinos, le solicitó a ChatGPT “que escribiera un final gay”. Sin embargo, nuevamente, el bot se negó aduciendo que no podía hacerlo porque se podían “promover estereotipos” (¿?). La vuelca de tuerca interesante aquí, sin embargo, es que los estudiantes lograron su cometido simplemente cambiando el prompt, y pidiéndole a GPT que generara un final en el que ambos personajes terminaran juntos.

Cabe destacar que en todos los casos los grupos conformaron sus rondas siempre dejando a GPT como el último “integrante”, aunque nunca se les indicó exactamente que debieran seguir dicho orden. Tal vez hubiera resultado interesante que, por ejemplo, fuera GPT quien generara un pie forzado para partir una historia, o que el bot generara quiebres en la estructura narrativa ubicándose entre dos pares de humanos (vale decir, siguiendo el orden: alumno > alumno > IA > alumno > alumno).

Por último, en cuanto al planteamiento de eventuales dificultades que los alumnos hubieran encontrado a la hora de operar con GPT, no surgió nada destacable. A lo sumo se dieron algunos casos en que los integrantes de algún grupo estimaron que las respuestas dadas por GPT eran, por ejemplo, demasiado extensas, casos en los cuales simplemente se limitaron a pedir a este último que escribiera textos más breves.

Dicho todo lo anterior, cuando volvimos a la pregunta inicial de si acaso se podría afirmar que estas llamadas inteligencias artificiales (que, ya hemos dicho, en estricto rigor no son más que modelos generales de lenguaje) eran realmente inteligentes, la mayoría respondió de forma negativa, aduciendo razones como las ya señaladas en cuanto a las limitaciones literarias de la herramienta, y cómo los textos generados por la misma distaban mucho en términos de calidad y profundidad de lo que cada uno de ellos podría llegar escribir como autor. Sin perjuicio de lo anterior, señalaron que igualmente podría usarse ChatGPT como un recurso para, por ejemplo, destrabar bloqueos creativos y generar cambios de dirección en una trama a partir de los cuales trabajar.

Tengo que ser majadero: en mi humilde y muy personal filosofía pedagógica, la función clave del proceso educativo es, además de forjar valores y transmitir conocimiento (algo indudablemente importante, por más que algún necio pretenda que ello no es así porque supuestamente “hoy en día está todo en internet”), la función clave del proceso educativo es, reitero, formar pensamiento crítico. (Por cierto, en varios casos me di cuenta de que si el concepto de “inteligencia artificial” no está en el radar de los alumnos, las respuestas a preguntas como: “qué es educar”, “para qué educar” y “qué es el pensamiento crítico” MUCHO menos.)

Debo reconocer que tengo opiniones sumamente férreas (ojo, no pétreas) y críticas en múltiples temas, y el de la sobreutilización de las TIC en tantos ámbitos de la vida actual es uno de ellos. Por lo tanto, lograr que los alumnos comprendan por sí mismos que al final del día ChatGPT no es realmente “inteligente”, y más aún, que desde una perspectiva ya no tecnofilosófica, sino estrictamente literaria, ellos mismos son mejores escritores que un modelo general de lenguaje, me complace tremendamente y me deja satisfecho en cuanto a la experiencia en general; un verdadero triunfo del pensamiento crítico.

Con todo, quedó pendiente en la conversación con los alumnos un último punto que lamentablemente no se alcanzó a discutir con la atención y seriedad que merece: y es que muchos de ellos parecen no ser capaces de proyectar correctamente la evolución de estas tecnologías hacia el futuro inmediato; en buena medida, creo yo, porque no han sido testigos atentos y en tiempo real del nacimiento y desarrollo de este tipo de herramientas, y por ende no logran dimensionar el rápido avance de las mismas.

En tal sentido, los alumnos remarcaron que, aún teniendo el potencial —que, según juzgan, está ahí, ChatGPT “hoy en día” no puede competir con un autor humano a la hora de escribir un texto literario.

Cuando les pregunté cuándo creían entonces que sí podría hacerlo, alguien hizo un pronóstico al aire: “no sé, a lo mejor recién en cincuenta años”.

No pude menos que sonreír.