Todo el mundo conoce ChatGPT. Y todo el mundo sabe acerca de la propensión de ChatGPT a “inventar” hechos y detalles cuando es necesario, un fenómeno que se conoce como “alucinación”. Y todos han visto argumentos de que esto provocará el fin de la civilización tal como la conocemos.
No voy a discutir con nada de eso. Ninguno de nosotros quiere ahogarse en masas de “noticias falsas”, generadas a gran escala por bots de IA que son financiados por organizaciones cuyas intenciones probablemente sean malignas. ChatGPT podría superar fácilmente a todas las agencias de noticias legítimas (y, en realidad, ilegítimas) del mundo. Pero ese no es el tema que quiero abordar.
Quiero ver la “alucinación” desde otra dirección. He escrito varias veces sobre IA y arte de varios tipos. Mi crítica al arte generado por IA es que todo es, bueno, derivado. Puede crear imágenes que parecen haber sido pintadas por Da Vinci, pero en realidad no necesitamos más pinturas de Da Vinci. Puede crear música que suene como Bach, pero no necesitamos más Bach. Lo que realmente no puede hacer es crear algo completamente nuevo y diferente, y eso es, en última instancia, lo que impulsa a las artes hacia adelante. No necesitamos más Beethoven. Necesitamos a alguien (o algo) que pueda hacer lo que hizo Beethoven: horrorizar a la industria de la música rompiendo la música tal como la conocemos y volviéndola a armar de manera diferente. No he visto que eso suceda con la IA. Todavía no he visto nada que me haga pensar que podría ser posible. No con Stable Diffusion, DALL-E, Midjourney o cualquiera de sus afines.
Hasta ChatGPT. Todavía no he visto este tipo de creatividad, pero puedo tener una idea de las posibilidades. Recientemente escuché acerca de alguien que tenía problemas para entender un software que otra persona había escrito. Le pidieron una explicación a ChatGPT. ChatGPT dio una excelente explicación (es muy bueno para explicar el código fuente), pero había algo gracioso: se refería a una característica del lenguaje de la que el usuario nunca había oído hablar. Resulta que la función no existía. Tenía sentido, era algo que ciertamente podría implementarse. ¿Quizás se discutió como una posibilidad en alguna lista de correo que encontró su camino en los datos de entrenamiento de ChatGPT, pero nunca se implementó? No, eso tampoco. La función fue “alucinada” o imaginada. Esto es creatividad, tal vez no creatividad humana, pero creatividad al fin y al cabo.
¿Qué pasaría si consideráramos las “alucinaciones” de una IA como precursoras de la creatividad? Después de todo, cuando ChatGPT alucina, está inventando algo que no existe. (Y si lo preguntas, es muy probable que admita, cortésmente, que no existe). Pero las cosas que no existen son la sustancia del arte. ¿Existía David Copperfield antes de que Charles Dickens lo imaginara? Es casi una tontería hacer esa pregunta (aunque hay ciertas tradiciones religiosas que ven la ficción como “mentiras”). Las obras de Bach no existían antes de que él las imaginara, ni las de Thelonious Monk, ni las de Da Vinci.
Tenemos que tener cuidado aquí. Estos creadores humanos no hicieron un gran trabajo al vomitar muchas cosas “nuevas” generadas aleatoriamente. Todos estaban estrechamente ligados a las historias de sus diversas artes. Tomaron una o dos perillas en el panel de control y lo giraron al máximo, pero no interrumpieron todo. Si lo hubieran hecho, el resultado habría sido incomprensible, tanto para ellos como para sus contemporáneos, y los llevaría a un callejón sin salida. Ese sentido de la historia, ese sentido de extender el arte en una o dos dimensiones mientras se dejan otras intactas, es algo que los humanos tienen y que los modelos generativos de IA no tienen. ¿Pero podrían?
¿Qué pasaría si entrenáramos una IA como ChatGPT y, en lugar de ver la alucinación como un error y tratar de erradicarla, la optimizáramos para obtener mejores alucinaciones? Puede pedirle a ChatGPT que escriba historias y cumplirá. Las historias no son tan buenas, pero lo serán, y nadie afirma que ChatGPT haya sido optimizado como generador de historias. ¿Cómo sería si se entrenara a un modelo para que tuviera imaginación además de un sentido de la historia y el estilo literarios? ¿Y si optimizara las historias para que fueran grandes historias, en lugar de malas? Con ChatGPT, la conclusión es que es un modelo de lenguaje. Es solo un modelo de lenguaje: genera textos en inglés. (Realmente no sé acerca de otros idiomas, pero una vez traté de hacer que hablara en italiano, y no funcionó). No dice la verdad; no es ensayista; no es un escritor de ficción; no es un programador. Todo lo demás que percibimos en ChatGPT es algo que nosotros, como humanos, aportamos. No digo eso para advertir a los usuarios sobre las limitaciones de ChatGPT; Lo digo porque, incluso con esas limitaciones, hay indicios de mucho más que podría ser posible. No ha sido entrenado para ser creativo. Ha sido entrenado para imitar el lenguaje humano, la mayoría del cual es bastante aburrido para empezar.
¿Es posible construir un modelo de lenguaje que, sin interferencia humana, pueda experimentar con “eso no es genial, pero es imaginativo. Vamos a explorarlo más”? ¿Es posible construir un modelo que comprenda el estilo literario, sepa cuándo está superando los límites de ese estilo y pueda abrirse camino hacia algo nuevo? ¿Y se puede hacer lo mismo con la música o el arte?
Hace unos meses, hubiera dicho “no”. Un ser humano podría incitar a una IA a crear algo nuevo, pero una IA nunca podría hacer esto por sí sola. Ahora, no estoy tan seguro. Inventar cosas puede ser un error en una aplicación que escribe noticias, pero es fundamental para la creatividad humana. ¿Son las alucinaciones de ChatGPT un anticipo de la “creatividad artificial”? Tal vez sea así.
Relacionado:
