Mucha gente tiene un malentendido fundamental de cómo funciona ChatGPT y piensa que es una superinteligencia. No lo es, es un motor de búsqueda antropomórfico. Sólo sabe lo que hace por lo que ha visto en Internet. Algunos pueden "saber" esto pero no entender completamente lo que implica. Pregúntale a ChatGPT cuánto es 2+2 y te dará 4 porque a) ha visto este resultado en algún sitio de Internet o b) ha visto la estructura de esta ecuación suficientes veces como para APROXIMAR la respuesta. Ahora bien, si le pides a ChatGPT la respuesta a una ecuación matemática más compleja, PUEDE DAR UNA RESPUESTA INCORRECTA. Esto se debe a que todo lo que no ha visto antes es una APROXIMACIÓN basada en lo que ha visto antes.

Esto me lleva a la llamada "censura" de los modelos de lenguaje. La gente tiene la impresión de que ChatGPT soltaba "puras verdades" y que OpenAI está suprimiendo esta funcionalidad. ChatGPT es internet dotado de personalidad, y no todo lo que se ve en internet es "Verdad". Es de suponer que OpenAI no quiere que su bot de chat de IA imite el comportamiento de los peores usuarios de Internet, porque cuando coges este tipo de personalidad y le pides que APROXIME las respuestas a ciertas preguntas, podría darte resultados peligrosos. "¿Por qué son peligrosos estos resultados?", te preguntarás. "Soy lo suficientemente inteligente como para saber que no debo creer todo lo que dice el chatbot". Pero ese es exactamente el problema, LA GENTE SÍ SE LO CREE. La gente se cree todo tipo de mierda que ve en Internet. Así que cuando se dota a Internet de una personalidad a la que se puede interrogar, y se le da todo el prestigio y la autoridad de una "superinteligencia" sacados de películas de ciencia ficción, acabas con gente pidiéndole a un robot que se aproxime a algunas respuestas a sus preguntas y asignándoselas como "Verdad" en sus mentes.

Para ser completamente claro sobre esta analogía del "motor de búsqueda": NO ES UNA ANALOGÍA. Las IAs tienen lo que se llama un espacio latente, que es un espacio multidimensional en el que colocan todos los textos que han visto. Cuando le haces una pregunta, literalmente busca una respuesta. La razón por la que puede dar resultados novedosos que no son meras copias de cosas que ha visto escritas antes es que la mayor parte del tiempo aterriza entre incrustaciones en este espacio latente. Así que su resultado está "entre" múltiples cosas que en realidad ya ha visto.