Los transformers no saben mentir pero mienten.
No te fíes de los transformers, mienten
No te fíes de los transformers, mienten. Bueno, más bien no saben si mienten. Pero no, no estamos hablando de Optimus Prime, estamos hablando de la arquitectura sobre la que se han construido modelos como GPT o LLama.
Si usas ChatGPT es fácil dejarse engañar y empezar a creer que es capaz de pensar. Hace poco vi este video:
En el, utilizan ChatGPT para derivar las reglas definidas en la kata Gilded Rose Kata. Tal y como lo expone el ponente parece que la maquina es capaz de entender el código y extraer las reglas, incluso una que está especialmente oculta. Lo cierto, es que GPT no tiene ni idea de que es lo que esta leyendo. Sólo sabe que esta relacionado con algo que ya ha leído y usando probabilidad y estadística es capaz de construir una respuesta coherente para un humano. Dicho de otra manera, uno de estos chatbots podría responder que la solución a todos los problemas de nuestro planeta es acabar con el ser humano pero no sabe que quiere decir acabar con el ser humano, para él son sólo un conjunto de tokens que encajan bien en el contexto de la conversación que estamos manteniendo.
La gran pregunta es si los humanos pensamos o hacemos algo parecido. Damos respuestas que encajan en el contexto pero que no hemos creado nosotros y no tenemos ni idea de si son verdad o mentira. Sólo hay que encender la TV para confirmarlo.
Daniel Kahneman describe dos sistemas diferentes de pensamiento en los humanos, y yo no puedo evitar pensar como de similares son el primer sistema y la forma en la que los transformers funcionan.
Podemos estar tranquilos entonces, concedámosle a la IA el primer nivel y reservemos para los humanos el segundo. No tan rápido, no esta claro en cuántas de nuestras actividades diarias usamos el segundo sistema. Por ejemplo, si veis el vídeo hasta el final, la conclusión más o menos es que la IA necesita mucha guía humana para generar código sostenible. Sin embargo, sólo creamos código sostenible porque lo tienen que leer otros humanos. Proyectos como gpt-engineer proponen dejar que la IA cree y mantenga el software del futuro. Tal vez nuestra labor sea entonces asegurar la calidad externa y mejorar este tipo de herramientas.
Siempre que hago una predicción la cago. Esta vez, sin embargo, parece una apuesta segura. Las IAs han venido para quedarse, necesitamos incorporarlas a nuestro día a día para desatar nuestro segundo sistema de pensamiento.