Llevaba un par de meses sin escribir. Es lo que pasa cuando te obsesionas con algo y se te va de las manos. La idea original era estar una o dos semanas haciendo una aplicación usando solo IA; porque soy un friki, y además estaba cansado de leer cierto tipo de afirmaciones en las redes sociales. Pero una cosa lleva a la otra y de repente me di cuenta de que llevaba casi 2 meses currando bastante a saco, que había hecho unas cuantas mierdas más de las que pensaba, y que había acabado más de un día programando hasta las 2 de la madrugada. Y hacía más de 10 años que no me pasaba eso.

Ha sido divertido y desesperante casi a partes iguales; y sin duda me ha servido para reafirmar mis intuiciones sobre el estado del arte actual sobre la IA generativa aplicada al desarrollo de software (concretamente los LLMs y los agentes). Spoiler, no he cambiado de opinión. Sigo pensando que sí, que es útil (al menos potencialmente útil), pero también que seguimos muy lejos de todo ese hype que nos venden cada día.

Sigo pensando, con más convencimiento aún si cabe, que la IA ni piensa ni razona. Y que cuanto más sabes de algo, más te das cuenta de lo poco que puede aportarte en esa área. Si no tienes ni idea de algo, ahí sí, ahí te la cuela. Y te la cuela hasta el fondo. Pero lo mejor es que me he encontrado con algunas cosas en el camino que no esperaba. Y por eso me he puesto a escribir. Necesitaba parar, reflexionar, y ya puestos, compartir estas reflexiones con vosotros.

Aviso desde ya que va a ser un post largo, y eso que no voy a entrar en detalles técnicos. Mi idea es, como casi siempre, llevármelo al lado del comportamiento humano. Y me iré por las ramas. Seguro. Tan seguro estoy esta vez, que llevo cuatro párrafos y no consigo encontrar un buen inicio. Dos meses dan para muchas, muchas situaciones, y muchas reflexiones. Intentaré no extenderme demasiado y centrarme en las que considero más importantes. No prometo nada.

¿Os acordáis cuando de pequeños alguien escribía en un papel “tonto el que lo lea” y se lo iba enseñando a todo el mundo para reírse de ellos? Cosas de niños, por supuesto. Pero no podías no leerlo. Nuestro querido cerebro no sabe no leer si le pones un texto delante. Igual que reconocemos caras en objetos sin venir a cuento (pareidolias). Hay cosas que hacemos en modo automático y que, aunque las podemos racionalizar, no podemos evitarlas.

Porque si parece un pato, canta como un pato, y se mueve como un pato… para nuestro querido cerebro eso es un pato. Al menos de primeras. Y eso es lo que nos pasa con la IA. Que parece inteligente, que habla muy bien, y nos la cuela. Especialmente cuando vamos en piloto automático. Y vamos mucho tiempo en piloto automático.

Los primeros días que me puse a programar con IA estaba en modo tester. Tenía una estrategia y un objetivo en mente, hacía las cosas para evaluar los resultados, simulaba comportamientos para ver sus respuestas, y evaluaba la calidad de esos resultados obtenidos. Todo muy analítico. Todo muy poco natural. Pero poco a poco te relajas, se te va de las manos, y lo que empezó como una evaluación se convirtió en un proceso semiautomático, en una rutina. En mi día a día.

Y fue ahí donde me choque de bruces con la primera reflexión. Llevaba dos horas intentando, sin éxito, que la IA resolviera un error. Pero había entrado en bucle y no hacía más que iterar entre 3 o 4 posibles soluciones que, aunque ya habíamos descartado, su limitado contexto no era capaz de recordar hasta que yo se lo decía. Al principio amablemente, después no tanto. Entonces me pedía perdón, me daba la razón, y volvía al mismo puto bucle de iteraciones sin sentido.

Y si, si sabes algo de cómo funciona un LLM esto no debería sorprenderte. Pero ese día ya no estaba en modo tester. Y además estaba cansado. Y el cansancio activa con más fuerza el modo automático. Así que estaba programando, centrado en el problema que no conseguía resolver, y de repente me di cuenta de que me había cabreado. Me había cabreado de verdad. Como cuando te cabreas con alguien, no con algo. No duró mucho, pero sucedió.

Y en ese mismo instante entró en escena una vieja conocida, la disonancia cognitiva. Por un lado, mi yo más racional sabe de sobra (equivocadamente o no) que un LLM es lo que es. Un conjunto gigantesco de datos y muchas matemáticas y estadística. Pero mi yo irracional se acababa de comer un cabreo emocional bastante simpático. Y eso solo podía significar una cosa. Inconscientemente, estaba gestionando la situación como si la IA fuera inteligente. No se le pueden pedir peras al olmo. Pero yo se las estaba pidiendo.

Y esta es mi primera reflexión, y fue el primer aprendizaje que no esperaba encontrarme en este proceso. Llevo un par de años usando diferentes IAs pero nunca había pasado tanto tiempo seguido utilizando una IA de forma intensiva, totalmente integrada en mi día a día. Y al igual que no podemos no leer, tampoco podemos estar alerta constantemente. Y la forma de hablar de los LLMs es tan “humana”, que a la mínima que te relajas, te la cuelan.

Pasas de pensar en ver cómo puedes sacarle partido a este “nuevo software” llamado IA, a pensar en por qué hoy está tan tonta. De pensar en la mejor estrategia de prompting, a cabrearte porque le has dicho una cosa mil veces y se le olvida cada tres conversaciones. De sentirte impotente porque te dice abiertamente que te ha engañado, que se ha inventado “no sé qué”, y te das cuenta de que te lo habías creído y te sientes “un poco estúpido”. O muy gilipollas.

Pero es lo que hay. Es lo que somos. Como decía al principio, nuestro querido cerebro no puede no leer. Y si leemos algo que parece humano, que parece lógico, y que suena coherente y creíble, nos lo creemos. Y esto es algo que tendremos que aprender a gestionar. Y no va a ser sencillo conseguirlo. Esto me recuerda a Kahneman hablando de que ni siquiera él estaba a salvo de caer en los sesgos que tanto había investigado…

Soy consciente de que yo solo puedo ver un lado de la moneda, y me encantaría saber la opinión sobre esto de personas que no tienen ni idea de cómo funciona una IA, de cómo se entrena un LLM y de cómo es el proceso posterior de inferencia. Y por supuesto, más allá del conocimiento, también están las creencias de cada uno. Pero bueno, sigamos que todavía quedan un par de cosas más que me gustaría compartir.

Hablemos de la pereza. Otra vieja conocida por todos, ¿verdad? El ser humano es perezoso, vago por naturaleza. No podría ser de otra manera. Somos una “máquina” perfeccionada a través de muchísimas iteraciones para optimizar. Optimizar recursos, optimizar consumos, optimizar todo. No digo que lo consigamos ni que seamos perfectos. Pero que estamos diseñados para ello, de eso no tengo la menor duda.

A ver como explico esto. Hasta ahora, la pereza generada por la tecnología había afectado principalmente a nuestro cuerpo a un nivel más “físico”. Dejamos de andar cuando inventamos la rueda, dejamos de subir escaleras cuando apareció el ascensor, y vivimos situaciones tan absurdas como ir en coche al gimnasio y coger el ascensor para subirnos a una cinta de correr y después hacer un poco de step. Desde que apareció la tecnología, nuestras vidas se han ido adaptando; con sus cosas buenas y sus efectos colaterales.

Pero ahora, por primera vez, esta tendencia natural hacia la ley del mínimo esfuerzo está empezando a afectar a nuestros procesos cognitivos. Y no me refiero al uso de calculadoras, ordenadores… no voy por ahí. Creo que no es comparable.

Porque claro, si puedes pedirle a una IA que te resuma un paper… para qué leértelo entero? Si puedes pedirle a una IA que te redacte una respuesta educada y asertiva a ese email tan incómodo… why not? Si puedes preguntarle directamente a una IA lo que sea, en vez de buscar, leer, contrastar y elaborar una respuesta… se va entendiendo, no?

A ver, seré sincero. Una noche que llevaba bastantes horas seguidas programando, le llegué a pedir al editor de IA con el que programo que me cambiara un estilo de una cosa de la interfaz de usuario. Teniendo el “css” delante. Y me di cuenta de que era cambiar un número. Literalmente cambiar un puto número en un fichero que tenía abierto.

Obviamente no lo hice de forma consciente. Pero lo hice. Y me reí cuando me di cuenta. Y me jodió un poco también. Estaba cansado, y el cansancio activa el modo automático. Y saberlo no sirve de nada para intentar evitarlo. Me la comí.

No sé si usar la IA, desde ahora hasta dónde consigamos mejorarla, nos hará más tontos. Pero tengo clarísimo que nos hará más vagos. Cognitivamente hablando. Y no sé cuál será el precio, pero no será gratis.

Toca ir cerrando, pero antes os contaré una última reflexión, quizá un poco más loca. Bueno, sí, un poco más loca. Pero ya me conocéis…

El otro día me sorprendí a mí mismo experimentando algo bastante curioso mientras programaba en Cursor AI (el editor que utilizo para programar con IA). Estaba esperando a ver si la IA acertaba esta vez con la corrección de un error (íbamos fácilmente por la séptima iteración, y la cosa pintaba mal), y me di cuenta de que la sensación que tenía mientras se generaba la respuesta era la misma que cuando esperas la recompensa de una loot box o abres una notificación en una red social. Ese momento de expectativa, de “a ver si ahora sí”, que genera una mezcla rara de tensión y emoción. Esa expectativa de recompensa tan asociada a la adicción.

Y me hizo pensar que, más allá de la disonancia cognitiva y de la pereza, también hay algo ahí que puede llegar a complicarnos la vida un poco si no lo gestionamos de forma adecuada. Un comportamiento que roza sutilmente los mecanismos de recompensa que enganchan tanto en otros entornos. Porque si, a veces acierta. Y eso engancha, igual que engancha una tragaperras.

Y hasta aquí. No estoy muy seguro, pero creo que este es uno de esos posts que necesitaba soltar. De esos que, aunque comparta, los escribo para mí. Para ordenar mis ideas. Y me he dado cuenta de que ya no me interesa tanto el debate de si la IA es más o menos inteligente, la AGI y todas esas cosas.

Cada día tengo más clara mi postura, y es que como ya os he comentado, creo que estamos muy lejos de todo ese hype. Sin embargo, cada vez es más útil. O potencialmente más útil (que algo sea fácil de hacer no significa que deba hacerse, pero no abriré más melones por hoy).

Lo que si tengo claro es que mucho se tienen que torcer las cosas para que no la utilicemos cada vez más. Incluso sin darnos cuenta. Incluso aunque no queramos. Y por eso creo que ahora estoy más tiempo sumergido entre divagaciones y reflexiones sobre cómo nos afectará su uso, y no tanto en la calidad de las respuestas, por decirlo de alguna forma. En cuánto estamos dispuestos a sacrificar en calidad por comodidad. En cómo afectará ya no a nuestras vidas, sino a nosotros mismos. Como personas.

Y me parece que se habla mucho menos sobre esto. Y, por lo que sea, a mí me suelen llamar más la atención estas cosas sobre las que no se habla tanto. Quizá este post no sea más que otro intento de encontrar una bonita conversación. Quizá sólo necesitaba ordenar un poco mis ideas y sacar estas reflexiones del cajón de cosas pendientes.

Sea como fuere, no voy a seguir dándote el coñazo. Aunque podría tirarme horas hablando sobre estas cosas, como lectura creo que ya ha alcanzado un tamaño suficiente. Como conversación con un buen café, sería solo el principio. Si te apetece, al café invito yo.