El otro día le pregunté a una IA el horario de una farmacia. Luego el tiempo para el día siguiente. Luego el comando para vaciar un git stash. Tres preguntas, tres respuestas. Y entonces pensé: habría obtenido lo mismo con Google, en dos segundos.
Entonces, ¿estamos quemando tokens para nada? ¿Y cuánto cuesta realmente?
Una pregunta sencilla no cuesta gran cosa
Primera sorpresa: hacerle una pregunta sencilla a una IA consume más o menos lo mismo que una búsqueda en Google. Unos 0,3 Wh en ambos casos, según las últimas cifras publicadas por Google y OpenAI.
El problema son los modos de «razonamiento» y los agentes. Un modelo que razona consume unas 10 veces más. Un agente que encadena tareas, mucho más todavía. Usar eso para saber qué tiempo hará mañana es como coger un todoterreno para ir a por el pan.
Para las empresas, la factura sube rápido
El precio de los tokens baja cada año. Sin embargo, las facturas se disparan. Un estudio de Spendesk sobre empresas europeas muestra que su gasto en IA se ha multiplicado por más de cuatro en un año.
¿Por qué? Porque la usamos para todo. Algunas empresas incluso clasificaron a sus empleados según los tokens consumidos. Resultado: Uber agotó su presupuesto de IA del año en cuatro meses.
¿Y para el planeta?
Mi consulta, por sí sola, es insignificante. El problema es cuando miles de millones de personas hacen lo mismo cada día. La Agencia Internacional de la Energía prevé que los centros de datos consuman el doble de electricidad de aquí a 2030. Más que todo Japón hoy.
Las IA son cada vez más eficientes. Pero las usamos tanto más que no compensa.
¿Hemos olvidado cómo buscar?
Un poco, creo. Buscar es escribir las palabras adecuadas, comparar dos o tres webs y elegir la que parece fiable. La IA hace todo eso por nosotros.
Un estudio del MIT midió la actividad cerebral de estudiantes que escribían un texto. Los que usaban ChatGPT pensaban menos que los que usaban Google. Y los que no tenían ninguna herramienta eran los que más pensaban.
Mi regla ahora
- Un dato sencillo (horario, dirección, tiempo, un comando): busco en Google.
- Un trabajo de verdad (redactar, resumir, depurar): uso la IA, a veces incluso una IA local en mi PC.
- Nada de modo «razonamiento» cuando no hace falta.
La IA es genial. Pero no para todo. ¿Y tú? ¿Cuántas de tus últimas preguntas a una IA habrían cabido en la barra de Google?
Fuentes
- Google: el impacto ambiental de Gemini (en inglés)
- Solutions Numériques: la factura de IA de las empresas se dispara (en francés)
- PV Tech: el informe de la AIE sobre los centros de datos (en inglés)
- El estudio del MIT sobre ChatGPT y el cerebro (en inglés)