¿Qué son los tokens en IA? Cómo se calculan los precios de los LLM

Puntos clave

• Los tokens son los pequeños fragmentos de texto que procesa un modelo de IA, no necesariamente palabras completas.
• Muchas API de IA cobran por separado los tokens de entrada y de salida, por lo que las instrucciones y respuestas más largas pueden aumentar los costes.
• Puedes controlar el gasto eligiendo modelos adecuados, eliminando el contexto innecesario y comprobando el uso real.

Los tokens son las unidades que utiliza un modelo de lenguaje grande (LLM) para procesar texto: pueden ser palabras, partes de palabras, signos de puntuación o espacios. Afectan al coste porque muchos servicios de IA facturan según la cantidad de tokens que el modelo recibe y genera, aunque los planes de chatbots para consumidores pueden utilizar suscripciones o cuotas de uso en su lugar.

Cómo funciona

Del texto a los tokens

Antes de que un LLM procese tu mensaje, un componente llamado tokenizador lo divide en unidades más pequeñas. Cada token se convierte en un identificador numérico que el modelo puede procesar.

Una palabra común podría caber en un solo token. Una palabra más larga o menos habitual podría dividirse en varios. La puntuación, los números, el código y los espacios también afectan al resultado.

En los textos en inglés, una regla orientativa es que un token representa unos cuatro caracteres, o aproximadamente tres cuartas partes de una palabra. Así, 1.000 tokens equivalen aproximadamente a 750 palabras, pero esto es solo una estimación.

El número exacto depende del tokenizador y del contenido. Distintos idiomas pueden producir cantidades de tokens muy diferentes para expresar el mismo significado, por lo que el número de palabras por sí solo no es una medida fiable para la facturación.

Tokens de entrada frente a tokens de salida

La mayoría de los sistemas de precios basados en tokens distinguen entre dos categorías:

• Tokens de entrada: Todo lo que se envía al modelo, incluidos tu mensaje, las instrucciones de la aplicación, el historial de conversación pertinente y cualquier texto de referencia proporcionado.
• Tokens de salida: El contenido que genera el modelo como respuesta.

Los tokens de salida suelen tener una tarifa más alta que los de entrada, pero las tarifas varían según el modelo y el proveedor.

Cuando las tarifas se indican por millón de tokens, el cálculo básico es:

Coste = (tokens de entrada ÷ 1.000.000 × tarifa de entrada) + (tokens de salida ÷ 1.000.000 × tarifa de salida)

Ese es el punto de partida, pero no siempre representa la factura completa. Según el servicio, la entrada almacenada en caché puede tener un precio diferente, los tokens de razonamiento pueden contabilizarse como uso facturable y las herramientas, como la búsqueda, pueden añadir cargos independientes.

Por qué importa la longitud de la conversación

Un chatbot no recuerda necesariamente los mensajes anteriores de forma gratuita. Para mantener la continuidad, una aplicación puede volver a enviar los mensajes anteriores al modelo con cada nueva solicitud.

A medida que crece una conversación, también puede crecer su entrada, incluso cuando tu último mensaje es simplemente «¿Puedes explicarlo?».

Los modelos también tienen una ventana de contexto: un límite en la cantidad de tokens que pueden manejar en una solicitud, que generalmente incluye la entrada y la salida generada. Una ventana de contexto amplia te permite proporcionar más información; no hace que procesarla sea gratis.

Ejemplos del mundo real

Un correo breve frente a la revisión de un documento

Imagina que le pides a una IA que reescriba un correo electrónico breve. Tus instrucciones y el correo podrían sumar 200 tokens de entrada, con una respuesta de 150 tokens.

Ahora imagina que le pides que revise un informe largo. Esa solicitud podría contener 20.000 tokens de entrada y producir un resumen de 1.000 tokens.

Estas cantidades son ilustrativas, no mediciones de un producto. Con el mismo modelo y las mismas reglas de facturación, la revisión del informe cuesta más porque procesa y genera más tokens. Una respuesta final breve no implica necesariamente una solicitud barata si la entrada es grande.

Un chatbot de atención al cliente

Una empresa que utilice Chatbase para crear un chatbot basado en el contenido de su sitio web y sus documentos debería comprobar cómo mide el uso su plan. La cuota que se ofrece al cliente puede expresarse en mensajes o créditos en lugar de tokens.

Entre bastidores, una respuesta puede implicar preguntas de clientes, instrucciones, historial de conversación y texto de referencia recuperado. Enviar solo los pasajes pertinentes puede reducir el uso de tokens en comparación con proporcionar una base de conocimientos completa.

Un solo mensaje de un cliente también puede activar varias llamadas al modelo en una aplicación más compleja. Eso significa que el «coste por mensaje» y el «coste por solicitud al modelo» no siempre son iguales.

Un asistente basado en suscripción

Si utilizas ChatGPT a través de su interfaz para consumidores, por lo general encontrarás condiciones de acceso y límites de uso según el plan, en lugar de una factura de tokens independiente por cada respuesta.

Esto es distinto del uso de una API con facturación por consumo. No supongas que una suscripción a un chatbot incluye créditos de API ni que su precio mensual revela el coste de crear tu propia aplicación.

Ventajas y limitaciones

Los precios basados en tokens ofrecen a los desarrolladores una unidad medible para estimar el uso. Llevar un seguimiento de los tokens facilita comparar modelos, prever gastos e identificar flujos de trabajo costosos.

También crea oportunidades útiles para ahorrar dinero. Eliminar instrucciones duplicadas o solicitar una respuesta concisa puede reducir el uso sin cambiar la tarea.

Sin embargo, los tokens no son una medida de calidad. Una respuesta más corta puede omitir detalles esenciales, mientras que un modelo más barato puede necesitar reintentos que anulen el ahorro inicial.

El recuento de tokens también tiene limitaciones como herramienta de comparación:

• Los tokenizadores difieren: El mismo documento puede producir recuentos distintos según el modelo.
• Más contexto no siempre es mejor: El material irrelevante puede aumentar el coste y desviar la atención de la tarea.
• La facturación multimodal varía: Las imágenes, el audio y el vídeo pueden utilizar un sistema especial de cómputo de tokens u otras unidades de facturación.
• El alojamiento propio también cuesta dinero: Evitar una factura de API por token no elimina los costes de hardware, electricidad o mantenimiento.

El objetivo práctico es obtener un resultado útil y fiable al menor coste, no simplemente utilizar la menor cantidad de tokens.

Cómo empezar

1. Identifica tu modelo de facturación. Comprueba si tu servicio cobra por suscripción, mensaje, crédito, token o uso de infraestructura. Confirma qué incluye antes de comparar precios.

1. Mide una tarea representativa. Utiliza el tokenizador del proveedor o los datos de uso que devuelve la API. Prueba una solicitud típica, una solicitud larga y una conversación con mensajes de seguimiento, en lugar de basarte únicamente en el número de palabras.

1. Define un objetivo claro para la salida. Pide «cinco viñetas» o «un resumen de menos de 200 palabras» cuando corresponda. Los desarrolladores también pueden configurar límites de salida, aunque unos límites demasiado estrictos pueden truncar las respuestas.

1. Proporciona solo contexto pertinente. Elimina el texto repetido y las secciones no relacionadas. Los frameworks como LlamaIndex pueden ayudar a los desarrolladores a conectar documentos con aplicaciones basadas en LLM y recuperar material pertinente en lugar de enviarlo todo.

1. Compara los costes totales de la tarea. Incluye los reintentos, las llamadas a herramientas y la calidad de las respuestas. Para experimentar en local, Ollama ejecuta modelos abiertos en ordenadores personales, pero su idoneidad depende del hardware disponible y del modelo elegido.

1. Supervisa el uso de forma continua. Lleva un seguimiento de los tokens y los costes por tarea completada. Configura presupuestos o alertas cuando sea posible y comprueba si solo te notifican o si realmente detienen el gasto.

Preguntas frecuentes

¿Un token equivale a una palabra?

No. Un token puede ser una palabra completa, parte de una palabra, un signo de puntuación o un espacio en blanco. Las estimaciones basadas en el número de palabras en inglés son útiles para una planificación aproximada, pero utiliza el tokenizador del modelo o sus informes de uso para obtener recuentos precisos.

¿Por qué una pregunta breve a un chatbot a veces cuesta más?

El modelo también puede recibir instrucciones de la aplicación, mensajes anteriores y documentos de referencia. Tu pregunta visible es solo una parte de la entrada. Algunos flujos de trabajo también realizan varias llamadas al modelo antes de devolver una respuesta.

¿Puedo reducir los costes de tokens sin disminuir la calidad de las respuestas?

A menudo, sí. Elimina el contexto duplicado, recupera solo los pasajes pertinentes y especifica la longitud de respuesta que necesitas. Después, comprueba los resultados: eliminar instrucciones esenciales o utilizar un modelo inadecuado puede provocar errores y solicitudes adicionales.