Un token es la unidad mínima de texto que procesa un modelo de lenguaje: puede ser una palabra, parte de una palabra o un signo. Los proveedores de IA cobran el uso de sus APIs por cantidad de tokens de entrada y de salida, y cada modelo tiene un límite de tokens que puede procesar a la vez (su “ventana de contexto”).
Por qué importa para una empresa
- Costo: cuanto más texto se envía y se genera, más se paga.
- Límite de contexto: documentos muy largos pueden no entrar completos.
- Velocidad: más tokens implican respuestas más lentas.
Cómo se optimiza
Enviando solo la información necesaria (por ejemplo, con RAG en lugar de documentos enteros), eligiendo el modelo adecuado para cada tarea y pidiendo respuestas concisas cuando alcanza.
Un dato práctico
En español, una palabra suele equivaler a algo más de un token en promedio, aunque varía según el modelo y el texto.
Relacionado
Preguntas frecuentes
¿Cuánto cuesta un token?
¿Los tokens de entrada y salida cuestan lo mismo?
¿Cómo estimo el costo mensual de una integración con IA?
¿Tenés dudas sobre cómo aplicar esto a tu empresa?
Agendá una reunión gratuita de 30 minutos y lo vemos juntos.