Inicio Ciencia Hugging Face pasa a enrutar modelos abiertos por OpenRouter

Hugging Face pasa a enrutar modelos abiertos por OpenRouter

0
56
Hugging Face pasa a enrutar modelos abiertos por OpenRouter

Hugging Face reemplazó su enrutador propio por el de OpenRouter para modelos de lenguaje, según un anuncio publicado en el blog de la empresa. Con el mismo token de Hugging Face, el usuario llama a cualquier modelo de peso abierto servido por algún proveedor, y OpenRouter elige el mejor proveedor por llamada con base en precio, velocidad y confiabilidad en vivo, repitiendo la solicitud en otro proveedor si el primero falla. El cobro sigue en la factura de Hugging Face, sin markup, y el código permanece igual. El cambio tiene un efecto secundario: las claves de API propias de proveedores dejan de funcionar para modelos de lenguaje.

Hugging Face pasó a usar el enrutador de OpenRouter en sus Inference Providers para modelos de lenguaje. El anuncio, publicado en el blog de la empresa, describe el cambio como el primer paso de una alianza entre ambas compañías y afirma que el código del usuario permanece igual.

Antes, según el texto, Hugging Face elegía un proveedor para la solicitud y devolvía el error si este fallaba. Ahora la llamada se repite en otro proveedor dentro de la misma solicitud, y el enrutador selecciona quién la atiende con base en mediciones en vivo de precio, velocidad y confiabilidad.

Cómo funciona el enrutamiento por llamada

OpenRouter afirma servir más de 800 billones de tokens por mes a más de 10 millones de usuarios, con más de 600 modelos de más de 80 proveedores. El enrutamiento usa mediciones en vivo de ese tráfico para decidir el destino de cada solicitud.

La empresa dice haber reconstruido recientemente ese enrutamiento: en lugar de mirar solo el menor precio de lista, envía cada solicitud al proveedor con la mejor combinación de precio, velocidad y confiabilidad. Cuando un proveedor se ralentiza o empieza a fallar, el tráfico se aleja de él hasta que se recupere.

En las mediciones de OpenRouter citadas en el anuncio, el nuevo enrutamiento redujo los errores de capacidad en 46% y mejoró el tiempo hasta el primer token en 16,9% y el rendimiento en 16,3%.

El enrutador también considera la caché: una conversación permanece en el proveedor que guarda la caché de su prompt. Para hacerlo explícito, el texto recomienda enviar un UUID estable por conversación en el encabezado X-HF-Session-Id.

Precio, cobro y lo que deja de funcionar

El cobro no cambia de formato, según el anuncio: el usuario paga el precio del proveedor en la factura de Hugging Face, y la empresa dice no añadir markup. Los suscriptores PRO reciben 2 dólares de créditos por mes, y las organizaciones Team y Enterprise reciben 2 dólares por asiento.

Hay, sin embargo, un cambio incompatible. Como las solicitudes a modelos de lenguaje ahora se cobran en la cuenta u organización de Hugging Face, el usuario ya no puede usar su propia clave de API de un proveedor para esos modelos. Aún es posible elegir un proveedor con un sufijo en el identificador del modelo, en el formato modelo:proveedor, o desactivar proveedores en la configuración.

Las claves propias para proveedores de imagen y video siguen funcionando. La generación de imagen, video y audio continúa como antes, directamente por los Inference Providers de Hugging Face, sin pasar por OpenRouter, con el mismo token y acceso a decenas de miles de LoRAs.

El avance de los modelos de peso abierto y lo que aún falta

El anuncio usa datos del propio OpenRouter para dimensionar el mercado. Los modelos de peso abierto pasaron de 26,8% de los tokens servidos en octubre de 2025 a 71,7% a fines de septiembre de 2026, después de alcanzar el pico de 77,5% en julio. En el mismo periodo, el volumen semanal de peso abierto creció más de 60 veces, frente a casi diez veces de los modelos cerrados.

Según el texto, el modelo más usado en OpenRouter esa semana era de peso abierto: DeepSeek V4.1 Flash 1017, con 59,2 billones de tokens. El anuncio también afirma que los modelos abiertos cuestan cerca de cuatro veces menos en promedio, con 0,28 dólar por millón de tokens de entrada y 1,62 dólar por millón de salida, frente a 1,27 y 6,36 dólares en los cerrados.

La propia Hugging Face reconoce una limitación: los mejores modelos abiertos aún quedan detrás de los mejores propietarios en los benchmarks más difíciles. En el Artificial Analysis Intelligence Index, Kimi K3.1 Pro, el mejor modelo abierto según el texto, marca 46 frente a 65 de Claude Fable 5.2, a cerca de un séptimo del costo por tarea, 3,68 dólares frente a 26,54 dólares.

El anuncio no detalla cómo se recopilan las mediciones en vivo de precio, velocidad y confiabilidad ni informa plazos para las próximas etapas. Tampoco hay indicación de que el cambio alcance modelos de imagen, video o audio, que el texto mantiene fuera de OpenRouter.

Como próximos pasos, Hugging Face menciona conectar la cuenta de OpenRouter con la de Hugging Face y encaminar más tareas por OpenRouter. El texto no especifica qué tareas ni cuándo debería ocurrir.

En las páginas de modelo, dos pestañas nuevas muestran lo que hay detrás del enrutamiento: Providers lista cada proveedor al que OpenRouter puede encaminar el modelo, con precio de entrada y salida, velocidad y disponibilidad en las últimas 24 horas; Metrics muestra el mejor precio, rendimiento, tiempo hasta el primer token, tamaño de contexto y disponibilidad entre ellos. El resumen de uso pasa a detallar el gasto por proveedor que atendió cada solicitud.

Fuente original: Hugging Face — Hugging Face and OpenRouter join forces to make open-weight models easy to run.

Recibe Radar de IA todos los días

Las noticias de inteligencia artificial que importan — con nuestro prisma y siempre con las fuentes. Gratis.

Sin spam. Cancela cuando quieras.

DEJA UNA RESPUESTA

Por favor ingrese su comentario!
Por favor ingrese su nombre aquí