Inicio Ciencia NVIDIA afirma que la CPU Vera combina velocidad y eficiencia para cargas...

NVIDIA afirma que la CPU Vera combina velocidad y eficiencia para cargas de agentes de IA

0
107
NVIDIA afirma que la CPU Vera combina velocidad y eficiencia para cargas de agentes de IA

NVIDIA afirma que su CPU Vera fue diseñada para ejecutar tareas de agentes de IA, como consultas, código y orquestación, combinando mayor velocidad con eficiencia energética. Los resultados y comparaciones fueron divulgados por la propia empresa y aún no han sido verificados de forma independiente en este material.

NVIDIA afirma que su nueva CPU Vera fue desarrollada para atender la expansión de los agentes de inteligencia artificial en los centros de datos. La empresa sostiene que el chip combina velocidad de ejecución y capacidad por vatio en una sola plataforma.

Los agentes de IA no solo generan respuestas. También buscan información, consultan bases de datos, escriben y prueban código y ejecutan acciones. Estas etapas dependen de las CPU y alternan con frecuencia entre el razonamiento en GPU y la ejecución en el procesador.

La propuesta de NVIDIA

Según NVIDIA, los operadores de infraestructura necesitan ejecutar más agentes sin aumentar el tiempo de espera de cada tarea. Como los centros de datos están limitados por la disponibilidad de energía, la empresa también destaca la cantidad de trabajo realizada por vatio.

La compañía afirma que Vera puede reducir la necesidad de combinar distintas CPU x86 —algunas orientadas a la velocidad y otras a la densidad energética— para atender perfiles variados de agentes.

En una comparación que involucró un centro de datos de 100 megavatios, NVIDIA afirma que una sola CPU Vera superó tanto a la CPU x86 más rápida como a la opción x86 más eficiente en términos energéticos analizada.

  • Hasta 1,6 veces más agentes por vatio en comparación con la CPU x86 más rápida, según NVIDIA.
  • Hasta 2 veces más velocidad de agentes en comparación con la CPU x86 más eficiente en términos energéticos, según la empresa.

Resultados divulgados por socios

Perplexity informó que ejecutó tareas de programación agéntica 1,5 veces más rápido con Vera que con CPU tradicionales. La empresa también planea utilizar la plataforma en un futuro sistema de producción.

DeepInfra informó un rendimiento de hasta 2,2 veces el de su mejor procesador x86 en orquestación agéntica. La prueba, según el material, involucró cuatro arquitecturas.

ClickHouse afirmó que su binario estándar, sin optimizaciones específicas para Vera, escaló casi linealmente en 176 núcleos y alcanzó el primer puesto del ranking de hardware de ClickBench.

DuckLabs registró aproximadamente 1,5 veces el rendimiento mediano de una configuración Intel Xeon 6 en la prueba TPC-H SF1000, de acuerdo con los datos divulgados.

Sandboxes y límites de la comparación

Daytona informó que puso en funcionamiento 1.000 sandboxes de agentes en 10,8 segundos y alcanzó 12,7 trabajos completados por segundo con 2.000 sandboxes simultáneos. La comparación presentada indica 88,4 segundos con x86 para la primera métrica.

Modal reportó hasta el doble de rendimiento de sandboxes por núcleo frente a hardware x86 comparable, con mayores ganancias bajo cargas intensas.

Las cifras deben interpretarse con cautela: el material no detalla completamente las configuraciones, las versiones de software, los criterios de selección de los procesadores ni la metodología de todas las pruebas. Por lo tanto, con esta información no es posible concluir que Vera supere a cualquier CPU x86 en todos los escenarios.

Fuente original: NVIDIA — Vera Delivers the Best of Both Worlds: Highest Throughput and Fastest Agents.

Recibe Radar de IA todos los días

Las noticias de inteligencia artificial que importan — con nuestro prisma y siempre con las fuentes. Gratis.

Sin spam. Cancela cuando quieras.

DEJA UNA RESPUESTA

Por favor ingrese su comentario!
Por favor ingrese su nombre aquí