Command A puede entregar tokens a una velocidad de hasta 156 tokens/s,lo que es 1.75 veces mayor que GPT-4o y 2.4 veces mayor que DeepSeek-V3.

Comparte

Cohere,una empresa canadiense,presentó Command A,un nuevo modelo generativo que asegura superar a otros competidores como GPT-4o y DeepSeek V3.

La firma canadiense aseguró que se trata de un modelo optimizado para empresas exigentes que requieren una IA rápida,segura y de alta calidad.

Detalló que Command A ofrece el máximo rendimiento con costos de hardware mínimos en comparación con los principales modelos propietarios y de código abierto,como GPT-4o y DeepSeek-V3.

Para implementaciones privadas,aseguró,Command A destaca en tareas de agente y multilingües críticas para el negocio,y se puede implementar en tan solo dos GPU,a diferencia de otros modelos que suelen requerir hasta 32.

“En evaluaciones humanas directas en tareas empresariales,STEM y de programación,Command A iguala o supera a sus competidores más grandes y lentos,a la vez que ofrece un rendimiento superior y una mayor eficiencia. Las evaluaciones humanas son importantes porque se basan en datos y situaciones empresariales reales”,aseveró Cohere.

Añadió que en una variedad de puntos de referencia estándar,Command A ofrece un sólido desempeño en seguimiento de instrucciones,SQL,tareas de agente y herramientas.

IA eficiente

Cohere detalló que se centraron en desarrollar Command A de la forma más eficiente posible,a la vez que lo hicieron lo más eficiente posible para su funcionamiento en producción.

“Con una huella de servicio de tan solo dos A100 o H100,requiere mucho menos computación que otros modelos comparables del mercado. Esto es especialmente importante para las implementaciones privadas”,explicó.

Dijo que los modelos demasiado grandes resultan en una latencia baja. En cambio,si sólo desea obtener respuestas correctas rápidamente,Command A lo hace,de hecho,puede entregar tokens a una velocidad de hasta 156 tokens/s,lo que es 1.75 veces mayor que GPT-4o y 2.4 veces mayor que DeepSeek-V3.

La firma canadiense aseveró que las implementaciones privadas de Command A pueden ser hasta un 50 por ciento más económicas que el acceso basado en API.