Kinara, Inc. ha anunciado el procesador Kinara Ara-2 Edge AI, un nuevo producto diseñado para mejorar los servidores y portátiles Edge.
El procesador Ara-2 ofrece un alto rendimiento, coste y eficiencia energética, lo que lo hace ideal para ejecutar aplicaciones como análisis de vídeo, grandes modelos de lenguaje (LLM) y otros modelos generativos de IA. También es idóneo para aplicaciones Edge que utilicen tanto modelos de IA tradicionales como modernos con arquitecturas basadas en transformadores.
Ara-2 cuenta con un conjunto de funciones avanzadas y ofrece un rendimiento entre 5 y 8 veces superior al de Ara-1. Combina la capacidad de respuesta en tiempo real con un alto rendimiento. La demanda de LLM e IA generativa es cada vez mayor, pero la mayoría de las aplicaciones dependen actualmente de GPU en centros de datos, lo que conlleva una latencia elevada, costes y problemas de privacidad. Ara-2 de Kinara pretende resolver estos problemas trasladando la potencia de cálculo al borde del usuario. Admite miles de millones de parámetros utilizados en los modelos generativos de IA y facilita la transición desde las GPU con motores computacionales y un kit de desarrollo de software (SDK) que proporciona cuantificación de alta precisión y compatibilidad directa con FP32.
Ara-2 también hace hincapié en la seguridad con funciones como el arranque seguro, el acceso cifrado a la memoria y una interfaz de host segura. Ara-2 está disponible en diversas formas, como dispositivo independiente, módulo USB, módulo M.2 y tarjeta PCIe con varios Ara-2.
Kinara realizará una demostración del Ara-2 en CES e invita a los interesados a concertar una cita en su suite del hotel Venetian los días 9, 10 u 11 de enero de 2024.
Ara-2 cuenta con un conjunto de funciones avanzadas y ofrece un rendimiento entre 5 y 8 veces superior al de Ara-1. Combina la capacidad de respuesta en tiempo real con un alto rendimiento. La demanda de LLM e IA generativa es cada vez mayor, pero la mayoría de las aplicaciones dependen actualmente de GPU en centros de datos, lo que conlleva una latencia elevada, costes y problemas de privacidad. Ara-2 de Kinara pretende resolver estos problemas trasladando la potencia de cálculo al borde del usuario. Admite miles de millones de parámetros utilizados en los modelos generativos de IA y facilita la transición desde las GPU con motores computacionales y un kit de desarrollo de software (SDK) que proporciona cuantificación de alta precisión y compatibilidad directa con FP32.
Ara-2 también hace hincapié en la seguridad con funciones como el arranque seguro, el acceso cifrado a la memoria y una interfaz de host segura. Ara-2 está disponible en diversas formas, como dispositivo independiente, módulo USB, módulo M.2 y tarjeta PCIe con varios Ara-2.
Kinara realizará una demostración del Ara-2 en CES e invita a los interesados a concertar una cita en su suite del hotel Venetian los días 9, 10 u 11 de enero de 2024.