Snowflake amplía las fronteras de lo que puede hacer la IA de código abierto con Arctic

Snowflake ha presentado Snowflake Arctic, un large language model (LLM) de última generación diseñado exclusivamente para ser el LLM empresarial más abierto del mercado. Con su exclusiva arquitectura de Mezcla de Expertos (MoE), Arctic ofrece inteligencia avanzada con una eficiencia sin precedentes a escala.

Arctic está optimizado para cargas de trabajo empresariales complejas, superando varios puntos de referencia del sector en generación de código SQL, seguimiento de instrucciones, entre otros. Además, Snowflake publica los pesos de Arctic bajo una licencia Apache 2.0 y los detalles de la investigación que condujo a cómo se entrenó, estableciendo un nuevo estándar de apertura para la tecnología de IA empresarial. El LLM Snowflake Arctic forma parte de la familia de modelos Snowflake Arctic, una familia de modelos creada por Snowflake que también incluye los mejores modelos prácticos de texto embebido para casos de uso de recuperación.

"Este es un momento decisivo para Snowflake, con nuestro equipo de investigación de IA innovando en la vanguardia de la IA", dice Sridhar Ramaswamy, CEO de Snowflake. "Al ofrecer inteligencia y eficiencia líderes en la industria de una manera verdaderamente abierta a la comunidad de IA, estamos ampliando las fronteras de lo que puede hacer la IA de código abierto. Nuestra investigación con Arctic mejorará significativamente nuestra capacidad para ofrecer IA confiable y eficiente a nuestros clientes".

Arctic ofrece resultados de alta calidad, activando 17 de los 480.000 millones de parámetros a la vez para lograr una calidad líder en el sector con una eficiencia simbólica sin precedentes. En un avance de eficiencia, Arctic activa aproximadamente un 50% menos de parámetros que DBRX, y un 75% menos que Llama 3 70B durante la inferencia o el entrenamiento. Además, supera a los principales modelos abiertos, como DBRX, Mixtral-8x7B y otros, en codificación (HumanEval+, MBPP+) y generación de SQL (Spider), al mismo tiempo que ofrece un rendimiento líder en comprensión general del lenguaje (MMLU).

Colaboración verdaderamente abierta y ampliamente disponible

Según un informe reciente de Forrester, aproximadamente el 46% de los responsables de la toma de decisiones sobre IA en empresas de todo el mundo está aprovechando los LLM de código abierto existentes para adoptar la IA generativa como parte de la estrategia de IA de su organización. Con el lanzamiento de Arctic, Snowflake ofrece un modelo potente y verdaderamente abierto con una licencia Apache 2.0 que permite el uso personal, comercial y de investigación sin restricciones.

Snowflake está estableciendo un nuevo punto de referencia en cuanto a la rapidez con la que pueden entrenarse los modelos empresariales abiertos más avanzados, lo que en última instancia permitirá a los usuarios crear modelos personalizados rentables a gran escala.

Además, Snowflake proporciona plantillas de código y opciones flexibles de inferencia y formación para que los usuarios puedan empezar rápidamente a desplegar y personalizar Arctic utilizando sus entornos de trabajo preferidos. Entre ellos se incluyen NVIDIA NIM con NVIDIA TensorRT-LLM, vLLM y Hugging Face.

Para su uso inmediato, Arctic está disponible para la inferencia sin servidor en Snowflake Cortex, el servicio totalmente gestionado de Snowflake que ofrece soluciones de machine learning e IA en Data Cloud, junto con otros archivos y catálogos de modelos, que incluirán Hugging Face, Lamini, Microsoft Azure, el catálogo de API de NVIDIA, Together, entre otros.También estará disponible en Amazon Web Services (AWS), junto con otros archivos y catálogos de modelos, que incluirán Hugging Face, Lamini, Microsoft Azure, el catálogo de API de NVIDIA, Perplexity, Together AI, entre otros.

Además del Arctic LLM, la familia de modelos Snowflake Arctic también incluye el recientemente anunciado Arctic integrado, una familia de modelos de texto embebido de última generación también disponible para la comunidad de código abierto bajo una licencia Apache 2.0. La familia de cinco modelos está disponible en Hugging Face para su uso inmediato y pronto estará disponible como parte de la función embebida de Snowflake Cortex (en vista previa privada).