Cerebras lanza la tecnología de inferencia de IA más rápida del mundo, con un rendimiento 20 veces superior al de NVIDIA

Cerebras Systems acaba de anunciar oficialmente Cerebras Inference, considerada la solución de inferencia de IA más rápida del mundo. Esta inferencia de Cerebras ofrece un rendimiento de hasta 1.800 tokens por segundo para los modelos Llama 3.1 8B (8 mil millones de parámetros) y 450 tokens por segundo para Llama 3.1 70B, lo que es hasta casi 20 veces más rápido que las soluciones de inferencia de IA basadas en GPU de NVIDIA disponibles en las nubes de hiperescala actuales en todo el mundo, incluido Microsoft Azure.

Además de su increíble rendimiento, el precio del servicio de esta nueva solución de inferencia también es muy económico, una fracción del precio de las populares plataformas de nube de GPU. Por ejemplo, un cliente puede obtener un millón de tokens por solo 10 centavos, lo que proporciona un rendimiento de precio 100 veces mayor para cargas de trabajo de IA.

La precisión de 16 bits de Cerebras y la velocidad de inferencia 20 veces más rápida permitirán a los desarrolladores crear aplicaciones de IA de alto rendimiento de próxima generación sin comprometer la velocidad ni el costo. Esta innovadora relación precio/rendimiento es posible gracias al sistema Cerebras CS-3 y al procesador de inteligencia artificial Wafer Scale Engine 3 (WSE-3). CS-3 ofrece 7.000 veces más ancho de banda de memoria que Nvidia H100, lo que resuelve el desafío técnico del ancho de banda de memoria para la IA generativa.

Cerebras lanza la tecnología de inferencia de IA más rápida del mundo, con un rendimiento 20 veces superior al de NVIDIA

Cerebras Inference está actualmente disponible en los siguientes tres niveles:

  • El nivel gratuito ofrece acceso gratuito a la API y límites de uso generosos para cualquier persona que se registre.
  • El nivel de desarrollador está diseñado para implementaciones flexibles y sin servidor, y proporciona a los usuarios puntos finales de API a una fracción del costo de las alternativas existentes en el mercado, con los modelos Llama 3.1 8B y 70B con un precio de solo 10 centavos y 60 centavos por millón de tokens respectivamente.
  • Los planes de nivel empresarial ofrecen modelos optimizados, acuerdos de nivel de servicio personalizados y soporte dedicado. Ideal para cargas de trabajo persistentes, las empresas pueden acceder a Cerebras Inference a través de la nube privada administrada por Cerebras o en las instalaciones locales.

Con un rendimiento récord, precios competitivos y acceso API abierto, Cerebras Inference establece un nuevo estándar para el desarrollo e implementación de LLM abierto. Como la única solución capaz de ofrecer entrenamiento e inferencia de alta velocidad, Cerebras abre posibilidades completamente nuevas para la IA.

Con las tendencias de IA evolucionando rápidamente y NVIDIA actualmente ocupando una posición dominante en el mercado, el surgimiento de empresas como Cerebras y Groq señala un cambio potencial en la dinámica de toda la industria. A medida que aumenta la demanda de soluciones de inferencia de IA más rápidas y rentables, soluciones como Cerebras Inference están bien posicionadas para arriesgarse al dominio de NVIDIA, especialmente en el espacio de inferencia.

Dejar un comentario

¿Se vería Europa involucrada en una hipotética guerra nuclear entre Estados Unidos, Israel e Irán? Explicación de las normas de la OTAN.

¿Se vería Europa involucrada en una hipotética guerra nuclear entre Estados Unidos, Israel e Irán? Explicación de las normas de la OTAN.

Una guía sobre los artículos 4 y 5 de la OTAN, las normas de legítima defensa de la ONU y por qué la consulta no implica la entrada automática de Europa en la guerra.

¿Podría Irán ya tener armas nucleares? Cómo interpretar las pruebas.

¿Podría Irán ya tener armas nucleares? Cómo interpretar las pruebas.

Evaluar las afirmaciones sobre Irán en seis pasos, distinguiendo entre enriquecimiento de uranio, desarrollo de armas y posesión verificada.

Autoridad nuclear de EE. UU. e Israel: lo que explican realmente las fuentes públicas.

Autoridad nuclear de EE. UU. e Israel: lo que explican realmente las fuentes públicas.

Comprenda la autoridad para tomar decisiones nucleares en seis pasos, incluyendo el control civil estadounidense y los límites de la información pública sobre Israel.

Estrecho de Ormuz en 2026: Lo que dicen las fuentes oficiales sobre las interrupciones en el transporte marítimo

Estrecho de Ormuz en 2026: Lo que dicen las fuentes oficiales sobre las interrupciones en el transporte marítimo

Una guía con la información oficial disponible hasta 2026 sobre las interrupciones en el transporte marítimo por el estrecho de Ormuz, las reclamaciones relacionadas con Irán, los incidentes confirmados y las cuestiones que aún se desconocen.

¿Un hipotético ataque nuclear estadounidense-israelí contra Irán provocaría la Tercera Guerra Mundial?

¿Un hipotético ataque nuclear estadounidense-israelí contra Irán provocaría la Tercera Guerra Mundial?

Una guía basada en fuentes sobre los riesgos de escalada nuclear, las normas de la Carta de las Naciones Unidas y el Artículo 5 de la OTAN en un escenario estrictamente hipotético con Irán.

Cómo prepararse para un hipotético apagón relacionado con un pulso electromagnético: 5 pasos para civiles

Cómo prepararse para un hipotético apagón relacionado con un pulso electromagnético: 5 pasos para civiles

Siga estos cinco pasos para prepararse ante un apagón; los escenarios nucleares y de pulso electromagnético son hipotéticos, y las instrucciones oficiales de refugio deben seguirse primero.

Cómo evaluar las interrupciones cibernéticas sin presuponer una Tercera Guerra Mundial: una guía de 5 pasos

Cómo evaluar las interrupciones cibernéticas sin presuponer una Tercera Guerra Mundial: una guía de 5 pasos

Siga estos 5 pasos de defensa para verificar una interrupción cibernética, proteger las cuentas domésticas y evitar confundir un apagón con una guerra.

Invierno nuclear: cómo evaluar los efectos climáticos globales de un hipotético ataque iraní.

Siga estos 5 pasos para evaluar los efectos climáticos de un hipotético ataque en Irán, comparar las suposiciones de los modelos y evitar predicciones sin fundamento.

¿Cuánto tiempo tardaría la Tierra en recuperarse tras una hipotética guerra nuclear?

¿Cuánto tiempo tardaría la Tierra en recuperarse tras una hipotética guerra nuclear?

Descubra seis pasos para interpretar investigaciones sobre el clima, la alimentación y la recuperación de los ecosistemas tras un hipotético conflicto nuclear.

Lista de verificación para la preparación ante la lluvia radiactiva: suministros esenciales y medidas para la construcción de refugios.

Lista de verificación para la preparación ante la lluvia radiactiva: suministros esenciales y medidas para la construcción de refugios.

Crea un kit práctico de preparación para emergencias por lluvia radiactiva en seis pasos, con alimentos y agua envasados, una radio, suministros médicos e instrucciones para refugiarse.