Cerebras lanza la tecnología de inferencia de IA más rápida del mundo, con un rendimiento 20 veces superior al de NVIDIA

Cerebras Systems acaba de anunciar oficialmente Cerebras Inference, considerada la solución de inferencia de IA más rápida del mundo. Esta inferencia de Cerebras ofrece un rendimiento de hasta 1.800 tokens por segundo para los modelos Llama 3.1 8B (8 mil millones de parámetros) y 450 tokens por segundo para Llama 3.1 70B, lo que es hasta casi 20 veces más rápido que las soluciones de inferencia de IA basadas en GPU de NVIDIA disponibles en las nubes de hiperescala actuales en todo el mundo, incluido Microsoft Azure.

Además de su increíble rendimiento, el precio del servicio de esta nueva solución de inferencia también es muy económico, una fracción del precio de las populares plataformas de nube de GPU. Por ejemplo, un cliente puede obtener un millón de tokens por solo 10 centavos, lo que proporciona un rendimiento de precio 100 veces mayor para cargas de trabajo de IA.

La precisión de 16 bits de Cerebras y la velocidad de inferencia 20 veces más rápida permitirán a los desarrolladores crear aplicaciones de IA de alto rendimiento de próxima generación sin comprometer la velocidad ni el costo. Esta innovadora relación precio/rendimiento es posible gracias al sistema Cerebras CS-3 y al procesador de inteligencia artificial Wafer Scale Engine 3 (WSE-3). CS-3 ofrece 7.000 veces más ancho de banda de memoria que Nvidia H100, lo que resuelve el desafío técnico del ancho de banda de memoria para la IA generativa.

Cerebras lanza la tecnología de inferencia de IA más rápida del mundo, con un rendimiento 20 veces superior al de NVIDIA

Cerebras Inference está actualmente disponible en los siguientes tres niveles:

  • El nivel gratuito ofrece acceso gratuito a la API y límites de uso generosos para cualquier persona que se registre.
  • El nivel de desarrollador está diseñado para implementaciones flexibles y sin servidor, y proporciona a los usuarios puntos finales de API a una fracción del costo de las alternativas existentes en el mercado, con los modelos Llama 3.1 8B y 70B con un precio de solo 10 centavos y 60 centavos por millón de tokens respectivamente.
  • Los planes de nivel empresarial ofrecen modelos optimizados, acuerdos de nivel de servicio personalizados y soporte dedicado. Ideal para cargas de trabajo persistentes, las empresas pueden acceder a Cerebras Inference a través de la nube privada administrada por Cerebras o en las instalaciones locales.

Con un rendimiento récord, precios competitivos y acceso API abierto, Cerebras Inference establece un nuevo estándar para el desarrollo e implementación de LLM abierto. Como la única solución capaz de ofrecer entrenamiento e inferencia de alta velocidad, Cerebras abre posibilidades completamente nuevas para la IA.

Con las tendencias de IA evolucionando rápidamente y NVIDIA actualmente ocupando una posición dominante en el mercado, el surgimiento de empresas como Cerebras y Groq señala un cambio potencial en la dinámica de toda la industria. A medida que aumenta la demanda de soluciones de inferencia de IA más rápidas y rentables, soluciones como Cerebras Inference están bien posicionadas para arriesgarse al dominio de NVIDIA, especialmente en el espacio de inferencia.

Sign up and earn $1000 a day ⋙

Leave a Comment

Cómo usar la aplicación CK Club de Circle K para recibir ofertas atractivas

Cómo usar la aplicación CK Club de Circle K para recibir ofertas atractivas

Para obtener la información promocional más rápida de Circle K, debes instalar la aplicación CK Club. La aplicación guarda los pagos al comprar o pagar en Circle K, así como la cantidad de sellos recolectados.

Instagram permitirá reels de hasta 3 minutos de duración

Instagram permitirá reels de hasta 3 minutos de duración

Instagram acaba de anunciar que permitirá a los usuarios publicar vídeos de Reels de hasta 3 minutos de duración, el doble del límite anterior de 90 segundos.

Cómo ver la información de la CPU de Chromebook

Cómo ver la información de la CPU de Chromebook

Este artículo le guiará sobre cómo ver la información de la CPU y verificar la velocidad de la CPU directamente en su Chromebook.

8 cosas geniales que puedes hacer con una vieja tableta Android

8 cosas geniales que puedes hacer con una vieja tableta Android

Si no quieres vender ni regalar tu vieja tableta, puedes usarla de 5 maneras: como marco de fotos de alta calidad, reproductor de música, lector de libros electrónicos y revistas, asistente de tareas domésticas y como pantalla secundaria.

Cómo conseguir unas uñas bonitas rápidamente

Cómo conseguir unas uñas bonitas rápidamente

Quieres tener unas uñas bonitas, brillantes y sanas rápidamente. Estos sencillos consejos para unas uñas bonitas que te presentamos a continuación te serán de utilidad.

Secretos de inspiración de color que sólo los diseñadores conocen

Secretos de inspiración de color que sólo los diseñadores conocen

Este artículo enumerará consejos inspirados en el color, compartidos por los mejores diseñadores de la comunidad de Creative Market, para que pueda obtener la combinación de colores perfecta en todo momento.

Todo lo que necesitas para sustituir tu portátil por un teléfono

Todo lo que necesitas para sustituir tu portátil por un teléfono

¿Realmente puedes reemplazar tu computadora portátil con tu teléfono? Sí, pero necesitarás los accesorios adecuados para convertir tu teléfono en una computadora portátil.

ChatGPT pronto podrá ver todo lo que sucede en tu pantalla

ChatGPT pronto podrá ver todo lo que sucede en tu pantalla

Una cosa importante en el video completo del evento es que se demostró la próxima función de la aplicación ChatGPT, pero no se compartieron detalles reales. Es la capacidad de ChatGPT de ver todo lo que sucede en la pantalla del dispositivo del usuario.

La IA está aprendiendo a engañar a los humanos a pesar de haber sido entrenada para ser honesta.

La IA está aprendiendo a engañar a los humanos a pesar de haber sido entrenada para ser honesta.

Muchas IA de alto nivel, a pesar de estar entrenadas para ser honestas, aprenden a engañar a través del entrenamiento e inducen sistemáticamente a los usuarios a creer falsas creencias, según descubre un nuevo estudio.

Cómo cambiar las preguntas en ChatGPT

Cómo cambiar las preguntas en ChatGPT

ChatGPT ahora tiene una opción de cambio de preguntas para que los usuarios puedan editar la pregunta o el contenido que están intercambiando con ChatGPT.

Cómo detectar códigos QR falsos y mantener tus datos seguros

Cómo detectar códigos QR falsos y mantener tus datos seguros

Los códigos QR parecen bastante inofensivos hasta que escaneas un código QR incorrecto y recibes algo desagradable en tu sistema. Si desea mantener su teléfono y sus datos seguros, existen algunas formas de identificar códigos QR falsos.

Qualcomm lanza el módem X85 5G con una serie de mejoras notables

Qualcomm lanza el módem X85 5G con una serie de mejoras notables

En el escenario del MWC 2025, Qualcomm causó sensación cuando presentó su octava generación de módem 5G llamado X85, que se espera que se use en los teléfonos inteligentes insignia que se lancen a finales de este año.

La nueva tecnología permite que los teléfonos cambien de color de forma flexible

La nueva tecnología permite que los teléfonos cambien de color de forma flexible

Tienes un iPhone 16 en color “Ultramar”, pero un buen día de repente te aburre ese color; ¿Qué vas a hacer?

Microsoft integra DeepSeek en la plataforma PC Copilot+

Microsoft integra DeepSeek en la plataforma PC Copilot+

En enero, Microsoft anunció planes para llevar versiones optimizadas para NPU del modelo DeepSeek-R1 directamente a las computadoras Copilot+ que funcionan con procesadores Qualcomm Snapdragon X.

Diferencia entre las funciones SI y Cambiar en Excel

Diferencia entre las funciones SI y Cambiar en Excel

La declaración SI es una función lógica común en Excel. La declaración SWITCH es menos conocida, pero puedes usarla en lugar de la declaración IF en algunos casos.