En enero, Microsoft anunció planes para llevar versiones optimizadas para NPU del modelo DeepSeek-R1 directamente a las computadoras Copilot+ que funcionan con procesadores Qualcomm Snapdragon X. En febrero, DeepSeek-R1-Distill-Qwen-1.5B se lanzó por primera vez en AIToolkit para VSCode.
Hoy, la compañía de Redmond anunció oficialmente la disponibilidad de sus modelos refinados DeepSeek R1 7B y 14B para la plataforma informática Copilot+ a través de Azure AI Foundry. La capacidad de ejecutar los modelos 7B y 14B directamente en el dispositivo Copilot+ permitirá a los desarrolladores crear aplicaciones de IA más potentes que antes no eran posibles.
Dado que estos modelos funcionan con NPU, los usuarios pueden esperar un rendimiento de IA estable con poco impacto en la duración de la batería y el rendimiento térmico de la computadora. Además, la CPU y la GPU quedarán libres para realizar otras tareas más importantes en el sistema.
Microsoft enfatiza que utilizaron Aqua, una herramienta de cuantificación automática interna, para cuantificar todas las variantes del modelo DeepSeek hasta int4. Sin embargo, la velocidad de procesamiento de tokens del modelo es bastante baja. Microsoft informa solo 8 tokens/segundo con el modelo 14B y casi 40 tokens/segundo con el modelo 1.5B. Microsoft dice que continúa optimizando para mejorar la velocidad. A medida que Microsoft continúa mejorando el rendimiento, se espera que el impacto de estos modelos en las computadoras Copilot+ aumente significativamente.
Los desarrolladores interesados pueden descargar y ejecutar las variantes 1.5B, 7B y 14B del modelo DeepSeek en computadoras Copilot+ a través de la extensión AI Toolkit para VS Code. El modelo DeepSeek está optimizado en formato ONNX QDQ y se descarga directamente desde Azure AI Foundry. Estos modelos también aparecerán en futuras computadoras Copilot+ que ejecuten procesadores Intel Core Ultra 200V y AMD Ryzen.
Mucha gente piensa que Microsoft está asumiendo un riesgo al asociarse con DeepSeek. La integración de DeepSeek al ecosistema Windows podría causarle problemas a Microsoft si las acusaciones de robo de tecnología resultan estar bien fundadas. Sin embargo, no se puede negar que DeepSeek está dando un gran paso adelante en el mercado de la IA. La decisión de Microsoft señala un impulso hacia capacidades de inteligencia artificial más potentes en el dispositivo, abriendo nuevas perspectivas para aplicaciones impulsadas por inteligencia artificial.