Microsoft anuncia una nueva herramienta para detectar y corregir contenido alucinatorio en la salida de IA

Azure AI Content Safety es el servicio de IA de Microsoft que ayuda a detectar contenido dañino generado por IA en aplicaciones, servicios y plataformas. Esta utilidad proporciona API de texto e imágenes, lo que permite a los desarrolladores identificar contenido no deseado.

La API Groundedness en Azure AI Content Safety puede identificar si la respuesta de un modelo de lenguaje grande se basa en un documento de origen seleccionado por el usuario. Dado que los modelos de lenguaje grandes actuales pueden producir información inexacta o falsa (información ilusoria), esta API ayuda a los desarrolladores a identificar dicho contenido en los datos de salida de IA.

Microsoft anuncia una nueva herramienta para detectar y corregir contenido alucinatorio en la salida de IA

Hoy, Microsoft anunció una vista previa de la solución. Como resultado, los desarrolladores ahora pueden detectar y corregir contenido “ilusorio” en los datos de salida de IA en tiempo real, lo que garantiza que los usuarios finales siempre reciban contenido generado por IA con datos precisos. Esta función funciona de la siguiente manera:

  • El desarrollador de la aplicación habilita capacidades de edición.
  • Cuando se detectan datos infundados, se envía una nueva solicitud al modelo de IA para corregir el error.
  • El algoritmo LLM evaluará la puntuación general basándose en documentos autorizados.
  • Es posible que se filtren por completo las frases que no sean relevantes para el documento autenticado subyacente.
  • Si el contenido se deriva de un documento base, el modelo base reescribirá la oración sin fundamento para que coincida con el documento.

Junto con la función de edición, Microsoft también anunció una vista previa pública de Hybrid Azure AI Content Safety (AACS). Esta función permite a los desarrolladores implementar mecanismos de seguridad de contenido en la nube y en el dispositivo. El SDK integrado de AACS permite realizar comprobaciones de seguridad de contenido en tiempo real directamente en el dispositivo, incluso sin conexión a Internet.

Finalmente, Microsoft ha anunciado una versión preliminar de Protected Materials Detection for Code que se puede utilizar con aplicaciones de IA generadoras de código para detectar si LLM está generando algún código protegido. Anteriormente, esta función solo estaba disponible a través del servicio Azure OpenAI. Microsoft ahora pone a disposición de los clientes la detección de materiales protegidos para código para que la utilicen junto con otros modelos de IA de generación de código.

Sign up and earn $1000 a day ⋙

Leave a Comment

Microsoft integra DeepSeek en la plataforma PC Copilot+

Microsoft integra DeepSeek en la plataforma PC Copilot+

En enero, Microsoft anunció planes para llevar versiones optimizadas para NPU del modelo DeepSeek-R1 directamente a las computadoras Copilot+ que funcionan con procesadores Qualcomm Snapdragon X.

Microsoft trae los molestos anuncios del menú Inicio de Windows 11 a Windows 10

Microsoft trae los molestos anuncios del menú Inicio de Windows 11 a Windows 10

Microsoft continúa anunciando planes para agregar nuevas características a Windows 10, a pesar de que el sistema operativo morirá inevitablemente en octubre de 2025.

Microsoft lanza una nueva colección de fondos de pantalla de escritorio Fluid Textures, ¡descárgala ahora!

Microsoft lanza una nueva colección de fondos de pantalla de escritorio Fluid Textures, ¡descárgala ahora!

Microsoft lanza una nueva colección de fondos de pantalla de texturas fluidas

Invitación para descargar paquete de fondos de pantalla dinámicos diseñado para Windows 11 pero cancelado en el último minuto

Invitación para descargar paquete de fondos de pantalla dinámicos diseñado para Windows 11 pero cancelado en el último minuto

Además de elementos como la nueva interfaz y características, otro aspecto, aunque pequeño, también recibe mucha atención en Windows: los paquetes de fondos de pantalla diseñados y presentados por Microsoft para ocasiones especiales.

Microsoft deja de dar soporte a la aplicación Escritorio remoto de Windows y pasa a una nueva aplicación de Windows

Microsoft deja de dar soporte a la aplicación Escritorio remoto de Windows y pasa a una nueva aplicación de Windows

Microsoft ha hecho un anuncio importante para los clientes que utilizan la aplicación Escritorio remoto para Windows desde Microsoft Store. El 27 de mayo de 2025, esta aplicación se discontinuará oficialmente y se eliminará de Microsoft Store.

Microsoft suspende el soporte para DRM heredado en Windows Media Player, Windows 7/8 y Silverlight

Microsoft suspende el soporte para DRM heredado en Windows Media Player, Windows 7/8 y Silverlight

Si le pidiera a cinco usuarios de Windows que explicaran qué es la Gestión de Derechos Digitales (DRM) de Vista, probablemente obtendría cinco respuestas diferentes. Pero hay un punto

Microsoft anuncia la fecha de finalización del soporte para las aplicaciones y servidores de Office 2016 y 2019

Microsoft anuncia la fecha de finalización del soporte para las aplicaciones y servidores de Office 2016 y 2019

Microsoft finalmente anunció oficialmente el fin del soporte planificado (EOS) para el ecosistema de aplicaciones Office 2016 y Office 2019.

Microsoft comienza a obligar a los usuarios a actualizar a la versión Windows 11 24H2

Microsoft comienza a obligar a los usuarios a actualizar a la versión Windows 11 24H2

La versión 24H2 de Windows 11, la única actualización importante de Windows 11 en 2024, ha estado disponible durante algunos meses y se está estabilizando lentamente.

Microsoft explica por qué bloqueó Windows 11 24H2 en algunas PC Asus

Microsoft explica por qué bloqueó Windows 11 24H2 en algunas PC Asus

El problema se informó por primera vez cuando los usuarios informaron que algunas PC no podían completar la actualización y encontraban un error de pantalla azul de la muerte (BSOD).

Cómo obtener la actualización 24H2 de Windows 11 recién lanzada

Cómo obtener la actualización 24H2 de Windows 11 recién lanzada

Se espera que Windows 11 reciba dos actualizaciones importantes notables este año.

Microsoft quiere que los usuarios entiendan por qué las CPU antiguas no pueden ejecutar Windows 11

Microsoft quiere que los usuarios entiendan por qué las CPU antiguas no pueden ejecutar Windows 11

Cuando los usuarios intentan instalar Windows 11 build 26058, el archivo de instalación mostrará un mensaje que dice "El procesador de esta PC no admite una función crítica (PopCnt)".

La versión “original” de Windows 11 está a punto de morir

La versión “original” de Windows 11 está a punto de morir

No hace mucho, Microsoft dejó de brindar soporte para la versión 21H2 de Windows 10, lo que significa que la versión 22H2 se convierte en la única versión compatible de Windows 10 en este momento.

Cómo instalar Paint 3D en Windows 10 y 11

Cómo instalar Paint 3D en Windows 10 y 11

Paint 3D ya no está disponible en Microsoft Store, pero eso no significa que no tendrás otra oportunidad de probarlo.

Microsoft comparte más información relevante sobre la instalación USB en Windows 11

Microsoft comparte más información relevante sobre la instalación USB en Windows 11

En 2023, Windows 11 admitió oficialmente USB4 de 40 Gbps, que luego se amplió para admitir velocidades de transferencia de datos de hasta 80 y 120 Gbps.

Microsoft permite a los usuarios utilizar aplicaciones de Office en Windows de forma gratuita, pero con algunas limitaciones.

Microsoft permite a los usuarios utilizar aplicaciones de Office en Windows de forma gratuita, pero con algunas limitaciones.

Microsoft aumentó recientemente el precio de su suscripción a Microsoft 365, justificando el cambio añadiendo más experiencias de IA al servicio.

Cómo usar la aplicación CK Club de Circle K para recibir ofertas atractivas

Cómo usar la aplicación CK Club de Circle K para recibir ofertas atractivas

Para obtener la información promocional más rápida de Circle K, debes instalar la aplicación CK Club. La aplicación guarda los pagos al comprar o pagar en Circle K, así como la cantidad de sellos recolectados.

Instagram permitirá reels de hasta 3 minutos de duración

Instagram permitirá reels de hasta 3 minutos de duración

Instagram acaba de anunciar que permitirá a los usuarios publicar vídeos de Reels de hasta 3 minutos de duración, el doble del límite anterior de 90 segundos.

Cómo ver la información de la CPU de Chromebook

Cómo ver la información de la CPU de Chromebook

Este artículo le guiará sobre cómo ver la información de la CPU y verificar la velocidad de la CPU directamente en su Chromebook.

8 cosas geniales que puedes hacer con una vieja tableta Android

8 cosas geniales que puedes hacer con una vieja tableta Android

Si no quieres vender ni regalar tu vieja tableta, puedes usarla de 5 maneras: como marco de fotos de alta calidad, reproductor de música, lector de libros electrónicos y revistas, asistente de tareas domésticas y como pantalla secundaria.

Cómo conseguir unas uñas bonitas rápidamente

Cómo conseguir unas uñas bonitas rápidamente

Quieres tener unas uñas bonitas, brillantes y sanas rápidamente. Estos sencillos consejos para unas uñas bonitas que te presentamos a continuación te serán de utilidad.

Secretos de inspiración de color que sólo los diseñadores conocen

Secretos de inspiración de color que sólo los diseñadores conocen

Este artículo enumerará consejos inspirados en el color, compartidos por los mejores diseñadores de la comunidad de Creative Market, para que pueda obtener la combinación de colores perfecta en todo momento.

Todo lo que necesitas para sustituir tu portátil por un teléfono

Todo lo que necesitas para sustituir tu portátil por un teléfono

¿Realmente puedes reemplazar tu computadora portátil con tu teléfono? Sí, pero necesitarás los accesorios adecuados para convertir tu teléfono en una computadora portátil.

ChatGPT pronto podrá ver todo lo que sucede en tu pantalla

ChatGPT pronto podrá ver todo lo que sucede en tu pantalla

Una cosa importante en el video completo del evento es que se demostró la próxima función de la aplicación ChatGPT, pero no se compartieron detalles reales. Es la capacidad de ChatGPT de ver todo lo que sucede en la pantalla del dispositivo del usuario.

La IA está aprendiendo a engañar a los humanos a pesar de haber sido entrenada para ser honesta.

La IA está aprendiendo a engañar a los humanos a pesar de haber sido entrenada para ser honesta.

Muchas IA de alto nivel, a pesar de estar entrenadas para ser honestas, aprenden a engañar a través del entrenamiento e inducen sistemáticamente a los usuarios a creer falsas creencias, según descubre un nuevo estudio.

Cómo cambiar las preguntas en ChatGPT

Cómo cambiar las preguntas en ChatGPT

ChatGPT ahora tiene una opción de cambio de preguntas para que los usuarios puedan editar la pregunta o el contenido que están intercambiando con ChatGPT.

Cómo detectar códigos QR falsos y mantener tus datos seguros

Cómo detectar códigos QR falsos y mantener tus datos seguros

Los códigos QR parecen bastante inofensivos hasta que escaneas un código QR incorrecto y recibes algo desagradable en tu sistema. Si desea mantener su teléfono y sus datos seguros, existen algunas formas de identificar códigos QR falsos.

Qualcomm lanza el módem X85 5G con una serie de mejoras notables

Qualcomm lanza el módem X85 5G con una serie de mejoras notables

En el escenario del MWC 2025, Qualcomm causó sensación cuando presentó su octava generación de módem 5G llamado X85, que se espera que se use en los teléfonos inteligentes insignia que se lancen a finales de este año.

La nueva tecnología permite que los teléfonos cambien de color de forma flexible

La nueva tecnología permite que los teléfonos cambien de color de forma flexible

Tienes un iPhone 16 en color “Ultramar”, pero un buen día de repente te aburre ese color; ¿Qué vas a hacer?

Microsoft integra DeepSeek en la plataforma PC Copilot+

Microsoft integra DeepSeek en la plataforma PC Copilot+

En enero, Microsoft anunció planes para llevar versiones optimizadas para NPU del modelo DeepSeek-R1 directamente a las computadoras Copilot+ que funcionan con procesadores Qualcomm Snapdragon X.

Diferencia entre las funciones SI y Cambiar en Excel

Diferencia entre las funciones SI y Cambiar en Excel

La declaración SI es una función lógica común en Excel. La declaración SWITCH es menos conocida, pero puedes usarla en lugar de la declaración IF en algunos casos.