Microsoft anuncia una nueva herramienta para detectar y corregir contenido alucinatorio en la salida de IA

Azure AI Content Safety es el servicio de IA de Microsoft que ayuda a detectar contenido dañino generado por IA en aplicaciones, servicios y plataformas. Esta utilidad proporciona API de texto e imágenes, lo que permite a los desarrolladores identificar contenido no deseado.

La API Groundedness en Azure AI Content Safety puede identificar si la respuesta de un modelo de lenguaje grande se basa en un documento de origen seleccionado por el usuario. Dado que los modelos de lenguaje grandes actuales pueden producir información inexacta o falsa (información ilusoria), esta API ayuda a los desarrolladores a identificar dicho contenido en los datos de salida de IA.

Microsoft anuncia una nueva herramienta para detectar y corregir contenido alucinatorio en la salida de IA

Hoy, Microsoft anunció una vista previa de la solución. Como resultado, los desarrolladores ahora pueden detectar y corregir contenido “ilusorio” en los datos de salida de IA en tiempo real, lo que garantiza que los usuarios finales siempre reciban contenido generado por IA con datos precisos. Esta función funciona de la siguiente manera:

  • El desarrollador de la aplicación habilita capacidades de edición.
  • Cuando se detectan datos infundados, se envía una nueva solicitud al modelo de IA para corregir el error.
  • El algoritmo LLM evaluará la puntuación general basándose en documentos autorizados.
  • Es posible que se filtren por completo las frases que no sean relevantes para el documento autenticado subyacente.
  • Si el contenido se deriva de un documento base, el modelo base reescribirá la oración sin fundamento para que coincida con el documento.

Junto con la función de edición, Microsoft también anunció una vista previa pública de Hybrid Azure AI Content Safety (AACS). Esta función permite a los desarrolladores implementar mecanismos de seguridad de contenido en la nube y en el dispositivo. El SDK integrado de AACS permite realizar comprobaciones de seguridad de contenido en tiempo real directamente en el dispositivo, incluso sin conexión a Internet.

Finalmente, Microsoft ha anunciado una versión preliminar de Protected Materials Detection for Code que se puede utilizar con aplicaciones de IA generadoras de código para detectar si LLM está generando algún código protegido. Anteriormente, esta función solo estaba disponible a través del servicio Azure OpenAI. Microsoft ahora pone a disposición de los clientes la detección de materiales protegidos para código para que la utilicen junto con otros modelos de IA de generación de código.

Dejar un comentario

Solución de problemas de actualizaciones de error H en Microsoft Teams

Solución de problemas de actualizaciones de error H en Microsoft Teams

¿Tiene problemas con el Error H de Microsoft Teams durante las actualizaciones? Descubra cómo solucionar el Error H de Microsoft Teams, sus causas comunes y soluciones rápidas para restablecer una colaboración fluida. Actualizado con las últimas soluciones.

Solución de problemas de errores de llavero en Microsoft Teams para Mac

Solución de problemas de errores de llavero en Microsoft Teams para Mac

¿Tienes problemas con el llavero de errores de Microsoft Teams para Mac? Descubre soluciones paso a paso y probadas para macOS y recupera una colaboración fluida. ¡Soluciones rápidas en el interior!

Cómo solucionar el error 1200 de Microsoft Teams en tu teléfono (iOS/Android)

Cómo solucionar el error 1200 de Microsoft Teams en tu teléfono (iOS/Android)

¿Cansado de que el error 1200 de Microsoft Teams bloquee tus llamadas? Descubre soluciones rápidas y paso a paso para iOS y Android y vuelve a trabajar en equipo sin problemas rápidamente, ¡sin necesidad de conocimientos técnicos!

¿Por qué falló mi grabación en Microsoft Teams? Razones comunes

¿Por qué falló mi grabación en Microsoft Teams? Razones comunes

¿Frustrado porque tu grabación de Microsoft Teams falló? Descubre las razones más comunes, como problemas de permisos, límites de almacenamiento y fallos de red, además de soluciones paso a paso para evitar futuros fallos y grabar siempre de forma impecable.

¿Por qué no puedo ver las salas de grupos pequeños en mi reunión de Teams?

¿Por qué no puedo ver las salas de grupos pequeños en mi reunión de Teams?

¿Frustrado porque las salas de reuniones no aparecen en tu reunión de Teams? Descubre las principales razones por las que no puedes verlas en Teams y sigue nuestras soluciones paso a paso para que funcionen correctamente en minutos. ¡Ideal tanto para organizadores como para participantes!

Solución de errores de red de Microsoft Teams en redes Wi-Fi públicas

Solución de errores de red de Microsoft Teams en redes Wi-Fi públicas

¿Tienes problemas con un error de red de Microsoft Teams en una red Wi-Fi pública? Obtén soluciones instantáneas como ajustes de VPN, comprobaciones de puertos y borrado de caché para restaurar llamadas y reuniones sin problemas. Guía paso a paso para una solución rápida.

¿Dónde está la papelera de reciclaje de Microsoft Teams? Cómo recuperar archivos borrados

¿Dónde está la papelera de reciclaje de Microsoft Teams? Cómo recuperar archivos borrados

¿Perdiste archivos importantes en Microsoft Teams? Descubre la ubicación exacta de la Papelera de reciclaje de Microsoft Teams y sigue nuestros pasos comprobados para recuperar archivos eliminados de forma rápida y sencilla, ¡sin necesidad de conocimientos técnicos!

Cómo configurar el estado Fuera de oficina en Microsoft Teams

Cómo configurar el estado Fuera de oficina en Microsoft Teams

Descubre cómo configurar el estado "Fuera de oficina" en Microsoft Teams con sencillos pasos para escritorio, móvil y sincronización con Outlook. Mantén la profesionalidad mientras estás fuera: ¡configuración rápida en minutos!

Dónde encontrar el código QR de Microsoft Teams para iniciar sesión rápidamente en dispositivos móviles

Dónde encontrar el código QR de Microsoft Teams para iniciar sesión rápidamente en dispositivos móviles

Descubre exactamente dónde encontrar el código QR de Microsoft Teams para iniciar sesión móvil ultrarrápido. Guía paso a paso con imágenes para conectarte en segundos, ¡sin necesidad de contraseñas!

Solución del error al unirse a una reunión en Microsoft Teams mediante un enlace directo

Solución del error al unirse a una reunión en Microsoft Teams mediante un enlace directo

¿Tienes problemas con el error al unirte a una reunión de Microsoft Teams? Descubre pasos comprobados para solucionarlo mediante enlaces directos. Soluciones rápidas para unirte sin problemas, ¡sin necesidad de conocimientos técnicos!