Microsoft anuncia una nueva herramienta para detectar y corregir contenido alucinatorio en la salida de IA

Azure AI Content Safety es el servicio de IA de Microsoft que ayuda a detectar contenido dañino generado por IA en aplicaciones, servicios y plataformas. Esta utilidad proporciona API de texto e imágenes, lo que permite a los desarrolladores identificar contenido no deseado.

La API Groundedness en Azure AI Content Safety puede identificar si la respuesta de un modelo de lenguaje grande se basa en un documento de origen seleccionado por el usuario. Dado que los modelos de lenguaje grandes actuales pueden producir información inexacta o falsa (información ilusoria), esta API ayuda a los desarrolladores a identificar dicho contenido en los datos de salida de IA.

Microsoft anuncia una nueva herramienta para detectar y corregir contenido alucinatorio en la salida de IA

Hoy, Microsoft anunció una vista previa de la solución. Como resultado, los desarrolladores ahora pueden detectar y corregir contenido “ilusorio” en los datos de salida de IA en tiempo real, lo que garantiza que los usuarios finales siempre reciban contenido generado por IA con datos precisos. Esta función funciona de la siguiente manera:

  • El desarrollador de la aplicación habilita capacidades de edición.
  • Cuando se detectan datos infundados, se envía una nueva solicitud al modelo de IA para corregir el error.
  • El algoritmo LLM evaluará la puntuación general basándose en documentos autorizados.
  • Es posible que se filtren por completo las frases que no sean relevantes para el documento autenticado subyacente.
  • Si el contenido se deriva de un documento base, el modelo base reescribirá la oración sin fundamento para que coincida con el documento.

Junto con la función de edición, Microsoft también anunció una vista previa pública de Hybrid Azure AI Content Safety (AACS). Esta función permite a los desarrolladores implementar mecanismos de seguridad de contenido en la nube y en el dispositivo. El SDK integrado de AACS permite realizar comprobaciones de seguridad de contenido en tiempo real directamente en el dispositivo, incluso sin conexión a Internet.

Finalmente, Microsoft ha anunciado una versión preliminar de Protected Materials Detection for Code que se puede utilizar con aplicaciones de IA generadoras de código para detectar si LLM está generando algún código protegido. Anteriormente, esta función solo estaba disponible a través del servicio Azure OpenAI. Microsoft ahora pone a disposición de los clientes la detección de materiales protegidos para código para que la utilicen junto con otros modelos de IA de generación de código.

Dejar un comentario

Cómo tirar aceite de cocina usado en Jerez de la Frontera: guía paso a paso

Cómo tirar aceite de cocina usado en Jerez de la Frontera: guía paso a paso

Aprende cómo tirar aceite de cocina usado en Jerez de la Frontera: enfríalo, guárdalo bien y llévalo a un contenedor de Madre Coraje o a un Punto Limpio confirmado.

Cómo tirar una bicicleta en A Coruña: 010, puntos limpios y opciones

Cómo tirar una bicicleta en A Coruña: 010, puntos limpios y opciones

Descubre cómo tirar una bicicleta en A Coruña: cuándo llamar al 010, qué hacer en Los Rosales o Eirís y cómo preparar una bicicleta normal o eléctrica.

Empadronamiento en Las Palmas de Gran Canaria: requisitos y documentos

Empadronamiento en Las Palmas de Gran Canaria: requisitos y documentos

Conoce los requisitos y documentos para empadronarte en Las Palmas de Gran Canaria: DNI o pasaporte, vivienda, menores, autorizaciones y trámite online.

Cómo tirar un aire acondicionado en Cartagena: ecoparques, retirada y RAEE

Cómo tirar un aire acondicionado en Cartagena: ecoparques, retirada y RAEE

Descubre cómo tirar un aire acondicionado en Cartagena: ecoparques, recogida de enseres, preparación segura y qué confirmar antes de llevarlo.

Cómo tirar un microondas en Badalona: opciones correctas y qué hacer paso a paso

Cómo tirar un microondas en Badalona: opciones correctas y qué hacer paso a paso

Descubre cómo deshacerte de un microondas en Badalona: recogida municipal de voluminosos, deixalleria y entrega al comprar uno nuevo, con un ejemplo práctico.

Cómo tirar un portátil en Elche: puntos limpios, borrado de datos y opciones seguras

Cómo tirar un portátil en Elche: puntos limpios, borrado de datos y opciones seguras

Guía práctica para deshacerte de un portátil en Elche: dónde llevarlo, cómo borrar tus datos, qué hacer con la batería y qué comprobar antes de salir.

Punto limpio en Barcelona: qué residuos aceptan y cómo acceder sin equivocarte

Punto limpio en Barcelona: qué residuos aceptan y cómo acceder sin equivocarte

Guía práctica para usar los puntos verdes de Barcelona: tipos de instalaciones, residuos admitidos, horarios, acceso gratuito para particulares y tarjeta de usuario.

Cómo tirar una bombona de gas en Almería: devolución segura y qué hacer si no puedes transportarla

Cómo tirar una bombona de gas en Almería: devolución segura y qué hacer si no puedes transportarla

Cómo desechar una bombona de butano o propano en Almería: devolución al distribuidor, cuándo consultar el Punto Limpio y qué hacer ante fugas o daños.

ITV caducada: qué multa puede haber y qué hacer para regularizarla

ITV caducada: qué multa puede haber y qué hacer para regularizarla

Circular con la ITV caducada puede suponer 200 € de multa. Consulta diferencias con ITV desfavorable o negativa, pronto pago y cómo actuar.

Cómo tirar un aerosol en Badalona: contenedor amarillo o deixalleria

Cómo tirar un aerosol en Badalona: contenedor amarillo o deixalleria

Descubre cómo tirar un aerosol en Badalona según esté vacío o conserve producto, dónde llevarlo y qué precauciones tomar.