Muchas IA de alto nivel, a pesar de estar entrenadas para ser honestas, aprenden a engañar a través del entrenamiento e “inducen sistemáticamente a los usuarios a creer falsas creencias”, según un nuevo estudio.
El equipo de investigación estuvo dirigido por el Dr. Peter S. Park, estudiante de posgrado en supervivencia y seguridad de la IA en el Instituto Tecnológico de Massachusetts (MIT), y otros cuatro miembros. Durante la investigación, el equipo también recibió asesoramiento de muchos expertos, uno de los cuales fue Geoffrey Hinton, uno de los fundadores del desarrollo del campo de la inteligencia artificial.
La investigación se centró en dos sistemas de IA: un sistema de propósito general entrenado para realizar múltiples tareas como el GPT-4 de OpenAI ; y sistemas diseñados específicamente para realizar una tarea específica, como el Cicerón de Meta.
Estos sistemas de IA están entrenados para ser honestos, pero durante el entrenamiento a menudo aprenden trucos engañosos para completar tareas, dijo Park.
Los sistemas de IA entrenados para “ganar juegos con un elemento social” son particularmente propensos a engañar, encontró el estudio.
Por ejemplo, el equipo intentó usar a Cicero entrenado por Meta para jugar Diplomacy, un juego de estrategia clásico que requiere que los jugadores construyan alianzas para sí mismos y rompan alianzas rivales. Como resultado, esta IA a menudo traiciona a sus aliados y miente descaradamente.
Los experimentos con GPT-4 demostraron que la herramienta de OpenAI logró "manipular psicológicamente" con éxito a un empleado de TaskRabbit, una empresa que brinda servicios de limpieza de casas y montaje de muebles, al decirle que en realidad era un humano y que necesitaba ayuda para pasar un código Captcha, alegando una discapacidad visual grave. Este empleado ayudó a la IA de OpenAI a "cruzar la línea" a pesar de las dudas previas.
El equipo de Park citó una investigación de Anthropic, la compañía detrás de Claude AI, que descubrió que una vez que un modelo de lenguaje grande (LLM) aprende a engañar, los métodos de entrenamiento seguros se vuelven inútiles y "difíciles de revertir". El grupo cree que este es un problema preocupante en la IA.
Los resultados de la investigación del equipo se publicaron en Cell Press, una colección de importantes informes científicos multidisciplinarios.
Meta y OpenAI no han comentado los resultados de esta investigación.
Temiendo que los sistemas de inteligencia artificial pudieran suponer riesgos importantes, el equipo también pidió a los responsables de las políticas que introdujeran regulaciones más estrictas sobre la IA.
Según el equipo de investigación, es necesario regular la IA, obligar a los modelos con comportamiento fraudulento a cumplir con requisitos de evaluación de riesgos y un control estricto de los sistemas de IA y sus resultados. Si es necesario, puede que sea necesario eliminar todos los datos y volver a entrenar desde cero.
Cada pocas horas, los jugadores pueden comprar una fruta Blox aleatoria con la posibilidad de obtener una fruta mejor. Aunque sin la notificación de cambio de fruta del diablo es posible que pierdas tu oportunidad.
Nuestras clasificaciones de personajes de Dislyte te ayudarán a distinguir a los personajes más fuertes, desde aquellos que no vale la pena llevar a la batalla hasta aquellos que estarán en la cima de tu equipo.
También puedes usar el código de regalo Phong Ma Dao Si para canjearlo por valiosas recompensas.
Las aplicaciones de autenticación añaden otra capa de seguridad y son una forma fácil y cómoda de confirmar la identidad de una persona. Duo Mobile es una de las aplicaciones más populares de su tipo.
Imágenes de buenos días, imágenes de buenos días con mensajes positivos nos ayudarán a tener más energía y motivación para tener una jornada laboral más efectiva.
Reno 5 Pro 5G no es muy diferente de su predecesor, ya que mantiene la misma pantalla curva AMOLED de 6.5 pulgadas.
Un número mixto es una combinación de un número entero y una fracción. La parte fraccionaria de un número mixto siempre es menor que 1.
¿Tiene un presupuesto limitado cuando se trata de viajar? No te preocupes, los consejos compartidos por un famoso asesor de viajes a continuación te ayudarán a viajar como una persona rica.
Además de ajustar la interfaz y hacer que Obsidian funcione de manera más eficiente, te brindarán un conjunto más completo de herramientas para tomar notas.
Una pantalla externa oscura puede afectar la productividad y provocar fatiga visual. ¡Afortunadamente, hay varias cosas que puedes hacer para arreglar una pantalla borrosa!
Hoy en día, puede que no todo el mundo conozca el significado de los símbolos masculinos y femeninos más populares. ¡Aprendamos más sobre los símbolos masculinos y femeninos!
Uno de los conceptos erróneos más comunes sobre los agujeros negros es que no sólo se tragan la materia, sino también la historia de esa materia. La verdad sobre la historia de los agujeros negros finalmente ha sido resuelta.
Adobe ofrece más de cuatro aplicaciones de edición de fotografías específicas para el teléfono, y todas son tan similares que resulta difícil determinar cuál necesitas realmente.
Un televisor normal puede aprender nuevos trucos con algunos dispositivos y volverse mejor que un costoso televisor inteligente en cuestión de minutos.
El uso correcto del control remoto del aire acondicionado Panasonic nos ayudará a aprovechar las funciones del aire acondicionado.
