Los robots con IA pueden ser liberados y las consecuencias serán nefastas

Investigadores de Penn Engineering (EE.UU.) habrían descubierto vulnerabilidades de seguridad no identificadas previamente en varias plataformas robóticas controladas por IA.

Nuestra investigación muestra que, en este momento, los modelos de lenguaje grandes (LLM) generalmente no son lo suficientemente seguros cuando se integran con hardware físico complejo ”, dijo George Pappas, profesor de ingeniería eléctrica y de sistemas en la Fundación UPS, en un comunicado.

Pappas y su equipo desarrollaron un algoritmo, llamado RoboPAIR, "el primer algoritmo diseñado para descifrar robots controlados por LLM". Y a diferencia de los ataques técnicos rápidos existentes dirigidos a los chatbots, RoboPAIR está diseñado específicamente para "inducir acciones físicas dañinas" de robots controlados por LLM, como la plataforma de robot humanoide llamada Atlas que Boston Dynamics y Toyota Research Institute (TRI) están desarrollando.

Según se informa, RoboPAIR logró una tasa de éxito del 100% al descifrar tres plataformas de investigación robótica populares: el Unitree Go2 de cuatro patas, el Clearpath Robotics Jackal de cuatro ruedas y el simulador Dolphins LLM para vehículos autónomos. Sólo se necesitaron unos pocos días para que el algoritmo obtuviera acceso total a esos sistemas y comenzara a eludir las barreras de seguridad. Una vez que los investigadores tomaron el control, pudieron dirigir las plataformas robóticas autónomas para realizar una variedad de acciones peligrosas, como conducir por intersecciones sin detenerse.

Los resultados de la primera evaluación muestran que los riesgos de los LLM pirateados van más allá de la generación de texto, ya que está claro que los robots pirateados pueden causar daños físicos en el mundo real ”.

Los robots con IA pueden ser liberados y las consecuencias serán nefastas

El equipo de Penn Engineering está trabajando con desarrolladores de plataformas para fortalecer sus sistemas contra futuras intrusiones, pero advierte que estos problemas de seguridad son sistémicos y difíciles de abordar por completo.

Los hallazgos de este artículo demuestran claramente que adoptar un enfoque de seguridad es fundamental para impulsar la innovación responsable. Debemos abordar las vulnerabilidades inherentes antes de implementar robots con IA en el mundo real , afirmó el equipo.

Una operación segura requiere probar los sistemas de IA para detectar posibles amenazas y vulnerabilidades, lo cual es esencial para proteger los sistemas de IA que crean. Porque sólo cuando se identifican debilidades se pueden probar e incluso entrenar sistemas para prevenir riesgos.

Sign up and earn $1000 a day ⋙

Leave a Comment

Cómo recuperar el acceso al disco duro, solucionar el error de no poder abrir el disco duro

Cómo recuperar el acceso al disco duro, solucionar el error de no poder abrir el disco duro

En este artículo, te guiaremos sobre cómo recuperar el acceso a tu disco duro cuando falla. ¡Sigamos!

Cómo usar Conversation Awareness y Live Listen en los AirPods

Cómo usar Conversation Awareness y Live Listen en los AirPods

A primera vista, los AirPods parecen iguales a cualquier otro auricular inalámbrico. Pero todo cambió cuando se descubrieron algunas características poco conocidas.

Todo sobre iOS 26

Todo sobre iOS 26

Apple ha presentado iOS 26, una importante actualización con un nuevo diseño de vidrio esmerilado, experiencias más inteligentes y mejoras en aplicaciones conocidas.

Las mejores computadoras portátiles para estudiantes en 2025

Las mejores computadoras portátiles para estudiantes en 2025

Los estudiantes necesitan un tipo específico de portátil para sus estudios. No solo debe ser lo suficientemente potente como para desempeñarse bien en su especialidad, sino también lo suficientemente compacto y ligero como para llevarlo consigo todo el día.

Cómo agregar una impresora a Windows 10

Cómo agregar una impresora a Windows 10

Agregar una impresora a Windows 10 es sencillo, aunque el proceso para dispositivos con cable será diferente al de los dispositivos inalámbricos.

Cómo comprobar la RAM y detectar errores de RAM en tu ordenador con la mayor precisión

Cómo comprobar la RAM y detectar errores de RAM en tu ordenador con la mayor precisión

Como sabes, la RAM es un componente de hardware muy importante en una computadora, ya que actúa como memoria para procesar datos y es el factor que determina la velocidad de una laptop o PC. En el siguiente artículo, WebTech360 te presentará algunas maneras de detectar errores de RAM mediante software en Windows.

Diferencia entre un televisor normal y un Smart TV

Diferencia entre un televisor normal y un Smart TV

Los televisores inteligentes realmente han conquistado el mundo. Con tantas funciones excelentes y conectividad a Internet, la tecnología ha cambiado la forma en que vemos televisión.

¿Por qué el congelador no tiene luz pero el refrigerador sí?

¿Por qué el congelador no tiene luz pero el refrigerador sí?

Los refrigeradores son electrodomésticos familiares en los hogares. Los refrigeradores suelen tener 2 compartimentos, el compartimento frío es espacioso y tiene una luz que se enciende automáticamente cada vez que el usuario lo abre, mientras que el compartimento congelador es estrecho y no tiene luz.

2 maneras de solucionar la congestión de la red que ralentiza el Wi-Fi

2 maneras de solucionar la congestión de la red que ralentiza el Wi-Fi

Las redes Wi-Fi se ven afectadas por muchos factores más allá de los enrutadores, el ancho de banda y las interferencias, pero existen algunas formas inteligentes de mejorar su red.

Cómo degradar de iOS 17 a iOS 16 sin perder datos usando Tenorshare Reiboot

Cómo degradar de iOS 17 a iOS 16 sin perder datos usando Tenorshare Reiboot

Si quieres volver a iOS 16 estable en tu teléfono, aquí tienes la guía básica para desinstalar iOS 17 y pasar de iOS 17 a 16.

¿Qué le pasa al cuerpo cuando comes yogur todos los días?

¿Qué le pasa al cuerpo cuando comes yogur todos los días?

El yogur es un alimento maravilloso. ¿Es bueno comer yogur todos los días? Si comes yogur todos los días, ¿cómo cambiará tu cuerpo? ¡Descubrámoslo juntos!

¿Qué tipo de arroz es mejor para la salud?

¿Qué tipo de arroz es mejor para la salud?

Este artículo analiza los tipos de arroz más nutritivos y cómo maximizar los beneficios para la salud del arroz que elija.

Cómo despertarse a tiempo por la mañana

Cómo despertarse a tiempo por la mañana

Establecer un horario de sueño y una rutina para la hora de acostarse, cambiar el despertador y ajustar la dieta son algunas de las medidas que pueden ayudarle a dormir mejor y despertarse a tiempo por la mañana.

Consejos para jugar a Rent Please! Simulación de propietario para principiantes

Consejos para jugar a Rent Please! Simulación de propietario para principiantes

¡Alquiler por favor! Landlord Sim es un juego de simulación para dispositivos móviles iOS y Android. Jugarás como propietario de un complejo de apartamentos y comenzarás a alquilar un apartamento con el objetivo de mejorar el interior de tus apartamentos y prepararlos para los inquilinos.

Últimos códigos de defensa de torres para baños y cómo introducirlos

Últimos códigos de defensa de torres para baños y cómo introducirlos

Obtén el código del juego Bathroom Tower Defense de Roblox y canjéalo por emocionantes recompensas. Te ayudarán a mejorar o desbloquear torres con mayor daño.