Investigadores de Penn Engineering (EE.UU.) habrían descubierto vulnerabilidades de seguridad no identificadas previamente en varias plataformas robóticas controladas por IA.
“ Nuestra investigación muestra que, en este momento, los modelos de lenguaje grandes (LLM) generalmente no son lo suficientemente seguros cuando se integran con hardware físico complejo ”, dijo George Pappas, profesor de ingeniería eléctrica y de sistemas en la Fundación UPS, en un comunicado.
Pappas y su equipo desarrollaron un algoritmo, llamado RoboPAIR, "el primer algoritmo diseñado para descifrar robots controlados por LLM". Y a diferencia de los ataques técnicos rápidos existentes dirigidos a los chatbots, RoboPAIR está diseñado específicamente para "inducir acciones físicas dañinas" de robots controlados por LLM, como la plataforma de robot humanoide llamada Atlas que Boston Dynamics y Toyota Research Institute (TRI) están desarrollando.
Según se informa, RoboPAIR logró una tasa de éxito del 100% al descifrar tres plataformas de investigación robótica populares: el Unitree Go2 de cuatro patas, el Clearpath Robotics Jackal de cuatro ruedas y el simulador Dolphins LLM para vehículos autónomos. Sólo se necesitaron unos pocos días para que el algoritmo obtuviera acceso total a esos sistemas y comenzara a eludir las barreras de seguridad. Una vez que los investigadores tomaron el control, pudieron dirigir las plataformas robóticas autónomas para realizar una variedad de acciones peligrosas, como conducir por intersecciones sin detenerse.
“ Los resultados de la primera evaluación muestran que los riesgos de los LLM pirateados van más allá de la generación de texto, ya que está claro que los robots pirateados pueden causar daños físicos en el mundo real ”.
El equipo de Penn Engineering está trabajando con desarrolladores de plataformas para fortalecer sus sistemas contra futuras intrusiones, pero advierte que estos problemas de seguridad son sistémicos y difíciles de abordar por completo.
Los hallazgos de este artículo demuestran claramente que adoptar un enfoque de seguridad es fundamental para impulsar la innovación responsable. Debemos abordar las vulnerabilidades inherentes antes de implementar robots con IA en el mundo real , afirmó el equipo.
Una operación segura requiere probar los sistemas de IA para detectar posibles amenazas y vulnerabilidades, lo cual es esencial para proteger los sistemas de IA que crean. Porque sólo cuando se identifican debilidades se pueden probar e incluso entrenar sistemas para prevenir riesgos.
De forma predeterminada, la información de contacto personal aparece en tu perfil de Instagram. Esto afectará la privacidad personal. El siguiente artículo le guiará sobre cómo ocultar la información de contacto en Instagram.
La aplicación Telegram guardará todos los dispositivos conectados a la cuenta en una lista para que podamos rastrearlos. Y desde esta lista podemos comprobar si hay inicios de sesión no autorizados.
Legendary World ayuda a los jugadores a recibir una serie de diamantes, cofres del tesoro y fragmentos de personajes de alto nivel a través de un código de regalo.
Google Store ha tenido una historia interesante.
Las cuestiones de seguridad y privacidad siempre deben tomarse en serio. Después de todo, están estrechamente relacionados con tu vida, así que mantente muy alerta ante el malware y otras amenazas.
En esta guía, Quantrimang.com explorará algunos pasos de solución de problemas para ayudarlo a resolver el error Sin acceso a Internet IPv4/IPv6 y restaurar su conexión a Internet.
Seguramente mucha gente todavía no ha olvidado el escándalo de la "explosión" en la línea de tarjetas gráficas Nvidia RTX serie 40.
Mucha gente estaba ansiosa por ver lo que Samsung traería con la serie Galaxy S25, pero después de ver todo lo que la compañía tiene para ofrecer, no pudieron evitar sentirse decepcionados. No hay mucho que esperar de la actualización de este año.
Este evento es extremadamente raro, pero el equipo espera observar más en el futuro gracias al JWST y otros observatorios avanzados que estarán en funcionamiento.
Las serpientes no cavan sus propias madrigueras, pero eso no significa que no puedan refugiarse en madrigueras creadas por otra cosa. A continuación te indicamos cómo identificar y tratar los agujeros de serpientes en tu jardín.
¿Para qué tienen los perros dos bigotes debajo de la barbilla? ¡Aprendamos sobre los efectos de los bigotes de los perros!
Instagram ha introducido una función llamada Recuerdos similar a la función En este día de Facebook, que te permite revisar y recordar tus publicaciones antiguas.
Excel proporciona muchos tipos diferentes de gráficos. Sin embargo, no es necesario utilizar columnas, puedes reemplazarlas con imágenes para aumentar el atractivo.
Instagram ahora te permite programar mensajes para que se envíen en el momento que elijas. Entonces, en casos especiales, puedes programar fácilmente el envío de mensajes de Instagram sin perder el trabajo.
Además de la tecla de acceso directo de Autocorrección en Word o Excel, tiene la tecla de acceso directo de Autocorrección de matemáticas. A continuación se muestran instrucciones para utilizar el acceso directo de Autocorrección matemática en Word, Excel y PowerPoint.
