Los robots con IA pueden ser liberados y las consecuencias serán nefastas

Investigadores de Penn Engineering (EE.UU.) habrían descubierto vulnerabilidades de seguridad no identificadas previamente en varias plataformas robóticas controladas por IA.

“ Nuestra investigación muestra que, en este momento, los modelos de lenguaje grandes (LLM) generalmente no son lo suficientemente seguros cuando se integran con hardware físico complejo ”, dijo George Pappas, profesor de ingeniería eléctrica y de sistemas en la Fundación UPS, en un comunicado.

Pappas y su equipo desarrollaron un algoritmo, llamado RoboPAIR, "el primer algoritmo diseñado para descifrar robots controlados por LLM". Y a diferencia de los ataques técnicos rápidos existentes dirigidos a los chatbots, RoboPAIR está diseñado específicamente para "inducir acciones físicas dañinas" de robots controlados por LLM, como la plataforma de robot humanoide llamada Atlas que Boston Dynamics y Toyota Research Institute (TRI) están desarrollando.

Según se informa, RoboPAIR logró una tasa de éxito del 100% al descifrar tres plataformas de investigación robótica populares: el Unitree Go2 de cuatro patas, el Clearpath Robotics Jackal de cuatro ruedas y el simulador Dolphins LLM para vehículos autónomos. Sólo se necesitaron unos pocos días para que el algoritmo obtuviera acceso total a esos sistemas y comenzara a eludir las barreras de seguridad. Una vez que los investigadores tomaron el control, pudieron dirigir las plataformas robóticas autónomas para realizar una variedad de acciones peligrosas, como conducir por intersecciones sin detenerse.

“ Los resultados de la primera evaluación muestran que los riesgos de los LLM pirateados van más allá de la generación de texto, ya que está claro que los robots pirateados pueden causar daños físicos en el mundo real ”.

Los robots con IA pueden ser liberados y las consecuencias serán nefastas

El equipo de Penn Engineering está trabajando con desarrolladores de plataformas para fortalecer sus sistemas contra futuras intrusiones, pero advierte que estos problemas de seguridad son sistémicos y difíciles de abordar por completo.

Los hallazgos de este artículo demuestran claramente que adoptar un enfoque de seguridad es fundamental para impulsar la innovación responsable. Debemos abordar las vulnerabilidades inherentes antes de implementar robots con IA en el mundo real , afirmó el equipo.

Una operación segura requiere probar los sistemas de IA para detectar posibles amenazas y vulnerabilidades, lo cual es esencial para proteger los sistemas de IA que crean. Porque sólo cuando se identifican debilidades se pueden probar e incluso entrenar sistemas para prevenir riesgos.

Dejar un comentario

Cómo tirar un ordenador en Madrid: opciones seguras para reciclarlo

Cómo tirar un ordenador en Madrid: opciones seguras para reciclarlo

Guía práctica para desechar un ordenador en Madrid: borrado de datos, puntos limpios fijos, entrega en tiendas y límites de los puntos móviles.

Dónde tirar un teléfono móvil: opciones, datos y errores que conviene evitar

Dónde tirar un teléfono móvil: opciones, datos y errores que conviene evitar

Descubre dónde tirar un teléfono móvil en España, cómo borrar tus datos, retirar SIM y microSD y elegir entre punto limpio, tienda o gestor autorizado.

Empadronamiento en A Coruña: requisitos y documentos para darse de alta

Empadronamiento en A Coruña: requisitos y documentos para darse de alta

Consulta qué documentos necesitas para empadronarte en A Coruña: identificación, prueba de vivienda, autorizaciones y requisitos para menores.

Cómo tirar un televisor en Pamplona: recogida, entrega y qué no hacer

Cómo tirar un televisor en Pamplona: recogida, entrega y qué no hacer

Guía práctica para deshacerse de un televisor en Pamplona: recogida de voluminosos, devolución al comprar otro, preparación y errores que evitar.

Cómo tirar un edredón en Córdoba: opciones correctas según su estado

Cómo tirar un edredón en Córdoba: opciones correctas según su estado

Descubre cómo deshacerte de un edredón en Córdoba: reutilización, contenedores textiles, ecoparques y recogida de SADECO.

Cómo tirar un edredón en Sevilla: contenedor textil, punto limpio y alternativas

Cómo tirar un edredón en Sevilla: contenedor textil, punto limpio y alternativas

En Sevilla, un edredón usado va al circuito textil si está seco y cabe en el contenedor. Si es voluminoso, consulta un punto limpio de LIPASAM antes de llevarlo.

Cómo tirar un microondas en Jerez de la Frontera: opciones y pasos seguros

Cómo tirar un microondas en Jerez de la Frontera: opciones y pasos seguros

Descubre cómo tirar un microondas en Jerez de la Frontera: Punto Limpio Sur, Punto Limpio Móvil 2026, preparación, transporte y señales de una entrega correcta.

Cómo tirar un aerosol en Cartagena: contenedor amarillo, punto limpio y casos especiales

Cómo tirar un aerosol en Cartagena: contenedor amarillo, punto limpio y casos especiales

Guía actualizada para desechar aerosoles en Cartagena: cuándo usar el contenedor amarillo, cuándo llevarlos al punto limpio y qué hacer con envases de medicamentos.

Cómo tirar un frigorífico en Badalona: opciones seguras y qué comprobar

Cómo tirar un frigorífico en Badalona: opciones seguras y qué comprobar

Descubre cómo tirar un frigorífico en Badalona: deixalleria, voluminosos y retirada 1x1, con pasos de preparación y comprobaciones actualizadas.

Cómo tirar un portátil en Sevilla: puntos limpios, tiendas y pasos seguros

Cómo tirar un portátil en Sevilla: puntos limpios, tiendas y pasos seguros

Descubre dónde entregar un portátil usado en Sevilla, qué puntos limpios consultar, cómo borrar tus datos y cuándo puedes devolverlo al comprar otro.