Los robots con IA pueden ser liberados y las consecuencias serán nefastas

Investigadores de Penn Engineering (EE.UU.) habrían descubierto vulnerabilidades de seguridad no identificadas previamente en varias plataformas robóticas controladas por IA.

Nuestra investigación muestra que, en este momento, los modelos de lenguaje grandes (LLM) generalmente no son lo suficientemente seguros cuando se integran con hardware físico complejo ”, dijo George Pappas, profesor de ingeniería eléctrica y de sistemas en la Fundación UPS, en un comunicado.

Pappas y su equipo desarrollaron un algoritmo, llamado RoboPAIR, "el primer algoritmo diseñado para descifrar robots controlados por LLM". Y a diferencia de los ataques técnicos rápidos existentes dirigidos a los chatbots, RoboPAIR está diseñado específicamente para "inducir acciones físicas dañinas" de robots controlados por LLM, como la plataforma de robot humanoide llamada Atlas que Boston Dynamics y Toyota Research Institute (TRI) están desarrollando.

Según se informa, RoboPAIR logró una tasa de éxito del 100% al descifrar tres plataformas de investigación robótica populares: el Unitree Go2 de cuatro patas, el Clearpath Robotics Jackal de cuatro ruedas y el simulador Dolphins LLM para vehículos autónomos. Sólo se necesitaron unos pocos días para que el algoritmo obtuviera acceso total a esos sistemas y comenzara a eludir las barreras de seguridad. Una vez que los investigadores tomaron el control, pudieron dirigir las plataformas robóticas autónomas para realizar una variedad de acciones peligrosas, como conducir por intersecciones sin detenerse.

Los resultados de la primera evaluación muestran que los riesgos de los LLM pirateados van más allá de la generación de texto, ya que está claro que los robots pirateados pueden causar daños físicos en el mundo real ”.

Los robots con IA pueden ser liberados y las consecuencias serán nefastas

El equipo de Penn Engineering está trabajando con desarrolladores de plataformas para fortalecer sus sistemas contra futuras intrusiones, pero advierte que estos problemas de seguridad son sistémicos y difíciles de abordar por completo.

Los hallazgos de este artículo demuestran claramente que adoptar un enfoque de seguridad es fundamental para impulsar la innovación responsable. Debemos abordar las vulnerabilidades inherentes antes de implementar robots con IA en el mundo real , afirmó el equipo.

Una operación segura requiere probar los sistemas de IA para detectar posibles amenazas y vulnerabilidades, lo cual es esencial para proteger los sistemas de IA que crean. Porque sólo cuando se identifican debilidades se pueden probar e incluso entrenar sistemas para prevenir riesgos.

Sign up and earn $1000 a day ⋙

Leave a Comment

8 cosas que no sabías que podías hacer en la aplicación Galería de Samsung

8 cosas que no sabías que podías hacer en la aplicación Galería de Samsung

La aplicación Galería de Samsung es más capaz de lo que crees, aunque quizá no sea evidente a primera vista.

El teléfono inteligente plegable de Microsoft no tendrá pliegues

El teléfono inteligente plegable de Microsoft no tendrá pliegues

Se dice que Microsoft está cerca de lanzar su primer teléfono inteligente plegable cuando recibió una patente para un teléfono plegable con la capacidad de plegarse 360 ​​grados pero sin crear arrugas en la pantalla el 1 de octubre.

Google prueba una marca de verificación azul en sus búsquedas

Google prueba una marca de verificación azul en sus búsquedas

Google está probando una nueva función de verificación a través de una marca de verificación azul en la búsqueda. Esta función ayudará a los usuarios a evitar hacer clic en enlaces de sitios web falsos o fraudulentos.

Distinguir Microsoft 365 y Office 2024

Distinguir Microsoft 365 y Office 2024

A primera vista, Microsoft 365 y Office 2024 pueden parecer muy similares, ya que ambos brindan acceso a las aplicaciones populares y ampliamente utilizadas de Microsoft.

Últimos códigos de Elemental Dungeons y cómo introducirlos

Últimos códigos de Elemental Dungeons y cómo introducirlos

Los códigos de Elemental Dungeons son una forma necesaria de recompensa para los jugadores. Al igual que en cualquier otro juego en línea en Roblox, los jugadores pueden recibir estas ayudas a cambio de dinero u otros artículos.

Cómo repetir la barra de título de una tabla en Word

Cómo repetir la barra de título de una tabla en Word

Al imprimir un documento de Word o crear una tabla en Word, repetir el título en Word nos ayuda a rastrear el título de manera más conveniente y leer el título del documento sin problemas en diferentes páginas, especialmente con títulos largos.

Cómo crear mensajes animados en iMessage iOS 18

Cómo crear mensajes animados en iMessage iOS 18

El nuevo iMessage de iOS 18 se actualiza con mensajes animados, efectos de texto con muchas opciones para utilizar en los mensajes que envíes.

¿Por qué los cerdos son el némesis de las serpientes?

¿Por qué los cerdos son el némesis de las serpientes?

Hay un dato interesante sobre los cerdos que no todo el mundo conoce: los cerdos son considerados enemigos de las serpientes, porque cuando estos dos animales se encuentran, la mayoría de las serpientes se convertirán en alimento para los cerdos.

¿Cuál es la distancia entre la Tierra y Júpiter, el planeta más grande del Sistema Solar?

¿Cuál es la distancia entre la Tierra y Júpiter, el planeta más grande del Sistema Solar?

¿Cuál es la distancia de la Tierra a Júpiter? Si no lo sabes, este artículo te dirá a qué distancia está Júpiter de la Tierra.

Descubre los generales fuera de meta de la temporada S1 2023 Lien Quan Mobile

Descubre los generales fuera de meta de la temporada S1 2023 Lien Quan Mobile

¿Qué generales están fuera del meta de Mobile Alliance? Vamos a explorar ahora

Temporada 7.5 de Graves DTCL: Artículos estándar, plantilla de Graves Loi Long

Temporada 7.5 de Graves DTCL: Artículos estándar, plantilla de Graves Loi Long

Graves DTCL de la temporada 1, temporada 3 y temporada 6 cuestan solo 1 de oro y parece ser solo un campeón adicional para estimular al clan, el rol principal en el juego inicial todavía se usa pero no mucho. A partir de la temporada 7.5 de DTCL, el precio de Graves se ha disparado a 4 de oro y es definitivamente un carry indispensable si decides jugar con Dragón Trueno o Artillero.

Cómo usar sonidos de aplicaciones independientes en Samsung

Cómo usar sonidos de aplicaciones independientes en Samsung

Con los teléfonos Samsung, debes utilizar la función de sonido de la aplicación independiente. Por ejemplo, puedes reproducir Apple Music y tu teléfono enviará el audio a través de los altavoces de tu automóvil.

Buenas citas sobre el trabajo, buenos estados sobre el trabajo te inspiran a alcanzar el éxito.

Buenas citas sobre el trabajo, buenos estados sobre el trabajo te inspiran a alcanzar el éxito.

Hay muchos estados positivos sobre el trabajo en Internet. En este artículo te resumiremos algunos estados laborales buenos y significativos.

Subtítulos de aniversario de bodas, estados de aniversario de bodas significativos y dulces

Subtítulos de aniversario de bodas, estados de aniversario de bodas significativos y dulces

¿Cuál es un título bueno y significativo para un aniversario de bodas? El artículo resumirá para usted breves y concisos subtítulos de aniversario que pueden hacer que su pareja los recuerde para siempre.

Lista de los últimos códigos de Dai Hiep Phong Van y cómo canjearlos

Lista de los últimos códigos de Dai Hiep Phong Van y cómo canjearlos

El código Dai Hiep Phong Van ayuda a los jugadores a utilizar recompensas atractivas incluso si recién comienzan a recorrer el mundo del juego.