¿Quién

La IA está aprendiendo a engañar a los humanos a pesar de haber sido entrenada para ser honesta.

La IA está aprendiendo a engañar a los humanos a pesar de haber sido entrenada para ser honesta.

Muchas IA de alto nivel, a pesar de estar entrenadas para ser honestas, aprenden a engañar a través del entrenamiento e inducen sistemáticamente a los usuarios a creer falsas creencias, según descubre un nuevo estudio.

A la IA, después de haberle enseñado a hacer trampa, le resulta muy difícil reformarla.

A la IA, después de haberle enseñado a hacer trampa, le resulta muy difícil reformarla.

Anthropic, conocida startup en el campo de la inteligencia artificial, ha realizado un nuevo estudio que demuestra que cuando una IA generativa ha cometido fraude, es muy difícil ajustar o volver a entrenar ese modelo.