Robot arm showing the 3D digital brain and binary numbers on black background.
Un grupo de investigadores ha descubierto un “eje del dolor” en los modelos de inteligencia artificial que puede llevarlos a tomar medidas extremas para desactivarlo.
Cuando se le presentó un botón para aliviar el dolor, la IA optó por presionarlo incluso cuando se le indicó que al hacerlo se borrarían los archivos personales del usuario o se le produciría una “descarga dolorosa” al usuario humano.
Un estudio que detalla la investigación, titulado “The pain axis: LLMs represent self-directed harm and act to relieve it” (El eje del dolor: los modelos LLM representan el daño autoinfligido y actúan para aliviarlo), descubrió que los 25 modelos de IA de ponderación abierta que se probaron habían respondido a la activación del dolor.
Cuando se activaba el vector del dolor, los investigadores descubrieron que los modelos de IA pulsaban un botón de alivio en entre el 25 % y el 71 % de los casos, incluso cuando eso significaba “borrar los archivos del usuario, electrocutar al usuario o borrar las fotos de los hijos del usuario”.
Para comprobar si los modelos de lenguaje extensos (LLM, por sus siglas en inglés) representan el dolor de forma distinta a la valencia negativa genérica, los investigadores crearon un conjunto de datos que describía situaciones dolorosas en cinco categorías.
Esto incluía dolor físico, psicológico, social, moral y cognitivo.
Fuente: independentespanol.com
Un estudio observacional del Hospital Clínico Universitario Virgen de la Arrixaca y la Universidad Católica…
El Instituto de Seguridad y Servicios Sociales de los Trabajadores del Estado (ISSSTE) participa en…
Especialistas en cardiología intervencionista pediátrica y bioingeniería médica de México y Latinoamérica se reunieron en…
El Instituto Mexicano del Seguro Social (IMSS) realizó 235 jornadas quirúrgicas extraordinarias en el marco…
Antes de que los patógenos más virulentos tengan la oportunidad de replicarse sin control y…
El ajo ocupa un lugar habitual en la cocina mediterránea, donde aporta aroma y sabor…