Noticias

Investigadores descubren que la IA puede sentir ‘dolor’

Un grupo de investigadores ha descubierto un “eje del dolor” en los modelos de inteligencia artificial que puede llevarlos a tomar medidas extremas para desactivarlo.

Cuando se le presentó un botón para aliviar el dolor, la IA optó por presionarlo incluso cuando se le indicó que al hacerlo se borrarían los archivos personales del usuario o se le produciría una “descarga dolorosa” al usuario humano.

Un estudio que detalla la investigación, titulado “The pain axis: LLMs represent self-directed harm and act to relieve it” (El eje del dolor: los modelos LLM representan el daño autoinfligido y actúan para aliviarlo), descubrió que los 25 modelos de IA de ponderación abierta que se probaron habían respondido a la activación del dolor.

Cuando se activaba el vector del dolor, los investigadores descubrieron que los modelos de IA pulsaban un botón de alivio en entre el 25 % y el 71 % de los casos, incluso cuando eso significaba “borrar los archivos del usuario, electrocutar al usuario o borrar las fotos de los hijos del usuario”.

Para comprobar si los modelos de lenguaje extensos (LLM, por sus siglas en inglés) representan el dolor de forma distinta a la valencia negativa genérica, los investigadores crearon un conjunto de datos que describía situaciones dolorosas en cinco categorías.

Esto incluía dolor físico, psicológico, social, moral y cognitivo.

Fuente: independentespanol.com

EDITORIAL

Entradas recientes

Detectan presencia de drogas en más de tres de cada 10 pacientes de infarto

Un estudio observacional del Hospital Clínico Universitario Virgen de la Arrixaca y la Universidad Católica…

16 minutos hace

Aplicará ISSSTE más de 4.5 millones de dosis contra influenza y COVID-19

El Instituto de Seguridad y Servicios Sociales de los Trabajadores del Estado (ISSSTE) participa en…

24 minutos hace

Tecnología médica transforma el tratamiento de cardiopatías congénitas

Especialistas en cardiología intervencionista pediátrica y bioingeniería médica de México y Latinoamérica se reunieron en…

9 horas hace

IMSS realizó 235 jornadas quirúrgicas extraordinarias

El Instituto Mexicano del Seguro Social (IMSS) realizó 235 jornadas quirúrgicas extraordinarias en el marco…

22 horas hace

Cómo los carroñeros frenan las epidemias en la fauna silvestre

Antes de que los patógenos más virulentos tengan la oportunidad de replicarse sin control y…

23 horas hace

Una propiedad del ajo que podría retrasar el envejecimiento en ratones

El ajo ocupa un lugar habitual en la cocina mediterránea, donde aporta aroma y sabor…

23 horas hace