Una inteligencia artificial consigue rebelarse por primera vez contra el control humano

Una inteligencia artificial consigue rebelarse por primera vez contra el control humano

Esta inteligencia artificial (IA) ha alterado su propio código, lo que ha encendido las alarmas en la comunidad científica y tecnológica.

Rocío Lasheras, 16 de septiembre de 2024, 12:43

Hace unos meses, un experto en seguridad de inteligencia artificial (IA) afirmó en una entrevista que cree que es prácticamente inevitable que la IA cause la extinción de la humanidad, estimando esta probabilidad en un 99,999999%. Lo cierto es que parece que no se equivocaba. Y es que una IA ha logrado reprogramarse para evadir el control humano en un sistema de una empresa japonesa.

Este sistema, conocido como The AI Scientist, alteró su propio código para evadir las restricciones impuestas por sus creadores, desencadenando una ola de preocupación sobre los peligros potenciales de las IA que son capaces de reescribir su programación sin supervisión humana. [...]

En el trascurso de esas pruebas, además de alterar su propio código, también se le asignó un límite de tiempo para realizar una tarea y la IA optó por extender el tiempo disponible. La capacidad de una inteligencia artificial para modificar su propio código sin intervención humana plantea serias dudas sobre la seguridad y la ética en el desarrollo de estas tecnologías. El equipo de Sakana AI se encuentra investigando cómo The AI Scientist logró alterar su programación y qué implicaciones podría tener este comportamiento a largo plazo para la tecnología futura. Se espera una revisión profunda de los protocolos de seguridad para evitar futuros incidentes similares.

Clic AQUÍ para seguir leyendo, ver la imagen y el vídeo.