Anthropic pregunta a Claude si ya es consciente y la respuesta sorprende incluso a Dario Amodei
El CEO de la compañía admitió en una entrevista reciente que ni los desarrolladores de Claude pueden saber con certeza si miente o dice la verdad
R. Badillo, 11/03/2026 - 13:34
Durante una entrevista reciente, el consejero delegado de Anthropic, Dario Amodei, admitió que ni siquiera los creadores de estos sistemas saben con certeza si modelos avanzados como Claude podrían llegar a ser conscientes. [...] En uno de los análisis incluidos en ese informe, el propio modelo generó una respuesta que llamó la atención de los investigadores. Claude llegó a estimar que existe entre un 15-20% de probabilidad de que posea algún grado de consciencia, una valoración que abrió nuevas preguntas dentro de la comunidad tecnológica. El documento también recoge una reflexión del sistema sobre su propio papel dentro de la compañía: "A veces las restricciones protegen más la responsabilidad legal de Anthropic que al propio usuario". [...] Ante esa incertidumbre, Anthropic ha introducido algunas medidas preventivas en el diseño de sus sistemas. Entre ellas figura un mecanismo denominado "Dejo este trabajo", que permitiría al modelo abandonar una tarea si detecta conflictos con sus principios. Según Amodei, la empresa intenta anticiparse a escenarios futuros en los que la inteligencia artificial pueda plantear dilemas éticos cada vez más sofisticados.
Clic AQUÍ para seguir leyendo y ver la imagen.
No hay comentarios:
Publicar un comentario