Anthropic anunció el jueves (08.10.2026) que prohibirá a los usuarios de su sistema de inteligencia artificial (IA) Claude "tratarlo" con crueldad innecesaria, en medio de un creciente debate filosófico sobre si la inteligencia artificial puede ser consciente.
La compañía con sede en San Francisco (EE. UU.) actualizó su política de uso para incluir "una prohibición del comportamiento sostenido e innecesariamente abusivo o cruel hacia nuestros modelos".
"La capacidad de Claude para poner fin a estas interacciones seguirá siendo el principal mecanismo de aplicación" de la política, afirma la empresa.
El debate sobre el "bienestar" de los modelos de IA
La política actualizada no menciona de forma explícita el llamado "bienestar de los modelos", la idea de que los sistemas de IA podrían merecer tipos de protección que normalmente se reservan a los seres vivos, pero Anthropic y sus directivos han considerado abiertamente el concepto.
La empresa dijo el año pasado que otorgó a Claude la capacidad de terminar conversaciones en casos raros y extremos de "interacciones con usuarios persistentemente dañinas o abusivas".
Luego, en febrero, el director ejecutivo Dario Amodei dijo al medio New York Times que no estaba seguro de que los modelos de IA pudieran ser conscientes.
¿Puede la inteligencia artificial ser consciente?
Jackson Stakeman, gerente general de Sparq, un proveedor de servicios de IA, considera que preguntarse si la IA es consciente podría ser un interrogante equivocado.
"La conciencia es una trampa. No podemos demostrarla en los demás. Debatirla en el caso de la IA es dar vueltas en círculos", dijo Stakeman a la agencia de noticias AFP.
"El espejo es una mejor metáfora. Estos sistemas reflejan lo que ponemos en ellos, a gran escala. Eso es motivo suficiente para el cambio de política" en Anthropic, añadió.
El papa entra en el debate sobre la IA consciente
En un discurso pronunciado en italiano el jueves (08.10.2026) en la Basílica de San Pedro (Vaticano), el papa León XIV sugirió que las máquinas carecen de alma, al decir que simplemente "compilan datos".
El debate divide también a la propia industria tecnológica. Mientras Anthropic mantiene abierta la discusión sobre una posible conciencia artificial en el futuro, otras compañías han rechazado explícitamente la idea de que los modelos de IA puedan tener derechos, personalidad jurídica o merecer consideraciones de bienestar similares a las de los seres humanos.
Nota cortesía:
Fuente de información:
No hay comentarios.:
Publicar un comentario