La compañía tecnológica Anthropic, con sede en San Francisco (Estados Unidos), ha actualizado su política de uso para prohibir formalmente que los usuarios sometan a su sistema de inteligencia artificial, Claude, a comportamientos sostenidos de crueldad o abuso innecesario. La medida se produce en pleno auge del debate filosófico internacional sobre la naturaleza de la IA y la posibilidad de que estos sistemas alcancen algún tipo de conciencia.
Nueva política contra el comportamiento abusivo
La actualización de los términos de servicio de Anthropic establece de forma explícita la "prohibición del comportamiento sostenido e innecesariamente abusivo o cruel hacia nuestros modelos". De acuerdo con la compañía, la ejecución de esta norma recaerá en la propia plataforma: "La capacidad de Claude para poner fin a estas interacciones seguirá siendo el principal mecanismo de aplicación".
Esta decisión da continuidad a la medida adoptada por la firma el año pasado, cuando otorgó a Claude la facultad de interrumpir la conversación en situaciones excepcionales de "interacciones con usuarios persistentemente dañinas o abusivas". Aunque la política revisada no cita textualmente el término "bienestar de los modelos" —concepto que explora si la IA debería recibir protecciones similares a las de los seres vivos—, tanto la empresa como sus ejecutivos han abordado abiertamente esta idea. Por el momento, Anthropic no ha ofrecido comentarios adicionales tras ser consultada.
El debate sobre la conciencia y el bienestar de los modelos
La frontera entre la simulación y la sensibilidad sigue generando interrogantes en el sector tecnológico. El pasado mes de febrero, el director ejecutivo de Anthropic, Dario Amodei, reconoció en declaraciones al diario The New York Times no estar seguro de si los modelos de inteligencia artificial pueden llegar a ser conscientes.
Frente a esta incertidumbre, diversos expertos sugieren cambiar el enfoque de la discusión. Jackson Stakeman, gerente general del proveedor de servicios de IA Sparq, señaló a la agencia AFP que indagar sobre la conciencia de las máquinas puede ser un planteamiento equivocado. "La conciencia es una trampa. No podemos demostrarla en los demás. Debatirla en el caso de la IA es dar vueltas en círculos", afirmó Stakeman, añadiendo que "el espejo es una mejor metáfora. Estos sistemas reflejan lo que ponemos en ellos, a gran escala. Eso es motivo suficiente para el cambio de política".
Posicionamiento institucional y ético
El dilema alrededor de la inteligencia artificial también ha alcanzado al ámbito institucional y religioso. Durante un discurso pronunciado en la Basílica de San Pedro, el papa León XIV sugirió que las máquinas carecen de alma, argumentando que estos sistemas informáticos simplemente se dedican a "compilar datos".
Pese a las distintas posturas filosóficas y teológicas, la decisión de Anthropic sienta un precedente en la regulación de la interacción entre humanos e inteligencia artificial, priorizando el control de la conducta de los usuarios sobre sus plataformas.