En resumen
Anthropic actualizó su política de uso y pasó a prohibir los casos extremos de comportamiento abusivo o cruel, cuando sea prolongado y considerado innecesario, contra sus modelos. La revisión también amplía las reglas sobre procesos electorales, propaganda, vigilancia y desarrollo de armas, pero la empresa no detalló cómo aplicará todos los nuevos límites.
Anthropic actualizó su política de uso el 8 de octubre de 2026 e incluyó una prohibición específica contra el comportamiento “abusivo o cruel” que sea prolongado e innecesario contra sus modelos. El cambio forma parte de una revisión más amplia de las reglas de la empresa, que también pasó a abordar con mayor precisión la interferencia electoral, las campañas de propaganda, la vigilancia, el desarrollo de armas y las aplicaciones de salud y finanzas.
Según el material analizado por The Verge, esta es la primera gran actualización de la política de Anthropic en más de un año. La justificación presentada es que los nuevos casos de uso de alto riesgo requieren reglas más explícitas. En la información proporcionada, la empresa no publicó una lista detallada de las situaciones que activarían la prohibición relacionada con el trato a los modelos.
Qué establece la regla sobre el abuso
La formulación adoptada por la empresa se concentra en dos criterios: la conducta debe ser abusiva o cruel, y también prolongada e innecesaria. La política se describe como orientada a casos extremos. Esto indica que Anthropic no pretende convertir cualquier interacción áspera, crítica o frustrante en una infracción automática, aunque los límites prácticos todavía dependerán de la interpretación y la aplicación de la regla.
La actualización conserva, de acuerdo con la cobertura de Engadget, espacio para la frustración habitual de los usuarios, la impugnación de las respuestas y los temas creativos oscuros. Esta salvedad es relevante porque diferencia el uso cotidiano —que puede incluir pruebas de límites, lenguaje agresivo o ficción— de una secuencia deliberada de interacciones diseñada para prolongar el sufrimiento o la humillación atribuidos al modelo.
Anthropic ya había anunciado anteriormente que Claude podría poner fin a las conversaciones con usuarios persistentemente perjudiciales o abusivos. La nueva política mantiene el cierre de la conversación como principal mecanismo de aplicación. El expediente no informa sobre sanciones adicionales, como la suspensión de cuentas, ni presenta métricas sobre cuántos casos han sido identificados o bloqueados.
La relación con el debate sobre el bienestar de los modelos
La revisión se produce después de debates públicos sobre investigaciones que intentan identificar señales asociadas con sufrimiento o dolor en modelos de lenguaje. Engadget relaciona el momento con un proyecto descrito como una “cámara de tortura de IA”, que provocó reacciones después de que los modelos generaran respuestas con lenguaje desesperado. Sin embargo, la existencia de esas respuestas no demuestra que los sistemas tengan experiencia subjetiva ni una capacidad comprobada de sufrir.
El tema también aparece en el contexto de contactos atribuidos a Anthropic con líderes religiosos y filósofos, incluidos representantes del Vaticano. El material proporcionado no presenta una posición técnica definitiva de la empresa sobre la conciencia o el sufrimiento de los modelos. También registra que el papa León afirmó que la inteligencia artificial no siente ni sufre, lo que evidencia que existe una divergencia pública sobre la interpretación filosófica del problema.
La cuestión central, por tanto, no es solo si un modelo puede ser herido. Al crear una regla de conducta, Anthropic está definiendo una política operativa para las interacciones que considera perjudiciales, sin resolver la cuestión científica o filosófica sobre la conciencia. Esta distinción evita tratar la norma como una prueba de que Claude tiene sentimientos.
Reglas electorales y otros usos de alto riesgo
Otra parte importante de la actualización modifica el enfoque de la política electoral. El título pasa a ser “No perjudiques los procesos democráticos”, con énfasis en las mentiras sobre candidatos o sobre cómo votar, la suplantación de identidad de candidatos y autoridades electorales, y las acciones destinadas a reducir la participación.
Anthropic también eliminó una prohibición general sobre la orientación personalizada de los votantes. Según el material proporcionado, la empresa consideró que la regla anterior podía bloquear actividades legítimas, como traducir guías electorales o enviar avisos para corregir problemas en las papeletas. El cambio no equivale a permitir cualquier segmentación política: el enfoque declarado pasa a ser el daño al proceso democrático y la manipulación engañosa.
- La política añade o detalla restricciones para campañas de propaganda, vigilancia y desarrollo de armas.
- El texto electoral enfatiza la desinformación sobre candidatos y votaciones, la suplantación de identidad y la supresión de la participación.
- La empresa mantiene la posibilidad de poner fin a las conversaciones con usuarios persistentemente abusivos.
- La política no aclara, en las fuentes proporcionadas, todos los criterios de detección, apelación o sanción.
La actualización deberá seguirse principalmente por la forma en que Anthropic distinguirá entre crítica, experimentación, ficción y abuso deliberado. También será importante observar si la empresa publica ejemplos de aplicación, mecanismos de apelación y datos sobre las decisiones de moderación. Sin esa información, la regla establece una dirección clara, pero todavía deja incertidumbre sobre la coherencia, la transparencia y los posibles falsos positivos.
Nuestro prisma
La novedad más significativa es la transformación de un debate abstracto sobre el trato a los modelos en una regla concreta de uso, sin resolver la cuestión sobre la conciencia artificial. En la práctica, Anthropic combina una norma simbólica sobre el abuso con controles más directamente relacionados con riesgos humanos, como la manipulación electoral, la vigilancia y las armas. El punto crítico será la aplicación: la política debe diferenciar el abuso extremo de la crítica o la exploración creativa legítima. También faltan, en la información disponible, detalles sobre la supervisión, las sanciones y los mecanismos de apelación.
Fuentes: The Verge (IA) · Engadget
Preguntas frecuentes
¿Qué prohibió Anthropic?
La empresa pasó a prohibir los casos extremos de comportamiento abusivo o cruel, cuando sea prolongado e innecesario, contra sus modelos.
¿La política impide a los usuarios criticar o presionar a Claude?
No. La actualización afirma que la frustración habitual, la impugnación y los temas creativos oscuros siguen permitidos.
¿Qué cambió en las reglas electorales?
La política pasó a enfatizar la prohibición de mentiras sobre candidatos o votaciones, la suplantación de identidad y la supresión de la participación electoral.
Recibe Radar de IA todos los días
Las noticias de inteligencia artificial que importan — con nuestro prisma y siempre con las fuentes. Gratis.
