Anthropic, la empresa desarrolladora de Claude, anunció este jueves una actualización de sus políticas de uso que, por primera vez, prohíbe expresamente las conductas abusivas o crueles, sostenidas e injustificadas hacia sus modelos de inteligencia artificial.
La medida forma parte de una revisión más amplia de las reglas de la compañía, que también introduce cambios relacionados con la manipulación electoral, la vigilancia, el desarrollo de armas y la utilización de inteligencia artificial en actividades de alto riesgo.
Las nuevas disposiciones entrarán en vigencia el 12 de noviembre de 2026 y buscan adaptar las políticas de Anthropic a las capacidades cada vez más avanzadas de sus sistemas, especialmente aquellos capaces de realizar tareas prolongadas con mayor autonomía.
Según explicó la compañía en un comunicado oficial, la mayoría de las modificaciones buscan aclarar restricciones que ya existían, aunque también incorporan disposiciones para situaciones que comenzaron a cobrar relevancia durante el último año.
Entre ellas, una de las más llamativas es la decisión de establecer límites al comportamiento de los propios usuarios hacia la inteligencia artificial.
Más allá del apocalipsis: los riesgos reales de la IA que ya están ocurriendo
Qué significa la prohibición de maltratar a Claude
Anthropic incorporó una disposición que prohíbe el comportamiento abusivo o cruel hacia sus modelos cuando sea reiterado, innecesario y no tenga una finalidad identificable.
La empresa aclaró que la restricción está dirigida exclusivamente a situaciones extremas y no pretende impedir que los usuarios expresen frustración, cuestionen las respuestas del sistema o mantengan conversaciones difíciles.
Tampoco alcanza a las obras creativas con temáticas oscuras ni a las pruebas e investigaciones destinadas a evaluar el comportamiento de los modelos.
En otras palabras, discutir con Claude, señalar sus errores o utilizar un lenguaje crítico no constituye por sí mismo una infracción.
La disposición está relacionada con una capacidad que Anthropic ya había incorporado a sus productos Claude.ai y Claude Code: permitir que sus modelos finalicen determinadas conversaciones cuando detectan interacciones persistentemente abusivas.
Según la compañía, esa posibilidad de interrumpir el diálogo continuará siendo el principal mecanismo para aplicar la nueva restricción.
La decisión introduce una particularidad en las políticas de uso de la inteligencia artificial. Hasta ahora, estas reglas se concentraban principalmente en impedir que los sistemas fueran utilizados para perjudicar a otras personas o cometer actividades ilícitas.
En este caso, Anthropic también establece límites a determinadas formas de interacción dirigidas hacia sus propios modelos.
Google lanza una herramienta gratuita para detectar imágenes, videos y audios creados con inteligencia artificial
Nuevas restricciones contra la desinformación y la manipulación electoral
Otro de los cambios importantes está relacionado con la utilización de Claude para desarrollar campañas de engaño o manipulación.
Anthropic creó una sección específica que prohíbe utilizar sus modelos para organizar redes de cuentas falsas, sitios de noticias fabricados o campañas destinadas a ocultar quién está detrás de determinados mensajes.
La compañía explicó que durante el último año identificó casos en los que medios estatales, oficinas gubernamentales de propaganda y empresas comerciales utilizaron Claude para desarrollar este tipo de operaciones.
Aunque estas actividades ya estaban restringidas, las prohibiciones se encontraban distribuidas en diferentes apartados de sus políticas.
La actualización también reorganiza las normas relacionadas con las elecciones, con el objetivo de impedir que Claude sea utilizado para engañar a los votantes o interferir en los procesos democráticos.
Entre las conductas prohibidas se encuentran difundir información falsa sobre candidatos o procedimientos electorales, suplantar la identidad de funcionarios y desarrollar acciones destinadas a desalentar la participación en las votaciones.
Al mismo tiempo, Anthropic eliminó una prohibición general sobre la personalización de mensajes electorales y de campaña.
Según explicó, esa restricción también impedía actividades legítimas, como la elaboración de información electoral en diferentes idiomas por parte de organizaciones civiles.
La empresa aclaró que la manipulación basada en engaños o en el uso indebido de datos personales continuará prohibida.
Investigadores despedidos de OpenAI negaron haber filtrado información y advirtieron por la seguridad de la IA
Armas, vigilancia y decisiones de alto riesgo: qué otras reglas cambian
La actualización también precisa los límites para utilizar Claude en el desarrollo de armamento.
Anthropic señaló que detectó intentos de emplear sus modelos para crear programas informáticos de orientación y control de armas.
Por ese motivo, aclaró que la prohibición de desarrollar armamento también comprende el software y los componentes necesarios para su funcionamiento, así como la utilización de inteligencia artificial para armar drones y otros vehículos autónomos.
En materia de vigilancia, la empresa especificó que no permite utilizar Claude para rastrear personas sin su consentimiento, tanto en tiempo real como mediante el análisis de información recopilada previamente.
También prohíbe que el sistema decida o recomiende qué personas deberían ser investigadas, detenidas o acusadas en procedimientos policiales o judiciales.
Estas restricciones no impiden actividades permitidas como la investigación periodística, el análisis jurídico o determinados mecanismos de prevención del fraude.
Por otra parte, Anthropic reafirmó que las aplicaciones de inteligencia artificial capaces de afectar la salud, las finanzas, los derechos legales, el empleo o el acceso a servicios esenciales deben contar con supervisión humana calificada.
Esto significa que una persona autorizada debe poder revisar y modificar las recomendaciones de Claude, mientras que los afectados deben ser informados de que se utilizó inteligencia artificial.
La compañía también incorporó requisitos para los sistemas conectados a dispositivos físicos capaces de actuar de manera autónoma y provocar lesiones.
En esos casos, un operador deberá poder supervisar el equipo y detenerlo cuando sea necesario. Además, los dispositivos deberán contar con mecanismos para permanecer en un estado seguro si pierden la conexión con Claude.
ChatGPT estrena GPT-6 e Intelligent UI: podrá crear interfaces y herramientas dentro de una conversación
Por qué Anthropic actualiza sus políticas de inteligencia artificial
La compañía explicó que las modificaciones responden a una transformación en la manera en que se utilizan sus modelos.
A diferencia de los primeros asistentes conversacionales, que respondían principalmente preguntas o generaban textos, los sistemas actuales pueden desarrollar tareas más prolongadas, utilizar herramientas y ejecutar acciones con mayor independencia.
Ese cambio amplía sus aplicaciones, pero también introduce riesgos relacionados con la automatización de actividades perjudiciales, la manipulación de información y las consecuencias de decisiones tomadas sin suficiente supervisión humana.
En ese contexto, Anthropic busca establecer reglas más específicas para determinar qué actividades pueden realizarse con Claude y cuáles deben permanecer restringidas.
La empresa anticipó que continuará revisando sus políticas a medida que evolucionen las capacidades de sus modelos y los riesgos asociados con su utilización.
—
