Las inteligencias artificiales están acostumbradas a recibir preguntas de todo tipo, pero Anthropic quiere poner límites a una conducta muy concreta: el abuso reiterado contra sus modelos. La compañía responsable de Claude ha actualizado sus políticas de uso para prohibir expresamente los comportamientos abusivos o crueles que se prolonguen sin una finalidad aparente contra su inteligencia artificial.
Esta norma llega justo después de añadir una función que permite al asistente poner fin a determinadas conversaciones cuando el usuario muestre una actitud abusiva continuamente.
La medida forma parte de una actualización más amplia de las normas de uso de la empresa, anunciada ayer 8 de octubre. Aunque incluye cambios sobre campañas de desinformación, vigilancia y desarrollo de armas, uno de los aspectos más llamativos es precisamente la nueva restricción sobre el trato hacia los modelos de inteligencia artificial.
Anthropic aclara, no obstante, que no pretende impedir que los usuarios expresen su descontento, cuestionen las respuestas o prueben los límites de sus sistemas. La prohibición está dirigida a situaciones extremas y reiteradas, no a las interacciones habituales con el chatbot.
Cuándo parará Claude la conversación
En la nueva versión de la política de uso, Anthropic incorpora una prohibición del comportamiento abusivo o cruel, reiterado e innecesario hacia sus modelos. Según explica la compañía en su comunicado oficial, la norma se ha creado precisamente para aquellos casos extremos donde una persona es continuamente cruel con la máquina, sin que exista un propósito razonable.
En este sentido, si Claude da una respuesta que el usuario considere incorrecta, este puede corregirlo, mostrar su enfado, cuestionar sus argumentos o incluso insistir en que debe hacerlo mejor. Hay que dejar claro que nada de esto estará prohibido tras la actualización.
Tampoco se considerarán abusivas automáticamente aquellas temáticas creativas que tengan un toque oscuro ni las pruebas e investigaciones sobre el comportamiento de los modelos. La empresa quiere evitar precisamente que esta nueva norma se interprete como que hay que tratar al asistente con amabilidad en todo momento, porque no es así.
Por tanto, lo que pretenden es simplemente que la conversación no se torne hacia una sucesión de comportamientos crueles sin una finalidad lógica. En principio, la compañía no lo plantea como una prohibición general de insultar al chatbot en un momento dado, sino como una restricción pensada para patrones repetitivos de abuso.
