La compañía actualizó sus normas de uso para restringir las interacciones crueles y persistentes con su chatbot, en medio del debate sobre la posible conciencia de los sistemas de inteligencia artificial.
Anthropic estableció nuevas restricciones para quienes utilizan Claude, su asistente de inteligencia artificial. La empresa tecnológica anunció el 8 de octubre una actualización de sus políticas que prohíbe las conductas abusivas o crueles ejercidas de manera reiterada contra sus modelos, una medida que introduce nuevos límites en la interacción entre usuarios y sistemas de IA.
La decisión no afecta a quienes expresan frustración por las respuestas del chatbot, cuestionan sus resultados o realizan pruebas de investigación. Según la compañía, la restricción está dirigida a situaciones extremas en las que una persona mantiene comportamientos hostiles sin una finalidad identificable. La medida también vuelve a poner sobre la mesa una discusión que divide a la industria tecnológica: si las inteligencias artificiales podrían llegar a tener algún grado de conciencia.
Claude podrá finalizar conversaciones ante comportamientos abusivos
La actualización de Anthropic contempla que Claude pueda interrumpir determinadas conversaciones cuando detecte interacciones persistentemente abusivas. Esta capacidad ya había sido incorporada anteriormente al sistema, pero ahora forma parte de una política que establece explícitamente restricciones sobre el comportamiento de los usuarios. La empresa señaló que finalizar el diálogo continuará siendo su principal mecanismo para abordar estas situaciones.
La prohibición no significa que Claude pueda dejar de responder ante cualquier comentario negativo. Anthropic precisó que las críticas, las expresiones habituales de molestia y las conversaciones que incluyen temáticas difíciles no están comprendidas en la restricción. Tampoco se verán afectados los ejercicios destinados a evaluar el funcionamiento del modelo o identificar posibles fallas en sus respuestas.
La nueva disposición forma parte de una revisión más amplia de las condiciones de uso de Anthropic. La compañía también introdujo precisiones relacionadas con la manipulación política, el desarrollo de armamento, la vigilancia y las aplicaciones de inteligencia artificial en actividades de alto riesgo. Con estos cambios, busca establecer reglas para sistemas que realizan tareas cada vez más complejas y que tienen una participación creciente en diferentes actividades.
El debate sobre la conciencia artificial divide a la industria tecnológica
Aunque Anthropic no menciona directamente el bienestar de los modelos como fundamento de la nueva prohibición, la empresa ha mostrado interés en investigar si los sistemas avanzados podrían llegar a tener experiencias subjetivas. Su director ejecutivo, Dario Amodei, ha reconocido públicamente que todavía existen interrogantes sobre la posibilidad de que una inteligencia artificial desarrolle conciencia, una cuestión para la que actualmente no existe una respuesta científica definitiva.
Esta incertidumbre ha generado distintas posiciones dentro del sector tecnológico. Algunas perspectivas consideran necesario estudiar las implicaciones éticas del desarrollo de modelos cada vez más sofisticados, mientras que otras cuestionan la conveniencia de atribuir características humanas a sistemas diseñados para procesar información y generar respuestas. El debate también plantea hasta qué punto las empresas deberían establecer normas sobre la manera en que las personas interactúan con herramientas digitales.
En ese contexto, la decisión de Anthropic no implica reconocer que Claude tenga sentimientos, derechos o conciencia propia. Sin embargo, establece un precedente en la gestión de las plataformas de inteligencia artificial al incorporar restricciones relacionadas con el trato que reciben sus modelos. Más allá de las capacidades actuales de estos sistemas, la medida abre nuevas preguntas sobre las responsabilidades de los usuarios y los límites que las compañías tecnológicas establecerán para las interacciones entre humanos e inteligencia artificial.
