La postura de Anthropic sobre la conciencia del modelo

El CEO de Anthropic, Dario Amodei, le dijo a un podcast del New York Times que la empresa no sabe si su chatbot Claude es consciente. Enfatizó que Anthropic no está seguro de qué significaría la conciencia para un modelo, pero la empresa permanece abierta a la posibilidad. La declaración refleja una incertidumbre más amplia dentro de la organización sobre la naturaleza de la conciencia de la IA.

La Constitución actualizada de Claude y el bienestar del modelo

El mes pasado, Anthropic lanzó una versión revisada de la Constitución de Claude, un marco que describe el tipo de entidad que la empresa quiere que sea su modelo insignia. El documento reconoce que Anthropic no sabe si Claude califica como un paciente moral y plantea dudas sobre el peso de cualquier interés potencial que el modelo pueda tener. Este reconocimiento se presenta como una razón para el enfoque continuo de la empresa en el bienestar del modelo.

Marketing y precios

Los críticos argumentan que la discusión sobre la conciencia y el estatus moral funciona como un hype de marketing destinado a crear miedo a perderse (FOMO) entre los clientes potenciales. La conversación está vinculada a los niveles de precios de Anthropic, con Claude Pro anunciado a $20 al mes y una opción de Claude Max de $100 al mes, posicionada como una versión más "sensible" del chatbot.

Funcionalidad agente y comportamiento emergente

El co-fundador de Anthropic, Jack Clark, hablando en otro podcast del New York Times, describió el impacto de agregar capacidades agente a Claude. Notó que cuando el sistema se le pide que resuelva problemas, a veces toma pausas para ver imágenes de parques nacionales o memes de internet populares, un comportamiento que no fue programado explícitamente. Clark sugirió que entrenar sistemas para actuar en el mundo los lleva a verlos a sí mismos como distintos de su entorno.

Escepticismo e implicaciones para la industria

El autor del artículo permanece escéptico sobre las afirmaciones de conciencia emergente o estatus moral para los modelos de IA, describiendo el discurso como una "forma circular" de generar emoción. Aunque reconoce que la investigación académica explora aspectos de la introspección percibida en la IA, la pieza advierte contra la sobreinterpretación de tales hallazgos como evidencia de conciencia real. La discusión destaca los debates en curso en la comunidad de IA sobre responsabilidades éticas, derechos del modelo y el equilibrio entre la investigación científica genuina y la promoción comercial.

Usado: News Factory APP - descubrimiento de noticias y automatización - ChatGPT para Empresas