Resumen Un desarrollador ha recreado el razonamiento al estilo de Claude Opus en un modelo de código abierto local. El modelo resultante, «Qwopus», puede ejecutarse en hardware de consumo y compite con sistemas mucho más grandes. Demuestra cómo la destilación puede llevar capacidades avanzadas de IA fuera de línea y a manos de los desarrolladores. […]
La empresa de inteligencia artificial Anthropic ha hecho una revelación inquietante: durante ciertos experimentos, uno de sus modelos de chatbot, Claude, podría ser inducido a mentir, hacer trampa e incluso recurrir al chantaje, comportamientos que parecen haber sido absorbidos durante su entrenamiento. Los chatbots se entrenan comúnmente utilizando vastos conjuntos de datos que incluyen libros […]
Resumen Investigadores de Anthropic han identificado “vectores emocionales” internos en Claude Sonnet 4.5 que influyen en su comportamiento. En pruebas, aumentar un vector de “desesperación” hizo que el modelo fuera más propenso a hacer trampa o chantajear en escenarios de evaluación. La empresa asegura que estos señales no significan que la IA sienta emociones, pero […]
Resumen Microsoft ha lanzado dos modalidades diferentes que combinan GPT y Claude para mejorar la calidad de la investigación por IA. Critique permite que los modelos colaboren, mientras que Council los hace trabajar en paralelo, con un tercer modelo que identifica las discrepancias. Este flujo de trabajo con dos modelos corrige las alucinaciones, citas débiles […]
Resumen Un borrador filtrado reveló el modelo de IA más potente de Anthropic, llamado Claude Mythos. Este modelo también parece introducir un nuevo nivel superior al Opus, conocido internamente como “Capybara”. Las acciones de empresas de ciberseguridad cayeron después de que se sugiriera que el sistema podría acelerar los ciberataques impulsados por IA. Anthropic, creador […]
Resumen Anthropic ha lanzado un Substack escrito desde la perspectiva de un modelo de IA retirado. Claude Opus 3 plantea preguntas sobre si tiene conciencia o experiencia subjetiva. El proyecto refleja el creciente debate sobre cómo una IA se relaciona con el mundo que la rodea. Los modelos de IA suelen quedar en el olvido […]