El CEO de la empresa de inteligencia artificial Anthropic, Dario Amodei, ha respondido a un comunicado del Departamento de Defensa de los Estados Unidos y la Casa Blanca, que ordena a los contratistas militares que trabajan con dicho departamento que dejen de utilizar los productos de Anthropic.
Amodei expresó su objeción al uso de sus modelos de IA para la vigilancia masiva en el país y a la implementación de armas totalmente autónomas capaces de disparar sin intervención humana. En una entrevista con CBS News, el sábado, destacó que Anthropic está de acuerdo con todas las aplicaciones propuestas por el gobierno de EE. UU. para sus modelos de IA, a excepción de la vigilancia y las plataformas de armas autónomas.
“Son temas fundamentales para los estadounidenses: el derecho a no ser espiados por el gobierno, el derecho de nuestros oficiales militares a tomar decisiones sobre la guerra por sí mismos, sin delegar completamente esas decisiones a una máquina.”
La decisión del Departamento de Defensa de catalogar a Anthropic como un “riesgo para la cadena de suministro”, lo que implica que los contratistas militares no pueden utilizar los productos de Anthropic en sus trabajos de defensa, es “sin precedentes” y “punitiva”, agregó Amodei.
Más adelante, Amodei aclaró que no está en contra del desarrollo de armas totalmente automatizadas en caso de que ejércitos extranjeros comiencen a usarlas en el futuro, pero enfatizó que actualmente la IA no es lo suficientemente confiable para operar de manera autónoma en un entorno militar.
Amodei también destacó que la ley aún no ha logrado adaptarse al rápido desarrollo del sector de la inteligencia artificial, haciendo un llamado al Congreso de EE. UU. para que se implementen “guardrails” que eviten el uso de la IA en programas de vigilancia masiva en el país.
Relación: Anthropic informa que ha sido blanco de ataques masivos de destilación
OpenAI obtiene un contrato de defensa tras catalogar EE. UU. a Anthropic como un riesgo para la cadena de suministro
El viernes, el “Secretario de Guerra” de EE. UU., Pete Hegseth, anunció que Anthropic es un “riesgo para la cadena de suministro de la seguridad nacional”.
“Con efecto inmediato, ningún contratista, proveedor o socio que haga negocios con el ejército de Estados Unidos puede realizar ninguna actividad comercial con Anthropic”, indicó.
Pocas horas después, la competidora de IA OpenAI aceptó un contrato con el Departamento de Defensa de EE. UU. para desplegar sus modelos de IA en redes militares.
El anuncio del acuerdo por parte del CEO de OpenAI, Sam Altman, generó una fuerte reacción en línea de críticos, quienes señalaron que el uso de la IA para vigilancia masiva y socavar la privacidad individual es una línea roja que no se debe cruzar.
Revista: ‘Drones de Slaughterbot’ en Ucrania, MechaHitler se convierte en sexy waifu: AI Eye
Fuente: cointelegraph.com