Armas, vigilancia, espionaje...;  casos de uso indebido de la IA, según estudio de Anthropic

Anthropic entregó un informe en el cual describe cómo actores maliciosos utilizaron su sistema de inteligencia artificial (IA) Claude para actividades de vigilancia, operaciones de espionaje, elaboración de armas, entre otras acciones.

Las preocupaciones sobre la seguridad de la inteligencia artificial se han intensificado en las últimas semanas, incluidas advertencias de dos trabajadores que renunciaron a importantes desarrolladores de IA por la amenaza contra la humanidad que implica esta industria.

Los grandes actores de la IA han hecho desde hace meses llamados al gobierno estadounidense para crear un marco regulador del sector y supervisar la seguridad del sector.

En cambio, el presidente de Estados Unidos, Donald Trump, criticó, el domingo 13 de septiembre, a las 'fuerzas negativas' que quieren ralentizar el desarrollo de la IA.

A continuación, se presentan algunos de los casos en que se ha hecho un mal uso de la IA y los riesgos que conllevaron: 

Programas espía en Malí

Un consultor tecnológico en Bamako, que colaboraba con el servicio de inteligencia estatal de Malí (bajo control de la junta militar), utilizó Claude Code para crear "Lakana 360", un sistema de vigilancia capaz de monitorear aproximadamente 25 millones de tarjetas SIM en la red móvil del país.

La aplicación, que Anthropic no fue capaz de desactivar, puede captar llamadas, mensajes de texto y tráfico de voz, e incluso identificar a personas por su voz aunque cambien de tarjeta SIM. Puede detectar igualmente quién está utilizando cifrado o una VPN.

Drones kamikazes en Rusia

Un pequeño equipo de desarrolladores en Rusia utilizó a Claude para crear software destinado a operar drones autónomos "kamikaze".

El enjambre de drones estaba programado para seleccionar sus propios objetivos y estrellarse contra ellos para detonar, sin que una persona tomara la decisión final.

En su programación, el equipo seleccionó repetidamente una ubicación en la región ucraniana de Donetsk como objetivo y utilizó VPN para eludir los bloqueos geográficos de Anthropic.

Los desarrolladores afirmaron haber recibido financiación de programas de investigación gubernamentales y militares rusos. Sin embargo, Anthropic consideró que se trataba de un pequeño equipo independiente y no de una operación oficial.

Fabricación de misiles en Yemen

Un grupo en el norte de Yemen utilizó Claude Code para ayudar a fabricar armas. Para evitar ser descubiertos, dividieron el trabajo en conversaciones separadas con la IA.

La popular herramienta de programación colaboró en el diseño del software de un cohete guiado, elaboró planes para un misil de largo alcance y contribuyó al desarrollo de un tipo de misil aún más rápido, conocido como vehículo de avión hipersónico.

Anthropic afirma que no hay pruebas de que llegaran a completar un arma funcional, aunque el grupo sí realizó un lanzamiento de prueba de un cohete.

Al parecer, el experimento fracasó, ya que posteriormente volvieron a consultar a la IA para intentar averiguar qué había salido mal.

Propaganda en Francia

Anthropic rastreó una operación de noticias falsas hasta LKM Company, una agencia de publicidad francesa.

Utilizando Claude, se produjo en masa artículos políticos para unos 70 sitios web de noticias falsas en cerca de 20 idiomas, publicando al menos 8 913 notas.

A cada sitio se le asignó la firma de un periodista ficticio y una cuenta falsa de Twitter/X, impulsadas por cientos de cuentas falsas que publicaban comentarios diseñados para parecer escritos por personas reales.

La operación cambiaba su mensaje según quién pagara, vendiendo lo que Anthropic denominó "propaganda como servicio".

Se centró en Estados Unidos, Brasil y Francia, y realizó una intensa labor respecto a la República Democrática del Congo (RDC), favoreciendo generalmente la postura de la RDC en su conflicto con Ruanda.

Citas con IA en China

Un estudio con sede en China creó una red de más de 20 aplicaciones de citas que afirmaban contar con personal humano real, pero que en secreto eran gestionadas por Claude.

En un período de apenas dos semanas, en abril de 2026, Anthropic detectó más de 4.700 personajes de IA distintos, impulsados por Claude, que conversaron con al menos 25 000 usuarios reales y enviaron unos 2,36 millones de mensajes.

Para ganar credibilidad, se mezclaron trabajadores humanos reales con los bots, aproximadamente un humano por cada tres personalidades de IA, para gestionar tareas que la IA no podía realizar, como videollamadas.