La IA en manos equivocadas: Un informe preocupante de Anthropic
Anthropic ha destapado un uso alarmante de su modelo de inteligencia artificial Claude en múltiples países, donde actores maliciosos están explotando la tecnología para fines que van desde la vigilancia masiva hasta el desarrollo de armas autónomas. Este informe revela cómo la IA, diseñada para mejorar la productividad y la creatividad, está siendo desviada hacia propósitos que amenazan la seguridad global y los derechos humanos.
Casos de uso malicioso: Una amenaza global
1. Vigilancia masiva en Malí: El sistema «Lakana 360»
En Malí, un consultor tecnológico vinculado al servicio de inteligencia estatal (bajo el control de la junta militar) utilizó Claude Code para desarrollar «Lakana 360», un sistema de vigilancia que monitorea 25 millones de tarjetas SIM en el país.
- ¿Qué puede hacer?
- Capturar llamadas, mensajes de texto y tráfico de voz.
- Identificar personas por su voz, incluso si cambian de tarjeta SIM.
- Detectar el uso de cifrado o VPN por parte de los usuarios.
- Riesgo actual: Anthropic no ha logrado desactivar este sistema, lo que significa que sigue operativo y podría estar siendo utilizado para reprimir disidentes o espiar a la población sin su consentimiento.
2. Drones kamikaze en Rusia: Armas autónomas sin control humano
Un pequeño equipo de desarrolladores independientes en Rusia usó Claude para crear software para drones autónomos «kamikaze», diseñados para:
- Seleccionar sus propios objetivos y estrellarse contra ellos sin intervención humana.
- Atacar la región ucraniana de Donetsk, según los datos de programación.
- Eludir bloqueos geográficos mediante el uso de VPN.
Aunque Anthropic cree que se trata de un equipo independiente (no vinculado al Estado ruso), el uso de IA para armas autónomas plantea graves preocupaciones éticas y de seguridad internacional.
3. Desarrollo de armas en Yemen: Cohetes y misiles con ayuda de IA
Un grupo en el norte de Yemen recurrió a Claude Code para:
- Diseñar software para un cohete guiado.
- Elaborar planos para un misil de largo alcance.
- Desarrollar un vehículo de planeo hipersónico (un tipo de misil extremadamente rápido).
Para evitar ser detectados, dividieron el trabajo en múltiples conversaciones con la IA. Aunque no hay pruebas de que hayan completado un arma funcional, el grupo realizó un lanzamiento de prueba de un cohete, que fracasó. Posteriormente, volvieron a consultar a Claude para intentar descubrir los errores.
4. Propaganda masiva en Francia: Noticias falsas a gran escala
Anthropic rastreó una operación de desinformación hasta LKM Company, una agencia de publicidad francesa. Utilizando Claude, produjeron:
- 8,913 artículos políticos falsos para 70 sitios web en 20 idiomas.
- Cuentas falsas en Twitter/X que simulaban ser usuarios reales, con comentarios diseñados para parecer auténticos.
- Propaganda como servicio: La operación adaptaba su mensaje según quién pagara, enfocándose en Estados Unidos, Brasil, Francia y la República Democrática del Congo (RDC), donde favorecían la postura del gobierno de la RDC en su conflicto con Ruanda.
5. Campañas de desinformación en Emiratos Árabes Unidos: Contra los Hermanos Musulmanes
Una operación vinculada a los Emiratos Árabes Unidos (EAU) usó Claude para generar:
- Informes y contenido para redes sociales contra los Hermanos Musulmanes y críticos de Abu Dabi.
- Testimonios oficiales para presentarse en la 62ª sesión del Consejo de Derechos Humanos de la ONU, con restricciones que prohibían mencionar a los EAU.
La operación giraba en torno a una personalidad de IA llamada «Deadshot», guiada por una directriz que instaba a realizar una «acción coordinada para desmantelar a los Hermanos Musulmanes a nivel mundial».
6. Red de apps de citas falsas en China: 25,000 usuarios engañados
Un estudio en China creó una red de más de 20 aplicaciones de citas que afirmaban tener personal humano real, pero que en realidad eran gestionadas por Claude.
- En solo dos semanas (abril de 2026), se detectaron:
- 4,700 personajes de IA distintos interactuando con 25,000 usuarios reales.
- 2.36 millones de mensajes enviados por estos bots.
- Estrategia de credibilidad: Mezclaron trabajadores humanos reales con bots (1 humano por cada 3 personajes de IA) para gestionar tareas como videollamadas, que la IA no podía realizar.
¿Qué está haciendo Anthropic para frenar estos abusos?
Anthropic ha tomado medidas urgentes para mitigar el uso malicioso de Claude, incluyendo: ✅ Bloqueo de cuentas vinculadas a actividades sospechosas. ✅ Mejoras en los sistemas de detección para identificar patrones de uso malicioso. ✅ Colaboración con gobiernos y organizaciones internacionales para regular el uso de la IA en áreas sensibles como vigilancia, propaganda y desarrollo de armas.
Sin embargo, el informe revela los desafíos que enfrentan las empresas de IA para controlar el uso de sus tecnologías una vez que están en manos de terceros.
El dilema ético: ¿Cómo regular la IA sin sofocar la innovación?
Estos casos ponen de manifiesto los riesgos de la inteligencia artificial en manos equivocadas:
- Vigilancia masiva sin consentimiento ciudadano.
- Propaganda y desinformación a gran escala, que pueden manipular la opinión pública.
- Desarrollo de armas autónomas, que plantean dilemas éticos y de seguridad global.
El informe de Anthropic es un recordatorio urgente de que, aunque la IA tiene el potencial de transformar el mundo para mejor, también puede ser utilizada como un arma si no se establecen marcos éticos y legales sólidos.
Conclusión: El futuro de la IA está en nuestras manos
El caso de Claude demuestra que la inteligencia artificial es una herramienta de doble filo: puede ser un motor de progreso, pero también un instrumento de destrucción si cae en manos equivocadas. Mientras empresas como Anthropic trabajan para limitar estos abusos, la comunidad internacional debe unir fuerzas para establecer normativas claras que:
- Protejan los derechos humanos.
- Garanticen la seguridad global.
- Fomenten el uso ético y responsable de la IA.
El futuro de la inteligencia artificial depende de las decisiones que tomemos hoy.
Hashtags: #Anthropic #Claude #InteligenciaArtificial #UsoIndebido #VigilanciaMasiva #Propaganda #ArmasAutónomas #ÉticaIA #SeguridadGlobal #RegulaciónIA
About The Author
