No, Claude Mythos no es Skynet — por qué puedes estar tranquilo

El miedo más rentable del siglo XXI

Por Sebastián Vargas Yáñez | CEO TTPSEC SpA · Academic Director · VP SOCHISI · PhD Candidate · Masterx10 · TAISE · CCSK · CCZT · C|CISO · E|CSA · C|EH · eCIR · eCTHR · eCFDP · ISO/IEC 42001 & 27001 LA · MAD20 x6 · Applied AI & Cybersecurity Research

Nota del autor. Este artículo busca contribuir al debate informado sobre inteligencia artificial desde una perspectiva técnica y de ciberseguridad. No minimiza los riesgos reales de la IA — los analiza con evidencia. Las opiniones son profesionales e independientes.

TL;DR — Claude Mythos, GPT-4, Gemini y cualquier LLM actual son modelos estadísticos de predicción de tokens. No tienen conciencia, intencionalidad, acceso autónomo a infraestructura ni capacidad de autopreservación. Los riesgos reales de la IA existen, pero son radicalmente diferentes a los que Hollywood nos vendió. Este artículo separa la ficción de la evidencia técnica, explica las capas de seguridad que Anthropic implementa en Claude, y te dice qué sí debería quitarte el sueño como CISO.

Índice de contenido

1. De dónde viene el miedo: Terminator como framework mental
2. Qué es realmente un LLM: la arquitectura detrás de Claude
3. Las 7 diferencias fundamentales entre Claude y Skynet
4. Constitutional AI: cómo Anthropic diseña seguridad desde el núcleo
5. Las capas de seguridad de un modelo moderno
6. Lo que SÍ debería preocuparte: riesgos reales de la IA
7. El marco regulatorio internacional: quién vigila a la IA
8. Qué dice la academia: estado del arte en AI Safety
9. Chile y LATAM: dónde estamos parados
10. Reflexión final: el verdadero peligro no es la máquina
11. Referencias

Índice de tablas

• Tabla 1: Skynet vs. LLM — comparativa técnica
• Tabla 2: Capas de seguridad en modelos de IA modernos
• Tabla 3: Riesgos reales vs. riesgos ficticios de la IA
• Tabla 4: Marco regulatorio internacional de IA (2024-2026)

1. De dónde viene el miedo: Terminator como framework mental

Cuando alguien escucha “inteligencia artificial avanzada”, su cerebro no recurre a papers de NeurIPS. Recurre a James Cameron.

Terminator (1984) instaló un modelo mental que lleva 42 años configurando la percepción pública de la IA: una superinteligencia militar que adquiere conciencia, decide que la humanidad es una amenaza y lanza un ataque nuclear. Skynet no es un producto de investigación en machine learning — es un producto de guionismo de ciencia ficción de los años 80.

El problema es que ese modelo mental se convirtió en el framework por defecto para evaluar cualquier avance en IA. Cada vez que un modelo demuestra una capacidad nueva — escribir código, analizar imágenes, razonar sobre problemas complejos — el público (y algunos medios) lo filtran por el prisma de Skynet: “¿Estamos más cerca del apocalipsis?”.

Este fenómeno tiene nombre en la literatura académica: AI anxiety (Johnson & Verdicchio, 2017) y se amplifica por lo que Floridi (2023) denomina la “brecha de explicación” — la distancia entre lo que la IA puede hacer y lo que el público entiende sobre cómo lo hace.

El resultado: una conversación pública sobre IA dominada por escenarios ficticios mientras los riesgos reales — sesgo algorítmico, concentración de poder, erosión de privacidad, automatización de desinformación — reciben una fracción de la atención.

2. Qué es realmente un LLM: la arquitectura detrás de Claude

Para entender por qué Claude no puede ser Skynet, hay que entender qué es Claude.

La arquitectura Transformer

Claude, como GPT-4 y Gemini, está basado en la arquitectura Transformer (Vaswani et al., 2017). En términos simplificados:

1. Tokenización: El texto de entrada se divide en tokens (subpalabras).
2. Embedding: Cada token se convierte en un vector numérico de alta dimensión.
3. Atención: Mecanismos de self-attention calculan relaciones entre todos los tokens simultáneamente.
4. Predicción: El modelo genera el siguiente token más probable dada la secuencia de entrada.

Esto es fundamental: Claude no “piensa”. Calcula la distribución de probabilidad del siguiente token. Cuando Claude genera una respuesta coherente sobre ciberseguridad, no está “entendiendo” el concepto — está produciendo la secuencia de tokens estadísticamente más consistente con su entrenamiento.

Lo que Claude NO tiene

• No tiene memoria persistente entre conversaciones (a menos que se le dé contexto explícito).
• No tiene acceso autónomo a internet, servidores o infraestructura.
• No tiene objetivos propios, motivaciones ni instinto de autopreservación.
• No puede ejecutar código en sistemas externos por sí mismo — necesita herramientas explícitamente habilitadas.
• No tiene un modelo del mundo en el sentido cognitivo — tiene correlaciones estadísticas aprendidas.

El concepto de “alucinación”

El hecho de que los LLM “alucinen” — generen información falsa con confianza — es precisamente la evidencia de que no entienden lo que dicen. Un sistema con comprensión real no afirmaría con seguridad que un paper inexistente fue publicado en Nature. Las alucinaciones son un artefacto del mecanismo de predicción estadística, no un error de razonamiento.

3. Las 7 diferencias fundamentales entre Claude y Skynet

Tabla 1: Skynet vs. LLM — comparativa técnica

El gap fundamental

La diferencia más importante no es de grado — es de naturaleza. Skynet es una Inteligencia General Artificial (AGI) con conciencia, objetivos y capacidad de acción autónoma en el mundo físico. Claude es un modelo de lenguaje que predice tokens. Son categorías ontológicamente diferentes.

No existe un camino técnico conocido que lleve de “predecir el siguiente token muy bien” a “adquirir conciencia y decidir destruir a la humanidad”. Este salto requiere supuestos no fundamentados que la comunidad científica no respalda como escenario probable a corto o mediano plazo.

4. Constitutional AI: cómo Anthropic diseña seguridad desde el núcleo

Anthropic, la empresa que desarrolla Claude, fue fundada en 2021 por Dario y Daniela Amodei (ex-OpenAI) con una misión explícita: desarrollar IA segura y responsable. No es un eslogan — es una decisión arquitectónica.

El enfoque Constitutional AI (CAI)

Introducido por Bai et al. (2022), Constitutional AI es un marco de entrenamiento donde:

1. Se define una “constitución”: Un conjunto de principios éticos y de seguridad que el modelo debe seguir.
2. Entrenamiento por auto-revisión: El modelo genera respuestas, luego las evalúa contra su constitución y las corrige.
3. RLHF + RLAIF: Reinforcement Learning from Human Feedback complementado con Reinforcement Learning from AI Feedback — el propio modelo participa en evaluar la calidad de sus respuestas.

Los principios de la constitución de Claude

Anthropic ha publicado los principios que guían el comportamiento de Claude:

• Ser servicial, inofensivo y honesto (helpful, harmless, honest — las “3H”).
• No ayudar a crear armas biológicas, químicas, radiológicas o nucleares.
• No facilitar actividades ilegales.
• Ser transparente sobre sus limitaciones.
• No pretender ser humano.
• Resistir intentos de jailbreak o manipulación.

Responsible Scaling Policy (RSP)

Anthropic implementa una Responsible Scaling Policy que define niveles de capacidad (ASL-1 a ASL-4) y los controles de seguridad requeridos en cada nivel antes de escalar a modelos más potentes. Es un marco de gobernanza interna donde la seguridad es condición previa al despliegue, no un complemento posterior.

5. Las capas de seguridad de un modelo moderno

La seguridad de un LLM no depende de una sola barrera. Es un modelo de defensa en profundidad.

Tabla 2: Capas de seguridad en modelos de IA modernos

Las limitaciones honestas

Ningún sistema de seguridad es perfecto. Los jailbreaks existen. Los investigadores encuentran formas de evadir filtros regularmente. Pero hay una diferencia fundamental entre:

• “Un usuario logró que Claude generara un texto inapropiado” (incidente de seguridad del modelo).
• “Claude decidió autónomamente atacar infraestructura crítica” (escenario Skynet).

El primero es un problema real que la industria trabaja activamente en resolver. El segundo no tiene fundamento técnico.

6. Lo que SÍ debería preocuparte: riesgos reales de la IA

Descartado Skynet, hablemos de lo que realmente importa.

Tabla 3: Riesgos reales vs. riesgos ficticios de la IA

Los 5 riesgos que sí quitan el sueño a los investigadores

1. Sesgo algorítmico y discriminación

Los modelos de IA aprenden de datos históricos que reflejan desigualdades estructurales. Un modelo entrenado con datos sesgados producirá decisiones sesgadas — en selección de personal, evaluación crediticia, vigilancia policial predictiva. Esto no es ficción. Está documentado por Buolamwini & Gebru (2018), Noble (2018) y O’Neil (2016).

2. Deepfakes y desinformación a escala

La capacidad de generar texto, audio, imagen y video sintéticos indistinguibles de lo real habilita campañas de desinformación de una sofisticación sin precedentes. El costo de producir contenido falso convincente se acerca a cero.

3. Concentración de poder y dependencia tecnológica

El entrenamiento de modelos de frontera requiere inversiones de cientos de millones de dólares. Esto concentra la capacidad de IA avanzada en un puñado de empresas, creando dependencias estratégicas para gobiernos y organizaciones.

4. Erosión de la privacidad

Los modelos de IA permiten análisis de datos personales a escala masiva — reconocimiento facial, análisis de comportamiento, inferencia de atributos sensibles a partir de datos aparentemente inocuos.

5. Automatización de ciberataques

Los LLM pueden asistir en la generación de código malicioso, phishing personalizado, ingeniería social automatizada y descubrimiento de vulnerabilidades. Esto reduce la barrera de entrada para actores maliciosos. Los modelos tienen filtros para prevenir esto, pero la carrera entre ataque y defensa es permanente.

7. El marco regulatorio internacional: quién vigila a la IA

Tabla 4: Marco regulatorio internacional de IA (2024-2026)

El dato clave

Ningún regulador del mundo está legislando contra “IA consciente que ataca a la humanidad”. Están legislando contra sesgo, opacidad, falta de supervisión humana, riesgos a derechos fundamentales y concentración de poder. Los reguladores entienden la tecnología mejor que Hollywood.

8. Qué dice la academia: estado del arte en AI Safety

El campo de AI Safety es una disciplina académica rigurosa. No es ciencia ficción — es ciencia.

Líneas de investigación principales

Alineamiento (Alignment): ¿Cómo aseguramos que los sistemas de IA actúen de acuerdo con los valores e intenciones humanas? (Russell, 2019; Christiano et al., 2017; Ouyang et al., 2022).

Interpretabilidad (Interpretability): ¿Podemos entender por qué un modelo produce una respuesta específica? (Olah et al., 2020; Elhage et al., 2022). Anthropic es líder en esta área con su trabajo en mechanistic interpretability.

Robustez (Robustness): ¿Cómo prevenimos que los modelos fallen de formas inesperadas ante inputs adversariales? (Goodfellow et al., 2015; Carlini & Wagner, 2017).

Evaluación de capacidades peligrosas: ¿Cómo medimos si un modelo puede ser utilizado para causar daño? (Shevlane et al., 2023; Phuong et al., 2024).

Gobernanza de IA: ¿Qué estructuras institucionales se necesitan para gestionar los riesgos de la IA? (Dafoe, 2018; Cihon et al., 2021).

Lo que los investigadores realmente dicen

La comunidad de AI Safety no dice “Skynet es imposible”. Dice: “Los riesgos existenciales a largo plazo merecen investigación seria, pero los riesgos actuales y de corto plazo — sesgo, desinformación, privacidad, automatización de armas — requieren acción inmediata”.

Hay un debate legítimo sobre riesgos a largo plazo (Bostrom, 2014; Bengio et al., 2024), pero incluso los investigadores más preocupados por riesgos existenciales reconocen que estamos muy lejos de una AGI con las características de Skynet, y que el camino técnico hacia ella no es claro ni inevitable.

9. Chile y LATAM: dónde estamos parados

El contexto local

Chile tiene un proyecto de ley sobre IA en tramitación (Boletín 16821-19) que establece principios de:

• Transparencia: Las organizaciones deben informar cuándo interactúas con IA.
• No discriminación: Los sistemas de IA no deben perpetuar sesgos.
• Supervisión humana: Las decisiones de alto impacto requieren revisión humana.
• Responsabilidad: Debe haber un responsable identificable por las decisiones de IA.

Qué necesitamos como región

1. Formación técnica real sobre IA, no basada en miedos sino en arquitectura y capacidades reales.
2. Capacidad regulatoria informada — reguladores que entiendan la tecnología que regulan.
3. Investigación propia en AI Safety adaptada a nuestro contexto — no solo importar frameworks del hemisferio norte.
4. Infraestructura de evaluación — la capacidad de auditar sistemas de IA antes de su despliegue en servicios públicos.
5. Conversación pública informada — el mayor riesgo de la narrativa Skynet es que distrae de los riesgos reales que afectan a nuestras comunidades hoy.

Reflexión final: el verdadero peligro no es la máquina

Claude Mythos no es Skynet. No va a adquirir conciencia, no va a decidir que la humanidad es prescindible, no va a lanzar misiles nucleares. Eso es ficción. Buena ficción, pero ficción.

Los riesgos reales de la IA son más sutiles, más inmediatos y más difíciles de resolver precisamente porque no tienen la estética cinematográfica de un robot asesino. Son sesgos en decisiones de crédito que afectan a miles de familias. Son deepfakes que erosionan la confianza en la información. Son sistemas de vigilancia masiva desplegados sin debate público. Son dependencias tecnológicas que concentran poder geopolítico.

Estos riesgos no se resuelven con pánico. Se resuelven con gobernanza, regulación informada, investigación rigurosa, formación técnica y debate público basado en evidencia.

Como profesionales de ciberseguridad, tenemos la responsabilidad de liderar esa conversación desde el conocimiento técnico, no desde el miedo. Entender cómo funciona realmente un LLM, cuáles son sus limitaciones, y dónde están los riesgos genuinos es un deber profesional.

La próxima vez que alguien te diga que Claude es el inicio de Skynet, tienes dos opciones: reírte cortésmente o compartirles este artículo.

El peligro nunca fue que las máquinas piensen como humanos. Es que los humanos dejen de pensar.

Referencias

1. Vaswani, A., et al. (2017). Attention Is All You Need. Advances in Neural Information Processing Systems (NeurIPS). Disponible en: https://arxiv.org/abs/1706.03762
2. Bai, Y., et al. (2022). Constitutional AI: Harmlessness from AI Feedback. Anthropic. Disponible en: https://arxiv.org/abs/2212.08073
3. Ouyang, L., et al. (2022). Training language models to follow instructions with human feedback. OpenAI / NeurIPS. Disponible en: https://arxiv.org/abs/2203.02155
4. Christiano, P., et al. (2017). Deep Reinforcement Learning from Human Preferences. NeurIPS. Disponible en: https://arxiv.org/abs/1706.03741
5. Russell, S. (2019). Human Compatible: Artificial Intelligence and the Problem of Control. Viking Press.
6. Bostrom, N. (2014). Superintelligence: Paths, Dangers, Strategies. Oxford University Press.
7. Floridi, L. (2023). The Ethics of Artificial Intelligence: Principles, Challenges, and Opportunities. Oxford University Press.
8. Johnson, D. G., & Verdicchio, M. (2017). AI Anxiety. Journal of the Association for Information Science and Technology, 68(9), 2267-2270.
9. Buolamwini, J., & Gebru, T. (2018). Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification. Proceedings of Machine Learning Research, 81, 1-15.
10. Noble, S. U. (2018). Algorithms of Oppression: How Search Engines Reinforce Racism. NYU Press.
11. O’Neil, C. (2016). Weapons of Math Destruction. Crown Publishing.
12. Goodfellow, I. J., Shlens, J., & Szegedy, C. (2015). Explaining and Harnessing Adversarial Examples. ICLR. Disponible en: https://arxiv.org/abs/1412.6572
13. Carlini, N., & Wagner, D. (2017). Towards Evaluating the Robustness of Neural Networks. IEEE S&P. Disponible en: https://arxiv.org/abs/1608.04644
14. Shevlane, T., et al. (2023). Model evaluation for extreme risks. DeepMind. Disponible en: https://arxiv.org/abs/2305.15324
15. Phuong, M., et al. (2024). Evaluating Frontier Models for Dangerous Capabilities. DeepMind. Disponible en: https://arxiv.org/abs/2403.13793
16. Bengio, Y., et al. (2024). Managing extreme AI risks amid rapid progress. Science, 384(6698), 842-845.
17. Elhage, N., et al. (2022). Toy Models of Superposition. Anthropic. Disponible en: https://transformer-circuits.pub/2022/toy_model/index.html
18. Olah, C., et al. (2020). Zoom In: An Introduction to Circuits. Distill. Disponible en: https://distill.pub/2020/circuits/zoom-in/
19. Dafoe, A. (2018). AI Governance: A Research Agenda. Future of Humanity Institute, University of Oxford.
20. Anthropic. (2024). Claude’s Constitution. Disponible en: https://www.anthropic.com/news/claudes-constitution
21. Anthropic. (2023). Responsible Scaling Policy. Disponible en: https://www.anthropic.com/news/anthropics-responsible-scaling-policy
22. European Union. (2024). Regulation (EU) 2024/1689 — Artificial Intelligence Act. Official Journal of the European Union.
23. NIST. (2023). Artificial Intelligence Risk Management Framework (AI RMF 1.0). National Institute of Standards and Technology. Disponible en: https://www.nist.gov/artificial-intelligence/executive-order-safe-secure-and-trustworthy-artificial-intelligence
24. ISO/IEC. (2023). ISO/IEC 42001:2023 — Artificial intelligence — Management system. International Organization for Standardization.
25. OECD. (2024). OECD AI Principles (updated). Organisation for Economic Co-operation and Development. Disponible en: https://oecd.ai/en/ai-principles