La especialización que el mercado necesita y casi nadie tiene
Por Sebastián Vargas Yáñez | CEO TTPSEC SpA · Academic Director · VP SOCHISI · PhD Candidate · ISO/IEC 42001 & 27001 LA · Applied AI & Cybersecurity Research
TL;DR — La intersección ciberseguridad + IA es la especialización con mayor demanda y menor oferta en 2026. Salarios de USD 150K–280K en mercados maduros. Este artículo mapea todo el ecosistema formativo: 25+ certificaciones con precios y URLs, 10+ herramientas open-source para práctica, 7 libros de referencia, 6 frameworks regulatorios, programas universitarios, conferencias, CTFs y un roadmap de desarrollo profesional por nivel de experiencia. Si quieres saber por dónde partir — y por dónde no — sigue leyendo.
Índice de contenido
- Por qué esta especialización y por qué ahora
- Mapa del ecosistema: las 4 dimensiones de la seguridad en IA
- Certificaciones profesionales — análisis completo
- Estándares y frameworks regulatorios
- Programas universitarios
- Libros de referencia
- Herramientas open-source para práctica
- Plataformas de práctica hands-on y CTFs
- Conferencias y comunidades
- Roadmap de desarrollo profesional
- Contexto regulatorio: lo que viene en Chile y LATAM
- Reflexión final
- Referencias
Índice de tablas
| ID | Título | Sección |
|---|---|---|
| Tabla 1 | Certificaciones de seguridad en IA — comparativa completa | §3 |
| Tabla 2 | Certificaciones de proveedores cloud | §3 |
| Tabla 3 | Frameworks y estándares de seguridad en IA | §4 |
| Tabla 4 | Libros de referencia en seguridad de IA | §6 |
| Tabla 5 | Herramientas open-source para seguridad de IA | §7 |
| Tabla 6 | Plataformas de práctica y CTFs | §8 |
| Tabla 7 | Conferencias clave 2026 | §9 |
| Tabla 8 | Roadmap de certificación por nivel de experiencia | §10 |
| Tabla 9 | Stack de inversión estimado por nivel | §10 |
1. Por qué esta especialización y por qué ahora
La seguridad de sistemas de inteligencia artificial no es una moda — es una necesidad estructural que acaba de explotar.
Los números que justifican la urgencia
- MITRE ATLAS v5.4.0 (febrero 2026) documenta 84 técnicas de ataque a sistemas de IA, 42 casos reales y 32 mitigaciones — incluyendo técnicas nuevas para IA agéntica como “Publish Poisoned AI Agent Tool” y “Escape to Host”
- Los ataques adversariales habilitados por IA crecieron un 89 % respecto al período anterior
- La inyección de prompt aparece en el 73 % de los despliegues productivos de IA según OWASP
- El EU AI Act entra en plena aplicación en agosto de 2026, exigiendo evaluaciones adversariales obligatorias para sistemas de IA de alto riesgo
- Chile tiene un proyecto de ley de IA en el Senado con multas de hasta 20.000 UTM
El gap profesional
Mientras las organizaciones despliegan IA a velocidad récord, los equipos de seguridad que deben proteger esos sistemas no existen todavía en la mayoría de las organizaciones. En la Radiografía Q1 2026 documentamos un déficit global de 4,8 millones de profesionales de ciberseguridad. La intersección con IA reduce ese pool a una fracción mínima.
Los salarios reflejan la escasez
| Rol | Rango salarial (USD/año) | Fuente |
|---|---|---|
| AI Security Engineer | $152.000 – $210.000 | Glassdoor, ZipRecruiter 2026 |
| AI Security Specialist (top earners) | Hasta $274.490 | ZipRecruiter 2026 |
| Profesional certificado CAISP | $175.689 – $213.882 | Practical DevSecOps 2026 |
| AI Security roles (rango amplio) | $180.000 – $280.000 | Múltiples fuentes |
No es una promesa motivacional — es oferta y demanda. Hay más sistemas de IA que proteger que personas capacitadas para hacerlo.
2. Mapa del ecosistema: las 4 dimensiones de la seguridad en IA
Antes de elegir qué estudiar, necesitas entender que “ciberseguridad aplicada a IA” no es una sola cosa. Son al menos cuatro dimensiones complementarias:
Dimensión 1 — Seguridad DE la IA (Securing AI Systems)
Proteger los sistemas de IA contra ataques: envenenamiento de datos, extracción de modelos, inyección de prompt, jailbreaking, manipulación de agentes. Aquí viven MITRE ATLAS, OWASP LLM Top 10 y la mayoría de las certificaciones nuevas.
Dimensión 2 — IA PARA la seguridad (AI for Security Operations)
Usar IA como herramienta defensiva: detección de amenazas con ML, automatización de SOC, análisis de malware con LLMs, triage inteligente de alertas. Es lo que ya están haciendo las plataformas XDR/SIEM modernas.
Dimensión 3 — Gobernanza y cumplimiento de IA (AI Governance)
Marcos normativos, gestión de riesgos, auditoría de sistemas de IA, evaluaciones de impacto. Aquí viven ISO 42001, NIST AI RMF, EU AI Act y los roles de DPO/AI Governance Officer.
Dimensión 4 — IA ofensiva (Offensive AI / AI Red Teaming)
Usar técnicas de IA para atacar y evaluar sistemas — tanto sistemas de IA como sistemas tradicionales. Red teaming de LLMs, generación adversarial, evasión de controles. La frontera más nueva y la que más talento demanda.
La recomendación: no intentes cubrir las cuatro al mismo tiempo. Elige tu dimensión principal según tu perfil actual, y desarrolla competencias complementarias en las otras.
3. Certificaciones profesionales — análisis completo
Esta es la sección que probablemente viniste a buscar. La ordeno por categoría, con todos los datos que necesitas para decidir.
3.1 Certificaciones dedicadas a seguridad de IA
Tabla 1 — Certificaciones de seguridad en IA — comparativa completa
CompTIA SecAI+ (CY0-001)
| Atributo | Detalle |
|---|---|
| Emisor | CompTIA |
| Lanzamiento | Febrero 2026 |
| Costo examen | ~USD 359–425 |
| Formato | Máx. 60 preguntas (múltiple opción + performance-based), 60 min, aprobación 600/900 |
| Prerequisitos | Recomendado 3–4 años experiencia TI, 2+ años ciberseguridad. Security+, CySA+ o PenTest+ recomendados (no obligatorios) |
| Contenido | Adversarial ML, defensa contra prompt injection, gobernanza de IA, operaciones SOC con IA, OWASP LLM Top 10, MITRE ATLAS, MLSecOps seguro |
| Renovación | 3 años (CE program) |
| URL | comptia.org/certifications/secai |
| Veredicto | Mejor punto de entrada vendor-neutral. Precio accesible. Reconocimiento CompTIA. Ideal para quien ya tiene Security+ y quiere especializarse |
ISACA Advanced in AI Security Management (AAISM)
| Atributo | Detalle |
|---|---|
| Emisor | ISACA |
| Costo | USD 459 (miembros) / USD 599 (no miembros) + USD 50 fee de aplicación |
| Formato | 90 preguntas múltiple opción, 150 min, aprobación 450/800 |
| Prerequisitos | Requiere CISM o CISSP activo |
| Dominios | AI Governance & Program Management (31 %), AI Risk & Opportunity Management (31 %), AI Technologies & Controls (38 %) |
| Contenido | Gestión de seguridad específica para IA, ataques adversariales, gobernanza de modelos, privacidad en datos de entrenamiento, seguridad de infraestructura IA |
| URL | isaca.org/credentialing/aaism |
| Veredicto | La opción premium para CISOs y managers. Prerequisito fuerte (CISM/CISSP) le da peso. Foco en gobernanza más que en técnica ofensiva |
ISACA Advanced in AI Risk (AAIR) — próximamente Q2 2026
| Atributo | Detalle |
|---|---|
| Emisor | ISACA |
| Costo | TBD (estimado similar a AAISM) |
| Prerequisitos | Esperado CRISC o similar |
| Contenido | Gestión de riesgos asociados a la integración de IA en organizaciones |
| URL | isaca.org/credentialing/aair |
| Veredicto | Complemento natural de AAISM para perfil de gestión de riesgos |
Certified AI Security Professional (CAISP)
| Atributo | Detalle |
|---|---|
| Emisor | Practical DevSecOps (HYSN Technologies) |
| Costo | ~USD 1.099 (incluye labs, examen, 3 años de materiales) |
| Formato | Examen 100 % práctico — debes asegurar sistemas de IA reales, no responder preguntas |
| Prerequisitos | Ninguno formal; se recomienda experiencia en ciberseguridad |
| Duración | 30+ ejercicios hands-on, 60 días de acceso a labs en navegador, 36 CPEs |
| Contenido | Técnicas de ataque y defensa, seguridad de pipeline DevSecOps, integridad de cadena de suministro de IA, MITRE ATLAS, NIST AI RMF, EU AI Act, OWASP LLM Top 10, prompt injection, robo de modelos, envenenamiento de datos |
| Renovación | Credencial de por vida, sin renovación |
| URL | practical-devsecops.com/certified-ai-security-professional |
| Veredicto | La más técnica y práctica de la lista. Examen hands-on le da credibilidad real. Credencial vitalicia. Precio competitivo para lo que incluye. Mi recomendación para perfiles técnicos |
IAPP AI Governance Professional (AIGP)
| Atributo | Detalle |
|---|---|
| Emisor | IAPP (International Association of Privacy Professionals) |
| Costo | USD 649 (miembros) / USD 799 (no miembros) |
| Entrenamiento | Autoestudio (~USD 130–200 Udemy) o boot camp (~USD 2.000–2.400) |
| Contenido | Gobernanza de IA, IA responsable, frameworks de cumplimiento, despliegue ético de IA |
| URL | iapp.org/certify/aigp |
| Veredicto | Ideal para perfiles de governance/privacy/DPO que necesitan entender IA. No es técnica — es estratégica |
MLSecOps Foundations Certification
| Atributo | Detalle |
|---|---|
| Emisor | Protect AI |
| Costo | GRATIS |
| Duración | 4 partes, 20 módulos (~3 min cada uno) |
| Autora | Diana Kelley, CISO de Protect AI |
| Contenido | Seguridad de modelos ML, evaluaciones de riesgo AI-aware, auditoría de cadena de suministro, respuesta a incidentes, construcción de equipos MLSecOps |
| Público | ML engineers, data scientists, AppSec/InfoSec |
| URL | protectai.com/mlsecops-foundations-certification |
| Veredicto | Gratuita y excelente como punto de partida. Corta, enfocada, de una CISO reconocida. No reemplaza una certificación formal pero cuesta $0 y te da fundamentos sólidos |
CMU SEI CERT AI for Cybersecurity Professional Certificate
| Atributo | Detalle |
|---|---|
| Emisor | Carnegie Mellon University — Software Engineering Institute (CERT Division) |
| Costo | ~USD 1.500 (eLearning) |
| Duración | 4+ horas de contenido + ejercicios y labs; hasta 2 años para completar |
| Renovación | No expira (vitalicia) |
| Contenido | IA aplicada a operaciones de ciberseguridad |
| URL | sei.cmu.edu/credentials/cert-artificial-intelligence-ai-cybersecurity-professional-certificate |
| Veredicto | El sello Carnegie Mellon tiene peso académico y profesional. Buena inversión para quien valora credenciales universitarias |
CSA Trustworthy AI Security Expert (TAISE)
| Atributo | Detalle |
|---|---|
| Emisor | Cloud Security Alliance (CSA) |
| Costo | ~USD 395 (examen) |
| Formato | Examen online supervisado, 90 minutos, 60 preguntas múltiple opción |
| Prerequisitos | Recomendado conocimiento previo en seguridad cloud y fundamentos de IA |
| Contenido | Seguridad de IA en entornos cloud, gobernanza de modelos de IA, evaluación de riesgos de IA, controles de seguridad para sistemas de IA, integración con frameworks CSA (CCM, CAIQ), privacidad en datos de entrenamiento, cadena de suministro de modelos, IA responsable |
| Renovación | Cada 2 años (créditos CPE) |
| URL | cloudsecurityalliance.org/education/taise |
| Veredicto | Certificación clave si trabajas en seguridad cloud + IA. CSA es la autoridad global en seguridad cloud — su credencial TAISE llena el gap entre CCSK/CCZT y la seguridad específica de IA. Complementa perfectamente a SecAI+ (vendor-neutral general) o AAISM (gobernanza). Si tu organización consume IA como servicio cloud (que es la mayoría), esta es imprescindible |
3.2 Certificaciones EC-Council — Suite Enterprise AI (febrero 2026)
EC-Council lanzó una suite completa de credenciales de IA en febrero 2026:
Certified Responsible AI Governance & Ethics (C|RAGE)
| Atributo | Detalle |
|---|---|
| Costo | Basado en consulta; USD 100 fee de aplicación (ruta por experiencia) |
| Prerequisitos | 2 años experiencia InfoSec O entrenamiento oficial EC-Council |
| Contenido | Gobernanza, cumplimiento NIST AI RMF e ISO/IEC 42001, IA responsable a escala empresarial |
| URL | eccouncil.org/ai-courses/certified-responsible-ai-governance-ethics-crage |
Certified Offensive AI Security Professional (COASP)
| Atributo | Detalle |
|---|---|
| Lanzamiento | Marzo 2026 |
| Duración | ~5 días de entrenamiento acelerado |
| Contenido | AI red teaming end-to-end: prompt injection, extracción de modelos, envenenamiento de datos de entrenamiento, LLM jailbreaking. Alineado con OWASP LLM Top 10, NIST AI RMF, ISO 42001 |
| URL | eccouncil.org/ai-courses/certified-offensive-ai-security-professional-coasp |
Artificial Intelligence Essentials (AIE) y Certified AI Program Manager (C|AIPM)
- AIE: fluencia base en IA, práctico no teórico. URL
- C|AIPM: implementación de programas de IA con accountability y gestión de riesgos. URL
3.3 Certificaciones GIAC/SANS — las más intensivas (y costosas)
SANS lanzó 4 certificaciones de IA durante 2026. Son las más caras del mercado pero también las más profundas técnicamente.
GIAC AI Security Automation Engineer (GASAE)
| Atributo | Detalle |
|---|---|
| Curso asociado | SEC598 |
| Costo | ~USD 5.250–8.260 (curso) + USD 999 (examen) |
| Contenido | Automatización práctica de IA en operaciones ofensivas, defensivas y cloud |
GIAC Offensive AI Analyst (GOAA)
| Atributo | Detalle |
|---|---|
| Curso asociado | SEC535 |
| Costo | ~USD 5.250 (curso) + USD 999 (examen) |
| Contenido | Técnicas ofensivas de IA aplicadas a ciberseguridad moderna |
GIAC AI Platform Security (GAIPS)
| Atributo | Detalle |
|---|---|
| Curso asociado | SEC545 |
| Costo | ~USD 8.260 (curso) + USD 999 (examen) |
| Disponibilidad general | Julio 2026 |
| Contenido | Seguridad de aplicaciones GenAI y LLM, 5 días, 30 CPEs, 20 labs hands-on |
GIAC AI Security Fundamentals
| Atributo | Detalle |
|---|---|
| Curso asociado | SEC411 |
| Contenido | Principios de seguridad en IA, defensa de GenAI/LLM, 18+ horas, 5 labs |
- Página de precios GIAC: giac.org/pricing
- Área de foco IA: giac.org/focus-areas/artificial-intelligence
- Veredicto: Si tu empresa paga la formación, son las mejores. Si pagas de tu bolsillo, el ROI es cuestionable frente a alternativas como CAISP a USD 1.099
3.4 Certificaciones de red teaming de IA
AI Red Teaming Professional (AIRTP+)
| Atributo | Detalle |
|---|---|
| Emisor | Learn Prompting |
| Costo | ~USD 199/año (renovación) |
| Formato | Cohorte en vivo de 4 semanas o autoestudio + examen de 24+ horas |
| Contenido | Ataque y defensa de LLMs, prompt injection, jailbreak, técnicas Crescendo, GCG, PAIR, TAP |
| Certificados de | Microsoft, Google, Capital One, IBM, Walmart |
| URL | learnprompting.org/courses/ai-security-masterclass |
Certified AI Red Teaming Professional (CAIRTP)
| Atributo | Detalle |
|---|---|
| Emisor | Tonex Training |
| Duración | 2 días |
| Contenido | Vectores de ataque específicos de IA, modelos de amenaza, OWASP LLM Top 10 aplicado a red teaming |
| URL | tonex.com/training-courses/certified-ai-red-teaming-professional-cairtp |
3.5 Certificaciones de proveedores cloud
Tabla 2 — Certificaciones de proveedores cloud con componente IA/seguridad
| Proveedor | Certificación | Costo aprox. | Componente IA | URL |
|---|---|---|---|---|
| AWS | Security – Specialty (SCS-C03) | ~USD 300 | Actualizada con seguridad de GenAI/ML | aws.amazon.com/certification |
| AWS | Generative AI Developer – Professional | ~USD 300 | Modelos fundacionales, RAG, bases vectoriales | aws.amazon.com/certification |
| Google Cloud | Professional Cloud Security Engineer | ~USD 300 | Actualizada 2026: seguridad de workloads IA, zero trust | cloud.google.com/certification |
| Microsoft | 9 certificaciones IA (beta marzo-abril 2026) | Varía | MLOps, AI App & Agent Development, Cloud + AI Security | learn.microsoft.com/certifications |
| ISC2 | Building AI Strategy Certificate | ~USD 200 | 6 cursos on-demand, 16 horas | isc2.org/landing/ai-security-skills |
3.6 Formación ISO/IEC 42001 — gestión de sistemas de IA
La ISO/IEC 42001:2023 es el primer estándar internacional para Sistemas de Gestión de IA (AIMS). Es el equivalente de ISO 27001 para la IA.
| Curso | Proveedor | Duración | Costo aprox. | URL |
|---|---|---|---|---|
| ISO 42001 Lead Auditor | PECB | 5 días (4 + examen) | USD 2.000–2.500 | pecb.com/iso-iec-42001-lead-auditor |
| ISO 42001 Lead Implementer | PECB | 5 días | USD 2.000–2.500 | pecb.com/iso-iec-42001-lead-implementer |
| Certified ISO 42001 Lead Auditor | GSDC | Varía | Consultar | gsdcouncil.org/certified-iso-42001-lead-auditor |
| ISO 42001 Lead Auditor (intro) | Advisera | Online | Gratuito | advisera.com/training/iso-42001-lead-auditor-course |
| ISO 42001 AI Lead Implementer + Auditor | CIS (NICCS/CISA) | Varía | Consultar | niccs.cisa.gov/training/catalog |
3.7 Entrenamiento complementario
| Curso | Proveedor | Costo | Contenido | URL |
|---|---|---|---|---|
| Attacking, Defending, and Leveraging AI/LLM Systems | Antisyphon Training | USD 725–1.850 | 16h hands-on. LLMs, transformers, prompt injection, jailbreak, OWASP LLM Top 10, MITRE ATLAS, CTF | antisyphontraining.com |
| Certified NIST AI RMF 1.0 Architect | Certified InfoSec | Consultar | 60 días on-demand. Catálogo NICCS/CISA | certifiedinfosec.com |
| NIST AI RMF Masterclass 2026 | Udemy | ~USD 30–50 | Autoestudio completo del framework | udemy.com |
| OWASP Top 10 LLM and GenAI | Snyk Learn | Gratuito | OWASP LLM Top 10 completo | learn.snyk.io/learning-paths/owasp-top-10-llm |
| EU AI Act Compliance | Learning Tree | Consultar | 4 sesiones interactivas online | learningtree.com |
| AIActTPro (AI Act Trained Professional) | artificial-intelligence-act.com | Consultar | Examen disponible dentro de 4 años de pago | artificial-intelligence-act.com |
4. Estándares y frameworks regulatorios
Si vas a trabajar en seguridad de IA, necesitas dominar estos frameworks. No son opcionales — son el lenguaje del campo.
Tabla 3 — Frameworks y estándares de seguridad en IA
| Framework | Emisor | Tipo | Qué cubre | URL |
|---|---|---|---|---|
| OWASP Top 10 for LLM Applications v2.0 | OWASP | Guía técnica | 10 vulnerabilidades críticas en LLMs: prompt injection (#1), divulgación de info sensible, cadena de suministro, envenenamiento, output handling, excessive agency, system prompt leakage, vector/embedding weaknesses, misinformation, consumo no acotado | genai.owasp.org/llm-top-10 |
| OWASP Top 10 for Agentic Applications (2026) | OWASP | Guía técnica | Nuevo — vulnerabilidades específicas de sistemas agénticos de IA | genai.owasp.org/resource/owasp-top-10-for-agentic-applications |
| OWASP ML Security Top 10 | OWASP | Guía técnica | 10 riesgos para ML: manipulación de input, envenenamiento, inversión de modelo, inferencia de membresía, robo de modelo, cadena de suministro, transfer learning attacks | mltop10.info |
| MITRE ATLAS v5.4.0 | MITRE | Taxonomía de amenazas | 16 tácticas, 84 técnicas, 32 mitigaciones, 42 casos. El ATT&CK para IA | atlas.mitre.org |
| NIST AI RMF 1.0 | NIST | Framework de gestión de riesgos | 4 funciones: Govern, Map, Measure, Manage. Voluntario, socio-técnico | nist.gov/itl/ai-risk-management-framework |
| NIST AI 600-1 (GenAI Profile) | NIST | Perfil complementario | 200+ acciones específicas para riesgos de LLM y GenAI en 72 subcategorías | nist.gov |
| NIST AI 100-2 E2025 | NIST | Taxonomía técnica | Adversarial ML: taxonomía y terminología. Incluye ataques a GenAI, RAG, agentes. Envenenamiento, extracción, evasión, inferencia | csrc.nist.gov/pubs/ai/100/2/e2025 |
| ISO/IEC 42001:2023 | ISO | Estándar certificable | Sistemas de Gestión de IA (AIMS). El “ISO 27001 de la IA” | iso.org |
| ISO/IEC 23894:2023 | ISO | Guía (no certificable) | Gestión de riesgos de IA, basada en ISO 31000 | iso.org |
| EU AI Act (Art. 15) | UE | Regulación | Ciberseguridad obligatoria para IA de alto riesgo: resiliencia contra envenenamiento, ejemplos adversariales, ataques de confidencialidad | artificialintelligenceact.eu/article/15 |
| ENISA FAICP | ENISA | Framework | Framework for AI Cybersecurity Practices — marco multicapa de buenas prácticas | faicp-framework.com |
¿Cuáles priorizar?
- OWASP LLM Top 10 — es gratis, es práctico, y es lo que te van a preguntar en una entrevista
- MITRE ATLAS — si ya dominas ATT&CK, ATLAS es la extensión natural
- NIST AI RMF — si trabajas en gobernanza o necesitas comunicar riesgo a directivos
- ISO 42001 — si tu organización busca certificación o si quieres diferenciarte como auditor
- EU AI Act — si tu organización opera en Europa o si quieres anticipar regulación LATAM (que copia el modelo europeo)
5. Programas universitarios
Para quienes buscan profundidad académica:
| Universidad | Programa | Enfoque | Salario mediano egresados | URL |
|---|---|---|---|---|
| Carnegie Mellon | MS in AI Engineering: Information Security (MSAIE-IS) | Ofensivo y defensivo. IA/ML para ciberseguridad | USD 147.000 (1 año post-grado, 2024) | cmu.edu/ini/academics/msaie-is |
| Carnegie Mellon CyLab | Múltiples programas de posgrado en seguridad y privacidad | Investigación de frontera en seguridad | Varía | cylab.cmu.edu/education |
| Stanford | Cybersecurity Graduate Certificate | Perspectivas profesional, técnica y de política pública | Varía | online.stanford.edu |
| Johns Hopkins | AI for Cybersecurity Certificate | IA aplicada a operaciones de ciberseguridad | USD 1.200 (certificado) / USD 500 (curso individual) | engineering.jhu.edu |
6. Libros de referencia
Tabla 4 — Libros de referencia en seguridad de IA
| # | Título | Autor(es) | Editorial | Año | Enfoque | URL |
|---|---|---|---|---|---|---|
| 1 | Practical AI Security | Harriet Farlow | No Starch Press | 2026 | 30+ demos en Python. Ataque y defensa a lo largo del ciclo de vida de IA | nostarch.com/practical-ai-security |
| 2 | Adversarial AI Attacks, Mitigations, and Defense Strategies | John Sotiropoulos (co-lead OWASP LLM Top 10) | Packt | 2024 | 602 páginas. Modelado de amenazas, MLSecOps, ofensiva y defensiva | packtpub.com |
| 3 | The Developer’s Playbook for Large Language Model Security | Steve Wilson | O’Reilly | 2024 | Vulnerabilidades de LLMs. Basado en el conocimiento de 400+ expertos que crearon OWASP LLM Top 10 | oreilly.com |
| 4 | Privacy and Security for Large Language Models | Baihan Lin | O’Reilly | 2026 | Privacidad diferencial, aprendizaje federado, cifrado homomórfico para LLMs. Nivel intermedio-avanzado | oreilly.com |
| 5 | AI-Native LLM Security: Threats, Defenses, and Best Practices | Malik, Huang, Dawson | Packt | 2025 | System prompt leakage, debilidades vectoriales/embeddings en cadena de suministro RAG | packtpub.com |
| 6 | Adversarial Machine Learning | Jason Edwards | Wiley | 2025 | Ciclo completo de ML adversarial. Cómo se comprometen y aseguran modelos | amazon.com |
| 7 | Adversarial Example Detection and Mitigation Using ML | Varios | Springer | 2026 | Ataques a aprendizaje federado, defensas adversariales, vulnerabilidades biométricas, amenazas cuánticas | springer.com |
Orden de lectura recomendado
- Developer’s Playbook (Wilson) — si vienes de desarrollo o AppSec
- Practical AI Security (Farlow) — si quieres hands-on inmediato
- Adversarial AI Attacks (Sotiropoulos) — para profundidad técnica completa
- AI-Native LLM Security — para amenazas emergentes en RAG y agentes
- Privacy and Security for LLMs (Lin) — para el componente de privacidad
7. Herramientas open-source para práctica
No hay especialización sin práctica. Estas son las herramientas que usan los equipos de seguridad de IA en producción.
Tabla 5 — Herramientas open-source para seguridad de IA
| Herramienta | Mantenedor | Qué hace | Analogía | URL |
|---|---|---|---|---|
| Garak | NVIDIA | Escaneo de vulnerabilidades en LLMs: alucinaciones, fuga de datos, prompt injection, jailbreaks. Soporta HuggingFace, OpenAI, REST, GGUF | ”Nmap/Metasploit para LLMs” | github.com/NVIDIA/garak |
| PyRIT | Microsoft | Automatización de red teaming para GenAI. Identifica daños de seguridad y privacidad. GUI web incluida. Soporta OpenAI, Azure, Anthropic, Google, HuggingFace | ”Burp Suite para IA” | github.com/microsoft/PyRIT |
| Adversarial Robustness Toolbox (ART) | IBM Research / LFAI | Evaluación, defensa, certificación de modelos ML contra evasión, envenenamiento, extracción e inferencia. Soporta TF, PyTorch, scikit-learn | ”OWASP ZAP para modelos ML” | github.com/Trusted-AI/adversarial-robustness-toolbox |
| Promptfoo | Promptfoo (OpenAI) | CLI para evaluación y red teaming de apps LLM. 50+ tipos de vulnerabilidad. YAML declarativo + CI/CD | ”ESLint para prompts” | github.com/promptfoo/promptfoo |
| DeepTeam | Confident AI | Red teaming de LLMs. 40+ vulnerabilidades de seguridad. Soporta OWASP, NIST, MITRE, Aegis, BeaverTails | ”Framework integrado de evaluación” | github.com/confident-ai/deepteam |
| NeMo Guardrails | NVIDIA | Guardrails programables para sistemas conversacionales LLM: rails de input, diálogo y retrieval (RAG). Moderación, fact-checking, anti-jailbreak | ”WAF para LLMs” | github.com/NVIDIA-NeMo/Guardrails |
| LLM Guard | Protect AI | Seguridad de interacciones LLM. 35 scanners (15 input, 20 output). Bloquea prompt injection, fugas PII, outputs tóxicos. MIT license | ”IDS/IPS para LLMs” | github.com/protectai/llm-guard |
| Counterfit | Microsoft Azure | CLI para adversarial AI. Wrapper de ART y TextAttack. Agnóstico de modelo y entorno | ”Interfaz unificada de ataque” | github.com/Azure/counterfit |
| AI Red Teaming Playground Labs | Microsoft | Infraestructura de labs para entrenamientos de red teaming de IA | ”Laboratorio de práctica” | github.com/microsoft/AI-Red-Teaming-Playground-Labs |
Stack mínimo recomendado para empezar
- Garak — para entender cómo se escanean vulnerabilidades en LLMs
- PyRIT — para automatizar red teaming
- Promptfoo — para integrar seguridad en tu pipeline de desarrollo
- LLM Guard — para entender defensas en producción
Instalación de Garak: pip install -U git+https://github.com/NVIDIA/garak.git@main
Instalación de Promptfoo: npm install -g promptfoo
8. Plataformas de práctica hands-on y CTFs
La teoría sin práctica no sirve. Estas plataformas te permiten atacar y defender sistemas de IA en entornos controlados.
Tabla 6 — Plataformas de práctica y CTFs
| Plataforma | Tipo | Costo | Qué practicas | URL |
|---|---|---|---|---|
| Gandalf (Lakera) | Juego interactivo | Gratis | 7 niveles de prompt injection progresivos. 1M+ jugadores. Extensión “Agent Breaker” para IA agéntica | gandalf.lakera.ai |
| HackAPrompt 2.0 | Competencia | Gratis (premios USD 100K) | Prompt injection, indirect injection, manipulación de agentes, robo de información. 30.000+ participantes, 150+ países | hackaprompt.com |
| TryHackMe — AI/ML Security Threats | Room guiado | USD 14/mes o USD 100/año | Room dedicado a amenazas de seguridad AI/ML. Aprendizaje progresivo | tryhackme.com/room/aimlsecuritythreats |
| Microsoft AI Red Teaming Playground | Labs | Gratis (open source) | Infraestructura para correr entrenamientos de red teaming de IA | github.com/microsoft/AI-Red-Teaming-Playground-Labs |
| TCM Security AI CTF | CTF | Varía | Desafíos de CTF enfocados en IA con resultados publicados | tcm-sec.com/ai-ctf-results-takeaways |
| Wiz CTF Hub | CTF | Gratis | Desafíos de seguridad cloud incluyendo escenarios de IA | wiz.io/ctf |
| DEF CON AI Village — Generative Red Team | Evento presencial | Entrada DEF CON | Red teaming de modelos en vivo. 3ra edición en 2025 | aivillage.org |
Ruta de práctica recomendada
- Gandalf (1 hora) → entiende la mecánica básica de prompt injection
- HackAPrompt (1 semana) → competencia real con técnicas avanzadas
- TryHackMe AI room (2–4 horas) → contexto guiado con ejercicios
- Garak + PyRIT en tu propio lab (continuo) → práctica realista contra modelos reales
- DEF CON AI Village (anual) → exposición a la comunidad de investigación
9. Conferencias y comunidades
Tabla 7 — Conferencias clave 2026
| Conferencia | Fecha 2026 | Ubicación | Costo aprox. | Enfoque IA+Seguridad | URL |
|---|---|---|---|---|---|
| SANS AI Cybersecurity Summit | 20–27 abril | Arlington, VA (híbrido) | Presencial USD 525 / Virtual gratis | IA para defensa, ataques adversariales, regulación, pipelines seguros | sans.org/ai-summit-2026 |
| RSA Conference | 23–26 marzo | San Francisco | ~USD 2.000+ | Seguridad de sistemas IA, adversarial ML, data poisoning | rsaconference.com |
| DEF CON 34 — AI Village | 7–10 agosto | Las Vegas | ~USD 440 (badge) | Red teaming de modelos, demos interactivas, Generative Red Team | defcon.org / aivillage.org |
| AI Risk Summit | 11–12 agosto | Half Moon Bay, CA | Consultar | Amenazas de uso adversarial de IA | airisksummit.com |
| CAMLIS | ~octubre (TBA) | TBA | Varía | ML aplicado a seguridad de la información | camlis.org |
Comunidades activas
- CoSAI (Coalition for Secure AI) — coalición de industria para desarrollo seguro de IA. coalitionforsecureai.org
- OWASP GenAI — comunidad detrás del LLM Top 10 y Agentic Top 10. genai.owasp.org
- AI Village — comunidad de DEF CON, activa todo el año. aivillage.org
- HackAPrompt Discord — 47.000+ miembros discutiendo seguridad de IA. hackaprompt.com
- Learn Prompting Community — cursos, eventos y certificaciones de seguridad IA. learnprompting.org
10. Roadmap de desarrollo profesional
Por nivel de experiencia
Tabla 8 — Roadmap de certificación por nivel de experiencia
Nivel 1 — Entrada (0–2 años en ciberseguridad)
| Paso | Recurso | Costo | Tiempo |
|---|---|---|---|
| 1. Fundamentos gratuitos | MLSecOps Foundations (Protect AI) | Gratis | 2–3 horas |
| 2. OWASP LLM Top 10 | Snyk Learn | Gratis | 4–6 horas |
| 3. Práctica | Gandalf + HackAPrompt | Gratis | 1–2 semanas |
| 4. Primera certificación | CompTIA SecAI+ | ~USD 400 | 2–3 meses estudio |
| 5. Herramientas | Garak + Promptfoo (labs propios) | Gratis | Continuo |
Inversión total: ~USD 400
Nivel 2 — Intermedio (3–5 años en ciberseguridad)
| Paso | Recurso | Costo | Tiempo |
|---|---|---|---|
| 1. Certificación práctica | CAISP (Practical DevSecOps) | USD 1.099 | 2–3 meses |
| 2. Seguridad cloud + IA | CSA TAISE | ~USD 395 | 1–2 meses |
| 3. Gobernanza | IAPP AIGP | USD 649–799 | 1–2 meses |
| 4. Estándar | PECB ISO 42001 Lead Implementer | USD 2.000–2.500 | 1 semana + examen |
| 5. Framework | NIST AI RMF (autoestudio o Udemy) | USD 30–50 | 2–4 semanas |
| 6. Libro de referencia | Practical AI Security (Farlow) + Adversarial AI (Sotiropoulos) | ~USD 80–100 | 2–3 meses |
Inversión total: ~USD 4.400–4.900
Nivel 3 — Senior / Liderazgo (5+ años)
| Paso | Recurso | Costo | Tiempo |
|---|---|---|---|
| 1. Gestión avanzada | ISACA AAISM | USD 459–599 | 2–3 meses |
| 2. Profundidad técnica | GIAC (GASAE o GAIPS) | USD 6.250–9.260 | 1–2 meses |
| 3. Red teaming | EC-Council COASP o AIRTP+ | Varía | 1–4 semanas |
| 4. Académico | CMU SEI CERT AI Certificate | USD 1.500 | Hasta 2 años |
| 5. Conferencias | DEF CON AI Village + SANS AI Summit | USD 500–1.000 | Anual |
Inversión total: ~USD 9.000–12.000
Especialización: Red Teaming de IA
| Paso | Recurso | Costo |
|---|---|---|
| 1. Fundamento | OWASP LLM Top 10 + MITRE ATLAS | Gratis |
| 2. Herramientas | PyRIT + Garak + DeepTeam | Gratis |
| 3. Competencia | HackAPrompt 2.0 | Gratis |
| 4. Certificación | AIRTP+ (Learn Prompting) | ~USD 199/año |
| 5. Certificación avanzada | EC-Council COASP o GIAC GOAA | USD 5.000+ |
| 6. Comunidad | DEF CON AI Village | ~USD 440 |
Stack de inversión estimado
Tabla 9 — Stack de inversión estimado por nivel
| Nivel | Inversión total | Salario esperado (mercado maduro) | ROI estimado |
|---|---|---|---|
| Entrada | ~USD 400 | USD 80.000–120.000 | Alto |
| Intermedio | ~USD 4.000–4.500 | USD 120.000–180.000 | Muy alto |
| Senior | ~USD 9.000–12.000 | USD 180.000–280.000 | Alto |
| Red Teaming (especialista) | ~USD 5.500–6.000 | USD 150.000–250.000 | Muy alto |
Habilidades técnicas fundamentales
Independientemente de la certificación que elijas, necesitas estas competencias base:
- Python — es el idioma de la seguridad de IA. Sin excepción
- Arquitectura de LLMs — tokenización, atención, ventanas de contexto, fine-tuning
- OWASP LLM Top 10 y MITRE ATLAS — dominio profundo, no lectura superficial
- Prompt engineering y seguridad de APIs — entender cómo se interactúa con modelos
- Forense de IA — inspección de modelos, trazabilidad de decisiones
- Seguridad de pipelines MLOps — CI/CD para modelos, integridad de artefactos
- Regulación — al menos EU AI Act, NIST AI RMF, y regulación local
11. Contexto regulatorio: lo que viene en Chile y LATAM
Chile — Proyecto de Ley de Inteligencia Artificial
Chile tiene un proyecto de ley de IA en trámite legislativo:
- Estado: aprobado por la Cámara de Diputados, despachado al Senado en octubre 2025. En estudio por la Comisión de Desafíos del Futuro del Senado (a febrero 2026)
- Modelo: clasificación de riesgo similar al EU AI Act (inaceptable, alto, limitado, sin riesgo evidente)
- Sanciones: hasta 20.000 UTM
- Dato: Chile es el primer país del mundo en completar la evaluación de preparación para IA de UNESCO (RAM)
- Política Nacional de IA: Decreto 12 (enero 2025). BCN
- Seguimiento: camara.cl
Contexto: la triple convergencia regulatoria chilena
Si trabajas en ciberseguridad en Chile, a fines de 2026 enfrentarás potencialmente tres marcos normativos concurrentes:
- Ley 21.663 — ciberseguridad e infraestructura crítica (vigente)
- Ley 21.719 — protección de datos personales (vigente desde diciembre 2026). Ver nuestra guía operativa
- Ley de IA — en trámite legislativo, modelo basado en EU AI Act
LATAM
| País | Estado | Detalle |
|---|---|---|
| Brasil | Avanzado | PL 2338/2023, primera ley integral de IA de la región. Niveles de riesgo. Prohíbe scoring social gubernamental y vigilancia masiva. Aplicación plena esperada 2026 |
| Colombia | En desarrollo | Marco legal + Consejo Nacional de IA (CON-IA) |
| México | Temprano | Agenda Nacional de IA 2024–2030 presentada en Senado. Sin avance legislativo significativo |
Implicancia para tu formación
Si trabajas en LATAM, prioriza entender el EU AI Act — es el modelo que están copiando Chile, Brasil y Colombia. Dominar el marco europeo te prepara automáticamente para la regulación que viene en la región.
Reflexión final
La ciberseguridad aplicada a inteligencia artificial no es un nicho — es el futuro del campo. Cada sistema de IA desplegado es una superficie de ataque nueva. Cada modelo en producción es un activo que puede ser envenenado, extraído, manipulado o abusado.
El ecosistema formativo ya existe: 25+ certificaciones, herramientas open-source de primer nivel, frameworks maduros, y una comunidad global activa. Lo que falta son profesionales que caminen el camino.
Las preguntas que debes responderte:
- ¿Cuál es tu dimensión principal? — ¿Seguridad de IA, IA para seguridad, gobernanza o red teaming?
- ¿Cuál es tu nivel actual? — Eso determina si empiezas por SecAI+ (USD 400) o por GIAC (USD 9.000)
- ¿Cuál es tu presupuesto real? — Hay un camino sólido desde USD 0 (MLSecOps + OWASP + Gandalf + Garak) hasta USD 12.000+
- ¿Cuánto tiempo tienes? — Si son 8 meses, el roadmap intermedio es alcanzable. Si son 2 meses, empieza por los gratuitos y una certificación
El mercado no va a esperar. Los atacantes ya están usando IA. La regulación ya está llegando. La pregunta no es si necesitas esta especialización — es cuánto te vas a demorar en empezar.
Referencias
Certificaciones y formación
-
CompTIA. (2026). SecAI+ Certification (CY0-001). https://www.comptia.org/en-us/certifications/secai/
-
ISACA. (2026). Advanced in AI Security Management (AAISM). https://www.isaca.org/credentialing/aaism
-
ISACA. (2026). Advanced in AI Risk (AAIR). https://www.isaca.org/credentialing/aair
-
Practical DevSecOps. (2026). Certified AI Security Professional (CAISP). https://www.practical-devsecops.com/certified-ai-security-professional/
-
Practical DevSecOps. (2026). Best AI security certifications 2026. https://www.practical-devsecops.com/best-ai-security-certifications-2026/
-
Practical DevSecOps. (2026). AI security engineer roadmap. https://www.practical-devsecops.com/ai-security-engineer-roadmap/
-
EC-Council. (2026). Enterprise AI credential suite. https://www.eccouncil.org/ai-courses/
-
GIAC. (2026). AI focus area certifications. https://www.giac.org/focus-areas/artificial-intelligence/
-
IAPP. (2026). AI Governance Professional (AIGP). https://iapp.org/certify/aigp
-
Cloud Security Alliance. (2026). Trustworthy AI Security Expert (TAISE). https://cloudsecurityalliance.org/education/taise/
-
Protect AI. (2026). MLSecOps Foundations Certification. https://protectai.com/mlsecops-foundations-certification
-
Carnegie Mellon SEI. (2026). CERT AI for Cybersecurity Professional Certificate. https://www.sei.cmu.edu/credentials/cert-artificial-intelligence-ai-cybersecurity-professional-certificate/
-
Learn Prompting. (2026). AI Red Teaming Professional (AIRTP+). https://learnprompting.org/courses/ai-security-masterclass
-
ISC2. (2026). AI security skills. https://www.isc2.org/landing/ai-security-skills
-
PECB. (2026). ISO/IEC 42001 Lead Auditor / Lead Implementer. https://pecb.com/en/education-and-certification-for-individuals/iso-iec-42001
-
Antisyphon Training. (2026). Attacking, Defending, and Leveraging AI/LLM Systems. https://www.antisyphontraining.com/product/attacking-defending-and-leveraging-ai-llm-systems/
Frameworks y estándares
-
OWASP. (2025). Top 10 for LLM Applications v2.0. https://genai.owasp.org/llm-top-10/
-
OWASP. (2026). Top 10 for Agentic Applications. https://genai.owasp.org/resource/owasp-top-10-for-agentic-applications-for-2026/
-
OWASP. (2023). Machine Learning Security Top 10. https://mltop10.info/
-
MITRE. (2026). ATLAS v5.4.0 — Adversarial Threat Landscape for AI Systems. https://atlas.mitre.org/
-
NIST. (2023). AI Risk Management Framework (AI RMF 1.0). https://www.nist.gov/itl/ai-risk-management-framework
-
NIST. (2025). AI 100-2 E2025 — Adversarial Machine Learning: A Taxonomy and Terminology. https://csrc.nist.gov/pubs/ai/100/2/e2025/final
-
ISO. (2023). ISO/IEC 42001:2023 — AI Management Systems. https://www.iso.org/standard/81230.html
-
ENISA. (2024). Framework for AI Cybersecurity Practices (FAICP). https://www.faicp-framework.com/
-
European Union. (2024). AI Act — Article 15: Accuracy, Robustness and Cybersecurity. https://artificialintelligenceact.eu/article/15/
Herramientas
-
NVIDIA. (2026). Garak — LLM Vulnerability Scanner. https://github.com/NVIDIA/garak
-
Microsoft. (2026). PyRIT — Python Risk Identification Tool. https://github.com/microsoft/PyRIT
-
IBM Research / LFAI. (2026). Adversarial Robustness Toolbox (ART). https://github.com/Trusted-AI/adversarial-robustness-toolbox
-
Promptfoo. (2026). LLM Evaluation and Red Teaming. https://github.com/promptfoo/promptfoo
-
Confident AI. (2026). DeepTeam — LLM Red Teaming Framework. https://github.com/confident-ai/deepteam
-
NVIDIA. (2026). NeMo Guardrails. https://github.com/NVIDIA-NeMo/Guardrails
-
Protect AI. (2026). LLM Guard. https://github.com/protectai/llm-guard
Libros
-
Farlow, H. (2026). Practical AI Security. No Starch Press.
-
Sotiropoulos, J. (2024). Adversarial AI Attacks, Mitigations, and Defense Strategies. Packt Publishing.
-
Wilson, S. (2024). The Developer’s Playbook for Large Language Model Security. O’Reilly Media.
-
Lin, B. (2026). Privacy and Security for Large Language Models. O’Reilly Media.
-
Malik, V., Huang, K., & Dawson, A. (2025). AI-Native LLM Security: Threats, Defenses, and Best Practices. Packt Publishing.
-
Edwards, J. (2025). Adversarial Machine Learning: Mechanisms, Vulnerabilities, and Strategies for Trustworthy AI. Wiley.
Programas universitarios
-
Carnegie Mellon University. (2026). MS in AI Engineering: Information Security. https://www.cmu.edu/ini/academics/msaie-is/index.html
-
Stanford Online. (2026). Cybersecurity Graduate Certificate. https://online.stanford.edu/programs/cybersecurity-graduate-certificate
-
Johns Hopkins University. (2026). AI for Cybersecurity Certificate. https://engineering.jhu.edu/ExecEd/course/jhu-online-certificate-program-cybersecurity/
Regulación LATAM
-
Cámara de Diputados de Chile. (2024). Proyecto de Ley que regula los sistemas de IA. https://www.camara.cl/legislacion/ProyectosDeLey/tramitacion.aspx?prmID=17429&prmBOLETIN=17843
-
Ministerio de Ciencia, Chile. (2024). Proyecto Ley regula sistemas IA. https://www.minciencia.gob.cl/areas/inteligencia-artificial/Inteligencia-Artificial/Proyecto-Ley-regula-sistemas-IA/
-
BCN Chile. (2025). Decreto 12 — Política Nacional de IA. https://www.bcn.cl/leychile/Navegar?idNorma=1210664&idParte=0
-
Future of Privacy Forum. (2024). AI regulation in Latin America: Overview and emerging trends. https://fpf.org/blog/global/ai-regulation-in-latin-america-overview-and-emerging-trends-in-key-proposals/
Artículos relacionados en Blog del CISO
-
Vargas Yáñez, S. (2026). Radiografía al Q1 2026 del mercado chileno de ciberseguridad. https://blog.ttpsec.cl/blog/radiografia-q1-2026-mercado-chileno-ciberseguridad-paradoja-regulacion-ejecucion
-
Vargas Yáñez, S. (2026). Ley 21.719 para CISOs: guía operativa antes de diciembre 2026. https://blog.ttpsec.cl/blog/ley-21719-guia-operativa-cisos-chile-diciembre-2026