AIBlog del CAIO
← Todos los artículos

IA / Análisis

Qué estudiar para ser especialista en ciberseguridad aplicada a inteligencia artificial — guía completa 2026

Guía exhaustiva para profesionales que quieren especializarse en ciberseguridad aplicada a IA. 25+ certificaciones con precios y links, 10+ herramientas open-source, 7 libros clave, frameworks regulatorios, roadmap por nivel de experiencia, programas universitarios y plataformas de práctica hands-on.

La especialización que el mercado necesita y casi nadie tiene

Por Sebastián Vargas Yáñez | CEO TTPSEC SpA · Academic Director · VP SOCHISI · PhD Candidate · ISO/IEC 42001 & 27001 LA · Applied AI & Cybersecurity Research


TL;DR — La intersección ciberseguridad + IA es la especialización con mayor demanda y menor oferta en 2026. Salarios de USD 150K–280K en mercados maduros. Este artículo mapea todo el ecosistema formativo: 25+ certificaciones con precios y URLs, 10+ herramientas open-source para práctica, 7 libros de referencia, 6 frameworks regulatorios, programas universitarios, conferencias, CTFs y un roadmap de desarrollo profesional por nivel de experiencia. Si quieres saber por dónde partir — y por dónde no — sigue leyendo.


Índice de contenido

  1. Por qué esta especialización y por qué ahora
  2. Mapa del ecosistema: las 4 dimensiones de la seguridad en IA
  3. Certificaciones profesionales — análisis completo
  4. Estándares y frameworks regulatorios
  5. Programas universitarios
  6. Libros de referencia
  7. Herramientas open-source para práctica
  8. Plataformas de práctica hands-on y CTFs
  9. Conferencias y comunidades
  10. Roadmap de desarrollo profesional
  11. Contexto regulatorio: lo que viene en Chile y LATAM
  12. Reflexión final
  13. Referencias

Índice de tablas

IDTítuloSección
Tabla 1Certificaciones de seguridad en IA — comparativa completa§3
Tabla 2Certificaciones de proveedores cloud§3
Tabla 3Frameworks y estándares de seguridad en IA§4
Tabla 4Libros de referencia en seguridad de IA§6
Tabla 5Herramientas open-source para seguridad de IA§7
Tabla 6Plataformas de práctica y CTFs§8
Tabla 7Conferencias clave 2026§9
Tabla 8Roadmap de certificación por nivel de experiencia§10
Tabla 9Stack de inversión estimado por nivel§10

1. Por qué esta especialización y por qué ahora

La seguridad de sistemas de inteligencia artificial no es una moda — es una necesidad estructural que acaba de explotar.

Los números que justifican la urgencia

  • MITRE ATLAS v5.4.0 (febrero 2026) documenta 84 técnicas de ataque a sistemas de IA, 42 casos reales y 32 mitigaciones — incluyendo técnicas nuevas para IA agéntica como “Publish Poisoned AI Agent Tool” y “Escape to Host”
  • Los ataques adversariales habilitados por IA crecieron un 89 % respecto al período anterior
  • La inyección de prompt aparece en el 73 % de los despliegues productivos de IA según OWASP
  • El EU AI Act entra en plena aplicación en agosto de 2026, exigiendo evaluaciones adversariales obligatorias para sistemas de IA de alto riesgo
  • Chile tiene un proyecto de ley de IA en el Senado con multas de hasta 20.000 UTM

El gap profesional

Mientras las organizaciones despliegan IA a velocidad récord, los equipos de seguridad que deben proteger esos sistemas no existen todavía en la mayoría de las organizaciones. En la Radiografía Q1 2026 documentamos un déficit global de 4,8 millones de profesionales de ciberseguridad. La intersección con IA reduce ese pool a una fracción mínima.

Los salarios reflejan la escasez

RolRango salarial (USD/año)Fuente
AI Security Engineer$152.000 – $210.000Glassdoor, ZipRecruiter 2026
AI Security Specialist (top earners)Hasta $274.490ZipRecruiter 2026
Profesional certificado CAISP$175.689 – $213.882Practical DevSecOps 2026
AI Security roles (rango amplio)$180.000 – $280.000Múltiples fuentes

No es una promesa motivacional — es oferta y demanda. Hay más sistemas de IA que proteger que personas capacitadas para hacerlo.


2. Mapa del ecosistema: las 4 dimensiones de la seguridad en IA

Antes de elegir qué estudiar, necesitas entender que “ciberseguridad aplicada a IA” no es una sola cosa. Son al menos cuatro dimensiones complementarias:

Dimensión 1 — Seguridad DE la IA (Securing AI Systems)

Proteger los sistemas de IA contra ataques: envenenamiento de datos, extracción de modelos, inyección de prompt, jailbreaking, manipulación de agentes. Aquí viven MITRE ATLAS, OWASP LLM Top 10 y la mayoría de las certificaciones nuevas.

Dimensión 2 — IA PARA la seguridad (AI for Security Operations)

Usar IA como herramienta defensiva: detección de amenazas con ML, automatización de SOC, análisis de malware con LLMs, triage inteligente de alertas. Es lo que ya están haciendo las plataformas XDR/SIEM modernas.

Dimensión 3 — Gobernanza y cumplimiento de IA (AI Governance)

Marcos normativos, gestión de riesgos, auditoría de sistemas de IA, evaluaciones de impacto. Aquí viven ISO 42001, NIST AI RMF, EU AI Act y los roles de DPO/AI Governance Officer.

Dimensión 4 — IA ofensiva (Offensive AI / AI Red Teaming)

Usar técnicas de IA para atacar y evaluar sistemas — tanto sistemas de IA como sistemas tradicionales. Red teaming de LLMs, generación adversarial, evasión de controles. La frontera más nueva y la que más talento demanda.

La recomendación: no intentes cubrir las cuatro al mismo tiempo. Elige tu dimensión principal según tu perfil actual, y desarrolla competencias complementarias en las otras.


3. Certificaciones profesionales — análisis completo

Esta es la sección que probablemente viniste a buscar. La ordeno por categoría, con todos los datos que necesitas para decidir.

3.1 Certificaciones dedicadas a seguridad de IA

Tabla 1 — Certificaciones de seguridad en IA — comparativa completa

CompTIA SecAI+ (CY0-001)

AtributoDetalle
EmisorCompTIA
LanzamientoFebrero 2026
Costo examen~USD 359–425
FormatoMáx. 60 preguntas (múltiple opción + performance-based), 60 min, aprobación 600/900
PrerequisitosRecomendado 3–4 años experiencia TI, 2+ años ciberseguridad. Security+, CySA+ o PenTest+ recomendados (no obligatorios)
ContenidoAdversarial ML, defensa contra prompt injection, gobernanza de IA, operaciones SOC con IA, OWASP LLM Top 10, MITRE ATLAS, MLSecOps seguro
Renovación3 años (CE program)
URLcomptia.org/certifications/secai
VeredictoMejor punto de entrada vendor-neutral. Precio accesible. Reconocimiento CompTIA. Ideal para quien ya tiene Security+ y quiere especializarse

ISACA Advanced in AI Security Management (AAISM)

AtributoDetalle
EmisorISACA
CostoUSD 459 (miembros) / USD 599 (no miembros) + USD 50 fee de aplicación
Formato90 preguntas múltiple opción, 150 min, aprobación 450/800
PrerequisitosRequiere CISM o CISSP activo
DominiosAI Governance & Program Management (31 %), AI Risk & Opportunity Management (31 %), AI Technologies & Controls (38 %)
ContenidoGestión de seguridad específica para IA, ataques adversariales, gobernanza de modelos, privacidad en datos de entrenamiento, seguridad de infraestructura IA
URLisaca.org/credentialing/aaism
VeredictoLa opción premium para CISOs y managers. Prerequisito fuerte (CISM/CISSP) le da peso. Foco en gobernanza más que en técnica ofensiva

ISACA Advanced in AI Risk (AAIR) — próximamente Q2 2026

AtributoDetalle
EmisorISACA
CostoTBD (estimado similar a AAISM)
PrerequisitosEsperado CRISC o similar
ContenidoGestión de riesgos asociados a la integración de IA en organizaciones
URLisaca.org/credentialing/aair
VeredictoComplemento natural de AAISM para perfil de gestión de riesgos

Certified AI Security Professional (CAISP)

AtributoDetalle
EmisorPractical DevSecOps (HYSN Technologies)
Costo~USD 1.099 (incluye labs, examen, 3 años de materiales)
FormatoExamen 100 % práctico — debes asegurar sistemas de IA reales, no responder preguntas
PrerequisitosNinguno formal; se recomienda experiencia en ciberseguridad
Duración30+ ejercicios hands-on, 60 días de acceso a labs en navegador, 36 CPEs
ContenidoTécnicas de ataque y defensa, seguridad de pipeline DevSecOps, integridad de cadena de suministro de IA, MITRE ATLAS, NIST AI RMF, EU AI Act, OWASP LLM Top 10, prompt injection, robo de modelos, envenenamiento de datos
RenovaciónCredencial de por vida, sin renovación
URLpractical-devsecops.com/certified-ai-security-professional
VeredictoLa más técnica y práctica de la lista. Examen hands-on le da credibilidad real. Credencial vitalicia. Precio competitivo para lo que incluye. Mi recomendación para perfiles técnicos

IAPP AI Governance Professional (AIGP)

AtributoDetalle
EmisorIAPP (International Association of Privacy Professionals)
CostoUSD 649 (miembros) / USD 799 (no miembros)
EntrenamientoAutoestudio (~USD 130–200 Udemy) o boot camp (~USD 2.000–2.400)
ContenidoGobernanza de IA, IA responsable, frameworks de cumplimiento, despliegue ético de IA
URLiapp.org/certify/aigp
VeredictoIdeal para perfiles de governance/privacy/DPO que necesitan entender IA. No es técnica — es estratégica

MLSecOps Foundations Certification

AtributoDetalle
EmisorProtect AI
CostoGRATIS
Duración4 partes, 20 módulos (~3 min cada uno)
AutoraDiana Kelley, CISO de Protect AI
ContenidoSeguridad de modelos ML, evaluaciones de riesgo AI-aware, auditoría de cadena de suministro, respuesta a incidentes, construcción de equipos MLSecOps
PúblicoML engineers, data scientists, AppSec/InfoSec
URLprotectai.com/mlsecops-foundations-certification
VeredictoGratuita y excelente como punto de partida. Corta, enfocada, de una CISO reconocida. No reemplaza una certificación formal pero cuesta $0 y te da fundamentos sólidos

CMU SEI CERT AI for Cybersecurity Professional Certificate

AtributoDetalle
EmisorCarnegie Mellon University — Software Engineering Institute (CERT Division)
Costo~USD 1.500 (eLearning)
Duración4+ horas de contenido + ejercicios y labs; hasta 2 años para completar
RenovaciónNo expira (vitalicia)
ContenidoIA aplicada a operaciones de ciberseguridad
URLsei.cmu.edu/credentials/cert-artificial-intelligence-ai-cybersecurity-professional-certificate
VeredictoEl sello Carnegie Mellon tiene peso académico y profesional. Buena inversión para quien valora credenciales universitarias

CSA Trustworthy AI Security Expert (TAISE)

AtributoDetalle
EmisorCloud Security Alliance (CSA)
Costo~USD 395 (examen)
FormatoExamen online supervisado, 90 minutos, 60 preguntas múltiple opción
PrerequisitosRecomendado conocimiento previo en seguridad cloud y fundamentos de IA
ContenidoSeguridad de IA en entornos cloud, gobernanza de modelos de IA, evaluación de riesgos de IA, controles de seguridad para sistemas de IA, integración con frameworks CSA (CCM, CAIQ), privacidad en datos de entrenamiento, cadena de suministro de modelos, IA responsable
RenovaciónCada 2 años (créditos CPE)
URLcloudsecurityalliance.org/education/taise
VeredictoCertificación clave si trabajas en seguridad cloud + IA. CSA es la autoridad global en seguridad cloud — su credencial TAISE llena el gap entre CCSK/CCZT y la seguridad específica de IA. Complementa perfectamente a SecAI+ (vendor-neutral general) o AAISM (gobernanza). Si tu organización consume IA como servicio cloud (que es la mayoría), esta es imprescindible

3.2 Certificaciones EC-Council — Suite Enterprise AI (febrero 2026)

EC-Council lanzó una suite completa de credenciales de IA en febrero 2026:

Certified Responsible AI Governance & Ethics (C|RAGE)

AtributoDetalle
CostoBasado en consulta; USD 100 fee de aplicación (ruta por experiencia)
Prerequisitos2 años experiencia InfoSec O entrenamiento oficial EC-Council
ContenidoGobernanza, cumplimiento NIST AI RMF e ISO/IEC 42001, IA responsable a escala empresarial
URLeccouncil.org/ai-courses/certified-responsible-ai-governance-ethics-crage

Certified Offensive AI Security Professional (COASP)

AtributoDetalle
LanzamientoMarzo 2026
Duración~5 días de entrenamiento acelerado
ContenidoAI red teaming end-to-end: prompt injection, extracción de modelos, envenenamiento de datos de entrenamiento, LLM jailbreaking. Alineado con OWASP LLM Top 10, NIST AI RMF, ISO 42001
URLeccouncil.org/ai-courses/certified-offensive-ai-security-professional-coasp

Artificial Intelligence Essentials (AIE) y Certified AI Program Manager (C|AIPM)

  • AIE: fluencia base en IA, práctico no teórico. URL
  • C|AIPM: implementación de programas de IA con accountability y gestión de riesgos. URL

3.3 Certificaciones GIAC/SANS — las más intensivas (y costosas)

SANS lanzó 4 certificaciones de IA durante 2026. Son las más caras del mercado pero también las más profundas técnicamente.

GIAC AI Security Automation Engineer (GASAE)

AtributoDetalle
Curso asociadoSEC598
Costo~USD 5.250–8.260 (curso) + USD 999 (examen)
ContenidoAutomatización práctica de IA en operaciones ofensivas, defensivas y cloud

GIAC Offensive AI Analyst (GOAA)

AtributoDetalle
Curso asociadoSEC535
Costo~USD 5.250 (curso) + USD 999 (examen)
ContenidoTécnicas ofensivas de IA aplicadas a ciberseguridad moderna

GIAC AI Platform Security (GAIPS)

AtributoDetalle
Curso asociadoSEC545
Costo~USD 8.260 (curso) + USD 999 (examen)
Disponibilidad generalJulio 2026
ContenidoSeguridad de aplicaciones GenAI y LLM, 5 días, 30 CPEs, 20 labs hands-on

GIAC AI Security Fundamentals

AtributoDetalle
Curso asociadoSEC411
ContenidoPrincipios de seguridad en IA, defensa de GenAI/LLM, 18+ horas, 5 labs

3.4 Certificaciones de red teaming de IA

AI Red Teaming Professional (AIRTP+)

AtributoDetalle
EmisorLearn Prompting
Costo~USD 199/año (renovación)
FormatoCohorte en vivo de 4 semanas o autoestudio + examen de 24+ horas
ContenidoAtaque y defensa de LLMs, prompt injection, jailbreak, técnicas Crescendo, GCG, PAIR, TAP
Certificados deMicrosoft, Google, Capital One, IBM, Walmart
URLlearnprompting.org/courses/ai-security-masterclass

Certified AI Red Teaming Professional (CAIRTP)

AtributoDetalle
EmisorTonex Training
Duración2 días
ContenidoVectores de ataque específicos de IA, modelos de amenaza, OWASP LLM Top 10 aplicado a red teaming
URLtonex.com/training-courses/certified-ai-red-teaming-professional-cairtp

3.5 Certificaciones de proveedores cloud

Tabla 2 — Certificaciones de proveedores cloud con componente IA/seguridad

ProveedorCertificaciónCosto aprox.Componente IAURL
AWSSecurity – Specialty (SCS-C03)~USD 300Actualizada con seguridad de GenAI/MLaws.amazon.com/certification
AWSGenerative AI Developer – Professional~USD 300Modelos fundacionales, RAG, bases vectorialesaws.amazon.com/certification
Google CloudProfessional Cloud Security Engineer~USD 300Actualizada 2026: seguridad de workloads IA, zero trustcloud.google.com/certification
Microsoft9 certificaciones IA (beta marzo-abril 2026)VaríaMLOps, AI App & Agent Development, Cloud + AI Securitylearn.microsoft.com/certifications
ISC2Building AI Strategy Certificate~USD 2006 cursos on-demand, 16 horasisc2.org/landing/ai-security-skills

3.6 Formación ISO/IEC 42001 — gestión de sistemas de IA

La ISO/IEC 42001:2023 es el primer estándar internacional para Sistemas de Gestión de IA (AIMS). Es el equivalente de ISO 27001 para la IA.

CursoProveedorDuraciónCosto aprox.URL
ISO 42001 Lead AuditorPECB5 días (4 + examen)USD 2.000–2.500pecb.com/iso-iec-42001-lead-auditor
ISO 42001 Lead ImplementerPECB5 díasUSD 2.000–2.500pecb.com/iso-iec-42001-lead-implementer
Certified ISO 42001 Lead AuditorGSDCVaríaConsultargsdcouncil.org/certified-iso-42001-lead-auditor
ISO 42001 Lead Auditor (intro)AdviseraOnlineGratuitoadvisera.com/training/iso-42001-lead-auditor-course
ISO 42001 AI Lead Implementer + AuditorCIS (NICCS/CISA)VaríaConsultarniccs.cisa.gov/training/catalog

3.7 Entrenamiento complementario

CursoProveedorCostoContenidoURL
Attacking, Defending, and Leveraging AI/LLM SystemsAntisyphon TrainingUSD 725–1.85016h hands-on. LLMs, transformers, prompt injection, jailbreak, OWASP LLM Top 10, MITRE ATLAS, CTFantisyphontraining.com
Certified NIST AI RMF 1.0 ArchitectCertified InfoSecConsultar60 días on-demand. Catálogo NICCS/CISAcertifiedinfosec.com
NIST AI RMF Masterclass 2026Udemy~USD 30–50Autoestudio completo del frameworkudemy.com
OWASP Top 10 LLM and GenAISnyk LearnGratuitoOWASP LLM Top 10 completolearn.snyk.io/learning-paths/owasp-top-10-llm
EU AI Act ComplianceLearning TreeConsultar4 sesiones interactivas onlinelearningtree.com
AIActTPro (AI Act Trained Professional)artificial-intelligence-act.comConsultarExamen disponible dentro de 4 años de pagoartificial-intelligence-act.com

4. Estándares y frameworks regulatorios

Si vas a trabajar en seguridad de IA, necesitas dominar estos frameworks. No son opcionales — son el lenguaje del campo.

Tabla 3 — Frameworks y estándares de seguridad en IA

FrameworkEmisorTipoQué cubreURL
OWASP Top 10 for LLM Applications v2.0OWASPGuía técnica10 vulnerabilidades críticas en LLMs: prompt injection (#1), divulgación de info sensible, cadena de suministro, envenenamiento, output handling, excessive agency, system prompt leakage, vector/embedding weaknesses, misinformation, consumo no acotadogenai.owasp.org/llm-top-10
OWASP Top 10 for Agentic Applications (2026)OWASPGuía técnicaNuevo — vulnerabilidades específicas de sistemas agénticos de IAgenai.owasp.org/resource/owasp-top-10-for-agentic-applications
OWASP ML Security Top 10OWASPGuía técnica10 riesgos para ML: manipulación de input, envenenamiento, inversión de modelo, inferencia de membresía, robo de modelo, cadena de suministro, transfer learning attacksmltop10.info
MITRE ATLAS v5.4.0MITRETaxonomía de amenazas16 tácticas, 84 técnicas, 32 mitigaciones, 42 casos. El ATT&CK para IAatlas.mitre.org
NIST AI RMF 1.0NISTFramework de gestión de riesgos4 funciones: Govern, Map, Measure, Manage. Voluntario, socio-técniconist.gov/itl/ai-risk-management-framework
NIST AI 600-1 (GenAI Profile)NISTPerfil complementario200+ acciones específicas para riesgos de LLM y GenAI en 72 subcategoríasnist.gov
NIST AI 100-2 E2025NISTTaxonomía técnicaAdversarial ML: taxonomía y terminología. Incluye ataques a GenAI, RAG, agentes. Envenenamiento, extracción, evasión, inferenciacsrc.nist.gov/pubs/ai/100/2/e2025
ISO/IEC 42001:2023ISOEstándar certificableSistemas de Gestión de IA (AIMS). El “ISO 27001 de la IA”iso.org
ISO/IEC 23894:2023ISOGuía (no certificable)Gestión de riesgos de IA, basada en ISO 31000iso.org
EU AI Act (Art. 15)UERegulaciónCiberseguridad obligatoria para IA de alto riesgo: resiliencia contra envenenamiento, ejemplos adversariales, ataques de confidencialidadartificialintelligenceact.eu/article/15
ENISA FAICPENISAFrameworkFramework for AI Cybersecurity Practices — marco multicapa de buenas prácticasfaicp-framework.com

¿Cuáles priorizar?

  1. OWASP LLM Top 10 — es gratis, es práctico, y es lo que te van a preguntar en una entrevista
  2. MITRE ATLAS — si ya dominas ATT&CK, ATLAS es la extensión natural
  3. NIST AI RMF — si trabajas en gobernanza o necesitas comunicar riesgo a directivos
  4. ISO 42001 — si tu organización busca certificación o si quieres diferenciarte como auditor
  5. EU AI Act — si tu organización opera en Europa o si quieres anticipar regulación LATAM (que copia el modelo europeo)

5. Programas universitarios

Para quienes buscan profundidad académica:

UniversidadProgramaEnfoqueSalario mediano egresadosURL
Carnegie MellonMS in AI Engineering: Information Security (MSAIE-IS)Ofensivo y defensivo. IA/ML para ciberseguridadUSD 147.000 (1 año post-grado, 2024)cmu.edu/ini/academics/msaie-is
Carnegie Mellon CyLabMúltiples programas de posgrado en seguridad y privacidadInvestigación de frontera en seguridadVaríacylab.cmu.edu/education
StanfordCybersecurity Graduate CertificatePerspectivas profesional, técnica y de política públicaVaríaonline.stanford.edu
Johns HopkinsAI for Cybersecurity CertificateIA aplicada a operaciones de ciberseguridadUSD 1.200 (certificado) / USD 500 (curso individual)engineering.jhu.edu

6. Libros de referencia

Tabla 4 — Libros de referencia en seguridad de IA

#TítuloAutor(es)EditorialAñoEnfoqueURL
1Practical AI SecurityHarriet FarlowNo Starch Press202630+ demos en Python. Ataque y defensa a lo largo del ciclo de vida de IAnostarch.com/practical-ai-security
2Adversarial AI Attacks, Mitigations, and Defense StrategiesJohn Sotiropoulos (co-lead OWASP LLM Top 10)Packt2024602 páginas. Modelado de amenazas, MLSecOps, ofensiva y defensivapacktpub.com
3The Developer’s Playbook for Large Language Model SecuritySteve WilsonO’Reilly2024Vulnerabilidades de LLMs. Basado en el conocimiento de 400+ expertos que crearon OWASP LLM Top 10oreilly.com
4Privacy and Security for Large Language ModelsBaihan LinO’Reilly2026Privacidad diferencial, aprendizaje federado, cifrado homomórfico para LLMs. Nivel intermedio-avanzadooreilly.com
5AI-Native LLM Security: Threats, Defenses, and Best PracticesMalik, Huang, DawsonPackt2025System prompt leakage, debilidades vectoriales/embeddings en cadena de suministro RAGpacktpub.com
6Adversarial Machine LearningJason EdwardsWiley2025Ciclo completo de ML adversarial. Cómo se comprometen y aseguran modelosamazon.com
7Adversarial Example Detection and Mitigation Using MLVariosSpringer2026Ataques a aprendizaje federado, defensas adversariales, vulnerabilidades biométricas, amenazas cuánticasspringer.com

Orden de lectura recomendado

  1. Developer’s Playbook (Wilson) — si vienes de desarrollo o AppSec
  2. Practical AI Security (Farlow) — si quieres hands-on inmediato
  3. Adversarial AI Attacks (Sotiropoulos) — para profundidad técnica completa
  4. AI-Native LLM Security — para amenazas emergentes en RAG y agentes
  5. Privacy and Security for LLMs (Lin) — para el componente de privacidad

7. Herramientas open-source para práctica

No hay especialización sin práctica. Estas son las herramientas que usan los equipos de seguridad de IA en producción.

Tabla 5 — Herramientas open-source para seguridad de IA

HerramientaMantenedorQué haceAnalogíaURL
GarakNVIDIAEscaneo de vulnerabilidades en LLMs: alucinaciones, fuga de datos, prompt injection, jailbreaks. Soporta HuggingFace, OpenAI, REST, GGUF”Nmap/Metasploit para LLMs”github.com/NVIDIA/garak
PyRITMicrosoftAutomatización de red teaming para GenAI. Identifica daños de seguridad y privacidad. GUI web incluida. Soporta OpenAI, Azure, Anthropic, Google, HuggingFace”Burp Suite para IA”github.com/microsoft/PyRIT
Adversarial Robustness Toolbox (ART)IBM Research / LFAIEvaluación, defensa, certificación de modelos ML contra evasión, envenenamiento, extracción e inferencia. Soporta TF, PyTorch, scikit-learn”OWASP ZAP para modelos ML”github.com/Trusted-AI/adversarial-robustness-toolbox
PromptfooPromptfoo (OpenAI)CLI para evaluación y red teaming de apps LLM. 50+ tipos de vulnerabilidad. YAML declarativo + CI/CD”ESLint para prompts”github.com/promptfoo/promptfoo
DeepTeamConfident AIRed teaming de LLMs. 40+ vulnerabilidades de seguridad. Soporta OWASP, NIST, MITRE, Aegis, BeaverTails”Framework integrado de evaluación”github.com/confident-ai/deepteam
NeMo GuardrailsNVIDIAGuardrails programables para sistemas conversacionales LLM: rails de input, diálogo y retrieval (RAG). Moderación, fact-checking, anti-jailbreak”WAF para LLMs”github.com/NVIDIA-NeMo/Guardrails
LLM GuardProtect AISeguridad de interacciones LLM. 35 scanners (15 input, 20 output). Bloquea prompt injection, fugas PII, outputs tóxicos. MIT license”IDS/IPS para LLMs”github.com/protectai/llm-guard
CounterfitMicrosoft AzureCLI para adversarial AI. Wrapper de ART y TextAttack. Agnóstico de modelo y entorno”Interfaz unificada de ataque”github.com/Azure/counterfit
AI Red Teaming Playground LabsMicrosoftInfraestructura de labs para entrenamientos de red teaming de IA”Laboratorio de práctica”github.com/microsoft/AI-Red-Teaming-Playground-Labs

Stack mínimo recomendado para empezar

  1. Garak — para entender cómo se escanean vulnerabilidades en LLMs
  2. PyRIT — para automatizar red teaming
  3. Promptfoo — para integrar seguridad en tu pipeline de desarrollo
  4. LLM Guard — para entender defensas en producción

Instalación de Garak: pip install -U git+https://github.com/NVIDIA/garak.git@main Instalación de Promptfoo: npm install -g promptfoo


8. Plataformas de práctica hands-on y CTFs

La teoría sin práctica no sirve. Estas plataformas te permiten atacar y defender sistemas de IA en entornos controlados.

Tabla 6 — Plataformas de práctica y CTFs

PlataformaTipoCostoQué practicasURL
Gandalf (Lakera)Juego interactivoGratis7 niveles de prompt injection progresivos. 1M+ jugadores. Extensión “Agent Breaker” para IA agénticagandalf.lakera.ai
HackAPrompt 2.0CompetenciaGratis (premios USD 100K)Prompt injection, indirect injection, manipulación de agentes, robo de información. 30.000+ participantes, 150+ paíseshackaprompt.com
TryHackMe — AI/ML Security ThreatsRoom guiadoUSD 14/mes o USD 100/añoRoom dedicado a amenazas de seguridad AI/ML. Aprendizaje progresivotryhackme.com/room/aimlsecuritythreats
Microsoft AI Red Teaming PlaygroundLabsGratis (open source)Infraestructura para correr entrenamientos de red teaming de IAgithub.com/microsoft/AI-Red-Teaming-Playground-Labs
TCM Security AI CTFCTFVaríaDesafíos de CTF enfocados en IA con resultados publicadostcm-sec.com/ai-ctf-results-takeaways
Wiz CTF HubCTFGratisDesafíos de seguridad cloud incluyendo escenarios de IAwiz.io/ctf
DEF CON AI Village — Generative Red TeamEvento presencialEntrada DEF CONRed teaming de modelos en vivo. 3ra edición en 2025aivillage.org

Ruta de práctica recomendada

  1. Gandalf (1 hora) → entiende la mecánica básica de prompt injection
  2. HackAPrompt (1 semana) → competencia real con técnicas avanzadas
  3. TryHackMe AI room (2–4 horas) → contexto guiado con ejercicios
  4. Garak + PyRIT en tu propio lab (continuo) → práctica realista contra modelos reales
  5. DEF CON AI Village (anual) → exposición a la comunidad de investigación

9. Conferencias y comunidades

Tabla 7 — Conferencias clave 2026

ConferenciaFecha 2026UbicaciónCosto aprox.Enfoque IA+SeguridadURL
SANS AI Cybersecurity Summit20–27 abrilArlington, VA (híbrido)Presencial USD 525 / Virtual gratisIA para defensa, ataques adversariales, regulación, pipelines segurossans.org/ai-summit-2026
RSA Conference23–26 marzoSan Francisco~USD 2.000+Seguridad de sistemas IA, adversarial ML, data poisoningrsaconference.com
DEF CON 34 — AI Village7–10 agostoLas Vegas~USD 440 (badge)Red teaming de modelos, demos interactivas, Generative Red Teamdefcon.org / aivillage.org
AI Risk Summit11–12 agostoHalf Moon Bay, CAConsultarAmenazas de uso adversarial de IAairisksummit.com
CAMLIS~octubre (TBA)TBAVaríaML aplicado a seguridad de la informacióncamlis.org

Comunidades activas

  • CoSAI (Coalition for Secure AI) — coalición de industria para desarrollo seguro de IA. coalitionforsecureai.org
  • OWASP GenAI — comunidad detrás del LLM Top 10 y Agentic Top 10. genai.owasp.org
  • AI Village — comunidad de DEF CON, activa todo el año. aivillage.org
  • HackAPrompt Discord — 47.000+ miembros discutiendo seguridad de IA. hackaprompt.com
  • Learn Prompting Community — cursos, eventos y certificaciones de seguridad IA. learnprompting.org

10. Roadmap de desarrollo profesional

Por nivel de experiencia

Tabla 8 — Roadmap de certificación por nivel de experiencia

Nivel 1 — Entrada (0–2 años en ciberseguridad)

PasoRecursoCostoTiempo
1. Fundamentos gratuitosMLSecOps Foundations (Protect AI)Gratis2–3 horas
2. OWASP LLM Top 10Snyk LearnGratis4–6 horas
3. PrácticaGandalf + HackAPromptGratis1–2 semanas
4. Primera certificaciónCompTIA SecAI+~USD 4002–3 meses estudio
5. HerramientasGarak + Promptfoo (labs propios)GratisContinuo

Inversión total: ~USD 400

Nivel 2 — Intermedio (3–5 años en ciberseguridad)

PasoRecursoCostoTiempo
1. Certificación prácticaCAISP (Practical DevSecOps)USD 1.0992–3 meses
2. Seguridad cloud + IACSA TAISE~USD 3951–2 meses
3. GobernanzaIAPP AIGPUSD 649–7991–2 meses
4. EstándarPECB ISO 42001 Lead ImplementerUSD 2.000–2.5001 semana + examen
5. FrameworkNIST AI RMF (autoestudio o Udemy)USD 30–502–4 semanas
6. Libro de referenciaPractical AI Security (Farlow) + Adversarial AI (Sotiropoulos)~USD 80–1002–3 meses

Inversión total: ~USD 4.400–4.900

Nivel 3 — Senior / Liderazgo (5+ años)

PasoRecursoCostoTiempo
1. Gestión avanzadaISACA AAISMUSD 459–5992–3 meses
2. Profundidad técnicaGIAC (GASAE o GAIPS)USD 6.250–9.2601–2 meses
3. Red teamingEC-Council COASP o AIRTP+Varía1–4 semanas
4. AcadémicoCMU SEI CERT AI CertificateUSD 1.500Hasta 2 años
5. ConferenciasDEF CON AI Village + SANS AI SummitUSD 500–1.000Anual

Inversión total: ~USD 9.000–12.000

Especialización: Red Teaming de IA

PasoRecursoCosto
1. FundamentoOWASP LLM Top 10 + MITRE ATLASGratis
2. HerramientasPyRIT + Garak + DeepTeamGratis
3. CompetenciaHackAPrompt 2.0Gratis
4. CertificaciónAIRTP+ (Learn Prompting)~USD 199/año
5. Certificación avanzadaEC-Council COASP o GIAC GOAAUSD 5.000+
6. ComunidadDEF CON AI Village~USD 440

Stack de inversión estimado

Tabla 9 — Stack de inversión estimado por nivel

NivelInversión totalSalario esperado (mercado maduro)ROI estimado
Entrada~USD 400USD 80.000–120.000Alto
Intermedio~USD 4.000–4.500USD 120.000–180.000Muy alto
Senior~USD 9.000–12.000USD 180.000–280.000Alto
Red Teaming (especialista)~USD 5.500–6.000USD 150.000–250.000Muy alto

Habilidades técnicas fundamentales

Independientemente de la certificación que elijas, necesitas estas competencias base:

  1. Python — es el idioma de la seguridad de IA. Sin excepción
  2. Arquitectura de LLMs — tokenización, atención, ventanas de contexto, fine-tuning
  3. OWASP LLM Top 10 y MITRE ATLAS — dominio profundo, no lectura superficial
  4. Prompt engineering y seguridad de APIs — entender cómo se interactúa con modelos
  5. Forense de IA — inspección de modelos, trazabilidad de decisiones
  6. Seguridad de pipelines MLOps — CI/CD para modelos, integridad de artefactos
  7. Regulación — al menos EU AI Act, NIST AI RMF, y regulación local

11. Contexto regulatorio: lo que viene en Chile y LATAM

Chile — Proyecto de Ley de Inteligencia Artificial

Chile tiene un proyecto de ley de IA en trámite legislativo:

  • Estado: aprobado por la Cámara de Diputados, despachado al Senado en octubre 2025. En estudio por la Comisión de Desafíos del Futuro del Senado (a febrero 2026)
  • Modelo: clasificación de riesgo similar al EU AI Act (inaceptable, alto, limitado, sin riesgo evidente)
  • Sanciones: hasta 20.000 UTM
  • Dato: Chile es el primer país del mundo en completar la evaluación de preparación para IA de UNESCO (RAM)
  • Política Nacional de IA: Decreto 12 (enero 2025). BCN
  • Seguimiento: camara.cl

Contexto: la triple convergencia regulatoria chilena

Si trabajas en ciberseguridad en Chile, a fines de 2026 enfrentarás potencialmente tres marcos normativos concurrentes:

  1. Ley 21.663 — ciberseguridad e infraestructura crítica (vigente)
  2. Ley 21.719 — protección de datos personales (vigente desde diciembre 2026). Ver nuestra guía operativa
  3. Ley de IA — en trámite legislativo, modelo basado en EU AI Act

LATAM

PaísEstadoDetalle
BrasilAvanzadoPL 2338/2023, primera ley integral de IA de la región. Niveles de riesgo. Prohíbe scoring social gubernamental y vigilancia masiva. Aplicación plena esperada 2026
ColombiaEn desarrolloMarco legal + Consejo Nacional de IA (CON-IA)
MéxicoTempranoAgenda Nacional de IA 2024–2030 presentada en Senado. Sin avance legislativo significativo

Implicancia para tu formación

Si trabajas en LATAM, prioriza entender el EU AI Act — es el modelo que están copiando Chile, Brasil y Colombia. Dominar el marco europeo te prepara automáticamente para la regulación que viene en la región.


Reflexión final

La ciberseguridad aplicada a inteligencia artificial no es un nicho — es el futuro del campo. Cada sistema de IA desplegado es una superficie de ataque nueva. Cada modelo en producción es un activo que puede ser envenenado, extraído, manipulado o abusado.

El ecosistema formativo ya existe: 25+ certificaciones, herramientas open-source de primer nivel, frameworks maduros, y una comunidad global activa. Lo que falta son profesionales que caminen el camino.

Las preguntas que debes responderte:

  1. ¿Cuál es tu dimensión principal? — ¿Seguridad de IA, IA para seguridad, gobernanza o red teaming?
  2. ¿Cuál es tu nivel actual? — Eso determina si empiezas por SecAI+ (USD 400) o por GIAC (USD 9.000)
  3. ¿Cuál es tu presupuesto real? — Hay un camino sólido desde USD 0 (MLSecOps + OWASP + Gandalf + Garak) hasta USD 12.000+
  4. ¿Cuánto tiempo tienes? — Si son 8 meses, el roadmap intermedio es alcanzable. Si son 2 meses, empieza por los gratuitos y una certificación

El mercado no va a esperar. Los atacantes ya están usando IA. La regulación ya está llegando. La pregunta no es si necesitas esta especialización — es cuánto te vas a demorar en empezar.


Referencias

Certificaciones y formación

Frameworks y estándares

Herramientas

Libros

  • Farlow, H. (2026). Practical AI Security. No Starch Press.

  • Sotiropoulos, J. (2024). Adversarial AI Attacks, Mitigations, and Defense Strategies. Packt Publishing.

  • Wilson, S. (2024). The Developer’s Playbook for Large Language Model Security. O’Reilly Media.

  • Lin, B. (2026). Privacy and Security for Large Language Models. O’Reilly Media.

  • Malik, V., Huang, K., & Dawson, A. (2025). AI-Native LLM Security: Threats, Defenses, and Best Practices. Packt Publishing.

  • Edwards, J. (2025). Adversarial Machine Learning: Mechanisms, Vulnerabilities, and Strategies for Trustworthy AI. Wiley.

Programas universitarios

Regulación LATAM

Artículos relacionados en Blog del CISO

Publicado originalmente en el blog CISO de TTPSEC. La fecha y autoría originales se conservan.