Análisis del curso “Evaluación de Riesgos y Ciberseguridad de la IA para Empresa”: ¿vale la pena?

Qué promete y qué encontré al analizarlo

Evaluación de Riesgos y Ciberseguridad de la IA para Empresa es un curso de Álvaro Chirou para quien debe decidir cómo usar ChatGPT, Claude u otros modelos de IA generativa en una organización sin exponer datos ni sistemas. Se publicó en mayo de 2025, se actualizó en septiembre de ese año y suma 4,242 alumnos y 225 reseñas con un promedio de 4.61.

Al revisar el temario, el centro de gravedad es la sección de riesgos: 17 clases y unos 133 minutos, más de la mitad del video. Le siguen una sección breve de gobernanza, 45 minutos de prompt engineering y tres clases de uso práctico. Hay 3 cuestionarios y un role-play con IA.

El temario, en resumen

• Introducción (6 elementos): recomendaciones, orientación, cómo funcionan los role-play, qué es la IA generativa y qué es un LLM, con un cuestionario.
• Riesgos de la IA generativa (19): privacidad, brechas en proveedores, fuga de datos, Top 10 de vulnerabilidades de LLM, prompt injection directa e indirecta, sandbox inadecuado, alucinaciones, SSRF, envenenamiento y derechos de autor, con tres prácticas, un cuestionario y el role-play «FinAI».
• Defensa (3): gobernanza de la IA generativa, modelado de amenazas y controles de seguridad, con un cuestionario.
• Prompt engineering (6): rol, contexto, tarea y cierre del prompt, y una clase de 16 minutos sobre seguridad en el prompt.
• Uso práctico (3): cómo se trabajará, la IA para la gobernanza y la creación de políticas, y un GPT propio.
• Cierre (2): despedida y una clase extra.

Puntos fuertes

• Un tema casi sin oferta en español. Al revisar el catálogo, la etiqueta «Seguridad de la IA» de Udemy no tenía ningún curso en español. Este recorre en 17 clases casi todo lo que preocupa de la IA generativa en una empresa.
• Ves el ataque para entender la defensa. Tres clases prácticas muestran prompt injection contra una API, explotación de un LLM con comandos y envenenamiento de datos. Como ingeniero, es lo que más valoro: un control se diseña mejor cuando has visto lo fácil que es saltarse unas instrucciones de sistema.
• Evaluación con un caso de empresa. Además de 3 cuestionarios, hay un role-play con IA en el que revisas los riesgos de «FinAI», un asistente corporativo de ejemplo: más cercano al trabajo de un analista que una pregunta de opción múltiple.
• Incluye el lado legal y de negocio. Privacidad, brechas en proveedores, derechos de autor, gobernanza y políticas de uso: lo que necesita quien aprueba herramientas de IA, no solo quien las audita. Con 4.3 horas, cabe en una semana.

Aspectos mejorables

• Mucho riesgo y poco control. Frente a 133 minutos de riesgos, la defensa ocupa dos clases (19 minutos) y una de 10 sobre políticas. No aparece un método para puntuar probabilidad e impacto ni un marco con nombre, como NIST AI RMF o ISO/IEC 42001.
• Temas clave en pocos minutos. El Top 10 de vulnerabilidades de LLM ocupa 4 minutos, SSRF menos de 4 y el envenenamiento de datos menos de 5. La clase no indica qué versión de la lista usa; contrástala con la vigente del OWASP Top 10 para aplicaciones de LLM.
• Prompt engineering genérico. Seis clases y 45 minutos, casi una quinta parte del video, van a los fundamentos del prompt; solo una los aplica a la seguridad. Si ya usas IA a diario, te sonará conocido.
• Sin agentes y con un año sin cambios. La última actualización es de septiembre de 2025 y no hay clases sobre agentes que ejecutan acciones o usan herramientas externas, donde una prompt injection pasa de una respuesta incorrecta a una acción real.
• El entorno de las prácticas no se explica. El temario no dice dónde se hacen los ataques de demostración: repítelos solo en tu laboratorio o en retos creados para eso, nunca contra el asistente o la API de un tercero.

Conclusión honesta

Este curso es hoy una de las pocas formas de tener en español un panorama ordenado de los riesgos de la IA generativa, con demostraciones que hacen tangibles ataques como la prompt injection. Sirve sobre todo a responsables de TI, consultores y mandos que deben aprobar o vigilar estas herramientas.

Lo que no te da es un método de evaluación completo ni controles en profundidad: complétalo con el OWASP Top 10 para aplicaciones de LLM y un marco como NIST AI RMF. Si desarrollas aplicaciones con modelos de lenguaje, suma Desarrollo de Software Seguro; si tu reto es que el personal no pegue datos sensibles en un chat, Cybersecurity Awareness en Español cubre la base.

Preguntas frecuentes