CompTIA SecAI+ se centra en los aspectos prácticos de la seguridad de los sistemas de IA en entornos de producción. Abarca conceptos fundamentales de IA relevantes para los equipos de seguridad, incluyendo cómo los flujos de trabajo de aprendizaje automático, los procesos de entrenamiento, las canalizaciones de datos y las arquitecturas de implementación afectan al riesgo y al control.
La certificación hace hincapié en la seguridad de los sistemas de IA a lo largo de todo su ciclo de vida: desde la protección de los datos de entrenamiento y los artefactos del modelo hasta la seguridad de los procesos de compilación e implementación, el mantenimiento de la integridad del modelo y la monitorización de los sistemas en funcionamiento para detectar usos indebidos o degradación. También aborda el uso de la IA en las operaciones de seguridad, incluyendo cómo las herramientas de detección, respuesta y automatización basadas en IA introducen nuevos beneficios, así como riesgos como falsos positivos, puntos ciegos y desviaciones del modelo.
Además, SecAI+ abarca amenazas específicas de la IA, como el aprendizaje automático adversario, el envenenamiento de datos, la manipulación de modelos y los ataques basados en avisos, junto con los requisitos de gobernanza, riesgo y cumplimiento necesarios para gestionar los sistemas de IA de forma responsable en entornos empresariales.
