Ataque de inferencia de membresía.

Ataque de privacidad que determina si un registro concreto formó parte del conjunto de entrenamiento de un modelo, analizando el comportamiento del modelo sobre ese registro. Pertenece a la categoría de Seguridad de IA y ML en ciberseguridad.

Ataque de privacidad que determina si un registro concreto formó parte del conjunto de entrenamiento de un modelo, analizando el comportamiento del modelo sobre ese registro.

La inferencia de membresía, formalizada por Shokri et al. (2017), explota la tendencia de los modelos de ML a mostrar mayor confianza sobre ejemplos vistos durante el entrenamiento. El atacante consulta al modelo objetivo con una muestra candidata y compara confianza, pérdida o puntuaciones por clase frente a modelos sombra entrenados con datos similares, deduciendo la membresía. Suele bastar con acceso vía API. Este ataque es base de amenazas de privacidad más amplias: confirmar que el historial médico, foto o documento de una persona se usó para entrenar un modelo puede vulnerar el RGPD, HIPAA o el Reglamento europeo de IA. Las defensas incluyen privacidad diferencial, regularización (dropout), minimización de salidas y deduplicación cuidadosa de los datos de entrenamiento.

Las defensas contra Ataque de inferencia de membresía combinan habitualmente controles técnicos y prácticas operativas, como se detalla en la definición.

Nombres alternativos comunes: MIA, Ataque de pertenencia al conjunto de entrenamiento.