QA para la IA: claves de la AEPD sobre calidad de los datos

La Agencia Española de Protección de Datos ha publicado la guía ‘Exactitud, idoneidad y calidad de los datos en tratamientos de datos personales con Inteligencia Artificial’, en la que analiza cómo deben interpretarse la calidad, la exactitud y la minimización de los datos cuando intervienen sistemas de IA. Una de sus principales conclusiones es que la calidad del dato debe evaluarse en función de la finalidad concreta del tratamiento y del contexto en el que se utiliza.

Este enfoque amplía la conversación habitual. Un dato de calidad no es simplemente un dato verdadero o actualizado. Dependiendo del propósito, también puede necesitar un determinado grado de precisión, granularidad, completitud, representatividad, consistencia o frecuencia de actualización. La cuestión práctica es comprobar si sus características permiten alcanzar el resultado previsto sin comprometer los derechos y libertades de las personas.

Calidad, exactitud y minimización: conceptos relacionados, pero diferentes

La guía distingue tres elementos que conviene gestionar de forma coordinada:

Calidad del dato: concepto amplio, aplicable a datos personales y no personales. Expresa el grado en que los datos satisfacen las necesidades del sistema dentro de unas condiciones de uso determinadas.
Exactitud conforme al RGPD: exige que los datos personales sean adecuados respecto de la finalidad para la que se tratan. Su interpretación puede requerir propiedades adicionales a la veracidad y la actualización.
Minimización: limita el tratamiento a los datos adecuados, pertinentes y necesarios para alcanzar esa finalidad.

Por tanto, acumular más información o exigir niveles máximos de precisión en cualquier circunstancia puede resultar inadecuado. Los requisitos deben definirse de manera proporcionada, justificable y vinculada al uso previsto.

La evaluación debe llegar hasta los resultados de la IA

Otro mensaje especialmente relevante es que la calidad no debe comprobarse únicamente en los datos de entrada. También es necesario establecer métricas objetivas para evaluar los resultados generados por el tratamiento. Sin estas métricas resulta difícil demostrar que el sistema cumple su finalidad y mantiene unas condiciones adecuadas durante su operación.

Esto lleva la calidad del dato a todo el ciclo de vida:

Identificación de las fuentes y análisis de su procedencia.
Definición de requisitos de calidad vinculados al caso de uso.
Evaluación de los conjuntos de entrenamiento, validación y prueba.
Medición de la calidad de las salidas del sistema.
Seguimiento de cambios, degradaciones y nuevas condiciones de uso.
Conservación de evidencias que permitan justificar las decisiones adoptadas.

La guía también recuerda que los datos no personales pueden requerir controles equivalentes cuando forman parte de un tratamiento de datos personales y tienen capacidad para influir en resultados que afecten a las personas.

¿Qué implica para el desarrollo y gobierno de la IA?

Los conjuntos de datos que carecen de la calidad necesaria para desarrollar o evolucionar un sistema de IA difícilmente pueden considerarse necesarios para ese propósito. Cuando todavía se desconoce su idoneidad, el acceso debe limitarse a lo imprescindible para evaluar objetivamente su calidad y determinar si son aptos.

Este planteamiento requiere conectar el gobierno del dato, la protección de datos, el gobierno de la IA y el aseguramiento de la calidad. La guía propone un enfoque multidisciplinar en el que participen, al menos, especialistas en ciencia de datos y protección de datos, utilizando criterios objetivos y evidencias verificables durante todo el ciclo de vida.

La reflexión que deja la publicación es clara: un sistema de IA puede disponer de grandes cantidades de datos y seguir teniendo un problema de calidad si esos datos, o los resultados obtenidos, no son adecuados para la finalidad perseguida.