La norma ISO/IEC 42001 de Sistemas de Gestión de Inteligencia Artificial, está llamada a ser la nueva norma que permitirá a las organizaciones diferenciarse de su competencia y demostrar que operan de forma adecuada con respeto a una tecnología con un potencial tan grande como es el caso de la IA. Si bien todavía no contamos con una versión traducida al castellano, esto no supone un problema para que las organizaciones comiencen a trabajar en el desarrollo e implantación del SGIA. Es por ello publicamos este artículo a modo de primera toma de contacto con la norma para destacar sus aspectos más importantes.

El sistema de gestión de Inteligencia Artificial

Para empezar, hay que decir que aquellos profesionales que ya estén familiarizados con la norma ISO/IEC 27001 están de suerte, ya que ISO/IEC 42001 tiene un enfoque y estructura prácticamente idénticos. El Sistema de Gestión de Inteligencia Artificial definido en esta norma, al igual que sucede con el SGSI, contempla la estructura de alto nivel de los estándares de sistemas de gestión y únicamente añade la necesidad de realizar un análisis de riesgos y un análisis de impacto, que pueden y deberían retroalimentarse entre sí, e implantar las salvaguardas sean necesarias para tratar los principales riesgos detectados en base a los controles definidos en el anexo A.

Análisis de riesgos y de impacto

Estos análisis de riesgos específicos se convierten por tanto en el núcleo central de la norma y modularán el resto de acciones a abordar dentro del SGIA, especialmente en lo relativo al apartado operativo del estándar. Respecto a cómo abordar el análisis de riesgos, una futura norma ISO/IEC 42005 definirá el modelo que los organismos internacionales proponen para dar cumplimiento a esta obligación aunque, como ya sucede en otros estándares internacionales, no será una obligación sino una referencia más. Aun así, sí que existen ciertos mínimos que el modelo implantado en la organización debe cumplir necesariamente:

• El proceso debe estar documentado y ser comparable con análisis previos, lo que implica que la metodología debe ser consistente en el tiempo.
• Debe estar enfocado en los riesgos específicos de IA, con especial relevancia a aquellas situaciones que están relacionadas negativamente con los objetivos y la política.
• La valoración final del riesgo debe ser una expresión de la probabilidad y el impacto de las amenazas.
• El impacto se valora en base a las consecuencias que la amenaza tendría contra la organización, la sociedad en general y los individuos en particular.
• Establecer un criterio para la aceptación del riesgo
• Tomar acciones para tratar los riesgos considerados como inaceptables.
• El análisis de riesgos es un proceso que debe realizarse de manera regular y siempre que sea necesario, por lo que en mayor o menor medida, debe considerarse como un proceso vivo.

Hasta que esta norma se publique, puede tomarse el modelo general de gestión del riesgo de ISO 31000 para orquestar una metodología adecuada para cada organización. En cualquier caso, y siendo conscientes que aún no contamos con ISO/IEC 42005, nuestro estándar de SGIA contiene un anexo C no normativo que identifica fuentes temáticas de amenazas y objetivos. Si bien no puede ser considerado como un catálogo de amenazas como tal, sí que nos sirve de orientación para la identificación de las amenazas que son de aplicación a cada organización.

Las tipologías de riesgos que se contemplan en el anexo C no tienen un mero carácter tecnológico como podría suponerse en un principio, al ser el objeto del sistema de gestión unos sistemas de información tan particulares, sino que también nos propone valorar riesgos de tipo ético o vinculados a las personas. Algunos ejemplos de esto serían riesgos para la privacidad, para la seguridad, aspectos vinculados a las fuentes de datos, toma de decisiones autónomas, etc. Como se puede ver, muchos de estos riesgos guardan relación con la salvaguarda de los derechos y libertades de las personas en la medida en que se hacen tratamientos de sus datos personales.

Como sucede en cualquier norma en la que los riesgos sean un aspecto nuclear, aunque la norma no lo exige, es muy recomendable que la metodología de análisis de riesgos esté documentada con un especial nivel de detalle y que sea un documento sujeto a mejora regular, especialmente en los primeros compases del SGIA.

Con respecto al análisis de impacto, es un análisis de riesgos en el que el foco se pone en los impactos directamente vinculados a las personas y en el que la probabilidad no es un factor tan relevante. Según las circunstancias de la organización, sus sistemas de IA y las amenazas que afronta, el análisis de impacto puede realizarse de forma integrada con el análisis de riesgos o por separado.

Controles para sistemas de Inteligencia Artificial

En cuanto al anexo A, en él se define 38 controles de diferente naturaleza y que se distribuyen en los siguientes dominios:

1. Políticas relacionadas con la IA.
2. Organización interna.
3. Recursos para los sistemas de IA.
4. Evaluación de impacto de los sistemas de IA
5. Ciclo de vida de los sistemas de IA
6. Data para los sistemas de IA
7. Información para las partes interesadas de los sistemas de IA
8. Uso de sistemas de IA
9. Relación con proveedores y terceros

Como sucede en un SGSI, es necesario elaborar un documento de declaración de aplicabilidad en el que se justifiquen la aplicabilidad o no de los controles del anexo y su estado de implantación. Esto es así ya que no es necesario implantar todos ellos para ser conforme con ISO/IEC 42001 y, podría ser necesario valorar algunos no contemplados por el estándar. Para orientarnos en la implantación de los controles, la norma contiene un anexo B a modo de guía de implantación de los controles, con un enfoque similar a ISO/IEC 27002 de controles de seguridad, que si bien en este caso tiene carácter normativo.

Esto no implica que los controles tengan que implantarse exactamente de la forma en que están descritos en el anexo B, ya que como el propio texto indica, en ocasiones la propuesta será excesiva o inaplicable materialmente o, por contra, no abordará de forma adecuada los riesgos específicos que afronta la organización. Por tanto, en cada caso concreto el responsable del SGIA deberá concretar el control de la forma más adecuada. A lo que sí nos obliga este anexo es a interpretar y valorar los controles de forma alineada con su definición, considerando el texto completo de los anexos A y B a la hora de plantearlo y no solo la descripción corta que encontramos en el anexo A.

Cumplimiento con la normativa legal en materia de IA

Pese a que el contenido de la norma ISO/IEC 42001 está alineado con la mayoría de la normativa que está surgiendo con el fin de regular el correcto uso de las IAs, no se puede considerar que la mera implantación del SGIA garantice el cumplimiento. En este sentido, tampoco existe un dominio o un control orientado a identificar requisitos legales y/o contractuales y darles cumplimiento, como sí sucede en ISO/IEC 27001. En este sentido, podemos considerar que un SGIA garantiza la implantación de las buenas prácticas reconocidas en materia de desarrollo, operación y uso de los sistemas de IA, pero no así el cumplimiento.

Por tanto, si queremos garantizar y, en su caso, certificar también el cumplimiento con esta normativa, tendríamos que recurrir a otras normas. En este caso, sería especialmente relevante la integración del SGIA con un Sistema de Gestión de Compliance bajo ISO 37301. La conjunción de ambas normas en un solo sistema de gestión integrado enfocado en los sistemas de Inteligencia Artificial permitiría ofrecer confianza ante terceros del cumplimiento de la normativa y otras obligaciones aplicables a la organización y al sistema y la aplicación de las buenas prácticas y la explotación ética del sistema.

Integración con otros sistemas de gestión

Si bien el SGIA puede integrarse con cualquier otra norma de sistema de gestión, hay cuatro normas particularmente vinculadas con el enfoque de ISO/IEC 42001 y que de las que las organizaciones pueden obtener interesantes sinergias al aplicarlas de manera integrada.

Las más evidentes serías las normas ISO/IEC 27001 de seguridad de la información e ISO/IEC 27701 de privacidad. En primer lugar, y como hemos mencionado al principio de este texto, la norma ISO/IEC 42001 tiene una estructura y enfoque prácticamente idéntica a estas dos normas, lo que facilita el desarrollo de procesos integrados. Por otro lado, varios de los riesgos que el SGIA va a tener que abordar están vinculados con aspectos relacionados con amenazas para la seguridad, la privacidad y/o los derechos y libertades de las partes interesadas del SGIA. La implantación de un sistema de gestión que tenga en cuenta estas normas, nos permite reforzar los controles de seguridad y privacidad que será necesario implantar.

Por otro lado, la mayor de las fortalezas de la IA, su adaptabilidad y aprendizaje, es también uno de los mayores problemas desde el punto de vista de la calidad, en la medida en la que no existirá certeza en cuanto al resultado de los procesos en los que estos sistemas se integren. Así, la implantación con ISO 9001 o ISO/IEC 20000-1 puede ayudarnos a tener un mejor control sobre los resultados no deseados asociados con estos sistemas.