Après trois ans d'élaboration, la nouvelle norme sur les systèmes de management est sur le point d'être finalisée. L'ISO/IEC 42001 est destinée à faire partie intégrante de l'amélioration de la gouvernance et de la responsabilité de l'intelligence artificielle à l'échelle mondiale.
Avec l'adoption et l'intérêt croissants de l'intelligence artificielle (IA), il y a eu une forte demande pour une méthode permettant de régir son utilisation et son application. La norme ISO/IEC 42001 est le résultat de cette demande. Son élaboration a impliqué des spécialistes de plus de 50 pays et une période de consultation publique avant que le projet initial ne soit publié en novembre 2022. Elle peut être utilisée par toute taille ou tout type d'organisation qui a l'intention d'utiliser l'IA pour développer ou fournir ses produits et services.
"L'intelligence artificielle offre des avantages infinis à la société comme aux entreprises ; cependant, assurer la confiance dans l'IA exige une application sûre, sécurisée et éthique de la technologie", déclare Nanda kumar Shamanna, Global ICT Scheme Manager chez DNV.
En tant que norme de système management, l'ISO/IEC 42001 partage plusieurs éléments clés avec d'autres normes telles que l'ISO 9001 pour le management de la qualité et l'ISO 27001 pour le management de la sécurité de l'information et de la cybersécurité. Les normes fournissent des meilleures pratiques, des règles, des définitions ou des conseils utilisés pour concevoir et fabriquer des produits ou mettre en œuvre des processus pour gérer les risques et les aspects opérationnels. Et elles peuvent facilement être intégrées à d'autres normes de système de management.
Les objectifs de l'ISO/IEC 42001 peuvent être résumés comme suit :
- Promoumoir le développement et l'utilisation de systèmes d'IA dignes de confiance, transparents et responsables.
- Mettre l'accent sur les principes et valeurs éthiques tels que l'équité, la non-discrimination et le respect de la vie privée lors du déploiement de systèmes d'IA afin de répondre aux attentes des parties prenantes.
- Aider les organisations à identifier et à atténuer les risques liés à la mise en œuvre de l'IA, ce qui permet d'améliorer l'efficacité et de réduire les coûts.
- Maintenir la conformité réglementaire, y compris les exigences en matière de protection des données.
- Instaurer une plus grande confiance dans le management de l'IA en encourageant les organisations à donner la priorité au bien-être humain, à la sécurité et à l'expérience utilisateur dans la conception et le déploiement de l'IA.
- Améliorer sa réputation, car les organisations qui adhèrent à l'ISO 42001 acquièrent un avantage concurrentiel et sont considérées comme des leaders en matière d'IA éthique.
"L'ISO/IEC 42001 est la première norme internationale de système de management pour l'IA et deviendra essentielle pour aider les entreprises à gérer les risques et une mise en œuvre sûre, favorisant la confiance envers ses parties prenantes comme les patients d'un hôpital, par exemple", ajoute Nanda Kumar Shamanna.