Audit de sécurité et IA : des décisions traçables pour l'auditeur

Deux sujets distincts, souvent confondus dans une même recherche. Auditer avec l'IA, c'est utiliser des agents pour préparer la campagne, générer les questionnaires, croiser les preuves et rédiger les projets de constat : la méthode d'audit ne change pas, la collecte s'accélère. Auditer l'IA, c'est prendre un système d'intelligence artificielle comme objet d'audit et examiner ses données, ses droits d'accès, sa supervision humaine et ses effets. Les deux produisent des constats à traiter de la même façon, mais ne s'appuient pas sur les mêmes référentiels.

Trois chemins mènent à un audit d'IA. La réglementation d'abord : le règlement européen sur l'intelligence artificielle impose aux fournisseurs de systèmes classés à haut risque une évaluation de conformité, selon un calendrier d'application échelonné. Le contrat ensuite : un grand compte ou un acheteur public demande de plus en plus une revue de sécurité avant d'ouvrir ses données à un service qui embarque un modèle. La certification enfin : viser l'ISO/IEC 42001 suppose de faire auditer son système de management de l'IA par un organisme de certification. Beaucoup d'équipes s'y mettent pourtant sans obligation, parce que l'IA est arrivée en production plus vite que la gouvernance.

Pas au sens où on l'entend d'habitude. Aucun organisme ne délivre à une entreprise un certificat attestant que son IA a été auditée : les certifications qui portent ce nom qualifient des auditeurs, pas des systèmes. Ce qui engage une organisation est ailleurs. L'ISO/IEC 42001 est une norme d'exigences, donc certifiable, et porte sur le système de management de l'intelligence artificielle plutôt que sur un modèle pris isolément. Le règlement européen sur l'IA, lui, repose sur une évaluation de conformité, menée selon les cas en interne ou avec un organisme notifié, puis sur un marquage CE des systèmes à haut risque.

Le périmètre dépasse largement le modèle. Un audit sérieux regarde d'où viennent les données d'entraînement et de contexte, qui peut interroger le système et avec quels droits, comment les secrets et les clés d'API sont protégés, ce qui est journalisé et pendant combien de temps, et quelles données quittent l'organisation vers un fournisseur tiers. S'y ajoutent les risques propres aux applications bâties sur des modèles de langage, l'injection de prompt en tête, ainsi que la chaîne d'approvisionnement des modèles et des bibliothèques. Les recommandations de sécurité publiées par l'ANSSI sur les systèmes d'IA générative donnent un point de départ exploitable.

Oui, et l'audit ne s'arrête pas au lancement. Avant la mise en production, la revue porte sur le cas d'usage, les données exposées, les droits d'accès, les garde-fous en sortie et le niveau de supervision humaine prévu : c'est le moment où corriger coûte le moins cher. Ensuite le système continue de bouger, parce que le modèle change de version, que les sources de contexte s'élargissent et que les usages dérivent de ce qui avait été conçu. Un audit d'IA se traite donc comme un contrôle récurrent, pas comme une formalité de lancement.

Non, et le viser serait une erreur de méthode. Un agent prend la part mécanique de la campagne : rassembler les preuves, repérer l'écart entre une politique et son application réelle, préparer les questions, rédiger les projets de constat. Ce qui reste à l'auditeur est précisément ce qui compte : qualifier l'écart, en peser la gravité, le signer. Un constat se défend ensuite devant un comité ou un organisme de certification, d'où une exigence pratique : chaque élément produit par un agent doit être rattaché à sa source et validé par un auditeur identifié.

Parce qu'une campagne se juge sur ce qu'elle laisse derrière elle. Un constat n'a de valeur que rattaché au contrôle testé, à la preuve datée qui le fonde, au risque qu'il éclaire et à l'action corrective qui le solde, avec un responsable et une échéance. Dans un classeur, ces rattachements sont tenus à la main : à la première réorganisation, l'auditeur suivant repart d'une page blanche au lieu de reprendre où la campagne précédente s'était arrêtée. Un outil garde ce fil et sait dire, à date, ce qui reste ouvert. Dans Vailor, chaque contrôle est relié à ses preuves et à ses actions, et chaque décision est inscrite dans un journal d'audit dont aucune fonction de l'application ne permet d'effacer une ligne.