Boîte noire, non merci : pourquoi chaque décision de BALLA s'explique

Confier des décisions de sécurité à une IA pose une question simple : pourquoi a-t-elle décidé cela ? Sans réponse claire, une équipe ne peut ni faire confiance, ni corriger, ni rendre de comptes. La boîte noire n'est pas une option.

À chaque alerte, BALLA produit une explication : quels facteurs ont pesé, et dans quelle mesure. Cette lecture s'appuie sur la méthode SHAP, qui attribue à chaque signal sa contribution réelle au score : un horaire inhabituel, un enchaînement de processus suspect, la réputation d'une adresse.

Ce n'est pas un luxe cosmétique. C'est ce qui permet à un analyste de valider ou d'infirmer en quelques secondes, et à l'organisation de répondre à une exigence désormais incontournable : le droit, pour une personne, de comprendre et de contester une décision automatisée (RGPD, article 22).

L'explicabilité nourrit aussi l'amélioration. Chaque correction d'analyste, appuyée sur des facteurs visibles, réentraîne le filtrage anti-faux-positifs. Le système ne se contente pas d'être transparent : il apprend de cette transparence.

En cybersécurité, la confiance ne se décrète pas, elle se démontre. Une décision qu'on peut lire, tracer et contester vaut mieux qu'une certitude opaque, aussi rapide soit-elle.