Politique d'éthique algorithmique

L'explicabilité est le premier principe directeur : tout système d'IA déployé par Mileo Technology doit être en mesure de fournir une explication compréhensible des alertes qu'il génère. Cette explication doit être accessible à l'opérateur humain chargé de la validation et, sur demande, à la personne concernée par la décision. Les systèmes de type 'boîte noire' dont les décisions ne peuvent être expliquées ne sont pas déployés.

La non-discrimination est le deuxième principe : les systèmes d'IA doivent traiter toutes les personnes de manière équitable, indépendamment de leur origine, de leur genre, de leur âge ou de toute autre caractéristique protégée. Mileo Technology évalue systématiquement le risque de discrimination algorithmique avant tout déploiement et réalise des audits réguliers en cours d'exploitation.

La robustesse est le troisième principe : les systèmes d'IA doivent fonctionner de manière fiable et prévisible dans toutes les conditions d'exploitation prévues (variations d'éclairage, conditions météorologiques, densité de foule). Les dégradations de performance doivent être détectées automatiquement et signalées avant qu'elles n'entraînent des décisions incorrectes.

Mileo Technology réalise un audit annuel des biais algorithmiques pour chaque système d'IA déployé dans le cadre d'un contrat de maintenance actif. Cet audit analyse les données de performance collectées au cours de l'année écoulée pour détecter des patterns de discrimination ou de traitement inégal.

L'audit de biais est réalisé par une équipe interne indépendante de l'équipe projet ayant déployé le système, afin de garantir l'objectivité de l'analyse. Pour les déploiements à fort impact (espaces publics, grandes organisations), Mileo Technology recommande le recours à un auditeur externe certifié.

Les résultats de l'audit sont communiqués au client et au DPO dans un rapport détaillé précisant les biais identifiés, leur niveau de significativité, leur cause probable et les mesures correctives recommandées. En cas de biais avéré ayant pu affecter des personnes, les obligations de notification au titre du RGPD sont évaluées.

Mileo Technology exige de ses fournisseurs de solutions IA la mise à disposition d'une documentation complète sur les jeux de données ayant servi à l'entraînement et à la validation des modèles. Cette documentation doit préciser la taille du jeu de données, sa composition démographique et géographique, les conditions d'acquisition des données, les modalités de leur labellisation et la date de constitution.

Un jeu de données insuffisamment diversifié (surreprésentant certains types de personnes, d'environnements ou de conditions d'éclairage) constitue un facteur de risque de biais. Mileo Technology peut refuser de déployer un système dont les données d'entraînement ne répondent pas à des critères minimaux de diversité et de représentativité.

Toute personne ayant fait l'objet d'une décision affectant ses droits ou ses intérêts à la suite d'une alerte générée par un système IA déployé par Mileo Technology dispose d'un droit d'explication. Ce droit lui permet d'obtenir des informations compréhensibles sur la logique ayant conduit à l'alerte et les données utilisées.

L'exercice de ce droit est facilité par la mise en place d'un point de contact dédié, dont les coordonnées sont communiquées lors de l'information préalable des personnes concernées. Le délai de réponse est de 30 jours, conformément au RGPD. Les réponses sont rédigées dans un langage accessible, sans jargon technique.

Mileo Technology intègre dans ses contrats avec les éditeurs et fournisseurs de solutions IA des clauses contractuelles spécifiques portant sur : l'obligation de notification en cas de mise à jour substantielle du modèle (préavis de 30 jours minimum), la fourniture de documentation technique conforme à l'AI Act, l'engagement de non-discrimination dans le développement du modèle et le droit d'audit par Mileo Technology ou un tiers désigné.

Les fournisseurs qui ne respectent pas ces engagements ou qui refusent de les contractualiser ne peuvent pas être référencés dans le catalogue de solutions proposées par Mileo Technology. Cette exigence s'applique indépendamment de la qualité technique des solutions proposées, car l'absence de garanties éthiques constitue un risque inacceptable pour les clients et les personnes concernées.