Depuis 2021, nos principes Secure by Design ont guidé notre approche de la sécurité et de la cyberrésilience. Nous étendons maintenant ce modèle pour mettre en place des pratiques optimales en matière d’intelligence artificielle. AI by Design représente notre approche du développement de l’IA et s’appuie sur quatre principes fondateurs. Ils constituent une structure permettant à nos clients d’établir une relation sécurisée, productive et pérenne avec nos solutions pilotées par l’IA.

Principe 1 : Confidentialité et sécurité
Chez SolarWinds, lorsque nous parlons d’innovation, nous faisons référence à l’innovation sécurisée. Le principe de confidentialité et sécurité d’AI by Design régule la collecte des données personnelles, leur stockage, leur utilisation et leur protection. Cela implique la régulation de l’accès via un contrôle d’accès basé sur les rôles (RBAC), l’authentification multifacteur (MFA) et la gestion des accès à privilèges (PAM) pour empêcher tout accès non autorisé. Les techniques d’anonymisation et de pseudonymisation permettent de limiter les risques menaçant la confidentialité en supprimant ou en remplaçant des informations identifiables. Des mécanismes robustes d’audit et de surveillance permettent de détecter tout accès non autorisé et de faciliter des interventions en temps voulu en cas de faille de sécurité. Ce sont des exemples d’approches parmi celles que SolarWinds met activement en œuvre pour assurer une protection optimale en matière de données et d’IA.

Principe 2 : Responsabilisation et impartialité
Si les entreprises ne prennent pas les précautions nécessaires, les systèmes d’IA peuvent perpétuer des idées préconçues présentes dans les données qui servent à les entraîner, ce qui produit des résultats discriminatoires. Le principe de responsabilisation et impartialité d’AI by Design garantit qu’un humain intervient dans la boucle pour réguler les décisions prises par l’IA. Les mécanismes de retour et de validation sont intégrés pour que les expériences négatives des utilisateurs soient correctement consignées et corrigées. Par exemple, notre fonctionnalité Agent Assist basée sur l’IA générative permet à un agent humain de modifier les réponses générées par l’IA avant de les envoyer au demandeur. Les retours sur les suggestions de l’IA sont collectés et vérifiés régulièrement afin d’améliorer le comportement du modèle au fil du temps.

Principe 3 : Transparence et confiance
Les décisions doivent être accompagnées d’explications pour permettre l’établissement d’une bonne relation de travail avec les systèmes d’IA. Cette transparence favorise une confiance accrue dans les résultats des processus pilotés par l’IA. Un pipeline MLOps (Machine Learning Operations) bien défini permet de démontrer facilement le raisonnement qui sous-tend les actions générées par l’IA pour en faciliter l’affinement continu en fonction des besoins changeants. La transparence a pour objectif de démystifier les processus à l’origine des décisions de l’IA et des résultats qu’elle produit. La confiance nécessaire qui en résulte contribue incontestablement à favoriser une réponse positive aux nouvelles technologies.

Principe 4 : Simplicité et accessibilité
Pour les équipes informatiques et du DevOps chargées de la gestion des applications cruciales, l’expérience des utilisateurs de l’IA est primordiale. Une expérience transparente et intuitive empêche la fatigue et rationalise le processus de prise de décision. Cette facilité d’utilisation est précieuse pour les équipes qui traitent des flux de données importants provenant de diverses charges de travail. Pour simplifier les expériences pilotées par l’IA, il est important de tenir compte des procédures auxquelles nos utilisateurs sont habitués. Plutôt que de proposer des expériences entièrement nouvelles (qui nécessitent une formation et entraînent une surcharge cognitive), nous identifions des schémas familiers et les utilisons comme base. On peut citer, par exemple, nos alertes basées sur les anomalies qui visent à réduire la fatigue provoquée par les alertes incessantes. En exploitant à la base des pratiques et des comportements existants, nous facilitons la transition vers cette nouvelle technologie.

AI by Design : une structure qui évolue
Vu les perspectives intéressantes que présente l’intelligence artificielle, on pourrait avoir tendance à se lancer hâtivement dans le développement et l’intégration, mais les conséquences risquent d’être imprévisibles. AI by Design assimile des connaissances d’expert provenant de sphères privées et publiques pour que notre approche de l’IA soit judicieuse. AI by Design est construit de sorte à permettre à nos clients de tirer le meilleur parti de l’IA tout en limitant au maximum les éventuels inconvénients. Fondamentalement, il ne s’agit pas d’une structure statique, mais d’un ensemble de directives dynamique et en évolution qui va s’adapter aux nouvelles informations.