Par Kim Alderman, directeur, AI Innovation Lab, Riskonnect, Inc.
L’intelligence artificielle transforme les entreprises – et la gestion des risques ne fait pas exception. La mise en œuvre de nouvelles technologies offre de nombreuses possibilités d’améliorer les capacités d’évaluation des risques et de renforcer l’efficacité. Mais l’IA s’accompagne également de toute une série d’implications environnementales, sociales et de gouvernance que vous devez anticiper.
Considérations environnementales : Les coûts cachés de l’innovation
L’impact de l’IA sur l’environnement est nuancé. Les systèmes d’IA sont fantastiques pour aider à optimiser l’utilisation des ressources et à réduire les déchets, mais ils s’accompagnent de leur propre bagage environnemental. Vous voulez en avoir le cœur net ? L’apprentissage d’un seul modèle d’IA en langage étendu consomme autant d’électricité que 25 foyers américains en un an. C’est sans compter l’empreinte carbone liée à la fabrication de tout le matériel nécessaire ou à l’exploitation de ces énormes centres de données. Ajoutez à cela l’énergie nécessaire à la création d’une réponse, et le coût augmente encore.
Pour les gestionnaires de risques, il s’agit de trouver un équilibre délicat entre les incroyables avantages environnementaux de l’IA – meilleure gestion des ressources, efficacité accrue, réduction des déchets – et les coûts environnementaux. Cette question est d’autant plus cruciale aujourd’hui que les organisations sont soumises à une pression croissante pour réduire les émissions de carbone et atteindre les objectifs de développement durable.
La leçon à tirer de cette expérience est qu’il convient de bien dimensionner l’entreprise. Aussi convaincants que soient les cas d’utilisation de l’IA, il arrive souvent que cette technologie ne soit pas adaptée au problème. Comme l’a souligné le Wall Street Journal, le fait de toujours choisir par défaut le plus grand modèle linguistique revient à utiliser une Lamborghini pour livrer une pizza.
L’impact social : L’aspect humain de l’équation
Les implications sociales de l’IA représentent certains des plus grands défis.
Confidentialité et sécurité des données. De nos jours, les entreprises nagent dans les données et l’IA les engloutit par téraoctets. Le défi ? Utiliser toutes ces données de manière responsable tout en les gardant sécurisées et privées. Vous devez trouver un équilibre entre les connaissances étonnantes offertes par l’IA et les risques très réels de violation de la vie privée et de maux de tête liés à la réglementation.
Impact sur le personnel. L’IA bouleverse la façon dont le travail est effectué, et tout le monde ne va pas l’apprécier. Certes, les outils d’IA peuvent rendre les équipes plus productives et ouvrir de nouveaux rôles passionnants. Mais voici le plus difficile : Certaines tâches et certains emplois deviendront obsolètes. Certains groupes seront plus durement touchés que d’autres, en particulier dans les rôles plus faciles à automatiser. Les gestionnaires de risques doivent réfléchir soigneusement à la manière de gérer ce changement. Il ne s’agit pas seulement de mettre en œuvre de nouvelles technologies. Il s’agit de prendre soin de votre personnel et de vous assurer que vous êtes responsable de ces changements.
Partialité et équité. Voici une vérité qui dérange : les systèmes d’IA peuvent aggraver les préjugés existants si vous n’y prenez pas garde. Ces systèmes apprennent à partir de données historiques, et si ces données reflètent des préjugés, devinez quoi ? L’IA en fera autant. Il ne s’agit pas seulement de faire ce qu’il faut (bien que cela soit important) ; il s’agit de protéger vos organisations contre de graves risques opérationnels et de réputation, en particulier dans des domaines sensibles tels que l’embauche, les prêts et le service à la clientèle.
Il ne faut pas oublier que l’IA ne concerne pas seulement les GPU et les réseaux neuronaux, mais aussi la manière dont elle peut fonctionner pour les personnes. Considérez les effets sur les employés, les clients et la société dans son ensemble, et n’oubliez pas qu' »un grand pouvoir implique de grandes responsabilités ».
Défis en matière de gouvernance : Contrôler l’IA
Le plus grand défi pourrait être de s’assurer que les systèmes d’IA restent sur la bonne voie et font ce qu’ils sont censés faire. Voici les points sur lesquels vous devez vous concentrer :
La structure doit être correcte. Établissez des lignes de responsabilité claires pour vos systèmes d’IA. Qui surveille les entrées et les sorties ? Qui intervient en cas de problème ? Ces systèmes devenant de plus en plus complexes et autonomes, il est essentiel d’apporter des réponses claires à ces questions. N’oubliez pas qu’un ordinateur n’assumera jamais la responsabilité d’une décision, et que vous avez donc besoin d’une structure pour superviser des systèmes souvent opaques.
Rester du bon côté de la réglementation. Il est difficile de suivre l’évolution du paysage réglementaire de l’IA. Par exemple, la loi européenne sur l’IA fixe de nouvelles normes à respecter. Vous devrez rester à l’affût de ces changements et vous assurer que vos mises en œuvre de l’IA ne vous mettent pas dans l’eau chaude.
Obtenir l’adhésion du conseil d’administration. Il est important d’aider les conseils d’administration et les autres dirigeants à comprendre les enjeux de l’IA. Cela signifie que vous devez être capable de traduire les risques techniques liés à l’IA en termes commerciaux compréhensibles pour les chefs d’entreprise.
Ce qu’il faut retenir, c’est que la gouvernance de l’IA est un sport d’équipe. Il est essentiel de réunir différents services et parties prenantes pour assurer une défense et une attaque complètes.
Voici votre plan de match
- Prenez au sérieux l’évaluation des risques liés à l’IA.
- Comprenez l’impact environnemental de vos systèmes d’IA.
- Réfléchissez à la manière dont votre IA affecte votre personnel.
- Assurez-vous que votre gouvernance est en mesure de relever les défis spécifiques à l’IA.
- Mesurez ce qui compte.
- Mettez en place des mesures claires pour suivre l’impact ESG de l’IA.
- Créez des systèmes d’alerte précoce pour détecter les problèmes avant qu’ils ne se transforment en crise.
- Effectuez des contrôles réguliers de vos systèmes d’intelligence artificielle.
- Cassez ces silos.
- Travaillez main dans la main avec vos équipes informatiques, de ressources humaines et de développement durable.
- Restez en contact avec des experts externes qui peuvent voir des choses que vous pourriez manquer.
- Gardez les lignes de communication ouvertes avec les régulateurs.
- Continuez à apprendre.
- Assurez-vous que vos équipes chargées des risques comprennent réellement l’IA et ses implications ESG.
- Restez au courant des changements réglementaires.
- Faites connaître les risques ESG liés à l’IA au sein de votre organisation.
Regarder vers l’avenir : Que nous réserve l’avenir ?
L’intersection de l’IA et de l’ESG n’est pas figée. Voici ce qu’il faut surveiller :
De meilleurs outils pour une IA responsable : la bonne nouvelle ? Les nouvelles technologies et méthodes facilitent la gestion de l’impact ESG de l’IA. Pensez à des méthodes de formation plus économes en énergie pour les modèles d’IA, à une meilleure détection des biais et à des outils de gouvernance plus intelligents.
Plus de règles : Le paysage réglementaire reste rarement inchangé pendant longtemps, et il est probable que la réglementation mondiale en matière d’IA continuera à se complexifier. Restez agile et prêt à vous adapter au fur et à mesure que de nouvelles règles apparaissent.
Des attentes croissantes : Les investisseurs, les clients et les employés attendent de l’entreprise qu’elle utilise l’IA de manière responsable. Il sera essentiel de répondre à ces attentes tout en assurant le bon déroulement des opérations.
La gestion de l’impact ESG de l’IA nécessitera des compétences, de la concentration et des ajustements constants. Mais il est crucial pour la réussite future de votre organisation de bien faire les choses. Les gestionnaires de risques sont dans une position unique pour aider à relever ces défis tout en tirant le meilleur parti de l’incroyable potentiel de l’IA.
Les enjeux sont importants, mais les opportunités le sont tout autant. Ceux qui parviendront à équilibrer efficacement les risques et les bénéfices de l’IA tout en gérant les considérations ESG seront ceux qui mèneront la charge vers l’avenir. Ce ne sera pas facile, mais là encore, les choses les plus importantes le sont rarement.
Pour en savoir plus sur la gestion des risques liés à l’IA, téléchargez notre livre électronique,Technology Risk Management : De la détection à la protection, et découvrez le logiciel de gestion des risques informatiques de Riskonnect.
