IA générative, ce risque émergent pour l'entreprise

Août 10, 2023 | Ai | 0 commentaires

La disponibilité massive de l'IA générative, telle que ChatGPT d'OpenAI et Google Bard, est devenue une préoccupation majeure pour les responsables des risques d'entreprise au deuxième trimestre 2023, estime Gartner.

« L'IA générative était le deuxième risque le plus fréquemment cité dans notre enquête du deuxième trimestre, apparaissant dans le top 10 pour la première fois ! » Faut-il comprendre par ces propos que le génie est sorti de la bouteille ?

Pour Ran Xu, Research Director, Gartner Risk & Audit Practice, « cela reflète à la fois la croissance rapide de la sensibilisation du public et de l'utilisation des outils d'IA générative, ainsi que l'étendue des cas d'utilisation potentiels, et donc des risques potentiels, que ces outils engendrent. »

En mai 2023, Gartner avait interrogé 249 cadres supérieurs du risque d'entreprise pour fournir aux dirigeants une vision comparative de 20 risques émergents. Les rapports trimestriels sur les risques émergents comprennent des informations détaillées sur l'impact possible, le calendrier, le niveau d'attention et les opportunités perçues pour ces risques. La viabilité des tiers était alors apparue comme le principal risque à émergence rapide que les organisations surveillent le plus étroitement dans l'enquête ; l'incertitude de la planification financière arrivait en troisième position.

Un besoin pressant pour une nouvelle classe d'outils AI TRiSM

La position de l'IA sur l'échelle des risques montre aujourd'hui ce que Gartner nomme l'AI TRiSM (AI Trust, Risk and Security Management). Déjà, certains législateurs ont demandé de nouvelles règles et pour les outils d'IA, tandis que les chefs de file de la Tech ont suggéré une pause dans la formation des systèmes d'IA pour évaluer leur sécurité. Cependant, de nombreux experts estiment que le génie est sorti de la bouteille ; les gestionnaires de risques doivent donc se concentrer sur la gestion des expositions plutôt que d'espérer un ralentissement de l'adoption de la technologie.

« La réalité est que le développement de l'IA générative ne s'arrête pas, estime Avivah Litan, VP Analyst, Gartner. Il y a un besoin pressant pour une nouvelle classe d'outils AI TRiSM pour gérer les flux de données et de processus entre les utilisateurs et les entreprises qui hébergent des modèles de base d'IA générative. »

Un risque à travailler avec le politique et les autorités

A entendre cet expert, il n'existe actuellement aucun outil prêt à l'emploi sur le marché qui offre aux utilisateurs des garanties systématiques de confidentialité ou un filtrage efficace du de leurs engagements avec ces modèles, par exemple, en filtrant les erreurs factuelles, les hallucinations, les documents protégés par le droit d'auteur ou les informations confidentielles.

Avivah Litan a ajouté que les développeurs d'IA doivent travailler de toute urgence avec les décideurs politiques, y compris les nouvelles autorités de réglementation qui pourraient émerger, pour établir des politiques et des pratiques de surveillance générative de l'IA et de gestion des risques.