Aujourd’hui, les banques sont très intéressées par l'utilisation de l'IA générative afin d'optimiser la détection des fraudes, d'augmenter la productivité interne et d'améliorer l'expérience client, mais elles hésitent à aller au-delà de petites implémentations pilotes. La raison principale de cette hésitation: la confiance et les règles de conformité. C'est sur cela que repose le fondement du secteur bancaire. Alors que les technologies aident la plupart des institutions à offrir des services plus rapides et plus simples, des règles strictes déterminent la manière dont ces services doivent être fournis. De plus, les cadres et les normes largement reconnus influencent la gestion de la sécurité et la protection des données. Cette architecture constituée de processus et directives crée la confiance dans l'ensemble du système.

L'IA générative comporte des risques qui ne sont pas pris en compte dans ces approches de sécurité et de protection des données. Les entreprises s’aventurent dans des domaines inconnus - et non réglementés - du développement et de l'utilisation éthique et responsable des technologies autonomes. Afin de soutenir les banques qui souhaitent mettre en œuvre des projets d'IA, il est important d’envisager différentes stratégies, de manière systématique et selon les risques.

Cadres de l'IA

Les gouvernements et les organisations ont mis en place des cadres et des propositions d'IA pour le secteur public afin de soutenir le développement et le déploiement de l'IA. Cela inclut, par exemple, la boîte à outils de gouvernance de l'IA du Forum économique mondial, les principes de l'OCDE en matière d'IA, les principes d'IA du G20 ou le cadre de gestion des risques de l’IA du NIST. Ils offrent tous une précieuse feuille de route pour la mise en œuvre et partagent certains principes fondamentaux communs.

L'une des approches les plus efficaces pour une utilisation réussie de l'IA générative est le service à la clientèle.

Par ailleurs, les concepteurs et développeurs de systèmes doivent méticuleusement tenir compte des impacts éthiques et sociaux potentiellement négatifs du système. Les systèmes doivent être placés sous le contrôle d'un humain qui peut revenir sur ses décisions. L’administration et la gestion du système doivent être clairement établis, en veillant particulièrement à identifier les personnes responsables du respect des normes éthiques, juridiques et autres définies.

Qualité et intégrité des données

L'erreur la plus courante lors de la conception et de la création de systèmes d'IA est de ne pas avoir de données fiables pour créer des modèles et des résultats dignes de confiance et non biaisés. Après la création de systèmes, les données ne sont souvent pas protégées contre les dommages, les manipulations ou les suppressions intentionnelles ou accidentelles. De même, le développement de mécanismes d'extraction de fonctionnalités, c'est-à-dire la capacité à détecter les erreurs lors de l'apprentissage du modèle, à identifier ce qui n'a pas fonctionné et à supprimer les fonctionnalités erronées, est souvent négligé.

Exemples d'utilisation

L'une des approches les plus efficaces pour une utilisation réussie de l'IA générative est le service à la clientèle. Cette approche est souvent utilisée par les banques, qui déploient un système d'IA générative pour répondre à un certain nombre de questions possibles. Lorsqu'une question ne faisant pas partie du répertoire standard de réponses est posée, un humain est consulté. A ce stade, le système d'IA générative tente de deviner la réponse. Si la réponse est correcte, l'humain accepte la réponse et la transmet, ce qui permet au modèle d'IA d'apprendre. Si la réponse est fausse, l'humain répond à la question, et cette réponse est utilisée pour entraîner le modèle. De cette manière, il est possible de construire un modèle digne de confiance, qui offre des réponses fiables aux clients. Avec le temps, les interventions humaines seront de moins en moins nécessaires, car le système d'IA deviendra de plus en plus performant.

Bien que l'IA soit extrêmement attrayante, elle peut également potentiellement causer de grands dommages si elle n'est pas correctement contrôlée et gérée. C'est pourquoi il est essentiel de définir des garde-fous et des mécanismes de contrôle appropriés dès le début, afin que l'IA puisse fonctionner comme un compagnon de confiance dans le système bancaire mondial. Il est crucial que ces garde-fous maintiennent un équilibre approprié entre la gestion des risques et la facilitation de l'innovation et de la croissance à long terme.