ChatGPT n’est pas immunisé contre les «hallucinations de système»

Salima Barragan

3 minutes de lecture

Nous nous dirigeons vers une intelligence artificielle générale, explique Rolando Grandi de La Financière de l’Echiquier.

Impossible de ne pas succomber à l’envie d’interroger ChatGPT, l’application d’intelligence artificielle (IA) disponible au public depuis novembre 2022. Entraîné depuis quelques années sur internet, cet algorithme génératif est construit sur un modèle de langage utilisant 175 milliards de paramètres. Sans que nous le sachions, l’IA est réalité entrée dans nos vies quotidiennes il y a un certain temps via les services d’entreprises de cybersécurité, d’Amazon ou de Visa et Mastercard. Les applications similaires à ChatGPT soulèvent toutefois des questions sur leur fiabilité. Le point avec Rolando Grandi, CFA, spécialisé dans les actions technologiques et d’innovation à La Financière de l’Echiquier (LFDE).

On parle beaucoup de ChatGPT, le service partiellement gratuit. Qui sont les entreprises qui profitent de la percée technologique de l’intelligence artificielle?

Si le phénomène ChatGPT s’adresse à tous les utilisateurs depuis le mois de novembre passé, l’IA était déjà présente dans nos vies, mais de manière discrète. Un grand nombre d’entreprises l’ont déjà adopté, par exemple des acteurs tels que Zscaler ou Palo Alto Network dans la cybersécurité qui utilisent une approche d’apprentissage machine pour défendre les ordinateurs et les réseaux. L’IA est également présente sur les plateformes d’Amazon, d’Alibaba en Chine et de Mercado Libre en Amérique du Sud afin d’améliorer l’expérience d’achat. Nous la retrouvons aussi dans les secteurs des énergies renouvelables - Nextera Energy est une pionnière-, de l’industrie, de la logistique et la finance. Visa et Mastercard l’utilisent pour détecter les fraudes et les compagnies d’assurance sollicitent les données satellites sur la météorologie pour mieux anticiper les risques afin d’optimiser leur politique de prix. La simulation des molécules chimiques par l’AI dans le développement des vaccins contre le COVID est un exemple d’application médicale de l’AI. Avec la robotique, l’utilisation de l’IA dans notre quotidien sera, sans doute, grandissante.

Microsoft a investi plusieurs milliards dans la société OpenAI créatrice de ChatGPT. Cette dernière utilise le cloud de Microsoft qui imprègne ses produits comme Bing des algorithmes d’OpenAI. D’autres entreprises peuvent aussi accéder à l’interface d’OpenAI pour créer des outils basés sur ChatGPT.

Bing, Bard: quel sera le meilleur moteur de recherche basé sur l’IA?

Bing semble très bien, mais ce service ne restera pas exclusif. Google prépare le lancement de Bard, dont la technologie sera similaire. Quelle que soit la technologie sous-jacente, ces moteurs pourront effectuer des recherches plus complexes qu’à présent, avec la possibilité de synthétiser les informations. Google, en tant qui pionner de l’internet, bénéficiera d’un avantage concurrentiel de taille.

Tout au long de l’histoire, l’éducation s’est adaptée aux évolutions technologiques, avec dans un premier temps les calculateurs, ensuite les ordinateurs, puis l’internet et enfin, l’IA.
Quel est le taux d’erreur de ChatGPT?

Cette information n’a pas été dévoilée. Tous les modèles de langage développés ne sont pas des systèmes intelligents (ndlr: Chatbot). Les systèmes ne sont pas immunisés contre ce que les spécialistes nomment «les hallucinations de système». Il est donc important de ne pas considérer leurs réponses comme une vérité absolue. Dans une grande majorité des cas, les répliques demeurent similaires.

L’IA soulève également des questions sur le plagiat, la propriété intellectuelle et l’éducation. Quel est votre avis en la matière?

ChatGPT utilise l’ensemble des données publiques à sa disposition. Leur restitution synthétisée n’est pas forcément un plagiat: il s’agit selon nous de collecte d’informations. Naviguer sur internet et restituer des renseignements de manière similaire n’est ainsi pas si différent.

La société ADOBE a annoncé un nouveau système d’IA. Les utilisateurs de son produit phare Photoshop vont pouvoir choisir de donner ou non la photo à l’algorithme. Similairement aux cookies des sites web, nous pourrons ainsi refuser de conserver des données de la sphère privée.

Tout au long de l’histoire, l’éducation s’est adaptée aux évolutions technologiques, avec dans un premier temps les calculateurs, ensuite les ordinateurs, puis l’internet et enfin, l’IA. Nous avons aujourd’hui un outil qui «prémâche» le travail. Pour le moment, l’Université Sciences Po à Paris a interdit son utilisation dans le cadre des évaluations écrites et orales, alors que l’Université de Stanford se montre ouverte à la technologie. Les écoles et les établissements universitaires devront s’y adapter avec le temps en cadrant son utilisation.

Des banques comme Goldman Sachs et JP Morgan ont banni l’utilisation de ChatGPT, alors que d’autres établissements y ont recours. D’où provient ce clivage?

Certains collaborateurs n’y ont pas accès, en raison des responsabilités juridiques de la décision basée sur ChatGPT, alors que d’autres établissements, plus discrets à ce sujet, l’utilisent simplement en tant qu’outil comme un autre.

L’IA est pour l’instant générative, c’est-à-dire qu’elle génère du contenu. Va-t-elle se spécialiser dans divers domaines?

L’IA actuelle n’est qu’un segment parmi d’autres, qui regroupent plusieurs stratégies d’apprentissage. On développe des briques synthétisées sur le langage, sur le traitement d’images avec Dall-e, sur les caméras avec la vision sur la machine, ou encore sur d’autres types d’algorithmes pour la voiture autonome.

L’ambition consiste à les faire toutes converger vers la condition humaine, leur but étant de répliquer les compétences de l’homme. Nous nous dirigeons vers une IA générale où un unique algorithme – tel un seul cerveau – sera appliqué à tous les domaines. Mais cela reste une vision presque propre à la science-fiction.

Un unique cerveau d’IA centralisé va soulever des questions d’éthiques…

Il faudra beaucoup de temps avant de développer ce type d’algorithme, ce qui permettra aux spécialistes de considérer et réfléchir autour des questions d’éthique. Les entreprises qui investissent dans l’IA ont déjà lancé des comités d’éthique et de la gestion de donnée (GRPD en Europe a beaucoup d’influence) afin de déterminer quelle sera l’éthique imbibée à l’AI.

A lire aussi...