ENTRETIEN. « Nous ne savons pas comment les IA trouvent les solutions qu’elles nous proposent », évoque Justine Cassell, linguiste et psychologue. Quels enjeux pour l’intelligence artificielle et sa démocratisation ?
https://images.ladepeche.fr/api/v1/images/view/64e278726bde1b68c16dc7d9/large/image.jpg?v=3
Société, France – Monde, Innovation – High Tech
Publié le 21/08/2023 . Propos recueillis par Samuel Ribot pour LA DEPECHE

l’essentiel Chaque lundi cet été, La Dépêche** revient avec un expert sur un thème d’actualité. Aujourd’hui, Justine Cassell, membre du CNN (Conseil National du Numérique), évoque les évolutions de l’intelligence artificielle (IA) et sa démocratisation.

Depuis quelques mois, on ne parle plus que d’elle : l’intelligence artificielle. Mais qu’y a-t-il derrière ce terme ?

Le terme d’intelligence artificielle a été utilisé pour la première fois en 1956 lors d’un colloque consacré à la cybernétique organisé sur le campus de l’université américaine de Dartmouth, aux États-Unis. Il s’agissait alors de se démarquer des recherches existantes en désignant ainsi des machines capables d’apprendre en suivant des modèles basés sur des comportements humains. Avec le temps, et notamment l’arrivée de l’apprentissage automatique ou « machine learning », on en est arrivé à une IA qui travaille non plus « à l’image » des humains mais « comme » les humains.

L’IA est justement présentée comme une concurrente de l’humain. Est-ce la bonne manière de poser le débat ?

Parfois, elle est clairement supérieure aux performances humaines, parfois elle ne l’est pas. Dans les sciences, par exemple, l’IA a accompli des miracles dans le domaine de la compréhension de l’ADN grâce à ses incroyables capacités de traitement des données. En revanche, l’IA a parfois besoin des humains, par exemple pour reconnaître des visages : aujourd’hui, elles y parviennent parce que les humains ont annoté d’énormes bases de données avec « la bonne réponse » et que l’IA s’est entraînée sur cette base de données. Aujourd’hui nous assistons à l’avènement de l’IA générative, qui est en mesure d’apprendre par elle-même en examinant d’énormes masses de données, sans annotation humaine. C’est pour cela qu’on dit que les machines sont aujourd’hui capables de « s’entraîner » elles-mêmes.

Que sait-on au juste de cet entraînement ?

Auparavant, on savait sur quoi et comment travaillaient les IA, ce qui avait le plus de poids dans leur « raisonnement ». La grande différence aujourd’hui, c’est que les algorithmes utilisés par les machines fonctionnent comme des « black box » (boîtes noires) : nous ne savons pas comment les IA trouvent les solutions qu’elles nous proposent et sur quelles données sont basées ces solutions. Il y a d’ailleurs depuis un ou deux ans un mouvement en faveur d’un contrôle de ce qui se passe dans ces « black box ».

Pourquoi cette volonté de contrôle ?

Parce que nous donnons aux IA des masses incroyables de données accumulées sur Internet et que nous ne savons pas comment elles les utilisent. Par exemple, il y a tellement de thèses complotistes sur Internet, qui prétendent que la terre est plate ou que Kennedy est vivant, que nous ne savons pas si les IA ne vont pas leur donner une exposition exagérée.

Des pertes de contrôle ont-elles déjà été constatées ?

Microsoft a vécu une expérience édifiante avec son robot conversationnel Tay, qui était doté d’un algorithme capable d’apprendre de ses échanges avec les internautes. Introduit sur Twitter en 2016, il a dû être débranché 36 heures après son lancement. Tay, alimenté par des messages haineux, s’était mis à proférer spontanément des propos antisémites, racistes et misogynes.

Pourquoi Chat GPT a-t-il transformé notre regard ?

Parce qu’il est accessible au grand public et qu’il nous met face à une IA qui est capable de faire des réponses qu’elle n’a jamais vues, de construire une phrase ou un paragraphe à partir d’éléments collectés sur Internet. Ce n’était d’ailleurs pas le but initial de ChatGPT, qui a été conçu comme un robot conversationnel. Ce n’est que lorsque Microsoft l’a relié à son moteur de recherche Bing que cette capacité de trouver des réponses est apparue. Or, dans leur conception initiale, ces bots ont pour mission de maintenir la conversation le plus longtemps possible. Cet objectif explique pourquoi ils ont tendance à inventer des informations afin de maintenir la conversation coûte que coûte, plutôt que d’en garantir la véracité.

Diriez-vous que l’IA est une révolution ?

L’IA n’est pas une révolution. C’est une évolution. L’IA nous accompagne déjà depuis un moment, par exemple quand votre messagerie Gmail vous suggère la suite de la phrase que vous êtes en train d’écrire. Ce qui est nouveau et radical, c’est ce que font ChatGPT ou Dall-E, son équivalent en images, qui peuvent créer des contenus jamais vus ou lus auparavant en répondant à des questions posées dans du langage « naturel », et non de la programmation.

Face à l’IA, faut-il avoir peur ou être enthousiaste ?

La question n’est pas là. L’IA est un outil. Un crayon peut être utilisé pour écrire un roman comme pour blesser quelqu’un. Tout dépend de l’usage que l’on va en faire. L’IA doit être appréhendée avec une culture numérique adaptée. Et il appartient à tout le monde de développer cette culture, de se donner les clefs qui nous permettront d’accueillir cette technologie en dépassant nos craintes. Chaque outil important apparu dans l’Histoire a suscité des peurs : le livre, la radio, la télévision… Ce qui est différent aujourd’hui, et sans doute dangereux, c’est la possibilité pour tous d’accéder à ces technologies sans avoir une formation solide pour comprendre ce qui se joue.

** Source: la depeche.fr
https://www.ladepeche.fr/2023/08/21/entretien-nous-ne-savons-pas-comment-les-ia-trouvent-les-solutions-quelles-nous-proposent-evoque-justine-cassell-linguiste-et-psychologue-11406060.php

ApprofonLire