Accueil IA et robotique GPT-3 : la face sombre de l’intelligence artificielle

GPT-3 : la face sombre de l’intelligence artificielle

par Jonas Elmerraji
GPT-3 OpenAI Microsoft

[GPT-3 d’OpenAI est le programme d’intelligence artificielle de langage le plus avancé du monde. Il est capable de composer de très jolis poèmes mais peut tout aussi bien débiter les pires horreurs sans l’once d’un remord. On dit de lui qu’il est dénué d’éthique, qu’il est amoral… Pourtant, malgré ses défauts, GPT-3 intéresse déjà les géants de la tech, Microsoft en tête. Et Elon Musk enrage…]

Développé par d’OpenAI, GPT-3 (Generative Pre-trained Transformer 3) est le programme d’intelligence artificielle (“IA”) basé sur le langage le plus sophistiqué de la Silicon Valley. C’est aussi le programme d’intelligence artificielle le plus problématique de la Silicon Valley. On dit de lui qu’il est dénué d’éthique, qu’il est amoral…

En fait, en termes d’IA, GPT-3 est capable du meilleur comme du pire… Et c’est peut-être excellent pour votre portefeuille…

GPT-3 : l’IA  sans morale

Si les avancées accomplies dans le domaine de l’IA sont toujours plus exaltantes, force est aussi de le reconnaître, l’IA a un côté obscur…

Tenez, dernièrement, dans un article paru dans AI News, nous apprenions que le chatbot [NDR : programmes permettant de dialoguer avec les utilisateurs d’une plateforme] d’une application médicale utilisant le programme GPT-3 aurait dit à un faux patient de se suicider.

Quelle horreur !

Le fait que GPT-3  dise des horreurs est une chose très enthousiasmante

“Le programme GPT-3 est le plus puissant générateur d’intolérance au monde. Que faut-il faire ?”, s’est demandé quelqu’un sur The Next Web.

C’est vrai. La dernière génération de générateur de textes basé sur l’IA dit parfois des choses monstrueuses.

Par pure curiosité, j’ai voulu tester cela moi-même. J’ai donc lancé GPT-2, le prédécesseur de GPT-3, et j’ai essayé de lui faire dire quelque chose d’offensant. Il ne lui a pas fallu grand-chose…

Je sais que nous vivons à une époque où il est plus facile que jamais d’offenser les gens, mais le texte généré par GPT-2 était, en toute objectivité, plutôt embarrassant. Je vais donc le garder pour moi.

A la place, je vous propose une idée tout aussi polémique mais générée par un humain (moi) : le fait qu’une IA de dernière génération énonce régulièrement les pires horreurs est une chose très enthousiasmante.

Je m’explique…

GPT-3 : du mimétisme plus que du cynisme

Quand OpenAI s’est lancée dans la création de GPT-3, l’idée n’était pas de concevoir une machine capable de prendre des décisions morales ou éthiques à propos de ce qu’elle dit. Non. Il s’agissait simplement de développer un programme générant des textes sans intervention humaine aucune. C’est tout.

Et, de ce point de vue, OpenAI a réussi son pari. GPT-3 est capable de créer des textes stupéfiants, et même plutôt convaincants, très proches de ce qu’un être humain est capable de faire.

Si le programme GPT-3 (et ses prédécesseurs) dit des choses horribles de temps en temps, c’est parce que les humains le font aussi. Et le corpus de données de langage avec lequel le modèle a été entraîné intègre des choses telles que le biais et l’intolérance car il a été écrit par des humains.

Mais le modèle ne comprend pas, en fait, ce qu’il dit. Il n’a aucune intention de livrer un message particulier. C’est de l’imitation pure. Voilà tout.

Mais réfléchissez à ceci : le fait que le texte généré par GPT-3 soit si humainement convaincant – au point d’offenser des humains – signifie que c’est un excellent générateur de textes.

La puissance de GPT-3 réside dans sa capacité à agir comme une couche de langage en plus d’autres algorithmes qui prennent réellement des décisions, et non en tant qu’élément isolé.

Je ne doute pas un instant que nous trouverons comment rendre moins déplaisant le successeur de GPT-3. Des gens réellement intelligents y travaillent. Et tout cela est très excitant pour nous, investisseurs particuliers.

Microsoft valide GPT-3

En septembre dernier, Microsoft (NASDAQ : MSFT) a signé avec OpenAI un accord de licence exclusive sur ses produits GPT-3 – ce qui fait enrager Elon Musk d’ailleurs. En ce moment, donc, des ingénieurs travaillent sur l’intégration de cette technologie d’IA dans de véritables produits Microsoft.

Microsoft a signé un accord exclusif avec OpeanAI

Je pense que nous verrons très rapidement des éléments de GPT-3 dans les logiciels grand public de Microsoft, ainsi que sur sa plateforme de cloud informatique, Azure. D’ailleurs, cette intégration sur Azure pourrait réellement faire pencher la balance, dans un contexte où Microsoft est en concurrence avec la plateforme AWS d’Amazon.

C’est le début de quelque chose d’énorme. Et les implications sont tout aussi considérables pour ceux qui investissent dans les technologies. Nous aurons l’occasion d’en reparler.

Soyez le premier informé des dernières Opportunités Technos directement dans votre boîte mail

Articles similaires

1 commentaire

dulaurent 13 avril 2021 - 18 h 53 min

Bonsoir Jonas,
Arrêtez de jouer a la vierge éèffarouchée et dites-nous comment GPT-2 vous a embarrassé . Je veux bien connaitre GPT-2 pour rigoler.
Cordialement
JPD

Reply

Laissez un commentaire