« Peu innovant », « pas une révolution » : le responsable de l’IA chez Meta n’est pas impressionné par ChatGPT

ChatGPT a été pour beaucoup une révolution, mais Yann LeCun, lauréat du prix Turing en 2019 (l’équivalent du prix Nobel pour l’informatique, NDLR), n’est pas de cet avis.

Pourquoi est-ce important ?

ChatGPT a provoqué un véritable tremblement de terre médiatique. Tout le monde en a entendu parler ou l’a essayé et le résultat est, pour une grande majorité, bluffant. Pourtant, certaines pointures du domaine ne sont pas du tout impressionnées. Pour cause, des IA qui utilisent le deep learning existent déjà depuis plusieurs années.

L’actualité : Dans une conférence en ligne à laquelle ZDnet a eu accès, M. LeCun, scientifique en chef pour l’intelligence artificielle chez Meta, explique que ChatGPT n’est pas une si grande révolution que ce que laisse entendre la perception du public.

  • « En termes de techniques sous-jacentes, ChatGPT n’est pas particulièrement innovant », a déclaré Yann LeCun. « Il n’y a rien de révolutionnaire, même si c’est la façon dont il est perçu par le public », a déclaré M. LeCun. « C’est juste que, vous savez, c’est bien conçu, c’est joliment fait », ajoute-t-il.
  • De tels systèmes d’IA basés sur les données ont déjà été construits par le passé dans de nombreuses entreprises et laboratoires de recherche, a déclaré Yann LeCun. L’idée qu’OpenAI soit le seul laboratoire à en avoir une est inexacte, a-t-il ajouté.
  • « OpenAI n’est pas particulièrement en avance par rapport aux autres laboratoires, pas du tout », a déclaré le spécialiste. Il ajoute : « Il n’y a pas que Google et Meta, mais il y a une demi-douzaine de startups qui ont fondamentalement une technologie très similaire à celle-ci (…) Je ne veux pas dire que ce n’est pas sorcier, mais c’est vraiment partagé, il n’y a pas de grand secret derrière, en d’autres mots. »

Des inspirations diverses

Le détail : Yann LeCun a fait remarquer que ChatGPT, et la programmation sur lequel il repose, GPT-3, sont composés d’une multitude d’éléments technologiques développés par de nombreuses entreprises.

  • « Il faut savoir que ChatGPT utilise des architectures Transformer qui sont préformées de manière autosupervisée », a-t-il observé. « L’apprentissage autosupervisé est quelque chose que je préconise depuis longtemps, même avant l’existence d’OpenAI », a-t-il ajouté. Cependant, « Transformer est une invention de Google », explique le chef de l’IA chez Meta. Aujourd’hui, il est devenu la base de nombreux de programmes de langage, dont GPT-3.
  • Le programme d’OpenAI a, en outre, fait un usage intensif d’une technique appelée apprentissage par renforcement grâce à la rétroaction humaine, qui permet à des agents humains d’aider à étiqueter les résultats de la machine afin de les améliorer. Cette approche a été mise au point non pas par OpenAI, mais par l’unité DeepMind de Google, a-t-il précisé.

Pourquoi les autres géants de la Tech n’ont pas donné l’accès à leurs IA ?

L’enjeu : Cette technologie n’est pas un avantage pour certains géants de la Tech

  • Le responsable IA de Meta fait remarquer que « l’on pourrait se demander pourquoi il n’existe pas de systèmes similaires chez Google et Meta, par exemple (…) Et la réponse est que Google et Meta ont tous deux beaucoup à perdre en proposant des systèmes qui inventent des choses », a-t-il déclaré.
  • « Si Google et Meta n’ont pas sorti des IA de type chatGPT, ce n’est pas qu’ils ne le peuvent pas, mais parce qu’ils ne le veulent pas ».
Plus
Marchés
Ma liste de suivi
Marchés
BEL20