L’actualité : Dans une conférence en ligne à laquelle ZDnet a eu accès, M. LeCun, scientifique en chef pour l’intelligence artificielle chez Meta, explique que ChatGPT n’est pas une si grande révolution que ce que laisse entendre la perception du public.

• « En termes de techniques sous-jacentes, ChatGPT n’est pas particulièrement innovant », a déclaré Yann LeCun. « Il n’y a rien de révolutionnaire, même si c’est la façon dont il est perçu par le public », a déclaré M. LeCun. « C’est juste que, vous savez, c’est bien conçu, c’est joliment fait », ajoute-t-il.
• De tels systèmes d’IA basés sur les données ont déjà été construits par le passé dans de nombreuses entreprises et laboratoires de recherche, a déclaré Yann LeCun. L’idée qu’OpenAI soit le seul laboratoire à en avoir une est inexacte, a-t-il ajouté.
• « OpenAI n’est pas particulièrement en avance par rapport aux autres laboratoires, pas du tout », a déclaré le spécialiste. Il ajoute : « Il n’y a pas que Google et Meta, mais il y a une demi-douzaine de startups qui ont fondamentalement une technologie très similaire à celle-ci (…) Je ne veux pas dire que ce n’est pas sorcier, mais c’est vraiment partagé, il n’y a pas de grand secret derrière, en d’autres mots. »

Des inspirations diverses

Le détail : Yann LeCun a fait remarquer que ChatGPT, et la programmation sur lequel il repose, GPT-3, sont composés d’une multitude d’éléments technologiques développés par de nombreuses entreprises.

• « Il faut savoir que ChatGPT utilise des architectures Transformer qui sont préformées de manière autosupervisée », a-t-il observé. « L’apprentissage autosupervisé est quelque chose que je préconise depuis longtemps, même avant l’existence d’OpenAI », a-t-il ajouté. Cependant, « Transformer est une invention de Google », explique le chef de l’IA chez Meta. Aujourd’hui, il est devenu la base de nombreux de programmes de langage, dont GPT-3.
• Le programme d’OpenAI a, en outre, fait un usage intensif d’une technique appelée apprentissage par renforcement grâce à la rétroaction humaine, qui permet à des agents humains d’aider à étiqueter les résultats de la machine afin de les améliorer. Cette approche a été mise au point non pas par OpenAI, mais par l’unité DeepMind de Google, a-t-il précisé.

Pourquoi les autres géants de la Tech n’ont pas donné l’accès à leurs IA ?

L’enjeu : Cette technologie n’est pas un avantage pour certains géants de la Tech

• Le responsable IA de Meta fait remarquer que « l’on pourrait se demander pourquoi il n’existe pas de systèmes similaires chez Google et Meta, par exemple (…) Et la réponse est que Google et Meta ont tous deux beaucoup à perdre en proposant des systèmes qui inventent des choses », a-t-il déclaré.
• « Si Google et Meta n’ont pas sorti des IA de type chatGPT, ce n’est pas qu’ils ne le peuvent pas, mais parce qu’ils ne le veulent pas ».