L’entrepreneur sud-africain, CEO du constructeur automobile Tesla Motors et de l’entreprise aérospatiale Space X, Elon Musk, a convaincu diverses personnalités de fonder une association à but non lucratif destinée à créer de l’intelligence artificielle, OpenAI.

Dotée d’un budget de 1 milliard de dollars – une somme colossale – , openAI aura pour objectif de développer de l’intelligence artificielle (IA) capable d’augmenter les capacités humaines, et non de rendre l’intelligence humaine obsolète.

“Notre objectif est de faire avancer l’intelligence numérique d’une manière qui est plus susceptible de bénéficier à l’humanité dans son ensemble, sans la contrainte de devoir générer un retour financier”, explique un post sur le blog de cette association.

Musk a fait part à plusieurs reprises de ses inquiétudes concernant le développement de l’IA, et le risque qu’elle échappe à tout contrôle humain. Au mois d’août, il avait twitté qu’elle était “plus dangereuse que les armes nucléaires”. Récemment, devant un parterre d’étudiants du célèbre Massachusetts Institute of Technology (MIT), il a déclaré qu’il s’agissait de “la plus grande menace existentielle”.

Au début de cette année, il avait co-signé une lettre ouverte soulignant l’importance de se concentrer sur les avantages sociaux et sur la sécurité nécessaire au développement de l’IA. Parmi les signataires de cette lettre, on trouvait le célèbre physicien et cosmologiste britannique Stephen Hawking. Ce dernier a également régulièrement mis en garde contre le développement sans contrôle de l’IA, et des effets dévastateurs pour l’humanité qu’une AI omnipotente pourrait comporter:

Aucune loi physique n’empêche les particules d’être organisées selon des manières qui leur permettraient de réaliser des calculs encore plus avancés que ceux que réalisent les combinaisons de particules des cerveaux humains. Une transition explosive est possible. (…)

On peut imaginer que cette technologie pourrait déjouer les marchés financiers, surpasser les chercheurs humains en matière d’inventions, manipuler les dirigeants humains, et développer des armes que nous ne pouvons même pas comprendre. Alors que l’impact à court terme de l’IA dépend de qui la contrôle, son impact à long terme dépend de notre capacité à la contrôler.”

Parmi les membres fondateurs d’OpenAI, on retrouve le co-fondateur de Paypal, Peter Thiel, le co-fondateur de LinkedIn, Reid Hoffman. L’association sera co-dirigée par Musk, et par le capital risqueur Sam Altman.