John Carmack veut créer la 1ère IA d'un niveau humain : tout savoir sur Keen Technologies

" .... Tout autour du monde, plus de 72 projets dans le monde sont dédiés au développement d’une Intelligence Artificielle Généraliste.
Déjà à l’heure actuelle, de nombreux experts s’inquiètent de l’impact de l’intelligence artificielle sur notre société. Alors même que l’IA est encore très loin d’un niveau humain, beaucoup redoutent les dérives liées à son usage.
Plusieurs événements récents ont été liés à l’utilisation d’algorithmes d’intelligence artificielle sur les réseaux sociaux. C’est le cas de l’attaque du Capitol aux Etats-Unis, de la guerre du Tigré en Ethiopie, de la montée de violence contre les musulmans du Kashmir, ou du génocide des Rohingya au Myanmar.
Les réseaux sociaux utilisant ces technologies ont révélé une propension à la diffusion de contenu haineux, car l’IA identifie ces publications comme populaires… et donc rentables pour l’entreprise. Même sous sa forme actuelle, l’IA peut donc s’avérer nocive pour la société.
Or, une IA généraliste du niveau du cerveau humain aura conséquences bien plus importantes sur la société. En théorie, ses effets pourraient être très positifs. Par exemple, l’automatisation pourrait libérer l’humain des travaux les plus pénibles.
Toutefois, une telle IA pourrait aussi provoquer la fin de l’humanité. Il pourrait même s’agir de la plus grande menace pour notre espèce, selon le chercheur Toby Ord de l’université d’Oxford.
Cet expert a passé près d’une décennie à tenter d’identifier les causes d’extinction les plus probables pour l’être humain, et résume les résultats dans son ouvrage « The Precipice ». Selon lui, les catastrophes naturelles telles que les éruptions de supervolcans et les astéroïdes n’ont qu’une chance infime de nous faire disparaître.
Les guerres nucléaires, les pandémies et le changement climatique, qui semblent actuellement nous plonger dans le chaos, représentent un risque un peu plus élevé. Mais le phénomène qui pourrait véritablement causer notre disparition serait bel et bien l’émergence d’une IA digne de l’humain.
Plusieurs autres experts font les mêmes prédictions funestes. C’est le cas du défunt Stephen Hawking, de milliardaires de la tech comme Elon Musk et Bill Gates, ou de chercheurs éminents comme Stuart Russell de l’Université de Californie de San Francisco.
Ces spécialistes avertissent publiquement qu’une IA de niveau humain pourrait mener au désastre. Le risque est particulièrement grand si elle n’est pas développée avec une extrême prudence et une prise en compte de la sécurité et de l’éthique…
Le projet de John Carmack ne risque pas d’apaiser les peurs autour de l’IA. Pour cause, sur Twitter, il annonce vouloir laisser la « science folle » décider du destin de son IA.
Déjà auparavant, il a travaillé pour Facebook : l’un des principaux responsables des méfaits actuels de l’IA. Cette entreprise a appliqué la technologie a la société, sans jamais vraiment se soucier des conséquences. En acceptant de prêter son expertise à cet employeur, Carmack a cautionné cette philosophie.
Lors de l’entretien avec Lex Fridman, Carmack exprime d’ailleurs son mépris pour tout ce qui restreint le développement effréné de la technologie et la maximisation du profit. Selon lui, « la plupart des gens avec une vision sont légèrement moins efficaces ».
Au sujet de l’éthique de l’IA, il déclare qu’il « reste vraiment à l’écart de toutes ces discussions et évite même de penser à ça ». Inutile de dire qu’il ne s’agit pas de sa priorité…
Par conséquent, il semble nécessaire d’imposer des barrières aux magnats de la technologie. La société doit trouver un consensus sur l’intelligence artificielle généraliste, en tenant compte des risques qu’elle représente.
Malheureusement, à l’heure actuelle, la régulation de l’IA est un véritable casse-tête. Nul ne sait comment réduire les risques liés à cette technologie complexe, ou comment imposer des règles à son développement… "

John Carmack veut créer la 1ère IA d'un niveau humain : tout savoir sur Keen Technologies

John Carmack, légende du jeu vidéo et ancien CTO de la branche VR de Facebook, dévoile Keen Technologies. La startup a déjà levé 20 millions de dollars, et se fixe pour objectif la création ...

https://www.lebigdata.fr/keen-technologies-ia-carmack