IA : l’irrésistible ascension

1. L'après GPT-4 : de la maternelle à l'intelligence avancée

Aschenbrenner décrit l'avancée spectaculaire réalisée par l'IA lors du passage de GPT-2 à GPT-4. Au cours de ce processus, le niveau d'intelligence de l'IA est passé de celui d'un élève de maternelle à celui d'un lycéen intelligent. Cette évolution résulte de l'association de trois facteurs essentiels :

1. L'augmentation de la puissance de calcul de 3 à 4 ordres de grandeur, ce qu'Aschenbrenner appelle les « OOM » (Orders of Magnitude)
2. L'amélioration de l'efficacité algorithmique
3. Des améliorations ingénieuses, telles que l'apprentissage par renforcement à partir de rétroaction humaine (Reinforcement Learning from Human Feedback ou RLHF).

[Link]

Aschenbrenner prévoit que l'étape suivante, à savoir le passage de GPT-4 à l'AGI (Artificial General Intelligence ou Intelligence Artificielle Générale), connaîtra la même progression d'ici 2027. Dès lors, les systèmes d'IA seront capables d'apprendre et de prendre des décisions plus rapidement que l'intelligence humaine. Outre l'amélioration de la puissance de calcul et des algorithmes, les ingénieurs en IA devront notamment trouver le moyen de rendre les robots actuels plus aptes à créer et à suivre un raisonnement (le célèbre « système 2 » de Kahneman).

[Link]

2. Doctorat en IA et recherche accélérée

Le deuxième point important soulevé par Leopold Aschenbrenner est que, non contente d'aider les gens, l'IA subira une accélération exponentielle. Dès que l'IA aura atteint le niveau d'intelligence d'un doctorant, la recherche sur l'IA connaîtra une explosion sans précédent.

Cela signifie que des recherches qui prendraient normalement des décennies seraient accomplies en quelques mois à peine. Cependant, des progrès gigantesques pourraient également être réalisés dans d'autres domaines complexes, tels que la médecine et la science des matériaux. Cette accélération est due à la capacité de l'IA à générer, tester et élaborer des hypothèses sans intervention humaine.

3. La crainte de la dominance et l'équation géopolitique des armes nucléaires

Enfin, Aschenbrenner s'inquiète fortement des effets pervers de l'AGI sur l'équilibre du pouvoir mondial. À l'instar des armes nucléaires qui, au siècle dernier, ont modifié la teneur des relations géopolitiques, l'IA jouera un rôle décisif en matière de lutte d'influence entre les États.

Aschenbrenner met en garde les gouvernements, en particulier les autorités américaines et chinoises, qui seraient tentés d'utiliser l'IA comme une arme économique et militaire. Il compare la situation à la course aux armements nucléaires : le premier qui développe des systèmes d'IA super intelligents obtient un avantage décisif. Cette course pourrait conduire à l'instabilité politique et à la domination économique des superpuissances technologiques.

Ce qui est frappant et qui interpelle les personnes qui évoluent dans le monde de l'IA, c'est que Leopold Aschenbrenner plaide résolument pour que la recherche sur l'IA soit exclusivement au service des autorités gouvernementales. Les dirigeants américains ou européens seront-ils sensibles à l'appel d'Aschenbrenner ? La question est posée.

Ce qui est par contre certain, c'est que la course à l'armement en matière d'IA génère des flux financiers considérables. Des milliards sont investis dans les infrastructures, telles que les centres de données et l'électricité. Ce coup de pouce économique pourrait néanmoins accroître les inégalités car l'IA avantagerait davantage les pays riches et les géants technologiques. Dans le même temps, l'IA augmentera la productivité, tout en modifiant le marché du travail : certains emplois disparaîtront, tandis que de nouvelles opportunités verront le jour dans les secteurs numériques.

Une ère passionnante s'ouvre à nous.

Public link

Please use the above public link if you want to share this noodl on another website.