AI: de weg vooruit

In dit stuk bespreek ik 3 interessante elementen uit dat essay.

1. De volgende stap na GPT-4: van kleuter tot gevorderde intelligentie

Aschenbrenner beschrijft hoe de ontwikkeling van AI een enorme sprong maakte van GPT-2 naar GPT-4. Daarbij evolueerde AI in intelligentie van het niveau van een 'kleuter' naar dat van een slimme middelbare scholier.Dat gebeurde door een combinatie van drie belangrijke elementen:

1. Toename in rekenkracht van 3 à 4 grootteordes, wat Aschenbrenner 'OOMs' (Orders of Magnitude) noemt
2. Verbeterde algoritmische efficiëntie
3. Ingenieuze verbeteringen zoals 'Reinforcement Learning from Human Feedback' (RLHF).

[Link]

Hij voorspelt dat tegen 2027 de volgende stap, van GPT-4 naar AGI (Artificial General Intelligence), een vergelijkbare sprong zal maken. Daarbij zullen AI-systemen in staat zijn om nog sneller te leren en beslissingen te nemen dan mensen. Naast verbeteringen in rekenkracht en algoritmes, zullen de AI-ingenieurs onder meer moeten verzinnen hoe de huidige bots beter kunnen worden in het opbouwen en volgen van redeneringen (Kahnemans beroemde 'Systeem 2').

[Link]

2. AI-PhD's en versneld onderzoek

Het tweede belangrijke punt dat Aschenbrenner aanhaalt, is dat AI niet alleen mensen zal helpen, maar ook zichzelf zal versnellen. Zodra AI het intelligentieniveau van een doctorandus kan benaderen, krijgt het onderzoek naar AI een gigantische boost.

Dat zou betekenen dat onderzoek dat normaal tientallen jaren zou kosten, binnen een paar maanden wordt afgerond. Maar ook in andere complexe domeinen, zoals geneeskunde en materiaalwetenschappen, zou er op dat moment gigantische vooruitgang geboekt kunnen worden. Die versnelling is te danken aan de mogelijkheid van AI om hypotheses te genereren, te testen en uit te voeren zonder menselijke tussenkomst.

3. De angst voor dominantie en de geopolitieke vergelijking met kernwapens

Tot slot is Aschenbrenner zeer bezorgd dat AI-technologieën de machtsbalans in de wereld drastisch zullen verstoren. Net zoals kernwapens in de vorige eeuw de geopolitieke verhoudingen hebben veranderd, zal AI een doorslaggevende rol spelen in de machtsstrijd tussen landen.

Aschenbrenner waarschuwt dat overheden, met name in de VS en China, AI kunnen inzetten als een economisch en militair wapen. Hij vergelijkt de situatie met de nucleaire wapenwedloop: wie als eerste superintelligente AI's ontwikkelt, krijgt een onevenredig voordeel. Die wedloop zou kunnen leiden tot politieke instabiliteit en economische overheersing door technologische grootmachten.

Opvallend, voor iemand uit de AI-incrowd, is dat Aschenbrenner er onomwonden voor pleit om AI-onderzoek exclusief in nauwe samenwerking met de overheid te voeren. Of de Amerikaanse of Europese gezagvoerders gehoor zullen geven aan Aschenbrenners oproep is maar zeer de vraag.

Veel zekerder is dat de AI-wapenwedloop vandaag al tot enorme geldstromen leidt. Miljarden aan investeringen gaan naar infrastructuur, zoals datacenters en elektriciteit. Maar die economische boost kan de ongelijkheid vergroten, omdat rijke landen en techgiganten er de meeste voordelen van kunnen plukken. Tegelijk zal AI de productiviteit verhogen, maar ook banen veranderen; sommige zullen verdwijnen, terwijl nieuwe kansen ontstaan in digitale sectoren.

Een spannende tijd wacht ons allen.