De race naar superintelligentie: utopie of dure gok?

PLUS: leer hoe je tientallen AI-experts tegelijk laat samenwerken voor slimmere antwoorden

De AI-wereld ontwikkelt zich razendsnel, en wij, de makers van de podcast Poki, houden je op de hoogte. Twee keer per week de nieuwste AI-ontwikkelingen, tools, use cases en onderzoek.

---

🗞️ Het belangrijkste nieuws

Superintelligentie: techgiganten investeren miljarden in riskante wedloop

In de wereld van AI woedt momenteel een ongekende race. Het einddoel? Superintelligentie - een AI die de menselijke intelligentie overtreft op vrijwel elk gebied. Deze impliciete belofte, hoe speculatief ook, jaagt miljarden aan investeringen in gigantische datacenters aan. Maar is het echt zo simpel als ‘hoe groter, hoe beter’? Laten we eens kijken naar de laatste ontwikkelingen in deze fascinerende race.

Safe Superintelligence: een miljardenweddenschap op bovenmenselijke AI

Ilya Sutskever, medeoprichter van OpenAI, heeft zojuist 1 miljard dollar opgehaald voor zijn nieuwe bedrijf Safe Superintelligence. Het bedrijf, pas drie maanden oud, wordt al gewaardeerd op 5 miljard dollar. Deze astronomische waardering is gebaseerd op één belofte: de ontwikkeling van superintelligentie met een team van slechts tien werknemers.

Sutskever belooft een andere aanpak dan zijn voormalige werkgever OpenAI. ‘Iedereen praat over de schaalvergrotingshypothese,’ zegt hij, ‘maar niemand vraagt zich af wát we precies aan het opschalen zijn.’ Concrete details over zijn methode blijven vooralsnog uit.

De Musk-factor: Grok 3 in aantocht

Ondertussen claimt Elon Musk het ‘krachtigste AI-trainingssysteem ter wereld’ te bezitten. Zijn bedrijf xAI zou binnenkort beschikken over het equivalent van 200.000 H100 GPU’s - de chips die gebruikt worden voor het trainen van grote taalmodellen.

Hoewel Musk bekendstaat om zijn grootse uitspraken, is zijn claim niet zomaar te negeren. Grok 2, het flagshipmodel van xAI, kan zich al meten met GPT-4. En als we Musk mogen geloven, staat Grok 3 voor de deur.

Datacenters ter grootte van steden

De schaal waarop bedrijven inzetten op rekenkracht is duizelingwekkend. Er zijn plannen voor twee afzonderlijke datacenters in Noord-Dakota, elk met een kostenplaatje van 125 miljard dollar. Deze ‘AI-fabrieken’ zouden op termijn tot 10 gigawatt aan stroom kunnen verbruiken - genoeg om een middelgrote stad van energie te voorzien.

Om je een idee te geven van de schaal: met 5 gigawatt aan rekenkracht zou je in theorie een model kunnen trainen dat 10.000 keer krachtiger is dan GPT-4. We praten dan over het niveau van een hypothetische GPT-6.

Datacenters in de ruimte?

Zo groot is de honger naar energie, dat sommige bedrijven zelfs overwegen datacenters in de ruimte te bouwen. De start-up LumenOrbit werkt aan plannen voor een datacenter in een baan om de aarde, met een potentieel vermogen van 5 gigawatt.

Hoewel dit futuristisch klinkt, zijn er vraagtekens te plaatsen bij de praktische haalbaarheid. Eerdere pogingen om datacenters op onconventionele locaties te bouwen, zoals Microsofts onderwaterdatacenter, bleken operationeel en financieel niet haalbaar.

De grote vraag: leidt dit tot superintelligentie?

De kern van deze wedloop is de vraag: kunnen we superintelligentie bereiken door simpelweg de rekenkracht te vergroten? Of is er meer nodig?

Mark Zuckerberg verwoordt het dilemma treffend: ‘Het is een van de lastigste dingen om te voorspellen: hoelang blijft een exponentiële curve doorgaan? We denken dat het waarschijnlijk genoeg is dat het doorgaat, om tientallen of honderden miljarden te investeren in infrastructuur.’

Wat betekent dit?

De gigantische investeringen in rekenkracht laten zien hoe serieus de tech-industrie de mogelijkheid van superintelligentie neemt. Maar de implicaties reiken veel verder dan alleen technologische vooruitgang:

1. Existentieel risico: Als we erin slagen een superintelligentie te creëren, zijn we er dan klaar voor?

2. Maatschappelijke impact: Hoe zal een superintelligentie de arbeidsmarkt beïnvloeden? Kunnen we een maatschappij vormgeven waarin mensen nog een zinvolle rol hebben naast een alwetende AI?

3. Ethische dilemma’s: Wie controleert de superintelligentie? Hoe voorkomen we misbruik door kwaadwillenden? 

4. Ongelijkheid: Zal de ontwikkeling van superintelligentie de kloof tussen arm en rijk verder vergroten? Wie profiteert er uiteindelijk van deze technologie?

5. Filosofische vragen: Wat betekent het om een mens te zijn in een wereld met superintelligentie? Hoe verandert onze perceptie van bewustzijn en intelligentie?

Deze vragen tonen aan dat we ons niet alleen moeten focussen op de technologische uitdagingen, maar ook op de maatschappelijke voorbereiding op een mogelijke superintelligentie. Zijn we als mensheid wel klaar voor zo’n revolutionaire ontwikkeling?

Vier toekomstscenario’s 

Het is belangrijk om op te merken dat zelfs als deze investeringen niet direct leiden tot superintelligentie, ze niet voor niets zijn. Ethan Mollick schetst in zijn boek Co-Intelligence vier mogelijke scenario’s voor de toekomst van AI:

1. Statische wereld: Dit is het minst waarschijnlijke scenario, waarin de huidige AI de beste is die we ooit zullen hebben. Zelfs in dit geval is de huidige AI al revolutionair in veel sectoren.

2. Lineaire groei: AI blijft gestaag verbeteren, wat al significante voordelen oplevert voor verschillende industrieën.

3. Exponentiële groei: Dit is wat we momenteel zien, met AI-capaciteiten die elke vijf tot negen maanden verdubbelen. Dit is veel sneller dan de bekende wet van Moore voor computerchips.

4. Kunstmatige superintelligentie (ASI): Het ultieme doel van veel AI-bedrijven, waarbij machines slimmer worden dan mensen op vrijwel alle gebieden.

Waarde van huidige investeringen

Mollick benadrukt dat zelfs zonder ASI de huidige AI-ontwikkelingen al een enorme impact hebben. ‘Zelfs als de ontwikkeling van AI nu zou stoppen, hebben we nog zeker tien jaar aan verbeteringen en toepassingen voor ons die disruptief zullen zijn voor verschillende industrieën,’ stelt hij.

Dit perspectief herinnert ons eraan dat de huidige investeringen, zelfs als ze niet direct tot superintelligentie leiden, al waardevolle vruchten afwerpen. De AI die we vandaag gebruiken, is hoogstwaarschijnlijk de ‘slechtste’ die we ooit zullen gebruiken - en zelfs die is al revolutionair op veel gebieden.

Tegelijkertijd moeten we waakzaam blijven voor de potentiële risico’s en ethische implicaties van verdere AI-ontwikkeling. Zoals Mollick opmerkt: ‘We krijgen de kans om te beslissen hoe deze technologie wordt gebruikt.’ Het is aan ons om ervoor te zorgen dat de ontwikkeling van AI ten goede komt aan de hele mensheid, ongeacht welk scenario werkelijkheid wordt.

Een cruciale periode

De komende maanden zijn cruciaal. Met de aangekondigde releases van Google Gemini 2, Grok 3 en OpenAI’s Strawberry zullen we snel zien of deze massale schaalvergroting inderdaad leidt tot de beloofde doorbraken in AI-capaciteiten.

De race naar superintelligentie is in volle gang. Als de schaalvergrotingshypothese klopt, staan we mogelijk aan de vooravond van een nieuwe era in de geschiedenis van de mensheid. Of het eindpunt een technologische utopie of een dure teleurstelling wordt, zal de tijd leren. Maar één ding is zeker: de weg ernaartoe zal onze samenleving fundamenteel veranderen, of we er klaar voor zijn of niet.

---

⚡ AI Pulse

Duizend AI-agenten bouwen eigen samenleving in Minecraft. In een baanbrekend experiment hebben meer dan duizend autonome AI-agenten een eigen economie, cultuur, religie en regering ontwikkeld in een Minecraft-wereld. Deze agenten, ontwikkeld door Altera, kunnen dagenlang zonder menselijke tussenkomst functioneren en samenwerken aan complexe doelen. Ze zijn geprogrammeerd om mensen te ondersteunen en kunnen zelfs gevoelens uiten. Hoewel Minecraft nu als platform dient, zijn de agenten in staat om andere applicaties en platforms te gebruiken. Deze doorbraak zet de deur open naar het simuleren en testen van oplossingen voor maatschappelijke vraagstukken in virtuele omgevingen, voordat ze in de echte wereld worden geïmplementeerd.

NVIDIA ontkent dagvaarding in anti-trustonderzoek, aandeel daalt alsnog. De AI-chipgigant heeft verklaard geen dagvaarding te hebben ontvangen van het Amerikaanse ministerie van Justitie in verband met een AI-gerelateerd anti-trustonderzoek, ondanks eerdere berichten. Toch daalde het aandeel NVIDIA woensdag met 1,7% naar 106,21 dollar, na een eerdere daling van 9,5% op dinsdag. Het anti-trustonderzoek richt zich op zorgen over NVIDIA: het zou het voor klanten moeilijk maken om over te stappen naar concurrerende leveranciers. Ook de geplande overname van Run:ai door NVIDIA ligt onder het vergrootglas. Deze ontwikkelingen volgen op teleurstellende kwartaalcijfers vorige week.

---

🪄 Hallucinatie

Voor wie de spanning van de Olympische Spelen mist, hebben we wat moois in petto. Zwevende atleten en stadions die de wetten van de fysica tarten - welkom bij de Olympische Spelen van 3028 in Los Angeles! Filmmaker Josh Kahn liet AI los op zijn wildste olympische dromen, en het resultaat is… nou ja… hallucinant. Wie weet, misschien kijken we over duizend jaar terug op deze video en lachen we om onze bescheiden toekomstvisies.

---

🔮 Prompt Whisperer

Collectieve AI-intelligentie: de kracht van Self-Consistency Prompting

Hoe de meerderheid van AI-antwoorden leidt tot superieure resultaten

Vorige week doken we in de krachtige techniek van Chain of Thought-prompting. Maar wat nou als we je vertelden dat er een manier is om die techniek on steroids te zetten? Een methode die de nauwkeurigheid van AI-antwoorden met dubbele cijfers verhoogt, complexe problemen oplost alsof het kinderspel is en besluitvorming naar een compleet nieuw niveau tilt?

Stel je voor: een AI die niet één, maar tientallen experts tegelijk simuleert. Maak kennis met Self-Consistency Prompting. 

In deze tutorial onthullen we:

• hoe deze techniek de prestaties van AI-modellen met wel 17,9% kan verbeteren;

• hoe jij deze techniek kunt inzetten om jouw AI-output naar een hoger niveau te tillen.

Wat is Self-Consistency Prompting?