De toekomst van AI: OpenAI's Project Strawberry

Plus: AMD koopt AI-start-up, Meta onderzoekt mobiele LLM's en de Europese AI Act gaat van start

Welkom bij AI Report. De AI-wereld ontwikkelt zich razendsnel, en wij, de makers van de podcast Poki, houden je op de hoogte. Twee keer per week sturen we je een overzicht van de nieuwste AI-ontwikkelingen, tools, use cases en onderzoek. Alles wat je moet weten in slechts 5 minuten leestijd.

---

🗞️ Het belangrijkste nieuws

OpenAI’s Strawberry: Q* evolueert van hype naar realiteit

OpenAI lijkt te werken aan een nieuwe aanpak om AI-modellen te ontwikkelen, onder de codenaam Project Strawberry. Dit project bouwt voort op Q*, een algoritme dat in november 2023 opdook tijdens de chaos rond het kortdurende ontslag van Sam Altman. Destijds was het onduidelijk of Q* en de omgang met dit algoritme echt de oorzaak waren van Altmans ontslag of simpelweg een pr-stunt om OpenAI’s imago op te poetsen. Nu, ruim een halfjaar later, lijkt Q* toch meer te zijn dan alleen een hype.

Project Strawberry zou AI-modellen in staat moeten stellen om:

1. complexere problemen op te lossen;

2. autonoom informatie te verzamelen en te verwerken;

3. verder vooruit te plannen, met het ‘denkniveau’ van een gepromoveerde academicus.

Los van deze ontwikkeling heeft OpenAI een classificatiesysteem onthuld om hun vooruitgang richting ‘superintelligentie’ te meten:

• niveau 1: AI-chatbots (daar zijn we nu)

• niveau 2: ‘Reasoners’ - probleemoplossing op academisch niveau

• niveau 3: ‘Agents’ - AI die dagenlang zelfstandig taken kan uitvoeren

• niveau 4: innovatie-genererende AI

• niveau 5: AI die hele organisaties kan runnen

OpenAI claimt nu met Strawberry op de drempel van niveau 2 te staan. Dit zou betekenen dat hun AI basic probleemoplossingstaken kan uitvoeren op het niveau van iemand met een doctoraat, zonder hulpmiddelen. Of en wanneer hier gebruik van kan worden gemaakt, is verder niet bekend. Er is een demo getoond binnen OpenAI, maar verder is er nog niets naar buiten gekomen.

Is dit echt zo’n grote sprong voorwaarts? Of zien we hier weer een staaltje slim pr-management? Het is moeilijk te zeggen zonder verdere details over Strawberry’s daadwerkelijke capaciteiten. 

Opvallende timing

Wat opvalt, is dat deze aankondiging over Strawberry samenvalt met minder positief nieuws voor OpenAI. Klokkenluiders hebben namelijk een klacht ingediend bij de Amerikaanse beurstoezichthouder SEC over vermeende restrictieve geheimhoudingsovereenkomsten bij het bedrijf.

De klokkenluiders beweren dat OpenAI werknemers overeenkomsten laat tekenen die hun federale rechten op klokkenluiderscompensatie beperken. Ook zou OpenAI werknemers verplichten eerst toestemming van het bedrijf te krijgen voordat ze informatie aan federale toezichthouders kunnen verstrekken.

---

AMD koopt AI-start-up voor $ 665 miljoen. AMD, lange tijd de underdog in de chipwereld, zet flinke stappen in de AI-markt. Met de overname van het Finse Silo AI, voor $ 665 miljoen, voegt AMD het ‘grootste private AI-lab in Europa’ toe aan zijn arsenaal. Dit volgt op de eerdere acquisitie van Nod.ai.

De grote vraag is of AMD hiermee echt een deuk kan slaan in NVIDIA’s dominantie. AMD lijkt tot nu toe geen stap dichterbij te komen. Toch zou meer concurrentie in deze markt kunnen leiden tot snellere innovatie en mogelijk lagere prijzen voor AI-hardware.

Als AMD voortgang kan maken, kan dat betekenen dat er meer keuze komt in high-performance hardware. En wie weet, misschien zien we binnenkort wel AMD-chips in de datacenters die de volgende generatie AI-modellen trainen.

Bron afbeelding: Silo.ai

Meta’s onderzoekers hebben bevindingen gedeeld over kleine taalmodellen, onder de naam MobileLLM. Dit nieuwe taalmodel is specifiek ontworpen voor smartphones en andere apparaten met een beperkte rekenkracht. Met minder dan 1 miljard parameters - een fractie van wat modellen als GPT-4 gebruiken - presteert MobileLLM verrassend goed. Een AI-model dat op je telefoon draait, betekent minder problemen rond privacy en mogelijk snellere resultaten.

De Europese Unie heeft de AI Act officieel in werking gesteld, wat het startschot is voor een reeks deadlines waaraan bedrijven moeten voldoen. Deze wet is de eerste uitgebreide poging ter wereld om AI te reguleren, en de impact zal vermoedelijk tot ver buiten de EU reiken.

Enkele belangrijke punten zijn:

• Vanaf 2 februari 2025 worden bepaalde AI-toepassingen verboden, waaronder ongerichte gezichtsherkenning en socialscoringsystemen.

• Daarna volgen deadlines voor transparantie-eisen en risicobeoordelingen voor ‘hoogrisico-AI-systemen’.

• Boetes kunnen oplopen tot € 35 miljoen of 7% van de wereldwijde jaaromzet, afhankelijk van welk bedrag hoger is.

De wet classificeert AI-systemen in verschillende risiconiveaus, elk met zijn eigen regels. Dit dwingt bedrijven om AI-ethiek en -veiligheid vanaf het begin in hun ontwikkelingsproces te integreren.

---

Van vriendschappen tot relaties met AI

AI-personages als gesprekspartner lijken misschien sciencefiction, maar voor miljoenen mensen is het al dagelijkse kost. Character.ai, koploper in deze ontwikkeling, heeft inmiddels 80 miljoen gebruikers. We hebben het niet over vluchtig gebruik: de gemiddelde gebruiker besteedt er dagelijks twee uur aan. Dat is meer tijd dan veel mensen aan hun fysieke sociale contacten besteden.

De populairste AI-gesprekspartners? Denk aan stereotiepe figuren die zo uit een B-film kunnen komen:

• ‘mafia boyfriend’

• ‘campfire girl’

• ‘school bully’
  

  

  Bron afbeelding: character.ai

Alhoewel deze voorbeelden wat oppervlakkig zijn, biedt character.ai meer dan alleen voorgeprogrammeerde personages. Gebruikers kunnen met een paar klikken en wat simpele instructies hun eigen unieke karakter creëren. Dit opent de deur voor een breed scala aan mogelijkheden, van historische figuren tot volledig fictieve persoonlijkheden die precies aansluiten bij de interesses of behoeftes van de gebruiker. Recent heeft het platform een nieuwe dimensie toegevoegd aan deze virtuele relaties: gebruikers kunnen nu ‘bellen’ met hun AI-personage. Deze spraakfunctie maakt de interactie nog realistischer en persoonlijker. Het roept de vraag op hoe ver we verwijderd zijn van een wereld waarin AI-relaties nauwelijks te onderscheiden zijn van menselijke interacties.

Hoewel deze ontwikkeling in het openbaar nog weinig zichtbaar is, is het voor tientallen miljoenen mensen al een integraal onderdeel van hun dagelijks leven. Het is verleidelijk om dit fenomeen af te doen als een zorgwekkende trend, maar de populariteit ervan wijst op een duidelijke behoefte aan verbinding en interactie, die mogelijk deels door AI kan worden ingevuld.

Dit roept interessante vragen op. Gaat dit langzaamaan steeds normaler worden? Wordt dit voor een groot gedeelte van de mensen een nieuwe standaard, of gaan we ons als samenleving hiertegen verzetten?

Bedrijven controleren je gesprekspartner

Een populaire toepassing op character.ai is de AI-therapeut. Om verschillende redenen kan deze opeens uit de lucht worden gehaald. Denk aan het ten onder gaan van het bedrijf dat dit personage beheert, regelgeving die het bedrijf dwingt aanpassingen door te voeren, of interne veranderingen rond welke toepassingen wel en niet zijn toegestaan. 

Daarnaast kan het natuurlijk gaan over zeer gevoelige onderwerpen, waarbij het totaal ongewenst is dat deze ergens in de cloud staan, en je zelf geen controle hebt over hoe met deze data wordt omgegaan. Dit roept vragen op over de verantwoordelijkheid van platforms die emotionele banden tussen mens en AI faciliteren. Moeten er waarschuwingen komen? Of een afbouwplan voor ‘verslaafde’ gebruikers?

Voor- en nadelen van AI-gesprekspartners op een rij:

Voordelen:

• 24/7 beschikbare gesprekspartner

• mogelijkheid tot experimenteren met sociale interacties

• potentieel therapeutisch effect voor sommige gebruikers

Nadelen:

• risico op sociale isolatie in de echte wereld

• mogelijke verslaving aan AI-interacties

• ethische vraagstukken rond privacy en dataverwerking

Onze take

Character.ai laat zien dat de grens tussen mens en machine steeds verder vervaagt. Het biedt fascinerende mogelijkheden voor entertainment en zelfs emotionele ondersteuning. Maar we moeten waakzaam blijven:

• Gebruik AI-interacties als aanvulling op, niet als vervanging van menselijk contact.

• Wees je bewust van de commerciële belangen achter deze platforms.

• Denk na over de ethische implicaties van het aangaan van emotionele banden met AI.

Zoals Wietse het samenvat: “We vullen ons dagelijks leven steeds meer met niet-bestaande, maar wel mensachtige entiteiten. Dat is een groot ding.”

---

Wil je meer weten over hoe je AI kunt inzetten in je werk en je leven?

Abonneer je op ons betaalde abonnement en krijg 2x per week exclusieve tips en tricks.

Duik deze week in de zwakke en sterke punten van visiemodellen, en in ‘chain of reasoning’, een prompttechniek om een taalmodel bij de les te houden tijdens lange gesprekken.