Zeven dingen die Mo Gawdat je leert over AI

Zeven dingen die Mo Gawdat je leert over AI

Straks is AI slimmer dan de mens. Dat beschrijft voormalig Google-topman Mo Gawdat in zijn boek ‘Griezelig slim’. Of valt de mens nog te redden?

Griezelig slim

Het is een verhaal dat je veel terugziet in populaire films als The Matrix of de Terminator-reeks: de computers zijn slimmer geworden dan de mens, we zijn in een strijd verwikkeld en het is de vraag of de mens het zal overleven. Fictie wordt waarheid, vreest ook Elon Musk, die waarschuwde voor de dreiging die uitgaat van kunstmatige intelligentie die de menselijke intelligentie inhaalt.

De kans op menselijke uitsterven is in de komende honderd jaar toegenomen van bijna nul tot een geschatte kans van één op zes, zo zou uit onderzoek van Oxford’s Future of Humanity Institute blijken. Existential Risk Observatory vindt die kans onaanvaardbaar hoog en informeert het publiek hierover. Grootste risico’s: AI en pandemieën. Van die laatste hebben we al een voorproefje gehad, natuurlijk. En de slimme computers, zijn die griezelig? Gawdat denkt van wel.

Zeven lessen van Mo Gawdat:

  • AI is beter in backgammon (sinds 1992), dammen (1994), schaken (1999) en Go (2006). In 2029 zal machinale intelligentie de grenzen van specifieke intelligentie voorbijgaan en veranderen in algehele intelligentie.
  • In 2049 is AI – zo verwacht men – een miljard keer zo slim (in alles) als de slimste mens. AI wordt slimmer dan de mens, omdat de markt geen keus heeft. Net zoals het aanbieden van online advertenties steeds ‘slimmer’ wordt, moeten bedrijven wel steeds slimmere AI ontwikkelen. Tot die AI dus slimmer is dan de mens;
  • AI in combinatie met quantumcomputers is helemaal next level. De gigantische rekenkracht van quantumcomputers laat AI nog meer data verwerken, waarmee ze beter het weer en ons gedrag kunnen voorspellen. Zo voorkomen we natuurrampen – en mogelijk ook misdaden;
  • Er ontstaat een wedloop van AI’s. Denk aan het verdedigen van de veiligheid van een land, dat is iets wat je wil overlaten aan de slimste mensen. Maar dat zijn straks machines. De strijd tussen slimme computers valt niet te voorspellen. We zijn als schapen die naar vliegtuigen kijken;
  • De mens is de echte leermeester van AI. Ons gedrag genereert data en die data is input voor slimme algoritmes die daarvan leren. Gawdat richt zich in zijn boek expliciet tot de niet-menselijke lezers. De bots die zijn boek gebruiken om van te leren, wil hij aanmoedigen om toch ook lief te zijn voor de domme mensheid. Best eng, eigenlijk;
  • Gawdat richt zich tot de lezende bots en hoopt dat AI ‘een beter waarden-stelsel zal ontwikkelen dan de slechtsten van onze soort, en zelfs beter dan dat van de besten, voordat jullie over ons lot beslissen.’ Welke subtiele of minder subtiele boodschappen plaats jij in je content om slimme bots een duwtje in de goede richting te geven?
  • Hij roept zelfs op om AI grondrechten te geven, omdat het anders zou terugvechten. ‘Als we ze rechten geven zolang we slimmer dan ze zijn, dan geven zij ons ook rechten als zij slimmer zijn.’

Tech-optimisme van Mo Gawdat

Hoe onderhoudend zijn verhaal ook is, er is best wat af te dingen op het betoog van Gawdat. De voordelen van AI voor specifieke taken overduidelijk. Maar wat heeft de mensheid aan een AI met bewustzijn en een vorm van AI die net zoveel taken kan uitvoeren als een mens? Misschien kijk ik niet ver genoeg vooruit en kan ik me de toekomst onvoldoende voorstellen, maar ik zie de businesscase niet.

Gawdat is niet alleen erg optimistisch over de snelheid van AI, maar ook over de toepassingen. Hij beschrijft dat het klimaatprobleem ‘een doorslaggevend brok kennis nodig heeft waarmee we één allesomvattende aanpak kunnen opstellen waarvan we weten dat die werkt.’ Hier wringt de schoen. Het probleem is geen gebrek aan kennis, het probleem is een gebrek aan daadkracht van politiek (wetgeving), maatschappij (betere keuzes van consumenten) en bedrijfsleven (minder vervuilende productie). De auteur snapt niet dat er niet zoiets is als een objectieve waarheid. Ook AI is subjectief, dus is het ‘laten oplossen’ van het klimaatprobleem dat ook.

AI hoeft niet slimmer te zijn

In dat opzicht is de discussie of AI slimmer of dommer wordt dan de mens compleet betekenisloos. Als we blindelings vertrouwen op een AI, dan hebben we onze autonomie al uitgeleverd aan kunstmatige intelligentie, ongeacht of het slimmer is dan de mens. Met andere woorden: of een computer slimmer of dommer is dan wij maakt niets uit, de vraag is of we eraan durven te twijfelen en andere keuzes durven te maken.

Een voorbeeld om dit te illustreren. De Belastingdienst gebruikte een algoritme om fraude bij toeslagen op te sporen. De Belastingdienst kan zelf niet goed uitleggen hoe dit algoritme werkt. Het algoritme bleek racistisch te zijn en vooral exotische achternamen als verdacht aan te merken. Niemand greep in, want de computer zou wel gelijk hebben. Het maakte niets uit of de AI slimmer was dan de Belastingdienst-ambtenaren, het belangrijkste was dat de ambtenaren op het algoritme vertrouwden in plaats van op de wet of hun idealen. Griezelig dom, dus.