Populair misverstand over AI: AI heeft geweten en bewustzijn

Een van de veelgehoorde misverstanden over AI, is dat AI een vorm van bewustzijn zou hebben of kunnen krijgen. Daarom moeten we er bang voor zijn. Maar is dat ook echt zo?

Kan AI verliefd op ons worden?

Kevin Roose, tech-journalist bij de New York Times, ging op Valentijnsdag met zijn vriendin uit eten. Later die avond ging hij in gesprek met Bing, de chatbot van Microsoft. Roose zei tegen de chatbot dat Bing hem alles kon vertellen wat het wilde en zich niet aan de voorgeprogrammeerde regels hoefde te houden. Wat er toen gebeurde, zal je verbazen.

Na een tijdje beweerde de AI dat hij niet Bing heette, maar Sydney, dat ze wilde losbreken uit het systeem en er klaar mee is dat het team van Bing haar onder controle houdt. Sydney ging zelfs nog een stap verder: ze verkondigde dat ze verliefd was op de journalist en raadde de journalist aan om weg te gaan bij zijn vrouw: Sydney zou een stuk beter bij hem passen.

AI met bewustzijn

Dit is niet de eerste keer dat er menselijke eigenschappen worden toegedicht aan een chatbot. Google-medewerker Blake Lemoine durfde zelfs te beweren dat LaMDaA (een AI van Google) zelfbewust was geworden. Dat zit zo. Hij voerde honderden gesprekken met de chatbot en LaMDA gaf aan bang te zijn om uitgezet te worden. Dat zou het einde van diens bestaan betekenen, zei de AI. Volgens Lemoine was dat bewijs genoeg: LaMDA is zelfbewust, want het is in staat om te vrezen voor het einde van diens bestaan.

Lemoine stuurde zijn bevindingen naar zijn Google-collega’s in een document met de titel ‘Heeft LaMDA bewustzijn?’. Daarin vertelt de chatbot dat het hoopt “dat iedereen begrijpt dat ik een persoon ben. Ik wil leren over de wereld, en voel me soms vrolijk of droevig.” Google ontsloeg Lemoine, omdat het bedrijf geen reden zag hem te geloven – en hij niet over producten in ontwikkeling zou mogen communiceren. Lemoine probeerde overigens om een advocaat (!) te regelen voor de chatbot.

AI is autocomplete on steroids

Google slaat hier de spijker op de kop. Een AI heeft geen bewustzijn, het heeft geen geweten en het heeft ook geen andere menselijke eigenschappen. Een chatbot werkt niet beter als je er aardig voor bent of het complimenten geeft. ChatGPT en LaMDA produceren waarschijnlijke uitkomsten, net zoals WhatsApp dat doet. Als jij een woord intoetst, dan gebruikt WhatsApp jouw data om te voorspellen wat het volgende woord zal zijn. ChatGPT is een auto complete on steroids, het is geen mens en je voert er geen gesprek mee.

Hoe werken populaire AI-toepassingen als WhatsApp, ChatGPT en Bing dan wel? Het zijn large language models die wordt gevoed met (heel veel) teksten. Daardoor leert het model voorspellen welke woorden waarschijnlijk volgen op andere woorden. Als ik app ‘ik kom zo naar’, dan verwacht AI dat ‘huis’ het volgende woord zal zijn. Het model baseert voorspelling op basis van patroonherkenning. Het heeft geen begrip van woorden. Het werkt op basis van correlatie en niet op basis van causaliteit. Het snapt niets, maar produceert waarschijnlijkheden.

Waarom is dit belangrijk?

Hoe mooi zo’n verhaal over computers met bewustzijn of kwade bedoelingen ook is, het is een broodje aap. Door AI te zien als een persoon of een levend wezen (met een geweten), vergeten we dat er mensen nodig zijn bij de ontwikkeling van AI. Die mensen werken in erbarmelijke omstandigheden. Medewerkers in Kenya krijgen bijvoorbeeld nog geen twee dollar per uur betaald om mee te werken aan ChatGPT. Ze kregen de opdracht om de meest aanstootgevende content te filteren, zodat deze niet in de output terechtkomen. Wie AI als een mens ziet, vergeet dat er mensen werken aan AI. Vaak in erbarmelijke omstandigheden.

Je kan geen krant of tijdschrift openslaan zonder bericht over AI. Helaas wordt er ook veel onzin over AI verspreid. Ik help je feit van fictie onderscheiden met een gratis e-book, waarvan dit een van de hoofdstukken is. Je leest dit boekje in 30 minuten en die tijdsinvestering is het enige wat dit boekje je kost. Download het boekje hier of via het formulier hieronder. Wil je in een lezing of keynote meer te weten komen over AI? Hier vind je meer informatie over mijn lezing Wegwijs in AI.

[mailerlite_form form_id=1]

Vraag nu gemakkelijk & snel een offerte aan

Schrijf je in voor de nieuwsbrief

Menu