Er is al veel geschreven over de film Oppenheimer, wiens levensverhaal helaas weer actueel is door de nucleaire dreiging. Er is nog een andere reden waarom het verhaal van de ‘vader van de atoombom’ weer relevant is. Ook nu maken we de uitrol mee van technologieën die de wereld op z’n kop zetten, zonder dat er consensus is of we daarop zitten te wachten. Wat leert Zuckerberg van Oppenheimer?
Oppenheimer als vroedvrouw van de toekomst
Wat me opviel in het verhaal van Oppenheimer is dat hij de uitvinding van de atoombom als een onafwendbare toekomst zag. Maakt hij daarmee zijn eigen rol niet onnodig klein? Het doet ook denken aan hoe muziekproducent Rick Rubin in zijn gids voor creativiteit (The creative act) het maakproces van artiesten beschrijft. Zij zien zichzelf vaak als vroedvrouw van een lied, het ‘kanaal’ waardoor een nieuwe uiting de wereld vindt. Een lied of bom als onafwendbare toekomst, de bedenker als middel.
In de film waarschuwen de uitvinders van de atoombom voor de gevaren ervan. Net zoals nu gebeurt bij kunstmatige intelligentie: AI-ontwikkelaars noemen het een wezenlijke bedreiging voor de mensheid. Het gebeurt niet vaak dat uitvinders voor hun geesteskind waarschuwen.
Oppenheimer en Altman waarschuwen voor uitvinding
Er is nog een andere, akelige overeenkomst. Terwijl Oppenheimer na de oorlog waarschuwde voor de gevaren van de bom, waren er al meer dan 200.000 mensen omgekomen in Hiroshima en Nagasaki. Zo waarschuwen ook AI-prominenten als OpenAI-CEO Sam Altman en voormalig Google-CEO Eric Schmidt voor de toekomstige risico’s van AI, terwijl er alleen al in Nederland duizenden mensen de dupe zijn van racistische algoritmes die gebruikt worden om op toeslagen, studiefinanciering of uitkeringen te controleren. De uitvinders van de bom en AI blijven waarschuwen voor een toekomstige tsunami, terwijl nu al hele steden onder water staan.
Overigens is het maar de vraag of AI een wezenlijke bedreiging vormt voor de mensheid. Trouw-columnist en informaticus Ilyaz Nasrullah zei er het volgende over tegen Nieuwsuur: “Er is geen technologisch pad naar AI dat een existentieel risico vormt voor de mensheid. Dat is een sciencefiction script.”
Ethische discussies
Begrijp me niet verkeerd: het is goed dat er eindelijk ethische discussies worden gevoerd over nieuwe technologie. De wereld had er een stuk anders uitgezien als die discussie niet alleen gevoerd was bij wapens van massavernietiging, maar ook bij wapens van massaverbinding. Ik heb het natuurlijk over Facebook.
Facebook-CEO Zuckerberg groeide op nog geen vijftig kilometer afstand van Oppenheimers geboortegrond op in een vergelijkbaar milieu. Net als Oppenheimer zou Zuckerberg de wereld voorgoed veranderen. Want net als de atoombom, bleek Facebook gevolgen te hebben die de bedenkers niet konden voorzien. Dat klinkt dramatisch of overdreven, maar dat is het allerminst.
Hoe wordt Zuckerberg herinnerd?
Eenzaamheid, zelfmoord en zelfverminking namen flink toe onder pubers sinds social media als Facebook en Instagram op smartphones beschikbaar werden. De eerste couppoging in een westerse democratie sinds de tweede wereldoorlog – de bestorming van het Capitool – kon niet plaatsvinden als Facebook eerder had ingegrepen. Sterker nog: Trump was zelfs niet verkozen (en de Brexit niet gebeurd) als Cambridge Analytica geen Facebook-data verkocht zou hebben aan kwaadwillende partijen. Er valt weinig te vergelijken met het leed van een atoombom. Toch valt Facebook zelfs massamoord aan te rekenen. De genocide van moslims in Myanmar had wellicht voorkomen kunnen worden als het platform meer had geïnvesteerd in content-moderatie in landen die commercieel minder interessant zijn. Maar ja, aandeelhouderswaarde.
Wie cynisch is, ziet in Oppenheimer een voorbode van de afgelopen decennia, waarin startups handelden vanuit het motto ‘go fast and break things’. Of het nou om de taxisector (Uber), nieuwsmedia (Facebook) of het monetaire stelsel (cryptovaluta) gaat: oprichters van ‘disruptieve startups’ leerden om achteraf excuses aan te bieden in plaats van vooraf om toestemming te vragen. Het is dezelfde laconieke instelling waarmee X-directeur Elon Musk (voorheen Twitter) geen zin had om stukken te overhandigen aan de Senaat die onderzoek deed naar de bestorming van het Capitool op 6 januari 2021. Het rechtssysteem, de overheid, democratie en alle andere kwetsbare fundamenten van onze beschaving zijn alleen nog maar een sta-in-de-weg.
Het is dan ook de vraag of er over zestig jaar een even genadige film over Zuckerberg gemaakt wordt als nu over Oppenheimer.
