AI als nutsfunctie

Het maatschappelijk gesprek over technologie neemt steeds interessantere vormen aan. Het onderwerp is niet van krantenpagina’s en social media feeds weg te slaan. Jarenlang was technologie het domein van de techredacteur die braaf de persberichten volgend over de nieuwste gadgets of apps schreef. Of het was de wetenschapsredacteur die het welwillende lezerspubliek uitlegde wat voor moois er in de wetenschappelijke labs borrelde. Maar die tijd is voorbij. Technologie staat midden in de schijnwerpers. Niet in het minst door de geopolitieke ontwikkelingen die de strategische afhankelijkheid van Big Tech heeft blootgelegd.

Die afhankelijkheid was al veel langer een probleem, maar het ongemak is flink toegenomen door de spanningen tussen de VS en Europa en de dreigementen met repercussies tegen Europese technologiewetgeving. Met de lancering van de GenAI.mil-strategie door het Amerikaanse ministerie van Oorlog werd technologie van Big Tech begin dit jaar expliciet ingelijfd in het militaire domein. We hebben bijzonder weinig te zeggen over de technologie die we dagelijks gebruiken en er is weinig voor nodig om ons de toegang tot onze eigen data en diensten te ontzeggen. Maar de geopolitieke machtsonbalans is niet de enige zorg. De mentale gezondheid van jongeren en volwassenen door verslavende algoritmen, de ontwrichting van de democratie door overbodige AI-slop en desinformatie, het effect op arbeid en de onevenredige en onrealistische aanslag op grondstoffen en energie zorgen ervoor dat vanuit diverse invalshoeken het onderwerp op de agenda blijft staan.

De meest invloedrijke stem komt uit de financiële hoek, van de investeerders die de AI-revolutie prediken en de startups die op jacht zijn om die miljarden aan zich te binden. De redenering is als volgt: “AI is de toekomst. ‘Adopt or die’. Het is een wereldwijde race voor controle. Europese wetgeving en regelgeving staan in de weg. Zonder AI geen verdienvermogen, geen productiviteitswinst en geen brede welvaart.” Het is ook de onderliggende redenering van het invloedrijke Draghi-rapport voor Europa en het Nederlandse Wennink-rapport. Simpele vragen als 'Waarvan mensen moeten leven als hun arbeid wordt vervangen door AI?' en 'Wie gaat er belasting betalen om de brede welvaart te financieren zolang Big Tech de dans weet te ontspringen?' maken duidelijk dat het economische plaatje niet goed is uitgedacht.

Dergelijke kritische analyses worden als hinderlijk ervaren, terwijl er toch alle reden is om dieper te graven naar de aannames van deze dwingende redeneerstijl. Onder het oppervlak is een ideologisch debat gaande rond de vraag wat het is om mens te zijn op een planeet die gelimiteerde bronnen heeft. Optimaliseren we voor toekomstbestendigheid en maatschappelijke weerbaarheid of korte termijn verdienvermogen? En om wiens verdienvermogen gaat het dan? Voor welke toekomst moeten we optimaliseren? Kunnen we de complexe vraagstukken waarvoor we staan rond klimaat en rechtvaardigheid oplossen met een wereldwijde AI-race? Moeten we honderden miljarden investeren in data en AI-infrastructuur om onze toekomst veilig te stellen? En is AI inderdaad de oplossing voor alles; is een waarschijnlijkheidsmachine die zich voordoet als je beste vriend wel de oplossing? Er begint enige twijfel te ontstaan over de langetermijneffecten. "Meowing at your cat is better for reducing loneliness than an AI chatbot, study finds" schreef een teleurgestelde chatbotgebruiker.

In deze bundel worden door verschillende auteurs urgente vragen gesteld. De watersnoodramp wordt als voorbeeld gesteld: een land dat niet voorbereid was op ramspoed, Q-day wordt aangekondigd, de dag dat quantumcomputers alle beveiligingen zullen doorbreken, de geopolitieke ontwikkelingen worden aangehaald alsook de ecologische footprint van de technologische droom.

De auteurs zien ook kansen voor Europa. Een Europa dat zich ferm en krachtig manifesteert en waarbij strategische autonomie centraal staat. De Europese Unie definieert strategische autonomie als het verminderen van de afhankelijkheid van anderen en het borgen van onze maatschappelijke belangen en de continuïteit van vitale processen, bijvoorbeeld voor essentiële grondstoffen en technologieën. In het digitale domein brengen afhankelijkheden risico’s met zich mee voor nationale veiligheid, fundamentele rechten en onze democratische rechtsstaat.

Als we het begrip strategische autonomie serieus nemen, dan is het simpelweg kopiëren van de technologiestrategie van Big Tech niet een oplossing. We vervangen de afhankelijkheid van Amerikaanse en Chinese Big Tech dan simpelweg door de afhankelijkheid van Europese Big Tech. En waarom zouden die bedrijven zich anders gedragen op een wereldmarkt waar de wetten van het kapitaal dominanter zijn dan die van staten? Moeten we strategische autonomie niet juist borgen in een fundamenteel andere governance van technologie, zoals we dat ook voor andere strategische infrastructuren doen? Het wegennet bijvoorbeeld, de dijken of drinkwater. Moeten we AI gaan zien als een zaak van openbaar nut?

Vanuit dat perspectief is de opkomst van het gedachtengoed rond Public AI van belang. Public AI is een benadering van de ontwikkeling en inzet van AI die gebaseerd is op democratische verantwoording en een open toegang tot kritieke infrastructuur. De nadruk ligt daarbij op toegankelijkheid, openheid en interoperabiliteit. Data, modellen en software worden daarmee beheerd als publieke goederen om de afhankelijkheid van dominante commerciële partijen te verminderen. Daar hoort ook een betekenisvol publiek toezicht op de infrastructuur bij. Het vereist niet per se direct publiek eigendom van alle onderdelen, maar wel governance-structuren die democratische verantwoording en duurzaamheid op lange termijn waarborgen. Het ligt voor de hand dat Public AI een aanpak is voor funderende AI zoals taalmodellen en bij AI-toepassingen in maatschappelijke domeinen als onderwijs, cultuur, zorg en overheid. Rond Public AI is een stevige beweging op gang gekomen, onder andere samengebracht in het Public AI Network. In Nederland is met GPT-NL een goed begin gemaakt. Want als we ergens grip op zouden moeten houden, is het wel onze taal en cultuur.

Marleen Stikker is directeur van Waag Futurelab, auteur van ‘Het Internet is stuk, maar we kunnen het repareren’, lid van de Adviesraad Wetenschap, Technologie en Innovatie en professor of Practice HvA.