Elon Musk en techexperts vragen om pauze bij ontwikkeling kunstmatige intelligentie: ‘Blij met deze oproep’

De makkelijkste manier om een essay neer te pennen? Het ideale hulpje bij het schrijven van een sollicitatiebrief? Een geinige gimmick die visualiseert hoe Donald Trump eruit zou hebben gezien als lid van de Power Rangers? Of toch de toekomst van ons werkende leven?

Het is maar net aan wie je het vraagt. Eén ding is zeker: de mogelijkheden van kunstmatige intelligentie (AI) zijn gigantisch. Onbevattelijk haast. Niets voor niets werden afbeeldingengeneratoren als Dall-E en Midjourney binnen mum van tijd razend populair: typ een reeks – soms totaal willekeurige – woorden in, en de software genereert een afbeelding. Taalprogramma ChatGPT wekte nog meer verbazing: hoe kon AI zulke (ogenschijnlijk) overtuigende teksten produceren, zelfs bij de vreemdste vragen?

De ontwikkelingen gaan razendsnel – misschien zelfs iets té. Die angst leeft althans bij een flinke groep mensen uit de technologiesector. Zij hebben een open brief ondertekend waarin ze oproepen om een pauze van zes maanden in te lassen in de ontwikkeling van AI-systemen die krachtiger zijn dan de onlangs gelanceerde GPT-4.

Yuval Noah Harari

Tussen de ondertekenaars bevinden zich bekende namen. Elon Musk bijvoorbeeld, die zelf ooit aan de wieg stond van OpenAI, het bedrijf achter Dall-E en ChatGPT (maar het bedrijf al geruime tijd heeft verlaten). Of Yuval Noah Harari, hoogleraar en auteur van bestsellers als Sapiens. En Steve Wozniak, medeoprichter van Apple. Maar ook mensen uit het werkveld – programmeurs, academici, managers. Specialisten, kortom.

De zorg over kunstmatige intelligentie is niet nieuw. En het is niet zo dat de ondertekenaars geen toekomst zien in AI, integendeel zelfs. Maar de ontwikkelingen gaan momenteel zo snel, dat het naar hun idee verstandig is om een adempauze in te lassen en na te denken over de gevolgen. ‘Geavanceerde AI kan een ingrijpende invloed hebben in de geschiedenis van het leven op aarde. Dat moet met zorg en de nodige middelen worden gepland en gemanaged,’ schrijven ze. ‘Krachtige AI-systemen mogen pas worden ontwikkeld als we er zeker van zijn dat het effect positief is en de risico’s beheersbaar blijken.’

Happy few

Techexpert Jarno Duursma is blij met de oproep in de brief. “Wat nogal eens over het hoofd wordt gezien, is dat deze technologie op alle plekken in de samenleving actief wordt. In iedere beroepsgroep, tot en met het sturen van een simpele mail.” Hoe dat de wereld precies zal veranderen, weet niemand. “De toplaag, de happy few, denkt vaak: we redden ons wel, we passen ons aan. Maar niet iedereen kan zomaar skills leren en ontleren.”

Duursma is enthousiast én bezorgd over die toekomst – juist omdat niemand weet wat die behelst. “GPT-6 gaat waarschijnlijk zó veel verder dan de huidige generatie, GPT-4. We kunnen niet overzien wat dat wel en niet zal kunnen.” De ondertekenaars van de brief delen die zorgen. ‘Moeten we alle banen automatiseren, ook als ze voldoening bieden?’ vragen zij retorisch. ‘Moeten we niet-menselijk verstand ontwikkelen, ook als dat op den duur met meer is dan wij zijn, slimmer blijkt, en ons zal vervangen?’

Ze stellen onder meer voor om veiligheidsprotocollen op te stellen, die moeten worden gecontroleerd door onafhankelijke toezichthouders. Als een kader waarbinnen kunstmatige intelligentie kan groeien en bloeien. Gecontroleerd en wel, na een pauze van zes maanden. Duursma betwijfelt of er echt op de rem zal worden getrapt. “Maar als het de discussie aanzwengelt, is dat al heel wat.”