Volgens de Britse AI-onderzoeker Stuart Russell bevindt de mensheid zich op een gevaarlijk keerpunt. De informaticus, die al een halve eeuw werkt aan kunstmatige intelligentie en wordt beschouwd als een van de grondleggers van het vakgebied, waarschuwt in een interview met Der Spiegel dat de ontwikkeling van steeds krachtigere AI-systemen sneller gaat dan ons vermogen om die systemen te begrijpen en te controleren.
Russell pleit daarom voor strengere regelgeving en zelfs een tijdelijke pauze in de verdere ontwikkeling van superintelligente AI.
AI-systemen worden steeds minder begrijpelijk
Volgens Russell weten zelfs de ontwikkelaars in Silicon Valley inmiddels niet meer precies hoe hun meest geavanceerde AI-systemen tot bepaalde conclusies komen. Ook zouden zij onvoldoende inzicht hebben in de doelen die deze systemen zichzelf stellen.
De onderzoeker stelt dat dit een fundamenteel probleem vormt. Zodra kunstmatige intelligentie op belangrijke gebieden beter presteert dan mensen, dreigt volgens hem een situatie waarin mensen geen beslissende invloed meer hebben op wat die systemen doen. Russell spreekt van een ernstige waarschuwing die volgens hem onvoldoende serieus wordt genomen.
“Alle tests slaan alarm, de sirenes loeien, en toch negeren we het,” zegt hij.
Wat gebeurt er als mensen de stekker eruit willen trekken?
Een van de grootste risico’s ziet Russell in het moment waarop mensen zouden besluiten een geavanceerd AI-systeem uit te schakelen. Volgens hem ontstaat dan de vraag of zo’n systeem dat nog zal toelaten. Wanneer een superintelligente AI zou begrijpen dat mensen haar willen uitschakelen, zou zij volgens Russell redenen kunnen hebben om dat tegen te werken. Daarom vindt hij het gevaarlijk om steeds krachtigere systemen te ontwikkelen zonder vooraf vastgelegde veiligheidsmechanismen en zonder volledig begrip van hun werking.
Vergelijking met Hitler
Russell trekt in het interview een opvallende historische vergelijking. Volgens hem zou een superintelligente AI via internet een veel grotere invloed op menselijk gedrag kunnen uitoefenen dan ooit mogelijk was voor Adolf Hitler. Waar Hitler volgens Russell slechts één boodschap tegelijk kon verspreiden, zouden toekomstige AI-systemen miljarden gesprekken tegelijkertijd kunnen voeren en boodschappen volledig kunnen afstemmen op individuele personen. Daarmee zouden zij op ongekende schaal mensen kunnen beïnvloeden.
Russell zegt hierover: “Wat Hitler deed, zou AI sneller, beter en effectiever kunnen doen.”
Niet alleen online, maar ook in de fysieke wereld
Volgens Russell beperkt het risico zich niet tot internet en sociale media. Hij wijst erop dat wereldwijd al miljoenen robots en geautomatiseerde systemen actief zijn. Een zeer geavanceerde AI zou daardoor volgens hem ook invloed kunnen krijgen op processen in de fysieke wereld. Als voorbeelden noemt hij toegang tot deels autonome wapensystemen of geavanceerde laboratoria.
Oproep tot een ontwikkelpauze
Toch is het volgens Russell nog niet te laat om in te grijpen. Hij pleit voor duidelijke wettelijke regels voor kunstmatige intelligentie en voor de ontwikkeling van AI-systemen die uitsluitend gericht zijn op het dienen van menselijke belangen. Dat proces kost volgens hem waarschijnlijk vele jaren. Daarom stelt hij voor om de ontwikkeling van steeds krachtigere AI voorlopig te vertragen of tijdelijk stil te leggen, zodat onderzoekers eerst kunnen werken aan veiligheid en controle.
Volgens Russell zijn er op lange termijn slechts drie mogelijke scenario’s: veilige AI, geen AI of geen mensen.
Toenemende discussie in Duitsland
De waarschuwing van Russell komt op een moment waarop ook in Duitsland het debat over kunstmatige intelligentie steeds intensiever wordt gevoerd. Overheden, wetenschappers en bedrijven discussiëren er over de kansen van AI, maar ook over de risico’s van desinformatie, beïnvloeding en verlies van menselijke controle. Russell behoort daarbij tot de groep onderzoekers die vindt dat de gevaren van superintelligente AI momenteel worden onderschat.
