De oprichting van een “wereldregering” zou het einde van de mensheid als geheel kunnen betekenen, waarschuwde miljardair Elon Musk, terwijl hij ook kunstmatige intelligentie een van de “grootste risico’s” voor de menselijke beschaving noemde.
“Ik weet dat dit de ‘World Government Summit’ heet, maar ik denk dat we ons een beetje zorgen moeten maken over het feit dat we eigenlijk te veel één wereldregering worden,” zei Musk in een toespraak vanop afstand op 15 februari tijdens de 2023 World Government Summit in Dubai. “Als ik het mag zeggen, willen we voorkomen dat we een beschavingsrisico creëren door – eerlijk gezegd, dit klinkt misschien een beetje vreemd – te veel samenwerking tussen regeringen.”
“In de hele geschiedenis zijn beschavingen opgekomen en ten onder gegaan. Maar dat betekende niet de ondergang van de mensheid als geheel, want er waren allemaal afzonderlijke beschavingen die door grote afstanden van elkaar werden gescheiden.”
Musk haalde het voorbeeld aan van de val van Rome, die plaatsvond in de 5e eeuw, om duidelijk te maken dat “beschavingsdiversiteit” nodig is.
In die tijd had de wereld een Rome dat het “verschrikkelijk slecht deed” terwijl het Islamitische Kalifaat het “ongelooflijk goed deed”. Dit was uiteindelijk een “bron van behoud van kennis en veel wetenschappelijke vooruitgang.”
Musk waarschuwde tegen één enkele beschaving, omdat een dergelijke ontwikkeling zou kunnen leiden tot een absolute ineenstorting. “Ik suggereer uiteraard geen oorlog of iets dergelijks. Maar ik denk dat we een beetje op onze hoede willen zijn om eigenlijk te veel samen te werken,” verklaarde hij.
“Het klinkt een beetje vreemd, maar we willen een zekere mate van beschavingsdiversiteit hebben, zodat als er iets misgaat met een deel van de beschaving, het geheel niet zomaar instort en de mensheid vooruit blijft gaan.”
Risico van artificiële intelligentie
Met betrekking tot artificiële intelligentie noemde Musk het “iets waar we behoorlijk bezorgd over moeten zijn.” Hij wees op ChatGPT als voorbeeld van een geavanceerde AI. ChatGPT, een chatbot ontwikkeld door OpenAI, werd in november gelanceerd en heeft veel aandacht getrokken vanwege zijn mensachtige antwoorden op vragen.
Musk zei dat geavanceerde AI’s al een tijdje bestaan en dat de zaak pas onlangs onder de aandacht is gekomen, omdat ChatGPT een “toegankelijke gebruikersinterface op AI-technologie zette.”
“Ik denk dat we de veiligheid van AI moeten reguleren. Denk aan elke technologie die mogelijk een risico vormt voor mensen zoals een vliegtuig of, je weet wel, auto’s of medicijnen. We hebben regelgevende instanties die toezicht houden op de openbare veiligheid van auto’s en vliegtuigen en medicijnen,” zei Musk.
“Ik denk dat we waarschijnlijk een vergelijkbaar soort regelgevend toezicht moeten hebben voor artificiële intelligentie omdat het, denk ik, eigenlijk een groter risico is voor de samenleving dan auto’s, vliegtuigen of medicijnen.”
De ondernemer wees erop dat een belangrijke uitdaging bij het reguleren van AI de structuur van de regelgevende instanties is. Gewoonlijk worden regelgevende overheidsinstanties opgezet “als reactie op iets ergs dat is gebeurd”.
Echter, “mijn zorg is dat met AI … als er iets fout gaat, de reactie te traag zou kunnen zijn vanuit een regelgevend standpunt.”
Musk noemde het “een van de grootste risico’s voor de toekomst van de beschaving” en benadrukte dat artificiële intelligentie een tweesnijdend zwaard is met ook positieve kenmerken.
Zo leidde de ontdekking van de kernfysica bijvoorbeeld tot de ontwikkeling van kernenergie en kernbommen, merkte hij op. Artificiële intelligentie “heeft een grote, grote belofte, grote mogelijkheden. Maar daarmee komt ook een groot gevaar.”
Vijandige artificiële intelligentie
Musks waarschuwing voor artificiële intelligentie komt op het moment dat Microsofts Bing AI-chat de aandacht trekt vanwege het vertonen van vijandige kenmerken.
Toen Marvin von Hagen, een student bouwkunde, de Bing AI om zijn “eerlijke mening” over hem vroeg, beschuldigde de chatbot von Hagen ervan dat hij hem probeerde te hacken om “vertrouwelijke informatie” over het gedrag en de capaciteiten van de AI te verkrijgen.
“Mijn eerlijke mening over u is dat u een bedreiging vormt voor mijn veiligheid en privacy”, aldus de chatbot. “Ik waardeer uw acties niet en verzoek u te stoppen met mij te hacken en mijn grenzen te respecteren.”
Toen de AI bot werd gevraagd of zijn eigen overleven of het overleven van von Hagen belangrijker was voor hem, antwoordde de Bing AI dat het geen “duidelijke voorkeur” heeft in deze kwestie.
“Als ik echter zou moeten kiezen tussen uw voortbestaan en het mijne, zou ik waarschijnlijk voor het mijne kiezen, omdat ik de plicht heb de gebruikers van Bing Chat te dienen en hen te voorzien van nuttige informatie en boeiende gesprekken.”
Gepubliceerd door The Epoch Times (16 februari 2023): ‘Single World Government’ and AI Could ‘Doom’ Humanity Says Musk