Voormalig CEO van Google, Eric Schmidt, zei dat autonome kunstmatige intelligentie (AI) eraan komt en dat het een existentiële bedreiging kan vormen voor de mensheid.
“Binnenkort zullen we computers hebben die zelfstandig kunnen beslissen wat ze willen doen”, zei Schmidt, die al lange tijd alarm slaat over zowel de gevaren als de voordelen van AI voor de mensheid, tijdens een uitzending van ABC op 15 december in “This Week”.
“Dat is een gevaarlijk punt: Wanneer het systeem zichzelf kan verbeteren, moeten we er serieus over nadenken om de stekker eruit te trekken,” zei Schmidt.
Schmidt is verre van de eerste technologieleider die deze zorgen uit.
De afgelopen twee jaar is de opkomst van AI-producten voor consumenten zoals ChatGPT door ingrijpende verbeteringen van het op taal gebaseerde model, ongekend geweest. Andere AI-modellen zijn steeds bedrevener geworden in het maken van visuele kunst, foto’s en video’s die in veel gevallen bijna niet te onderscheiden zijn van de werkelijkheid.
Voor sommigen doet de technologie denken aan de serie “Terminator”, waarin een dystopische toekomst centraal staat waarin AI de planeet overneemt, met apocalyptische gevolgen.
Ondanks de angst die ChatGPT en soortgelijke platforms hebben opgeroepen, vallen AI-diensten die vandaag de dag beschikbaar zijn voor consumenten nog steeds in een categorie die experts als “domme AI” zouden beschouwen. Deze AI’s zijn getraind op een enorme set gegevens, maar missen bewustzijn, gevoel of het vermogen om zich autonoom te gedragen.
Schmidt en andere experts maken zich niet echt zorgen over deze systemen.
Ze maken zich eerder zorgen over geavanceerdere AI, die in de technische wereld bekend staat als “kunstmatige algemene intelligentie” (AGI – Artificial General Intelligence), die een beschrijving geeft van veel complexere AI-systemen die over gevoel zouden kunnen beschikken en, als gevolg daarvan, bewuste motieven zouden kunnen ontwikkelen die onafhankelijk zijn en mogelijk gevaarlijk zijn voor menselijke belangen.
Schmidt zei dat zulke systemen vandaag de dag nog niet bestaan en dat we snel op weg zijn naar een nieuw, tussenliggend type AI: één zonder bewustzijn dat een AGI zou definiëren, maar die wel in staat is om autonoom te handelen op gebieden als onderzoek en bewapening.
“Ik doe dit al 50 jaar. Ik heb nog nooit zoveel innovatie gezien op deze schaal,” zei Schmidt over de snelle ontwikkelingen in de complexiteit van AI.
Schmidt zei dat meer ontwikkelde AI veel voordelen zou hebben voor de mensheid – maar ook net zoveel “slechte dingen, zoals wapens en cyberaanvallen”.
De uitdaging
De uitdaging, zei Schmidt, is veelzijdig.
In feite herhaalde hij een gemeenschappelijk gevoel onder technologieleiders: als autonome AGI-achtige systemen onvermijdelijk zijn, zal er internationaal een massale samenwerking nodig zijn tussen zowel bedrijfsbelangen als regeringen om mogelijk verwoestende gevolgen te voorkomen.
Dat is makkelijker gezegd dan gedaan. AI geeft Amerikaanse concurrenten zoals China, Rusland en Iran een potentiële voorsprong op de Verenigde Staten die anders moeilijk te behalen zou zijn.
Ook binnen de technologie-industrie is er momenteel een enorme concurrentie tussen grote bedrijven als Google, Microsoft en anderen om rivalen te overtreffen, een situatie die inherente risico’s met zich meebrengt van onjuiste beveiligingsprotocollen voor het omgaan met een malafide AI, aldus Schmidt.
“De concurrentie is zo hevig, dat het gevaar bestaat dat een van de bedrijven besluit om de [veiligheids]stappen over te slaan en dan op de een of andere manier iets uitbrengt dat echt schade aanricht,” zei Schmidt. Zulke schade zou achteraf pas duidelijk worden, zei hij.
De uitdaging is groter op het internationale toneel, waar vijandige naties de nieuwe technologie waarschijnlijk als revolutionair zullen zien voor hun pogingen om de Amerikaanse hegemonie uit te dagen en hun eigen invloed uit te breiden.
“De Chinezen zijn slim en ze begrijpen de kracht van een nieuw soort intelligentie voor hun industriële macht, hun militaire macht en hun bewakingssysteem,” zei Schmidt.
Dat is een beetje een gevaarlijke situatie voor Amerikaanse leiders die gedwongen worden een evenwicht te vinden tussen existentiële zorgen voor de mensheid en de mogelijkheid dat de Verenigde Staten achterop raakt bij hun tegenstanders, wat catastrofaal zou kunnen zijn voor de stabiliteit in de wereld.
In het ergste geval kunnen dergelijke systemen worden gebruikt om vernietigende biologische en nucleaire wapens te ontwikkelen, met name door terreurgroepen als ISIS.
Om deze reden, zei Schmidt, is het absoluut cruciaal dat de Verenigde Staten blijven innoveren op dit gebied en uiteindelijk de technologische dominantie behouden ten opzichte van China en andere vijandige staten en groepen.
Marktleiders eisen regelgeving
Volgens Schmidt is er nog steeds onvoldoende regelgeving op dit gebied. Maar hij verwacht dat de focus van overheden op het verbeteren van beveiligingen rond de technologie de komende jaren drastisch zal toenemen.
Op de vraag van presentator George Stephanopoulos of overheden genoeg doen om het te reguleren, antwoordde Schmidt: “Nog niet, maar dat zullen ze wel doen, want ze moeten wel.”
Ondanks de eerste interesse in het veld – hoorzittingen, wetsvoorstellen en andere initiatieven – die tijdens het huidige 118e Congres zijn ontstaan, lijkt het erop dat deze sessie zal eindigen zonder belangrijke wetgeving op het gebied van AI.
President Donald Trump heeft van zijn kant gewaarschuwd voor de enorme risico’s die AI met zich meebrengt en zei tijdens een interview met Logan Paul’s “Impaulsive” podcast dat het “echt machtig spul” is.
Hij sprak ook over de noodzaak om concurrerend te blijven ten opzichte van tegenstanders.
“Het brengt moeilijkheden met zich mee, maar we moeten voorop lopen,” zei Trump. “Het gaat gebeuren, en als het gaat gebeuren, moeten we het voortouw nemen ten opzichte van China. China is de primaire bedreiging.”
De visie van Schmidt op zowel de voordelen als de uitdagingen van de technologie sluit aan bij andere reacties uit de industrie.
In juni 2024 ondertekenden OpenAI en Google-medewerkers een brief waarin ze waarschuwden voor “ernstige risico’s” van AI en riepen ze op tot meer overheidstoezicht op dit gebied.
Elon Musk heeft soortgelijke waarschuwingen geuit door te zeggen dat Google een “digitale god” probeert te creëren via zijn AI-programma DeepMind.
In augustus nam de bezorgdheid toe nadat werd ontdekt dat een AI autonoom actie ondernam om te voorkomen dat hij zou worden uitgeschakeld – wat de vrees aanwakkerde dat de mensheid de controle over haar schepping al aan het verliezen is als de regeringen inactief blijven.
Gepubliceerd door The Epoch Times (15 december 2024): Autonomous AI Poses Existential Threat—And It’s Almost Here: Former Google CEO
