Het enige Amerikaanse Parlementslid met een academische titel in Artificiële Intelligentie dringt aan op voorzichtigheid nu andere wetgevers en industrieleiders proberen de technologie aan een versneld tempo te reguleren.
Volksvertegenwoordiger Jay Obernolte (R-Calif.) is één van de slechts vier computerprogrammeurs in het Amerikaanse Congres en de enige met een doctoraat in Artificiële Intelligentie. Obernolte gaf aan dat hij zich vooral zorgen maakt over het mogelijk “Orwelliaanse” gebruik van de AI-technologie door overheden.
Onlangs heeft een coalitie van technologieontwikkelaars zoals Twitter-eigenaar Elon Musk en Apple CEO Tim Cook opgeroepen tot een totale stopzetting van AI-onderzoek en -ontwikkeling. Dit volgde op de release van ChatGPT 4, een extreem krachtige AI-chatbot die, naast andere mijlpalen, het toelatingsexamen in Amerika om rechter te worden slaagde met een 90-percentielwaarde en ook slaagde voor het SAT-proefexamen, een gestandaardiseerde toelatingstest voor hogescholen en universiteiten in de Verenigde Staten.
De introductie van ChatGPT 4, verreweg de krachtigste consumenten-AI op de markt, deed de vrees ontstaan dat AI veel sneller dan verwacht veel intelligenter aan het worden is. In hun brief riepen technici op om de ontwikkeling van nieuwe AI zes maanden stil te leggen en riepen ze het Amerikaanse Congres op om de technologie te reguleren.
Obernolte sprak met The Epoch Times over AI en zei dat regulering onverstandig is en gebaseerd op een fundamenteel misverstand over de AI-technologie.
“Ik ga niet beweren dat we niet moeten reguleren,” benadrukte Obernolte. “Ik ben het ermee eens dat regulering uiteindelijk noodzakelijk zal zijn.”
Maar hij zei dat wetgevers ervoor moeten zorgen dat ze “begrijpen wat de gevaren zijn waartegen we de gebruikers ervan proberen te beschermen”.
“Als we dat niet begrijpen, is het voor ons onmogelijk om een regelgevend kader te creëren dat ons tegen die gevaren beschermt, en dat is nu juist de bedoeling van regelgeving,” zei Obernolte. “Op dit moment is het heel duidelijk dat we geen goed begrip hebben van de gevaren.”
Andere wetgevers in het Amerikaanse Congres hadden al opgeroepen tot snelle actie in deze kwestie.
“Dit is iets dat ons zal besluipen, en we zullen op het punt komen dat we er te diep in zitten om nog echt zinvolle veranderingen aan te brengen voordat het te laat is,” zei Lance Gooden (R-Texas) tegen Fox News.
Hij en anderen van zowel de Republikeinse alsook de Democratische partij hebben hun bezorgdheid geuit over de mogelijkheid dat AI taken overneemt die voorheen door mensen werden gedaan. Anderen maken zich zorgen over de zogenaamde “Singulariteit”, een moeilijk voorspelbaar moment in de ontwikkeling van AI waarbij AI de menselijke intelligentie en capaciteiten zal overtreffen.
AI zal de wereld waarschijnlijk niet overnemen
Obernolte zei dat de brief van technische experts “nuttig is om de aandacht te vestigen op de opkomst van AI en de gevolgen ervan voor onze samenleving”. Maar hij merkte op dat voor leken de grote angst rond AI overeen komt met het scenario uit de Terminator-films, een filmreeks waarin AI de controle over menselijke computernetwerken overneemt en de wereld vernietigt in een nucleaire apocalyps.
“De leek denkt waarschijnlijk dat het grootste gevaar bij AI een leger kwaadaardige robots is dat oprukt om de wereld over te nemen,” zei hij. “Maar dat is niet wat AI-deskundigen ‘s nachts wakker houdt. Het houdt mij alleszins zeker niet wakker,” zei Obernolte.
Voordat het Congres zelfs ook maar kan overwegen om regels op te stellen, zei Obernolte, moet het eerst “het gevaar definiëren” in de context van AI. “Waar vrezen we voor? We moeten die vraag beantwoorden om de vraag [hoe en wanneer te reguleren] te kunnen beantwoorden.”
Een grote angst die Obernolte aanhaalde is de ontwikkeling van “evoluerende capaciteiten ” bij AI. Dit beschrijft een situatie waarin een AI iets kan doen waarvoor het oorspronkelijk niet was geprogrammeerd. Maar Obernolte zei dat dit niet zo’n groot probleem is als sommigen beweren, omdat het soortgelijke trends volgt die zijn waargenomen in de hersenen van primaten.
“Een van de dingen waar [AI-critici] zich zorgen over maken is wat zij emergente capaciteiten noemen”, legt Obernolte uit. “Dus het vermogen van een algoritme om iets te doen waarvoor je het niet getraind hebt, waarvan je niet eens dacht dat het die vaardigheid zou kunnen ontwikkelen, en plotseling kan het dat wel.
“Dat is heel beangstigend en alarmerend voor mensen,” vervolgde hij. “Maar als je erover nadenkt, zou het niet zo alarmerend moeten zijn, want dit zijn neurale netwerken. Ons brein is een neuraal netwerk. En zo werken onze hersenen. Weet je, als je kijkt naar de hersenomvang van primaten, naarmate de hersenomvang toeneemt, ontstaan er ineens dingen als taal … en we ontdekken hetzelfde fenomeen bij AI. Dus ik vind dat niet alarmerend.”
Obernolte zei dat de echte functie van ChatGPT 4 zijn standpunt alleen maar versterkt.
“Als je goed kijkt naar ChatGPT 4, versterkt het mijn stelling,” zei Obernolte. “AI is een enorm krachtige en efficiënte patroonherkenner.
“ChatGPT 4 is ontworpen om een enorme hoeveelheid taal, beelden en proza op te nemen om antwoorden op vragen te synthetiseren,” zei hij. “Als je bedenkt wat [AI-critici] heeft gealarmeerd, in de context van alle gegevens waarin het is getraind om patronen te herkennen, wordt het een stuk minder alarmerend.”
AI kan niet denken of redeneren
Een ander belangrijk aspect van AI waar Obernolte op wees is het onvermogen om de Turingtest te doorstaan of zelfstandig te redeneren.
Dit is belangrijk, want als AI niet kan redeneren als een mens en niet zelfstandig kan handelen, vormt het weinig risico voor de mens. Bijna alle angsten over AI hebben te maken met de idee dat AI onafhankelijk zou worden van de mensheid en de belangen van de mensheid zou schaden.
Maar Obernolte merkte op dat de technologie tot nu toe niet eens een mens betrouwbaar kan nabootsen.
De Turingtest, voorgesteld door de Britse codebreker Alan Turing in de Tweede Wereldoorlog, beschrijft de gelijkenis van een machine met een mens. Wil een AI “slagen” voor de Turing-test, dan zouden mensen die er via een chatbox mee spreken niet kunnen merken dat ze met een AI spreken. De test werd voorgesteld als een maatstaf voor de verfijning van de AI-technologie.
Velen zien de Turingtest als de gouden standaard voor het meten van AI-intelligentie. Tot nu toe is geen enkele AI geslaagd voor de Turing-test.
Obernolte stelde dat zelfs als een AI in de toekomst de Turing-test zou doorstaan, dat nog niet zou betekenen dat het een “denkende, redenerende entiteit” is.
Het is een kwestie van filosofische discussie of AI ooit motieven zou kunnen hebben of onafhankelijke handelingen zou kunnen verrichten zoals mensen. En voor de nabije toekomst is er volgens Obernolte geen reden om zich zorgen te maken.
“ChatGPT 4 kan de Turingtest zeker niet doorstaan”, aldus Obernolte. “Het kan zijn dat ChatGPT 6 of 7 de Turing-test kan doorstaan. Het zou kunnen dat het mogelijk wordt. Je zou een uur lang over en weer kunnen praten en niet kunnen uitmaken of het een persoon of een computer is, maar dat betekent nog steeds niet dat we een denkende, redenerende entiteit hebben gecreëerd.”
Reguleren zal macht geven aan tegenstanders van de VS
Obernolte zei dat het stopzetten van Amerikaans onderzoek naar AI-technologie de vijanden van de VS alleen maar meer macht zou geven.
“In het meest draconische geval, laten we zeggen dat ik morgen een wetsvoorstel zou indienen dat iedereen in de Verenigde Staten van Amerika zal verplichten om de ontwikkeling van AI die iets verder gaat dan de mogelijkheden van GPT 4 stop te zetten,” zei Obernolte. “In dat geval zouden er in de Verenigde Staten nog steeds mensen zijn met slechte bedoelingen, die financieel gewin zien in de verdere ontwikkeling van geavanceerde AI, en die daarmee zouden doorgaan en de wet zouden overtreden. Buitenlandse tegenstanders zouden er nog steeds gebruik van kunnen maken.”
Dus, zei Obernolte, de ontwikkeling van AI zal dan nog steeds plaatsvinden. Alleen zal het doorgaan op de zwarte markt en onder Amerikaanse tegenstanders.
“Het valt niet te ontkennen dat we ons land zullen blootstellen aan een groter risico op aanvallen van geavanceerde AI als we de ontwikkeling ervan stopzetten”, zei hij. “Want eens we het terug hervatten, zal onze AI niet zo geavanceerd zijn als die van diegenen die niet gestopt zijn. Dus het is gewoon niet realistisch om te zeggen: Iedereen, stop waar je mee bezig bent.”
“Laten we hierop een discussie voeren,” voegde hij eraan toe. “Ik ben blij dat we erover debatteren.”
‘Orwelliaans’ gebruik
Obernolte zei dat hij niet bang is dat AI zelfstandig wordt en de mensheid zal vernietigen, maar hij maakt zich wel zorgen over de “Orwelliaanse” toepassingen van de technologie.
“Ik maak me wel zorgen over enkele andere, zeer reële gevaren die op hun eigen manier net zo ingrijpend en gevaarlijk zijn als robots die de wereld overnemen, maar dan op een andere manier”, aldus Obernolte.
Als eerste noemde hij het “griezelige vermogen van AI om door onze persoonlijke digitale privacy heen te prikken”.
Het resultaat, zei hij, zou de overheid of bedrijven kunnen helpen bij het voorspellen en controleren van ons gedrag.
Obernolte merkte op hoe AI gegevens die voorheen gescheiden waren, kan samenvoegen “en gebruiken om gedragsmodellen te vormen die griezelig nauwkeurige voorspellingen doen over toekomstig menselijk gedrag. En, tussen haakjes, aanwijzingen geven over hoe ze dat toekomstig menselijk gedrag kunnen beïnvloeden.”
“Het wordt al gedaan,” voegde hij eraan toe, wijzend op de sociale mediabedrijven waarvan het hele bedrijfsmodel draait om het verzamelen en verkopen van persoonlijke gegevens.
Op bedrijfsniveau zou dit volgens Obernolte kunnen betekenen dat een paar grote spelers een “monopolie” kunnen vormen over gegevens met een nagenoeg onoverkomelijke toegangsdrempel.
Maar de gevolgen zouden veel erger kunnen zijn als een overheid de technologie in handen zou krijgen, voorspelde hij.
“Ik maak me zorgen over de manier waarop AI een natie in staat kan stellen om een controlestaat te creëren, zoals China aan het doen is,” zei Obernolte. “Ze hebben de grootste controlestaat ter wereld gecreëerd. Ze gebruiken die informatie zelfs om voorspellende scores te maken voor wat betreft de loyaliteit van de mensen aan de regering. En ze gebruiken die loyaliteitsscores om privileges toe te kennen. Dat is behoorlijk Orwelliaans.”
“Dus dit is een ontwrichtende manier die overheden zouden kunnen gebruiken,” voegde hij eraan toe. “En zoals we door schade en schande hebben geleerd uit de geschiedenis van ons land, moeten we steeds afrasteringen plaatsen rondom zowel de overheid alsook de industrie.”
Gepubliceerd door The Epoch Times (22 april 2023): EXCLUSIVE: Lawmaker With PhD in AI Warns About Technology’s Real Danger—It’s Not Killer Robots
