De risico’s rond kunstmatige intelligentie moeten grondig worden onderzocht omdat ze een existentiële bedreiging voor het menselijk leven kunnen vormen, aldus een Australisch parlementslid.
In een toespraak in het parlement op 6 februari zei Labor MP Julian Hill dat ChatGPT het potentieel heeft om de wereld te revolutioneren, maar hij waarschuwde dat als AI (artificial intelligence) de menselijke intelligentie zou overtreffen, het aanzienlijke schade zou kunnen veroorzaken.
“Het duurt niet lang, als je begint na te denken, om je te realiseren dat de ontwrichtende en catastrofale risico’s van ongetemde AGI [artificial general intelligence] reëel, aannemelijk en gemakkelijk voor te stellen zijn,” zei hij.
Hill zei dat risicoanalisten die werken aan bedreigingen zoals asteroïden, klimaatverandering, supervulkanen, nucleaire verwoesting, zonnevlammen of pandemieën met een hoge mortaliteit, kunstmatige algemene intelligentie (artificial general intelligence – AGI) steeds vaker bovenaan hun lijst van zorgen plaatsen.
“AGI heeft het potentieel om onze wereld te revolutioneren op manieren die we ons nog niet kunnen voorstellen, maar als AGI de menselijke intelligentie overtreft, kan het aanzienlijke schade toebrengen aan de mensheid als AGI’s doelen en motivaties niet zijn afgestemd op de onze,” zei hij.
“Het risico dat mensen, die veel slimmer zijn dan ik, steeds meer zorgen baart, is wat zij noemen de ‘onwaarschijnlijkheid’ dat mensen in staat zullen zijn om AGI te controleren of dat een kwaadwillende partij AGI kan inzetten voor massavernietiging.”
Hill merkte ook op dat militairen over de hele wereld de ontwikkeling van AGI nastreven omdat het de oorlogsvoering kan veranderen en de huidige “defensieve capaciteiten overbodig kan maken”.
“Een tegenstander met behulp van AGI zou Australië kunnen veroveren of vernietiging op maatschappelijk niveau kunnen ontketenen zonder te worden beperkt door wereldwijd overeengekomen normen,” zei hij.
AI-programma’s zijn al verboden in scholen in New South Wales, Queensland, Tasmanië, Victoria en West-Australië.
MP’s toespraak gedeeltelijk geschreven door ChatGPT
Om zijn bezorgdheid te illustreren, zei Hill dat hij ChatGPT had gebruikt om delen van de toespraak die hij hield te schrijven.
Het programma had slechts 90 seconden nodig om recente mediaberichten over studenten die kunstmatige intelligentie in Australië gebruiken om te spieken samen te vatten en zei dat de paragraaf die het produceerde “behoorlijk goed” was.
ChatGPT schreef, “Onlangs zijn er berichten in de media geweest over studenten in Australië die kunstmatige intelligentie gebruiken om te spieken bij hun examens. AI-technologie, zoals slimme software die essays kan schrijven en antwoorden kan genereren, wordt steeds toegankelijker voor studenten, waardoor ze opdrachten en toetsen kunnen maken zonder de stof echt te begrijpen. Dit leidt tot bezorgdheid, begrijpelijke bezorgdheid, bij docenten, die zich zorgen maken over de gevolgen voor de integriteit van het onderwijssysteem.”
ChatGPT schreef ook dat studenten in feite hun onderwijs omzeilen en een oneerlijk voordeel behalen door gebruik te maken van AI.
“Dit kan leiden tot een gebrek aan kritisch denkvermogen en een afname van de algehele kwaliteit van het onderwijs. Bovendien kunnen docenten mogelijk niet detecteren of een student AI heeft gebruikt om een opdracht te voltooien, waardoor het moeilijk is om spieken te identificeren en aan te pakken. Het gebruik van AI om te spieken roept ook ethische vragen op over de verantwoordelijkheid van studenten om de stof waarover zij worden getoetst te leren en te begrijpen,” schreef het programma.
Hill waarschuwde dat de kwaliteit van de gegenereerde boodschap betekent dat de mensheid AI een stap vóór moet zijn.
“Als de mens erin slaagt AGI te beheersen vóór een intelligentie-explosie plaatsvindt, kan dit de wetenschap, de economie, ons milieu en de samenleving veranderen met vooruitgang op elk gebied van het menselijk nastreven,” zei hij en hij riep tegelijk op tot een onderzoek of internationale samenwerking om deze kwestie verder te bestuderen.
“De belangrijkste boodschap die ik wil overbrengen is dat we nu moeten beginnen.”
AI-gemeenschap bezorgd
De toespraak van Hill komt na een besluit van The International Conference on Machine Learning om auteurs te verbieden de chatbot te gebruiken om wetenschappelijke documenten te schrijven.
“In de afgelopen jaren hebben we een snelle vooruitgang in grootschalige taalmodellen (large-scale language models – LLM) waargenomen en er deel van uitgemaakt, zowel in onderzoek als in inzet. Deze vooruitgang is de afgelopen maanden niet vertraagd, maar alleen maar versneld. Zoals velen, waaronder wijzelf, hebben opgemerkt, kunnen LLM’s die de afgelopen maanden zijn uitgebracht, zoals OpenAI’s chatGPT, nu tekstfragmenten produceren die vaak moeilijk te onderscheiden zijn van de door mensen geschreven tekst”, aldus de ICML.
“Zulke snelle vooruitgang gaat vaak gepaard met onverwachte gevolgen.”
“Helaas hebben we niet genoeg tijd gehad om de gevolgen voor ons beoordelings- en publicatieproces te observeren, te onderzoeken en te overwegen. We hebben daarom besloten de productie/generatie van ICML-papiertekst met behulp van grootschalige taalmodellen te verbieden.”
Amerikaanse defensie zet AGI op volglijst
Ondertussen heeft het Amerikaanse Defence Information System Agency (DISA) AGI op zijn volglijst geplaatst.
De DISA-volglijst staat bekend om zaken die later pijlers van de Amerikaanse defensie worden, zoals 5G, zero-trust digitale defensie, kwantumbestendige cryptografie, edge computing en telepresence.
DISA Chief Technology Officer Stephen Wallace vertelde op een evenement van de Armed Forces Communications and Electronics Association International (AFCEA) dat de organisatie belangstelling heeft voor de technologie.
“We hebben de afgelopen jaren veel over AI gehoord en er zijn al een aantal plaatsen waar het al gebruikt wordt,” zei Wallace op 25 januari, volgens Defence News. “Maar dit type, namelijk de mogelijkheid om inhoud te genereren, is een behoorlijk interessante eigenschap.
“We beginnen nu te kijken naar: Hoe verandert [generatieve AI] eigenlijk de missie van DISA in het departement en wat we leveren voor het departement naar de toekomst toe.”
Gepubliceerd door The Epoch Times (7 februari 2023): Artificial Intelligence Could Pose Existential Threat to Humanity: Australian MP.