Wednesday, 12 Jun 2024
Geavanceerde toepassingen van Kunstmatige Intelligentie te zien in het Kunstmatige Intelligentie Paviljoen van Zhangjiang Future Park tijdens een door de staat georganiseerde mediatour in Shanghai op 18 juni 2021. (Andrea Verdelli/Getty Images)

Kunstmatige intelligentie kan een existentiële bedreiging vormen voor de mensheid: Australisch parlementslid

Australische MP gebruikt ChatGPT om deel van zijn toespraak te schrijven

De risico’s rond kunstmatige intelligentie moeten grondig worden onderzocht omdat ze een existentiële bedreiging voor het menselijk leven kunnen vormen, aldus een Australisch parlementslid.

In een toespraak in het parlement op 6 februari zei Labor MP Julian Hill dat ChatGPT het potentieel heeft om de wereld te revolutioneren, maar hij waarschuwde dat als AI (artificial intelligence) de menselijke intelligentie zou overtreffen, het aanzienlijke schade zou kunnen veroorzaken.

“Het duurt niet lang, als je begint na te denken, om je te realiseren dat de ontwrichtende en catastrofale risico’s van ongetemde AGI [artificial general intelligence] reëel, aannemelijk en gemakkelijk voor te stellen zijn,” zei hij.

Hill zei dat risicoanalisten die werken aan bedreigingen zoals asteroïden, klimaatverandering, supervulkanen, nucleaire verwoesting, zonnevlammen of pandemieën met een hoge mortaliteit, kunstmatige algemene intelligentie (artificial general intelligence – AGI) steeds vaker bovenaan hun lijst van zorgen plaatsen.

“AGI heeft het potentieel om onze wereld te revolutioneren op manieren die we ons nog niet kunnen voorstellen, maar als AGI de menselijke intelligentie overtreft, kan het aanzienlijke schade toebrengen aan de mensheid als AGI’s doelen en motivaties niet zijn afgestemd op de onze,” zei hij.

“Het risico dat mensen, die veel slimmer zijn dan ik, steeds meer zorgen baart, is wat zij noemen de ‘onwaarschijnlijkheid’ dat mensen in staat zullen zijn om AGI te controleren of dat een kwaadwillende partij AGI kan inzetten voor massavernietiging.”

Kunstmatige intelligentie verovert de wereld in sneltreinvaart nu de technologie steeds beter wordt.

Hill merkte ook op dat militairen over de hele wereld de ontwikkeling van AGI nastreven omdat het de oorlogsvoering kan veranderen en de huidige “defensieve capaciteiten overbodig kan maken”.

“Een tegenstander met behulp van AGI zou Australië kunnen veroveren of vernietiging op maatschappelijk niveau kunnen ontketenen zonder te worden beperkt door wereldwijd overeengekomen normen,” zei hij.

AI-programma’s zijn al verboden in scholen in New South Wales, Queensland, Tasmanië, Victoria en West-Australië.

MP’s toespraak gedeeltelijk geschreven door ChatGPT

Om zijn bezorgdheid te illustreren, zei Hill dat hij ChatGPT had gebruikt om delen van de toespraak die hij hield te schrijven.

Het programma had slechts 90 seconden nodig om recente mediaberichten over studenten die kunstmatige intelligentie in Australië gebruiken om te spieken samen te vatten en zei dat de paragraaf die het produceerde “behoorlijk goed” was.

ChatGPT schreef, “Onlangs zijn er berichten in de media geweest over studenten in Australië die kunstmatige intelligentie gebruiken om te spieken bij hun examens. AI-technologie, zoals slimme software die essays kan schrijven en antwoorden kan genereren, wordt steeds toegankelijker voor studenten, waardoor ze opdrachten en toetsen kunnen maken zonder de stof echt te begrijpen. Dit leidt tot bezorgdheid, begrijpelijke bezorgdheid, bij docenten, die zich zorgen maken over de gevolgen voor de integriteit van het onderwijssysteem.”

ChatGPT schreef ook dat studenten in feite hun onderwijs omzeilen en een oneerlijk voordeel behalen door gebruik te maken van AI.

“Dit kan leiden tot een gebrek aan kritisch denkvermogen en een afname van de algehele kwaliteit van het onderwijs. Bovendien kunnen docenten mogelijk niet detecteren of een student AI heeft gebruikt om een opdracht te voltooien, waardoor het moeilijk is om spieken te identificeren en aan te pakken. Het gebruik van AI om te spieken roept ook ethische vragen op over de verantwoordelijkheid van studenten om de stof waarover zij worden getoetst te leren en te begrijpen,” schreef het programma.

Schermen met de logo’s van Microsoft en ChatGPT, een door OpenAI ontwikkelde toepassingssoftware voor kunstmatige intelligentie om te converseren. (Lionel Bonaventure/AFP via Getty Images)

Hill waarschuwde dat de kwaliteit van de gegenereerde boodschap betekent dat de mensheid AI een stap vóór moet zijn.

“Als de mens erin slaagt AGI te beheersen vóór een intelligentie-explosie plaatsvindt, kan dit de wetenschap, de economie, ons milieu en de samenleving veranderen met vooruitgang op elk gebied van het menselijk nastreven,” zei hij en hij riep tegelijk op tot een onderzoek of internationale samenwerking om deze kwestie verder te bestuderen.

“De belangrijkste boodschap die ik wil overbrengen is dat we nu moeten beginnen.”

AI-gemeenschap bezorgd

De toespraak van Hill komt na een besluit van The International Conference on Machine Learning om auteurs te verbieden de chatbot te gebruiken om wetenschappelijke documenten te schrijven.

“In de afgelopen jaren hebben we een snelle vooruitgang in grootschalige taalmodellen (large-scale language models – LLM) waargenomen en er deel van uitgemaakt, zowel in onderzoek als in inzet. Deze vooruitgang is de afgelopen maanden niet vertraagd, maar alleen maar versneld. Zoals velen, waaronder wijzelf, hebben opgemerkt, kunnen LLM’s die de afgelopen maanden zijn uitgebracht, zoals OpenAI’s chatGPT, nu tekstfragmenten produceren die vaak moeilijk te onderscheiden zijn van de door mensen geschreven tekst”, aldus de ICML.

“Zulke snelle vooruitgang gaat vaak gepaard met onverwachte gevolgen.”

“Helaas hebben we niet genoeg tijd gehad om de gevolgen voor ons beoordelings- en publicatieproces te observeren, te onderzoeken en te overwegen. We hebben daarom besloten de productie/generatie van ICML-papiertekst met behulp van grootschalige taalmodellen te verbieden.”

Amerikaanse defensie zet AGI op volglijst

Ondertussen heeft het Amerikaanse Defence Information System Agency (DISA) AGI op zijn volglijst geplaatst.

De DISA-volglijst staat bekend om zaken die later pijlers van de Amerikaanse defensie worden, zoals 5G, zero-trust digitale defensie, kwantumbestendige cryptografie, edge computing en telepresence.

DISA Chief Technology Officer Stephen Wallace vertelde op een evenement van de Armed Forces Communications and Electronics Association International (AFCEA) dat de organisatie belangstelling heeft voor de technologie.

Deelnemers aan Intel’s Artificial Intelligence (AI) Day staan voor een poster tijdens het evenement in de Indiase stad Bangalore op 4 april 2017. (Manjunath Kiran/AFP/Getty Images)

“We hebben de afgelopen jaren veel over AI gehoord en er zijn al een aantal plaatsen waar het al gebruikt wordt,” zei Wallace op 25 januari, volgens Defence News. “Maar dit type, namelijk de mogelijkheid om inhoud te genereren, is een behoorlijk interessante eigenschap.

“We beginnen nu te kijken naar: Hoe verandert [generatieve AI] eigenlijk de missie van DISA in het departement en wat we leveren voor het departement naar de toekomst toe.”

Gepubliceerd door The Epoch Times (7 februari 2023): Artificial Intelligence Could Pose Existential Threat to Humanity: Australian MP.

Hoe u ons kunt helpen om u op de hoogte te blijven houden

Epoch Times is een onafhankelijke nieuwsorganisatie die niet beïnvloed wordt door een regering, bedrijf of politieke partij. Vanaf de oprichting is Epoch Times geconfronteerd met pogingen om de waarheid te onderdrukken – vooral door de Chinese Communistische Partij. Maar we zullen niet buigen. De Nederlandstalige editie van Epoch Times biedt op dit moment geen betalende abonnementen aan en aanvaardt op dit moment geen donaties. U kan echter wel bijdragen aan de verdere groei van onze publicatie door onze artikelen te liken en te her-posten op sociale media en door uw familie, vrienden en collega’s over Epoch Times te vertellen. Deze dingen zijn echt waardevol voor ons.