Ondernemer en miljardair Elon Musk heeft een scherpe waarschuwing afgegeven dat artificiële intelligentie (AI) het potentieel heeft om de beschaving te vernietigen, en wijst op de noodzaak van een nieuwe “pro-menselijke” AI-optie die op zoek gaat naar de waarheid.
In een uitgebreid interview op Fox News’ “Tucker Carlson Tonight”, dat maandagavond werd uitgezonden, waarschuwde Musk dat bestaande AI-technologieën, zoals het aan Microsoft gelieerde “ChatGPT” en het aan Google toebehorende “DeepMind”, worden getraind om politiek correct te zijn, wat volgens hem leidt tot een AI-dystopie.
Musk merkte op dat AI het potentieel heeft om de beschaving te vernietigen en riep op tot een nieuwe AI-optie die op zoek gaat naar de waarheid. Zijn zorgen komen voort uit wat men noemt de singulariteit, een punt waarop AI de menselijke intelligentie zal overtreffen en onmogelijk te voorspellen wordt.
“Wat gebeurt er als iets dat veel slimmer is dan de slimste mens, in siliciumvorm verschijnt? Het is heel moeilijk te voorspellen wat er in die omstandigheid zal gebeuren,” zei hij. “Dit heet de singulariteit. Een singulariteit, zoals een zwart gat, omdat je niet weet wat er daarna zal gebeuren.”
De singulariteit is een mogelijkheid volgens DeepMind CEO Demis Hassabis, die onlangs in een “60 Minutes” interview op CBS opmerkte dat AI een staat van “zelfbewustzijn” zou kunnen bereiken. Zijn opmerkingen zijn opmerkelijk omdat Google vorig jaar een AI-onderzoeker ontsloeg die beweerde dat zijn LaMDA-taalmodel AI bewustzijn had verworven. Google zei dat de beweringen ongegrond waren.
Musk benadrukte de noodzaak van voorzichtigheid met AI en riep op tot overheidstoezicht, en noemde AI een “gevaar voor het grote publiek.”
“AI is gevaarlijker dan, laten we zeggen, verkeerd ontworpen vliegtuigen, of slecht onderhoud, of slechte autoproductie, in de zin dat het, het potentieel heeft—hoe klein men die kans ook acht, maar het is niet triviaal—het zou de beschaving kunnen vernietigen.”
Als er geen regels komen en er gebeurt iets vreselijks, dan zal het tegen dan te laat zijn.
“AI kan op dat moment de controle overnemen”, voegde hij eraan toe, waarbij hij opmerkte dat het “absoluut” mogelijk is dat AI de controle overneemt en beslissingen neemt voor mensen. “Dat is zeker waar de dingen naartoe gaan,” zei hij.
Musk zegt dat Google medeoprichter een ‘Digitale God’ zoekt
Musk besprak ook zijn gesprekken met Google-medeoprichter Larry Page over AI-veiligheid. Musk zei dat hij zich zorgen maakte dat Page de risico’s niet serieus nam en merkte op dat Page zo snel mogelijk een AI-superintelligentie of een “digitale god” wilde inluiden.
“Hij leek echt zo snel mogelijk een digitale superintelligentie te willen, in feite een digitale god,” zei Musk.
“Hij heeft in de loop der jaren veel publieke verklaringen afgelegd dat het hele doel van Google is wat men noemt AGI, kunstmatige algemene intelligentie, of kunstmatige superintelligentie,” voegde hij eraan toe. “Ik ben het met hem eens dat er grote mogelijkheden zijn voor het goede, maar ook voor het slechte.
Musk zei dat hij pleitte voor het beschermen van de mensheid, waarop Page hem naar verluidt een “specist” noemde.
“Ik was niet de enige aanwezige toen hij me een specist noemde. Ja, ik ben een specist, oké. Het zij zo,” grapte Musk. “Maar wat ben jij dan?”
“Dat was de laatste druppel. Op dat moment had Google Deep Mind overgenomen, dus Google en Deep Mind hadden ongeveer driekwart van al het AI-talent in de wereld,” voegde Musk eraan toe. “Ze hadden duidelijk een enorme hoeveelheid geld en meer computers dan wie dan ook. Dus ik had zoiets van, we zitten hier in een unipolaire wereld.”
Nood aan waarheidszoekende AI
Musk was aanvankelijk medeoprichter van OpenAI om “als tegengewicht tegen Google te dienen”, maar hij verliet het bedrijf in 2018 na een machtsstrijd. Sindsdien is OpenAI een commercieel bedrijf geworden dat “nauw verbonden is met Microsoft”, tot ongenoegen van Musk.
“In feite heeft Microsoft een zeer sterk zeggenschap. Het controleert OpenAI rechtstreeks op dit punt,” zei hij. “Je hebt dus echt een OpenAI-Microsoft situatie, en daarnaast zijn Google-Deep Mind de andere twee zwaargewichten in deze arena.”
De techmiljardair, die vaak zijn bezorgdheid heeft geuit over het risico van AI voor de toekomst van de menselijke beschaving, sprak over zijn ambitie voor een derde alternatief in het AI-landschap.
Musk zei dat hij nu weliswaar “laat in het spel” gekomen is, maar dat hij zal proberen een “maximaal waarheidszoekende AI te creëren die is opgeleid om zorg te dragen voor de mensheid en ideologisch neutraal te zijn en te proberen de aard van het universum te begrijpen.
“We willen pro-menselijk zijn, en de toekomst goed maken voor de mensen. Omdat we per slot van rekening mensen zijn,” zei Musk.
Volgens hem zou een AI die er om geeft het universum te begrijpen, minder geneigd zijn de beschaving te vernietigen, omdat de mens een intrigerend onderdeel van het universum is. Hij haalde het voorbeeld aan van de keuze van de mensheid om chimpansees niet uit te roeien als illustratie waarom een AI met een dergelijke interesse de mensheid niet als een bedreiging zou zien.
“De bedoeling met OpenAI was om goed te doen. Maar het is niet duidelijk of het daadwerkelijk goed doet of dat het … ik kan het op dit moment niet zeggen,” zei hij. “Ik maak me zorgen over het feit dat het wordt getraind om ‘politiek correct’ te zijn, wat gewoon een andere manier is om niet waarachtig te zijn, en onjuiste dingen te zeggen.”
AI trainen om politiek correct en dus “misleidend” te zijn is een “weg naar AI-dystopie”, voegde hij eraan toe.
“Dus, ik ga iets beginnen dat ik ‘Truth GPT’ noem of een maximaal waarheidszoekende AI die de aard van het universum probeert te begrijpen,” zei hij. “Ik denk dat dit de beste weg naar veiligheid zou kunnen zijn, in die zin dat het onwaarschijnlijk is dat een AI die zich bekommert om het begrijpen van het universum de mens zal vernietigen, omdat wij een interessant onderdeel van het universum zijn.”
Gepubliceerd door The Epoch Times (18 april 2023): Musk Warns AI Could Destroy Civilization, Says Google Co-Founder Seeks ‘Digital God’
