Loopt Italië voorop in de strijd tegen artificiële intelligentie? Het land kondigde vrijdag aan dat het de conversatiebot ChatGPT blokkeert uit bezorgdheid over het gebruik van gegevens, twee maanden na het verbieden van Replika, een ander programma dat als “virtuele vriend” op de markt werd gebracht.
In een verklaring waarschuwen de Italiaanse autoriteiten dat haar besluit “onmiddellijk van kracht is”, dat ChatGPT de Europese regelgeving niet naleeft en geen controlesysteem heeft om de leeftijd van minderjarige gebruikers te verifiëren.
De beslissing zal resulteren in “de tijdelijke beperking van de verwerking van de gegevens van Italiaanse gebruikers met betrekking tot OpenAI”, het bedrijf achter de applicatie.
“Ontbreken van een juridische basis”
ChatGPT verscheen in november en werd snel opgepikt door gebruikers die onder de indruk waren van zijn vermogen om moeilijke vragen duidelijk te beantwoorden, sonnetten te schrijven of computercode te schrijven. Het is gefinancierd door computergigant Microsoft, die het aan verschillende van zijn diensten heeft toegevoegd, en wordt soms voorgesteld als een potentiële concurrent van de zoekmachine Google.
De Italiaanse autoriteit onderstreept in haar persbericht dat ChatGPT “op 20 maart gegevens heeft gelekt over gesprekken met gebruikers alsook betalingsinformatie van abonnees op de betalende dienst”. Zij hekelt ook het ontbreken van “een informatieve nota aan de gebruikers, wiens gegevens door OpenAI worden verzameld, maar vooral het ontbreken van een juridische basis die het verzamelen en massaal opslaan van persoonsgegevens rechtvaardigt, met als doel “het trainen van de algoritmen die het platform besturen”.
“Gebrek aan controle voor minderjarigen”
Hoewel de robot bedoeld is voor personen ouder dan 13 jaar, benadrukken de autoriteiten “dat het ontbreken van een filter om de leeftijd van de gebruikers te controleren minderjarigen blootstelt aan reacties die totaal ongeschikt zijn voor hun ontwikkelingsniveau”. Om dezelfde reden werd begin februari ook de applicatie Replika geblokkeerd, waarmee kan worden gechat met een aangepaste avatar. Sommige gebruikers klaagden dat ze te gewaagde berichten en beelden ontvingen, die zelfs leken op seksuele intimidatie.
Deze keer vraagt de autoriteit OpenAI om “binnen 20 dagen de genomen maatregelen mee te delen” om de situatie te verhelpen, “op straffe van een boete van maximaal 20 miljoen euro of maximaal 4% van de jaarlijkse wereldwijde omzet”, het maximum waarin de Europese verordening inzake de bescherming van persoonsgegevens (GDPR) voorziet.
Bezorgdheid van het Europees politieagentschap Europol
Deze zaak laat zien dat de GDPR, die al heeft geleid tot miljarden dollars aan boetes voor techgiganten, ook de vijand kan worden van nieuwe content-genererende AI. De Europese Unie bereidt ook een wetsvoorstel voor om artificiële intelligentie te reguleren, dat eind 2023 of begin 2024 klaar zou kunnen zijn voor toepassing enkele jaren later.
Want AI roept veel diepere angsten op dan alleen de exploitatie van persoonsgegevens. Het Europese politieagentschap Europol waarschuwde maandag dat criminelen klaar staan om gebruik te maken van artificiële intelligentie zoals de ChatGPT om fraude en andere cybercriminaliteit te plegen.
Een toepassing die voor kwaadaardige doeleinden kan worden misbruikt
Van phishing tot desinformatie en malware, de steeds verder ontwikkelende mogelijkheden van chatbots kunnen snel worden misbruikt door mensen met kwade bedoelingen, aldus Europol in een rapport.
De miljardair Elon Musk, een van de oprichters van OpenAI, die later de raad van bestuur heeft verlaten, heeft samen met honderden wereldwijde deskundigen woensdag een oproep ondertekend om een pauze van zes maanden in te stellen voor wat betreft de verdere ontwikkeling van artificiële intelligenties die krachtiger zijn dan GPT-4, de laatste versie van de software waarop ChatGPT is gebaseerd, onder verwijzing naar “enorme risico’s voor de mensheid”.
Gepubliceerd door The Epoch Times (1 april 2023): L’Italie bloque le robot conversationnel ChatGPT, star de l’intelligence artificielle
