ChatGPT och integritet: Vad händer med dina personuppgifter?

Inom några månader från att den släpptes bröt ChatGPT rekordet för snabbast växande kundapplikation i världshistorien. Över 100 miljoner människor provade chattbottens avancerade funktioner: svara på frågor med hyfsad tillförlitlighet och mänsklig tonalitet, skriva datakod och till och med musik.

Det har diskuterats mycket kring AI:s potential att omkullkasta områden som konst och juridik, men man har inte sagt lika mycket om dess följder för vår integritet. Det håller dock på att förändras, vilket bland annat blir tydligt med att lagstiftare i Italien tillfälligt har bannlyst tjänsten mellan 31 mars och 28 april.

AI lärs trots allt upp med data från webben och om du någonsin har skrivit något online är chansen hög att ChatGPT har läst det. Och vad finns i denna massiva hög med data? Våra personuppgifter.

Hur samlar ChatGPT in dina personuppgifter?

ChatGPT får bland annat tag på personuppgifter när data laddas upp i bulk för att träna modellen. Det är problematiskt i sig då du inte får ge ditt samtycke till användningen av dina uppgifter. Om du till exempel har berättat något personligt på Reddit kan kommentaren användas av OpenAI (ChatGPT:s grundare) för att träna ChatGPT.

ChatGPT får också dina uppgifter när du använder tjänsten. Chattbotten samlar in olika uppgifter om din session, inklusive konversationer och vad du skriver. Enligt OpenAI:s integritetspolicy inkluderar insamlade data följande:

• Loggdata. Din IP-adress, webbläsartyp och inställningar, datum och tid för användning, samt hur du interagerade med verktyget. ChatGPT samlar också in och lagrar dina chattar.
• Användningsdata. Förutom hur du använder och interagerar med tjänsten omfattar användningsdata också insamling av din plats med tidszon och land, programvaruversion, enhetstyp, anslutningsinformation och annat.
• Enhetsinformation. Operativsystemet och enheten du använder för att komma åt ChatGPT, tillsammans med webbläsarinformation.
• Cookies. OpenAI använder cookies för att lagra data om din webbläsaraktivitet och spårar dig över webben för statistiksyften.
• Användarinnehåll. OpenAI samlar in information som du har laddat upp eller angivit i ChatGPT. Detta innebär att allt som du har skrivit eller laddat upp i verktyget lagras.
• Kommunikationsinformation. Om du har kontaktat OpenAI:s support eller prenumererat på deras nyhetsbrev lagras dina personuppgifter och meddelanden som du skickar.
• Information om sociala medier. Om du har interagerat med OpenAI på sociala medier kan de samla in information från din profil. Detta kan inkludera ditt telefonnummer och e-postadress om du har fyllt i dessa fält.
• Kontoinformation. Information som du har angivit för att skapa ett konto, som ditt namn, kontaktuppgifter och betalningsinformation.

Du kanske tänker att det inte skiljer sig särskilt mycket från vad andra webbplatser samlar in, och du är inte ute och cyklar. Men låt oss titta närmare på insamlingen av ”användarinnehåll” och hur ChatGPT fungerar.

ChatGPT är inte designad för att fungera som en sökmotor: den är designad för att prata med dig. Även om du kan använda den för att kolla upp recept på chokladtårtor så får du inte informationen på samma sätt som du får via Google. ChatGPT ”pratar” istället om receptet med dig.

Detta kan leda till en falsk känsla av säkerhet som gör att användare kanske delar information som de annars inte skulle söka efter på Google. ChatGPT:s effektivitet som arbetsverktyg har också gjort att konfidentiell information har läckts ut, vilket Samsung fick lära sig när anställda lät chattbotten spela in möten och kontrollera företagets kod. Eftersom OpenAI samlar in allt användarinnehåll, oavsett om det är privat eller inte, så raderas informationen aldrig.

ChatGPT blockeras i Italien

Den 31 mars utfärdade Italien ett tillfälligt förbud på ChatGPT över dess användning av personuppgifter för upplärningsdata. Italiens datamyndighet (Garante per la Protezione dei Dati Personal) hävdade att OpenAI inte hade juridiska rättigheter att använda personuppgifter vid upplärningen av ChatGPT. Förbudet hävdes i slutet av april efter att ChatGPT införde integritetsrelaterade ändringar för europeiska användare.

Andra länder kritiserar också ChatGPT för dess integritetsskydd, eller snarare brist på skydd. Så vad var det specifikt som Italien invände mot?

Som medlem i Europeiska unionen följer Italien reglerna i GDPR, vilket kräver ett explicit samtycke för att få samla in människors data. Detta ges oftast via ett popup-fönster där du kan godkänna eller neka insamlingen av dina data. Detta är något som OpenAI inte har gjort. Italien ansåg att ChatGPT hade fyra problem enligt reglerna i GDPR:

• Inga ålderskontroller för att stoppa personer under 13 år från att använda ChatGPT
• ChatGPT kan uppge falsk information om personer
• Personer informerades inte om att deras data samlades in
• Det fanns ingen ”juridisk grund” för insamlingen av personuppgifter i data som används för att träna ChatGPT

Italiens tillfälliga förbud för ChatGPT var den första gången en västerländsk nation vidtar åtgärder mot det generativa AI-verktyget och det är troligtvis inte sista gången.

Integritetsklagomål driver fler lagstiftare i Europa att konfrontera integritetsproblemen med ChatGPT

Konstnärer och mediaföretag har klagat på att det saknas behörigheter för att använda deras arbete för att träna generativ AI. Europeiska lagstiftare säger nu samma sak om användningen av människors personuppgifter. Redan innan Italien blockerade ChatGPT har flera andra europeiska länder börjat utreda integritetsproblemen i AI-verktyget.

I Frankrike utreder dataskyddsmyndigheten CNIL ChatGPT efter ”flera” integritetsklagomål. Den franska digitalmyndigheten har sagt att ChatGPT inte följer GDPR, men de har inte stoppat tjänsten. CNIL kan dock sjösätta ett förbud.

Spanien har också begärt att Europeiska dataskyddsstyrelsen hanterar integritetsproblemen med ChatGPT. Detta kan leda till att ChatGPT tas upp i plenarmötet på Europeiska dataskyddskommitténs diskussionsschema, vilket potentiellt driver på samordnade GDPR-åtgärder från EU mot AI-modeller.

Integritetsproblem med ChatGPT

Låt oss återkoppla till några av de största integritetsproblemen med ChatGPT.

1. ChatGPT samlar in mängder av dina data

Detta har vi redan gått igenom ovan, men det tål att förtydligas. Allt som du skriver in i ChatGPT kan läggas till i ChatGPT:s databas. Informationen kan vara känslig, som i fallet med Samsungs konfidentiella mötestranskriptioner eller kundinformation som en jurist vill lägga till i juridiska dokument.

2. Transparens kring dataanvändning och GDPR-efterlevnad 

Ett av Italiens främsta klagomål var att ChatGPT inte informerade användare om personuppgifterna som samlades in, samt att den juridiska grunden för insamlingen och förvaringen av personuppgifterna i data som används för att träna plattformens algoritmer.

ChatGPT har sedan dess tagit fram en beskrivning av personuppgifterna som används för att träna AI-algoritmer och säger explicit att vem som helst kan neka till användningen. Experter säger dock att de ändå måste tillhandahålla en stark juridisk grund för behandlingen av personuppgifter.

ChatGPT har också gjort sin integritetspolicy synligare på OpenAI:s startsida.

3. Möjligheten att neka till insamling av personuppgifter 

Sedan Italien förbjöd ChatGPT har webbplatsen gjort det enklare för användare att hitta formuläret för att neka att deras användarinnehåll används för att förbättra AI-modellens prestanda. De har också lagt till ett nytt formulär där EU-användare kan neka att deras personuppgifter används för att träna modeller.

Experter är dock tveksamma till om ChatGPT kan följa GDPR:s regel ”rätten att glömmas”, som ger medborgare i EU rätten att exkluderas från sökresultat. All information som du oavsiktligt ger till ChatGPT kan användas för att träna dess algoritmer. Analytiker har sagt att det är praktiskt taget omöjligt att sålla bort informationen när den väl har använts.

4. Registrering av telefonnummer

När du registrerar dig på ChatGPT behöver du ange ett telefonnummer och en verifieringskod som skickas till dig. Även om den här åtgärden kontrollerar att du är en människa och hjälper plattformen att förhindra att spambottar använder tjänsten, så kan det påverka användarnas anonymitet.

5. Ålderskontroller 

Länder över hela världen har lagar som skyddar användning och insamling av barns uppgifter. Enligt GDPR-reglerna är det olagligt för företag att behandla data för barn under 16 år utan föräldrarnas samtycke, men medlemsstater kan sänka den åldern till 13.

I OpenAI:s användarvillkor hävdar de att användare av ChatGPT ”måste vara minst 13 år gamla”. I ändringarna som gjordes i april implementerades bland annat en knapp för italienska användare för att bekräfta att de uppfyller ålderskraven.

Precis som med många andra plattformar är det svårt att genomdriva ålderskraven, och data för unga barn snappas lätt upp tillsammans med andra data.

Så skyddar du din integritet när du använder ChatGPT

1. Dela inte känsliga uppgifter

Konfidentiell information är konfidentiell av en anledning. Du bör undvika att dela känsliga uppgifter, oavsett om de är jobbrelaterade eller personliga, eftersom det du anger i ChatGPT lagras i OpenAI:s servrar. Det är troligtvis bäst att utgår från att någon har tillgång till dessa data. Och om det uppstår ett dataintrång kan dina personuppgifter hamna i fel händer.

2. Använd ett VPN 

När du ansluter till internet via ett VPN för ChatGPT krypteras trafiken som skickas till och från ChatGPT:s servrar, vilket skyddar den mot stöld eller korruption från illvilliga aktörer. Ett VPN kan också förhöja din anonymitet när du använder ChatGPT genom att maskera din IP-adress och plats, vilket reducerar mängden data som du överlämnar till ChatGPT.

3. Neka till ChatGPT:s behandling av personuppgifter 

Efter klagomålen introducerade OpenAI nya datakontroller för ChatGPT. Du kan inaktivera din chatthistorik i kontoinställningarna. Om du gör detta kommer dina konversationer med ChatGPT att raderas efter 30 dagar. Detta verkar dock inte stoppa ChatGPT från att använda dina data i upplärningssyften. För att neka till att dina personuppgifter används för att lära upp ChatGPT fyller du i Google-formuläret för att neka till OpenAI:s dataanvändning. Boende i Europa som omfattas av GDPR-reglerna kan också begära att OpenAI tar bort deras personuppgifter via ett annat formulär.