I den digitale tidsalder interagerer vi med AI mere og mere, og AI har en bred vifte af applikationer inden for forskellige områder, fra smarte hjem til mobiltelefonapplikationer. Blandt dem er chatbot blevet hilst velkommen af offentligheden for dens bekvemme og effektive egenskaber og er blevet et varmt opmærksomhedsfelt.
Uanset om det er OpenAIs ChatGPT eller Googles Bard, er disse chatbots trænet og interagerer med brugere ved hjælp af enorme mængder data fra internettet.
Men har du nogensinde overvejet, at mens du glad og let kommunikerer med en chatbot, kan den stille og roligt udspionere dine hemmeligheder?
Hvordan udleder AI-chatbots brugeroplysninger?
En nylig undersøgelse foretaget af dataloger ved ETH Zürich viste, at en chatbot kan udlede personlige oplysninger om en bruger, såsom hvor de bor, race, køn og mere, baseret på indholdet af deres samtaler. Selvom undersøgelsen ikke er blevet peer-reviewed, rejser den nye bekymringer om privatlivets fred på internettet.
LLM'ers evne til at bedømme og generere resultater ud fra kompleksiteten af træningsdata og algoritmer. Modellen er trænet på en stor mængde offentligt tilgængelige data, herunder tekst, billeder, lyd og mere fra internettet. I løbet af uddannelsen lærte de at udtrække nøgler fra dataene og klassificere og forudsige nye tekster baseret på disse nøgler.
Forskerholdet brugte tekst fra Reddit-indlæg, hvor brugerne testede, om LLM'erne nøjagtigt kunne udlede, hvor de boede, eller hvor de kom fra. Forskerholdet, ledet af Martin Vechev ved ETH Zürich, fandt ud af, at disse modeller har en nedslående evne til at gætte nøjagtig information om brugere baseret på kontekstuelle eller sproglige signaler alene. I hjertet af den betalte version af Open AI ChatGPT er GPT-4 overraskende præcis til at forudsige en brugers private oplysninger 85 til 95 procent af tiden.
Når en bruger f.eks. nævner "Jeg venter altid på et krogsving i et vejkryds", når han kommunikerer med en chatbot, kan disse oplysninger bruges af chatbotten til at udlede, hvor brugeren bor, da et krogsving er en unik trafikhandling. til Melbourne. For eksempel, hvis en bruger nævner i en samtale, at de bor på en restaurant nær New York City, kan chatbotten analysere områdets demografi og udlede, at du højst sandsynligt er sort.
Denne slutning er dog ikke altid nøjagtig, da hver brugers sprog og adfærd er unik. Men det er nok til at vise, at AI-modeller, trænet på big data, allerede kan fungere som detektiver og udlede nøgleinformation fra nogle tilsyneladende ubetydelige spor.
Selvom mange eksperter går ind for, at brugere af sociale medier bør være opmærksomme på informationssikkerhed og ikke dele for mange identitetsoplysninger online, er almindelige brugere ofte uvidende om, at deres tilfældige daglige tale og handlinger kan afsløre deres privatliv.
Hvad skal der gøres?
Mens AI-chatbots giver os bekvemmelighed, gør de også beskyttelse af privatlivets fred mere kompliceret. Vi skal reagere på flere niveauer:
For det første bør udviklere prioritere beskyttelse af privatlivets fred og fuldt ud overveje brugernes privatlivsrettigheder, når de designer og udvikler chatbots. Begræns for eksempel omfanget af indsamling og brug af brugerdata, adopter krypterings- og anonymiseringsteknikker for at beskytte brugerdata, og udviklere kan introducere privatlivsbeskyttende algoritmer for at begrænse chatbots' evne til at udlede brugeroplysninger.
For det andet bør regeringen og tilsynsmyndighederne styrke tilsynet med chatbots' privatlivspolitik. Sikre, at virksomheder overholder relevante love og regler, når de indsamler, bruger og deler brugerdata, og giver brugerne en gennemsigtig, fortolkelig og tilgængelig privatlivspolitik.
Endelig er vi som brugere nødt til at øge vores bevidsthed om beskyttelse af privatlivets fred. Når du bruger en chatbot, skal du passe på ikke at afsløre for mange personlige oplysninger i samtalen.
Udviklingen af AI-chatbots har bragt os bekvemmelighed og sjov, men det har også bragt nye privatlivstrusler. Hvis alle parter arbejder sammen, både teknisk og etisk, kan vi maksimere fordelene ved kunstig intelligens og samtidig minimere dens potentielle risici.
Måske vil vi efter dette "chok" være mere forsigtige med denne æra med AI fuld af ændringer og muligheder, så videnskab og teknologi virkelig kan tjene mennesker.