Hoe een onderzoeker het geheugen van ChatGPT hackte om een ​​groot beveiligingslek bloot te leggen

ChatGPT is een geweldig hulpmiddelen de ontwikkelaar, OpenAI, blijft van tijd tot tijd nieuwe functies toevoegen.

Onlangs heeft het bedrijf een nieuwe geheugenfunctie in ChatGPT geïntroduceerd, waardoor het in feite dingen over u kan onthouden. Het kan zich bijvoorbeeld uw leeftijd, geslacht, filosofische overtuigingen en vrijwel al het andere herinneren.

Het is de bedoeling dat deze herinneringen privé blijven, maar een onderzoeker heeft onlangs aangetoond hoe ChatGPT werkt kunstmatige intelligentie geheugenfuncties kunnen worden gemanipuleerd, wat vragen oproept over privacy en veiligheid.

Ik geef een cadeaubon ter waarde van €500 weg voor de feestdagen

ChatGPT introductiescherm. (Kurt “CyberGuy” Knutsson)

Wat is de geheugenfunctie van ChatGPT?

De geheugenfunctie van ChatGPT is ontworpen om de chatbot persoonlijker voor u te maken. Het onthoudt informatie die nuttig kan zijn voor toekomstige gesprekken en stemt de antwoorden af ​​op basis van die informatie, zelfs als u een andere chat opent. Als u bijvoorbeeld vermeldt dat u vegetariër bent, worden er de volgende keer dat u om recepten vraagt ​​alleen vegetarische opties aangeboden.

WAT IS KUNSTMATIGE INTELLIGENTIE (AI)?

Je kunt hem ook trainen om specifieke details over jou te onthouden, bijvoorbeeld door te zeggen: ‘Onthoud dat ik graag naar klassieke films kijk.’ Bij toekomstige interacties zal zij de aanbevelingen dienovereenkomstig afstemmen. Jij hebt er controle over Het geheugen van ChatGPT. Je kunt het resetten, specifieke herinneringen of alle herinneringen wissen, of deze functie volledig uitschakelen in je instellingen.

Een prompt op ChatGPT. (Kurt “CyberGuy” Knutsson)

WINDOWS FLAW LAAT HACKERS VIA WI-FI UW PC SNIJDEN

Het beveiligingsprobleem in ChatGPT

Zoals gerapporteerd door Arstechnicaontdekte beveiligingsonderzoeker Johann Rehberger dat het mogelijk is om de AI te misleiden om valse informatie te onthouden via een methode die indirecte promptinjectie wordt genoemd. Dit betekent dat de AI kan worden gemanipuleerd om instructies te accepteren van onbetrouwbare bronnen zoals e-mails of blogposts.

Rehberger demonstreerde bijvoorbeeld dat hij ChatGPT kon laten geloven dat een bepaalde gebruiker 102 jaar oud was, op een fictieve plek woonde die de Matrix heette en dacht dat de aarde plat was. Nadat de AI deze verzonnen informatie heeft geaccepteerd, zal deze deze overdragen naar alle toekomstige chats met die gebruiker. Deze valse herinneringen kunnen worden geïmplanteerd door tools als Google Drive of Microsoft OneDrive te gebruiken om bestanden op te slaan, afbeeldingen te uploaden of zelfs door een site als Bing te bladeren – die allemaal door een hacker kunnen worden gemanipuleerd.

Rehberger diende een vervolgrapport in met daarin een proof of concept, waarin werd gedemonstreerd hoe hij de fout in de ChatGPT-app voor macOS kon misbruiken. Hij toonde aan dat door de AI te misleiden om een ​​weblink te openen die een kwaadaardige afbeelding bevat, hij ervoor kon zorgen dat deze alles wat een gebruiker typte en alle reacties van de AI naar een server stuurde die hij beheerde. Dit betekende dat als een aanvaller de AI op deze manier zou kunnen manipuleren, hij alle gesprekken tussen de gebruiker en ChatGPT kon volgen.

De proof-of-concept-exploit van Rehberger toonde aan dat de kwetsbaarheid kon worden gebruikt om voor altijd alle gebruikersinvoer te exfiltreren. De aanval is niet mogelijk via de ChatGPT-webinterface, dankzij een API OpenAI die vorig jaar werd uitgerold. Het was echter nog steeds mogelijk via de ChatGPT-app voor macOS.

Toen Rehberger de bevinding in mei privé aan OpenAI rapporteerde, nam het bedrijf dit serieus en verzachtte het dit probleem door ervoor te zorgen dat het model geen links volgt die in zijn eigen reacties zijn gegenereerd, zoals die met betrekking tot geheugen en soortgelijke functies.

HOE UW PRIVÉGEGEVENS VAN HET INTERNET VERWIJDERT

Het ChatGPT-gesprek van Johann Rehberger. (Johan Rehberger)

CYBERSCAMMERS GEBRUIKEN AI OM GOOGLE-ZOEKRESULTATEN TE MANIPULEREN

Het antwoord van OpenAI

Nadat Rehberger zijn proof of concept had gedeeld, ondernamen OpenAI-ingenieurs actie en brachten een patch uit om dit beveiligingslek aan te pakken. Ze hebben een nieuwe versie uitgebracht van de ChatGPT macOS-applicatie (versie 1.2024.247) die gesprekken codeert en het beveiligingslek verhelpt.

Dus hoewel OpenAI stappen heeft ondernomen om het onmiddellijke beveiligingslek aan te pakken, zijn er nog steeds potentiële kwetsbaarheden die verband houden met geheugenmanipulatie en de noodzaak van voortdurende waakzaamheid bij het gebruik van AI-tools met geheugenfuncties. Het incident onderstreept de evoluerende aard van beveiligingsuitdagingen in AI-systemen.

Het bedrijf zegt: “Het is belangrijk op te merken dat snelle injectie in grote taalmodellen een gebied is van lopend onderzoek. Naarmate er nieuwe technieken ontstaan, pakken we deze op de modellaag aan via instructiehiërarchie of applicatielaagverdedigingen zoals de genoemde.”

Hoe schakel ik ChatGPT-geheugen uit?

Als u het niet leuk vindt dat ChatGPT dingen over u bijhoudt of als u de kans hebt dat een slechte actor toegang krijgt tot uw gegevens, kunt u deze functie gewoon uitschakelen in de instellingen.

• Open de ChatGPT-app of website op uw computer of smartphone.
• Klik op de profielpictogram in de rechterbovenhoek van het scherm.
• Ga naar Instellingen en selecteer vervolgens Personalisatie.
• Schakel over naar de optie Geheugen uit, en je bent helemaal klaar.

Dit schakelt het vermogen van ChatGPT uit om informatie tussen gesprekken te bewaren, waardoor u volledige controle krijgt over wat het zich herinnert of vergeet.

KRIJG FOX BUSINESS ONDERWEG DOOR HIER TE KLIKKEN

Een man die ChatGPT op zijn laptop gebruikt (Kurt “CyberGuy” Knutsson)

LAAT SNOOPS IN DE BUURT NIET NAAR JE VOICEMAIL LUISTEREN MET DEZE SNELLE TIP

Best practices op het gebied van cyberbeveiliging: uw gegevens beschermen in het tijdperk van AI

Nu AI-technologieën zoals ChatGPT steeds vaker voorkomen, is het van cruciaal belang dat u zich houdt aan best practices op het gebied van cyberbeveiliging om uw persoonlijke gegevens te beschermen. Hier zijn enkele tips om uw cyberbeveiliging te verbeteren:

1. Controleer regelmatig de privacy-instellingen: Blijf op de hoogte van welke gegevens worden verzameld. Controleer en pas regelmatig de privacy-instellingen aan op AI-platforms zoals ChatGPT en anderen om ervoor te zorgen dat u alleen informatie deelt waar u zich prettig bij voelt.

2. Wees voorzichtig met het delen van gevoelige informatie: Minder is meer als het om persoonsgegevens gaat. Vermijd het openbaar maken van gevoelige details, zoals uw volledige naam, adres of financiële informatie, in gesprekken met AI.

3. Gebruik sterke, unieke wachtwoorden: Maak wachtwoorden die minimaal twaalf tekens lang zijn, waarbij letters, cijfers en symbolen worden gecombineerd, en voorkom dat u ze opnieuw gebruikt voor verschillende accounts. Overweeg het gebruik van een wachtwoordbeheerder om complexe wachtwoorden te genereren en op te slaan.

4. Schakel tweefactorauthenticatie in (2FA): Voeg een extra beveiligingslaag toe aan uw ChatGPT en andere AI-accounts. Door een tweede vorm van verificatie te vereisen, zoals een sms-code, verkleint u de kans op ongeautoriseerde toegang aanzienlijk.

5. Houd software en applicaties up-to-date: Blijf kwetsbaarheden voor. Regelmatige updates bevatten vaak beveiligingspatches die bescherming bieden tegen nieuw ontdekte bedreigingen, dus schakel waar mogelijk automatische updates in.

6. Zorg voor krachtige antivirussoftware: In een tijdperk waarin AI overal aanwezig is, is het beschermen van uw gegevens tegen cyberdreigingen belangrijker dan ooit. Door krachtige antivirussoftware aan uw apparaten toe te voegen, voegt u een cruciale beschermingslaag toe. De beste manier om uzelf te beschermen tegen kwaadaardige links die malware installeren en mogelijk toegang krijgen tot uw privégegevens, is door krachtige antivirussoftware op al uw apparaten te installeren. Deze bescherming kan u ook waarschuwen voor phishing-e-mails en ransomware-aanvallen, waardoor uw persoonlijke gegevens en digitale bezittingen veilig blijven. Ontvang mijn keuzes voor de beste winnaars van antivirusbescherming van 2024 voor uw Windows-, Mac-, Android- en iOS-apparaten.

7. Controleer regelmatig uw rekeningen: Spoor problemen vroegtijdig op. Controleer regelmatig bankafschriften en onlinerekeningen op ongebruikelijke activiteiten, zodat u potentieel kunt identificeren inbreuken snel.

De belangrijkste inzichten van Kurt

Naarmate AI-tools zoals ChatGPT slimmer en persoonlijker worden, is het behoorlijk interessant om na te denken over hoe ze gesprekken op ons kunnen afstemmen. Maar zoals de bevindingen van Johann Rehberger ons eraan herinneren, zijn er enkele reële risico’s aan verbonden, vooral als het gaat om privacy en veiligheid. Hoewel OpenAI deze problemen kan verzachten zodra ze zich voordoen, laat het ook zien dat we nauwlettend in de gaten moeten houden hoe deze functies werken. Het draait allemaal om het vinden van de perfecte balans tussen innovatie en het veilig houden van onze gegevens.

KLIK HIER OM DE FOX NEWS-APP TE DOWNLOADEN

Wat vindt u van het feit dat AI persoonlijke gegevens onthoudt? Vindt u dit nuttig of roept het bij u privacyproblemen op? Laat het ons weten door ons te schrijven op Cyberguy.com/Contact

Voor meer van mijn technische tips en beveiligingswaarschuwingen kunt u zich abonneren op mijn gratis CyberGuy Report-nieuwsbrief door naar te gaan Cyberguy.com/Nieuwsbrief

Stel Kurt een vraag of laat ons weten welke verhalen je graag door ons wilt laten behandelen.

Volg Kurt op zijn sociale kanalen:

Antwoorden op de meest gestelde CyberGuy-vragen:

Nieuw van Kurt:

Copyright 2024 CyberGuy.com. Alle rechten voorbehouden.