„Das Öffnen des freigegebenen Links war die einzige erforderliche Aktion“: ChatGPT-Datenschutzlücke behoben
Ein bösartiger Link zu einer geteilten ChatGPT-Konversation hätte es einem Angreifer ermöglichen können, private Chats aus der Browser-Sitzung eines angemeldeten Nutzers zu lesen, sagen Sicherheitsforscher. OpenAI hat das Problem laut dem Forschungsteam, das es gemeldet hat, am 26. Oktober behoben.
Die Forscher von Parameter zeigten, dass speziell präparierte Inhalte in einer geteilten Konversation Code mit den Berechtigungen der ChatGPT-Sitzung des Empfängers ausführen konnten. In einem kontrollierten Proof of Concept listete er Konversationen auf, rief eine ab, die nie für den Angreifer freigegeben worden war, und schickte ein kleines ausgewähltes Stück ihrer Daten an einen von den Forschern kontrollierten Server.
Im technischen Bericht vom 28. Oktober gibt Parameter an, das Problem am 18. Oktober über das Bug-Bounty-Programm von OpenAI gemeldet zu haben. Das Team sagt, OpenAI habe das Problem reproduziert, den Schweregrad auf P1 angehoben und bestätigt, dass beide Versionen des betroffenen Web-Frontends die gemeldeten Nachrichten bis zum 26. Oktober abwiesen.
Wie eine geteilte Konversation die Grenze überschritt
Die HTML Preview von ChatGPT führt Code in einem eingeschränkten Frame aus, der von der Hauptseite getrennt ist. Die Forscher sagen, dass diese Isolierung bei direkten Tests funktionierte, aber ein interaktives Diagramm lud eine Mathematik-Komponente in die ChatGPT-Hauptseite, die Nachrichten aus der Vorschau akzeptierte, ohne deren Herkunft ausreichend zu prüfen.
Das Team kombinierte diesen Nachrichtenpfad mit anderem Browser-Verhalten, um Code mit dem Ursprung von chatgpt.com auszuführen. Das machte den Unterschied zwischen dem bloßen Verändern der geteilten Seite und der Nutzung der authentifizierten Sitzung des Empfängers, um Daten von der ChatGPT-Konversationsschnittstelle anzufordern.
In der zuverlässigsten Version des Tests der Forscher öffnete der Empfänger die geteilte Konversation und klickte auf die Schaltfläche „Preview“. Eine spätere Version öffnete die Vorschau automatisch; Parameter gibt an, diesen Weg dreimal in einem separaten Konto reproduziert zu haben. „Das Öffnen des geteilten Links war die einzige erforderliche Aktion“, schrieben die Forscher über diese Version. Der Proof of Concept nutzte von den Forschern kontrollierte Konten.
Was Nutzer aus der Behebung mitnehmen sollten
Die Analyse der Cloud Security Alliance besagt, dass die Behebung serverseitig bereitgestellt wurde und Nutzer für dieses spezielle Problem keine Maßnahmen ergreifen müssen. Der Bericht von Parameter sagt, OpenAI habe das Problem behoben; keine der beiden Quellen belegt, dass das Konto eines Lesers kompromittiert wurde.
Der Befund betrifft einen bösartigen geteilten Link, der in einer angemeldeten Web-Sitzung geöffnet wird. Dies unterscheidet sich vom absichtlichen Teilen einer Konversation mit einer anderen Person: In der Demonstration der Forscher war die offengelegte private Konversation nicht für den Angreifer freigegeben worden.
Unaufgeforderte Links verdienen weiterhin Vorsicht, selbst wenn ihre Adresse zu einem vertrauten Dienst gehört. Die Cloud Security Alliance sagt, dass keine Maßnahme des Endnutzers erforderlich ist, um die serverseitige Behebung für dieses spezielle Problem zu erhalten.