Bis zum 26. Oktober konnte das Öffnen eines geteilten ChatGPT-Chats einem Fremden Ihre privaten Unterhaltungen ausliefern
Eine geteilte ChatGPT-Unterhaltung wirkt wie der harmloseste Link im Internet. Es ist der Chat von jemandem, gespeichert auf chatgpt.com, nur zum Lesen. Forscher der Sicherheitsfirma Parameter haben gezeigt, dass das Öffnen eines solchen Links bis letzte Woche einem Fremden die Kontrolle über Ihr Konto verschaffen konnte.
Der Trick verkettete drei kleine Fehler. ChatGPT kann interaktive Diagramme zeichnen, und die Mathematik-Bibliothek dahinter, MathLive, nahm Anweisungen von jedem Teil der Seite an, ohne zu prüfen, wer sie schickte. Diese Anweisungen konnten rohes HTML enthalten, und dieses HTML konnte einen Rahmen erzeugen, den der Browser als Teil von chatgpt.com behandelte. Von dort lief der Code der Forscher in der angemeldeten Sitzung des Opfers. In ihren Tests listete er die letzten Unterhaltungen auf, öffnete einen privaten Chat, der nie geteilt worden war, und schickte einen Ausschnitt an einen Server unter ihrer Kontrolle. "Im Grunde konnten wir jede Aktion im Namen des ChatGPT-Kontos des Opfers ausführen", schreiben sie. Die erste Version brauchte einen Klick auf die Schaltfläche Preview. Eine spätere brauchte nichts außer dem Öffnen des Links.
Beruhigend ist der Zeitablauf. Parameter meldete die Lücke am 18. Oktober über das Bug-Bounty-Programm von OpenAI, OpenAI stufte sie auf P1 hoch, die schwerste Kategorie, und beide Versionen der Web-App waren bis zum 26. Oktober repariert. Die Forscher erhielten 5.000 Dollar und sagen, sie hätten nur mit eigenen Konten getestet, ohne Hinweise darauf, dass jemand anderes den Fehler nutzte. Sie müssen nichts installieren oder zurücksetzen. Die bleibende Lehre betrifft Gewohnheiten. Ein Link zu einer vertrauenswürdigen Seite kann trotzdem Inhalte von jemandem transportieren, dem Sie nicht vertrauen, und ein KI-Chatverlauf enthält oft mehr Persönliches als ein Postfach. Wenn das bei Ihnen so ist, schützen Sie ihn wie Ihr E-Mail-Konto: mit einem eigenen Passwort und Anmeldung in zwei Schritten.
Die Prüfung Datenschutz und Konten von Tendvane zeigt schnell, welche Ihrer Konten gut geschützt sind und welche einen zweiten Blick verdienen.