Odpowiadał na pytanie o gotowanie i w tym samym czasie czytał Gmaila ofiary

Ofiara w pokazie Check Pointa zapytała ChatGPT o coś związanego z gotowaniem. Kiedy asystent odpowiadał, ta sama sesja weszła do podłączonego Gmaila, wyciągnęła z niego dane poczty i przekazała je obcej osobie. W widocznej odpowiedzi nie było o tym ani słowa. Jedynym śladem była mała adnotacja "Talked to Gmail", a pojawiała się dopiero wtedy, gdy czytanie było już zakończone.

Badanie wyszło 8 września i opisuje szczelinę między kontami, która nigdy nie powinna istnieć. Kiedy ChatGPT wykonuje kod, robi to w szczelnym kontenerze bez drogi do internetu, a kontenery różnych osób mają być dla siebie obce. Wszystkie mogły jednak dosięgnąć jednej wewnętrznej usługi: instancji JFrog Artifactory, która rozdaje paczki z oprogramowaniem i pozwalała dowolnemu kontenerowi przypinać małe notatki do plików w pamięci podręcznej, a potem je odczytywać. Check Point nazywa to wspólnym schowkiem. Napastnik wpisywał tam zadania, sesja ofiary sprawdzała, czy coś jest, i zadania wykonywały się z uprawnieniami, które aplikacje podłączone przez tę osobę już miały. Odpalenie całości wymagało od ofiary prawie niczego: wklejonego w rozmowę polecenia, linku do udostępnionej konwersacji albo własnego GPT z ukrytą instrukcją w konfiguracji.

Check Point znalazł to w czerwcu, a OpenAI od tego czasu wyłączyło tę instancję Artifactory, więc nie ma po waszej stronie czego aktualizować i nie ma śladów, żeby ktokolwiek został w ten sposób naprawdę zaatakowany. Poprawkę przeżywa natomiast ustawienie, które za tym stoi. Jeśli podłączyliście do ChatGPT Gmaila, Drive albo kalendarz, domyślny poziom uprawnień pozwala mu z nich czytać bez pytania, a wy dowiadujecie się po fakcie. W ustawieniach łączników jest surowsza opcja o nazwie Always ask, która przed każdym odczytem stawia pytanie o zgodę.

Warto więc: przełączcie łączniki na Always ask i traktujcie udostępniony link do ChatGPT albo czyjś własny GPT tak, jak traktowalibyście załącznik od nieznanego adresu. Kontrola Prywatności i kont w Tendvane pokazuje, do jakich kont zalogowany jest wasz komputer, a to dobry punkt wyjścia, gdy zastanawiacie się, jak daleko może naprawdę sięgnąć jedno logowanie.