By Natali Moss
Jak wyjaśniają eksperci, PromptSteal wykorzystuje LLM do generowania poleceń do wykonania przez złośliwe oprogramowanie, zamiast wpisywać je na stałe w samym oprogramowaniu. PromptSteal udaje program do „generowania obrazów”, który prowadzi użytkownika przez serię monitów o wygenerowanie obrazów, a jednocześnie wysyła zapytanie do interfejsu API Hugging Face w celu wygenerowania poleceń uruchamianych w tle.
Badacze podejrzewają, że PromptSteal wykorzystuje skradzione tokeny API do wysyłania żądań do API Hugging Face. Program w szczególności prosi LLM o wydanie poleceń w celu wygenerowania informacji o systemie, a także o skopiowanie dokumentów do określonego katalogu. Dane wyjściowe tych poleceń są następnie na ślepo wykonywane lokalnie przez PromptSteal przed wyciekiem danych wyjściowych.
„Chociaż PromptSteal prawdopodobnie nadal znajduje się na etapie badań i rozwoju, tego rodzaju metoda zaciemniania jest wczesnym i znaczącym wskaźnikiem tego, w jaki sposób napastnicy prawdopodobnie uzupełnią swoje kampanie sztuczną inteligencją w przyszłości” – podkreśliło GTIG.
Polski
Українська
English
USA
Français
Deutsch
Italiano
Čeština
Español
Slovensku
