Phishing z AI. Poprawna polszczyzna nie potwierdza nadawcy
3 grudnia 2024 FBI opisało wykorzystanie generatywnej AI w oszustwach: szybsze pisanie wiadomości, lepsze tłumaczenia, fałszywe profile i klonowanie głosu. Żadna z tych rzeczy nie wymaga, żeby odbiorca korzystał z chatbota. Wystarczy skrzynka pocztowa albo telefon.
Rada „szukaj błędów językowych” zawsze miała ograniczenia. Dziś tym bardziej nie wystarcza. Poprawnie napisany mail może pochodzić od oszusta, a niezgrabny od prawdziwego kontrahenta. Ocenianie gramatyki daje kiepską podstawę do decyzji o przelewie.
Co AI rzeczywiście ułatwia
Brytyjskie NCSC w ocenie zagrożeń do 2027 roku wskazuje wykorzystanie AI między innymi przy rozpoznaniu ofiary i socjotechnice. To ocena służby, nie pomiar skuteczności każdej kampanii. Nie wynika z niej, że wszystkie nowe oszustwa są generowane automatycznie ani że atakujący ma bezbłędny profil psychologiczny odbiorcy.
Model może pomóc przerobić tekst, dopasować ton do korespondencji i uporządkować zebrane informacje. Dane wejściowe nadal muszą skądś pochodzić. Nazwa stanowiska z publicznego profilu to coś innego niż treść przejętej skrzynki. Oszust, który zna numer faktury i poprzedni wątek rozmowy, ma przewagę także bez AI.
Dlatego nie traktowałbym znajomości szczegółu jako dowodu tożsamości. Po wycieku danych z Fakturowni pytanie o wiarygodność prośby o zmianę rachunku jest całkiem praktyczne. Zgodne nazwisko i kwota mogą uśpić czujność właśnie wtedy, kiedy trzeba sprawdzić odbiorcę pieniędzy.
Spear-phishing oznacza atak dopasowany do konkretnej osoby lub organizacji. Istniał przed chatbotami i nie był zarezerwowany dla prezesów. AI może skrócić przygotowanie części materiałów. Nie ma podstaw, żeby z tego robić koszt równy zeru albo gwarancję powodzenia.
Najpierw sprawdź, czego żąda wiadomość
Nie musisz rozstrzygać, czy tekst napisał człowiek, ChatGPT czy inny model. Przy prośbie o logowanie otwórz usługę z własnej zakładki lub wpisz jej znany adres. Przy zmianie numeru rachunku potwierdź dyspozycję przez wcześniej ustalony kontakt. Odpowiedź w tym samym wątku nie jest niezależną weryfikacją, jeśli ktoś kontroluje skrzynkę.
CERT Polska przypomina, że wygląd strony i pozornie znajomy nadawca nie wystarczają do rozpoznania oszustwa. Sprawdzaj domenę, zanim podasz hasło lub kod. Sam HTTPS oznacza szyfrowanie połączenia z daną stroną, nie uczciwość jej właściciela.
Presja czasu jest powodem do przerwania czynności, ale nie daje uczciwej podstawy do wyliczenia „99% szans na atak”. Taką liczbę zawierała poprzednia wersja tego tekstu. Nie miała źródła.
W firmie warto ustalić z góry, kto potwierdza zmianę rachunku i jakim kanałem. Pracownik nie powinien negocjować tej procedury z osobą, która właśnie naciska na pilny przelew. Nawet jeśli przedstawia się jako szef.
Znajomy głos też wymaga sprawdzenia
FBI opisuje używanie syntetycznego głosu do podszywania się pod bliskich potrzebujących pilnej pomocy finansowej. Zaleca między innymi rozłączenie i samodzielny kontakt oraz ustalone wcześniej rodzinne hasło.
Nie opierałbym decyzji na tym, czy słychać oddech, czy rozmówca odpowiada z opóźnieniem. Zła jakość połączenia ma wiele przyczyn. Brak dziwnych dźwięków również niczego nie potwierdza. Oddzwoń na znany numer, zamiast korzystać z numeru podyktowanego w podejrzanej rozmowie. Uzgodnione hasło nie powinno być odpowiedzią, którą da się odczytać z publicznego profilu.
Jeśli ktoś zabrania kontaktowania się z rodziną, bankiem albo drugim pracownikiem, masz dodatkowy powód, żeby przerwać transakcję. Uczciwa weryfikacja może chwilę potrwać.
Załącznik i skaner nie dają prostych odpowiedzi
Poprzednia wersja artykułu przedstawiała PDF z rzekomą umową tak, jakby jego otwarcie automatycznie uruchamiało infostealera i omijało 2FA. To było zbyt daleko idące uproszczenie. Dokument może zawierać odsyłacz do fałszywego logowania; infekcja wymaga konkretnego mechanizmu, na przykład wykorzystania podatności albo nakłonienia odbiorcy do uruchomienia pliku. Samo rozszerzenie nie rozstrzyga, co się wydarzy.
Nie wysyłaj też poufnej umowy ani prywatnego odnośnika do publicznego skanera bez sprawdzenia zasad udostępniania. Adres może zawierać token dostępu. VirusTotal wyjaśnia, że przesłane próbki są udostępniane partnerom i uprawnionym klientom usługi. Wynik bez wykryć nie jest certyfikatem bezpieczeństwa nowej strony.
Podejrzaną wiadomość służbową przekaż zespołowi odpowiedzialnemu za bezpieczeństwo ustalonym kanałem. W Polsce stronę lub wiadomość można zgłosić przez formularz CERT Polska, a podejrzany SMS przekazać na 8080. Nie trzeba najpierw udowadniać, że oszust korzystał z AI.
Przy prośbie o pieniądze albo dane ważniejsze jest potwierdzenie dyspozycji niż rozpoznanie narzędzia, którym ją napisano. To można zrobić także wtedy, gdy wiadomość brzmi zupełnie zwyczajnie.
Źródła
Korekty
-
Przepisano archiwalny tekst i uzupełniono źródła. Usunięto niepotwierdzone liczby oraz twierdzenia o językowej perfekcji phishingu, automatycznej infekcji przez PDF i niezawodnym rozpoznawaniu klonowanego głosu. Spear-phishing nie był zarezerwowany dla kadry kierowniczej. Dawny podpis NetRunner zastąpiono podpisem autora dziennika.
Jak pracuję ze źródłami i poprawiam błędy. Znalazłeś błąd? Podaj fragment i źródło.