Socjotechnika a sztuczna inteligencja. Czy maszyny mogą stać się mistrzami manipulacji?

Sztuczna inteligencja gromadzi nasze dane

Po boomie na takie platformy, jak Dall-e, ChatGPT czy Midjourney generatywna sztuczna inteligencja przedarła się do dyskursu publicznego. Dziś o tych narzędziach słyszało całe mnóstwo ludzi. Spora część również z nich korzysta – i to na co dzień.

Jak dobrze wiemy – przykładowo taki ChatGPT tworzony był na podstawie informacji dostępnych publicznie w internecie, licencji wykorzystujących 3rd part cookies czy ręcznie udostępnionych danych przez ludzi.

Algorytmy nas uzależniają?

Prawda jest więc taka, że sami niejako „wyhodowaliśmy” sztuczną inteligencję z tego, co wrzucamy do internetu i jak się w nim poruszamy. Dość powiedzieć, że np. rozpoznania obrazów były trenowane dzięki reCAPTCHA, w których nierzadko musieliśmy zaznaczać czy wykluczać jakieś obrazki.

Ponadto sztuczna inteligencja to również algorytmy wszystkich gigantów technologicznych, które służą nam do podrzucania interesujących nas treści, czy produktów w celu utrzymania nas na danej platformie jak najdłużej. I już tutaj możemy mówić o formie socjotechniki i manipulacji – w końcu dość powiedzieć, że np. TikTok niedawno został pozwany w Stanach Zjednoczonych za bycie „uzależniającym” – i przyczynia się do tego m.in. algorytm.

Dzięki temu różnego rodzaju AI – zwłaszcza te generatywne – względnie dobrze rozumieją, jak działają ludzie. I choć mają blokady (które notabene można ominąć), to są w stanie wygenerować dla cyberprzestępców manipulacyjne treści.

Jak sztuczna inteligencja zmienia phishing?

Jedną z kategorii, która pokazuje, jak mocno AI wpływa na cyberprzestępczość i manipulacje jest przykład phishingu. Ten rodzaj cyberataku znacząco się zwiększył w momencie rozpowszechnienia się narzędzi generatywnego AI i ostrzegają przed tym wszystkie wielkie firmy.

A co najgorsze – jak pokazuje raport Egress Phishing Threat Trends detektory sztucznej inteligencji w 71,4% przypadków nie są w stanie stwierdzić, czy dana wiadomość phishingowa jest dziełem człowieka, czy AI.

Ponadto sztuczna inteligencja wspiera cyberprzestępców w tworzeniu lepszych, wiarygodniejszych treści phishingowych. Większość tego typu wiadomości rozpoznaje się po dość niechlujnym stylu, nierzadko niepoprawnym formom językowym – to jednak od rozpowszechnienia się narzędzi AI znacząco się zmieniło.

Sztuczna inteligencja potrafi dość dobrze operować językiem naturalnym i dobrze radzi sobie z tłumaczeniami na języki obce. A im więcej danych cyberprzestępca dostarczy w prompcie o swojej potencjalnej ofierze, tym łatwiej będzie wygenerować spersonalizowany atak, np. typu BEC.

AI w manipulacji vishingowej i deepfake

Co gorsza – nieregulowany rozwój AI doprowadził też do powstania skutecznych narzędzi, które potrafią imitować ludzki głos z niezwykłą dokładnością. To sprawia, że dziś (w połączeniu z technologią deepfake) o wiele prościej podszyć się pod znane osoby i prowadzić wyjątkowo skuteczne ataki spersonalizowane.

Wystarczy przypomnieć np. kampanie cyberprzestępców, którzy za pomocą deepfake’a i dubbingu AI podszywali się chociażby pod Mateusza Morawieckiego czy Janusza Kowalskiego, aby promować nieistniejące inwestycje i zachęcać tym samym do udostępnienia swoich danych czy wysyłki pieniędzy.

Niestety – jeśli nie zaczniemy regulować rynku i nie stworzymy skutecznych narzędzi do zwalczania takiej działalności, to sztuczna inteligencja przyczyni się do wzrostu i ułatwienia procederu cyberprzestępczego. W zasadzie – już to robi.