Czy sztuczna inteligencja jest bezpieczna?

Czy to koniec tradycyjnych ataków cyberprzestępców? Czy zastąpi ich SI? Choć obecnie cyberataki wykorzystujące sztuczną inteligencję (SI) są niezwykle rzadkie, to jak pokazuje raport opracowany przez WithSecure (dawniej F-Secure Business), Fińską Agencję Transportu i Komunikacji (Traficom) i Fińską Narodową Agencję Zaopatrzenia Kryzysowego (NESA), w ciągu najbliższych pięciu lat cyberprzestępcom uda się najprawdopodobniej opracować mechanizmy, które nauczą sztuczną inteligencję przeprowadzania ataków.

Aktualnie najczęściej cyberprzestępcy wykorzystują sztuczną inteligencję przede wszystkim w atakach socjotechnicznych. Sztuczna inteligencja pomaga im podszywać się pod określone osoby albo organizacje. Nierzadko sztuczna inteligencja wykorzystywana jest do analizowania danych.

Jednak typowych ataków przy użyciu sztucznej inteligencji jeszcze się nie przeprowadza. Ale to tylko kwestia czasu. Wspomniany raport WithSecure przewiduje, że wystarczy pięć najbliższych lat by opracować system, który spowoduje, że sztuczna inteligencja będzie w stanie samodzielnie wyszukiwać luki w zabezpieczeniach i przeprowadzać ataki. Takie rozwiązania będą stosowane najpierw przez hakerów wspieranych przez konkretne rządy. Z czasem będą coraz popularniejsze.

– Ewolucja technologii związanych z bezpieczeństwem nie nadąża za rozwojem niektórych aplikacji wykorzystujących sztuczną inteligencję. Może to doprowadzić do uzyskania przewagi przez cyberprzestępców – podkreśla Samuel Marchal, Senior Data Scientist w WithSecure.

– Trzeba pamiętać, że hakerzy, w przeciwieństwie do legalnych organizacji, deweloperów i badaczy, nie przestrzegają przepisów dotyczących prywatności danych i lokalnego prawa. Jeśli decydenci oczekują rozwoju bezpiecznych, niezawodnych i etycznych technologii bazujących na sztucznej inteligencji, będą musieli zastanowić się, jak zapewnić ich bezpieczeństwo.

Pełny raport dostępny pod adresem: https://www.traficom.fi/en/publications/security-threat-ai-enabled-cyberattacks