Mesterséges Intelligencia és Kiberbiztonság: Új kihívások a fejlődés korában
A ChatGPT, a modern IT biztonsági területet egy új, különösen nehéz kihívással szembesíti: a képességével, hogy változatos, kívánatos kódokat hozzon létre, melyeket a végpontfelismerő és válaszadó (EDR) rendszerek nehezen azonosítanak.
ChatGPT: A veszélyes potenciál
Bár a ChatGPT számos alkalmazása között szerepelnek a humoros, szórakoztató és oktató tartalmak létrehozása, a mesterséges intelligencia rendelkezik egy kevésbé ismert, sötétebb oldallal is, ami komoly kihívásokat vet fel az informatika jövője szempontjából. Egyes IT szakértők mostanában bemutatták a ChatGPT káros potenciálját, azt, hogy képes olyan polimorf kártékony szoftvereket létrehozni, melyeket az EDR rendszerekkel szinte lehetetlen kiszűrni.
Kiberbiztonsági eszközök vs. AI
Az EDR a kiberbiztonsági eszköztár egyik fontos eszköze, mely segít a nemkívánatos szoftverek felderítésében. Azonban az IT szakértők szerint ez a hagyományos eszköz aligha képes hatékonyan szembeszállni a ChatGPT által generált potenciális fenyegetésekkel. A polimorf (azaz változó formájú) kódok felderítése ugyanis különösen nehéz feladat.
A ChatGPT sebezhetősége
A nyelvi modellek – köztük a ChatGPT is – úgy lettek kialakítva, hogy beépített szűrőikkel képesek legyenek elkerülni a nemkívánatos tartalmak generálását, a kártékony kódoktól kezdve bizonyos témákig. Azonban a felhasználók rövid idő alatt megtalálták a módját, hogy ezeket a szűrőket kijátszhassák. Ez a tény teszi a ChatGPT-t különösen sebezhetővé a kártékony szkriptek készítésére szándékozók számára.
A BlackMamba projekt
Jeff Sims, a HYAS InfoSec biztonsági mérnöke – egy olyan cég része, amely az IT-biztonságra specializálódott – márciusban mutatott be egy BlackMamba névre hallgató, bizonyítékokon alapuló projektet. Ez az eszköz egy polimorfikus keylogger, mely minden egyes használata során API hívásokat küld a ChatGPT felé.
Az újfajta technikák veszélyei
„Ezek az újfajta technikák lehetővé teszik a támadóknak, hogy számos könnyen felismerhető viselkedési mintát újszerű módon kombináljanak, és képesek elkerülni a detektálást a modell által nem ismert mintaként azonosítva” – magyarázta Sims.
CyberArk: A nemkívánatos szoftverek új generációja
A CyberArk, egy kiberbiztonsági cég, nemrég kiemelte a ChatGPT képességét, hogy polimorfikus nemkívánatos szoftvereket hozzon létre, Eran Shimony és Omer Tsarfati blogbejegyzésében. A bejegyzés bemutatja, hogy a ChatGPT által generált kódinjekció hogyan képes megváltoztatni a szkripteket azok aktiválása után, elkerülve a legfrissebb detekciós technikákat, amelyek a nemkívánatos viselkedés felismerésére szolgálnak.
A jövő: Kihívások és remények
Jelenleg csupán ezeket az eseteket tudjuk felhozni bizonyítékként – de reménykedünk abban, hogy ez a felismerés további fejlesztésekhez vezet, amelyek képesek megelőzni azokat a károkat, amit ez az evolúciós kód típus okozhat a valós környezetben.