Amikor az AI a megtévesztést is hatékonyabbá teszi
A mesterséges intelligencia rengeteg folyamatot képes gyorsabbá és hatékonyabbá tenni. Ugyanez azonban a rosszindulatú felhasználásra is igaz.
A TOP 7 AI-fenyegetés sorozatunk 4. pontja a mesterséges intelligenciával támogatott social engineeringgel, a félrevezető információkkal és a rosszindulatú tartalmak létrehozásával foglalkozik.
Egyre hitelesebb adathalász támadások
A social engineering egyik legfontosabb eleme mindig is a megtévesztés volt. A támadó célja, hogy olyan üzenetet vagy helyzetet teremtsen, amelyet a címzett megbízhatónak gondol, és emiatt olyan lépést tesz, amelyet egyébként nem tenne meg.
A mesterséges intelligencia ezt a folyamatot jelentősen megkönnyítheti.
AI-alapú eszközökkel gyorsan készíthetők természetesnek és hitelesnek tűnő adathalász vagy személyazonosság-lopásra épülő kampányok. A támadók olyan üzeneteket hozhatnak létre, amelyek egy ismert és megbízható forrás kommunikációját utánozzák, így a csalás felismerése is nehezebbé válhat.
A probléma tehát nem feltétlenül egy teljesen új támadási módszer. Sokkal inkább az, hogy az AI a már jól ismert social engineering technikákat gyorsabbá, könnyebben skálázhatóvá és meggyőzőbbé teheti.
Nem csak az adathalászatról van szó
A mesterséges intelligenciával kapcsolatos kockázat ennél szélesebb.
AI-rendszerekkel nagy mennyiségben állíthatók elő félrevezető vagy káros tartalmak is. Ide tartozhatnak hamis hírek, csalárd információk vagy akár rosszindulatú tartalmak, amelyek célja a felhasználók megtévesztése vagy egy szervezet jó hírnevének károsítása.
A mennyiség ebben az esetben különösen fontos tényező.
Ha egy támadó rövid idő alatt jelentős mennyiségű, megfelelően megfogalmazott tartalmat képes létrehozni, azzal egy megtévesztő kampány mérete és potenciális hatása is jelentősen növekedhet.
A bizalom válik célponttá
Az AI által generált adathalász üzenetek és a nagy léptékű dezinformációs kampányok közös pontja, hogy végső soron a bizalmat támadják.
Egy jól felépített megtévesztő üzenet azért működhet, mert ismerősnek és hitelesnek tűnik. Egy félrevezető információ pedig azért tud kárt okozni, mert a felhasználó valósnak fogadja el.
Ez különösen komoly problémává válhat akkor, ha a káros vagy félrevezető tartalom egy vállalat saját AI-platformjához köthető. Ilyenkor már nemcsak közvetlen biztonsági kockázatról beszélünk: a szervezet iránti bizalom és annak jó hírneve is sérülhet.
Az AI új szintre emelheti a régi módszereket
A social engineering nem a mesterséges intelligenciával jelent meg. Az adathalászat, a személyazonosság-lopás és a különböző megtévesztési technikák régóta jelen vannak a kibertérben.
Az AI azonban új lehetőséget ad ezek felerősítésére.
A támadók gyorsabban hozhatnak létre meggyőző tartalmakat, nagyobb mennyiségben indíthatnak kampányokat, és egyre hitelesebben utánozhatnak olyan forrásokat, amelyekben a felhasználók alapvetően megbíznak.
Ezért az AI-val kapcsolatos kiberbiztonsági kockázatok vizsgálatakor nemcsak arra érdemes figyelni, hogy maga a technológia milyen új támadási lehetőségeket hoz létre. Arra is, hogyan teszi hatékonyabbá azokat a módszereket, amelyekkel a támadók már eddig is sikeresen éltek.
A mesterséges intelligencia nemcsak a munkát gyorsíthatja fel – rossz kezekben a megtévesztést is.