Egy mesterséges intelligenciára épülő rendszer ritkán készül teljes egészében házon belül.
A fejlesztés során külső keretrendszereket, könyvtárakat, adatkészleteket, bővítményeket és más, harmadik féltől származó komponenseket használhatunk. Ezek jelentősen megkönnyítik és felgyorsítják a fejlesztést, ugyanakkor egy új típusú kockázatot is magukkal hoznak: az AI-ellátási lánc biztonsági kockázatát.
A probléma lényege egyszerű. Egy szervezet saját rendszere lehet megfelelően védett, de ha valamelyik külső komponens hibás, sérülékeny vagy rosszindulatúan módosított, a kockázat bekerülhet a teljes rendszerbe.
Miért jelent különleges kockázatot az AI-ellátási lánc?
A modern AI-rendszerek sok különböző összetevőből épülhetnek fel.
Egy szervezet használhat külső fejlesztői könyvtárakat, nyilvánosan elérhető adatkészleteket vagy különböző bővítményeket anélkül, hogy azok teljes működését és eredetét minden esetben maga ellenőrizné.
Ez függőséget teremt.
Ha egy széles körben használt komponensben biztonsági rés található, annak hatása nem feltétlenül egyetlen alkalmazásra korlátozódik. Ugyanazt az elemet számos fejlesztő és szervezet használhatja, így egyetlen hiba több rendszerben is megjelenhet.
Meghamisított adatkészletek
Az AI-rendszerek működésében az adatok alapvető szerepet játszanak.
Ha azonban egy nyilvánosan vagy külső forrásból származó adatkészletbe rosszindulatú vagy manipulált adatok kerülnek, az befolyásolhatja az arra épülő rendszer eredményeit.
Ez különösen problémás akkor, ha a szervezet úgy épít be egy adatkészletet a saját folyamatába, hogy annak eredete vagy tartalma nincs megfelelően ellenőrizve.
A külső adatforrás tehát ugyanúgy az ellátási lánc részének tekinthető, mint egy szoftverkomponens.
Sérülékeny keretrendszerek és könyvtárak
Az AI-fejlesztések során gyakran használnak széles körben elterjedt keretrendszereket és fejlesztői könyvtárakat.
Ezek népszerűsége azonban a támadók számára is vonzó célponttá teheti őket.
Ha egy ilyen komponensben sérülékenység vagy rosszindulatú módosítás jelenik meg, az nemcsak az eredeti fejlesztőt érintheti. Minden olyan alkalmazás vagy rendszer veszélybe kerülhet, amely az adott komponensre épül.
Ez az ellátásilánc-támadások egyik legfontosabb jellemzője: egy ponton történő kompromittálás sok más rendszerre is továbbterjedhet.
A bővítmények is növelhetik a támadási felületet
A különböző pluginek és bővítmények új funkciókkal egészíthetik ki az AI-rendszereket, azonban minden új integráció további függőséget is jelent.
Egy harmadik féltől származó bővítmény tartalmazhat sérülékenységet vagy akár rosszindulatú „hátsó ajtót” is.
Minél több külső komponens kapcsolódik egy rendszerhez, annál nagyobb lehet a támadási felület, és annál fontosabbá válik annak átlátása, hogy pontosan mit, honnan és milyen jogosultságokkal használ a szervezet.
A saját rendszer határain túl is kell látni
Az AI biztonságát ezért nem elegendő kizárólag a saját alkalmazás vagy infrastruktúra szintjén vizsgálni.
Figyelmet kell fordítani azokra a külső elemekre is, amelyekre a rendszer támaszkodik: az adatkészletekre, keretrendszerekre, könyvtárakra és bővítményekre.
A kockázatok csökkentésének egyik alapja, hogy a szervezet ismerje és nyomon kövesse ezeket a függőségeket, és ne kezelje automatikusan megbízhatónak a harmadik féltől érkező komponenseket.
Egyetlen gyenge láncszem is elég lehet
Az AI-ellátási lánc biztonsági problémája jól mutatja, hogy egy rendszer védelme nem feltétlenül ér véget a saját fejlesztésű komponenseknél.
A külső elemek felgyorsíthatják a fejlesztést és rengeteg előnyt nyújthatnak, ugyanakkor olyan kockázatokat is behozhatnak, amelyek felett a szervezetnek kisebb a közvetlen kontrollja.
Egy AI-rendszer csak annyira lehet biztonságos, amennyire azokra a komponensekre is figyelünk, amelyekre épül.
