Esettanulmány: belső adatvesztés mesterséges intelligencia használata miatt
Forbes (2023.05.02.)
Mi történt
A Samsung félvezetőgyártó részlegének mérnökei a ChatGPT-t használták munkafolyamatok gyorsítására: hibás forráskódot másoltak be hibakeresésre, gyártási teszteljárás-adatokat optimalizálásra, valamint egy belső megbeszélésről készült hangfelvételt írattak át és foglaltattak össze a chatbottal.
A kár
A ChatGPT-be bemásolt bizalmas forráskód, teszteljárás-adatok és belső megbeszélési jegyzetek a szolgáltató szerverein kívül kerültek a vállalat ellenőrzése alól, és elvileg a modell további tanításához is felhasználhatóvá váltak — vagyis a szellemi tulajdon feletti kontroll gyakorlatilag visszavonhatatlanul elveszett.
A hiányosságok
Nem volt szabályzat vagy technikai korlátozás, amely megtiltotta vagy megakadályozta volna bizalmas forráskód és belső adatok külső, felhőalapú MI-eszközökbe való bemásolását. A munkatársak jóhiszeműen, hatékonyságnövelés céljából jártak el, a kockázatot azonban sem ők, sem a szervezet nem mérte fel előre.
A tanulság
Az incidenseket követően a Samsung ideiglenesen betiltotta a nyilvános generatív MI-eszközök (ChatGPT és hasonlók) használatát a vállalati eszközökön és hálózaton, és saját, belső MI-eszköz fejlesztésébe kezdett. A tanulság: egyértelmű MI-használati szabályzat és adatszűrés nélkül minden beillesztett szöveg potenciális adatszivárgás.
Kulcsszámok
- 3 eset – önálló adatkiszivárgás történt mindössze 20 nap alatt, egymástól függetlenül
- 20 nap – alatt történt mindhárom incidens, mielőtt a vállalat lépett
Tanulság egy mondatban: Amit egy munkatárs bemásol egy nyilvános MI-eszközbe, az a szervezet ellenőrzése alól kikerül — MI-használati szabályzat és technikai korlátok nélkül minden ilyen eszköz potenciális adatszivárgási csatorna.
Hivatalos források
