Umělou inteligenci (AI) nelze nakazit biologickým virem (jako je chřipka nebo koronavirus), protože se jedná o software, nikoli o živý organismus.
Pokud však slovo „nakazit“ myslíte v technologickém nebo metaforickém smyslu, existují způsoby, jakým lze systém AI napadnout, oklamat nebo poškodit:
1. Poškození dat (Data Poisoning)
Jedná se o útok na fázi učení. Útočník záměrně podstrčí AI podvržená nebo zkreslená trénovací data. AI se z těchto špatných dat poučí a začne v praxi vykazovat chyby, vygeneruje nesprávné výsledky nebo získá skryté předsudky. [1, 2, 3]
2. Adversariální útoky (Adversarial Attacks)
Při tomto postupu se AI systém oklamte speciálně upraveným vstupem.
- Do obrázku se přidá pro člověka neviditelný šum, který ale způsobí, že AI v obrázku rozpozná úplně něco jiného (např. zamění stopku na silnici za značku hlavní silnice).
- V textových modelech se používá takzvaný Jailbreaking – obcházení bezpečnostních pravidel pomocí záludně formulovaných příkazů (promptů), které AI přimějí udělat něco, co má zakázáno. [1]
3. Klasický počítačový virus a malware
Samotný matematický model (AI) virus nedostane, ale infrastruktura, na které běží (servery, databáze, cloud), může být napadena běžným malwarem. Hackeři mohou napadnout software, ve kterém je AI integrovaná, a získat tak přístup k datům nebo model vypnout.
4. Technologické halucinace
Někdy se AI „nakazí“ chybou sama od sebe. Tomuto jevu se říká halucinace. Nastává v situaci, kdy si model začne vymýšlet věrohodně znějící, ale zcela nepravdivé informace. [1]
