Umělou inteligenci (AI) nelze nakazit biologickým virem (jako je chřipka nebo koronavirus), protože se jedná o software, nikoli o živý organismus.

Pokud však slovo „nakazit“ myslíte v technologickém nebo metaforickém smyslu, existují způsoby, jakým lze systém AI napadnout, oklamat nebo poškodit:

1. Poškození dat (Data Poisoning)

Jedná se o útok na fázi učení. Útočník záměrně podstrčí AI podvržená nebo zkreslená trénovací data. AI se z těchto špatných dat poučí a začne v praxi vykazovat chyby, vygeneruje nesprávné výsledky nebo získá skryté předsudky. [1, 2, 3]

2. Adversariální útoky (Adversarial Attacks)

Při tomto postupu se AI systém oklamte speciálně upraveným vstupem.

  • Do obrázku se přidá pro člověka neviditelný šum, který ale způsobí, že AI v obrázku rozpozná úplně něco jiného (např. zamění stopku na silnici za značku hlavní silnice).
  • V textových modelech se používá takzvaný Jailbreaking – obcházení bezpečnostních pravidel pomocí záludně formulovaných příkazů (promptů), které AI přimějí udělat něco, co má zakázáno. [1]

3. Klasický počítačový virus a malware

Samotný matematický model (AI) virus nedostane, ale infrastruktura, na které běží (servery, databáze, cloud), může být napadena běžným malwarem. Hackeři mohou napadnout software, ve kterém je AI integrovaná, a získat tak přístup k datům nebo model vypnout.

4. Technologické halucinace

Někdy se AI „nakazí“ chybou sama od sebe. Tomuto jevu se říká halucinace. Nastává v situaci, kdy si model začne vymýšlet věrohodně znějící, ale zcela nepravdivé informace. [1]

☣️Lze nakazit AI?

Napsat komentář

Vaše e-mailová adresa nebude zveřejněna. Vyžadované informace jsou označeny *