Riziká a kybernetická bezpečnosť

AI nie je len nástroj, ktorý používate. Je to aj nová plocha, cez ktorú vás môže niekto napadnúť.

Kybernetické riziká

Únik informácií. Údaje vložené do AI môžu byť ukladané, spracúvané alebo používané spôsobom, nad ktorým nemáte kontrolu.

Prompt injection. Dokumenty, e-maily alebo webové stránky môžu obsahovať škodlivé pokyny, ktoré AI vyhodnotí ako príkazy a začne sa nimi riadiť.

Škodlivé odkazy. AI môže vytvoriť alebo prevziať odkaz smerujúci na podvodnú webovú stránku.

Škodlivé prílohy. Súbory získané prostredníctvom nástrojov AI môžu obsahovať škodlivý obsah.

Zraniteľnosti v kóde vytvorenom pomocou AI. Aj funkčný kód môže obsahovať bezpečnostné nedostatky.

Kompromitované rozšírenia. Zneužité doplnky tretích strán môžu umožniť neoprávnený prístup k vašim údajom a účtom.

K výstupom AI pristupujte s rovnakou opatrnosťou ako k obsahu z neznámych internetových zdrojov. Pred otvorením odkazu overte jeho dôveryhodnosť. Pred spustením kódu skontrolujte jeho obsah.

Kontrola AI výstupov

AI môže formulovať odpovede presvedčivo aj vtedy, keď sú nesprávne. Presvedčivosť odpovede preto nie je dôkazom jej správnosti.

Výstupy môžu obsahovať nepresné informácie, vymyslené fakty, neexistujúce zdroje, nesprávne interpretácie, chybné výpočty alebo nebezpečný zdrojový kód.

Pred použitím výstupu ste povinní overiť jeho správnosť a súlad so zadaním. Skontrolujte dôležité fakty a citované zdroje, prepočítajte výpočty a posúďte bezpečnosť zdrojového kódu.

Overenie zdroja vyžaduje jeho otvorenie a kontrolu obsahu. Samotný zoznam odkazov na konci odpovede nepotvrdzuje jej správnosť. AI môže uviesť názov článku aj webovú adresu, ktoré neexistujú.

Pri dôležitých rozhodnutiach overujte informácie aj v nezávislých dôveryhodných zdrojoch. Za konečný výstup zodpovedá používateľ, nie AI.