Ako na bezpečnosť AI
AI. Skratka, ktorú dnes pozná každý. Niet pochýb, že je to technologický pokrok, ktorý bude s nami už navždy.
Je to veľká zmena, podobne ako v čase svojho vzniku CLOUD alebo iPhone. AI je svojou dostupnosťou pre každého k dispozícii ihneď a raketovým nástupom je rozšírená za pár mesiacov. Desiatky nových firiem denne ponúkajú a poskytujú služby svojich AI portálov.
Tímy umelej inteligencie (AI) vnímajú riziko inak ako tímy pre bezpečnosť.
Čo sme sa pýtali pri CLOUDe — a čo preskakujeme pri AI
Na tom, že takmer každý skúša všetko, nie je nič zlé — poznávanie je prirodzená ľudská vlastnosť. Až pokiaľ sa nezamyslíme nad tým, ako sme na začiatku pristupovali ku CLOUDu. Mali sme veľa otázok a nedôvery, čo pri AI preskakujeme. A aké otázky sme si kládli pri CLOUDe?
- Kto je poskytovateľom služieb — je dôveryhodný?
- Kde sú uložené moje zdieľané dáta — je to bezpečné?
Poznáme však odpovede na tieto otázky aj v prípade AI? Nie nutne — viac dôverujeme, ako preverujeme.
Tri skupiny poskytovateľov
Osobne rozdeľujem poskytovateľov z hľadiska bezpečnosti mnou zdieľaných dát do troch skupín.
- Neznámi poskytovatelia — väčšina využíva niektoré zo základných jazykových modelov, ale nepoznáme, čo je v nadstavbe nad týmto modelom, či to nie je sofistikovaný zber dát aj na iné účely. Odporúčanie: nezdieľam žiadne osobné ani firemné dáta, iba verejne prístupné dáta alebo dokumenty.
- Známi poskytovatelia — ktorých si viem overiť, aj na Slovensku existuje veľa firiem so svojimi riešeniami. Odporúčanie: používam podľa známych podmienok aj pre interné dáta.
- Renomovaní poskytovatelia — veľké nadnárodné korporácie, napríklad Microsoft, ktorý v súčasnosti poskytuje 17 rôznych Copilotov. Odporúčanie: používam ako všetky ostatné služby alebo aplikácie, ktorým dôverujem.
Dve drobné upozornenia
- Pozor na úvahu, že z hľadiska bezpečnosti stačí, ak anonymizujem dáta v dokumentoch, ktoré dávam spracovať AI. Nie nutne — v súboroch existujú ešte metadáta, ktoré priamo nevidíme a tiež to sú často citlivé dáta.
- Pozor, ak máte AI „na obrazovke" vo forme bočného panelu v prehliadači alebo v prehliadačoch PDF súborov. Vždy je to „otvorené okno" do neznámeho priestoru.
V každom prípade by AI mala byť zaradená medzi aktíva s definovanými hrozbami, rizikami a opatreniami. Samozrejme, v každej organizácii je dôležité mať interný predpis pre jej používanie.
K AI by sme mali pristupovať zodpovedne, napríklad na princípoch Zero Trust. Pre všetkých — jednotlivca aj firmu — je podstatné zaoberať sa bezpečnosťou súvisiacou s AI už dnes. (Zero Trust si nemýľte s podobne znejúcim pojmom Zero-Day — rozdielu medzi nimi sa venujeme v samostatnom článku.)