Human-in-the-loop (HITL)

Human-in-the-loop (HITL) sa v poslednom čase skloňuje ako ďalšia skratka z oblasti AI — no zúžiť ju len na pojem v slovníku by bola škoda. V praxi ide o konkrétny prístup k tomu, ako z AI vyťažiť to, čo skutočne prináša, a zároveň nestratiť kontrolu nad tým, čo firma na základe jej výstupov urobí. Tento článok vysvetľuje, čo HITL znamená, prečo naň nestačí len „niekto sa na to pozrel", a ako dohľad zaviesť tak, aby bol reálny, nie len formálny. (Ak vás sem priviedlo hľadanie podobne znejúceho pojmu, bezpečnostnú hrozbu Man-in-the-Middle rozoberáme v samostatnom článku.)

Čo Human-in-the-loop skutočne znamená

V praxi sa rozlišujú tri úrovne zapojenia človeka do rozhodovania s AI, ktoré sa líšia mierou priamej kontroly nad jednotlivými výstupmi:

• Human-in-the-loop (HITL) — človek je priamo v cykle rozhodovania a každý (alebo takmer každý) jednotlivý výstup AI musí pred použitím schváliť konkrétna osoba. Najprísnejší, ale aj najpomalší model — vhodný tam, kde jednotlivé rozhodnutie môže mať citeľný dopad (napr. návrh zmluvy, hodnotenie žiadosti, bezpečnostné odporúčanie).
• Human-on-the-loop (HOTL) — AI pracuje priebežne a samostatne, človek dohliada na jej celkové fungovanie a má možnosť zasiahnuť alebo výstup zvrátiť, no neschvaľuje každý prípad zvlášť. Typické pri vysokom objeme (napr. automatické triedenie bezpečnostných udalostí, kde analytik rieši len to, čo systém označí).
• Human-in-command — dohľad sa presúva na strategickú úroveň: človek vopred nastaví hranice, riziká a pravidlá fungovania AI a výsledky audituje spätne, nie priebežne.

Voľba medzi týmito modelmi by mala byť vedomé rozhodnutie firmy podľa toho, aké riziko nesie konkrétne použitie AI — nie automatický predvolený stav. Pri citlivejších rozhodnutiach (personálne, právne, bezpečnostné, zákaznícke záväzky) dáva zmysel HITL v užšom zmysle slova; pri rutinnej, vysokoobjemovej práci s nízkym rizikom môže stačiť HOTL.

Prečo je ľudský dohľad nevyhnutný — nie len teoreticky

Bez overeného dohľadu sa firma vystavuje takzvanému automation bias — prirodzenej tendencii ľudí nadmerne dôverovať výstupu automatizovaného systému a prestať ho kriticky posudzovať. Tento jav nie je hypotetický, dokumentujú ho aj konkrétne, verejne známe prípady:

• Vymyslená judikatúra v súdnom podaní — v prípade Mata v. Avianca použili advokáti AI na prípravu právneho podania; nástroj si vymyslel viacero neexistujúcich súdnych rozhodnutí vrátane citácií. Súd napokon podanie zamietol a advokátom uložil pokutu za konanie v zlej viere — presne preto, že výstup AI si nikto neoveril oproti reálnym zdrojom.
• Chatbot, ktorý firmu právne zaviazal — vo veci Moffatt v. Air Canada chatbot na webe aerolínie zákazníkovi nesprávne potvrdil nárok na zľavu. Aerolínia sa bránila tým, že chatbot je „samostatný subjekt", tribunál to odmietol a rozhodol, že firma zodpovedá za informácie na svojej stránke bez ohľadu na to, či ich napísal človek alebo AI.
• Verejne dostupný chatbot bez kontroly pred publikovaním — mestský chatbot pre malé firmy v New Yorku bez dostatočnej kontroly výstupov radil používateľom veci v priamom rozpore so zákonom (napr. že je legálne prepustiť zamestnanca za sťažnosť na obťažovanie). Napriek verejne zdokumentovaným chybám zostal nástroj dlho aktívny.

Čo o dohľade nad AI hovorí legislatíva EÚ

Nariadenie EÚ o umelej inteligencii (AI Act) rieši ľudský dohľad priamo — článok 14 ukladá, že vysokorizikové AI systémy musia byť navrhnuté tak, aby ich mohli efektívne dohliadať fyzické osoby, a že firma nasadzujúca takýto systém musí zabezpečiť, aby poverená osoba vedela:

• správne pochopiť možnosti a limity systému a priebežne sledovať jeho fungovanie,
• uvedomovať si riziko nadmerného spoliehania sa na výstup (automation bias), najmä pri dôležitejších rozhodnutiach,
• správne interpretovať výstup systému,
• v konkrétnej situácii rozhodnúť výstup nepoužiť, ignorovať, prepísať alebo zvrátiť,
• do fungovania systému zasiahnuť alebo ho zastaviť.

Pri systémoch na diaľkovú biometrickú identifikáciu ide nariadenie ešte ďalej — rozhodnutie nesmie stáť len na výstupe AI, vyžaduje sa samostatné overenie minimálne dvoma kompetentnými osobami.

Zmysluplný dohľad vs. formálne odklikávanie

Existencia kroku „schválil človek" v procese ešte neznamená, že dohľad reálne funguje. Ak recenzent nemá k dispozícii dôvod, prečo AI dospela k danému výstupu, ani skutočnú právomoc výstup zamietnuť, ide o odklikávanie, nie o dohľad. Štyri princípy, ktoré tento rozdiel robia:

Ako HITL zaviesť vo firme

V praxi sa osvedčuje jasné rozdelenie rolí a zodpovedností okolo každého významnejšieho použitia AI:

• Menovaný vlastník dohľadu — konkrétna osoba zodpovedná za dohľad nad daným použitím AI, odlišná od bežných používateľov nástroja.
• Jasná cesta eskalácie — definovaný postup, čo sa deje, keď výstup vyzerá podozrivo alebo si recenzent nie je istý.
• Zdokumentovaná právomoc zastaviť alebo zvrátiť — kto a akým spôsobom môže použitie AI v danej situácii pozastaviť, vrátane jednoduchého „stop" mechanizmu.
• Kanál pre spätnú väzbu — možnosť pre zamestnancov aj zákazníkov upozorniť na chybný výstup, na ktorý dohľad nezareagoval.
• Pravidelný audit dohľadu — overenie, či recenzenti chyby skutočne zachytávajú, nie len či proces schválenia formálne prebieha.

Rovnako dôležitá ako proces je kompetencia človeka, ktorý v ňom stojí — bez adekvátnych znalostí danej oblasti aj obmedzení konkrétneho AI nástroja sa dohľad mení len na podpis pod niečím, čomu recenzent v skutočnosti nerozumie.

Časté chyby a odporúčania

• Výstup AI sa berie ako hotový fakt bez overenia — najmä pri úlohách, kde sa chyba prejaví až neskôr (právne texty, technické odporúčania, komunikácia so zákazníkom).
• Rýchlosť je nadradená overeniu — tlak na výsledok vedie k preskakovaniu kontrolného kroku práve vtedy, keď je najviac potrebný.
• Dohľad dostane niekto bez potrebnej kompetencie — len preto, aby formálne existoval v procese, nie preto, že danej oblasti a nástroju skutočne rozumie.
• Chýba zdokumentovaný postup na zastavenie alebo zvrátenie — vo chvíli, keď je to potrebné, sa improvizuje namiesto toho, aby postup existoval vopred.
• AI sa nasadí do zákazníckej alebo verejnej komunikácie bez kontrolného bodu pred publikovaním — presne scenár, ktorý spôsobil škodu vo viacerých zdokumentovaných prípadoch vyššie.
• Čakanie na záväzný termín namiesto zavedenia dobrej praxe už teraz — dohľad zavedený narýchlo pod tlakom termínu je spravidla formálny, nie funkčný.