AI do firmy pod kontrolou: čo smie AI urobiť bez človeka

Kde sú dáta, je len polovica otázky

AI asistentka odpovie klientovi o 22:00 a sľúbi termín, ktorý nikto neschválil. Dáta pritom celý čas ležali v EÚ. Kontrola nad AI má totiž dve časti: kde beží model a kde sú dáta, a čo smie AI urobiť sama bez schválenia človekom. Ak chystáte prvú reálnu úlohu pre AI vo firme, napríklad odpovede zákazníkom, triedenie e-mailov alebo prípravu dokumentov, oplatí sa myslieť na obe.

Privátna AI, teda vlastný jazykový model bežiaci v EÚ, rieši, kde sú dáta, no hranice toho, čo AI smie urobiť, treba nastaviť zvlášť.

Pokyn pre model nie je zámok

Mnohé nasadenia umelej inteligencie stavajú hranice len do pokynov pre model: „nesľubuj termíny“, „nepíš o cenách“. Jazykový model sa nimi zvyčajne riadi, no nie je to záruka. Pokyn je odporúčanie, nie zámok.

Pevnú hranicu vytvorí až obyčajný kód mimo modelu. Ten skontroluje výstup skôr, než odíde, a ak porušuje pravidlo, zastaví ho alebo ho pošle človeku. Model ho nevie prehovoriť ani obísť, lebo kód nehodnotí argumenty, len overí podmienku. Pri AI pre firmy je to rozdiel medzi „dúfame, že to neurobí“ a „nemôže to urobiť“.

Ako to robíme na vlastných AI zamestnancoch

Gusso má vlastných AI zamestnancov, napríklad Lea a Niku. Leo píše články na firemný blog a príspevky na sociálne siete. Nika vybavuje telefonáty a e-maily, dohodne stretnutia a dôležité veci odovzdá tímu. Hranice oboch nie sú len napísané v pokynoch.

Prvý príklad z Leovej práce je kontrola v kóde: existuje zoznam výrazov, ktoré sa vo verejnom texte nesmú objaviť. Ak by ich model napísal, zachytí ich kontrola ešte pred zverejnením a model ju obísť nevie. Výnimku môže povoliť len výslovný pokyn, ktorý kontrolu vedome prebije. Model si ju sám udeliť nevie.

Druhý príklad je pravidlo procesu: témy o legislatíve, cenách či zmluvách vždy schvaľuje konkrétny človek. Tu hranicu nestráži kód, ale dohodnutý postup, v ktorom posledné slovo patrí človeku.

Na rovnakom princípe stojí aj AI asistentka pre firmy (https://gusso.sk/produkty/asistentka/): beží pod kontrolou zákazníka a dôležité veci odovzdá tímu.

Pred nasadením si spíšte dva zoznamy

Najprv si určte hranice, až potom vyberajte technológiu. Pre prvú AI úlohu vo firme stačia dva krátke zoznamy.

Prvý zoznam: čo smie AI poslať zákazníkovi sama. Napríklad potvrdenie prijatia e-mailu, otváracie hodiny, návrh termínu stretnutia alebo odpoveď na častú otázku, ktorú ste vopred schválili.

Druhý zoznam: čo musí najprv vidieť človek. Typicky všetko o cenách, zmluvách, reklamáciách, termínoch dodania či právnych otázkach. V účtovnej kancelárii aj čokoľvek s údajmi konkrétneho klienta, v stavebnej firme záväzný termín na stavbe. V distribúcii potvrdenie dostupnosti alebo zľavy pre konkrétneho odberateľa.

Ku každej položke druhého zoznamu pripíšte meno človeka, ktorý ju schvaľuje. Hranica bez konkrétneho človeka sa v praxi rýchlo rozmaže. Pri spisovaní často zistíte, že časť úlohy AI vôbec nepotrebuje. Veľa automatizácie firemných procesov je čistý kód a tam je kontrola ešte jednoduchšia.

Jedna otázka pre dodávateľa

So zoznamami v ruke položte dodávateľovi jednu otázku: ktoré z týchto pravidiel vynucuje kód mimo modelu a kde presne je ľudské schválenie?

Dobrá odpoveď je konkrétna. Dodávateľ ukáže, ktorá kontrola beží pred odoslaním, čo sa stane, keď výstup neprejde, a kto dostane upozornenie. Ak odpoveď znie len „model má v pokynoch, aby to nerobil“, viete, že hranica stojí iba na dôvere v model.

Požiadajte o ukážku: nech model dostane úlohu napísať zakázanú vec a nech Vám ukážu, kde ju kontrola zastaví a kto dostane upozornenie. Odpoveď dodávateľa si tak overíte a nemusíte jej len veriť.

Potom sa rozhodnite, či prvé nasadenie postavíte na privátnej AI a hranice k nemu nastavíte od začiatku. Oplatí sa začať úzko: jedna úloha, jasné zoznamy a hranice posúvať až vtedy, keď sa osvedčia. Riešenie by ste mali vlastniť a mať k nemu prístupy, aby ste neboli viazaný na jedného dodávateľa.