AI agenti s ERP a CRM: tri bezpečné vzory

Prečo je integrácia najťažšia časť

Model, ktorý navrhne dobrú odpoveď alebo roztriedi faktúru, je ľahšia polovica. Ťažšia je otázka, kam výsledok putuje. Vaše ERP a CRM obsahujú záznamy, na ktorých firma beží, a agent, ktorý do nich môže zapisovať, ich vie rýchlo a vo veľkom aj poškodiť. Reflexná odpoveď je nahradiť starý systém niečím postaveným pre AI. To je pomalé, drahé a málokedy potrebné. Lepšia otázka znie, koľko najmenej prístupu agent potrebuje, aby bol užitočný, a ako ho bezpečne rozširovať. Tri vzory nižšie na ňu odpovedajú v poradí rastúceho prístupu. Sú to inžinierske postupy z našej vlastnej dodávateľskej praxe. Nie sú normou a netvrdíme tu nič o tom, čo dokáže alebo nedokáže konkrétny produkt ERP či CRM: to si overte vo svojom systéme a jeho dokumentácii.

Tri vzory na prvý pohľad

Tabuľka ich porovnáva podľa toho, čo agent potrebuje, ako zlyháva a ako sa zmena vráti. Každý vzor stavia na predchádzajúcom a pracovný postup môže zostať pri prvom alebo druhom, ako dlho potrebuje.

Vzor 1: zrkadlo len na čítanie

Agent sa živého systému nikdy nedotkne. Plánovaný export alebo účet len na čítanie skopíruje potrebné záznamy do samostatného úložiska a agent číta iba odtiaľ. Je to najmenej rizikový spôsob, ako začať. Agent vie zhrnúť otvorené objednávky, nájsť duplicitné kontakty, odpovedať na otázky o zákazníkovi alebo pripraviť prehľad a najhorším výsledkom je chybná odpoveď, ktorú si prečíta človek. Dve veci si zaslúžia pozornosť. Po prvé, kopírujte iba polia, ktoré úloha potrebuje, aby sa osobné údaje nezdvojovali bez dôvodu. Po druhé, pri každej odpovedi zobrazte vek údajov, pretože zrkadlo vždy mierne zaostáva.

Vzor 2: fronta návrhov

Tu môže agent zmenu navrhnúť, ale nie vykonať. Každý návrh zapíše do fronty spolu so záznamom, ktorého sa týka, požadovanou zmenou, dôvodmi a údajmi, o ktoré sa oprel. Človek návrh posúdi a vykoná ho, alebo ho zamietne s dôvodom. Získate tak agenta, ktorý odvedie prípravnú prácu, kým konečné rozhodnutie zostáva na človeku. Vzniká aj najužitočnejší dôkaz, aký budete mať: každé schválenie a zamietnutie ukazuje, ako často sa agent mýli. Typickým zlyhaním je schvaľovanie naslepo, keď recenzenti len preklikávajú. Pomôže zobraziť zdôvodnenie vedľa navrhovanej zmeny, vzorkovať schválené položky a sledovať mieru zamietnutí v čase. Náš článok o vzoroch ľudského schvaľovania opisuje variácie.

Vzor 3: obmedzený zápis späť

Niektoré návrhy sú také rutinné a vratné, že schvaľovanie každého človekom pridáva málo. Tam môžete agentovi dovoliť zapisovať priamo, ale iba v hraniciach, ktoré určíte. Dajte mu vlastný servisný účet, nikdy prihlásenie človeka. Obmedzte ho na pomenované typy záznamov, polia a akcie a určite strop počtu zápisov za hodinu. Každú zmenu zapíšte do záznamu s hodnotami pred a po a odkazom na návrh alebo spúšťač. Majte vypínač, ktorý zastaví zápisovú cestu bez zásahu do zvyšku systému. Zlyhanie, na ktoré treba navrhovať, je platný, ale chybný zápis opakovaný vo veľa záznamoch. Strop a záznam existujú preto, aby bolo toto zlyhanie malé a dohľadateľné.

Čo od vás vyžaduje právo

Dve ustanovenia sa tejto práce priamo týkajú a ani jedno nie je špecifické pre ERP či CRM. Podľa AI Act Service Desk Európskej komisie článok 26 aktu o AI ukladá povinnosti nasadzujúcim vysokorizikových systémov AI vrátane poverenia kompetentných ľudí ľudským dohľadom, monitorovania prevádzky, pozastavenia používania pri vzniku rizika a uchovávania automaticky generovaných záznamov aspoň šesť mesiacov. Týka sa len vysokorizikových systémov, preto si s poradcom overte, či váš prípad medzi ne patrí. Článok 32 GDPR vyžaduje od prevádzkovateľov a sprostredkovateľov primerané technické a organizačné opatrenia podľa rizika a jeho text uvádza opatrenia ako pseudonymizáciu, šifrovanie, schopnosť obnoviť dostupnosť a pravidelné testovanie. Úzky prístup, oddelené účty a záznamy akcií sú spôsoby, ako takú povinnosť napĺňať. Samy osebe súlad nedokazujú. Ide o všeobecné informácie od inžinierskeho tímu, nie o právne poradenstvo.

Usporiadaný zoznam pred spustením

Prechádzajte ich v poradí a ďalší krok nezačínajte, kým nie je hotový predchádzajúci. Každý je pred spustením lacný a po ňom drahý.

1. Pomenujte jeden pracovný postup, záznamy, ktorých sa dotýka, a osobu, ktorá za výsledok zodpovedá.
2. Vypíšte presné polia, ktoré agent potrebuje, a všetko ostatné zo zrkadla vynechajte.
3. Vytvorte vyhradený účet alebo export len na čítanie a testom potvrďte, že zapisovať nevie.
4. Nechajte agenta v skúšobnom období pracovať iba so zrkadlom a ľudia nech porovnávajú jeho odpovede so skutočnými záznamami.
5. Pridajte frontu návrhov so zdôvodnením vedľa každej navrhovanej zmeny a povinným dôvodom pri každom zamietnutí.
6. Pre každý používaný vzor zapíšte, ako sa zmena vráti, a raz si to vyskúšajte na testovacích údajoch.
7. Len ak sa návrhy bežne schvaľujú bez úprav, vytvorte obmedzený zápisový účet so stropom na hodinu, úplným záznamom akcií a vypínačom.
8. Dohodnite, kto záznamy číta, ako často a čo spúšťa zastavenie, a určite dátum preskúmania prístupu.

Čo tento článok nepokrýva

Neopisuje rozhranie, limity ani model oprávnení žiadneho konkrétneho ERP či CRM, pretože sa medzi produktmi líšia a menia sa medzi verziami. Zdrojom je dokumentácia dodávateľa a overiť to možno krátkym technickým testom v testovacom prostredí. Netvrdí výsledky z žiadneho klientskeho projektu a neuvádza odhad nákladov ani úspor. Nevie tiež povedať, či je váš prípad podľa aktu o AI vysokorizikový alebo či vyžaduje posúdenie vplyvu na ochranu údajov. To sú právne posúdenia pre vášho zodpovedného pracovníka alebo právnika. Ponúka spôsob, ako udržať prístup agenta malý, viditeľný a vratný, kým zistíte, či si zaslúži viac.