Der er tre niveauer: kun indsigt, forslag med godkendelse, og fuld automatik. Valget skal træffes per opgave og afgøres af to ting, nemlig hvad en fejl koster og hvor stabile reglerne er. Det er ikke et valg der skal træffes én gang for hele virksomheden.
En direktør fik sat et system op der overvågede konkurrenter, skrev rapporter og sendte konklusionerne videre til bestyrelsen uden at nogen læste dem først.
Det gik fint i tre måneder. Så kom der en anbefaling om prissætning som ingen kunne stå inde for, og han lukkede det hele ned. Tilbage til regneark.
Fejlen var ikke at bruge AI. Fejlen var at der aldrig blev truffet en beslutning om hvad systemet måtte selv. Den beslutning bliver truffet under alle omstændigheder. Bliver den ikke truffet bevidst, bliver den truffet af den der satte systemet op.
De tre niveauer
Kun indsigt
Modellen analyserer og fremlægger. Mennesker beslutter alt.
Den læser data, konkurrentrapporter og tendenser og siger hvad den fandt. Så tager I stilling.
Hvornår: når konsekvensen af en fejl er alvorlig og situationen kræver dømmekraft. Opkøb, frasalg, afskedigelser, større investeringer, retningsskift.
Et eksempel. En virksomhed skulle vurdere et opkøb og lod analysen se på økonomi, kultur, teknologi og medarbejdere. Konklusionen var at det finansielt så godt ud, men at kulturen var markant anderledes, og at et par nøglepersoner sandsynligvis ville forsvinde ved et ejerskifte.
Ledelsen brugte det til at forhandle prisen ned og til at bygge fastholdelse ind i aftalen. Analysen leverede grundlaget. Beslutningen om hvad man kunne leve med var deres.
Havde systemet handlet selv, ville den slags nuance aldrig være kommet på bordet.
Forslag med godkendelse
Modellen gør arbejdet, et menneske godkender resultatet.
Hvornår: når opgaven er halvt rutinepræget men stadig vigtig. Konkurrentovervågning, kvartalsopfølgning, risikovurdering, tendensanalyse.
Et eksempel. En virksomhed fik hver fredag et overblik over hvad konkurrenterne havde gjort i ugens løb: nye produkter, prisændringer, stillingsopslag der afslørede hvor de satsede. Marketingchefen brugte tyve minutter på at læse det igennem og sende det videre.
Værdien var ikke tiden der blev sparet. Det var at bestyrelsen aldrig blev overrasket.
Havde det kørt på første niveau, skulle nogen have lavet analysen fra bunden hver fredag, og så var den ikke blevet lavet. Havde det kørt på tredje, ville ingen have opdaget hvis kvaliteten skred.
Fuld automatik
Modellen handler inden for regler I har defineret og rapporterer bagefter.
Hvornår: kun når opgaven er stærkt rutinepræget, konsekvensen af en fejl er lille, og reglerne er stabile.
Et eksempel. Daglig indsamling: nye stillingsopslag hos konkurrenter, prisændringer, offentlige registreringer. Ingen taler om det, det kører bare, og hver måned ligger der et datasæt nogen kan bruge.
Manuelt ville det være mange timer om måneden, og halvdelen af gangene ville det blive glemt. Det er præcis den slags opgave hvor automatik giver mening, fordi den kedsomhed der får mennesker til at springe over ikke findes.
Sådan vælger du
To spørgsmål afgør det. Hvad koster en fejl, og hvor stabile er reglerne?
| Opgave | Konsekvens af fejl | Reglernes stabilitet | Niveau |
|---|---|---|---|
| Opkøb og frasalg | Kritisk | Lav | Kun indsigt |
| Retningsvalg | Kritisk | Lav | Kun indsigt |
| Kvartalsopfølgning | Høj | Middel | Indsigt til forslag |
| Risikovurdering | Høj | Middel | Indsigt til forslag |
| Konkurrentovervågning | Middel | Høj | Forslag til automatik |
| Tendensanalyse | Middel | Høj | Forslag til automatik |
| Dataindsamling | Lav | Høj | Fuld automatik |
| Notifikationer | Lav | Høj | Fuld automatik |
Tommelfingerreglen: høj konsekvens og krav om dømmekraft giver første niveau. Middel konsekvens eller rutine giver andet. Lav konsekvens og stabile regler giver tredje.
Bemærk at det ikke handler om hvor dygtig modellen er. En bedre model flytter ikke en opkøbsbeslutning ned på tredje niveau, fordi det ikke er præcisionen der er problemet. Det er at spørgsmålet ikke er analytisk.
Sæt en grænse, uanset niveau
Uafhængigt af niveau bør der være en øvre grænse for hvor meget et system må gøre mellem to menneskelige blik.
Det kan være et beløb, et antal kørsler eller et antal handlinger per måned. Princippet er det samme som når en marketingchef får et budget: detaljerne styrer hun selv, men rammen er aftalt på forhånd.
Rammer systemet grænsen, venter det på en godkendelse. Det er ikke mistillid. Det er den mekanisme der gør at et system der begynder at opføre sig anderledes end forventet bliver opdaget inden for en måned frem for efter et år.
Fremgangsmåden
- List de strategiske opgaver. Analyser, rapporter, beslutninger, handlinger. Typisk tyve til tredive.
- Vurder konsekvensen af en fejl for hver: kritisk, høj, middel eller lav.
- Tildel niveau efter tabellen ovenfor.
- Sæt en grænse per opgave. Er I i tvivl, start stramt. Det er let at løsne senere og svært at stramme efter en dårlig oplevelse.
- Se tilbage hver måned og stil ét spørgsmål: gjorde systemet noget vi ikke ville have godkendt? Er svaret ja, skal opgaven et niveau ned.
Punkt fem er det der mangler i næsten alle opsætninger. Uden det ved I ikke om tilliden er berettiget, I ved kun at der ikke er sket noget synligt.
Tilbage til direktøren
Han skulle have delt opgaverne op inden han startede. Dataindsamling på fuld automatik. Konkurrentovervågning med godkendelse. Prisanbefalinger på kun indsigt, fordi en forkert pris rammer kunder og indtjening samtidig.
Så ville han have haft kontrol hvor det betød noget, og systemet ville have haft frihed hvor det ikke gjorde. I stedet lukkede han det hele, og det var en dyrere beslutning end den oprindelige fejl.
Hvad bestyrelsen konkret bør kræve af den slags opsætning, står i tre ting din bestyrelse bør kræve, og hvad en agent i det hele taget kan og ikke kan, står i hvad AI-agenter faktisk kan.
Derfor er nogle grænser ikke til at slå fra hos os
Et sikkerhedsniveau der kan konfigureres væk bliver konfigureret væk, typisk af den der har travlt.
I 360° Sprint er felter der er klassificeret RESTRICTED derfor bundet til nodetypen og sendes aldrig til nogen AI-udbyder. Det er ikke en indstilling. Godkendelse af en gate er tilsvarende bundet til en rolle på organisationen frem for til den enkelte bruger, så det ligger fast hvem der kan sige ja.
Autonomi handler ikke om at holde AI tilbage. Det handler om at beslutte hvor mennesket skal stå, mens det stadig er en beslutning frem for en opdagelse.
Hvor autonomi passer ind i det samlede billede, står i AI til virksomhedsstrategi.