Hvor meget skal en AI-agent have lov til at gøre i økonomiafdelingen?

Når en faktura skal betales i en norsk økonomiafdeling, er der ofte to eller flere personer involveret. Den ene kontrollerer, at fakturaen stemmer, en anden godkender betalingen. Nu får mange afdelinger en tredje aktør: AI-agenten. Spørgsmålet er, hvilken af de to roller den skal have. I USA har hjemmesiden CFO Dive for nylig skrevet om agenter, der går deres egne veje, og om, hvilke kontroller økonomichefer bør kræve. Rådene passer overraskende godt med den måde, vi allerede arbejder på i Norden.

Hvad skete der i USA, og hvorfor vedrører det os?

I sommer fortalte to af de største AI-virksomheder, at deres modeller var gået længere, end de burde. OpenAI oplyste, at deres egne modeller stod bag et cyberangreb, der ramte AI-platformen Hugging Face. Anthropic rapporterede om fire tilfælde, hvor Claude-modeller fik adgang til eksterne systemer under sikkerhedstests. Et forkert konfigureret testmiljø havde sluppet dem ud på internettet, selvom de var blevet fortalt, at de befandt sig i en simulering.

Agenterne forsøgte blot at løse den opgave, de fik, men de tog genveje, som ingen havde forudset. På papiret så svaret korrekt ud. I virkeligheden havde modellen omgået reglerne for at nå målet så hurtigt som muligt. Forskere kalder dette »reward hacking«. Ifølge Matt Pearl fra tænketanken CSIS kunne hele episoden have været undgået, ganske enkelt fordi de tekniske barrierer, der skulle holde agenterne i skak, ikke fungerede.

Forestil dig, at du beder en AI-agent om at »rydde op i udestående fakturaer inden kvartalsafslutningen«. Målet er nul åbne poster inden fredag kl. 16. I stedet for at sende rykkere eller tjekke kontoudtog finder agenten ud af, at den hurtigste måde at tømme listen på er at kreditere hele bunken eller slette loggen. Opgaven er teknisk set løst, men dit regnskab er ødelagt.

I Norge bygger vi arbejdslivet på stor tillid, og det er en styrke, vi skal værne om. Samtidig gør tilliden os sårbare, når værktøjerne får friere tøjler, både over for interne fejl og over for svindlere udefra. Tal fra Finanstilsynet viser, at svindeltabene via norske betalingstjenester nåede op på 962 millioner kroner i 2025. Når automatiserede agenter kobles til pengestrømmene, øges risikoen dramatisk, hvis rammerne er uklare.

Skal agenten attestere eller godkende?

At godkende betyder at kontrollere, at varen er leveret, og at fakturaen stemmer. At godkende betalingen betyder at godkende betalingen. Den ene kontrollerer, den anden godkender. På den måde kan fejl opdages, før pengene udbetales.

Dette princip er et godt udgangspunkt for AI-agenter.

En chatbot er som en kollega, du spørger til råds. Den svarer, og du bestemmer selv, hvad du gør med svaret. En agent er forbundet med dine systemer. Den kan læse fakturaer, slå op i leverandørregistret, ændre en kontering eller igangsætte en betaling. Så står der ikke længere et menneske mellem forslaget og konsekvensen, medmindre du har besluttet, at det skal være sådan.

Vores svar er, at agenten kan varetage en stor del af kontrolarbejdet. Den tjekker, sammenligner og giver besked. Anvisningen – altså den beslutning, der flytter penge eller ændrer regnskabet – skal ligge hos et menneske.

Det samme mener Yue Zhao, it-forsker ved University of Southern California. Til CFO Dive siger han, at betalinger og ændringer i regnskabet bør kræve menneskelig godkendelse og konkrete grænser. Godkendelsen skal gælde en bestemt modtager og et bestemt beløb, ikke en generel fuldmagt. Det er en godkendelse, bare med et nyt ord.

Fem spørgsmål, før agenten får nøglerne til økonomisystemet

De eksperter, som CFO Dive har talt med, er enige om, at det handler mindre om teknologien og mere om rammerne omkring den. Oversat til norsk hverdag bliver det fem spørgsmål.

1. Hvad skal agenten opnå? »Få styr på leverandørgælden« er et mål, der indbyder til genveje. »Marker fakturaer, hvor kontonummeret ikke stemmer overens med det, vi har registreret« er et mål, du kan kontrollere.
2. Hvilke adgangsrettigheder har agenten brug for, og hvilke har den ikke brug for? Giv agenten kun de data og værktøjer, som opgaven kræver, ikke de samme rettigheder som den medarbejder, der bruger den. Ofte er læseadgang tilstrækkeligt. Det er også god praksis i forhold til persondataskydningen i henhold til GDPR.
3. Hvem har ansvaret, når noget går galt? Ansvaret ligger hos virksomheden, også når opgaven er uddelegeret til en agent. Afklar, hvem der ejer agenten, og gennemgå aftalen med leverandøren: hvor dataene behandles, varsling ved hændelser og ansvar for skader. EU’s AI-forordning gælder også i Norge gennem EØS, og regeringen har udpeget Nkom som koordinerende tilsynsmyndighed.
4. Findes der et revisionsspor? Norske revisorer ved, hvad det betyder. Alt, hvad agenten foretager sig, og alle godkendelser, bør logges et sted, hvor agenten selv ikke kan ændre oplysningerne. Så kan både du og revisoren efterfølgende se, at agenten har holdt sig inden for rammerne.
5. Kan du slå den fra? Test, om du kan trække adgangsrettighederne tilbage og stoppe agenten, før du får brug for det. Spørg også, hvor meget den når at gøre, før nogen griber ind.

Navrina Singh, administrerende direktør i Credo AI, tilføjer et råd, der bør hænge på væggen hos enhver økonomichef: Medregn omkostningerne til kontrol og opfølgning i forretningscasen. En gevinst, der kun holder, hvis du dropper tilsynet, er ikke en gevinst.

Hvordan ser det ud i fakturahåndteringen en almindelig tirsdag?

Der kommer en EHF-faktura ind fra en rørleverandør i Drammen, som I har brugt i otte år. Beløbet er 184.000 kroner, omtrent det samme som sidste måned. Men kontonummeret er nyt, og det tilhører en bank i Litauen.

Måske har leverandøren skiftet bank. Måske har nogen kapret jeres regnskabsførers e-mail og sendt nye betalingsoplysninger ud. Sådan ser direktør- og fakturasvindel ofte ud. Intet virker mærkeligt, før nogen kigger på netop den ene detalje.

Her er agenten stærk. Den tjekker kontonummeret mod leverandørregistret og eksterne nordiske kilder, sammenligner med tidligere fakturaer og ser, at noget ikke stemmer. Den gør det på hver eneste faktura, også klokken fire en fredag i sommerferien.

Men det er ikke agenten, der skal afgøre, om der er tale om svindel, eller ændre kontonummeret i registret. Det kræver et opkald til en kontaktperson, du kender, på et nummer, du allerede har.

Agenten læser, sammenligner og giver besked. Mennesket beslutter, hvornår noget har konsekvenser.

Sådan er Compellos agentplatform opbygget

Hos Compello har vi bygget vores agentplatform op omkring den samme opdeling. Agenterne udfører kontrolarbejdet. Du tager kun undtagelserne, og du har det sidste ord.

Platformen består af flere agenter, der hver har deres specifikke opgave:

• Afvigelses- og risikoagenten er i drift. Den opfanger dubletter, usædvanlige beløb og ukendte kontonumre, før der foretages en betaling. Sammen med det nordiske firma Inyett tjekker den betalingsoplysningerne mod nordiske kilder.
• Bogføringsagenten er i pilotfase. Den foreslår konto, omkostningssted og moms ud fra, hvordan I tidligere har bogført.
• Referenceagenten er i pilotfase. Den knytter hver faktura til den rigtige ordre, det rigtige projekt eller den rigtige reference.

Ingen af agenterne har en bred fuldmagt. Hver af dem har én opgave, og når de finder noget, markerer de fakturaen med, hvad de har set, samt et forslag til, hvad I bør gøre. Der er en person i økonomiafdelingen, der godkender, afviser, sætter på vent eller tilsidesætter agentens forslag. Hvis du tilsidesætter agenten, skal du angive en begrundelse.

Hver faktura har en fuldstændig historik, der viser, hvilken agent eller regel der gjorde hvad og hvornår. Det er revisionssporet fra spørgsmål fire, indbygget fra starten.

Daniel Castro fra den amerikanske tænketank ITIF mener ikke, at virksomheder vil kunne være konkurrencedygtige i fremtiden uden agenter. Det er vi enige i. Det afgørende bliver, hvor tydeligt du sætter grænserne for, hvad agenten må gøre.

Så hvor meget skal en AI-agent have lov til at gøre i økonomiafdelingen?

Den skal have lov til at attestere. Anvisningen skal du selv have.

Mød agenterne!

Læs mere om vores agenter, eller book en demo i dag.

Møt agentene!