Forklarbar kunstig intelligens gir tillit

Stadig flere regnskapsførere og teknologer tar til orde for at kunstig intelligens vil dominere bokføringen i den nære fremtiden. Men tør vi stole på maskinens beslutninger?

Svaret er ja, men ikke uten visse klare forutsetninger. Forutsetningene er ikke nødvendigvis særskilte for regnskapsbransjen, men kanskje krever vår rolle mer presisjon enn andre bransjer siden vi jobber med skatt og avgift. Forklarbar kunstig intelligens kan gi tillit til beslutningene maskinene gjør.

Automatisering av posteringer i regnskapssystemer er ikke noe nytt. I mange år har regnskapssystemer hatt regler for hvordan transaksjoner skal bokføres. Kommer det for eksempel en elektronisk faktura fra et teleselskap, vil systemet foreslå en gitt hovedbokskonto, og relevant MVA-kode legges på transaksjonen. Eventuelle andre koder for innberetning registreres også. Reglene er entydige og dokumenterbare – også ved et bokettersyn eller ved en kvalitetskontroll.

Fra regelbasert bokføring til neurale nettverk

Utfordringen med denne teknologien er at regler løpende må vedlikeholdes, enten ved regelendringer eller når en ny leverandør dukker opp. Normalt må det også registreres en regel for hvert teleselskap som benyttes. Teknologien er altså ikke levedyktig over tid.

Noen systemleverandører og regnskapsførere reklamerer for tiden med at regnskapsrobotene allerede er på plass for å ta over for regelbasert bokføring. Hvor avanserte disse maskinene egentlig er vites ikke, men utviklingen er entydig mot større grad av automatisering gjennom bruk av kunstig intelligens.

Se for deg at vi tar bort manuelle prosesser og reglene, og lar maskinen selv lære hva som er rett kontering og avgiftsbehandling. Da slipper regnskapsfører å vedlikeholde regeldatabasen, og maskinen styrer showet. Tør vi som kvalitetsbevisste regnskapsfolk det uten videre?

De underliggende algoritmene til lærende maskiner er bygget på neurale nettverk. Det kan sammenlignes med hvordan hjernen vår er bygget opp og fungerer. Algoritmene er iboende komplekse. Prosessen innebærer blant annet iterasjoner mellom «lag» i det neurale nettverket for å komme frem til et endelig resultat. Ingen regler, kun matematiske uttrykk. Derfor er det ikke alltid lett å forstå hvilken sti i et neuralt nettverk som er tatt, og som har resultert i utfallet. For regnskapsbransjen kan dette bety at vi nødvendigvis ikke kan forklare sammenhengen mellom det som kom inn i systemet og det som kom ut, altså en «black box»-situasjon.

Er forklarbar kunstig intelligens løsningen?

Bokføringsregelverket er ikke spesifikk på området, krav om kontrollspor er ivaretatt også i disse løsningene. Vi ser heller ikke spesifikk regulering i skatte- og avgiftsregelverket. Bokførings-, skatte- og avgiftsregelverket krever at behandlingen og rapporteringen reflekterer den underliggende hendelsen/transaksjonen, men regulerer ikke hvordan den bokføringspliktige kommer frem til konteringen og kodebruken. Løsningene er altså tillat, men er de ønskelige?

ACCA (Association of Chartered Certified Accountants) påpeker i publikasjon, «Explainable AI – putting the user at the core» at black box ikke er en akseptabel situasjon for vi som jobber med regnskap og revisjon. Her kommer Explainable AI (XAI) inn. Teknologien XAI, på norsk oversatt til forklarbar kunstig intelligens, vil ikke kun levere resultatet av en lærende maskins behandling, men også en forklaring på hvordan den har kommet frem til beslutningen. Normalt vil dette skje ved at de viktigste parameterne som påvirket beslutningen rapporteres sammen med resultatet. Regnskapsfører kan da gjøre en profesjonell vurdering av disse to informasjonselementene, og verifisere utfallet som en del av kvalitetssikringen. Kvalitetssikringen inkluderer en vurdering av systemets vurderinger, ikke bare vurdering av resultatet.

Tillit til algoritmene

Spør deg selv: På hvilket tidspunkt vil du slippe løs en lærende maskin i din egen regnskapsvirksomhet, droppe tradisjonell kontroll og kvalitetssikring, og stole på teknologien? Jo, antageligvis når du vet at den lærende maskinen har en kvalitet som er minst like god som en erfaren regnskapsfører. Kanskje når maskinen har rett i minst 95 % av posteringene.

Er du likevel skeptisk? Da er du i godt selskap ifølge tallene fra ACCA. Mer enn 50 % av respondentene i deres undersøkelse mener at kunstig intelligens begrenser mulighetene regnskapsfører har til å utøve profesjonell skepsis, en egenskap som er fundamental i rollen som regnskapsfører. En forklarbar kunstig intelligens vil utvilsomt gi mer tillit til algoritmene, men det vil sannsynligvis ta noe tid før regnskapsfører er fortrolig med bokføringen. Nøkkelen til brukeradopsjon ligger således i mulighetene for en fornuftig etterprøving.

Hva med regelendringer?

Lærende maskiner læres normalt opp på historiske data. Med minst fem års transaksjonshistorikk i regnskapssystemet er det mye å lære fra, også på tvers av bokføringspliktige i skysystemer. Men er dataene den lærer av relevante? En utfordring med metoden er løpende regelendringer og endringer i praksis fra myndighetene. Hvordan kan vi lære maskinene at forvaltningspraksis er endret? I slike tilfeller er ikke historikken hjelpsom.

Læring skjer ved at systemet identifiserer de transaksjoner som maskinen mener har mindre enn for eksempel 95 % sannsynlighet for sikkert utfall. Regnskapsfører bekrefter eller korrigerer det foreslåtte utfallet av behandlingen. Algoritmene justeres basert på den nye informasjonen, og et nytt matematisk uttrykk gir ny og forbedret behandling videre. I dette tilfelle identifiserer systemet mulige problemtransaksjoner for ytterligere læring. Teknikken dekker imidlertid ikke avvik som kan oppstå ved endringer i forvaltningspraksis. Her må systemleverandører finne metoder for å innføre andre dataelementer enn historikk i læringsprosessen.

Maskiner gjør også feil

Lærende maskiner med neurale nettverk bør ikke medføre at kvalitetssikring bortfaller. Istenden må kvalitetssikringen foregå på en ny måte. Systemverifisering og avvikshåndtering blir viktige elementer i kvalitetssikringen av regnskapsproduksjonen. Fremdeles vil systemene gjøre feil – slik som en regnskapsfører også kan gjøre.

Hvordan vil dette påvirke forsikringsordningen? Vil profesjonsansvarsforsikringen dekke skader som oppstår ved at maskinen har ført systematiske feil over tid? Har hvilket kvalitetskontrollsystem som er implementert betydning for den utbetalte erstatningen? Regnskap Norge og forsikringsselskapene må gå i dialog for å definere automatisering og kontroll i en verden med lærende maskiner.

Staten vil gi deg mer innsikt

Kunstig intelligens vil møte oss i flere og flere sammenhenger i livet. Staten ønsker å gi oss borgere mer innsikt i teknologien, og tilbyr gratis opplæring via «Elements of AI». Dette er et godt tilbud til de som er interessert i å vite mer om teknologien og dets muligheter.