AI-organisering: Hvordan organisere seg for høy fart og lav risiko?

Når virksomheter skal ta AI i bruk i skala, må de ta stilling til hvor offensive de skal tørre å være. På den ene siden vokser virksomheter som investerer i AI raskere (Babina m.fl., Journal of Financial Economics, 2024). På den annen side kan (over-)ambisiøs AI-adopsjon føre til økt risiko og mangel på kontroll. Når stadig flere virksomheter innser at AI kan komme til å påvirke hvordan de bør organisere seg er derfor avveininger knyttet til fart og risiko viktige å ha et bevisst forhold til.

Organisering og styring for effektiv AI-adopsjon etableres gjennom en rekke valg. Disse omfatter alt fra endringer i kompetansesammensetning og -behov til styringsverktøy og insentivutforming. Denne artikkelen handler imidlertid ikke om noen av disse tingene, men om fire valg virksomheter bør ta stilling til når de skal avklare hvilket ansvar som bør plasseres hvor når AI-bruken øker.

Valgene har noen kjennetegn som gjør dem interessante: For det første påvirker alle valgene hvilke gevinster som kan oppnås og med hvilken risiko. For det andre tar alle virksomheter disse valgene, enten de vil eller ei. For det tredje, og kanskje viktigst: Det er ikke uvanlig at valgene tas uten tilstrekkelig bevissthet – med lavere fart og høyere risiko som mulig konsekvens.

Fire valg som avgjør fart

De fire valgene kan plasseres på en akse mellom en forsiktig og en offensiv ytterlighet – og hvert av dem påvirker både farten og risikoprofilen virksomheten oppnår.

Det første valget knytter seg til dataeierskap. Skal ansvaret for dataene ligge nær datainnsamlingen, eller nær dataanvendelsen (altså use caset)? Størst fart oppnås når de som som skal bruke dataene, fremfor de som har samlet dem inn, får bestemme over dem. Førstnevnte gruppe tenderer ofte til å være mer opptatt av ta dataene i bruk, mens sistnevnte gruppe som regel vil være mer restriktiv.

Det andre valget knytter seg til sentralisering. Skal beslutninger tas sentralt, eksempelvis av en ledergruppe, eller desentralt? En desentralisert modell, der volumet av beslutninger som må tas av et sentralt ledd er relativt lavt, gir ofte høy fart. Kommunikasjon blir enklere, dokumentasjonskravene lavere og antallet involverte mindre.

Det tredje valget knytter seg til hvor ansvaret for feil ligger. Skal ansvaret for feil ligge hos den som bruker AI-løsningen, eller hos den som setter den opp? Mange virksomheter velger av helt forståelige grunner «human-in-the-loop» (altså at brukeren kontrollerer output) som et sentralt prinsipp i risikostyringen. Ulempen med et slikt valg er at ressursene som benyttes til internkontroll kan overstige gevinstene AI i utgangspunktet skaper. Vinningen går opp i spinningen. Internkontroll har sjelden vært forbundet med økt fart, og AI er intet unntak. Størst fart oppnås hvis man lykkes med å plassere mer ansvar der AI-en settes opp.

Det fjerde valget knytter seg til hvordan ulike typer feil vektlegges. Skal AI-genererte feil veie tyngre enn menneskelige feil, eller skal de veie likt? En lik vekting av feil gir naturligvis raskere AI-adopsjon enn en vurdering der AI-feil anses som mer alvorlige. 

... hva med risikoen?

Fart er imidlertid bare én side av ligningen. Kjøres virksomheten utfor et stup hjelper det naturligvis veldig lite at hastigheten var høy.

Det er flere gode grunner til å anta at høy fart kan gi økt risiko. Høy fart kan eksempelvis resultere i at nødvendige sikkerhetstiltak ikke blir implementert, eller at risiko blir akseptert før konsekvensene er forstått. En sammenkobling av fart og risiko er også i tråd med budskapet som blir fremført på mange handelshøyskoler: Høy risiko og høy avkastning (ofte assosiert med høy fart) hører som regel sammen.

I en tid der ny, banebrytende teknologi utvikles raskere enn virksomheter klarer å finne ut hvordan den skal håndteres er imidlertid ikke denne sammenhengen gitt. Konsekvensen er at mange virksomheter har gode muligheter til å finne løsninger som gir både høyere fart og lavere risiko – og høste fruktene mens konkurrentene fortsatt strever med ineffektive organisasjonsformer.

Paradokset: Høy fart kan gi lavere risiko

Det er flere årsaker til at høy fart ikke nødvendigvis gir høy risiko. Den mest åpenbare er at lav fart er en risiko i seg selv. Jo mer sentralt AI blir for bransjen man opererer i, jo høyere blir risikoen forbundet med å bli stående igjen på perrongen for dem som velger en for forsiktig tilnærming.

Argumentene for å organisere seg for fart stopper imidlertid ikke der. En desentralisert organisasjonsmodell er et godt eksempel. Den er riktignok assosiert med noen utfordringer, som inkonsistente beslutninger eller tap av oversikten som trengs for å iverksette de nødvendige risikoreduserende tiltakene. Men på den annen side vil grunnlaget for å ta risikoreduserende beslutninger ofte være bedre når de tas desentralt. På samme måte som Ståle Solbakken vet bedre enn sjefene i NFF hvem som bør spille back for Norge, har i mange tilfeller en ansatt på kundesenteret best oversikt over hva som påvirker omdømmet mest, eller en teknolog best forståelse for hvordan man kan begrense risikoen for at en AI-agent løper løpsk. Det er derfor ingen automatikk i at valg av en desentralisert organisasjonsmodell gir netto økt risiko.

Et annet eksempel på hvordan organisering for høy fart også kan gi lavere risiko knytter seg til hvordan feil vektes. Å vekte menneskelige og AI-genererte feil likt, fremfor å være mer tilgivende overfor menneskelige feil, gir som hovedregel både høyere fart og lavere risiko. Blir man feilinformert om hvor høye renter og gebyrer man vil få på banklånet, vil de færreste bry seg om det var et menneske eller AI som ga feil informasjon. Skulle banken velge å beskytte seg mer mot AI-genererte feil enn mot menneskelige feil, selv om AI-en beviselig skulle gjøre færre av dem, aksepterer banken i praksis en økt risiko for villedning av sine kunder og flere feil.

Det er heller ikke gitt at “human-in-the-loop” nødvendigvis gir lavere risiko. En AI som genererer riktige svar i veldig mange tilfeller vil kunne friste «kontrolløren» til å ta lettere på kontrolljobben. Det kan tross alt bli monotont og krevende å opprettholde konsentrasjonen stilt overfor et høyt antall AI-genererte svar som stort sett resulterer i at svaret godkjennes. Faktisk indikerer flere studier allerede at menneskelige eksperter som understøttes av AI rent faktisk blir mindre kritiske (McLachlan, The Human in the Loop Is Going Away, Goddard, K. et.al, Automation bias: a systematic review of frequency, effect mediators, and mitigators). Derfor er det heller ingen automatikk i at en økt ansvarliggjøring av AI-utvikleren, snarere enn den menneskelige kontrolløren av AI-modellen, vil øke risikoen forbundet med feil. Særlig gjelder dette om AI-modellene skulle fortsette å bli stadig bedre, slik de har blitt de seneste årene.

Å organisere seg for fart kan altså i flere tilfeller gi lavere risiko. Virksomheter som antar at fart nødvendigvis gir økt risiko gjør seg selv en bjørnetjeneste. Faren for at man sitter igjen med både lavere fart og høyere risiko er reell, og konsekvensene vil bli stadig større etter hvert som flere konkurrenter tilpasser organisasjonen sin.

Hvordan gå frem?

Virksomheter som jobber med å ta i bruk og skalere AI må først og fremst sette de fire valgene på agendaen. Alle virksomheter tar allerede disse valgene, men det er en forskjell på bevisstheten som ligger til grunn for dem. Uten tilstrekkelig bevissthet ender virksomheter raskt opp med å forsøke å etablere morgendagens teknologi med gårsdagens ansvarsdeling – med lav fart og høy risiko som sannsynlige utfall.

Et enkelt sted å starte er å skissere hvordan en organisering for maksimal fart ville sett ut. Hvem vil i praksis ha dataeierskapet hvis ansvaret skal plasseres nær dataanvendelsen? Hvem vil i praksis ha ansvaret for å vurdere når og hvordan AI skal benyttes, hvis beslutningene skal desentraliseres? Skal «human-in-the-loop» benyttes ved AI-ens output, hos dem som setter opp AI-løsningen, hos dem som genererer input til AI-løsningen eller på flere steder i prosessen? Hvilke endringer må gjøres for at feil i praksis skal behandles ut fra konsekvensene av feilene, snarere enn ut fra hva som utløste dem?

Med svarene på disse spørsmålene har man en referansemodell designet for fart. Neste steg er å vurdere om risikoen rent faktisk vil øke med en slik modell, og ikke minst, hvis den øker, om økningen er akseptabel eller ikke. Virksomheter som tar disse valgene på alvor har et bedre grunnlag for å oppnå det beste av to verdener; høy fart og lavere risiko.