AI-governance – Fra brems til gass

For stadig flere virksomheter glir AI nå over fra å være et verktøy de fleste ansatte eksperimenterer med til å bli satt i system og skalert. I takt med denne utviklingen melder nye spørsmål seg. Hvordan holder vi kontroll på kostnadene? Hvordan sørger vi for at AI gir gode nok svar til at vi kan stole på den for å gjøre de viktigste oppgavene i stor skala? Hvilke begrensninger skal vi sette fortilgangene AI gis? Svarene på disse spørsmålene må fremskaffes når god AI-governance (eller styring), skal etableres. Målet er å tilrettelegge for at virksomheter skal kunne realisere verdi med AI uten å miste kontrollen. Svaret ligger i kombinasjonen av de organisatoriske og tekniske tiltakene som implementeres.

Governance er ikke bremsen

Mange forbinder styring og governance med lav fremdrift og mangelfull innovasjon. Draghi-rapportens budskap om behovet for å forbedre EUs innovasjonsevne og studier som viser negative konsekvenser for virksomheter, særlig de små og mellomstore, som er underlagt GDPR (Presidente, Frey, Economic Inquiry, 2024) ses av som konsekvensene på feilslått governance, især i det digitale domenet. Ineffektive kontrollfunksjoner, unødvendig byråkrati og ressurskrevende dokumentasjonskrav, med tap av konkurransekraft og innovasjon som resultat, er det siste virksomheter som ønsker å adoptere AI i skala ønsker.

Med tradisjonell teknologi er dette negative inntrykket av styring kanskje et lite stykke på vei dekkende. Tradisjonell teknologi er deterministisk. Det betyr i praksis at den er forutsigbar og relativt enkel å kontrollere. Et datapunkt inn gir tross alt ett og bare ett datapunkt ut. Tradisjonell teknologi handlet heller ikke på egenhånd. Det er ingenting som heter agentisk SaaS, agentisk internett eller agentisk sky. Når teknologien i tillegg leveres av verdensledende selskaper eller av mennesker man kjenner og jobber med hver dag, har veien vært kort til at betydelige investeringer i governance og compliance har kostet mer enn de har smakt.

Med AI endres bildet. AI er ikke deterministisk. Man har ingen garanti for at en AI-løsning som gir rett svar én gang, vil gjøre det neste gang også. «Engangsgovernance» er ikke mulig. Videre er det noe som heter agentisk AI. Teknologien kan nå handle på egenhånd, over tid og i stor skala. I mange tilfeller er nettopp muliggjøring av slik agentisk AI selve forutsetningen for verdiskaping. «Engangsgovernance» blir nå en enda dårligere idé. Tar man i tillegg i betraktning at stadig flere ser på mulighetene for å ta AI inn i større deler av virksomheten, at flere av de ledende aktørene er relativt ferske og at disse heller ikke har bevist at de kan drives på en sikker og kommersielt bærekraftig måte over tid, blir det klart hvilken betydning god AI-governance vil få fremover. Der investeringer i styring av teknologivirksomheten tidligere kunne bli for høye, blir styring nå en kritisk suksessfaktor. Det er nettopp god styring som gjør det mulig å trykke på gassen.

AI forsterker styrker og svakheter ved teknologistyringen

AI fungerer i mange sammenhenger som et speil. Har virksomheten god kvalitet på underliggende data blir AI-ens output bedre. Har man effektive mekanismer for å holde kontroll på kostnadene kan man slippe AI-en løs i større skala uten å bekymre seg for budsjettet. Virksomheter som har automatiserte kontroller av AI-genererte svar kan akselerere ytterligere. Eksemplene er mange, men poenget er det samme: Styring av høy kvalitet gir fart.

På den andre siden er det ikke vanskelig å peke på at svak styring resulterer i lav fart eller i verste fall ødeleggende bruk av AI. Det finnes flere veier til slike resultater. Air Canada fikk eksempelvis smertelig erfare konsekvensene av ikke å ha kontroll da de ble dømt til å betale tilbake kundene sine basert på svarene til en AI-løsning ute av kontroll. Likeledes kan manglende styringsmekanismer eller kompetanse til å ta beslutninger lede til svært ressurskrevende beslutningsprosesser og kritisk lav adopsjon av denne kraftfulle teknologien. Ikke minst erfarer flere virksomheter at kostnadene knyttet til den store og økende bruken av AI blir for høye og at man ikke har verktøyene som trengs for å holde kontroll over dem. I praksis vil virksomheter som ikke fra før hadde kontroll på styringen av sin teknologivirksomhet, virkelig få kjenne konsekvensene når AI-bruken fortsetter å øke blant konkurrenter og partnere.

Hva kjennetegner god AI-governance?

Ved etablering av styringsmekanismer for AI er målet å sikre seg mot den nedsiderisikoen som kommer av at AI har noen unike egenskaper, uten å ødelegge for mulighetene til å hente ut verdien av nettopp disse egenskapene. Virksomheter må både beskytte seg mot og utnytte det faktum at AI kan handle på egenhånd, på måter som ikke fullt ut kan forutses og ikke minst i møte med viktigere og flere oppgaver.

Det finnes langt flere grep for å sikre trygg AI-styring enn det som får plass i denne artikkelen. For de aller fleste virksomheter vil imidlertid god styring ha noen kjennetegn:

• Tydelig mandat og klare rammer for hva AI-en får gjøre, håndhevet gjennom både organisatoriske og tekniske tiltak
• Løpende overvåking og logging av AI-ens arbeid
• Automatisk varsling og manuelle rutiner for å bryte inn når noe er i ferd med å gå galt
• Mennesker har til syvende og sist ansvaret; styringen kan ikke settes ut til teknologien selv

Veldig forenklet kan man si at egenskapene ved AI-teknologi innebærer at styring ikke kan gjøres som før: Godkjenning kan ikke gjøres én gang og følges opp sporadisk over tid. Man må snarere styre AI mer slik man ville styrt en ny medarbeider. Man kontrollerer ikke hver enkelt handling i detalj, men følger med på medarbeideren med et halvt øye, særlig i prøveperioden, og tillater noe autonomi i prosessen. Samtidig gis et tydelig mandat, setter rammer som medarbeideren må holde seg innenfor og bygger en løpende oppfølging som fanger opp når noe går galt.

Til forskjell fra den menneskelige medarbeideren er imidlertid AI-agenten både følelsesløs og ikke i seg selv beskyttet av lover. Det gir flere fordeler. En detaljspesifisering av rammene til AI-medarbeideren eller inngående kontroll av arbeidet utført av en annen AI-medarbeider utløser ingen misnøye over mikrostyring eller tap av motivasjon grunnet fravær av autonomi. AI-en er heller ikke beskyttet gjennom lover, kontrakter eller moralske hensyn mot kontinuerlig overvåking og loggføring av alt den foretar seg. Ei heller blir den brydd av øyeblikkelig eskalering til nærmeste menneskelige medarbeider ved den minste mistanke om AI-medarbeideren kanskje er i ferd med å bevege seg utenfor de oppmålte grensene.

Må hjulet finnes opp på nytt?

For å få til effektiv styring av AI trenger virksomheter å etablere god styringsevne både gjennom organisatoriske og tekniske tiltak. Skal AI tas i bruk i skala er teknologi en forutsetning for å gjøre det mulig å ha god nok oversikt uten at kontrollarbeidet spiser opp gevinstene teknologien skal gi. Samtidig er det umulig å sette ut det fulle styringsansvaret for teknologi til teknologien selv. Til det er begrensningene ved teknologien for mange og behovet for å kunne stille noen til ansvar for stort. Effektiv AI-styring krever derfor at organisatoriske og tekniske styringstiltak etableres samlet.

Den gode nyheten for virksomheter som vil etablere effektive styringsmekanismer for AI er imidlertid at mange av de nødvendige styringsgrepene egentlig ikke er nye. Det har bare blitt enda viktigere enn før å lykkes med å ta i bruk de mest effektive styringstiltakene, organisatoriske såvel som tekniske, for ikke å sakke akterut.