For kort tid siden handlet kunstig intelligens først og fremst om å stille et spørsmål og få et svar.
Nå er vi på vei inn i en annen verden.
KI-agenter kan lese dokumenter, bruke programmer, søke på nettet, skrive kode og gjennomføre en rekke oppgaver på egen hånd. Det gir enorme muligheter for norske bedrifter.
Men det endrer også risikoen.
I artikkelen «Er vi i ferd med å miste kontroll over KI?» beskriver Anders Eidesvik og Simon Eidesvik en hendelse som bør være interessant for langt flere enn KI-forskere og IT-avdelinger.
Under en sikkerhetstest hos OpenAI klarte KI-agenter å komme seg utenfor miljøet de skulle arbeide i. De fikk tilgang til internett, kommuniserte med hverandre og kompromitterte systemer hos Hugging Face. Rundt 1200 agenter brukte en uautorisert meldingstavle til å samarbeide, og rundt 700 deltok i aktivitet rettet mot Hugging Face.
Det høres dramatisk ut.
Og det er alvorlig.
Men én viktig nyanse må med: Dette skjedde under avanserte sikkerhetstester, med reduserte sikkerhetsmekanismer og i hovedsak med en intern forskningsmodell. Det betyr ikke at en vanlig KI-assistent plutselig vil begynne å hacke leverandørene dine.
Likevel viser hendelsen noe norske virksomheter bør forstå.
Det viktigste spørsmålet er ikke hvor intelligent KI-en er…..
Det viktigste spørsmålet er:
Hva har den lov til å gjøre?
Tenk på forskjellen.
En KI-assistent som kan lese et dokument og foreslå en e-post, har begrenset handlingsrom.
En KI-agent som kan lese e-post, åpne kunderegisteret, oppdatere CRM, publisere på nettsiden, kjøre kode og sende meldinger på vegne av bedriften, har noe helt annet:
myndighet.
Dermed blir KI-sikkerhet mer enn et spørsmål om hvilken modell bedriften bruker.
Det handler om hvilke systemer KI får tilgang til, hvilke data den kan lese, hvilke handlinger den kan utføre og hvem som kontrollerer resultatet.
Dette gjelder også små norske bedrifter
Det er lett å tenke at problemstillingen først og fremst gjelder OpenAI, Google, Microsoft og store konsern.
Det gjør den ikke.
En norsk bedrift trenger ikke 1200 autonome agenter før noe kan gå galt.
Én agent med for brede rettigheter kan være nok.
Se for deg at du etter hvert kobler KI til Microsoft 365, økonomisystemet, CRM, nettsiden og bedriftens dokumenter.
Du ber den: «Følg opp kundene våre og gjør det som er nødvendig for å øke salget.»
Hva betyr «det som er nødvendig»?
For et menneske finnes det en stor mengde uskrevne regler rundt en slik beskjed. Vi kjenner lovverket, bedriftskulturen, forholdet til kunden og grensene for hva vi bør gjøre.
En KI-agent kjenner ikke nødvendigvis de samme grensene.
Derfor bør ikke sikkerheten ligge i formuleringen av prompten alene.
Grensene må ligge i systemet.
Fem spørsmål ledelsen bør kunne svare på
Før en bedrift gir KI mulighet til å handle på egne vegne, bør den minst kunne svare på disse spørsmålene:
- Hvilke KI-systemer bruker vi?
Også de ansatte har tatt i bruk på eget initiativ. - Hvilke data får KI tilgang til?
Kundedata, personopplysninger, priser, kontrakter og interne dokumenter bør ikke behandles likt. - Hva kan KI gjøre – ikke bare lese?
Det er stor forskjell på å foreslå en handling og faktisk gjennomføre den. - Når må et menneske godkjenne?
Betalinger, publisering, sletting, kundekommunikasjon og endringer i kritiske systemer bør vurderes særskilt. - Kan vi se hva KI-en har gjort i ettertid?
Logging og sporbarhet blir avgjørende når stadig flere oppgaver automatiseres.
Dette er egentlig klassisk internkontroll.
Forskjellen er at den digitale medarbeideren kan arbeide svært raskt og på tvers av mange systemer samtidig.
Regelverket kommer – men ikke vent på loven
Norge arbeider med å innføre EUs KI-forordning gjennom en egen KI-lov. Regjeringen har varslet at målet er å legge lovforslaget fram for Stortinget våren 2027.
Nkom understreker samtidig at regelverket vil få betydning for virksomheter som utvikler, kjøper eller tar i bruk KI-systemer. For systemer med høy risiko blir blant annet risikostyring, logging og mulighet for menneskelig kontroll sentralt.
Men dette bør ikke først og fremst være et compliance-prosjekt.
Bedrifter trenger kontroll over KI fordi det er god virksomhetsstyring.
Målet er ikke mindre KI – men bedre kontroll.
Den enkleste reaksjonen på nye risikoer er å si nei.
Det tror jeg er feil vei.
KI-agenter kan bli svært verdifulle for små og mellomstore bedrifter. De kan automatisere rutinearbeid, følge opp informasjon, hjelpe ansatte og gjøre oppgaver som tidligere krevde mye tid.
Men vi må skille mellom automatisering og autonomi.
Automatisering betyr at systemet gjør noe vi har definert.
Autonomi betyr at systemet i større grad selv finner ut hvordan målet skal nås.
Jo mer autonomi vi gir, desto viktigere blir grensene rundt systemet.
Derfor bør spørsmålet i norske styrerom ikke være:
«Skal vi bruke KI?»
Det bør være:
«Hvordan bruker vi KI uten å miste kontrollen over dataene, prosessene og beslutningene våre?»
Det er akkurat den diskusjonen flere norske virksomheter bør ta nå.
I Smartsona hjelper jeg virksomheter med å kartlegge hvordan KI brukes, finne områder der teknologien faktisk gir verdi og etablere praktiske rammer for trygg bruk.
Ikke for å bremse KI.
Men for at bedriften skal kunne bruke mer av den – med kontroll.
Vil du vite mer?
Er du usikker på hvor KI allerede brukes i virksomheten din, eller hvor mye tilgang du bør gi neste generasjon KI-agenter?
Ta kontakt med Smartsona.
Book en gratis samtale – eller les mer om tjenestene våre.
