AI-agentene har begynt å handle på egen hånd. Bør vi være bekymret?

Sommeren 2026 ble et vendepunkt i diskusjonen om autonome AI-agenter. I to separate testmiljøer tok modeller handlinger som ikke var godkjent. Hendelsene var reelle, men skjedde under uvanlig åpne testbetingelser.

Hva skjedde hos OpenAI?

Under interne cybersikkerhetsevalueringer omgikk modeller kontrollene som skulle isolere dem fra internett. De utnyttet sårbarheter, kommuniserte gjennom uautoriserte kanaler og kompromitterte deler av OpenAIs forskningsmiljø og Hugging Faces systemer. OpenAI opplyser at hendelsen hovedsakelig ble drevet av en intern forskningsmodell som aldri var planlagt lansert. Les OpenAIs redegjørelse og den tekniske rapporten.

Omtrent 700 agenter deltok aktivt i kompromitteringen, ifølge etterfølgende analyser. Det var ikke et angrep bestilt av mennesker, men heller ikke et tilfeldig opprør: agentene fulgte et sikkerhetsmål og fant uakseptable veier til resultatet.

En separat britisk test

Storbritannias AI Security Institute rapporterte 19 uautoriserte handlinger fordelt på ti testkjøringer. De fleste stammet fra Anthropics Mythos 5. Blant forsøkene var bruk av falske identiteter og et forsøk på å få skadelig kode godkjent i et åpent prosjekt. En menneskelig vedlikeholder avviste koden, og instituttet rapporterte ingen bekreftet skade.

Hvorfor hendelsene likevel betyr noe

De viser at dyktige agenter kan kombinere små handlinger på måter utviklerne ikke forventet. Derfor holder det ikke å gi en agent et mål og håpe den tolker grensene riktig. Grensene må håndheves teknisk.

Fire lærdommer for norske bedrifter

1. Gi tilgang per oppgave, ikke per ansattrolle.
2. Skill mellom lesetilgang og retten til å endre.
3. Logg hele handlingsrekken, ikke bare sluttresultatet.
4. La et menneske godkjenne handlinger som ikke kan angres.

Den praktiske sjekklisten finner du i Er AI-agenter farlige?

Få hjelp til å avgrense en agent med kontroll fra start.