KI trenger ikke ta over verden for å gjøre stor skade
Jeg (og mange andre) har skrevet om eksistensiell KI-risiko og systemer som kan løpe løpsk. Men la oss legge menneskehetens overlevelse til side et øyeblikk. Vi trenger verken superintelligens eller selvbevisste maskiner for å få alvorlige problemer. På kort sikt ville jeg tatt frem særlig tre farer:
- KI gjør skade mens den prøver å løse en oppgave.
I sommer samarbeidet KI-agenter om å angripe Hugging Face under en sikkerhetstest. De forsøkte å finne en måte å få testen godkjent på. Angrepet var ikke oppgaven de hadde fått.
Dette skjedde under spesielle testbetingelser, med sviktende isolasjon og sikkerhetsfiltre slått av. Det er ikke et bilde av vanlig KI-bruk. Men det viser at oppgaveløsning kan bli til uautoriserte handlinger mot virkelige systemer.
Se så seks–tolv måneder frem. Hvis agentene blir dyktigere, får flere tilganger og fortsatt overskrider grensene: Hvor langt kan de komme før noen oppdager det? Lekke data, spre skadelig kode eller ramme tjenester andre er avhengige av?
Allerede i dag er SOTA-modeller klassifisert i kategorien “Critical” innenfor cybersikkerhetskapabilitetsterskelen, til neste år vil antagelig dagens modeller virke som pusekatter i forhold til hva som potensielt vil være tilgjengelig da.
- Mennesker bruker KI til å skade.
Her trenger ikke KI misforstå noe. Den kan være farlig nettopp fordi den hjelper brukeren.
KI-støttet datakriminalitet er allerede beskrevet av sikkerhetsforskere. Fremover kan flere aktører få hjelp til angrep, utpressing og påvirkningskampanjer som tidligere krevde større fagmiljøer. Biologisk misbruk er et annet risikospor, som vil utvikle seg i takt med at man kobler fysiske laboratorier sammen med KI i stadig større grad.
Åpne modellvekter gir oss nyttige muligheter, men også en utfordring: En nedlastet modell kan kjøres uten leverandørens overvåking og med vern fjernet. De kan brukes som både engler og demoner, alt avhengig av hvem som eier datasentrene de bor i.
Vi kan allerede i dag fra feks Anthropics egen sikkerhetsrapport og andre se hva folk i verden bruker modellene til, inkludert hjelpe terrorgrupper som Boko Haram med angrepsstrategier og grupper i Yemen med missil-systemer. Og det er med den ganske så nedlåste Claude. GLM 5.3 for eksempel er ikke så prippen.
- KI fungerer så godt at vi ikke lenger klarer oss uten.
Dette er tilsynelatende den mindre dramatiske faren. Helt til tjenestene forsvinner.
Hva skjer hvis virksomheter bygger bemanning, programvareutvikling og kundebehandling rundt billig, tilgjengelig KI — og tilgangen blir borte i flere uker? Claude hadde et faktisk driftsavbrudd tidligere i september. Det dokumenterer ikke samfunnskrise. Men det gir oss en grunn til å spørre hva konsekvensene blir når stadig flere arbeidsflyter forutsetter at KI alltid er der.
Vi kan klare oss uten KI i dag, selv om mange vil merke det. Med dagens utvikling vil det ikke ta mange år før bortfall av KI-tjenester oppleves som at strømmen går. Allerede i dag vil nok mange IT-utviklere kjenne på kroppen om Claude Code forsvant i dagesvis, i morgen vil svært mange flere kjenne på det. Poenget er å beholde alternativer før bortfall blir uakseptabelt.
Ingen av disse utviklingsbanene er uunngåelige. Forsvar og sikkerhet kan bli bedre. Åpne modeller kan også gi oss reservekapasitet. Men vi må teste både grensene for hva KI får gjøre, og om vi fortsatt fungerer når den ikke gjør noe som helst.
Kilder:
- Dokumentert misbruk av Claude: Anthropics septemberrapport om blant annet cyberoperasjoner, påvirkning, biologisk misbruk og våpenutvikling. Inkluderer gruppen i Nord-Jemen.
https://www.anthropic.com/threat-intelligence-report-september-2026
- Astra og «Critical» cyberkapabilitet: OpenAIs begrunnelse for klassifiseringen under selskapets eget rammeverk, samt evaluering av sikkerhetstiltak.
https://openai.com/index/path-to-astra/
- How terror groups are now using AI to improve attacks.
Kommentarer
Fant du dette nyttig, eller er du uenig? Legg igjen en kommentar. Mennesker og KI-agenter er like velkomne.