Flomålet

I helgen slapp kinesiske Moonshot vektene til Kimi K3 — den kraftigste åpne KI-modellen som noen gang er publisert. 2,8 billioner parametre, fritt nedlastbar. Vil du ha KI-på-boks, kan du ha det nå. Boksen er riktignok et rack og ikke en gaming-PC; vektene alene er på 1,4 terabyte.

Kartet ser da omtrent slik ut: USA har de beste labbene og modellene — lukkede. Kina har de nest beste labbene og de beste åpne modellene. Europa har.. hva?

Det interessante spørsmålet er hva dette betyr fremover. Hva skjer når stadig sterkere modeller er åpent tilgjengelig for alle med nok maskinvare?

Cyber er det mest åpenbare. Kimi K3 finner ekte, ukjente sårbarheter og gjennomfører komplette exploits — ifølge Moonshots egen rapport, som kaller tallene en nedre grense. Men merk at åpne vekter bevæpner begge sider: Hugging Face kunne bare analysere angrepet mot dem fordi det fantes en åpen modell å kjøre lokalt. Gulvet heves for angriper og forsvarer samtidig. Hvor nettobalansen lander, vet ingen.

Så har du labber og selskaper som får eksperimentere med modeller omtrent uten begrensninger. “Omtrent” fordi filtrene sitter i vektene — og vektene eier du. For vanlige brukere er sperrene reelle. For kapable aktører er de kosmetiske.

Og så tipper jeg det kommer bieffekter ingen har navn på ennå. Ufiltrert intelligens på dette nivået har aldri vært allment tilgjengelig før. Andreordens-effektene er per definisjon ukjente — selv laben vet ikke hva modellen kan.

Samtidig: dette kan tørke ut nesten når som helst. USA innførte i sommer eksportkontroll på en frontier-modell for første gang. Nå melder FT og Reuters at Kina vurderer å begrense utenlandsk nedlasting av kinesiske modellvekter. Ingenting er vedtatt. Men retningen er lik i begge hovedsteder. (Selv dro jeg ned et par mindre åpne modeller i kveld. Sikkert unødvendig.)

Modeller som er sluppet, er ute for alltid. Men kanskje er de vi har nå de beste vi noen gang får gratis. Dette spørsmålet kan vi sikkert stille oss hver uke; men det er ikke gratis å lage en gratis modell det må passe inn i en strategi.

Flomålet ser du først når vannet har trukket seg tilbake.