Gratis KI — hva betaler du med?

Denne uken dukket det opp en ny såkalt stealth-modell på OpenRouter: Ox Alpha. Ingen vet hvem som har laget den. De første rapportene tyder på at den er svært kapabel, spesielt til koding og langvarig agentarbeid. Den tar tekst, bilder og video, har over én million tokens kontekst — og er gratis.

Det mest absurde tallet er likevel kapasiteten. Tilbyderen hevder at de kan servere opptil 100 billioner tokens i døgnet gratis i én uke.

For å sette det litt i perspektiv: Det er omtrent 1,16 milliarder tokens i sekundet. Hvis de samme tokenene hadde kostet én dollar per million, ville listeprisen vært 100 millioner dollar per døgn. Det er selvfølgelig ikke det samme som faktisk kostnad, og vi vet heller ikke nøyaktig hva tilbyderen teller. Men det sier litt om mengden compute som potensielt ligger bak.

Så hvorfor gir en anonym aktør bort dette?

Det er antageligvis ikke bare av ren godhet. Gratisperioder for sterke modeller ser i stadig større grad ut til å være en strategi: Få mange brukere raskt, teste modellen på ekte oppgaver og samle enorme mengder feedback og data.

Og akkurat her blir vilkårene mer interessante enn benchmarkene.

OpenRouters produktside sier at tilbyderen lagrer både spørsmål og svar, men ikke bruker dem til trening. OpenCode sier at deres tilgang til samme modell har zero retention. Samtidig sier OpenRouters generelle avtale for stealth-modeller at innhold kan samles inn og deles for trening og forbedring. Den gir også en ugjenkallelig, evig og overførbar lisens til å lagre og bruke innholdet og viderelisensiere det til modelltilbyderen.

Det kan finnes en god forklaring på forskjellen. Men jeg er ikke jurist, og jeg vet i hvert fall nok til at tre ulike beskrivelser av hva som skjer med dataene ikke er et godt sted å legge bedriftshemmeligheter.

Betyr det at man ikke bør bruke modellen? Ikke nødvendigvis.

For en liten bedrift kan dette være absurd mye kapasitet for null kroner. Til offentlig informasjon, syntetiske data, prototyper og oppgaver der alt kan kastes etterpå, kan det være et veldig godt bytte. En verdivurdering kan lede til mye gunstig her.

Men proprietær kildekode, kundedata, kontrakter, sikkerhetsfunn eller strategi? Da ville jeg vært svært forsiktig. Besparelsen er reell, men det er også verdien av det du potensielt gir fra deg.

Det er lett å regne på tokenprisen. Det vanskelige er å sette pris på dataene, rettighetene og risikoen.

Gratis KI er ikke nødvendigvis gratis. Noen ganger ligger fakturaen bare i vilkårene.

https://lnkd.in/eghW8vyH