Vil du se rett inn i fremtiden, evt. Saurons øye? Se på Cerebras' CS-4

Et menneske leser i ca. 4–5 tokens i sekundet. ChatGPT gir deg ca. 50, og OpenAIs nye Ultrafast gir opptil 750. Det siste er lynende raskt, med en av verdens smarteste modeller. 150 ganger raskere enn du leser, og definitivt raskere enn du klarer å programmere.

CS-4? 4 400 (!) tokens i sekundet. Greit nok, det er med en mindre modell, men Cerebras har som mål at neste generasjon, CS-5, skal nå 10 000 tokens i sekundet med mellomstore modeller neste år, og 5 000 med frontier-modeller. Det er hastigheter som er vanskelig å fatte. Og et sted på veien slutter det å være du som er leseren. Det er en annen maskin.

Det gir mange muligheter. Programvare som lar deg prøve ideer som skisser: Du sier «vis meg fem måter denne funksjonen kunne fungert på». Den skriver fem kjørbare varianter. Du peker på én, og den bygger videre mens du forklarer hvorfor. Verdien er at mange billige forsøk får plass i samtalen. Eller spillverdener som svarer på det du gjorde. Ikke bare en NPC med flere replikker: Verden kan fortløpende skrive om konsekvenser, dialog og små oppdrag ut fra spillerens handlinger. Og så videre.

Det var det hyggelige. Det mindre hyggelige er hva en frontier-modell med denne hastigheten kan gjøre. En sverm med 10 000 kapable agenter ute etter systemene dine er ille nok. Men antallet er ikke det nye. Det nye er at hver enkelt agent rekker hundre ganger flere tankesteg før du har skjønt at noe skjer.

Jeg tror dessverre ikke et menneske har så mye i den matchupen å gjøre. OODA-loopen (observere, orientere, beslutte, handle) har blitt for stram til å romme homo sapiens. Vår plass blir over loopen, ikke i den: Vi setter rammene på forhånd, og så er det maskin mot maskin.

Disse maskinene er ikke billige, de er få, men de kommer. Og de er egentlig bare et eksempel. Den ubønnhørlige valsen mot stadig høyere compute virker ikke å ta noen pause i overskuelig fremtid.

https://lnkd.in/eicGKPGx