Vi blir cyborger uten å bestemme oss for det

Vi ofrer litt av vår egen tenkning hver gang KI gjør noe bedre for oss. Det høres dramatisk ut, men i praksis føles det ikke dramatisk i det hele tatt.

Meg selv som eksempel: Jeg kan nå produsere og publisere iOS-apper, selv om jeg ikke er spesielt god på Xcode. Jeg kan også lese japansk, eller navigere perfekt i byer jeg aldri har vært før. Koblingen mellom meg og maskinen har altså fått en kognitiv evne jeg ikke har alene.

Tidligere, trodde man at menneske–maskin-integrasjonen ville komme gjennom implantater og kirurgi, som en kombo av en terminator og zombie. I stedet kom den som et samtalevindu. Mindre kult, kanskje like farlig.

Nå lar vi KI huske, formulere, planlegge, skrive kode og vurdere alternativer for oss. Hvert enkelt valg er fornuftig. Det går raskere, blir ofte bedre og er mer behagelig enn å gjøre alt selv. Det er nettopp derfor dette er vanskelig.

Hvis KI gjorde oss åpenbart dårligere, ville vi stoppet. Men når hvert nytt steg gir oss mer kapasitet, hvorfor skulle vi si nei?

Det er det ubehagelige ved fortellinger som The Whispering Earring. Rådene er gode. Livet blir bedre. Og avhengigheten vokser nettopp fordi systemet virker.

Henrik Skaug Sætra og Stuart Mills beskriver KI som en mulig «autonomous choice architect». Den kan ikke bare hjelpe oss å velge, men også forme hvilke valg vi ser. Da utvider maskinen ikke lenger bare hva vi kan gjøre. Den påvirker hva vi tenker på.

Vi ofrer litt etter litt på alteret for effektivitet og bekvemmelighet. Tilbudet nesten alltid er for godt til å avslå.

Jeg vet ikke om det er galt heller. Byttehandelen kan være positiv. Hvem vil ikke ha superkrefter? Men vi gjennomfører et eksperiment på vår egen kognisjon uten å kjenne summen og uten noen tydelig stoppregel.

Cyborgen er ikke problemet. Problemet er at maskindelen vokser for hvert nyttige valg — og at vi verken vet hvor mye vi har gitt fra oss, eller om vi noen gang kommer til å si at nå er det nok. The flesh, som de sier, is weak.

Kilder:

Kevin Warwick, I, Cyborg (2002) https://lnkd.in/e-VS5Ttc

Scott Alexander, The Whispering Earring (2012) https://lnkd.in/eTx2wHzn

Stuart Mills og Henrik Skaug Sætra, The Autonomous Choice Architect (2022) https://lnkd.in/eEUXEVR4