Det finnes øyeblikk i tech-bransjen som ikke lar seg fange av pressemeldinger. Mrinank Sharma, tidligere i Anthropic, valgte den direkte veien: et åpent brev, postet på X, uten filter. Det er noe sårbart over det – å dele sine siste tanker på vei ut døra, midt i en tid hvor optimismen rundt KI nærmest er påtrengende. Likevel preges brevet av uro. Ikke bare utmattelse, men en slags varig bekymring. The world is in peril. Ikke bare på grunn av KI, men fordi vi allerede står i en poly-krise – klima, geopolitikk, økonomi, sosial friksjon. KI forsterker, den skaper ikke nødvendigvis alt fra bunnen av.
Når kraft løper fra visdom
Det er setningen om terskelen som blir sittende igjen. At visdommen vår må vokse i takt med evnen til å påvirke verden. Det er lett å nikke til, vanskelig å leve opp til. Hvem kan egentlig si at institusjoner, lover, etikk – at de henger med på tempoet? Det er som å se en maskin få stadig flere funksjoner, mens kontrollpanelet fortsatt er under utvikling. Ikke nødvendigvis fordi noen vil det slik, men fordi systemene våre er laget for å løpe raskt, ikke for å stoppe opp. Markedspress, geopolitikk, konkurranse – alt trekker i retning av mer, fortere, større. Sikkerhet og ettertanke blir fort det som må vente til neste kvartalsrapport.
Når verdier strekkes tynne
Sharma beskriver hvordan verdier, i møte med presset om å levere, blir tynne. Det er ikke nødvendigvis dramatisk – mer en slags daglig slitasje. Små kompromisser, kanskje nesten usynlige, men akkumulert over tid. Det er lett å glemme at institusjoner ikke bare er bygget av policy og prosesser, men av mennesker som gradvis venner seg til å sette til side det som egentlig betyr mest. Er det mulig å bygge strukturer som beskytter verdiene, eller må vi bare regne med at noen – de mest prinsippfaste, eller de som kjenner på frykten – til slutt velger å gå?
Bit for bit mindre menneskelig
En annen tråd i brevet handler om hvordan KI-assistenter kan gjøre oss mindre menneskelige. Det er ikke en stor, dramatisk endring, men en gradvis tilvenning. Først er det bare en anbefaling, en automatisk formulering, et lite dytt i retning av enklere valg. Så blir det vane. Og plutselig har vi gitt fra oss litt uro, litt skepsis, kanskje litt dømmekraft. Det er behagelig – men hva skjer med evnen vår til å tenke selv, når systemene blir stadig bedre til å imitere oss? Vi har tidligere skrevet en artikkel om Når teknologien løper, men kroppen sier stopp, hvor vi også går inn på dette temaet.
Kriseforsterkeren
KI er ikke nødvendigvis roten til alt ondt. Men den kan forsterke det som allerede er skjørt: biologiske trusler, informasjonsmanipulasjon, politisk ustabilitet, tap av tillit. Det er ikke vanskelig å se for seg hvordan et verktøy som kan akselerere alt, også kan gjøre gamle problemer større – eller helt nye problemer mulig. Å regulere KI er ikke bare et teknisk spørsmål. Det er politikk, industri, samfunn, internasjonalt samarbeid. Og det haster, men samtidig krever det langsiktighet.
Et mønster i bransjen
Når folk forlater de store laboratoriene, dukker det opp noen felles temaer. Teknologien skaleres raskt. Allianser, regulering, etikk – de henger etter. Det er en ubalanse: makten over verden vokser fortere enn evnen til å styre den. Noen frykter sikkerhetsrisiko, andre demokratiets skjøre grunnlag, noen de eksistensielle farene. Fellesnevneren er følelsen av at vi har laget verktøy som kan endre samfunnet før vi har institusjonene til å håndtere dem.
Hva nå?
Det er fristende å lage en liste: mer regulering, strengere kontroll, mer åpenhet, mer forsiktighet. Men ordene blir fort flate. Dette er ikke bare et teknologisk problem, eller et politisk – det er også kulturelt. Hvordan bygger vi visdommen før terskelen passerer oss?
Når folk som Sharma velger å gå, er det ikke bare et tap for organisasjonen. Det er en påminnelse til hele feltet. Kanskje er det nødvendig at flere stemmer stiller spørsmål – ikke for å stoppe innovasjonen, men for å gjøre den mindre blind.
Jeg går fra brevet med to følelser. Beundring for at noen sier det tydelig. Og uro for at vi har hørt denne klangen før, uten å finne svar som varer. Hva betyr det egentlig å handle klokt nå? Hvordan bygger vi bremsene uten å stoppe motoren? Spørsmålene henger igjen, som en tråd på X – men de burde ikke forsvinne like fort.