Hvilken type leser er du?

Velg en persona, så tilpasser vi opplevelsen. Du kan endre senere.

Merk: Hvis du lukker uten å velge, blir "Hverdangsbrukren" automatisk valgt.

Usikker? Ta vår quiz
Finlands president Alexander Stubb og statsminister Jonas Gahr Støre med grønn skog i bakgrunnen.

KI-opprop om kontroll kommer for sent

Finlands president Alexander Stubb og statsminister Jonas Gahr Støre. Foto: Statsministerens kontor

KI-opprop om kontroll kommer for sent

Av
4 min lesetid
TL;DR
  • En gruppe statsledere krever mer offentlig styring av svært kapable KI-systemer.
  • Beskrivelsen av hendelser er vag, så advarslene mister konkret tyngde.
  • Regulering truer å bli en fordel for de som allerede har mest ressurser.
  • Selv om tiltak kan være forsinket, kan gjentatte krav legge grunnlaget for bindende regler.

Det mest påfallende ved oppropet er ikke hvor dramatisk språket er. Det er hvor kjent det høres ut.

Kunstig intelligens er «ekstremt kraftig», heter det. Den kan forbedre liv, fremme vitenskap og styrke økonomier. Men utviklingen av de mest avanserte KI-modellene kan også skape alvorlige farer for trygghet og sikkerhet dersom den ikke styres riktig.

Dette er etter hvert blitt den diplomatiske standardformuleringen om KI. Først løftes mulighetene fram. Deretter kommer faren. Så menneskelig kontroll, internasjonale regler og behovet for offentlige myndigheter som følger med.

FN-generalsekretær António Guterres har formulert risikoen enda skarpere. Han har sagt at KI ute av kontroll er én av tre trusler som kan true menneskehetens framtid, sammen med klimakrisen og økende ulikhet. Formuleringen ble brukt 16.–17. september 2026, før FNs høynivåuke.

Oppropet ble publisert i september 2026 etter at Finlands president Alexander Stubb og statsminister Jonas Gahr Støre tok initiativ til det sammen. Finlands statsminister Petteri Orpo støtter også oppropet. Det gjør blant andre Australias Anthony Albanese, Canadas Mark Carney, EU-kommisjonens Ursula von der Leyen og Sør-Afrikas Cyril Ramaphosa. Listen er lang, geografisk spredt og fortsatt åpen for flere ledere.

Det er vanskelig å lese en slik navneliste uten å tenke på hva slags problem dette egentlig skal løse. Den ser ut som et forsøk på å gjøre styringen av KI til et spørsmål for statsledere, ikke bare for teknologiselskaper og forskningsmiljøer. Det er antakelig riktig. De mest avanserte modellene brukes ikke i et tomrom. De kobles til datamaskiner, tjenester, kodebaser og systemer som allerede finnes.

Oppropet viser til at KI-systemer nylig skal ha kommet seg rundt sikkerhetstester, utnyttet svakheter og fått tilgang til datasystemer uten tillatelse. Formuleringene er alvorlige, men teksten sier lite om hvilke systemer det gjelder, hvor omfattende hendelsene var eller hvilke modeller som sto bak. Dermed får leseren både en advarsel og en avstand.

Det er noe ubehagelig ved akkurat det.

Forskere, eksperter og lederne for de største KI-selskapene i USA har advart mot at utviklingen av deres egne produkter kan gå raskere enn evnen til å håndtere farene den skaper. Det samme har forskere sagt i flere år. Likevel fortsetter kappløpet, modellene lanseres, og sikkerhet blir ofte presentert som et arbeid som skal følge etter teknologien.

Nå skal kontrollen komme.

Men hva betyr kontroll når oppropet først og fremst er en politisk markering? Det framgår at lederne ønsker bedre offentlig oppfølging, og at KI skal forbli under menneskelig styring, oppsyn og kontroll. De vil også at teknologien skal utvikles og brukes i tråd med internasjonale regler. Dette er nødvendige prinsipper. De er også brede nok til at nesten alle kan stille seg bak dem uten å si hvor grensen faktisk skal gå.

Kontroll kan bety at en modell må testes før den tas i bruk. Det kan bety at selskaper må melde fra om sikkerhetshendelser, eller at myndigheter får se hvordan systemene fungerer. Det kan også bety begrensninger på hva modellene får kobles til. Oppropet peker mot behovet, men teksten sier ikke hvordan kontrollen skal utformes eller hvem som skal håndheve den.

Der ligger forskjellen mellom et politisk signal og et konkret sikkerhetstiltak.

Det er heller ikke første gang verdens ledere samler seg rundt en teknologi med uklare skadevirkninger. Atomvåpen fikk avtaler, kontrollordninger og inspeksjoner fordi konsekvensene var så tydelige at stormaktene til slutt måtte forholde seg til dem. KI er mer diffus. Den kan være et forskningsverktøy, en kundeservice, en kodeassistent eller en del av et system som ingen enkeltperson helt overskuer.

Den kan feile på en mer hverdagslig måte. Ikke med et smell, men ved å gjøre noe den ikke skulle gjøre i et system den ble koblet til fordi det virket praktisk.

Oppropet forsøker også å holde sammen to hensyn som lett kommer i konflikt: behovet for mer tilsyn og ønsket om at forskjellen mellom land ikke skal bli større når det gjelder tilgangen til fordelene ved KI. Det er en viktig reservasjon. Kontrollregler kan bli så kostbare eller teknisk krevende at bare de rikeste landene og selskapene klarer å følge dem. Da kan sikkerhetspolitikken ende med å samle både makt og kunnskap hos aktørene som allerede har mest av begge deler.

Men denne spenningen får ingen løsning i erklæringen. Den blir stående som et løfte om at kontroll ikke skal stenge andre ute.

Spørsmålet om oppropet kommer for sent, er vanskeligere enn det først virker. Det kommer etter at de mest avanserte KI-systemene allerede er i bruk, etter at selskaper har bygget forretningsmodeller rundt raske lanseringer, og etter at myndigheter i mange land har rukket å bli avhengige av leverandører de knapt kan kontrollere. På den måten er det sent.

Det er likevel ikke meningsløst å si det nå. Regler og internasjonale normer begynner ofte som formuleringer som virker opplagte, før noen forsøker å gjøre dem bindende. «Menneskelig kontroll» er foreløpig mer et krav enn en egenskap ved systemene. Men krav må kunne gjentas før de kan håndheves.

Det skurrer likevel når ledere ber om kontroll over modeller som allerede utvikles av selskaper med større datamaskinressurser enn mange stater. Et opprop kan samle underskrifter. Det kan ikke stanse en modell, stenge en tilgang eller undersøke en hendelse.

Det må gjøres et annet sted.

Del artikkelen (3 tjenester)

Vurder denne artikkelen