Ukens notater #65: Hvem bestemmer hvordan AI brukes i krig?

Denne uken ble det klart at den kanskje viktigste konflikten i AI-verden akkurat nå ikke handler om modellstørrelser, benchmarks eller hvem som har den smarteste chatboten. Den handler heller om noe langt mer grunnleggende og skremmende, hvem bestemmer hva AI skal brukes til?

Fredag 27. mars kl 23:00 gikk et ultimatum stilt av den amerikanske forsvarsministeren Pete Hegseth til Anthropic ut. Enten aksepterer Anthropic at det amerikanske forsvaret kan bruke Claude til all «lovlig bruk» uten begrensninger eller så vil Pentagon påberope seg Defense Production Act for å tvinge Anthropic til å effektivt gi fra seg kontrollen over sine AI-modeller.

Defense Production Act er en lov som gir myndighetene vide fullmakter til å tvinge landets industri til å produsere krigsmateriell. Mange land har slik lovgiving, inkludert Norge. Gjennom Rekvisisjonsloven fra 1951 kan norske militære myndigheter få hjemmel til å rekvirere alt som er nødvendig for krigsmakten og i fredstid også gi vår industri pålegg om å sette i gang produksjon av varer som er nødvendige.

Anthropic har allerede levert masse teknologi til Pentagon, Palantir og har lenge vært det første og eneste AI-selskap som var godkjent til å levere AI-modeller på Pentagons lukkede nettverk. Men Anthropic har trukket to røde linjer som nå har satt dem i direkte konflikt med forsvarsdepartementet. De vil ikke at Claude skal brukes til masseovervåkning av egne borgere og de vil ikke at Claude skal drive fullt autonome våpensystemer som velger og angriper mål helt uten et menneske i beslutningskjeden. Delvis autonome våpen, som de som brukes i Ukraina i dag, har Anthropic ingen innvendinger mot.

Anthropic nektet å gi etter. Resultatet ble foreløpig ikke at Pentagon tok kontroll over teknologien, men har stemplet Anthropic som en «verdikjederisiko». En betegnelse som historisk har vært forbeholdt tvilsomme kinesiske selskaper som Huawei. President Trump beordret deretter alle føderale etater til å slutte å bruke Anthropics produkter innen seks måneder og kalte selskapet « et radikalt venstreorientert AI-selskap drevet av folk som ikke aner hva den virkelige verden handler om ». Anthropic varsler at de vil forfølge dette rettslig.****

Pentagons posisjon er at AI-selskaper skal tillate «all lovlig bruk» uten begrensninger som kanskje høres fornuftig ut ved første øyekast, men problemet er at det per nå ikke finnes noen lover i USA som regulerer militær bruk av AI. Meg bekjent finnes det heller ingen slike lover i Norge og EUs AI Act som Norge er i ferd med å gjennomføre som norsk lov, unntar eksplisitt AI-systemer som utelukkende er utviklet for eller brukt i militære formål, nasjonal sikkerhet eller forsvar fra forordningens virkeområde. Det finnes med andre ord ingen lovgivning som per nå adresserer autonome våpen og når ingenting er lovregulert, blir «all lovlig bruk» i praksis en tillatelse til å gjøre hva som helst. Fraværet av lovgivning er ikke det samme som tillatelse, men det er et vakuum og ofte er det nettopp i vakuum at overgrep skjer.

Det finnes et legitimt motargument her som fortjener å bli tatt alvorlig. Bør et privat selskap, som ikke er demokratisk valgt, med sine egne investorer og globale kundebase, diktere vilkårene for statens mest grunnleggende oppgave - å beskytte sine borgere? Pentagon sammenligner situasjonen med at Lockheed Martin ikke forteller luftforsvaret hvordan de skal fly F-35-ene de produserer. Amerikanske velgere har ingen innflytelse over Anthropics beslutninger, mens statlige tilsynsregimer i alle tre statsgrener gir ansvarliggjøring og klageadgang for militære handlinger. Da NSAs ulovlige overvåkning etter 11. september ble avslørt, reagerte offentligheten og Kongressen endret reglene. Det er demokratisk ansvarlighet i praksis.

Men AI er ikke som andre forsvarsteknologier. Det er en generell teknologi med potensial til å velte den globale maktbalansen. De som bygger disse systemene forstår dem bedre enn de fleste politikere og hvis Anthropic fjernet alle begrensninger og modellene oppførte seg uventet og farlig, ville selskapet utvilsomt bli holdt ansvarlig. At de da ønsker en viss kontroll over hvordan teknologien brukes er ikke urimelig.

Dario Amodei skrev tidligere i år om nedsiderisikoen ved AI i essayet «The Adolescence of Technology» som jeg skrev om «Ukens notater #61» og i dette essayet identifiserte han overvåkning og autonome drap som to av de største farene ved at autoritære krefter får tilgang til de kraftigste AI-modellene. Han påpekte at dagens autokratier er begrenset i hvor undertrykkende de kan være fordi de er avhengige av at mennesker utfører ordrene deres. AI-drevne autokratier ville ikke ha slike begrensninger.

Uansett utfall av denne konflikten er spørsmålet om demokratisk kontroll over AI ikke lenger science fiction, men realitet. Det er for meg ukens viktigste nyhetssak

The authoritarian AI crisis has arrivedAI safety researchers have long worried that a government would seek to use AI for domestic surveillance and autonomous killing. The Pentagon’s fight with Anthropic threatens to make it a realityPlatformerCasey NewtonStatement from Dario Amodei on our discussions with the Department of WarA statement from our CEO on national security uses of AIYou Should Have Moral Qualms about Anthropic’s QualmsAI is a tool to make the military stronger and the country safer. It can’t be held hostage.Freedom Frequency | Hoover InstitutionThe Real Reason Anthropic Wants GuardrailsAI is too powerful and too new to be set free from human oversight.The AtlanticThomas Wright

🤖 AI

Google lanserer Nano Banana 2

Google lanserte denne uka Nano Banana 2 som ny standardmodell for bildegenerering i Gemini-appen og Google Search i 141 land. Modellen støtter bilder opp til 4K, kan håndtere flere karakterer og objekter samtidig. Nano Banana 2 er en utrolig bra modell og Googles tilgang til unike treningsdata er åpenbare ettersom ingen andre foreløpig er i nærheten.

OpenAI verdsettes til 730 milliarder dollar

Fredag kunngjorde OpenAI at de har hentet hele 110 milliarder dollar i nye investeringer - deriblant 30 milliarder fra SoftBank, 30 milliarder fra NVIDIA og 50 milliarder fra Amazon. Alt i dollar. De innleder også et strategisk samarbeid med Amazon som sikrer dem enda mer compute. De kunngjorde også litt brukstall og har nå 900 millioner ukentlige aktive brukerr, mer enn 50 millioner forbrukerabonnenter og 1,6 millioner brukere av utviklerverktøyet Codex. Veksten til OpenAI fortsetter med andre ord, både på topplinjen og bunnlinjen.

AI-modeller anbefaler atom-angrep i krigssimuleringer

Forskere testet tre store språkmodeller i 21 simulerte krigsspill, hvor AI-ene ofte valgte å bruke kjernefysiske våpen tidlig og uten nøling. AI-modeller kan åpenbart handle mer aggressivt enn mennesker i krisesituasjoner og dette er jo absolutt relevant gitt diskusjonen mellom Anthropic og Pentagon. Samtidig er dette beslutninger vi får håpe aldri tas av en AI.

🌎 Big Tech

Taiwans chipdominans truer global teknologi

Taiwan produserer 90 prosent av verdens avanserte databrikker og en potensiell kinesisk blokkade kan lamme USAs teknologibransje og europeisk industri totalt. NYTimes dokumenterer hvordan CIA og amerikanske myndigheter har prøvd å presse Silicon Valley til å innse hvor stor risiko de tar med å outsource produksjonen av databrikekr til Taiwan.

Samtidig har Wall Street Journal et sjeldent innblikk i hvordan Apple jobber med TSMC for å investere 165 mrd dollar i produksjon av databrikker på amerikansk jord og flytter produksjon ut av Kina. Hvor er Europa?

96% av norske bedrifter er avhengige av USA

I en undersøkelse gjennomført av Proton kommer Norge nest dårligst ut i sin avhengighet av amerikansk teknologi - kun slått av Island. Dette bør være en øyeåpner, spesielt for stat og kommune som har gjort seg alt for avhengig av Microsoft når de absolutt ikke trenger det.

NATO godkjenner iPhone

Hva er definisjonen på en trygg mobil? For NATO er det en oppdatert iPhone. For første gang har nemlig NATO godkjent standard iPhones og iPad med iOS 26 til å håndtere klassifiserte data opp til nivået «restricted». En stor, stor fjær i hatten til Apples fokus på sikkerhet og personvern. På dette feltet er Apple milevis foran konkurrentene.

Elon Musk blokkerer russisk bruk av Starlink

I en veldig velkommen endring, ser det ut til at Elon Musk har tatt grep mot russisk bruk av Starlink samtidig som Ukraina har fått lov til å fortsette bruken. Starlink har vært essensiell på slagmarken for å styre droner og kommunisere. Det spekuleres i at Ukrainas nylige fremgang på slagmarken skyldes den brå og uventede blokkaden mot russisk bruk av Starlink. Godt nytt hvis dette stemmer.

Big-tech enige om ny smartlåsstandard

Aliro er en ny smartlåsstandard som er støttet av blant annet Apple, Google og Samsung. Det er effektivt Apples HomeKey-løsning som gjør det mulig å låse opp dører på samme måte som du betaler med Apple/Google Pay. Når du først har testet HomeKey, er Yale DoorMan en ganske dårlige opplevelse.

🌟 Annet

Netflix trekker seg fra Warner Bros-kjøp

Netflix har valgt å ikke kjøpe Warner Bros etter at Paramount kom med et bedre tilbud. Netflix vurderte at prisen var for høy og ikke økonomisk attraktiv og at avtalen var et 'nice to have' snarere enn et 'must have'. Blir dette et nytt Time Warner-ish fiaskooppkjøp for Paramount?

Sjeldne jordarter skaper fortsatt trøbbel

USA opplever fortsatt mange på sjeldne jordarter som er viktige for luftfart og halvlederindustri, til tross for handelsavtale med Kina som besitter kontroll over store deler av verdens beholdning. Knappheten truer produksjon og forsyningskjeder og gjør det selvfølgelig vanskelig å produsere nok GPUer og CPUer til AI raskt nok.

Russland omgår sanksjoner med krypto

Flere kryptobørser knyttet til Russland hjelper russiske aktører med å omgå internasjonale sanksjoner. Blockchain-analyse fra Elliptic viser hvordan disse tjenestene skjuler transaksjoner og dermed undergraver sanksjonenens effektivitet. Åpenheten til blockchain gjør det mulig for selskaper som Elliptic Labs å analysere hva som skjer. Det er ganske fascinerende sammenlignet med den lukkede verden av tradisjonell finans selv om det samtidig er nedslående at teknologien brukes til å omgå sanksjoner.

🌟 Likte du dette? Abonner!

Du kan få «Ukens notater» på e-post hver søndag og bli oppdatert på hva som skjer før uka starter.

Abonner

Email sent! Check your inbox to complete your signup.

Meld deg av når som helst. Ingen spam eller tull.