Senator Elizabeth Warren mener USAs forsvarsdepartement kan ha gått etter AI-selskapet Anthropic som en form for gjengjeldelse, etter at departementet stemplet selskapet som en «forsyningskjederisiko» og i praksis svartelistet det.
I et formelt brev til forsvarsminister Pete Hegseth skriver Warren at beslutningen fremstår mistenkelig, og at departementet hadde flere mindre dramatiske alternativer.
– Jeg er spesielt bekymret for at DoD forsøker å presse amerikanske selskaper til å gi departementet verktøy til å overvåke amerikanske borgere og ta i bruk fullt autonome våpen uten tilstrekkelige sikkerhetsmekanismer, skriver Warren.
Viser til mulig maktbruk mot teknologiselskaper
Warren peker på at forsvarsdepartementet kunne ha valgt å avslutte kontrakten med Anthropic, eller å fortsette å bruke teknologien i systemer som ikke håndterer graderte opplysninger. I stedet valgte departementet å gi selskapet en mer alvorlig merkelapp, noe som kan få store konsekvenser for framtidige avtaler.
Saken kommer samtidig som flere senatorer ber om mer åpenhet rundt forsvarsdepartementets avtaler med teknologiselskaper. Dette skjer mens krigen i Iran fortsetter og har gått inn i sin fjerde uke.
Konflikt om tilgang og bruk
I dagene før krigen tilspisset uenigheten seg mellom forsvarsdepartementet og Anthropic. Departementet ønsket vid tilgang til selskapets modeller for alle «lovlige formål», mens Anthropic ba om garantier for at modellene ikke skulle brukes til fullt autonome våpen eller innenlands «masseovervåking».
Den 27. februar skrev Hegseth i et innlegg at han hadde instruert departementet om å gi Anthropic merkelappen «forsyningskjederisiko». En formell melding kom en uke senere. Samtidig fortsatte departementet å bruke Anthropics Claude-modell i Iran.
Anthropic saksøker myndighetene
Etter svartelistingen gikk Anthropic til søksmål mot Trump-administrasjonen. Selskapet mener det urettmessig er blitt behandlet som en trussel mot USAs nasjonale sikkerhet. En foreløpig høring er berammet til tirsdag i US District Court for Northern District of California.
OpenAI-avtale kom raskt etterpå
Noen timer etter at Anthropic ble svartelistet, kunngjorde OpenAI at selskapet hadde inngått en avtale med forsvarsdepartementet.
OpenAI har uttalt at de er trygge på at departementet ikke vil bruke selskapets AI-systemer til masseovervåking eller fullt autonome våpen, og viser til interne sikkerhetstiltak, gjeldende lovverk og kontraktstekst. Hele avtalen er imidlertid ikke offentliggjort.
Likevel skriver Warren at bekymringen ikke er borte, verken blant lovgivere, offentligheten eller enkelte ansatte i teknologiselskapene.
Warren krever innsyn fra Sam Altman
Warren ber også om svar fra OpenAI-sjef Sam Altman. I et eget brev ber hun om informasjon om innholdet i avtalen mellom OpenAI og forsvarsdepartementet.
– Jeg er bekymret for at vilkårene i denne avtalen kan gi Trump-administrasjonen mulighet til å bruke OpenAI-teknologi til å gjennomføre masseovervåking av amerikanere og bygge dødelige autonome våpen som kan skade sivile med liten eller ingen menneskelig kontroll, heter det i brevet.
Altman møtte nylig flere folkevalgte i Washington, D.C. Der skal senator Mark Kelly ha stilt «alvorlige spørsmål» om selskapets tilnærming til krigføring og kontrakten med forsvarsdepartementet.
Warren skriver at det i praksis er umulig å vurdere eventuelle sikkerhetsbarrierer uten å se hele kontrakten.
– Til syvende og sist er det umulig å vurdere eventuelle sikringstiltak og forbud i OpenAI-avtalen med DoD uten å se hele kontrakten, som verken DoD eller OpenAI har gjort tilgjengelig, skriver hun.
Hun legger til at informasjonen som så langt er offentlig kjent, gir grunn til betydelig uro om hvordan forsvarsdepartementet kan komme til å bruke kunstig intelligens.
Samtidig pekes det på at demokrater i Senatet har begrensede muligheter til å tvinge fram tiltak, ettersom republikanerne kontrollerer Det hvite hus og begge kamre i Kongressen.
