Ruzie tussen het Pentagon en een AI-bedrijf: waarvoor mag je AI inzetten?
Waar ligt de rode lijn voor het inzetten van AI in het leger? De Amerikaanse minister van Defensie Hegseth en het AI-bedrijf Anthropic hebben er een hoogoplopend conflict over.
Anthropic wil niet dat met zijn AI-model massasurveillances of autonome wapensystemen gemaakt worden. Minister Hegseth wil juist geen beperkingen opgelegd krijgen. Net als OpenAI, de maker van ChatGPT, heeft Anthropic een eigen chatbot ontwikkeld. Het bedrijf is minder bekend bij het grote publiek, maar gooit hoge ogen in de techwereld.
De kwestie draait om een deal die Anthropic en het ministerie vorig jaar sloten, waar zo'n 200 miljoen dollar mee gemoeid was. Het bedrijf kondigde "een nieuw hoofdstuk" aan, zo klonk het in een persbericht.
Van dat optimisme is weinig over. Begin dit jaar werd de discussie over die "verantwoorde AI", zoals Anthropic het omschrijft, ontketend. Hegseth stuurde een memo waarin stond dat de AI-toepassingen voor alles gebruikt mogen worden, zolang het binnen de wet past.
AI over leven of doodHet memo leidt tot wrevel bij Anthropic dat de volgens het bedrijf verantwoorde AI-afspraken in één pennenstreek ziet verdwijnen. Anthropic wil koste wat kost voorkomen dat het AI-model gebruikt wordt voor massasurveillance, het grootschalig in de gaten houden van Amerikanen. Ook wil het niet bijdragen aan een autonoom wapensysteem, een techniek waardoor AI beslist over leven of dood.
Anthropic heeft zich gepositioneerd als 'buitenbeentje' binnen de AI-sector. Anthropic-topman Dario Amodei was een van de ontwerpers achter OpenAI, maar vertrok omdat hij het niet eens was met de koers van het bedrijf. Met zijn zus richtte hij daarom in 2021 Anthropic op.
Ontvoering Maduro'Verantwoord' wordt het toverwoord. Amodei wil nieuwe techniek niet zomaar lanceren, zonder te weten wat de gevolgen zijn. Hij waarschuwde begin dit jaar in een essay dat overheden AI kunnen inzetten tegen burgers.
Toch sloot Amodei's bedrijf vorig jaar het contract met het Pentagon. Als enige AI-bedrijf voldoet het aan de hoogste veiligheidseisen, schrijft techsite The Verge. Volgens bronnen van The Wall Street Journal is de technologie daarnaast gebruikt bij de operatie om de Venezolaanse president Maduro te ontvoeren. Hoe precies, is nog altijd geheim.
AI kan op allerlei manieren ingezet worden, vertelt Paul Verhagen, technologie en geopolitiek-expert bij het Den Haag Centrum voor Strategische Studies. "Tijdens de operatie rondom Maduro kan AI bijvoorbeeld ingezet zijn om sociale media te analyseren om te kijken of de operatie nog geheim is."
Rare dynamiekHegseth lijkt geen tegenspraak te dulden. Hij wil voor vrijdag weten of Anthropic meegaat in de eisen of niet. Als het AI-bedrijf dat niet doet, gaat Hegseth het contract ontbinden. Ook dreigt hij om het bedrijf als supply chain risk aan te merken.
Dat zou betekenen dat producten van Anthropic niet meer gebruikt mogen worden door het leger. Ook andere bedrijven die gebruikmaken van de technologie van Anthropic en diensten leveren aan het Pentagon moeten hier dan mee stoppen.
Volgens Verhagen wordt dat label van de supply chain risk bijna nooit gebruikt voor Amerikaanse bedrijven. "Het soort bedrijven waar je dit op zou toepassen, zijn bedrijven die bijvoorbeeld gelieerd zijn aan de Chinese staat of Russische staatsoliemaatschappijen", zegt hij. "Aan de kant van het Pentagon krijg je ook een rare dynamiek: als we de technologie willen versnellen, waarom ben je dan je eigen bedrijven aan het uitbannen?"
Correspondent VS Ryan Hermelijn:"Anthropic zegt het motto 'verantwoord omgaan met AI', als leidende bedrijfsfilosofie te hebben. En de vraag om het ministerie van Oorlog ongebreidelde toegang te geven tot z'n AI-modellen lijkt daar haaks op te staan. Hiermee staat Anthropic voor een dilemma waar eerder ook Google mee worstelde. Dat had het motto 'Don't be evil', dat vooral een marketinginstrument bleek in de strijd om wereldwijd de dominante zoekmachine te worden. Hiervoor werden militaire contracten binnengehaald en samengewerkt met autocratische regimes.
Voor het miljardenbedrijf is het contract van 200 miljoen dollar dat minister Hegseth dreigt te ontbinden, een bijzaak. Het bedrijf maakt zich meer zorgen dat het totaal buitenspel wordt gezet in de toeleveringsketen van het Pentagon, een maatregel die normaal alleen wordt toegepast op buitenlandse entiteiten in het kader van de nationale veiligheid. Die ultieme straf kan grote gevolgen hebben voor de groei en innovatie op de lange termijn en kan concurrenten die minder principieel te werk gaan een groot voordeel geven.
Dit is hoe dan ook een belangrijke testcase over de vraag of morele bezwaren en rode lijnen van techbedrijven überhaupt houdbaar zijn in de nieuwe AI-wapenwedloop, waar nog weinig spelregels voor zijn geschreven."