Militaire top moet leiden tot 'ethisch AI-gebruik'
Vandaag begint in het Spaanse A Coruña de derde REAIM-top. Op die top praten meer dan honderd landen over het militaire gebruik van kunstmatige intelligente (AI). Het belangrijkste agendapunt: hoe ervoor te zorgen dat militair AI-gebruik binnen ethische grenzen blijft?
Het is de bedoeling om tijdens de top tot internationale overeenstemming te komen. Nederland wil dat er zo vaak mogelijk een mens betrokken blijft bij militaire beslissingen. Deskundigen noemen dat een 'human in the loop'. Militaire AI mag dan dus niet zelf besluiten nemen, maar is er uitsluitend om militairen te voeden met informatie of opdrachten uit te voeren.
Defensieminister Brekelmans zegt daarover tegen de NOS: "AI speelt een steeds grotere rol op het gevechtsveld. Dat biedt kansen om militairen en burgers beter te beschermen, maar vraagt ook om duidelijke grenzen en menselijke sturing. Op de REAIM-top maakt Nederland zich sterk voor verantwoorde militaire AI."
AI wordt al gebruikt in oorlogssituaties. Israël gebruikte bijvoorbeeld een AI-systeem dat doelwitten in Gaza bepaalde en op het slagveld in Oekraïne wordt gevochten met drones die door AI zelfstandig kunnen vliegen.
Ook de Nederlandse krijgsmacht gebruikt al AI en experimenteert met nieuwe toepassingen.
Soms wordt AI in Nederland toegepast om een simpel handje te helpen, bijvoorbeeld door erop te wijzen dat een tank aan onderhoud toe is, maar Defensie experimenteert ook met het vaststellen van militaire doelwitten. "We voeren verschillende innovatieprojecten uit op dit thema", zegt een woordvoerder.
"Als je tien uur videomateriaal hebt, dan moet nu nog een militair naar dat materiaal kijken. AI kan je helpen dat binnen een paar seconden te analyseren om zo een doelwit te bepalen", zegt Roy Lindelauf, hoogleraar Data Science in Militaire Operaties bij de Nederlandse Defensie Academie. Hij is ook op de top in Spanje.
"Een schutter hoeft dan alleen nog op de knop te drukken", voegt AI-expert Bart van den Berg van onderzoeksinstituut Clingendael toe. Hij legt uit dat ook autonome AI-systemen de Nederlandse krijgsmacht zouden kunnen helpen. Dat zijn systemen die een gegeven taak volledig zelfstandig kunnen uitvoeren, zonder dat daar een mens aan te pas komt.
"Denk bijvoorbeeld aan robotwagens die autonoom munitie kunnen vervoeren naar het slagveld."
'Killerdrones'Defensie is huiverig voor autonome systemen, want die kunnen ook worden gebruikt om bijvoorbeeld drones mee te maken die hun doelwit zelf bepalen en vervolgens beschieten. Die drones, zonder 'human in the loop', worden vaak killerdrones genoemd.
Volgens ondernemer Marc Derksen is dat voor AI niet erg lastig. "Die technologie bestaat al lang. Het is voor programmeurs een kwestie van twee softwareregels in de code van de AI om te zeggen: vuur zelf ook af."
Derksen is een van de oprichters van Intelic, een AI-startup die software maakt voor militaire drones. Het bedrijf werkte al samen met Defensie.
Op kantoor in Amsterdam legt Derksen uit hoe ze te werk gaan:
Derksen wil autonome killerdrones niet direct afwijzen. "Het concept van 'human in the loop' is enorm context-afhankelijk", legt hij uit.
"Als je bijvoorbeeld weet dat in een bos van 200 bij 200 meter Russische militairen zitten en we geven de drone de opdracht om hen aan te vallen, dan vinden we dat misschien acceptabel. Maar in verstedelijkt gebied is het natuurlijk niet aanvaardbaar. Het gaat om dezelfde technologie, maar de militair beslist wat hij er mee doet en in welke context hij het gebruikt."
Chemische wapensAls het op de REAIM-top tot afspraken komt, wil dat nog niet zeggen dat alle landen zich daar ook aan gaan houden. "We zien wel dat in China de ethische begrenzingen minder nauw worden genomen", zegt Van den Berg. "Dat geldt ook voor Israël, zij vinden meer acceptabel dan wij."
In tegenstelling tot China en Israël loopt Rusland juist achter als het om AI gaat. "Zij halen veel componenten uit Europa of China, ondanks sancties. Zij zijn dus minder geavanceerd."
Hoogleraar Lindelauf hoopt dat internationale afspraken er op termijn wél voor zorgen dat niemand onethisch met militaire AI omgaat. "Na de Eerste Wereldoorlog hebben we ook met elkaar uitgesproken dat we chemische wapens niet moeten inzetten. Als je dat met genoeg landen doet, kun je elkaar er ook aan houden."