AI in het leger: dit zijn de uitdagingen

Hoe ziet een doelwit eruit? Is het verantwoord om het doelwit aan te vallen? En waar moeten de raketten dan neerkomen? In de oorlog met Hamas laat het Israëlische leger de beantwoording van deze vragen over aan een AI-systeem dat zelf een risico-afweging maakt.

Het systeem heet Habsora, Hebreeuws voor ‘evangelie’ of ‘goed nieuws’. Door allerlei data aan het systeem te voeren, leert het hoe een Hamasstrijder eruitziet. Die data worden bijvoorbeeld verzameld door onbemande drones die boven de Gazastrook vliegen. Vervolgens wordt het geïdentificeerde doelwit doorgestuurd naar het Israëlische leger, dat de aanval coördineert.

Rol AI neemt toe

AI speelt al langer een belangrijke rol in het leger, zoals bij het simuleren van gevechtssituaties, het uitvoeren van onbemande transporten, het evacueren van slachtoffers, of bij cybersecurity. Het gebruik van semi-autonome wapens, drones en openbare bronnen om daarmee de informatiepositie te versterken, maakt militaire operaties hoogtechnologisch. Binnen een paar seconden heb je een compleet beeld van de vijand op je scherm.

Ook in Nederland zien we praktische toepassingen van datascience en AI. Denk dan aan automatische inzet- en onderhoudsplanning bij de luchtmacht en de marine, automatische beeldherkenning bij de landmacht en marechaussee en dashboards voor het tonen van meldingen bij de Inspectie Veiligheid Defensie. In het politiewerk en bij de brandweer zijn deze technologieën eveneens niet meer weg te denken. Zo beschikt de Brandweer IJsselland inmiddels over een verkennings- en blusrobot.

Gemeenschappelijke uitdagingen

De Nederlandse krijgsmacht investeert de komende jaren fors in datascience en AI. De focus ligt daarbij op onbemande autonome systemen, (militaire) besluitvormingsondersteuning

en inlichtingen, logistiek en predictive maintenance, bedrijfsvoering en veiligheid. “Al met al is het doel is om relevante informatie sneller en beter dan onze tegenstanders op ieder gewenst niveau te gebruiken voor de optimale inzet van de krijgsmacht”, zo staat in de Defensie Strategie Data Science en AI 2023-2027.

In die strategie klinkt ook een waarschuwing door. “Er zijn gemeenschappelijke uitdagingen die om een integrale aanpak vragen.” We noemen er enkele:

1. Complexiteit databeheer

Het verwerken van databronnen tot sturingsinformatie verbetert en versnelt operationele handelingen. De keerzijde is dat organisaties steeds grotere hoeveelheden gegevens moeten beheren en delen, en vaak ook gevoelige gegevens. Een ‘information overload’ ligt al snel op de loer.

Defensie heeft al de nodige acties in gang gezet om de grote hoeveelheden data beheersbaar te houden. Zo investeert de organisatie in de ontwikkeling van een hooggerubriceerde IT-infrastructuur voor datadeling en -verwerking. Daarnaast maken bijvoorbeeld gestandaardiseerde protocollen en een veilige, betrouwbare cloudinfrastructuur een uitgebreide gegevensuitwisseling mogelijk.

2. Kwaliteit van data

“Met schermen die op zwart gaan, kunnen we wel omgaan. Maar als binnenkomende data niet kloppen, kan dat desastreuze gevolgen hebben”, zei Jude Sunderbruch, directeur van het Cyber Crime Center van het Amerikaanse ministerie van Defensie, onlangs tijdens het Google Defense Forum. Als je tactische en strategische beslissingen neemt op basis van data, dan moet je volledig kunnen vertrouwen op die data. Zeker in oorlogssituaties.

Voor het waarborgen van de datakwaliteit zijn robuuste validatie- en verificatieprocessen cruciaal. Dit omvat continue monitoring, het schoonmaken van data en het gebruik van geavanceerde algoritmes om inconsistenties te detecteren en te corrigeren, waarbij de integriteit en nauwkeurigheid van data centraal moeten staan.

3. Naleving wet- en regelgeving

Wet- en regelgeving is altijd al een belangrijk thema geweest binnen de sector, en de inzet van datascience en AI doet daar nog een schepje bovenop. Van Defensie en andere overheidsorganisaties wordt verwacht dat de implementatie van nieuwe technologieën transparant is en dat uitkomsten uitlegbaar zijn. De inzet van AI moet ethisch en juridisch correct zijn.

De eerder genoemde strategie voorziet dan ook in de ontwikkeling van een normenkader waarbij algoritmen middels een audit zijn te toetsen. Daarnaast worden er kaders en richtlijnen ontwikkeld om de werking van een algoritme, de gemaakte keuzes en het gebruik op de werkvloer te documenteren.

4. Aantrekken kennis en kunde

Voor een optimale inzet van datascience en AI zijn medewerkers met een specialistische kennis en kunde nodig. Volgens de Defensie Strategie Data Science en AI 2023-2027 is er echter sprake van ‘beperkte capaciteit om de ambities van Defensie te behalen’. Het aantrekken van de juiste mensen is een grote uitdaging.

Defensie luidde enkele jaren geleden al de noodklok. Vooral de behoefte aan IT-capaciteit voor bedrijfsvoering, data (science) en cyberbeveiliging is groot. Deze behoefte is volgens Defensie niet op korte termijn in te vullen. Een Data Science Centre of Excellence bij de Nederlandse Defensie Academie moet voor verlichting zorgen. Technologieën zoals datascience en AI krijgen een plaats in militaire opleidingen en onderzoek. Een hoogleraar Data Science moet daarvoor zorgen.

5. Waarborgen soevereiniteit

Het zo soeverein mogelijk houden van de IT wordt een steeds grotere uitdaging voor kritische gebruikers binnen de publieke sector. Door de groeiende afhankelijkheid van grote techspelers en de toenemende integratie van clouddiensten moeten organisaties voorzichtig balanceren tussen het benutten van technologische voordelen en het behouden van autonomie.

Een te grote afhankelijkheid kan de veerkracht en autonomie in gevaar brengen bij uitval, beperkte toegankelijkheid of andere verstoringen. Het ontwikkelen van strategieën en capaciteiten om IT-soevereiniteit te waarborgen, is daarom belangrijk voor de operationele continuïteit en veiligheid.

Puur Nederlands

“Als een puur Nederlands bedrijf met een sterke culturele klik met onze klanten hebben we een diepgewortelde missie om Nederland veilig te houden”, zegt Michiel Hogenboom, VP Public a.i. en Public Critical bij KPN. “Dat is onze verantwoordelijkheid. Soevereiniteit staat daarbij voorop. Een veilig Nederland mag niet afhankelijk zijn van buitenlandse factoren.”

"KPN staat zij aan zij met kritische gebruikers zoals Defensie, politie, brandweer en Rijkswaterstaat”, vervolgt Hogenboom. “Samen zetten we geavanceerde technologie in om sneller en effectiever te reageren in noodsituaties, waarbij onze gezamenlijke inzet cruciaal is voor nationale veiligheid.”