A9 Réduction de la marge d'intervention humaine par l'automatisation

Topique

Le modèle de commandement et de contrôle a déjà établi le jugement humain comme décideur final dans un laps de temps très court. Cette anomalie apparaît lorsque les systèmes d'aide à la décision basés sur l'automatisation ou l'intelligence artificielle, conçus pour accélérer la réponse à une menace perçue, finissent par réduire encore davantage cette même fenêtre de vérification : plus le système automatisé réagit rapidement, moins le jugement humain a de temps pour intervenir, même si le système conserve formellement un point de décision humain dans le processus.

Contrairement aux systèmes de la Guerre froide, où l'intervention humaine directe dans chaque décision critique était la norme explicite, un système plus automatisé génère une pression – de par sa rapidité même – en faveur de décisions plus rapides avec moins de possibilités de vérification indépendante, même si personne n'a formellement décidé d'éliminer ce point de contrôle humain.

C'est pourquoi ce modèle, qui commence par une automatisation conçue pour accélérer la réponse, est particulièrement pertinent pour les scénarios futurs avec des armes hypersoniques ou des systèmes de défense assistés par l'intelligence artificielle : plus le temps de vol d'un système de lancement est court, plus il comprime la fenêtre de décision déjà établie par le modèle de commandement et de contrôle, un sujet de débat actif dans les forums de gouvernance des technologies militaires.

ID:5013