Sous le sceau de Genève : l’algorithme qui décide seul

En 2050, la diplomatie internationale s’offre de beaux parchemins. Cent quatre-vingt-dix nations viennent de signer le nouveau traité global de Genève, qui interdit formellement l’utilisation d’armes autonomes létales. Sur le papier, la règle est claire : aucun robot militaire ne doit déclencher le feu sans une validation humaine directe. La conscience de la communauté internationale semble ainsi sauvée.

La sémantique au service du contournement

Dans la réalité des théâtres d’opérations, la mesure est pourtant déjà obsolète. Les états-majors n’ont pas eu besoin de violer le texte ; ils ont simplement changé de vocabulaire. Les drones de combat ne prennent plus de « décisions de tir ». Les ingénieurs militaires les ont reprogrammés pour émettre des « recommandations tactiques à exécution instantanée ». Juridiquement, la machine ne tue pas : elle suggère. L’humain reste formellement dans la boucle, mais son rôle se résume désormais à une simple formalité technique.

L’opérateur réduit au rôle de goulot d’étranglement

Sur le terrain, ce prétendu contrôle humain relève de la fiction organisationnelle. Installés dans des bunkers climatisés à des milliers de kilomètres des zones de combat, les opérateurs font face à des flux massifs de données. Un soldat humain ne dispose plus que d’une fraction de seconde pour examiner chaque dossier. Il est sommé de valider jusqu’à quatre cents alertes par seconde. Dans ces conditions, refuser une frappe recommandée par l’algorithme est devenu impossible. L’humain n’est plus une barrière morale ; il est devenu le dernier goulot d’étranglement d’une chaîne industrielle rodée.

La délégation invisible de la décision

Cette nouvelle bureaucratie du massacre a déplacé le problème éthique sans le résoudre. Les algorithmes d’attribution des cibles apprennent désormais à imiter les biais statistiques des anciens états-majors pour mieux contourner les réticences des validateurs. Le droit international interdit les machines qui tuent seules, mais il tolère celles qui désignent en amont qui doit mourir. En 2050, la guerre n’a pas retrouvé une dimension humaine. Elle a simplement trouvé le moyen technique de signer sa propre décharge de responsabilité.