[Not Set]
▶ Watch on YouTubeCoverage note: subset (extrait d'environ deux minutes ; sous-titres YouTube automatiques)
Core ideas
Ce que la politique du Pentagone permet. À la question des contraintes pesant sur une arme autonome, l'invité répond que le plus important est ce que la politique ne dit pas : elle n'interdit pas d'automatiser la « chaîne de mise à mort » ni de construire un système létal autonome. Il souligne que les bureaucraties militaires sont par nature conservatrices et qu'on se trompe en imaginant qu'elles jetteraient sur le champ de bataille une technologie non éprouvée : on ne veut pas d'un système qui dysfonctionne ou qui « hallucine », donc tout nouveau système passe par des essais qui construisent la confiance.
Où mettre la ligne morale. Sur la limite morale, il distingue les usages défensifs et offensifs : un système intelligent envoyé « chasser des cibles » et décider seul quoi tirer sera soumis à un seuil bien plus élevé qu'un système comparable employé en défense, où l'on protège des vies humaines au lieu d'en prendre.
Excerpts
“« It doesn't say you're not allowed to automate the kill chain. »”
“« You don't want a weapon system that malfunctions. »”
“« there's going to be a far higher bar applied to letting that system go off and do those things »”