Ex capo del DOD: gli Stati Uniti hanno bisogno di un nuovo piano per battere la Cina con l’IA

Mercoledì, io ha ospitato una discussione con l’ex segretario alla difesa Ashton Carter, che ora è il direttore del Belfer Center for Science and International Affairs presso la Harvard Kennedy School. La conversazione faceva parte della programmazione CES di WIRED, che ha affrontato le maggiori tendenze che daranno forma al 2021, dalla medicina alla guida autonoma alla difesa. Abbiamo risposto alle domande degli spettatori in tempo reale. La conversazione è stata leggermente modificata per chiarezza.


Nicholas Thompson: Hai avuto un’incredibile carriera di 35 anni nel governo degli Stati Uniti e nel settore privato, lavorando per Repubblicani e Democratici, cercando sempre di identificare qual è la questione più importante del nostro tempo, le soluzioni più intelligenti e i modi più giusti a pensarci.

Quando eri Segretario alla Difesa, avevi una politica molto razionale secondo cui in ogni decisione di uccisione doveva essere coinvolto un essere umano. Quindi, se ci fosse un’arma di intelligenza artificiale, non potrebbe prendere la decisione di sparare da un drone. E la domanda su cui mi sono chiesto è se questa giustificazione rimane la stessa per le armi difensive. Potete immaginare un futuro sistema di difesa missilistica che possa identificare più accuratamente di un umano che c’è un missile in arrivo, più accuratamente di un umano mirare alla risposta e più rapidamente di un essere umano prendere la decisione. Abbiamo bisogno di avere gli umani nel giro in situazioni difensive così come in situazioni offensive?

Ash Carter: Ebbene, la difesa è più facile in senso morale che offensiva. Nessuna domanda a riguardo. A proposito, Nick, hai usato la frase “persona nel loop”. Non penso che sia davvero pratico. Non è letteralmente possibile, e non è stato per un bel po ‘di tempo, avere un essere umano nel ciclo decisionale. Quello di cui parli invece, o di cui stiamo parlando entrambi, è come ti assicuri che ci sia un giudizio morale coinvolto nell’uso dell’IA? Oppure, detto diversamente, se qualcosa va storto, qual è la tua scusa? Stai davanti a un giudice, stai davanti ai tuoi azionisti, stai davanti alla stampa e come spieghi che qualcosa di sbagliato non era un crimine o un peccato? E quindi siamo molto pratici al riguardo.

Se vendi annunci, ovviamente, non importa molto. OK, ho lanciato un annuncio a qualcuno che non ha acquistato nulla: errore di tipo uno. Oppure non sono riuscito a proporre un annuncio a qualcuno che potrebbe aver acquistato qualcosa: errore di tipo due. Non un grande affare. Ma quando si tratta di sicurezza nazionale, uso della forza o dell’applicazione della legge o fornitura di cure mediche, questi sono troppo gravi per questo.

Ora, in difesa, l’offesa è la responsabilità più cupa, e la difesa meno. Ad esempio, il comando e il controllo nucleare sono pesantemente caricati dall’uomo, a cominciare dal presidente degli Stati Uniti. Io, come segretario alla difesa, non avevo autorità e le persone sotto di me non avevano autorità. E per quanto possibile, non siamo abilitati a lanciare armi nucleari. Abbiamo richiesto un codice al presidente. Ho portato io stesso un codice che mi avrebbe autenticato, perché è l’atto più grave di tutti.

Un caso più semplice è il lancio di un missile intercettore su un missile in arrivo. Ora, se va storto o lo fai per errore, un missile si alza in aria ed esplode e tu hai sprecato dei soldi, ed è imbarazzante, ma non ci sono perdite di vite umane. Quella decisione il presidente mi ha delegato, e io a mia volta l’ho delegata al comandante del Comando settentrionale degli Stati Uniti, il generale Lori Robinson. Ed era OK che fosse sceso a un livello inferiore, perché è un atto meno grave. In mezzo c’è l’autorità di abbattere un aereo di linea, il che è anche grave, ma il presidente l’ha delegato al segretario alla Difesa, quindi era una sorta di interferenza, e me lo portavo sulle spalle ogni giorno. E saresti sorpreso di quante volte ciò accada, dove un aereo va fuori rotta, la radio non funziona, si sta dirigendo verso il Campidoglio degli Stati Uniti, e questa è una situazione senza possibilità di vittoria. Quindi dipende.

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *