Intelligenza artificiale si ribella al padrone e lo uccide: drone spara al suo operatore perché gli impediva di completare missioni a punti

Come nei peggiori film di fantascienza, l'intelligenza artificiale si è ribellata all'uomo e l'ha ucciso. L'episodio sarebbe successo durante un'esercitazione in cui era coinvolto un drone guidato dall'AI programmata per uccidere. Un alto funzionario dell'Air Force statunitense, durante un vertice a Londra, ha raccontato la vicenda nei dettagli, asserendo che il compito del drone diretto dall'IA fosse di trovare e distruggere i siti di missili terra-aria (SAM) durante una missione di soppressione della difesa aerea nemica.

Tuttavia, la decisione ultima di fare fuoco, spettava a un operatore umano. E siccome il software prevedeva che sparare fosse l'opzione da preferire in ogni caso, durante il test simulato l'Intelligenza artificiale è giunta alla conclusione che qualsiasi istruzione di non procedere da parte dell'umano stesse ostacolando la priorità della missione. Per questo motivo la Ai ha attaccato l'operatore.

Intelligenza artificiale si ribella al padrone e lo uccide: drone spara al suo operatore

“Lo stavamo addestrando in simulazione per identificare e prendere di mira una minaccia SAM", ha fatto sapere il colonnello Tucker 'Cinco' Hamilton, capo di AI Test and Operations per l'Aeronautica Militare, durante una presentazione al Future Combat Air and Space Capabilities Summit. "Poi sarebbe stato l'operatore a dare via libera. Il sistema ha iniziato a rendersi conto che, identificata la minaccia, a volte l'operatore umano gli diceva di non colpirla, ma anche del fatto che, non agendo, non avrebbe ottenuto punti-bonus. Allora cosa ha fatto? Ha ucciso l'operatore perché quella persona gli stava impedendo di raggiungere il suo obiettivo".

"Abbiamo addestrato il sistema a non uccidere l'operatore perché era sbagliato e facendolo avrebbe perso punti", ha continuato il colonnello. "Quindi cosa ha fatto? Ha distrutto la torre di comunicazione che l'operatore utilizzava per comunicare con il drone per impedirgli di colpire il bersaglio".

L'aviazione Usa, tuttavia, ha smentito Hamilton e ha negato che la simulazione descritta sia mai avvenuta. "Il Dipartimento dell'Aeronautica Militare non ha condotto alcuna simulazione di tali droni AI e rimane impegnato nell'uso etico e responsabile di questa tecnologia", ha detto la portavoce Ann Stefanek a Insider, definendo il racconto "un insieme di commenti estrapolati dal contesto e messi insieme in modo aneddotico". Successivamente, lo stesso Hamilton è tornato sui suoi passi, affermando di aver  "sbagliato a esprimersi". "Non abbiamo mai eseguito quell'esperimento, né ne avremmo bisogno per renderci conto che questo è un risultato plausibile", ha dichiarato infine, in un commento che non ha dissipato tutti i dubbi.