Esperti e scienziati guidati da un carismatico leader visionario delle nuove tecnologie davanti alle nazioni unite per chiedere una cosa sola: il bando dei robot guerrieri.Detta così potrebbe sembrare la trama di un racconto del padre della fantascienza Isaac Asimov, ma invece è il nostro presente. Si tratta del primo appello lanciato all’unisono dagli esponenti di 26 Paesi dell’industria dell’intelligenza artificiale. L’uomo in questione è Elon Musk, il fondatore della SpaceX e capo della Tesla motors, da sempre sensibile a questo tema. E con lui ci sono 116 specialisti di informatica e robotica provenienti da tutto il mondo. Centosedici leader dell’industria dell’intelligenza artificiale, compresi oltre che Elon Musk anche Mustafa Suleyman di Google, lanciano un appello che non dovrebbe essere ignorato. i
“Fermate i soldati-robot“, un messaggio chiaro e semplice lanciato dagli scienziati all’Onu da Melbourne, dove si trovavano riuniti nella International Joint Conference on Artificial Intelligence (IJCAI), che si è chiusa oggi stesso 25 agosto: Il senso dell’appello, che, visti i firmatari, è stato fatto evidentemente a ragion veduta, è che se una macchina capace di prendere decisioni in relativa autonomia venisse equipaggiata con un mitra, a poco varrebbero le leggi della robotica di Isaac Asimov, che per quanto utopistiche e fantascientifiche sono un faro nella discussione in corso sull’etica dei sistemi autonomi. Lo scrittore russo-americano aveva infatti formulato nei lontani anni ’40 tre leggi passate alla storia come leggi della robotica, per mezzo delle quali si potevano rendere coerenti e funzionali i suoi racconti. Esse stabilivano un preciso rapporto tra robot e umani.
- “Un robot non può recar danno a un essere umano né può permettere che, a causa del proprio mancato intervento, un essere umano riceva danno.”
- Un robot deve obbedire agli ordini impartiti dagli esseri umani, purché tali ordini non contravvengano alla Prima Legge.
- Un robot deve proteggere la propria esistenza, purché questa autodifesa non contrasti con la Prima o con la Seconda Legge.”
La lettera mette in guardia da un prossimo futuro in cui macchine indipendenti non saranno più governabili e, dotate di armi letali saranno in grado di scegliere i propri obiettivi: combattenti, nemici e civili innocenti. Il pericolo è sotto gli occhi di molti ormai, le macchine da guerra rimangono pur sempre prive di una mente e minacciano seriamente il futuro del nostro pianeta.
“Le armi letali autonome minacciano di essere la terza rivoluzione in campo militare. Una volta sviluppate, permetteranno ai conflitti armati di essere combattuti su una scala più grande che mai, e su scale temporali più veloci di quanto gli umani possano comprendere: sono armi che despoti e terroristi potrebbero rivolgere contro popoli innocenti”;recita così la lettera aperta, che vede il ritmo esponenziale di crescita dell’intelligenza artificiale come il successore di polvere da sparo e armi nucleari. E ancora: “Non abbiamo molto tempo per agire: una volta aperto il vaso di Pandora, sarà difficile richiuderlo”. Tradotto: le macchine da guerra autonome sono ordigni di morte incontrollabili.
Ma come funzionano questi robot-killer dotati di intelligenza artificiale? Rispetto ai primi esperimenti, piuttosto prevedibili, oggi l’autonomia di queste macchine usa sistemi programmati manualmente all’uso di reti neurali: una vasta serie di neuroni artificiali organizzati in matrici che possono essere addestrati a ripetere, comprendere e prevedere dati numerici in un modo ispirato alla corteccia visiva animale. Una sorta di mente umana, solo artificiale. E in quanto mente umana essa può compiere errori, difficilmente analizzabili con la tecnologia di oggi.
Lo scenario non è ipotetico e se alcuni anni fa poteva essere frutto delle fantasie di molti adesso è realtà, lo conferma il numero dei firmatari della lettera e l’urgenza con cui essa è stata inviata.
E ci sono diverse ragioni per cui questa “Terza rivoluzione in campo militare” potrebbe essere un triste regresso per l’umanità. La Guerra non potrebbe essere nemmeno più definita tale. E al di là del pensiero che ognuno può avere sui conflitti armati in generale (qui il dibattito è ampio), appare chiaro che uno scontro a fuoco aperto governato da computer è incontrollabile, più di qualsiasi azione belligerante umana. Negli ultimi due decenni la tecnologia ha fatto passi da gigante, e i vantaggi sono molti, è innegabile. Ma non sempre è cosi, più volte il progresso si è dimostrato regresso; le macchine da guerra ne sono un’ultima messa in mostra. Nonostante l’uomo si sia impegnato molto nel distruggere questo mondo, possiamo ancora contare sulla mente umana e non lasciare il nostro destino in mano a strumenti; finiremmo per diventare, per usare un’espressione del filosofo statunitense Henry David Thoreau, “strumenti dei nostri stessi strumenti” più di quanto già non lo siamo.
Ricordiamoci che queste macchine, per quanto sofisticate e spaventosamente somiglianti all’uomo, rimangono sempre strumenti tecnologici, che devono la loro intelligenza a uomini che si sono posti quesiti sempre più difficili per risolverli. Perfino Steve Jobs sosteneva che avrebbe buttato tutta la sua tecnologia per una serata con Socrate, simbolo di un intelligenza sempre capace di porsi problemi e non legata ad algoritmi matematici. Per chiudere con una citazione premonitrice di Albert Einstein:
“Un giorno le macchine riusciranno a risolvere tutti i problemi, ma mai nessuna di esse potrà porne uno.”
Non dimentichiamolo.
