Quanti corpi avrà l’intelligenza artificiale?

Il 15 aprile 2022 un incendio divorò una cinquantina di ettari della collina di San Quirico, ad Angera. Vigili del fuoco e volontari lavorarono tutta la notte. Sopra il bosco, insieme agli uomini, volarono i droni del nucleo SAPR dei vigili del fuoco, con le termocamere per seguire dall’alto il fronte del rogo. Non un matrimonio, non una guerra: occhi capaci di vedere ciò che gli uomini, nel buio e nel fumo, vedevano a fatica.

Meno di un mese dopo, l’8 maggio 2022, scrissi su VareseNews un pezzo intitolato “Sciame di droni, la nuova arma letale“. L’invasione russa dell’Ucraina era cominciata da poche settimane.
Nello stesso articolo raccontavo l’immagine opposta: i cinquecento droni che avevano illuminato il cielo sopra il Colosseo per il lancio del docufilm di Laura Pausini. Era già tutto lì: spettacolo e guerra, il singolo apparecchio e lo sciame. A distanza di quattro anni, però, mi accorgo che allora guardavo soprattutto i corpi. Nel frattempo è arrivato il cervello.
Che cosa è un drone, oggi. Ad agosto ero a Capo Sunio, al Tempio di Poseidone, al tramonto, con centinaia di persone. Sopra le nostre teste ronzava un drone e io, quasi automaticamente, cercavo di capire dove fosse la persona che lo stava pilotando. Ecco il problema: non il drone, l’immagine che ne abbiamo.
Perché un drone oggi può avere quattro eliche oppure le ali, essere grande come un aeroplano o avvicinarsi a un insetto, navigare in superficie, immergersi per centinaia di metri, muoversi sulla terra. Può restare collegato a un operatore oppure ricevere una missione e svolgerne da solo una parte. Chiamarli tutti “droni“ comincia a essere fuorviante. Quello che hanno davvero in comune sta in quattro verbi: vedere, capire, muoversi, agire.

Che non siano verbi astratti lo dimostra la cronaca di queste ore. Nella notte tra il 18 e il 19 settembre droni non identificati hanno costretto l’aeroporto del Lussemburgo a sospendere le operazioni e dirottare diciannove voli. Ad agosto, a Lipsia, un drone equipaggiato con esplosivo e detonatore era stato trovato nell’area di uno dei maggiori aeroporti cargo europei. In nessuno dei due casi serve immaginare una superintelligenza artificiale. Il problema è già più elementare: qualcuno, senza esporsi, può avere un corpo là dove non dovrebbe averlo.

Lo sciame di Amodei. Il 26 gennaio di quest’anno Dario Amodei, cofondatore e amministratore
delegato di Anthropic, ha pubblicato un saggio intitolato The Adolescence of Technology. Vi immagina uno sciame di milioni o miliardi di droni armati automatizzati, controllati localmente da un’intelligenza artificiale e coordinati su scala mondiale da un’intelligenza ancora più potente: un esercito imbattibile, capace, sono parole sue, sia di sconfiggere qualunque forza militare esistente sia di soffocare il dissenso interno seguendo ogni singolo cittadino.
È una previsione estrema, e lo stesso Amodei la presenta come tale; nasce dalla sua lettura della competizione tecnologica con la Cina. Il Guardian ci è tornato sopra recentemente proprio per discutere quanto quello scenario serva ad alimentare la paura dell’avversario. Ma l’indizio interessante non sono i miliardi. È il verbo coordinare.

Così mi immagino il dialogo in merito:
«Holmes, gli sciami esistevano già quattro anni fa. E l’intelligenza artificiale da molto prima.»

«Certamente, Watson.»
«Allora che cosa è cambiato?»
«La combinazione.»

Negli ultimi quattro anni abbiamo guardato quasi tutti nella stessa direzione: ChatGPT, Claude, Gemini, macchine che scrivono, traducono, programmano, conversano. Abbiamo osservato crescere il cervello. La traiettoria dei droni è stata molto meno visibile perché molto più dispersa: non c’è stato un “momento ChatGPT” del drone, nessuna applicazione che un lunedì mattina milioni di persone abbiano aperto insieme. I droni si sono moltiplicati in silenzio.
Quello che è successo nel frattempo, lo si vede bene a casa nostra. A gennaio, tra Barasso e Gavirate, un disperso nella notte nei boschi è stato cercato mettendo insieme squadre a terra, localizzazione del telefono e piloti di droni dei vigili del fuoco: ritrovato all’alba, in ipotermia ma vivo. A giugno, sul lago di Monate, nelle ricerche di un uomo scomparso in kayak sono stati impiegati sommozzatori, sonar e droni. Non sono più episodi eccezionali.

Sotto la superficie del mare, intanto, sta accadendo qualcosa di più interessante. La NOAA statunitense sta installando intelligenza artificiale direttamente a bordo di veicoli subacquei, perché imparino a individuare, seguire e identificare da soli gli animali delle profondità: in una missione di 69 ore un veicolo autonomo ha documentato diverse specie di sifonofori, e l’obiettivo successivo è lasciargli modificare da solo parte del proprio comportamento. Sul fronte militare la scala è diversa: ad aprile DARPA ha aperto Deep Thoughts, un programma dedicato a piccoli veicoli autonomi capaci di raggiungere le massime profondità oceaniche, con tempi di sviluppo ridotti da anni a mesi.
Alcune versioni pesano meno di un decimo di grammo, altre hanno dimostrato di poter passare dall’acqua all’aria. Esistono anche prototipi capaci di volare senza cavo, ma siamo ancora lontanissimi da microrobot pienamente autonomi che operino liberamente nel mondo reale.
Come muoversi, dove andare, che cosa cercare. Il punto non è stabilire se il drone del futuro sarà grande o piccolo, se volerà o nuoterà. È capire come cambia il rapporto tra la macchina e chi le assegna un compito. All’inizio l’essere umano le diceva come muoversi: sali, gira a destra, scendi.
Poi dove andare: raggiungi queste coordinate. Ora può sempre più spesso dirle che cosa cercare: individua un’anomalia, trova una persona, identifica quell’animale. Il passaggio successivo è dirle che cosa ottenere, lasciandole libertà su come riuscirci.
È qui che l’intelligenza artificiale esce dallo schermo. Finora l’abbiamo conosciuta quasi priva di corpo: può scrivere una diagnosi, ma non entra in una stanza; può analizzare un incendio, ma non vola sopra le fiamme. Il drone compie il passaggio successivo: porta l’intelligenza nel mondo fisico. Ed è forse la parte della rivoluzione dell’AI che stiamo guardando meno.

Le macchine hanno sempre moltiplicato la nostra forza. Il prossimo salto potrebbe essere la moltiplicazione dell’attenzione: una persona che supervisiona decine o centinaia di macchine capaci di osservare luoghi diversi e intervenire. A quel punto lo sciame cambia significato. Nel 2022 mi chiedevo che cosa sarebbe successo se invece di un drone ne fossero arrivati cento: ma la domanda conteneva ancora un presupposto antico, cento macchine come cento oggetti separati. La domanda dei prossimi quattro anni è che cosa succede quando cominciano a comportarsi come un sistema. Ed è questo, molto più del numero, che rende inquietante lo scenario di Amodei.
Sarebbe un errore lasciare che la guerra occupasse tutto il campo visivo: lo stesso principio può cercare un disperso in un bosco, controllare migliaia di chilometri di linee elettriche, portare medicinali dove una strada non arriva. La tecnologia non contiene in sé la decisione su che cosa debba cercare. Quella resta nostra. Ma “nostra“ non è un’astrazione morale: è un insieme di regole scritte, e vale la pena sapere a che punto sono.

Per i droni civili una cornice europea esiste ed è dettagliata, con ENAC come autorità nazionale: chi ha fatto volare quei droni sopra Angera sapeva sotto quali regole lo stava facendo. Sul fronte militare, invece, il vuoto è enorme e in parte è stato scavato apposta: l’AI Act europeo, all’articolo 2, esclude espressamente dal proprio campo di applicazione i sistemi usati per scopi militari, di difesa o di sicurezza nazionale. La legge europea sull’intelligenza artificiale non si occupa dell’intelligenza artificiale in guerra.
Quel capitolo è rimasto a Ginevra. Quest’estate quasi 130 Stati hanno trovato un accordo su una definizione condivisa di sistema d’arma autonomo, e il 25 agosto il segretario generale dell’ONU António Guterres e la presidente della Croce Rossa internazionale Mirjana Spoljaric hanno chiesto insieme un trattato vincolante, avvertendo che il mondo è pericolosamente vicino a superare una linea rossa morale: quella oltre la quale è una macchina a scegliere un essere umano come bersaglio. Stati Uniti e Russia frenano. Si decide a novembre.
L’espressione attorno a cui ruota tutto è “controllo umano significativo”. Che poi, tradotta dal linguaggio diplomatico, è la stessa domanda che ci si fa guardando un drone sopra un porto: chi decide, e quanto è vicino.
Per quasi tutta la storia umana vedere, capire, decidere, muoversi e agire sono state parti inseparabili della stessa creatura: per fare qualcosa nel mondo serviva un corpo umano presente in quel luogo. Stiamo separando quelle funzioni. Gli occhi possono essere a diecimila metri di altezza, il corpo sul fondo dell’oceano, il cervello in un data center dall’altra parte del mondo.

«Allora facciamo una previsione, Holmes.»
«Mai prevedere quando si può osservare, Watson. Continuate pure a domandarvi quanto diventerà intelligente l’intelligenza artificiale, ma tenete d’occhio anche l’altra metà della storia.»
«Quale?»
Quanti corpi avrà.