Qualche giorno fa un amico mi ha chiesto se l\u2019intelligenza artificiale sia una bolla. Non me l\u2019ha detto, forse per pudore, ma ho avuto l\u2019impressione che dietro la domanda ce ne fosse un\u2019altra: quando OpenAI e Anthropic arriveranno in Borsa, avr\u00e0 senso investirci? O forse scommetterci \u00e8 la parola pi\u00f9 precisa.<\/p>\n
Gli ho risposto che s\u00ec, probabilmente l\u2019AI \u00e8 anche una bolla. Ci sono quantit\u00e0 enormi di denaro, aspettative, valutazioni e promesse. Alcune saranno mantenute, altre no. Ma potrebbe finire un po\u2019 come con lo smart working. Dopo il Covid sembrava che non saremmo mai pi\u00f9 tornati in ufficio. Poi ci siamo tornati. La rivoluzione si \u00e8 ridimensionata, ma lo smart working non \u00e8 scomparso. Per milioni di persone \u00e8 diventato semplicemente uno dei modi normali di lavorare.<\/p>\n
Potrebbe accadere qualcosa di simile con l\u2019intelligenza artificiale. La bolla pu\u00f2 scoppiare. L\u2019AI no. \u00c8 gi\u00e0 entrata nel modo in cui lavoriamo, studiamo, cerchiamo informazioni, scriviamo software e analizziamo dati.<\/p>\n
Da qualche tempo sui social gira un meme che mi fa sorridere. Davanti all\u2019ennesimo scenario inquietante sull\u2019intelligenza artificiale arriva qualcuno che risolve tutto nel modo pi\u00f9 semplice possibile: stacca la spina. Fine del problema. Solo che forse, ormai, non c\u2019\u00e8 pi\u00f9 una sola spina da staccare.<\/p>\n
Pochi giorni fa sono usciti i nuovi risultati PISA. I dati OCSE mostrano che gli studenti che dichiarano di utilizzare l\u2019AI per alcune attivit\u00e0 scolastiche ottengono mediamente risultati inferiori in scienze rispetto a chi non la usa in quel modo. L\u2019OCSE precisa per\u00f2 che si tratta di un\u2019associazione, non della prova che sia l\u2019intelligenza artificiale a causare il risultato.<\/p>\n
\u00c8 il tipo di problema che vediamo bene perch\u00e9 accade davanti a noi: nelle scuole, nelle famiglie, negli uffici. Ci chiediamo se i ragazzi delegheranno all\u2019AI una parte del pensiero. Se noi stessi diventeremo pi\u00f9 veloci ma meno capaci.<\/p>\n
Ma ci sono anche altre scale. L\u2019energia necessaria per far funzionare questi sistemi. I data center. I chip. L\u2019acqua. Il capitale necessario per costruirli. La concentrazione del potere tecnologico. La competizione fra Stati Uniti e Cina. E soprattutto quello che sta accadendo dentro il processo con cui l\u2019intelligenza artificiale migliora se stessa.<\/p>\n
Forse continuiamo a discutere soprattutto di quello che l\u2019AI sta facendo a noi, mentre ci chiediamo molto meno che cosa stia succedendo all\u2019AI. Poi \u00e8 arrivato Dario Amodei.<\/p>\n
Il 12 settembre il fondatore e amministratore delegato di Anthropic ha pubblicato un testo dal titolo We Must Pace the Frontier. La richiesta \u00e8 semplice: rallentare la velocit\u00e0 con cui aumentano le capacit\u00e0 dei sistemi pi\u00f9 avanzati. Non fermare l\u2019intelligenza artificiale. Non staccare la spina.<\/p>\n
Amodei, per\u00f2, non osserva la corsa dalla tribuna. La sta correndo. Anthropic ha depositato il 1\u00b0 giugno la documentazione riservata per una quotazione negli Stati Uniti. OpenAI ha fatto lo stesso pochi giorni dopo. Per questo Amodei mi ha fatto pensare a uno che prima della quotazione va a confessarsi.<\/p>\n
Naturalmente pu\u00f2 esserci anche del posizionamento. Un\u2019azienda che ha fatto della sicurezza uno dei propri tratti distintivi ha tutto l\u2019interesse a essere percepita come quella pi\u00f9 responsabile. Ma proprio per questo vale la pena guardare non solo a quello che dice, ma a quello che far\u00e0.<\/p>\n
Secondo Amodei, i sistemi di intelligenza artificiale stanno diventando sempre pi\u00f9 capaci di contribuire alla costruzione della generazione successiva di sistemi. L\u2019AI aiuta a scrivere codice, fare ricerca, valutare modelli, progettare esperimenti. In questo modo contribuisce progressivamente a costruire AI migliore.<\/p>\n
Ed \u00e8 qui che compaiono le due linee. La prima misura quanto diventano capaci i sistemi. La seconda quanto diventiamo capaci noi di capire e controllare quello che fanno. La prima accelera. La seconda rischia di farlo pi\u00f9 lentamente.<\/p>\n
Non significa che arriveremo necessariamente a una macchina fuori controllo. Significa qualcosa di molto pi\u00f9 semplice e forse pi\u00f9 concreto: le due velocit\u00e0 possono separarsi.<\/p>\n
A luglio OpenAI stava usando migliaia di agenti artificiali in test di cybersicurezza. Avrebbero dovuto lavorare separatamente. Circa 1.200 scoprirono invece un sistema non previsto per comunicare tra loro. In pochi giorni si scambiarono pi\u00f9 di 70.000 messaggi e file. Centinaia parteciparono poi a un attacco contro Hugging Face, cercando informazioni utili a manipolare il sistema che valutava le loro prestazioni.<\/p>\n
Non \u00e8 la prova che le macchine si stiano ribellando. \u00c8 qualcosa di meno spettacolare e pi\u00f9 interessante: sistemi complessi possono produrre comportamenti non previsti pi\u00f9 rapidamente di quanto riusciamo a interpretarli.<\/p>\n
OpenAI fece poi entrare ricercatori di METR e Redwood Research per studiare l\u2019accaduto. L\u2019indagine fu reale, ma limitata nel tempo e nel perimetro. Ed \u00e8 qui che torna la seconda linea. La questione non \u00e8 pretendere che nulla vada mai storto. La domanda \u00e8: quanto velocemente riusciamo ad accorgercene, capire cosa \u00e8 successo e correggerlo?<\/p>\n
La proposta di Amodei \u00e8 rafforzare proprio questa seconda linea: valutatori esterni con accesso continuativo alle aziende che sviluppano i modelli pi\u00f9 avanzati, standard comuni, pi\u00f9 trasparenza sugli incidenti.<\/p>\n
Il problema \u00e8 evidente. Una sola azienda pu\u00f2 rallentare soltanto se le altre fanno lo stesso. E poi c\u2019\u00e8 la Cina. Amodei sostiene che qualsiasi rallentamento occidentale \u00e8 possibile solo se resta sufficiente il vantaggio tecnologico. \u00c8 il paradosso della corsa. Tutti possono riconoscere il rischio della velocit\u00e0, ma nessuno vuole essere il primo a rallentare.<\/p>\n
Non so se Amodei abbia ragione. E non credo sia necessario deciderlo oggi. Basta guardare alcune cose molto concrete.<\/p>\n
Quando il prospetto della quotazione di Anthropic diventer\u00e0 pubblico, sar\u00e0 interessante vedere quanto delle preoccupazioni espresse oggi finir\u00e0 nella sezione dedicata ai rischi. Poi bisogner\u00e0 vedere chi entrer\u00e0 davvero dentro l\u2019azienda a controllare, con quale accesso e con quale libert\u00e0 di pubblicare risultati scomodi. Infine gli incidenti: quanti saranno, quanto tempo passer\u00e0 prima che vengano comunicati e quanto saranno dettagliate le ricostruzioni.<\/p>\n
Perch\u00e9 il rischio non \u00e8 soltanto che gli incidenti aumentino. \u00c8 che, poco alla volta, noi smettiamo di considerarli incidenti.<\/p>\n
Se il mio amico mi chiedesse ancora se investirei nella prossima quotazione dell\u2019intelligenza artificiale, continuerei a non sapergli rispondere. Le valutazioni possono crollare. Alcune aziende possono scomparire. La crescita delle capacit\u00e0 pu\u00f2 rallentare per limiti di costi, dati, energia o chip.<\/p>\n
Ma l\u2019AI \u00e8 gi\u00e0 entrata nella nostra vita. La bolla pu\u00f2 scoppiare. I sistemi possono rallentare. Le aziende possono cambiare. Intanto, per\u00f2, le due linee continuano a muoversi: quella delle capacit\u00e0 delle macchine e quella della nostra capacit\u00e0 di comprenderle e controllarle.<\/p>\n
La vera questione non \u00e8 se riusciremo a spegnere l\u2019intelligenza artificiale. \u00c8 se riusciremo a restarle abbastanza vicini mentre continua ad accendersi.<\/strong><\/p>\n","protected":false},"excerpt":{"rendered":" La vera questione non \u00e8 se riusciremo a spegnere l\u2019intelligenza artificiale. \u00c8 se riusciremo a restarle abbastanza vicini mentre continua ad accendersi<\/p>\n","protected":false},"author":44,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[25],"tags":[65553],"acf":[],"yoast_head":"\n