(ovvero: la curva a S sa tutto tranne la cosa che conta)

…Nota per chi ha saltato i numeri precedenti.

Questa è la terza puntata di una rubrica sui  miei cattivi maestri — quelli che avevano visto prima degli altri e che il mainstream cita solo dopo che il danno è fatto. Ellul ci aveva detto che la Tecnica è diventata un sistema autonomo che non serve più l’uomo: lo usa. Kaczynski ci aveva detto che questi sistemi competono per la propria sopravvivenza senza riguardo per le conseguenze — e lo chiamava self-prop system, non “ecosistema dell’innovazione”, che suona meglio ma dice la stessa cosa. Oggi arriva Virilio. Che aggiunge il dettaglio che mancava: il meccanismo. Ovvero la velocità. Ovvero il naufragio già incluso nella nave.

Il navigatore e il lago (storia di un’invenzione che funzionava)

Ogni anno, decine di automobilisti in tutto il mondo guidano dentro laghi, fiumi e fossi seguendo le indicazioni del navigatore satellitare. Non sono stupidi. Non sono distratti — beh, forse un po’, ma non è questo il punto. Seguono le istruzioni. Eseguono correttamente quello per cui il navigatore è stato progettato. Il navigatore dice: gira a destra. Loro girano a destra. Il problema è che a destra, dove un tempo c’era la strada, adesso c’è acqua. La cartografia non è aggiornata. Ma la fiducia nell’algoritmo sì. Il navigatore satellitare è stato progettato per eliminare la necessità di pensare a dove andare. Ha funzionato. Ha anche inventato una categoria nuova di incidente: quella in cui si smette di pensare a dove si va. 

Oggi quel navigatore non si limita più a dirvi dove girare. Comincia a decidere dove ha senso andare. E la differenza è sottile solo all’inizio. Perché finché sbaglia strada, possiamo correggerlo. Quando sbaglia destinazione, no.

Paul Virilio lo aveva visto prima che esistesse il GPS. Ci torniamo tra poco. Prima parliamo della curva a S. Che è corretta, accurata, ben documentata, e descrive con precisione quasi commovente il problema sbagliato.

La curva che ha ragione (e il problema di avere ragione)

C’è in circolazione un’analisi della curva a S applicata all’intelligenza artificiale che merita di essere letta con attenzione, perché è una delle cose più oneste e documentate che ho visto sull’argomento. L’autore ha vissuto tre boom e tre collassi in prima persona — dot-com, biodiesel in Brasile, cannabis in Colorado — e sa di cosa parla. Non è la solita consulenza con i diaframmi perfetti e le frecce ottimiste.

La tesi è semplice e corretta: ogni settore segue una curva a S. Emersione, crescita, compressione, plateau. I margini altissimi della fase iniziale attirano capitali, i capitali portano concorrenti, i concorrenti comprimono i prezzi, e alla fine sopravvivono solo i più efficienti o i più protetti. È successo con Internet. Con il biodiesel. Con la cannabis. Succederà con l’IA, ma più veloce. Molto più veloce. La conclusione: preparatevi con saggezza. Concordo. Preparatevi con saggezza.

Il problema non è la curva. La curva esiste, funziona, è verificabile empiricamente. Il problema è quello che la curva non dice — e non può dire, perché è uno strumento di descrizione, non di profezia. La curva vi dice dove siete. Non vi dice cosa avete già inventato mentre correvate.

La curva a S è perfetta. Come un navigatore che vi porta nel lago con precisione millimetrica. Non sbaglia. Semplicemente non vede l’acqua.

Il terzo cattivo maestro (quello che progettava bunker e pensava alla velocità)

Paul Virilio nasce ad Asnières nel 1932. Architetto di formazione, studia con Claude Parent e disegna chiese. Poi comincia a guardare i bunker della Seconda Guerra Mondiale sulla costa atlantica francese — queste strutture di cemento abbandonate, metà sepolte dalla sabbia — e ci vede qualcosa che nessun altro aveva visto: l’architettura della velocità militare. Le forme che la guerra aveva prodotto. Il paesaggio che la tecnica aveva inciso nel territorio. Da lì sviluppa la dromologia (scienza o logica della velocità): lo studio della velocità come forza strutturante della storia. Non è la guerra che plasma il mondo. È la velocità della guerra. Non è la tecnologia che trasforma la società. È la velocità della tecnologia. E da lì arriva la frase che ogni ingegnere, ogni tecnologo, ogni consulente che presenta una slide sulla disruption dovrebbe tatuarsi sul palmo della mano:

“L’invenzione della nave è anche l’invenzione del naufragio. L’invenzione dell’aereo è anche l’invenzione dello schianto. L’invenzione della centrale nucleare è anche l’invenzione di Chernobyl.”

Ogni tecnologia inventa anche il proprio incidente. Non come effetto collaterale, non come bug, non come failure mode non previsto. Come conseguenza strutturale, interna, già dentro l’invenzione al momento della sua nascita. Virilio la chiamava la produzione dell’incidente. L’incidente non accade nonostante la tecnologia. Accade attraverso la tecnologia, e spesso grazie al suo funzionamento corretto.

L’airbag uccideva i bambini funzionando esattamente come progettato. Il navigatore porta le auto nei laghi seguendo esattamente le istruzioni. Chernobyl esplose durante un test di sicurezza progettato per rendere la centrale più sicura. Il problema non era il malfunzionamento. Era il funzionamento.

Ellul ci aveva detto che la Tecnica persegue la propria logica autonoma. Kaczynski ci aveva detto che i self-prop system competono per la sopravvivenza senza riguardo per le conseguenze. Virilio aggiunge il meccanismo: è la velocità. La velocità è il modo in cui i sistemi sfuggono al controllo. Non perché diventano cattivi. Perché diventano più veloci di chi dovrebbe fermarli.

Non perché diventano autonomi. Ma perché diventano più veloci della responsabilità. E quando la responsabilità resta indietro, non sparisce. Si distribuisce fino a diventare irriconoscibile.

Il wall of sound e il silenzio (ovvero: il visionario che sente il feedback)

Nel 1974 i Grateful Dead costruirono il Wall of Sound. Seicento altoparlanti. Ventiseimila watt. Un sistema audio così perfetto che si sentiva con chiarezza cristallina a trecento metri dal palco. Ogni strumento aveva il proprio canale, il proprio stack, la propria linea. Niente feedback. Niente distorsione. Il suono più pulito mai sentito a un concerto rock.

Fu un trionfo tecnologico assoluto. Fu anche così costoso da montare, smontare e trasportare — settantacinque tonnellate di attrezzatura, settantacinque persone per gestirla — che quasi portò la band alla bancarotta. Dopo un anno di tournée, i Grateful Dead si fermarono. Smisero di suonare dal vivo per diciotto mesi. Il Wall of Sound aveva inventato il concerto perfetto. E aveva inventato il proprio silenzio. Ma se i Grateful Dead vi sembrano un esempio troppo di nicchia per ragionare di economia, permettetemi di aggiungere un caso più confortante (!!) per chi crede nei numeri.

I due premi Nobel e il fondo che non poteva fallire

Nel 1994 nasce Long-Term Capital Management. I fondatori includono Myron Scholes e Robert Merton — che nel 1997 vincono il Premio Nobel per l’Economia, in buona parte per i modelli matematici usati da LTCM stesso. Il fondo applica strategie di arbitraggio quantitativo di una sofisticazione mai vista prima. I rendimenti nei primi anni sono straordinari: 40% nel 1995, 41% nel 1996. I modelli erano corretti. La matematica era impeccabile. I Nobel erano meritati.

Nel 1998, dopo la crisi russa, LTCM perde 4,6 miliardi di dollari in meno di quattro mesi. La Federal Reserve deve orchestrare un salvataggio d’emergenza perché il fallimento del fondo rischia di trascinare con sé l’intero sistema finanziario globale. Alla fine intervengono quattordici banche. Il fondo viene liquidato. I modelli avevano un’assunzione implicita: che i mercati si comportassero secondo distribuzioni statistiche normali. Funzionava perfettamente, fino al momento in cui non funzionava. E quando smetteva di funzionare, smetteva così in fretta e così in grande da non lasciare il tempo di correggere il tiro.

La tecnologia — in questo caso matematica e computazionale — aveva funzionato esattamente come progettata. Aveva anche inventato un incidente che nessun singolo operatore avrebbe potuto produrre da solo: un rischio sistemico globale costruito pezzo per pezzo da decisioni razionali, individuali, tutte corrette. Due Premi Nobel, un naufragio. Virilio avrebbe detto: naturalmente. Era già dentro la nave.

Ciò che la curva non vede (o: il navigatore che guida se stesso nel lago)

La curva a S vi dice che l’IA comprimerà i cicli di innovazione da decenni a trimestri. È vero. È esattamente quello che sta succedendo. Quello che la curva non vi dice è quello che questa accelerazione inventa mentre correte.

Se la bolla dot-com ha impiegato quattro anni a gonfiare e due a sgonfiarsi, i danni si vedevano in tempo reale. C’erano segnali. C’erano trimestrali. C’erano giornalisti che cominciavano a fare domande scomode. L’incidente aveva una durata umana — abbastanza lunga da poter essere riconosciuta, almeno in retrospettiva. 

Se l’IA comprime questo ciclo a quattro mesi, l’incidente ha una durata che non è più umana. Non perché gli esseri umani non possano capirlo. Ma perché i sistemi burocratici, regolatori, finanziari e decisionali con cui gestiamo gli incidenti non sono progettati per quella velocità. Il punto non è che l’IA farà errori. Il punto è che li farà alla velocità giusta per non farceli vedere. Non stiamo costruendo sistemi più intelligenti. Stiamo costruendo sistemi che sbagliano più velocemente di quanto possiamo accorgercene. E quando l’errore diventa più veloce della consapevolezza, smette di essere errore. Diventa sistema.

Quando la Challenger esplose nel 1986, ci vollero tredici mesi per capire cosa era andato storto. Oggi, con i cicli compressi dall’IA, l’azienda successiva sta già replicando lo stesso errore mentre state ancora raccogliendo i pezzi del precedente. La velocità non comprime solo la crescita. Comprime l’apprendimento dall’incidente. E un sistema che non riesce ad imparare dai propri incidenti abbastanza velocemente da evitare quello successivo non è un sistema che migliora. È un sistema che scala l’errore.  E per la prima volta, il sistema non si limita a scalare l’errore. Comincia a generare da solo le condizioni per il prossimo. Non è più solo velocità. È autogenesi.

Virilio lo aveva scritto nel 1977, in Vitesse et Politique: la velocità non è uno strumento neutro. È una forma di potere. Chi controlla la velocità controlla la realtà. E quando la velocità supera la capacità umana di elaborazione, il potere smette di appartenere a qualcuno e comincia ad appartenersi da solo. Kaczynski lo chiamava self-prop system. Ellul lo chiamava autonomia della Tecnica. Virilio lo chiama dromologia. Tre nomi, tre angolazioni, un solo oggetto: qualcosa che si muove più veloce di chi lo ha costruito. L’IA non accelera solo i processi. Accelera la distanza tra chi decide e ciò che accade. È l’ingorgo fantasma definitivo: tutto sembra scorrere, ma nessuno sta più guidando.

Icaro non era stupido (conclusione mitologica obbligatoria)

Dedalo costruisce le ali. Le costruisce bene — la mitologia non dice che le ali fossero un prototipo difettoso. Icaro sa come usarle: il padre gliel’ha spiegato. Vola. Si avvicina al sole. La cera si scioglie. L’interpretazione standard: arroganza umana. La hybris che gli dei puniscono.

Interpretazione viriliana: le ali funzionano esattamente come progettato. Il problema è che funzionano così bene da permettere a Icaro di raggiungere un’altitudine che la cera non può sopportare. L’incidente non è una deviazione dal progetto. È il progetto portato alle sue conseguenze logiche.

Dedalo aveva inventato il volo. Aveva anche inventato la caduta. Non perché fosse negligente. Perché non esiste tecnologia di volo che non contenga già, nella sua struttura, la categoria dell’incidente da caduta. La curva a S vi dice: attenzione, arriverà la compressione. È come dire a Icaro: attenzione, fa caldo lassù. Vero. Accurato. Insufficiente. Quello che manca è: le ali contengono già il sole. Non il sole astronomico. Il sole come limite strutturale della tecnologia — il punto in cui il sistema incontra ciò per cui non era stato progettato, e la cera comincia a sciogliersi.

L’IA sta costruendo le ali più belle mai viste. La curva a S ci dice che i margini si comprimeranno. Virilio ci dice che il sole è già dentro le ali. La domanda non è se cadremo. La domanda è se avremo abbastanza altitudine da renderci conto della caduta prima di atterrare.

Ellul ci aveva detto di guardare il sistema. Kaczynski ci aveva detto che il sistema si autoalimenta. Virilio ci dice che il sistema accelera. Tre cattivi maestri. Stesso punto cieco del mainstream. Stessa risposta che nessuno vuole sentire: non basta capire la curva. Bisogna capire cosa ha già inventato mentre non guardavate.

— — — — — — — — — —

P.S. — Il navigatore che porta nel lago non smette mai di ricalibrare il percorso. Non dice “mi dispiace, ho sbagliato”. Dice: “tra duecento metri, immergersi.”

P.P.S. — Virilio è morto nel 2018. Non ha visto ChatGPT. Ha visto abbastanza.

P.P.P.S. — Il Wall of Sound dei Grateful Dead è esposto allo Smithsonian Institution. È un pezzo da museo. Come quasi tutte le grandi invenzioni tecnologiche, funziona meglio fermo. LTCM invece non è esposto da nessuna parte. Ma i modelli matematici che lo hanno fatto esplodere sono ancora in uso.