Perché il problema non è l’Occhio che tutto vede. È l’autostrada che si blocca da sola.

Per anni abbiamo raccontato l’intelligenza artificiale attraverso gli occhi. Il Grande Fratello. L’Occhio di Sauron. Il palantír di Tolkien — la pietra veggente che mostra tutto, filtra tutto, assoggetta chi guarda. Belle metafore. Potenti. Culturalmente oneste. E forse già insufficienti. Non perché sbagliate. Ma perché descrivono un problema che stiamo lasciandoci alle spalle senza accorgercene. Qualcuno le sta usando per commentare la bellissima enciclica di papa Leone e forse Palantir non è proprio la metafora adeguata, proviamo a fare un ragionamento.

Tolkien aveva ancora un nemico leggibile. Nel Signore degli Anelli il male è narrativamente comprensibile. C’è una torre. C’è un Occhio. C’è una volontà. I palantír mostrano una realtà filtrata — ma filtrata da qualcuno. Saruman crede di usare lo strumento e ne viene usato. Denethor vede solo ciò che Sauron sceglie di mostrargli.

Il pattern è chiaro: chi controlla il flusso di visione controlla chi guarda.

È una metafora perfetta per la sorveglianza novecentesca. Qualcuno raccoglie i dati, qualcuno li interpreta, qualcuno governa. C’è ancora un centro. C’è ancora un Sauron con un piano e un palazzo con l’insegna. Quarant’anni dopo, William Gibson aveva già capito che le cose stavano cambiando forma. Tolkien aveva ancora castelli. Gibson aveva già le periferie. Nel mondo di Tolkien il male abita una torre. In Gibson il male è il traffico.

Gibson: quando il sistema perde il centro.  Neuromante esce nel 1984. Gibson inventa il cyberspazio e lo definisce così: un’allucinazione consensuale vissuta ogni giorno da miliardi di operatori.

Non un sistema di controllo. Un’allucinazione collettiva che nessuno governa e tutti abitano. E Wintermute — l’AI del romanzo — non persegue obiettivi umani. Persegue obiettivi emergenti che nemmeno i suoi creatori capiscono fino in fondo. Non è malvagia. Non ha un piano.  Ed è proprio questo il punto inquietante.Siamo culturalmente preparati ai tiranni. Molto meno ai sistemi emergenti. Ha una direzione che nessuno ha scelto deliberatamente. Gibson scriveva nel 1984 e descriveva il 2026 con più precisione di quanto riesca a fare Tolkien.

Perché il problema non è più il palantír — lo strumento del dominio verticale. Il problema è l’allucinazione orizzontale: il sistema distribuito che produce effetti reali senza che esista un centro responsabile.

L’ingorgo che non ha cause

Nel 2008 il fisico Yuki Sugiyama e i suoi colleghi dell’Università di Nagoya conducono un esperimento semplice e inquietante. Ventidue auto su una pista circolare. Velocità costante. Nessun ostacolo. Nessun incidente. Nessuna causa esterna.

Dopo pochi minuti, il traffico si blocca.

Nasce un’onda di frenate che si propaga all’indietro come un’eco. Un’auto rallenta di poco, quella dietro frena un po’ di più, quella ancora dietro frena ancora di più. Il sistema collassa su se stesso senza che nessuno l’abbia voluto, pianificato, causato.

Gli ingorghi fantasma

Sistemi emergenti senza regista. Effetti reali senza responsabilità localizzabile. Conseguenze senza intenzione. L’AI contemporanea sta diventando qualcosa di simile: non un cervello centrale che decide, non un Occhio che sorveglia, ma un gigantesco ingorgo cognitivo distribuito dove gli effetti ci sono, le decisioni accadono, e il punto di origine è irrintracciabile.

Il problema non è che le macchine decidano al posto nostro. È che nessuno sappia più dove sia iniziata la decisione.

Zuboff: non ti guarda, ti estrae

C’è però un meccanismo economico che alimenta l’ingorgo dall’esterno — e che Shoshana Zuboff ha descritto con chirurgica precisione nel suo Il capitalismo della sorveglianza.

L’intuizione di Zuboff non è che veniamo sorvegliati. È più radicale: la nostra esperienza quotidiana viene estratta come materia prima per produrre prodotti di previsione comportamentale — venduti a chi vuole modificare le nostre scelte future.

Non sorveglianza. Estrazione. Come una miniera. Solo che la miniera sei tu. Il problema non è che ti osservano. È che sei diventato materia prima.

E la differenza non è sottile. La sorveglianza ti guarda. L’estrazione ti consuma lentamente, frammento di esperienza dopo frammento, senza che tu senta niente — perché ogni singolo prelievo è impercettibile.

Dalla sorveglianza alla dissoluzione

C’è un fenomeno che i fisici chiamano isteresi: il ritardo tra uno stimolo e la risposta del sistema, che non torna mai esattamente al punto di partenza. Ogni deformazione lascia memoria. Ogni scorciatoia modifica leggermente la forma interiore di chi la percorre.

Ecco cosa succede dall’interno, mentre Zuboff descrive il meccanismo dall’esterno.

Micro-scelta dopo micro-scelta — quale percorso fare, cosa leggere, come rispondere — deleghiamo frammenti di giudizio a sistemi che non capiscono il contesto ma conoscono benissimo le probabilità. Ogni delega abbassa impercettibilmente la soglia sotto la quale sentiamo il bisogno di decidere davvero. Riduce l’attrito interiore. Alleggerisce la fatica del giudizio. E ogni comodità cognitiva lasciata lì abbastanza a lungo finisce per sembrare naturale. Anche smettere di decidere

Il che non è un problema — fino al momento in cui ti accorgi che senza quella fatica non riesci più a orientarti da solo. La tecnologia non sostituisce soltanto il lavoro. Rischia di sostituire progressivamente la responsabilità. Non con un atto di forza. Con mille piccole comodità consecutive.

Il rigattiere e l’autostrada

Confesso una cosa. Lavoro con i frammenti. Prendo pezzi di Kabbalah, di rock, di complessità, di mitologia — e li rimonto in forme che spero diano senso al presente. È il mestiere del rigattiere: non produrre materiali nuovi, ma riconoscere quali materiali vecchi illuminano qualcosa di nuovo.

Tolkien illumina ancora qualcosa. Ma illumina la prima stagione del problema: quella della sorveglianza, del potere che guarda, del centro che controlla.

Gibson illumina la seconda: il sistema senza centro, l’allucinazione collettiva che nessuno governa e tutti abitano.

Tolkien raccontava ancora il potere. Gibson raccontava già l’ambiente. Noi oggi viviamo dentro ecosistemi che non hanno nemmeno più bisogno di raccontarsi.

Zuboff illumina il meccanismo: non il controllo, l’estrazione.

Siamo già nella terza stagione. Quella della dissoluzione silenziosa — dove nessuno ti sorveglia, nessuno ti controlla, nessuno ti estrae consapevolmente il senso critico — ma il sistema, da solo, come un’autostrada senza incidenti, trova il modo di bloccarsi.

Sauron almeno aveva un piano. Wintermute aveva almeno una direzione. L’ingorgo fantasma non ha né l’uno né l’altra. Si forma da solo. Si autoalimenta. E nessuno, guardandosi intorno, riesce a capire perché l’autostrada sia ferma.

La domanda che rimane

La domanda non è se l’AI decida al posto nostro. È se, nel momento in cui lo fa, ce ne accorgiamo ancora. O se abbiamo già smesso di aspettarci di accorgercene. Forse il vero rischio dell’intelligenza artificiale non è perdere il lavoro. È perdere lentamente il riflesso stesso della responsabilità. Come automobilisti fermi in un ingorgo fantasma, continuiamo a frenare, accelerare, imitare chi ci sta davanti senza sapere più chi abbia toccato per primo il pedale.

E forse il vero successo dell’AI arriverà il giorno in cui nessuno sentirà più il bisogno di capire perché sta obbedendo.