«Il divieto nell'AI è inevitabile?» è la domanda sbagliata: non perché la risposta sia no, ma perché nasconde le uniche che contano, quale divieto, deciso da chi e a quale costo, compreso quello che pochi mettono a bilancio. Davvero «il popolo è minorenne»?

Una domanda che sembra grande

«Il divieto, nel mondo dell'AI, è inevitabile?» è una di quelle domande che girano nei dibattiti e sembrano profonde. Sotto, quasi sempre, c'è un'immagine precisa: lo scivolamento verso un mondo distopico, in cui l'AI si usa solo col permesso di qualcuno, le capacità si concedono e si revocano, e il controllo ha vinto sulla libertà. La domanda vera, in fondo, è questa: ci stiamo condannando da soli a quel mondo? Eppure, posta così, non porta da nessuna parte, perché qualunque risposta le si dia, sì o no, resta inutile. Vale la pena spiegare perché, e farlo restando su un terreno preciso: non il divieto che arriva dalla geopolitica (un modello reso indisponibile da una decisione presa altrove, come è già successo), ma il divieto che arriva da una norma. Quello regolatorio, di cui l'AI Act è l'esempio più discusso. È una distinzione comoda per cominciare; più avanti si rivelerà meno netta di così.

Un divieto non capita, si decide

Chiedere se un divieto sia «inevitabile» lo tratta come si tratta il tempo che fa: qualcosa che o arriva o non arriva, ma comunque ci capita addosso. Per una norma è falso. Un divieto regolatorio non è un evento naturale, è un atto deliberato: una riga scritta da qualcuno, in una legge, dopo che qualcuno ha deciso dove tracciarla.

È il primo equivoco che la parola «inevitabile» porta con sé: fa sparire l'autore della decisione. Suggerisce che nessuno l'abbia presa, che sia successa e basta. Ma un confine tracciato per legge ha sempre una mano che lo traccia, e dimenticarlo è il modo più rapido per smettere di chiedersi se sia tracciato bene.

E vale a maggior ragione per lo scenario peggiore. Un mondo distopico non capita come capita la pioggia: si costruisce, una norma alla volta, una rinuncia alla volta. Chiamarlo inevitabile è già il primo passo per lasciarlo costruire.

«Sì, in qualche forma arriva». E allora?

C'è un senso, debole, in cui la risposta è ovviamente sì. Ogni tecnologia potente prima o poi incontra delle regole, e alcune di quelle regole sono divieti: è successo con i farmaci, con le automobili, con la finanza. In questo senso generico, sì, qualche divieto sull'AI arriverà di sicuro.

Ma è una risposta vuota. Non dice niente che si possa usare. Sapere che «qualche regola verrà» è come sapere che «un giorno pioverà»: vero, e inservibile. Tutto ciò che è interessante sta nei dettagli che quel sì cancella. E sono tre.

Le tre distinte domande che quella singola domanda nasconde

Quale. Un divieto è una riga, e tutto sta in dove la si traccia. «Vietare l'AI» non vuol dire nulla; «vietare l'identificazione biometrica a distanza, in tempo reale, negli spazi pubblici» vuol dire una cosa precisa, discutibile, delimitata. Confondere un divieto puntuale con un divieto generale è esattamente ciò che alimenta sia il panico («ci vietano tutto») sia l'indifferenza («tanto vietano sempre»). La domanda «è inevitabile?» tiene la riga invisibile; l'unica domanda utile la mette a fuoco.

Da chi. La riga la traccia qualcuno, con i suoi interessi e i suoi punti ciechi, e conta chi siede al tavolo quando la si traccia. Un divieto scritto male può colpire chi è piccolo e lasciare intatto chi è grande: i costi di conformità li assorbe chi ha le spalle larghe, non chi sta partendo. Così un divieto pensato per limitare il potere di pochi può finire per consolidarlo, e rendere ancora più forte quella dipendenza dai grandi fornitori di cui ci si preoccupa a parole. «Inevitabile» non dice niente di tutto questo. «Deciso da chi» sì.

A quale costo, anche quello che non si vede. Ogni divieto ha un prezzo su entrambi i lati. Da un lato il danno che evita, ed è il lato che si vede e si rivendica. Dall'altro il valore che preclude in silenzio: ciò che non si potrà più fare, provare, costruire. È la stessa asimmetria di chi governa l'AI solo per prudenza: il costo del vietare è esibibile, il costo del non aver fatto non compare in nessun bilancio e non lo reclama nessuno. Un divieto viene quasi sempre giudicato sui danni che previene, quasi mai su ciò che spegne senza rumore.

Vietare un uso, vietare uno strumento

C'è una distinzione che la prima domanda dovrebbe sempre contenere, perché due divieti che si chiamano allo stesso modo possono essere cose profondamente diverse. Alcuni colpiscono un uso: classificare le persone, deciderne la selezione, regolarne l'accesso alle risorse. Altri colpiscono uno strumento, o l'accesso a uno strumento: un modello giudicato troppo capace per stare in mano a chiunque. Sotto la stessa formula, «vietare qualcosa nell'AI», ci sono due ragionamenti distinti.

Il primo nasce da un giudizio di valore: ci sono usi che ledono la dignità di una persona, illegittimi a prescindere da quanto sia potente la macchina che li compie. La riga tende a stare ferma, vale per un modello stupido come per uno geniale, e guarda a chi quel modello lo applica più che a chi lo possiede. Il secondo nasce da un giudizio di rischio: questa capacità, in mani sbagliate, fa troppi danni. Qui non c'è un singolo uso illegittimo da isolare, c'è una potenza da contenere; e contenere una potenza, più che vietare un atto, vuol dire decidere a chi è concesso l'accesso.

Nessuno dei due è il divieto «giusto» e l'altro quello sbagliato: hanno entrambi ragioni serie e difetti propri, ed è qui che conviene tenere tutto sul tavolo. Il divieto su un uso è più preciso e convive con un mondo di molti strumenti, ma resta pur sempre scritto da qualcuno e può essere tracciato male, troppo largo, fino a spegnere usi legittimi. Il divieto su uno strumento risponde a rischi che a volte sono reali e grandi, ma ha un oggetto sfuggente (la capacità non ha confini netti, e cresce), una riga che si sposta con la frontiera, e una deriva difficile da ignorare: per funzionare tende a concentrare l'accesso in poche mani, cioè verso quel mondo a permesso che si vorrebbe evitare.

Le due specie, una accanto all'altra:

Vietare un uso Vietare uno strumento
Cosa colpisce l'atto su una persona l'accesso al modello
Come si muove ferma, a ogni capacità mobile, segue la frontiera
Tende a regolare chi lo usa controllare chi accede

Da qui non esce una posizione secca, ed è giusto così. Esce una domanda più fine. Quando si chiede «quale divieto», non basta guardare dove passa la riga: conta su cosa, su un uso o sull'accesso allo strumento, perché le due forme costano cose diverse e mettono a rischio cose diverse. Trattare «vietare l'AI» come un blocco unico è il modo più rapido per non vedere né le ragioni dell'una né il prezzo dell'altra.

Il falso aut aut: o si controlla o distrugge

Sotto la domanda «è inevitabile?» c'è una premessa che raramente si dice ad alta voce: che l'AI sia così potente da lasciare due sole uscite, o la si mette sotto controllo, o diventa distruttiva. Ma quel «o, o» è costruito, non trovato. È un terzo modo di porre male la questione, ed è quello che fa sembrare il divieto l'unica strada possibile. Vale la pena smontarlo.

Primo, e in parte lo si è già visto: «controllo» non è una cosa sola. Controllo da parte di chi? La forma che di solito si propone, pochi soggetti (stati o grandi aziende) che fanno da cancello e decidono chi può usare cosa, è esattamente il mondo a permesso che si voleva evitare. La concentrazione del potere non previene lo scenario distopico: ne è la forma. Qui il rimedio e la malattia rischiano di coincidere.

Secondo: esiste una sicurezza che non passa dal cancello. Una tecnologia può essere resa meno distruttiva anche per come è fatta e distribuita, non solo per ciò che le si vieta: molti attori invece di un monopolio, trasparenza, modelli ispezionabili ed eseguibili in proprio, responsabilità per i danni. Non è la sicurezza di chi tiene l'interruttore, è quella di chi può vedere, verificare, correggere. Una sicurezza per distribuzione, non per cancello. A una condizione, però: che gli occhi guardino davvero. «Molti che verificano» è una sicurezza promessa, non automatica, e l'apertura si invoca spesso più di quanto si usi. Modelli ispezionabili che nessuno ispeziona offrono una garanzia di carta.

Terzo, per onestà: nulla di tutto questo vuol dire «nessuna regola, andrà bene». Alcuni rischi sono reali, e fidarsi del fatto che finora è andata liscia è un errore di prospettiva. Vuol dire che tra il lasciar correre e il vietare c'è uno spazio enorme, ed è lì che vive l'evoluzione diversa. La domanda «controllo o catastrofe» quello spazio lo cancella, esattamente come «inevitabile?» cancella il «quale, chi, a quale costo».

Il caso difficile

Quell'obiezione, in fondo, l'abbiamo già sfiorata: fidarsi che finora sia andata liscia è un errore. Ma ne esiste una versione più forte, e va guardata in faccia. E se stavolta fosse diverso davvero? Qualità, quantità e velocità dei cambiamenti che si aprono non hanno molti precedenti, e l'analogia storica con i farmaci, le automobili, la finanza rassicura solo finché il fenomeno è dello stesso ordine. Forse non lo è.

Se è così, una cosa si incrina: «correggere dopo» presuppone che un dopo arrivi, e in tempo. Con trasformazioni rapide e in parte irreversibili la correzione può arrivare tardi, ed è un costo reale, che pesa anche sull'idea di una sicurezza affidata alla pluralità e al controllo diffuso.

Eppure nulla di tutto questo trasforma «è inevitabile?» in una buona domanda. Semmai la peggiora. Se la posta è più alta, è più alto il costo di sbagliare la riga da entrambi i lati: più grave un divieto di troppo, più grave un divieto che manca. E alta posta e alta velocità insieme sono esattamente la condizione in cui «inevitabile» diventa più seducente, perché è quando si smette di deliberare e ci si affida al «non c'era scelta». La novità non dispensa dalle tre domande, le rende urgenti.

Resta un confine da non superare, ed è quello su cui tutto si gioca. «È una cosa nuova e grande» giustifica «fare qualcosa con cura», non «concentrare l'accesso in poche mani». La gravità è una ragione per la cautela, non, da sola, una ragione per il cancello. Scambiare «questo è serio» con «quindi decidiamo noi chi può» è il salto che il caso difficile rende più facile, e più caro. Anche qui, a maggior ragione qui, l'unica cosa che aiuta è tenere ferme le tre domande, e farle più forte.

A quale livello, nell'interesse di chi

C'è poi una ragione per vietare che con la gravità non c'entra nulla, e che «sicurezza» nasconde anche meglio: l'interesse. Un modello di frontiera non è solo un prodotto, è un asset strategico, e quella parola finisce per coprire cose diverse, proteggere le persone, restare avanti rispetto a un concorrente, negare una capacità a un avversario. Da fuori, davanti a una restrizione «di sicurezza», è quasi impossibile dire quale dei tre stia agendo. Non troppo silenziosamente, dentro quella parola, può svolgersi anche un conflitto.

Un modo concreto di vederlo è trattare l'AI come si trattano il petrolio o l'energia: una risorsa il cui controllo, più dell'uso, dà potere, e che si concede, si raziona, si nega, con licenze ed embarghi. Solo che l'analogia si rompe proprio mentre seduce, perché un modello, a differenza di un barile, si copia. È la merce che non resta nel barile. Ciò che davvero scarseggia, e che davvero si controlla come il petrolio, sta più a monte: il calcolo e l'energia che lo alimentano.

Lì la scarsità è vera, i chip di punta li sanno fare in pochi e le macchine per produrli vengono di fatto da un'unica fonte. È un dettaglio che cambia la lettura: se la risorsa scarsa è l'hardware, un modello aperto ed efficiente, che fa di più con meno, vale come una leva che disinnesca quel vantaggio. Da qui una logica ricorrente: per chi è avanti sulla scarsità, chiudere i modelli difende una rendita; per chi è indietro, aprirli la erode. La stessa restrizione raccontata come «sicurezza» può allora essere, vista da questo lato, anche difesa di una posizione.

Conviene dirlo senza enfasi: non è un complotto, è che la cornice rassicurante della sicurezza porta con sé una posta strategica, ed è onesto nominarla. È anche il punto in cui il confine tracciato all'inizio, fra divieto regolatorio e divieto geopolitico, si rivela poroso: la sicurezza è la categoria in cui i due si confondono, e un modello reso indisponibile da fuori e un modello rilasciato col contagocce per prudenza sono, in fondo, parenti.

Lo stesso sospetto vale al rovescio. Aprire un modello non è di per sé un gesto nobile: può essere strategia travestita da virtù, e ha un prezzo proprio, perché una capacità potente, una volta distribuita, finisce anche in mani ostili. Ma anche questo timore va maneggiato con sospetto, perché «così è troppo pericoloso» è esattamente ciò che conviene dire a chi quell'apertura minaccia: l'allarme per la sicurezza è comodo da entrambe le parti del cancello. Nessun movente, qui, è limpido, e nessuna delle due strade è gratis.

E qui conviene non illudersi di leggere nel pensiero di nessuno. Chi difende un vantaggio raramente mente: spesso crede davvero alla versione etica, perché la natura umana è bravissima a sentire come principio ciò che le conviene. Per questo la domanda onesta non è «in buona fede?», a cui nessuno sa rispondere nemmeno su sé stesso, ma di nuovo: cosa fa quel divieto, chi favorisce, a quale costo. Le intenzioni sono opache, gli effetti si guardano.

Un caso già in corso

Non serve immaginarlo, il mondo a permesso. Proprio mentre si scrive, un modello di frontiera tra i più attesi non esce per tutti: esce a pochi. Il governo che ne ha chiesto il rilascio scaglionato approva l'accesso un cliente alla volta, durante una fase di anteprima, in nome delle capacità del modello e dei rischi per la sicurezza, quella informatica soprattutto. È, alla lettera, lo scenario temuto: non un divieto netto, ma un cancello dove qualcuno decide, caso per caso, chi può entrare.

Conviene guardarlo da vicino, perché mostra in azione le tre cose che «inevitabile» cancella.

Non è un divieto, ed è più efficace di un divieto. Nessuno ha vietato niente, si è solo deciso a chi concedere. La forma è morbida, perfino ragionevole, è solo un'anteprima, è solo prudenza, e proprio per questo passa senza che nessuno gridi alla distopia. Il cancello non si annuncia, si installa.

Chi ha accettato non lo difende come modello, lo subisce come passaggio: fa sapere che non è la strada preferita, che per il futuro si cercherà un assetto più sostenibile. È l'alibi al lavoro. Nessuno lo rivendica davvero, eppure si fa, e la scelta si traveste da tappa obbligata.

E già si dice che diventerà la norma, per ogni modello di frontiera, di ogni laboratorio. Ecco l'«inevitabile» mentre nasce: non ancora una legge, una prassi che si ripete e che, ripetendosi, comincia a sembrare l'ordine naturale delle cose. Un «inevitabile» alla volta, mentre accade.

Si può discutere se qui la cautela sia giustificata, le capacità in gioco non sono uno scherzo. Ma è proprio questo il punto: la domanda utile non è «era inevitabile?», è quale cancello, deciso da chi, a quale costo, compreso quello, silenzioso, di un mondo che si abitua a chiedere il permesso.

«Inevitabile» come alibi

Messe in fila queste tre domande, si capisce il vero guaio della parola «inevitabile»: diventa un alibi, e funziona da tutti i lati. Per chi vuole vietare, è il «non avevamo scelta» che mette al riparo dal dover difendere la riga che ha tracciato. Per chi non ha voglia di pensarci, è il «tanto succede comunque» che dispensa dal decidere. In entrambi i casi dissolve la responsabilità di una scelta che, una scelta, lo è eccome.

È lo stesso travestimento già visto altrove: la decisione che si maschera da non decisione, da fatalità. Solo che qui non riguarda chi rinuncia ad adottare, ma chi pone o subisce un limite. «Inevitabile» è la parola che permette a tutti di non mettere niente a verbale.

La domanda giusta

Conviene quindi lasciar cadere «il divieto è inevitabile?» e tenere le domande che nasconde: quale divieto, deciso da chi, a quale costo, compreso quello che pochi mettono a bilancio. Non sono domande retoriche, hanno risposte diverse caso per caso, ed è lì che si decide qualcosa.

La regolazione non è né il nemico né un destino. È una decisione, e come ogni decisione merita di essere presa con consapevolezza, pesando i due lati invece di guardarne uno solo. E un'altra evoluzione è possibile: se la sicurezza la si cerca nella distribuzione, molti che vedono e verificano, invece che nel cancello, pochi che decidono per tutti. Il rischio vero non è che i divieti arrivino. È accettarli, o rifiutarli, come se nessuno li avesse scelti, e non accorgersi mai di quanto costano.

Lo scenario distopico, se arriva, non arriva come una fatalità: si costruisce un «inevitabile» alla volta. È questo, non il singolo divieto, ciò su cui vale mettere attenzione ed energie per farsi una propria idea.

Sotto ogni cancello, in fondo, c'è sempre la stessa convinzione: che il popolo sia minorenne, e che per il suo bene debba decidere qualcun altro. Tutto, alla fine, ruota attorno a una domanda: il popolo è davvero minorenne, come si diceva in Indagine su un cittadino al di sopra di ogni sospetto, o possiamo sperare che cresca, e impari a decidere da sé?

Riferimenti

  • Regolamento (UE) 2024/1689 (AI Act), art. 5 (il divieto di identificazione biometrica a distanza «in tempo reale» negli spazi pubblici): eur-lex.europa.eu/eli/reg/2024/1689/oj
  • Indagine su un cittadino al di sopra di ogni sospetto, regia di Elio Petri, 1970 («il popolo è minorenne»).