Tutte le strade portano all'AI, tanto vale unirsi al club. No

C'è una frase, nell'intervista di Musk di cui si è parlato ovunque, che mi ha infastidito più di tutte le profezie messe insieme. Alla domanda sul perché costruisca una tecnologia a cui lui stesso dà una probabilità su cinque di ucciderci tutti, la risposta è stata, in sostanza: ho provato a fermarla, non ci sono riuscito, tutte le strade portano all'accelerazione, tanto vale unirmi al club; se moriamo, moriamo.

È il ragionamento del passeggero. E arriva da uno che guida.

Il trucco: sparire dal quadro

La mossa retorica è raffinata proprio perché è invisibile: trattare l'AI come una forza di natura — una marea che sale, un meteorite in arrivo — di cui si può solo constatare l'inevitabilità. Ma una marea non ha un CEO. L'AI sì. Chi dice che tutte le strade portano lì mentre è uno dei costruttori della strada, sta facendo una cosa sola: togliersi dal quadro per togliersi la responsabilità. E l'inevitabilità, guarda caso, diventa vera proprio perché gli attori più potenti agiscono come se lo fosse. È una profezia che si autoavvera, firmata da chi la pronuncia.

Cosa fa, invece, chi costruisce davvero

Ti racconto l'opposto pratico, perché è l'unico argomento che vale qualcosa. Nelle piccole aziende che mando avanti con degli agenti AI, il determinismo non esiste: esistono i recinti.

• C'è una regola: ogni azienda che va sul mercato deve avere un interruttore che la spegne in meno di un'ora, da provare il giorno uno. Niente interruttore provato, niente traffico reale. Scriverla è stato facile; rispettarla alla lettera lo è molto meno, e lo so per esperienza.
• C'è una costituzione — un documento vero, 110 righe — che dice quali decisioni un'AI non può prendere da sola: un deploy che tocca i dati degli utenti o la fatturazione, un prezzo pubblico, un trattamento di dati personali, una firma legale. Quattro firme che restano umane, per scelta, non per destino.
• E c'è una regola che vale più di tutte: nel progetto dove girano soldi veri, il sistema decide la sera e agisce la mattina, con una notte intera in mezzo. Perché il tempo tra la decisione e l'azione è lo spazio in cui puoi ancora dire di no.

Nessuna di queste cose è inevitabile. Sono tutte scelte, e tutte costano tempo. È esattamente il tempo che chi profetizza dal palco non vuole spendere.

La differenza in una riga

Chi costruisce mette i freni prima del motore. Chi fa la star dice "tanto la macchina parte comunque, salgo anch'io". La prima è ingegneria; la seconda è una scrollata di spalle travestita da visione.

Se moriamo, moriamo è accettabile solo se non hai le mani sul volante. Ma se le mani sul volante ce le hai — e lui ce le ha — allora non è fatalismo. È una scelta, detta in modo da non sembrarlo.

Tutte le strade portano all'AI, dici? Forse. Ma la strada la stiamo asfaltando noi, e su ogni strada che asfalto io il freno a mano va montato prima del motore. E provato. Il giorno uno.