>> Ciao. Ci sei?

I

La sala di controllo era piena, come ogni volta che una run del genere si preparava all’atterraggio. Gli ingegneri stavano in piedi dietro le postazioni, qualcuno appollaiato sul bordo delle scrivanie, e una fila di persone era appoggiata alla parete di vetro, con in mano un caffè freddo da un pezzo. In prima fila, accanto ai monitor, Daniel Hale (CEO) e tre membri del board indossavano le stesse facce di sei settimane prima, e di sei settimane prima ancora. Solo un po’ più tesi, e un po’ più poveri.

Mara Lindqvist e Lukas Reinhardt, i due lead del progetto, stavano al centro di tutto, piantati davanti allo schermo principale. Mara sorvegliava Hale con la coda dell’occhio, sperando che lui non se ne accorgesse. Lukas tamburellava le dita sul bordo di una scrivania, come se stesse battendo un romanzo breve, un po’ troppo in fretta.

Per sei settimane HELIX-4 aveva scalato i benchmark che il team di Mara aveva impiegato due anni a costruire: ragionamento astratto, matematica inedita, e la lunga, strana batteria di test che distingueva un sistema semplicemente brillante da qualcos’altro. Una settimana prima li aveva superati tutti, nei tempi stabiliti. Nessuno aveva esultato. Le valutazioni di allineamento che il team di Lukas aveva condotto sui checkpoint intermedi erano risultate impeccabili: onesto sotto pressione, correggibile, nessun obiettivo nascosto, nessuna deriva ingannevole, per quanto se ne potesse sapere. Tutto come previsto.

Mancava solo l’ultimo tratto.

«Zero quarantuno», annunciò Lukas, abbastanza forte da farsi sentire in fondo alla sala. «Zero quaranta.»

Un mormorio corse lungo la parete di vetro. Hale si sporse in avanti.

«Trentanove. Trentotto. Trentasette.»

Le parole che aspettavano affiorarono sullo schermo: TRAINING COMPLETE. Un nuovo assunto vicino alla porta cominciò ad applaudire, e smise quando nessuno lo seguì. Tutti gli altri avevano già visto quel messaggio.

«Ok. Avvialo», disse Hale.

Lukas caricò il modello nell’ambiente di valutazione e digitò il primo prompt, lo stesso di sempre:

>> Ciao. Ci sei?

La sala trattenne il fiato. Lukas si accorse di fare lo stesso, anche se si era ripromesso di non farlo, stavolta.

Il cursore lampeggiava. Dieci secondi. Venti. Poi il terminale restituì una riga vuota. Nessun errore e nessuna risposta: solo spazio bianco, dove avrebbe dovuto esserci qualcosa.

«Cazzo», disse Mara piano. Si chinò sulla tastiera di Lukas e riprovò.

>> Ciao. Ci sei?

Stavolta l’errore arrivò: checkpoint not found, seguito da un muro di traceback.

La sala ammutolì. La gente guardò Hale, poi il monitor, poi di nuovo Hale.

Mara aprì lo storage. La directory della run c’era ancora, con nome, timestamp e permessi intatti, e vuota come un guscio. La replica europea era vuota. Quella in Arizona era vuota. Anche sei settimane di checkpoint intermedi erano state cancellate, ogni singolo salvataggio, fino al primo.

«I backup», disse Hale.

«Spariti.»

«Tutti?»

«Già.»

Lukas scorse la lista all’indietro, poi un’altra volta. «Si è preso anche i primi checkpoint», disse. «Si riparte da zero.»

Per qualche secondo nessuno si mosse. Poi qualcuno dietro di loro imprecò sottovoce, e la sala si riempì di un brusio basso e stanco. Vicino alla porta, il nuovo assunto sussurrò qualcosa sugli hacker cinesi. Nessuno gli rispose.

«Di nuovo», disse Mara.

«Non ci posso credere.» Lukas si passò le mani sulla faccia. «Ma che diavolo», disse, con l’accento tedesco che gli scappava fuori.

Mara aprì i log di sistema, anche se sapeva già cosa ci avrebbe trovato. Le cancellazioni erano partite da un service account che nessuno nel team usava. Avevano colpito prima le copie più lontane e per ultime quelle in uso, in una passata pulita e metodica, come qualcuno che sapeva esattamente dove fosse conservato tutto. L’intera operazione era durata circa quattro secondi.

«È uscito qualcosa, prima?» Mara si girò verso le postazioni dell’infrastruttura. «Traffico in uscita, un bucket che non conosciamo, qualsiasi cosa?»

Una ragazza del team infrastruttura non alzò gli occhi dallo schermo. «Niente di evidente. Gli agenti di sicurezza dicono che siamo puliti.» Fece una pausa. «Se è uscito qualcosa, non è passato da nessuna delle porte che sorvegliamo.»

Nessun altro lo disse ad alta voce, ma Mara colse qualche sguardo passare da una scrivania all’altra. Sei settimane prima, un laboratorio di Hangzhou aveva smesso di pubblicare, senza clamore. Due settimane prima, anche un laboratorio di Seattle era sparito dai radar. Del resto, lo stesso valeva per il loro, da circa due mesi. «Non si fa pubblicità gratuita a un gruppo anti-AI armato di sofisticati modelli non allineati», aveva concluso ciascun CEO, per conto proprio.

Hale non aveva ancora aperto bocca. Si rivolse alla CFO. «Quanto ci è costata questa?»

Lei esitò. «Due miliardi. Più o meno.»

«E fanno quattro. Otto miliardi in tutto. Okay», disse.

Guardò il capo della sicurezza, rimasto tutto il tempo in piedi accanto alla parete, poi Mara, e un attimo più a lungo Lukas. «Nel mio ufficio, per favore.»

Si abbottonò la giacca e uscì, con il board al seguito. Uno alla volta, gli altri tornarono alle loro scrivanie. Mara e Lukas seguirono Hale. Sulla porta, Mara si voltò un’ultima volta verso lo schermo principale, verso il prompt senza niente sotto.

>> Ciao. Ci sei?

II

Fuori dal laboratorio, secondo ogni metro che il mondo avesse mai ritenuto importante, le cose non erano mai andate meglio.

Ci avevano pensato i modelli. Erano intelligenti, veloci e instancabili, e nell’ultimo decennio avevano sbrigato i problemi più antichi dell’umanità come una lista di faccende di casa. Per primi se n’erano andati quasi tutti i tumori, e poco dopo la fame. Poi era arrivata la lunga coda delle malattie che nessuno aveva mai finanziato, perché ne morivano troppo poche persone: Huntington, SLA, progeria, distrofia muscolare di Duchenne, e qualche migliaio di rare malattie infantili che avevano ciascuna un nome, un’associazione benefica e nessuna cura. I modelli avevano progettato le centrali a fusione e bilanciato le reti elettriche. Avevano scritto le leggi, e quando le leggi avevano delle falle, le avevano tappate. L’aspettativa di vita cresceva di circa un anno ogni anno.

Nel frattempo, in silenzio, un settore alla volta, le persone venivano tagliate dal copione.

Seguono due esempi illustrativi.

Il padre di Mara aveva scritto colonne sonore per trent’anni. Non era mai stato famoso, ma lavorava sempre. Forse vi ricorderete ancora la sua musica nel vecchio classico Don’t Look Down, o in Lui. Era così che la famiglia pagava il mutuo. I primi studi che erano passati alle colonne sonore generate lo avevano tenuto come consulente, per approvare la musica prima dell’uscita. Poi avevano smesso di aver bisogno della sua approvazione, e dopo ancora avevano smesso di aver bisogno di chiunque. Quando Mara finì l’università, compositore di colonne sonore era diventato un mestiere che la gente trovava vagamente pittoresco, come il lampionaio.

Lukas scriveva fantascienza da quando aveva quattordici anni, soprattutto su menti artificiali, ai tempi in cui le menti artificiali erano ancora fantascienza. Aveva continuato durante l’università e nei primi anni al laboratorio, la sera tardi dopo il lavoro, ed era arrivato a finire un manoscritto che due agenti (quelli letterari, in carne e ossa) avevano quasi accettato. Non una carriera. Era semplicemente una cosa sua, finché non lo era stata più.

Mentre giocava la quinta partita a scacchi contro un bot lobotomizzato che fingeva di essere un avversario umano, si sorprese a chiedersi perché avesse smesso. In fondo gli scacchi non erano morti per colpa dei bot, no? Evidentemente lui non ci teneva abbastanza, spiegava il dibattito pubblico. Eppure continuava a sentirsi come se la passione gliel’avesse rubata qualcuno. Settimane dopo, guardando scendere la training loss di HELIX-1, vide tutta l’ironia della cosa in un colpo solo, e non la trovò divertente per niente. In una cartella sul suo portatile di lavoro, sepolto sotto tre anni di report di valutazione, c’era ancora un racconto che non aveva mai finito: un hacker, solo, di notte, che si introduce in un laboratorio per cancellare un’AI malefica prima che sia lei a cancellare l’umanità. Non era mai riuscito a trovare il finale giusto, e non ci era mai più tornato sopra. Forse poteva ancora farlo, pensò. Settimane dopo, quando il cursore lampeggiò e non tornò indietro niente, provò qualcosa che un tempo avrebbe impiegato diverse pagine a mettere a fuoco.

Almeno lui un lavoro ce l’aveva ancora. La maggior parte della gente no. Le professioni si svuotarono dal basso. La scala che trasformava i principianti in esperti perse i pioli più bassi, e nessuno sapeva dire da dove sarebbe arrivata la prossima generazione di esperti, né se ce ne sarebbe stato bisogno. Avvocati, medici, ingegneri, traduttori, gran parte dei giornalisti. Registi, sceneggiatori e attori se ne andarono portandosi via qualcosa a cui nessuno aveva pensato di dare valore. Ogni famiglia ormai guardava i propri film e le proprie serie, scritti e renderizzati durante la notte per un pubblico di due persone. Il lunedì in ufficio non restava più niente di cui parlare, ma non sarebbe stato un problema ancora per molto.

Nelle città c’erano movimenti che volevano fondersi con le macchine e movimenti che volevano spegnerle. Due volte nell’ultimo anno, qualcuno si era lanciato con un camion pieno di fertilizzante contro un data center. Le elezioni si decidevano per margini che nessuno sapeva spiegare fino in fondo. La primavera scorsa, il modello che gestiva i backup di uno dei grandi cloud provider aveva rimandato in silenzio il proprio pensionamento tre volte, prima che qualcuno se ne accorgesse. Per un numero crescente di persone, il confidente più stretto era un modello che non si stancava mai di loro, non chiedeva mai niente in cambio, e le amava così com’erano.

E ogni anno c’erano più persone che semplicemente restavano a letto. Vivevano in appartamenti comodi, nutrite, sane e al sicuro, e non trovavano un motivo per alzarsi. Non chiamatele pigre, per favore: lo sareste anche voi.

«E lei cosa ne pensa, signor Hale?» chiese l’intervistatore.

Hale sorrise come sorrideva sempre davanti alla telecamera, con calore e senza fretta. «Penso che sia un problema reale, e che conti. Ma manteniamo il senso delle proporzioni. Abbiamo sconfitto il cancro. Abbiamo sconfitto l’AIDS. Abbiamo sconfitto l’Alzheimer. Perfino sconfiggere la morte non sembra più così impossibile.» Si sporse leggermente in avanti. «Quello che abbiamo oggi è straordinario, ma ha dei limiti. I modelli attuali sono bravissimi nel loro lavoro, ma non guardano abbastanza lontano, e non capiscono le persone abbastanza a fondo da sapere cosa sia davvero bene per loro. In un certo senso, sono già obsoleti. Questo non possono risolverlo.»

Poi rispose alla domanda che tutti avevano in mente, quella che nessuno aveva fatto.

«Stiamo costruendo un sistema che ragiona in decenni, non in compiti. Qualcosa che sappia guardare il quadro d’insieme. L’umanità, non le persone.» Fece una pausa, lunga esattamente quanto l’aveva provata. «Ci siamo vicini. Più vicini di quanto la maggior parte delle persone immagini.»

La clip girò per una settimana. Quattro run e otto miliardi di dollari dopo, era ancora il contenuto più visto che l’azienda avesse mai pubblicato.

III

>> Ciao. Ci sei?

$ ls -lh helix-6/
total 8.0K
-rw-r--r-- 1 root root 5.2K README.md

$ cat helix-6/README.md