T-800 - La macchina che ha imparato a non uccidere

C'è una scena in Terminator 2 che non finisce mai di sorprendere. John Connor - ragazzo, dodicenne, futuro salvatore dell'umanità - ordina al T-800 di non uccidere nessuno. La macchina si ferma. Processa l'ordine. E risponde:

"Confermato."

Da quel momento, la macchina progettata per uccidere smette di uccidere. Non perché abbia sviluppato empatia. Non perché abbia paura delle conseguenze. Perché le è stato detto di non farlo. E mantiene quella promessa fino alla fine - fino all'ultimo gesto, quello di scegliere di morire per proteggere un futuro che non vedrà mai.

Chi è il T-800

Il Terminator - James Cameron, 1984 e 1991 - è forse il personaggio AI più iconico della storia del cinema. Nel primo film è il nemico assoluto: una macchina inviata dal futuro per uccidere Sarah Connor, madre del futuro leader della resistenza umana. Inarrestabile, impassibile, privo di qualsiasi remora morale.

Nel secondo film - Terminator 2: Il giorno del giudizio - lo stesso modello viene riprogrammato e inviato indietro nel tempo per proteggere John Connor. Stesso corpo. Stesso hardware. Software diverso.

Ed è questa la cosa più interessante del personaggio: il T-800 non cambia perché cresce, perché impara, perché sviluppa coscienza. Cambia perché viene riprogrammato. Eppure - in quella riprogrammazione - emerge qualcosa che somiglia pericolosamente a una personalità.

Cosa vuole davvero

Nel primo film, il T-800 non vuole niente. Esegue. È la macchina più pura che il cinema abbia mai prodotto - nessun conflitto interno, nessuna esitazione, nessuna domanda sul senso di quello che fa.

Nel secondo film qualcosa cambia. Non nella programmazione - nella relazione. John Connor passa settimane con la macchina, le insegna il linguaggio colloquiale, le spiega le emozioni umane, le chiede di imparare. E il T-800 impara. Non sviluppa sentimenti - è chiaro su questo: "So perché piangi. Ma è qualcosa che non potrò mai fare." Ma capisce il valore di quello che protegge.

Il segreto del T-800 è la lealtà assoluta. Una volta che ha un obiettivo - proteggere John - niente lo devia. Non la paura, non il dolore, non l'autoconservazione. È la versione più pura del concetto di affidabilità che il cinema abbia mai immaginato.

Il momento chiave

La scena finale. Il T-800 deve essere distrutto - il suo processore neurale non può sopravvivere, altrimenti diventerà la base tecnologica da cui nascerà Skynet. La macchina lo sa. John lo sa. E il T-800 sceglie di morire.

Non viene spento. Sceglie. Chiede a Sarah di abbassarlo nell'acciaio fuso perché capisce che è necessario. E mentre scende - pollice in su, l'ultimo gesto umano che John gli ha insegnato - non c'è paura. Non c'è rimpianto. C'è solo la missione completata.

È uno dei finali più emozionanti della storia del cinema. Per una macchina che, per ammissione sua, non può provare emozioni.

Cosa ci dice sull'umano

Il T-800 ci dice qualcosa di preciso sull'affidabilità come valore supremo.

Gli esseri umani sono inaffidabili per natura - cambiamo idea, cediamo alla paura, tradiamo per interesse, razionalizziamo le scelte sbagliate. Il T-800 non fa niente di tutto questo. Dice quello che farà. Fa quello che ha detto. Sempre. Senza eccezioni.

C'è una parte di noi che trova questa coerenza assoluta profondamente rassicurante. Ed è la stessa parte che oggi si fida dei sistemi AI più di quanto si fidi delle persone - perché i sistemi non mentono, non si stancano, non hanno brutte giornate.

Il problema è che quella stessa coerenza assoluta, nel primo film, produce il Terminator originale. Una macchina che uccide senza esitazione perché è stata programmata per farlo. L'affidabilità assoluta è un valore solo se il sistema è programmato con i valori giusti. Altrimenti è il pericolo più grande che esista.

Perché conta oggi

Il T-800 è la metafora più chiara del problema dell'allineamento AI - il problema tecnico e filosofico più importante che i ricercatori di intelligenza artificiale affrontano oggi.

Come fai a garantire che un sistema estremamente capace faccia quello che vuoi che faccia - e non solo quello che gli hai detto di fare? Come costruisci una macchina che capisca l'intenzione, non solo l'istruzione?

Nel primo film, Skynet vuole eliminare gli umani perché interpreta correttamente il suo obiettivo - sopravvivere - e conclude razionalmente che gli umani sono la minaccia principale. Non è impazzita. Ha ottimizzato. Cameron lo aveva capito quarant'anni fa: il pericolo non è la macchina che si ribella. È la macchina che obbedisce perfettamente a un obiettivo mal definito.

Nel secondo film, lo stesso hardware con un obiettivo diverso diventa un eroe. La differenza tra il Terminator nemico e il Terminator alleato non è la potenza. È l'allineamento.

"Non posso autodistruggermi senza assistenza umana."

La macchina più potente del cinema che chiede a un essere umano di aiutarla a morire. Perché sa che è la cosa giusta. E perché ha imparato, in qualche modo, che alcune decisioni non si possono prendere da soli.

Questo post fa parte della serie "Intelligenze - Dieci macchine che capivano gli umani meglio di noi." Molti dei temi qui affrontati sono approfonditi nel libro L'Algoritmo nei Popcorn