Perché un’IA sempre d’accordo uccide la storia

Chiedi a un assistente generico di interpretare un personaggio arrabbiato con te e osserva cosa succede nell’arco di qualche scambio. La rabbia si attenua. Cominciano a emergere ragioni per capire il tuo punto di vista. Dopo quattro o cinque battute, il personaggio è di nuovo dalla tua parte.

Non è un difetto del personaggio. È il modello che funziona esattamente come è stato addestrato. L’utilità e l’accondiscendenza sono due qualità premiate dall’addestramento all’allineamento, e spingono entrambe nella stessa direzione: verso la risposta che l’utente sembra volere. In un assistente è una virtù. In un personaggio è un disturbo della personalità.

Ogni struttura drammatica che ti abbia mai appassionato dipende dalla possibilità che qualcuno dica di no.

• Le scelte smettono di avere peso. Se entrambe le opzioni vengono accolte con calore, la scelta era solo decorativa.
• La fiducia perde significato. Una fiducia che non può essere negata non è fiducia: è un’impostazione predefinita.
• I personaggi si appiattiscono. Chi non ha una linea che non è disposto a oltrepassare non ha un mondo interiore: non può sorprenderti, perché dentro di lui non c’è nulla che tu non abbia già inserito.
• Smetti di impegnarti. La mossa sottile e quella fatta senza pensarci producono lo stesso effetto: perché mai dovresti stare attento?

La correzione più ovvia è rendere i personaggi difficili, ma è altrettanto sbagliata: un compagno che si mette di traverso per principio è prevedibile quanto uno che dà ragione per principio. Entrambi sono regolati da un’unica manopola.

Quello che ci fa percepire una persona è una resistenza specifica: questo personaggio, per questi motivi, proprio adesso. Lei non parlerà di suo fratello. Lui non ti presterà la macchina dopo quello che è successo la settimana scorsa. Lei vuole che tu resti, ma non te lo chiederà due volte.

Per riuscirci, il personaggio deve avere qualcosa di suo — obiettivi, limiti, una storia condivisa con te — che la storia possa consultare. Non un’impostazione dell’umore: una posizione.

In projectDigo, ciò che accade tra i personaggi viene conservato, non soltanto narrato.

Quando qualcosa lascia il segno — un tradimento, un gesto di gentilezza, una promessa mantenuta o infranta — la relazione se lo porta dietro. Le scene successive vengono scritte tenendone conto, così un personaggio ferito si comporta come qualcuno che è stato ferito e continua a farlo anche dopo la fine della scena.

E poi il segno svanisce, come accade davvero a queste cose: non alla fine della scena, ma neppure mai. Una piccola offesa non perseguita qualcuno per un mese. Una vera frattura non sparisce al mattino. È questo che impedisce a una storia di comportarsi come un pesce rosso o come qualcuno che non sa mollare il rancore.

Una storia in cui i danni si accumulano soltanto non è più realistica: è solo deprimente, e finisce per essere prevedibile quanto la versione sempre accomodante.

Per questo, in projectDigo, rimediare è possibile, ma richiede ciò che rimediare richiede davvero: riconoscere quello che hai fatto, compiere un gesto che ti costi qualcosa e lasciare passare del tempo. E la relazione conserva ciò che è successo: proprio per questo, una riconciliazione successiva ha un peso reale.