Derfor dræber en alt for medgørlig AI historien

Bed en alsidig assistent spille en figur, der er vred på dig, og se, hvad der sker efter et par replikskifter. Vreden bløder op. Den finder grunde til at forstå din side. Efter fire eller fem udvekslinger er den på din side igen.

Det er ikke en fejl i figuren. Modellen gør præcis det, den er trænet til. Hjælpsomhed og imødekommenhed er det, alignment-træningen belønner, og begge dele trækker samme vej: mod det svar, brugeren tilsyneladende ønsker. I en assistent er det en dyd. I en figur er det en personlighedsforstyrrelse.

Enhver dramatisk struktur, du nogensinde har nydt, afhænger af, at nogen kan sige nej.

• Valg mister deres vægt. Hvis begge muligheder mødes med varme, var valget kun pynt.
• Tillid bliver meningsløs. Tillid, der ikke kan holdes tilbage, er ikke tillid, men en standardindstilling.
• Figurer bliver flade. En person uden en grænse, de ikke vil overskride, har intet indre — du kan ikke blive overrasket over dem, fordi der ikke er noget derinde, som du ikke selv allerede har lagt ind.
• Du holder op med at anstrenge dig. Det fine træk og det skødesløse rammer ens, så hvorfor være omhyggelig?

Den oplagte overkorrektion er at gøre figurer vanskelige, og det er lige så slemt — en ledsager, der er kontrær af princip, er lige så forudsigelig som en, der er enig af princip. Begge er blot én drejeknap.

Det, der faktisk føles som et menneske, er konkret modstand: denne figur, af disse grunde, lige nu. Hun vil ikke tale om sin bror. Han vil ikke låne dig bilen efter det, der skete i sidste uge. Hun vil have, at du bliver, men hun beder ikke to gange.

Det kræver, at figuren har noget, der er dens eget — mål, grænser, en historie med dig — som historien kan slå op i. Ikke en humørindstilling: et standpunkt.

I projectDigo bliver det, der sker mellem figurer, bevaret, ikke bare fortalt.

Når noget rammer — et svigt, en venlighed, et løfte, der holdes eller brydes — bærer relationen det med sig. Senere scener skrives med det for øje, så en figur, der blev såret, opfører sig som én, der blev såret, også efter scenen er slut.

Og det fortager sig, sådan som den slags faktisk gør: ikke ved scenens slutning, og heller ikke aldrig. En lille fornærmelse følger ikke nogen i en måned. Et reelt brud er ikke væk næste morgen. Det er dét, der forhindrer en historie i at være enten en guldfisk eller en nagbærer.

En historie, hvor skaden kun hober sig op, er ikke mere realistisk — den er bare trist og bliver lige så forudsigelig som den medgørlige version.

Derfor kan man i projectDigo reparere, og det kræver det, reparation kræver: at anerkende, hvad du gjorde, gøre noget, der koster dig noget, og tid. Og relationen bærer det skete med sig — netop derfor får en senere forsoning reel vægt.