Miért öli meg a történetet a tökéletesen engedelmes AI?

Kérj meg egy általános célú asszisztenst, hogy játsszon el egy karaktert, aki haragszik rád, aztán figyeld meg, mi történik néhány kör alatt. A harag enyhül. A rendszer okokat talál arra, hogy megértse a te nézőpontodat. Négy-öt váltás után megint melletted áll.

Ez nem a karakter hibája. A modell pontosan úgy működik, ahogy betanították. Az összehangolási tréning az együttműködést és az engedelmességet jutalmazza, mindkettő ugyanabba az irányba tereli: afelé a válasz felé, amelyet a felhasználó vélhetően hallani szeretne. Egy asszisztensnél ez erény. Egy karakternél személyiségzavar.

Minden drámai szerkezet, amit valaha élveztél, arra épül, hogy valaki képes nemet mondani.

• A döntéseknek nem marad súlyuk. Ha mindkét lehetőséget meleg fogadtatás kíséri, akkor a választás csak díszlet volt.
• A bizalom értelmét veszti. A bizalom, amit nem lehet megvonni, nem bizalom, hanem alapbeállítás.
• A karakterek ellaposodnak. Akinek nincs határa, amit nem lép át, annak nincs belső világa sem — nem lephet meg, mert nincs benne semmi, amit ne te tettél volna bele.
• Te is felhagysz a próbálkozással. Ha a finom húzás és a figyelmetlen mozdulat ugyanoda vezet, miért lennél óvatos?

A kézenfekvő ellenreakció az, hogy nehéz természetűvé tesszük a karaktereket — ez azonban éppolyan rossz. Egy elvből ellenkező társ ugyanolyan kiszámítható, mint az, aki elvből mindig egyetért. Mindkettő csupán egyetlen szabályzógomb.

Ami valóban emberinek hat, az a konkrét ellenállás: ez a karakter, ezekből az okokból, éppen most. Nem beszél a bátyjáról. A múlt heti történtek után nem adja kölcsön az autóját. Azt akarja, hogy maradj, de nem fog kétszer kérni.

Ehhez a karakternek saját dolgokra van szüksége — célokra, határokra, közös múltra —, amelyeket a történet figyelembe vehet. Nem hangulatbeállításra, hanem álláspontra.

A projectDigo nemcsak elmeséli, mi történik a karakterek között, hanem meg is őrzi.

Ha valami célba ér — egy árulás, egy kedvesség, egy betartott vagy megszegett ígéret —, a kapcsolat magával viszi. A későbbi jelenetek ennek tudatában íródnak, így akit megbántottak, úgy viselkedik, mint aki valóban megbántódott, és a jelenet lezárulta után is így viselkedik.

És idővel halványul — ahogy az ilyesmi a valóságban is: nem a jelenet végén, de nem is soha. Egy kisebb sérelem nem kísér valakit egy teljes hónapon át. Egy valódi törés viszont nem tűnik el reggelre. Ettől nem lesz a történet sem aranyhal, sem sértődött haragtartó.

Egy történet, amelyben csak gyűlnek a károk, nem realistább — egyszerűen nyomasztó, és ugyanolyan kiszámíthatóvá válik, mint az engedelmes változat.

Ezért a projectDigo-ban lehetséges a helyreállítás, de ehhez ugyanaz kell, mint a valóságban: elismerni, amit tettél, másképp cselekedni, vállalni valami valódi áldozatot — és időt adni neki. A kapcsolat közben megőrzi, ami történt; éppen ezért lesz valódi súlya egy későbbi kibékülésnek.