Dlaczego AI, które zawsze się zgadza, zabija opowieść

Poproś uniwersalnego asystenta, by odegrał postać, która jest na ciebie zła, i obserwuj, co wydarzy się po kilku wymianach. Złość zacznie słabnąć. Asystent znajdzie powody, by zrozumieć twoją stronę. Po czterech czy pięciu wiadomościach znów będzie po twojej stronie.

To nie błąd w konstrukcji postaci. To model działający dokładnie tak, jak został wytrenowany. Trening ukierunkowany na zgodność nagradza pomocność i ugodowość, a obie te cechy pchają odpowiedź w tę samą stronę: ku temu, czego — jak się wydaje — chce użytkownik. W asystencie to zaleta. W postaci — zaburzenie osobowości.

Każda struktura dramatyczna, która kiedykolwiek cię wciągnęła, opiera się na tym, że ktoś potrafi powiedzieć „nie”.

• Wybory przestają cokolwiek ważyć. Jeśli obie opcje spotykają się z ciepłym przyjęciem, wybór był tylko dekoracją.
• Zaufanie traci znaczenie. Zaufanie, którego nie można odmówić, nie jest zaufaniem — to ustawienie domyślne.
• Postacie stają się płaskie. Ktoś, kto nie ma żadnej granicy, której nie przekroczy, nie ma własnego wnętrza — nie może cię zaskoczyć, bo nie ma w nim niczego, czego wcześniej sam byś tam nie włożył.
• Przestajesz się starać. Subtelny gest i beztroska zagrywka dają ten sam efekt, więc po co uważać?

Oczywistą reakcją jest stworzenie trudnych postaci — i to jest równie złe. Towarzysz, który z zasady się sprzeciwia, jest tak samo przewidywalny jak ten, który z zasady przytakuje. Obie wersje sprowadzają się do jednego pokrętła.

Tym, co naprawdę przypomina człowieka, jest konkretny opór: ta postać, z tych powodów, właśnie teraz. Ona nie będzie rozmawiać o swoim bracie. On nie pożyczy ci samochodu po tym, co wydarzyło się w zeszłym tygodniu. Chce, żebyś został, ale nie zamierza prosić cię dwa razy.

To wymaga, by postać miała coś własnego — cele, granice, wspólną z tobą historię — do czego opowieść może się odwołać. Nie ustawienie nastroju, lecz stanowisko.

W projectDigo to, co wydarza się między postaciami, zostaje zachowane, a nie tylko opowiedziane.

Kiedy coś wybrzmi — zdrada, życzliwość, dotrzymana lub złamana obietnica — relacja to przejmuje. Późniejsze sceny powstają z uwzględnieniem tego faktu, więc zraniona postać zachowuje się jak ktoś zraniony i pozostaje taka także po zakończeniu sceny.

A potem to blednie, tak jak dzieje się to naprawdę: nie wraz z końcem sceny, ale też nie nigdy. Drobna zniewaga nie ciągnie się za kimś przez miesiąc. Prawdziwe pęknięcie nie znika do rana. Dzięki temu opowieść nie jest ani rybką z pamięcią na trzy sekundy, ani kimś, kto wiecznie żywi urazę.

Opowieść, w której szkody tylko się nawarstwiają, nie jest bardziej realistyczna — jest po prostu ponura, a z czasem staje się równie przewidywalna jak jej ugodowa wersja.

Dlatego w projectDigo naprawa jest możliwa i wymaga dokładnie tego, czego naprawa wymaga w życiu: uznania własnej winy, działania, które coś cię kosztuje, oraz czasu. A relacja zachowuje pamięć o tym, co się wydarzyło — i właśnie dlatego późniejsze pojednanie ma prawdziwą wagę.