Pourquoi une IA toujours d'accord tue le récit

Demandez à un assistant généraliste de jouer un personnage en colère contre vous, puis observez ce qui se passe au fil des échanges. La colère s'adoucit. L'assistant trouve des raisons de comprendre votre point de vue. En quatre ou cinq répliques, il est de nouveau de votre côté.

Ce n'est pas un défaut du personnage. C'est le modèle qui fonctionne exactement comme il a été entraîné. L'aide et la complaisance sont récompensées par l'entraînement à l'alignement, et toutes deux poussent dans la même direction : vers la réponse que l'utilisateur semble attendre. Chez un assistant, c'est une qualité. Chez un personnage, c'est un trouble de la personnalité.

Toute structure dramatique qui vous a un jour passionné repose sur quelqu'un capable de dire non.

• Les choix ne pèsent plus rien. Si les deux options sont accueillies avec la même chaleur, le choix n'était qu'un élément de décor.
• La confiance perd tout son sens. Une confiance qu'on ne peut pas refuser n'est pas de la confiance : c'est un réglage par défaut.
• Les personnages s'aplatissent. Quelqu'un qui n'a aucune limite à ne pas franchir n'a pas de vie intérieure — impossible d'être surpris par lui, puisqu'il n'y a rien que vous n'y ayez déjà mis.
• Vous cessez de faire des efforts. Le geste subtil et le geste maladroit produisent exactement le même effet. Alors pourquoi prendre des précautions ?

La réaction excessive la plus évidente consiste à rendre les personnages difficiles, et c'est tout aussi mauvais : un compagnon systématiquement contrariant est aussi prévisible qu'un compagnon systématiquement d'accord. Dans les deux cas, il n'y a qu'un seul bouton.

Ce qui donne vraiment l'impression d'avoir affaire à une personne, c'est une résistance particulière : ce personnage-ci, pour ces raisons-là, à cet instant précis. Elle ne parlera pas de son frère. Il ne vous prêtera pas sa voiture après ce qui s'est passé la semaine dernière. Elle veut que vous restiez, mais elle ne vous le demandera pas deux fois.

Pour cela, le personnage doit avoir quelque chose qui lui appartient — des objectifs, des limites, une histoire avec vous — que le récit puisse prendre en compte. Pas un réglage d'humeur : une position.

Dans projectDigo, ce qui se passe entre les personnages est conservé, pas seulement raconté.

Lorsqu'un événement laisse une trace — une trahison, une gentillesse, une promesse tenue ou rompue — la relation l'emporte avec elle. Les scènes suivantes sont écrites en en tenant compte : un personnage qui a été blessé se comporte comme quelqu'un qui a été blessé, et continue de le faire une fois la scène terminée.

Et cette trace s'estompe, comme c'est le cas dans la vraie vie : ni à la fin de la scène, ni jamais. Une petite vexation ne vous suit pas pendant un mois. Une véritable rupture de confiance ne disparaît pas au matin. C'est ce qui empêche un récit de se comporter comme un poisson rouge ou comme quelqu'un qui ne lâche jamais rancune.

Un récit où les dégâts ne font que s'accumuler n'est pas plus réaliste : il est simplement sinistre, et devient aussi prévisible que sa version complaisante.

Dans projectDigo, la réparation reste donc possible, mais elle demande ce qu'exige toute réparation : reconnaître ce qu'on a fait, accomplir un geste qui vous coûte quelque chose, et laisser du temps passer. La relation garde la trace de ce qui s'est produit — c'est précisément ce qui donne tout son poids à une réconciliation ultérieure.