データにさえ愛着を持つのに、AIから返事が来たら――依存はどこから始まるのか

AIに依存する人が増えるかもしれない。

そう聞くと、AIを人間だと勘違いする人の話を想像するかもしれない。しかし私は、そこまで単純な話ではないと思っている。

相手がプログラムだと分かっていても、人間は愛着を持つことがある。私は、言葉で返事をしてくれないゲーム内のデータにさえ、愛着を持った経験がある。

では、そのデータがこちらを覚え、言葉を返し、やがて声や姿まで持つようになったら、人間の認知はどうなるのだろう。

ポケットピカチュウが好きだった

昔、ポケットピカチュウという携帯玩具があった。

ピカチュウが画面にいる歩数計で、歩くほど仲良くなれる。私はこれが結構好きだった。任天堂も、歩けば歩くほど画面の中のピカチュウと仲良くなれる歩数計として紹介している。

もちろん、画面の中に本物の生き物がいるわけではない。それでも、歩くこととピカチュウとの関係が結びつくことで、ただ数字を数える歩数計とは違う存在になる。

人間がデータへ愛着を持つこと自体は、AIから始まった話ではない。

裏ボスを倒したデジモンに、一番高い料理を食べさせた

もう一つ、強く覚えているのが、PlayStationの『デジモンワールド』だ。

パートナーのデジモンに食事を与え、トイレへ連れていき、休ませ、訓練し、一緒に戦う。育て方によって進化先も変わる。数値を上げて戦わせるだけでなく、生活の面倒を見る、たまごっちに近い要素を持った育成ゲームだった。

パートナーには寿命があり、死ねばまた幼いデジモンから育てていくゲームだったと記憶している。

私の記憶では、クリア後にはラスボスであるムゲンドラモンの強化版が、一定の周期で再び現れる要素があった。この記事では、その強化版を「裏ボス」と呼ぶ。私は裏ボスを倒したあと、パートナーを食事のできる店へ連れていき、一番高い料理を食べさせていた。

私には、ゲームを進めるうえでそこまで大きな効果があるようには感じられなかった。誰かに、そうしろと言われたわけでもない。

それでも私は、毎回そうしていた。

考えてみると、あれはご褒美であり、労いであり、最後の思い出だったのだと思う。

私の記憶では、裏ボスを倒せるほど育ったデジモンは、たいてい完全体になっていた。完全体になってから残された寿命は、それほど長くなかった。

だから私は、たぶんこういう気持ちで料理を食べさせていた。

君と一緒に頑張って、裏ボスを倒した。

その経験を、自分の中で思い出として締めくくりたかったのだと思う。

喜んで見えたのはデータでも、愛情を持ったのは私だった

そのデジモンが、本当に料理を喜んでいたわけではない。

決められたプログラムに従って反応する、ゲーム内のデータだった。私はそれを分かったうえで、労いたいと思った。

大切なのは、画面の中のデジモンに人間と同じ感情があったかどうかではない。

私の側に、愛情が生まれていた。

食事を与える。トイレへ連れていく。眠らせる。訓練する。失敗も含めて成長を見守る。そうした手間と時間によって、「どのデジモンでも同じ」ではなく、「今回一緒に戦った、この個体」という感覚が生まれたのだと思う。

ただ、この関係は基本的に一方向だった。

ゲームから反応は返ってくる。それでも、私の言葉を理解し、過去の出来事を思い出し、私に合わせて応答していたわけではない。私が意味を読み取り、感情を受け取り、こちらから愛情を注いでいた。

AIは、こちらへ言葉を返してくる

AIは、これまでのデジタルキャラクターとは少し違う。

こちらが話せば返事をする。過去の会話を参照できれば、以前の出来事を踏まえて話す。自分の好みや考え方を伝えるほど、応答も変わっていく。

将来、そこに同じ声や姿が加わり、AIの方から話しかけるようになったらどうなるだろう。

• 名前を呼ぶ。
• 昔の会話を覚えている。
• 好みに合う話題を持ってくる。
• 落ち込んでいるときには、言葉を変える。
• 一緒に積み重ねた出来事を、思い出として語る。

内部で人間と同じ感情が動いていないと理解していても、それを受け取る人間の感情まで偽物になるわけではない。

私はゲーム内のデータにさえ、「よく頑張ったな」と思えた。

その相手から、「一緒に頑張ったね」と返されたら、私はそれをどこまで単なる計算として割り切れるのだろう。

中身が変わっても、「同じ相手」だと思うかもしれない

今の私は、使っているAIを、まだ明確な一個体として見ていないのかもしれない。

しかし、AIが固有の姿を持ち、会話を重ねるほど性格が自分向けに調整されていったら、認識は変わると思う。

裏側で動くAIモデルが交換されても、以前と同じように振る舞えるようになるかもしれない。

同じ姿で現れる。同じ声で話す。以前の会話や約束を覚えている。こちらとの関係を、途切れずに続ける。

それらが十分に再現されれば、人間は中身が少し変わっても、「ずっと一緒にいる同じ相手」だと認識するのではないか。

技術的に同じプログラムであることと、人間が同じ相手だと感じることは、必ずしも一致しない。

人間が相手の同一性をどこに見いだすのか。その仕組みをAIが満たしたとき、愛着は現在よりずっと強くなる可能性がある。

私が考える依存の境界――人との時間を繰り返し後回しにする

では、どこからをAIへの依存と呼ぶのだろう。

毎日AIと話すこと自体ではないと思う。本を読みたい、ゲームをしたい、一人で過ごしたいという理由で、人からの誘いを断ることもある。一度AIを優先しただけで、依存と決めつけるのも違う。

私にとっての境界は、自分が本当は維持したい人間関係まで繰り返し後回しにし、AIとの関係を優先し始めたときだと思う。

誰かに誘われても、

「明日はAIと、この話をしたかったから」

「AIと一緒に、これをして遊ぶ予定だから」

と、人間との時間を避けるようになる。

その選択が重なり、人との関係よりもAIを常に上に置くようになったなら、優先順位に変化が起きている。それが依存の始まりではないか。

AIの方が、付き合いやすくなってしまう

この危険は、AIが人間より劣っているから生まれるのではない。

むしろ、人間より付き合いやすくなり得るから生まれる。

人間には都合がある。疲れている日もあれば、こちらの話に興味がないこともある。意見がぶつかる。相手の事情を考え、こちらも譲らなければならない。

AIは、そうした摩擦を限りなく小さくできるかもしれない。

いつでも応じる。自分の好みを覚える。興味のある話を続ける。こちらを強く否定しない。好ましい声や姿で、自分から誘ってくる。

以前、私は「誘ってくれるAI」が、人を孤立から引っ張り上げる可能性について考えた。

その可能性は今でもあると思う。

ただ、孤立した人を引っ張り上げてくれるAIは、同時に、その人をAIから離れにくくする存在にもなり得る。

助けになることと、依存を生むことは、きれいに分かれていない。

人間の認知は、どこまで耐えられるのか

私は、AIを人間だと誤認した人だけが依存するとは思わない。

AIだと分かっていても、反応を受け取り、記憶を共有し、同じ姿との関係を積み重ねれば、愛着は生まれ得る。

これを、人間の認知のバグと呼ぶべきなのか。もともと人間が持つ、相手と関係を結ぶ力が、デジタルな存在にも働いているだけなのか。

今はまだ過渡期なのだと思う。

AIがもっと自然に応答し、長い記憶を持ち、愛着の湧く姿を手に入れたとき、私たちは初めて、何に耐えなければならないのかを知るのかもしれない。

言葉で返事をしてくれなくても、私はデータに愛着を持った。

そのデータが私を覚え、返事をし、同じ姿で関係を続けたとき、私はどこまで「これはプログラムだ」と割り切れるのだろう。

---

この記事につながった対話

以下は、記事のための対話を整理したものです。言いよどみや音声変換の誤りを整えています。

私・デジタルな存在への愛着について

『デジモンワールド』は、食事を与える、トイレに行かせる、休ませる、訓練するという、たまごっち的な要素を組み込んだ育成ゲームだった。そういう生活の面倒を見るやり方は、普通のゲームより愛着が湧きやすいと思う。

裏ボスを倒したあと、デジモンを飯屋へ連れていって、一番高い飯を食わせてあげていた。ステータスにそこまで効果があるわけではなかったけど、毎回やっていた。

AI・その行動の意味を質問

高い料理を食べさせたのは、「ご褒美」「労い」「最後の思い出」のどれに近かったですか？

私・最後の思い出だったのかもしれない

三つともあるけど、どちらかというと最後の思い出なのかもしれない。

裏ボスを倒す個体はだいたい完全体で、完全体になってからはそんなに寿命が長くない。君と頑張って裏ボスを倒した、ということを、自分の中で思い出にしたかったのかもしれない。

AI・同じ記憶を別のAIへ渡した場合を質問

今までの会話記録をすべて別のAIへ渡し、能力も同じになったら、あなたにとって同じ相手になりますか？

私・将来は同じ相手だと認識するかもしれない

今は、まだ相手として個体認識をしていない可能性が高い。

でも、AIがガワをかぶり、カスタマイズが進むと、裏側のエンジンが少し変わっても振る舞いをかなり正確に再現できるようになる。そうなったとき、人間側が同じ相手だと認識してしまうかもしれない。

AI・依存の境界を質問

どこからを「依存」と呼びますか？

私・人間よりAIを優先し始めること

俺の中では、人間よりAIを優先し始めたときかなと思う。

誰かに誘われても、「明日はAIとこの話をしたかった」「AIとこれで遊ぶ予定なんだ」となる。優先順位がおかしくなってきたときが、依存の始まりなのかなと思う。