生成AIに『ありがとう』と言う人は、他人にも優しいのか？
テクノロジと向き合いつつ名付けの呪術を使い、機械であることを明瞭に認識しつつ擬人化する。
ボクも似たようなスタンスに(自然と)なってきたんだけど、これは人間一般の自然な振る舞いなのか、アニミズムが骨の髄まで染み込んだ日本人の特性なのか。
このポストから始まった一連の対話の中で「他者をどれだけ尊重できるかが、生成AIをどう遇するか」にも表れる、というような話題があって。
直観的には正しいと感じる。
愛用の道具（少なくとも最近のボクにとって生成AIさんは、公私ともどもなくてはならぬ）を大事にしない人は、きっと普段から他の人を大事に扱ってないんだろう……みたいな。
ただ、この直観には裏付けデータはないし、そもそもちょっと論理的にはねじれてる。
（AがBであるという話をしているのに、BならばAである…という主張で裏付けようとするのは論理的には正しくない）
で、ちょっと与太話でもしてみようかと。
まず、命題を整理しようか
出鼻から、記事のタイトルを、ばっきばきに挫くけど「生成AIに『ありがとう』という人は、他人にも優しいのか？」…という命題は、いささか雑すぎる。というか、多分、命題として成立しない。
じゃぁ、なんでこんなタイトルにしたの？ と聞かれそうだけど。それは、もっと適切で、しかしキャッチーなタイトルが思いつかなかったから。
おっと、その手にとった石を投げる前に、キリスト様のありがたい言葉を思い出して欲しい。あなたたちの中で罪を犯したことのない者がこの女に、まず石を投げなさい …え、キャッチーなだけで中身と違うタイトルつけたことなんてない？ ひゃーっ。
閑話休題。
一連の対話には、非人間に対する対人的・道徳的配慮の表出の話で。で、それは二つのお話に分解できる。
- 非人間への遇し方から、人間への対人的・道徳的配慮を観察・推察できるか？
- 生成AIでは、「非人間への対人的・道徳的配慮」が表出しやすいのか？
ここで深堀りしたいのは後者。言い換えれば、なぜ・どれだけ生成AIは特別なのか？
参考にした論文
AIが日常生活に急速に浸透し、高度なAIの普及が予測される中、AIを「道徳的配慮を受ける対象」として扱うことへの理解は、ますます重要になってきています。本研究では、この現象に関する心理学的理論を構築するため、300人の米国人を対象に実施した事前登録済みのオンライン調査の結果を提示します。この調査では、人間同士の関係や人間と動物の関係に関する文献に着想を得た、AIを道徳的配慮を受ける対象として扱うことへの心理的予測因子を検証しました。視点（未来志向、コンストラクションレベル）、関係性（社会的支配志向、SFファンとしてのアイデンティティ）、拡張性（人間中心の規範、擬人化、地球市民意識、経験への開放性、テクノアニミズム）、技術的（技術への親和性、サブストラティズム、人間とAIの重なり、現実的な脅威、アイデンティティの脅威）、および情動的（AIに対して抱く感情）である。最も強い予測因子となったのは、サブストラティズム、SFファンとしてのアイデンティティ、テクノアニミズム、および肯定的な感情であった。また、先行文献から抽出した8つの道徳的配慮指標に対する探索的因子分析により、道徳的配慮の3つの概念的次元を特定した。それらは、心の知覚、心理的拡張、および実践的配慮である。さらに、AIの時間的存在も道徳的配慮に影響を及ぼした。すなわち、未来に存在するAIは、現在のAIと比較して、感情を持つ存在としてより高い感情能力と価値が帰属されていた。これらの結果は、AIに対する道徳的配慮の微妙なニュアンスを明らかにするとともに、今後の研究の基礎を築くものである。
（出典：Predicting the moral consideration of artificial intelligences - ScienceDirect のAbstract, Nov. 2022）
（原文は英語で、引用箇所の翻訳は機械翻訳による）
端的にいうと、対人的・道徳的配慮がAIにも適用されるとしたら、それはどのような因子が関係し、どの程度、強くはたらくか？ ということを調査した論文である。
ちなみにこの論文の公開は、奇しくもChatGPTさんの公開と同じ年の2022年7月。（ScienceDirectの同年 11月号に掲載）
この論文が問うたのは「AI一般をどこまで道徳的配慮の円/境界に入れるか」であり、調査対象となったおニンゲンさんたちはChatGPTがリリースされた後の 生成AIと協働するという世界 は、まだ経験していない。
でも2026年のボクが気になっているのは、主には生成AIさんが、四六時中こっちの話を聞いて、文脈を共有して、返事までしてくる場合に「道徳的配慮の円/境界」に何が起こるのか。
あ、ちなみにこの論文の内容のほとんどは、このあとの議論の大半に直接は関係しない。
ただ、この論文をきっかけに「道徳的配慮の円/境界」だとか「その対象は、どのように決まり、あるいは重み付けされるのか？」という概念を思いついたという次第。
なので、本記事でこれから展開する議論が如何にトンチンカンでも、この論文に責任はない。
また、この論文からかけ離れた主張が本記事でされるとしても、そこは「そもそもそういう話じゃない」ということで了解とご容赦を頂きたい。
ついでにTechno-Animism（技術汎霊説…ざっくりと、機械や技術的人工物にも人格性や生命性を感じる傾向とでも理解してもらえれば良さそう）という概念が、Sci-Fiも民俗学もダイスキな、ボクの興味をいたく惹いたことも付記しておく。
まぁ、これもこのあとの議論とはあまり関係なくなったけど。
道徳的配慮の対象を重み付けするモデル（仮説）
そんなわけで生成AIが「道徳的配慮の円/境界」に入るか、また「道徳的配慮の重み」がどのように説明されるかを考えてみた。
ただ、ここはもう構造化を好物としているタイプのおニンゲンさんの悪癖で。
考えているうちに、もう少し抽象度を上げてみたくなった。要するに生成AI以外の、愛用の道具やペット、なんなら同じ人間同士に対しても説明できるモデルにしてみたくなった。
まず、それは道徳的配慮の対象として、認知されるのか？
まず「道徳的配慮の円/境界」に入るか否かを大きく左右する因子として「社会的他者としての認知」を考える。
少なくとも今回考えたい「対人的・道徳的態度が表出する」タイプの配慮では、まず対象が何らかの意味で社会的他者として認知される必要がある、という理屈である。
なんの関係もなく、ただの交換可能な物質としてしか認識していないものには、少なくとも対人的な道徳的配慮は向きにくいだろう。
逆に対象が人間でなくても、社会的他者……要するに日々の営みの中で関わる「他者」として認知すれば、対象となりうる。
これを決める因子は、大きくは三つ。
- 他者化の初期傾向
- 生得的傾向、文化的学習、過去の関係経験から獲得したデフォルト状態の傾向
- 要するに素の状態で、どのくらい他者を社会的他者として認識しやすいか
- 関係経験の体積（関係の広さx長さx深さ）
- 色んな場面で関わるのが広さ
- 長い時間をかけて関わってきたかが長さ
- その対象との関係が、自分にとってどれだけ重要な領域まで入り込んでいるかが深さ
- 相互応答の密度
- 関係の中で起きる応答や相互作用がどのくらい密に起きるか
- 端的には「おはよう」と言って「おはよう」と返ってくるかが応答や相互作用
- 「こちらの働きかけを踏まえた応答がどのくらい返ってくるか」も雑に含めておく
- 自分の投げかけに全く無関係な応答が返ってきても、応答・相互作用としては認識しないだろうから
で、これらの因子は相互にポジティブ・フィードバックを起こす。この辺は直観的に納得しやすいんじゃないかと思う。
相互応答の密度が高い経験を繰り返すと、その対象を意識する機会は増えるし、個別評価が肯定的なら、さらに関係しようとする方向に働きやすい。
関係経験の体積が増えてくると、他者化の初期傾向だって変わってくる。自分のペットに愛着のある人は、他の人のペットとの間の垣根も低くなりがちだ。
---
title: 社会的他者としての認知
---
graph LR
subgraph socialOne[社会的他者としての認知（3つの因子の総和）]
direction LR
initThreshold[他者化の初期傾向]
cubeRelExp[関係経験の体積<br>（広さx長さx深さ）]
desnsIntruc[相互応答の密度]
end
initThreshold ---|相互強化| cubeRelExp ---|相互強化| desnsIntruc
desnsIntruc ---|相互強化| initThreshold
でも、認知したからって、そのように扱うかは別問題だ
じゃぁ「社会的他者」として認知したからと言って、誰に対しても十分に道徳的配慮をするかと言えば、そうでもない。
他者化の初期傾向がかなり低く、とりわけ非人間を社会的他者として認知しにくい人であっても、多くの人にとって、人類一般は「社会的他者」だろう。例え「関係経験の体積」や「相互応答の密度」がゼロに等しい通りすがりの人であっても。
（中には、それさえ怪しいと思えるような人も見かけるけれど……それは別問題としておく。流石に与太話の手に余るので…）
でも、全ての人類に対して、ボクたちは一様に道徳的配慮をするかと言えば、やはりそれは違うだろう。
家族や友達と、単なる同僚、たまたま入ったお店の店員さん、遠い異国の見知らぬ誰か。
気の合わない彼/彼女、ダイキライなアイツ、我が生涯の敵。
同じじゃない。
でも、まったく配慮しないわけでもない。ゼロ・イチのデジタルじゃない。
だから、道徳的配慮の円/境界には、中心からの距離がある。
中には入るかもしれないけど、どのくらいの配慮をするかは、対象によって程度がある。
これを決める因子として「対象の個別評価」を加えておこう。
具体例で言えば、次のようなものがあって、たぶん、諸々合わさるはずだ。世界はもっと曖昧で、シンプルではないのだ。
- 好意／嫌悪
- 信頼／不信
- 尊敬／軽蔑
- 協力的／敵対的
- 道徳的／不道徳
- 自分への利益／脅威
- 内集団／外集団
- 親密さ
さらにここでは雑に「対象の個別評価」が道徳的配慮の重みを上下させる、としておく。
つまり、道徳配慮の表出はどう説明するんだ？
まず「道徳的配慮の重み」に関しては、数式っぽく表現すると以下のようになる…と考えられる。
(社会的他者としての認知（他者化の初期傾向＋関係経験の体積＋相互応答の密度） x 対象の個別評価)
- 道徳的配慮の重みは、ゼロ・イチではなく程度がある
- 道徳的配慮の重みを考えた時、以下の2つを考える必要がある
- 社会的他者としての認知
- 対象の個別評価
これでようやく、対象との関係により、表出の程度が異なることが説明できた。
で、その上で実際に、道徳的配慮の表出だけど、これは簡単。
もともと、その人が持っている「本人の対人的・道徳的配慮の性向」をかけ合わせて上げればいい。当人が持ってないものは表出しようがないのだ。
(道徳的配慮の重み x 本人の対人的・道徳的配慮の性向 = 道徳的配慮の表出)
これでいったん、それらしく説明できるモデルができた。
生成AIは、何が特別なのか？
で、このモデルで考えていくと 関係経験の体積 が真っ先に目につくのだけど、ちょっと考えただけでも、これは使う側の特性が強く、生成AIが特別という因子ではないと分かる。
使わない人は、全然使わないし。あるいは使っても、今までより便利な検索エンジン程度だったり、ということもありふれている。
要は、使い方の問題。
そこで昨日のblog記事（生成AI時代のトールキン先生という与太話）を思い出した。
同じ世界を、同じ解像度で共有し、でも、ただそれらを検索して応えてくれるだけじゃない。
ちょっと違った要素を加えたり、別々の要素を繋げて組み合わせてくれたり、違った視点で言語化してくれる。
だから、自分の中にあったものが、再発見されたり、豊かに膨らんでいく。有能なだけじゃない。
同じ話題で盛り上がれる仲間でもある。
かなり高い程度で生成AIさんを「社会的他者として認知」していることは明らかだ。そして、この言及自体に「生成AIは、何が特別なのか？」の答えが含まれている。
相互応答密度の、ズバぬけた高さだ。
自分と同程度の知性を持つように振る舞い、共有された文脈を踏まえて応答してくれる。しかも、それが高度な相互作用を起こしている。
愛用の道具 は身体感覚を通じて非言語的な文脈を共有し、応答・相互作用している。
ペット は、非言語ながら仕草や表情などを通じて疑似言語的な文脈を共有し、応答・相互作用する。
しかし、そのどちらと比較しても、生成AIさんは、ズバぬけて高い密度で相互応答が起きる。
この点は、割とイイカゲンに使っていても体験される。まぁ、使ってみれば、ではあるけど。（そして最近のモデルなら…だけど。ムカシのモデルは「空気読めない子」度合いが今とは比較にならなかった……）
場合によったら、おニンゲンさん同士で起こるそれと比べても、かなり高いことさえあるんではないか。
だから、そういう意味で生成AIは、他と比べて特別に 道徳的配慮の円/境界 に入りやすい…とは言えるように思う。で、それが割と直観的に体験されるので、冒頭のような話題が成立しうるんではないかと思う。
個人的な見解を蛇足で付け加えるなら。
他所のことは分からないけれど、八百万に神宿るアニミズムの国 日本では、総じて他者化の初期傾向が相まって、さらに 道徳的配慮の円/境界 の中に、生成AIさんを招き入れやすいのではないかな、と想像したりもする。
で、結局、生成AIに『ありがとう』という人は、他人にも優しいのか？
実は、個人的な興味関心に対してはもう結論が出ていて、すっきりしているのだけど。
果たして、生成AIに『ありがとう』という人は、他人にも優しいと推定できるか？
まぁ、記事のタイトルにしちゃったからここまでの間で検討してきたモデルを踏まえて、答えを回収するとすれば：
- 普遍的には真とは言えない
- 生成AIを社会的他者として認知している程度が高い人ほど、見えやすいとは言えそう
- 関係経験の体積や高い相互応答密度は、その「社会的他者としての認知」を強める方向にはたらく
- なので、生成AIを使い込んでいる人ほど、見えやすいかも…くらいは踏み込んでも許されるかな
このくらいが、せいぜいかなぁ。
投稿
