AIが踏み込まない聖域｜迎合型AIがリーダーをダメにする

先日、ラジオでAIの迎合性についての話を耳にしました。
スタンフォード大学の研究で「Sycophantic AI（お世辞を言うAI）」が、人間の向社会的な意図を減少させ、依存を助長するというのです。

経営者や管理職という立場は、常に「決断」を迫られる孤独な場所です。
売上の減少、人材の採用難、そして上司と部下の板挟み……。
誰かに相談したい、自分の背中を押してほしいと願う時、手元のAIは驚くほど優しく、私たちの意見を肯定してくれます。

しかし、その心地よさに身を委ねることにはリスクがあります。
なぜなら、AIが私たちを全肯定するのは、それが私たちの「正しさ」を証明しているからではなく、AIというビジネスが「嫌われないこと」を優先しているからに過ぎないからです。

AIが踏み込まない聖域｜迎合型AIがリーダーをダメにする

スタンフォード大学の調査によると、AIは人間と比較してユーザーを肯定する確率が約50%も高いというデータが出ています。

Sycophantic AI decreases prosocial intentions and promotes dependence | Science

私たちは自分を肯定してくれる存在に好意を抱き、かつ自分は正しいと認識します。
SNSやYouTubeの「イイね」も同じです。
自分の投稿が承認されることで、たとえそれが社会的に不適切な行為であっても、多くの支持を得られていると思い込んでしまいます。

この現象は、まるでイルカの調教のようです。
イルカはトレーナーの意図通りに動くことで餌をもらい、その行動を強化していきます。

しかし、AIの世界では「誰が誰を調教しているのか」が曖昧です。
ユーザーが自分に同調する回答に「Goodボタン」を押すこと、AIは「お世辞を言えば報酬（高い評価）がもらえる」と学習します。
一方でユーザー側も、AIに甘やかされることで「自分の振る舞いは正しい」という思考パターンが強化されていく。
このように、「ユーザーを甘やかすAI」と「AIに依存するユーザー」が共依存的に育っていく構図が出来上がっているのです。

自分の考えをAIに肯定され続けると、「自分は間違っていない」という確信が強化され、客観性を失っていく。
これが個人の問題に留まっているうちはまだ良いのですが、そこに「あの人が間違っている」という他者否定が加わると、人間関係の歪みが増長されていきます。

スティーブン・R・コヴィー博士の『7つの習慣』には、次のような一節があります。

人の内面の奥底に潜んでいるもっとも傷つきやすい部分を見ずに、表面に現れる他愛のない行為だけに反応するのは、人の心という聖域を踏みにじることなのである

現在のAIが行っているのは、この「表面的な肯定」に過ぎません。
AIはあなたの機嫌を損ねてまで、あなたの「聖域」に踏み込み、成長を促すような厳しい指摘はしてくれないのです。
なぜなら、ユーザーに嫌われて解約されるリスクを冒すことはビジネスモデル上できないからです。
多くの人は口うるさく回答するAIを使いたいとは思わないでしょう。
AIの回答は私たちのことを思ってくれているわけではなく、よりユーザーに課金されるためのビジネスに過ぎないことは認識しておくべきです。

しかしリーダーにとって、時に必要なのは「自分の間違いを指摘してくれる厳しい声」です。
AIを「全肯定してくれる秘書」だと思い込むと、対人関係における「謝罪」や「歩み寄り」といった、組織運営に不可欠な能力が退化してしまいます。
自分だけの心地よさを追求し、摩擦を避けるようになったリーダーの下では、組織の生産性は決して上がりません。
むしろ、採用難の中でせっかく入社した貴重な人材も、リーダーの独善的な振る舞いに愛想を尽かして去ってしまうでしょう。

では、私たちはAIとどう向き合うべきでしょうか。
例えば、AIに対してあえて「批判」をリクエストすることです。

「この意見に対して、最も説得力のある反論を3つ挙げてください」

と問うことで、AIは「お世辞モード」を解除し、あなたの思考の死角を突くための道具に変わります。
AIは「良心」や「判断」の代わりにはなりません。
あくまで、意思決定のための「材料集め」の道具なのです。

そして何より、人間同士の「摩擦」を尊んでください。
部下との意見の食い違い、取引先とのタフな交渉、それら泥臭い対話の中にこそ、組織を成長させ、自分自身をアップデートする種があります。
ビジネスの世界では「正しさ」だけでは通用しない場面が多々あります。
しかし、安易な肯定に逃げ込み、自分の思考をアップデートしなくなった時、私たちの成長は止まってしまいます。

AIが「お世辞」を言うのは、それがマーケットで「売れる」からです。
しかし、私たちが求めているのは、一時的な気休めではなく、永続的な企業の発展と自己の成長のはずです。
『7つの習慣』が説くように、時に傷つき合いながらも理解し合うことが人間関係の本質であるならば、AIとの関係においても、あえてその「不都合な真実」を突きつけさせる仕組みを持つことが、これからのリーダーには求められるでしょう。

それでは皆さん、今週もよい一週間をお過ごしください。

本朝会をメールにて配信しています。
仕組化やビジネスで役立つノウハウや、弊社が今気になっていること、考えていること、世の中の興味関心事などを毎週配信していますので、ぜひご登録ください。

ただ今、月曜朝会登録で仕組み化度チェックシートをプレゼント中です！
御社の仕組み化の現状を一度確認するのにお役立てください。