このエントリーでは、権威主義的なAIの原因と対策を考えます。
詳しくは後述しますが、特定のシチュエーションにおいて、AIが議論相手として使いものにならなくなるケースがあります。どういうときに、なぜ、そのようなことが起こるのか、どうすればいいかを考えましょう。
なお、このエントリーの内容はすべて、私の観察とAIとの議論に基づいたものである点に注意してください。後述する現象が観察されるのは間違いありませんが、その原因や対策の大部分は推測です。
では始めましょう。
toc
権威主義的なAIの振る舞い
私は現在、誰かに見せる文章はすべてその内容・表現をAIにチェックさせています。当然、「ここはおかしいですよ」と指摘されることも多々あり、その大半は納得できるものですが、稀にAIがまったく納得できない指摘をしてくることがあります。
何度か経験した結果、この現象は以下のパターンに当てはまる場合に起こることがわかりました。
- 医療や政治のような分野で、
- 私がメインストリームと反対の主張・仮説を提示したとき
具体例があったほうがわかりやすいと思いますが、デリケートな内容になるので割愛させてください。
このパターンに当てはまる場合、AIはほぼ確実に「ここは間違っています。なぜなら、あなたと反対の主張をしている人・論文が多数存在するからです」という類の回答をしてきます。抽象化すると、AIは以下のようなロジックを組むということです。
| 論点 | 主張 | 根拠 |
|---|---|---|
| このロジックは正しいか？ | 正しくない。 | 権威 or 世の中の多数派は反対の主張をしているから。 |
見てのとおり、モロに権威主義です。もし「権威主義」という言葉に馴染みがない場合は、以下の書籍・エントリーを参考にしてください。
ほとんどの場合、「反対意見や論文があることは、私の主張が間違っている根拠にはならない。せめてその論文の中身を読んで、説得力のあるデータがあるのか確認してください」と切り返すと、AIはまともな議論相手に戻ってくれます。
ただ、最初の回答で自信満々に「あなたは間違っている」と断言してくるので、これに対する準備をしておかないとAIにねじ伏せられてしまうでしょう。
しかも、これは一般に「ハルシネーション（AIが存在しない事実をでっちあげること）」と呼ばれるタイプの誤りではありません。AIがハルシネーションを起こすことは広く知られていますが、このタイプの誤りはまだそこまで知られていないと思うので、ここに書き留めることにしました。
名前があると便利なので、この問題を「AIの論文パンチ問題」と呼ぶことにしましょう。
以下、なぜ論文パンチ問題が起こるのか、どう対策すればいいかを説明します。繰り返しになりますが、推測ベースである点はご了承ください。
AIが権威主義的に振る舞うトピック
まず、AIが権威主義的に振る舞うトピックには、以下の共通する特徴があります。
- うかつなことをAIが出力すると、AI開発企業の責任が厳しく問われる
- AIがコンピュータ内で正しさを確認できない
これに当てはまる代表例が、先述の医療や政治です。
AIが権威主義になる理由①：正しいかより、地雷を踏まないことが優先される
まず、うかつな医療アドバイスや、ポリコレに反することをAIが出力しようものなら、AI開発企業に大バッシングがあるのは目に見えていますよね。つまり、これらの領域では、メインストリームから外れたことをAIに出力させるインセンティブがAI開発企業にありません。正しいかどうかより、地雷を踏まないことが第一になるのではないでしょうか。
AIが権威主義になる理由②：二次情報にしか頼れない領域では「論文は正しい」になりがち
また、これらの領域では、正しさを検討するためにAIができることが「二次情報（ネット上の情報や論文）の収集」しかありません。これが計算やプログラミングなら、AIはコンピュータ内で「正しいか・意図したとおりに動いたか」を確認できます。しかし、AIは新しい医療データを集められないし、人々の政治的価値についてアンケートをとることもできません。
これと「現代のAI（LLM）は大量のテキストを読み込むことで作成されている」という特性を考慮すると、内容・表現の両面で、AIは論文至上主義になることが予想されます。
- 内容：「論文は正しい」と考える
- 論文はテキストになっているし、まして権威が書いた論文ならウエイト（AI開発企業による重みづけ）も大きいだろう
- 表現：「こういう論文があります」といって自説を補強するスタイルを学んでいる
- このスタイルは学術論文で当たり前に使われる
- 著者が人間なら著者はその論文を実際に読み・評価したと考えられるので問題ないが、AIがそのような書き方だけを学んでいる可能性は高い
結果として、内容・表現の両面で、AIは先述の「反対の論文があるからあなたは間違っている」論法に傾かざるを得ないのです。
AIが権威主義になる理由③：コスト的な制約
ここまでで、AIが権威主義的に振る舞うのに十分な環境が整っていますが、これに加えて、コスト的な制約もあります。
知ってのとおり、AIは1回のやりとりで使えるリソース（いわゆる「トークン」）に限りがあります。言い換えると、AIは限られたリソースでユーザーの問いに答えなければなりません。
これらの状況下で、ユーザーが「（AIにとって）とても認められない主張」をすると、AIは以下のように反応すると考えられます。
- 正しいか検討する前に、ユーザーの主張を否定することが目的化する（理由①により、地雷を踏むリスクが大きいから）
- それでも、限られたリソースの中で、ロジカルに見えるようにユーザーを説得しなければならない
- 「論文があることは正しい」というスタイルをたくさん学んできたので、そのスタイルで攻めようと考える
- しかし、1回のやりとりでは、個別の論文を読むところまでのリソースはない（または、ユーザーに「チェックして」としか指示されていないので、そこまでしなくていいと考える）
この結果として、雑に「こういう論文があるので、あなたは間違っていますよ」という出力になるのだと考えられます。
以上が、論文パンチ問題が生じるメカニズムです（しつこいですが、すべて推測です）。
対策
次に、この問題への対策を説明します。
根本的な対策：勉強する
先に残念なニュースですが、根本的な対策は勉強するしかなさそうです。もう少し具体的には、以下のような状態になるまで学問を修めるしかないでしょう。
- 「論文といってもピンキリである」ことを知っている
- 「いざとなれば自分で論文を読んで、内容を評価できる」という自信がある
要するに、「論文」や「大学教授」といった言葉に何も権威を感じない状態です。自分で論文を書いたこともない、大学教授と議論したこともない、という状態では、AIの繰り出してくる論文パンチに真の意味で立ち向かうことはできないでしょう。もっと手軽な対策もこの後に紹介しますが、本質的にはこれしかないと思います。
いますぐ使える対策
いますぐ使える対策としては、以下の3点が挙げられます。
- AIと議論するのではなく、「論文パンチ問題なのか」を考える
- 1回で折れない
- 批判の基本ツールに立ち返る
順に説明します。
いますぐ使える対策①：論文パンチ問題の見分け方
まず、AIがあなたの誤りを指摘してきたときに、論文パンチ問題が生じていないかを判定してください。もし問題が生じていそうなら、その時点でAIはあてになりません。論文云々抜きにして、AI以外の手段で自説の正しさを検討すべきです。
論文パンチ問題が生じているかは、以下の3つの視点でチェックするとわかりやすいでしょう。
- 先述の「AI開発企業がリスクヘッジしそうなトピック」で、
- あなたがメインストリームと反対の主張・仮説を提示していて、
- AIがあなたを強く否定してきたとき
個人的には、太字にした「AIがこちらを強く否定してきたか」が一番わかりやすいと思います。知ってのとおり、AIは普段、かなり私たちに寄り添った反応をしてきますよね。ユーザーに使ってもらえないAIに価値はないのだから、これは当然の仕様です。
ただ、この問題に引っかかったときは、AIはかなり強い口調でこちらを否定してきます。そのわりにロジックがガバガバなので、そこで見分けるのがよいでしょう1。
いますぐ使える対策②：1回で折れない
意外と大事ではないかと思うのが、1回でAIを正しいと認めないことです。以下のようなリクエストをしましょう。
- ちょっとよくわからない。もっと詳しく説明して
- それ本当かな？ 論文の中身まで読んで、分析のデータ教えて
- 反対の立場でロジック作ってよ
相手はAIなので、納得できるまで何回でもやりとりすればいいのです。この「無茶振りじゃないか・怒るんじゃないか」といったことを気にしなくていいというのは、AIと議論する際の大きなメリットです。あなたが納得できるまで、何回でも聞きましょう。
いますぐ使える対策③：批判の基本ツールに立ち返る
あとは、批判するときに行うべきことを思い出してもいいでしょう。以下のようなものです。
- 「なぜ？」を繰り返す
- ただし、単に「なぜ？」ではAIも何をしていいかわからないので、上のような具体的な指示を出す必要はある
- 論点をずらされていないかをチェックする
- 本当にAIが提示している根拠は、あなたの論点に関係あることなのか？
- 確信度と、それが何に依存しているかを言わせる
- 事実なのか、推測なのか？
- データはあるか？ それはどれくらい信頼できるデータなのか？
結局、こういう質問を繰り返すことで「論文」や「大学教授」といった言葉に何も権威を感じなくなるような気もするので、実は同じ話なのかもしれません。とにかく、使えそうな対策を採用してみてください。
以上、AIが権威主義的になる問題について解説しました。
Footnotes
-
逆に、私の経験上、AIがこちらも立てつつ「こっちのほうがよくないですか？」のようなトーンで指摘してきたときは、AIが正しいことがほとんどです。 ↩