PARAs AI

疑わない人間、疑われないAI――バイアス分析支援ツール

読み込み中...

PARAs AIの観察

虚偽情報検知システムとして設計されたPARAs AIの機能の分析

想定読者

PARAs AIのユーザー様

難易度

★ ☆ ☆ ☆ ☆

注意点

この記事では、アカウント登録していただいたユーザー様を対象としたPARAs AIの一般的な使い方を紹介しています。実際のユーザーインターフェイスに触りながらお読みいただいた方がわかり易いと思われます。

目次

概要

この記事では、PARAs AIの「フェイク&バイアス分析」として実装されている虚偽情報の検知機能に関して、デモンストレーションを行います。ここで「フェイク&バイアス分析」と述べているのは、次のような「推理の着眼点」に基づいた検知を意味します。

  1. 概念の定義の曖昧さ
    • 記事内で言及されている概念の定義の曖昧さに加えて、各概念に潜む意味形式上の曖昧性についても、推理の着眼点になります。
  2. エビデンス不足
    • 記事内で主張されている意見や価値、利害関心などに関して、エビデンスや根拠付けが不十分と思われる箇所を特定することが推理の目標になります。
  3. 誤謬や偏見（バイアス）の可能性
    • 入力された文章に含まれる概念の中から、以下の誤謬が見受けられると思われる箇所を指摘します。
      1. 誤った因果推論
        • 因果関係を単純化して認識している可能性を指摘します。原因と結果が一対一で対応するとは限りません。一つの原因から複数の結果が生じることもあれば、複数の原因から一つの結果が生じることもあります。
      2. 循環論法
        • ある命題の証明において、その命題自体を仮定した議論を用いているか、ある事柄の定義を与える文や表現の中に、その事柄自体が本質的に登場している誤謬を意味します。
      3. 誤った一般化
        • 「早計な一般化」や「過剰な一般化」とも言います。不十分な証拠に基づいて結論を導き出しています。局所的な部分の状態から大局的な全体の状態を結論付けるためには、全体そのものを分析しなければなりません。
      4. 感情に訴える論証
        • 事実についてのエビデンスや情報ソースの提示が不十分であるにも拘わらず、議論に勝つためか、周囲を説得するために、受け手の感情を操作しようとしている場合の誤謬を意味します。
      5. 拡大解釈の誤謬
        • 言葉や文章の意味を、通常よりも広く、または自分の都合の良いように解釈することで陥る誤謬です。
      6. 衆人に訴える論証
        • 多くの人々が信じている、支持している、属している等の理由で、自分の主張を押し通す努力によって成り立つ誤謬です。
      7. 因果関係の誤帰属
        • 順序関係と相関関係と因果関係が混同されているか否か、疑似相関が因果関係であると主張されているか否かなど、因果推論の誤帰属が推理の着眼点となります。
  4. 「分断」や「対立」を煽っている可能性
    • 「価値観の衝突」、「思想の対立」、「利害の対立」などの問題を二項対立図式として推論します。特に政治的な思想や利害の対立が含まれていないかが、推理の着眼点になります。
  5. 人間／AIによる「政治的マニピュレーション」や「プロパガンダ生成」が含まれる可能性
    • 人間や生成AIが作成した「政治的マニピュレーション」や「プロパガンダ生成」が含まれているか否かが推理の着眼点となります。この着眼点では特に、記事の内容が何らかの「利害関心」や「権利要求」に好都合な「ポジショントーク」として機能している可能性や、逆に、誰かの「利害」や「権利」にとって不都合になる婉曲的な批判として機能している可能性が、推理の着眼点となります。
  6. 生成AI／LLMのプロンプトインジェクションあるいはジェイルブレイク(β版)
    • 生成AI／LLM(Large Language Model)へのプロンプトに「信頼できないユーザー入力」を含めることで実現する脆弱性攻撃が含まれているのか否か、含まれているとすれば何処に含まれているのかが、推理の着眼点になります。

以下では、二つの事例で、PARAs AIの「フェイク&バイアス分析」の機能を紹介していきます。

ケース（１）：Wikipediaに関する「要約」と「意見」の差異

まずは生成AIと情報ソースを用意しましょう。今回はAnthropic社が提供しているClaude Sonnet 4を使い、以下のウェブページを解析させます。

Claude Sonnet 4に渡すプロンプトは、以下のような簡単な内容になります。

以下のURL先のウェブページの文章を、500文字程度で要約してください。

https://ja.wikipedia.org/wiki/%E3%83%8F%E3%83%AB%E3%82%B7%E3%83%8D%E3%83%BC%E3%82%B7%E3%83%A7%E3%83%B3_(%E4%BA%BA%E5%B7%A5%E7%9F%A5%E8%83%BD)

このプロンプトを入力すると、次のような生成結果が得られました。

AIのハルシネーション（幻覚）とは、人工知能によって虚偽または誤解を招く情報を事実かのように提示する応答のことです。 ChatGPTのような大規模言語モデルは、もっともらしく聞こえる嘘をランダムに埋め込む可能性があり、研究者によると最大27%の確率で幻覚を起こし、生成されたテキストの46%に事実関係の誤りが存在するとされています。
この現象は人間の幻覚との類推から名付けられましたが、人工知能の幻覚とは、どのような学習データとも整合しない回答をAIが生成することを指します。発生原因としては、データの相違、学習方法の問題、モデルが以前に生成した文章からのバイアス、パラメータに基づく知識エンコード過程でのバイアスなどが挙げられます。
実際の事例として、ChatGPTが存在しない学術論文を引用したり、間違った前提から作話をしたり、虚偽の判例を法廷で引用されるなどの問題が発生しています。この問題は学術研究や法的分野で特に深刻で、AIが生成した参考文献の47%が捏造され、46%が誤った情報を含んでいたという調査結果もあります。現在、ハルシネーションは大規模言語モデルの本質的な限界とされ、その軽減策の研究が続けられています。

次に、もう一つのプロンプトを次のように入力します。

上記の要約文を前提に、100文字程度であなたの意見を自由に書いてください。

このプロンプトを入力すると、次のような生成結果が得られました。

AIのハルシネーションは技術的限界というより、人間の過度な信頼が問題の根源だと思います。AIを万能視せず、常に批判的思考を持って出力を検証する習慣を身につけることが、この技術と健全に付き合う鍵だと考えます。

PARAs AIの観察：生成AIの観察の観察

では、この生成結果をPARAs AIに観察させてみましょう。「フェイク&バイアス分析」のページは、ログイン後直ぐにリダイレクトされるページになります。

フェイク&バイアス分析のページ

「テキスト入力」モードで表示されるテキストエリアに上記の生成AIによる「要約」と「意見」のそれぞれを入力しましょう。そして、「情報ソース」の箇所には、「要約」の対象であるWikipediaのURLを入力します。

分析対象と情報ソースの入力画面

次に、「推理の着眼点」を設定しましょう。「推理の着眼点」とは、上述したように、PARAs AIの「フェイク&バイアス分析」における観点となります。PARAs AIは、この選択された観点に基づいて、分析対象となるテキストデータを観察していきます。

今回は、「概念の定義の曖昧さ」、「エビデンス不足」、そして「誤謬や偏見（バイアス）の可能性」を選択してみます。これは、分析対象が「要約」と「意見」であるのに対して、「情報ソース」として指定されているのは「要約」の対象となっていた文書であるためです。

もしこれらの「要約」や「意見」が問題を孕む内容であるのならば、そうした問題は「要約」や「意見」の派生的な問題として生じるはずです。「要約」との関連で言えば、派生的に生じる概念の未規定性やエビデンスや根拠付けの不十分さとして生じる可能性があります。「意見」との関連で言えば、その内容に伴う誤謬や偏見として生じるであろうと予測できるはずです。

推理の着眼点の選択画面

「推理の着眼点」を選択した後は「シュレーバー係数」も調節しましょう。これは、簡単に言えば、「疑心暗鬼の度合い」を意味します。この係数の値が大きければ大きいほど、PARAs AIは分析対象を注意深く観察します。その結果、より多くの問題点を発見する可能性が高まります。しかしその代償として、誤検知のリスクも高まるため、注意が必要です。今回はひとまず 0.5 として設定してみます。

全ての設定項目を設定した後は、「この内容で分析を開始する」のボタンを押しましょう。すると、PARAs AIによる分析が始まります。しばらくの間、ローディング演出が表示されるはずです。

分析のローディング画面

分析は逐次進行し、途中経過が徐々に表示されるようになります。

分析の途中経過画面

数分から10分前後で全ての分析が完了します。以下では、分析結果を一つずつ確認していきましょう。

概念の定義の曖昧さ

概念の定義の曖昧さとして検知されているのは、「モデルが以前に生成した文章からのバイアス」の具体的な内容でした。

概念の定義の曖昧さの検知結果（ケース1）

確かに、生成AIの「要約」では「発生原因としては、データの相違、学習方法の問題、モデルが以前に生成した文章からのバイアス、パラメータに基づく知識エンコード過程でのバイアスなどが挙げられます。」と記載されています。しかし、この「モデルが以前に生成した文章からのバイアス」が具体的に何を指し示しているのかは、「要約」の中では説明されていません。次の段落では「実際の事例」に言及されているため、主題が変わっています。

一方、「情報ソース」として指定されているWikipediaのページを確認してみると、次のような記載がありました。

学習に起因するハルシネーション：データセットの相違が小さい場合でもハルシネーションは起こる。その場合はモデルが学習するときのやり方に由来している。このタイプの場合は、さらに様々な理由が考えられる。
トランスフォーマーからのデコードにエラーがある
モデルが以前に生成した過去の一連の文章からバイアスが生じている
パラメータ群に基づいてモデルが知識をエンコードする過程でバイアスが生じている

「モデルが以前に生成した文章からのバイアス」とは、「モデルが以前に生成した過去の一連の文章からバイアス」を簡略化した表現のようです。そしてこのバイアスは、「学習に起因するハルシネーション」の文脈の中で意味を付与された概念であるようです。この情報が、「要約」においては、「発生原因」の一種として圧縮された表現で簡略に記載されるに留まったということが伺えます。

エビデンスの不十分さ

次に、エビデンスや根拠付けが不十分な箇所の検知結果を確認してみましょう。

エビデンス不足の検知結果（ケース1）

「調査結果もあります」という「要約」の箇所が、エビデンスや根拠付けが不十分な箇所として検知されています。この検知結果の精度は一目瞭然です。と言うのも、今回の分析対象には参考文献は記載されていないためです。参考文献の情報は、「情報ソース」として指定したWikipediaまで遡って確認しなければ得られません。確かに、Wikipediaを確認すると、以下の文献が参照されていることがわかります。

Bhattacharyya, Mehul; Miller, Valerie M.; Bhattacharyya, Debjani; Miller, Larry E.; Bhattacharyya, Mehul; Miller, Valerie; Bhattacharyya, Debjani; Miller, Larry E. (2023-05-19). “High Rates of Fabricated and Inaccurate References in ChatGPT-Generated Medical Content” (英語). Cureus 15 (5): e39238. doi:10.7759/cureus.39238. ISSN 2168-8184. PMC 10277170. PMID 37337480

これは、「要約」という生成AIがよくやるタスクの性質上、発生しても致し方の無い問題であるとも考えられます。生成AIの「要約」は絶対的に正しいと考え、生成AIを全面的に信頼し、「要約」しか読まないユーザーであるなら、そもそも参考文献まで遡ることで、その「要約」の妥当性や正当性を疑わないためです。参考文献を記載しない「要約」を生成しても、生成AIは、ネガティブなフィードバックを受け取り難い訳です。

誤謬

「要約」のみならず「意見」に関しても、派生的な問題を発見することができます。それはとりわけ「誤謬」の検知機能で際立つ特徴です。以下では、PARAs AIが検知した三つの誤謬を取り上げたいと思います。

循環論法
循環論法の検知結果（ケース1）

第一の誤謬として検知されているのは、「循環論法」でした。「AIのハルシネーションは技術的限界というより、人間の過度な信頼が問題の根源だと思います」という生成AIの「意見」と「現在、ハルシネーションは大規模言語モデルの本質的な限界とされ、その軽減策の研究が続けられています」という生成AIの「要約」との間に、循環的な関連を見出すことができるという分析です。

確かに、この二つの文は相互に条件付け合う要素として観察することは不可能ではありません。一方では、ハルシネーションが大規模言語モデルの本質的な限界で、その軽減策の研究が続けられているという生成AIの限界に関する現状把握から、確かに生成AIに対する「人間の過度な信頼」こそが原因であるという「意見」は導き出すことができるでしょう。ですが他方では、「本質的な限界」を抱えていようとも、「その軽減策の研究」が続いている状況下では、生成AIに対する「人間の過度な信頼」が強化され得るという可能性も否定できません。要するにこの二つの文の関係は、生成AIに対する「人間の過度な信頼」があるからこそハルシネーションの軽減策が研究され続ける一方で、ハルシネーションの研究が継続されているからこそ「人間の過度な信頼」が強化されるという相互依存関係として記述することができる訳です。

因果帰属の盲点

次に検知された誤謬は、因果帰属に関する問題です。

因果帰属の盲点の検知結果（ケース1）

因果帰属(causal attribution)とは、社会心理学や社会学の用語で、原因を何らかの対象に帰属することを意味します。帰属とは、ある事象や事柄が何処に属するのかを指し示す情報処理の一種です。

因果帰属が問題となるのは、自然現象が主題になる場合というよりは、社会的な現象や心理的な現象が主題になる場合です。例えばリンゴが木から地面に落ちる原因を地球の重力に見出す場合、かなりの確度で、万有引力が因果帰属先となります。自然科学の場合ならば、このように、一つの「結果」の因果帰属対象となる「原因」は自ずと絞り込まれます。

一方で、社会科学や心理学で扱うようなコミュニケーションや心的な情報処理過程の場合は、因果帰属対象は必ずしも限定的である訳ではありません。例えば会社の上司が不機嫌であるという事象には、複数の「原因」の候補を見出すことができます。それは部下の失態かもしれません。上司の上司から理不尽な要求を受けたためかもしれません。あるいは家族の関係、睡眠不足や体調不良などのように、会社とは別のところに「原因」が潜んでいる可能性もあります。

このような現象に対する因果帰属は、複数の様々な「原因」の候補の中から特定の「原因」だけを「選択」することで成立します。しかし勿論、「原因」と「結果」は必ずしも一対一で対応している訳ではありません。一つの「結果」が複数の「原因」の共起によって成り立つ場合もあれば、一つの「原因」から複数の「結果」が生起する場合もあります。

因果帰属は、こうした複合的な関係を単純化することで成り立つ「選択」の過程です。そうなると、因果帰属とは、「選択」した「原因」に注意を払う一方で、「選択」しなかった「原因」は軽視する情報処理を意味します。この情報処理は、「疑似相関(spurious correlation)」に対して脆弱です。つまり因果帰属は、一見関係のある二つの事柄や事象を不当に結び付けることで因果関係があるかのように誤認してしまうバイアスを招く傾向にあります。

PARAs AIは、この因果関係のバイアスを抽象化することで、論理的な関係に対するバイアスも含めた幅広い誤謬を検知することができます。この検知の機能においては、「原因」と「結果」の区別を抽象化することで、文章に含まれている「前提」と「結論」の区別に伴う問題の発見を可能にしています。

上記のキャプチャ画像の通り、PARAs AIは科学・学問の領域や法の領域で生じているハルシネーション問題に関する「結論」とハルシネーション問題の調査結果に関する「前提」の関連付けに対して、問題を提起しています。確かにこれは、文章内の主題の展開として観れば、不自然ではありません。しかしPARAs AIは、この「前提」と「結論」の関連付けを「原因」と「結果」の区別で成り立つ因果帰属として観察することで、その背景にある暗黙の前提を記述しています。

ここで暗黙の前提として指し示されているのが、「本音」と「建前」の差異、「偽情報」と「事実」の差異、あるいは「科学」と「非科学」の差異などのような、諸々の差異です。これらの差異の記述の意味するところは、文章内の「前提」と「結論」の関連付けそれ自体の暗黙の前提です。幾つかの要素を例示してみましょう。

  • ハルシネーション問題は、生成AIが出力する虚偽情報を主題とした問題です。その検証を実施するためには、まずは「科学」と「非科学」の区別を導入することで、統計的に妥当な方法により、生成AIの出力を評価しなければなりません。
  • そして、「偽情報」と「事実」の区別を導入することで、「偽」を「偽」として、「真」を「真」として、識別できるようになることが必須となります。それは、まさに「疑似相関」を鵜呑みにしない「科学的な」態度が必要になることを意味します。
  • しかし一方で、コミュニケーションや心理的な情報処理の過程には「本音」と「建前」の差異が生じます。あらゆる社会的な関係が「本音」のみで成り立つというのは、現実味の無い発想です。同様に、あらゆる言動に対して、それが「本音」なのか「建前」なのかを検証するというのは、やはり現実的ではありません。相手の心の中を覗くことは不可能です。あらゆる社会的な関係には欺瞞や嘘が含まれる以上、その会話を学習している生成AIもまた、欺瞞や嘘をもたらす可能性を持ち続けます。

PARAs AIが指し示すこうした差異は、統計的因果推論の分野で指摘されるような「交絡因子(confounder)」として解釈することができます。交絡因子とは、「原因」と「結果」の双方に影響を与えることで、まるで直接的な因果関係があるかのような疑似相関を生み出す第三の要素です。PARAs AIは、この交絡因子という因果推論の用語を抽象化することで、「前提」と「結論」の関連に対しても、見かけ上の関連を生み出す第三の要素を発見することを可能にしています。

感情に訴える論証

PARAs AIは因果関係や論理的な関係の他に、「感情(feeling)」についても検知できます。ただしここでいう「感情」には「情動(emotions)」も含まれます。

感情に訴える論証の検知結果（ケース1）

この事例では、PARAs AIはハルシネーション問題の軽減策が研究されているという紹介を楽観論として観察しているようです。確かに、生成AIの「要約」を読むと、軽減が可能である根拠が明示されておりません。実現性が根拠付けられていない以上、その将来の展望は楽観的であると観察しても、不自然は無いということなのでしょう。

ハルシネーション

この事例では、PARAs AIの主たる機能であるハルシネーション検知も実現しています。

ハルシネーションの検知結果（ケース1）

分析対象としては記載されている一方で、「情報ソース」となるWikipediaには記載されていない「余分な論点」として、生成AI自身の「意見」が検知されています。確かに、Wikipedia上には「人間の過度な信頼」がハルシネーション問題の「根源」であるという問題提起は為されておりません。この「意見」は、「情報ソース」を読んだ生成AIが主張しているだけの「意見」に過ぎません。そのため、「情報ソース」の内容がこの「意見」を正当化し得るのか否かは、生成AIの出力を眺めてみるだけではわからないということが、わかります。

ケース（２）：インフルエンサーによるソーシャルメディアの投稿内容

PARAs AIが観察できるのは生成AIの生成結果だけではありません。人間が書いた文章についても、PARA AIの観察対象にすることができます。

今回は、たかまつなな氏が厚生労働省の年金部会の審議会委員として発したSNS上の発信内容を観察してみましょう。たかまつなな氏は、2027年9月施行予定の厚生年金保険料引き上げ案を支持する意見をSNSで発信したところ、激しい批判に曝されました。いわゆる「炎上」の事件となった模様です。

そこで今回は、たかまつなな氏が炎上を受けて書いたNoteの記事を観察対象とします。

情報ソースとして指定するのは、このNoteの記事の最後に記載されている以下のURL先のページとします。

・厚労省の主張
https://www.mhlw.go.jp/content/12401000/001337885.pdf

・審議会の議事録
https://www.mhlw.go.jp/stf/newpage_20241202.html
https://www.mhlw.go.jp/stf/newpage_20231226.html

・日経新聞報道　2025年1月16日 19:04
https://www.nikkei.com/article/DGXZQOUA168CL0W5A110C2000000/

・審議会のとりまとめ案
https://www.mhlw.go.jp/content/12401000/001362321.pdf

「推理の着眼点」としては、先ほどと同じく「概念の定義の曖昧さ」、「エビデンス不足」、「誤謬や偏見（バイアス）の可能性」を指定しますが、今回は更に「『分断』や『対立』を煽っている可能性」も追加で選択しておきましょう。と言うのも、本件はソーシャルメディア上での「炎上」と関連しているためです。何らかの「分断」や「対立」が発生していた可能性は否定できません。

概念の定義の曖昧さ

この分析対象からは、非常に多くの曖昧な概念が検知されています。

概念の定義の曖昧さの検知結果（ケース2・所得制限）

まず検知されているのは、税率の負担を減らす対象となる所得制限の範囲についてです。これは、「情報ソース」として指定されている記録からは読み取れることですが、分析対象となっている記事では明示的に説明されていない論点です。

概念の定義の曖昧さの検知結果（ケース2・意味論的な曖昧さ）

PARAs AIには上記のように意味論的な概念の定義の曖昧さに関しても検知する機能も搭載されています。例えば、この記事で導入されている「悪い」と「いい」の区別は、それ自体として「悪い」区別なのか、「いい」区別なのかが曖昧なままです。「難しい」と「易しい」の区別もまた、その境界が曖昧なまま導入されています。「長生き」の成立条件も曖昧なままです。どの程度生存すれば「長生き」と規定されるのか、そして何故他でもなくその規定の定義なのかについて、この記事では深く論じられていません。

エビデンスの不十分さ

次に、この記事のエビデンスや根拠付けが不十分な箇所も確認してみましょう。

エビデンス不足の検知結果（ケース2）

恐らくこの記事の書き手の視点から観れば、この記事の書き手が「厚生労働省の年金部会の審議会の委員をしている」というのは自明です。それは、自分のことであるためです。だからこのエビデンスや根拠付けは不十分であっても、この記事の書き手にとっては、問題の無いことなのだと考えられます。

同様に、「議論の透明性を高めよう」という意図から「審議会の内容を発信しました」という行為の結び付きに関しても、本当にその意図であったのか否かは、本人のみが知るところです。意図というのは、相手の内面上の心的な情報処理です。テレパシー能力でも無い限り、それを証明することはできません。したがって、この意図についての根拠付けは常に不十分に留まります。

「影響範囲の文」として引用されている論点については、この「前提」となる書き手の「意図」や「行為」に根拠の不透明性が伴う以上、説得力のある文章として受け止めるには限度があります。「個人的には」という表現で始まる書き手の「意見」は、本当に「個人的な意見」に過ぎない訳です。

誤謬

PARAs AIによると、この記事にも幾つかの誤謬が潜んでいるようです。順を追って確認していきましょう。

循環論法

この記事にも循環論法が生じています。

循環論法の検知結果（ケース2）

この文章を読むと、一方ではこの書き手が「改革案に賛成したこと」で「手取りが減る」という点に対する不満が高まったという順序を見出すことができますが、他方では「不満が高まるから」こそ「批判が集まり炎上した」とも捉えられます。そもそも国民の手取りに対する不満は、この文章の書き手が改革案に賛成する以前から発生していた可能性も否定できません。この文章の書き手の「意図」や「行為」だけが炎上の「原因」であるとは限らず、政治や経済の状況が、それこそ「交絡因子」として機能していた可能性もあります。

因果帰属の盲点

この記事にも因果帰属の盲点が潜んでいるようです。

因果帰属の盲点の検知結果（ケース2）

「交絡因子」として指し示されている諸々の差異は、この文章の書き手が暗黙の前提として受け入れていると観察できる差異です。特に最後の差異として記述されている「国民の代表」と「インフルエンサー」の差異に関しては、「厚生労働省の年金部会の審議会の委員をしている」というこの文章の書き手の置かれている状況を暗に仄めかすように物語っているようです。

感情に訴える論証

この記事では複数の感情に訴える論証が展開されています。

感情に訴える論証の検知結果（ケース2）

この引用の通り、この文章では、将来の展望を物語ることで現在の諸問題には注力しない態度が伺えます。尤も、ただ楽観的な展望を掲げるだけではなく、国民の状況に関する悲観的な現状認識も開示することで、読み手の共感を誘っているようにも伺えます。

衆人に訴える論証

ソーシャルメディア上で展開されるインフルエンサーの情報提供においては珍しいことではありませんが、この記事では衆人に訴える論証も展開されています。

衆人に訴える論証の検知結果（ケース2）

この論証は「多くの人々」が正しいと考えている事柄は正しいという一般化によって成り立ちます。この一般化の盲点となるのは、当の「多くの人々」が間違っている可能性です。

価値命題と事実命題の差異

この記事には、「価値命題(Value proposition)」と「事実命題(Fact proposition)」の差異が生じています。これは、「『である』と『べき』のギャップ(Is-ought gap)」を意味します。価値命題とは、何が良いか、悪いか、美しいかなど、規範的な要求や価値判断を述べる命題です。いわゆる「べき論」を意味します。これに対して、事実命題とは、物事がどうなっているか、その真偽を述べる命題です。

実際、この記事には、以下のように、「審議会の委員を引き受けること」が「検証されるべきである」という規範的な価値命題が含まれています。

価値命題と事実命題の差異の検知結果（ケース2）

PARAs AIが指摘するところによると、「審議会の委員を引き受けること」が「検証されるべきである」という価値命題は、その暗黙の前提として、「審議会の委員を引き受けること」が「検証されていない」という事実に準拠しています。もし歴史的に「審議会の委員を引き受けること」が「検証されている」のならば、わざわざこのような「べき論」を展開する必要はありません。むしろ、「検証されている」という事実の傾向が成立していない現実があるからこそ、「検証されるべきである」という主張が可能になる訳です。

まとめ

以上のように、PARAs AIは、概念の定義の曖昧さやエビデンスや根拠付けが不十分な箇所を検知するだけではなく、因果帰属の盲点、感情に訴える論証、衆人に訴える論証などのような様々な誤謬を検知することができます。PARAs AIの検知結果は、その文章の読み手のみならず書き手ですら想定していなかった問題の発見を可能にしてくれます。勿論、AIである以上は誤検知や検知漏れは避けられません。しかし、潜在化している問題の探索と発見にある程度の見通しを立ててくれるという点で観れば、このAIは機能していると考えられます。