F-nameのブログ

はてなダイアリーから移行し、更に独自ドメイン化しました。

不確実性推論とAI診断システム(AIシステムと人・社会との関係第2回)#放送大学講義録

ーーーー講義録始めーーーー

 

マイシンにおける不確実性推論と説明機能

不確実性推論の仕組み

マイシンでは、後ろ向き推論の過程で不確実性推論が開発されました。この仕組みでは、ユーザー(医師)が条件節の成否について尋ねられた際、次のように回答します:

  • 「はい」または「いいえ」
  • その回答に対する確信度(確からしさ)を、0.1~1.0の範囲で入力。

これに基づき、ルールの確信度とユーザー入力の確信度を考慮し、最初に仮定した結論の確信度を計算します。

図2-3 (1) をご覧ください。これは、医師とマイシンの対話例(前半)を示しています。

  • M1~M4: マイシンから医師への確認質問。
  • 医師は「はい」「いいえ」と確信度(0.1~1.0)を回答。
  • M1~M13: 一連の質問の回答に基づき、マイシンは推論を進め、途中経過として「CSF(脳脊髄液)の培養物が髄膜炎に関連する」という中間仮説を提示しました。

推論プロセスと説明機能

患者の病気が髄膜炎であると推論したマイシンは、その原因となる病原菌を調べるため、さらに推論を進めます。
図2-3 (2) では、医師とマイシンの後半の対話例が示されています。

  • マイシンが医師に「サリーさんはやけどをしていますか?」と質問(質問38)。
  • 医師はこの質問の意図に疑問を抱き、WHYコマンドを使って説明を求めます。
  • マイシンは以下を回答:
    1. 「質問38は、感染症の原因がジフテリア菌であるという結論部を持つルールの第4条件節を確認するためのもの。」
    2. 「第3条件節については自動的に成立と判断した。」

医師はさらに「第3条件節がどのように処理されたのか」を確認するため、HOWコマンドを使用。

  • マイシンは「ルール500とルール501を用いて推論した」と回答しました。

マイシンの説明機能の意義

このように、マイシンでは、医師が推論プロセスに疑問を抱いた場合に、そのプロセスを詳細に説明する機能を提供しています。

  • WHYコマンド: 質問や行動の理由を説明。
  • HOWコマンド: 条件節や結論がどのように処理されたかを説明。

診断結果

最終的にマイシンは次の診断結果を導き出しました:

  1. 感染症: サリーさんは髄膜炎に感染している。
  2. 病原菌: 髄膜炎の原因はミコバクテリウムオシジオイ菌である可能性が高い。

マイシンの先駆性と人間中心のAI

マイシンは単なる診断システムではなく、**説明可能AI(Explainable AI, XAI)**の先駆的研究としても評価されています。

  • 現代のAIでは、人間中心の設計が重要とされ、結果の透明性が求められていますが、マイシンはその理念をいち早く体現していました。