第177回 医療DXと医療AI その18~生成AI、ファクトチェック~
生成AIは、データ分析や文書作成だけでなく、ファクトチェックや校正・校閲にも活用できます。一方で、生成AIによる誤情報の生成(ハルシネーション)には注意が必要です。今回は、医療分野における生成AIを活用したファクトチェックの方法と、効果的な活用のポイントをご紹介します。
医療DXと医療AI その18~生成AI、ファクトチェック~
情報の正確性を確保することが重要
生成AIをさまざまな場面で活用する事例をこれまでご紹介してきました。医療界において、医師などの医療従事者は学会で発表したり、論文を投稿したりします。それこそ生成AIによるデータ分析やデータ解析が活躍する場面です。
一方で、「ハルシネーション」(生成AIが不正確、あるいは誤った情報をあたかも正確な情報のように生成すること)が危惧されています。さらに院内や対外的にプレゼンテーション資料などを提出するときに、誤った情報を出さないことはもちろん、情報の正確性を確保することが重要です。誤った数字や情報などを載せてしまうと信用を失うだけでなく、特に医療においては民事上の責任を問われたり、薬機法上の問題につながったりする可能性もあります。特に患者からの信用を失うことは、何としても避けたいところです。
従って、外部へ提出する資料や情報は、提出前に入念なチェックを行う必要があります。しかし、これらの事前チェックを全て手作業で行うことは非常に大変で、時間もかかります。しかも、人間は「ミスを犯す動物」です。そこで、生成AIを活用してファクトチェックや校正・校閲を実施してもらい、人によるチェック作業の効率化を図ることができます。
ファクトチェック
原案文書の内容を最新情報と比較して、チェック
→生成AIの検索機能を使って、最新情報と照らし合わせてもらいます。
内容に応じて生成AIを使い分ける
プロンプト例1(ファクトチェック)
#条件
- 数字や統計データに誤りがあれば、修正し正しい値を示す
- 根拠が明確でない記載内容があれば、指摘する
- 大幅に異なるデータがある場合は、その原因や背景も簡潔に補足する
※チェック対象のファイルを生成AIに添付します。
※特に優先して調べたいWebサイト名、URL、調査機関などがあれば補足事項として記載しておきます。
※希望する出力フォーマットがあれば、その内容も記載して指示しておきます。
- * 「#」:ここでは全角で記載していますが、生成AIで使用する際は半角で記載します。
なお、ChatGPTは表記の確認やシンプルな数字の整合性などは行えますが、大掛かりな統計資料の細部までの検証などは得意ではありません。そのため、ファクトチェックの内容に応じて使用する生成AIを使い分けることをお勧めします。
一から十まで人が確認するのではなく、人によるチェックの手間を減らし、精度を補うために生成AIをスクリーニング的に活用して、最終チェックを人が行う運用が基本です。
しかし、さらに精緻なファクトチェックを行いたいときもあると思います。そのような場合は、ほかの仕組みと組み合わせて使用できます。例えば、生成AIとDeep Research機能とを組み合わせる方法があります。これは通常の検索機能よりも多段階で情報を収集し、引用元をレポートして表示してくれます。そのため、出典の追跡がしやすいというメリットがあります。
ただし、生成AIの種類によっては有料版の機能である場合もあるため、事前の確認が必要です。さらにGensparkのファクトチェック機能では、結果がまとまり次第レポートで通知され、数字や事実関係の妥当性を複数の情報源から裏付けることが可能です。
日常的に活用できるものとして、文章の誤字脱字や表現の統一を確認する方法があります。こちらはWeb検索機能を使用せず、生成AIの言語モデルを利用します。
プロンプト例2(校正・校閲)
- 以下の文章を校正・校閲してください
- 誤字脱字や表現のゆれ、敬体・常体の統一、重複表現の指摘と、その箇所を分かりやすい表現に修正してください
#条件
- 句読点やスペースの不適切な箇所を見つけ、修正する
- 重複表現があれば、削除または適切な表現に置き換える
- 文体はビジネス向けの敬体で統一する
- 内容は大きく変えずに、日本語として自然な文章になるようにする
【他業界への文章の場合】
- 業界用語、略称には正式名称と簡易的な説明文を適宜注釈として挿入する
※校正・校閲の対象文書を添付します。
- * 「#」:ここでは全角で記載していますが、生成AIで使用する際は半角で記載します。
注意としては、校正・校閲がメインなのか、ファクトチェックがメインなのかを明確にしてプロンプトを使い分けることです。また、文章量が多い場合は、一度に全てを生成AIへ投入するのではなく(大量の文章を一度にチェックさせると時間がかかります)、章ごとに分割したり、気になる部分を優先してチェックさせたりすると効率的です。
皆さんはどう思いますか?
次回は10月14日(水)更新予定です。
ご案内
【FMCAのセミナーのご案内】 個人情報保護法 2026年改定のPOINT
医療機関にとって、個人情報保護法は非常に重要な法律です。監査や外部調査の際にも確認されます。最新の法改正の内容や情報漏洩対策など、医療機関にとっての具体的な注意点を適切にご説明します。
メールアドレス:fujiimca@gmail.com