GMPで生成AIを導入する前に整理したい「Context of Use」とリスク評価①

GMP領域で生成AIを導入する前に整理するContext of Useのイメージ

記事の要約

  • GMP業務に生成AIを導入する際は、モデルの性能だけでなく「AIを何のために、どこまで使うのか」を定めるContext of Use(COU:利用する文脈・用途)の整理が出発点になります。
  • 2026年1月にFDAとEMAが共同で公表した「Guiding Principles of Good AI Practice in Drug Development」も「Clear context of use」を原則に掲げ、COUとモデルリスクに応じてバリデーションや監督の程度を決める考え方を示しています。
  • 本記事では、目的・入力データ・AIの役割・出力の扱い・人間の関与・AIの境界・AIの変更と更新の7項目を解説します。株式会社EQUESの製薬特化型AI(QAI Generator / QAI Checker)は、こうしたGMP文書業務の効率化を支援します。

はじめに

生成AIをGMP業務に導入する際、「どの生成AIを使うか」「どのモデルが高性能か」から検討を始めてしまうケースがあります。しかし、GMPの観点で本当に重要なのは、AIそのものよりも、AIを何のために、どの範囲で使い、出力をどのような業務判断につなげるのかを明確にすることです。

そのために有効なのが、Context of Use(COU:利用する文脈・用途)という考え方です。

2026年1月には、FDAとEMAが共同で「Guiding Principles of Good AI Practice in Drug Development」を公表し、その中で「Risk-based approach」と並んで「Clear context of use」を明確な原則として示しました。

AIの用途・役割・範囲を明確にし、そのCOUとモデルリスクに応じて、バリデーション、リスク低減、監督の程度を決めるという考え方です。さらに、関連基準への適合、データガバナンス、AIと人との相互作用を含めた性能評価、ライフサイクル管理も原則として挙げられています。

本記事では、2回に分けてGMP領域におけるContext of Useとは何かを考えていきたいと思います。第1回ではGMP領域で生成AIを導入する前に、Context of Useをどのように整理すべきかを解説し、次回の第2回ではそこからどのようにリスク評価へつなげればよいかを解説します。

GMP×生成AIでは「AIの性能」だけを評価してはいけない

生成AIの導入を検討するとき、多くの人は、

  • 「このモデルはどれくらい賢いのか」
  • 「回答の正答率は何%なのか」
  • 「RAGを使えば幻覚を防げるのか」

といった技術的な評価に目を向けます。もちろん、これらは重要です。しかしGMPでは、AIの性能が高いことだけでは十分ではありません。例えば、同じ生成AIでも次の2つの用途を比較してみます。

用途A:SOPを検索し、関連する手順を回答する

これは作業者が回答を確認し、最終的な判断は人間が行うという用途です。

一方、

用途B:製造記録や試験結果を解析し、出荷可否を判断する

となれば、AIの誤りが製品品質や患者への影響に直接つながる可能性があります。どちらも「生成AIを使って情報を分析する」という点では似ています。しかし、GMP上のリスクは大きく異なります。つまり、「生成AIだから高リスク」なのではなく、「生成AIを何に使うか」によってリスクが変わるという考え方が重要になります。

FDAが2023年に公表した「Artificial Intelligence in Drug Manufacturing ※」でも、AIの製造分野への用途として工程設計・スケールアップ、Advanced Process Control、工程監視・異常検知、トレンドモニタリングなどが例示されています。

※このFDA文書は規制や最終ガイダンスではなく、議論・意見募集を目的としたDiscussion Paperです。

一方で、製品品質に影響するAIモデルについては、モデルの開発・バリデーションや、特定の用途におけるモデルの信頼性をどう確立するかが課題として挙げられています。したがって、AI導入では「AIのリスク」を一括して考えるのではなく、まずAIの用途を具体化することが出発点になります。

Context of Useとは何か?

Context of Useは、日本語にすると「利用文脈」「使用目的」などと表現できます。FDA・EMAの2026年の共同原則では、AI技術について、どのような役割で、なぜ使用するのか、その範囲が明確に定義されていることが求められる考え方として示されています。

ここで重要なのは、単に「逸脱調査にAIを使う」と書くだけでは不十分だということです。

例えば、悪い例としては以下のようなものが挙げられます。

「逸脱調査に生成AIを活用する」

これではAIがどこまで業務に関与するのかが分かりません。

一方、より明確な例としては以下のようなものが挙げられます。

「過去の逸脱報告書、CAPA、SOPを検索し、今回の逸脱と類似する事例を提示する。AIの出力は調査担当者の参考情報としてのみ使用し、根本原因、影響評価、CAPAの最終判断は担当者が行う」

こちらはかなり具体的になっています。

ここでは、

  • 「何を入力するか」
  • 「AIは何をするか」
  • 「何を出力するか」
  • 「誰が使うか」
  • 「その出力をどのように使うか」
  • 「AIが最終判断を行うのか」

が明確になっています。これがCOUを整理するということです。

Context of Useで最初に整理すべき7項目

実務では、生成AIの導入候補が出てきたら、まず以下の項目を整理するとよいでしょう。

① 目的

なぜAIを使うのかを明確にします。

例えば、

  • 情報検索時間の短縮
  • 過去事例の類似検索
  • 文書作成の支援
  • データの要約
  • 異常傾向の検出
  • 原因候補の抽出
  • 作業者へのナビゲーション

などです。ここでは「AI化すること」自体を目的にしないことが重要です。

「逸脱調査をAI化する」ではなく、「過去事例検索にかかる時間を短縮する」というところまで落とし込むと、AIの役割が明確になります。

② 入力データ

次に、AIに何を入力するのかを定義します。

例えば、

  • SOP
  • 製造記録
  • 試験結果
  • 逸脱報告
  • CAPA
  • OOS記録
  • 設備ログ
  • センサーデータ
  • 教育記録
  • バリデーション文書

などが該当します。ここでは単に「社内データ」とまとめず、どのデータを使うかを具体化します。さらに重要なのが、そのデータの品質です。古いSOP、承認前の文書、誤登録されたデータ、欠損した記録などがAIの入力に入れば、AIがどれだけ高性能でも信頼できる出力にはなりません。

EMA/FDAの共同原則でも、データの出所、処理過程、分析上の判断を追跡可能かつ検証可能な形で文書化することがデータガバナンスの重要事項として示されています。

③ AIの役割

「AIが何をするのか」を定義します。

例えば、

  • 検索する
  • 要約する
  • 分類する
  • 比較する
  • 文章を生成する
  • 異常を検出する
  • 原因候補を提示する
  • 推奨案を作る
  • 自動で判断する

これらは、AIにどの役割を担わせるかによってリスクが変わります。特に注意したいのが、「支援」と「判断」の違いです。例えば、「逸脱調査担当者に原因候補を提示する」と、「AIが根本原因を決定する」では意味がまったく違います。生成AIをGMPに導入するときは、まずAIを意思決定者にする必要が本当にあるのかを検討することが重要です。

④ 出力の扱い

AIの回答がどのように業務へ組み込まれるのかも整理します。

例えば、

  • Level 1 参考情報:AIの回答を見るだけで、公式記録には使わない。
  • Level 2 業務支援:AIの回答を担当者が確認し、修正したうえで利用する。
  • Level 3 意思決定支援:AIの結果が品質判断や調査方針の決定に影響する。
  • Level 4 自動判断・自動制御:AIの出力が後続システムや工程を直接動かす。

一般に、後者になるほど慎重なリスク評価が必要になります。

⑤ 人間の関与

GMP×AIでは、Human-in-the-loopを単に「人が確認する」と書くだけでは不十分です。

例えば、「AIの出力を人間がレビューする」としても、

  • 何を確認するのか
  • どの程度確認するのか
  • 何をもって承認するのか
  • 誤りを発見した場合どうするのか
  • AIの出力をそのまま採用してよいのか

が決まっていなければ、実質的なリスク低減策として機能しない可能性があります。EMA/FDAの共同原則でも、AI単体だけでなく人とAIの相互作用を含むシステム全体を、Context of Useに適した指標とデータで評価することが示されています。

⑥ AIの境界

「AIに何をさせないか」もCOUの重要な要素です。

例えば逸脱調査支援システムなら、

  • AIは原因候補を提示するが、根本原因の確定は行わない。
  • AIはCAPA案を作成できるが、CAPAの承認は行わない。
  • AIは試験結果を要約できるが、OOS判定は行わない。

というように、AIの権限範囲を明確にします。実際には、この「やらないこと」の定義が、GMPにおける重要なリスクコントロールになります。

⑦ AIの変更・更新

生成AIでは、導入時だけ評価して終わりにはできません。モデルの更新、プロンプト変更、RAGデータ更新、システム変更、外部サービス変更などによって、AIの出力が変化する可能性があります。EMA/FDAの原則でも、AIについてライフサイクル全体でリスクベースの品質管理を行い、定期的なモニタリングと再評価を行うことが示されています。

まとめ

生成AIをGMP業務に導入する際には、まず「どのAIを使うか」ではなく、「AIを何のために、どこまで使うのか」を明確にすることが重要です。Context of Useを整理することで、AIの役割や人間の関与、AIに任せない範囲が明確になり、評価すべきリスクも見えてきます。

次回は、今回整理したContext of Useをもとに、生成AI特有のリスクをどのように評価し、適切なリスクコントロールにつなげるかを解説します。

課題発見から内製化まで一貫してサポート

ここまで解説してきたGMP領域における生成AIのContext of Useの整理とリスク評価を力強くサポートするのが、私たち株式会社EQUESです。

EQUESのミッション:研究と実践をシームレスに繋ぎ、より良い解を社会に実装する

・東京大学松尾研究室出身のAIの専門家のメンバーを中心に設立

・ISO/IEC 27001:2022認証取得:国際的な基準で安心のセキュリティ体制

私たちは単に技術を提供するだけでなく、お客様の隣で一緒に走り続ける「伴走型技術開発」を最も大切にしています。

弊社の強みは、戦略立案から開発、そして最終的な内製化まで、AIプロジェクトの全フェーズを一気通貫でご支援できる点にあります。

・AI×DX寺子屋:

AI×DX寺子屋:東大出身のAI専門家集団にチャットで相談し放題

「社内に専門家がいない」というお悩みに応えるサービスです。月額20万円から、東大出身のAI専門家集団にチャットでいつでも相談し放題。ベンダー選定のセカンドオピニオンとしてもご活用いただけます。

・ココロミ(PoCサービス):

「まずは小さく試したい」というニーズに応え、月々250万円から本格的なPoC(概念実証)を実施。リスクを抑えながらAI導入の第一歩を踏み出せます。

・製薬SaaS QAI Generator:

QAI Generator:製薬QA文書をAIが一発生成

特に弊社の強みである製薬分野では、品質保証(GMP)の文書作成業務を効率化するSaaSも提供。GENIACにも採択されるなど、高い評価をいただいています。

AI導入のパートナー選びで迷われているなら、ぜひ一度、私たちEQUESにご相談ください。お客様の課題に真摯に寄り添い、最適な解決策をご提案します。

一覧に戻る

まずはお気軽にご相談ください

お問い合わせはこちら