【ビデオ・VOD】【第11回】AI Compliance研究会

はじめに
・第11回のテーマ：「人（認定試験）・プロセス（SOP）・システム（eQMS）」三本柱によるAIコンプライアンス体制の実装
・なぜ三本柱か：ツール導入だけでも、ルール配布だけでも失敗する理由（三脚の脚の比喩）
・生成AI利用の三つの原則（社内ルール準拠アカウント・機密情報入力禁止・有償版設定確認）
・個人アカウントでの業務利用が禁止される理由：秘密管理性の崩壊と不正競争防止法上のリスク
・前回までの振り返り：第9回（可能性：CSVプロジェクトデモ）→第10回（リスク：ハルシネーション・人間レビューの限界）→第11回（実装）
・本日の位置づけ：「知っている」から「組織に実装されている」へ
・本日の主要キーワード（Good AI Practice 10原則 / CSA / ALCOA+ / ICH Q9 / eQMS）の簡易定義

テーマ1：最新AI動向
・Claude Fable 5／Mythos 5（2026年6月9日発表）
　・AnthropicがOpusの上位となる新階層「Mythosクラス」を発表
　・Fable 5とMythos 5は同一の基盤モデル、提供形態のみ異なる初の本格的な二層提供
　・Claude Fable 5（一般提供版）：高リスク領域にセーフガードを実装、ソフトウェア開発・科学研究等でSOTA性能
　・Claude Mythos 5（限定提供版）：一部安全装置を解除、審査承認済み組織のみ、Project Glasswing（米政府連携）経由でサイバー防御・重要インフラ組織に提供、価格：入力$10／出力$50（100万トークンあたり）
・発表から輸出規制解除までの経緯（2026年6月〜7月）
　・6月9日：Fable 5を一般提供、Mythos 5を限定提供として発表
　・6月12日：米政府の輸出管理によりアクセス制限が発生
　・6月30日：米商務省が輸出規制を解除、アクセス復旧を発表
　・7月1日〜：段階的に提供再開。Mythos 5は米国の重要インフラ防御組織へ
　・フロンティアモデルが安全保障・輸出管理の対象として扱われた初の事例
　・禁止の目的は「葬ること」ではなく「審査の時間を稼ぐこと」：2週間でAnthropicとの共同評価を経て解除
・示唆：「リスクベース管理」のフロンティア実例
　・Fable/Mythosの二層提供はICH Q9の品質リスクマネジメントと同型の発想
　・社内AI利用への応用：全社員開放の用途（低リスク）と承認者限定の用途（高リスク）の区分
　・海外クラウド・AIサービス採用時の事前評価プロセス（IT・QA連携）の必要性
・FDA・EMA「Good AI Practice 10原則」（2026年1月）
　・FDAとEMAが医薬品開発におけるAI利用の10原則を共同公表
　・日米欧の規制乖離を防ぐための国際調和の基盤、今後のガイダンス・標準の土台
　・対象は製品ライフサイクル全体（開発・製造・市販後）
　・10原則の内訳：?人間中心の設計、?リスクベースアプローチ、?標準への準拠、?Context of Useの明確化、?学際的な専門知識、?データガバナンスと文書化、?モデルの設計・開発プラクティス、?リスクベースの性能評価、?ライフサイクル管理、?明確な必須情報の提供
・10原則と本研究会「5層モデル」の対応
　・?Context of Use明確化 → 組織プロセス層：利用範囲の定義
　・?データガバナンスと文書化 → RAG＋監査証跡の確保
　・?リスクベースの性能評価 → 自己検証層＋Adversarial Reviewer
　・?ライフサイクル管理 → 継続的モニタリングと再評価
　・?人間中心の設計 → HITL（ただし人間レビューの限界を補完）
・今後の規制動向ウォッチリスト
　・FDA：AI利用に関する最終ガイダンス（2026年Q2見込み）
　・EMA：Good AI Practice原則のガイドライン化・リフレクションペーパー更新
　・PMDA：国際調和の動向を注視（FDA・EMAに追随する方式）

テーマ2：社内AIエンジニア認定試験（研究テーマ?）― 「人」の柱
・なぜ社内AIリテラシー認定が必要か
　・AI利用の品質は「使う人」の理解度で決まる
　・専門家ですらAIのもっともらしい誤りを見抜けない（第10回の結論）
　・FDA・EMA 10原則?「学際的な専門知識」：AI利用者の力量担保が前提
　・GxPの教育訓練要件（力量評価）と同じ枠組みで整備できる
・認定レベル案（3階層）
　・レベル1（AIユーザー）：全社員必須。生成AIの仕組み、ハルシネーション、機密情報取り扱い、禁止事項を理解。対象：全社員（管理部門・製造現場・研究開発・営業など）
　・レベル2（AIプラクティショナー）：プロンプト設計、RAG・自己検証の使い分け、出力の検証手順を実践できる。対象：QA・薬事・製造／開発担当者、IT／DX担当者
　・レベル3（AIエンジニア）：マルチエージェント設計、Adversarial Review、監査証跡設計ができる。対象：QA／ITのシステム責任者、DX推進リーダー、AIプロジェクトのPM
・出題範囲案（AIリテラシーテスト）
　・生成AIの基礎：確率モデルとしてのLLM、ハルシネーションの原因と分類、知識カットオフ
　・情報セキュリティ・法令：機密情報・個人情報の入力制限、個人情報保護法、不正競争防止法
　・規制要件：GxPにおけるAI利用の位置づけ、CSA、FDA・EMA 10原則、データインテグリティ
　・実践スキル（レベル2以上）：プロンプト設計、Adversarial Prompt、出典検証、構造化出力
　・作問にはAIを活用し、Adversarial Reviewerで問題品質を検証
・運用フロー案（GxPの教育訓練制度と同じPDCAで回す）
　・STEP 1（教育）：eラーニング教材の受講（レベル別）、本研究会資料を活用
　・STEP 2（受験）：AIリテラシーテスト（選択式＋実技）、合格基準80%以上を想定
　・STEP 3（認定）：レベル別に認定登録、認定範囲に応じてAI業務の権限を付与
　・STEP 4（更新）：年1回の更新試験、モデル・規制の変化を反映した問題に改訂
　・認定記録は教育訓練記録として監査・査察で提示できる形式（受講履歴・試験結果・認定レベル）で保管
・本日の論点（テーマ2）
　・論点1：認定を「任意」とするか「AI業務の必須要件」とするか
　・論点2：レベル2・3の実技試験設計（実際のプロンプト設計・出力検証 vs ケーススタディ形式）
　・論点3：会員社共通の「標準問題バンク」を研究会で共同開発できないか

テーマ3：eQMSの構築（研究テーマ?）― 「システム」の柱
・なぜ今eQMSか
　・紙・Excel運用の限界：変更管理・CAPAの進捗が見えず監査証跡も脆弱（DI指摘の温床）
　・具体例：変更管理がメールとExcelで運用されている場合のトレーサビリティ断絶とDI指摘の典型パターン
　・AIの成熟：文書ドラフト作成・逸脱類似事例検索・CAPA有効性評価をAIが支援できる時代に
　・eQMSは単なる電子化ではなく、AI支援を織り込んだ品質プロセスの再設計
・AI活用型eQMSの構成要素（4モジュール）
　・文書管理（DMS）：SOP・記録の版管理と電子承認。AIによるドラフト作成・改訂差分要約を組み込む
　・変更管理（Change Control）：変更影響評価にAI活用。類似変更の検索と影響範囲の抜け漏れチェック
　・逸脱・CAPA（Deviation/CAPA）：類似逸脱の横断検索、根本原因分析の支援、CAPA有効性の傾向分析
　・教育訓練（Training）：テーマ2の認定試験と連動、力量マトリクスと受講記録を一元管理、問題作成支援
・eQMS構築のステップ（CSA準拠）
　・STEP 1（要件定義）：URS作成。AI支援機能の範囲と「AIに任せない領域」を明記
　・STEP 2（選定）：パッケージ／内製／ハイブリッドの選定、データ所在と学習利用有無を確認
　・STEP 3（リスク評価）：機能ごとに患者安全・製品品質・DIへの影響を評価し検証深度を決定
　・STEP 4（検証）：CSAに基づくアシュアランス活動、AI機能は第10回5層モデルで検証
　・STEP 5（運用）：継続的モニタリング、モデル更新時の再評価ルールを規定
　・AI機能の検証記録は規制当局に説明可能な形式で残す
・データインテグリティ上の留意点
　・やってはいけない：AI出力を人間の確認なしに正式記録として登録、AIによる記録の自動修正を無記録で実施、監査証跡にAI関与の痕跡が残らない設計
　・正しい対応：AI出力は「ドラフト」として扱い承認者の電子署名で確定、どのモデルが・いつ・何を生成したかを監査証跡に記録、ER/ES指針・Part 11要件を満たす電子記録・電子署名を実装、ALCOA+の各要素をAI関与工程にも適用
・本日の論点（テーマ3）
　・論点1：市販eQMSパッケージにAI機能を後付けするか、AIネイティブで設計するか
　・論点2：AI支援機能のバリデーション深度（FDA最終ガイダンス次第で見直し可能性）
　・論点3：研究会として「AI活用型eQMS要件定義書（URS雛形）」を共同作成しないか

テーマ4：AI利用SOPのテンプレート化（研究テーマ?）― 「プロセス」の柱
・第10回「組織プロセス層5項目」をSOPに落とす
　・AI利用ガイドライン → SOP本文の「利用許可区分」へ
　・レビュ可能性ルール → 「自分が検証できない領域でAIを使わない」を要件化
　・多重チェック標準 → 重要文書のAI生成→別エージェント検証→人間2名承認を必須化
　・監査証跡の確保 → AI利用記録の様式（フォーム）を定義
　・教育・文化 → テーマ2の認定試験と連動
　・技術対策（層1〜4）は環境構築で実装、組織対策（層5）はSOPで実装
・SOP骨子案（6章構成）
　・第1章 目的・適用範囲・用語の定義：対象業務とAI関連用語を明確化
　・第2章 利用許可区分：リスクに応じ「禁止／条件付き許可／自由利用」の3区分（Fable/Mythos型の発想）
　・第3章 アカウント管理と入力情報の制限：承認済みツールの範囲と入力禁止情報を明確化
　・第4章 出力の検証・承認プロセス：レビュ可能性ルール・多重チェック・Adversarial Reviewの適用条件
　・第5章 AI利用記録（監査証跡）：ALCOA+に基づき記録する方法を規定
　・第6章 教育訓練・逸脱時の対応：認定制度との連動と逸脱・是正のプロセス
・AI監査証跡とALCOA+
　・記録すべき項目：利用モデル・バージョン、利用日時、利用者（認定レベル）、プロンプト（入力）と生成物（出力）、検証方法と検証者、最終承認者
　・ALCOA+の適用：帰属性（誰がAIを使い誰が承認したか）、同時性（AI利用時点で記録、後付け再現不可）、完全性（不採用とした出力・修正履歴も保管）
　・想定される査察質問例：「生成AIの利用状況と、その検証・承認プロセスを示してください」
・成果物イメージと今後のスケジュール
　・成果物：「生成AI利用管理SOP」テンプレート（Word・当社様式）、付属様式（AI利用記録フォーム・利用許可区分リスト・リスク評価シート）
　・第11回（本日）：骨子の合意と論点整理
　・第12回：ドラフト版を提示し、会員社レビュー
　・第13回：FDA最終ガイダンスを反映した確定版を配布

ミニ演習：AI生成文書のブラインドレビュー
・演習の概要
　・AIが生成したSOP（意図的に誤りを5件混入）をレビューし、人間レビューの限界を数値で体感する
　・誤りの件数は非公開（ブラインド方式：件数を知ると発見次第探索をやめる習性を排除）
・演習の進め方（約30分）
　・STEP 1（配布）：AI生成SOP（2ページ）を配布
　・STEP 2（個人レビュー）：各自10分でレビューし、疑わしい箇所に印を付ける
　・STEP 3（集計）：検出結果を集計、誤り別の検出率を全員で確認
　・STEP 4（答え合わせ）：混入した誤りを開示、見逃された誤りの傾向を分析
・演習の狙いと振り返り観点
　・引用・数値・固有名詞の「もっともらしい誤り」は検出率が大きく下がることを確認
　・見逃しの原因は注意力不足ではなく「もっともらしい記述は疑うトリガーが立たない」という人間の認知構造
　・時間を増やしても検出率は上がらない→原典との突き合わせ・別AIによる相互検証・多重チェックが必要
　・演習結果はテーマ4のSOP多重チェック標準の設計根拠として活用

まとめ
・三本柱の関係
　・人（認定試験）：AIを使う人の力量を担保する、SOPが定める役割・権限の前提となる
　・プロセス（AI利用SOP）：AIの使い方・検証・記録のルールを定める、eQMS運用の土台となる
　・システム（eQMS）：ルールどおりの運用と記録をシステムとして担保する
　・三本柱は独立ではなく連動：認定がSOPの前提、SOPがeQMSの運用ルール
・規制動向
　・FDA・EMA 10原則が国際調和の基盤に、最終ガイダンスはQ2見込み
　・Fable/Mythosの二層提供はリスクベース管理のフロンティア実例
・次回（第12回）に向けて
　・各社のAI利用実態（利用ツール・許可区分の有無）を持ち寄り
　・認定試験の標準問題バンク共同開発への参加意向を確認
　・第12回：「生成AI利用管理SOP」ドラフト版のレビューとFDA最終ガイダンス速報解説