【ビデオ・VOD】【第12回】AI Compliance研究会

■講座のポイント
第10回の演習では、専門家であってもAI生成物の誤りを見抜くことが難しく、レビュー時間を増やしても検出には限界があることが観察されました。人による全件確認は、それだけでは品質保証になりません。第11回で「人・プロセス・システム」の三本柱を設計したのに続き、第12回は「AIが人の指示を待たずに動き始めたとき、人はどこに立つのか」を主題とします。
本セミナー（収録120分）では、まず2026年8月時点で実務に使える主要AIモデル（Claude Opus 5／Claude Fable 5、GPT-5.6 Sol・Terra・Luna、Gemini 3.6 Flash ほか）を「性能順ではなくContext of Use・リスク・必要な証拠・処理量・費用で選ぶ」という観点から整理します。
続いて、EU AI Act 第14条（human oversight）が監督者に求める5つの能力、FDA・EMA『Good AI Practice 10原則』、CDERの2026年計画に新規掲載された「AIベースシステムのCSA」補足ガイダンス、Digital Omnibus による高リスク義務の適用延期など、直近の規制動向を、確定情報と二次情報を区別して解説します。
本編の中核は「ループエンジニアリング」です。AIとの関わり方をプロンプト／コンテキスト／ハーネス／ループの4段階に整理し、それぞれがGxPの何に対応するのか（作業指図の書き方／参照文書の提供／SOP・OQ・PQ・監査証跡・アクセス管理／変更管理つきの自動実行）を対比します。そのうえで、ある工程をHOTLへ移してよいかを判定する第1ゲート（受入基準・独立した統制・取消可能性・影響度の4つの問い）と、運用開始の条件である第2ゲート、機械判定にできる項目とできない項目の線引き、レビュー席に代わる人間の「3つの席」（設計時・例外時・事後）、キルスイッチと権限の非対称設計を提示します。
最後に、FDAの公開データを機械的に取得できる openFDA API を題材に、Claude Code で「ハーネスを先に作り、そのうえでアプリとループを作らせる」実演をご覧いただきます。CLAUDE.md（禁止動作・受入基準・停止条件・エスカレーション・監査証跡）を先に承認し、人はテストが落ちたときと判断が要るときだけ呼ばれる、という運用の具体像を、製薬企業向け（安全性シグナルの定期収集）と医療機器業界向け（回収・不具合・承認動向の監視）の2本立てで示します。

■受講後、習得できること
・Human in the Loop と Human on the Loop の違いを、権限と記録の設計として説明できる
・自部門の業務のうち、AIを自動で動かしてよいものと人の承認を挟むべきものを、4つの問いで判定できる
・受入基準にできる項目（形式・完全性・参照可能性・数値一致）と、人の判断として残す項目を切り分けられる
・GxPハーネスの7要素と、停止条件・エスカレーション・監査証跡の設計要点を挙げられる
・自動化に必要な安全装置を、査察官に説明できる言葉で述べられる
・EU AI Act 第14条が求める監督者の5つの能力を理解し、自社の教育・力量要件に反映できる
・FDA・EMA『Good AI Practice 10原則』およびFDAの2文書（AI利用ドラフトガイダンス／CSA最終ガイダンス）の位置付けを区別できる
・2026年8月時点の主要AIモデルを、用途とリスクに応じて割り当てる考え方を身につけられる
・openFDA API の概要と規制業務での使いどころ、および「APIの結果だけで規制判断をしない」という限界を理解できる
・自社の1業務について、トリガーから停止条件までのループ設計案を書ける

■本テーマ関連法規・ガイドラインなど
・EU AI Act（Regulation (EU) 2024/1689）第4条・第5条・第14条・第17条・第50条／Digital Omnibus on AI（二次情報）
・FDA『Considerations for the Use of Artificial Intelligence to Support Regulatory Decision-Making for Drug and Biological Products』ドラフトガイダンス（2025年1月）
・FDA『Computer Software Assurance for Production and Quality System Software』最終ガイダンス（2025年9月）／CDER 2026年ガイダンス計画（AIベースシステムのCSA補足ガイダンス）
・FDA・EMA『Guiding principles of good AI practice in drug development』（2026年1月14日）
・ISO/IEC 42001:2023（AIマネジメントシステム）／EN 18286:2026（CEN-CENELEC、2026年7月12日承認）
・ISPE『GAMP Guide: Artificial Intelligence』（2025年7月）／GAMP 5 Second Edition（2022年7月）
・EMA Reflection paper（EMA/CHMP/CVMP/83833/2023、2024年9月）
・PMDA『業務に対するAI活用行動計画』（2025年10月10日）／生成AI利用開始（2026年4月15日）
・21 CFR Part 11／21 CFR Part 820／ICH Q9(R1)／データインテグリティ（ALCOA+）

■講演中のキーワード
・Human in the Loop（HITL）／Human on the Loop（HOTL）／Human in Command（HIC）
・ループエンジニアリング／プロンプト・コンテキスト・ハーネス・ループの4層
・GxPハーネスの7要素／受入基準／停止条件／エスカレーション／キルスイッチ／権限の非対称
・監査証跡（audit.jsonl）／変更管理／供給者・モデル管理／定期レビュー
・第1ゲート・第2ゲート／人間の「3つの席」（設計時・例外時・事後）
・オートメーションバイアス／context advantage（文脈の優位）／速度の違う三重ループ
・コンテキストサイズ／コンテキストエンジニアリング
・Claude Opus 5／Claude Fable 5／GPT-5.6 Sol・Terra・Luna／Gemini 3.6 Flash／Claude Code
・openFDA API／JSON／安全性シグナル／回収・不具合・承認動向の監視
・EU AI Act 第14条／Good AI Practice 10原則／CSA／Context of Use／ISO/IEC 42001／EN 18286:2026