【VOD】【AI音声版】分子生成AI・逆合成解析AIの出力を検証する

説明

本講座（収録80分）は、分子生成AIと逆合成解析AIが出してきた答えを、受け取る側がどう疑い、どう検証するかを整理する入門教材です。

第1章では、「AI創薬」と呼ばれるものを探索・生成・予測・計画の四つに分け、分子生成AIは構造を、逆合成解析AIは経路を出すという違いと、それぞれに問うべきことを確認します。

あわせてSMILESや記述子・フィンガープリント、RDKitといった道具立てと、SAscoreなど複数併存する合成可能性スコアが順位づけの目安であって可否の判定ではないことを押さえます。

第2章では、法令・ICH Step 4採択済文書・ドラフト・技術の慣行という四つのレイヤで全体像を整理し、日本のAI法（令和7年法律第53号、2025年9月1日全面施行）が推進法であることと第7条の協力義務、EU AI Actの延期された部分とされていない部分および第2条による域外適用、2026年1月29日にStep 4採択されたICH M15がQuestion of InterestとContext of Useを明確にしModel InfluenceとConsequence of Wrong Decisionからモデルリスクを導く枠組みであること、FDAドラフトガイダンスとEMAリフレクションペーパーの位置づけを、法的状態と日付を添えて確認します。

第3章では「当たっている」と「信頼できる」の違い、AIの出力が外れる四つの型、説明性・再現性・追跡性の区別を扱います。

第4章では検証計画に書く項目、使用目的の書き方、学習データの素性の確かめ方、生成分子と逆合成経路をふるいにかける順序、外部モデルやモデル更新時の扱い、記録に残す項目までを手順に落とし込み、第5章では四つのケーススタディから失敗の型と回避策を確認します。

講座のポイント

「AIを使う」から「AIの答えを検証する」へ。出力を受け取る側の判断軸をそろえます。

まず**「当たっている」と「信頼できる」は別**です。手元のデータでどれだけ合ったかは性能の話で、その問いに答えるのに十分な評価がなされているかは別の問いです。「精度が高いので使えます」は説明になっていません。「この用途には、この程度の確からしさが要る。それを示す証拠はこれです」まで書けて説明になります。

本講座（収録80分）はICH M15を骨格に据えます。

**Question of Interest と Context of Use を明確にし、Model Influence と Consequence of Wrong Decision を組み合わせて Model Risk を導く。

** そのModel Riskに見合う技術基準を事前に定めて評価する、という順序です。性能から逆算するのではありません。

なお ICH M15 は「AIのガイドライン」ではなく、対象はMIDDに該当する計算モデリング・シミュレーション手法で、AI/MLはMIDDとして意思決定に用いる場合に対象になり得ます。

credibility は FDA ドラフトの用語で、M15 の用語ではありません。

AIの出力が外れる型は4つです。①学習範囲の外（外挿していることに気づきにくい）②データの偏り ③指標の取り違え ④再現しない。型を特定せずに対策を打つと再発します。

**説明性・再現性・追跡性は別のもの**です。担保する手段も、得られるものも違います。説明できなくても再現性は評価できますし、追跡性はモデルの中身を知らなくても記録の設計で担保できます。「ブラックボックスだから使えない」と決めつけず、一方で「再現性と追跡性があれば使える」とも考えません。

逆合成解析では、段数の少なさは実行可能性の指標ではありません。提案は前例の組合せであり、原料の入手性・各反応の前例・官能基の相性を着手前に確認します。

規制の側では、日本のAI法（令和7年法律第53号）は推進法で個別行為の直接禁止や罰則はありませんが、第7条に活用事業者の協力義務があります。EU AI Actは高リスク義務が延期された一方、透明性義務とGPAI義務は原則適用済みです。「2026年8月に完全施行」という要約は不正確です。

収録内容

■第1章　基礎用語の整理 ― まず、言葉をそろえる
・「AI創薬」と呼んでいるものを4つに分ける（探索・生成・予測・計画）
・分子生成AIと逆合成解析AI ― 出すものが違う（構造か経路か）
・分子を「文字列」で扱う（SMILES・記述子・ケモインフォマティクス）
・「合成できる」をどう測るか ― 合成可能性スコア（SAscore ほか）
・AIの提案が実物になるまで（生成→絞り込み→合成計画→実合成→実測）
・用語を3階層で整理する（規制の言葉／モデルの言葉／現場の言葉）

■第2章　規制と標準の全体像【最新】
・全体像マップ ― 4つのレイヤ（法令／ICH Step 4採択済／ドラフト／技術の慣行）
・AI法（日本）の位置づけ ― 推進法であること、第7条の協力義務
・規制文書は「法的状態」で読み分ける
・【最新】ICH M15 ― モデルリスクに見合った評価を求める枠組み／適用範囲
・ドラフト段階の文書をどう扱うか（FDAドラフト・EMAリフレクションペーパー）
・【最新】EU AI Act ― 延期された部分と、されていない部分

■第3章　AIの出力をどう捉えるか
・「当たっている」と「信頼できる」は別／使用目的から逆算する4ステップ
・AIの出力が外れる4つの型（学習範囲外・偏り・指標の取り違え・再現しない）
・多層で確かめる ― 内部整合・独立検証・実験・記録の4層
・誤りの型と、確かめ方の対応表
・説明性・再現性・追跡性 ― 3つは別のもの

■第4章　検証をどう実装するか
・検証計画に書くべき項目 早見表／使用目的（context of use）の書き方
・学習データの素性を確かめる観点／評価指標の選び方
・生成された分子をふるいにかける順序／逆合成経路の提案を検証する順序
・人が判断する点と、AIに任せる点
・【最新】モデルリスクをどう評価し、文書化するか（MAP・MAR）
・記録に残す項目 早見表／外部サービス・外部モデルを使うとき
・モデルが更新されたときの扱い／検証レビューの進め方

■第5章　ケーススタディ
・ケース1：生成された分子が、既知化合物とほぼ同じだった
・ケース2：逆合成の提案どおりに作れなかった
・ケース3：評価指標は良いのに、実測と合わない
・ケース4：モデルの更新後、結果が変わった
・失敗パターンと回避策／自組織に当てはめるときの確認順序

■第6章　まとめ
・全体総括 ― 7つのポイント／参考資料リスト（法令・ガイドライン／ドラフト・技術資料）

受講後、習得できること

・「AI創薬」を探索・生成・予測・計画に分け、目的ごとに確かめ方を選べる
・分子生成AIと逆合成解析AIで問うべきことが違うと説明できる
・SMILESが同一分子でも複数の書き方を持つため正規化して比較すると説明できる
・文字列として妥当でも化学として妥当とは限らないと判断できる
・合成可能性スコアが複数併存し、公定の統一指標がないことを説明できる
・SAscoreが逆合成経路の得られる確率を直接評価するものではないと区別できる
・「当たっている（性能）」と「信頼できる（モデルリスク）」を分けて議論できる
・Question of Interest と Context of Use を1文で書ける
・Model Influence と Consequence of Wrong Decision から Model Risk を導ける
・必要な確からしさを性能から逆算せず、用途と影響から決められる
・ICH M15 がMIDDに該当するM&Sを対象とし、AI/MLは条件付きで対象になると説明できる
・credibility が FDA ドラフトの用語で M15 の用語ではないと区別できる
・AI法が推進法であり、第7条の協力義務・第16条の指導助言等を含むと説明できる
・EU AI Act の延期部分（第3章の高リスク義務）と非延期部分（第50条・GPAI義務）を分けられる
・EU AI Act 第2条により第三国事業者にも及び得ることを踏まえて確認できる
・出力が外れる4つの型を特定してから対策を打てる
・内部整合・独立検証・実験・記録の4層で確認を設計できる
・説明性・再現性・追跡性を混ぜずに、それぞれの担保手段を選べる
・再現性が乱数種の固定だけでは担保されない（環境・依存ライブラリ・非決定的演算）と説明できる
・使用目的を「参考にする」か「根拠に決定する」かで書き分けられる
・学習データの由来・条件・時期・陰性データの有無を問える
・評価指標が何を測っているかを用途の言葉で言える
・結果を見てから指標を選び直さないルールを設けられる
・生成分子を費用の安い確認から順にふるいにかけられる
・既知化合物との照合を必須ステップとして手順に組み込める
・逆合成経路を原料・前例・官能基の相性・段数と収率の順で検証できる
・段数の少なさが実行可能性の保証ではないと判断できる
・人が判断する点とAIに任せる点の境目を書いて記録できる
・記録に残す項目（モデル・設定・実行環境・入力・出力・判断・確認できなかったこと）を設計できる
・外部モデルで確認できなかった項目を明記し、その分だけ用途を狭められる
・モデル更新を「前提の変化」として扱い、代表入力で差を測れる

本テーマ関連法規・ガイドラインなど

・人工知能関連技術の研究開発及び活用の推進に関する法律＝AI法（令和7年法律第53号／2025年6月4日公布・一部施行／2025年9月1日全面施行）第7条（活用事業者の協力義務）・第16条（国の指導・助言等）／個別行為の直接禁止や罰則はない推進法
・ICH M15 General Principles for Model-Informed Drug Development（Step 2 2024年11月6日／Step 4 採択 2026年1月29日／米国 2026年6月3日 最終ガイダンス・Docket FDA-2024-D-5580）／実装は地域別（Step 5）。対象はMIDDに該当する計算モデリング・シミュレーション手法
・EU AI Act（Regulation (EU) 2024/1689）／Digital Omnibus on AI（Regulation (EU) 2026/1744・官報 2026年7月24日／7月27日発効）による改正／第6条2項・Annex III は2027年12月2日、第6条1項・Annex I は2028年8月2日へ延期。第50条は原則2026年8月2日（同日前に上市された分の2項マーキング義務は2026年12月2日まで猶予）。GPAI義務は延期なし（第111条3項により既存モデルは2027年8月2日まで）
・FDA Draft Guidance: Considerations for the Use of Artificial Intelligence To Support Regulatory Decision-Making for Drug and Biological Products（2025年1月発出／Federal Register 2025年1月7日／Docket FDA-2024-D-4689）／ドラフトであり拘束力はない
・EMA Reflection paper on the use of Artificial Intelligence (AI) in the medicinal product lifecycle（EMA/CHMP/CVMP/83833/2023／CHMP 2024年9月9日・CVMP 9月11日採択／2024年9月30日公表）／リフレクションペーパー
・PMDA 業務への生成AIの利用開始について（2026年4月15日）／当局の内部運用に関する発表であり企業への要求事項ではない
・SMILES記法／RDKit（オープンソース）／合成可能性スコア（SAscore・SCScore・SYBA・RAscore 等）／技術の慣行であり規制要件ではない