大模型与智能体进入药物警戒：从个例报告抽取、MedDRA 编码到信号检测的人机分工与治理

引言

药物上市前的临床试验，样本量有限、观察时间有限、受试人群经过筛选，罕见不良反应、长期暴露的风险和特殊人群中的风险，往往要到上市后才显现。药物警戒就是为了填补这一空白而建立的一整套科学与管理活动。欧盟药物警戒质量管理规范（GVP）第九模块给出的“信号”定义是：来自一个或多个来源、提示药品与某一事件之间存在新的潜在因果关联或已知关联出现新方面的信息，且这一信息被认为足以值得进一步核实⁠¹。我国《药物警戒质量管理规范》自 2021 年 12 月 1 日起施行，要求药品上市许可持有人建立并持续完善药物警戒体系⁠²。

这套体系的日常运转，依赖大量“阅读—判断—录入—复核”的人工劳动。一份自发报告要先判断是否满足个例安全报告的最低标准，再抽取患者、药品、事件、时间与结局等要素，把事件描述编码为 MedDRA 术语，判断严重性和预期性，写出病例叙述，最后在规定时限内按 ICH E2B(R3) 格式递交⁠^3,4。文献监测、社交媒体监测、患者支持项目等新来源，又在不断扩大输入量。ICH E2D(R1) 在 2025 年 9 月定稿时，专门就数字平台（包括社交媒体、网站、论坛和应用程序）的处理规则作了说明⁠³。

大模型的出现，让“机器读懂自由文本”从研究课题变成了可部署的能力。但药物警戒是一个以患者安全为目标、受严格监管的领域：抽错一个药名，可能让一个病例从统计中消失；编错一个术语，可能让信号被稀释；把“可能有关”说成“很可能有关”，可能影响一项风险处置决定。CIOMS 第十四工作组在 2025 年 12 月发布的报告中提醒，只追求效率和财务指标的自动化，可能会削弱“人在回路中”的价值，最终损害药物警戒体系为个例因果评估而设计的独特优势⁠⁵。

因此，本文要回答的问题不是“大模型能不能用于药物警戒”，而是：在药物警戒的哪一个环节、以什么方式、在什么控制之下使用大模型和智能体，才能既提高效率，又不降低安全判断的质量？

本文的贡献有四点：

1. 按药物警戒的五个环节，梳理 2025—2026 年的公开证据，并把各研究自报的指标放在同一张图表中，说明任务类型对表现的决定性影响；
2. 给出 PRR、ROR、IC 与 EBGM 四种比例失衡指标的公式与一组可复算的示意数据，解释收缩估计的作用，以及大模型在信号检测中应当承担和不应承担的工作；
3. 把 CIOMS、ICH、FDA、EMA 的公开文件要求翻译为系统设计约束，提出“模型影响 × 决策后果”的分级门禁框架；
4. 给出弘犀智能的观点和 2—3 年内可检验的趋势判断，并说明判断依据与检验方法。

需要说明的是，本文引用的模型表现数字均为原始研究在其数据集与设定下的自报结果，不同研究的指标、数据和评价口径不同，不能直接横向比较；文中所有计算示例均使用明确标注的示意数据，不涉及任何真实企业或患者数据。

背景与相关工作

药物警戒的数据标准：ICSR、E2B(R3) 与 MedDRA

个例安全报告（ICSR）是药物警戒的基本数据单元。ICH E2D(R1) 将其定义为对某一患者在特定时间点发生的不良事件、不良反应或其他观察的描述，并规定可递交的 ICSR 至少满足最低标准：至少一个不良事件或其他观察、至少一个怀疑或相互作用药品、一位可识别的患者，以及可识别的报告者⁠³。这四项最低标准，决定了“这份材料是否构成一份病例”，也决定了法定报告时限从哪一天开始计算。

ICH E2B(R3) 规定了 ICSR 电子传输的数据元素与消息格式，覆盖传输标识、报告来源、文献引用、研究信息、患者特征、反应与事件、检查结果、药品信息等字段⁠⁴。对于大模型而言，E2B(R3) 的意义在于：它提供了一个现成的、受监管认可的输出结构。抽取任务不是“自由地总结病例”，而是“把文本中的信息填入一个有明确字段和取值范围的结构”。

MedDRA（监管活动医学词典）是 ICH 维护的标准医学术语集。根据 MedDRA 29.1 版（2026 年 9 月）的入门指南，它采用五级层级结构：系统器官分类（SOC）、高位组语（HLGT）、高位语（HLT）、首选语（PT）和低位语（LLT），共有 27 个 SOC；每个 LLT 只关联一个 PT，每个 PT 有一个主 SOC，LLT 可以作为自动编码的基础⁠⁶。编码通常在 LLT 层完成，统计和检索通常在 PT 及以上层级进行。MedDRA 定期发布新版本，编码结果与所用版本必须对应，版本管理本身就是一项合规要求。

ICH E2E 规定了药物警戒计划的结构，包括安全性说明（已识别风险、潜在风险与缺失信息）和药物警戒计划⁠⁷。它提醒我们：信号检测与评估不是孤立的数据挖掘，而是围绕一个产品的已知风险和知识空白展开的有计划活动。

从规则与传统 NLP 到大模型

药物警戒中的文本处理并非新课题。规则、词典和统计模型长期用于不良反应识别与编码，透明、高效，但难以应对临床叙述中的语言多样性；预训练语言模型与大模型在上下文理解和适应性上更强，却受到幻觉、透明度与可复现性不足、对参数设置敏感以及持续需要人工验证等因素的限制⁠⁸。

近一年的三篇系统性综述给出了较全面的图景。Kim 等人按 PRISMA 2020 检索了 2022 年 1 月至 2026 年 3 月的研究，纳入 83 项实证研究，发现大模型应用集中在约束明确的信息抽取与分类任务上，包括信号评估、临床记录抽取、社交媒体监测和文献筛选；大多数研究是回顾性、基准式或概念验证式评估，幻觉、特异性低、提示词敏感、数据集狭窄和外部验证不足是常见局限；作者的结论是，现有证据支持在监督之下把大模型用于特定任务，而不是让它自主作出药物警戒决定⁠⁹。El Sayed 等人纳入 67 项研究，发现安全信号检测类应用占比居各类之首（50.5%），外部验证是 APPRAISE-AI 评估中各维度中的薄弱项（平均 52%），前瞻性的实施研究很少⁠¹⁰。Wu 等人（作者来自美国 FDA）提出“可计算药物警戒”的框架：完整性检查、重复报告识别、结构化信息抽取等定义清晰的常规任务越来越适合自动化，而病例层面的因果评估仍难以形式化、仍依赖专家判断；大模型带来跨任务能力，同时带来可靠性、可审计性与治理上的挑战，因此“大模型 + 小模型 + 规则组件”的混合架构越来越必要⁠¹¹。

监管与行业指导：从原则到可检查的要求

CIOMS 第十四工作组报告（2025 年 12 月发布）是目前专门针对“人工智能用于药物警戒”的国际性指导文件。它提出七项指导原则：基于风险的方法、人工监督、有效性与稳健性、透明度、数据隐私、公平与公正、治理与问责；并区分了“人在回路中”（HITL，决定是人机交互的最终结果）、“人在回路上”（HOTL，机器自主产生结果，再由人检查）与“人在指挥中”（HIC）三种监督方式，强调监督的程度和方式应与风险相称⁠⁵。

EMA 关于人工智能用于药品生命周期的反思文件（2024 年 9 月通过）指出，人工智能可以支持不良事件报告管理与信号检测，药物警戒领域可以采用相对灵活的建模与部署方式，包括增量学习；但验证、监测和记录模型表现，并把人工智能运行纳入药物警戒体系，仍是上市许可持有人的责任⁠¹²。

美国 FDA 2025 年 1 月发布的草案指南《使用人工智能支持药品与生物制品监管决策的考虑》提出了七步“基于风险的可信度评估框架”：定义所要回答的问题、定义模型的使用情境（COU）、评估模型风险、制定可信度评估计划、执行计划、记录结果与偏差、判断模型是否适用于该使用情境。其中，模型风险由两个因素组合而成：模型影响（模型证据相对于其他证据对问题的贡献）与决策后果（错误决定导致不良结局的严重程度）⁠¹³。草案明确把“识别、评估和处理上市后不良药物经历信息以便报告”列为人工智能的用途之一；在上市后药物警戒情境中，相关流程文件通常不必事先递交，而是按企业标准操作规程保存，在检查时提供；无论使用何种技术，企业仍对上市后安全监测与报告要求负责⁠¹³。草案还要求：如果使用情境中包含“人在回路中”，评价方法应考察“人机团队”的表现，而不仅是模型单独的表现⁠¹³。截至本文写作时，FDA 网站仍将其列为草案。

FDA 与 EMA 在 2026 年 1 月联合发布的十项良好人工智能实践原则，覆盖以人为本、基于风险、遵循标准（含 GxP）、明确使用情境、多学科专业、数据治理与记录、模型设计与开发、基于风险的表现评估、生命周期管理和清晰的基本信息⁠¹⁴。其中“数据来源、处理步骤和分析决定应以详细、可追溯、可核查的方式记录”这一条，与药物警戒的审计要求直接相关。

在电子记录层面，美国 21 CFR 11.10 要求封闭系统使用安全的、由计算机生成并带时间戳的审计追踪，独立记录操作人员创建、修改或删除电子记录的日期和时间，且记录变更不得掩盖原有信息；同时要求通过系统检查强制执行允许的步骤顺序⁠¹⁵。这两条要求，几乎可以逐字翻译为智能体系统的设计约束：每一次工具调用和每一次人工签字都要留痕，工序不能被模型跳过。

表1 汇总了上述文件对系统设计的含义。

核心方法与技术分析

本节按药物警戒的五个环节展开。每一环节先说明任务的本质，再看公开研究的做法与结果，最后给出工程上的设计要点。

ICSR 要素自动抽取：从“读懂”到“填对”

任务本质。抽取任务的输入是自由文本（病历、电话记录、邮件、文献、帖子），输出是结构化的病例要素：患者信息、怀疑药品与合并用药、事件描述、发生与转归时间、去激发与再激发、严重性标准、报告者信息等。难点在于：同一份记录中常常同时出现适应症、既往病史、过敏史和真正的不良事件，模型需要区分“因为什么用药”和“用药后发生了什么”。

公开证据。Ludwig 等人在《Drug Safety》发表的研究采用“两遍式”流程：首遍让模型筛查整份电子病历记录中是否存在药物不良事件，第二遍再为每个事件补充 20 个结构化字段⁠¹⁶。在 372 份去标识化记录中，模型识别出 191 个不良事件，其中 180 个为真阳性，精确率 94.2%，召回率 84.1%（F1 为 88.9%）；严重性判断全部正确，标签状态（是否已在说明书中列出）正确率 93.9%；MedDRA 低位语编码在有效事件中正确率 92.5%，错误主要是生成了不存在的低位语。值得注意的是，首遍筛查中 84.9% 的记录不含不良事件，这让每份记录的推理成本控制在 0.18 美元⁠¹⁶。

Plasek 等人比较了多种模型在住院与门诊记录中识别“不良事件—药物”关系的表现，GPT-4o 的 F1 为 0.524，高于 GPT-4o-mini 的 0.381；常见错误包括把既往过敏误判为不良事件，以及把治疗适应症与不良反应混淆⁠¹⁷。同为关系抽取，两项研究的数字差距很大，原因在于任务定义、数据来源和评价口径（严格匹配还是宽松匹配）都不同。这提醒我们，脱离任务定义谈“准确率”没有意义。

在中文场景，Ma 等人基于湘雅医院的临床记录构建了中文不良事件语料（金标准 2,510 条、知识库 5,144 条），比较了不增强、静态增强和检索增强（RAG）三种提示策略。DeepSeek-V3 配合 RAG 在重叠匹配层级的 F1 达到 0.9638；RAG 把 GPT-4o 的召回率从 0.6419 提高到 0.9241；在反映真实患病率的临床病程记录上，RAG 提示保持了 0.9821 的特异度⁠¹⁸。这说明在中文临床文本上，把领域知识库作为检索源是抑制幻觉、提高召回的有效手段。

在企业信号评估场景，礼来公司的 Warner 等人用 GPT-4o 从一系列 ICSR 叙述中抽取危险因素、去激发与再激发反应等病例要素，采用“机器先做、人工核验”的流程。在五项历史信号评估中，危险因素抽取的 F1 介于 0.444 到 1.000，去激发/再激发反应的 F1 介于 0.429 到 0.909；作者认为，即使把核验时间计算在内，仍有节省时间的空间⁠¹⁹。这组数字的跨度本身就说明：同一个模型在不同要素上的表现差异很大，上线前必须逐要素评估，而不是只看平均值。

设计要点。综合上述研究，ICSR 抽取可以遵循四条工程原则：

1. 结构约束输出。以 E2B(R3) 字段为模式（schema），模型只能填写定义过的字段，每个字段给出取值范围或受控词表；无法从原文确认的字段留空，而不是让模型推测。
2. 证据绑定。每个被填写的字段都附上原文片段的位置（文档编号与字符区间）。复核人员看到的不是模型的结论，而是“结论 + 原文依据”。
3. 最低标准用规则判定。“是否构成一份有效 ICSR”由确定性规则根据抽取结果判定，并记录判定时间；模型不直接回答“这是不是一份病例”。
4. 两遍式与分层抽样复核。首遍高召回筛查，第二遍细抽取；复核按风险分层抽样，严重病例、死亡病例、特殊人群病例全部人工复核。

MedDRA 编码：先检索、再选择、后校验

任务本质。编码是把报告者的原始描述（verbatim）映射为 MedDRA 的低位语，再由词典结构自动得到首选语及上层分类。它看似是一个“翻译”问题，实际上是一个受控词表中的检索与选择问题：正确答案必须是词典中真实存在的一个条目。

公开证据。前述 Ludwig 研究中，低位语编码错误主要是“编出了不存在的低位语”⁠¹⁶，这正是生成式模型的典型失误：它生成了一个看上去合理的医学短语，而不是从词典中选择。恒瑞医药的 Yan 等人在临床数据管理场景中构建了“检索增强 + 智能体”的编码框架，用 2,712 个互不重复的不良事件术语进行验证：自动编码使平均编码时间从每条 8.0 分钟降到 3.9 分钟（下降 48.7%），术语覆盖率 95.8%，相对人工金标准的精确率为 70%；拼写错误检测在真实数据上的精确率为 85.1%，人工复核工作量减少约 70%；合规方面采用本地部署和符合 21 CFR Part 11 的审计追踪⁠²⁰。精确率 70% 意味着编码结果仍需逐条人工确认，这类系统的价值在于缩短人工确认的时间，而不是取消确认。

在术语归组层面，SafeTerm 系统把查询词与 MedDRA 首选语嵌入同一向量空间，用余弦相似度和极值聚类生成排序后的首选语列表。以 110 个一级标准 MedDRA 分析查询（SMQ）为参照，中等相似度阈值下召回率可达 94%，提高阈值后精确率可达 89%，在自动选定的最优阈值 0.70 下，总体召回率 48%、精确率 45%⁠²¹；以 FDA 新药办公室的 104 个自定义医学查询（OCMQ）为参照，也观察到类似的召回—精确权衡⁠²²。这类工具适合作为构建查询时的“候选清单生成器”，最终纳入哪些首选语仍由医学人员决定。

在患者口语表达的标准化上，Zhou 等人评估了六个社交媒体医学概念标准化数据集，发现普遍存在错误映射、无效概念和长尾分布问题；在数据质量增强与多源融合后，模型在罕见概念上的各项指标提高幅度可达 38%⁠²³。这提示：用于训练和评估编码模型的“金标准”本身也需要质量审查。

设计要点。编码环节建议采用“三段式”：

1. 检索候选。用词典检索与向量检索，从当前锁定版本的 MedDRA 中召回若干候选低位语；
2. 模型选择。让模型在候选中选择并说明理由，不允许输出候选之外的术语；
3. 词典校验与版本记录。输出必须在锁定版本词典中存在且为“当前”状态，否则直接拦截；词典版本号写入案件记录。

这样设计，“编出不存在的术语”这一类错误在结构上被消除，剩下的是“选错了一个存在的术语”，后者可以通过抽样复核和一致性统计来管理。

文献与社交媒体监测：扩大视野，也扩大噪声

任务本质。文献监测要求持有人定期检索科学文献，识别涉及本公司产品的个例报告和安全信息；数字平台监测则面对数量更大、表达更随意、信息更不完整的文本。ICH E2D(R1) 规定，持有人应定期筛查其负责的数字平台，筛查频率要能保证在规定时限内识别和报告不良事件；一旦平台上发布的信息足以满足 ICSR 最低标准，法定时钟（第 0 天）即开始计算；对于不由持有人负责的平台，持有人没有筛查义务，但如果有计划地从中收集数据，应将该活动视为有组织的数据收集⁠³。

这条规则对系统设计的影响很直接：一旦部署了自动监测工具，它“看到”信息的时间就可能成为合规时钟的起点。因此，监测范围、筛查频率和分流时限必须事先写进规程，而不能任由工具“顺便”扩大抓取范围。

公开证据。AskGLP1 项目展示了大模型处理网络患者叙述的规模：基于 MedDRA 的大模型辅助流程从约 850 万条 Reddit 帖子中筛选出 163,135 条用药经历帖子，结合 2,506 条 WebMD 评论，构建了包含 385,790 条“药物—副作用”和“药物—用药目的”关系的知识图谱；研究发现，网络叙述与 FAERS 共享常见的胃肠道症状，但更多反映疲劳、食物厌恶等日常负担，而 FAERS 更常包含注射部位反应和胰腺炎等严重诊断；评估显示，该智能体能够给出可核查的证据并拒绝提供医疗建议⁠²⁴。这类数据适合用来理解患者体验、补充假设，但其来源不可核实、重复和夸张表达普遍存在，不宜直接进入比例失衡统计。

另一类风险来自模型自身的偏见。Liu 等人用 FAERS 结构化数据和“人物设定”评估框架发现，当输入中加入与临床无关的社会人口学信息（如教育程度、住房稳定性、保险类型）时，模型对不良事件的预测会出现系统性差异，弱势群体常被预测为更高的不良事件可能性；偏见既有在推理过程中直接引用这些属性的“显性”形式，也有不提及却结果不一致的“隐性”形式⁠²⁵。对药物警戒而言，这意味着输入给模型的上下文应按任务最小化，与判断无关的个人信息不应进入提示。

设计要点。文献与网络监测的智能体应当：在规程中明确监测的数据源清单与频率；对每条被识别的潜在病例记录“首次满足最低标准”的时间；对网络来源打上来源可信度标签，与正式病例数据分开存储与统计；在提示中去除与任务无关的个人信息。

信号检测统计：公式交给代码，解释交给模型

任务本质。自发报告数据库没有用药人数这一“分母”，因此无法直接计算发生率。比例失衡分析的思路是：在报告数据库内部比较，某药品的报告中某事件所占的比例，是否明显高于其他药品报告中该事件所占的比例。对每一个“药品—事件”组合，构造一个 2×2 表：a 为该药品且该事件的报告数，b 为该药品其他事件的报告数，c 为其他药品该事件的报告数，d 为其他药品其他事件的报告数，N = a + b + c + d。

四种常用指标。表2 给出公式。PRR 与 ROR 是频率学派指标⁠^26,27；BCPNN 的信息成分（IC）与 GPS 方法的 EBGM 是贝叶斯指标，它们的共同特点是对小计数进行“收缩”，避免偶然的一两份报告产生极高的比值⁠^28–30。

示意计算。为了让读者能够复算，我们构造了四个“药品—事件”组合的示意数据（每个组合所在的示意数据库共 N = 100,000 份报告；数据为虚构，不对应任何真实药品）。EBGM 的先验参数在真实应用中应由全库数据用最大似然拟合，此处为演示取 α₁ = 0.2、β₁ = 0.1、α₂ = 2、β₂ = 4、混合比例 p = 1/3。计算代码随本文一同存档。

以 S1 为例复算：PRR = (20/1,000)/(200/99,000) = 0.020/0.00202 = 9.90；ROR = (20×98,800)/(980×200) = 10.08；E = 1,000×220/100,000 = 2.2，收缩 IC = log₂(20.5/2.7) = 2.93。

从表中能读出什么。其一，S2 只有 3 份报告，PRR 高达 33.2，但置信区间很宽（ROR 下限 10.19、上限 110.56）；收缩后的 IC 从未收缩的 4.92 降到 2.55，EBGM 从 33 左右降到 13.3。收缩估计的作用，就是让“证据少”的组合不至于因为偶然而排在前面。其二，S3 报告数在四组中居首（60 份），但比值接近 1，所有方法都不提示信号——常见事件的报告多，不等于存在关联。其三，S4 的 PRR 满足 Evans 标准，IC025 与 EB05 也为正或大于 1，但如果按 EB05 ≥ 2 的阈值则不提示信号，不同方法与阈值会给出不同结论。图2 展示了在观察/期望比固定为 5 的情况下，随着报告数增加，收缩指标如何逐渐接近原始比值。

统计方法的新进展。比例失衡分析本身也在演进。Bright 等人提出的 MCSG 方法用分层贝叶斯模型估计背景发生率，在迭代中剔除概率很低的计数，以减轻“掩蔽效应”（某些药品或事件的大量报告压低其他组合的比值），在合成数据和 FAERS 子集上表现优于常规方法⁠³¹。Balogh 等人用对比学习从自发报告中学习不良事件的向量表示，在药物—事件关联预测基准上 AUC 为 0.88，高于 ROR 及大模型生成表示的 0.76—0.83⁠³²。Kefala 等人用 DeepSeek V3 从欧盟 1,513 个集中审批产品的 17,763 个说明书版本中抽取不良反应，构建了带时间索引的参考数据集（110,823 个药物—不良事件关联），用于评估信号检测方法能否在监管确认之前发现信号⁠³³。

大模型在信号检测中的位置。上述进展给出了一个清晰的分工：统计量由确定性代码计算，结果可以逐位复算、可以在检查时重演；大模型适合承担四类周边工作——一是术语归组，帮助构建或审查分析所用的首选语集合⁠²¹；二是把候选信号相关的病例叙述整理为病例系列摘要；三是用说明书和文献构建参考数据集⁠³³；四是用自然语言解释统计结果的含义与局限。大模型不应直接“判断某个组合是不是信号”，也不应“心算”比值。Calle 等人的药物警戒助手提供了一个范例：系统通过 OpenFDA 查询 FAERS，计算预定义的汇总量，再根据已计算好的表格生成受约束的叙述和图表；确定性执行、版本化查询和缓存响应使结果可以精确重跑和审计⁠³⁴。

个例因果评估辅助：一致性仍有限

任务本质。因果评估要综合时间关系、去激发与再激发、其他可能原因、既往证据与客观检查结果等因素，常用 WHO-UMC 系统或 Naranjo 量表。它是药物警戒中高度依赖专业判断的环节。

公开证据。Heckmann 等人在 150 份 ICSR 上比较了多种生物医学大模型与提示策略，表现居首的组合与人类评估者在最终因果分类上的一致率为 64%；在“是否为已列出不良事件”“时间合理性”“其他原因”和“客观证据”等关键项目上一致性较低⁠³⁵。同一团队随后用 GPT-5.2 在 723 份 FAERS 病例上评估 Naranjo 评估，基线下第 5 题（其他原因）一致率 74.1%，第 10 题（客观证据）65.4%；按病例选择温度的贝叶斯优化把因果分类一致率从 45.0% 提高到 72.0%⁠³⁶。Ha 等人用 55 个 FAERS 病例（337 个药物层面评估）测试 WHO-UMC 评估，模型与专家的 Cohen κ 介于 0.368 到 0.641，准确率 0.583 到 0.804；“肯定”“很可能”“不太可能”类别的 F1 分别约为 0.79、0.79、0.90，而“可能”类别仅为 0.293；作者认为大模型不适合独立决策，可作为初步分诊的辅助工具⁠³⁷。

2026 年 10 月的 MARCA 研究采用四个智能体分工：文献检索、说明书评估、客观证据分类和临床因果推理，由智能体生成理由、再由人工辅助打分。在 215 份 ICSR、1,562 个药物—事件组合上，最终因果分类一致率 79.4%（κ = 0.587）；但“其他原因”一题的 κ 仅 0.269⁠³⁸。

Shi 等人的研究揭示了另一类风险：在药物性肝损伤风险评估中，闭卷作答的模型在没有直接证据时很少弃权（弃权率 5.3%—33.3%），还会对确有肝损伤风险的药物给出高置信度的“低风险”回答；改为“证据门控”协议、要求模型只依据提供的证据作答后，所有模型在无直接证据时都选择了弃权⁠³⁹。这一结果说明，“无出处即拒答”应当是药物安全场景的默认设定，而非可选项。

设计要点。因果评估环节，大模型适合做“评估材料的准备者”：按量表逐项整理支持与反对的证据，标出时间线，列出其他可能原因，并对每一项给出原文出处；最终的因果判定由具名的药物警戒医师作出。系统应记录模型建议与人工结论的差异，作为持续评估的数据。

对比与评测

图3 把本文引用的主要研究自报指标放在一起。需要再次强调：这些数字来自不同任务、不同数据和不同评价口径，只能用于观察规律，不能用于比较模型优劣。

从图表中可以读出三条规律。

规律一：任务越“封闭”，表现越好。有原文可依、答案在文本中出现的抽取任务，精确率可以达到 90% 以上；需要在受控词表中选择的编码任务，取决于是否限制输出范围；需要综合判断的因果评估，一致性明显较低，中间类别尤其困难。这与 FDA 研究者提出的“可计算药物警戒”框架一致⁠¹¹。

规律二：架构比模型更重要。同一模型在加入检索增强后召回率从 0.64 提高到 0.92⁠¹⁸；在证据门控下弃权行为从“很少”变为“全部”⁠³⁹；把编码限制在候选集合内，可以消除“编造术语”这类错误。决定系统可靠性的，往往不是选了哪个模型，而是模型被放在什么样的约束之中。

规律三：低患病率会放大误差。UMC 的 Norén 等人指出，许多高风险应用针对的是低发生率事件，表面上的高准确率可能掩盖有限的实际价值；不现实的类别平衡和缺少困难阳性样本，会让测试结果过于乐观；他们建议在统计评估之外进行结构化的病例层面审查，并用成本敏感的目标把模型表现与运营价值对齐⁠⁴⁰。Ludwig 研究中 84.9% 的记录不含不良事件⁠¹⁶，正是低患病率的写照。

评测建议。基于上述规律，我们建议企业在引入大模型之前，按以下五项设计评测：（1）测试集按真实患病率构造，并包含困难阳性和困难阴性样本；（2）逐字段、逐类别报告指标并给出置信区间，FDA 草案指南也要求所有表现估计提供置信区间⁠¹³；（3）评价“人机团队”的表现，包括复核时间和复核后的错误率⁠¹³；（4）重复推理测一致性，记录模型版本与参数；（5）上线后持续监测，定期抽样复评。

应用与案例类型

按照“AI 做什么、人决定什么、留下什么记录”三个问题，药物警戒中适合引入大模型与智能体的场景可分为六类（表5）。这里列出的是案例类型，不指向任何具体企业。

从公开研究看，前两类场景证据相对充分⁠^16,18,20；信号评估支持已有企业的可行性研究⁠¹⁹；基于计算结果生成安全摘要已有可重跑的工作流示范⁠³⁴；临床试验中的不良事件编码已有国内企业的实践报告⁠²⁰。Fong 等人在抗 β 淀粉样蛋白疗法的真实世界监测中，对 46 名患者的 20,123 份临床文档比较了专家审阅与大模型辅助流程：大模型辅助流程识别出全部阳性病例（灵敏度 1.00，阳性预测值 0.897），专家审阅的灵敏度为 0.886（阳性预测值 1.00）⁠⁴¹。这组对比很有代表性：模型更不容易漏，人更不容易错，两者组合才是合理的设计。

挑战与局限

幻觉与“合理的错误”。药物警戒中的错误往往看起来很合理：一个存在于医学语境却不存在于词典中的术语，一个与原文相近却不同的剂量。Hakim 等人为药物安全场景设计了一组护栏，包括识别异常文档、检查药名与不良事件术语是否正确、表达生成内容的不确定性⁠⁴²。护栏应当是确定性的校验，而不是另一个模型的“意见”。

偏见与输入污染。与临床无关的个人信息可能改变模型的判断⁠²⁵。输入应按任务最小化，模型调用记录应能复查。

分析误判。Hammad 等人梳理了药物安全评估中反复出现的分析误判：误解条件概率、混淆关联与因果、分母与对照选择不当、忽视背景发生率与混杂、辛普森悖论，以及对探索性结果的过度解读；作者指出，缺乏透明度、偏倚评估和临床监督的人工智能工具，可能放大而非减少这些问题⁠⁴³。比例失衡分析本身存在报告偏倚和缺少暴露分母的局限，大模型生成的流畅解释可能让这些局限被忽视。

版本漂移与可复现性。模型版本、提示词、检索库和 MedDRA 版本都会变化。FDA 草案指南把生命周期维护作为专门议题⁠¹³，FDA—EMA 十项原则要求定期再评估以应对数据漂移⁠¹⁴。没有版本锁定，就无法在检查时重演当时的判断。

评测证据的不足。现有研究以回顾性评估为主，外部验证与前瞻性实施研究不足⁠^9,10,44。企业不宜把论文中的指标直接当作本单位的预期表现。

数据保护。医疗健康信息属于敏感个人信息，处理需要特定目的和充分必要性。对于大多数制药企业，私有化部署、去标识化和最小必要原则是使用大模型的前提。

弘犀智能观点与未来展望

本节内容为弘犀智能研究团队的观点，基于上文引用的公开证据推导，不是已被证实的事实。

观点一：大模型负责“读和写”，统计与裁决交给确定性代码和具名人员

“核心方法与技术分析”与“对比与评测”两节的证据显示，大模型在有原文可依的抽取和受约束的书写上表现较好，在需要综合判断的因果评估上一致性有限，在“心算”和“凭记忆断言”上不可靠。由此我们主张一条分工线：读（抽取、归类、检索）和写（摘要、叙述、草稿）交给模型；算（比例失衡统计）交给确定性代码；判（病例有效性、编码确认、信号验证、因果结论）交给具名人员。 这与 FDA 研究者提出的混合架构判断相一致⁠¹¹。

观点二：门禁强度按“模型影响 × 决策后果”分级

FDA 草案指南的模型风险矩阵⁠¹³ 可以直接用于药物警戒的场景定级（图4）。例如，文献初筛的模型影响高（模型决定哪些文献进入人工阅读），但每条结果都被人看到，决策后果中等；因果评估草稿的决策后果高，因此模型只能给出带出处的材料，结论必须由人作出。我们建议：每一个使用情境在上线前单独定级，定级结果决定复核比例、抽样方式和是否允许“人在回路上”的监督。

弘犀智能的做法：把治理写进流程

据弘犀智能官网介绍，弘犀面向制药企业的药物警戒信号检测方案中，PRR、ROR 等比例失衡分析由确定性代码计算，报告文本由推训一体大模型平台 DH S1 辅助理解与归类，交付物是候选信号清单与可追溯的计算记录，供药物警戒人员评价；SAM 平台每次发布生成运行清单，把数据快照、代码版本、参数集、门禁签字、模型包与监控计划绑定，便于检查时完整重演；方案全程私有化部署⁠⁴⁵。药物警戒病例整理等智能体只提议、不决定，运行在企业智能体平台的 Harness 治理引擎之下：入口控制在模型启动前判断任务能否由智能体处理，并在每次工具调用时重新校验授权；运行控制要求技能按序执行、不许跳步，锁定模型版本，由工具网关和政策闸门拦截越界调用；出口控制由独立验证器只读结构化数据重验结果，向审批人呈交含正反证据的审批包，并全程留痕、支持紧急停机⁠⁴⁶（图5）。官网同时把“药品安全判定”列为必须保留有权人签字、人工干预通道与紧急停用机制的高风险应用⁠⁴⁶。

未来 2—3 年的可检验判断

结论

大模型和智能体进入药物警戒，真正要解决的不是“能不能替代人”，而是“怎样让人把时间花在判断上”。公开证据表明：在抽取与编码等封闭任务上，大模型已能显著减少人工的阅读与录入负担；在信号检测中，统计量应由确定性代码计算，模型负责归组、整理与解释；在因果评估中，模型适合准备材料，结论必须由具名人员作出。CIOMS、ICH、FDA 与 EMA 的文件共同指向同一组工程要求：明确使用情境、按风险分级监督、结果可追溯、过程可重演。

我们的建议可以归结为四句话：输出受结构约束，结论绑定原文出处，统计交给代码，决定留给有资质的人。做到这四点，大模型才能在药物警戒中真正提高效率，而不是增加风险。

参考文献

1. 1.European Medicines Agency. Guideline on good pharmacovigilance practices (GVP) Module IX – Signal management (Rev 1). EMA/827661/2011 Rev 1 (2017). https://www.ema.europa.eu/en/documents/scientific-guideline/guideline-good-pharmacovigilance-practices-gvp-module-ix-signal-management-rev-1_en.pdf
2. 2.国家药品监督管理局. 国家药监局关于发布《药物警戒质量管理规范》的公告（2021年第65号）. 中国政府网 (2021). https://www.gov.cn/zhengce/zhengceku/2021-11/29/content_5654764.htm
3. 3.International Council for Harmonisation. ICH E2D(R1): Post-Approval Safety Data: Definitions and Standards for Management and Reporting of Individual Case Safety Reports. Step 4, adopted 15 September 2025 (2025). https://database.ich.org/sites/default/files/ICH_E2D%28R1%29_Step4_FinalGuideline_2025_0819.pdf
4. 4.International Council for Harmonisation. ICH E2B(R3): Electronic Transmission of Individual Case Safety Reports (ICSRs) – Data Elements and Message Specification – Implementation Guide. EMA scientific guideline page (2016). https://www.ema.europa.eu/en/ich-e2b-r3-electronic-transmission-individual-case-safety-reports-icsrs-data-elements-message-specification-implementation-guide-scientific-guideline
5. 5.CIOMS Working Group XIV. Artificial Intelligence in Pharmacovigilance. Council for International Organizations of Medical Sciences, Geneva (2025). https://doi.org/10.56759/cdob6397
6. 6.MedDRA MSSO. Introductory Guide, MedDRA Version 29.1 (September 2026). (2026). https://alt.meddra.org/files_acrobat/intguide_29_1_English.pdf
7. 7.International Conference on Harmonisation. ICH E2E: Pharmacovigilance Planning. Step 4 version, 18 November 2004 (2004). https://database.ich.org/sites/default/files/E2E_Guideline.pdf
8. 8.Salvo, F., Crupi, L. & Cholle, C. Language models in pharmacovigilance: Applications, promises and limits. Thérapie 81, 140–146 (2026). https://doi.org/10.1016/j.therap.2025.12.003
9. 9.Kim, T. Y., Oh, W.-S. & Jeong, D.-H. Large Language Models in Adverse Drug Reaction Detection and Pharmacovigilance: A Systematic Review of Current Applications, Challenges, and Future Directions. Diagnostics 16, 15 (2026) (2026). https://doi.org/10.3390/diagnostics16152435
10. 10.El Sayed, I., Bedwany, R. N., Salama, M. & Eltrass, A. S. H. Integration of artificial intelligence into pharmacovigilance: A systematic review. Research in Social and Administrative Pharmacy (2026). https://doi.org/10.1016/j.sapharm.2026.09.001
11. 11.Wu, L., Xu, J., Dang, O. & Ball, R. Does generative AI mean the "end of history" for pharmacovigilance automation? towards a framework for the future of human-AI systems. Frontiers in Drug Safety and Regulation 6, 1846339 (2026). https://doi.org/10.3389/fdsfr.2026.1846339
12. 12.European Medicines Agency. Reflection paper on the use of Artificial Intelligence (AI) in the medicinal product lifecycle. EMA/CHMP/CVMP/83833/2023, adopted 9 September 2024 (2024). https://www.ema.europa.eu/en/documents/scientific-guideline/reflection-paper-use-artificial-intelligence-ai-medicinal-product-lifecycle_en.pdf
13. 13.U.S. Food and Drug Administration. Considerations for the Use of Artificial Intelligence to Support Regulatory Decision-Making for Drug and Biological Products. Draft Guidance for Industry and Other Interested Parties, January 2025 (2025). https://www.fda.gov/regulatory-information/search-fda-guidance-documents/considerations-use-artificial-intelligence-support-regulatory-decision-making-drug-and-biological
14. 14.U.S. Food and Drug Administration & European Medicines Agency. Guiding Principles of Good AI Practice in Drug Development. January 2026 (2026). https://www.fda.gov/about-fda/artificial-intelligence-drug-development/guiding-principles-good-ai-practice-drug-development
15. 15.U.S. Code of Federal Regulations. 21 CFR 11.10 – Controls for closed systems. Electronic Code of Federal Regulations. https://www.ecfr.gov/current/title-21/chapter-I/subchapter-A/part-11/subpart-B/section-11.10
16. 16.Ludwig, D., Wang, M., Buchanan, J. & Trinh, T. A Large Language Model for Extracting Post-marketing Adverse Drug Events from Clinical Notes in the Electronic Health Record. Drug Safety 49, 1181–1198 (2026). https://doi.org/10.1007/s40264-026-01682-6
17. 17.Plasek, J. M. et al. Relationship extraction for adverse drug events in clinical notes using large language models: a retrospective cross-sectional study. eBioMedicine 133, 106516 (2026). https://doi.org/10.1016/j.ebiom.2026.106516
18. 18.Ma, J. et al. Intelligent Framework for Adverse Drug Event Identification Using Large Language Models and Retrieval-Augmented Generation: Development and Evaluation Study. Journal of Medical Internet Research 28, e84086 (2026). https://doi.org/10.2196/84086
19. 19.Warner, J., De Souza Teodoro, L. H., Jardim, A. P. & Albera, C. Intelligent Automation Improved Efficiency in Pharmacovigilance Safety Signal Assessment. Clinical Pharmacology & Therapeutics (2026). https://doi.org/10.1002/cpt.70409
20. 20.Yan, C. et al. Application of Artificial Intelligence in MedDRA Coding: A Practical Exploration from Clinical Data Management Perspective. Therapeutic Innovation & Regulatory Science 60, 1059–1067 (2026). https://doi.org/10.1007/s43441-026-00953-9
21. 21.Vandenhende, F. et al. Performance of the SafeTerm AI-Based MedDRA Query System Against Standardised MedDRA Queries. Preprint at https://arxiv.org/abs/2512.07552 (2025).
22. 22.Vandenhende, F. et al. Automated Generation of Custom MedDRA Queries Using SafeTerm Medical Map. Preprint at https://arxiv.org/abs/2512.07694 (2025).
23. 23.Zhou, Y. et al. Quality-aware multi-source data fusion and enhancement for Medical Concept Normalization using Large Language Models. Journal of Biomedical Informatics 182, 105093 (2026). https://doi.org/10.1016/j.jbi.2026.105093
24. 24.Xue, Z. et al. AskGLP1: A Knowledge Graph LLM Agent for Exploring GLP-1 Experience from Online Patient Narratives. Preprint at https://arxiv.org/abs/2610.34987 (2026).
25. 25.Liu, S., Zhang, S. & Bala, I. Robust or Suggestible? Exploring Non-Clinical Induction in LLM Drug-Safety Decisions. arXiv preprint arXiv:2510.13931 (2025). https://arxiv.org/abs/2510.13931
26. 26.Evans, S. J., Waller, P. C. & Davis, S. Use of proportional reporting ratios (PRRs) for signal generation from spontaneous adverse drug reaction reports. Pharmacoepidemiology and Drug Safety 10, 483–6 (2001). https://doi.org/10.1002/pds.677
27. 27.van Puijenbroek, E. P. et al. A comparison of measures of disproportionality for signal detection in spontaneous reporting systems for adverse drug reactions. Pharmacoepidemiology and Drug Safety 11, 3–10 (2002). https://doi.org/10.1002/pds.668
28. 28.Bate, A. et al. A Bayesian neural network method for adverse drug reaction signal generation. European Journal of Clinical Pharmacology 54, 315–21 (1998). https://doi.org/10.1007/s002280050466
29. 29.DuMouchel, W. Bayesian Data Mining in Large Frequency Tables, with an Application to the FDA Spontaneous Reporting System. The American Statistician 53, 177–190 (1999). https://doi.org/10.1080/00031305.1999.10474456
30. 30.Norén, G. N., Hopstadius, J. & Bate, A. Shrinkage observed-to-expected ratios for robust and transparent large-scale pattern discovery. Statistical Methods in Medical Research 22, 57–69 (2013). https://doi.org/10.1177/0962280211403604
31. 31.Bright, M., Kontsioti, E., Pirmohamed, M., Zhou, Y. & Maskell, S. MCSG: A Method for Simultaneous Disproportionality Analysis and Background Rate Estimation in Large Pharmacovigilance Databases. Drug Safety 49, 481–491 (2026). https://doi.org/10.1007/s40264-025-01632-8
32. 32.Balogh, O. M. et al. Contrastive learning of adverse events to provide effective and interpretable vector representations for machine-assisted pharmacovigilance. Briefings in Bioinformatics 27, 5 (2026) (2026). https://doi.org/10.1093/bib/bbag463
33. 33.Kefala, M., Painter, J. L., Bukhari, S. T. & Sessa, M. Development of a European Union Time-Indexed Reference Dataset for Assessing the Performance of Signal Detection Methods in Pharmacovigilance using a Large Language Model. Preprint at https://arxiv.org/abs/2603.26544 (2026).
34. 34.Calle, X., Mendez, N. & Garin-Muga, A. Pharmacovigilance Assistant: An Agentic Workflow for Reproducible Drug Safety Summaries. Studies in Health Technology and Informatics 336, 42–46 (2026). https://doi.org/10.3233/SHTI260105
35. 35.Heckmann, N. S. et al. Biomedical Large Language Models and Prompt Engineering for Causality Assessment of Individual Case Safety Reports in Pharmacovigilance. Pharmaceutical Research 43, 2761–2774 (2026). https://doi.org/10.1007/s11095-026-04121-4
36. 36.Heckmann, N. S. et al. Optimizing Large Language Models for Causality Assessment in Pharmacovigilance: Developing a Performance Metric as Objective for Bayesian Hyperparameter Optimization. Preprint at https://arxiv.org/abs/2607.03704 (2026).
37. 37.Ha, Y. M. et al. Large Language Models for World Health Organization-Uppsala Monitoring Centre Drug-Adverse Event Causality Assessment Using Food and Drug Administration Adverse Event Reporting System Cases: Comparative Performance Study. Journal of Medical Internet Research 28, e93237 (2026). https://doi.org/10.2196/93237
38. 38.Lopez, D. R., Boccia, A. & Sessa, M. Multi-Agent Retrieval-Augmented Causality Assessment (MARCA) of Individual Case Safety Reports in Pharmacovigilance. Preprint at https://arxiv.org/abs/2610.33279 (2026).
39. 39.Shi, J., Ma, Y., Liu, Y. & Shi, B. Confident but unsupported: auditing large language models against supplied evidence boundaries in drug-induced liver injury assessment. Frontiers in Public Health 14, 1904062 (2026). https://doi.org/10.3389/fpubh.2026.1904062
40. 40.Norén, G. N., Meldau, E.-L. & Ellenius, J. Critical Appraisal of Artificial Intelligence for Rare-Event Recognition: Principles and Pharmacovigilance Case Studies. Drug Safety 49, 747–760 (2026). https://doi.org/10.1007/s40264-026-01649-7
41. 41.Fong, A. et al. Real-world pharmacovigilance for anti-Aβ therapies using a large language model. Alzheimer's & Dementia: Diagnosis, Assessment & Disease Monitoring 18, 3 (2026), e70412 (2026). https://doi.org/10.1002/dad2.70412
42. 42.Hakim, J. B. et al. The Need for Guardrails with Large Language Models in Medical Safety-Critical Settings: An Artificial Intelligence Application in the Pharmacovigilance Ecosystem. Preprint at https://arxiv.org/abs/2407.18322 (2024).
43. 43.Hammad, T. A. & Rochon, J. Analytic Misjudgment of Drug Safety Evidence and Causality: From the Prosecutor's Fallacy and Simpson's Paradox to Artificial Intelligence. Drug Safety 49, 1119–1133 (2026). https://doi.org/10.1007/s40264-026-01683-5
44. 44.Schreier, O. et al. Application of Language Models for the Analysis of Adverse Drug Events in Pharmaceutical Research and Development: Scoping Review. JMIR AI 5, e77732 (2026). https://doi.org/10.2196/77732
45. 45.弘犀智能科技（深圳）有限公司 / Great Unicorn Intelligence. 行业解决方案·制药 (Pharmaceutical Solutions). Official website, accessed 2026-10-29 (2026). https://www.hxallai.com/solutions/pharma/
46. 46.弘犀智能科技（深圳）有限公司 / Great Unicorn Intelligence. 企业智能体平台·Harness 治理引擎 (Enterprise Agent Platform and Harness Governance Engine). Official website, accessed 2026-10-29 (2026). https://www.hxallai.com/platform/agent/