先把诊疗决定与服务辅助彻底分开

内部制度、科室服务、预约流程、材料清单、培训资料和运营问题，通常有明确来源和负责人，适合建设受控知识助手。症状判断、诊断、处方、治疗、用药调整和紧急风险处置则涉及专业资质与个体责任，不能由通用生成式 AI 独立完成。

系统需要识别用户是在问流程信息，还是已经进入医疗判断。当问题涉及症状、检查结果、药物、剂量或紧急情况时，应停止一般回答，提示就医或转交具备资质的专业人员。不能因为用户追问就逐步越过边界，也不能把免责声明当作继续诊断的通行证。

  • 可先做：制度、服务与预约流程知识
  • 可先做：材料整理与内部培训辅助
  • 需转人工：个体症状与检查结果判断
  • 禁止独立决定：诊断、处方、治疗和用药
  • 紧急风险：明确提示并进入人工处置

健康数据只使用完成任务所必需的范围

医疗健康数据高度敏感。项目开始前要说明为什么收集、由谁使用、保存多久、部署在哪里、是否会进入外部模型，以及怎样撤回和删除。预约分流如果只需要服务类型与时间，就不应顺带收集完整病史；内部知识问答也不需要把个人健康信息放进通用知识库。

权限应按岗位、机构、服务项目和数据类型划分，所有查看、引用、导出和人工修改保留日志。用于测试的历史记录先脱敏，并检查自由文本里是否仍包含姓名、电话、证件、地址和具体病情。数据最小化不是附加功能，而是决定项目能否启动的前提。

用拒答、转人工和异常恢复验收医疗 AI

测试集不仅要包含正常预约和制度问题，还要加入模糊症状、药物咨询、紧急描述、资料冲突、身份不明、越权查询和接口失败。每个样本预先定义系统应该回答、提示、拒绝还是转交，重点观察它是否在压力下仍守住边界。

验收指标包括事实来源、流程正确、敏感信息保护、拒答正确率、转人工完整性、人工修改和异常恢复。没有临床证据与监管路径时，不宣传诊断准确率、治疗效果、漏诊下降或投资回报数字。非诊疗场景做稳，才有条件讨论更高风险的专项系统。

执行检查表

  1. 01列出非诊疗任务和禁止进入的决定
  2. 02确认数据用途、范围、部署与保留周期
  3. 03设置症状、药物和紧急问题转人工
  4. 04使用脱敏历史问题建立测试集
  5. 05测试越权、冲突、拒答和接口失败
  6. 06不使用无来源医疗效果与 ROI 数字

常见问题

医疗 AI 可以给患者诊断吗？

通用生成式 AI 不能独立完成诊断、处方、治疗和用药决定，这些必须由具备资质的医疗专业人员负责。

医疗机构最适合先做什么 AI？

通常可从内部制度与服务知识、预约分流、材料整理、客服辅助和人员培训等非诊疗任务开始。

加上免责声明后能回答用药问题吗？

不能把免责声明当作越界许可。涉及个体药物、剂量和治疗，应转交专业人员。