美国犹他州近期启动了一项试点项目,允许人工智能(AI)聊天机器人自动审核及批准精神科药物的续方申请。此举引发了有关患者安全的担忧,并被质疑违法。
今年3月,犹他州商务部与远程医疗公司Legion Health签署了为期一年的合作协议。州政府表示,试点期间,只要该公司遵守远程医疗的相关规定,州政府将对其豁免相关执业资质要求,并暂缓执法。
Legion Health在提案中声称,其AI续方系统可以有效缓解精神卫生领域的人手短缺,并让患者「以前所未有的速度和低廉的价格,获得高质量的精神卫生保健服务」。
犹他州政府在项目官网上也使用了类似的措辞,称常规续方属于「高频且繁琐」的操作,通过AI实现自动化将提升医疗服务的响应速度与质量。
波士顿贝斯以色列女执事医疗中心(BIDMC)数字精神医学系主任John Torous博士对该项目针对州内居民直接开展试点表示了担忧:
「似乎没人对此进行过哪怕最基础的研究。患者接不接受?医生认不认可?它真的有用吗?其适用边界在哪里?长处和短板分别是什么?」
作为哈佛医学院精神医学副教授,John Torous强调自己并不反对评估AI续方系统的潜力。他认为,面向公众推广之前,这一系统必须具备更高的透明度和更完善的安全预案。
美国精神病学协会(APA)在声明中指出,尽管技术手段有望增加医疗可及性,但「开具精神科处方属于行医行为,必须置于执业医师的监督之下」。APA强调,如果AI系统在「缺乏医师持续参与」的情况下生成或续签处方,「将对患者安全、医疗质量和责任归属提出严峻挑战」。
目前,Legion Health和犹他州商务部均未对置评请求做出回应。
安全风险隐患
提案并未详述该AI续方系统的具体运作机制。目前已知的信息是,犹他州居民只需每月支付20美元,即可注册Legion Health的服务,并通过其App提交续方申请。患者须上传当前药物的照片证明,且药量不得有任何变动。至于后续续方是否另行收费,目前尚不明确。
据该公司称,AI聊天机器人会询问患者的疗效、副作用及安全顾虑,并筛查
根据双方协议,前250份续方申请须经执业医师审核后方可发往药房;随后的1,000份申请将由临床医生进行事后追溯审计;此后,该系统将转入按月监测模式。
续方范围仅限协议目录,包括SSRIs及其他治疗焦虑、抑郁和
自2025年底起,犹他州即与另一平台Doctronic合作,由AI生成慢性病处方。然而,专业从事AI医疗系统压力测试的网络安全研究公司Mindgard却在独立审查中发现了严重错误:该AI系统在暴露于对抗性提示词时,竟然建议用甲基苯丙胺(冰毒)治疗社交退缩,甚至将一名患者的
John Torous警告称,鉴于任何AI程序都存在被操控的可能,了解Legion系统的底层细节至关重要。目前,Legion尚未公开任何性能或安全性数据。
该系统的逻辑是持续自动续药,在两次人工干预之间最多续方10次,或持续6个月。John Torous认为这种设定过于死板:「有时我们的目标是帮助患者减药乃至停药,」而一个以续方量最大化为导向的系统「完全背离了现代精神医学的临床逻辑」。
精神学术界目前对AI辅助治疗仍持审慎态度。APA的一项成员调查显示,40%的精神科医生认为其风险高于传统疗法,38%认为其能提升诊疗效率,另有23%表示无法确定。
John Torous认为,Legion平台的出现应促使行业加强自我教育。他指出,如果缺乏必要的认知,「我们将很难把这个领域推向理想的发展方向」。
是否违反FDA法律?
犹他州大学S.J.Quinney法学院副教授Daniel Aaron博士指出,即便该系统在州内获得了执法豁免,但也可能难逃联邦法律的制裁。
4月13日发表于《美国医学会杂志》(JAMA)的一篇关于Doctronic项目的文章中,Daniel Aaron与波士顿大学法学院教授Christopher Robertson主张,该系统涉嫌违法,因为根据FDA法规,AI并不具备「执业从业者」的身份:「如果没有持证医生的处方,这些药品就属于违规药品,其销售行为可能构成犯罪。」
Daniel Aaron表示,Legion Health项目面临同样的法律死结,因为它同样跳过了由执业人员开具处方的法定环节。目前没有证据显示这两家公司曾与FDA进行过沟通,但他也提到,特朗普政府此前一直大力推动AI产业并鼓励去监管化。
尽管如此,Daniel Aaron认为犹他州这类「绿灯」行为已然脱离了监管常态:「这类产品进入市场前理应通过临床试验,这是所有医疗器械的必经之路,」他说道。「这严重背离了FDA的常规标准,也挑战了美国市场对新型医疗设备的安全预期。」
Daniel Aaron最后强调,医疗设备与药物必须拥有扎实的安全性和有效性数据,才能保护患者免受伤害。他还警告,这种收费续方模式可能会让患者在健康和财务上遭受双重损失。
信源:AI Chatbot Prescribing Psychiatric Medications Raises Red Flags - Medscape - April 14, 2026. https://www.medscape.com/viewarticle/ai-chatbot-prescribing-psychiatric-medications-raises-red-2026a1000blh?ecd=a2a
(本网站所有内容,凡注明来源为“医脉通”,版权均归医脉通所有,未经授权,任何媒体、网站或个人不得转载,否则将追究法律责任,授权转载时须注明“来源:医脉通”。本网注明来源为其他媒体的内容为转载,转载仅作观点分享,版权归原作者所有,如有侵犯版权,请及时联系我们。)