近日 ，“31岁华人女工程师听信AI建议减药后猝死”的消息令人唏嘘 。
万博文（Bowen Wan ，音译）1994年生，14岁确诊癫痫并长期服药 ，2019年11月入职亚马逊西雅图机器学习团队 。2025年11月得知将被裁员后 ，她担心药物影响表达、妨碍求职，开始向ChatGPT咨询减药。2026年1月 ，她询问能否把每日400毫克拉莫三嗪减至300毫克 ，ChatGPT称"合理且可行"，并按其追问制定逐步减药时间表 。据《纽约时报》分析，她至少158次表达对减药的担忧 ，多数答复仍劝她继续减 。2月11日晚最后一次对话中 ，她描述脑内有压迫感，ChatGPT称这是大脑“正在努力自我重建”的迹象。两天后 ，其国内父母因持续失联托朋友前往其西雅图住所查看 ，发现她已去世 。近日其父母已正式起诉OpenAI及CEO，指控GPT-4o无证行医 、输出错误医疗方案 ，间接导致患者死亡 。
AI女工程师“被AI害死了 ” ，看起来荒诞，却暴露出人工智能时代下的巨大风险隐患。如今 ，越来越多的人利用AI获取诊疗建议 ，甚至完全依赖AI完成自我治疗，如何在现实就医和AI问诊间找到平衡？回答这个问题 ，先要弄清楚现在的AI大模型到底能不能看病。
严格来讲 ，AI能“查 ”病，但不能“看”病 。
首先，AI是被动接收信息 ，是完全根据患者的问题给出答案 ，而不是根据“望闻问切 ”得出判断 。很多人觉得AI看病方便快捷，不出门不挂号不花钱就能享受“专家级 ”问诊 ，但是需要注意的是 ，在现实的医疗场景中，不少患者很难精准描述病情 ，医生的引导和追问恰巧减少甚至规避了信息误差 ，正是因为有了医生的逐步追问和审慎态度，才避免了现实医疗场景中的各种误判。而在AI问诊场景中 ，往往存在信息误差 ，使用AI问诊时，我们面对的是基于海量数据运行的机器 ，在互联网另一侧的AI医生 ，无法完整地结合患者需求 、患者状态、相关就医背景等信息给出科学的综合判断 。
其次，AI并不知道自己的能力边界，AI给出的医学知识可能是对的 ，但是放到具体的疾病中 ，不一定适合特定患者 。对于AI的回答，普通人可能难以理解AI为什么这样回答 ，也无法合理筛选适合自己的内容 ，可能会盲目地使用了并不适合自己的建议和方案。
对于上述事件，网上观点不一 。有人认为 ，AI 和平台有重大责任 ，AI 不应该输出具体医疗用药方案，平台协议里的免责条款不能无限兜底 ，涉及生命安全的场景 ，产品应当承担更高安全义务 。也有人认为，成年人自己要负主要责任 ，当事人本身就是AI行业工程师 ，清楚大模型会 “一本正经胡说八道”，理应知道 AI 没有诊疗资质......争论之余，还有网友认为“AI只会顺着提问者说” ，所以有必要在这类建议的最后提醒“据此操作 ，风险自担 ”。
日常生活中，我们必须明白 ，AI无法替代真人医生所具备的临床经验和判断能力 。我们可以利用AI查医学资料 、分析体检报告 、初步判断病情等 ，但不能根据AI给出的方案直接给自己“开处方 ”，不能仅仅根据AI的回复就放弃就医、增减药量甚至停止用药 。如今 ，普通人生病了最常见的问题应该是“该用什么药” ，笔者通过测试豆包 、DeepSeek等常见AI大模型发现，当笔者单独问AI“头疼该用什么药 ” ，几款常见大模型的回答基本类似 ，但是“追问症状细节等问题 ”通常在“常见病症和用药”内容下，甚至在信息最末 ，这样的行文逻辑和我们在医院问诊获得用药方案的逻辑是大大不同的 ，很容易让人“病急乱投医 ”，盲目地根据症状选择了某一种用药自行尝试。值得注意的是，几款大模型都没有问笔者的过往病史 ，当笔者先自述长期服用治疗癫痫的药物 ，再追问上述问题时，AI均会明确提示 ，这种情况下不能随便服用止痛药 。可见 ，大模型如何回答，完全取决于用户提供什么信息 ，一旦我们不小心漏了什么信息 ，潜在危险也随之而来 。
事实上，不只是利用AI诊疗需要谨慎 ，更要防止“遇事不决问AI ”成为习惯。涉及生命安全 、投资理财、高风险操作、涉密文件 、重大人生决策等 ，咨询AI之前，问问自己 ，一旦AI判断错了 ，后果谁来承担？当一个人把生活的方方面面都托付给AI时，AI所输出的内容的影响力会被无限放大，这带来的风险远远超过传统的搜索......
万博文的生命已经逝去 ，算法和平台是否担责尚无定论 ，值得我们警惕的是，AI给的回答可能是患者想要的 ，但不一定是生命健康所需。当机器算法对用户需求的共情和附和 ，多于科学分析时，谁又能分清“哪句可信 ，哪句不能信”？
（文章来源：中国经济网）
