第一幕碾压,来自监管的铁拳与用户信任的崩塌,焦点正是“AI药品推荐”。
“智健未来”高调推出的“个性化健康推荐”功能,其中涉及非处方药和保健品的部分,虽然团队在措辞上尽量规避了“诊断”、“用药建议”等敏感词汇,使用了“可能适合”、“基于您的情况考虑”等模糊表述,但其核心逻辑和界面设计,依然强烈暗示了AI在指导用户选择药品。这迅速引起了医疗监管部门和药师协会的注意。
在一场由某知名医院和药学会联合举办的“数字健康与用药安全”研讨会上,一位资深药学专家在做主题报告时,不点名但极为严厉地批评了当前市场上一些“滥用AI技术、忽视用药安全基本准则”的现象。他列举了数个潜在风险:AI模型训练数据偏差可能导致推荐不当;忽略用户未主动报告但可能致命的过敏史或合并用药;对保健品与药品的相互作用缺乏评估;以及最关键的——剥夺了药师或医生在用药前进行专业评估和患者教育的环节。“这是对患者生命健康极不负责任的行为,”专家总结道,“技术进步必须服务于安全底线,而不是成为绕过专业监管的捷径。”
这篇报告被多家专业媒体报道,虽然没有直接点名“智健未来”,但其描述的特征与“智健未来”的功能高度吻合,在医疗健康专业圈内引发了广泛讨论和批评。几乎同时,有用户在某知识分享平台发帖,称其根据“智健未来”App的推荐,服用了一种非处方感冒药后出现严重皮疹,质疑其推荐算法未考虑其过敏史(虽然他在健康档案中未明确填写)。尽管此事真伪和因果关系有待核实,但在当前敏感的氛围下,迅速发酵,被一些关注医疗安全的自媒体转载,标题耸动:《AI开药?年轻白领遵“AI助手”建议服药后全身起疹!》。
双重压力下,监管部门的问