据报道，最新研究显示，AI聊天机器人在约半数情况下会提供存在问题错误的医疗建议。研究团队对ChatGPT、Gemini、Meta AI、Grok和DeepSeek五款主流平台进行测试，围绕五类健康主题提出10个问题后发现，全部回复中约50%存在问题，其中近20%为严重问题。
具体表现上，模型在封闭式问题及疫苗、癌症领域表现较好，但在开放式提问和干细胞、营养等话题上明显下滑。这些回答常以确定语气呈现，却缺乏可靠依据，且无一能提供完整准确的参考来源。
目前，ChatGPT每周超2亿用户咨询健康问题，OpenAI今年1月已推出面向普通用户和医疗专业人士的健康工具，Anthropic同月也宣布为Claude引入医疗服务能力。研究作者警告，在缺乏公众教育和监管的情况下，大规模部署AI聊天机器人可能加剧错误信息传播风险。
0