京东言犀大模型牵手医疗:AI健康助手加速释放技术应用效能
自打1994年,美国耶鲁大学教授威廉·基西克,在《医疗的困境:无限需求和有限资源》一书中,提出了那个著名的“不可能三角”理论。此后近30年,全球医疗健康领域所开启的破局之旅,大多铩羽而归。
在传统医疗健康模式下,想要同时达成“提供高质量医疗、降低成本、增加医疗可及性”目标,几乎是不可能的事情。随着大模型奔涌而来,业界迎来了破冰时刻。京东健康首次对外发布医疗健康大模型“京医千询”,对接京东云言犀大模型,以“体验+”“效率+”和“服务+”,为行业提供解题新思路。
体验+:大模型牵手建康 保障用户体验
面对复杂的医疗健康场景,京医千询借助大模型能力统一交互入口,可调度专家模型,辅助医生决策降低误诊,协同医疗人员服务用户从问诊到用药的全流程,进一步保障患者诊疗体验。
一组远程医疗健康数据,最能彰显大模型使用前后的对此。
诊前,智能分诊的准确率提升至99.3%;分诊满意度在用户NPS调研中排名TOP2;知识及数据双驱动,支持100多个科室分诊,并通过线上数据反馈,持续优化知识库及模型。
诊中,专科辅诊具备全科智能诊疗能力,以皮肤科为例,能支持近百种高频皮肤病诊断,可覆盖线上90%的问诊咨询。医生开具处方后,药师在人工审核的基础上,借助大模型提升处方二次审核效率,较年初审方效率提升2倍。
诊后,智能随访使患者随访依从性提升到26.1%;质控检测问诊单,排查医疗健康安全隐患,较于纯人工手段相比,检出效率提升了17.4倍。
效率+:大小模型协同 助力降本增效
相比其他大模型,过去几年,京东健康建设了行业内首个实物与服务相联通、知识与数据相融合的百万级大规模健康知识图谱,沉淀了超过亿级的覆盖线上、线下医患场景的高质量健康档案,并拥有海量的医药全域流通大数据,从而夯实了京医千询行业内领先的医疗健康大模型“基础性”资源。
丰富的领域知识,叠加模型推理能力,奔赴医疗健康领域,进一步为行业提质增效。而在大模型时代,时延、吞吐量和利用率,影响推理成本、效率和体验。京东云注意到,因文字要逐一生成,大模型的推理效率弱于小模型。此时,提升推理效率,要解决两个矛盾。
第一个矛盾,芯片设计采取逢动易慢的结构,方便存储和计算分离。当单元算力巨大,而存储带宽不足时,将形成内存墙,导致算力不匹配。
第二个矛盾,在长文本输出时,前面是context阶段,后面是decoding阶段。两个阶段对GPU的利用率不一样,这种不平衡也增加了大模型推理的难度。
此时,京东云以大小模型协同的方式,让大模型负责输出通用能力,小模型负责实际推理执行,一方面提升系统的覆盖度和准确率,另一方面亦可降低推理延时、保证隐私数据安全、节约算力。同时,京东云在算法层采用后量化技术和参数共享,在体系结构层力求更高效的访问存储,在刚刚结束的11.11中,发挥了稳定地技术价值。
服务+:打造健康助手 释放技术温度
无论是模型训练,还是模型推理,大模型牵手医疗健康以挑战者和实干家的姿态,推进技术应用落地。
京医千询扎根互联网医疗健康场景,每日承接数十万人次的问诊量,助力京东健康沉淀了亿级高质量问诊数据,其独有的行业know how和领域知识,不仅增强了模型能力,也提升了智能应用的使用获得感。
释放技术温度,打造用户健康助手。当老用户的健康档案产生了数据变化,大模型将在第一时间捕捉到这一信息,智能辅诊功能可迅速判断其健康状态,随即推荐相应的健康服务,提供了一种主动的、更具人情味的技术关怀。如果一个新用户得了感冒,分不清风寒抑或风热,无从选择药品,大模型可对接智能助手功能,实现对症推荐。
提高诊疗效率,化身医生工作助手。线上,大模型的文案生成能力,可帮助医生降低文案书写工作量。线下,患者看病,利用排队就医的时间,便可与大模型进行交互,阐述病情。在医生问诊时,分析交互信息,就能够了解患者状况,辅助决策。
京东云判断,当人人AI时代到来,大模型将愈加平民化,更多熟悉业务逻辑、了解行业know-how的个人和组织,以自然语言交互的方式,就能创建专属智能应用。当下,京医千询所释放的AI能力,开始改变医疗健康行业的不可能三角,将不可能变成可能。
本文源自:金融界资讯
- 免责声明
- 本文所包含的观点仅代表作者个人看法,不代表新火种的观点。在新火种上获取的所有信息均不应被视为投资建议。新火种对本文可能提及或链接的任何项目不表示认可。 交易和投资涉及高风险,读者在采取与本文内容相关的任何行动之前,请务必进行充分的尽职调查。最终的决策应该基于您自己的独立判断。新火种不对因依赖本文观点而产生的任何金钱损失负任何责任。