腾讯公司取得神经网络模型的内存管理专利,提高了内存的利用率
金融界2023年12月28日消息,据国家知识产权局公告,腾讯科技(深圳)有限公司取得一项名为“神经网络模型的内存管理方法、装置、设备、介质及产品“,授权公告号CN116893904B,申请日期为2023年9月。
专利摘要显示,本申请公开了一种神经网络模型的内存管理方法、装置、设备、介质及产品,属于内存管理技术领域。该方法包括:获取神经网络模型对应的计算图;基于所述计算图,确定待分配至所述网络层算子的内存大小;从空闲内存块列表中的空闲内存块中获取与所述内存大小匹配的分配内存块,将所述分配内存块分配给所述网络层算子;其中,所述空闲内存块列表用于存放已被分配但被解除占用后的空闲内存块,所述分配内存块是指被分配给所述网络层算子用于存储数据的内存块。通过利用空闲内存块列表中的空闲内存块,为网络层算子分配到与内存大小匹配的分配内存块,从而减少神经网络模型在运行过程中分配的内存,提高了内存的利用率。
本文源自:金融界
作者:情报员
相关推荐
- 免责声明
- 本文所包含的观点仅代表作者个人看法,不代表新火种的观点。在新火种上获取的所有信息均不应被视为投资建议。新火种对本文可能提及或链接的任何项目不表示认可。 交易和投资涉及高风险,读者在采取与本文内容相关的任何行动之前,请务必进行充分的尽职调查。最终的决策应该基于您自己的独立判断。新火种不对因依赖本文观点而产生的任何金钱损失负任何责任。