本发明涉及一种面向目标检测模型Faster R‑CNN的自动量化方法，涉及深度神经网络的量化和基于深度学习的强化学习领域。具体过程为：遍历目标检测模型Faster R‑CNN，获取可量化网络层的索引，利用一个十维向量为每一层可量化的网络构建状态，创建目标检测模型Faster R‑CNN的存储资源查询表，评估未量化时目标检测模型Faster R‑CNN的准确率，利用基于深度学习的强化学习方法搜索最佳的量化策略，对量化后的目标检测模型Faster R‑CNN再训练。该方法解决了传统的基于规则的启发式量化算法需要大量的人力工作为网络的每一层设计最佳的量化位宽的问题。同时为了加快量化策略的搜索速度，将量化后模型所需的存储资源融入到搜索过程中，跳过不必要的搜索，从而提高搜索速度。
声明：
“面向目标检测模型Faster R-CNN的自动量化方法” 该技术专利(论文)所有权利归属于技术(论文)所有人。仅供学习研究，如用于商业用途，请联系该技术所有人。
我是此专利(论文)的发明人(作者)
1111
编辑：管理员
来源：北方有色网
咨询细节
