本发明提供一种自动混合精度量化方法及装置，其中，所述方法包括：获取多输入多输出MIMO检测器在对MIMO系统进行信号检测的过程中产生的待量化的中间变量；通过深度强化学习算法对智能体进行训练，并基于训练好的所述智能体中存储的策略对每个所述中间变量的小数位宽进行量化；基于概率密度函数，对每个所述中间变量的整数位宽进行量化。本发明可以自动实现MIMO检测器中不同中间变量的量化位宽的分配，避免了大量的量化位宽冗余，节省硬件资源。
声明：
“自动混合精度量化方法及装置” 该技术专利(论文)所有权利归属于技术(论文)所有人。仅供学习研究，如用于商业用途，请联系该技术所有人。
我是此专利(论文)的发明人(作者)
844
编辑：管理员
来源：北方有色网
咨询细节
