非显而易见法律服务网

序号	权利要求内容
1	一种用于更新神经网络并执行机器学习任务的计算机实现的方法，包括；在神经网络的一层处接收张量；基于所接收的张量以第一位宽生成当前张量；基于所述当前张量来确定一个或多个量化参数值；根据基于在所述神经网络的更新期间生成的先前张量来确定的一个或多个量化参数值将所述当前张量量化为较低位宽；其中使用基于所述先前张量来确定的所述一个或多个量化参数减少了量化所述当前张量所需的存储器传递；接收用于所述机器学习任务的传感器数据；以及执行所述机器学习任务；包括输出所述机器学习任务的结果；其中所述机器学习任务包括图像分类、机器翻译或对象检测；其中；基于所述当前张量来确定所述一个或多个量化参数值包括：基于所述当前张量和所述先前张量来确定所述一个或多个量化参数值的移动平均。
2	如权利要求1所述的方法，其中；基于所述当前张量来确定的所述一个或多个量化参数值是基于最小当前张量值和最大当前张量值来计算的。
3	如权利要求1所述的方法，其中；基于所述当前张量来确定的所述一个或多个量化参数值是基于当前张量值的标准差来计算的。
4	如权利要求1所述的方法，进一步包括；将基于所述当前张量来确定的所述一个或多个量化参数值存储在存储器中以供在后续张量量化中使用；以及根据基于所述当前张量来确定的所述一个或多个量化参数值在数据通过所述神经网络的所述层的后续传递期间量化后续张量。
5	如权利要求1所述的方法，其中；当前最小量化参数值根据被计算为基于先前张量和先前最小量化参数值的移动平均；并且当前最大量化参数值根据被计算为基于所述先前张量和先前最大量化参数值的移动平均；其中是动量参数。
6	如权利要求1所述的方法，其中；基于所述当前张量来确定的所述一个或多个量化参数值包括基于用于量化所述当前张量的饱和比来计算的量化范围。
7	如权利要求6所述的方法，其中；所述量化范围是基于与所述饱和比相关联的一个或多个阈值来更新的。
8	如权利要求7所述的方法，其中；所述一个或多个阈值包括最大饱和阈值和最小饱和阈值；所述量化范围是由当前量化参数值来定义的；并且更新所述量化范围是根据来执行的；其中；并且其中是逆累加分布函数；是所述饱和比；并且是经定义的步长值。
9	如权利要求1所述的方法，其中；所述当前张量是梯度张量。
10	如权利要求1所述的方法，其中；所述当前张量是激活张量。

权利要求1

下载无效理由

一种用于更新神经网络并执行机器学习任务的计算机实现的方法，包括；在神经网络的一层处接收张量；基于所接收的张量以第一位宽生成当前张量；基于所述当前张量来确定一个或多个量化参数值；根据基于在所述神经网络的更新期间生成的先前张量来确定的一个或多个量化参数值将所述当前张量量化为较低位宽；其中使用基于所述先前张量来确定的所述一个或多个量化参数减少了量化所述当前张量所需的存储器传递；接收用于所述机器学习任务的传感器数据；以及执行所述机器学习任务；包括输出所述机器学习任务的结果；其中所述机器学习任务包括图像分类、机器翻译或对象检测；其中；基于所述当前张量来确定所述一个或多个量化参数值包括：基于所述当前张量和所述先前张量来确定所述一个或多个量化参数值的移动平均。