存储器内计算存储器装置及存储器内计算方法与流程

    技术2026-02-06  1


    本发明是有关于一种存储器内计算(in-memory computing,imc)存储器装置及存储器内计算方法。


    背景技术:

    1、对于神经网络计算与应用而言,矢量-矩阵乘法(vector-matrixmultiplication),也即感知器操作(perceptron operation),已广泛应用。当在存储器内实现神经网络计算时,可将权重值存在存储器阵列内,且把输入值施加至存储器阵列,来进行感知器计算,以减少功率消耗并改良计算效率。

    2、由于存储器阵列架构的关系,感知器计算或矢量-矩阵乘法的输入值通常是从字线侧或位线侧输入,并利用感应放大器来读出计算结果。故而,输入值的数量将受限于存储器阵列大小及感应放大器的累积总电流大小。

    3、因为输入值的数量会被受限,目前做法是将这些输入值分成多个输入值群组,并利用多个感应放大器来分别感应这些输入值群组的个别电流。由多个不同感应放大器所得到的读取结果还要再进行加总,但这种加总可能会引起读取错误,并要花费更多运算时间和/或功率消耗。

    4、此外,以目前而言,主要有两种架构来评估存储器内计算imc结果,一种是电流加总(sum-of-current)架构,一种是电压加总(sum-of-voltage)架构。

    5、对于现有的电流加总架构,如果输入值数量太多的话,加总电流可能会太高,所以需要降低各存储单元电流或需要有特别设计的感应放大器。但这样会额外增加设计复杂度。

    6、对于现有的电压加总架构,各运算存储单元的阻值必需低才能提高感应电流,来降低本体效应(body effect)。

    7、故而,目前需要有一种存储器内计算imc存储器装置及存储器内计算方法,以期能改善目前做法的缺点。


    技术实现思路

    1、根据本公开一方面,提出一种存储器内计算(imc)存储器装置,包括:多个运算存储单元,组成多个存储串,这些运算存储单元储存多个权重值;一负载电容,耦接至这些运算存储单元;以及一测量电路,耦接至该负载电容。于进行运算时,多个输入电压分别输入至这些运算存储单元,这些输入电压有关于多个输入值,这些运算存储单元的多个有效阻抗值有关于这些输入电压与这些权重值。当一读取电压施加至这些运算存储单元时,这些运算存储单元产生多个存储单元电流,这些存储单元电流形成多个存储串电流。由这些存储串所产生这些存储串电流对该负载电容充电。该测量电路测量该负载电容的一电容电压。根据该负载电容的该电容电压、至少一延迟时间与一既定电压间的一关系,决定这些输入值与这些权重值的一运算结果。

    2、根据本公开另一方面,提出一种存储器内计算方法,应用于一存储器内计算存储器装置,该存储器内计算方法包括:储存多个权重值于多个运算存储单元,这些运算存储单元组成多个存储串;分别输入多个输入电压至这些运算存储单元,这些输入电压有关于多个输入值,这些运算存储单元的多个有效阻抗值有关于这些输入电压与这些权重值;当一读取电压施加至这些运算存储单元时,这些运算存储单元产生多个存储单元电流,这些存储单元电流形成多个存储串电流;由这些存储串所产生这些存储串电流对该负载电容充电;测量该负载电容的一电容电压;以及根据该负载电容的该电容电压、至少一延迟时间与一既定电压间的一关系,决定这些输入值与这些权重值的一运算结果。

    3、为了对本发明的上述及其他方面有更佳的了解,下文特举实施例,并配合附图详细说明如下。



    技术特征:

    1.一种存储器内计算存储器装置,包括:

    2.根据权利要求1所述的存储器内计算存储器装置,其中,

    3.根据权利要求1所述的存储器内计算存储器装置,其中,于多个既定延迟时间处,检查该电容电压是否到达该既定电压以得到一比较结果,该比较结果代表这些输入值与这些权重值的该运算结果。

    4.根据权利要求1所述的存储器内计算存储器装置,其中,

    5.根据权利要求4所述的存储器内计算存储器装置,其中,

    6.根据权利要求5所述的存储器内计算存储器装置,其中各这些运算存储单元还包括:

    7.根据权利要求1所述的存储器内计算存储器装置,其中,

    8.根据权利要求1所述的存储器内计算存储器装置,其中,

    9.根据权利要求1所述的存储器内计算存储器装置,还包括:

    10.根据权利要求9所述的存储器内计算存储器装置,其中,

    11.一种存储器内计算方法,应用于一存储器内计算存储器装置,该存储器内计算方法包括:

    12.根据权利要求11所述的存储器内计算方法,其中,

    13.根据权利要求11所述的存储器内计算方法,其中,于多个既定延迟时间处,检查该电容电压是否到达该既定电压以得到一比较结果,该比较结果代表这些输入值与这些权重值的该运算结果。

    14.根据权利要求11所述的存储器内计算方法,其中,

    15.根据权利要求14所述的存储器内计算方法,其中,

    16.根据权利要求15所述的存储器内计算方法,其中各这些运算存储单元还包括:

    17.根据权利要求11所述的存储器内计算方法,其中,

    18.根据权利要求11所述的存储器内计算方法,其中,

    19.根据权利要求11所述的存储器内计算方法,其中,该存储器内计算存储器装置还包括:多个阻抗元件,形成于这些存储串之内,这些阻抗元件串联于这些运算存储单元;


    技术总结
    本公开提供一种存储器内计算存储器装置与方法。存储器装置包括:多个运算存储单元,这些运算存储单元储存多个权重值;负载电容,耦接至这些运算存储单元;以及测量电路,耦接至负载电容。在进行运算时,多个输入电压分别输入至这些运算存储单元,这些输入电压有关于多个输入值,这些运算存储单元的多个有效阻抗值有关于这些输入电压与这些权重值。当读取电压施加至这些运算存储单元时,这些运算存储单元产生多个存储单元电流,这些存储单元电流形成多个存储串电流,这些存储串电流对负载电容充电。测量电路测量负载电容的电容电压,根据负载电容的电容电压、至少一延迟时间与既定电压的关系,决定这些输入值与这些权重值的运算结果。

    技术研发人员:林昱佑,李峯旻
    受保护的技术使用者:旺宏电子股份有限公司
    技术研发日:
    技术公布日:2024/10/24
    转载请注明原文地址:https://symbian.8miu.com/read-40106.html

    最新回复(0)