随机计算(2)——A General Design of Stochastic Circuit and Its Synthesis

最新推荐文章于 2021-05-19 11:35:23 发布

F~C~H

最新推荐文章于 2021-05-19 11:35:23 发布

阅读量2.5k

点赞数 1

分类专栏： Stochastic Computing

本文链接：https://blog.csdn.net/qq_34037046/article/details/84306846

版权

Stochastic Computing 专栏收录该内容

7 篇文章 35 订阅

订阅专栏

1、Abstract

在这篇文章中，为随机计算电路的设计介绍了一种一般的组合电路设计方法。这种设计方法能够完成具有任何算术方程功能的电路。

2、Introduction

超大规模集成电路（VLSI circuits）的可靠性成为一个最重要的问题，设计过程存在电压变化和热变化引起一系列问题。为此，随机计算高容错能力（tolerance of bit-flip errors）能够很好的解决这些问题。

SC 简介：它是将数字电路中逻辑域上的运算转化成概率域上的运算。即：当一个逻辑器件的布尔方程是
$Y=F(X_{1},X_{2})$
转化到概率域上运算就是把每个输入输出看作是一个随机变量，那么输出是1的概率是：
$P(Y=1)=P(F(X_{1},X_{2})=1)=P(X_{1}=a_{1},X_{2}=a_{2})$
例如一个二输入的AND门，它的布尔函数是：
$Y=F(X_{1},X_{2})=X_{1}X_{2}$
转化到概率域上运算，要使得输出随机变量是1，则输入变量需要都是1，即：
$P(Y=1)=P(X_{1}=1,X_{2}=1)=P(X_{1}=1)P(X_{2}=1)$
利用伯努利大数定理可得：一些列独立同分布的实验，可以利用频率去近似概率。所以利用随机数序列去表示这些概率值，即利用一串二进制数序列中1出现的频率去表示这些概率值。如下图：
在这里插入图片描述
SC一个重要特点就是：它具有强大的容错能力。
设计SC电路的方法类似于逻辑电路中的设计方法，分为：组合和时序。

这篇文章主要贡献是：
1、我们为SC引入了一般的组合设计，它只对必要的输入概率做出假设，而不需要对底层组合电路进行任何额外的假设。我们分析了随机域中设计的一般行为。
2、我们提出了一种综合方法来合成用于实现任意目标算术函数的随机电路。我们首先将目标函数转换为可以通过所提出的设计实现的特殊形式。但是，布尔函数有很多选择，可以在随机域中实现转换后的函数。我们展示了这些候选布尔函数的依据的特征，并提出了有效的启发式方法，以确定一个可以减小电路面积和延迟的组合电路的良好选择。

3、A General Design of Stochastic Design

我们的目的在于设计一个算术函数 $f(x_{1},...,x_{n})$ ，即输出为 $1$ 的概率是 $f(x_{1},...,x_{n})$ 。下面我们讨论的是组合电路。
首先，这个函数中的变量 $x_{1},...,x_{n}$ 需要由一系列的输入 $X_{1},...,X_{n}$ 提供这些“概率值”（利用RNG产生）。另外这些变量一定会有系数，所以需要额外提供常量输入，这些常量利用一系列的 $\frac{1}{2}$ 构成（利用LFSR提供）。因此，文章中提出的设计电路的输入是： $X_{1},...,X_{n},Y_{1},...,Y_{m}$ ，其中 $X_{i}$ 提供一系列的概率值 $x_{i}\in[0,1]$ , $Y_{i}$ 提供一系列的常量 $\frac{1}{2}$ 。如下图：
在这里插入图片描述
那么，提出这样的组合电路到底能够实现怎么样的函数：
$y=P(F(X_{1},...,X_{n},Y_{1},...,Y_{m})=1)\\= \sum_{(a_{1},...,a_{n},b_{1},...,b_{m})\in\{0,1\}^{m+n}:\ F(a_{1},...,a_{n},b_{1},...,b_{m})=1} P(X_{1}=a_{1},...,X_{n}=a_{n},Y_{1}=b_{1},...,Y_{m}=b_{m})\\ \ \\ =\sum_{(a_{1},...,a_{n})\in\{0,1\}^{n}}\sum_{(b_{1},...,b_{m})\in\{0,1\}^{m}:\ F(a_{1},...,a_{n},b_{1},...,b_{m})=1}P(X_{1}=a_{1},...,X_{n}=a_{n},Y_{1}=b_{1},...,Y_{m}=b_{m})\\ \ \\ =\sum_{(a_{1},...,a_{n})\in\{0,1\}^{n}}g(a_{1},...,a_{n})P(X_{1}=a_{1})...P(X_{n}=a_{n})\frac{1}{2^{m}}\\ \ \\ \ \\ \because P(X_{i}=1)=x_{i},\ P(X_{i}=0)=1-x_{i} \therefore P(X_{i}=a_{i})=x_{i}^{a_{i}}(1-x_{i})^{1-a_{i}}\\ \therefore y=f(x_{1},...,x_{n})=\sum_{(a_{1},...,a_{n})\in\{0,1\}^{n}}\frac{g(a_{1}),...,g(a_{n})}{2^{m}}\prod_{j=1}^{n}x_{j}^{a_{j}}(1-x_{j})^{1-a_{j}}\\ \ \\ \ \\ 其中h(a_{1},...,a_{n})=\frac{g(a_{1},...,a_{n})}{2^{m}},\ g(a_{1},...,a_{n})\in[0,2^{m}]表示当(a_{1},...,a_{n})确定时，\\有多少种不同的(b_{1},...,b_{m})可以使得F(a_{1},...,a_{n},b_{1},...,b_{m})=1.\\ \prod_{j=1}^{n}x_{j}^{a_{j}}(1-x_{j})^{1-a_{j}}与(a_{1},...,a_{n})的二进制组合是一致的，因此把\\这种形式的方程叫做二进制组合多项式(BCP),\ h(a_{1},...,a_{n})=\frac{g(a_{1},...,a_{n})}{2^{m}}为多项式的系数.$

4、Synthesis of Multi-Linear Polynomial

BCP毕竟还是一种特殊形式的多项式。接下来，来探讨一种更具普遍性的多项式形式：多线性多项式(MLP)。如下：
$f(x_{1},...,x_{n})=\sum_{(a_{1},...,a_{n})\in\{0,1\}^{n}}c(a_{1},...,a_{n})\prod_{j=1}^{n}x_{j}^{a_{j}}$
其中 $c(a_{1},...,a_{n})$ 表示MLP的系数。
设计实现MLP功能的逻辑电路分为两个步骤：
a、将MLP转化BCP形式，然后求出BCP的系数；
b、设计出相应的电路。

A、MLP $\rightarrow$ BCP
MLP是肯定可以转化成BCP的形式的。原因如下：
MLP是由这 $2^{n}$ 个基础项构成的：
$\prod_{j=1}^{n}x_{j}^{a_{j}}$
可以利用数学归纳法(mathematical induction)证明在SC中这 $2^{n}$ 个项是彼此独立的:
$Proof:\ \ 1、令n=2: \\ \prod_{j=1}^{n}x_{j}^{a_{j}}=\{1,\ x_{1},\ x_{2},\ x_{1}x_{2}\}\\ x_{1}和x_{2}必然是相互独立的，那么x_{1},\ x_{2}是否是相互独立的呢？\\ \because 在SC运算中为了是运算结果保证正确，要求不同运算项中的同一变量也需要是独立的\\ \therefore E(x_{1}*x_{1}x_{2})=E(x_{1})E(x_{1})E(x_{2})=E(x_{1})E(x_{1}x_{2})\\ \therefore 这四个项是相互独立的\\ 2、令n=n+1:\ \prod_{j=1}^{n+1}x_{j}^{a_{j}}:(a_{1},...,a_{n+1})\in\{0,1\}^{n+1}\\ \prod_{j=1}^{n+1}x_{j}^{a_{j}}=\{x_{n+1}\prod_{j=1}^{n}x_{j}^{a_{j}},\ \prod_{j=1}^{n}x_{j}^{a_{j}}\}\\ \because x_{n+1}和x_{n+1},\ x_{1},...,x_{n}都是独立的\\ \therefore x_{n+1}\prod_{j=1}^{n}x_{j}^{a_{j}}中的这2^{n}项是相互独立的\\ 同理：x_{n+1}\prod_{j=1}^{n}x_{j}^{a_{j}}和\prod_{j=1}^{n}x_{j}^{a_{j}}也是相互独立的\\ \therefore \prod_{j=1}^{n+1}x_{j}^{a_{j}}这2^{n+1}项是两两独立的\\ 综上所述：\prod_{j=1}^{n}x_{j}^{a_{j}}是两两独立的$
因此 $\prod_{j=1}^{n}x_{j}^{a_{j}}$ 构成了一个维度是 $2^{n}$ 的空间。由于BCP是由 $\prod_{j=1}^{n}x_{j}^{a_{j}}(1-x_{j})^{1-a_{j}}$ 这 $2^{n}$ 项构成的，所以这 $2^{n}$ 项构成的空间维度肯定不大于 $2^{n}$ ，所以一定可以用 $\prod_{j=1}^{n}x_{j}^{a_{j}}$ 描述 $\prod_{j=1}^{n}x_{j}^{a_{j}}(1-x_{j})^{1-a_{j}}$ 构成的空间，即任何一个MLP可以映射成一个BCP。
$h(a_{1},...,a_{n})=f(a_{1},...,a_{n})$
为了让 $h(a_{1},...,a_{n})\in[0,1]$ ，需要进行一个变换。如果 $h_{min}=r,\ h_{max}=s$ ，则将 $h'=\frac{h-r}{s-r}$ 替换 $h$ ，得到：
$f'(x_{1},...,x_{n})=\sum_{(a_{1},...,a_{n})\in\{0,1\}^{n}}h'(a_{1},...,a_{n})\prod_{j=1}^{n}x_{j}^{a_{j}}(1-x_{j})^{1-a_{j}}\\ f(x_{1},...,x_{n})=(s-r)f'(x_{1},...,x_{n})+r$

如何确定 $m$ ：
首先，会实现给出一个需要达到的精度值 $p r e c$ 即为使 $h^{'}$ 满足 $\frac{g}{2^{m}}$ 的形式，将每个 $h^{'}$ 近似成 $h^{''}$ ，但是需要满足 $|h''-h'|\le prec$ 。采用迭代的方法，将 $m$ 从1开始递增，当满足精度要求时，停止迭代。但 $m_{max}=\lceil\log_{2}\frac{1}{prec}\rceil$ ，所以当 $m$ 达到最大值时必须停止迭代。

B、Synthesis the circuit
在得到了BCP形式的多项式后，我们可以知道的一个最重要的信息就是：对于每一个确定的 $(a_{1},...,a_{n})\in\{0,1\}^{n}$ ，有多少种不同的 $(b_{1},...,b_{m})\in\{0,1\}^{m}$ 组合，使得 $F(a_{1},...,a_{n},b_{1},...,b_{m})=1$ ，即 $g(a_{1},...,a_{n})$ 。接下来我们只需要选择适当的 $(b_{1},...,b_{m})\in\{0,1\}^{m}$ 组合来建立对应的布尔函数。当然每个 $g(a_{1},...,a_{n})$ 可以有多个布尔函数，所以我们需要按一定的方法选择来满足一定的要求：更小的电路时延以及更少电路所占面积。

文章中采用了一种启发式方法：
首先定义 $M(a_{1},...,a_{n},b_{1},...,b_{m})$ 是相应的组合： $a_{1},...,a_{n},b_{1},...,b_{m})$ 的最小项。另外，定义 $S(a_{1},...,a_{n})$ 是一个最小项集合： $\{M(a_{1},...,a_{n},b_{1},...,b_{m}):\ (b_{1},...,b_{m})\in\{0,1\}^{m}\}$ 。( $Cube:\ 是指布尔变量的与式,\ e.g.,\ X_{1}\bar{X_{2}}$ )。
为了使得电路面积尽量小，则尽量使得布尔运算次数减少，那么我们需要选择一些最小项使得最后得到得布尔函数中的 $c u b e$ 越少越好，因为这样的话就代表着被Cube化简了的布尔变量越多，进而布尔运算的次数也越少。

接下来对不同的 $g(a_{1},...,a_{n})$ 进行讨论：
1、 $g(a_{1},...,a_{n})=0$ , 不需要从 $S(a_{1},...,a_{n})$ 中挑选任何一项最小项；
2、 $g(a_{1},...,a_{n})=2^{m}$ ，所有的 $S(a_{1},...,a_{n})$ 中的项都满足条件；
3、 $0<g(a_{1},...,a_{n})<2^{m}$ ：
a、先将 $g(a_{1},...,a_{n})$ 表示成二进制形式，即：
$g(a_{1},...,a_{n})=\sum_{k=0}^{r-1}2^{i_{k}}$
其中 $r$ 表示二进制形式中 $1$ 的个数， $0\le i_{0}\le i_{1}\le ...\le i_{r-1}\le m-1$ 。即我们需要 $r$ 个 $C u b e$ 来描述这个布尔函数。即第 $k$ 个 $C u b e$ 包含了 $2^{i_{k}}$ 个最小项，但是每个 $C u b e$ 中的任意最小项不能重复(这就是我们之后将重复提到的性质：Disjoint)，所以在选择 $(b_{1},...,b_{m})\in\{0,1\}^{m}$ 时需要遵循以下规则：
$如果一个Cube中，包含了2^{k}个最小项，那么我们将(b_{1},...,b_{m})设置为：b_{1}=...=b_{m-k-1}=1,\ b_{m-k}=0$
利用这种方法，可以注意到，对于同一个 $a_{1},...,a_{n})$ 组合，所有的 $C u b e$ 是两两 $d i s j o i n t$ 的，并且对于不同的两个 $a_{1},...,a_{n})$ 组合， $b_{1},...,b_{m})$ 组合是相同的，这样使得两个不同组合的 $C u b e$ 有可能可以合并成一个更大的 $C u b e$ ，从而能够减少 $C u b e$ 项，减少电路面积。

5、Synthesis of General Polynomial

前面两个部分，所提及的函数都具有一定特殊性的多项式。这个部分，是设计更具一般性的多项式，即每个变量最高次幂不再是1，可能有高次幂。
A、将目标多项式转换成对应的BCP形式（和MLP类似）
在这里，我们将目标多项式进行了预处理，让它也变成熟悉的MLP形式。如下：
$Objective\ function:\ f=c_{1}x_{1}^{2}+c_{2}x_{2}^{2}+c_{3}x_{1}x_{2}+c_{4}x_{1}+c_{5}x_{2}+c_{6}\\ \Rightarrow f'=c_{1}x_{1,1}x_{1,2}+c_{2}x_{2,1}x_{2,2}+c_{3}x_{1,1}x_{2,1}+c_{4}x_{1,1}+c_{5}x_{2,1}+c_{6}\\ x_{1,1}=x_{1,2}=x_{1},\ x_{2,1}=x_{2,2}=x_{2}$
最后利用Part 4的知识，将该MLP转化成BCP形式。

B、根据BCP设计
但是与Part 4不同的是在决定BCP的时候会相比更为复杂。例如下面的这个单变量函数：
$f(x_{1,1},x_{1,2})=\frac{g_{0}(0,0)}{2^{m}}(1-x_{1,1})(1-x_{1,2})+\frac{g_{0}(0,1)}{2^{m}}(1-x_{1,1})x_{1,2}+\frac{g_{0}(1,0)}{2^{m}}x_{1,1}(1-x_{1,2})\\+\frac{g_{0}(1,1)}{2^{m}}x_{1,1}x_{1,2}$
由于 $x_{1,2}=x_{1,1}=x_{1}$
所以
$f(x_{1,1},x_{1,2})\Leftrightarrow f^{*}(x_{1,1},x_{1,2})=\frac{g^{*}_{0}(0,0)}{2^{m}}(1-x_{1,1})(1-x_{1,2})+\frac{g^{*}_{0}(0,1)}{2^{m}}(1-x_{1,1})x_{1,2}\\+\frac{g^{*}_{0}(1,0)}{2^{m}}x_{1,1}(1-x_{1,2})+\frac{g^{*}_{0}(1,1)}{2^{m}}x_{1,1}x_{1,2}\ \ (g^{*}_{0}(0,1)+g^{*}_{0}(1,0)=g{0}(0,1)+g{0}(1,0))$
所以可以按照需求选择对应的 $g^{*}_{0}(1,0)，g^{*}_{0}(0,1)$

接下来，讨论一般多项式的BCP形式的基本组成项：
定义变量 $x_{i}$ 的最高幂次是 $d_{i}$ ， $d=\sum_{i=1}^{n}d_{i}$ ，所以这个BCP 含有 $d$ 个变量： $x_{1,1},\ x_{1,2},\ ...\ ,x_{n,1},\ ...\ ,x_{n,d_{n}}$ ，因此基本组成项可以写成：
$\prod_{j=1}^{n}\prod_{k=1}^{d_{j}}x_{j,k}^{a_{j,k}}(1-x_{j,k})^{1-a_{j,k}}\\ (a_{1,1},...,a_{1,d_{1}},...,a_{n,1},...,a_{n,d_{n}})\in\{0,1\}^{d}$
另外，我们可以发现：
$if:\ \sum_{k=1}^{d_{i}}a_{i,k}=\sum_{k=1}^{d_{i}}b_{i,k}\ \ for\ i\in[1,n]\\ \prod_{j=1}^{n}\prod_{k=1}^{d_{j}}x_{j,k}^{a_{j,k}}(1-x_{j,k})^{1-a_{j,k}}\Leftrightarrow\prod_{j=1}^{n}\prod_{k=1}^{d_{j}}x_{j,k}^{b_{j,k}}(1-x_{j,k})^{1-b_{j,k}}$
因此根据上述等式，我们可以把所有的组合 ${a_{1,1},...,a_{n,d_{n}}}\in\{0,1\}^{d}$ 划分成一系列的等价类，即：
$I(s_{1},...,s_{n})=\{(a_{1,1},...,a_{n,d_{n}})\in\{0,1\}^{d}:\ \sum_{k=1}^{d_{j}}a_{j,k}=s_{j},\ for\ each\ j=1,...,n\}$
所以类比上面的单变量时候的能够还原初始布尔函数的充分条件是：
$\sum_{(a_{1,1},...,a_{n,d_{n}})\in I(s_{1},...,s_{n})}g(a_{1,1},...,a_{n,d_{n}})=\sum_{(a_{1,1},...,a_{n,d_{n}})\in I(s_{1},...,s_{n})}g_{0}(a_{1,1},...,a_{n,d_{n}})\overset{\triangle}{=}G(s_{1},...,s_{n})\\ for\ all\ 0\le s_{1}\le d_{1},...,\ 0\le s_{n}\le d_{n}$
最后的工作就是为我们每一个 $(a_{1,1},...,a_{1,d_{1}},...,a_{n,1},...,a_{n,d_{n}})\in \{0,1\}^{n}$ 组合分配一定的对应的 $(b_{1},...,b_{m})\in\{0,1\}^{m}$ 组合数。采取的策略是：
$k=\lfloor G(s_{1},...,s_{n})/2^{m}\rfloor ，先将首先的k个(a_{1,1},...,a_{1,d_{1}},...,a_{n,1},...,a_{n,d_{n}})组合每个分配2^{m}个(b_{1},...,b_{m})组合，\\ 然后再给第k+1个(a_{1,1},...,a_{1,d_{1}},...,a_{n,1},...,a_{n,d_{n}})组合分配G(s_{1},...,s_{n})-2^{m}*k个(b_{1},...,b_{m})组合$

F~C~H

关注

1
点赞
踩
9

收藏

觉得还不错? 一键收藏
0
评论
随机计算(2)——A General Design of Stochastic Circuit and Its Synthesis

1、Abstract在这篇文章中，为随机计算电路的设计介绍了一种一般的组合电路设计方法。这种设计方法能够完成具有任何算术方程功能的电路。2、Introduction超大规模集成电路（VLSI circuits）的可靠性成为一个最重要的问题，设计过程存在电压变化和热变化引起一系列问题。为此，随机计算高容错能力（tolerance of bit-flip errors）能够很好的解决这些问题。...
复制链接

扫一扫

专栏目录