项目描述

Funsor

Funsor是一个类似张量的函数和分布库。

看见 概率规划的泛函张量获取系统描述。

安装

使用pip安装:

Funsor支持Python 3.7+。


pip install funsor


从源安装:


git clone git@github.com:pyro-ppl/funsor.git cd funsor git checkout master pip install .


使用funsor

Funsor可以通过许多界面使用:

设计

看见 设计文档.

这个库的目标是概括 放火狂者的延迟推理算法从离散变量到连续变量，并创造机器，使部分延迟采样兼容的普遍性。为了实现这一目标，该库选择了三种正交设计:

  1. 开放术语是对象。Funsors将张量接口一般化，以涵盖多变量的任意函数(“输入”)，其中变量可以是整数、实数或实张量。函数求值/替换是基本操作，广义张量索引。这允许概率分布是第一类有趣的，并利用现有的张量机制，例如，我们可以将张量压缩推广到计算共轭概率模型中的解析积分。
  2. 支持非标准解读。Funsors支持用户定义的解释，包括，eager，lazy，混合eager+lazy，memoized(像opt_einsum的共享)，以及近似解释，像积分运算的蒙特卡罗近似(例如.sum()在一个有趣的维度上)。
  3. 命名维度。换人是搞笑者最基本的操作。为了避免位置索引张量库中广播和高级索引的困难，所有的函数维都被命名。索引使用.__call__()方法，并且可以解释为替换(具有很好理解的语义)。Funsors被视为每维有一个代数自由变量的代数表达式。每个维度要么是协变的(一个输出)，要么是逆变的(一个输入)。

使用funsor我们可以很容易地实现Pyro风格 延迟采样，大致是:


trace_log_prob = 0.

def pyro_sample(name, dist, obs=None):
    assert isinstance(dist, Funsor)
    if obs is not None:
        value = obs
    elif lazy:
        # delayed sampling (like Pyro's parallel enumeration)
        value = funsor.Variable(name, dist.support)
    else:
        value = dist.sample('value')[0]['value']

    # save log_prob in trace
    trace_log_prob += dist(value)

    return value

# ...later during inference...
loss = -trace_log_prob.reduce(logaddexp)  # collapses delayed variables
  • 1.
  • 2.
  • 3.
  • 4.
  • 5.
  • 6.
  • 7.
  • 8.
  • 9.
  • 10.
  • 11.
  • 12.
  • 13.
  • 14.
  • 15.
  • 16.
  • 17.
  • 18.
  • 19.


看见 funsor/minipyro.py完整的实现。

相关项目

引用

如果您使用Funsor，请考虑引用:

@article{obermeyer2019functional,
  author = {Obermeyer, Fritz and Bingham, Eli and Jankowiak, Martin and
            Phan, Du and Chen, Jonathan P},
  title = {{Functional Tensors for Probabilistic Programming}},
  journal = {arXiv preprint arXiv:1910.10775},
  year = {2019}
}
  • 1.
  • 2.
  • 3.
  • 4.
  • 5.
  • 6.
  • 7.