今回は前回に引き続きPyroのチュートリアルを読み進めてみました！今回のチュートリアルはここです。

このチュートリアルの目標は、簡単な生成モデルを作成することです。生成モデルについては書籍や他Webサイトなどで調べてみてください。

ライブラリのインストール

まずはチュートリアルで必要なライブラリをインポートします。

今回必要なライブラリは以下のようになっています。

import matplotlib.pyplot as plt
import numpy as np
import torch

import pyro
import pyro.infer
import pyro.optim
import pyro.distributions as dist

pyro.set_rng_seed(101)

何をモデル化するのか

このチュートリアルでモデル化する対象は、ライブラリをインポートしているコードの下に書かれています。主に以下のような内容です。

「物体の重さを測るある体重計は、同じ物体に対して毎回違った重さを表示してしまう。この変動性を物体の密度や材料のような前提知識を用いた推測によって補おう。」

これが今回モデル化したい対象です。毎回違う重さを表示する体重計なんて筆者の人生で一度もない経験でありなかなか現実性がなさそうな事象ですが、この問題を考えていきます。

簡単なモデル例

前の節で話したことは、次のプロセスで表すことにします。

$$weight|guess \sim Normal(guess, 1)$$

$$ measurement | guess, weight \sim Normal(weight, 0.75)$$

1行目は、平均がguess、分散が1のガウス分布から値をサンプルし、weightに代入するという操作をしています。

2行目は、1行目の操作によって得られたweightを平均にし、分散を0.75としてガウス分布から値をサンプルしmeasurementに代入しています。

これらの操作をプログラムにすると以下のようになります。

def scale(guess):
    weight = pyro.sample("weight", dist.Normal(guess, 1.0))
    return pyro.sample("measurement", dist.Normal(weight, 0.75))

conditioned_scale = pyro.condition(scale, data={"measurement": 9.5})

def deferred_conditioned_scale(measurement, guess):
    return pyro.condition(scale, data={"measurement": measurement})(guess)

def scale_obs(guess):  # equivalent to conditioned_scale above
    weight = pyro.sample("weight", dist.Normal(guess, 1.))
     # here we condition on measurement == 9.5
    return pyro.sample("measurement", dist.Normal(weight, 0.75), obs=9.5)

def perfect_guide(guess):
    loc =(0.75**2 * guess + 9.5) / (1 + 0.75**2) # 9.14
    scale = np.sqrt(0.75**2/(1 + 0.75**2)) # 0.6
    return pyro.sample("weight", dist.Normal(loc, scale))

def scale_parametrized_guide(guess):
    a = pyro.param("a", torch.tensor(guess))
    b = pyro.param("b", torch.tensor(1.))
    return pyro.sample("weight", dist.Normal(a, torch.abs(b)))

from torch.distributions import constraints

def scale_parametrized_guide_constrained(guess):
    a = pyro.param("a", torch.tensor(guess))
    b = pyro.param("b", torch.tensor(1.), constraint=constraints.positive)
    return pyro.sample("weight", dist.Normal(a, b))  # no more torch.abs