Numpy实现BayesianRegression(1)

一、Python所有方向的学习路线

Python所有方向路线就是把Python常用的技术点做整理，形成各个领域的知识点汇总，它的用处就在于，你可以按照上面的知识点去找对应的学习资源，保证自己学得较为全面。

二、学习软件

工欲善其事必先利其器。学习Python常用的开发软件都在这里了，给大家节省了很多时间。

三、入门学习视频

我们在看视频学习的时候，不能光动眼动脑不动手，比较科学的学习方法是在理解之后运用它们，这时候练手项目就很适合了。

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

需要这份系统化学习资料的朋友，可以戳这里获取

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！

Reference:

https://github.com/mattiasvillani/BayesLearnCourse/raw/master/Slides/BayesLearnL5.pdf

“”"

def init(self, n_draws, mu0, omega0, nu0, sigma_sq0, poly_degree=0, cred_int=95):

self.w = None

self.n_draws = n_draws

self.poly_degree = poly_degree

self.cred_int = cred_int

Prior parameters

self.mu0 = mu0

self.omega0 = omega0

self.nu0 = nu0

self.sigma_sq0 = sigma_sq0

Allows for simulation from the scaled inverse chi squared

distribution. Assumes the variance is distributed according to

this distribution.

Reference:

https://en.wikipedia.org/wiki/Scaled_inverse_chi-squared_distribution

def _draw_scaled_inv_chi_sq(self, n, df, scale):

X = chi2.rvs(size=n, df=df)

sigma_sq = df * scale / X

return sigma_sq

def fit(self, X, y):

If polynomial transformation

if self.poly_degree:

X = polynomial_features(X, degree=self.poly_degree)

n_samples, n_features = np.shape(X)

X_X = X.T.dot(X)

Least squares approximate of beta

beta_hat = np.linalg.pinv(X_X).dot(X.T).dot(y)

The posterior parameters can be determined analytically since we assume

conjugate priors for the likelihoods.

Normal prior / likelihood => Normal posterior

mu_n = np.linalg.pinv(X_X + self.omega0).dot(X_X.dot(beta_hat)+self.omega0.dot(self.mu0))

omega_n = X_X + self.omega0

Scaled inverse chi-squared prior / likelihood => Scaled inverse chi-squared posterior

nu_n = self.nu0 + n_samples

sigma_sq_n = (1.0/nu_n)(self.nu0self.sigma_sq0 + \

(y.T.dot(y) + self.mu0.T.dot(self.omega0).dot(self.mu0) - mu_n.T.dot(omega_n.dot(mu_n))))

Simulate parameter values for n_draws

beta_draws = np.empty((self.n_draws, n_features))

for i in range(self.n_draws):

sigma_sq = self._draw_scaled_inv_chi_sq(n=1, df=nu_n, scale=sigma_sq_n)

beta = multivariate_normal.rvs(size=1, mean=mu_n[:,0], cov=sigma_sq*np.linalg.pinv(omega_n))

Save parameter draws

beta_draws[i, :] = beta

Select the mean of the simulated variables as the ones used to make predictions

self.w = np.mean(beta_draws, axis=0)

Lower and upper boundary of the credible interval

l_eti = 50 - self.cred_int/2

u_eti = 50 + self.cred_int/2

self.eti = np.array([[np.percentile(beta_draws[:,i], q=l_eti), np.percentile(beta_draws[:,i], q=u_eti)] \

for i in range(n_features)])

def predict(self, X, eti=False):

If polynomial transformation

if self.poly_degree:

X = polynomial_features(X, degree=self.poly_degree)

y_pred = X.dot(self.w)

If the lower and upper boundaries for the 95%

equal tail interval should be returned

if eti:

lower_w = self.eti[:, 0]

upper_w = self.eti[:, 1]

y_lower_pred = X.dot(lower_w)

y_upper_pred = X.dot(upper_w)

return y_pred, y_lower_pred, y_upper_pred

return y_pred

[

如果你也是看准了Python，想自学Python，在这里为大家准备了丰厚的免费学习大礼包，带大家一起学习，给大家剖析Python兼职、就业行情前景的这些事儿。

一、Python所有方向的学习路线

Python所有方向路线就是把Python常用的技术点做整理，形成各个领域的知识点汇总，它的用处就在于，你可以按照上面的知识点去找对应的学习资源，保证自己学得较为全面。

二、学习软件

工欲善其必先利其器。学习Python常用的开发软件都在这里了，给大家节省了很多时间。

三、全套PDF电子书

书籍的好处就在于权威和体系健全，刚开始学习的时候你可以只看视频或者听某个人讲课，但等你学完之后，你觉得你掌握了，这时候建议还是得去看一下书籍，看权威技术书籍也是每个程序员必经之路。

四、入门学习视频

我们在看视频学习的时候，不能光动眼动脑不动手，比较科学的学习方法是在理解之后运用它们，这时候练手项目就很适合了。

四、实战案例

光学理论是没用的，要学会跟着一起敲，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。

五、面试资料

我们学习Python必然是为了找到高薪的工作，下面这些面试题是来自阿里、腾讯、字节等一线互联网大厂最新的面试资料，并且有阿里大佬给出了权威的解答，刷完这一套面试资料相信大家都能找到满意的工作。

成为一个Python程序员专家或许需要花费数年时间，但是打下坚实的基础只要几周就可以，如果你按照我提供的学习路线以及资料有意识地去实践，你就有很大可能成功！
最后祝你好运！！！

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

需要这份系统化学习资料的朋友，可以戳这里获取

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！