Numpy实现RNN(1)，项目经理有成功当老板的吗

先自我介绍一下，小编浙江大学毕业，去过华为、字节跳动等大厂，目前阿里P7

深知大多数程序员，想要提升技能，往往是自己摸索成长，但自己不成体系的自学效果低效又漫长，而且极易碰到天花板技术停滞不前！

因此收集整理了一份《2024年最新Python全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友。

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，涵盖了95%以上Python知识点，真正体系化！

由于文件比较多，这里只是将部分目录截图出来，全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频，并且后续会持续更新

如果你需要这些资料，可以添加V获取：vip1024c （备注Python）

正文

Initialize the weights

limit = 1 / math.sqrt(input_dim)

self.U = np.random.uniform(-limit, limit, (self.n_units, input_dim))

limit = 1 / math.sqrt(self.n_units)

self.V = np.random.uniform(-limit, limit, (input_dim, self.n_units))

self.W = np.random.uniform(-limit, limit, (self.n_units, self.n_units))

Weight optimizers

self.U_opt = copy.copy(optimizer)

self.V_opt = copy.copy(optimizer)

self.W_opt = copy.copy(optimizer)

def parameters(self):

return np.prod(self.W.shape) + np.prod(self.U.shape) + np.prod(self.V.shape)

def forward_pass(self, X, training=True):

self.layer_input = X

batch_size, timesteps, input_dim = X.shape

Save these values for use in backprop.

self.state_input = np.zeros((batch_size, timesteps, self.n_units))

self.states = np.zeros((batch_size, timesteps+1, self.n_units))

self.outputs = np.zeros((batch_size, timesteps, input_dim))

Set last time step to zero for calculation of the state_input at time step zero

self.states[:, -1] = np.zeros((batch_size, self.n_units))

for t in range(timesteps):

Input to state_t is the current input and output of previous states

self.state_input[:, t] = X[:, t].dot(self.U.T) + self.states[:, t-1].dot(self.W.T)

self.states[:, t] = self.activation(self.state_input[:, t])

self.outputs[:, t] = self.states[:, t].dot(self.V.T)

return self.outputs

def backward_pass(self, accum_grad):

_, timesteps, _ = accum_grad.shape

Variables where we save the accumulated gradient w.r.t each parameter

grad_U = np.zeros_like(self.U)

grad_V = np.zeros_like(self.V)

grad_W = np.zeros_like(self.W)

The gradient w.r.t the layer input.

Will be passed on to the previous layer in the network

accum_grad_next = np.zeros_like(accum_grad)

Back Propagation Through Time

for t in reversed(range(timesteps)):

Update gradient w.r.t V at time step t

grad_V += accum_grad[:, t].T.dot(self.states[:, t])

Calculate the gradient w.r.t the state input

grad_wrt_state = accum_grad[:, t].dot(self.V) * self.activation.gradient(self.state_input[:, t])

Gradient w.r.t the layer input

accum_grad_next[:, t] = grad_wrt_state.dot(self.U)

Update gradient w.r.t W and U by backprop. from time step t for at most

self.bptt_trunc number of time steps

for t_ in reversed(np.arange(max(0, t - self.bptt_trunc), t+1)):

grad_U += grad_wrt_state.T.dot(self.layer_input[:, t_])

grad_W += grad_wrt_state.T.dot(self.states[:, t_-1])

Calculate gradient w.r.t previous state

grad_wrt_state = grad_wrt_state.dot(self.W) * self.activation.gradient(self.state_input[:, t_-1])

Update weights

（1）Python所有方向的学习路线（新版）

这是我花了几天的时间去把Python所有方向的技术点做的整理，形成各个领域的知识点汇总，它的用处就在于，你可以按照上面的知识点去找对应的学习资源，保证自己学得较为全面。

最近我才对这些路线做了一下新的更新，知识体系更全面了。

（2）Python学习视频

包含了Python入门、爬虫、数据分析和web开发的学习视频，总共100多个，虽然没有那么全面，但是对于入门来说是没问题的，学完这些之后，你可以按照我上面的学习路线去网上找其他的知识资源进行进阶。

（3）100多个练手项目

我们在看视频学习的时候，不能光动眼动脑不动手，比较科学的学习方法是在理解之后运用它们，这时候练手项目就很适合了，只是里面的项目比较多，水平也是参差不齐，大家可以挑自己能做的项目去练练。

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

需要这份系统化的资料的朋友，可以添加V获取：vip1024c （备注python）

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！
的朋友，可以添加V获取：vip1024c （备注python）**
[外链图片转存中…(img-82bMwjnH-1713153617031)]

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！