爬虫 rnn:做了一天
注意这个loss的第一个pre 是一个二维到三维的转换:
tag_pre: batch_size*max_len*class_num ->(batch_size*max_len)*class_num
batch_tag_id:batch_size*max_len -> 一维
我现在开始复现bert:
bert伸手就能用,上手就能复现的人,我觉得研一未必有很多耶。
预训练的数据:是大量的;是不需要人工标注的
鱼书:
回家看深度学习 或者做点算法
爬虫 rnn:做了一天
注意这个loss的第一个pre 是一个二维到三维的转换:
tag_pre: batch_size*max_len*class_num ->(batch_size*max_len)*class_num
batch_tag_id:batch_size*max_len -> 一维
我现在开始复现bert:
bert伸手就能用,上手就能复现的人,我觉得研一未必有很多耶。
预训练的数据:是大量的;是不需要人工标注的
鱼书:
回家看深度学习 或者做点算法