ffllyy2019-CSDN博客

原创 NLP-文本张量表示

三种常用文本张量one-hot编码又称独热编码，将每个词表示成具有n个元素的向量，这个词向量中只有一个元素是1，其他元素都是0from sklearn.externals import joblibfrom keras.preprocessing.text import Tokenizer# 例如：vocab = {'苹果'， '菠萝'}t = Tokenizer(num_words=None, char_level=False)t.fit_on_texts(vocab)for

2021-06-03 10:30:36 221

原创详细分解Transformer各部件总结

Transformer的介绍Transformer的优势# 1. Transformer能够利用分布式GPU进行并行训练，提升模型训练效率# 2. 在分析预测更长文本时，捕捉间隔较长的语义关联效果更好，作用：基于seq2seq架构的transformer模型可以完成NLP领域研究的典型任务，如机器翻译，文本生成等，同时又可以构建预训练语言模型，用于其他任务Transformer架构输入部分源文本嵌入层及其位置编码器文本嵌入（Embedding）作用：无论源

2021-05-31 15:07:17 584

原创模型训练加速方法

模型训练加速方法学习率设置lr = 0.00125*num_gpu*samples_per_gpu数据读取加速data prefetch (Nvidia Apex中提供的解决方案) # pip install prefetch_generator from torch.utils.data import DataLoader from prefetch_generator import BackgroundGenerator # 使用DataLoade

2021-05-31 09:19:09 613

原创各种IOU-loss的计算方式及python实现

1.IOU代码地址：https://arxiv.org/pdf/1608.01471.pdfIOU 的全称为交并比（Intersection over Union）， IOU 计算的是 “预测的边框” 和 “真实的边框” 的交集和并集的比值。首次提出主要解决人脸检测问题，IOU有尺度不变性的优点，但是将其作为损失函数，由于存在真实值与预测值IOU为0情况，网络无法训练，所以无法直接使用。def IOU(box1, box2): """ iou loss :param bo

2021-05-29 21:33:48 3121 3

原创 python实用小技巧

检查重复元素def all_unique(lst): return len(lst) == len(set(lst))变位词# 检测两个字符串是否为变位词from collections import Counterdef anagram(first, second): return Counter(first) == Counter(second)检查内存使用情况import sysvariable = 30print(sys.gets..

2021-05-29 19:07:06 104

原创刷题（二）

# 描述：""" 给你一个只由字母’a’和’b’组成的字符串s，找一个最长的子串，要求这个子串里面’a’和’b’的数目相等，输出该子串的长度。这个子串可以为空。s的长度n满足 2<=n<=1000000。"""# 暴力解法class Solution: def get_len(string): str_len = len(string) for i in range((str_len//2)*2, 0, -2): cou

2021-05-29 18:55:54 51

原创部署必备之Docker

1.Docker概述打包项目+环境 -> docker仓库 --> 下载镜像 --> 直接运行官网： https://www.docker.com/文档： https://docs.docker.com/仓库： https://hub.docker.com/docker安装卸载旧版本sudo apt-get remove docker docker-engine docker.io containerd runcsudo apt-get updates

2021-05-29 18:53:07 78

原创刷题（一）

没事写两题，练练思维运算技巧N*2+1 --> N<<1|1L+(R-L)/2 --> L+((R-L)>>1)6^7 异或运算链表链表反转# 单链表class Node: def __init__(self, x): self.value = x self.next = None# 双链表class DoubleNode: def __init__(self, x): s

2021-05-29 10:56:36 45

原创了解CUDA计算（一）

CUDA高性能计算矩阵计算基础矩阵计算的内积视角将A视为行向量矩阵，B视为列向量矩阵 ;行向量视角并行计算理论数据并行（多核多进程）data parallelism任务并行（多核多进程）task parallelismCPU和GPU体系结构差异...

2021-05-29 10:49:12 554

原创贷款违约预测--赛题理解

比赛连接https://tianchi.aliyun.com/competition/entrance/531830/introduction赛题数据：贷款数据记录介绍赛题目标评分体系解题思路

2020-09-15 23:01:07 423

原创论文简读（二）

论文：https://arxiv.org/pdf/1409.4842.pdfinception v1流程- 整体框架- 论文的目的- 论文中的创新点- keras代码实现整体框架inception模块的设计该论文加入inception模块，（b）相比于（a）来说，在3x3h和5x5的卷积前加入了1x1的卷积用来降维，也就是减少channel数，这样大大减少计算量。为什么要这样设计呢？因为inception v1之前的网络都是一条路走到黑，通过加深网络来提高准确率，但这样大大增加了计.

2020-06-27 00:02:00 160

原创 CV之路——opencv基本操作

目的分享学习心得，从实操中学习图像的前处理。代码直接跑，什么都不用改，如果网址失效，直接换网址即可。库- imageio==2.6.0 用来读取网址图片- cv2==3.2.14 图像操作- numpy==1.19.0获取图片import imageio # 可以从网址中读取图片的库 --> pip install imageioimport cv2file_path = "http://img.mp.itc.cn/upload/20170206/3cbd5b8834df4

2020-06-25 12:48:54 307

原创论文简读（一）

Alexnet:CNN论文简略解读—> 论文.pdf流程Alexnet框架是什么论文的创新点是什么这些创新点的优势是什么得出的结论是什么keras代码实现框架创新点relu激活函数的提出局部归一化normlizational的使用Dropout的使用数据增强全新的界面设计，将会带来全新的写作体验；在创作中心设置你喜爱的代码高亮样式，Markdown 将代码片显示选择的高亮样式进行展示；增加了图片拖拽功能，你可以将本地的图片直接拖拽到编辑区域直接展示；

2020-06-19 17:30:34 155

原创 CV之路 —— Opencv学习

初识Opencv配置环境视觉系统开场白常用操作1结束语配置环境Ubuntu18.04下安装Miniconda，使用pip install opencv-python和opencv-contrib-python，具体安装步骤请参考：opencv与miniconda安装链接视觉系统首先我们要了解视觉的系统的构成，而我们接下来要做的只是其中的算法软件部分。开场白import cv2# 图...

2020-04-02 11:24:16 235

ffllyy2019的博客