- 博客(7)
- 收藏
- 关注
原创 Mysql局域网内连接
因为项目的需要,需要在hpc上使用mysql。作为数据库菜鸡,只能集百家之长实现安装mysql并在对应的gpu节点上连接跳板机的server。
2024-04-21 14:54:08 160
原创 LLM的batch generate
在使用MLLM做推理的时候,为了加快推理速度,在batchsize=8的情况下进行推理,但生成的文本成乱码。发现是padding_side的问题,decoder-only的LLM因为是紧接着prompt的文本生成,padding_side应该取left。而encoder-decoder的模型是在encoder编码的向量输入下生成,因此padding_side应该取right。注意padding_side取left。
2024-03-17 10:01:25 147 1
原创 tensor a (32000) must match the size of tensor b (32001)
参考:RuntimeError: The size of tensor a (32000) must match the size of tensor b (32001) at non-singleton dimension 0 · Issue #132 · Vision-CAIR/MiniGPT-4 · GitHub。这个bug是由于fastchat 版本不兼容vicuna-delta-v0。可换vicuna-delta-v1.1或。
2024-03-15 22:47:48 149 1
原创 哈工大2023模式识别与深度学习期末
给出先验概率和条件概率密度进行计算。记住区分离散和连续。参数会改,不要照抄ppt见下图)]ppt上有笑拉了,考完这个试没几天,21电信就有个学生考电磁场作弊被导员逮住了。结合模式识别实验考察,还是要熟悉ppt。对于深度学习部分,典型的网络模型一定要多看看博客。同时,往年题也可以作为参考内容。23年就有两三个题和往年差不多。
2023-06-17 17:24:31 688 1
原创 程序人生-Hello‘s P2P
[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-7VhcuysH-1652883577225)(media/6adc987e0270ab8ce90ba4fe6207a880.jpeg)]计算机系统大作业题 目 程序人生-Hello’s P2P专 业 计算机类学 号 120L021329班 级 2003011学 生 蒋世鑫指 导 教 师 郑贵滨计算机科学与技术学院2022年5月摘 要本论文将CSAPP课程所学内容通过hello小程序的一生,对我们所学进行全
2022-05-18 22:20:38 226
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人