- 博客(10)
- 收藏
- 关注
RSS订阅
原创 DeepLn算力云：超具性价比的GPU租用体验，还~有~~谁~~?
你敢信，DeepLn算力云提供的优质GPU算力，竟然比一些高校的校内算力还便宜，真亮瞎了钛合金眼。
2024-03-26 15:37:36
952
2
原创 为什么说数据和算力一样，都是AI大模型的重要基座
以大语言模型为代表的人工智能迎来大爆发，称之为大模型狂潮也不为过。在这种浪潮下，海量的数据、超强的算力，以及持续迭代的算法，三者之间以类似“神经网络”的相互作用，产生了复杂的行为，催生出了一系列的明星AI模型。从这个意义上讲。“算力”和“数据”本来就是AI大模型中缺一不可的两大基石。
2024-04-24 21:24:17
147
原创 怎样用BitFit进行大模型高效微调——手把手DeepLn教程
参数高效微调是在对大型语言模型进行微调时的一种重要策略，它旨在改进模型性能的同时，尽量减少对额外参数的需求。通过冻结大部分参数，显存占用下降了5个G左右。训练时间由原来的50.53分钟降低到37.08分钟。
2024-04-23 15:17:20
2230
5
原创 怎样用int8减少GPU显存占用并提升效率——DeepLn算力云全程实操
将模型中的32位浮点数转换为8位整数。这种转换通过使用缩放因子（scale）和偏移量（offset）完成。不仅缩减了数据存储的空间，还能在推理时降低计算资源的消耗。
2024-04-17 18:37:27
1897
原创 GPU租用为什么优选DeepLn算力云？
A100和RTX8000都2元档白菜价，32G显存的V100做到了1元档，以使深度学习和数据科学变得更加触手可及。
2024-04-12 17:14:39
361
原创 白嫖大法好：DeepLn算力云百张GPU免费用？
百张NVIDIA TESLA P4专业运算卡免费用，相信他高达8G的GPU显存能满足大多数学生群体的训练需求。
2024-03-28 15:44:21
383
5
原创 想训练AI模型，实验室GPU显存不够怎么办
一般的高校实验室，的确是可能存在显存不足的情况，特别是全量训练或者微调时问题尤为突出。此时想让实验室新购置设备更是遥遥无期，估计开会还没讨论出结果，好多炼丹侠的deadline就到了。
2024-03-27 18:18:55
958
原创 使用Langchain,vLLM,FastAPI构建一个自托管的Qwen-7B-Chat
你是否希望可以通过一些流行的框架构建一个自己的llm(Large Language Model)系统，并将LLM投入生产？那么本文或许将符合你的要求。
2024-03-26 16:48:41
1853
6
原创 DeepLn算力云的便捷GPU租用是什么体验
主打超高算力、简单易用、高性价比，A100每卡时2.98元，4090每卡时1.98元，更有数十种优质算力可选，这么划算的云端算力，还不赶快来体验~
2024-03-26 15:56:28
508
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人