- 博客(3)
- 收藏
- 关注
原创 新的LLM极限压缩方法将AI部署成本降低8倍
在Yandex Research、IST Austria、Neural Magic和KAUST的共同努力下,两种创新的大型语言模型(LLM)压缩方法——加性量化语言模型(Additive Quantization for Language Models, AQLM)和PV-Tuning正式发布。这两种方法可以将模型大小减少多达8倍,同时保留95%的响应质量。这项研究成果已经于正在维也纳举行的国际机器学习会议(International Conference on Machine Learning, IC
2024-07-23 17:21:49
815
原创 Yandex 神经网络助力中国品牌在俄罗斯市场的广告本地化
Yandex Ads 是国际 IT 公司 Yandex 的一部分,是东欧和独联体地区领先的广告平台。Yandex Ads 提供了一个完整的营销系统,用于有效的营销、产品和服务的推广、网站和应用的广告变现,以及详细的应用分析和再定向解决方案。此外,它将帮助希望在俄罗斯开展广告活动的中国和国际品牌应对在广告本地化时面临的一些挑战。企业还将收到更多由神经网络生成的用于文本和图片广告的文本和图片。广告主可以选择适当的选项,生成新版本,或手动编辑任何生成的创意,以确保他们的广告尽可能准确和相关。的卖家创建产品描述。
2024-07-15 15:18:20
578
原创 Yandex 开源 LLM 训练工具节省高达 20% 的 GPU 资源
Yandex 推出了 YaFSDP,为一种更快、更高效的大型语言模型 (LLM) 训练方法。YaFSDP 最终提速达到 26%。这种 GPU 消耗的优化使开发人员和公司每月可以节省数十万美元。YaFSDP 是目前最有效的改善 GPU 通信、降低内存占用的方法。YaFSDP 方法可以在 Github 上免费访问,全球的机器学习(ML)工程师和公司都可以使用它来提高 LLM 的训练效率。
2024-06-11 17:24:24
1072
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人