大模型日报2024-05-02

大模型日报

 

2024-05-02

 

大模型资讯

 

1. 微软推出轻量级AI语言模型Phi-3-mini

 

• 摘要: 微软最近推出了一款名为Phi-3-mini的新型AI语言模型。这款模型相较于其他同类产品更为轻便，并且向用户免费提供。Phi-3-mini的推出标志着微软在人工智能领域的持续创新和技术进步，旨在为开发者和研究人员提供更高效的工具，以便更好地开发和集成语言处理功能。

 

1. Cohere发布AI研究：使用大型语言模型评估小组（PoLL）进行模型评估

 

• 摘要: 近期，Cohere的AI研究讨论了如何使用一个大型语言模型评估员小组（PoLL）来评估大型语言模型（LLMs）。由于缺乏充分的数据来彻底验证这些模型，该研究旨在通过PoLL提供更深入的模型评估方法，以应对LLMs飞速发展中的挑战。

 

1. 探索大型语言模型参数高效微调策略

 

• 摘要: 大型语言模型（LLMs）在许多应用领域取得了革命性的进展，推动了各种任务的显著成就。研究人员正专注于探索如何更高效地微调这些模型的参数，以便在保持性能的同时降低计算成本和资源消耗。

 

1. 大型语言模型助力揭示调控睡眠与活动的分子特征

 

• 摘要: 研究表明，睡眠、运动和社交活动是动物行为中至关重要的部分。最新的科学进展中，大型语言模型被用于发现调控这些行为的分子签名。这些分子签名的发现有助于理解睡眠、运动和社交活动之间的相互关系以及它们的生物学机制。

 

1. Google推出Gecko文本嵌入模型以提升性能

 

• 摘要: Google新推出的Gecko文本嵌入模型，旨在通过从大型语言模型中提炼知识，构建一个通用的高效能模型。这一过程称为知识蒸馏，有助于改善模型性能，同时优化其在不同任务中的应用效果。

 

1. 微软发布新型大型语言模型Phi3的实施与测试方法

 

• 摘要: 本文讨论了微软新发布的Phi3大型语言模型（LLM），这是一种功能强大的模型，能够执行多种任务。文章将探讨如何实施和测试Phi3，以便了解其在各种应用场景中的表现和潜力。

 

1. WebAssembly助力大型语言模型快速运行

 

• 摘要: WebAssembly技术使得在没有复杂设置的情况下快速下载并运行大型语言模型（LLM）成为可能。这一技术的应用，让在各种机器上部署和执行LLM变得更加便捷，进一步推动了语言模型和Kubernetes等技术的结合与发展。

 

1. 亚马逊数十亿投资的AI公司Anthropic成为关键玩家

 

• 摘要: 被亚马逊等大型科技企业支持的人工智能公司Anthropic近期崭露头角，成为AI领域的关键参与者。这家初创公司最近推出了自己的一系列AI产品，显示出其在人工智能行业的竞争力和潜力。亚马逊对Anthropic的巨额投资表明了对其技术和市场前景的高度看好。

 

1. PKSHA与微软日本合作开发日英大型语言模型

 

• 摘要: PKSHA Technology与微软日本联手，共同开发一款日英大型语言模型（LLM）。该模型将采用Retentive Network（RetNet）技术，旨在提升机器翻译和自然语言处理的能力，以促进两种语言间的更流畅交流。

 

1. Kogo AI即将推出新型大型动作模型（LAM）

 

• 摘要: 印度的Kogo AI宣布即将推出一种新型的人工智能模型——大型动作模型（LAM）。这种模型不仅能够理解语言，还能执行操作，是对现有的大型语言模型（LLM）如ChatGPT的补充。LLM擅长根据输入提示生成类似人类的文本，而LAM在此基础上增加了执行特定任务的能力。

 

大模型产品

 

大模型论文

 

1. 视觉事实检查器：高保真图文生成

 

• 摘要: 提出视觉事实检查器（VFC），一种无需训练的管道，用于生成2D图像和3D对象的高保真详细标题。VFC包括三个步骤：提案、验证和标注，通过结合开源模型，实现了与专有模型如GPT-4V相媲美的标注能力。

 

1. PrivComp-KG：隐私政策合规验证

 

• 摘要: 本文提出了PrivComp-KG，一个基于大型语言模型和语义网的隐私政策合规验证方法。通过构建知识图谱，结合领域知识，实现了对组织隐私政策与法规要求的精确解读和合规性检查。

 

1. 多标签预测提升大型语言模型效能

 

• 摘要: 本研究提出通过多标签预测训练语言模型，提高样本效率，加速推理过程，且在多个任务上性能优于单标签模型。

 

1. 利用游戏优化知识图谱框架

 

• 摘要: 本研究提出了GAME-KG框架，通过视频游戏中的众包反馈来改进知识图谱（KG）的显式和隐式连接，以提高其准确性和可解释性。

 

1. PANGeA: 游戏中的生成式AI叙事

 

• 摘要: 本研究提出PANGeA框架，利用大型语言模型为回合制RPG游戏生成叙事内容。通过设计师设定的高层标准，PANGeA创新性地生成具有个性特征的NPC和环境互动，同时通过服务器的自定义记忆系统保证叙事一致性。

 

1. 评估LLMs在恶意代码去混淆中的效能

 

• 摘要: 本文研究了大型语言模型（LLMs）在恶意软件去混淆中的应用，特别是针对臭名昭著的Emotet恶意软件活动中使用的实际恶意脚本，发现经过微调的LLMs在这一领域具有潜力。

 

1. AI生成高质量医学模拟场景

 

• 摘要: 本研究通过结合半结构化数据与大型语言模型，如OpenAI的ChatGPT3.5，创新性地提出了一种自动化生成医学模拟场景的框架。这一方法显著提高了场景开发的效率，改善了医学教育的灵活性和效果。

 

1. 教LLMs有效利用信息检索

 

• 摘要: 本文展示了大型语言模型（LLMs）如何学会在回答问题需要额外上下文时，有效使用现成的信息检索（IR）系统。通过特定训练，LLMs能生成特殊标记<RET>，以示需要IR介入，提升了问题回答的准确性。

 

1. 基于语言正则化的3D视觉定位

 

• 摘要: 本文提出了一种语言正则化概念学习器（LARC），利用语言约束作为正则化手段，显著提高自然监督环境下3D场景与问答对学习的准确性。研究表明，LARC在3D视觉推理能力上具有优势，包括零样本组合、数据高效性及迁移能力。

 

1. 训练神经网络解释二进制代码

 

• 摘要: 本研究探索了训练深度神经网络以理解二进制代码的可能性。通过构建包含110万条记录的Stack Overflow数据集，并提出一种新的数据集评估方法——嵌入距离相关性（EDC）测试，用于衡量输入和输出嵌入空间的距离相关性，验证数据集质量。

 

大模型开源项目

 

1. Hydra游戏启动器与BT客户端

 

• 摘要: Hydra是一款集成了自己的BT客户端和自管理重打包抓取器的游戏启动器。该项目使用TypeScript语言编写，提供便捷的游戏管理和下载功能。

 

1. yangshun: 忙碌软件工程师面试宝典

 

• 摘要: yangshun项目提供精选的编程面试准备资料，专为忙碌的软件工程师设计。该项目使用TypeScript语言编写，旨在帮助用户高效准备面试。

 

1. Lobe Chat：多AI支持的开源聊天框架

 

• 摘要: Lobe Chat是一个开源聊天框架，支持多个AI提供商，包括OpenAI、Claude 3等。支持多模态交互，具备插件系统，可一键部署私有的ChatGPT应用。使用TypeScript编写。

 

1. mlabonne：优质LLM微调资源

 

• 摘要: mlabonne项目提供高品质数据集、工具及概念，专门用于大型语言模型（LLM）的微调工作，旨在提升模型性能和应用效果。

 

1. JackAILab：定制一致性人类ID

 

• 摘要: JackAILab是一个Github热门AI项目，旨在为人类创建定制化的一致性身份标识。该项目使用Python语言编写，通过算法为用户生成独特的身份识别码。

 

1. 中文羊驼大模型三期项目发布

 

• 摘要: 中文羊驼大模型三期（Chinese Llama-3 LLMs）项目，基于Meta Llama 3开发，使用Python语言编写。该项目旨在推进中文大型语言模型的研究与应用。

 

1. Perplexica：开源AI搜索引擎

 

• 摘要: ItzCrazyKns项目推出Perplexica，一款用TypeScript编写的AI搜索引擎。它是对Perplexity AI的开源替代品，旨在提供更自由的搜索服务。

 

1. lm-sys：大型语言模型开放平台

 

• 摘要: lm-sys是一个用Python编写的开源项目，致力于大型语言模型的训练、服务和评估。项目包括Vicuna和Chatbot Arena的发布仓库。