秒变 AI 工程师！GitHub 发布 Models，点几下就能试用各种大模型

整理 | 屠敏

出品 | CSDN（ID：CSDNnews）

「只要拥有合适的工具和适当培训，每位开发者都可以成为 AI 工程师」，GitHub 如是说道。

然而，什么样的工具才是合适的？面对市场上百花齐放的 AI 大模型，日常工作中该如何选用？对于一些开源和封闭的模型，它们的使用门槛又该如何降低？

就在今天，GitHub 宣布推出一款名为 GitHub Models 的新服务，允许开发者免费查找和试用 AI 模型。

借此，GitHub 希望通过 GitHub Models 推动 AI 工程师的崛起——将业界领先的大型和小型语言模型的强大功能直接在 GitHub 上带给其超过 1 亿的用户。

GitHub Models：允许开发者免费查找、试用各种 AI 模型

在发布时，GitHub Models 将提供对各种大小流行模型的访问权限，包括 Meta 的 Llama 3.1、OpenAI 的 GPT-4o 和 GPT-4o mini、微软的 Phi 3、Mistral AI 的 Mistral Large 2 等等。

开发者可以通过内置 PlayGround 访问、部署每个模型，由此在 GitHub 中免费测试不同的 Prompt 和模型参数，此外，也可以直接将模型带入到 GitHub Codespaces、Visual Studio Code 等开发者环境中。

不过，PlayGround 和免费 API 的使用受每分钟请求数、每天请求数、每个请求的 token 数和并发请求数的限制。个人每天限制 150 次，每分钟不能超过 15 次，每次 token 有上限：输入为 8000，输出为 4000。

测试并比较不同的模型

GitHub CEO Thomas Dohmke 表示：“越来越多的开发者正在构建生成式 AI 应用程序，其中完整堆栈包括后端和前端代码，以及一个或多个模型。但很大一部分开发人员仍然无法轻松访问开放和封闭模型。这种情况今天发生了变化。”

举个例子，开发者正在开发一款 AI 应用程序，他们也可能有兴趣了解市面上的大模型，思考他们的应用程序如何能够利用合适的大模型来完善功能、提升效率等等，但他们却不知道到底要使用哪些模型，毕竟每种模型的功能、性能和成本均有所不同，譬如，Mistral 大模型有低延迟性，而 GPT-4o 则擅长构建可能需要实时音频、视觉和文本的多模式应用程序。

时下，基于 GitHub Models，开发者可以尝试集成不同的模型，例如检索增强生成（RAG），它使用实时可信数据来增强提示以提高人工智能响应的准确性，或者在下一阶段的开发之前测试护栏和其他调整的有效性。

相较而言，过往，开发者在本地机器上运行大模型时，可能受限于算力、内存等，GitHub 表示，借助 Codespaces，大家可以先试验模型推理代码，然后再把它放到自己的项目中。借助各种语言和各种框架的示例代码，你可以尝试各种场景，而不会遇到“在我的计算机上运行”的问题。

Thomas Dohmke 表示，「对于我们大多数人来说，学习成为一名开发人员并不是在课堂上一蹴而就的。这需要练习、玩耍和通过实验学习。如今，人工智能模型也是如此。在新的交互式模型 PlayGround 中，学生、业余爱好者、初创公司等只需单击几下并按几下键，即可探索 Meta、Mistral、Azure OpenAI Service、微软和其他公司最受欢迎的私有和开放模型。你可以在管理源代码的地方试验、比较、测试和部署人工智能应用程序。」

为了打消开发者在使用 GitHub Models 时的安全顾虑，GitHub 还强调，Models 中的任何 Prompt 或者输出内容都不会与模型提供商共享，也不会用于训练或改进模型。

Dohmke 补充道：“现在有了 GitHub Models，超过 1 亿开发人员可以访问和试验新的 AI 模型，他们已经在 GitHub 上直接管理他们的源代码、问题、拉取请求、工作流和存储库。”

除了上述提到的几个模型之外，未来几个月，GitHub 还将陆续增加更多语言和视觉模型。目前，这项功能处于有限公开测试中，试用地址：https://gh.io/models

更多详情见官方公告：https://github.blog/news-insights/product-news/introducing-github-models/

推荐阅读：

▶求购价200美元？罗技欲推出“永久鼠标”，遭网友群嘲：我30年前的鼠标还能再战

▶太贵了！Oracle让Java SE按“人头收费”的550天后，最新报告：86%的人想弃用

▶QQ 客户端性能稳定性防劣化系统 Hodor 技术方案