AI小匠-CSDN博客

原创生成式人工智能工程师认证，感觉可以拿下

最近听说百度智能云推出了“生成式人工智能工程师认证”，我还挺感兴趣的。作为一个在AIGC领域打拼的人，大家都知道，大模型这些年是真的火，从ChatGPT到各类国内外的大模型，感觉不学点东西就要被行业甩下了。所以听到有这么个认证，我第一反应是——这是不是个不错的学习机会？

2024-10-15 19:27:35 207

原创 prompt提示词调优工具介绍-chainforge

在人工智能和自然语言处理领域,大型语言模型(LLM)的兴起为各行各业带来了巨大变革。然而,如何有效地评估和优化这些模型的输出一直是一个挑战。为了解决这个问题,来自哈佛大学人机交互实验室的研究人员开发了[ChainForge](https://chainforge.ai/) - 一个开源的可视化工具包，旨在简化提示词工程及评估测试的过程。

2024-09-12 20:58:12 862

原创利用开源大模型Codeformer 进行老旧照片修复

CodeFormer 是一款强大的照片修复工具，可以修复各种照片损伤，例如划痕、污渍、撕裂等。本指南将介绍 CodeFormer 的在线使用、部署和本地使用。

2024-09-05 21:18:23 1114

原创 prompt提示词调优工具介绍-promptfoo

promptfoo是一款开源的prompt调优工具,今天我们来介绍如何使用promptfoo来调试百度千帆大模型。

2024-09-05 15:44:26 612

2024 年 7 月 24 日，Meta 宣布推出迄今为止最强大的开源模型——Llama 3.1 405B，Llama 3.1 405B 支持上下文长度为 128K Tokens，增加了对八种语言的支持，号称第一个在常识、可操纵性、数学、工具使用和多语言翻译方面与顶级人工智能模型相媲美的模型。当然 405B 新一代大模型所需要的算力成本也是巨大的，一般的中小型企业和个人需要慎重评估一下成本与产出是否值得应用。

2024-07-29 18:50:58 1085

原创云上部署文生图大模型Stable Diffusion 3

随着人工智能技术的不断进步，越来越多的人开始关注和使用AI艺术生成工具。而Stable Diffusion 3作为最新一代的文生图大模型，于2024年6月12日正式开源，以其高质量的图像生成受到了广泛欢迎。那么，如何快速部署Stable Diffusion 3，让它成为您的专属AI艺术家呢？请跟随本文，在百度智能云GPU服务器上部署Stable Diffusion 3。

2024-07-18 17:46:09 669

原创基于 RAG 实现大模型商品智能检索

为了让检索更人性化，我们可以借助 RAG 技术，在传统分词搜索的基础上融入向量检索的能力，从而获得更贴近人类需求的检索效果。

2024-06-19 19:01:30 765

转载【转载】大模型增值服务：赋能客户，推动AI应用创新

在激烈的市场竞争中，百度智能云始终致力于为客户提供卓越的服务，助力客户实现业务增长。为了帮助客户迅速实现AI原生应用的创新和业务收益的转化，百度智能云现已推出大模型增值服务，这是一项涵盖从大模型能力探索到应用价值创造的全方位服务，涵盖大模型建设咨询、场景设计、效果调优、应用定制、效果运营和技术培训等一站式解决方案。

2024-06-06 18:41:13 82

原创基于AppBuilder自定义组件开发大模型应用

本文教你如何使用千帆大模型AppBuilder自定义组件功能，调用地图接口，快速实现周边信息查询和推荐功能

2024-05-29 18:32:50 2132 1

原创面向大模型编程：JavaScript+Nginx实现AppBuilder API调用

使用百度千帆AppBuilder发布的大模型应用API，如何通过JavaScript调用，如何通过Nginx解决跨域问题，快进来看看吧。

2024-05-22 12:08:19 482 1

原创基于AppBuilder打造经典武侠冒险游戏

我们的游戏应用是基于百度智能云千帆 AppBuilder（以下简称AppBuilder）搭建起来的，AppBuilder 是基于大模型搭建AI原生应用的工作台，提供 RAG、Agent、GBI等应用框架，文档问答、表格问答、对话、创作等应用组件，以及文生图、语音等传统AI组件，降低AI原生应用的开发门槛，赋能开发者快速实现应用搭建！

2024-05-14 14:41:06 798 1

原创基于Ernie-Bot打造语音对话功能

GPT-4的语音对话功能前段时间在网上火了一把，许多人被其强大的自然语言处理能力和流畅的语音交互所吸引。现在，让我们来看看如何使用类似的技术，即基于百度的ERNIE-Bot，来打造自己的语音对话功能。ERNIE-Bot是一种先进的语言理解模型，可以处理复杂的语言任务，包括语音到文本的转换和自然语言理解。

2024-05-14 12:39:57 945 2

原创 Mermaid绘图大师：大模型让图表创作变得触手可及

在快节奏的工作环境中，Mermaid绘图大师是您的得力助手。它是一款基于AppBuilder Agent应用框架开发的智能工具，专为将自然语言转换为Mermaid支持的精美可视化图表而设计。无论您需要思维导图、时序图、流程图还是甘特图，Mermaid绘图大师都能助您一臂之力，释放您的创造力，提升工作效率。

2024-05-12 20:42:00 1689

原创如何实现大模型流式请求+打字机效果

大模型推理是一个消耗大量计算资源，耗时较长的一个过程，在实际业务中让大模型写一篇小作文，经常要十几秒。为了降低终端用户体感等待的时长，大家都会开启流式，让大模型生成一部分内容后，就展示出来，从而提升客户的体验。想必大家也体验过各种各样的大模型对话应用，界面中大模型生成的内容都是一个字一个字往外蹦，效果就像"打字机"一样。这篇文章就是教会大家，如何快速实现这样一个"打字机"效果，不光可以体验实际效果，还附送前后端示例代码。python：基于fastapi发布路由，使用uvicorn创建HTTP服务。

2024-04-23 17:39:13 955

原创 “三板斧“解决大模型推理“慢“问题

要想理解和解决大模型服务推理“慢”的问题，首先要知道大模型的推理结果是怎么产生的。由上图可知，推理过程是不断地根据上文（robot must obey）来猜测下文最可能出现的token（orders），最后拼接而成。如果需要输出更长的结果，那么就需要不断地去根据上文推理下一个token，直到结束。所以影响大模型推理“慢”的主要原因是不同模型推理速度和输出长度。

2024-04-23 17:34:34 2898

weixin_46423102的博客