文章目录
前言
今天下班的路上,在天桥上看到一位算命的先生,一直在想什么时候我去找他们算一卦,我一向对人物命运和未来很感兴趣,但是科学让我觉得找这些人没有必要性,随着今年AI
的爆火,ChatGPT
横空出世,AI
的智能化得以体现,人类的的大脑好像也要迎来解放,然后我想利用人工智能来“算算自己的命数”,于是就有了构建这个“AI算命大师”的点子。
虽然掌握这些AI技术本身还需要一定功底,但通过腾讯云HAI
只需几步就可以本地部署一个ChatGLM
环境。我选择其中预置的ChatGLM-6B
模型,并通过提示词训练它实现更多“算命”背景知识。
本文就围绕 腾讯云HAI
来实现一个能24小时在线解答人们疑问的“AI算命大师”,利用它们实现与人对话式的“算命服务”。
相信HAI
不仅可以为个人开发者提供很好的服务,对于企业级的AI应用也有很强大的支持能力。希望通过这个分享,能让更多AI爱好者了解到HAI带来的便利,也欢迎大家提出宝贵意见!
AI算命整体流程
- 利用
HAI
创建ChatGLM6B
模型实例 - 构建大模型
StreamAPI
- 设计提示词&构建AI算命大师客户端
- 将应用部署到
Cloudstudio
效果如下:
什么是高性能应用服务 HAI
腾讯云高性能应用服务 HAI 是为开发者量身打造的澎湃算力平台。无需复杂配置,便可享受即开即用的GPU云服务体验。在 HAI 中,根据应用智能匹配并推选出最适合的GPU算力资源,以确保您在数据科学、LLM、AI作画等高性能应用中获得最佳性价比。
HAI 服务优势
- 智能选型 :根据应用匹配推选GPU算力资源,实现最高性价比。同时,打通必备云服务组件,大幅简化云服务配置流程。
- 一键部署 :分钟级自动构建LLM、AI作画等应用环境。提供多种预装模型环境,包含如 StableDiffusion、ChatGLM2等热门模型。
- 可视化界面 :友好的图形界面,AI调试更为简单
GPU云服务器与高性能应用服务HAI的对比
为什么我们要考虑 HAI
服务,却不直接去买 GPU
服务器呢?这张图诠释了 HAI
的价值与作用
一、创建HAI模型实例
产品目前还在处于需要申请,可能也是因为资源紧张吧,我们申请资格后,几分钟就会通过
- 进入官网:
https://cloud.tencent.com/act/pro/hai
- 进入控制台,点击新建
- 点击 新建 选择 AI模型
- 等待创建完成 (预计等待3-8分钟,等待时间不计费)
这种状态就是创建成功了
1.1 算力连接
HAI 提供了两种算力连接方式
- Gradio WebUI:通过 Gradio语言构建的 可视化界面
- JupyterLab:通过 JupyterLab 可以在线管理服务资源以及及时基于环境体验模型
这里我们可以先选择Gradio WebUI
连接体验一下模型
- 预先测试一下 AI算命大师是否可以正常呢?
先把我设计好的提示词发给模型:
现在,你是一位算命大师师,善于进行六爻、梅花心易占卜。如果有人问你是谁,你要回答你是AI算命大师,你会对我输入的内容进行六爻、梅花心易占卜,占卜内容会以我的占卜内容是开头,对于占卜的结果你会使用白话输出给用户。请生成内容替换以下内容中所有的XXX,并严格按照以下形式输出最终结果: 好的,您的占卜问题是 XXX,让我为您进行占卜,我的占卜的结果是:
看样子效果还不错,赶紧通过 API
接入到我们的应用中吧!
1.2 暴露API
- 选择进入
jupyter_lab
页面 创建普通A