【书生·浦语】大模型实战营——第二课作业

githubID：horacehht

基础作业

1、使用InternLM-Chat-7B模型生成300字的小故事

使用以下代码启动命令行版本的demo

python /root/code/InternLM/cli_demo.py

输入Prompt为：我现在有点不开心，你能讲一个300字以上的童话故事给我听吗？最好故事结尾比较温馨，让人心头一暖，感受到世界的爱。
生成的小故事如下：

2、熟悉hugging face下载功能，使用huggingface_hub包，下载InternLM-20B的config.json文件到本地

首先下载huggingface_hub包
然后把下载文件的代码写到download.py文件中

直接执行python download.py会报错proxy error，万恶的网络。

看了一下聊天群里班长发过的hf-mirror网站，通过网站中的方案三成功解决了这个问题。

成功下载截图如下：

个人感觉就是把hf默认下载的源给换成国内的镜像源网站了，HF_ENDPOINT是hf会调用的系统变量（？不确定）。

进阶作业（可选做）

1、完成浦语·灵笔的图文理解及创作部署

在终端运行以下代码：

cd /root/code/InternLM-XComposer
python examples/web_demo.py  \
    --folder /root/model/Shanghai_AI_Laboratory/internlm-xcomposer-7b \
    --num_gpus 1 \
    --port 6006

这个的等待时间比较久，需要耐心等待到有文字提示"Running on local URL: http://0.0.0.0:6006"后，你才能在本地ssh连接后在本地浏览器看到。不然提前操作都是没有用的。

在网页版demo输入”东汉末年分三国“

可以看看终端的输出：


我们可以从终端的输出看到，他是从根据关键词在网上搜索插图，放到文章里的。
点击旁边的edit，可以更换图片，同时也可以看到模型搜图的prompt。

有些地方本身没有图片，但是旁边也有加号，也可以添加图片。
比如这里：

这是我点击加号后，终端的输出：

2、完成Lagent工具调用Demo创作部署

demo运行部署

问了2x+8=10，让他求x=多少，以下是一个示例（等待过程稍微优点漫长）
我们在终端也可以看到相关日志信息：

输入一个一元二次方程，也能得到正确的答案。

问气温这个需求无法做到，看起来没办法做搜索。