跑通大模型领域的 hello world,轻松玩转书生·浦语大模型的 3 个趣味 demo(InternLM-Chat-7B 智能对话、Lagent工具调用解简单数学题、浦语·灵笔多模态图文创作和理解)
视频:https://www.bilibili.com/video/BV1Ci4y1z72H/
本课程文字版本在以下链接。视频主要是实际操作。
https://github.com/InternLM/tutorial/blob/main/helloworld/hello_world.md
本次课程作业如下:
一、配置进行开发的机子。配置免密登录,使用vs code进行连接。
点击ssh连接可以看到端口号和域名地址。填写进vs code配置文件。即可登录。
二、使用 InternLM-Chat-7B 模型生成 300 字的小故事
配完一圈环境,回来改这个的路径。这代码正常不改也能跑。不过现在这代码国内连不上hugginface,所以最好还得自己先把权重啥的从hugginface上下载下来,然后修改这里路径。
常规语言模型的发挥吧。所以还是需要点知识库进行支撑的。
web demo.py运行:
streamlit run web_demo.py --server.address 127.0.0.1 --server.port 6006
学到使用streamlit。后面自己的算法展示也可以用。
vs code就这点好,会自动进行端口映射。直接本机能打开网页。
生成300字的故事:
三、使用hugginface工具下载权重:
运行了,但是下不下载成功,国内环境。dddd。
四、尝试Lagent 智能体工具调用 Demo
streamlit run /root/code/lagent/examples/react_web_demo.py --server.address 127.0.0.1 --server.port 6006
后面再更新吧...家里网太慢,直接刷不出网页了。。。