主要通过LMDeploy 完成 InternLM-XComposer2-VL-1.8B 的部署,其目标主要是使用LMDeploy 结合Gradio 来实现页面集成和服务推送,这一块没有太多地技术含量,使用脚本文件来配置 Streamlit Web Demo 实现部署 InternLM2-Chat-1.8B 模型,以及 InternLM-XComposer2-VL-1.8B模型。
总体来说这两个模型,能力还是比较弱的,经常出现搞怪和无法预测的问题,这是一个试验性质的模型,在此主要展现其模型部署的步骤;
1. InternLM2-Chat-1.8B 模型部署
这个回答正确了,但是解释有一点点小问题哦,回答的内容基本都是套圈话,没有什么实质的内容,这说明其模型参数和训练token数量不够的原因,仅仅是个demo哈;
2. InternLM-XComposer2-VL-1.8B模型对比
在此,正值奥运会期间潘展乐的新闻图片来输入给模型,判断其理解能力,并拿书生模型和Kimi做了一个对比,由于书生模型相对来说还是较小,内容理解方面稍有欠缺
书生模型回答相对偏套圈话一些,对图片内容要素捕捉能力不太够。
Kimi回答,在多模态图像方面首先对图片内容要素的理解更全面,另外更能体现instruction的回应和理解,最后能够理解背后的体育精神,确实Moonshot商业化的大模型能力不是盖的,还是要追赶哦