我们在GPT-4发布会上曾经见识过它的多模态功能,简直惊掉下巴,尤其是它可以通过一张图上简洁的草稿,做出一个网站!
昨天,让我们能够提前感受GPT4的多模态模型功能的迷你GPT4开源了。这个项目由阿卜杜拉国王科技大学的几位博士开发,它提供了类似GPT4的图像解析和对话能力。
那么,它的能力如何呢?我们先来看看官方的视频,
它可以轻松识别一片叶子上的斑点,就此判断出这片叶子生病了,还给出了解决方案
它能看出这张仙人掌图片上的内容不会发生在真实世界,因为仙人掌不会生长在这么冰冷的地方,
它可以为图中的产品写广告词,
还可以看图写美食的烹饪方法。
等等,它还可以通过这几行字去完成一个网站吗?太厉害啦,我一定要试试!
打开Demo页
这里上传图片,小瑞传了一张由midjourney画的挺恐怖的图片。
这里你要写出指令,让它干点什么。比如描述这张图,或者就这张图的内容进行提问等等。
在漫长的等待后,它描述出了这张图片的内容。
大部分内容是准确的,不过白衬衫和蓝色牛仔裤?一会儿你会发现它对人类的着装确实不在航。
它也可以说中文。
之后小瑞又让它就这张图片写一个精彩的恐怖故事,它也写了一个,它每次可以输出的字符很短,不过也支持继续指令。故事呢因为有ChatGPT的模型基础,所以是差不多的风格啦。
小瑞还找了一幅解读起来可能会比较有难度的的作品给它。看看它的描述词。
......
MiniGPT-4:
https://github.com/Vision-CAIR/MiniGPT-4
https://minigpt-4.github.io/