最终我们采用在服务器端部署大模型,使用ssh端口转发,本地连接后能够直接访问大模型网站。
在这种情况下,前端样式由webdemo决定,使用Streamlit快速构建前端页面。
Streamlit是一个开源的Python库,它被设计为快速创建和共享数据应用。它非常适合数据科学家和工程师,可以用于创建机器学习模型的可视化界面、数据分析工具或做成简单的Web应用程序。
Streamlit的优势在于其轻量级的设计和快速的原型开发能力,很适合用于构建数据驱动的应用原型或工具。它不需要复杂的前端知识,完全由Python控制,非常适合不想深入Web开发,但需要快速搭建和分享数据应用的用户。
这里对webdemo进行探索性修改,比如能否通过按钮点击切换主题。
结果出现了按钮,但并不起作用。
查阅资料,知这是因为Streamlit的自定义主题设置并非通过代码直接控制的。Streamlit从版本0.79开始支持自定义主题,用户可以通过.streamlit/config.toml
文件或者Streamlit的设置界面(Settings > Theme)来更改主题。
如果希望通过Web应用的界面(比如一个按钮或选择框)来改变主题,这将需要一个不同的方法,因为直接通过Python代码更改Streamlit的主题设置(如调整亮/暗模式)是不被直接支持的。
streamlit的官方文档,可以学习具体如何实现聊天页面。
具体优化方案还在尝试,单纯改python貌似无法实现。