- 博客(9)
- 收藏
- 关注
RSS订阅原创 腾讯云AI代码助手编程挑战赛-增加图片输入的混元大模型对话
在原来的TD-AI-Chat-demo的基础上改变了输入，增加了图片输入功能，并将页面改进的和gpt很像。
2025-01-06 22:00:12
196
原创 Docker学习笔记
Docker图形化界面管理工具，提供一个后台面板供我们操作。访问测试：外网：8088，选择本地连接后，就会进入可视化界面。因为点了两次local，因此出现了两个local如果数据都在容器中，如果将容器删除，数据就会丢失。因此需要将数据持久化。例：将mysql容器删除后，数据也被删除了。但mysql中的数据并不能被删除，需要存储在本地。容器之间有一个数据共享的技术！Docker容器中产生的数据，同步到本地。这就是卷技术，目录的挂载，将我们容器内的目录挂载到Linux上。
2024-09-09 19:53:35
2016
原创 deepstream部署jetson
进入bodypose_yolo_win1,修改了source4_1080p_dec_parallel_infer.yml为source4_1080p_dec_parallel_infer1.yml，主要改变其中的模型推理配置文件。当多输入源时，yolov7的onnx模型属于静态模型，原来的engine模型无用，deepstream会自动将onnx模型再次转换成多输入源的engine文件，但会发现无法静态onnx模型已经限定死了模型内部的batch维度为1。当多输入源时，yolov7示例模型属于静态模型。
2024-09-09 19:23:25
1555
原创 关于使用manager进行进程间通信问题
对于将manager.queue嵌套在manager.dict时，需要修改原manager中的bug问题，可参照下方链接进行修改managers.py。
2024-09-09 19:12:22
308
原创 Triton Inference Serve框架学习
定义模型的输入输出，然后在ensemble_scheduling中定义不同的步骤，其中step中的key是本身的input/output tensor的名字；max_batch_size为一个大于0的常数，Input和output指定名字，数据类型，数据形状。max_batch_size等于0。从模型仓库加载模型，根据模型的类型，选择特定的backend，将模型运行在特定的硬件上。**注意：**dims在指定的时候忽略batch_size的维度。图片-预处理模型-分别进入不同的模型-输出不同的结果。
2024-09-09 18:50:04
1627
原创 有状态应用和无状态应用
当客户端访问java应用商城时,将session或者token传给应用服务器管理pod,应用服务器pod里持有用户的上下文信息，这时应用服务器是有状态的 .同样客户端访问java应用商城时,我们将session或token存储在第三方的一些服务或者中间件上，比如使用Nginx来代理上。此时应用服务器不保存上下文信息，只负责对用户的每次请求进行处理,然后返回处理的结果即可,这时应用服务器是无状态的.
2023-07-02 16:08:15
242
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人