- 博客(4)
- 收藏
- 关注
RSS订阅转载 SgLang代码细读-1.从req到batch
等, 通过all_gather汇聚所有DP的状态, 只要有其中一个DP存在非空的batch, 就把当前如果是空的local_batch填充一个idle_batch, 这个idle_batch的作用就是使得所有DP的运行状态保持同步, 比如其他DP有AllToAll的需求, 就可以在idle_batch中能够把对应的集合通信状态给同步运行。当batch满或是要处理的token数满后, 停止这个遍历循环, 然后把在can_run_list中的req从waiting_queue里剔除.
2025-05-20 04:54:29
181
转载 聊聊AI浏览器
提供服务，有需要回复1。基于这个原因，ChatGPT以及DeepSeek都提出了，只不过效果嘛绝不可能太好（）：AI应用团队的话，一般会使用爬虫到各个整理信息，提前存入到知识库，以保证AI应用的先进性，只不过这在特定领域是适用的，其实，RAG的本质和搜索引擎是很类似的，也可以将AI浏览器理解为一个MCP应用，提供给AI产品调用即可。PS：抛开浏览器提供接口给我使用这个点，我其实已经想不到太多浏览器的生存空间了，我只有在不想看AI回答的情况下，才会去用搜索，而且一定不是浏览器搜索...
2025-05-19 07:49:54
45
转载 在外网访问家里面的电脑 和 DMZ
方法1：使用 MDZ （ demilitarized zone）， 中文意思 非武装的区域。我们的家用电脑一般都在 路由器所在的 C类内网（192.X.X.X 的 ip）。外网是不能直接访问内网的。这里的整个内网被"武装了"，别人看不见。MDZ 做的就是 吧一台机子 暴露出去，非武装。 能使用MDZ 的前提。你家的宽...
2024-08-22 03:35:03
1444
转载 python int 64如何设置空值
Python,数组,解决相关视频讲解：python的or运算赋值用法用python编程Excel有没有用处？011_编程到底好玩在哪？查看python文件_输出py文件_cat_运行python文件_shel解决方案：如何设置Python int64的空值问题描述：在Python编程中，有时候我们需要将int64...
2024-07-03 03:55:25
132
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人