LLM - 长文本总结处理方案_当文档的长度过长时,llm怎样处理
URL:三国演义读后感- 初始化自己的 LLM可以选择开源的 LLM,使用 HuggingFace 的 Auto API 直接加载。- 选择自己的长文进行切分虽然 OpenAI 不能用,但是 TextSplitter 可以用。基于不同的处理方式总结根据上面 Stuff、MR、Refine 和 Map Rerank 的逻辑图实现自己的总结逻辑查看总结效果。不过由于我们本地机器的限制,Mapper 能否并行就看我们能起几个服务了。长文总结是很典型常见的问题,大家有更多想法和意见也欢迎在评论区交流讨论~
原创
2024-08-15 16:52:02 ·
922 阅读 ·
0 评论