贾扬清是开源深度学习框架 Caffe 创始人、TensorFlow 作者之一、也是 PyTorch 1.0 的共同创始人。
2023 年 3 月，贾扬清从阿里离职后联合创立了一家新的 AI 公司 Lepton AI，旨在建立高效的 AI 应用平台。Lepton AI 总部位于美国加利福尼亚州帕洛阿托，官网宣称可通过 Lepton AI 在几分钟内高效、大规模地运行 AI 应用。相比大模型，贾扬清团队更偏重 AI 能力的开发。
LeptonAI的焦点在于构建一个帮助开发者构建人工智能应用程序的现代云平台，而不是做一个搜索引擎。尽管如此，为了展示LeptonAI的实力和效率，他们还是用手搭建了一个简单的演示工具，并将其开源。
贾扬清介绍称，Lepton Search 的后端是 Mixtral-8x7b 模型，托管在 LeptonAI，输出速度能达到每秒大约 200 个 token，搜索引擎采用了 Bing 的搜索 API，并分享了自己开发这个项目的一些经验：
1、搜索质量至关重要。优质的摘要片段是形成精准概括的关键。
2、适当加入一些虚构内容实际上有助于补充摘要片段中缺失的 “常识性信息”。
3、在进行内容概括时，开源模型表现出了卓越的效果。
Lepton Search 正式开源，包含完整前后端源代码，采用 Apache License，可商用。
项目的核心 Python 代码确实不到 500 行，有 2.3K Stars，登顶 GitHub 趋势榜。
项目地址：https://github.com/leptonai/search_with_lepton
在线体验： https://search.lepton.run
最后，感谢读者一如既往的支持，为大家放送 6000 张龙年红包封面。
往期推荐
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
