Llama Coder 项目推荐
项目基础介绍和主要编程语言
Llama Coder 是一个开源项目,旨在为 VS Code 提供一个更好的、自托管的 GitHub Copilot 替代方案。该项目主要使用 TypeScript 和 JavaScript 进行开发。Llama Coder 利用 Ollama 和 codellama 来提供基于本地硬件的代码自动补全功能,特别适用于 Mac M1/M2/M3 或 RTX 4090 等高性能硬件。
项目核心功能
- 代码自动补全:提供与 GitHub Copilot 相当的代码自动补全功能。
- 高性能:在消费级 GPU 上表现出色,特别是 Apple Silicon 或 RTX 4090 上推荐使用。
- 隐私保护:无遥测或跟踪功能,确保用户隐私。
- 多语言支持:支持多种编程语言和人类语言的自动补全。
- 自托管:用户可以在本地或远程机器上运行,灵活配置。
项目最近更新的功能
- 暂停补全功能:用户可以暂停代码补全功能,由 @bkyle 贡献。
- 远程推理支持:增加了对远程推理的 Bearer Token 支持,由 @Sinan-Karakaya 贡献。
- 远程文件支持:修复了远程文件支持的问题。
- 触发延迟:增加了触发延迟功能,优化用户体验。
- Jupyter Notebook 支持:增加了对 Jupyter Notebook 的支持。
- 自定义模型选择:用户可以选择自定义模型,并提示用户下载模型(如果模型不可用)。
- DeepSeek 1B 模型:增加了 DeepSeek 1B 模型,并将其设为默认模型。
- DeepSeek 支持改进:改进了对 DeepSeek 的支持,并增加了语言检测功能。
- 温度和 top p 调整:用户可以调整温度和 top p 参数,优化模型性能。
- Ollama 链接修复:修复了 Ollama 链接问题,并增加了更多模型支持。
通过这些更新,Llama Coder 不断优化其功能,为用户提供更强大、更灵活的代码自动补全体验。