一文读懂如何基于Ollama在本地运行LLM

最新推荐文章于 2024-07-10 23:24:01 发布
最新推荐文章于 2024-07-10 23:24:01 发布
阅读量988 收藏 24
点赞数 17
文章标签： 人工智能 AIGC AI大模型 语言模型 百度
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_59164304/article/details/139608235
版权

“Mixtral有46.7B的总参数，但每个令牌只使用12.9B参数。因此，它以与12.9B型号相同的速度和成本处理输入并生成输出。”

为什么要使用 Ollama 开源项目 ?‍‍‍

在当今人工智能技术飞速发展的时代，大型语言模型(LLM)无疑已成为焦点炯炯的科技明星。自从ChatGPT的推出以来，其强大的自然语言理解和生成能力便惊艳了全球，成为人工智能商业化进程中的杰出代表。

然而，这一领域并非只有诸如 OpenAI的GPT、Anthropic的Claude、谷歌的Gemini等知名商业模型才折桂争芳。事实上，开源LLM同样正在蓬勃发展，为用户提供了更加多元、灵活和经济的选择。无论是希望尝试当下无法作为公共服务获取的前沿模型，还是追求绝对的数据隐私保护，亦或是想以最优成本获取满足需求的性能，开源LLM无疑都是不二之选。

而在开源LLM的部署和使用方面，Ollama则可谓是独树一帜的优秀方案。作为一个功能强大且使用便捷的工具套件，Ollama不仅为用户提供了精心策源的优质模型备选，更允许直接引入自有的自定义模型，确保了最大程度的灵活性和定制空间。

无论是本地部署还是云端服务，Ollama的简洁设计和完备功能确保了LLM的无缝集成和高效运行。用户可以轻松调用各种计算资源，如GPU加速等，充分释放模型的算力潜能。同时，Ollama 还提供了Web UI、API等多种友好的交互界面，使得用户可以根据不同场景和需求,自如切换使用模式。

更为重要的是，Ollama 在隐私和安全性方面也作出了完备的部署。通过本地化运行和数据加密等策略，确保了对话内容和用户数据的完全保密，有效回应了人们对数据安全日益增长的忧虑。在一些涉及敏感信息或隐私法规的领域，Ollama无疑是LLM部署的最佳选择。

而在经济性方面，Ollama 同样大放异彩。庞大的开源模型储备库使得用户可以根据实际需求，自由挑选大小适中、性价比极高的模型。同时，Ollama的轻量级设计也减小了部署和运维的系统开销，进一步降低了总体成本。

总的来说，Ollama 正在为开源LLM的发展和应用插上腾飞的翅膀。通过其灵活的定制能力、出色的性能表现、良好的隐私保护和卓越的经济性，Ollama必将吸引越来越多的个人和企业用户加入到开源LLM的阵营，共同推动这一人工智能前沿技术的创新和落地。在通往人工通用智能的道路上，开源LLM和Ollama将扮演越来越重要的角色。

Ollama 开源项目独有的优势

运行Ollama的优势众多，它是一个备受欢迎的开源项目，提供了在本地部署和运行大型语言模型的能力。其独特特性可参考如下所示：

1、积极的维护和更新

Ollama 项目得到积极的维护和更新。开发团队不断改进和优化该项目，确保其性能和功能的最新状态。这意味着我们可以依赖于稳定的支持，并享受到最新的改进和修复。

2、庞大而活跃的社区支持

Ollama拥有一个庞大而活跃的社区。您可以加入这个社区，与其他用户和开发者交流、分享经验和解决问题。社区的活跃性意味着我们可以获得及时的帮助和支持，共同推动项目的发展。

3、灵活的部署选项

Ollama提供了便捷的docker容器，使我们可以在本地运行LLM，而无需担心繁琐的安装过程。这为您提供了更大的灵活性，可以根据自己的需求选择合适的部署方式。

4、简单易用

Ollama的使用非常简单。它提供了直观的接口和清晰的文档，使得初学者和有经验的开发者都能够快速上手。我们可以轻松地配置和管理模型，进行文本生成和处理任务。

5、多样化的模型支持

Ollama支持多个模型，并不断添加新的模型。这为我们提供了更多的选择，可以根据具体需求选择适合的模型。此外，您还可以引入自定义模型，以满足个性化的需求。

6、强大的前端支持

Ollama 还提供了优秀的第三方开源前端工具，称为"Ollama Web-UI"。这个前端工具使得使用Ollama更加便捷和直观，我们可以通过它进行模型的交互和可视化展示。

7、多模态模型支持

除了固有的文本处理特性支持，Ollama还支持多模态模型。这意味着我们可以处理多种类型的数据，例如图像、音频和视频等。这种多模态的支持为您提供了更广泛的应用领域和更丰富的功能。

综上所述，运行Ollama带来了诸多优势。积极的维护和更新、庞大而活跃的社区支持、灵活的部署选项、简单易用的接口、多样化的模型支持、强大的前端工具以及多模态模型的能力，都使得 Ollama 成为一个强大而受欢迎的工具，为用户提供了丰富的功能和便利的开发体验。

本地运行 Ollama 基本操作步骤

1. 部署 Ollama

这里，我们以 Mac 平台为操作环境，基于 Docker 进行安装部署，具体可参考如下命令：

[lugalee@Labs ~ ] % docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama

[lugalee@Labs ~ ] % docker ps``CONTAINER ID   IMAGE           COMMAND               CREATED      STATUS          PORTS                                           NAMES``cef2b5f8510c   ollama/ollama   "/bin/ollama serve"   7 days ago   Up 31 seconds   0.0.0.0:11434->11434/tcp, :::11434->11434/tcp   ollama``[lugalee@Labs ~ ] % docker logs -f cef2b5f8510c``Couldn't find '/root/.ollama/id_ed25519'. Generating new private key.``Your new public key is:` `   ``ssh-ed25519 AAAAC3NzaC1lZDI1NTE5AAAAIJjLw5r9XVTA5HWmFMiVR+ulwVj2jtWLWgcD1yTOZb03``   ``2024/05/27 07:08:17 routes.go:1008: INFO server config env="map[OLLAMA_DEBUG:false OLLAMA_LLM_LIBRARY: OLLAMA_MAX_LOADED_MODELS:1 OLLAMA_MAX_QUEUE:512 OLLAMA_MAX_VRAM:0 OLLAMA_NOPRUNE:false OLLAMA_NUM_PARALLEL:1 OLLAMA_ORIGINS:[http://localhost https://localhost http://localhost:* https://localhost:* http://127.0.0.1 https://127.0.0.1 http://127.0.0.1:* https://127.0.0.1:* http://0.0.0.0 https://0.0.0.0 http://0.0.0.0:* https://0.0.0.0:*] OLLAMA_RUNNERS_DIR: OLLAMA_TMPDIR:]"``time=2024-05-27T07:08:17.576Z level=INFO source=images.go:704 msg="total blobs: 0"``time=2024-05-27T07:08:17.576Z level=INFO source=images.go:711 msg="total unused blobs removed: 0"``time=2024-05-27T07:08:17.576Z level=INFO source=routes.go:1054 msg="Listening on [::]:11434 (version 0.1.38)"``time=2024-05-27T07:08:17.576Z level=INFO source=payload.go:30 msg="extracting embedded files" dir=/tmp/ollama2516332727/runners``time=2024-05-27T07:08:19.764Z level=INFO source=payload.go:44 msg="Dynamic LLM libraries [cuda_v11 cpu]"``time=2024-05-27T07:08:19.766Z level=INFO source=types.go:71 msg="inference compute" id=0 library=cpu compute="" driver=0.0 name="" total="2.5 GiB" available="1.3 GiB"``2024/05/27 08:29:29 routes.go:1008: INFO server config env="map[OLLAMA_DEBUG:false OLLAMA_LLM_LIBRARY: OLLAMA_MAX_LOADED_MODELS:1 OLLAMA_MAX_QUEUE:512 OLLAMA_MAX_VRAM:0 OLLAMA_NOPRUNE:false OLLAMA_NUM_PARALLEL:1 OLLAMA_ORIGINS:[http://localhost https://localhost http://localhost:* https://localhost:* http://127.0.0.1 https://127.0.0.1 http://127.0.0.1:* https://127.0.0.1:* http://0.0.0.0 https://0.0.0.0 http://0.0.0.0:* https://0.0.0.0:*] OLLAMA_RUNNERS_DIR: OLLAMA_TMPDIR:]"``time=2024-05-27T08:29:29.102Z level=INFO source=images.go:704 msg="total blobs: 0"``time=2024-05-27T08:29:29.102Z level=INFO source=images.go:711 msg="total unused blobs removed: 0"``time=2024-05-27T08:29:29.102Z level=INFO source=routes.go:1054 msg="Listening on [::]:11434 (version 0.1.38)"``time=2024-05-27T08:29:29.103Z level=INFO source=payload.go:30 msg="extracting embedded files" dir=/tmp/ollama2886309190/runners``time=2024-05-27T08:29:31.318Z level=INFO source=payload.go:44 msg="Dynamic LLM libraries [cpu cuda_v11]"``time=2024-05-27T08:29:31.320Z level=INFO source=types.go:71 msg="inference compute" id=0 library=cpu compute="" driver=0.0 name="" total="2.5 GiB" available="1.4 GiB"``[GIN] 2024/05/27 - 08:41:23 | 200 |     359.716µs |       127.0.0.1 | HEAD     "/"``[GIN] 2024/05/27 - 08:41:23 | 404 |     773.017µs |       127.0.0.1 | POST     "/api/show"``time=2024-05-27T08:41:31.891Z level=INFO source=download.go:136 msg="downloading 6a0746a1ec1a in 47 100 MB part(s)"``time=2024-05-27T08:41:38.716Z level=INFO source=images.go:1001 msg="request failed: Get \"https://dd20bb891979d25aebc8bec07b2b3bbc.r2.cloudflarestorage.com/ollama/docker/registry/v2/blobs/sha256/6a/6a0746a1ec1aef3e7ec53868f220ff6e389f6f8ef87a01d77c96807de94ca2aa/data?X-Amz-Algorithm=AWS4-HMAC-SHA256&X-Amz-Credential=66040c77ac1b787c3af820529859349a%2F20240527%2Fauto%2Fs3%2Faws4_request&X-Amz-Date=20240527T084133Z&X-Amz-Expires=1200&X-Amz-SignedHeaders=host&X-Amz-Signature=618deb64019fbd08450a5b0dc842810c294fd9f7bafb22f3cb29046d2b1379db\": EOF"``time=2024-05-27T08:41:38.716Z level=INFO source=download.go:178 msg="6a0746a1ec1a part 45 attempt 0 failed: Get \"https://dd20bb891979d25aebc8bec07b2b3bbc.r2.cloudflarestorage.com/ollama/docker/registry/v2/blobs/sha256/6a/6a0746a1ec1aef3e7ec53868f220ff6e389f6f8ef87a01d77c96807de94ca2aa/data?X-Amz-Algorithm=AWS4-HMAC-SHA256&X-Amz-Credential=66040c77ac1b787c3af820529859349a%2F20240527%2Fauto%2Fs3%2Faws4_request&X-Amz-Date=20240527T084133Z&X-Amz-Expires=1200&X-Amz-SignedHeaders=host&X-Amz-Signature=618deb64019fbd08450a5b0dc842810c294fd9f7bafb22f3cb29046d2b1379db\": EOF, retrying in 1s"``time=2024-05-27T08:42:04.892Z level=INFO source=download.go:251 msg="6a0746a1ec1a part 33 stalled; retrying. If this persists, press ctrl-c to exit, then 'ollama pull' to find a faster connection."``time=2024-05-27T08:42:19.892Z level=INFO source=download.go:251 msg="6a0746a1ec1a part 5 stalled; retrying. If this persists, press ctrl-c to exit, then 'ollama pull' to find a faster connection."``time=2024-05-27T08:42:23.892Z level=INFO source=download.go:251 msg="6a0746a1ec1a part 27 stalled; retrying. If this persists, press ctrl-c to exit, then 'ollama pull' to find a faster connection."``time=2024-05-27T08:43:12.892Z level=INFO source=download.go:251 msg="6a0746a1ec1a part 44 stalled; retrying. If this persists, press ctrl-c to exit, then 'ollama pull' to find a faster connection."``time=2024-05-27T08:43:20.893Z level=INFO source=download.go:251 msg="6a0746a1ec1a part 14 stalled; retrying. If this persists, press ctrl-c to exit, then 'ollama pull' to find a faster connection."``time=2024-05-27T08:43:20.893Z level=INFO source=download.go:251 msg="6a0746a1ec1a part 39 stalled; retrying. If this persists, press ctrl-c to exit, then 'ollama pull' to find a faster connection."``time=2024-05-27T08:43:22.717Z level=INFO source=download.go:251 msg="6a0746a1ec1a part 45 stalled; retrying. If this persists, press ctrl-c to exit, then 'ollama pull' to find a faster connection."``time=2024-05-27T08:43:27.896Z level=INFO source=download.go:251 msg="6a0746a1ec1a part 12 stalled; retrying. If this persists, press ctrl-c to exit, then 'ollama pull' to find a faster connection."``time=2024-05-27T08:43:52.892Z level=INFO source=download.go:251 msg="6a0746a1ec1a part 10 stalled; retrying. If this persists, press ctrl-c to exit, then 'ollama pull' to find a faster connection."``time=2024-05-27T08:43:58.895Z level=INFO source=download.go:251 msg="6a0746a1ec1a part 14 stalled; retrying. If this persists, press ctrl-c to exit, then 'ollama pull' to find a faster connection."``time=2024-05-27T08:44:05.896Z level=INFO source=download.go:251 msg="6a0746a1ec1a part 27 stalled; retrying. If this persists, press ctrl-c to exit, then 'ollama pull' to find a faster connection."``time=2024-05-27T08:44:15.897Z level=INFO source=download.go:251 msg="6a0746a1ec1a part 28 stalled; retrying. If this persists, press ctrl-c to exit, then 'ollama pull' to find a faster connection."``time=2024-05-27T08:44:18.892Z level=INFO source=download.go:251 msg="6a0746a1ec1a part 40 stalled; retrying. If this persists, press ctrl-c to exit, then 'ollama pull' to find a faster connection."``time=2024-05-27T08:44:22.894Z level=INFO source=download.go:251 msg="6a0746a1ec1a part 6 stalled; retrying. If this persists, press ctrl-c to exit, then 'ollama pull' to find a faster connection."``time=2024-05-27T08:44:33.898Z level=INFO source=download.go:251 msg="6a0746a1ec1a part 27 stalled; retrying. If this persists, press ctrl-c to exit, then 'ollama pull' to find a faster connection."``time=2024-05-27T08:44:41.892Z level=INFO source=download.go:251 msg="6a0746a1ec1a part 8 stalled; retrying. If this persists, press ctrl-c to exit, then 'ollama pull' to find a faster connection."``time=2024-05-27T08:45:21.901Z level=INFO source=download.go:251 msg="6a0746a1ec1a part 28 stalled; retrying. If this persists, press ctrl-c to exit, then 'ollama pull' to find a faster connection."``time=2024-05-27T08:45:31.892Z level=INFO source=download.go:251 msg="6a0746a1ec1a part 3 stalled; retrying. If this persists, press ctrl-c to exit, then 'ollama pull' to find a faster connection."``time=2024-05-27T08:45:34.895Z level=INFO source=download.go:251 msg="6a0746a1ec1a part 16 stalled; retrying. If this persists, press ctrl-c to exit, then 'ollama pull' to find a faster connection."``time=2024-05-27T08:46:10.187Z level=INFO source=download.go:178 msg="6a0746a1ec1a part 11 attempt 0 failed: unexpected EOF, retrying in 1s"``time=2024-05-27T08:46:12.892Z level=INFO source=download.go:251 msg="6a0746a1ec1a part 15 stalled; retrying. If this persists, press ctrl-c to exit, then 'ollama pull' to find a faster connection."``time=2024-05-27T08:46:15.188Z level=INFO source=download.go:251 msg="6a0746a1ec1a part 11 stalled; retrying. If this persists, press ctrl-c to exit, then 'ollama pull' to find a faster connection."``time=2024-05-27T08:46:43.892Z level=INFO source=download.go:251 msg="6a0746a1ec1a part 35 stalled; retrying. If this persists, press ctrl-c to exit, then 'ollama pull' to find a faster connection."``time=2024-05-27T08:47:00.458Z level=INFO source=download.go:178 msg="6a0746a1ec1a part 31 attempt 0 failed: unexpected EOF, retrying in 1s"``time=2024-05-27T08:47:10.895Z level=INFO source=download.go:251 msg="6a0746a1ec1a part 1 stalled; retrying. If this persists, press ctrl-c to exit, then 'ollama pull' to find a faster connection."``time=2024-05-27T08:47:30.896Z level=INFO source=download.go:251 msg="6a0746a1ec1a part 10 stalled; retrying. If this persists, press ctrl-c to exit, then 'ollama pull' to find a faster connection."``time=2024-05-27T08:47:38.824Z level=INFO source=download.go:178 msg="6a0746a1ec1a part 9 attempt 0 failed: unexpected EOF, retrying in 1s"``time=2024-05-27T08:47:40.431Z level=INFO source=download.go:178 msg="6a0746a1ec1a part 32 attempt 0 failed: unexpected EOF, retrying in 1s"``time=2024-05-27T08:47:45.433Z level=INFO source=download.go:251 msg="6a0746a1ec1a part 32 stalled; retrying. If this persists, press ctrl-c to exit, then 'ollama pull' to find a faster connection."``time=2024-05-27T08:47:52.892Z level=INFO source=download.go:251 msg="6a0746a1ec1a part 17 stalled; retrying. If this persists, press ctrl-c to exit, then 'ollama pull' to find a faster connection."``time=2024-05-27T08:49:39.094Z level=INFO source=download.go:136 msg="downloading 4fa551d4f938 in 1 12 KB part(s)"``time=2024-05-27T08:49:42.828Z level=INFO source=download.go:136 msg="downloading 8ab4849b038c in 1 254 B part(s)"``time=2024-05-27T08:49:47.583Z level=INFO source=download.go:136 msg="downloading 577073ffcc6c in 1 110 B part(s)"``time=2024-05-27T08:49:51.368Z level=INFO source=download.go:136 msg="downloading 3f8eb4da87fa in 1 485 B part(s)"``[GIN] 2024/05/27 - 08:49:59 | 200 |         8m35s |       127.0.0.1 | POST     "/api/pull"``[GIN] 2024/05/27 - 08:49:59 | 200 |    1.434741ms |       127.0.0.1 | POST     "/api/show"``[GIN] 2024/05/27 - 08:49:59 | 200 |     893.744µs |       127.0.0.1 | POST     "/api/show"``...``

此时，Ollama 已部署 OK。

2. 运行 llama3

接下来，我们可以进行 llama3，具体如下所示：

[lugalee@Labs ~ ] % ollama run llama3``pulling manifest` `pulling 6a0746a1ec1a... 100% ▕██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏ 4.7 GB`                         `pulling 4fa551d4f938... 100% ▕██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏  12 KB`                         `pulling 8ab4849b038c... 100% ▕██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏  254 B`                         `pulling 577073ffcc6c... 100% ▕██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏  110 B`                         `pulling 3f8eb4da87fa... 100% ▕██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏  485 B`                         `verifying sha256 digest` `writing manifest` `removing any unused layers` `success

此时，我们可以与模型进行交互，具体可参考：

>>> Why do people at the bottom like to tear each other apart? 为什么底层人就喜欢互撕？``A thought-provoking question!``   ``It's important to note that not everyone at the "bottom" (whatever that means in a specific context) likes

3. 运行 Ollama Web-UI

接下来，我们使用 Docker 运行 Ollama Web-UI docker 容器，以配合我们的 Ollama 实例。具体如下所示：‍‍‍‍

[lugalee@Labs ~ ] % docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v ollama-webui:/app/backend/data --name ollama-webui --restart always ghcr.io/ollama-webui/ollama-webui:main``Unable to find image 'ghcr.io/ollama-webui/ollama-webui:main' locally``main: Pulling from ollama-webui/ollama-webui``f546e941f15b: Pull complete` `24935aba99a7: Pull complete` `07b3e0dc751a: Pull complete` `7e0115596a7a: Pull complete` `a66610a3b2a1: Pull complete` `c175d9a7d72d: Pull complete` `118c270ec011: Pull complete` `2560efb5a1fe: Pull complete` `0a3a251ca3a9: Pull complete` `e66887d25b67: Pull complete` `e138e3ef45c8: Pull complete` `ebe686cd15b0: Pull complete` `cbb3a246d52b: Pull complete` `133390a53c46: Pull complete` `5691cbf1cdd3: Pull complete` `Digest: sha256:d5a5c1126b5decbfbfcac4f2c3d0595e0bbf7957e3fcabc9ee802d3bc66db6d2``Status: Downloaded newer image for ghcr.io/ollama-webui/ollama-webui:main``8fa5ed05075bbcc118451d79d10ea6754fa8c51c47e27016949807ccc60cac4e``[lugalee@Labs ~ ] % docker ps``CONTAINER ID   IMAGE                                    COMMAND               CREATED         STATUS         PORTS                                           NAMES``8fa5ed05075b   ghcr.io/ollama-webui/ollama-webui:main   "bash start.sh"       5 seconds ago   Up 4 seconds   0.0.0.0:3000->8080/tcp, :::3000->8080/tcp       ollama-webui``cef2b5f8510c   ollama/ollama                            "/bin/ollama serve"   7 days ago      Up 2 minutes   0.0.0.0:11434->11434/tcp, :::11434->11434/tcp   ollama``[lugalee@Labs ~ ] % docker logs -f 8fa5ed05075b``No WEBUI_SECRET_KEY provided``Generating WEBUI_SECRET_KEY``Loading WEBUI_SECRET_KEY from .webui_secret_key``INFO:     Started server process [1]``INFO:     Waiting for application startup.``INFO:     Application startup complete.``INFO:     Uvicorn running on http://0.0.0.0:8080 (Press CTRL+C to quit)``INFO:     192.168.215.1:48232 - "GET / HTTP/1.1" 200 OK``INFO:     192.168.215.1:48232 - "GET /manifest.json HTTP/1.1" 200 OK``INFO:     192.168.215.1:48233 - "GET /_app/immutable/entry/start.9d275286.js HTTP/1.1" 200 OK``INFO:     192.168.215.1:48236 - "GET /_app/immutable/chunks/index.afef706d.js HTTP/1.1" 200 OK``INFO:     192.168.215.1:48232 - "GET /_app/immutable/chunks/index.65c87b32.js HTTP/1.1" 200 OK``INFO:     192.168.215.1:48235 - "GET /_app/immutable/chunks/singletons.1c028cc1.js HTTP/1.1" 200 OK``INFO:     192.168.215.1:48234 - "GET /_app/immutable/chunks/scheduler.f6668761.js HTTP/1.1" 200 OK``INFO:     192.168.215.1:48237 - "GET /_app/immutable/entry/app.653e80bf.js HTTP/1.1" 200 OK``INFO:     192.168.215.1:48235 - "GET /_app/immutable/assets/Toaster.3a6d0da3.css HTTP/1.1" 200 OK``INFO:     192.168.215.1:48237 - "GET /_app/immutable/chunks/Toaster.svelte_svelte_type_style_lang.4f4e956a.js HTTP/1.1" 200 OK``INFO:     192.168.215.1:48233 - "GET /_app/immutable/chunks/constants.c3d2104f.js HTTP/1.1" 200 OK``INFO:     192.168.215.1:48232 - "GET /_app/immutable/nodes/0.e5f3822c.js HTTP/1.1" 200 OK``INFO:     192.168.215.1:48236 - "GET /_app/immutable/chunks/each.2cd6bd47.js HTTP/1.1" 200 OK``INFO:     192.168.215.1:48234 - "GET /_app/immutable/chunks/navigation.613629d5.js HTTP/1.1" 200 OK``INFO:     192.168.215.1:48235 - "GET /_app/immutable/chunks/index.c122cac0.js HTTP/1.1" 200 OK``INFO:     192.168.215.1:48233 - "GET /_app/immutable/chunks/index.c4d7520e.js HTTP/1.1" 200 OK``INFO:     192.168.215.1:48234 - "GET /_app/immutable/nodes/1.ccc6771d.js HTTP/1.1" 200 OK``INFO:     192.168.215.1:48236 - "GET /_app/immutable/assets/0.de36d200.css HTTP/1.1" 200 OK``INFO:     192.168.215.1:48232 - "GET /_app/immutable/nodes/2.02d12cc1.js HTTP/1.1" 200 OK``INFO:     192.168.215.1:48237 - "GET /_app/immutable/chunks/stores.81ef0f3d.js HTTP/1.1" 200 OK``INFO:     192.168.215.1:48235 - "GET /_app/immutable/chunks/FileSaver.min.898eb36f.js HTTP/1.1" 200 OK``INFO:     192.168.215.1:48233 - "GET /_app/immutable/chunks/_commonjsHelpers.de833af9.js HTTP/1.1" 200 OK``INFO:     192.168.215.1:48237 - "GET /_app/immutable/chunks/index.24d0f459.js HTTP/1.1" 200 OK``INFO:     192.168.215.1:48234 - "GET /_app/immutable/chunks/index.69f6ab4e.js HTTP/1.1" 200 OK``INFO:     192.168.215.1:48236 - "GET /_app/immutable/chunks/index.15f26e66.js HTTP/1.1" 200 OK``INFO:     192.168.215.1:48233 - "GET /_app/immutable/chunks/index.b7ffcff4.js HTTP/1.1" 200 OK``INFO:     192.168.215.1:48232 - "GET /_app/immutable/chunks/index.94bf9275.js HTTP/1.1" 200 OK``INFO:     192.168.215.1:48235 - "GET /_app/immutable/chunks/Modal.68c1a0a5.js HTTP/1.1" 200 OK``INFO:     192.168.215.1:48236 - "GET /_app/immutable/chunks/index.f3d17e4d.js HTTP/1.1" 200 OK``INFO:     192.168.215.1:48237 - "GET /_app/immutable/chunks/AdvancedParams.020cee97.js HTTP/1.1" 200 OK``INFO:     192.168.215.1:48234 - "GET /_app/immutable/chunks/index.3f5e7a6d.js HTTP/1.1" 200 OK``INFO:     192.168.215.1:48233 - "GET /_app/immutable/assets/2.c7820e19.css HTTP/1.1" 200 OK``INFO:     192.168.215.1:48232 - "GET /_app/immutable/nodes/3.f0821a72.js HTTP/1.1" 200 OK``INFO:     192.168.215.1:48236 - "GET /_app/immutable/chunks/Tags.4457bfcc.js HTTP/1.1" 200 OK``INFO:     192.168.215.1:48235 - "GET /_app/immutable/chunks/index.4987a420.js HTTP/1.1" 200 OK``INFO:     192.168.215.1:48237 - "GET /_app/immutable/chunks/dayjs.min.1e504c00.js HTTP/1.1" 200 OK``INFO:     192.168.215.1:48234 - "GET /_app/immutable/assets/index.8a27bb7e.css HTTP/1.1" 200 OK``INFO:     192.168.215.1:48234 - "GET /api/v1/ HTTP/1.1" 200 OK``...

此命令将运行名为“ollama-webui”的Ollama Web-UI容器，将容器端口8080映射到主机端口3000，并映射一个卷以持久存储文件。我们可以通过访问http://127.0.0.1:3000/进行测试访问，具体可参考：

在这里插入图片描述

注册完成后，我们在本地创建一个账户，然后进入主页进行模型交互，具体可参考如下：‍‍‍‍‍

在这里插入图片描述

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述

第一阶段（10天）：初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识，对大模型 AI 的理解超过 95% 的人，可以在相关讨论时发表高级、不跟风、又接地气的见解，别人只会和 AI 聊天，而你能调教 AI，并能用代码将大模型和业务衔接。

  • 大模型 AI 能干什么？
  • 大模型是怎样获得「智能」的？
  • 用好 AI 的核心心法
  • 大模型应用业务架构
  • 大模型应用技术架构
  • 代码示例：向 GPT-3.5 灌入新知识
  • 提示工程的意义和核心思想
  • Prompt 典型构成
  • 指令调优方法论
  • 思维链和思维树
  • Prompt 攻击和防范
  • …

第二阶段（30天）：高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习，学会构造私有知识库，扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架，抓住最新的技术进展，适合 Python 和 JavaScript 程序员。

  • 为什么要做 RAG
  • 搭建一个简单的 ChatPDF
  • 检索的基础概念
  • 什么是向量表示（Embeddings）
  • 向量数据库与向量检索
  • 基于向量检索的 RAG
  • 搭建 RAG 系统的扩展知识
  • 混合检索与 RAG-Fusion 简介
  • 向量模型本地部署
  • …

第三阶段（30天）：模型训练

恭喜你，如果学到这里，你基本可以找到一份大模型 AI相关的工作，自己也能训练 GPT 了！通过微调，训练自己的垂直大模型，能独立训练开源多模态大模型，掌握更多技术方案。

到此为止，大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗？

  • 为什么要做 RAG
  • 什么是模型
  • 什么是模型训练
  • 求解器 & 损失函数简介
  • 小实验2：手写一个简单的神经网络并训练它
  • 什么是训练/预训练/微调/轻量化微调
  • Transformer结构简介
  • 轻量化微调
  • 实验数据集的构建
  • …

第四阶段（20天）：商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知，可以在云端和本地等多种环境下部署大模型，找到适合自己的项目/创业方向，做一名被 AI 武装的产品经理。

  • 硬件选型
  • 带你了解全球大模型
  • 使用国产大模型服务
  • 搭建 OpenAI 代理
  • 热身：基于阿里云 PAI 部署 Stable Diffusion
  • 在本地计算机运行大模型
  • 大模型的私有化部署
  • 基于 vLLM 部署大模型
  • 案例：如何优雅地在阿里云私有部署开源大模型
  • 部署一套开源 LLM 项目
  • 内容安全
  • 互联网信息服务算法备案
  • …

学习是一个过程，只要学习就会有挑战。天道酬勤，你越努力，就会成为越优秀的自己。

如果你能在15天内完成所有的任务，那你堪称天才。然而，如果你能完成 60-70% 的内容，你就已经开始具备成为一名大模型 AI 的正确特征了。

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

在这里插入图片描述

程序员笑武
关注
  • 17
    点赞
  • 踩
  • 24
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Ollama教程——模型：如何将模型高效导入到ollama框架
walkskyer的博客
04-08 6907
本教程详细介绍了如何将GGUF、PyTorch和Safetensors格式的模型导入到ollama框架中。通过一系列步骤，从环境准备、模型转换和量化，到最终的模型创建和运行，我们为开发者提供了一个清晰的指南。此外，我们还探讨了如何发布模型到ollama平台，使得模型可以被更广泛地分享和应用。ollama框架提供了一个灵活、高效的解决方案，帮助开发者在各种环境中部署和运行机器学习模型。无论您是想将现有模型快速部署到生产环境，还是希望探索新的模型架构，ollama都能为您提供所需的工具和资源。
羊驼家族Ollama，window版本，本地大模型
05-15
大语言模型（LLM）平民化，羊驼家族， Ollama——一个简明易用的本地大模型运行框架。...Ollama极大地简化了在Docker容器内/本地部署和管理LLM的过程，使得用户能够快速地在本地运行大型语言模型。
Ollama高效、功能齐全的LLM大模型服务工具——只需一条命令即可在本地跑语言大模型
HI
03-01 7929
Ollama是一个开源的大型语言模型服务工具，它帮助用户快速在本地运行大模型，通过简单的安装指令，可以让用户执行一条命令就在本地运行开源大型语言模型。本文旨在简易教会读者如何下载安装配环境以及使用Ollama，本地体验到大模型的快速便捷。
如何用Ollama在本地构建大语言模型？
weixin_42382827的博客
05-04 560
Ollama是一个开源框架，设计用于在本地轻松部署和运行大型语言模型（LLMs）。
ollama大模型容器详解，根据ollama进行web开发
2301_78960337的博客
02-24 3781
ollama,gemma:7b
【LLM】Ollama开发指南
步子哥的博客
03-10 1287
会根据常见CPU类型和矢量计算能力编译几个LLM库的变体,包括一个兼容大多数64位CPU但性能较低的通用版本。发行版软件包通常更可取,但每个发行版的安装步骤可能不同。您的操作系统发行版可能已经提供NVIDIA CUDA软件包。发行版软件包通常更可取,但每个发行版的安装步骤可能不同。通常构建脚本会自动检测CUDA,但是,如果您的Linux发行版或安装方式使用非常规路径,您可以通过设置环境变量。通常构建脚本会自动检测ROCm,但是,如果您的Linux发行版或安装方式使用非常规路径,您可以通过设置环境变量。
Python_用于在现代消费级gpu上本地运行llm的快速推理库.zip
05-25
标题中的“Python_用于在现代消费级gpu上本地运行llm的快速推理库”表明这是一个Python库，专门设计用于在常见的消费级图形处理单元（GPU）上高效地执行大型语言模型（LLM）的推理任务。这样的库对于数据科学家、...
一文读懂ChatGPT模型原理.docx
04-20
这一进展标志着LLM（Large Language Model）在无监督学习和对话理解上的巨大进步，减少了对下游任务的微调需求和对大量标注数据的依赖。 总结来说，ChatGPT模型的原理主要基于Transformer架构，通过预训练和多任务...
LLM在多模态基于内容的推荐系统中的应用
11-21
LLM 在多模态基于内容的推荐系统中的应用 本文讨论了Large Language Models (LLMs) 在多模态基于内容的推荐系统中的应用。推荐系统是指根据用户的历史行为和偏好，推荐用户可能感兴趣的项目的系统。然而，推荐系统...
羊驼家族Ollama，Linux版本，本地大模型
05-16
大语言模型（LLM）平民化，羊驼家族， Ollama——一个简明易用的本地大模型运行框架。...Ollama极大地简化了在Docker容器内/本地部署和管理LLM的过程，使得用户能够快速地在本地运行大型语言模型。
第二十四篇-Ollama-在线安装
木卫二号的专栏
04-27 897
ollama-在线安装，运行速度相当不错。
5分钟在MAC下本地搭建大模型
wushakun的博客
03-26 2336
Ollama——一个简明易用的本地大模型运行框架。随着围绕着 Ollama 的生态走向前台，更多用户也可以方便地在自己电脑上玩转大模型了。Ollama 的目标是帮助开发者在本地运行、创建和共享大型语言模型。Ollama 目前处于早期预览阶段，但已经提供了一些核心功能。例如，它支持运行和对话 Llama 2，这是 Meta 新推出的模型。此外，Ollama 还提供了一个模型库，开发者可以在这里下载和使用各种开源模型。
第二十八篇-Ollama-TeslaP40-Ollama-8B-Qwen1.5-32B等速度
木卫二号的专栏
04-27 924
Tesla-P40还是挺令我惊讶的，14B模型速度还是非常好的，有机会大家可以用来试试。
Ollama完整教程：本地LLM管理、WebUI对话、Python/Java客户端API应用
最新发布
老牛啊
07-10 1482
Ollama可以非常方便的管理和部署我们本地大语言模型，老牛同学希望通过本文对Ollama进行一次详细介绍，包括本地大模型管理和使用、WebUI对话界面部署、通过Python和Java使用Ollama的API接口等……
大模型工具Ollama 应用千问和llama3模型
Kally_tao的专栏
04-29 2195
官网：https://ollama.com/1> Ollama是一个用于部署和运行各种开源大模型的工具；【支持78种模型】2> 它能够帮助用户快速在本地运行各种大模型，极大地简化了大模型在本地运行的过程。用户通过执行几条命令就能在本地运行开源大模型，如Llama 2等；3> 综上，Ollama是一个大模型部署运行工具，在该工具里面可以部署运行各种大模型，方便开发者在本地搭建一套大模型运行环境；
ollama unable to load any llama server“ error=“[0] server cpu not listed in available servers map[]
qyhua的专栏
07-03 488
ollama报错：unable to load any llama server" error="[0] server cpu not listed in available servers map[]其实OLLAMA_RUNNERS_DIR 是在自动升级后报错提示要求设置 OLLAMA_RUNNERS_DIR变量，根据这个错误提示挖坑给自己。如果不行直接用重装即可。
本地上百个大模型便携部署调用工具 Ollama 使用指南
热门推荐
数智笔记
04-14 1万+
Ollama 支持在 Modelfile 中导入 GGUF 模型：创建一个名为Modelfile的文件，使用FROM指令指定要导入的模型的本地文件路径。创建模型运行模型可以使用提示来自定义 Ollama 模型。例如，要自定义llama2创建一个Modelfile# 设置温度为 1 [值越高越有创造性，值越低越连贯]# 设置系统消息SYSTEM """""">>> hiHello!更多示例，请参考examples目录。有关使用 Modelfile 的更多信息，请参考Modelfile文档。
windows环境Ollama部署Llama3中文并调优
u012864987的专栏
05-20 2948
地址：https://ollama.com/downloadgithub地址： https://github.com/ollama/ollama直接运行exe程序安装。安装完成后，可以在右下角看到ollama图标环境变量控制：OLLAMA_MODELS 配置模型下载部署的目录, 示例： D:\modelsOLLAMA_HOST 服务地址端口， 示例： 0.0.0.0:11434ollama运行命令见 ollama --help 查看帮助。
基于llm的测试效率提升
01-26
基于LLM（Language Model）的测试效率提升主要体现在以下几个方面： 1. 自动化测试：LLM的出现使得测试工程师能够利用自然语言的特点，快速生成测试用例和测试脚本。相比传统的手动编写测试用例，LLM能够极大地减少测试人员的工作量和时间成本，提高了测试效率。 2. 敏捷开发：LLM能够快速学习和适应不同的测试场景和需求，根据不同的自然语言输入生成相应的测试用例和脚本。这种灵活性使得测试人员能够更加快速地响应项目变更，及时执行测试，提高了敏捷开发的效率。 3. 覆盖率提升：LLM可以根据自然语言输入，自动生成全面且具有一定逻辑性的测试用例。相比人工编写测试用例，LLM能够更好地覆盖不同功能模块的边界条件和异常情况，从而提高测试的覆盖率。 4. 功能验证加速：LLM通过自动生成测试用例和脚本，可以快速验证新功能的正确性和稳定性。测试人员只需输入相应的功能描述，LLM会自动生成相应的测试用例，从而加快了功能验证的速度。 5. 测试回归：LLM可以根据自然语言输入，快速生成全面的测试脚本，以及对应的测试数据和预期结果。这种自动化回归测试能够提高测试的复用性和可维护性，降低了回归测试的工作量，提高了回归测试的效率。 综上所述，基于LLM的测试效率提升主要体现在自动化测试、敏捷开发、覆盖率提升、功能验证加速和测试回归等方面。LLM的应用能够帮助测试人员更快速、全面地进行测试工作，提高测试效率，降低测试成本。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值