freewebsys的专栏

JoyCode是一款面向企业级开发的智能编码工具，通过AI技术实现代码仓库的深度解析和业务需求理解。其核心功能包括上下文引擎、规约编程和多智能体协同，支持复杂业务场景开发。工具提供免费试用，兼容主流大模型，并能自动生成完整项目代码（如wxWidgets计算器应用）及技术文档。典型应用案例展示了从需求分析到代码实现的完整流程，支持C++17、跨平台开发，包含详细的构建说明和项目结构规范。该工具显著提升了企业级软件开发的效率和质量。

摘要：本文介绍了MiniMax大模型的技术优势及一个基于wxWidgets的计算器项目。MiniMax M2采用MoE架构，激活100亿参数，价格仅为Claude Sonnet 4.5的8%，在多模态任务中表现优异。计算器项目使用C++17和wxWidgets框架，实现了四则运算、平方开方等功能，采用GTK3界面，包含完整的UI设计、状态管理和错误处理。项目通过CMake构建，代码结构清晰，详细说明了环境配置、编译步骤和关键技术实现。相关资源链接和演示视频已提供。

wxBrowser是一款基于wxWidgets 3.2和WebKit2的C++浏览器应用。采用GTK3界面框架，支持现代网页浏览功能，包括导航按钮、地址栏输入、开发者工具等核心功能。项目通过CMake构建，主要依赖wxWidgets、webkit2gtk等库。技术亮点包括WebKit2设置初始化、新窗口处理机制和开发者工具集成，通过wxWebView封装WebKitWebView实现跨平台网页渲染。该浏览器支持动态和静态两种编译方式，适合作为轻量级浏览器开发参考。

本文档介绍DeepSeek Coding Agents的接入方法，支持Claude Code和OpenCode两种方式。配置步骤包括：1）获取DeepSeek API Key；2）对于Claude Code，需安装npm包并设置环境变量；3）对于OpenCode，需升级到v1.14.24+版本后配置DeepSeek连接。文档提供了详细的环境变量设置示例和操作命令，并强调了使用最新版本和正确API Key的重要性。两种方式最终都能接入DeepSeek-V4-Pro模型进行开发。

本文介绍了一个基于多智能体LLM的中文金融交易学习框架TradingAgents中文增强版。该项目采用混合许可证模式，核心功能包括多智能体分析、A股支持、专业报告导出等，定位为AI金融技术的学习研究平台。项目通过Docker容器化部署，提供完整的中文本地化支持，并包含学习中心帮助用户掌握多智能体交易框架。文章展示了系统配置界面、股票分析报告示例及可视化图表功能，同时说明每次股票分析约消耗0.18元。该项目基于Tauric Research团队的开源框架开发，强调合规使用，禁止未经授权的商业用途。

PicoClaw项目发布：超轻量级AI助手 PicoClaw是一款开源AI助手项目，核心优势在于极致的轻量化设计：内存占用<10MB，成本低至10美元硬件即可运行，1秒内闪电启动。支持跨平台单二进制运行，95%核心代码由AI生成并人工优化。相比同类产品OpenClaw和NanoBot，PicoClaw在资源占用和性价比方面优势显著。 项目提供多平台支持，内置丰富的领域服务，用户可通过简单配置连接包括GLM4.7在内的多种大模型API。开发者可快速部署体验，项目地址：https://github.com

AlphaBot是一款AI股票分析软件，提供开源代码和在线演示。项目采用Docker-Compose快速部署方案，包含后端API服务（FastAPI）、Redis缓存、Celery任务队列和Next.js前端四个容器。用户可通过Docker一键搭建完整环境，实现股票数据的智能分析和可视化展示。该项目具有模块化架构、AI任务队列等亮点，适合开发者学习金融科技与人工智能的融合应用。

《AI量化对冲基金开源项目实践》介绍了基于人工智能的对冲基金开源项目ai-hedge-fund。该项目采用15个智能体协同工作，包括价值投资、增长投资、逆向投资等策略智能体，以及估值、情绪、技术分析等分析模块。文章详细说明了项目部署过程，包括Docker容器启动、前端文件大小写问题修复等解决方案。通过NVIDIA股票分析案例展示了多策略并行研判功能，可视化界面可清晰查看各智能体的分析结论。该项目作为教育用途的AI金融实验平台，虽不适合实际交易，但为量化投资策略研究提供了有价值的参考框架，体现了AI在金融分析

该项目是一个基于人工智能的对冲基金系统，旨在通过多个智能体协同工作，模拟不同投资策略进行股票交易决策。系统包含15个智能体，分别代表不同的投资理念，如价值投资、增长投资、逆向投资等。项目目前处于教育用途，不适用于实际交易。为了适应A股市场，需要对系统进行汉化和API改造，主要涉及汉化核心文件和替换8个数据获取方法，如获取价格数据、财务指标、内幕交易等。改造后的系统将使用A股数据源，如akshare库，以支持A股市场的分析和交易模拟。

目前项目依赖金融数据，只能分析美股。可以使用 deepseek 大模型。

默认上 xinf 也支持。但是运行报错。其实也可以按照官方文档的方式去研究部署。估计是代码中参数没有配置对：内存不够造成的了。

速度不算太快，也需要快6分钟了。比4090D要快一点点。

开源的模型发展的速度还是挺快的。还是可以做制作一些有意思的视频的。

Compshare GPU算力平台隶属于UCloud，专注于提供高性价4090算力资源，配备独立IP，支持按时、按天、按月灵活计费，支持github、huggingface访问加速。【xinference】（14）：在compshare上，使用nvidia-docker方式，成功启动推理框架xinference，并运行大模型，非常简单方便。然后就可以通过界面启动模型了，支持大语言模型，embedding模型，rerank等。UCloud(优刻得)是中国知名的中立云计算服务商，科创板上市，中国云计算第一股。

SD3 Medium 可以根据用户输入的文本描述，重点克服了文生图模型中手部和脸部的挑战，生成足以乱真的的图像。SD3 Medium 还利用其底层的 Diffusion Transformer 架构，高精度地整合了文字元素。根据介绍，Stable Diffusion 3 Medium 模型规格参数达到了 20 亿，可以给用户带来更真实的图片体验。目前用户可以从 Hugging Face 上下载该模型。Stable Diffusion 3 Medium 正式开源。

可用于大语言模型（LLM），语音识别模型，多模态模型等各种模型的推理。无论你是研究者，开发者，或是数据科学家，都可以通过 Xorbits Inference 与最前沿的 AI 模型，发掘更多可能。进行推理，降低延迟，提高吞吐！🌟 模型推理，轻而易举：大语言模型，语音识别模型，多模态模型的部署流程被大大简化。支持分布式部署，通过内置的资源调度器，让不同大小的模型按需调度到不同机器，充分使用集群资源。前沿模型，应有尽有：框架内置众多中英文的前沿大语言模型，包括 baichuan，chatglm2。

GLM-4-9B 是智谱 AI 推出的最新一代预训练模型 GLM-4 系列中的开源版本。在语义、数学、推理、代码和知识等多方面的数据集测评中，GLM-4-9B 及其人类偏好对齐的版本 GLM-4-9B-Chat 均表现出较高的性能。本代模型增加了多语言支持，支持包括日语，韩语，德语在内的 26 种语言。【xinference】（11）：在compshare上使用4090D运行xinf和chatgpt-web，部署大模型glm4-9B-chat大模型，显存18G。是python3.12 版本造成的。

库少了几个，可以向 compshare 反馈下。可以选择中文，进行参数修改。安装完成缺少的 包之后，就可以启动成功了。

新的镜像不错，简化了部署使用，更加的方便了。可以很快的搭建SD和大模型的平台了。

【xinference】（10）：在autodl上运行xinf和chatgpt-web配置联动，xinf运行qwen-1.5大模型做api后端。前端使用chatgpt-web，后端使用xinference 项目做api。第二个是 service ，里面有nodejs的服务接口。配置好环境变量就可以使用 npm 安装了。第一个是web 在当前目录。然后就可以启动成功了。

在modelscope上可以使用免费的CPU和限时的GPU啦，成功安装xinference框架，并部署qwen-1.5大模型，速度7 tokens/s空闲的时候，会被删除掉。数据不会被保存！单次最长10个小时使用！！

专注于提供高性价比算力资源，海量GPU，一键部署，即算即用，让AI训练、深度学习、科研计算效率翻倍。需要选择 ubuntu 版本，可以支持最高 12.4 的cuda驱动。测试qwen 大模型速度。因为运行的方式不一样，不使用了需要删除应用。但是界面启动后需要等待下驱动安装。模型之能运行一个，重启再运行即可。下载速度还是非常快的。否则还是会产生费用。是独享的模型创建的。

【代码】【LocalAI】（12）：本地使用CPU运行LocalAI，一次运行5个能力，embedding模型，qwen-1.5-05b模型，生成图模型，语音转文字模型，文字转语音（只支持英文）

【代码】【LocalAI】（11）：本地使用CPU运行LocalAI，一次运行4个大模型，embedding模型，qwen-1.5-05b模型，生成图模型，语音转文字模型。

树莓派4，上面的ollama qwen 大模型测速，0.5b速度 9.6 words/s，1.8b速度 2.8 words/s。硬件还是不错的，也是arm的芯片。理论上可以支持 localai的代码运行。不知道 OrangePi AIpro(8T) 的性能咋样了。香橙派联合华为精心打造，建设人工智能新生态。ubuntu使用的是22.03 的镜像。

LocalAI的项目里面的embedding 是 bert embedding.不支持BGE 模型，有大神给改造支持了BGE的模型了。

【LocalAI】（9）：本地使用CPU运行LocalAI，一次运行4个大模型，embedding模型，qwen-1.5-05b模型，生成图模型，语音转文字模型。它允许您在本地使用消费级硬件运行 LLM（不仅如此），支持与 ggml 格式兼容的多个模型系列。支持CPU硬件/GPU硬件。LocalAI 是一个用于本地推理的，与 OpenAI API 规范兼容的 REST API。替换了镜像里面的aio 文件夹。把模型都使用国内镜像进行下载地址替换了。使用了modescope 下载地址。

【LocalAI】（6）：在autodl上使用4090部署LocalAIGPU版本，成功运行qwen-1.5-32b大模型，占用显存18G，速度 84t/s。它允许您在本地使用消费级硬件运行 LLM（不仅如此），支持与 ggml 格式兼容的多个模型系列。支持CPU硬件/GPU硬件。LocalAI 是一个用于本地推理的，与 OpenAI API 规范兼容的 REST API。24G的显存占用了 18G,同时速度还可以。配置成功之后就可以启动了。

cuda的硬件版本是 12.4 比如 4090D 的，可以使用local-ai-cuda12-Linux-x86_64 版本。其他的情况，比如 cuda 是12.2 或这 11.8 的情况。就只能使用local-ai-cuda11-Linux-x86_64 的版本了。

在linux上使用一个二进制文件，成功运行embeddings和qwen-1.5大模型，速度特别快，有gitee配置说明。它允许您在本地使用消费级硬件运行 LLM（不仅如此），支持与 ggml 格式兼容的多个模型系列。支持CPU硬件/GPU硬件。LocalAI 是一个用于本地推理的，与 OpenAI API 规范兼容的 REST API。本身localai的后端实现就是 llama.cpp ，所以也可以支持qwen大模型。modelscope.cn 进行下载，速度会更快。支持gguf的量化版本。

【LocalAI】（3）：超级简单！在linux上使用一个二进制文件，成功运行embeddings和qwen-1.5大模型，速度特别快，有gitee配置说明。它允许您在本地使用消费级硬件运行 LLM（不仅如此），支持与 ggml 格式兼容的多个模型系列。支持CPU硬件/GPU硬件。LocalAI 是一个用于本地推理的，与 OpenAI API 规范兼容的 REST API。

可用于大语言模型（LLM），语音识别模型，多模态模型等各种模型的推理。通过 Xorbits Inference，你可以轻松地一键部署你自己的模型或内置的前沿开源模型。无论你是研究者，开发者，或是数据科学家，都可以通过 Xorbits Inference 与最前沿的 AI 模型，发掘更多可能。借助 Xinference，您可以使用任何开源 LLM、嵌入模型和多模态模型在云端或本地环境中运行推理，并创建强大的 AI 应用。然后就可以查看全部支持的模型进行启动。启动Xinference服务。

Xorbits Inference (Xinference) 是一个开源平台，用于简化各种 AI 模型的运行和集成。借助 Xinference，您可以使用任何开源 LLM、嵌入模型和多模态模型在云端或本地环境中运行推理，并创建强大的 AI 应用。【xinference】（7）：在autodl上，使用xinference一次部署embedding，rerank，qwen多个大模型，兼容openai的接口协。在autodl上下载项目主要是安装。启动访问之后可以进行安装各种软件了。启动Xinference服务。

特别注意是 docker-compose-linux-armv7 版本，linux版本。安装docker 和 docker-compose 命令。

【代码】【ai技术】（3）：使用脚本对树莓派4，上面的ollama qwen 大模型测速，0.5b速度 9.6 words/s，1.8b速度 2.8 words/s，也是非常不错了。

树莓派3，安装ollama本地运行ollama大模型，测试速度。

https://github.com/bbycroft/llm-viz或者镜像：https://gitcode.com/bbycroft/llm-viz.git项目 主要项目有：LLM 可视化：运行推理的 GPT 风格 LLM 网络的 3D 互动模型。 [WIP] CPU 模拟：一个带有完整执行模型的 2D 数字电路图编辑器，展示了一个简单的基于 RISC-V 的 CPU。LLM 可视化 这个项目显示了一个 GPT 风格网络的工作实现的三维模型。也就是说，这是 OpenAI 的 GPT-2、GPT-

特别注意是 docker-compose-linux-armv7 版本，linux版本。然后安装docker 执行脚本即可。

【代码】【无标题】在jetson上安装 ollama。

Ollama 是一个强大的框架，设计用于在 Docker 容器中部署 LLM。Ollama 的主要功能是在 Docker 容器内部署和管理 LLM 的促进者，它使该过程变得非常简单。它帮助用户快速在本地运行大模型，通过简单的安装指令，可以让用户执行一条命令就在本地运行开源大型语言模型，例如 Llama 2。使用ollama + chatgpt-web 实现本地大模型执行。然后访问：http://localhost:3002/ 即可。CPU 推荐使用 7b及以下版本。