AMD推出开源项目“GAIA”实现本地大模型高效运行

AMD宣布推出专为本地运行大语言模型（LLM）设计的开源应用GAIA，目前支持Windows平台。GAIA是一款生成式AI应用，可在Windows PC上实现本地化私密运行LLM，并针对锐龙AI 300系列处理器进行了优化。该应用通过NPU提升AI任务性能，并支持混合部署量化LLM。

GAIA基于ONNX TurnkeyML的Lemonade SDK开发，采用检索增强生成（RAG）技术，支持Llama、Phi等主流模型。其四大功能模块包括Chaty聊天机器人、Clip视频搜索专家、Joker笑话生成器和Simple Prompt测试工具。

AMD提供普通版和混合版安装方案，普通版兼容任意Windows设备，混合版专为锐龙AI 300系列优化。GAIA的本地化处理确保数据隐私，响应延迟降低至毫秒级，并支持离线运行。该项目采用MIT开源协议，未来或扩展至多平台支持。

https://www.amd.com/en/developer/resources/technical-articles/gaia-an-open-source-project-from-amd-for-running-local-llms-on-ryzen-ai.html

https://github.com/amd/gaia