Hsiao的二进制生活

GraphRAG利用大型语言模型（LLMs）构建知识图谱并回答用户问题，基于图的、实现检索增强生成。与传统的RAG方法相比，GraphRAG通过创建基于图的文本索引，增强了对数据的全局理解能力，特别是在处理需要跨文档或跨领域综合信息的查询时。不仅能够处理大量信息，还能通过连接这些信息提供更深入的见解。

本文介绍了如何快速在Microsoft Copilot Studio利用私有数据创建一个专用智能助手，从无代码的引导式图形体验到集成的自然语言处理，Copilot Studio 提供了强大的工具，让组织中的任何人都能够快速构建智能助手，以提高工作效率和优化客户体验。下期我们将进一步介绍在Copilot Studio中创建主题、流程（集成Power Automate）、测试等更多进阶功能。记住，技术的力量在于它如何帮助我们实现目标。

上期我们介绍了在Visual Studio Code中通过VS Code AI Toolkit使用Phi-3模型，今天我们接着聊聊如何继续通过AI Toolkit在Visual Studio Code中微调模型。

Visual Studio Code AI Toolkit 是一个为 Visual Studio Code 设计的扩展，它提供了一系列强大的功能，包括下载、测试、微调 AI 模型以及使用应用或云部署 AI 模型的能力。相较于 LM Studio 和 Ollama，AI Toolkit与 Visual Studio Code 的深度集成，具有更好的继承性和易用性。此外，它支持广泛的模型操作，包括模型的发现、下载和运行，以及与云服务的无缝整合，使得模型的开发和部署更加便捷。

在Microsoft 365的庞大生态系统中，SharePoint常常被忽视，但它却是整个平台的核心。SharePoint不仅承载着OneDrive、Teams、Power Platform等所有Microsoft 365产品的内容存储，更是企业协作和内容管理的基石。助AI技术的加持，SharePoint正在迎来第二春，通过智能化的内容管理和处理，帮助企业高效地利用数据和文档资源，实现更高的生产力和业务价值。

通常，使用GPU特别是NVIDA的GPU加速AI模型是最佳的方法，但这年头英伟达的显卡不是一般贵，很多朋友苦于囊中羞涩，还在使用核显中。DirectML的设计理念类似于DirectX在图形处理领域的作用，即通过统一的接口，充分利用底层硬件的计算能力，为开发者提供高效、简便的开发体验。库来提升深度学习框架的运行效率，通过改进内存分配和数据传输机制来减少内存碎片化和不必要的数据复制，应用量化技术来压缩模型，降低内存需求和计算复杂度，并使用优化的数学计算库。

网上有很多人吐槽“AI PC”，说这个无非是装了一些AI应用，其实和硬件没关系，X79洋垃圾一样可以用。这话对也不对，确实目前大多数AI应用都依赖云服务，说白了，给个浏览器就能用；但是对于利用本地算力的应用，这些老志强可能就力不从心了，此时就轮到这些“AI PC”发力了。例如这位朋友的“AI PC”装备的Intel Ultra处理器内置了NPU。NPU（神经处理单元）是大型 SoC 上的专用处理器或处理单元，专为加速神经网络操作和 AI 任务而设计。

的确，我们这些身处 AI 领域的人，每天都在谈论“预训练”、“微调”、“大模型”，却很少停下来思考，这些专业术语对于圈外人来说意味着什么。GGUF格式是用于存储大型模型预训练结果的，相较于Hugging Face和torch的bin文件，它采用了紧凑的二进制编码格式、优化的数据结构以及内存映射等技术，提供了更高效的数据存储和访问方式。因此，“训练好的大模型”并不是一个可以直接使用的程序，而更像是一个 “半成品”。你需要准备食材：鸡肉、花生、辣椒等等，这些食材就好比 “数据”，是训练大模型的原材料。

Windows 11 AI PC 是更快、更智能的 Windows PC。凭借可实现每秒超过 40 万亿次运算（40+ TOPS）的全新 NPU 芯片的强大性能，以及提供长效续航并支持先进的 AI 模型，Windows 11 AI PC 能够帮助您完成在其他 PC 上无法实现的事情。亦或是借助实时字幕突破语言障碍，该功能可以将包含中文在内的 40 多种语音实时翻译成英文字幕。今日，微软向世界介绍了一个专为 AI 体验而设计的全新 Windows PC 品类：Windows 11 AI PC。

打开LM Studio模型文件存放路径（默认路径C:\Users\用户名\.cache\lm-studio\models\），创建文件夹“\Microsoft\Repository”，然后放入“Phi-3-mini-4k-instruct-fp16.gguf”。中，我们已经介绍微软Phi-3小语言模型和在Ollama中使用Phi-3-mini，很多读者反馈Ollama的部署对于他们还是很有挑战，今天我们介绍使用LM Studio使用Phi-3-mini，打造运行在本地计算机的“ChatGPT”

通过优化后的ONNX Runtime，可以在不同的终端上推理量化的生成性AI模型。在ONNX Runtime的生成性AI中，你可以通过Python、C#、C/C++的API进行AI模型推理。当然，iPhone上的部署可以利用C++的ONNX Runtime API来实现生成性AI的推理。ONNX Runtime可以轻松地将训练好的模型部署到不同的设备上。在iPhone 12(A14)上，Phi-3-mini运行速度依然可以接受，如果使用更新的设备，或能获得硬件加速支持，我相信运行效果能够更佳。

Phi-3-mini 不仅可以在传统计算设备上运行，还可以在移动设备和物联网设备等边缘设备上运行。本博客的内容希望让不同的开发者结合不同的技术框架，探索 Phi-3-mini 发布的不同模型格式，让大家可以先推断出 Phi-3-mini。Phi-3系列包括phi-3-mini、phi-3-small和phi-3-medium三个不同规模的版本。Phi-3-mini的特性使之非常适合在云和边缘设备中使用，您可以选择LlamaEdge ，将Phi-3-mini运用于云原生、边缘和去中心化应用程序。

由于语义排名是在 Azure AI 搜索堆栈中完成的，因此我们的数据显示，语义排名器与混合搜索相结合。我们在预检索中使用LlamaIndex 进行查询转换，并使用 Azure AI 搜索进行高级检索，可以生成构建更好的RAG应用程序。此外，Azure AI 搜索还支持矢量查询中的筛选器。是一个信息检索平台，具有尖端的搜索技术和无缝的平台集成，专为任何规模的高性能生成式 AI 应用程序而构建。通过与 LlamaIndex 的协作，可以提供更简单的方法来优化预检索和检索，以实现高级 RAG应用。

在当今的数字化时代，安全工作流程的优化变得前所未有的重要。安全团队需要快速、有效地响应安全事件，以保护组织的数据和资产。Microsoft Copilot for Security提供了一种强大的工具——自定义Promptbooks，它可以帮助安全专家通过自动化和定制化的工作流程来提高效率和响应速度。

借助灵活的、基于消费的定价模型，客户可以从小规模开始进行试验，并根据自己的使用情况进行学习，以增长到满足其业务需求和预算所需的容量。微软Copilot for Security的发布，得到了业界专家的广泛认可。一位资深安全分析师评价道：“Copilot for Security不仅提升了安全事件的处理速度，更重要的是，它通过智能化的方式，提高了安全防护的准确性和有效性。该工具利用先进的机器学习和人工智能技术，通过自动化的方式，帮助企业快速识别和响应潜在的安全威胁，大幅提高了安全事件的处理效率和准确性。

SharePoint 是微软开发的协作和内容管理平台。自2001年以来可用，主要用于企业。它提供了一套服务，使组织能够在组织内部高效地共享和管理文档、信息和想法。SharePoint 允许创建内部网站以促进团队内的协作、文档存储和管理以及版本跟踪。该平台还提供高级特性，如论坛、表单、工作流和商业分析。部署在微软数据中心托管并由微软维护的 SaaS 版本。部署在服务场的经典服务器版本。SharePoint 赋予你通过动态站点、个性化新闻和安全文件共享来协作、通知和分发的能力。

使用ODBC在Power BI中读取SAP MaxDB中的数据

今天又同学邮件问怎么把数据库中DATETIME类型变成“YYYY-MM-DD”，所以特地把Convert函数关于时间的整理了一下，方便大家查询Select CONVERT(varchar(100), GETDATE(), 0): 05 16 2006 10:57AM Select CONVERT(varchar(100), GETDATE(), 1): 05/16/06 Select

将高版本的的SQL Server数据库移到低版本的SQL Server是一件十分蛋疼的事，最后的好方法就是生成数据库脚本，然后运行SQL脚本重新在目标数据库服务器上生成新的数据库。从SQL SERVER 2008开始，我们就可以很方便的导出数据脚本，而无需再借助存储过程。在SQL Server Mangement Studio 2008 的对象资源管理器中，右击需要导出

昨天下载安装了navicat 9.0 Premium（高级英文版），连接mysql正常，看到他同时支持sqlserver、oracle、sqlite和postgresql，也想来连接一下oracle，进行集中管理。1、但是连接时候先是报出监听错误、不能解析oracle SID标识符，我用sqlplus和plsql连接却是正常的！！！这说明我的配置文件是没有问题的。2、重新将连接方式