- 博客(51)
- 收藏
- 关注
RSS订阅原创 Rust编程语言到底是不是炒作的噱头？
Rust是一种系统编程语言，由于独特的安全、性能和并发性支持，近年来备受关注。作为一名开发人员，你可能想知道Rust是否适合下一个项目。我们在这篇博文中将探讨2024年Rust流行背后的原因以及它如何改善你的开发体验。
2024-07-11 10:00:00
264
原创 HippoRAG如何从大脑获取线索以改进LLM检索
知识存储和检索正在成为大型语言模型(LLM)应用的重要组成部分。虽然检索增强生成(RAG)在该领域取得了巨大进步，但一些局限性仍然没有克服。俄亥俄州立大学和斯坦福大学的研究团队推出了HippoRAG，这是一种创新性的检索框架，其设计理念源于人类长期记忆系统中的海马索引理论。HippoRAG的引入使大型语言模型（LLM）应用程序能够更有效地集成动态知识，并更快、更准确地检索重要信息。
2024-07-10 10:00:00
556
原创 谷歌版“愚公移山”！历时四年，谷歌如何将数十亿行代码从Perforce迁移到全新的版本控制系统
大约在2013年，谷歌的源代码控制系统每天为超过25000名开发者提供服务，所有这些服务都来自于藏身于楼梯角落的一台服务器。
2024-07-09 10:00:00
723
原创 基于开源AI数据框架LlamaIndex构建上下文增强型LLA应用
不过，并非所有这些框架都有完全相同的应用范围和功能支持，但就流行程度而言，LangChain的Python代码仓库有超过80K的星级好评，几乎是LlamaIndex（超过30K的星级好评）的三倍，而相对最晚出现的Semantic Kernel已经获得超过18K的星级好评，略高于LlamaIndex的一半，Haystack的代码仓库有超过13K的星级好评。这个组件目前处于公测阶段。然后，检索步骤使用语义相似性搜索，通常使用查询嵌入和存储向量之间的角度的余弦，来找到“附近”的信息，以便在增强提示中使用。
2024-07-07 21:00:00
664
原创 简单且循序渐进地查找软件中Bug的实用方法
Bug”这个词常常让许多开发者感到头疼。即使是经验丰富、技术娴熟的开发人员在开发过程中也难以避免遭遇到 Bug。软件中的故障会让程序员感到挫败。我相信在你的软件开发生涯中，也曾遇到过一些难以排查的问题。软件中的错误可能会导致项目无法按时交付。因此，发现并解决这些问题至关重要。在本文中，我们将探讨如何以简单且循序渐进的方式定位软件中的故障。
2024-07-07 10:00:00
891
原创 如何使用HippoRAG增强LLM的记忆
大型语言模型（LLM）已经证明是一种非常宝贵的思考工具。经过大量文本、代码和其他媒体数据集的训练，它们能够创作出接近人类水平的文章、翻译语言、生成图像，还能以信息丰富的方式回答人们提出的问题，甚至可以编写不同类型的创意内容。但是，尽管它们功能强大，即使是最先进的LLM也有一个基本的限制：知识的时效性。它们所“知道”的一切知识都是由所接受的训练数据决定的，这使它们无法适应新的信息，也无法了解人们的具体需求和偏好。为了克服这一限制，研究人员开发了检索增强生成(RAG)。
2024-07-06 21:00:00
504
原创 Python用户宝典：了解并实现遗传算法
问题：对具体函数进行计算；f (x) = x^2f(x) = x^2，只对x值取整。适应度函数：对于染色体二进制为x的情况，适应度函数的一个例子可能是f(x)= x^2。总之，由于模拟物种进化，遗传算法对于解决无法直接解决的优化问题具有一致性和有效性。因此，一旦您掌握了遗传算法的基本要素，并了解了如何用Python实现遗传算法，解决复杂任务就会容易得多。选择、交叉和突变使您能够对解决方案进行修改，并不断获得最佳或接近最佳的答案。
2024-07-06 10:00:00
807
原创 使用本地部署的Hermes 2 Pro构建开放的LLM应用程序
Hermes 2 Pro -Llama- 3 8B擅长自然语言处理任务、创意写作和编程协助等。它的一项突出功能是出色的函数调用功能，便于执行外部函数，并检索与股票价格、公司基本面、财务报表等相关的信息。该模型利用特殊的系统提示和多轮函数调用结构以及新的ChatML角色，使得函数调用可靠且易于解析。据基准测试显示，Hermes 2 Pro-Llama-3在与Fireworks AI合作构建的函数调用评估中获得了出色的90%。
2024-07-04 10:00:00
1321
原创 如何在主动动态安全中使用人工智能驱动的威胁分类提高防御精准度
面对当今世界不断演变的网络威胁，人工智能和网络安全将会发挥重要的防护作用。在数据泄露和网络攻击日益突出的时代，人工智能和网络安全之间的合作成为数字安全战场上的强大盟友。本文将深入研究这两个领域的融合，揭示它们在彻底改变威胁检测、事件响应和漏洞管理方面的综合潜力。在遭遇网络攻击之后，构建快速有效的事件响应机构至关重要。组织需要了解人工智能如何简化事件响应流程，自动化分类威胁，并促进快速补救工作。
2024-07-03 21:00:00
805
原创 MLLM QLoRA微调实战：基于最新的袖珍Mini-InternVL模型
当今，多模式LLM的发展才刚刚开始，未来充满了令人兴奋的可能性。自动化文档处理领域在MLLM（多模态大型语言模型）时代具有巨大的潜力。这些模型可以彻底改变我们从合同、发票和其他文档中提取信息的方式，只需要最少的训练数据。通过整合文本和视觉，他们可以以前所未有的精度分析复杂文档的布局，为更高效、更智能的信息管理铺平道路。人工智能的未来是多模式的，InternVL和QLoRA是帮助我们在小型的计算预算上释放其潜力的强大工具。
2024-07-03 17:00:00
586
原创 如何避免Java资源的过度配置
作为开发人员，我们经常会陷入两难的局面：我们既希望在应用中使用闪亮的新工具或代码库，又忌惮在部署到生产环境之后可能出现的未知问题。毕竟，没有人希望自己的手机老是在半夜叮咚作响，更不用说来自为了保持应用能够以多少个9高可用性运行的压力了。这往往塑造了开发人员在应用构建和编程时具有创新精神，却在运营场景中过于保守的状况。
2024-07-03 10:00:00
538
原创 生成式AI多代理系统：技术团队的秘密武器
如今，许多开发人员和产品团队使用生成式人工智能（GenAI）代理来帮助构建软件或应用程序——真正的创新出现在多代理系统上。就像管弦乐队可以演奏出丰富复杂的交响乐，独奏音乐家只能在一个维度发出声音，多代理系统不仅限于以任务为导向的角色，真正助力开发和战略团队。比如说，梅奥诊所、沃达丰和ADT等不同公司的开发人员使用谷歌的GenAI代理构建器在多代理环境中创建应用程序。使用多代理系统（下面会详细介绍），开发人员可以以较低的成本和创纪录的时间制作功能丰富、高度直观的产品，从而取悦用户。
2024-07-02 17:00:00
638
原创 端口扫描攻击检测及防御攻略
端口是一个通信端点，数据单元（称为数据包）通过它流动。传输层协议使用端口号码进行通信和交换数据包。最著名的传输层协议是传输控制协议（TCP）和用户数据报协议（UDP），前者是一种面向连接的协议，在发送数据之前需要建立连接；后者是一种无连接协议，不需要建立双向连接即可开始通信。TCP和UDP使用的每个端口都与一个特定的进程或服务相关联。端口的取值范围是0 ~ 65535，在网络连接的设备之间是标准化的。端口0在TCP/IP网络中是保留的，不应该在TCP或UDP消息中使用。
2024-07-02 10:00:00
674
原创 如何使用AI学习一门编程语言？
这里有一个建议送给那些不擅长记笔记，但可能想要回忆前一天工作的那些人。在长时间的学习结束后，不妨让当前的聊天会话总结你的所有问题，并为每个问题列出一句话的答案。响应是出色的快速参考指南，供你的下一次学习会话参考。这也是一篇很好的博文，你可以练习与他人分享你的想法和学习经验。
2024-07-01 21:00:00
654
原创 存储过程的细粒度访问控制
存储过程本身通常必须提供复杂的访问控制作为其实现的一部分，以确保调用有效，即使底层数据本身受到细粒度访问控制的保护。大多数企业数据库都提供了细粒度的安全机制，确保只有经过授权的用户才能对数据进行访问和修改，而且可以控制到具体的行和列级别。这些都是简单的示例，但可以让人们了解：使用可编程数据库代理保护存储过程相当简单，如果不能(或不想)更改存储过程，那么它尤其有用。用户可以执行给定的存储过程，也可以不执行。一旦执行了存储过程，它可能会返回一些数据，这些数据可能是单独的值，也可能是一个或多个结果集。
2024-07-01 17:00:00
581
原创 LLM原生开发路线图指南
尽管这种策略看起来可能是非常规的，而且一开始可能会产生糟糕的结果，但它可以为你的系统打开基础。在设计我的LLM工作流程图或LLM原生架构的每一片“叶子”时，我都会遵循魔幻三角形（The Magic Triangle）原则来确定何时何地修剪树枝、拆分树枝或加厚根部（通过提示工程技术），并挤出更多的柠檬。这很令人兴奋，但也让人陷于迷茫——你可能会发现自己在这个过程中迷失了方向，不知道该做什么，或者如何将你的新颖的想法付诸实践。在写这篇文章的时候，LLM工程仍然是全新的，相应的岗位招聘可能非常具有挑战性。
2024-07-01 10:00:00
883
原创 如何为数据库中的位图添加动态水印
许多数据库存储了以blob或文件形式保存的位图，其中包括照片、文档扫描、医学图像等。当这些位图被各种数据库客户端和应用程序检索时，为了日后的识别和追踪，有时需要在检索时为它们添加唯一的水印。在某些情况下，人们甚至希望这些水印是不可见的。这种动态的位图操作可以很容易地通过可编程的数据库代理完成，无需对持久化存储的位图进行任何修改。
2024-06-30 21:23:51
406
原创 如何使用Hugging Face Transformers为情绪分析微调BERT？
本教程介绍了使用Hugging Face Transformers为情绪分析微调BERT，包括搭建环境、数据集准备和标记化、数据加载器创建、模型加载和训练，以及模型评估和实时模型预测。为情绪分析微调BERT在许多实际场景下都具有其价值，比如分析客户反馈、跟踪社交媒体情绪等。通过使用不同的数据集和模型，您可以稍加扩展，用于自己的自然语言处理项目。Hugging Face Transformers文档：https://huggingface.co/transformers/
2024-06-27 20:30:00
534
原创 哪种编程语言最省电？以及，编程质量与耗电多少有关？
在论文的最后，研究人员补充说，进一步的研究希望能够检查总内存使用随时间的变化是否与能量消耗更好地相关联。他们在网上共享了他们的数据，建议这可以让未来的研究人员更容易比较.NET语言或JVM语言。对于使用移动应用程序、物联网系统或其他从有限电源中汲取能量的应用程序的开发人员来说，功耗是一个主要关注点。但最终，这项研究可能也会让程序员们感到他们最讨厌的东西：模糊性。研究人员报告说，如果你在寻找一种最好的编程语言，“这个问题没有具体和最终的答案。
2024-06-27 17:00:00
844
原创 构建高度可扩展的云原生应用程序的五个技巧
当开发人员着手重建托管Apache Kafka服务的核心引擎时，需要满足一些独特的需求，这些需求是成功的云原生平台的特征。这些系统必须是多租户的，易于扩展以服务数千个客户，并且主要由数据驱动的软件而不是运行人员进行管理。它们还应在工程师可以继续快速创新的环境中，为工作负载不可预测的客户提供强大的隔离和安全性。软件服务提供商Confluent公司在去年展示了Kafka引擎的重新设计。其设计和实现的大部分内容适用于其他构建大规模分布式云计算系统的团队，例如数据库或存储系统。
2024-06-27 10:00:00
717
原创 编写干净高效Python代码的七个策略
是否曾经将您的Python代码与经验丰富的开发人员的代码进行比较，感到明显的差异？因此，不妨实现一个简单的基于装饰器的中间件，它将记录服务请求所花费的时间。typing库提供了一组丰富的特性，包括可选的各种iterable、泛型以有力支持自定义类型的功能，使开发人员能够精确而清晰地表达复杂的数据结构和关系。然而，用于输入验证的断言并不是最佳实践，因为它们很容易被禁用，会导致生产环境中的意外行为。重要的是要考虑一个函数应该做什么，然后将所有的设计决策和实现记入文档，因为随着时间的推移，人们不断更改代码库。
2024-06-26 20:30:00
618
原创 应用程序任务驱动：详细解析LLM的评估指标
（1）BLEU (Bilingual Evaluation Understudy)：这是一种广泛使用的基于准确性的指标标准，通过将机器翻译的文本与人类翻译的文本进行比较来评估其质量。它的复杂性可能从简单的基于事实的问题到需要推理和更复杂的场景。在自然语言处理(NLP)的动态环境中，大型语言模型(LM)性能的评估是衡量其在各种下游应用程序中的有效性的关键因素。从传统的摘要任务到更细致的场景评估，了解用于评估LLM熟练程度的不断发展的方法，揭示了它们的优势、局限性以及在推动NLP研究和应用方面的实际意义。
2024-06-26 17:00:00
969
原创 如何为软件工程优化ChatGPT和其他大模型
自ChatGPT发布以来，上至企业、下到软件工程师都在致力于寻找如何通过使用大语言模型（LLM），来提高工作效率的方法。虽然大多数LLM都能够为复杂的问题生成代码示例，但是具体如何将其集成到软件开发环境的过程，却各有不同。在最近的一项研究中，来自查尔姆斯理工大学（Chalmers University of Technology）、哥德堡大学（University of Gothenburg）和瑞典RISE研究所的研究团队，对10家不同公司的24名专业软件工程师进行了为期一周的跟踪调查。
2024-06-26 10:30:00
503
原创 突破架构瓶颈：克服软件系统中的漂移和侵蚀
在软件密集型系统中，技术债务指的是那些在短期内权宜的设计或实现，这些构造设置了一个技术背景，使得未来的变更更为昂贵甚至不可能。技术债务是一种或有负债，其影响主要限于系统内部质量，特别是可维护性和可演化性。” ——Avgeriou等人，2016年技术债务总结了软件开发中过去决策和捷径累积的后果，包括低质量代码、缺失的文档和严重耦合等问题。这些问题可能源自多种原因，如战略性权衡或需求的意外变化等。尽管许多工程团队记录了他们管理技术债务的策略——如谷歌和的做法——但关于特定类型的技术债务，即架构技术债。
2024-06-25 21:54:01
765
原创 SQLCMD完全指南：掌控 SQL Server
然而，有时候也会遇到一些难以通过 SSMS 解决的问题，尤其是在执行临时 SQL 脚本或恢复崩溃的 SQL Server 实例时。SQL Server中的PowerShell模块(SQLPS)也提供了一种将SQL脚本输出导入文本文件的方式。在“选项”对话框中，选择“查询执行”→“SQL Server”→“常规”，并勾选“默认情况下，在新查询中打开SQLCMD模式”复选框。首先，我已经创建了一个SQL脚本，其中包含一个SQL查询，该查询用于获取在WideWorldImporters数据库中创建的对象列表。
2024-06-21 10:00:00
679
原创 如何训练LLM自动在RAG和参数记忆之间进行选择
Adapt-LLM是由意大利博岑-博尔扎诺自由大学(Bozen-Bolzano)和意大利Bruno Kessler基金会的研究人员开发的一项技术，可以训练LLM动态地确定是否需要在问答任务中检索额外的场景信息。但是，这些技术在模型必须动态使用新信息(例如最近的新闻或未包含在训练语料库中的私人信息)的场景中是无用的。如果模型返回错误的答案，则创建两个训练实例：一个是包含问题和答案的“参数提示”，另一个是包括问题、场景、说明和答案的“场景提示”。然后，对于每个元组，给模型一个没有场景的问题。
2024-06-20 17:30:00
1696
原创 深度学习算法之稀疏自编码器完整剖析
换言之，稀疏自动编码器有助于解决“多义性”问题——通过专注于保持单一解释的稀疏激活特征，同时对应于多种解释的神经激活——换句话说，更多的是单向的。想象一下，一个作家的桌子上堆满了不同的纸张——有些是他正在写的故事的笔记，有些是定稿的副本，有些又是他充满动作的故事的插图。值得庆幸的是，作者有一个非常高效的助手——这个助手确保杂乱的桌子定期清洁，将类似的物品分组，整理并放在正确的位置。正如我们在之前的所有模型中所看到的，一个简单的权重和偏差矩阵与ReLU相结合后其功能是强大的，能够创造奇迹。
2024-06-20 10:00:00
762
原创 用DataOps释放数据项目的潜力
各行各业的公司越来越关注收集数据，并寻找创新的方法以获得宝贵的见解。企业组织愿意投入大量的时间和资金来实现这一目标。据IDC公司声称，数据和分析软件以及云服务市场在2021年达到了900亿美元，随着企业继续投入于人工智能和机器学习以及现代数据项目，预计到2026年将增加一倍以上。然而，尽管投入了大量资金，数据项目获得的结果却常常不尽人意。最近，麦肯锡对前沿的主要分析项目进行了一项调查，结果发现企业将80%的时间用于数据准备之类的重复性任务，而这类任务的增值效果非常有限。
2024-06-19 17:30:00
651
原创 怒删180个服务器！39岁程序员被裁后实施报复，导致公司损失91.8万新币
近日一起由解雇引发的极端事件震撼业界：39岁的Kandula Nagaraju因对公司解雇决定心怀不满，于6月10日，被判处两年零八个月监禁，罪名涉及擅自侵入前雇主的计算机系统。据悉，Nagaraju之前就职于新加坡电信集团旗下的恩士迅（NCS），由于工作表现不佳，其劳动合同于2022年10月被终止，官方最后工作日是2022年11月16日。Nagaraju被指控未经授权闯入系统，并删除了180台虚拟服务器，这一行为给公司造成了重大的经济损失，估价约为91.8万新币（当前约折合492.5万人民币）。
2024-06-19 17:00:00
303
原创 零信任是对抗AI威胁的“解药”
随着人工智能的不断发展，针对这些技术的威胁也将不断发展。零信任模型提供了一种有效的方法来消除这些威胁，它假定没有隐含信任，并验证整个IT环境中的一切。它应用粒度访问控制，提供全面的可见性，并促进持续的安全监控，使其成为对抗基于人工智能的威胁的重要工具。作为IT专业人员，我们必须在保护组织安全方面具有前瞻性和创新性。人工智能正在重塑我们的运营，使我们能够简化工作，做出更好的决策，并提供更好的客户体验。然而，这些好处也带来了独特的安全挑战，需要全面和前瞻性的网络安全方法。考虑到这一点，是时候采取行动了！
2024-06-19 10:00:00
1190
原创 Mojo崛起：AI-first 的编程语言能否成为新流行？
眨眼之间，你可能会错过又一种编程语言的发明。有个笑话说，程序员花费20%的时间编写代码，80%的时间决定使用什么语言。事实上，编程语言如此之多，以至于我们不确定实际有多少种。据估计，至少有700种编程语言在不同程度上被使用和滥用。现在存在的编程语言似乎总有改进的空间。随着AI不断推动技术进步，它也在挑战我们最流行的编程语言，如Java、C和Python。像其他领域一样，AI是一个迫切需要新编程语言来解决的问题。诸如Mojo、Bend等AI-first的编程语言能否获得开发人员的芳心？
2024-06-18 19:00:00
1189
原创 分分钟创建PPT的八个在线AI工具
除了这些主要功能外，SlidesAI还为用户提供了额外的工具，比如针对特定幻灯片定制的图片建议、用于精炼内容的文本释义选项以及文本到幻灯片功能，后一项功能使用户能够通过简单的复制粘贴操作将现有文本轻松转换为演示幻灯片。尤其是对PowerPoint而言，Copilot充当了AI助手的角色，可以将想法轻松转化为精美的幻灯片，简化了演示文稿的创建。媒体集成功能确保内容是动态的、引人入胜的。Beautiful.ai是一个基于Web的工具，可以帮助用户在分分钟内创建出色的演示文稿，使用AI根据内容和偏好设计幻灯片。
2024-06-18 17:30:00
770
原创 为何说小语言模型是AI界的下一大热门？
在AI领域，科技巨头们一直在竞相构建越来越庞大的语言模型，如今出现了一个令人惊讶的新趋势：小就是大。随着大语言模型（LLM）方面的进展出现了停滞的迹象，研究人员和开发人员日益开始将注意力转向小语言模型（SLM）。这种紧凑、高效、适应性强的AI模型正在挑战“越大越好”这个观念，有望改变我们对待AI开发的方式。
2024-06-18 15:00:00
839
原创 如何将大型语言模型（LLM）转换为嵌入模型
然而，他们主要关注的是监督微调。在一项新的研究中，魁北克人工智能研究所(Mila)和ServiceNow Research公司的研究人员采用了一种简单的无监督方法——LLM2Vec，可以将仅解码器(Decoder-only)的LLM转换为强大的文本编码器。麦吉尔大学和魁北克人工智能研究所(Mila)博士生、LLM2Vec论文的主要作者Parishad BehnamGhader表示，“我们需要强大的指令跟随文本编码器，例如应用在检索中，这是我们探索如何使用仅解码器的LLM进行文本表示的原因。
2024-06-18 10:00:00
1233
原创 利用大语言模型增强网络抓取：一种现代化的方法
大语言模型(LLMs)被视为下一代计算机程序，它们可以通过阅读和分析海量文本数据进行学习。在当今时代，LLMs具备了以人类般的叙述方式进行写作的惊人能力，使其成为处理语言和理解人类语言的高效工具。这种出色的能力在需要深入把握文本上下文的场景中表现尤为突出。
2024-06-18 10:00:00
1562
原创 分布式数据库监控究竟有多复杂？看完这篇你就懂了！
自定义的协议可以更好地解决特定的边缘情况，因为开发人员了解所使用的监控系统。然而，缺点是如果使用其他收集系统，则需要支持多个适配器，并且存在重复解决行业标准协议中已解决问题的风险。
2024-06-17 19:00:00
946
原创 分分钟完成Excel任务的十大AI工具
通过无缝集成Python和各种人工智能(AI)工具，Excel的功能正在迅速发生转变，彻底改变了工作节奏。去年，微软宣布了Python集成的公开预览版，Excel因此迎来了重大升级。这意味着开发人员和数据分析师不再需要安装额外的软件来利用Python的功能，因为Excel现在与内置连接件和Python集成的power查询捆绑在一起了。将Python集成到Excel中实现了开发者由来已久的目标，从此不用依赖Pandas read Excel、OpenPyXL和PyXLL之类的工具。
2024-06-17 15:00:00
780
原创 开发arXiv论文引擎机器人程序：基于RAG＋LangChain＋Chainlit＋ChromaDB
为了构建名称为Copilot的嵌入式Web应用程序，我将使用Chainlit中的Copilot插件功能，并结合Literal AI公司(https://literalai.com/)的可观察性特征。整个应用程序的架构如下图所示。source=post_page-----9c345fcd1cd8--------------------------------我撰写的文章，了解更全面的解释。在上面的代码中，我们通过指向托管我们应用程序的Chainlit服务器的位置，将Copilot组件嵌入了我们的网站中。
2024-06-17 10:00:00
706
原创 大模型“分区”部署在云和边缘更合适？
众所周知，大型语言模型（LLMs）需要大量的计算资源。这意味着开发和部署主要集中在强大的集中式系统上，如公共云提供商。然而，尽管许多人认为我们需要大量的GPU和庞大的存储空间来运行生成式AI，但实际上，存在使用分层或分区架构为特定业务用例创造价值的方法。不知怎的，有一种声音认为，在生成式AI的时代背景下，边缘计算似乎行不通。这是因为生成式AI模型的处理要求以及推动高性能推断的需求。当我提出“边缘知识”架构时，由于这种声音，我常常受到质疑。我们错过了巨大的创新机会，让我们来看看吧。
2024-06-16 19:00:00
506
原创 借助Geemap分析空间地理数据
在开始使用Python库之前，我们需要了解Google Earth Engine的潜力。这个基于云的平台由谷歌云平台提供支持，托管学术、非营利和商业目的的公共和免费地理空间数据集。这个平台的魅力在于，它提供了存储在Earth Engine服务器上的多PB的栅格数据和矢量数据目录。https://developers.google.com/earth-engine/datasets/catalog快速浏览一下。此外，它还提供了方便分析栅格数据集的API。
2024-06-16 15:00:00
677
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人