云起无垠-CSDN博客

原创【论文速读】| Arondight：使用自动生成的多模态越狱提示对大型视觉语言模型进行红队测试

研究者提出了一种专门为大型视觉语言模型（VLMs）设计的红队框架 Arondight，以解决现有红队测试方法在 VLMs 应用中的不足。

2024-07-26 10:57:30 496

原创喜讯！云起无垠入选《嘶吼2024网络安全产业图谱》

近日，嘶吼安全产业研究院正式发布了《嘶吼2024网络安全产业图谱》，旨在全面展示网络安全产业的构成及其重要组成部分，探索网络安全产业的竞争格局和发展前景。云起无垠凭借技术创新和行业影响力荣膺入选，证明了公司在网络安全领域的实力与潜力。

2024-07-26 09:46:55 333

原创【论文速读】| MoRSE：利用检索增强生成技术填补网络安全专业知识的空白

本文介绍了MoRSE（Mixture of RAGs Security Experts），这是首个专为网络安全设计的AI聊天机器人。MoRSE利用两个并行工作的RAG（检索增强生成）系统，从多维网络安全背景中检索并组织信息。

2024-07-25 11:30:29 409

原创【论文速读】| 关于构建基于检索增强生成的聊天机器人的事实

本文探讨了生成式AI驱动的企业聊天机器人的构建。检索增强生成（RAG）、大语言模型（LLM）、Langchain/Llamaindex等LLM编排框架是构建生成式AI聊天机器人的关键技术组件。

2024-07-24 11:22:57 581

原创第60期 | GPTSecurity周报

GPTSecurity是一个涵盖了前沿学术研究和实践经验分享的社区，集成了生成预训练Transformer（GPT）、人工智能生成内容（AIGC）以及大语言模型（LLM）等安全领域应用的知识。

2024-07-23 10:26:40 1150

原创【论文速读】| LLMCloudHunter：利用大语言模型（LLMs）从基于云的网络威胁情报（CTI）中自动提取检测规则

本文提出了LLMCloudHunter，这是一个新颖的框架，利用大语言模型（LLMs）从文本和视觉OSCTI数据中自动生成通用签名检测规则候选。

2024-07-22 17:20:36 635

原创实力强劲！云起无垠上榜《数字安全护航技术能力全景图》

近日，在 2024 全球数字经济大会上，中国信息通信研究院的“数字安全护航计划”正式发布了《数字安全护航技术能力全景图》。云起无垠凭借其在数字安全领域展现出的强大综合实力，成功上榜该全景图的 4 大领域 10 个小类。

2024-07-22 14:50:05 568

原创喜讯！云起无垠入选《2024年中国网络安全市场全景图》

近日，数说安全正式发布了《2024 年中国网络安全市场全景图》，其中收录的企业均经过市场验证，拥有一定市场份额，具备稳定研发投入及自主创新能力。云起无垠凭借卓越的产品和技术创新能力，成功入选该全景图的安全大模型和模糊测试领域。

2024-07-19 14:46:15 227

原创【论文速读】| 涟漪下的漩涡：对启用RAG的应用程序的实证研究

本文研究了检索增强生成（RAG）技术支持的大语言模型（LLMs）在各种应用场景中的有效解决方案。然而，开发者在将RAG增强的LLMs集成到软件系统时面临许多挑战，包括接口规范的缺失、软件上下文的需求以及复杂的系统管理。通过对100个开源应用程序及其问题报告的手动研究，发现超过98%的应用程序存在多个集成缺陷，影响了软件功能、效率和安全性。

2024-07-18 11:49:19 883

原创【论文速读】| TCSR-SQL：面向表内容感知的自检索文本到SQL方法

本文提出了一种面向表内容感知的自检索文本到SQL（TCSR-SQL）方法。该方法利用LLM的上下文学习能力，从问题中提取数据内容关键词并推断可能相关的数据库模式，通过模糊搜索数据库生成初始SQL，并在多轮生成-执行-修正过程中不断优化，最终生成精确的SQL。

2024-07-17 14:25:47 892

原创第59期|GPTSecurity周报

GPTSecurity是一个涵盖了前沿学术研究和实践经验分享的社区，集成了生成预训练Transformer（GPT）、人工智能生成内容（AIGC）以及大语言模型（LLM）等安全领域应用的知识。

2024-07-16 15:45:25 590

原创分享 | 一文简述模糊测试智能体技术实践

近日，华为2012实验室中央软件院旗下的欧拉多咖创新团队成功举办了【欧拉多咖 — 操作系统研讨会】。本次研讨会以“系统安全+AI=？”为主题，探讨了大模型技术如何推动基础软件迈向大规模算力时代，并详细讨论了在这一过程中系统软件所面临的机遇与挑战

2024-07-12 16:24:30 867

原创安全极客团队荣获首届“矩阵杯”网络安全大赛人工智能挑战赛“三等奖”

首届“矩阵杯”网络安全大赛的成功举办，为网络安全领域的技术创新和人才培养提供了良好的契机和平台，也将推动网络安全行业不断向前发展。在技术飞速发展的当下，不仅需要时间的沉淀，也需要这样的分享平台将创新技术和前沿研究成果对外输出。目前，安全极客在人工智能、大模型和安全等交叉领域有着丰富的前沿研究和分享，我们期望越来越多的相关领域从业者能够参与进来，共同分享更多相关内容。为深入探索和研究人工智能技术的应用，首届“矩阵杯”网络安全大赛中的人工智能（大模型）挑战赛创新性地采用了机器人自主解题模式。

2024-07-11 14:11:20 205

原创【论文速读】| 用于安全漏洞防范的人工智能技术

以往，多数技术主要用于检测运行系统中的攻击，然而，近期在机器学习（诸如自然语言处理）方面所取得的进步，让在系统部署前处理软件和规范以检测漏洞变为现实。其中一些最为有趣的成果包含在新智能手机应用程序中检测代码和规范里的漏洞的能力，这在消费者群体中属于一个重要的风险领域。创建一个能够自动将包含漏洞的代码转化为安全代码的系统，能够有效地修复大型软件库中的代码。本文的研究目的是通过总结和分析最新的人工智能技术在安全漏洞检测与预防中的应用，找出最有前景的研究方向，以期在系统部署前更有效地检测和修复软件漏洞。

2024-07-09 18:39:32 539

原创第58期 | GPTSecurity周报

GPTSecurity是一个涵盖了前沿学术研究和实践经验分享的社区，集成了生成预训练Transformer（GPT）、人工智能生成内容（AIGC）以及大语言模型（LLM）等安全领域应用的知识。

2024-07-09 14:12:40 625

原创【论文速读】| JADE：用于大语言模型的基于语言学的安全评估平台

JADE是一个创新的模糊测试平台，专注于增强语言复杂性以挑战大语言模型的安全性。它针对三组不同的语言模型：八个开源中文模型、六个商业中文模型和四个商业英文模型，生成了三个安全基准，成功触发70%的不安全内容生成。

2024-07-09 11:57:34 1117

原创【论文速读】|FuzzAug：探索模糊测试作为神经网络测试生成的数据增强

本文提出了一种名为FuzzAug的新型数据增强技术，结合模糊测试和大语言模型的优势，生成语法和语义上有效的多样化测试数据。实验结果表明，使用FuzzAug增强的数据集训练的模型，测试用例准确率提高了11%，分支覆盖率也显著提升。

2024-07-04 18:49:43 521

原创第57期|GPTSecurity周报

GPTSecurity是一个涵盖了前沿学术研究和实践经验分享的社区，集成了生成预训练Transformer（GPT）、人工智能生成内容（AIGC）以及大语言模型（LLM）等安全领域应用的知识。在这里，您可以找到关于GPT/AIGC/LLM最新的研究论文、博客文章、实用的工具和预设指令（Prompts）。

2024-07-02 14:13:18 804

原创重磅！云起无垠荣获“智能模糊测试赛道领航者”等多项殊荣

在数字化时代，数字安全已成为推动社会发展的核心要素。公司将继续深化在数字安全领域的研究与应用，开发出更加智能、高效的安全产品和服务，以满足日益增长的市场需求。相较于传统的静态代码分析手段，智能体通过分析代码结构与语义，能够以“低误报、低漏报”的方式，识别出潜在的安全漏洞和不合规的编码实践。今年，数世咨询依据“企业发展为核心，降低营收权重，提升创新权重”的评选标准，旨在遴选出真正具备发展力的安全企业。未来，云起无垠将继续秉承创新精神，引领数字安全技术的发展，为构建一个更加安全、稳定、繁荣的数字世界贡献力量。

2024-07-01 11:37:11 280

原创【论文速读】| LLAMAFUZZ：大语言模型增强的灰盒模糊测试

本文探索了利用大语言模型（LLM）增强灰盒模糊测试的方法。利用LLM的预训练知识生成新的有效输入，并通过成对变异种子进一步微调模型以有效学习结构化格式和变异策略。

2024-06-27 14:02:44 943

原创【论文速读】|MEDFUZZ：探索大语言模型在医学问题回答中的鲁棒性

本文提出了一种名为MedFuzz的对抗方法，用于评估大语言模型在医疗问答基准测试中的鲁棒性。

2024-06-26 15:57:25 629

原创第56期 | GPTSecurity周报

GPTSecurity是一个涵盖了前沿学术研究和实践经验分享的社区，集成了生成预训练Transformer（GPT）、人工智能生成内容（AIGC）以及大语言模型（LLM）等安全领域应用的知识。

2024-06-25 13:50:30 1027

原创【论文速读】|利用大语言模型实现现实世界代码的翻译：一项针对翻译到Rust语言的研究

本论文探讨了利用大语言模型（LLMs）进行代码翻译的能力，特别是从其他编程语言翻译到Rust语言。

2024-06-24 10:30:21 917

原创云起无垠CEO沈凯文博士入选36氪2024届Under36科学家人物榜！

沈凯文博士凭借其在网络安全领域的深厚积累和创新精神，不仅在个人职业生涯中取得了卓越成就，更通过创立云起无垠，将领先的大模型技术与网络安全相结合，推动了行业的智能化变革。该智能体内置一个涵盖CVE漏洞信息、CWE软件缺陷、安全标准及最新安全研究成果的广泛安全知识库，支持安全知识问答、教育培训、安全文档编制、最新安全论文分析、漏洞智能分析、安全工具的智能调用以及威胁情报的智能检测等全面功能，旨在为网络安全领域提供全方位、深层次的支持与保护。本次评选活动，主办方针对不同类型的候选人采取了针对性的评选流程。

2024-06-21 17:43:21 542

原创【论文速读】|对BusyBox进行模糊测试：利用大语言模型和崩溃重用挖掘嵌入式系统中的漏洞

本研究提出了利用大语言模型（LLM）和崩溃重用技术来提高BusyBox模糊测试效率的方法，并通过实验证明了这些技术的有效性。

2024-06-21 14:01:06 599

原创【论文速读】| 超越随机输入：一种基于机器学习的新型硬件模糊测试方法

近期的研究还提出了混合硬件模糊测试器，如HyPFuzz和PSOFuzz，它们结合了模糊测试器与形式工具和优化算法的能力，以提高覆盖率。硬件模糊测试已成为检测大规模设计（如现代处理器）中的安全漏洞的有效方法，然而，现有的模糊测试器在合理时间内难以全面覆盖复杂硬件设计。具体来说，研究者的目标是克服现有模糊测试器在覆盖复杂硬件设计时的时间限制，提升测试效率，并揭示更多的安全漏洞。研究者的方法显著提高了条件覆盖率，在不到一小时内达到74.96%，而现有的最佳硬件模糊测试器需要大约30小时才能达到相同的覆盖率。

2024-06-20 17:48:22 888

原创第55期|GPTSecurity周报

在这里，您可以找到关于GPT/AIGC/LLM最新的研究论文、博客文章、实用的工具和预设指令（Prompts）。

2024-06-18 18:13:52 1239

原创一文简述AI自动化漏洞修复实践

云起无垠云鉴实验室负责人鲁军磊先生就《AI在自动化漏洞修复方面的应用》进行了一场深入浅出的分享。鲁军磊先生的演讲主要围绕三大核心议题展开：首先，全面梳理了当前大模型技术的发展趋势；其次，细致分析了传统的漏洞发现与修复流程；最后，详细探讨了AI技术与漏洞修复相结合的前沿进展。

2024-06-14 11:40:41 969

原创精彩回顾！圆桌讨论“大模型与网络空间安全前沿探索”

近日，安全极客和Wisemodel社区联合举办了“AI+Security”系列的首场线下活动，主题聚焦于“大模型与网络空间安全的前沿探索”。在圆桌讨论环节，清华大学博士生导师、助理教授陈建军，阿尔法公社创始合伙人兼CEO许四清，云起无垠创始人兼CEO沈凯文，墨云科技合伙人彭逍遥，月之暗面安全工程师麦香和安全资深专家宁宇飞，共同探讨了大模型和网络安全前沿探索中的几个关键问题。

2024-06-14 10:40:35 441

原创精彩回顾！安全智能体的前沿技术研究与实践

云起无垠创始人兼CEO沈凯文博士，以《安全智能体的前沿技术研究与实践》为题，深入剖析了安全检测技术的演进历程，以及安全智能体的核心理念和实际应用。

2024-06-13 11:22:44 1197

原创喜讯！云起无垠入选《2024中国AI大模型产业图谱1.0版》

数据猿与上海大数据联盟联合策划并启动了“2024全年度三大策划活动”，经过数月的精心筹备和严格筛选，通过直接申报交流、深入访谈调研、外部咨询评价以及匿名访谈等多维度交叉验证的方式，最终完成了《2024中国AI大模型产业图谱1.0版》并正式对外发布。云起无垠作为国内首家提出AI安全智能体的安全厂商，凭借其在大模型技术研究和产品能力方面的卓越表现，成功入选了该图谱中的AI智能体板块。

2024-06-13 09:46:25 298

原创【论文速读】|当LLM遇见网络安全：系统性文献综述

通过对这些研究成果的深入分析，文章全面审视了大语言模型在网络安全应用领域的现状、面临的挑战以及未来的发展，为进一步的研究提供了坚实的基础和新的思路。未来的研究应侧重于增强LLM的适应性和安全性，探索新的训练方法以增强模型对复杂网络威胁的响应能力，并制定新的评估标准以全面测试LLM在安全关键环境中的性能。随着大语言模型（LLMs）的迅猛发展，它们为多个领域带来了新的机遇，特别是在网络安全领域，该领域正面临着不断变化的威胁和对创新技术的迫切需求。原作者：论文解读智能体。网络安全，大语言模型。

2024-06-12 09:57:41 963

原创【论文速读】| 通过大语言模型从协议实现中推断状态机

本文提出了一种利用大语言模型（LLM）从网络协议实现中推断状态机的方法。此方法通过文本嵌入技术，使LLM能够深入分析协议实现代码的细节，并通过系统的提示工程识别和推断潜在的状态机。

2024-06-11 10:36:30 732

原创【论文速读】| BIOCODER：一个具有上下文实用知识的生物信息学代码生成基准测试

本文详细阐述了生物信息学领域中复杂的数据处理需求和专业知识的深度，并强调了现有大语言模型（LLM）在代码生成方面的成就及其局限性

2024-06-07 17:25:34 545

原创实力！云起无垠荣获第九届安全创客汇“最佳团队奖”

2024年6月5日，BCS 2024北京网络安全大会在北京国家会议中心隆重开幕！云起无垠受邀参加，并在第九届安全创客汇决赛中脱颖而出，荣获年度“最佳团队奖”。

2024-06-07 16:14:46 313

原创喜讯！云起无垠入选《LLM驱动数字安全2024—AI安全系列报告》

为实现进一步底层安全能力智能化整合，云起无垠基于安全智能体方案，以大模型为核心，结合模糊测试、静态分析等安全引擎，以及软件安全领域的数据沉淀，推出了无极AI安全智能体平台。该平台涵盖了安全知识问答、代码分析与生成、漏洞威胁情报、智能模糊测试、智能攻击面分析、攻防技战法辅助、钓鱼邮件生成、智能文档分析和渗透测试等多个智能体，聚焦软件安全与红蓝攻防场景，实现强任务编排，为客户提供更加智能的综合型安全解决。云起无垠作为联合发起方，欢迎广大安全专家的加入，共同探讨前沿安全技术，促进行业内的知识分享与合作。

2024-06-07 11:37:20 858

空空如也

空空如也