自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(155)
  • 收藏
  • 关注

原创 一文简述AI自动化漏洞修复实践

云起无垠云鉴实验室负责人鲁军磊先生就《AI在自动化漏洞修复方面的应用》进行了一场深入浅出的分享。鲁军磊先生的演讲主要围绕三大核心议题展开:首先,全面梳理了当前大模型技术的发展趋势;其次,细致分析了传统的漏洞发现与修复流程;最后,详细探讨了AI技术与漏洞修复相结合的前沿进展。

2024-06-14 11:40:41 837

原创 精彩回顾!圆桌讨论“大模型与网络空间安全前沿探索”

近日,安全极客和Wisemodel社区联合举办了“AI+Security”系列的首场线下活动,主题聚焦于“大模型与网络空间安全的前沿探索”。在圆桌讨论环节,清华大学博士生导师、助理教授陈建军,阿尔法公社创始合伙人兼CEO许四清,云起无垠创始人兼CEO沈凯文,墨云科技合伙人彭逍遥,月之暗面安全工程师麦香和安全资深专家宁宇飞,共同探讨了大模型和网络安全前沿探索中的几个关键问题。

2024-06-14 10:40:35 409

原创 精彩回顾!安全智能体的前沿技术研究与实践

云起无垠创始人兼CEO沈凯文博士,以《安全智能体的前沿技术研究与实践》为题,深入剖析了安全检测技术的演进历程,以及安全智能体的核心理念和实际应用。

2024-06-13 11:22:44 1022

原创 喜讯!云起无垠入选《2024中国AI大模型产业图谱1.0版》

数据猿与上海大数据联盟联合策划并启动了“2024全年度三大策划活动”,经过数月的精心筹备和严格筛选,通过直接申报交流、深入访谈调研、外部咨询评价以及匿名访谈等多维度交叉验证的方式,最终完成了《2024中国AI大模型产业图谱1.0版》并正式对外发布。云起无垠作为国内首家提出AI安全智能体的安全厂商,凭借其在大模型技术研究和产品能力方面的卓越表现,成功入选了该图谱中的AI智能体板块。

2024-06-13 09:46:25 254

原创 【论文速读】|当LLM遇见网络安全:系统性文献综述

通过对这些研究成果的深入分析,文章全面审视了大语言模型在网络安全应用领域的现状、面临的挑战以及未来的发展,为进一步的研究提供了坚实的基础和新的思路。未来的研究应侧重于增强LLM的适应性和安全性,探索新的训练方法以增强模型对复杂网络威胁的响应能力,并制定新的评估标准以全面测试LLM在安全关键环境中的性能。随着大语言模型(LLMs)的迅猛发展,它们为多个领域带来了新的机遇,特别是在网络安全领域,该领域正面临着不断变化的威胁和对创新技术的迫切需求。原作者:论文解读智能体。网络安全,大语言模型。

2024-06-12 09:57:41 819

原创 【论文速读】| 通过大语言模型从协议实现中推断状态机

本文提出了一种利用大语言模型(LLM)从网络协议实现中推断状态机的方法。此方法通过文本嵌入技术,使LLM能够深入分析协议实现代码的细节,并通过系统的提示工程识别和推断潜在的状态机。

2024-06-11 10:36:30 666

原创 【论文速读】| BIOCODER:一个具有上下文实用知识的生物信息学代码生成基准测试

本文详细阐述了生物信息学领域中复杂的数据处理需求和专业知识的深度,并强调了现有大语言模型(LLM)在代码生成方面的成就及其局限性

2024-06-07 17:25:34 523

原创 实力!云起无垠荣获第九届安全创客汇“最佳团队奖”

2024年6月5日,BCS 2024北京网络安全大会在北京国家会议中心隆重开幕!云起无垠受邀参加,并在第九届安全创客汇决赛中脱颖而出,荣获年度“最佳团队奖”。

2024-06-07 16:14:46 285

原创 喜讯!云起无垠入选《LLM驱动数字安全2024—AI安全系列报告》

为实现进一步底层安全能力智能化整合,云起无垠基于安全智能体方案,以大模型为核心,结合模糊测试、静态分析等安全引擎,以及软件安全领域的数据沉淀,推出了无极AI安全智能体平台。该平台涵盖了安全知识问答、代码分析与生成、漏洞威胁情报、智能模糊测试、智能攻击面分析、攻防技战法辅助、钓鱼邮件生成、智能文档分析和渗透测试等多个智能体,聚焦软件安全与红蓝攻防场景,实现强任务编排,为客户提供更加智能的综合型安全解决。云起无垠作为联合发起方,欢迎广大安全专家的加入,共同探讨前沿安全技术,促进行业内的知识分享与合作。

2024-06-07 11:37:20 790

原创 第54期|GPTSecurity周报

GPTSecurity是一个涵盖了前沿学术研究和实践经验分享的社区,集成了生成预训练Transformer(GPT)、人工智能生成内容(AIGC)以及大语言模型(LLM)等安全领域应用的知识。

2024-06-04 17:33:33 855 1

原创 实力!云起无垠晋级“第九届安全创客汇”年度10强

2024年5月28日,第九届“安全创客汇”复赛在重庆圆满落幕。在本次国内最具影响力的网络安全创业大赛中,云起无垠凭借其技术的创新性和巨大市场价值,成功跻身年度十强。

2024-06-03 10:43:09 552 1

原创 精彩回顾!月之暗面安全实践思考分享

月之暗面的安全工程师麦香先生发表了一场精彩的演讲,题为《月之暗面安全实践思考》。麦香先生深入解析了大模型安全所面临的挑战,提出了多层次的应对策略,并指出了目前大模型安全领域存在的一些关键痛点。

2024-05-31 10:13:57 642 1

原创 精彩回顾!AI赋能下的自动化攻防分享

云科技合伙人彭逍遥先生发表了题为《AI赋能下的自动化攻防》的精彩演讲,从底层技术的角度,深入探讨了AI在小模型时代和大模型时代如何赋能自动化攻防实践,同时展望了未来发展的三大趋势,为与会者提供了一场内容丰富、视角独特的技术分享。

2024-05-30 10:14:41 625

原创 精彩回顾!大模型安全边界:揭秘提示注入攻击、会话共享漏洞与AI幻觉毒化策略分享

Kelp AI Beta作者、资深安全专家宁宇飞针对《大模型安全边界: 揭秘提示注入攻击、会话共享漏洞与AI幻觉毒化策略》做了精彩分享,深入探讨了大模型在现实应用中的三个主要安全威胁:提示注入攻击、会话共享漏洞和AI幻觉毒化策略,并提出了相应的防护措施。

2024-05-30 10:12:25 981 2

原创 第53期|GPTSecurity周报

GPTSecurity是一个涵盖了前沿学术研究和实践经验分享的社区,集成了生成预训练Transformer(GPT)、人工智能生成内容(AIGC)以及大语言模型(LLM)等安全领域应用的知识。

2024-05-27 18:10:13 923

原创 精彩回顾|“AI+Security”之大模型&网络空间安全前沿探索

安全极客和Wisemodel社区联合发起并主办了“AI+Security”系列第1期:大模型与网络空间安全前沿探索线下活动。这场活动旨在汇聚行业精英,共同探讨AI与网络安全融合的最新进展和未来趋势。

2024-05-23 10:08:39 767

原创 第52期|GPTSecurity周报

GPTSecurity是一个涵盖了前沿学术研究和实践经验分享的社区,集成了生成预训练Transformer(GPT)、人工智能生成内容(AIGC)以及大语言模型(LLM)等安全领域应用的知识。

2024-05-21 15:20:53 1048

原创 【论文速读】|探索ChatGPT在软件安全应用中的局限性

本论文深入探讨了大语言模型(LLMs),尤其是OpenAI的ChatGPT,在软件安全领域的应用潜力及其局限性。

2024-05-20 11:07:05 855

原创 【论文速读】|大语言模型是少样本测试员:探索基于LLM的通用漏洞复现

本文介绍了一个名为LIBRO的新型框架,该框架利用大语言模型(LLM)从BUG报告中自动生成测试用例,目的是实现BUG的有效复现。

2024-05-17 11:48:36 914

原创 【前沿探索】|大模型在二进制安全领域中的应用

本文调研和测试了截至2024年5月的所有二进制相关大模型研究方案,探讨了利用大模型技术辅助二进制分析的策略、实施方案以及成果分析。这项研究旨在分享该领域的应用成熟度,并与各位专家交流,推动进一步的产品化成熟落地。

2024-05-15 17:59:10 922

原创 第51期|GPTSecurity周报

GPTSecurity是一个涵盖了前沿学术研究和实践经验分享的社区,集成了生成预训练Transformer(GPT)、人工智能生成内容(AIGC)以及大语言模型(LLM)等安全领域应用的知识。

2024-05-14 10:05:49 974

原创 活动预告|“AI+Security”系列第1期:大模型&网络空间安全前沿探索活动火热报名中

由Wisemodel社区、安全极客主办的“AI+Security”系列第1期:大模型+网络空间安全前沿探索 线下活动将于2024年5月18日下午14:00在苏州街16号神州数码大厦5层举行

2024-05-13 10:11:57 277

原创 【论文速读】|大语言模型是零样本模糊测试器:通过大语言模型对深度学习库进行模糊测试

本文通过开发名为TitanFuzz的工具,利用大语言模型(LLM)生成和变异程序输入,从而增强了测试的广度和深度。这一方法有效地提升了深度学习库的缺陷检测能力,实现了对复杂API和代码的更全面覆盖。

2024-05-10 15:27:12 773

原创 喜讯!云起无垠入选国内首个《汽车网络与数据安全行业全景图》

近日,专注于汽车网络数据安全领域的领先平台谈思实验室 (Taas Labs) 发布了国内首个关于汽车网络与数据安全的行业全景图。在该全景图中,云起无垠荣幸地成为了首批入选的安全厂商之一。

2024-05-10 14:20:55 393

原创 【论文速读】| LLM4FUZZ:利用大语言模型指导智能合约的模糊测试

本论文综述了现有的智能合约Fuzzing技术,并指出它们主要依赖静态分析或动态执行跟踪来自动化地生成测试用例。然而,这些技术常局限于现有代码的API用法,难以探索新功能或深入挖掘潜在的复杂用例。

2024-05-09 11:54:50 1078 2

原创 【论文速读】|针对模糊驱动生成的提示性模糊测试

本文介绍了PromptFuzz,一种新型的基于覆盖引导的Fuzz测试方法,旨在改进自动化Fuzz测试驱动的生成过程。该方法采用大语言模型生成Fuzz测试驱动,并通过覆盖引导策略对生成的代码进行迭代优化,从而探索库代码中未被覆盖的部分。在与现有的OSS-Fuzz及其他自动化Fuzz测试生成技术的比较中,PromptFuzz在实验中显示出更高的分支覆盖率和更有效的缺陷检测能力。

2024-05-08 17:25:43 681

原创 第50期|GPTSecurity周报

GPTSecurity是一个涵盖了前沿学术研究和实践经验分享的社区,集成了生成预训练Transformer(GPT)、人工智能生成内容(AIGC)以及大语言模型(LLM)等安全领域应用的知识。在这里,您可以找到关于GPT/AIGC/LLM最新的研究论文、博客文章、实用的工具和预设指令(Prompts)。

2024-05-07 14:06:55 1065

原创 第49期|GPTSecurity周报

GPTSecurity是一个涵盖了前沿学术研究和实践经验分享的社区,集成了生成预训练Transformer(GPT)、人工智能生成内容(AIGC)以及大语言模型(LLM)等安全领域应用的知识。在这里,您可以找到关于GPT/AIGC/LLM最新的研究论文、博客文章、实用的工具和预设指令(Prompts)。

2024-04-30 14:44:53 1056

原创 【论文速读】|理解基于大语言模型的模糊测试驱动程序生成

本研究探讨了使用大语言模型(LLMs)自动生成Fuzz驱动程序的可行性与挑战。通过设计五种查询策略,从基础到增强,系统性地分析了生成Fuzz驱动程序的过程,并通过与工业界使用的驱动程序进行比较,揭示了其实用性和潜在的改进方向。

2024-04-26 16:50:10 875

原创 《2023网信自主创新调研报告》正式发布,云起无垠连年参编

近日,备受瞩目的《2023网信自主创新调研报告》(以下简称《报告》)正式对外发布。在这一重要报告的编写过程中,云起无垠公司作为参编单位,发挥了重要作用。公司凭借在软件测试工具、漏洞管理和软件供应链安全等领域的深厚技术积累,为报告的编写提供了丰富的新技术研究成果。

2024-04-26 15:31:34 726

原创 【论文速读】|大语言模型(LLM)智能体可以自主利用1-day漏洞

本文展示了大语言模型(LLM)智能体如何自主利用现实世界中的1-day漏洞。本研究收集了包含关键严重级别在内的15个1-day漏洞数据集,并在提供漏洞描述的情况下,使用GPT-4成功地利用了其中87%的漏洞,其表现远超其他模型和开源漏洞扫描器。

2024-04-25 17:55:02 794 4

原创 【论文速读】| 针对红队攻击和防御大模型的攻击提示生成

本文提出了一种新的红队攻击框架和防御框架,旨在通过半自动化的方式生成攻击提示(attack prompts),以测试和提高大语言模型(LLMs)的安全性。研究通过实验证明了这些框架在提高模型防御能力和识别潜在攻击方面的有效性。

2024-04-25 16:30:27 762

原创 第48期|GPTSecurity周报

GPTSecurity是一个涵盖了前沿学术研究和实践经验分享的社区,集成了生成预训练Transformer(GPT)、人工智能生成内容(AIGC)以及大语言模型(LLM)等安全领域应用的知识。

2024-04-23 17:08:58 1004

原创 【论文速读】| GPTFUZZER:利用自动生成的越狱提示对大型语言模型进行红队测试

本研究开发了一种名为GPTFUZZER的新型黑盒模糊测试框架,旨在自动化生成越狱模板以提升大语言模型(LLMs)的安全性。该框架借鉴了经典的AFL模糊测试框架,通过变异和评估人类编写的越狱模板,自动化地产生新模板。

2024-04-19 09:58:06 781

原创 【论文速读】| TroubleLLM:与红队专家对齐

本文介绍了一个新的大语言模型(LLM),TroubleLLM,专为测试其他LLM的安全性设计。该模型能够生成可控的测试提示,以探索和暴露LLM可能的安全风险,如社会偏见和生成有毒内容。

2024-04-18 09:44:47 555

原创 【论文速读】| 大语言模型是边缘情况模糊测试器:通过FuzzGPT测试深度学习库

这篇论文提出了一种名为FuzzGPT的新方法,它利用大语言模型(LLMs)生成非常规程序来测试深度学习(DL)库。通过对历史中引发错误的程序的研究,FuzzGPT能够生成更有效的测试程序,检测出多达76个错误,其中49个被确认为新的错误,包括11个高优先级错误或安全漏洞。

2024-04-17 10:07:08 1093

原创 第47期 | GPTSecurity周报

GPTSecurity是一个涵盖了前沿学术研究和实践经验分享的社区,集成了生成预训练Transformer(GPT)、人工智能生成内容(AIGC)以及大语言模型(LLM)等安全领域应用的知识。在这里,您可以找到关于GPT/AIGC/LLM最新的研究论文、博客文章、实用的工具和预设指令(Prompts)。

2024-04-16 13:53:29 841

原创 【论文速读】| CovRL:基于覆盖引导的强化学习对LLM基础变异进行JavaScript引擎模糊测试

这篇论文介绍了CovRL这一创新技术,该技术融合了覆盖率引导的增强学习与大语言模型(LLM),通过将覆盖反馈直接融入到LLM,显著提升了针对JavaScript引擎的Fuzzing性能。利用TF-IDF方法创建的加权覆盖图,允许基于LLM的变异器产生更可能探索到新覆盖区域的测试用例,从而在提升漏洞侦测的效率和准确性方面取得了突破。

2024-04-12 15:15:35 604

原创 擘画未来 即刻出发!云起无垠入围安全“FP30”计划

近期,安全419发布了备受瞩目的“FP30”(Future Power 30,未来新锐力量TOP30)计划的评选结果,新一代AI赋能软件安全领跑者云起无垠凭借其在网络安全领域的创新能力和未来发展潜力,成功入选,成为业界关注的焦点。

2024-04-12 14:29:32 456

原创 【论文速读】| CHEMFUZZ: 大语言模型辅助模糊测试用于量子化学软件缺陷检测

本论文介绍了一个称为CHEMFUZZ的新框架。该框架借助大语言模型(LLMs)进行量子化学软件的模糊测试,目的是发现软件潜在的漏洞。CHEMFUZZ通过使用LLMs生成既语法正确又语义有效的输入文件,并对这些文件进行修改,能够识别出量子化学软件中的各类漏洞,从而增强了软件的安全性与可靠性。

2024-04-11 09:55:01 784

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除