- 博客(25)
- 收藏
- 关注
RSS订阅原创 浅谈如何进行LLM应用的测试
传统软件应用的输出会遵循程序员编写的代码逻辑，对确定的输入能生成与之对应的确定输出。然而这个规律在基于LLM的应用中却不那么成立，当我们输入提示给到LLM应用时，它结合上下文提示语及概率参数设置，最终输出就并不是那么可预知的。而且从技术上看LLM应用的正常输出也未必就是准确或者合适的。对于这种非结构化、更多关注用户主观感受的产品，它们的质量如何度量呢？
2024-04-14 09:52:12
585
原创 LLM应用安全开发实践
基于大语言模型LLM的产品已经越来越多地被个大公司应用到自己的业务当中，这固然带来了新的商业机会，但也给应用的安全工作带来了新的挑战。一方面，大语言模型技术被黑客应用到攻击的实践中，提升了他们的攻击效率；另一方面，LLM由于自己本身的特点，比如输入的提示和模型应用的数据是不可严格分开的，以及模型设计是不确定的，导致LLM具有它特定的风险挑战。LLM应用有它特有的安全漏洞，比如提示注入漏洞，恶意用户通过精心构造提示内容或者间接提供给LLM含有提示注入风险的内容让其处理，从而被攻击者利用产生非预期的结果。
2024-03-23 23:02:31
879
原创 LLM应用的OWASP Top 10漏洞
随着语言大模型的热潮涌动，很多公司都将大模型AI技术应用到自己的产品中。相比于传统的Web应用，基于LLM的应用由于模型结构的复杂性，以及输出结果的不确定性，给大模型应用引入了以前网络应用不同的风险敞口。
2024-03-19 20:47:01
679
1
原创 本地运行Gemma的pytorch集成
Gemma是Google在2024年2月21日发布的一款轻量的开源大模型，采用了和Google Gemini模型一样的技术。有猜测Google在毫无预告的情况下急忙发布Gemma是对Meta的Llama3的截胡，但不管怎么说作为名厂名牌的大模型，自然要上手尝试尝试。这次发布的Gemma有2B参数和7B参数两个版本，两个版本又分别提供了预训练(Pretrained)和指令调试(Instruction tuned)两个版本。
2024-03-01 16:30:52
1119
3
原创 深入学习jvm-sandbox（安装&快速上手)
一、安装jvm-sandbox的安装非常简单，简言之就是执行下载文件夹里的install-local.sh，下载地址请访问这里。1. 下载下载安装包的zip文件解压后目录结构如下：这里面bin目录下的sandbox.sh就是jvm-sandbox交互的命令行脚本，但是没有安装前不能直接使用，因为还有一些变量没有定义。example、module、provider目录下的各种ja...
2019-12-17 18:41:37
4227
原创 深入学习jvm-sandbox（前言）
jvm-sandbox，用官方的说法是一种JVM的非侵入式运行期AOP解决方案，一种JVM沙箱容器技术。jvm-sandbox通过动态修改应用字节码在运行期改变应用的行为，配合其它一些工具可以构建出功能强大的测试工具平台。笔者通过一系列文章对jvm-sandbox做一番介绍，希望共同讨论、共同学习、共同进步。jvm-sandbox是阿里巴巴开源的一款非侵入式运行期AOP解决方案，就像它的命名暗...
2019-10-29 19:37:51
1930
3
原创 一次org.apache.ibatis.binding.BindingException: Invalid bound statement (not found)的处理
一次代码迁移项目中，验证定时任务的时候，后台报：org.apache.ibatis.binding.BindingException: Invalid bound statement (not found)。从网上搜索，原来是xml的namespace路径和java包不一致造成。看了下日志，原来是自己复制粘贴的时候多复制了一行，误把原来应用的namespace拷贝了进来。这类问...
2019-03-08 10:29:53
488
原创 随记——lombok插件
导入产品的工程到idea，发现一堆的方法未定义的报错。虽然 执行mvn clean install -U -Dskiptests错误依然存在。原来是项目中使用了lombok，在idea中安装lombok插件后重启，错误全部消失。 lombok介绍可看：https://blog.csdn.net/motui/article/details/79012846...
2018-12-27 15:08:05
112
原创 应聘BAT软件测试工程师你可能需要这样准备
又到了金三银四的时节，那颗躁动的心又开始蠢蠢欲动，是否有考虑在拿完年终奖后另觅高枝呢？如果刚好你有这个打算，那么这篇文章就是为你准备的呢，让我们相约BAT吧。人们常说：人挪活，树挪死常言道，此处不留爷，自有留爷处，处处不留爷，爷干个体户。在旧的岗位上，也许遇到或这或那的不满意：待遇低了、老板傻逼、机会有限等等，那么与其在此空耗，确实不如另寻一个好的卖身处，从而走向人生巅峰。也许你有一千个理由要离开...
2018-03-30 01:20:51
1666
原创 软件测试工程师的四重天
笔者入行IT从事软件测试有了不少年头，从经历过的同事、业务伙伴来看一名合格的软件测试工程师应该具备怎样的技能，TA的岗位画像应该是怎样，在这里和大家一块探讨。一重天：对异常的敏锐观察力和技术好奇心一开始抛出这个观点，可能会打消很多人继续阅读下去的兴趣，因为这特么也太虚无缥缈的一个要求了。确实也是，这里甚至无法给出怎样叫敏锐、怎样叫好奇的定量标准。然而，作为一名软件测试工程师，这个要求却是一个基本的...
2018-03-28 01:22:09
351
原创 搭建spring源代码环境
1. 前置条件： a)安装jdk，网上资料很多，直接搜索自己平台对应的jdk版本进行安装，配置环境变量。 b)安装git客户端工具（linux发布一般都有集成，可以通过在终端输入命令git --version检查是否安装）。 c)安装gradle构建工具，具体安装方法可以参看https://my.oschina.net/u/2273594/blog/630812。
2017-07-09 01:27:34
638
翻译 1.2.1.2 测试运行调试器
使用嵌入模式的调试器运行一个名为some.test的测试应用，你可以这样：运行命令libmysqld/examples/test_run --gdb some.test。这生成一个包含mysqltest所需参数的文件： libmysqld/examples/test-gdbinit。复制 test-gdbinit文件 (叫做，比如, some-gdbinit
2017-05-30 22:57:18
243
转载 1.2.1.2 Running a Test with the Debugger
转载自：https://dev.mysql.com/doc/internals/en/guided-tour-major-directories-test.htmlTo run a test named some.test with the debugger in embedded mode you could do this:Run libmysqld/exa
2017-05-30 22:55:56
226
翻译 1.2.1.1 GNU调试器
一旦你让某些应用运行，你就可以在其上面使用调试器。我们推荐GNU的调试器。http://www.gnu.org/software/gdb/documentation/许多开发者使用图形化调试器工具DDD——数据展示调试器(Data Display Debugger)http://www.gnu.org/software/ddd/manual/这些都是免费且常见的，可
2017-05-30 22:27:40
298
转载 1.2.1.1 GNU Debugger
转载自：https://dev.mysql.com/doc/internals/en/gnu-debugger.htmlOnce you've got something that runs, you can put a debugger on it. We recommend use of the GNU debuggerhttp://www.gnu.org/software/g
2017-05-30 22:26:39
315
翻译 1.2.1 重要目录：BUILD
第一个我们要深入发掘重要目录是BUILD。事实上它内容甚少，却非常有用，因为你拿到源代码后首先要做的事情之一就是：编译和链接它。下面是我们可能用到的命令示例：shell> ./BUILD/compile-pentium-debug --prefix=$HOME/mysql-bin它调用一个 BUILD 目录中的批文件。执行完以后你就拥有了一个可执行的MySQL服务
2017-05-28 23:53:32
285
转载 1.2.1 Major Directories: BUILD
转载自：https://dev.mysql.com/doc/internals/en/guided-tour-majordir-build.htmlThe first major directory we'll look at is BUILD. It actually has very little in it, but it's useful, because one of
2017-05-28 23:52:17
165
翻译 1.2 主要目录
1. BUILD2. client3. Docs4. myisam5. mysys6 sql7. vio一种有条理的方法是先翻看最重要的一批目录，再第二步查看整个目录列表。所以，首先让我们看看你能从下面7个目录中发现什么：BUILD, client, Docs, myisam, mysys, sql, 和vio。
2017-05-28 23:44:49
172
转载 1.2 The Major Directories
转载自：https://dev.mysql.com/doc/internals/en/guided-tour-majordir.htmlBUILDclientDocsmyisammysyssqlvioThe orderly approach is to look first at the most important
2017-05-28 23:34:41
161
翻译 1.1 获取源代码树
这一节讲如何获取MySQL源代码树，它当前已经在GitHub上可以获得。MySQL正式加入GitHub是在2014年9月。关于MySQL搬迁至GitHub更多的信息，请参阅MySQL Release Engineering博客的申明：MySQL on GitHub。从GitHub上获取MySQL源代码树，请遵循下面步骤：1. 克隆MySQL Git仓库到你的机器。 如下
2017-05-26 23:44:23
505
转载 1.1 Getting the Source Tree
转载自：https://dev.mysql.com/doc/internals/en/getting-source-tree.htmlThis section describes how to obtain the MySQL source tree, which is currently available on GitHub.MySQL officially joined
2017-05-26 23:43:41
178
翻译 第一章：MySQL源代码导览
Chapter 1 A Guided Tour Of The MySQL Source Code这一节我们将从互联网上下载MySQL的最新拷贝。然后我们会看到一系列目录，并讲解为什么有这些目录。接下来我们会打开一些对MySQL运行非常重要的文件并对源码中特定行进行讲解。最后我们以一些文件格式的图片结束。
2017-05-25 23:27:51
221
转载 Chapter 1 A Guided Tour Of The MySQL Source Code
转载自：https://dev.mysql.com/doc/internals/en/guided-tour.htmlTable of Contents 1.1 Getting the Source Tree1.2 The Major Directories 1.3 The Flow1.4 The Open-Sourc
2017-05-25 23:26:38
224
翻译 MySQL Internals Manual翻译
摘要这是一本MySQL内幕手册。关于版权信息，请看版权通告。关于使用MySQL的帮助，请访问MySQL论坛或者MySQL邮件列表，在这里你能和其他MySQL用户讨论你的问题。关于更多的MySQL产品的文档，包括文档的翻译、可下载的不同格式的版本，包含HTML和PDF格式，请看MySQL文档库。
2017-05-25 23:18:08
1017
转载 MySQL Internals Manual
转载地址：https://dev.mysql.com/doc/internals/en/AbstractThis is the MySQL Internals Manual.For legal information, see the Legal Notice.For help with using MySQL, please visit eithe
2017-05-25 23:14:30
327
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人