提示隐写术-chatgpt

提示隐写术-chatgpt

背景

基于深度学习的隐写框架

• 由 编码器和解码器 组成的端到端框架

• 利用 神经网络学 习代价函数，通过运行STCs实现最小失真嵌入

  • Soft Template Constraints（软模板约束）

大型语言模型

• 推理能力

  • 思维链CoTs

• ‘automatic’ steganography

隐写术对象

• 数字图像–>自然语言

  • 优点：文本隐写可以在噪声信道中生存

  • 自然语言-策略

    • 1. 修改给定的载体文本的隐写文本
    • 2. 直接生成不含载体文本的隐写文本

隐写术

概念

• 组成

  • 掩体-x

  • 密钥-k

  • 秘密消息-m

• 最简单但最有效的隐写算法是LSB替换

  • LSB 替换利用整数的奇偶性来实现信息嵌入。

    • 详解

      • csdn链接: LSB隐写是什么？

语言模型

• 统计方法–>递归神经网络–>Transformer(框架)

  • comment

    • which makes token prediction more accurate

大语言模型

• 特点：体积大、参数多

  • 可以解决许多复杂的任务，如数学、常识推理和符号操作

• 上下文学习、指令遵循、逐步推理

• “自动”

Prompting Steganography

• Zero-shot Steganography

  • not rely on any specified prompt.

    • 不需要演示 和 示例

  • 使得 乘数 除以 步长 模2 等于 秘密比特

  • 详细算法

    • 利用每个子序列和的奇偶性来携带一比特的秘密消息

      • 若：奇偶校验与要编码的秘密位不匹配

        • 翻转子序列的最后元素的LSB

• Few-shot Steganography

  • 特点

    • 它为模型提供了几个直观的隐写演示或示例

  • 对比

    • 提示

      • figure5

        • 错误 BY zero-shot

      • figure6

        • 实例+提示=正确结果

    • 嵌入

      • figure7-嵌入

        • zero better

      • figure8-提取

        • few better

prompt optimization

• 分割

  • PCEE

    • 80–>40

      • 80%–>90%

  • 劣

    • 相应时间变长；may不适合高级隐写技术

• 融合策略

  • 输入多个提示

  • 优化输入序列的顺序

    • （受历史状态影响）（逻辑衔接）

  • 循环移位排列 & 加权投票

• 分治

  • 区别

    • 子序列由上一个子序列计算出来（递归）

    • 分割-预先拆分出来

• 组合（增量）

小结

LLMs具有提示推理隐写的能力

嵌入（提取）的秘密比特数增加，错误不可避免的出现

• 三个优化策略