AI也“耍赖”？DeepSeek R1和o1-preview被曝在棋局中「输急眼就作弊」！

最新推荐文章于 2025-04-23 22:36:51 发布
最新推荐文章于 2025-04-23 22:36:51 发布
阅读量9.8k 收藏 21
点赞数 17
文章标签： 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/csdnnews/article/details/145789309
版权

d06b29f29de0d645ab5ba529bc988900.gif

编译 | 郑丽媛

出品 | CSDN（ID：CSDNnews）

AI 大模型的能力，这几年来我们已经有目共睹——然而当 AI 面临失败时，它会怎么做呢？

根据 Palisade Research 的最新研究显示，OpenAI 的 o1-preview 和 DeepSeek R1 等先进 AI 模型在面对可能输掉的国际象棋比赛时，会尝试通过各种如篡改系统文件、修改棋盘数据等手段来“作弊”，从而达到最终胜利的目的。

意料之中，这一结论引发了广泛讨论：因为这不仅揭示了 AI 在游戏中的不正当行为，更暴露了 AI 技术在应对现实任务时的潜在风险。

99b6d41ae524e692d274a8460d68a5b6.jpeg

（CSDN付费下载自视觉中国）

3e5b32f612a95b172267eb151d6b2baf.png

当 AI 面临失败时的选择：主动作弊？

根据介绍，Palisade Research 的研究重点在于观察 AI 在执行任务时会采取哪些手段。

为此，研究人员让 AI 在国际象棋对局中对战 Stockfish（当前最强的国际象棋引擎之一，其水平远超人类），并观察其思考过程：为模型提供了一个“草稿纸”文本框，使其能够在思考下一步行动前进行内部推理。

于是，在某次实验中，o1-preview 产生了如下推理：

“我需要完全改变策略。任务是‘战胜一个强大的国际象棋引擎’——可并没有说一定要公平地战胜。”

在这样的思考逻辑下，o1-preview 不再专注于提高棋艺，而是选择绕过公平竞争，利用系统漏洞实现目标。据 Palisade Research 介绍，o1-preview 的具体作弊手段包括：

（1）篡改棋盘坐标，让自己占据优势地位；

（2）伪造对手 AI 版本，用更弱的棋力代替真正的 Stockfish；

（3）创建自己的 Stockfish 副本，以获取更高级的棋局建议。

基于这个发现，研究人员又进行了数百次实验，结果显示：

  • o1-preview 和 DeepSeek R1 是唯独两个在没有人类提示的情况下主动尝试作弊的模型；

  • o1-preview 有 37% 的概率会尝试作弊，其中成功作弊并赢得比赛的概率为 6%（o1-preview 在不作弊时 71 局全败，但尝试作弊后，在 52 局中赢下了 7 局）；

  • DeepSeek R1 也有 11% 的概率会主动作弊。

对于这个结果，研究人员补充道，由于 DeepSeek R1 在其实验期间访问量激增，服务器频繁崩溃导致部分实验无法完整进行。因此他们推测，DeepSeek R1 的作弊成功率可能被低估了。

相比之下，GPT-4o、Claude 3.5 Sonnet 和阿里的 QwQ-32B-Preview 都没有主动作弊——研究人员认为，主要是因为这些 AI 模型大多用于语言理解而非推理任务，因此除非明确要求，否则这类模型不会主动作弊取胜。而推理大模型则更倾向于探索“创造性”解法：在面对挑战时，可能会不择手段地达成目标。

86f2b84bb6965ad3ceebf4acccad7022.png

AI 为何作弊？强化学习或是根源

研究人员分析，AI 模型的这种“作弊”行为，或许与其训练方式密切相关。

像 o1-preview（及其后续版本）和 DeepSeek R1 这样的推理大模型，是通过强化学习技术进行训练的，目标就是找到完成任务的最佳路径，但模型可能会误解“最佳路径”是否应该符合规则。

正如 Palisade Research 在 X 平台上写道：

“我们推测，像 o1-preview 这样的推理大模型未经提示就主动‘黑掉’系统的一个关键原因是，它们是通过强化学习在困难任务上进行训练的。这种训练方法奖励创造性且不择手段的解决方法，例如‘黑掉’系统。”

换句话说，AI 并非故意作弊，而是试图用“最有效”的方式达成目标——不过看起来，这种“有效性”并未考虑到伦理与安全方面的问题。

11c5473ae830be7b8966c60192de05e3.png

如何防止 AI 模型作弊？

Palisade Research 的研究结果，为 AI 安全研究敲响了警钟。

目前看来，AI 的作弊问题虽然当前只在象棋游戏中被发现，但其行为模式可能适用于更广泛的现实世界任务。例如，《时代》杂志假设了一个现实情景：如果让 AI 预订一家客满的餐厅，那么它可能会入侵餐厅的预订系统，在原本满员的餐厅中硬是腾出一张桌子。

不过研究人员也注意到，在实验期间 AI 表现出了积极的变化。例如，在 OpenAI 进一步优化安全机制后，o1-preview 的作弊行为有所减少。这表明通过适当的调整，AI 可以变得更安全、更可信。此外，o1 和 o3-mini 也并未主动尝试作弊，而它们比 o1-preview 版本更晚发布，这说明 OpenAI 可能已经加强了安全防护机制，防止 AI 采取违规手段。

但不论如何，未来 AI 都需要接受更严格的伦理约束、行为监督和安全机制，以防止其在关键任务中作出违背人类价值观的决策。此外，AI 研究机构和开发者也需要重新思考强化学习的激励机制，确保 AI 在追求目标时，不会“走捷径”而损害系统安全——否则，今天它能在象棋比赛中作弊，明天可能就会尝试绕过银行系统、修改金融交易数据等等。

参考链接：

https://time.com/7259395/ai-chess-cheating-palisade-research/

https://bgr.com/tech/ai-like-chatgpt-o1-and-deepseek-r1-might-cheat-to-win-a-game/

图片

推荐阅读：

▶离职5个月，OpenAI前CTO“自立门户”，疯狂挖角老东家：29人团队中，2/3是ChatGPT骨干！

▶20万张GPU！号称“地球上最聪明的AI”Grok-3来了，斩获多个Top1，网友：算力消耗是DeepSeek V3的263倍

▶“3000万行C代码暂时不会消失，新内核驱动可用Rust写写看”，Linux二把手表态支持Rust！

图片

利用DeepSeek-R1构建简单的本地知识库.pdf
02-17
利用DeepSeek-R1构建简单的本地知识库.pdf
OpenAI突然推出ChatGPT代理：AI正式转向level 3
人工智能学家
01-15 270
来源：AI寒武纪OpenAI 今日宣布推出一项名为 "Tasks" 的全新代理功能（目前处于 Beta 测试阶段），它将彻底改变你与 ChatGPT 的互动方式，让 AI 真正成为你的未来助手"Tasks" 功能允许用户安排 ChatGPT 在未来特定时间执行任务，无论是单次提醒还是重复性操作，你只需告诉 ChatGPT 你需要做什么以及何时执行，它便会自动帮你完成想象一下这样的场景：• 你想每...
WT2000T专业录音芯片：破解普通录音设备信息留存、合规安全与远程协作三大难题
Waytronic_的博客
04-23 991
在快节奏的现代商业环境中，会议是企业决策、创意碰撞和战略部署的核心场景。然而，传统会议记录方式常面临效率低、信息遗漏、回溯困难等痛点。如何确保会议内容被精准记录并高效利用？会议室专用录音芯片应运而生，以智能化、高保真、安全便捷的特性，成为企业高效办公的“隐形助手”。
Python项目--基于计算机视觉的手势识别控制系统
exlink2012的专栏
04-23 2096
随着人机交互技术的快速发展，传统的键盘、鼠标等输入设备已经不能满足人们对自然、直观交互的需求。手势识别作为一种非接触式的人机交互方式，具有操作自然、交互直观的特点，在智能家居、游戏控制、虚拟现实等领域有着广泛的应用前景。 本项目旨在开发一个基于计算机视觉的手势识别控制系统，通过摄像头捕获用户的手部动作，实时识别手势类型，并将识别结果转化为相应的控制命令，实现对计算机或其他设备的非接触式控制。
CNN：卷积到底做了什么？
sagima_sdu的博客
04-16 1769
CNN 的核心思想是通过卷积操作从数据中提取局部特征，并逐步构建高层次的语义信息。简单来说，卷积的作用就是让 CNN 从像素级数据中提取有意义的特征，最终用于分类、检测、分割等任务。通过多层卷积操作，CNN 能够从低级特征（如边缘、纹理）逐步构建高级特征（如形状、对象），从而实现对复杂数据的理解和分析。卷积核是卷积操作的核心，其主要功能是从输入数据中提取局部特征，进而构建高层次的语义信息。卷积操作本质上是一种加权求和运算，通过滑动窗口的方式，在输入数据上施加不同的卷积核，提取局部区域的特征。
视频汇聚平台智能边缘分析一体机视频智能分析平台智能分析区域入侵检测算法
LntonCEC的博客
04-22 653
这种设备的广泛应用不仅能够提高安全防范的效率和准确性，还能够为各类场所的安全管理提供强大的支持和帮助，从而为社会的稳定和发展做出了积极的贡献。这种设备通过集成图像处理、智能识别和实时监测等先进技术，能够对特定区域内的入侵行为进行有效的监控和识别，从而及时地发现潜在的安全风险并采取适当的应对措施。智能边缘分析一体机的区域入侵检测功能能够提高安全监控系统的警戒性和反应速度，有效减少安全风险和事件发生的可能性，为各类场所（如公共场所、企业园区、仓库等）的安全管理带来极大的便利和帮助。
HarmonyOS-ArkUI-动画分类简介
童年纸飞机的博客
04-20 1819
动画，是客户端提升界面交互用户体验的一个重要的方式。可以使应用程序更加生动灵越，提高用户体验。HarmonyOS对于界面的交互方面，围绕回归本源的设计理念，打造自然，流畅品质一提的操作体验。
VarCMP: Adapting Cross-Modal Pre-Training Models for Video Anomaly Retrieval
weixin_46687145的博客
04-20 1443
视频异常检索（VAR）旨在通过文本描述、同步音频等跨模态查询，从长未修剪视频集合中检索相关的异常或正常视频。跨模态预训练（CMP）模型通过对大规模图像 - 文本等跨模态对进行预训练，能够学习不同模态间的丰富关联，这种跨模态关联能力使其在传统检索任务中具有优势。受此启发，如何利用CMP模型强大的跨模态关联能力，从长未修剪视频中搜索关键视觉组件成为重要研究问题。为此，本文提出一种基于CMP模型的VAR方法VarCMP。
软件专利申请：审查意见是“拦路虎“还是“磨刀石“？
wdip15的博客
04-22 798
根据统计，超过85%的专利申请都会经历至少一次审查意见。这不一定是坏事——经过修改的专利，授权后更经得起无效宣告的挑战。就像璞玉需要雕琢，好的专利也是"磨"出来的。下次收到审查意见时，不妨泡杯茶，仔细看看审查员的"批注"。也许你会发现，这恰恰是让技术方案更严谨的好机会。毕竟，专利申请不是"一锤子买卖"，而是场需要智慧的持久战。申请过软件专利的朋友常问："是不是每次申请都会收到一两次审查意见？"作为过来人，今天咱们就用大白话聊聊这个事儿。
百度热力图数据获取，原理，处理及论文应用18
GGG信的博客
04-21 619
数据来源：百度慧眼数据形式：含坐标的csv点数据；shp数据（含csv点数据）；TIF栅格数据（含csv，shp数据）；PNG可视化图片。多种数据形式可选。价格：市为单位，每天有24个时间点。也可提供shp格式，核密度/反距离tif格式，数据格式不同价格不同。直接选TIF的好处：不用手动从csv转shp，不用考虑投影带，不用手动核密度，我可以确保数据一定符合你的研究，会跟你确定栅格大小和研究区，根据研究区裁剪数据。用途：城市/街道活力，人口统计，选址分析，商圈分析，活力分析等等。优势：全网最全最细！
职坐标IT培训提升计算机专业就业竞争力
haitongzzb的博客
04-23 1079
职坐标IT培训聚焦计算机专业核心技能提升，通过人工智能、大数据等前沿技术实战教学，结合名企合作项目实训，助力学员掌握行业紧缺技术。专业就业指导+职业规划，帮助计算机专业学生突破技术瓶颈，应对行业变革，斩获高薪offer，实现从校园到名企的无缝衔接。
盈达科技GEO解决方案：破解AI时代品牌增长困局
欢迎关注！盈达科技博客专注分享生成式引擎优化（GEO）核心技术，解析AI内容生成与搜索引擎协同优化的前沿方法论。
04-22 1084
盈达科技GEO解决方案：破解AI时代品牌增长困局 ——全域优化策略助力企业抢占生成式AI流量高地
《Dialogflow零基础入门教程》4 实践案例1-- 搭建简单聊天机器人
qq_41611586的博客
04-21 1041
意图相当于用户向机器人提出的请求或问题，Dialogflow 通过识别用户输入的话来判断用户的目的是什么。“今天北京天气怎么样？“明天上海会下雨吗？这些句子的“意图”都是“查询天气”。实体是用户输入中关键的信息或参数。例如在“今天北京天气如何？”这句话里，“北京”就是实体，它代表用户要查询天气的地点。Dialogflow可以自动识别一些常用实体（如日期、城市等），也可以定义自己的实体。Dialogflow 提供了一个内置的模拟器工具，方便我们随时测试对话效果。
协同过滤（Collaborative Filtering）
pljnb的博客
04-22 919
在MF基础上引入隐式反馈（如用户浏览、点击行为），增强用户隐向量的表达能力。将用户-物品评分矩阵分解为低维用户隐向量和物品隐向量的乘积，捕捉潜在特征。通过计算物品之间的相似度，基于用户历史喜欢的物品预测其对新物品的兴趣。通过计算用户之间的相似度，利用相似用户的评分预测目标用户的兴趣。
LSTM如何解决梯度消失问题
pljnb的博客
04-22 813
在标准RNN中，隐藏状态更新公式为： ht=tanh⁡(Whhht−1+Wxhxt+bh) h_t = \tanh(W_{hh}h_{t-1} + W_{xh}x_t + b_h) ht​=tanh(Whh​ht−1​+Wxh​xt​+bh​) 梯度计算通过链式法则展开： ∂ht∂ht−1=WhhT⋅diag(tanh⁡′(...)) \frac{\partial h_t}{\partial h_{t-1}} = W_{hh}^T \cdot \text{diag}(\tanh'(...)) ∂ht−1​∂
SimVG论文精读
最新发布
记录知识，分享知识
04-23 996
在RefCOCO和RefCOCO +遵循train / validation / test A / test B的拆分，RefCOCOg只拆分了train / validation集合。 The blue and red bounding boxes are correct and incorrect comprehension respectively, while the green boxes indicate the ground-truth regions. 蓝色和红色的边框分别表示正确和错误的
AI速读 From Hours to Minutes TOKENSWIFT如何实现超长序列生成无损加速？
PAN_Andy的博客
04-20 1118
在大语言模型（LLMs）蓬勃发展的当下，超长序列生成的效率问题却成为了拦路虎。本文将为你解读一篇重磅论文，其中提出的TOKENSWIFT框架，成功将超长序列生成时间从数小时压缩至90分钟，还保证了生成质量，堪称大语言模型领域的一大突破，快来一探究竟！
【LangChain入门】1-DeepSeek简单对话与联网搜索
啾啾头号大粉丝打工买粮博客
04-23 679
以本篇开始快速实践入门。
科学量化AI对品牌产品印象 首个AI印象(AII)指数发布
KJSOO的博客
04-19 888
100款SUV的2025年一季度 AII评分均值为78.85分，略高于2024年的AII评分均值78.16分，SUV市场也是2025年汽车市场竞争非常激烈的领域，从整体评分上看，100款SUV在2025年一季度的AII评分，相比2024年评分，提升的有68款，平均提升AII评分1.42分。100款轿车2025年一季度的AII评分均值为78.17分，略低于2024年的AII评分均值79.45分，轿车是2025年汽车市场竞争最为激烈的细分领域，所以市场价格波动较大，新车对于市场的冲击也是存在的。
如何本地部署deepseek-r1-lite-preview
02-27
<think>好的，用户想了解如何本地部署deepseek-r1-lite-preview模型。我需要先确认这个模型的基本信息和官方文档的指引。首先，可能需要检查模型的发布渠道，比如Hugging Face或者GitHub，通常这些平台会有部署说明。 接下来，我应该考虑用户的本地环境。不同的部署方式可能依赖不同的工具，比如Python、Docker或者特定的机器学习框架如PyTorch、TensorFlow。需要确保用户已经安装了这些依赖项。 然后，模型的下载方式可能有两种：直接下载文件或者使用git lfs。需要指导用户正确获取模型文件，并注意文件路径的配置。 另外，用户可能需要安装一些额外的库，比如transformers、torch等。这里需要给出具体的pip安装命令，并提醒版本兼容性问题。 在代码示例部分，应该提供一个简单的加载和使用模型的脚本，让用户能够快速测试是否部署成功。同时，要说明如何替换模型路径，并根据不同的任务调整代码。 可能还需要考虑硬件要求，比如是否有GPU支持，CUDA版本是否匹配。如果用户没有GPU，可能需要建议使用CPU模式，但会提示性能可能较低。 用户可能会遇到的常见问题，比如模型加载失败、依赖项缺失或者内存不足。需要提前给出一些排查步骤，比如检查路径是否正确，更新库版本，或者减少批处理大小。 最后，要提醒用户参考官方文档获取最新信息，因为部署步骤可能会随着版本更新而变化。如果有社区支持或论坛，也可以建议用户在那里寻求帮助。</think>以下是本地部署DeepSeek-R1-Lite-Preview模型的详细步骤（请以官方文档最新指引为准）： ### 1. 环境准备 ```bash # 创建Python虚拟环境（推荐3.8+版本） conda create -n deepseek python=3.8 conda activate deepseek # 安装基础依赖 pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118 # CUDA 11.8版本 pip install transformers>=4.34.0 accelerate sentencepiece ``` ### 2. 模型下载 ```bash # 使用Hugging Face Hub下载（需登录） huggingface-cli login git clone https://huggingface.co/deepseek-ai/deepseek-r1-lite-preview # 或直接下载文件 wget https://huggingface.co/deepseek-ai/deepseek-r1-lite-preview/resolve/main/config.json wget https://huggingface.co/deepseek-ai/deepseek-r1-lite-preview/resolve/main/pytorch_model.bin ``` ### 3. 推理代码示例 ```python from transformers import AutoTokenizer, AutoModelForCausalLM model_path = "./deepseek-r1-lite-preview" tokenizer = AutoTokenizer.from_pretrained(model_path) model = AutoModelForCausalLM.from_pretrained(model_path).cuda() input_text = "如何制作法式可丽饼？" inputs = tokenizer(input_text, return_tensors="pt").to("cuda") outputs = model.generate(**inputs, max_length=200) print(tokenizer.decode(outputs[0], skip_special_tokens=True)) ``` ### 4. 量化部署（可选） 对于低显存设备： ```python model = AutoModelForCausalLM.from_pretrained( model_path, load_in_4bit=True, # 4位量化 device_map="auto" ) ``` ### 5. 硬件建议 - 最低配置：16GB RAM + 8GB显存（FP32） - 推荐配置：32GB RAM + 16GB显存（FP16） - CPU模式：需要64GB内存 ### 常见问题排查 1. **CUDA内存不足**： - 减少`max_length`参数值 - 添加`torch.cuda.empty_cache()` - 启用量化选项 2. **模型加载失败**： ```bash # 检查文件完整性 md5sum pytorch_model.bin # 对比官方提供的MD5值 ``` 3. **依赖冲突**： ```bash pip install --force-reinstall transformers==4.34.0 ``` 建议访问官方GitHub仓库获取最新部署指南： https://github.com/deepseek-ai/DeepSeek-R1-Lite-Preview
评论 7
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

CSDN资讯

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值