什么是“人在环中”？人类在环 Human in the Loop

最新推荐文章于 2025-03-05 16:11:58 发布
最新推荐文章于 2025-03-05 16:11:58 发布
阅读量2.5k 收藏 10
点赞数 5
文章标签： 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/sinat_37574187/article/details/143236563
版权

什么是“人在环中”？

图片

什么是“人在环中”？

图片

图片

Background

Science

      近年来，人工智能（AI）火热指数愈来愈高，在学习应用过程中，大家可能会遇到一个术语——人在环中（Human-in-the-loop, HITL），实质是一种人与机器的交互方式，即将个人的判断决策融入AI系统流程中去，构成流程的运行闭环。其实，按照人机协同方式不同分为“人在环中”“人在环上”“人在环外”三种：人在环中，智能系统的动作完全由人来决策和控制；人在环上，智能系统按照指令自主决策和实施行动，人按需随时介入接管；人在环外，智能系统被指定了行动限制和目标，自主决策和实施行动。

图片

图片

Introdunction

Science

当前AI系统发展仍以HITL策略为主，这里我们着重讨论“人在环中”。该策略通过在 AI 系统的开发与运行的各个阶段融入人类的直观判断和反馈，发挥人类智能与机器自动化各自的优势，以此提升 AI 系统的性能、准确度和可靠性。核心思想是通过建立一个持续双向的反馈循环，让人类与AI模型进行互动，从而在数据标注、模型训练、质量控制和决策制定等关键环节中，优化 AI 的学习过程和输出结果，包括提高数据标注准确性、提高模型训练效率、提升决策制定可靠性等。

图片

Introdunction

Science

随着 HITL策略的发展，其优势逐渐显现。第一，通过人的反馈不断优化AI 模型的参数和算法，可以显著提高系统预测的准确性和可靠性。第二，人类参与还有助于识别和减轻 AI 系统中可能存在的偏见，这些偏见可能源于训练数据的不平衡或选择性偏差，确保决策过程的公正性。第三，对电动汽车自动驾驶和医疗诊断等关键领域，人类的监督能够有效预防 AI 独立操作时出错，如在自动驾驶中及时纠正系统的误判，或在医疗诊断中提供关键的专业判断，从而增强系统安全性。

图片

Introdunction

Science

在多个行业和应用场景中，HITL 的策略已被广泛应用，也衍生出了新的工作机会。例如在内容审核领域，人工审核员与 AI 合作，在 Facebook 等社交媒体平台上共同处理标记内容，提高了审核的效率和准确性；在医疗保健领域，AI 系统辅助医生分析患者的医疗影像数据，但最终诊断和治疗决策仍由医生做出，确保了医疗决策的准确性和人性化；在自动驾驶领域，人类驾驶员需随时接管 AI 控制的车辆，以应对当前自动驾驶技术尚未完全解决的复杂交通情况，确保行车安全。这些应用不仅展示了HITL 策略的广泛适用性，也体现了人类参对于确保 AI 系统准确性和安全性方面的必要性。

编辑｜王子晔  袁也

审核｜宋玲华

Ai里的话术 human in the loop是啥意思
百态老人的博客
07-20 1400
例如，OpenAI的GPT-4模型在训练过程中采用了Human-in-the-Loop策略，通过用户的反馈不断调整模型，提高模型的准确性和泛化能力9,10。数据标注是Human-in-the-Loop的基础，通过多人协作和多样化的标注策略，可以显著提高数据的准确性和多样性，从而提升模型的性能。2023年，Human-in-the-Loop（HITL）技术在人工智能领域取得了显著的进展，特别是在多代理系统中的应用、视频生音频技术的突破，以及自动驾驶汽车中的强化学习算法等方面。
【书籍阅读】-人在回路机器学习 Human-in-the-Loop Machine Learning（一）
春天
03-25 6412
Human-in-the-loop 最近在看这本书，记一些笔记帮助梳理。 基本上是 重点部分翻译+梳理+自己的理解。 （最开始在知乎上看到有人写这本书的笔记，但是好像后面断更了，所以就自己写啦，希望可以坚持看完hh） 文章目录PART 1: First StepsChapter 1. Introduction to Human-in-the-Loop Machine Learning1.1 The basic principles of Human-in-the-Loop Machine Learning
人在回路机器学习Human-in-the-Loop_Machine_Learning.pdf
09-22
Human-in-the-Loop Machine Learning lays out methods for humans and machines to work together effectively. Summary Most machine learning systems that are deployed in the world today learn from human feedback. However, most machine learning courses focus almost exclusively on the algorithms, not the human-computer interaction part of the systems. This can leave a big knowledge gap for data scientists working in real-world machine learning, where data scientists spend more time on data management than on building algorithms. Human-in-the-Loop Machine Learning is a practical guide to optimizing the entire machine learning process, including techniques for annotation, active learning, transfer learning, and using machine learning to optimize every step of the process. Purchase of the print book includes a free eBook in PDF, Kindle, and ePub formats from Manning Publications. About the technology Machine learning applications perform better with human feedback. Keeping the right people in the loop improves the accuracy of models, reduces errors in data, lowers costs, and helps you ship models faster. About the book Human-in-the-Loop Machine Learning lays out methods for humans and machines to work together effectively. You'll find best practices on selecting sample data for human feedback, quality control for human annotations, and designing annotation interfaces. You'll learn to create training data for labeling, object detection, and semantic segmentation, sequence labeling, and more. The book starts with the basics and progresses to advanced techniques like transfer learning and self-supervision within annotation workflows. What's inside Identifying the right training and evaluation data Finding and managing people to annotate data Selecting annotation quality control strategies Designing interfaces to improve accuracy and efficiency About the author Robert (Munro) Monarch is a data scientist and engineer who has built machine learning data for companies such as
AutoGen学习笔记系列（五）Tutorial -Human-in-the-Loop
最新发布
nenchoumi3119的博客
03-05 1113
这篇文章瞄准的是AutoGen框架官方教程中的Tutorial章节中的官网链接：https://microsoft.github.io/autogen/stable/user-guide/agentchat-user-guide/tutorial/human-in-the-loop.html#；
综述：NLP中的 Human in the Loop
Kaiyuan_sjtu的博客
02-13 1097
作者|太子长琴整理|NewBeeNLP大家好，这里是 NewBeeNLP。ChatGPT 大火，今天聊聊其模型训练的一个关键词：Human in the loop。这篇文章基于一篇 Survey，就是如何将人类的反馈放在 NLP 过程中，这个过程可以是训练，也可以是部署后，也可以是数据标注阶段。总之，它泛指把人类的反馈与 NLP 过程结合。论文：Putting Humans in the...
对人机关系的几点梳理
人机与认知实验室
02-17 1479
当前，军事智能化平台，人在环是必须的，人在环中就是一个系统的直接部分，既监又控；人在环上就是一个系统的间接部分，主监管控；人在环外的智能武器系统已算失控，坚决拒止（目前各国在...
人为回环SLAM-Human-in-the-Loop SLAM
CSS360的博客
08-09 3095
论文地址：https://www.aaai.org/ocs/index.php/AAAI/AAAI18/paper/view/17422/15847 工程地址：https://github.com/umass-amrl/hitl-slam 摘要 建立大尺度，全局一致图是一个具有挑战的问题，做较多困难在环境使用有限的方式，稀疏特征，或者当使用数据收集统计通过新手用户。对于这样的场...
human in the loop--学习笔记
oneself的博客
10-18 1337
human in the loop--学习笔记
【IUI 2020】人在回路机器学习——Human-in-the-Loop AI in Government: A Case Study
qq_41977459的博客
10-14 2117
人在回路机器学习在政府收据识别中的案例
人充当LLM Agent的工具（Human-In-The-Loop ），提升复杂问题解决成功率
张伟的专栏
11-18 983
在Agent开发过程中，LLM充当Agent的大脑，对问题进行规划、分解、推理，在执行过程中合理选择利用工具（Tool）解决某些具体领域的子问题。一般来说，大家习惯了选择使用搜索、计算器、code interperter之类的工具，但实际上，人也可以作为LLM的工具之一，被添加到解决问题的循环中，这被称作Human-In-The-Loop。而在 "Human In loop "下，Agent专注完成为用户请求，而过程中的人工支持对用户是透明的。举例，让agent回答：科布斯-葛瑞林的生日是几月几号？
低资源环境下交互式实体链接研究突破
该方法采用了一种交互式的过程，即“人类在环中”（human-in-the-loop）的策略，来加快注解过程并减少用户的乏味。它利用推荐器（recommender）来建议潜在的概念，以及自适应候选者排名，从而辅助人类标注者高效地...
Human in the loop Simulations: methods and practice
10-28
作者： Ling Rothrock,S.Narayanan 出版社 Springer London 出版日期 2011年9月15日
华东师大最新《人在环路(Human in the Loop)机器学习》综述论文
08-03
人在环路是通过整合人类的知识和经验，以最小的代价训练出准确的预测模型。人与机器更密切地进行合作、让双方发挥各自最主要的优势，达到效益最大化。来自华东师范大学研究人员关于人在环路机器学习综述论文，详细总结最新进展，非常值得关注!
doodle_labeller:pythonopenCV工具，用于使用半监督ML进行“人在环内”图像分割和标签图像创建
05-08
“涂鸦贴标签机” 丹尼尔·布斯科姆（Daniel Buscombe），玛尔达科学（Malda Science） 为USGS沿海海洋地质计划开发，是Florence补充项目的一部分 这是用于部分监督图像分割的“环内”机器学习工具，它基于先前包含在“ dl工具” 蒙特雷海军研究生院LCDR Brodie Wells的重要代码贡献 1）Christine Kranenburg，USGS圣彼得堡沿海和海洋科学中心，2）Chris Sherwood，USGS伍兹霍尔沿海和海洋科学中心，以及3）Jenna Brown，USGS MD-DE-DC水科学中心提供的示例图像 描述了此工具使用的条件随机场（CRF）模型 请访问以获取更多详细信息和文档 基本原理 有很多很棒的工具可以使用多边形对分割任务进行详尽的（即整个图像）图像标注。 示例包括和 。 但是，对于具有较大空间足迹和复杂场景的高分辨率图像（
ALOHA论文翻译：Learning Fine-Grained Bimanual Manipulation with Low-Cost Hardware
机器学习实战
01-16 3425
斯坦福ALOHA、ACT算法
（十二：2020.08.28）CVPR 2016 追踪之论文纲要（译）
Jojo论文基地
08-28 4889
CVPR 2016 追踪之论文纲要（修正于2020.08.28）讲在前面论文目录 讲在前面 论坛很多博客都对论文做了总结和分类，但就医学领域而言，对这些论文的筛选信息显然需要更加精细的把控，所以自己对这643篇的论文做一个大致从名称上的筛选，希望能找到些能解决当前问题的答案。 论文链接建议直接Google论文名，比去各种论文或顶会网站找不知道快捷多少。 下面皆为机器翻译以方便我第一次筛选，我会慢慢修正，但现在请结合。有兴趣的可以问我要处理这些论文并自动翻译的脚本。 Respect！ 论文目录
[paper note] Human-In-The-Loop Person Re-Identification
chn13的博客
10-28 1319
ECCV 2016 Paper Poster Author: Hanxiao Wang, Shaogang Gong, Xiatian Zhu, Tao (Tony) Xiang Professor Shaogang Gong from Queen Mary, University of London, who works closely with Dr. Tony Xiang, is an ex
【学习资源】人在环路的机器学习
苹果二的博客
10-04 1565
介绍Human-in-the-Loop的目标，学习过程，适用场景，主动学习的策略，迁移学习，设计标注界面的基本原则以及参考案例（可运行的代码）和资料。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

强化学习曾小健

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值