AI诈骗肆虐，平台如何做好AIGC风险管理？

于 2023-06-14 15:29:45 发布
阅读量265 收藏 1
点赞数
文章标签： 人工智能 AIGC
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/shumeitech/article/details/131208926
版权
随着AIGC技术的发展，AI诈骗日益猖獗，利用AI合成音频、视频进行诈骗。平台需要在AIGC生成端和发布端进行严格的审核，结合模型输出和用户输入的审核，识别潜在的诈骗风险。数美科技通过智能文本、图片和视频检测，提供全栈式智能内容审核，助力AIGC行业的健康发展。
摘要由CSDN通过智能技术生成

老牌歌星合唱的梦幻联动，实则是AI合成音频，但可达到以假乱真的地步；某男子因遭遇AI换脸骗术，9秒被骗245万；某带货直播间，使用AI换脸黑科技，粉丝误以为当红女明星直播带货......

随着AIGC的爆火，给予冲浪选手们更新奇体验的同时，以AI实施犯罪的团伙也猖獗在互联网中，威胁着公民的信息安全、财产安全及知识产权，危害着全民网络健康。

AI诈骗肆虐，为什么心有戒备仍会上当？诈骗的底层逻辑是什么？平台应该怎么防范，才能做好AIGC风险管理？

AIGC审核：生成端与发布端

一、AIGC生成端：模型输入和用户输入审核

AIGC，利用模型生成的海量内容，本身就是在AI与人的互动中生成内容。面临的最大挑战是模型生成的内容不可控。AIGC宛如一个巨大的“黑箱”，在人与AI的交互中，可能生成存在侵犯他人利益的内容，如敏感言论、违禁内容、AI假脸合成等。因此需要做好审核预案，主要审核方向为模型的输出及用户的输

最低0.47元/天 解锁文章
数美科技
关注
博客
《互联网广告管理办法》施行下，如何做好内容合规？| 政策解读
06-14 252
除法律、行政法规禁止发布或者变相发布广告的情形外，通过知识介绍、体验分享、消费测评等形式推销商品或者服务，并附加购物链接等购买方式的，广告发布者应当显著标明“广告”。行业形势虽向好发展，广告乱象在其中尤为突出，由于游戏平台的营收往往来自于广告，一些平台为了追求更高的收益，不顾用户体验，直播营销人员以自己的名义或者形象对商品、服务作推荐、 证明，构成广告代言的，应当依法承担广告代言人的责任和义务。，实践中，弹窗广告、欺骗误导用户点击浏览广告的情形层出不穷，影响大量的互联网用户使用网络的体验。
博客
《反网暴法》拟出台，网络毒瘤需平台、法律、公众联合拔除 | 数美解读
06-14 229
在“三人成虎”的互联网时代，谎言经过一万次的发酵、流动、传播，也就成了“真相”。刚经历丧子之痛承受不住谩骂的武汉母亲、在医院陪护被造黄谣的粉色头发女孩......在遭遇网络暴力之后，选择离开。每一场网络暴力的背后，或是众多无名施暴者的狂欢，亦或是营利性机构操控的舆论引导行为。如论是哪一种，都如何遏制网络暴力，成为了维护清朗网络空间的重要议题之一。澎湃新闻调研工厂在两会期间，针对全国3591名受访者进行的一项《有关网络暴力认知态度网络调查问卷》。
博客
行业前沿 | 畅想AIGC技术研究与应用实践(一)
04-28 271
干货分享！
博客
行业前沿 | 畅想AIGC技术研究与应用实践(一)
04-28 311
干活分享！
博客
如何做好AIGC产品合规？| 数美分享
04-28 349
《AIGC数字风控行业手册》首发
博客
数美科技风控前沿| AIGC需要什么内容风控基建？ChatGPT本“人”有话要说
02-16 3194
AIGC的内容风控基建
博客
五星最高等级认证！数美科技荣获中国信通院“内容审核服务系统评测证书”
01-17 290
实力认证！
博客
数美2022：不惧势，不却步，逐浪有为
01-13 224
总结2022，展望2023！
博客
“4S”设备指纹，一招解决渠道流量作弊
05-17 246
移动互联网时代，广告主体和载体都变得更加丰富。手机应用成为了传统的商品和服务之外新的广告主体，“下载手机APP”成为用户更深层次消费的起始阶段，也成为移动互联网时代的广告目标。相应地，广告载体也变得更加丰富，我们既能看到网站和APP广告登上电视，也能发现它们的广告出现在网页角落。除了传统的平面广告、电视电影广告，网页广告、APP植入广告、网赚APP成为手机应用的新广告载体。广告的投放目标，从“用户购买”转向了“完成下载”；广告的投放考量，从“信息曝光”转向了“用户转化”；广告的投放重心，从“
博客
内容审核行业研究：深度解析内容审核的困境与未来
05-16 1744
一、“紧”与“松”不是对抗，而是共生“紧”与“松”的问题，其实是对内容监管趋势以及内容平台生态建设的一个总结。“紧”可以分为两个方向，一是监管要求，另一个是监管力度。在监管上，从2019年开始，随着数字经济蓬勃发展，以及疫情加速的线上娱乐迅猛攀升，涉黄、涉政、涉嫌违禁的内容日益受到监管重视，并且也细分出隐晦色情整治、电信诈骗内容整治、包括对未成年人的保护等具体要求。这些要求正在逐步弥补各类平台“野蛮生长”时期的规范空缺，对各类风险内容以及过往忽视的新发风险予以关注，实际上也在树立内容生态发展的相关规
博客
对话晋江文学城：关于审核、分年龄、出海和网文的当下与未来
05-15 1372
网文还火吗？网剧《开端》开年大爆，其原著就是连载在晋江上的热门网络小说。尽管互联网娱乐早已步入视频时代，但网文发端二十余年，积累了一大批优质作品和忠实读者，诞生于2003年的晋江就是其中代表。一些数据能解释这种变化。CNNIC发布的《第47次中国互联网络发展状况统计报告》显示，截至2020年12月，我国网络文学用户规模达4.6亿，较2020年3月增长475万，占网民整体的46.5%，而网络视频受众占比已经达到93.7%。相较于更丰富的音视频媒体形式，文本自然是枯燥的，受众也更窄。在视频媒体冲击下
博客
杀猪盘、杀鸟盘、杀鱼盘...网络诈骗为何如此难以防范？
05-14 641
社交平台，特别是婚恋平台上，常有打着婚恋、兼职、信贷名义的诈骗行为。信息审核缺失，婚恋网站可能需要承担违约责任；报警溯源，平台也可能产生下架风险。本文从Netflix近期爆款剧《Tinder诈骗王（the Tinder Swindler）》聊起，聊聊杀猪盘、杀鸡盘、杀鸟盘等诈骗行为如何运作，平台应如何防范。当一个社交软件上的陌生人，声称自己是钻石富商，请求你借他信用卡，给他2.5万美元以度过人身安全危机，尽管他有完美人设，你多半也会觉得他是个骗子。但当钻石富商和你见过面，温柔体贴带你线下体验他的.
博客
如何“看懂”图片？谈出海企业的视觉识别体系搭建
05-13 558
对于出海企业，尤其是音视频行业出海企业，视觉识别能力已经成为必不可少的云服务基础建设。一方面，出海企业要面临出海国家各具特色的监管要求，需要通过视觉识别建立足够强大的风控系统；另一方面，视觉识别也是实现智能推荐、检索匹配的必要基础。“视觉识别”确实是一个宏大的技术主题，从中可以衍生出算法研发、模型训练、策略调优等等研究方向，每个方向都值得展开细致的技术探讨。本篇文章暂不讨论具体的技术细节和实现，将更多的关注点放在视觉识别应该解决哪些识别目标的宏观问题上，即“机器面对未知图片，应该具备哪些组成部分的识.
博客
图文情感分析模型降低80%人审核成本，怎么做到的？
05-11 625
案例一：某婚恋社交软件上，嘉宾资料页显示“市政府工作”，头像右下角有“国旗小贴纸”，和匹配对象聊天时透露“我在政府机关……”案例二：冬奥会期间，中国健儿勇夺金牌，身披国旗，引起热议。某社交平台网友也受到感染，踊跃进行图片创作，表达自己的爱国情感，其中，有少量损毁国旗的图片也混入其中……这是音视频社交行业的一个常见场景，其中，用户资料、发布内容、私信对话都可能引发风险。通常情况下，平台采用高召回策略，人工进行审核。这样做的好处是准确率高，但从用户体验和人力成本角度来说，这并不是一个好的选择，尤其是有大
博客
出海欧洲《通用数据保护条例》解读，附GDPR白皮书下载
05-07 667
2018年被称为“世界数据治理元年”。在这一年的5月25日，《通用数据保护条例》（GDPR）在经过两年的缓冲期后正式步入执法阶段。作为全球首部全面的个人数据保护法，它的出台极大地影响了欧洲乃至全世界的数据保护立法进程。出海欧洲的中国企业队伍日益壮大，而另一方面，入局欧洲的准入门槛也越来越高。随着GDPR的执法模式日益成熟，企业也迫切需要提升自身的数据保护合规水平，以应对更加制度化的监管。此前已围绕GDPR的适用范围、数据主体权利、数据跨境传输、数据处理原则以及企业义务五个主题展开详细解读。一、适
博客
《加州消费者隐私法案》解读合集，CCPA手册发布，助力企业出海合规
05-06 607
2021年，越来越多的中国企业开始展现出强大的国际竞争力，鼓舞着万千中国互联网企业进军海外。另一方面，随着各国开始制定各自的隐私保护、数据安全、数据合规法律，出海企业也面临着运营合规的难题。数美科技致力于为企业线上业务提供全方位的数字风控服务。数美数字风控研究院汇聚专业力量，洞悉行业趋势，为助企业驾驭出海合规风险，特推出“出海企业合规指南”，CCPA为出海系列的第一册。文末点击链接，即可免费获取独家完整版CCPA合规指南，另附CCPA英文原文PDF，供数字风控从业人员研究参考。CCPA是美国首部
博客
对话触漫：漫画App如何做好社区治理？
04-28 3343
《2021年中国二次元产业研究报告》显示，中国的二次元产业已经步入爆发期。2020年整体市场规模达达一千亿，年增速达到32.7%，其中细分的形态，如漫画、动画、游戏、衍生品等，也各有想象空间。在此背景下，我们和触漫业务负责人聊了聊，这家00后用户占比超90%，从工具切入逐步成长为UGC漫画内容社区，从内容延伸到素材商城的漫画App，如何圈住年轻人，又如何保护年轻人。触漫简介：触漫是一个以UGC漫画创作为主的泛二次元社区，从工具切入，通过低门槛编辑器和丰富的素材模板，帮助没有绘画基础的用户在手
博客
《加州消费者隐私法案》（CCPA）解读四：违反CCPA,企业会面临什么处罚？
04-28 1002
CCPA自2020年1月开始正式实施以来，尚未传出过天价罚单的新闻。与之形成鲜明对比的是高调而严苛的GDPR。据Atlas VPN统计，2021年，共有412家企业因违反GDPR被罚，其中不乏亚马逊、WhatsApp等互联网巨头，罚款总额更是高达10亿欧元。CCPA的处罚标准似乎比GDPR更为温和，事实果真如此吗？01 罚款标准CCPA第1798.155条规定，“对每一次违法行为处以最高2,500美元的行政处罚，对每一次故意的违法行为和每一次涉及未成年消费者个人信息的违法行为处以最高7,500美元的
博客
《加州消费者隐私法案》（CCPA）解读三：出海企业被施加的三项义务
04-27 525
2020年1月1日，《加州消费者隐私法案》（CCPA）正式生效。经过六个月的合规宽限期，CCPA从当年7月1日开始步入执法阶段，加州司法部长有权就不合规的企业提起诉讼、征收罚款。政府监管倒逼企业加大隐私保护投入。另一方面，随着CCPA逐渐为大众所熟悉，消费者的数据保护意识也在不断强化，企业陆续收到来自消费者的数据请求。据DataGrail发布的CCPA Trends 2021 Report显示，自CCPA实施以来，2020年B2C企业平均每月收到11份来自用户的数据处理请求/百万用户，其中又以2020年1.
博客
《加州消费者隐私法案》（CCPA）解读二：CCPA赋予消费者六大权力
04-26 1843
《加州消费者隐私法案》(CCPA)是美国首部关于消费者隐私保护和数据安全的全面立法，其重要性不亚于欧盟的GDPR。根据CCPA的规定，消费者主要拥有知情权、访问权、删除权、选择权、公平交易权、个人诉讼权六大权利。知情权消费者有权要求企业告知其收集的个人信息类型、信息来源、具体内容、用途以及第三方处理机构等。企业应在其隐私条款中明确告知消费者以上信息，否则其收集消费者个人信息的行为便视为不合规。微软隐私政策中关于知情权的条款来源：微软官网访问权消费者有权要求企业免费提供其收集、处理过
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值