你看着的点评有可能是人工智能编写的

 

sklearn实战-乳腺癌细胞数据挖掘(博客主亲自录制视频教程)

 

https://study.163.com/course/introduction.htm?courseId=1005269003&utm_campaign=commission&utm_source=cp-400000000398149&utm_medium=share

 

 

https://weibo.com/1111681197/FjYQJl52F?sudaref=www.baidu.com&display=0&retcode=6102&type=comment

 

《在线点评系统中的自动众包攻击和防御》是芝加哥大学研究人员发布的一篇论文。他们的研究说明,人工智能可以被用来生成复杂的点评信息。这些虚假的点评不仅机器无法检测出来,就连人类读者也分辨不出来。例如“我喜欢这个地方。我跟我哥一起去的,我们点了素食意大利面,很好吃。啤酒不错,服务也很棒。推荐这个地方,是个吃早餐的好去处。地儿小但是买卖大

 

点评是我们在进行购买时大部分都会去看的,而其中也不乏水军或是虚假点评,但人们总能一眼看出这些行为,但若这些虚假点评是人工智能编写的呢?现在人工智能(AI)已经学会自动编写虚假点评了。

整个点评口碑界正面临潜在却是严重的冲击。如果AI创造的虚假点评泛滥,最终将导致全部点评信息可信度急剧下降。技术进步,这一次又给社会带来了(令人担忧的)影响。“这对整个社会是一个巨大的威胁,不但会让依靠点评信息的用户失望,而且会动摇人类对于真实和虚假的信念,我认为后者更让人担心”,芝加哥大学计算机科学教授赵燕斌(Ben Y. Zhao)说。

 

够拼乐据悉《在线点评系统中的自动众包攻击和防御》是赵燕斌等芝加哥大学研究人员发布的一篇论文。他们的研究说明,人工智能可以被用来生成复杂的点评信息。这些虚假的点评不仅机器无法检测出来,就连人类读者也分辨不出来。

所谓复杂的点评信息,大概是这个样子:“我喜欢这个地方。我跟我哥一起去的,我们点了素食意大利面,很好吃。啤酒不错,服务也很棒。推荐这个地方,是个吃早餐的好去处。地儿小但是买卖大”。乍一看这个点评没有什么奇怪的,里面包含一些具体的建议和可信的描述,虽然最后一句有点奇怪,但整体仍然是一段说人话的表达。

实际上,这句话是一种称为RNN(循环神经网络)的深度学习技术生成的。这个RNN网络使用了上千条真实在线点评训练而成。研究人员表示,AI生成的点评已经做到了“以假乱真”,有600个用户参与的调查显示,这些虚假的点评不仅能逃过人类的法眼,而且还被用户认为“有用”。“有用”是更可怕的事情:这表明虚假点评已经可以对人类造成影响。

反抄袭软件也对这些虚假点评无能为力,因为这些点评是逐字生成的,而不是简单的替换已有点评中的用词。如果使用反抄袭软件检测,不但很难检测出虚假点评,而且会“误伤”一大批真实的点评。RNN可不仅仅是对现有点评的复制。

看来以后点评的东西都可以用人工智能伪造,这将对日后的消费造成巨大的冲击。人们网上购物或是看商家的评价的信任将大大降低。

 

 

 

德商资本:AI水军来了!点评口碑行业或将面临重新洗牌

 

据《在线点评系统中的自动众包攻击和防御》是赵燕斌等芝加哥大学研究人员发布的一篇论文说到,人工智能(AI)已经学会自动编写虚假点评了。这些虚假的点评不仅机器无法检测出来,就连人类读者也分辨不出来。这篇论文今年晚些时候会在计算机安全顶级会议ACM CCS上展示。

届时,整个点评口碑界正面临潜在却是严重的冲击。如果有人开始大规模生产这种假点评,大众点评、Yelp这样的网站恐怕就没有好日子过了,毕竟,它们的招牌就是来自用户的真实点评,如果每一条都可能是假的,谁又会继续相信它们呢?

AI水军点评内容真假难分

所谓复杂的点评信息,大概是这个样子:“我喜欢这个地方。我跟我哥一起去的,我们点了素食意大利面,很好吃。啤酒不错,服务也很棒。推荐这个地方,是个吃早餐的好去处。地儿小但是买卖大”。

可以说是堪称完整的点评,若是再配上几张实拍图,就可以被评为认真评论了。

实际上,这句话是一种称为RNN(循环神经网络)的深度学习技术生成的。这个RNN网络使用了上千条真实在线点评训练而成。

研究人员表示,AI生成的点评已经做到了“以假乱真”,有600个用户参与的调查显示,这些虚假的点评不仅能逃过人类的法眼,而且还被用户认为“有用”。

“有用”是更可怕的事情:这表明虚假点评已经可以对人类造成影响。

反抄袭软件也对这些虚假点评无能为力,因为这些点评是逐字生成的,而不是简单的替换已有点评中的用词。如果使用反抄袭软件检测,不但很难检测出虚假点评,而且会“误伤”一大批真实的点评。RNN可不仅仅是对现有点评的复制。

整个点评口碑界或将面临潜在却是严重的冲击

如果有人开始大规模生产这种假点评,大众点评、Yelp这样的网站恐怕就没有好日子过了,毕竟,它们的招牌就是来自用户的真实点评,如果每一条都可能是假的,谁又会继续相信它们呢?

接下来沦陷的,会是淘宝京东亚马逊之类的电商,虽然赵燕斌说至少它们还能限制只有买过该商品的用户才能点评,但情况也不容乐观。

人类手写的虚假点评,已经是一个兴盛的地下行业。只要有钱,你就能找到人帮你的产品写下正面的点评,也可以给你的竞争对手写下负面的评论。

但是!AI水军成本更低!效率更高!点评更加系统化!

美国市场上,一段质量较高的Yelp点评,可能价格能到10美元。不过一旦有了AI的帮助,君心叵测的人可以一分钱不用就生成上千条点评,而且一起放出以免引起怀疑。

构建一个这样的人工智能系统,并不需要太长的时间,所需硬件市面上都能买到,所需的点评数据库可以在网上轻易获得。

AI技术不止于点评

你以为AI技术仅仅只是点评么?

点评是测试文本生成技术的理想场所。这个领域有明确的方向和目的,主体单一,遵循一个相当标准的结构,而且不长。(虚假点评越长,越容易被发现问题)

但技术不会止步于此。

“所以,我们只是从在线点评开始。你能相信某某人说的那些关于餐馆、商品的话吗?但这类研究还会继续进步。”

“它会进步到更大的攻击,可能博客上的整篇文章都完全是由机器人根据某个主题自动生成的,这时候你就真的得想想信息是哪来的、如何验证……这是我们所有人过些年将要面对的,一个更大的挑战。”

赵燕斌说他想传递的信息很“简单”:“我希望人们能关注这类攻击途径,把它们看做真实、迫切的威胁,”如果Yelp、亚马逊这些网站的工程师们还没有开始考虑如何抵御,他希望他们立刻开始思考。

教授希望“我们希望能吸引更多注意,不仅为了设计出能防御这类攻击的系统,还想让更多人从平凡的视角,看到‘好AI’带来的威胁。”

“我认为,那么多人都在关注奇点、天网这些引人注目的AI威胁,但是那些很好很好的AI,能带来很多更实际的、有显示影响的威胁,而这只是冰山一角。”

他补充说:“所以,我以希望安全界的人能和我一起,关注这类问题,这样我们才有希望赶上。我认为,AI以惊人的速度和加速度在发展,如果我们不立刻开始研究如何抵御,可能永远都赶不上了。”

来个小测验

这有六个案例,其中有一些是神经网络生成的虚假点评,其他的是真实的人类点评。你看看是否能分辨出来是真是假。

1、我最喜欢去的意大利餐厅。大爱这家菜品,一切都很棒。我推荐生牛肉配芦笋。可惜现在名气太大了,越来越难在黄金时间预定到座位。

2、我们全家都是这间餐厅的超级粉丝。工作人员非常奈斯,食物很棒。鸡肉非常好吃,蒜汁堪称完美。上面配有水果的冰淇淋也很美味。强烈推荐!

3、每年圣诞节我都来,最爱意大利面!物有所值!

4、非常好的披萨、烤宽面条以及最好吃的扇贝之一。甜品很大很美味。

5、这的食物好吃得惊人,分量也很大。芝士百吉饼做得非常完美,新鲜又美味!服务很快。毫无疑问是我们最爱的地方!我们还会回来的!

6、我来这吃饭已经一年半了,除了好吃我无话可说。我总是点披萨,意大利牛肉也很好,给我留下深刻印象。服务非常出色。是我见过的服务最好的餐厅。强烈推荐。

你看出哪些点评有问题了么?

(注:德商资本是一个致力用投资改变生活的投资机构,产业升级、消费升级、新技术、医疗健康等领域的优质创新型企业是主要投资对象。德商资本专注于初创期、成长期及成熟期等不同发展阶段的企业,为创业者提供从种子轮、天使轮、A轮、B轮到IPO、产业并购等全程融资服务。)

 

知乎机器人|自动点赞/评论/发私信+爬虫

 

 

引用百度百科

知乎是一个真实的网络问答社区

社区氛围友好与理性 连接各行各业的精英 用户分享着彼此的专业知识,经验和见解 为中文互联网源源不断地提供高质量的信息

知乎机器人简介


mark


在github上看了一个开源项目 针对知乎的机器人

可实现以下功能:

自动点赞,评论,收藏,分享
自动群发 / 回复 私信
爬虫所有回答,专栏文章,收藏夹,整理成pdf电子书
爬虫用户全方位资料,头像,签名,昵称,关注等
跟踪关注大牛,或你的某某,有动态微信及时通知

题外简介

加入知乎还算比较早的 虽然贡献不多 但是看着知乎从邀请制,到开放注册 一直到现在的多场景知识布局,比如 live,电子书,还有即将开放嵌入gif和视频

相信知乎会越来越好
爬虫
自动爬取所有内容:

回答
专栏文章
收藏夹

当然可以打包成电子书,比如pdf或者kindle格式 随时随身阅读


mark


爬取用户资料
比如知乎妹纸


mark


当然不至于头像 也能爬各种个人资料简介 在这就不放别人的了 来一张自己的


mark


知乎动作操作


mark


自动一键点赞,感谢


mark


知乎大白Robot


mark


自动关注
自动评论
自动收藏答案
自动转发分享
自动发私信
自动删除(谨慎操作)

关于自动发私信
举例:关注我的人


mark


一键群发私信


mark


大家有注意到不?

自动发私信列表里的头像都是妹纸 自动甄选判断性别 然后再发送私信 精准受众群体,哈哈


mark


用户动态关注提醒
详细参数


mark


自动微信通知


mark


知乎搜索引擎


mark


感谢开源作者
大神的知乎ID


mark


开源项目 zhihu-python github地址 https://github.com/egrcc/zhihu-python
后记
知乎不是主打社交 所有群发私信的营销行为肯定不好且是骚扰
我的设想是: 知乎是以赞同排名机制,且是越高越有滚雪球效应 所以 可以提示小伙伴点赞后收取私信,分享百度网盘资源 其二,也告知微信机器人号 自动加群,关注公众号,相你们也体验过了
关系漏斗—–最后都是要引导到微信公众平台 可以关联网易云课堂/kindle电子书/小密圈/小程序
最后,请记住: 无论知乎,头条,还是什么媒体 总归要输出干货,分享一定价值 才是长生不衰的不二法则
希望和你做朋友
添加微信 hackrobot

会邀请你加入到微信群



作者:冰释小子
链接:http://www.jianshu.com/p/af70ffd07244
來源:简书
著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。

 

python风控评分卡建模和风控常识(博客主亲自录制视频教程)

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值