![397d63de95ce7fa6547da4a209813c52.png](https://i-blog.csdnimg.cn/blog_migrate/a1e2d243b7fb8f662cea4844219b1fc2.jpeg)
对于人工智能,知名物理学家霍金曾多次表达自己的担忧。他曾呼吁全球都要警惕具有独立意识的人工智能可能毁掉人类。而特斯拉的创始人埃隆·马斯克也曾警告,人工智能可能会将人类变成濒危物种。
此外,国内的腾讯公司也在最近提出“科技向善”,认为人工智能时代,科技企业必须守住底线,要用“善心”利用人工智能技术。
然而搜狗的王小川则认为,人工智能永远都不会超过人类,同时还大肆鼓吹“被人工智能抢走工作是一件很快乐的事。”
就在几天前,搜狗发布AI变声功能,并将此应用到搜狗输入法中。此举引发了网友对人工智能侵犯人类安全和隐私的广泛担忧。
1
助长诈骗犯罪。
5月24日,搜狗CEO王小川在极客公园rebuild大会上现场演示了其智能语音模拟系统,将自己的声音模拟成高晓松和东北妹子的声音。
![5d04f50d707989a012030e6517d620ba.png](https://i-blog.csdnimg.cn/blog_migrate/0c450921ac14a3cb472ade64c9814134.jpeg)
而且搜狗宣布,这种“AI变声”技术已经被应用到拥有数亿用户的搜狗输入法中。消息一出,便引发了微博上的广泛热议,其中谈论最多的就是这个技术是不是会助长电信诈骗。
![90cf213ca717bff960732edfeb1a0cff.png](https://i-blog.csdnimg.cn/blog_migrate/378bbf9b5c0cf4945ce60915429f067b.jpeg)
“突然间感到一丝不安全”华尔街见闻APP。
“小心被坏人用来搞电信诈骗”超光速进化。
“周知,以后收到马云的电话,请小心,谢谢”四喜。
“这东西有意义么?就算真的有用,有必要向民间开放技术么?” Enzo-四敢怪杰。
![68848b87e7bf1a14c62508192ab6127e.png](https://i-blog.csdnimg.cn/blog_migrate/0addb215debaaff6806bb0687de5267d.jpeg)
对于AI变声被用在电信诈骗的担忧并非没有道理。
首先,电信诈骗带来的损失十分巨大,让人触目惊心。
2018年全国公安机关电信诈骗案件立案69万起,共造成经济损失222亿元。
另外,通过模仿人声实施诈骗早已出现。
2016年央视曾报道,一种新型电信诈骗,打电话能模仿亲人的声音。而中科院研究员在这期节目中,解释了这个诈骗的技术原理,就是通过录制目标人的10-50句声音,然后通过软件生成目标人的声音。
搜狗官方这样解释自己的AI变声:
“搜狗做到的是语音变声领域最难的技术,通过在语音表征学习、迁移学习技术取得的重大突破,可以把任意人音色变声成特定人音色(Any-to-One),从实用程度到技术难度都是最高等级。”
![7a747a037da1244e5b62a26050267293.png](https://i-blog.csdnimg.cn/blog_migrate/638874f204f5c3aafd70f1470c9e64d1.jpeg)
这意味着,任何人只要拿到目标人的一段声纹,都可以将自己的声音转变为对方的声音。比如,诈骗分子将自己的声音转变为你儿子的声音,向你求助,从而实施诈骗。
因此,搜狗将这样的技术向4亿多输入法用户开放,即使还未“将转换成任意人声音”功能开放,也会导致网友的深深不安。
2
为了好玩,就不顾风险么?
搜狗王小川在演讲中说,将AI变声技术应用到输入法中,主要是为了“好玩”。因为,它可以仿一些其他人的声音去工作。
听到这里,我有些浑身发汗。难道,搜狗为了输入法更好玩,就不顾这个技术的风险么?
![428642dec8c302b323113b6cbc341365.png](https://i-blog.csdnimg.cn/blog_migrate/e05c83d0cb3d3d9de1dac080f48d24d2.jpeg)
这让我不由得想到搜狗已经被腰斩的股价和比较差劲的2019年第一季度财报。
搜狗股价已经跌至4.4美元,跌破发行价的同时,距离最高价已经跌去了3/4。
![9f36f95d745245a7e73eb0ba57e8f079.png](https://i-blog.csdnimg.cn/blog_migrate/d36325dfe577ea7c5af18590c45df66c.jpeg)
股价的下跌与当前整体市场环境比较差有一定关系,但更重要的是其越来越差的财报数据。
2019年第一季度,搜狗交上了一份亏损的财报,同时获取流量的成本占比大幅提升。而关乎未来的人工智能收入大幅下降了34%,技术研发投入同比下降12%。
显然,投资者已经对搜狗的未来失去了希望。或许为了提振投资者对搜狗在人工智能技术上的信心,才将可能存在风险的AI变声技术急切地用在搜狗输入法之上。
另有媒体报道称,搜狗的AI变声技术不是“实时”变声,只是对你录制好的语音进行音色转换。
就在王小川在rebuild大会上公开推介这一技术之前,科大讯飞董事长刘庆峰在其公司新品发布会上展示了类似技术,而且比搜狗的更加先进,是“实时变声”。
无需提前录制,刘庆峰在台上说什么,现场就立刻以另一种声音传达出来,仅有零点几秒的延迟。
但是,刘庆峰特别强调,他们的实时变声技术只是展示,并不会对外公开,更不会应用到讯飞输入法等软硬件产品中,因为他一直坚持认为“人工智能要持续发展,最核心的是它的价值观如何阳光健康与人为善。”
3
呼吁科技向善!
虽然霍金教授、马斯克关于人工智能的预言遭遇许多质疑和反对之声,但是我们不能忽视人工智能可能带来的负面影响,更不能为了短期利益而滥用人工智能技术。
![045d158248a619e137744ec64dbd71ad.gif](https://i-blog.csdnimg.cn/blog_migrate/6ca3dfe5f29d8bda39459b062413a261.gif)
谷歌曾投资过一家名为波士顿动力的人形机器人公司,但是没过多久便将其卖掉。因为谷歌在买入该公司后,才发现这家公司研发的人形机器人实在是太过强大,很可能对人类产生威胁。谷歌不想成为它的助推者。
![25defec7a9e18752db30ba8c2ed60f5b.gif](https://i-blog.csdnimg.cn/blog_migrate/536eb140170676adfab2582032ee47e8.gif)
在许多科幻影片中,人工智能打造的机器人被坏人利用、操纵,然后攻击人类,人类根本无还手之力。
这些看似遥远的预测,其实早已发生在我们的身边。
比如,网络摄像头公司因为技术不成熟,或技术漏洞,而导致大量使用该产品的用户在家里的隐私视频被公然传到网上。
一些内容平台、短视频平台利用人类对色情、八卦、暴力等内容的贪婪,以“算法之名”刻意推荐此类内容给用户,抢占用户的上网时常以播放广告牟利。他们其实已经将用户牢牢的控制在自己的平台上,把用户变成了自己的奴隶。
这些其实都是在利用技术犯罪,都违背了“科技向善”。这个世界需要科技,但不需要假科技之名而侵害人类利益的AI狂热分子。(完)