最近,一位网友在小红书发布了一则帖子,描述了他因一时兴起在夸克APP搜索自己的名字所遭遇的情况。他惊讶地发现,自己的大学信息被毫无保留地展示出来,包括学校、专业和学号等详细信息。
“是搜名字后AI直接整合了一大篇信息,准确定位到本人了。”
这并非孤例,另一位用户也在社交平台上,表达了对个人信息泄露的不满和困惑:“被泄露个人信息是什么好笑的事吗……还有就是@夸克APP,你们什么意思啊,AI信息整合都可以直接准确定位到我本人了。”
虽然这两起事件可能并不常见。但一些夸克用户指出,拥有常见姓名的搜索结果往往不会显示,或者显示错误的信息,“但对于稍微少见一些的名字,结果的准确性简直如同裸奔一般,暴露无遗。”
目前,上述两位当事人已通过联系夸克客服解决了问题,处理后结果是,AI整合的个人信息已被移除,搜索结果仅显示存在于各网站上的同名同姓的信息。
7月10日,阿里智能信息事业群旗下的夸克升级“超级搜索框”,集纳了智能回答、智能创作和智能总结三大能力。
此次引发争议的主要是“超级搜索框”的“智能回答”功能。官方对该功能的描述是:它能更深入地洞察用户的搜索意图,整合全网的优质内容,以更精准、直接和高效的方式提供图文和视频等信息。
也就是说,随着“AI超级搜索框”的推出,用户在夸克新版本的App中输入任何查询,系统都将利用大模型的能力,自动整合搜索结果,并生成一份完整的AI驱动的回答。
但显然,“聚合全网优质内容”功能在方便用户的同时,也带来了一些潜在的问题。正如小红书上的用户所指出的,这项功能可能导致夸克搜索引擎暴露用户的个人详细信息。
这引发了广泛的质疑和担忧。
客观来看,夸克APP及其他搜索引擎的功能本质是信息检索工具,它们通过算法索引网页内容,帮助用户找到相关信息。理想情况下,从技术角度出发,搜索引擎展示的信息都是已经公开的数据。
如果某个用户的大学信息、学号等个人数据可以通过搜索名字被找到,这意味着这些信息已经在某个公共领域被公开。从这个角度来看,搜索引擎并没有“泄露”信息,而是在执行它们的基本职能:组织和检索公开信息。
正因此,有相当一部分用户在上述当事人帖子下替平台发言,“这也不算这些浏览器泄露你们的信息,是别人公示过你们的信息,浏览器本就是收录整合别人发的东西。”
但真是如此吗?当这种技术能力被用来聚合原本零散,且难以获取的个人信息时,其实已经构成了对个人隐私的侵犯。就像一个有能力偷窥每个角落的监视器,即使信息原本就公开存在,聚合后的信息却产生了新的隐私问题,这是技术发展必须直面的伦理问题。
专门从事网络相关法律业务的律师凌逸凡对「市象」表示,“应用这样的技术时,责任不应只停留在‘技术上可行’这一层面,更应关注‘伦理上是否恰当’。”
当前,许多技术企业依托“用户已同意隐私政策”这一点操作边界模糊的授权,实行对个人数据的无限搜集和使用。这种行为,实际上是在利用用户对技术的依赖和对隐私政策的不理解,将责任推脱给了用户自身,这种做法是对权力的滥用。
上述情况也并非是夸克AI的独有事件。有用户留言称,“使用kimi、智普清言等AI搜索工具也能找到我的名字和个人信息”,这表明隐私信息在AI工具上“裸奔”的问题可能更为普遍。
“企业和开发者需要重新审视他们对技术的态度和责任。不是所有技术上能做到的事情都应该去做。开发者和企业不仅应负责其产品能做什么,更要负责它们不应该做什么。就像在拥有大规模监控能力的今天,最大的挑战不是如何监控更多,而是如何在尊重个体隐私的前提下,合理使用这些能力。”从事AI应用创业的开发者镀铬,在与「市象」的交流中分享了自己的观点。
去年11月,阿里集团CEO吴泳铭将夸克与闲鱼、钉钉和1688一同定位为战略级创新业务,誉之为“阿里四小龙”,千亿级别参数的夸克大模型也首次亮相。
正是基于这一大模型,夸克推出了“超级搜索框”。阿里智能信息事业群总裁吴嘉描述它能够进行回答、创作和总结,称其为对AI搜索的重新定义。
但在夸克对AI搜索的定义中,确实应当更加重视信息安全的元素。
毕竟,百度公司董事长兼CEO李彦宏早已用“中国人愿用隐私换便利” 之说,引出了大众的共识——信息自由流通是互联网的基石,但这种自由不应以牺牲个人隐私为代价。
(文中镀铬为化名)