红鸟沙龙(32)|王丰:AI生成内容:风险与对策

以Chat GPT为代表的生成式人工智能正在深刻地改变着我们的工作和生活方式，科技往往是一把双刃剑，人工智能生成的内容不仅为我们提供了便利，也带来了新的挑战，那么，我们该如何面对这些挑战呢？

本期红鸟沙龙，我们非常荣幸邀请到了王丰先生作为主讲嘉宾，为我们分享AI生成内容：风险与对策。

王丰先生是FT中文网的总编辑；加州伯克利大学新闻硕士，曾担任《南华早报》网站主编、路透中文网创刊主编；曾获亚洲出版业协会卓越新闻奖和WAN-IFRA亚洲媒体奖。

（精彩回顾）

01

嘉宾分享

PART/1

生成式人工智能对多个行业和领域的影响

以色列历史学家尤瓦尔赫拉利：“通过掌握语言，人工智能正在获得通往我们所有机构之门的主钥匙。”

AIGC已经能够完成数月前我们无法想象的事情，也引发了在商业、伦理和法律角度的争议和一些让人担忧的案例。

首先，在商业领域，OpenAI背后的金主的“微软”已经将很多人工智能生成内容的功能应用到了自己的产品中供客户使用。

由于其AI生成的新闻标题及内容用词不当，造成了严重的社会负面影响，原因是它将一位英年早逝NBA球星Brandon Hunter形容为useless（无用的），这说明ChatGPT的技术还不够成熟，也不值得被完全信任。

即使提供给他最新的、最完整的、最全面的数据，他仍旧会凭空生造出一些数据与“事实”。

其次，多媒体领域的一些案例引发了人们在伦理层面的思考与担忧。在索尼全球摄影大奖赛，一位德国摄影师提交了一幅由AI生成的极具艺术感染力的照片赢得了大赛的一个主要的奖项，引起了巨大的争议。

事后摄影师站出来道歉并拒绝领奖，目的是想提醒整个艺术行业，摄影业人工智能的崛起会对这个行业产生多大的冲击，对于其他行业的顶尖摄影师来说也是非常不公平的。

另外，从法律层面来讲，人工智能也会带来一些争议。数月前，有人利用人工智能软件，模仿美国著名鬼才导演韦斯安德森的风格制作出了《星球大战》中的一个片段并上传到了Youtube平台上，此消息一出便引发了两大IP群体的骂战，也不禁让大家提出疑问，如果现实中韦斯安德森导演真的想翻拍星球大战的话，会给法律、版权、肖像权、其他知识产权领域带来多大的冲击？

生成式人工智能已经被运用于政治领域。在去年5月份，美国共和党总统候选人特朗普阵营利用AI进行政治宣传，通过人工智能合成声音对其竞争对手进行抹黑，从而达到助选的目的。

PART/2

生成式人工智能的政策与监管

首先，关于AIGC作品的版权法律地位：美国版权局（USCO）2023年3月16日发布指引称，人工智能（AI）自动生成的作品不受版权法保护。

“区别于有人工参与创作的Photoshop作品，通过Midjourney、Stability AI、ChatGPT等平台自动生成的作品完全由AI完成，并且训练的数据是基于人类创作的作品，因此不受版权法保护”。

美国版权局的立场和监管态度基于AI相关的内容是否有知识产权和版权保护，判定标准则是作品是由人为生成，还是包含AI的元素。

哪怕是有AI辅助，也不代表他有知识产权保护。

用中国的一个类似的案例来进行比较，腾讯公司诉上海盈讯公司案2019年的判决是在ChatGPT这样的生成式人工智能出现之前的一个判决，也被称为中国AIGC第一案。

腾讯前些年内部开发了一个名为“dream writer”的写稿机器人，他能够帮人生成丰富的背景性的、知识性的数据的内容，我认为已经是非常先进的一个写稿工具。

但在2019年的时候，腾讯的这个写稿工具写出来的一些财经新闻被上海盈讯公司拿去用在了自己的平台上并且产生盈利，腾讯立刻起诉表明自己的知识产权被侵犯。

最终，上海盈讯公司败诉并且给腾讯做出了财务上的赔偿。

最高法院知识产权法官周波：“该案提出了人工智能在著作权方面的两个法律问题”。

一方面，在该案中法院认定的作品并非由人工智能自主创造完成，而是由人工智能辅助完成的人类智力活动成果，因此可以受到著作权法保护。

同时，就目前中国法院的司法实践看，尚未出现涉及人工智能自主生成产物是否构成著作权法保护的作品的案例。人工智能自主生成产物是否能够成为受著作权法保护的作品，还需要做进一步的观察。 

另一方面，有关作品著作权的归属问题。法院认为涉案文章是由原告主持的多团队、多人分工的整体智力创作完成的作品，整体体现了原告的需求和意图，且由原告对外承担责任，因此认定涉案文章是原告主持创作的法人作品。相应地，该案中由人工智能参与完成的作品的著作权，就由该人工智能软件的使用者即原告享有。

由于人工智能自主生成产物究竟能否成为著作权法保护的作品尚无定论，因此，对于相应的著作权归属的论证也就缺乏相应的前提，目前尚不能给出一个确定的答案。

其次，值得关注的是各大内容平台对于AI生成内容的态度。

谷歌强调的是要负责任，他并不建议大家把人工智能作为一个内容的作者，而是希望任何的一个网页或一篇文章背后是一个真正的人类的作者，这是谷歌的态度。

Wikipedia（维基百科）是ChatGPT大模型的主要学习训练材料来源之一，它的创始人杰米维欧斯表示他并不反对大家用人工智能生成内容，或者在其辅助下来生成Wikipedia的网页和知识，但他希望大家对此也是保持负责任且谨慎的态度。

Spotify 也清理了上万首由人工智能生成的歌曲，但是并没有展现出对人工智能本身纯粹的排斥。Amazon 的有趣之处在于他把责任推给了用户自己，即用户使用后产生的法律责任需要由用户自己来负责。

在去年4-6月期间，中国的内容平台，如知乎、抖音、百度，纷纷推出了非常详尽的关于人工智能生成内容的相关政策和相关规定。他们明确要求内容创作者需要标注由AI或者是AI辅助生成的内容，并且强调需要对人工智能生成的内容进行识别与管理，也呼吁用户们互相监督。

在我看来，世界各国与AI和AIGC相关法规、监管政策、行业规范都处于动荡和博弈期。中国在监管引领下先行一步，美国逐渐赶上，监管政策各有侧重但逐渐趋同。

对于各界近期呼吁的对AI“踩刹车”式的强监管行动或企业自觉性限制行动我认为都极难实现，在要求平台和用户具备AIGC的工具和能力方面，以及从立法、监管强制要求AIGC标记方面，有希望取得一些进展。

最后，一个很重要的问题就是现在识别人工智能生成内容的工具水平相对落后。这不仅仅是纯粹的技术问题，而是商业驱动的问题。

虽然像大学这种教育机构会对此有需求，但这个需求还不足以生成一个健康的商业模式，让这些机构有动力去研发最先进的识别工具。

我的观点是，“以子之矛，育子之盾”，就是要由政府监管机构来鼓励这些最先进的人工智能模型的开发者来开发最先进的识别工具，大家一起协作，做这个事情可能会更快形成一套统一的标准，统一的技术水准，然后大家合并开发，开发出来东西要免费的公开地向公众提供，并且提供相关的公众教育。

02

观众问答

Q

提问：在未来，AI与人类应该是以一种什么样的形式去继续地交流，共存下去？

A

王丰先生：在媒体、自媒体、公关、广告和科技领域，人工智能与人类之间的合作模式日益普及，主要出现在人工智能生成基本文案、报告和研究工作的场景。

在很多行业，特别是需要框架和思路的领域，这种合作模式已经成为常态。通过人工智能产生初稿和思维框架，人类编辑和专业人士可以更快速、更有效地进行核实、修正和完善。

然而，这种合作模式也存在潜在风险。一些行业专家担心，随着人工智能替代了越来越多的初级工作，年轻人将失去机会获得经验和成长，从而导致专业人士的短缺。因此，如何平衡人工智能与人类的合作，以及如何确保年轻人有机会获得必要的经验和成长，是需要认真考虑的问题。

Q

提问2：我们如何去理解人工生成式内容的相关知识产权的问题？且prompt（提词）作为人工生成式内容的重要媒介，是否能被视为知识产权的一部分？

A

王丰先生：我认为教人如何创建、完善和编写复杂的prompt已经成为一门艺术，这在各行各业都有广泛的应用。监管机构可能还未意识到这种复杂性，但市场博弈可能会逐渐解决这个问题。

同时，随着信息差的逐渐消失，传统商业模式或将面临颠覆，但也会为新的机会打开大门。ChatGPT等技术的出现可能会冲击高利润行业，但也会在垂直应用方面创造新的机会。

Q

观众3：AIGC的高效率让人容易依赖，该如何平衡创作的原创性和效率？AIGC是否适合应用于新闻内容的生产、制作，以及传播？

A

王丰先生：对于作弊，概念更多与教育领域相关，但在专业领域，只要产生了好的效果，不违反行业标准和道德，就无所谓作弊。最终应用效果取决于经济和社会效应。

在新闻行业中使用AI生成内容或虚拟主播时，确保真实性和质量至关重要。在人工智能技术还不完善、监管标准尚未跟上的情况下，标记来源对未来的学习和保持道德标准至关重要。

在前期准备阶段，应用AI提高效率是可取的，但在最终产品呈现时，仍需经验丰富的人工处理以确保其准确性和客观性。

主编 | 袁冶

责编 | 吴倩

核校 | 柳松、许珺、周姗

（红鸟沙龙由香港科技大学副教授王一老师主持，旨在建立一个各界菁英与高校师生沟通以及公众了解知识的窗口，打造一个深刻、客观、理性、知性的分享平台。）