柴洪峰院士：大模型赋能金融科技思考与展望

柴洪峰院士：大模型赋能金融科技思考与展望 – 我爱自然语言处理

从安全角度解决大模型的部署问题

金融数据和垂直领域大模型密切相关，存在数据安全、大模型安全可信和伦理等问题，同时金融领域也涉及敏感信息和决策，因此对于金融大模型的监管必不可少：

1. 建立监管框架与标准，确保大模型在金融领域的应用符合法规与道德要求，通过政产学研的合作制定相关的政策和指南。
2. 对于金融大模型的部署与使用，需要协同共治，提升透明度，保证数据质量和可解释性的机制。这可以帮助用户与监管机构理解模型的决策依据，并确保其不带有偏见或歧视性。
3. 监管机构还应加强对于金融大模型的审查和风险评估，对于关键人物和系统，应建立审查和测试的机制，确保其性能和安全性。

具体来讲可分为数据安全与版权安全两个方面：

数据安全：

1. 大模型的复杂性和规模增加了攻击者进行攻击的可能性。同时，大模型的训练过程涉及更多的数据和计算资源，这也无恶意攻击者提供了更多的机会来入侵和篡改数据模型。目前大模型极易通过对抗攻击、后门攻击、模型窃取等手段而遭受威胁，需要寻找有效的方法规避风险。
2. 大模型在辅助金融场景知识问答的过程中，由于无法对用户身份进行识别，容易产生高等级或机密信息泄露等风险，需要对大模型训练过程中的数据安全等级做严格的界定。

版权安全：
在金融垂直领域大模型开源的情况下，被恶意窃取并进行微调的现象时有发生，可利用特定的数据进行输入，模型识别到这一特定的输入，就会给出不同于正常类的输出，通过这一行为来判断模型的归属问题。