20240802 每日AI必读资讯

🌐太离谱！曝GPT-4o mini没做安全测试就开庆功会！

- OpenAI曾向美国政府承诺，将严格对其前沿的突破性技术进行安全测试，以确保AI不会造成损害，比如教用户制造生化武器或帮助黑客开发新型网络攻击。

- OpenAI严重违背政府协议，被立法者犀利追问12条

 🔗太离谱！曝GPT-4o mini没做安全测试就开庆功会！-CSDN博客

🧠打开语言模型“黑箱”！Google DeepMind 发布一套可视化工具Gemma Scope

- 可以让你了解语言模型的内部工作原理，知道模型到底在想什么...

- 该工具就像“显微镜”一样，可以从大量数据中提取有意义的特征，能够揭示语言模型内部的激活状态。

举例解释： 当你向语言模型输入一句话时，模型内部会产生一系列的“激活”。这些激活是模型用来理解和生成语言的内部信号，就像人脑中的神经元活动一样。 该工具就是用来解读这些激活的小工具。它们就像一种显微镜，能够放大和分析模型的内部信号，帮助我们看清模型在想什么。

- 研究人员可以利用该工具来研究和改进语言模型的实际应用，例如减少幻觉、提高模型输出的准确性，解决模型在处理复杂任务时可能遇到的问题。

🔗论文：https://storage.googleapis.com/gemma-scope/gemma-scope-report.pdf

🔗在线体验：https://neuronpedia.org/gemma-scope#main

🔗 

🚀Runway宣布推出Gen-3 Alpha Turbo 版本

- Gen-3Alpha Turbo模型生成视频速度比之前的Gen-3Alpha快了整整7倍，保持了优秀的性能表现。

- Runway降低价格推出新模型，可能是为了拓展更广泛的应用和创造更多整体收入。

- Runway面临版权纠纷，计划从YouTube频道抓取内容训练AI模型，引发争议但未正面回应。

🔗 Runway | Tools for human imagination.

🔗 https://blink.csdn.net/details/1774638 

🖥️360悬浮球将换成AI助手：集成15家最强大模型

- 这个AI助手可以通过其桌面客户端和浏览器悬浮球等多个入口随时唤起

- 支持用户在同一问题上同时使用多个模型进行解答，并显示多个结果供用户交叉验证

- 当用户不确定选择哪个模型时，AI助手会通过训练的意图识别模型，识别的你可能意图，自动为用户选择最合适的模型。

🔍谷歌发布全新Gemma22B模型，性能超越GPT-3.5-Turbo与Mixtral-8x7B

- 能够在手机、笔记本电脑、台式机等边缘设备上运行

- Gemma 2 2B在LMSYS Chatbot Arena排行榜上超过了所有GPT-3.5模型，甚至超越了Mixtral-8x7b。

- 可以处理多种文本生成任务，如问答、摘要和推理。

🔗模型下载：https://huggingface.co/google/gemma-2-2b

🔗 https://xiaohu.ai/p/12197 

⚖️美国版权局呼吁立法禁止AI换脸技术

- 需要新法律定义和打击AI驱动的换脸技术，遏制未经授权的数字复制品分发

- 责任应从分发或提供未经授权的数字复制品中产生，保护应至少持续个人一生

- 法规应包括安全港机制，激励在线服务商移除未经授权的数字复制品