#爱丁堡大学图解版「伽罗瓦理论」
你可能听说过这样一个故事。
埃瓦里斯特・伽罗瓦(Évariste Galois)是一位富有浪漫主义色彩的数学家。他在 1811 年出生于法国巴黎,从小便体现出了极高的数学天赋,却一直怀才不遇,还在不到 21 岁的时候被卷入一场决斗。
自知必死的伽罗瓦在决斗前将自己所有的数学成果奋笔疾书纪录下来,并时不时在一旁写下「我没有时间」。三天后,他在决斗中腹部中了三颗子弹,几天之后不治身亡。
伽罗瓦死后,他的朋友整理了他留下的手稿,并将其中重要的内容交给了数学家刘维尔(Joseph Liouville)。到 1846 年,刘维尔替伽罗瓦发表「群论」思想,「关于方程根式解的条件」和「用根式求解的本原方程」两篇论文重见天日。在这些论文中,伽罗瓦将其理论应用于代数方程的可解性问题,由此引入了群论的一系列重要概念。
对于学界来说,伽罗瓦理论(Galois Theory)是现代数学的重要发端之一。
在如今,伽罗瓦理论作为大学抽象代数难度最大的一个部分被很多人学习,但时常被抱怨比较难学。
最近,有人公开了新版本的教材。Tom Leinster 是英国爱丁堡大学的一名数学家,他公开了自己于 2021 年到 2023 年在爱丁堡大学面向本科生授课时的 Galois Theory 课堂笔记。
Leinster 此前还发布过《Basic Category Theory》等教材。
要学习该课程,你需要具备环论、群论和线性代数等基本知识,这些笔记阐述了域扩展及伽罗瓦群的理论,包括伽罗瓦理论的基本定理。其中还包括关于尺规构造的部分、可解多项式具有可解伽罗瓦群的证明以及有限域的分类。
Leinster 表示,这些资料涵盖了:
- 伽罗瓦理论部分的完整、自成体系的说明;
- 大约 40 个简短的解释视频;
- 大量问题;
- 以及近 500 道多项选择题。
目前,课程的资料已被整理到了 arXiv 上。
- arXiv链接:https://arxiv.org/abs/2408.07499
- 视频:https://www.maths.ed.ac.uk/~tl/galois/#videos
- 主页:https://golem.ph.utexas.edu/category/2024/08/galois_theory.html
- 更多资源:https://www.maths.ed.ac.uk/~tl/galois/
值得一提的是,这份学习资料公开之后,因为热度很高,作者感觉有点受宠若惊。
这可能是因为这一版伽罗瓦理论的内容非常详细,而且配有生动的图解。
#FancyVideo
RTX3090可跑,360AI团队开源最新视频模型FancyVideo,红衣大叔都说好论文作者之一 Ao Ma,硕士毕业于中科院计算所,曾在 MSRA 视觉计算组和阿里通义实验室进行学术研究和算法落地工作。目前是奇虎 360-AIGC 团队-视频生成方向负责人,长期致力于视觉生成方向研究和落地,以及开源社区建设。
近日,开源社区又迎来一款强力的「视频生成」工作,可以在消费级显卡 (如 GeForce RTX 3090) 上生成任意分辨率、任意宽高比、不同风格、不同运动幅度的视频,其衍生模型还能够完成视频扩展、视频回溯的功能…… 这便是 360AI 团队和中山大学联合研发的 FancyVideo,一种基于 UNet 架构的视频生成模型。
作者基于已经开源的 61 帧模型,实测效果如下。
首先适配不同分辨率、宽高比:
其次支持不同风格:04
最后生成不同运动性:
- 论文地址:https://arxiv.org/abs/2408.08189
- 项目主页:https://fancyvideo.github.io/
- 代码仓库:https://github.com/360CVGroup/FancyVideo
- 论文标题:FancyVideo: Towards Dynamic and Consistent Video Generation via Cross-frame Textual Guidance
跨帧文本引导模块
作者在进行视频生成研究过程中,发现现有的文本到视频(T2V)工作通常会采用空间交叉注意力(Spatial Cross Attention),将文本等价地引导至不同帧的生成过程中,缺乏对不同帧灵活性的文本引导(如下图左)。这会导致模型理解提示词所传达的时间逻辑和生成具有连续运动视频的能力受到限制。
FancyVideo 正是从这一角度切入,特殊设计了跨帧文本引导模块(Cross-frame Textual Guidance Module, CTGM, 如下图右)改进了现有文本控制机制。
具体来说,CTGM 包含 3 个子模块:
- 时序信息注入器(Temporal Information Injector, TII)-- 将来自潜在特征的帧特定信息注入文本条件中,从而获得跨帧文本条件;
- 时序特征提取器(Temporal Affinity Refiner, TAR)-- 沿时间维度细化跨帧文本条件与潜在特征之间的相关矩阵;
- 时序特征增强器(Temporal Feature Booster, TFB)-- 增强了潜在特征的时间一致性。
FancyVideo 训练流程
FancyVideo 整体训练 Pipeline 如下所示。其中在模型结构方面,FancyVideo 选择在 2D T2I 模型基础上插入时序层和基于 CTGM 的运动性模块的方式构造 T2V 模型。在生成视频时,先进行 T2I 操作生成首帧,再进行 I2V。这既保存了 T2I 模型的能力,使视频整体画质变高,又大大减少了训练代价。
此外,为实现运动控制的能力,FancyVideo 在训练阶段将基于 RAFT 提取视频运动信息和 time embedding 一起注入到网络中。
实验结果
作者通过定量和定性两个方面对模型效果进行评估。他们首先在 EvalCrafter Benchmark 上比较了 FancyVideo 和其他 T2V 模型,可以看到 FancyVideo 在视频生成质量、文本一致性、运动性和时序一致性方面均处于领先位置。
论文还在 UCF-101 和 MSR-VTT Benchmark 上进行了 Zero-shot 的评测,在衡量生成视频丰富性的 IS 指标和文本一致性的 CLIPSIM 指标均取得了 SOTA 结果。
此外,论文还基于 FancyVideo 模型的 T2V 和 I2V 能力分别和前人方法进行了人工评测,结果显示在视频生成质量、文本一致性、运动性和时序一致性角度 FancyVideo 均处于领先。
最后,论文中采用消融实验探究了 CTGM 的不同子模块对于视频生成结果的影响,以验证各个子模块的合理性和有效性。
应用场景
基于这种训练 pipline 和策略,FancyVideo 可以同时完成 T2V 和 I2V 功能,还可以在生成关键关键帧的基础上进行插帧操作:
视频扩展、视频回溯操作:
FancyVideo 上线开源社区不到一周,已经有手快的同学自发搭建了 FancyVideo 的 ComfyUI 插件,让大家可以在自己的机器上玩的开心。
此外,据作者了解,后续 FancyVideo 团队除了会放出更长、效果更好的模型到开源社区,还计划上线网页版本供大家【免费】使用。在 AIGC 时代,人人都是「能诗会画」的艺术家。开发板商城 天皓智联 TB上有视觉设备哦 支持AI相关~ 大模型相关也可用whaosoft aiot
结论
相比于 SORA 类视频生成「产品」的发展,开源社区中视频生成模型的更新和迭代显得略微缓慢,FancyVideo 的发布也给了普通用户更多选择。相信在社区小伙伴共同的努力下,视频生成这一目前看上去费时费力的任务,能够成为更多普通小伙伴日常生活、工作中的工具。