- 博客(213)
- 资源 (5)
- 问答 (1)
- 收藏
- 关注
原创 【复杂系统系列(中级)】Kolmogorov复杂度——信息的无序度量【通俗理解】
由于Kolmogorov复杂度的不可计算性,我们无法直接编写一个程序来计算任意字符串的Kolmogorov复杂度。Kolmogorov复杂度可以被视为一个“信息的拼图游戏”,它衡量的是将一段信息(或数据)拼接成有序状态所需的最少步骤或“拼图块”。就像玩拼图游戏时,我们需要找到正确的拼图块来还原整幅图画,Kolmogorov复杂度则衡量了将无序信息变成有序状态所需的最少努力。,并且我们使用一种简单的编程语言来描述产生这个字符串的程序。是非常困难的,甚至是不可能的,因为Kolmogorov复杂度的不可计算性。
2024-09-12 22:29:55 656
原创 【通俗理解】二项分布的均值与方差——从成功与失败的概率看分布
虽然有多种方法可以用于二项分布参数的估计,但在实际应用中如何选择合适的方法并确保其可靠性和有效性仍是一个挑战。二项分布描述的是在n次独立重复的伯努利试验中,成功次数的概率分布。这两种近似方法都基于统计学中的渐近理论,即在大样本情况下,某些复杂分布可以通过更简单的分布来近似。其中,$ n $ 是试验次数,$ p $ 是每次试验成功的概率,$ k $ 是成功的次数。二项分布告诉你,在n次抽取中,你抽到红色小球(成功)k次的概率是多少。你感兴趣的是在100次试验中,抽到红色小球(成功)k次的概率。
2024-09-12 15:22:10 852
原创 【生成模型系列(初级)】嵌入(Embedding)方程——自然语言处理的数学灵魂【通俗理解】
嵌入方程 #自然语言处理 #词向量 #机器学习 #神经网络 #向量空间模型 #Siri #Google翻译 #AlexNet。
2024-09-08 14:42:11 1304
原创 【复杂系统系列(中级)】凝聚态物理与其他复杂性科学领域的交织探索 ——从神经科学到教育学的跨学科对话
通过上述的分析,我们可以看到凝聚态物理与其他复杂性科学领域之间存在着深刻的联系和启示。这些领域的交织探索,不仅推动了各自领域的发展,也为理解自然和社会现象提供了新的视角和方法。在未来的研究中,我们可以期待更多跨领域的合作和创新,以揭示复杂系统的奥秘。#凝聚态物理 #神经科学 #认知心理学 #脑科学 #教育学 #跨尺度现象 #非线性动力学 #自组织 #复杂网络 #知识传递 #技术创新。作为物理学的一个重要分支,与其他复杂性科学领域(如神经科学、认知心理学、脑科学、教育学)之间存在着深刻的联系和启示。
2024-09-08 01:23:59 657
原创 【神经网络系列(中级)】小数据学习中的“特征提取+推理”模型【通俗理解】
在小数据场景下,模型训练面临数据稀缺的挑战,难以捕捉到足够的特征来支持泛化能力。因此,如何高效地从有限数据中提取关键特征并进行推理,成为AI崛起的关键。
2024-09-06 15:33:32 1061
原创 【通俗理解】Baseline在竞赛中的意义——性能比较的标准尺
Baseline #竞赛标准 #算法性能 #性能比较 #改进评估 #魔改基础 #优势彰显。
2024-09-06 01:41:25 1012
原创 【神经网络系列(高级)】神经网络Grokking现象的电路效率公式——揭秘学习飞跃的秘密【通俗理解】
论文地址:https://arxiv.org/abs/2309.02390参考链接:[1]https://x.com/VikrantVarma_/status/1699823229307699305[2]https://pair.withgoogle.com/explorables/grokking/#Grokking现象 #神经网络 #电路效率 #学习效率 #一般化解 #记忆化解 #临界数据集大小虽然原文献中没有直接给出具体的数学公式,但我们可以根据其核心思想构建一个简化的模型框架:Generali
2024-09-06 00:44:09 787
原创 【复杂系统系列(中级)】复杂系统科学的层级与不确定性方程【代码模拟】
复杂系统科学 #层级结构 #不确定性 #上行因果 #下行因果 #初值敏感 #混沌现象。
2024-09-05 23:22:19 1461
原创 【生成模型系列(中级)】词向量维度选择的奥秘——从理论到实验的揭秘【通俗理解,代码模拟】
词向量 #维度选择 #最小熵原理 #Johnson-Lindenstrauss引理 #注意力机制 #图网络。
2024-09-05 10:52:17 1023
原创 【通俗理解】最优控制之旅——强化学习中的策略优化
最优控制 #强化学习 #状态值函数 #奖励函数 #折扣因子 #贝尔曼方程 #策略迭代 #值迭代 #动态规划 #马尔可夫决策过程。
2024-09-03 14:29:54 776
原创 【干货】神经网络调参技巧大揭秘
神经网络 #调参技巧 #过拟合 #学习率 #批量大小 #Dropout比率 #初始化方法 #层归一化 #批量归一化 #层次化模型结构 #数据增强 #随机数种子 #交叉验证 #优化器选择 #早停策略。每一步的调整都可能对最终的结果产生显著的影响,因此,在实践中需要不断地尝试和验证,以找到最适合当前任务的调参策略。)、设计层次化的模型结构、创新数据增强方法、严格设定随机数种子、巧妙设计交叉验证方式以及明智选择优化器等策略,可以显著提升神经网络的性能和稳定性。- 爱睡觉的KKY的回答 - 知乎。
2024-09-03 12:42:38 569
原创 【干货】深度学习调参秘籍【表格】
通过选择合适的优化器、合理设置学习率、调整batch大小、利用随机种子、应用学习率衰减、尝试不同的网络初始化方法、增加各种norm以及选择合适的激活函数,可以有效提升深度学习模型的性能。#深度学习 #调参 #优化器 #学习率 #batch大小 #随机种子 #学习率衰减 #网络初始化 #norm #激活函数。- 知乎 https://www.zhihu.com/question/25097993。深度学习调参秘籍:从优化器到激活函数的全面解析。——让你的深度学习模型性能飙升的八大技巧。
2024-09-03 12:25:36 410
原创 【自由能系列(中级),代码模拟】预测编码的核心:三个关键方程式的详解
—探索预测编码背后的数学原理与应用:预测编码是一种的理论框架,它通过三个关键方程式描述了大脑如何处理和解释来自环境的信号。这些方程式分别建立了以及,共同揭示了预测编码在感知-动作循环中的重要作用。参考文献:Jirsa, V.;
2024-09-02 10:44:09 1110
原创 【自由能系列(初级)】第一性原理与自由能——从基础到系统做功的桥梁【代码模拟】
第一性原理 #自由能 #系统做功 #基本事实 #基本原理 #物理量 #能量转换 #热力学 #Gibbs自由能 #Helmholtz自由能。
2024-08-31 13:28:57 818
原创 【自由能系列(初级)】生命负熵——熵增原理与生命秩序的对抗【代码模拟】
生命负熵 #熵增原理 #生命秩序 #薛定谔方程 #熵减过程 #热力学第二定律 #信息熵 #生命系统建模 #负熵流 #熵平衡。
2024-08-31 12:10:49 1114
原创 【复杂系统系列(初级)】自动调节动态平衡模型——生物体的稳态机制【代码模拟】
自动调节 #动态平衡 #生物体稳态 #反馈机制 #体温调节 #微分方程模型。
2024-08-30 19:43:57 5661
原创 【自由能系列(高级)】证据下界(ELBO)及其在变分自编码器中的应用
证据下界(ELBO)是用于衡量生成模型和推断网络性能的一个重要指标,特别是在变分自编码器(VAE)中。ELBO通过最大化来优化模型,以提升的能力。Lθϕ;xEqlogpxz∣θ)]−Eqlogqz∣ϕ)]其中,x是观测数据,z是隐变量,θ和ϕ分别是生成模型和推断网络的参数。
2024-08-30 10:41:53 1230
原创 利用Netron库实现AlexNet模型的可视化
无直接相关文献,但可以参考PyTorch和ONNX的官方文档,以及Netron库的GitHub页面来了解更多关于模型可视化的信息。#神经网络可视化 #Netron库 #AlexNet模型 #ONNX格式 #PyTorch #模型结构分析。神经网络可视化新玩法:用Netron库轻松查看AlexNet结构!,从而更直观地理解模型的。
2024-08-30 10:22:43 1134
原创 【自由能系列(初级)】大脑功能与贝叶斯计算——深层生成模型的自由能原理【代码模拟】
大脑功能 #贝叶斯计算 #深层生成模型 #自由能原理 #马尔可夫毯 #稀疏连接性 #层次结构。
2024-08-29 23:24:35 932
原创 【自由能系列(初级)】自由能原理——神经科学的“能量守恒”方程【代码模拟】
自由能原理 #KL散度 #生成模型 #识别密度 #观测数据 #神经科学。
2024-08-29 21:29:10 782
原创 【自由能系列(中级)】自由能与变分自由能——从状态到配置的效益最大化【代码模拟】
自由能 #变分自由能 #状态函数 #配置函数 #效益最大化 #物理系统 #优化问题。
2024-08-29 21:09:37 981
原创 【自由能系列(中级)】状态与动作的协同机制解析 ——从马尔可夫毯到大脑功能的全方位剖析【mermaid 代码】
内部状态自组织以最小化感官状态的自由能,并与感知相对应;此图展示了系统如何通过马尔可夫毯划分状态,并通过内部状态的自组织来最小化感官状态的自由能,从而实现感知与动作的协同机制。Hopfield的研究揭示了神经网络如何通过自组织展现集体计算能力,对理解大脑内部状态的动态有重要意义。Friston的理论提出了自由能最小化原则,作为大脑功能的基础,对理解感知与动作的协同机制有重要意义。Clark的文章探讨了预测性大脑和情境化代理的概念,为理解大脑如何与外部状态耦合提供了重要视角。内部与隐藏/外部状态。
2024-08-29 19:36:27 993
原创 【生成模型系列(初级)】自编码器——深度学习的数据压缩与重构【代码模拟】
深度学习 #特征提取 #Attention机制 #CNN #Transformer #关联特征 #MLP #拟合处理。
2024-08-29 10:08:13 1206
原创 【深入解析】最优控制中的Bellman方程——从决策到最优路径的探索
Bellman方程 #最优控制 #动态规划 #值函数 #策略优化 #强化学习。
2024-08-28 19:46:58 1162
原创 【自由能系列(初级)】自由能包含哪些公式? ——探索自由能的多种表达形式及其物理意义
自由能是物理学和化学中一个极其重要的概念,它有多种不同的表达形式,每种形式都有其特定的物理意义和适用场景。#自由能 #吉布斯自由能 #亥姆霍兹自由能 #统计物理 #化学 #自由能密度 #广义自由能 #量子自由能 #相对论自由能。该书系统介绍了热力学和统计热力学的基本原理,包括自由能的各种表达形式及其物理意义。该书详细阐述了物理化学的基本原理,其中包括自由能的概念及其在化学反应中的应用。该书从统计物理的角度深入探讨了自由能的概念及其与微观状态数的关系。——探索自由能的多种表达形式及其物理意义。
2024-08-28 18:36:18 1281
原创 【通俗理解】Transformer哈希机制——序列数据的情感搅拌机
Transformer #哈希机制 #自注意力 #序列数据 #拟合 #情感搅拌机 #关联权重 #高维空间映射 #复杂依赖关系 #数据处理。
2024-08-28 15:54:58 1104
原创 【自由能系列(初级)】自由能原理在多个领域的统一视角【表格】【知名论文】
自由能原理作为一个统一的理论框架,成功地将多个看似不相关的领域(如神经科学、物理学、经济学、信息论、控制论、认知科学和生物学进化)联系在一起。通过自由能原理,我们可以更深刻地理解不同系统如何在给定条件下实现最优行为或状态。#自由能原理 #跨领域统一框架 #优化逻辑 #参数调节 #贝叶斯大脑 #预测编码 #最优控制 #注意力机制 #自然选择 #机器学习。:自由能原理、跨领域统一框架、优化逻辑、参数调节、贝叶斯大脑、预测编码、最优控制、注意力机制、自然选择、机器学习。
2024-08-27 15:17:04 5744
原创 【自由能系列(初级)】自由能在哪些领域可以大放异彩? ——自由能的多领域应用探索【表格】
自由能作为一个重要的物理量,在化学、生物学、物理学、材料科学、环境科学、经济学、工程学以及药物研发等多个领域都发挥着关键作用。它不仅能够描述系统的能量状态,还能用于判断过程的自发性和可能性,为科学研究和工程技术提供了有力的理论支持。#自由能 #吉布斯自由能变 #化学领域 #生物学领域 #物理学领域 #材料科学领域 #环境科学领域 #经济学领域 #工程学领域 #药物研发领域。:自由能、吉布斯自由能变、化学领域、生物学领域、物理学领域、材料科学领域、环境科学领域、经济学领域、工程学领域、药物研发领域。
2024-08-27 14:35:07 1219
原创 【表格】EEG作为脑成像工具的分析与应用
EEG作为脑成像工具,通过空间分析方法,能够揭示大脑活动的动态模式和源定位,提供关于大脑功能和疾病状态的深刻见解。#EEG #脑成像 #空间分析 #源成像 #功能连接性 #癫痫病灶定位。则为我们理解大脑在静息和认知任务状态下的工作机制提供了窗口。技术的发展更是拓宽了EEG在临床和认知研究中的应用潜力。技术则进一步推动了我们对大脑内部活动的精确理解。揭示了大脑网络内部复杂的交互作用,而。提供了量化EEG数据的有效手段,而。
2024-08-26 16:11:24 1226
原创 【通俗理解】大脑如何区分想象与现实——信号强度的阈值模型
想象和现实的神经机制在很大程度上是重叠的。当我们想象某个场景或物体时,大脑中与视觉处理相关的区域(如枕叶)会被激活,这与实际看到该物体时激活的区域相似。这种重叠使得从神经活动本身直接区分想象和现实变得困难。
2024-08-26 15:44:22 1000
原创 【生成模型系列(初级)】相似性约束编码器——数据压缩与特征保留的艺术
相似性约束编码器 #数据压缩 #特征保留 #编码效率 #信息损失 #降维技术。
2024-08-26 15:09:35 803
原创 【神经网络系列(中级)】CNN复杂度——卷积神经网络的计算成本解析
CNN复杂度 #卷积神经网络 #计算成本 #输入数据尺寸 #卷积核大小 #卷积核数量 #复杂度公式。
2024-08-19 20:54:58 827
原创 【神经网络系列(中级)】常见神经网络计算复杂度对比 ——从时间复杂度和空间复杂度角度剖析
常见神经网络计算复杂度对比——从时间复杂度和空间复杂度角度剖析。
2024-08-19 20:13:56 873
原创 【通俗理解,有代码】自组织临界性方程——系统自发的复杂状态建模
自组织临界性 #神经网络 #复杂系统 #临界状态 #微分方程 #系统建模 #稳定性与变化性 #复杂信息处理。
2024-08-19 16:52:57 1311
原创 【通俗理解】Transformer复杂度解析——从注意力机制到计算成本
Transformer #复杂度 #注意力机制 #自注意力 #序列长度 #特征维度 #计算成本 #时间复杂度 #空间复杂度 #模型优化。
2024-08-19 16:28:07 978
原创 【通俗理解】变分推断与VAE——隐变量采样的魔法
变分自编码器 #VAE #隐变量 #重参数化技巧 #生成模型 #概率模型 #编码器 #解码器 #变分推断。
2024-08-19 10:31:52 976
一本制作很用心的影集
2020-11-30
7个回归分析方法思维导图.png
2020-05-22
摄影技巧大汇总 摄影原理 相机操作 拍摄技巧 思维导图.png
2020-05-16
TA创建的收藏夹 TA关注的收藏夹
TA关注的人