- 博客(74)
- 收藏
- 关注
RSS订阅原创 最新大模型架构TTT模型代码解析（二）
类通过这些方法和属性，实现了一个完整的因果语言模型，能够用于文本生成任务，如文本续写、问答等。): 定义了模型的前向传播逻辑，包括处理输入 ID、注意力掩码、位置 ID、输入嵌入、缓存参数等，并计算损失和 logits。): 提供获取和设置模型输出嵌入层的方法，这通常用于调整模型的输出以适应不同的任务。): 定义了因果语言模型的输出格式，包括损失、logits、缓存参数和隐藏状态。): 允许用户设置自定义的解码器，并能够获取当前使用的解码器。): 在生成文本时，更新模型参数，如缓存参数和注意力掩码。
2024-07-24 17:25:26
1582
2
原创 最新大模型架构TTT模型代码解析（一）
这项来自斯坦福大学、加州大学伯克利分校、加州大学圣迭戈分校和 Meta 的研究提出了一个新颖的序列建模方法，称为测试时训练（Test-Time Training, TTT）层。TTT 层通过用机器学习模型取代 RNN 的隐藏状态，并使用输入 token 的实际梯度下降来压缩上下文。研究表明，这种方法在性能上可以优于现有的 Transformer 和 Mamba 架构。
2024-07-24 16:30:23
2805
原创 黑客常用工具合集
脱壳工具的目的是恢复或接近原始的、未加壳的程序代码，以便进行进一步的分析或修改。使用脱壳工具进行逆向工程可能会违反软件的许可协议，而且在某些国家和地区，未经授权的逆向工程活动可能是非法的。密码综合学（Cryptanalysis）是研究分析和破解加密系统的科学，旨在无需密钥的情况下理解加密信息的内容，或者找出加密系统的弱点。这些工具从不同的角度对系统和网络的行为进行监控，提供了全面的安全和性能分析能力。然而，它们的使用需要遵守法律规定，未经授权使用这些工具进行破解或分析他人加密的数据是非法的。
2024-03-25 17:26:32
2065
原创 python金融分析（一）股票走势分析
上述代码将会生成一个股票的收盘价走势图，并在同一图表中显示50天和200天的移动平均线。接下来我们将开始进行技术分析，要进行更深入的股票分析，你可以引入更多的技术分析指标。要使用Python分析股票走势图，你通常需要做几个步骤：收集数据、处理数据、可视化分析以及执行某些形式的技术分析。下面是一个简单的策略示例，它结合了移动平均线、RSI和MACD指标。在这个策略中，我们使用了移动平均线的金叉和死叉作为主要的买入和卖出信号，并结合RSI和MACD作为进一步确认。
2024-03-24 19:04:52
2155
原创 基于激光雷达的基于深度学习的自动驾驶三维目标检测方法综述 论文解读
原论文：《A comprehensive survey of LIDAR-based 3D object detection methods with deep learning for autonomous driving》
2024-03-24 16:15:16
1199
1
原创 用不到100行实现一个极简版Docker（Go语言）
这个项目是一个展示 Linux 容器基础技术的简化示例。它试图模拟类似 Docker 容器的环境隔离功能，但要简化得多。主要使用了 Linux 的命名空间（namespaces）和根文件系统切换（pivot_root）功能来实现环境隔离。这里的代码分为两个主要部分：parent 和 child 函数，它们分别负责创建隔离环境和在该环境中运行命令。
2024-03-24 13:39:15
905
原创 Django速通
在hello应用目录中找到views.py文件，并打开它。")这个视图简单地返回一个包含"Hello, world!"文本的对象。
2024-03-24 13:25:47
893
原创 用C++实现一个简单编译器
主函数从输入文件中读取代码，进行语法分析，构建抽象语法树，生成目标代码，最后执行这些代码的过程。在LLVM中创建这个函数意味着你可以在你的LLVM的代码中使用。展示了如何构建一个抽象语法树（AST），并将其转换成LLVM中间表示（IR），然后编译和执行这些IR。这个函数演示了如何在LLVM中定义和使用自己的函数，以及如何调用其他函数（如。，从而在LLVM上下文中创建这些函数。准备好执行环境，然后运行主函数它接受一个空参数列表，并返回执行结果。这个函数的目的是在LLVM的上下文中创建一个代表。
2024-03-23 22:51:50
1296
原创 C语言实现LC3虚拟机
枚举和定义: 代码开始部分定义了若干枚举类型和宏定义，用于表示寄存器、条件标志位、操作码、内存地址等关键元素。例如，R_PC代表程序计数器，OP_ADD代表加法操作，MEMORY_MAX定义了内存的最大大小等。
2024-03-23 22:30:07
1170
原创 网络安全产品（一）防火墙
防火墙是一种网络安全系统，它监控并控制进出一个网络的数据包。它的主要功能是在私有网络和互联网之间建立一个屏障，根据一系列预定义的安全规则决定哪些数据可以进入网络，哪些数据被阻止。防火墙可以是软件形式，也可以是硬件设备，或者两者的结合。
2024-03-23 16:02:02
1012
原创 node.js常用命令
Node.js 是一个基于 V8 JavaScript 引擎的 JavaScript 运行时环境，它可以让你在服务器端运行 JavaScript。Node.js 拥有一个丰富的模块生态系统，npm（node package manager）是其默认的包管理工具。
2024-03-22 22:26:05
983
原创 物理中的计算方法汇总
在这种方法中，系统的哈密顿量在一个选定的基集上被表示为一个矩阵，然后通过数值算法找到这个矩阵的特征值（也就是系统可能的能量水平）和对应的特征向量（系统的态）。通过将复杂的物理系统划分为较小的、简单形状的元素，再在这些元素上建立局部的近似方程，有限元方法能够处理形状复杂、边界条件多样的物理问题。DMFT的基本假设是将一个复杂的多体问题简化为一个有效的单粒子问题，即所谓的安德森杂质模型（Anderson impurity model），该模型中包含一个被一个动态自洽条件所调节的量子点（或杂质）。
2024-03-22 22:16:32
1219
原创 常见漏洞与防护汇总
CSRF漏洞利用了网站对用户的信任，允许攻击者在用户不知情的情况下代表他们执行操作。防护这种攻击的关键是确保所有敏感操作的请求都是用户有意为之的，这可以通过增加验证步骤（如使用Anti-CSRF Token）来实现。此外，开发者应该关注最新的安全实践和防御技术，持续保护其用户免受CSRF等安全威胁的影响。使用Anti-CSRF Token：网站可以为每一个用户会话生成一个唯一的、不可预测的标记（Token），并在随后的每个请求中要求包含这个Token。
2024-03-22 22:10:05
1081
原创 高级计算机体系结构笔记（一）
并行计算机体系结构（Parallel Computer Architecture, PCA）是指通过同时使用多个计算资源来提高计算性能的计算机体系结构。这些计算资源可以包括多个处理器、核心、计算单元等。PCA的核心目标是通过并行处理来加快任务的执行速度。
2024-03-22 14:14:03
1355
原创 PLC，DCS开源工业软件合集
PLC（Programmable Logic Controller，可编程逻辑控制器）和DCS（Distributed Control System，分布式控制系统）是工业自动化领域中用于控制生产过程的两种主要类型的控制系统。尽管它们的目标相同——即自动化控制过程或生产线，但它们在设计理念、应用场景和功能特点上有所不同。
2024-03-22 10:10:49
3396
原创 面向合约的编程语言：Solidity
智能合约是一种旨在以信息化方式促进、验证或执行合同协议的计算机协议。它们允许在没有第三方的情况下进行可信交易，这些交易是透明的、不可逆转的，并且可以自动执行。智能合约运行在区块链技术之上，这意味着一旦智能合约被部署至区块链，其代码和所包含的协议就成为不可变和分布式的，确保了交易的安全性和去中心化的特点。
2024-03-20 22:52:15
1341
原创 模拟CMOS集成电路设计 总览
在MOSFET的情况下，电流镜利用了MOSFET在饱和区的特性，即当MOSFET工作在饱和区时，漏源电流（Ids）主要受栅源电压（Vgs）的控制，而与漏源电压（Vds）关系不大，只要Vds足够使MOSFET保持在饱和状态。在MOS管的共源放大器中，跨导(g_m)的变化直接受到Vgs的影响，从而影响放大器的线性度。源跟随器的输入信号加在栅极上，输出从源极取出。一个典型的应用是采样保持电路，它能够在一个瞬间捕获（采样）模拟信号的电压值，并将这个值保持（存储）一段时间，在这个过程中，电容存储的电荷不变。
2024-03-20 22:28:49
1761
原创 PCB设计EDA汇总
对于高速PCB设计，Cadence的Allegro平台可能是更受欢迎的选择，而对于中低端设计，PADS可能是一个更易学习和使用的选择。总的来说，PADS是一款适合中小型企业及其电路设计需求的强大EDA工具，通过其直观的操作界面、广泛的功能及与其他仿真工具的良好兼容性，它能够帮助设计师高效、准确地完成电路设计任务。总的来说，Cadence Allegro是一款专业的PCB设计软件，它通过提供高效的设计工具和强大的分析能力，帮助工程师解决高速、高密度电路板设计中的挑战，提高设计质量和效率。
2024-03-20 20:31:55
1819
原创 CNC加工
CNC（Computer Numerical Control）技术是现代制造业中的一项关键技术，它使得机床能够通过计算机程序进行控制，以达到高精度、高效率地自动加工各种材料。CNC技术的应用领域非常广泛，包括但不限于金属加工、塑料加工、木材加工等。
2024-03-20 20:03:03
2348
1
原创 高速板设计
频率标准：一种常见的定义标准是，当电路的工作频率达到或超过50MHz时，该电路被认为是高速电路。这个标准来源于实际应用中对频率与电路行为影响的经验总结。信号传输路径与波长关系：更具体地，当信号的传输路径长度超过信号波长的1/6时，该信号被认为是高速信号。这是因为在这种情况下，信号在传输过程中的相位变化足以对电路性能产生影响，导致传输线效应变得显著。信号上升时间：如果信号的上升时间非常短，即使工作频率不高，电路也可能表现出高速电路的特性。
2024-03-20 19:54:53
962
原创 大数据算法相关
空间分解：将高维空间分解成多个低维子空间，每个子空间独立量化。距离近似：通过预计算的类中心之间的距离来近似原始数据点之间的距离，从而加速查询。
2024-03-20 18:05:35
1270
原创 经典算法整理（一）最短路径
Floyd算法，也称为Floyd-Warshall算法，是一种动态规划算法，用于找出图中所有顶点对之间的最短路径。该算法适用于任何边的权重都是正数或负数的图，但不允许图中存在负权重环。Bellman-Ford算法可以处理图中包含负权边的情况，但如果存在负权回路（即总权重为负的环），算法将报告其存在。请注意，Bellman-Ford算法对于检测图中是否存在负权回路非常有效，这是它相比其他最短路径算法（如Dijkstra算法）的一个重要优势。类，用于描述图中的边，包括边的源顶点、目标顶点和权重。
2024-03-20 08:57:03
361
原创 IC设计流程
在超大规模集成电路（VLSI）的设计和实现过程中，布局（placement）和布线（routing）是两个至关重要的步骤，它们对芯片的性能、功耗、面积以及最终的制造成本有着显著影响。随着技术的进步，VLSI制造技术也在不断演进，其中包括采用更先进的光刻技术（如极紫外光（EUV）光刻）、更精细的制造流程和新材料的探索。逻辑综合是数字VLSI设计流程中的一个非常重要的步骤，它涉及将高级硬件描述语言（HDL）编写的设计转换成可以在硅片上实际制造的电路。选择高质量的衬底材料对芯片的性能和可靠性至关重要。
2024-03-20 07:42:08
876
原创 有限元方法学习笔记
有限元方法（Finite Element Method, FEM）是一种用于求解偏微分方程（PDEs）和积分方程的数值技术。它通过将复杂的对象或系统分解成许多小的、简单的部分（称为“元素”），再对这些小部分进行数学上的近似，最终通过组合这些近似解来获得整个对象或系统的近似解。
2024-03-19 22:49:51
1650
原创 光流插帧算法
TOFlow (Task-Oriented Flow) 针对特定视频处理任务（如视频插帧、视频去噪、视频超分辨率）提供了一种改进的光流估计方法。这种方法通过在光流估计过程中考虑任务的特定需求，来优化光流的计算，从而提高最终视频处理任务的性能。：TOFlow不是简单地估计视频帧之间的光流，而是根据视频处理的具体任务（例如插帧、去噪或超分辨率）来优化光流的计算。这种方法允许模型更好地适应特定的视频处理需求，从而提高结果的质量。：传统的光流估计方法往往在处理边缘模糊、光照变化或运动模糊等问题时性能下降。
2024-03-19 22:31:11
2157
原创 开源游戏引擎源码阅读（一）
开发一个大型项目诸如游戏引擎之前，都会借鉴已有的开源模型。先尝试修改一些代码并重新编译，这对学习和理解一个大型项目的整体流程和细节实现是非常有益的。这里我们先大致浏览一下最近很火的Godot的源码一级目录然后我们就可以根据具体需求，进入相应的目录进行阅读。
2024-03-19 21:34:16
1075
原创 现代高性能系统级芯片（SoC）架构
典型的现代高性能系统级芯片（SoC，System on Chip）的架构集成了多个专用的处理单元，以高效地处理不同类型的任务。高通是这种SoC设计的代表之一，其产品广泛用于智能手机和其他移动设备。TI（德州仪器）也有类似的产品，虽然它们的应用范围可能更加广泛，包括工业和汽车市场。ARM核心是基于ARM（Advanced RISC Machine）架构的处理器核心，是众多系统级芯片（SoC，System on Chip）的关键组成部分。
2024-03-19 21:19:45
4078
原创 DSP，STM32，ARM，51单片机，FPGA相关解释
在 CMD 文件中，你可以定义各种内存区域，如代码段（通常烧写到 FLASH 中）、数据段（存放在 RAM 中的全局变量）、堆栈和BOOT ROM等。
2024-03-19 20:09:38
2879
原创 IOS技术栈：存储
SQLite 是一个轻量级的数据库，它提供了一个自包含、无服务器、零配置的SQL数据库引擎。首先，你需要在你的 Xcode 项目中添加 Core Data 支持，并定义你的数据模型。此外，Realm 数据库的读取和写入操作应该在合适的线程中进行，因为 Realm 对象不能跨线程传递。实例，将 Rex 添加到 Alice 的狗列表中，然后将这些数据写入到默认的 Realm 数据库中。假设我们有一个简单的实体。这段代码可能放置在你的 ViewController 中或其他合适的地方，根据你的应用架构来决定。
2024-03-19 18:38:23
621
原创 Alphafold2模型以及代码解读（一）
AlphaFold是由DeepMind开发的一种革命性蛋白质结构预测方法，它在2020年的Critical Assessment of protein Structure Prediction (CASP)比赛中取得了令人瞩目的成绩，大幅提高了蛋白质三级结构预测的准确性。AlphaFold的成功在很大程度上归功于它的创新模型架构和它所使用的大量数据。
2024-03-19 16:33:22
2319
原创 大数据技术选型
大数据查询：Presto与Impala适合大数据实时查询，Kylin适用于OLAP场景，特别是在大数据立方体的处理上。：Logstash是Elastic Stack的一部分，主要用于服务器端日志数据的实时处理和转发，与Elasticsearch、Kibana搭配使用效果更佳。：DataX和Sqoop适用于批量数据的传输，Sqoop是Hadoop生态中的组件，主要用于关系型数据库与Hadoop之间的数据迁移。：MySQL，Oracle是广泛使用的关系型数据库，适用于事务性强的业务场景。
2024-03-18 10:00:33
648
原创 芯片制造设备
在集成电路（IC）制造过程中，需要使用多种高精密的设备来完成不同的制造步骤。这些步骤包括硅晶片的准备、光刻、薄膜沉积、离子注入、刻蚀、清洗和化学机械抛光等。每一步骤都对最终产品的质量和性能有直接的影响。
2024-03-18 09:59:20
690
原创 构建你自己的Zerotier
网络交换机是网络硬件，通过使用分组交换来接收数据并将其转发到目标设备，从而连接计算机网络上的设备。网络交换机是一个多端口网络桥接器，它使用MAC地址在OSI模型的数据链路层（第2层）转发数据。一些交换机还可以通过额外合并路由功能在网络层（第3层）转发数据。此类开关通常被称为第三层交换机或多层交换机。在这个项目中，我们重点放在第2层交换机上，这些交换机可以识别和转发以太网帧。转发数据包时，交换机使用转发表来查找与目标地址对应的端口。在交换机中，转发表通常称为MAC地址表。
2024-03-18 01:41:11
1349
原创 C语言构建您自己的文本编辑器
原项目地址：它在单个文件中大约有1000行C，没有依赖性，它在最小的编辑器中实现了您期望的所有基本功能，以及语法高亮显示和搜索功能。首先是一个文本编辑器的核心数据结构和控制逻辑的部分定义。每个结构体（struct）和类型定义（typedef）都是为了支持编辑器的功能而精心设计的。这个结构体用于定义和管理文本编辑器中语法高亮的规则。代表编辑器中的一行文本。int idx;int size;int rsize;int hl_oc;
2024-03-18 01:10:43
1887
原创 使用Python和Redis创建一个简单的基于分数的文本索引和搜索系统
本文展示了如何使用Python和Redis创建一个简单的基于分数的文本索引和搜索系统。它包括文本预处理、索引创建、内容添加与移除、以及基于TF/IDF计算的搜索功能。通过单元测试类，也展示了如何验证这些功能的正确性。
2024-03-18 00:39:30
620
原创 Swift(一)简单的「待办事项列表」App
在SwiftUI中，对于较复杂的应用，使用单一来源的状态管理成为必要，可以帮助我们更好地组织和管理应用状态，特别是在存在多个视图和数据需要共享时。这些框架和服务各有优点和适用场景，选择哪一个取决于你的具体需求，比如你的应用是否需要跨平台支持、是否需要实时同步、数据模型的复杂度等因素。Core Data是iOS平台上的一个强大的数据持久化框架，适用于更复杂的数据模型和大量数据的存储需求。我们将实现一个简单的数据同步机制，确保我们的待办事项列表App能够处理网络请求失败的情况，并尝试重新发送数据到服务器。
2024-03-18 00:25:49
1177
原创 基于rust的区块链实现
在开源框架Substrate中构建核心区块链基础设施的初学者友好教程。substrate是一个强大的区块链框架，它允许开发者构建自定义的区块链。Substrate提供了大量的模块化组件，使得开发者可以选择和定制这些组件以满足他们的特定需求，从而极大地加快了区块链开发的速度和灵活性。Substrate的设计哲学是提供灵活性和可扩展性，使其不仅适用于创建新的区块链项目，还可以用来构建整个区块链网络。通过使用Substrate，Parity Technologies希望能够加速Web3技术的发展和采用。
2024-03-18 00:01:30
2815
原创 build-your-own-x合集（持更）
开个新坑：github项目build-your-own-x的项目合集讲解github上的这个项目旨在手把手教你实现各种系统。
2024-03-17 15:35:40
887
1
原创 BitTorrent go语言实现
定义了可以从对等节点请求的最大数据块大小（字节）。MaxBacklog定义了客户端可以同时保持未完成请求的最大数量。这段代码是一个BitTorrent客户端的关键部分，它展示了如何从多个对等节点并发下载文件碎片，并通过校验碎片的完整性来确保数据的准确性。这个过程利用了Go语言的并发特性，通过goroutines和通道来实现高效的数据下载和处理。
2024-03-17 15:33:41
1168
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人