![](https://img-blog.csdnimg.cn/20201014180756754.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
深度学习
文章平均质量分 52
A half moon
这个作者很懒,什么都没留下…
展开
-
CrossEntropyLoss() 和 nn.BCEWithLogitsLoss() 举例说明区别
然后,它计算模型输出与目标标签之间的二元交叉熵损失。在多分类任务中,模型的最后一层输出是一个概率分布,表示每个类别的概率。CrossEntropyLoss() 计算模型输出与目标标签之间的交叉熵损失,用于衡量模型的预测与真实标签之间的差异。需要注意的是,nn.BCEWithLogitsLoss() **可以用于多标签分类任务,**其中每个样本可以属于多个类别。总之,CrossEntropyLoss() 适用于多分类任务,而 nn.BCEWithLogitsLoss() 适用于二分类任务和多标签分类任务。原创 2023-09-09 17:28:29 · 659 阅读 · 0 评论 -
pycharm代码与远程服务器映射
点击配置,先把Python编译器环境选择到远程服务器配置好的环境下的python,融合把当前项目的地址和远程服务器的代码进行映射,这样运行的其实是远程服务器的代码,这样远程服务器上的代码改动后,debug或运行时发现结果也会改变。这样的好处就是,可以在本地调试,目前就知道这么多,其他确实还也有些不太理解。原创 2023-03-09 19:45:58 · 698 阅读 · 0 评论 -
PyCharm:如何将一个项目用作另一个项目的依赖项?
我已将 xyz 的主目录路径添加到用于项目 abc 的解释器的 PYTHONPATH 中: Settings->Project->Project Interpreter->Show All->Interpreter Paths->Add Path。在项目 abc 中,我们有一个带有函数 f1() 的模块 abc.mod_a,在项目 xyz 中,我们有一个带有函数 f2() 的模块 xyz.mod_b。我已将 xyz 添加为项目 abc 的项目依赖项: 设置->项目->项目依赖。它将为您处理所有依赖项。转载 2023-02-28 21:27:36 · 1133 阅读 · 0 评论 -
医疗NLP方向讲座报告学习整理记录
首先听了一个医学知识图谱构建的报告,感觉分享人逻辑非常清晰,并且能够一句话说出模型算法的核心原理及优缺点,也能很清楚地阐述论文研究在做怎么样一件事,优化的主要方向是哪些点,并且能感受到他对领域内其他相关算法也十分熟悉,收获很多。2.多听几场报告感觉就能够较整体地快速了解到一个领域里目前的相关基本情况,从而有宏观的一个印象,去看论文也更心里有数。1.听论文报告讲座真的学习体验感很好,对自己读论文写论文也有很大帮助。然后听了听多模态预训练相关的一个报告。原创 2023-01-23 21:37:13 · 153 阅读 · 0 评论 -
【Attention Decoder的三种方式】
2、general 方式:两个向量之间加入一个参数矩阵,可以训练得到。1、dot 方式: 直接做点积。原创 2023-01-19 11:08:34 · 183 阅读 · 0 评论 -
理解代码遇到的问题总结(一)
理解代码遇到的问题总结(一)原创 2023-01-18 10:11:34 · 622 阅读 · 0 评论 -
【医学数据融合文本方向 思路整理】
我们保留了一些基本的人口统计详细信息(即年龄,性别和种族),以及以结构化格式提供的常见临床描述符,例如诊断(ICD-9代码,药物,程序和实验室测试,以及在拆分点之前记录的自由文本临床注释)使用开放式生物医学注释器对所有临床记录进行预处理,以获取用于程序和实验室测试,基于品牌名称和剂量的标准化药物,以及从自由文本注释中提取临床概念。,从而最大程度地利用EHR信息,促进EHR研究。用病情描述加治疗方案,预测复诊率和住院天数等等。用病情描述,预测疾病诊断,预测死亡率。原创 2023-01-19 11:07:21 · 1546 阅读 · 0 评论 -
Mufasa: Multimodal Fusion Architecture Search For Electronic Health Records【多模态融合架构 论文笔记】
将深度学习应用于电子健康记录(EHR)的一个重要挑战是其多模态结构的复杂性。EHR通常包含具有稀疏和不规则纵向特征的结构化(代码)和非结构化(自由文本)数据,医生在做出决策时都会用到这些数据。在深度学习体系中,确定不同的情态表征应该如何融合在一起是一个困难的问题,通常通过手工建模和直觉来解决。在这项工作中,我们扩展了最先进的神经架构搜索(NAS)方法,并首次提出了多模态融合架构search(MUFASA),以同时搜索多模态融合策略和模态特定架构。我们从经验上证明,在公共EHR数据上,我们的MUFASA方法优原创 2022-10-19 10:07:54 · 450 阅读 · 1 评论 -
Integrating Static and Time-Series Data in Deep Recurrent Models for Oncology Early Warning Systems
最近的研究,如GRAM[10]、RETAIN[7]、Dipole[27]、MIME[11]、KAME[28]、DoctorAI[8]和HiTANet[24],提出了可以与RNN联合训练的注意机制,以根据医院就诊的连续医疗代码预测临床结果。肿瘤住院患者面临危及生命的临床恶化风险:根据最近的一项研究,6.4%的肿瘤住院患者至少有一个重症监护室(ICU)转移,其中2.7%死于医院病房异常的生命体征、实验室值或检测结果往往预示着临床恶化,这导致基于电子健康记录(EHR)的早期预警系统(EWS)的开发。原创 2022-10-08 10:47:40 · 283 阅读 · 0 评论 -
HGMF: Heterogeneous Graph-based Fusion for Multimodal Data with Incompleteness【多模态 异质图 不完整数据学习】
随着数据收集技术的进步,从多个来源收集的大量多模数据变得可用。这种多模态数据可以提供补充信息,从而揭示现实世界主体的基本特征。因此,多模态机器学习已成为一个活跃的研究领域。已经开展了大量工作,以利用多模交互和整合多源信息。然而,由于各种原因,例如传感器损坏、数据损坏和记录中的人为错误,现实世界中的多模式数据通常会缺少模式。有效地集成和分析不完整的多模态数据仍然是一个具有挑战性的问题。我们提出了一种基于异构图的多模式融合(HGMF)方法,以实现异构图结构中不完整数据的多模式合并。原创 2022-10-06 22:37:09 · 861 阅读 · 0 评论 -
KDD2020 Identifying Sepsis Subphenotypes via Time-Aware Multi-Modal Auto-Encoder 时间感知多模式自动编码器——阅读笔记
脓毒症是一种异质性临床综合征,是医院重症监护病房(ICU)死亡的主要原因。确定脓毒症的亚表型可以进行更精确的治疗,并导致更有针对性的临床干预。最近,电子健康记录(EHR)上的败血症分型引起了医疗研究人员的兴趣。然而,大多数脓毒症亚型研究忽略了EHR数据的暂时性,并且缺少数值。在本文中,我们提出了一个新的败血症分型框架来解决这两个问题。原创 2022-10-05 23:11:08 · 179 阅读 · 0 评论 -
This Python interpreter is in a conda environment, but the environment has not been activated.
首先选择编译器环境为conda问题:在命令行输入python后,显示出:Warning:This Python interpreter is in a conda environment, but the environment hasnot been activated. Libraries may fail to load. To activate this environmentplease see https://conda.io/activation.在项目的terminal窗口查看原创 2022-06-19 20:51:16 · 566 阅读 · 0 评论 -
随机梯度下降,批梯度下降,小批量梯度下降,minibatch
区分几个概念epoch:把全部样本进行了一轮训练batchsize:每次训练时用的样本数量,每一个batch,loss和梯度都计算一次并将权重更新一次对比几种梯度下降随机梯度下降(stochastic gradient descent):就是每读取一个数据就计算损失函数更新梯度,缺点是由于单个数据差异大,导致训练波动大,收敛性不太好,且每次计算一个样本,并行性差,优化时时间过长,优点是由于具有一定的随机性,可以克服参数优化更新过程中遇到的 “鞍点”。批梯度下降(batch gradient d原创 2022-04-18 10:38:51 · 228 阅读 · 0 评论 -
Survey on Research of RNN-Based Spatio-Temporal Sequence Prediction Algorithms 时空序列数据预测综述笔记
当前时序模型存在问题基于RNN的时空序列预测方法虽然取得了很大的进展,但仍存在许多问题。在传统的时空序列预测方法中,对其进行了选择模型仍然依赖于特定的数据集和个人经验,没有指导思想,这些传统的方法很难捕获动态时空关系数据。在数据驱动的模型中,如时空支持向量回归和深度学习,模型的泛化能力是从历史样本中学习出来的,因此它在很大程度上依赖于历史的数据。时空序列数据往往是复杂的,并经常受到各种因素的影响。在原始数据中有许多缺失和错误,这也影响了原始数据的准确性时空序列预测。数据处理、模型设计和选择是提高时空序列预原创 2022-04-03 10:17:00 · 925 阅读 · 0 评论 -
多通道卷积理解
多通道卷积应用例如:对于彩色图片有RGB三个通道,需要处理多输入通道的场景。输出特征图往往也会具有多个通道,而且在神经网络的计算中常常是把一个批次的样本放在一起计算,所以卷积算子需要具有批量处理多输入和多输出通道数据的功能。批量操作conv2d 常用的参数如下:in_channels(int) - 输入图像的通道数。out_channels(int) - 卷积核的个数,和输出特征图通道数相同,相当于上文中的C(out)。kernel_size(int|list|tuple) -原创 2022-03-21 21:59:53 · 7478 阅读 · 0 评论 -
【图神经网络的设计 文献理论创新总结】
1.图神经网络的设计角度AdaGCN: Adaboosting Graph Convolutional Networks into Deep Models 【 ICLR 2021】创新点: 将传统机器学习方法(AdaBoost)与GNN结合,提出AdaGCN,AdaGCN在所有层之间共享相同的基本神经网络结构,能够在一定程度上解决过平滑问题。摘要: 深度图模型仍是一个有待研究的问题,关键之处在于如何有效地汇聚来自多跳邻居节点的特征信息。在本文中,通过将AdaBoost融入到图网络中提出了一个类似于原创 2022-03-21 11:06:17 · 1828 阅读 · 0 评论 -
读科研论文的论文十问小结
平时读论文有些随意,经常是看别人写的博客,然后又很少记录笔记,也没有仔细思考上面这些问题,有些一味地去看算法和公式什么意思,感觉还是需要多多思考上面这些问题,然后及时整理,用博客对比记录下来。另外看到论文的某些段落时,有哪些想法也可以记录在旁边,总之需要写一些思考笔记。还有就是不要追求数量,有些好论文应该精读,特别是引用较高的文章,思考人家的优点,如果连好文章好在哪都没有一个明显的感觉话,确实就失去了一个启发学习的机会。...原创 2022-03-15 16:31:44 · 227 阅读 · 0 评论 -
图神经网络基础——(一)图论基础
首先,先推荐一个非常好的公众号:深度学习与图网络,其中真的对图神经网络的介绍非常全面,而且易懂,连续刷里面的一些文章,对GNN的体系差不多就建立的差不多了~尤其是其中的这篇渐进式总结的入门干货分享!!干货分享|深度学习与图网络从入门到进阶【内容丰富】 ,我当时按照顺序看了一上午,真的觉得思路清奇地清晰,完全是下一篇文章的一个算法改进了上一篇更旧的模型的一些不足。 里面资料也很丰富,强烈推荐了~另外,对图卷积部分做个简单的小结。(参考了较多他人成果)从空域角度看GCN空域,谱域卷积,两者..原创 2022-03-15 11:21:35 · 2167 阅读 · 0 评论 -
TensorFlow找不到cudart64_110.dll not found
Could not load dynamic library ‘cudart64_110.dll’;dlerror: cudart64_110.dll not found可以直接在网上找cudart64_110.dll文件cudart64_110.dll的下载链接如下:https://www.dll-files.com/cudart64_110.dll.html下载完之后,需要把先文件解压,然后将cudart64_110.dll放在文件夹下C:\Windows\System32...转载 2022-03-11 11:42:11 · 2648 阅读 · 1 评论 -
【pycharm 项目启动虚拟环境及包安装】
首先创建虚拟环境虚拟环境理解起来就是每个项目使用到的全部不同版本的包组成的一个环境,这样每次打开不同项目就可以使用单独的环境,非常清晰,不会混乱,其表现在项目中的venv文件夹。虚拟环境中安装项目依赖包点击上面的直接下载不足为什么经常会失败,且特别慢,另外geometric包需要先安装其他的一些包,导致一直装了很久也没有把这些包顺利按对应版本安装好为了加快安装速度,可以先找到对应的whl文件,然后直接安装,对于geometric包,需要先安装4个其他的依赖包,然后再安装。pytorch-g原创 2022-03-07 22:15:34 · 570 阅读 · 0 评论