病理AI视觉语言基础模型CONCH：一文讲懂模型框架和使用方法

最新推荐文章于 2024-12-28 14:55:30 发布
最新推荐文章于 2024-12-28 14:55:30 发布
阅读量2.6k 收藏 40
点赞数 25
分类专栏： AI&临床文献阅读 文章标签： 人工智能 医学人工智能 深度学习 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_45404805/article/details/144305829
版权

小罗碎碎念

本期推文介绍的模型是CONCH（CONtrastive learning from Captions for Histopathology）——一个专门为计算病理学开发的视觉语言基础模型。

这个模型我在10-30的推文已经详细分析过，在这篇推送的基础上，我会进一步介绍如何具体使用模型，同时，为了方便大家理解本篇推送内容，我也会大致介绍一下CONCH的架构。

https://www.nature.com/articles/s41591-024-02856-4

作者类型作者姓名单位名称（中文）
第一作者Ming Y. Lu哈佛医学院布里格姆和妇女医院病理科
第一作者Bowen Chen哈佛医学院布里格姆和妇女医院病理科
第一作者Drew F. K. Williamson哈佛医学院布里格姆和妇女医院病理科
通讯作者Faisal Mahmood哈佛医学院布里格姆和妇女医院病理科

CONCH在14个不同的基准测试中进行了评估，这些测试涉及病理学图像和/或文本的多种下游任务，包括组织学图像分类、分割、描述生成以及文本到图像和图像到文本的检索。CONCH在这些任务上都取得了最先进的性能，并且可以在无监督微调的情况下直接改善其他模型的性能。

文章强调了数字病理学的快速发展以及深度学习在病理学任务中的应用，但也指出了模型训练中存在的标签稀缺问题，以及大多数模型仅利用图像数据的限制。CONCH模型通过结合图像和文本数据，模拟实际病理学家的工作流程，从而克服了这些限制。

研究结果表明，CONCH在多种病理学任务上都表现出色，包括零样本分类、检索和分割。此外，CONCH还展示了在罕见疾病分类和少量样本学习中的潜力。文章还讨论了CONCH在实际应用中的潜在价值，包括在病理学实践中的语言使用、教育和研究中的应用，以及在临床病理学中的潜在影响。最后，文章指出了当前视觉-语言预训练模型的局限性，并对未来的研究方向提出了建议。

一、什么是CONCH

CONCH（CONtrastive learning from Captions for Histopathology）是一种用于组织病理学的视觉语言基础模型，它在包含 117 万图像 - 标题对的视觉语言数据集上进行了预训练。与其他视觉语言基础模型相比，其在计算病理学的 14 项任务（涵盖图像分类、文本到图像、图像到文本检索、标题生成以及组织分割等）中展现出了最先进的性能。

关于使用 CONCH 的原因，与那些仅在苏木精 - 伊红（H&E）图像上进行预训练的、流行的计算病理学自监督编码器相比，CONCH 可为免疫组化（IHC）和特殊染色等非 H&E 染色图像生成更具性能优势的表征，并且可用于涉及组织病理学图像和 / 或文本的众多下游任务。

此外，CONCH 在预训练时未使用诸如癌症基因组图谱（TCGA）、宾夕法尼亚图像分析平台（PAIP）、基因型 - 组织表达（GTEX）等大型公共组织学切片集（这些在计算病理学的基准开发中常被使用），所以 CONCH 可供研究团体在构建和评估病理学人工智能模型时使用，且在公共基准或私人组织病理学切片集方面面临的数据污染风险极小。

1-1：数据清洗流程

  1. 数据源：公开的医学文献和数据库、内部病理图像和报告以及公开数据集

  2. 对象检测器（Object detector）：使用YOLOv5模型来识别和提取图像中的对象。这个过程是为了从文献中自动提取病理图像。

  3. 标题分割器（Caption splitter）：使用一个经过预训练的生成式变换器（GPT）模型来将描述多个图像的标题分割成单独的子标题。这个步骤是为了处理包含多个子图像的图像面板。

  4. 匹配器（Matcher）：使用一个在清理过的教育数据集上训练的CLIP模型来将分割后的子图像与子标题进行匹配。这个过程通过计算图像嵌入和文本嵌入在对齐潜在空间中的余弦相似性得分来完成。

  5. 数据集过滤：从原始的179万图像-文本对数据集中，首先排除了非人类样本，创建了一个117万人类样本的数据集。然后，进一步通过训练一个分类器来识别H&E（苏木精和伊红）染色，从而过滤出457,373对H&E样本，以及713,595对IHC + 特殊染色样本。

a. 数据清洗流程

整体上，这个流程自动化地处理和过滤了大量病理图像和相关文本数据，为训练视觉-语言模型准备了一个清洗过的数据集。

1-2：数据集主题分布

这张图展示了数据集的特征描述，具体包括不同人体系统的图像数量和标题的字数分布。

  1. 人体系统图像数量：图中列出了多个人体系统，并为每个系统提供了图像数量。例如，胃肠道轨迹有最多的图像（121,209张），而眼睛的图像最少（11,569张）。

  2. 标题字数分布：右下角的直方图展示了标题字数的分布。图中有两个数据集的分布：PMC-Path（紫色）和EDU（蓝色）。可以看到，大多数标题的字数集中在较短的范围，随着字数增加，标题数量迅速下降。

  3. 数据集比较：从直方图可以观察到PMC-Path数据集的标题通常比EDU数据集的标题要长，这可能反映了两个数据源内容的差异。

  4. 图标表示：每个人体系统前都有一个简单的图标，帮助快速识别对应的系统。

image-20241030102354133

整体上，这个图表提供了数据集的概览，显示了不同人体系统的图像分布和标题的一般特征，对理解数据集的组成和特性很有帮助。

1-3：视觉-语言预训练设置

这张图展示了一个用于病理图像分析的预训练算法架构。

CONCH包括图像编码器、文本编码器和多模态文本解码器。

具体细节如下：

  1. 图像编码器（Image encoder）：

    • 接收输入为病理图像。
    • 图像被分割成多个图像块（Image tokens），这些块随后被送入Transformer模块进行处理。
    • Transformer模块由多个Transformer块（Transformer block）组成，用于提取图像特征。

  2. 注意力池化器（Attention pooler）：

    • 处理完所有图像块后，通过注意力池化器（Attention pooler）聚合信息，生成汇总的图像令牌（Pooled image tokens）。

  3. 文本编码器（Text encoder）：

    • 接收与图像相对应的描述性文本（Caption）。
    • 文本被标记化（Tokenized），生成文本令牌（Text tokens）。
    • 这些文本令牌同样通过Transformer块进行处理，以提取文本特征。

  4. 对比性对齐（Contrastive alignment）：

    • 目的是在图像和文本的特征空间中对齐它们，使得相关的图像和文本在特征空间中彼此靠近。
    • 通过最大化图像和文本嵌入的余弦相似性来实现。

  5. 融合解码器（Fusion decoder）：

    • 结合图像和文本的特征，用于生成描述或执行其他多模态任务。
    • 包含交叉注意力（Cross-attention）机制，允许模型在生成过程中同时考虑图像和文本信息。

  6. 预训练数据：

    • 使用了117万图像-文本对进行预训练，这些数据对用于训练模型以理解图像内容和相关文本描述之间的关系。

整体上，这个架构通过结合图像和文本信息，利用Transformer架构和对比学习，来训练一个能够理解病理图像和对应文本描述的模型。这对于后续的细粒度分析、图像检索、自动报告生成等任务至关重要。

1-4：性能比较

这张雷达图展示了不同模型在多种下游任务上的性能表现。这些任务包括分类（Classification）、检索（Retrieval）和分割（Segmentation）。

图中比较了四种模型：CONCH（青色）、PLIP（黄色）、BiomedCLIP（蓝色）和OpenAICLIP（紫色）。

image-20241030102657872

任务和数据集

  1. SICAP：前列腺癌的Gleason分级。
  2. EBRAINS：脑肿瘤的细粒度亚型分类。
  3. DHMC LUAD：肺腺癌的组织学模式分类。
  4. TCGA NSCLC：非小细胞肺癌的亚型分类。
  5. TCGA RCC：肾细胞癌的亚型分类。
  6. TCGA BRCA：乳腺癌的亚型分类。
  7. CRC100k：结直肠腺癌的组织分类。
  8. WSS4LUAD：肺腺癌的图像块分类。
  9. Source A (t2i) 和 Source B (t2i)：两个用于文本到图像和图像到文本检索的数据集。
  10. TCGA LUAD (i2t)：肺腺癌的图像块，用于图像到文本的检索。

性能指标

  • 每个任务的得分范围从0到100，反映了模型在该任务上的性能。
  • 图中每个轴代表一个任务，不同颜色的区域表示不同模型在该任务上的性能。

模型比较

  • CONCH在大多数任务上都显示出较好的性能，特别是在分类任务上。
  • PLIP和BiomedCLIP在某些任务上表现接近，但在其他任务上CONCH明显领先。
  • OpenACLIP在某些任务上表现较弱，特别是在检索任务上。

二、配置模型

2-1：配置环境

首先克隆该仓库，然后切换到相应目录。

（注：“cd”是计算机操作命令“change directory”的缩写，意为“切换目录”“改变目录”。）

git clone https://github.com/mahmoodlab/CONCH.git
cd CONCH

image-20241206200150054

然后创建一个Conda环境并安装依赖项。

（注：“Conda”是一种开源的软件包管理系统和环境管理系统，常用于Python等编程语言的项目中，方便管理不同项目所需的各种软件包及其运行环境。依赖项，也就是项目运行所依赖的其他软件包、库等内容。）

# 使用conda创建一个名为conch的新虚拟环境，指定Python版本为3.10，并且自动确认（不需要手动输入y来确认）
conda create -n conch python=3.10 -y

# 激活名为conch的虚拟环境，这样后续的操作（比如安装包等）都会在这个虚拟环境内进行
conda activate conch

# 使用pip命令将pip工具本身升级到最新版本，确保可以使用最新的pip功能来安装其他包
pip install --upgrade pip

# 使用pip以可编辑模式（editable mode）安装当前目录（. 表示当前目录）下的Python包或项目，方便在开发过程中对代码修改后能即时生效，常用于开发阶段的本地项目安装
pip install -e.

成功界面如下，需要下载较多文件，请耐心等待

2-2：准备&加载模型

从Huggingface模型页面申请获取模型权重的访问权限。

https://huggingface.co/MahmoodLab/CONCH/tree/main

下载模型权重参数

image-20241206195819644

首先在仓库根目录内创建“checkpoints”文件夹。

（注：“checkpoints”通常可理解为检查点、保存点等意思，在这里指用来存放相关检查点数据等内容的文件夹；）

# 使用mkdir命令创建目录，-p参数表示如果上级目录（这里是checkpoints）不存在时，会自动创建上级目录以及所指定的完整目录路径（即checkpoints/conch/），
# 这条命令的目的就是确保创建出checkpoints/conch/这个目录结构，若已存在则不会重复创建已有的部分。

mkdir -p checkpoints/conch/

image-20241206203504823

然后下载预训练模型（“pytorch_model.bin”文件），并将其放置在“CONCH/checkpoints/conch/”目录中。

image-20241206203922288

可以下载到本地上传，也可以直接用链接下载到服务器。

cd conch
wget https://huggingface.co/MahmoodLab/CONCH/resolve/main/pytorch_model.bin?download=true

如果你提示无法链接huggingface的话，就自行上传一下吧。

2-3：加载模型

首先导入模型构建器。

# 从名为conch的模块（在CONCH目录下）下的open_clip_custom子模块中，
# 导入create_model_from_pretrained函数。这个函数是用于根据预训练的模型相关配置或权重等，
# 创建出对应的模型实例，方便后续在代码中使用该模型进行如推理、微调等操作。
from conch.open_clip_custom import create_model_from_pretrained

现在，你可以按以下方式加载模型（假设你已将模型权重放在“CONCH/checkpoints/conch/”目录中）：

model, preprocess = create_model_from_pretrained("conch_ViT-B-16", checkpoint_path="checkpoints/conch/pytorch_model.bin")

或者，在申请访问权限后，你可以使用以下命令直接从Hugging Face（HF）下载并加载模型。

from conch.open_clip_custom import create_model_from_pretrained
model, preprocess = create_model_from_pretrained('conch_ViT-B-16', "hf_hub:MahmoodLab/conch", hf_auth_token="<your_user_access_token>")

你可能需要通过 hf_auth_token=<your_token> 将你的Hugging Face用户访问令牌提供给 create_model_from_pretrained 函数以进行身份验证。

https://huggingface.co/docs/hub/security-tokens

注意：虽然原始的CONCH模型架构还包含一个使用CoCa标题生成损失进行训练的多模态解码器，但作为一项额外的预防措施，为确保不会无意泄露专有数据或受保护的健康信息（PHI），作者已从公开发布的CONCH权重中移除了解码器的权重。

文本编码器和视觉编码器的权重是完整的，因此论文中呈现的所有关键任务（如图像分类和图文检索）的结果不会受到影响。CONCH作为组织病理学图像和病理学相关文本的通用编码器的能力也依然不受影响。

2-4：视觉编码器

将该模型用作组织病理学图像的视觉编码器

鉴于预训练编码器目前对于计算病理学任务的重要性，在加载模型之后，现在你可以按如下方式使用它来对图像进行嵌入：

from PIL import Image
image = Image.open("path_to_image.jpg")
image = preprocess(image).unsqueeze(0)
with torch.inference_mode():
    image_embs = model.encode_image(image, proj_contrast=False, normalize=False)

这将为你提供投影头和归一化之前的图像嵌入，适用于线性探测或在多示例学习框架下处理全切片图像（WSIs）。

对于图像-文本检索任务，你应当按如下方式使用经过归一化和投影的嵌入：

with torch.inference_mode():
    image_embs = model.encode_image(image, proj_contrast=True, normalize=True)

2-5：特定用法

作者提供了用于加载模型以及将其用于推理的高级函数。

模型加载：

from conch.open_clip_custom import create_model_from_pretrained

文本分词：

from conch.open_clip_custom import tokenize, get_tokenizer

推理：

from conch.downstream.zeroshot_path import zero_shot_classifier, run_mizero, run_zeroshot

三、具体使用方式

前面的内容只是和大家介绍一下模型的基本内容，为了帮助大家更好的理解模型和应用模型，作者还提供了四个演示代码。

这一部分的内容大家可以在官方的代码仓库中获取，如果基础不好的同学，可以前往我的【知识星球】，我将从这一个项目开始，新建立一个【项目复现】专栏，后续与项目复现有关的文件都会上传到该专栏中。

如果觉得官方链接看着比较吃力的，后续可以前往知识星球【项目复现】专栏获取小罗撰写的教程（这期还没写完，介意的可以等我写完再订阅）。

3-1：加载/使用模型

官方链接

https://github.com/mahmoodlab/CONCH/blob/main/notebooks/basics_usage.ipynb

3-2：图像ROIs/tiles的零样本分类

ROIs（Region of Interest，感兴趣区域）和tiles（瓦片）是指图像中的特定部分。零样本（Zeroshot）分类意味着模型在没有看到特定类别样本的情况下，对新类别进行分类。

展示如何对图像的ROIs或tiles进行零样本分类

https://github.com/mahmoodlab/CONCH/blob/main/notebooks/zeroshot_classification_example_starter.ipynb

使用数据加载器（dataloaders）和提示集成（prompt ensembling）技术来提高分类的准确性。

https://github.com/mahmoodlab/CONCH/blob/main/notebooks/zeroshot_classification_example_ensemble.ipynb

3-3：使用MI-Zero模型对WSIs进行零样本分类

在进行分类之前，需要将WSIs分割成小块（tiling），然后使用CONCH视觉编码器模型将这些小块转换为嵌入。

https://github.com/mahmoodlab/CONCH/blob/main/notebooks/MI-zeroshot_classification_example_ensemble.ipynb

3-4：零样本跨模态检索（图像/文本）

跨模态检索涉及在不同类型数据（如图像和文本）之间建立联系，零样本跨模态检索意味着模型能够在没有特定模态对训练的情况下，检索出与给定模态相关的另一模态数据。

https://github.com/mahmoodlab/CONCH/blob/main/notebooks/zeroshot_retrieval_example.ipynb

无需编程基础，也能完成病理AI项目的保姆级教程｜项目复现·25-02-17
罗小罗同学的博客
02-17 409
动手前必读上周哈佛Mahmood Lab课题组上线了一个新的仓库，最近的更新时间为两天前，我稍微做了一些测试，效果很好，下图是我小批量测试的效果，，大家可以看看效果如何。！，我们通过这个项目，可以，小罗也会在后续的推文中继续分享我对这个项目的发掘，争取做到你们拿到就能上手的程度，所以为了防止错过小罗的更新，记得及时点个关注！官方流程比较简约，例如上图使用的模型是UNI，但是这个是受限访问的模型，，所以我在官方教程的基础上做了详细的补充！此外，。
保姆级教程，带你复现病理AI的经典模型CLAM（一）｜项目复现·24-08-19
罗小罗同学的博客
08-19 7775
CLAM（Clustering-constrained Attention Multiple Instance Learning）是一种基于深度学习的弱监督方法，用于高效和弱监督的全切片级分析。自动分割：CLAM首先对全切片图像进行自动分割，识别出组织区域。这通常涉及到将图像转换到HSV颜色空间，并使用饱和度通道进行阈值处理，以提取组织区域。特征提取：在分割之后，CLAM利用深度卷积神经网络（CNN）为每个分割出的补丁计算低维特征表示。这通常涉及到使用预训练的CNN模型，如ResNet50，来提取特征。
病理AI领域的基础模型汇总｜顶刊速递·24-11-11
罗小罗同学的博客
11-11 1705
这篇文章介绍了一种名为CONCH的视觉语言基础模型，通过对比学习从大量组织病理学图像和文本描述中进行预训练，实现了在多种病理学任务上的零样本学习和优异性能。CONCH模型在14个不同的基准测试中进行了评估，包括图像分类、分割、描述和文本到图像及图像到文本的检索任务，均取得了最先进的性能。CONCH模型的预训练使用了超过117万个图像-标题对，这些数据来自不同的组织病理学图像、生物医学文本等。在预训练过程中，模型通过对比学习目标和标题生成目标，将图像和文本模态在模型的表示空间中对齐。这使得。
探索医疗影像新纪元：CONCH——计算病理学的视觉语言基础模型
gitblog_00084的博客
06-07 885
探索医疗影像新纪元：CONCH——计算病理学的视觉语言基础模型 去发现同类优质开源项目:https://gitcode.com/ 1、项目介绍 CONCH（CONtrastive learning from Captions for Histopathology）是一个专为数字病理学设计的视觉语言基础模型。它源自一个庞大的数据集，其中包括超过117万个图像标题对，旨在提升模型在多种病理任务上的通用...
文献阅读CONCH模型--相关知识点罗列
weixin_38787389的博客
10-10 1232
A visual-language foundation model for computational pathology文献的阅读，包括对比对齐和标题生成的学习。（多模态方法）
Nature Medicine病理AI汇总｜CONCH：病理图像分析的零样本学习模型·顶刊精析·24-10-30
罗小罗同学的博客
10-30 4480
最近在整理24年发表在Nature Medicine上的病理AI文章，简单列了一个表。接下来我将按照先后顺序，系统的把这13篇文献分析完。其中底色做了填充的，代表商业公司在本论文中占据了一作或通讯。本期推文介绍的模型是CONCH（CONtrastive learning from Captions for Histopathology）——一个专门为计算病理学开发的视觉语言基础模型。
海螺AI在人类表情刻画中的应用：技术与创新
Winfredzhang的博客
10-22 1333
海螺AI在人类表情刻画中的应用展现了人工智能技术的强大潜力。无论是虚拟主播、动画制作还是游戏开发，海螺AI都为这些领域带来了创新和变革。随着技术的不断发展，我们有理由相信，海螺AI将在更多领域中发挥重要作用，为我们的生活带来更多便利和惊喜。
年度进展｜2024年病理AI领域发展趋势分析｜个人观点·24-12-21
罗小罗同学的博客
12-22 1631
我会按照四个季度划分，并在每个季度挑选三篇最高分的文章推荐给大家，和大家。
医学多模态：多模态知识增强全幻灯病理基础模型
sinat_39783664的博客
07-23 747
A Multimodal Knowledge-enhanced Whole-slide Pathology Foundation Model
magic-conch:所有人都为魔术海螺欢呼
05-13
如果您想使海螺更坚固，请根据需要编辑src/conch.js 。 完成后，在终端中运行npm start进行清理，皮棉，运输和测试。 认真地说，这只是学习github的hubot的一个有趣的小练习。 这种特殊玩具的灵感来自海绵宝宝。 ...
conch:无需密钥对即可快速SSH到公共EC2实例的实用程序
03-17
Conch是一个肮脏的应用程序，它可以使用公共IP快速将Shell放入EC2实例中。 建筑 运行以下命令以在build文件夹中生成二进制文件 $ go build -o build/conch ./... 跑步 您将在路径上需要以下命令行实用程序： ssh ...
conch-parser:用于解析以Shell编程语言编写的程序的库
05-09
精简器 用于解析Unix shell命令的Rust库。 快速开始 首先，将其添加到您的Cargo.toml ： [ dependencies ] conch-parser = " 0.1.0 " 接下来，您可以开始： use conch_parser :: lexer :: Lexer; use conch_parser :: parse :: DefaultParser; fn main () { // Initialize our token lexer and shell parser with the program's input let lex = Lexer :: new ( "echo foo bar" . chars ()); let parser = DefaultParser :: new (lex); // Parse our
基于Pytorch框架构建AlexNet模型
2301_78972534的博客
06-24 928
定义一个名为 AlexNet 的卷积神经网络类，它继承自 torch.nn.Module。这个类实现了一个简化版的 AlexNet 网络结构，用于图像分类任务。
计算病理学的视觉语言基础模型| 文献速递-视觉通用模型与疾病诊断
weixin_38594676的博客
06-05 964
教育来源（EDU）和PubMed中央开放获取数据集（PMC OA）的部分手动清理，并用于训练一个目标检测器来检测组织病理学图像，一个语言模型来拆分指向多个图像的标题，以及一个匹配模型来将检测到的图像与其相应的标题匹配。清理过程产生了一个包含179万个图像-文本对的数据集，然后我们过滤掉了指向非人类的对，创建了我们的CONCH（仅人类）预训练数据集，共有117万个（有关数据清理的详细信息和数据筛选调查的讨论，请参见方法部分）。e，从左到右：病理学家注释的IDC，对应的热图和在更高放大倍率下选定的瓦片。
MI-Zero：用于组织病理学图像的视觉语言预训练多实例零样本迁移
最新发布
xx_nm98的博客
12-28 1024
MI-Zero框架的核心思想是将零样本迁移学习问题重构为多实例学习（multiple instance learning, MIL）问题，以克服在极大型图像上进行推理的计算挑战。研究者们使用了超过55万份病理报告和其他可用的领域文本语料库来预训练文本编码器，并在超过3.3万个组织病理学图像-标题对上进行了最佳模型的预训练。实验结果表明，该模型在三个不同的真实世界癌症亚型任务上实现了平均中位零样本准确率为70.2%。
【阅读笔记】MI-Zero：视觉语言模型 + 多实例学习，零样本迁移实现病理学领域的零样本分类
qq_43538018的博客
12-06 927
​在计算病理学领域，全切片图像（WSI）因其超高分辨率和复杂性，给自动化诊断技术带来了巨大的挑战。传统方法依赖精确标注的训练数据，面对标注困难、数据稀缺的小样本任务往往表现受限。CVPR 2023的一篇论文提出了一种新的框架 MI-Zero，通过结合视觉语言模型与多实例学习（MIL），实现了病理学领域的零样本（Zero-shot）分类，展现出极大的应用潜力。
Prov-GigaPath：新型数字病理基础模型｜顶刊精析·2024-06-10
罗小罗同学的博客
06-10 3453
这篇文章介绍了一种名为的新型数字病理基础模型，该模型利用美国大型医疗网络Providence的171,189个全切片（whole slides）上的13亿个256×256病理图像瓦片进行预训练。这些切片涵盖了超过30,000名患者的31种主要组织类型，用于癌症亚型和病理组学任务的评估。Prov-GigaPath利用了一种新颖的视觉变换器架构GigaPath，该架构通过自监督学习对千兆像素级别的病理切片进行预训练。GigaPath采用了新开发的LongNet。
如何使用CLAM进行病理图像的特征提取
2301_76236009的博客
12-12 1547
那么根据我的下采样倍率，40 / 2 = 20，那么我可以downsample level 为 1的时候直接在20x下切512的块，假如我的下采样倍率是1, 4, 16呢？patch_size是切块大小，step_size为滑动的大小，这里都设置为512，表明无重叠的在downsample level 为 1的情况下切512的块.CUDA_VISIBLE_DEVICES是选择在特征提取时使用哪张显卡，显卡0还是显卡1，这里不推荐使用双卡跑，你可以开两个终端，跑不同的任务。
Twisted Conch
06-13
Twisted Conch是Twisted Python框架中的一个模块，它提供了SSH（Secure Shell）协议的客户端和服务器端实现。通过Twisted Conch，开发者可以轻松地实现SSH客户端和服务器端的功能，并且可以使用Twisted Python框架提供的异步I/O和事件处理机制来提高性能和可扩展性。 Twisted Conch支持多种SSH认证方式，如密码、公钥、键盘交互等，同时也提供了基于SSH协议的文件传输、端口转发、远程命令执行等功能。开发者可以通过Twisted Conch来实现各种SSH相关的应用，如远程终端、文件传输、远程命令执行等。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值