6.cuBLAS开发指南中文版--cuBLAS中的SetStream()和SetWorkspace()

cuBLAS中的SetStream()和SetWorkspace()

在这里插入图片描述

2.4.3. cublasGetVersion()

cublasStatus_t
cublasGetVersion(cublasHandle_t handle, int *version)

此函数返回 cuBLAS 库的版本号。

Return ValueMeaning
CUBLAS_STATUS_SUCCESS操作成功完成
CUBLAS_STATUS_NOT_INITIALIZED为库版本号提供的存储未初始化(NULL)

2.4.4. cublasGetProperty()

cublasStatus_t
cublasGetProperty(libraryPropertyType type, int *value)

此函数返回 value 指向的内存中所请求属性的值。 有关支持的类型,请参阅 libraryPropertyType。

Return ValueMeaning
CUBLAS_STATUS_SUCCESS操作成功完成
CUBLAS_STATUS_INVALID_VALUE类型值无效, 如果类型值无效或value == NULL

2.4.5. cublasGetStatusName()

const char* cublasGetStatusName(cublasStatus_t status)

此函数返回给定状态的字符串表示形式。

Return ValueMeaning
NULL-terminated string状态的字符串表示

2.4.6. cublasGetStatusString()

const char* cublasGetStatusString(cublasStatus_t status)

此函数返回给定状态的描述字符串。

Return ValueMeaning
NULL-terminated string状态描述

2.4.7. cublasSetStream()

cublasStatus_t
cublasSetStream(cublasHandle_t handle, cudaStream_t streamId)

此函数设置 cuBLAS 库流,该流将用于执行对 cuBLAS 库函数的所有后续调用。 如果未设置 cuBLAS 库流,则所有内核都使用 defaultNULL 流。 特别是,此例程可用于更改内核启动之间的流,然后将 cuBLAS 库流重置回 NULL。 此外,此函数无条件地将 cuBLAS 库工作区重置回默认工作区池(请参阅 cublasSetWorkspace())。

Return ValueMeaning
CUBLAS_STATUS_SUCCESS流设置成功
CUBLAS_STATUS_NOT_INITIALIZED库未初始化

2.4.8. cublasSetWorkspace()

cublasStatus_t
cublasSetWorkspace(cublasHandle_t handle, void *workspace, size_t workspaceSizeInBytes)

此函数将 cuBLAS 库工作区设置为用户拥有的设备缓冲区,该缓冲区将用于执行对 cuBLAS 库函数的所有后续调用(在当前设置的流上)。如果未设置 cuBLAS 库工作空间,所有内核将使用在 cuBLAS 上下文创建期间分配的默认工作空间池。特别是,此例程可用于更改内核启动之间的工作空间。工作区指针必须至少对齐 256 字节,否则会返回 CUBLAS_STATUS_INVALID_VALUE 错误。 cublasSetStream() 函数无条件地将 cuBLAS 库工作区重置回默认工作区池。太小的 workspaceSizeInBytes 可能会导致某些例程失败并返回 CUBLAS_STATUS_ALLOC_FAILED 错误或导致性能大幅下降。等于或大于 16KiB 的工作空间大小足以防止 CUBLAS_STATUS_ALLOC_FAILED 错误,而更大的工作空间可以为某些例程提供性能优势。用户提供的工作空间的推荐大小至少为 4MiB(以匹配 cuBLAS 的默认工作空间池)。

Return ValueMeaning
CUBLAS_STATUS_SUCCESS流设置成功
CUBLAS_STATUS_NOT_INITIALIZED库未初始化
CUBLAS_STATUS_INVALID_VALUE工作区指针未与至少 256 字节对齐
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
ERROR: pip's dependency resolver does not currently take into account all the packages that are installed. This behaviour is the source of the following dependency conflicts. spyder 5.4.1 requires pyqt5<5.16, which is not installed. spyder 5.4.1 requires pyqtwebengine<5.16, which is not installed. Successfully installed aiofiles-23.1.0 altair-4.2.2 blinker-1.6.2 cachetools-5.3.1 chardet-5.1.0 cmake-3.26.3 cpm_kernels-1.0.11 fastapi-0.95.2 ffmpy-0.3.0 gitdb-4.0.10 gitpython-3.1.31 gradio-3.32.0 gradio-client-0.2.5 h11-0.14.0 httpcore-0.17.2 httpx-0.24.1 latex2mathml-3.76.0 linkify-it-py-2.0.2 lit-16.0.5 markdown-it-py-2.2.0 mdit-py-plugins-0.3.3 mdtex2html-1.2.0 mdurl-0.1.2 nvidia-cublas-cu11-11.10.3.66 nvidia-cuda-cupti-cu11-11.7.101 nvidia-cuda-nvrtc-cu11-11.7.99 nvidia-cuda-runtime-cu11-11.7.99 nvidia-cudnn-cu11-8.5.0.96 nvidia-cufft-cu11-10.9.0.58 nvidia-curand-cu11-10.2.10.91 nvidia-cusolver-cu11-11.4.0.1 nvidia-cusparse-cu11-11.7.4.91 nvidia-nccl-cu11-2.14.3 nvidia-nvtx-cu11-11.7.91 orjson-3.8.14 protobuf-3.20.3 pydantic-1.10.8 pydeck-0.8.1b0 pydub-0.25.1 pygments-2.15.1 pympler-1.0.1 python-multipart-0.0.6 rich-13.4.1 semantic-version-2.10.0 sentencepiece-0.1.99 smmap-5.0.0 starlette-0.27.0 streamlit-1.22.0 streamlit-chat-0.0.2.2 torch-2.0.1 transformers-4.27.1 triton-2.0.0 tzlocal-5.0.1 uc-micro-py-1.0.2 uvicorn-0.22.0 validators-0.20.0 websockets-11.0.3 WARNING: Running pip as the 'root' user can result in broken permissions and conflicting behaviour with the system package manager. It is recommended to use a virtual environment instead: https://pip.pypa.io/warnings/venv 解释下
06-02

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

扫地的小何尚

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值