tongchenkeji
发表于：0次点击

按照提供的AUTOMATIC1111，执行出现上述错误，要安装nvidia-container-ru[阿里云函数计算]

按照提供的AUTOMATIC1111，执行出现上述错误，要安装nvidia-container-runtime？

cutlassF is not supported because: xFormers wasn’t build with CUDA support flshattF is not supported because: xFormers wasn’t build with CUDA support max(query.shape[-1] != value.shape[-1]) > 128 tritonflashattF is not supported because: xFormers wasn’t build with CUDA support

「点点赞赏，手留余香」

    还没有人赞赏，快来当第一个赞赏的人吧！
函数计算# 并行计算25
=====这是一个广告位，招租中，联系qq 78315851====
函数计算
请问在python下如何通过fastapi框架处理http事件?官方只有一个flask的例子[阿里云函数计算]
函数计算
我直接抄flask例子里面的handler函数，貌似是不行的，我不知道应该怎么改这个函数才能用。[阿里云函数计算]
6 条回复 A 作者 M 管理员

  1. 应该是使用的代码或工具（xFormers）没有使用CUDA支持构建，因此不支持相关的功能（如cutlassF、flshattF、max等）。解决此问题的方法可能是确保正确安装了CUDA和相关的GPU驱动程序，并使用支持CUDA的版本构建和运行代码

    已喜欢 已反对

  2. 这个错误可能是因为您没有安装 nvidia-container-runtime 导致的。

    nvidia-container-runtime 是一种针对 NVIDIA GPU 的运行时，用于在容器中提供 GPU 加速的支持。

    建议您安装 nvidia-container-runtime 并重新尝试执行 AUTOMATIC1111，以下是一些常用的安装命令，您可以根据具体情况选择适合您的方式进行安装：

    1. 使用 apt-get 安装（适用于 Ubuntu 系统）：

    sudo apt-get updatesudo apt-get install nvidia-container-runtime

    1. 使用 yum 安装（适用于 CentOS 系统）：

    sudo yum updatesudo yum install nvidia-container-runtime

    安装完成后，您可以重新执行 AUTOMATIC1111，检查问题是否已经解决。

    已喜欢 已反对

  3. 根据您提供的提示信息，似乎是因为缺少nvidia-container-runtime导致的。nvidia-container-runtime是一个负责管理GPU加速容器的程序，可能缺少它会导致无法正确加载CUDA相关的组件和库文件。

    如果您有使用GPU进行Deep Learning模型训练或推理的需求，需要安装nvidia-container-runtime才能正常工作。以下是安装nvidia-container-runtime的步骤：

    1. 添加apt-key：

      curl -s -L https://nvidia.github.io/nvidia-docker/gpgkey |  sudo apt-key add -

    2. 添加apt源：

      distribution=$(. /etc/os-release;echo $ID$VERSION_ID)curl -s -L https://nvidia.github.io/nvidia-docker/$distribution/nvidia-docker.list |  sudo tee /etc/apt/sources.list.d/nvidia-docker.list

    3. 更新apt包列表：

      sudo apt-get update

    4. 安装nvidia-container-runtime：

      sudo apt-get install nvidia-container-runtime

    安装完成后，您可以重启Docker服务，并将--runtime=nvidia选项添加到Docker命令中来启用GPU加速。

    但请注意，如果您只是进行CPU计算而非GPU计算，则不需要安装nvidia-container-runtime。

    已喜欢 已反对

  4. 本地运行GPU容器，需要使用nvidia-docker来运行

    另外你的这个错误信息，多半是xFormers在构建时没有包括CUDA支持，需要重装xformers或自己编译

    此答案来自钉钉群“阿里函数计算官网客户”

    已喜欢 已反对

  5. 【回答】

    你的系统可能不支持使用 cutlass 和 triton 函数。这些函数是用于执行用于加速深度学习的数学计算的，而你的系统可能不支持使用 CUDA 进行计算。

    1、解决方案

    安装 CUDA

    2、步骤：

    • 下载 CUDA 安装程序并按照说明安装 CUDA。
    • 配置环境变量，以便 CUDA 可以在系统上正确安装和运行。
    • 通过编辑 /etc/profile 或 /root/.bashrc 文件来设置环境变量。 设置参考：

    export PATH=/usr/local/cuda-8.0/bin:$PATH export LD_LIBRARY_PATH=/usr/local/cuda-8.0/lib64:$LD_LIBRARY_PATH export CUDA_HOME=/usr/local/cuda-8.0

    3、验证

    编辑 nvidia-smi 命令来检查 CUDA 是否已安装并正常运行。

    已喜欢 已反对