当前位置: 首页 > news >正文

WIN11中安装Mamba常见问题解决方案

1. 安装triton,下面提供一个WIN10/11编译好的Triton版本:

triton-2.0.0-cp310-cp310-win_amd64.whl
运行指令:pip install triton-2.0.0-cp310-cp310-win_amd64.whl

2. 安装causal-conv1d

FORCE_BUILD = os.getenv("CAUSAL_CONV1D_FORCE_BUILD", "FALSE") == "TRUE"
SKIP_CUDA_BUILD = os.getenv("CAUSAL_CONV1D_SKIP_CUDA_BUILD", "FALSE") == "TRUE"
# For CI, we want the option to build with C++11 ABI since the nvcr images use C++11 ABI
FORCE_CXX11_ABI = os.getenv("CAUSAL_CONV1D_FORCE_CXX11_ABI", "FALSE") == "TRUE"

将三个TRUE改为FALSE:

FORCE_BUILD = os.getenv("CAUSAL_CONV1D_FORCE_BUILD", "FALSE") == "FALSE"
SKIP_CUDA_BUILD = os.getenv("CAUSAL_CONV1D_SKIP_CUDA_BUILD", "FALSE") == "FALSE"
# For CI, we want the option to build with C++11 ABI since the nvcr images use C++11 ABI
FORCE_CXX11_ABI = os.getenv("CAUSAL_CONV1D_FORCE_CXX11_ABI", "FALSE") == "FALSE"

 3. 问题3:RuntimeError: mamba_ssm is only supported on CUDA 11.6 and above.

直接升级升级到11.8: conda install cudatoolkit==11.8 -c nvidia
安装NVCC:conda install -c "nvidia/label/cuda-11.8.0" cuda-nvcc

或者官方下载手动安装:CUDA Toolkit 11.8 Downloads
 


http://www.mrgr.cn/news/79968.html

相关文章:

  • 在 React 中,创建和嵌套组件、添加标签和样式、显示数据、渲染条件和列表、对事件做出响应并更新界面以及在组件间共享数据是常见的任务
  • 印闪网络:阿里云数据库MongoDB版助力金融科技出海企业降本增效
  • 【PyTorch】动态调整学习率 torch.optim.lr_scheduler.StepLR 调度器
  • python进阶-05-利用Selenium来实现动态爬虫
  • 虚幻引擎的工程目录结构
  • 【银河麒麟高级服务器操作系统】修改容器中journal服务日志存储位置无效—分析及解决方案
  • windows C#-自动实现属性的轻型类
  • Java项目实战II基于Java+Spring Boot+MySQL的社区帮扶对象管理系统的设计与实现(开发文档+数据库+源码)
  • src 和 href 的区别
  • 在AMD Instinct MI300X加速器上训练Transformers和混合模型
  • 深入解析C++中的函数指针与`typedef`的妙用
  • 快速上手Neo4j图关系数据库
  • 测试岗位应该学什么
  • 操作系统(3)操作系统的运行环境
  • 【他山之石】Leading-Trim: The Future of Digital Typesetting:数字排版的未来 —— Leading-Trim
  • 文献分享: PLAID——为ColBERT架构设计的后期交互驱动器
  • 【qt环境配置】windows下的qt与vs工具集安装\版本对应关系
  • 常见LeetCode-Saw200
  • C#,人工智能,深度学习,目标检测,OpenCV级联分类器数据集的制作与《层级分类器一键生成器》源代码
  • 黑马头条学习笔记
  • 【JVM】JVM基础教程(三)
  • 第 8 章 对象、类与面向对象编程
  • L0、L1与L2范数、核范数
  • Jenkins部署前后端项目
  • MySQL锁的类型有哪些
  • QT核心功能概览