当前位置: 首页 > news >正文

【C#】C# 使用onnxruntime报错记录

1、 C#使用onnxruntime时报CUDA版本错误

Bug信息:The given version [14] is not supported, only version 1 to 10 is supported in this build.

  导致这个bug的原因是,在win11系统下的windows/system32文件夹下有一个默认的onnxruntime.dll,当我们的C#项目在编译这行代码时,会默认读取到windows/system32下面的onnxruntime.dll,而不是我们在nuget中安装的onnruntime.gpu依赖包。

// 编译这行代码时会出现以上报错
var cudaProviderOptions = new OrtCUDAProviderOptions();

  解决方法是,进入我们项目文件夹下面的…/packages依赖库中,如果你是windows系统,那就找到onnxruntime.gpu.windows这个文件夹下面,然后将onnxruntime.dll复制到我们的项目的exe可执行文件所在的目录下,比如我的在…/bin/x64/Debug/xx.exe,复制到这里后,我们的程序将会优先加载可执行程序目录下的dll。这样就解决了上述bug了~
  如果问题还是没有解决,可以将onnx库的版本回退,最新版的onnxruntime的库有可能会和低版本的CUDA库出现Bug;

2、解决System.AccessViolationException: 尝试读取或写入受保护的内存。(onnx推理时)

Bug信息:System.AccessViolationException: 尝试读取或写入受保护的内存。

  根据一行行的注释调试,发现在onnx推理模块的地方出现了这个问题,在main函数调用onnx推理模块的方法时,执行完成之后,结果也能正常出,就是在main函数结束的最后,会出这个问题。查询了各种资料,本以为是我new出来的内存空间没有释放,结果发现C#不像C++,需要将new的对象进行delete,C#内部会自动释放属于C#的内存的空间。

在这里插入图片描述
最后定位到这块代码,这里是onnx的session文件执行推理,并解析推理结果的代码。我们需要在推理完成之后,释放掉InferenceSession和推理结果占用的内存,避免内存泄露和资源的占用。可以在创建session对象和session.run的地方加上using语句来确保在执行完成之后可以正确释放。


http://www.mrgr.cn/news/82771.html

相关文章:

  • c++开源协程库libgo介绍及使用,srs协程,boost协程 Boost::fiber
  • 【84键矮轴无线键盘】个人使用经历
  • 5个不同类型的mysql数据库安装
  • 13、Ollama OCR
  • 【Ubuntu】 Ubuntu22.04搭建NFS服务
  • sqlserver sql转HTMM邮件发送
  • 51单片机——步进电机模块
  • 【AI落地】AI生成测试用例,claude or gpt?(提效至少 50%)
  • Linux: 关于 mount 的一些细节
  • STM32 I2C通信外设
  • FreeSWITCH 呼出之我见
  • java常见面试题
  • [备忘.OFD]OFD是什么、OFD与PDF格式文件的互转换
  • 起重机检测数据集VOC+YOLO格式2316张1类别
  • Spring 复习笔记
  • Vue笔记-001-声明式渲染
  • 【简博士统计学习方法】3. 统计学习方法的三要素
  • 自定义字典转换器用于easyExcel 导入导出
  • 51单片机(二)中断系统与外部中断实验
  • INT305 Machine Learning
  • Linux 35.6 + JetPack v5.1.4之 pytorch升级
  • 【LC】2469. 温度转换
  • Haskell语言的面向对象编程
  • 【python如何使用随机模块】
  • 智能工厂的设计软件 应用场景的一个例子: 为AI聊天工具添加一个知识系统 之23 “单子”职业能力原型:PIN语言/AI操作系统/robot扮演的actor
  • DX12 快速教程(3) —— 画矩形