第一个问题:
CUDA Error: out of memory darknet: ./src/cuda.c:36: check_error: Assertion `0' failed. 已放弃 (核心已转储)
由Error类型可以知道运行模型所需的显存空间超过了显卡提供的显存。
解决办法:
修改cfg配置文件,减小batch和subdivsion.
第二个问题:
CUDA Error: unknown error darknet: ./src/cuda.c:36: check_error: Assertion `0' failed. Aborted
这个问题的发生,网上给出了很多原因,可以尝试解决下。
我记录下我这块的原因:我这是由于nvidia驱动版本和电脑内核支持版本不统一造成的。
如何确定是不是这个这个原因,可通过在终端输入 nvidia-smi,显示如下:
Failed to initialize NVML: driver/library version mismatch
解决方法可参看如下博客,写的很好:
https://blog.csdn.net/zhang970187013/article/details/81012845
另外,我的是支持版本是384的,下载地址为:
https://www.geforce.cn/drivers/results/133208