nnU-Netv2在服务器上使用全流程（小白边踩坑边学习的记录）

目录
源码地址
步骤零：上传准备好的文件夹（详见步骤四）
步骤一：先conda 新环境 python==3.9：
步骤二：安装pytorch大礼包（pytorch 2.0）
步骤三：安装nnunetv2
步骤四：配置文件结构（可以在本地提前准备好）
步骤五：数据集的转换与json文件
步骤六：修改环境变量
步骤七：数据集预处理
步骤八：模型训练
步骤九：模型推理
步骤十：模型预测
步骤十一：预测结果分析
最终：获取超算上的文件
参考文献
背景与总结


源码地址
GitHub - MIC-DKFZ/nnUNet
https://github.com/MIC-DKFZ/nnUNet

以下都是直接在服务器的Terminal下完成的
步骤零：上传数据
我服务器用的featurize，他可以在实例外部预先上传，参考：数据集 | Featurize
当然也可以在实例里上传（会比较慢）

在右侧任务框上侧，也可以直接选择上传（一般仅支持zip等压缩文件）


步骤一：先conda 新环境 python==3.9：
非必须，如果服务器本来环境就已经是pytorch2.0+python3.9就没问题（这和nnunet初代版本配置有很大差别）
模板：
conda create -n your_env_name python=x.x
conda activate your_env_name
conda create -n nnunet python=3.9 #过程中y 确认
conda activate nnunet

 常用conda语句参考：
Anaconda conda常用命令：从入门到精通_conda命令_笨牛慢耕的博客-CSDN博客


步骤二：安装pytorch大礼包（注意：pytorch 2.0）
conda install pytorch torchvision torchaudio pytorch-cuda=11.7 -c pytorch -c nvidia
中间有报错重新输入输入即可，【Y/n】输入Y确认

补充：查看显卡版本,torch安装GPU版本的时候，要安装显卡以下的版本（即上述代码pytorch-cuda=11.7，这个11.7要小于显卡的cuda-version值）
（本地）windows+R，打开Windows命令，输入cmd，再输入nvidia-smi

（服务器的terminal）直接输入nvidia-smi



步骤三：安装nnunetv2
git clone https://github.com/MIC-DKFZ/nnUNet.git
cd nnUNet
pip install -e .
注意最后一行e后面还有一个点！
自己就会安装nnunetv2了！

一套流程后 pip list 里面有 nnunetv2 即完成（或者 pip show nnunetv2）




步骤四：开始配置文件结构（可以在本地提前准备好）
这部分还是和以前差不多
DATASET文件夹下方创建三个文件夹，分别为
nnUNet_raw存放初始的影像和mask文件 nnUNet_preprocessed 预处理后的中间文件存放地nnUNet_trained_models训练完成的模型、训练过程存放地
在nnUNet_raw文件夹下方在创立一个"DatsetXXX_NAME”
参考名：“Dataset101_Lung”
（数字编号是000-999的三位数字，最好大于200，因为比较小的数字已经被fabian的task id占用，以免在哪里莫名其妙冲突了）

Dataset101_Lung下四个文件夹+一个json文件
imagesTrtrain训练集的医学影像（CT、MRI等）imagesTstest 检验集的医学影像（CT、MRI等）（optional）labelsTrtrain训练集的label涂层labelsTstest 训练集的label涂层（optional）dataset.json文件信息，详见步骤五
特别注意，取名原则如下：
images里面在.nii.gz前要加入0000（代表是模态0，若有其他模态的就依次0001，这个数字在json文件里要有体现，比如0模态是CT，1模态是MRI，详情请见步骤6），label是同名文件，但没有0000,0001

不同于nnunet初代版本在nnUNet_raw里面不需要额外的 cropped


步骤五：数据集的转换与json文件
数据集转化这次没用上，就先不细说了，后续再补充
json文件相较nnunet初代版本改了好多。但考虑到其实写的比原先版本更简洁了，可以认为是件好事情吧：

我一开始用了初代的json惨遭报错：
标准格式的文件如下：

nnunetV2给了相应的脚本：
可参考： nnU-Net v2的环境配置到训练自己的数据集（详细步骤）_小萝北hh的博客-CSDN博客

其中labels 0,1,2,3请务必对应好！所有mask文件上出现的数字都要有归属，目前nnunet尚不支持重合的mask（即不同mask之间有交集）。对文件里mask数字位置的，可以打开python去读文件或者，ITK-SNAP读一下：ITK-SNAP Home (itksnap.org)

Label1是红色，label2是绿色，则这层mask的矩阵，对应红色区域位置是1，绿色的是2，其余（background）是0
（备注：ITK-SNAP，包括python里面一些需要调用itk包，都是在路径中不能出现中文字，甚至“-”都不能出现，可以改用为“_”）


步骤六：修改环境变量（三个）
这一步即为重要，在服务器上面无法ctrl+H的打开.bashrc文件，一般的本地也需要修改环境变量，用这个方法应该也可以
需要用到vim
1、进入vim
vim ~/.zshrc
vim ~/.bashrc （在我的使用中是 vim ~/.zshrc
2、进入编辑模式
:a
（注意冒号！）

3、修改三个环境变量：
请一一对应好步骤四 上述文件格式里的三个文件夹
（可以点到这个文件夹的位置，然后右键弹开，点击“复制绝对路径”）  
export nnUNet_preprocessed="/home/featurize/nnUNet/nnUNetFrame/DATASET/nnUNet_preprocessed"

export nnUNet_results="/home/featurize/nnUNet/nnUNetFrame/DATASET/nnUNet_trained_models"

export nnUNet_raw="/home/featurize/nnUNet/nnUNetFrame/DATASET/nnUNet_raw"

4、退出编辑模式
按  Esc
5、退出  记得先按上一步的Esc
:wq

输入  :wq  （ ：不可忽略，保存退出）
输入 :q!    （不保存退出）
6、退出后加载更新后的配置
source ~/.zshrc
source ~/.bashrc    （我的是source ~/zshrc）
7、更新后重新激活之前配置的环境
conda activate your_env_name
conda activate nnunet
常见问题： 这个就是典型环境变量没配好，报错写的很明显了，写明了nnUNet_result变量不存在
潜在的问题：
名字（可能在超算里面复制的路径前面还要加上 /home/xxxxx/）[一般来说，直接右键文件夹，然后复制绝对路径就没问题了]文件结构是否有问题，特别是raw的路径要是DATASET01_NAME1的上一层是否 source ~/.zshrc （否则相当于没刷新）



步骤七：数据集预处理
nnUNetv2_plan_and_preprocess -d  TASK-NUM  --verify_dataset_integrity
TASK-NUM是之前写的数字编号
nnUNetv2_plan_and_preprocess -d 101 --verify_dataset_integrity

常见报错：RAM爆了，我当时在报错回溯一个一个去查，在plan_preprocess_entrypoints.py里找到了可以修改的地方


default_np = {"2d":8, "3d_fullres": 4, "3d_lowres": 8} 改成了2,2,2（还不行就1,1,1；再不行就提升下换个配置吧。。。或者修改一下其他看上去能减少workers的地方）
减少这个np，能够让内存不会爆，但速度肯定会低，建议大家可以试试自己设备能够容纳的最大值
修改后内存就处于一个比较健康的状态了


步骤八：模型训练
我贪方便，直接命令行里面写，跑完一折再写下一次。当然也可以编写终端运行此 tst.sh 文件，使用 source命令执行脚本（待补充学习）
nnUNetv2_train TASK-NUM 2d FOLD  
nnUNetv2_train 101 2d 0
nnUNetv2_train 101 2d 1
nnUNetv2_train 101 2d 2
nnUNetv2_train 101 2d 3
nnUNetv2_train 101 2d 4
 # 其中101表示数据集ID，上述提及过。0表示第1折
# 2d指的是训练Unet中的2d模型，可以选择3d_fullres，3d_lowres

开始训练了！Win！

nnUNet/nnunetv2/training/nnUNetTrainer/nnUNetTrainer.py路径下可以修改一些参数：
比如把epochs改为自己想要的数字，特别是刚开始拿到一个数据的时候，想先随便训练一下，节约时间跑个几十次就完全ok了
一些命令参数可以 在后面加上-h来查看


3. 在正常运行代码后遇到的问题：
Ctrl+C会中断实验，原来指令后面加--c可以接着运行，再也不担心跑了一整晚的东西白跑了！

4.结果查看，每一折训练完都可以看看训练的过程：
比如progress.png就记录了训练迭代次数loss等的变化趋势，及时调整
位置在nnUNet/nnUNetFrame/DATASET/nnUNet_results/Dataset101_Lung/nnUNetTrainer__nnUNetPlans__2d/fold_0/progress.png
其中nnUNetTrainer__nnUNetPlans__2d中fold0，1,2,3,4下都能看到一些训练过程的记录

不同于一般的迭代过程，nnunet训练没有early stop概念，Fabian自己在github上解释了



步骤九：模型推理
可参考：
nnUNet实战一使用预训练nnUNet模型进行推理_nnunet 推理_Tina姐的博客-CSDN博客
nnUnet v2项目学习记录，训练自定义模型（不是Unet） - 知乎 (zhihu.com)
精细化修改 修改loss等
↑参考，可用于提前推理

nnUNetv2_find_best_configuration 101 -f 0 1 2 3 4 -c 2d






步骤十：模型预测
新建一个文件夹用于储存预测的mask文件
-I 后跟着是需要预测mask的原影像文件， -o后面跟着label储存的位置
nUNetv2_predict -i原影像文件夹 -o  储存位置 -d TASK-NUM -c 2d
nnUNetv2_predict -i nnUNet/nnUNetFrame/DATASET/nnUNet_raw/Dataset101_Lung/imagesTr -o /home/featurize/nnUNet/nnUNetFrame/DATASET/nnUNet_mask/Dataset101_lung/trainmask -d 101 -c 2d



步骤十一：预测结果分析
nnunet有自己内置的评价文件，位置在
预测结果分析：
/home/featurize/nnUNet/nnunetv2/evaluation/evaluate_predictions.py

修改即可，再在terminal cd到该py文件所在位置,输入python3 evaluate_prediction.py，接着去查看summary.json报告即可


分别对应着label1,2,3的评价指标


最终：获取服务器上的文件
 把文件压缩，然后右键弹开download


参考文献
还是多看看开发者的github和写的documentation，还是有不少启发的

 nnU-Net v2的环境配置到训练自己的数据集（详细步骤）_小萝北hh的博客-CSDN博客
在Windows上实现nnU-Net v2的环境配置_netv2_无聊的程序猿的博客-CSDN博客
GitHub - MIC-DKFZ/nnUNet
nnUNet_v2/documentation/how_to_use_nnunet.md at master · DIAGNijmegen/nnUNet_v2 · GitHub
nnUNetV2使用教程，超详细！！（使用MSD十项全能数据集）_msd数据集_不开心的多巴胺的博客-CSDN博客
不用写代码神器！教你用4行命令轻松使用nnUNet训练自己的医学图像分割模型_Tina姐的博客-CSDN博客

主要问题：nnunet和nnunetv2有一定差异：
nnUNet-v2 官方调用教程（节选关键内容）_新一代切糕传承人的博客-CSDN博客 （这篇文章几乎包含了所有差异！！）
1、环境的要求，torch直接拉到2.0了，一开始配1.几的还用不了
2、命名的差异（如指令名在nnunet后面都要+v2）
3、Json文件的区别，其实写的比原先版本更更简洁了，反倒是件好事情：

旧版的参考：
nnUNet保姆级使用教程！从环境配置到训练与推理（新手必看）_江江ahh的博客-CSDN博客
保姆级教程：nnUnet在2维图像的训练和测试_Minerva_的博客-CSDN博客


背景与总结
背景：前期在本地windows电脑上装wsl再装nnunet走了很多弯路，环境配的很是破防。后在服务器上却比较轻松，所以强烈建议有条件的直接找个不那么贵的服务器平台（至少环境配崩了也可以直接重开，完全没有心理负担）
作为一个本科低年级的AI初学者，第一次做深度学习相关项目，第一次使用这个库，第一次独自配环境，加上恰逢nnunetv2更新后，原版本有些总结和经验不再能直接照抄使用，网上没有很快更新v2的教程，还是有些痛苦的。同时作为第一次写这样的指南，内容有些冗余，也一定有缺漏和不足，还请大家多多包涵，欢迎大家在评论区提问指出~~
本文没包含的bug和报错也可以提问，也会尽所能去找的！
后续也会多多读读原文件，有收获和感想也会再多多更新~

完结散花！有其他报错欢迎评论区讨论，楼主也是第一次使用这个库，对其中很多函数还没有细细去读过，之后再慢慢发掘、多读读documentation，找到一些可供直接使用的函数，再更新更新。
举例：在preprocessing里有默认的归一化、重采样等操作，我手上有拿到其他数据（不需要用来分割）但不知道该怎么归一化，我直接读了读nnunet里的preprocessing知道大概的流程了。


学习，路漫漫其修远兮！