AI on Ubuntu Platform

🎯 AI实验环境搭建和深度学习算法

安装环境 其他平台环境类似

硬件： Intel 12900K / ROG MAXIMUS Z690 HERO / NVIDIA RTX 3090 / DDR5 32G 5600 / SSD 7T*1 + 1T*4 / HDD 16T*2
系统： Ubuntu-18.04-64bit - Ubuntu-22.04-64bit / Windows 11 Professional
软件： CUDA9.0 - CUDA12.1/cuDNN/TensorRT/OpenCV/caffe/Protobuf/Matlab/VIM/Tmux/zsh
框架： Pytorch/OpenmmLab
算法： 目标检测/语义分割/多任务/BEV/大模型

---

目录

1. 🔬 AI基础环境搭建和设置

   1. 安装Ubuntu和Windows双系统
      • CPU有集成显卡
        • 有关Ubuntu分区的相关问题
        • Ubuntu与Windows双系统时间同步解决方法
        • 调整grub引导系统顺序
        • 设置grub引导菜单的分辨率
        • 设置grub Menu显示
      • CPU无集成显卡
      • 远程切换双系统
   2. 安装NVIDIA驱动
      • 安装NVIDIA驱动所需的依赖包
      • 禁用Ubuntu自带的显卡驱动
      • Ubuntu16TLS安装NVIDIA驱动
      • Ubuntu18TLS安装NVIDIA驱动
      • Ubuntu20TLS安装NVIDIA驱动
      • ➤ Ubuntu22TLS安装NVIDIA驱动
      • 配置NVIDIA环境变量
      • 查看NVIDIA显卡驱动版本
      • 解决Linux双系统安装卡在启动Logo
   3. 安装CUDA
      • 安装CUDA步骤
      • 修改配置文件
      • 查看CUDA版本
      • 卸载CUDA的方法
   4. 安装cuDNN
      • 下载安装cuDNN
      • cuDNN常见问题
   5. Ubuntu CUDA多版本问题
   6. Windows CUDA多版本问题
   7. Anaconda
      • 安装Anaconda
      • 屏蔽Anaconda
      • Anaconda环境配置
        • 重建Anaconda软连接
        • 关闭conda自动进入base虚拟环境
        • 修复无名字环境
      • 卸载Anaconda
   8. 安装OpenCV
      • 下载OpenCV
      • 编译OpenCV
      • 安装OpenCV
      • 卸载OpenCV
   9. 安装Docker
   10. TensorRT
       • 安装TensorRT
         • TensorRT环境变量设置
         • 安装Python的TensorRT包
         • 安装uff
         • 安装graphsurgeon
         • 验证TensorRT是否安装成功
         • TensorRT安装过程中遇到的问题以及解决方法
       • TensorRT生成Engine
         • Caffe模型用TensorRT生成Engine
         • TensorFlow模型用TensorRT生成Engine
           • ONNX模型用TensorRT生成Engine
           • Caffe模型用TensorRT生成Engine
           • 将TensorFlow模型生成UFF文件
           • 将UFF文件转为Engine
           • 调用Engine进行推理
         • TensorRT官方实例 >> 资料在src/tensorrt
           • TensorRT Caffe Engine
           • TensorRT Tensorflow Engine
           • Manually Construct Tensorrt Engine
   11. 安装Pytorch
   12. 安装TensorFlow
   13. 安装Caffe
       • Python2下安装Caffe
       • Python3下安装Caffe
   14. 安装Protobuf
   15. Linux MATLAB安装
       • MATLAB 2018安装
       • MATLAB 2019安装

2. 🍻 AI Algorithms

   • YOLO V3
   • Faster R-CNN
   • Anaconda FAQ
     • Anaconda环境下TensorFlow和Pytorch共存问题
     • Anaconda环境下Python下导入正常Jupyter Notebook中导入莫名出错
   • 深度学习服务器FAQ
     • docker常用命令
     • 多显卡训练问题
     • 远程访问服务器Jupyter Notebook
       • 方法1 ssh远程使用jupyter notebook
       • 方法2 利用jupyter notebook自带的远程访问功能
   • Transfer Learning
   • Loss Function
     • Loss Function简介
     • Loss Function种类
   • 神经网络参数量(weights)和计算量(FLOPs)
   • 特征尺寸(Feature Map)和感受野(Receptive Field)计算
   • 大模型

3. 🖥 AI Framework

   • AI 常用的结构框架
   • TensorFlow
     • Tensorflow to TensorRT Image Classification
     • TensorFlow FAQ
   • Pytorch
     • 将数据转换为Pytorch格式
     • Pytorch多GPU训练
     • Pytorch断点续训
     • Best way to save a trained model in PyTorch
   • Pytorch常用代码总结
     • 基本配置
       • 导入包和版本查询
       • 可复现性
       • 显卡设置
     • Tensor处理
       • 张量的数据类型
       • 张量基本信息
       • 命名张量
       • 数据类型转换
       • 张量形变
       • 打乱顺序
       • 水平翻转
       • 复制张量
       • 张量拼接
       • 将整数标签转为one-hot编码
       • 得到非零元素
       • 判断两个张量相等
       • 张量扩展
       • 矩阵乘法
       • 计算两组数据之间的两两欧式距离
     • 模型定义和操作
       • 一个简单两层卷积网络的示例
       • 双线性汇合bilinear-pooling
       • 多卡同步BN
       • 将已有网络的所有BN层改为同步BN层
       • 类似BN滑动平均
       • 计算模型整体参数量
       • 查看网络中的参数
       • 模型可视化
       • 输出模型信息
       • 模型权重初始化
       • 提取模型中的某一层
       • 部分层使用预训练模型
       • 将在GPU保存的模型加载到CPU
     • 数据处理
       • 计算数据集的均值和标准差
       • 得到视频数据基本信息
       • TSN每段采样一帧视频
       • 常用训练和验证数据预处理
     • 模型训练和测试
       • 分类模型训练代码
       • 分类模型测试代码
       • 自定义loss
       • 标签平滑
       • Mixup训练
       • L1正则化
       • 不对偏置项进行权重衰减
       • 梯度裁剪
       • 得到当前学习率
       • 学习率衰减
       • 优化器链式更新
       • 模型训练可视化
       • 保存与加载断点
       • 提取ImageNet预训练模型某层的卷积特征
       • 提取ImageNet预训练模型多层的卷积特征
       • 微调全连接层
       • 以较大学习率微调全连接层然后较小学习率微调卷积层
     • 其他注意事项
   • Caffe
     • Caffe训练模型可视化

4. 📐 AI Model Optimization

   • 网络量化
   • 网络剪枝

5. 🛠 AI Tools

   • Netron
   • TensorBoard

6. 💻 Ubuntu FAQ

   • Awesome Software
   • Linux环境变量初始化与对应文件的生效顺序
   • Ubuntu Library
     • Eigen
   • Docker安装与使用
     • Docker安装
     • Docker使用
   • Linuxbrew安装
     • 安装linuxbrew
     • linuxbrew必装包
     • brew常用命令
     • linuxbrew注意事项
   • 监视GPU和CPU资源利用情况
   • Ubuntu每次开机后提示检测到系统程序出现问题的解决方法
   • Ubuntu循环登陆问题
   • 文件夹打开缓慢
   • 安装Python依赖库
     • Python基础库安装
     • Python项目requirements文件的生成和使用
   • 安装Chrome浏览器
   • pip / pip3常见报错
   • 关于Ubuntu 16.04LTS下安装Spyder3的问题
   • 安装Teamviewer
   • 安装搜狗输入法
   • WPS设置
     • 解决WPS启动提示字体未安装错误
     • WPS切换显示语言
     • WPS不能输入中文
   • 安装赛睿霜冻之蓝V2驱动
   • zsh oh-my-zsh默认shell的最佳替代品
     • 查看系统shell环境
     • 安装zsh
     • 安装vimrc
     • 安装oh-my-zsh
     • 安装autojump
     • 安装zsh-autosuggestions
     • 安装zsh-syntax-highlighting
     • 安装zsh-completions
     • 安装zsh-history-substring-search
     • 安装scm_breeze
     • 安装colorls
     • 安装fzf
     • 安装navi
   • atuin历史命令工具
   • vim配置
     • YouCompleteMe实现vim自动补全
     • TabNine实现vim自动补全
     • vim最终配置
   • Tmux配置与使用
     • Tmux配置
     • Tmux使用手册
   • FFmpeg的使用教程
   • 远程连接Ubuntu
   • Sublime Text 3配置问题
   • VSCode配置问题
     • Awesome VScode Plugin
     • VScode Tips
     • VScode远程免密登陆
     • VScode远程显示界面
     • Ubuntu VScode配置Cpp编译环境
     • VScode配置Google代码风格
     • VScode环境配置
   • Ubuntu查看和关闭进程
   • Ubuntu后台执行命令
   • Ubuntu程序开机自启
     • 修改系统启动文件
     • Startup Applications
   • 查看系统状态
   • 彻底卸载软件
   • ESXi下安装iKuai和LEDE双软路由
     • 网络拓扑图
     • ESXi
     • iKuai
     • LEDE
       • LEDE作为旁路由
       • LEDE作为二级路由
     • 设置iKuai和LEDE开机自动启动
   • NanoPi-R1烧写系统
   • GL-iNet AR750 官方固件安装SSR Plus插件
   • Shadowsocks安装
     • Shadowsocks说明
     • 安装Shadowsocks-qt5
     • 安装electron-ssr
     • 配置Chrome浏览器
   • Ubuntu 美化
     • Unity环境
     • GNOME环境
   • Ubuntu启动后GUI界面卡住不动
   • Ubuntu1804使用过程中常遇到的问题

7. 📡 OpenWRT

   • Proxifier使用

8. 📚 参考资料

---

TODO

• 模型大小(参数量)估计
• 感受野计
• 语义分割
• 网络优化
• TensorRT自定义层
• Pytorch model => OONX
• TensorFlow model => OONX
• Caffe 源码解读
• Darknet 源码解读
• 目标追踪
• 更新3090, 适配Ubuntu20.04系统

---

参考资料

1. win10下安装Ubuntu16.04双系统
2. Ubuntu 16.04+CUDA 9.1+cuDNN v7+OpenCV 3.4.0+Caffe+PyCharm 完全安装指南
3. cuDNN官方安装指导
4. ubuntu16.04+caffe+cpu+Anaconda3(python3)
5. caffe编译遇到的问题
6. linux安装MATLAB R2018a步骤
7. 关于Ubuntu16.04LTS下Python版本和安装Spyder3的问题？
8. zsh + oh-my-zsh 默认shell的最佳替代品
9. Terminal Experience
10. 远程访问服务器Jupyter Notebook的方法
11. Jupyer Notebook官方指南
12. 设置 jupyter notebook 可远程访问
13. Docker — 从入门到实践
14. Docker 官方 Ubuntu 安装文档
15. .tmux配置
16. Tmux 快捷键 & 速查表
17. TensorRT官方安装指南
18. Anaconda官方给出的卸载方法
19. Eigen是个什么鬼？
20. AW 17 R5 i9 Ubuntu? Linux?
21. Alienware 17 R4 Ubuntu 16.04 WiFi driver
22. 如何计算感受野(Receptive Field)——原理
23. A guide to receptive field arithmetic for Convolutional Neural Networks
24. 关于感受野 (Receptive field) 你该知道的事
25. 特征图尺寸和感受野计算详解
26. 卷积神经网络中的感受野计算（译）
27. 神经网络参数量的计算: 以UNet为例
28. 从AlexNet理解卷积神经网络的一般结构
29. 经典神经网络参数的计算
30. Ubuntu 18.04 NVIDIA驱动安装总结
31. 解决Linux双系统安装卡在启动Logo
32. Ubuntu 18.04 安装 NVIDIA 显卡驱动
33. windows下同一个显卡配置多个CUDA工具包以及它们之间的切换
34. Netron
35. Ubuntu 18.04安装Docker CE及NVIDIA Container Toolkit流程
36. NVIDIA Installing on Ubuntu and Debian
37. PyTorch常用代码段