【2022-10-11】ONNX 的本质只是一套开放的 ML 模型标准，模型文件存储的只是网络的拓扑结构和权重（其实每个深度学习框架最后保存的模型都是类似的），脱离开框架是没办法对模型直接进行 inference 的。

【2022-10-09】分析卷积层、线性层的参数量、计算量。

【2022-10-07】分析卷积层、线性层的参数量、计算量。

【2021-10-10】深度学习基础知识总结。

【2021-09-22】CSPNet 是作者 Chien-Yao Wang 于 2019 发表的论文 CSPNET:A NEW BACKBONE THAT CAN ENHANCE LEARNING CAPABILITY OF CNN。也是对 DenseNet 网络推理效率低的改进版本。

【2021-09-20】Youngwan Lee* 作者于 2019 年发表的论文 An Energy and GPU-Computation Efficient Backbone Network for Real-Time Object Detection. 是对 DenseNet 网络推理效率低的改进版本。

【2021-09-15】在 DenseNet 中，让网络中的每一层都直接与其前面层相连，实现特征的重复利用。同时把网络的每一层设计得特别“窄”（特征图/滤波器数量少），即只学习非常少的特征图（最极端情况就是每一层只学习一个特征图），达到降低冗余性的目的。

【2021-09-10】残差网络(ResNet)的提出是为了解决深度神经网络的“退化”（优化）问题。

【2021-05-18】ShuffleNet v2 论文最大的贡献在于看到了 GPU 访存带宽（内存访问代价 MAC）对于模型推理时间的影响，而不仅仅是模型复杂度：FLOPs 和参数量 Params 对于推理时间的影响，并由此提出了 4 个轻量级网络设计的原则和一个新颖的 卷积 block 架构-ShuffleNet v2。

【2021-05-10】RepVGG 是为 GPU 和专用硬件设计的高效模型，追求高速度、省内存，较少关注参数量和理论计算量。在低算力设备上，可能不如 MobileNet 和 ShuffleNet 系列适用。