MrD's Blog

我干了什么究竟拿了时间换了什么

【深度学习】PP-YOLOv2: A Practical Object Detector

Abstract effective 和 efficient 是实用的目标检测器的基本要求。为了满足这两个问题，作者综合评估了一系列现有的改进，以提高PP-YOLO的性能，同时几乎保持推理时间不变。这篇文章将分析一系列改进措施，并通过增量消融研究，实证评估它们对最终模型性能的影响。通过结合多种有效的改进，作者将PP-YOLO在COCO2017 test-dev 中的性能从45....

Posted by ShawnD on August 26, 2022

【机器学习】Convexity II: Optimization Basics

Optimization terminology 一个凸优化问题是： \(\max_{x \in D} f(x) \quad \text{subject to} \quad g_i(x) \leq 0, i = 1, ..., m \quad Ax=b\) 其中 $f$ 和 $g_i, i = 1, …, m$ 全是 convex 的，并且 optimization domain 是 ...

Posted by ShawnD on August 26, 2022

【深度学习】PP-YOLO: An Effective and Efficient Implementation of Object Detector

Abstract 目标检测是计算机视觉的一个重要领域，在各种实际场景中发挥着关键作用。在实际应用中，由于硬件的限制，常常需要牺牲精度来保证检测器的推理速度。因此，必须考虑目标检测器的有效性和效率之间的平衡。这篇文章的目标不是提出一种新的检测模型，而是实现一种有效性和效率相对均衡的、可以直接应用于实际应用场景的目标检测器。考虑到YOLOv3在实际应用中的广泛应用，作者开发了一...

Posted by ShawnD on August 25, 2022

【深度学习】PP-YOLOE: An evolved version of YOLO

Abstract 在这份报告中，作者介绍了PP-YOLOE，一种高性能和友好部署的工业最先进的目标检测器。作者在之前PP-YOLOv2的基础上进行优化，使用 Anchor-free 范式，更强大的 backbone 和 neck，使用了cspresstage, ET-head和动态标签分配算法 TAL。结果，PP-YOLOE-l在COCO test-dev 上实现了51.4 mA...

Posted by ShawnD on August 25, 2022

【深度学习】DIP：Deep Image Prior

Abstract 深度卷积网络已经成为一种流行的图像生成和恢复工具。一般来说，其优异的性能归功于其从大量样本图像中学习真实图像先验的能力。这篇文章表明，恰恰相反，生成器网络的 structure 足够捕获大量 low-level image statistic prior 用以任何学习。为了做到这一点，作者展示了一个随机初始化的神经网络可以作为一个手工制作的先验，在标准的逆问题，如去噪...

Posted by ShawnD on August 24, 2022

【深度学习】ASGLD ：Self-supervised Deep Image Restoration via Adaptive Stochastic Gradient Langevin Dynamics

Abstract 虽然监督深度学习已经成为解决许多图像恢复问题的突出工具，但人们对研究自监督或无监督方法越来越感兴趣，以解决收集真实图像的挑战和成本。基于贝叶斯估计的神经网络，这篇文章提出了一种用于一般图像恢复问题的自监督深度学习方法。 neuralized estimator 的关键部分是一种自适应随机梯度 Langevin dynamics 算法，该算法可以有效地采样网络权值的后...

Posted by ShawnD on August 24, 2022

【深度学习】Hyplex：Real-time Hyperspectral Imaging in Hardware via Trained Metasurface Encoders

Abstract 高光谱成像在图像分类和计算机视觉自动模式识别中的光谱特征识别方面受到了广泛关注。最先进的快照高光谱成像实现依赖于笨重的、非集成的和昂贵的光学元件，包括透镜、光谱仪和滤光片。这些宏观组件不允许对数据进行快速处理，例如实时和高分辨率视频。这项工作引入了Hyplex，一个新的集成架构，解决了上面讨论的限制。 Hyplex是一款cmos兼容的快速高光谱相机，它用人工...

Posted by ShawnD on August 23, 2022

【深度学习】CVF-SID: Cyclic multi-Variate Function for Self-Supervised Image Denoising by Disentangling Noise from Image

Abstract 近年来，大规模数据集强监督图像去噪技术取得了重要进展。然而，在实践中，针对每个特定的场景获得对齐的 noisy-clean 训练图像对是复杂和昂贵的。因此，将传统的监督去噪网络应用于自然图像噪声输入并不是直接的。尽管一些研究在没有强监督的情况下对这个问题提出了挑战，但它们依赖于较不实用的假设，不能直接应用于实际情况。为了解决上述挑战，作者提出了一种新的强大...

Posted by ShawnD on August 23, 2022

【深度学习】AP-BSN: Self-Supervised Denoising for Real-World Images via Asymmetric PD and Blind-Spot Network

Abstract Blind-spot 网络(BSN)及其变体在自监督去噪方面取得了重大进展。然而，由于 pixel-wise independent noise 这样的不太实用的假设，它们仍然被限制在合成噪声输入上。因此，使用自监督的BSN处理空间相关的真实世界噪声是具有挑战性的。近年来，人们提出了 pixel-shuffle downsample(PD)技术来去除真实世界噪...

Posted by ShawnD on August 23, 2022

【机器学习】Subgradient Method

考虑该问题 \[\min_x f(x)\] $f$ 为凸函数， $\text{dom}(f) = \mathbb{R}^n$。 Subgradient mthod：选择一个初始值 $x^{(0)} \in \mathbb{R}^n$，重复： \[x^{(k)} = x^{(k-1)} - t_k · g^{(k-1)}, \quad k = 1, 2, 3 ...\] 其中 $...

Posted by ShawnD on August 23, 2022