MrD's Blog

我干了什么究竟拿了时间换了什么

【深度学习】Maximum Likelihood Training of Score-Based Diffusion Models

Abstract 基于分数的扩散模型通过逆转将数据扩散到噪声的随机过程来生成样本，并通过最大限度地减少分数匹配损失的加权组合来训练。基于分数的扩散模型的对数似然可以通过与 continuous normalizing flows 的联系来计算，但对数似然并不通过分数匹配损失的加权组合直接优化。我们表明，对于特定的加权方案，目标上界是负对数似然，从而实现基于分数的扩散模型的近似最大似...

Posted by ShawnD on April 6, 2023

【深度学习】Learning to Generate Data by Estimating Gradients of the Data Distribution

Background Score Functions and Score Models Stein score function [Ste72; HD05; LLJ16] 被定义为概率分布的对数密度的梯度。特别地，对于一个概率密度函数 $p(x)$，对应的 Stein score function $s(x)$ 为： \[s(x) := \nabla_x \log p(x)\] 注...

Posted by ShawnD on April 6, 2023

【深度学习】Score-based diffusion models for accelerated MRI

Abstract 基于分数的扩散模型提供了一种使用数据分布的梯度对图像进行建模的强大方法。利用先前的学习分数函数，在这里我们介绍了一种从给定观测条件分布中采样数据的方法，这样该模型可以很容易地用于解决成像中的逆问题，特别是accelerated MRI。简而言之，我们训练了一个具有去噪得分匹配的连续时间依赖得分函数。然后，在推理阶段，我们在数值 SDE 求解器和数据一致性步骤之...

Posted by ShawnD on April 3, 2023

【深度学习】Come-Closer-Diffuse-Faster: Accelerating Conditional Diffusion Models for Inverse Problems through Stochastic Contraction

Abstract 由于其作为生成模型的强大性能，扩散模型最近在社区中引起了极大的兴趣。此外，它对逆问题的应用已经证明了最先进的性能。不幸的是，扩散模型有一个关键的缺点——它们本质上采样速度很慢，需要几千个迭代步骤才能从纯高斯噪声中生成图像。在这项工作中，我们表明从高斯噪声开始是不必要的。相反，从具有更好初始化的单个正向扩散开始，显著减少了反向条件扩散中的采样步骤数量。这...

Posted by ShawnD on March 31, 2023

【深度学习】SNIPS: Solving Noisy Inverse Problems Stochastically

Abstract 在这项工作中，我们引入了一种名为 SNIPS 的新型随机算法，该算法从任何线性逆问题的后验分布中采样样本，其中假设观察结果被加性白色高斯噪声污染。我们的解决方案结合了 Langevin dynamics 和 Newton 的想法，并利用了预训练的最小均方误差（MMSE）高斯去噪器。所提出的方法依赖于后验分数函数的复杂推导，该函数包括退化算子的奇异值分解（SVD）...

Posted by ShawnD on March 30, 2023

【Research & Writing】加拿大签证

When will IRCC contact me? 您需要在电子申请中提供护照副本。如果IRCC需要您的实体护照，IRCC将要求您将其提交给我们的办公室。如果我们需要更多信息、文件或面试，IRCC也会与您联系。有关申请的一般指导，请访问我的移民和公民身份申请，或查阅与您使用的申请表相关的说明指南的“接下来会发生什么”部分。请不要通过邮件、快递或传真向IRCC发送与此在线申请相关的任何...

Posted by ShawnD on March 21, 2023

【Research & Writing】Instructions for Validation and Final Submission of CVPR 2023 Camera-Ready Papers

仔细阅读这些说明并严格遵循它们，以尽量减少 conference proceedings 的 production 中出现的问题和延误。最终提交（完成以下所有步骤）的截止日期是2023年3月24日太平洋夏令时间晚上11:59。这个截止日期不会延长。截止日期后到达的论文可能不会出现在会议记录中，也可能不会放在 IEEE Xplore 中。 Note： CVPR 2023会议记录将仅向...

Posted by ShawnD on March 21, 2023

【深度学习】2023 NTIRE NH Dehazing Factsheet

NTIRE 2023 NonHomogeneous Dehazing Challenge 此概况介绍模板旨在构建对每个参与团队在 NTIRE 2023 NonHomogeneous Dehazing Challenge 中所做的贡献的描述。理想情况下，下面列举的所有方面都应该解决。提供的信息、代码/可执行文件和测试数据上取得的性能用于决定 NTIRE 2023 NonHomogeneous...

Posted by ShawnD on March 17, 2023

【Research & Writing】 CVPR 2023 注册

Warning About Attendee List / Hotel Vendor Scams IEEE/CVF CVPR会议不出售或出租其与会者名单。请将所有与会者名单邀约转发给Carmen Saliba csaliba@computer.org. 此外，我们强烈建议您通过活动大厅预订房间或直接在信誉良好的酒店预订房间，以避免酒店供应商的骗局。 Authors 每篇论文(主要或研...

Posted by ShawnD on March 6, 2023

【深度学习】Palette: Image-to-Image Diffusion Models

Abstarct 本文开发了一个基于条件扩散模型的图像到图像转换的统一框架，并在四项具有挑战性的图像到图像转换任务上评估了该框架，即着色、绘画、裁剪和JPEG恢复。我们对图像到图像扩散模型的简单实现在所有任务上都优于强大的 GAN 和回归基线，无需特定于任务的超参数调优、架构定制或任何辅助损失或复杂的新技术。我们揭示了去噪扩散目标中的 L2 与 L1 损失对样本多样性的影响，并通过...

Posted by ShawnD on February 23, 2023