PLAY PODCASTS
【第279期】(中文)无反向传播的高效量化扩散模型个性化

【第279期】(中文)无反向传播的高效量化扩散模型个性化

Seventy3 · 任雨山

July 6, 20258m 51s

Audio is streamed directly from the publisher (dts-api.xiaoyuzhoufm.com) as published in their RSS feed. Play Podcasts does not host this file. Rights-holders can request removal through the copyright & takedown page.

Show Notes

Seventy3:借助NotebookLM的能力进行论文解读,专注人工智能、大模型、机器人算法方向,让大家跟着AI一起进步。

今天的主题是:

Efficient Personalization of Quantized Diffusion Model without Backpropagation

Summary

此篇研究论文介绍了一种名为 ZOODiP 的新型框架,旨在在内存受限的环境中高效地个性化扩散模型。该方法通过量化扩散模型并利用零阶优化,在无需反向传播的情况下实现微调,从而显著减少了内存消耗。为了克服零阶优化的局限性,ZOODiP 引入了 Subspace Gradient (SG) 来处理梯度噪声,并提出了 Partial Uniform Timestep Sampling (PUTS) 来优化训练过程中的时间步选择。实验结果表明,ZOODiP 在大幅降低内存需求的同时,仍能实现与现有方法相当的图像质量和文本对齐分数。

原文链接:https://arxiv.org/abs/2503.14868