如何在性能较弱的电脑上运行功能强大的 Flux AI 图像生成器

2024-08-12 23:45:17 UTC | defi.io/yvu
如何在性能较弱的电脑上运行功能强大的 Flux AI 图像生成器

Flux 是上周推出的开源图像生成器,它的运行需要巨大的计算能力。社区已将其缩减,这样你也可以运行它了。具体方法如下。

几天前,当 Flux 横空出世时,它迅速赢得了开源图像生成器皇冠上明珠的美誉。它与 Midjourney 的审美能力不相上下,同时在提示理解和文本生成方面也完全压倒了 Midjourney。缺点是什么?你需要一个拥有超过 24GB VRAM(或更多)的强大 GPU 才能运行它。这比大多数游戏机的马力还要大,更不用说普通的工作笔记本电脑了。

但人工智能界从不畏惧挑战,他们卷起袖子,开始工作。通过神奇的量化技术--压缩模型数据的花哨术语--他们成功地将 Flux 缩小到了更易于管理的大小,同时又不会牺牲太多的艺术魔力。

让我们来分析一下:最初的 Flux 模型使用全 32 位精度 (FP32),这对于大多数人来说,就像开着一级方程式赛车去杂货店买东西,简直是蚍蜉撼树。第一轮优化为我们带来了 FP16 和 FP8 两个版本,每个版本都以微弱的精度换取效率的大幅提升。FP8 版本已经改变了游戏规则,让使用 6GB GPU(RTX 2060)的玩家也能加入其中。

要做到这一点,你需要禁用稳定扩散的系统内存回调,这样你的 GPU 就可以将其部分工作从内部 VRAM 卸载到系统 RAM 上。这样可以避免臭名昭著的 OOM(内存不足)错误,尽管代价是运行速度会大大降低。要禁用此选项,请遵循 Nvidia 提供的教程。

不过,请抓紧时间,因为还有更精彩的。

人工智能领域真正的 MVP 已经进一步推进,发布了 4 位量化模型。这些坏小子们使用了一种叫做 "正常点"(NP)的量化技术,它提供了质量和速度的最佳平衡点,会让你的土豆电脑感觉像刚刚获得了涡轮增压。NP 量化不会像 FP 量化那样降低画质,因此一般来说,运行这种模式可以获得很好的效果,而且速度快、所需资源少。

这几乎好得不像真的,但它确实是真的。

那么,如何实际运行这个精简版 Flux 呢?首先,你需要使用 SwarmUI、ComfyUI 或 Forge 等界面。我们喜欢 ComfyUI 的多功能性,但在我们的测试中,Forge 的速度比其他界面提升了约 10%-20%,所以我们现在使用的就是它。

前往 Forge GitHub 代码库(https://github.com/lllyasviel/stable-diffusion-webui-forge),下载一键安装包。它是开源的,并经过社区审核,因此不会有任何猫腻。

对于 NP4 Flux 模型本身,Civit AI 是您的一站式商店。有两种版本可供选择:Schnell(速度型)和 Dex(质量型)。两种版本均可从本页下载。

下载完成后,就是安装时间了:

现在,将这些闪亮的新 Flux 模型放入 Forge 安装文件中的\webui\models\Stable-diffusion 文件夹。刷新 Forge 网页界面(如果你觉得老派,也可以重启),然后 "嘣 "的一声,你就可以开始工作了。

专业建议:要想真正发挥复活设备的每一滴性能,请调低分辨率。与其使用完整的 SDXL(1024x1024)分辨率,不如尝试更适中的 SD1.5 尺寸(768x768、512x768 等类似尺寸)。您可以稍后再提升分辨率,并使用 Adetailer 来获取清晰的细节。

让我们来谈谈数据:在配备 6GB VRAM 的简陋 RTX 2060 上,NP4 模式下的 Flux Schnell 可在 30 秒内生成 512x768 的图像,而 FP8 版本则需要 107 秒。想要大图?通过高分辨率修复,将图像放大到 1536x1024 需时约 5 分钟。

想在不损坏 GPU 的情况下放大图像?更好的办法是以 SD1.5 分辨率使用 Flux Schnell,然后通过 img2img 发送创建的图像。使用低去噪强度的标准稳定扩散模型(SD1.5 或 SDXL)进行升级。整个过程大约只需 50 秒,可以与《MidJourney》在低速运行时的输出相媲美。在不烧毁显卡的情况下,您将获得令人印象深刻的大规模效果。

真正的关键是什么?据报道,一些疯狂的小伙子已经让 Flux Schnell NP4 在配备 3GB 显存的 GTX 1060 上运行,Flux Dev 每次迭代耗时 7.90 秒。我们现在谈论的是一个几乎要靠生命维持系统喘息的 GPU,而它却在这里生成最前沿的人工智能艺术。对于几乎可以领取养老金的硬件来说,这还不算太寒酸。

Source: decrypt.co

Related News

More News

© 2025 DeFi.io