BrushEdit:加强版BrushNet来了!实现更灵活的图像修复与编辑

广州/平面设计师/238天前/80浏览
BrushEdit:加强版BrushNet来了!实现更灵活的图像修复与编辑
近日,腾讯、北京大学、清华大学及香港中文大学联合开发了一款全能图像修复与编辑工具——BrushEdit,可以说是BrushNet模型的高级迭代版。
模型亮点
为了解决当前基于反转和基于指令的图像编辑技术存在的限制而推出的BrushEdit,是一种新颖的基于修复的指令引导图像编辑范式,利用多模态大型语言模型和图像修复模型来实现自主、用户友好和交互式的自由形式指令编辑。
也就是说,BrushEdit支持用户用
自然语言指令
进行自由形式的、多轮交互式的编辑操作,
在进行大幅度修改(如添加/移除物体)的同时,保持背景的连贯性和效果的自然性
,显著提升图像编辑的灵活性和用户体验。
BrushEdit:加强版BrushNet来了!实现更灵活的图像修复与编辑
Collect
应用实例
来看一下官方示例的应用场景:
1.移除元素
BrushEdit:加强版BrushNet来了!实现更灵活的图像修复与编辑
Collect
2.添加元素
BrushEdit:加强版BrushNet来了!实现更灵活的图像修复与编辑
Collect
3.背景编辑
BrushEdit:加强版BrushNet来了!实现更灵活的图像修复与编辑
Collect
4.对象编辑
BrushEdit:加强版BrushNet来了!实现更灵活的图像修复与编辑
Collect
使用指南
1.安装和配置步骤
BrushEdit 需要在CUDA 11.8、PyTorch 2.0.1、Python 3.10.6环境下运行,以确保兼容性和稳定性。
以下是具体的安装和配置步骤:
克隆仓库:
git clone https://github.com/TencentARC/BrushEdit.git
创建虚拟环境: 
使用conda创建虚拟环境,并安装指定版本的Python
conda create -n brushedit python=3.10.6 -y
conda activate brushedit
python -m pip install --upgrade pip
安装PyTorch: 
根据PyTorch官方指南安装CUDA 11.8版本的PyTorch
pip install torch==2.0.1 torchvision==0.15.2 torchaudio==2.0.2 --index-url https://download.pytorch.org/whl/cu118
安装依赖: 
进入BrushEdit目录并安装所需的依赖
cd BrushEdit
pip install -r requirements.txt
2.下载模型
使用命令下载检查点(Checkpoint):
sh app/down_load_brushedit.sh
这个脚本将自动下载所需的预训练模型文件到本地目录。
Checkpoint包含的内容: 
  • BrushNetX 预训练检查点:这是BrushEdit 的核心模型,用于图像修复和编辑任务。
  • Stable Diffusion 预训练检查点:用于生成和处理图像的预训练模型。
  • GroundingDINO 预训练检查点:用于理解和处理图像中的对象。
  • SAM 预训练检查点:用于图像的分割和编辑。
3.基础扩散模型介绍
BrushEdit 提供了五种基础扩散模型,每种模型都有其独特的特点和应用场景:
  • Dreamshape_8:
这是一个多功能模型,能够生成令人印象深刻的人像和风景图像。它的通用性使其成为多种图像生成任务的理想选择。
  • Epicrealism_naturalSinRC1VAE:
这是一个现实风格的模型,特别擅长生成人像。如果你需要生成逼真的人像图片,这个模型将是一个不错的选择。
  • HenmixReal_v5c
这个模型专门用于生成逼真的女性图像。它在处理女性肖像方面表现出色,能够提供高质量的图像输出。
  • Meinamix_meinaV11:
这个模型擅长生成动画风格的图像。如果你需要制作卡通或动画风格的图片,Meinamix_meinaV11将能够满足你的需求。
  • RealisticVisionV60B1_v51VAE:
这是一个高度泛化的现实风格模型,能够处理各种图像生成任务,特别是在生成逼真图像方面表现出色。
今天聊的工作流搭建思路就到这里啦。如果你觉得我的分享对你有帮助,或者你想了解更多相关技巧,可以关注我的GZH【设计未成师】哦!期待下次还能和你相遇!                           
0
Report
|
收藏
Share
相关推荐
评论
in to comment
Add emoji
喜欢TA的作品吗?喜欢就快来夸夸TA吧!
推荐素材
You may like
IP形象——十二牛马
Homepage recommendation
相关收藏夹
IP形象及IP内容
IP形象及IP内容
IP形象及IP内容
IP形象及IP内容
精选收藏夹
作品收藏夹
文创
文创
文创
文创
精选收藏夹
作品收藏夹
国潮&国风
国潮&国风
国潮&国风
国潮&国风
精选收藏夹
作品收藏夹
IP形象设计
IP形象设计
IP形象设计
IP形象设计
精选收藏夹
作品收藏夹
品牌vi完整思路and呈现方式
品牌vi完整思路and呈现方式
品牌vi完整思路and呈现方式
品牌vi完整思路and呈现方式
精选收藏夹
作品收藏夹
视觉包装设计
视觉包装设计
视觉包装设计
视觉包装设计
精选收藏夹
作品收藏夹
大家都在看
Log in