ArtLine
该项目的主要目的是创造令人惊叹的线条艺术肖像。
例子
Photo by Maxim from Pexels
线条艺术
该模型产生的惊人结果有其秘诀。
最初的模型无法创建我期望的那种输出,它主要是在识别面部特征方面遇到了困难。
尽管(https://github.com/yiranran/APDrawingGAN)产生了很好的结果,但它也有局限性,比如(正面照片类似于身份证照片,最好是五官清晰,没有眼镜,没有长刘海。)我想打破- 并产生可以识别任何姿势的结果。
在脸部、眼睛、嘴唇和鼻子周围获得适当的线条取决于您提供给模型的数据。
仅 APDrawing 数据集是不够的,所以我必须结合从动漫素描着色对数据集中选择的照片。
组合数据集帮助模型更好地学习线条。
技术细节
自我注意 (https://arxiv.org/abs/1805.08318)。
Generator 是经过预训练的 UNET,具有频谱归一化和自注意力机制。我从 Jason Antic 的 DeOldify(https://github.com/jantic/DeOldify) 那里得到的东西,这产生了巨大的不同,突然间我开始获得有关面部特征的正确细节。
渐进式调整大小 (https://arxiv.org/abs/1710.10196), (https://arxiv.org/pdf/1707.02921.pdf)。渐进式调整大小采用了逐渐增加图像大小的想法,在该项目中,图像大小逐渐增加并调整了学习率。感谢 fast.ai 向我介绍了渐进式调整大小,这有助于模型更好地泛化,因为它可以看到更多不同的图像。
Generator Loss:基于 VGG16 的感知损失/特征损失。 (https://arxiv.org/pdf/1603.08155.pdf)。
惊喜!!没有评论家,没有 GAN。 GAN 没有产生太大的不同,所以我对 No GAN 感到满意。
任务是创造一些可以将任何个人照片转换为线条艺术的东西。最初的努力有助于识别线条,但模型仍然需要在阴影和衣服方面进行很多改进。我所有的努力都是为了改进模型并使线条艺术点击即可。
数据集
动漫素描着色对数据集
APDrawing 数据集主要由特写肖像组成,因此模型很难识别衣服、手等。为此,使用了从动漫素描着色对中选择的图像。
往前走
我希望我很清楚,未来希望进一步改进模型,因为它仍然在随机背景下挣扎(我正在创建一个自定义数据集来解决这个问题)。
卡通化图像从来都不是项目的一部分,但不知何故它出现了,而且效果很好!! 还有很多需要改进。 当卡通化模型看起来足够炫耀时,我会发布它。
在可预见的未来,我将不断升级该项目。
Getting Started Yourself
最简单的入门方法是简单地试用 Colab:
安装详情
这个项目是围绕美妙的 Fast.AI 库构建的。
fastai==1.0.61(及其依赖项)。 请不要安装更高版本
PyTorch 1.6.0 请不要安装更高版本
限制
获得出色的输出取决于照明、背景、阴影和照片质量。
您通常会在第一次尝试中获得良好的结果,但也有可能出现问题。 该模型尚不存在,仍需要对其进行调整以覆盖所有消费者。 它可能对“可以对最终输出进行更改的 AI 艺术家/艺术家有用”。
该模型将阴影与头发混淆,这是我试图解决的问题。
它对低质量图像(低于 500 像素)效果不佳。
我不是编码员,请容忍我糟糕的代码和文档。 将确保我在即将到来的更新中有所改进。
参考资料
https://github.com/vijishmadhavan/ArtLine