关闭

关闭

深度学习:视觉效果制作的新前沿

人工智能(AI)和深度学习技术正以前所未有的方式冲击着我们的世界。从运输、基础设施到营销和金融技术,自学型机器正越来越多地被用来挑战现状。

深度学习可以让系统自主学习和预测结果,而不再需要明确的编程。不再靠直接编写算法和规则去制定决策,而是教导计算机系统根据大型数据集来做出决定。首先从训练的数据中创建出代表性及概括性的模式,之后使用这些模式解释和分析新信息。

此类技术的运用案例包括聊天机器人、垃圾邮件过滤器、自动驾驶汽车和一系列其它系统。深度学习正逐渐进入我们日常生活的各个方面, 从居家、日常出行到工作场所,逐步改变着我们原有的日常工作的方式。

视觉效果中的深度学习

在Foundry,我们聘请了工程师和算法开发人员。他们的任务是研究和开发创意产业中的突破性技术。 我们与英国、欧洲的研究机构和大学建立了战略合作伙伴关系,不仅进一步巩固了我们在学术界的合作,更帮助我们在视觉效果及其它方面达成可行的目标。此外,这也是鼓舞即将在不久的将来进入后期制作行业学生们去追求尖端视觉效果事业、处理问题的绝佳方式。

这里我们重点介绍一下今年运作的两个实习项目,项目的重点是探索人工智能在视频剪辑和图像的处理、理解和操作方面的影响。 我们相信正如对其它行业的影响一样,人工智能和深度学习也将会对视觉效果产生巨大影响。这些研究项目正让我们涉入这个激动人心的领域。

视觉效果制作的新前沿

项目#1: 传统性效果

第一个项目是探索深度学习技术在解决VFX的日常工作挑战中的潜力:即如何在后期制作中去除图像、视频中的噪点。过去数十年的研究和手工算法的方法,是让艺术家通过信号处理分析来清理图像。通过修改摄像机镜头抑制不必要的噪点,创建出干净的图像输出。 这种标准的视觉特效过程自二十世纪80年代以来就已经存在,已具备了众多的工具可供艺术家使用。

来自巴斯大学(Bath University)的博士生Da Chen加入了Foundry的NukeX团队,一起测试是否可以在Nuke合成软件中使用深度学习技术去除噪点。 深度学习使我们能够运用成千上万的带噪点输入图像和没有噪点的示例图像,训练出一个神经网络,从而快速高效地从噪点图像映射处理为干净的图像输出。

不再是辛苦地手工进行信号处理分析,而是教会机器自动产生结果。 本次项目证明,该技术已经具备改变艺术家噪点画面工作方式的潜力,能实现作业自动化,并腾出更多的时间进行创作。

项目#2: 理解光照 

在第二个项目中,我们测试了是否可以利用AI执行不可能的任务。 我们能否以新途径来解决视觉特效中的传统问题,将深度学习作为我们解决问题的“魔法盒”?

我们测试了是否具备从单一图像“幻想式”地重构出物理照明的可能性,从而让数字模型能照片般逼真地添加。 在电影中,真实世界的照明必须使用光探针仔细捕捉。在视觉效果工作中此类照明信息对于让角色和材质以物理正确的方式来显示至关重要。 由此,我们想探索是否有可能通过训练AI系统,重现这些信息呢。

Solving VFX lighting with Foundry

来自伦敦大学学院(University College London)的博士生Corneliu Ilisescu加入了电影增强现实(AR)体验新技术的开发团队。 团队一起探索了如何使用深度学习技术来识别照明,并运用数以千计的已知照明案例,训练网络来为AR内容设置完成照明。

这个项目很好地探索了人工智在更简单、更轻松捕捉光线方面的潜力。 而我们也在继续探寻是否有可能利用视觉特效中产生的大量数据,让各种形式的制作和后期制作成为更快速,也更有效的过程。

未来的窗口

人工智能和深度学习将如何改变视觉效果行业尚不明朗。不过在众多的微小领域,如这两个实习案例中,通过人工智能技术,已经有了长足的改进或更高的效率。相信在CG方面,角色建模、资产建模、资产材质呈现和灯光表现等任务也会受影响;在视频方面,通过镜头进行3D建模和理解场景也同样将从机器学习中获益不少。

在过去的二十年里,娱乐界一直跨越式发展。 而在我们Foundry的历史中,我们也始终处于不断大幅提升的沉浸式视觉表现的高端前沿。 从2D电影到3D,再到AR、VR内容,新兴技术已成为这些方面不断发展的催化剂。

 Foundry的视觉效果作品

尽管内容的广度和质量发生了诸多变化,但参与项目的人数仍然大致相同。人工智能和深度学习的最大影响将是从后期制作工作中去除那些“低端任务”,让更多的单调任务实现自动化,并开启感知和创造力的全新大门。

想要了解Foundry正在开发的一些新技术吗?来看看Modo VR