2023-02-25-虚拟制作(Virtual Production)中的景深问题思考

虚拟制作(Virtual Production)中的景深问题思考 从发现这一问题就在思考如何从源头上的solution。之前和@houjue讨论得到过基本的思路和方法,但一直没有工程实践上的想法。今天旁观一场研讨会再次听到这一问题,突然有了想法,看了UE这部分的实现差不多确定是可以work的。但想安度最后的大学时光,便懒得做了,浅记在这里未来闲了再说吧。 什么问题 简而言之就是LED墙内视锥的虚拟摄影机和真实摄影机的两次景深处理叠加,带来的背景景深错误。具体阐述可见大三时水的《基于LED背景墙的电影虚拟化制作实践探索与未来展望》这篇,不在博客里详述了。 一个基于Unreal的解决方案Idea UE中假定高斯模糊为景深效果的实现方式(实际略有差异),高斯模糊存在以下叠加关系 \(\sigma_1^2+\sigma_2^2=\sigma_3^2\) 时, \(\sigma_1\) 与 \(\sigma_2\) 的两次高斯模糊叠加后效果与一次 \(\sigma_3\) 的高斯模糊一致; 而UE景深后处理的 \(\sigma\) 与 \(CoC\) (弥散圆)相关(线性关系),那同样认为真实摄影机的景深结果与 \(CoC\) 相关,则有 \(R_{CoC_1}^2+R_{CoC_2}^2=R_{CoC_3}^2\) , \(CoC_3\) 带来的景深效果是最终目标, \(CoC_2\) 是真实摄影机到异形屏对应像素之间的距离计算得到,由此可以算出渲染应得的 \(CoC_1\) 。 怎么获得真实摄影机到异形屏对应像素之间的距离:等效虚拟摄影机视线到虚拟LED Wall上交点的距离 —— 给CineCameraActor绑一个SceneCapture2D直接抓取ZBuffer。 预告一下今年的目标更新,在翻译最近两年关于光谱渲染的两篇Siggraph Course Notes: Spectral imaging in production | SIGGRAPH 2021 Courses Practical aspects of spectral data in digital content production | SIGGRAPH 2022 Courses 目前一天翻不到半页的龟速,主线工作太多。等有一些进度了就放一部分上来。

February 25, 2023

迁移说明

2022年10月31日,从Hexo迁移至Hugo 欢迎访问我的个人主页,主页内容主要为学习笔记,目前主要包含 计算机图形学 数理基础 影视技术分享

October 31, 2022

2022-04-10-UE5.0时给系里写的Lumen和Nanite的一些介绍性文字

开头说明一下,这是UE5.0正式版发布时给系里和某些合作单位供稿的一些介绍性文字,比较简单的整理,非最终发布版(考虑到影视业读者还在这基础上进一步删减了),补充发布到自己个站算是留痕吧 虚幻引擎5.0新功能为电影虚拟化制作助力 2021年5月26日,Epic Games推出虚幻引擎5.0 Early Access抢先体验版本,吸引了各行业的大量关注,其推出的Lumen、Nanite等新功能带来了更佳的实时渲染质量和更高的创作效率。直至2022年4月5日,Epic Games正式发布虚幻引擎5.0版本,长达近一年的预览期内,包括影视创作行业在内的各领域创作者、研究者进行了大量的探索和尝试。随着正式版本发布、新功能不断完善、更多的官方解析释出和源代码的发布,我们也对虚幻引擎5.0的许多新功能有了更加深入清晰的认识。 电影虚拟化制作作为基于实时渲染引擎的新型电影制作方案,随着虚幻引擎的完善与发展,及其对电影虚拟化制作相关功能的补充,近年来许多具体的解决方案通过虚幻引擎来实现。因此,虚幻引擎更新至5.0也引发了影视制作行业的重点关注。本文即关于虚幻引擎5.0中为电影虚拟化制作带来新动力的新功能,做一定的简单分析。 新功能概览 虚幻引擎中的电影虚拟化制作模块In-Camera VFX自虚幻引擎4.25开始发展,直至4.27有一个比较全面的更新,达到了基本完善的程度。而虚幻引擎5.0的早期开发是与4.27版本同步进行的,因此在5.0的早期预览版本中仍然使用的是4.26的In-Camera VFX系统。更新5.0正式版后,In-Camera VFX系统也承接了4.27版本中的形态,以更成熟的结构呈现。 在虚幻引擎5.0中,电影虚拟化制作相关功能获得了nDisplay虚拟纹理、nDisplay内视锥过扫描、相机镜头校准、DMX等插件、关卡快照、Switchboard、Sequencer、USD流程等诸多功能的支持和改进。 但由于In-Camera VFX系统在5.0中的开发刚刚开始,有不少5.0版本的新功能尚未能在In-Camera VFX和其依赖的nDisplay系统中获得支持,比如Lumen的渲染管线。不过进一步的支持应该也只是一个时间问题。相信在这些新功能的加持下,In-Camera VFX系统的电影虚拟化制作能力将达到一个新高度。 可以预见Lumen、Nanite为主导的渲染新功能将为电影虚拟化制作带来更高的背景影像质量和更高的场景资产制作效率, Lumen Lumen是虚幻引擎5.0给出的“新一代”动态全局光照解决方案,其代码存放在Engine/Source/Runtime/Renderer/Private/Lumen中。 Lumen的整体思路是以SDF(Signed Distance Field) Trace为主的混合Tracing框架,同时用重新设计的Surface Cache场景表达,Radiance Cache作为最终的渲染结果收集。 混合的Tracing方案 在Lumen中,也可以先尝试调用基于硬件的RTX Trace,但主要还是软件的混合Tracing方案。其中包括Screen Space Trace、Mesh SDF Trace、Voxel Trace(Global SDF Trace),按这一顺序依次Trace,前者失败则交给后者计算,成功则返回。 Screen Space Trace 首先是屏幕空间的Trace方法,它来自于虚幻引擎4.25就加入的SSGI(Screen Space Global Illumination)方案。这一方法能够很好地处理近似场景表达中丢失的细节。它利用HZB(Hierarchical Z-Buffer)优化遍历,可以改善线性遍历时的漏光问题,针对HZB带来的高开销问题,则限制其Trace步长在50步以内,否则交给下一种Trace方法。 世界空间的SDF Trace 屏幕空间方法失败之后,来到世界空间的Trace方法,也是Lumen的Trace管线中最为主要的Trace方法:SDF Trace。 对于近处的场景(例如1.8m内),Lumen采用Mesh SDF存储。对每一个Mesh存储一份SDF,实现相对低效但具有较好效果的SDF Trace。 在Mesh SDF中,为了解决物体厚度小于SDF存储的体素大小时判断失败的问题,Lumen对每一个物体扩展0.5倍的体素大小,这样保证了每一种厚度的物体都能够被Trace到,Trace到物体计算Radiance时再做相应的偏移梯度计算就能够得到相对准确的结果。 而远景则将每一个物体的Mesh SDF合并为全局的Global SDF,并生成层级结构Clipmaps。这样降低了远景场景的Trace精度,但大大提高了效率。 Global SDF的显存占用较大,更新开销正比于场景中的运动物体数量。这里采用了稀疏的存储方式,跳过大量的负值、零值SDF区域,减少了16倍的存储量,同时带来的多一次查询的问题则生成一层MIP2的贴图来改善:先查询MIP2,在接近物体表面时再查询全精度的Clipmap,这样对场景的更新也带来了遍历。 最后,对于每一步的Trace结构,还需要做一次压缩,以减小占用、提升缓存一致性。 这样,SDF Trace将Tracing、远景场景、远景场景复杂解耦,带来了较高的效率。但同时也具有体积存储大、缺乏微小细节、无法参数化表面数据等问题。 Surface Cache 在Surface Cache中,预先进行了一次分离的材质计算和光照计算的pass,在Tracing计算时,直接在Hit位置对Surface Cache作一次查询即可获得相对好的结果,提高Tracing效率。 Mesh Card SDF Trace无法用传统的三角形表达插值着色,因此Lumen使用Mesh Card的方式参数化存储场景表达。Mesh Card是渲染之前离线提前生成的有向矩形块,覆盖在模型表面——因此当模型较为模块化时效果较好。...

April 10, 2021

2023年校招简历

2023年灾难性的春秋招时的两份简历,现在早已脱敏了,留个档案记录吧。 影视工作和游戏工作基本都用的这两份,可能个别公司有特殊要求有修订版就不列在此了。 春招用,还没有实习的: 秋招用,已经有实习了: 唯一的作品集:https://www.bilibili.com/video/BV1sb4y1S7Za/ (没有专门的作品集,也没什么游戏作品,拿了个大二时的调色作业来充数…)

April 10, 2021

之前的笔记链接

信号与系统 上 中 下 傅予力 2020寒假 https://mp.weixin.qq.com/s/_wx_PICiVGz896kyh6MTkg https://mp.weixin.qq.com/s/_JEL55Nfo6As3uA1RhkNyw https://mp.weixin.qq.com/s/9G3H0eNAEDn54BRH67fvrA GAMES101现代计算机图形学入门 闫令琪 2020上半年-疫情在家 https://mp.weixin.qq.com/s/bJn56NO8bL9y6BI3T1SHAw

February 25, 2021