助推元宇宙图像渲染 上科大提出ICARUS芯片定制架构

2022-10-02 16:32:04 来源:网络

其中,作为元宇宙与人们交互的窗口,渲染成为众多元宇宙关键技术中的重中之重,被喻为元宇宙技术栈上的皇冠。如何快速、高效地在便携终端上渲染出逼真的图像,成为元宇宙落地亟待解决的难题。

ICARUS是一款基于NeRF渲染算法的定制化芯片。在向芯片加载经过训练的NeRF网络参数后,只要输入观察位置与视角,ICARUS即可快速渲染出该视角与位置下的图像。

针对真实图像渲染的难题,上海科技大学芯片设计团队提出了最新的ICARUS芯片定制架构。ICARUS是一种基于NeRF(Neural Radiance Fields,神经辐射场)算法技术的定制化硬件加速芯片,它使得在手机、VR眼镜等终端实时渲染出极为精致的逼真图像成为可能。

“使用传统的渲染技术在终端设备上进行实时的逼真图像渲染几乎无法实现,但是ICARUS基于最新图像学渲染技术,加之对其定制化的硬件优化,使得过去不可能的任务变得现实。”上海科技大学信息学院助理教授、研究员娄鑫表示。目前ICARUS有关论文已被计算机图形学顶级会议ACM SIGGRAPH ASIA 2022接收。

ICARUS上集成了位置编码模块(Positional Encoding)、多层感知机模块(MLP Engine)和体渲染模块(Volume Rendering Unit),可支持多种NeRF、SLF类似网络。芯片内部使用可配置的定点数运算,并且在MLP模块中使用了乘法近似算法。在保证足够的计算精度的情况下,ICARUS可适用于不同场景的渲染,并且大大降低了芯片的面积与功耗。

NeRF技术:简化传统渲染技术流程

在过去,超逼真的渲染技术大多用于顶级科幻电影的制作,以及一些大型3A游戏中,其大多使用光线追踪的传统渲染技术。光线追踪算法通常需要建立大量的虚拟模型,并且对其进行关于材质、纹理等有关光学参数的调试与标定。在高精度模型建立好的基础上,依照物理规律对其进行迭代仿真,最终可以得到以假乱真的图像,让观众察觉不到虚拟物体与现实物体之间的差别。

但仅仅使用传统的光线追踪渲染技术并不能让我们拥抱元宇宙。上海科技大学信息学院博士生、论文第一作者饶朝林表示,除去传统渲染技术中无法避免的复杂渲染流程,巨量的算力和功耗限制了传统图像渲染技术的应用场景,令其无法广泛地运用于真正可接入元宇宙的终端设备。“目前高质量的图像只能通过最先进的显卡渲染得到,这意味着庞大的设备体积与极高的计算功耗,使得手机、VR眼镜等便携设备无缘这些逼真图像。并且基于传统的图像渲染技术,根据模型精细程度的不同,渲染一张图像通常需要消耗数秒至数小时不等,实时渲染的目标仍然遥不可及。”

神经辐射场(NeRF)是近年来新出现的图像渲染技术,其本质是将整个物体空间利用神经网络进行隐式编码并得到特定的模型,即可利用模型重建出三维场景并渲染出各种新视角下的图像。

NeRF技术可以对现实场景、物件扫描后进行建模,达成快速映射、快速渲染的目的,对比传统渲染技术中需要手动建模等流程大大简化。NeRF的提出与发展将三维场景的隐形表示方法推向了新的高度,能够生成无界场景的逼真渲染,实现了360°照片般逼真的新型视图重建合成效果,已然成为了元宇宙发展新方向,并可能成为下一代图像渲染的核心技术。

ICARUS可以使用极低的功耗进行高保真的图像渲染,图为ICARUS渲染结果与原图像和GPU渲染图像结果的对比。可以发现在多数场景下ICARUS拥有与GPU渲染相近的PSNR(用于衡量图片相似度的系数),并且在视觉感官上取得了可与之媲美的渲染效果。

ICARUS:为NeRF算法定制的硬件加速芯片

仅仅只有NeRF在算法层面的进步,在元宇宙对图像渲染的高要求面前远远不够。在NeRF算法中存在大量的全连接层计算,对硬件计算能力要求极高,并且过去的图像渲染硬件并不能直接适配类似NeRF的新算法。“通观计算机发展历史,软件与硬件的进步总是相辅相成的,如今新一代的图像渲染技术已经出现,那必然需要新一代的硬件设备与之适配。而ICARUS也正是在这样的时间节点上提出的。”娄鑫说。

在ICARUS芯片中,集成了位置编码模块(Positional Encoding Unit)、多层感知机模块(MLP Engine)和体渲染单元(Volume Rendering Unit),在片上实现了NeRF渲染的全流程。为了在较小的芯片面积内取得较高的能效比,在芯片设计过程中运用了很多提高能效比的技术。

上海科技大学信息学院研究生、论文共同作者万浩川介绍,在ICARUS中使用了经过量化的定点数模型,并且在多层感知机模块中使用了移位累加等近似算法的硬件设计。这些针对NeRF的硬件优化设计可以在几乎不改变最终渲染图像质量的情况下,大大减少芯片面积与计算能耗,未来可适用于人们日常生活中的各种轻量终端中。在使用同一种NeRF网络进行一张分辨率为800x800的渲染图片时,运行在1.245GHz的英伟达V100显卡需要27.74秒,并且其芯片约为815mm^2,功耗约为300W。而根据理论计算,运行在400MHz的ICARUS需要45.75s,但其芯片面积仅为16.5mm^2,功耗仅为282.8mW。

上海科技大学信息学院研究生、论文共同作者郑越洋介绍,下一步,ICARUS将跟随NeRF类算法的飞速发展,未来会把更多的编码、网络结构集成进ICARUS芯片,以支持更多种类的应用场景。ICARUS将在明年进行流片(试生产)并点亮,届时将成为第一款为NeRF算法定制的硬件加速芯片。

,助推元宇宙图像渲染侯军霞 上科大提出ICARUS芯片定制架构

相关:

领英悄悄拿2000万用户做实验发《Science》:找工作不熟的人更靠谱具体而言,他们在5年时间里,利用A/B测试,在“猜您认识”这项推荐功能中,向2000万用户推送了不同版本的算法。结果发现,对找工作最有帮助的,往往不是那些与你互动最频繁、联系最紧密的好友,而是“中等关系”好友。对,就是列表跟你有10个左右共同联系人,但平时也不咋互动的人。具体怎么一回事儿,一起来看。面向2000万人的5年期社会实验要说清楚这个事儿,咱们还得从“弱关系”(weak tie)理论说起。1973年,美国社会学家..

从“鲁迅有点帅”说起说起鲁迅的外貌,我们最先想到的可能是他在其诗作《自嘲》中的形容——“横眉冷对”,虽然有如此严肃冷峻的加持,然而一米六左右的身高以如今的审美标准来看,恐怕怎么都称不上“帅气”。鲁迅、萧伯纳、蔡元培从左至右,摄于1933年对于鲁迅的外貌描述最准确的,应该是他身边的亲人、好友、学生们。在鲁迅的挚友、作家许寿裳笔下,鲁迅“额角开展,颧骨微高,双目澄清如水精,其光炯炯而带着幽郁”;而作家郁达夫甚至称鲁迅为“中..

莫言的国庆假期书单:一起阅读《史记》等经典大家好,我是莫言。国庆长假就要到了,跟大家分享我读过的好书,我们在假期里一起阅读经典。《史记》我们读《史记》,何尝不是在读司马迁的心灵史。司马迁一生最大的特点是好奇。他是童心活泼的大作家。他笔下那些成功的人物都有出奇之处,都有行为奇怪、超出常人之处。项羽奇在学书不成学剑不成学兵也不成,不学而有术,奇在他是一个天生的战斗之神。韩信奇在以雄伟之躯甘受胯下之辱,拜将后屡出奇计,最后被糊糊涂涂地处死。奇..

母乳与奶粉:一段有关喂养的文化史十月怀胎、一朝分娩。对于初为人母的女性来说,这只是故事的开始。生产之后,是选择母乳喂养还是奶粉喂养,背后既有理性计算,也是科学话语与道德观念的必争之地。这也是为什么,在当下有关生育、人口问题的讨论之中,喂养议题一直备受关注。事实上,无论是母乳还是奶粉,它从来都不是一个简单的选择问题。近代以来,无论东西方,都经历过从母乳喂养到牛乳哺育的话语转变。近年来,母乳喂养重被提倡为最佳的哺乳方式,围绕母乳喂..

中国人的性格就是这几位诗人的杂糅说起唐朝诗人,我们耳熟能详的已经太多,陈子昂、孟浩然、李白、杜甫、王维、白居易……等等,然而在这些如雷贯耳的大名之外,还另有一个唐朝诗人在其中显得尤其特别——王梵志。作为一名唐初河南的底层农民,王梵志创作的一大主题就是道德劝诫,所谓“教你做人”,然而他在“讲道理”、劝诫讽喻的时候,真的触及了社会现实,讽刺当时的官吏司法、世态人情,在通达、通透之处看透了生死、爱憎与得失。下文摘选自王晓磊(六神磊磊..

一生中难免有那么几次,人会荒唐地去怀疑自己的价值 | 星期天文学周五好,这里是「星期天文学」。也许有读者还记得这个名字,它初创于2016年,是凤凰网读书最早的文学专栏之一。这几年,我们与网络环境相伴共生,有感于其自由开放,也意识到文字载体的不易,和文学共同体的珍稀。接下来的日子里,「星期天文学」将以一种“细水长流”的方式,为纯文学爱好者设宴。这里推荐的小说家,年轻而富有才华,是新文学的旗手,他们持续而毫不功利的写作,值得我们多花一点时间,也补缀、延展了我们的时间..

没人关心女性的性爱 | 上野千鹤子×铃木凉美上野千鹤子 & 铃木凉美上野千鹤子,日本女性主义先驱,其作品《厌女》《从零开始的女性主义》启发了无数女性。铃木凉美,拍过100多部成人电影的“前AV女演员”,她将此段经历与观察写成学术论文后,被东京大学录取。相差35岁的她们经历迥异:铃木在性交易市场目睹过男性低劣的欲望,已对男人彻底绝望;上野经历过无数次愤怒与失望,但仍对世界充满信心。她们在2020年开始通信,围绕恋爱与性、婚姻、工作、独立、男人等12个不同..

阿尔茨海默病人的最后记忆:爱你,不曾忘却当记忆被疾病夺走,阿尔茨海默病人最坚固的回忆是什么?永远背得出女儿的电话号码;给老伴夹菜仿佛肌肉记忆;忘不了那年背儿子去城里看病、救回一条命……记忆力减退是阿尔茨海默病最常见的症状,这种脑部退行性疾病会逐渐蚕食患者的记忆和认知。然而,在这个不可逆转的过程中,病人对家人爱的记忆往往难以冲刷,家人也成了他们生命最后一站的全部依托。从记忆断点开始,阿尔茨海默病患者还会迷路、无法算账,分不清左右,甚至出..

找了14年,终于找回了我被拐卖的孩子2007年10月9号,对大多数人而言,是无比平常的一天。但对于本文口述者孙海洋来说,这却是他生命中最痛苦的一天。这一天,是他在深圳的包子铺刚开业的第7天,也是他的小儿子孙卓上幼儿园的第2天。这一天的晚上8点前后,他的儿子被人贩子拐走了。在这之后的14年零57天里,孙海洋踏上了漫长的寻子旅途。他曾目睹过“拐卖村”,见到过老婆、孩子全是买来的一家人;他加入全国各种寻子群体,甚至帮助别人找到过被拐走的孩子;他也曾作..

出身寒门的我,不想屈服于命运的安排此前,“小镇做题家”一度成为网络热词。“小镇做题家”们依靠出色的做题能力升入名校,却发现身边那些家庭条件优渥的同学不仅会做题,而且有着更为开阔的视野和更为全面的综合素质。这种一定程度上是由出身所带来的差距,以及由此所催生出来的复杂心境,引发了大众深刻的共鸣。不过,相比较能够进入名校的“小镇做题家”,也许一所普通二本院校里的大学生们的境况会更加贴近更多人的真实现状。本文作者艾苓正是来自这样一所普通..