这次全新一代骁龙8影像能力的提升,可以用“恐怖”来形容

2021年12月1日,高通正式发布了全新一代骁龙8移动平台。在新的命名规则下,Kryo CPU、Adreno GPU、Spectra ISP以及Hexagon处理器都舍弃掉了之前处理器代号+数字的命名方式。这次改名,既可以说是高通对于骁龙芯片各个部件的一次全方面的梳理,也是一次挥别过去的大幅度升级。

过去很长一段时间里,骁龙8系的ISP处理器都是14-bit双ISP,2020年推出的骁龙888则发展到14-bit三ISP,支持三个摄像头同时进行拍摄。

骁龙8的Spectra ISP的位宽从14-bit ISP升级为18-bit三ISP,可以处理的影像数据量提升了恐怖的4096倍,同时新增了独立的第四颗低功耗ISP隐藏在传感中枢负责面部识别。而由新一代Adreno GPU、Hexagon处理器、Kryo CPU和第3代高通传感器中枢构成的第7代高通AI引擎,推理速度比前代快了4倍。

这一切的提升,用户能体感到的最直观的表现之一,就是未来搭载骁龙8芯片的手机,摄影能力将会得到一次质变的提升。

定义专业级影像系统

18bit ISP对于大部分人来说都是一个很少接触到的指标。一方面是因为过去很长一段时间里手机SoC的ISP都是保持在14bit ISP没有变化,另一方面也是因为对于手机来说14bit ISP 似乎日常使用已经够用,大家也就没有提升ISP位宽的期待。而这次高通推出的18bit ISP,可以说是为专业摄影以及8K视频而生,相信在未来很长一段时间内,18bit都将作为手机的标准配置出现。

所谓18bit ISP,可以简单的理解为拥有更高处理精度的ISP处理器,能负载的数据量更多。在14bit ISP 的时候,三原色每种颜色都会有2^14种变化,可以组合出(2^14)^3种色彩,而18bit 的ISP的数据量则是(2^18)^3,实现了4096倍的数据量暴增。

而精度提升最直接的感受就是色彩更加丰富,各个颜色之间的过渡更加的平滑。在从8bit色彩空间进入到10bit色彩空间的时候,便经历过一次从1600万色到10亿色彩的进化。14bit的ISP也是为10bit色彩空间所量身打造。

目前Camera Sensor普遍输出的也是10bit bayer RAW数据。10bit bayer RAW数据在进入到ISP后,会被处理成14bit的数据进行运算以及后续模块处理,得以实现更高的计算精度,从而提升图像质量。

而18bit ISP 的使用,能为更高的bit的数据提供空间。目前常用的HDR 10和HDR 10+的标准色深为10bit,而Dolby Vision在标准要求中至少支持12bit的色彩深度。18bit的ISP可以说让手机拍摄Dolby Vision的视频成为了可能。安卓手机在未来也将能成为专业摄影设备中的一员。

与位宽的提升相匹配的是更宽的数据通路,也就是一次能并行传输的数据更多,使得更高曝光的范围内融合多幅图像能力得到增强。例如可通过10bit Sensor在暗光区域进行长曝光,在明亮区域进行短曝光和长曝光,最终合成一副18bit HDR的高品质图像。同时18-bit ISP将额外增加4个比特动态范围,使得图像最暗和最亮的部分看到更多细节。

手机拍照与相机拍照最大的不同,就是手机按一次拍照按钮,并非只拍了一张照片,而是同时记录了不同曝光条件下的多张照片,最终通过算法合成为一张照片来提高单张照片的质量。所谓的夜景模式,也是通过这种方式实现。

过去,高通的低光多帧引擎能够拍摄六张画面合成为一张画面明亮无噪点的照片。而这次18-bit ISP将多帧引擎升级为“超级多帧引擎”,能够捕获30张画面进行合成。未来安卓手机的夜景模式也会得到巨幅的提升。

同时,超低光环境的适应性增强后,更能够自如的拍摄暗光环境下有运动物体的场景。Spectra ISP可以通过超级多帧引擎获取的30张画面追踪运动物体计算其运动轨迹,以实现清晰的画面

值得一提的是,18bit ISP也将支持18-bit RAW文件的导出,后期调色空间将更加丰富,种种改善都在预示着,高通正在将手机影像系统朝着专业级别的方向打造。

除了拍照能力的增强外,18bit ISP也让视频拍摄能力得到大幅度的提升。

之前14bit ISP已经能够实现每秒捕捉27亿像素能力,而18bit ISP可做到每秒捕捉32亿像素,速度同比提升19%。每帧8K视频的像素数量约为3300万,而每秒32亿像素意味着单颗摄像头可以支持30fps捕获1.08亿像素的画面,或是支持三颗摄像头每颗分别以30FPS捕获3600万像素的画面。

新的Spectra ISP在实际上已经可以处理高于8K的数据流。

这些多出来的数据并非是浪费掉的性能。在进行8K视频拍摄的时候,如果画面出现抖动,这些“多余”出来的画面数据,将被裁剪掉,来保证8K视频本身画面的稳定。18-bit ISP的超大带宽支持用同一图像传感器同时拍摄每帧3300万像素的8K视频和拍摄6400万像素的照片。这样,当用户拍摄精彩瞬间时,不必在8K高清视频和6400万像素高清照片之间进行选择。

为了使Sensor和ISP能够更好的协调合作达到专业级标准,高通与作为全球主要的手机Sensor制造商之一的索尼成立了联合实验室。除了更加完善骁龙8平台的影像技术之外,还有两个非常值得期待的动作:打造联合原型产品、开发针对骁龙平台优化的Sensor。

在与高通深度合作的前提下,本就以顶级拍照体验为卖点的索尼Xperia系列手机或将向着更专业的级别靠近,而非只是 “微单”的水平。

用AI“超越”单反相机

对于ISP来说,要做的事情有很多。从Sensor接收到的数据后,ISP要完成镜头矫正、坏像素矫正、颜色插值、Bayer 噪声去除、 白平衡矫正、 色彩矫正等等一系列步骤,这是大部分相机ISP的固定流程。

而对于采用高通芯片的手机来说,不仅ISP要对影像数据进行处理,AI引擎也在其中发挥着不可忽视的重要作用,每一次人脸检测、相机拍照、摄影,都几乎调动了整个SoC。

高通的AI引擎由Adreno GPU、Hexagon处理器、Kryo CPU和传感器中枢共同构成,定义为一整套处理器协作系统,并非某一个单独的芯片来完成AI的工作。Hexagon张量运算处理器作为重要组成部分,它的性能在这次得到了巨幅的增强,配合共享内存的提升,让第7代的AI引擎实现400%的同比提升。

Coms作为模拟信号设备,很难采用更高精细度的工艺。我们常说“底大一级压死人”,现在一些1英寸(12.8 x 9.6 mm)的“大底”似乎让手机能接近相机,毕竟像是索尼黑卡或是尼康G9X这样的卡片机也是1英寸的Coms。但能称之为“专业”的相机,至少也是APS-C画幅起步,Coms的面积是1英寸的4倍,更别说专业相机标配的全画幅(36 x 24 mm)Coms了。

摄影是光的艺术。除了Coms的尺寸之外,镜头也是限制手机成像的重要因素。而AI的加入,正是手机与相机最大的区别,也是手机能在最终成像效果上接近或超越相机的唯一出路。

随着新18bit ISP的推出,高通也重构了摄影算法,让AI成为了手机摄影的底座。

新的骁龙8利用AI实现了实时人脸识别,让人脸识别变得更加精准。更精确的人脸识别,也驱动了曝光、对焦和白平衡的准确,因此在更复杂的照明条件下,用户都能更准确地对焦,获得更好的对比度和更准确的肤色。

为了让面部细节更加丰富,新Spectra ISP的人脸特征引擎可检测到300个特征点,同时利用神经网络对眉毛、嘴唇、下颌线等更多的人脸特征进行训练,让手机镜头能理解用户的情绪,产生更多玩法。

目前被广泛使用的超广角其实是实现精准人脸识别的一个阻碍,因为通过超广角镜头拍摄人像时,发生的畸变会导致人脸变小。新Spectra ISP在之前超广角矫正畸变的基础上,加入了色差矫正的功能。色差是镜头边角处颜色的畸变。它会给拍摄对象一个虚假的色彩轮廓,并破坏锐度和边缘细节。

而AI加入后对超广角的优化,也产生了很多有意思的新功能。高通的研发团队开发了一套新的摄像头解决方案,能够拍摄类似全景图像的画面,即拍摄一次无需等待照片拼接便可获得无畸变且达到极宽的140度视场的照片,而超广角镜头普遍只有120度左右的视场。避免了此前拍摄全景照片时手持摄像头进行横向移动并且等待应用程序拼接图像,一不留神还会造成图片出现断层的尴尬场面。

对于人脸识别,这次高通拿出来了一个新的解决方案,也就是第四颗ISP芯片。特殊的是,这颗ISP芯片在架构中并未与其他三颗ISP处于同一模块中,而是隐藏于传感中枢,作为独立的ISP存在。这颗ISP是一颗低功耗智慧感知ISP,将处于始终开启的状态,以做到当手机在身边时,不间断的为我们提供服务,而当感知到我们离开手机的时候,才进行锁屏保护隐私安全。

目前的智能手机在解锁后会停止面部搜索。但有了低功耗智慧感知摄像头,可以一直进行面部搜索。这样,当用户不在手机前时,它就会自动锁定。在高通的设计中,这颗芯片之所以独立存在,也是为了保证足够的安全性。

其可应用的场景还有很多,比如在有人越过用户的肩膀看屏幕,那屏幕就会显示黑屏;有时用户只想分享屏幕当前显示的内容,如果有其他人和用户一起看显示屏时,低功耗智慧感知摄像头可以使你的手机隐藏通知和其他弹出窗口等等。

这颗新的ISP或许性能没有此前的三颗ISP强大,但是提供了低功耗智慧感知和保护个人隐私安全的思路。

在视频拍摄方面,Spectra还支持升级的计算HDR视频拍摄。全新三星单帧逐行HDR图像传感器和索尼数字重叠传感器与Qualcomm Spectra协同工作,支持计算HDR的视频拍摄。视频中的每帧画面都是双重曝光的组合。Spectra 8的18-bit三ISP比以往更快,现能处理每帧三重曝光,因此计算HDR视频拍摄可支持更大的动态范围。

得益于18bit ISP的特性,可实现同时处理两个单帧逐行或数字重叠的HDR传感器。因此,现在可以在Sensor之间平稳过渡。

这次Spectra ISP加入了实现视频背景虚化的专用引擎,可实时生成背景虚化。

AI其实很早就已经融入进了手机摄影当中,高通只是在之前的基础上利用AI让手机摄影更接近了专业相机一步。AI的加入,让一部手机可以拥有相机都难以实现的效果。比如高通和徕卡的合作,实现了徕卡Leitz风格;或是与Hugging Face合作实现基于情感分析的通知整理等等。相机镜头,只是捕捉现实色彩的一个工具,而手机摄像头加上AI,则是成为了人类身体外延之外、获取世界信息的眼睛。

这次骁龙8平台在影像方面的提升可以说是让安卓手机摄影开始迈向专业级别的一个起点,加之对于OEM厂商定制化的支持,可以想象在2022年推出的一系列安卓阵营的手机将以专业摄影为主打,为用户带来更优质的摄影体验。