2011年,有用戶反映華為手機的拍照效果不如人意,這引起任正非本人的注意。在當年的一次華為高層會議上,任正非問海思總裁何庭波:“為什么華為手機的拍照不強?”
何庭波回答,因為缺乏自研的ISP(圖像信號處理器)。任正非又問:“為什么不投資做ISP?”何庭波說:“沒錢?!?/p>
任正非隨即拍板:“沒人投,我投!”
此后經過多方論證準備,海思團隊在2012 年啟動了自研ISP的立項。恰逢2012年德州儀器解散了ISP團隊,華為重金收編了他們法國的一支團隊。
以此為基礎,3年后,海思第一代自研ISP集成在了麒麟950芯片上。這使得麒麟950支持14bit 雙ISP,吞吐率性能提升4倍,Mate8手機拍照效果大幅提升。余承東也在Mate8發布會上“口出狂言”要趕超蘋果。
接著,華為P9手機在自研ISP的基礎上,又引入徠卡鏡頭,一舉讓華為手機站在了當時安卓手機攝影的巔峰。
任正非在2016年6月20日為麒麟950芯片研發團隊簽發“總裁嘉獎令”,嘉獎詞寫道:“麒麟950構筑了華為和榮耀旗艦產品的關鍵競爭力?!?/strong>
時移勢易,數年間手機市場風云變幻。華為陷于困厄,國產手機廠商雖然紛紛沖向高端,但都沒能再現華為一樣的輝煌。
但為了實現影像效果的躍升,自研芯片的故事,卻悄然在國產手機廠商間上演。
攻堅的第一座城池,就是ISP芯片。
今年3月,小米推出了一款自研的ISP芯片;vivo在9月份大張旗鼓發布的自研影像芯片V1,同樣屬于ISP范疇,已經應用在新機X70系列中;OPPO同樣要上馬ISP芯片,已有報道稱其旗下子公司ZEKU(哲庫科技)已于今年初流片,產品可能在明年上半年正式發布。
ISP究竟是什么?攻克了ISP,躍躍欲試的國產手機廠商們就能借此成為下一個華為嗎?
01、為什么是ISP從技術角度來看,獨立的手機影像芯片,可以被歸類為ISP(圖像信號處理器,Image Signal Processor)芯片。
大街上隨處可見的視頻監控攝像頭中,均搭載了ISP芯片。監控攝像頭和手機中的ISP芯片起的作用,都是進一步提升傳回影像的“畫質”。
ISP的主要功能包括:AE(自動曝光)、AF(自動對焦)、AWB(自動白平衡)、去除圖像噪聲等。
手機成像的過程可被概括為:景物透過鏡頭,生成的光學圖像被投射到CMOS(圖像傳感器)上;然后光學圖像被轉換成電信號;電信號再經過數模轉換變為數字信號;數字信號先經過DSP(數字信號處理器)加工處理,再被送到ISP中進行處理,最終轉換成人眼中清晰可辨的圖像。
說白了,ISP就是負責照片最后的PS,在硬件和算法的加持下,盡最大的努力把照片變得清晰、好看、準確。
通過ISP芯片的處理,手機可以得到更好的圖像效果。因此,在智能手機特別是在高端手機上,對 ISP 的要求很高,現在雙通道甚至三通道的ISP都已經開始運用。
ISP既可以集成在手機處理器中,也可以外置于手機處理器,成為獨立的影像芯片。外置的ISP可以和手機處理器中的ISP配合工作。小米和vivo的ISP都是外置芯片,與處理器中的ISP協同工作。
目前主流的手機芯片設計公司在出售自家的手機處理器產品時,均已經在其中內置了ISP芯片模塊,并且每年的新品幾乎都會對ISP芯片進行性能的優化和提升。
比如高通最新的旗艦芯片,驍龍888系列中就內嵌了3個ISP核心。
其實,驍龍888本身集成的三個ISP性能已經非常優秀了,支持低光架構、AI圖像增強、支持單幀逐行HDR圖像、十億像素級處理速度等特色功能。
任何使用驍龍888的手機,理論上都可以在這些功能框之上,衍生出自己的特色功能。比如,小米11Ultra、OPPO findX3 pro、vivo X60 Pro+,都擁有各具特色的HDR拍攝功能。
但使用上游芯片公司的內置ISP帶來的問題是:假如大家都用驍龍888,在ISP的參數調校和功能上,會限定在高通的框架之內。這會導致各家ISP調校的上限基本是差不多的,也就意味著很多重要的影像素質、功能不受手機公司的掌控,并且同質化。
另外,國際芯片設計大廠的旗艦處理器基本上是固定的一年一更新,里面的ISP芯片只能跟隨廠商更新節奏而更新。手機廠商對內置ISP能做的事情有限:手機廠商即使覺得芯片廠商更新太慢,在很多重要的影像功能上也無能為力。
解決這些問題的方法之一,當然是直接自己研發ISP。如果能自己做一個外置的ISP芯片,手機廠商不僅能夠在功能上有更大的施展空間,還能更大程度地把握更新節奏。
而相比手機最核心的處理器芯片,ISP芯片的研發難度更低。同時,歷經安防視頻攝像頭的多年發展,ISP市場已經臻于成熟,在技術、產品價格等方面都較為穩定。
對于國內手機廠商而言,現階段做出一個可用的“影像芯片”,難度不算特別大,且在團隊組建、技術攻關等方面都有可借鑒的經驗。
在vivo X70發布會上,vivo表示自家的V1芯片是由300人、歷經24個月攻關研發。相比之下,華為首款手機通用處理器K3V1歷經5年才研發出來,還極不好用。
目前,小米、vivo的 ISP芯片研發團隊中的中堅力量,均有多年的從業經驗。比如小米的ISP芯片架構師左坤隆,此前在華為擔任主任工程師,負責麒麟芯片ISP算法的研發;vivo影像算法總監杜元甲,曾在平面顯示屏幕驅動IC廠商聯詠任職。
02、影像內卷事實上,在智能手機中外置ISP芯片早不是什么新鮮事,因為一直有第三方的ISP芯片可供選擇。
魅族內核團隊曾在《相機系統綜述》一文中自述,魅族會向專業的ISP廠商進行采購,以達到更好的影像效果。
文章中還寫道,外置ISP的選型一般不受手機主處理器的影響,因此魅族可以自由選購最適合的ISP產品。
在此基礎上,手機廠商只需再研發出適合的ISP驅動程序,以及考慮外置ISP與內置ISP的搭配問題,并進行更精細的算法調校。
市界梳理華為手機的早期配置發現,在麒麟950之前,華為旗艦機型手機均是采用外購的ISP。有業內人士表示,其ISP購買自國內專業的ISP設計廠商華晶科技(Altek)等。
只是,如果第三方的ISP芯片能夠滿足手機廠商的需要,那華為手機也不會在一開始被說拍照爛了。
第三方的ISP芯片雖然理論上可以增強手機拍照功能,但第三方芯片大家都能買到,并不能建立什么護城河,只有自研的ISP芯片才有獨一無二的定制功能,才能夠建立獨家的影像壁壘。
比如華為2019年憑借技術優勢自研了一個達芬奇架構的NPU(嵌入式神經網絡處理器),又配合上自家的自研ISP芯片和算法,做成了一個“Face AR”功能。
這讓搭載麒麟990的華為旗艦手機,靠著攝像頭對著人臉就能進行建模,進而靠面部信息就能進一步分析出人臉信息背后的諸如心率、呼吸率等健康數據。
說實話,這功能雖然實用性不高,但聽起來賣點十足,是全行業獨一份兒的。華為的相機通常以豐富的功能著稱,這與其掌控ISP芯片和手機處理器底層技術有直接的關系。
珠玉在前,而活下來各個手機廠商,經過多年發展,影像能力也有一定的積累。搞不定核心處理器,還搞不定一個小小的ISP芯片?
因此,著手打造自家的ISP芯片已經是不得不做的一件事,即將成為另一輪手機配置內卷的軍備競賽。
03、下一個華為沒有捷徑vivo不久前發布的X70系列手機,高調宣傳了它自研的V1芯片帶來的影像效果的提升。這顆芯片是對高通芯片圖像能力的補足。
vivo V1芯片僅僅負責處理圖像,主要面對的使用場景是夜景拍攝,運行計算成像算法,用于減少眩光、鬼影等問題。
(vivo V1與驍龍888對比圖,圖源:@數碼閑聊站微博)
這一點也得到了vivo方面的確認。vivo員工李偉(化名)向市界解釋:“vivo V1是一顆影像芯片,可以對攝像頭傳回的圖像信號進行處理。其實手機SoC中本身已經集成了圖像信號處理的部分,但X70系列定位是影像旗艦,我們需要多一顆專業的芯片來達到更好的影像處理效果?!?/p>
多塞一塊芯片,帶來了更多的技術挑戰,但vivo希望憑此在國內手機影像的賽場中異軍突起。
現在整個手機產業鏈的分工已經相當完整,屏幕、電池、圖像傳感器、手機鏡頭甚至是核心的處理器供應商,都集中到幾個廠商,下游的手機玩家們越來越難以做出差異化的硬件產品。
手機影像的軍備競賽日趨白熱化,拍照已經成為智能手機最重要的功能之一,沒有優秀的拍照能力,根本無法在高端市場立足。
余承東曾說:“好的手機影像不是單純一極思維,而從來就是一個完整的技術解決方案?!?/strong>
這樣的背景下,走上華為自研的“老路”,向更加底層的芯片技術進軍,幾乎成為了手機玩家們的唯一選擇。
但是,成為下一個華為,僅僅靠一個小小的ISP夠嗎?
手機成像是一個系統性、持續性地工作,不僅要拼硬件配置,還要拼“后期”算法調校,最終生成畫面。
從行業經驗來看,能否調校出好照片,與影像團隊的素質、影像積累以及底層技術的掌控有莫大的關系。
蘋果靠著“萬年”的1200萬像素,年年吊打一眾一億像素的安卓對手。華為影像實力的突飛猛進背后,有對芯片及算法底層的掌控,進而能夠形成獨特優勢。這種優勢顯然并非多一個ISP芯片就能趕超,而是需要更多的“芯片自由”。
華為從P30系列開始采用RYYB CFA(濾波器)來提升進光量,其“夜視儀”級夜景效果至今讓友商望塵莫及。而想要支持RYYB,必須有麒麟芯片的NPU助力,這是其他品牌無法模仿的優勢。
(華為P30)
今年iPhone13全系躍升的攝影能力中,特色的“電影模式”主要依賴于A15芯片強大的算力和影像團隊做出的算法。
高通的驍龍888也有很強的算法功力。在驍龍888內置的Spectra 580 ISP上,首次應用了他們的第十代3A算法。結合其全新升級的第六代AI引擎,在自動對焦、自動曝光、自動白平衡都取得了長足進步。
所以,vivo的ISP芯片V1定位是與處理器中的ISP協調并用,一起對成像算法端進行提升。V1主要起到的作用是高速計算成像,是對驍龍888計算能力的補足,用更強大的計算能力實時去噪和插幀,實現了所謂特色的“MEMC實時動態補幀”功能。
外置一顆自研ISP芯片后,確實會錦上添花,一定程度提高vivo旗艦機的拍攝能力,但到底進步多少,就見仁見智了。
至于小米的自研ISP芯片澎湃C1,據雷鋒網報道:“澎湃C1實際上是一個協處理器,或者說Pre-ISP,在處理器ISP前進行圖像處理,相對而言會比較容易處理,能夠輔助處理一些特定場景的應用。不過,由于是在處理器外單獨增加了一顆芯片,因此無論是成本還是功耗,都會有所增加?!?/p>
國產廠商的自研ISP芯片,確實會對影像提升有所助益,但還達不到蘋果和華為那樣底層技術掌控能力。想要做出本質上的自主掌控的影像創新,還需要更長的路。
2016年7月的華為半年業績發布會上,余承東說道:“華為在智能手機領域研發投入起碼每年三四十億美元之巨。這些研發投入不僅有照相機、處理器和算法,還包括新材料、新工藝、新技術、芯片、軟件等。這些創新投入期少則三五年,多則八年十年。只有我們這樣投入,隨著能量不斷釋放,才會越跑越快,讓對手追不上?!?/p>
要實現芯片自由,八年十年甚至更久的磋磨,將是米OV們必經的過程。
參考資料:
1.《科普:關于ISP的原理、架構等等》,IP與SoC設計
2.《熵減:華為活力之源》,林江艷
(作者 | 董溫淑 編輯 | 李曙光)