2024年4月24日 星期三

AI融會貫通之研究


  • 卷積神經網路(Convolutional neural network, CNN)[1]
    • 使用於影像辨識、聲音辨識等各種情況
  • 深度學習(Deep Learning)[1]
    • 深度學習是加深層術後的多層神經網路
    • 在視覺辨識競賽中,深度學習使用皆以CNN為基礎
    • 學習的效率是加深層數的優點之一,表示與沒有加深層數時相比,加深層數可以減少學習資料
    • 受到矚目的原因為2012年舉辦視覺辨識競賽ILSVRC(ImageNet Large Scale Visual Recognition Challenge)開始成為DL轉捩點,深度學習的手法(通稱AlexNet)獲得壓倒性的優異成績,顛覆過去影像辨識的手法
    • 多數DL的框架支援GPU可處理高速運算,而多個GPU與多台裝置進行分散式學習
      • 多台裝置中100個GPU與一個GPU相比,可以提高56倍的速度,一位原本花7天才完成的學習,只要3小時就能解決(3*56=168/24=7)
      • Google的TensorFlow、MS的CNTK(Computational Netework Toolkit)是針對分散式學習而開發
    • 應用範例
      • 物體偵測、影像分割、產生圖說、
      • 轉換影像風格、產生影像、自動駕駛
      • 強化學習(Reinforcement Learning,RL):嘗試從錯誤的過程中,進行自主學習。代理人(Agent)是根據環境狀況來決定要採取的行動,利用該行動讓環境變化。隨環境變化,代理人獲得某些報酬。因此RL目的是決定代理人的行動方針,以獲得更好的報酬
        • Deep Q-Network,DQN:使用DL的RL手法,以稱作Q學習的強化學習演算法為基礎。
Reference
[1]Book:Machine Learning and Deep Learning with Python

2024年4月15日 星期一

玻璃基板研究

[20240415] 玻璃基板為片開發的the next big thing,蘋果預先導入玻璃基板PCB晶片技術

目前的PCB通常由銅層和焊料層下方的玻璃纖維和樹脂混合物製成。該材料對熱敏感,意味必須透過動態熱能管理(thermal throttling)仔細控制晶片溫度。當晶片變得太熱時,會降低晶片的性能。因此,晶片只能在有限的時間內維持其最大性能,然後才會回落到較慢的速度以降低溫度[1]。然而,先進封裝上的玻璃基板,是將晶片疊層中的矽中介層中的材料置換成玻璃[3],玻璃基板製成的印刷電路板 (PCB),可提供一種全新的安裝和封裝晶片方式,可以大大增加PCB所能承受的溫度,不僅可以提供更好的熱性能,使處理器能夠以最大功率運行更長時間。所以玻璃基板將成為晶片開發的下一個重大事件。另外,玻璃基板超平坦的性質,可以進行更精確的蝕刻,從而可以將組件放置得更近[1],從而增加任何尺寸內的電路電晶體密度約十倍[3]

此外,由於封裝技術提升,未來單一晶片能夠容納的電晶體將有望來到最多一兆個的目標,不僅晶片製程成本、難度大幅降低,晶片頻寬翻倍,能突破過去摩爾定律註的限制[3]。

南韓BusinessKorea媒體指出,隨著AI競賽越演越烈,Nvidia、AMD、英特爾等,也都有意採用,估計最快2026年上路[2]。此市場的領導者為英特爾,2023年5月宣布擴足玻璃基板業務,已與部分韓企合作[2。英特爾已投入10億美元為將來量產計畫擴建相關產線[3]。英特爾執行長基辛格在2023年新創日發表會上率先公布,取得技術突破,玻璃基板預計於2026至2030年推出,可使封裝中的電晶體持續微縮,以滿足AI等資料密集、高性能工作負載的需求[3]。預計到2030年使用玻璃基板可以讓一顆晶片放入一兆電晶體。這比起蘋果iPhone 15 Pro中的A17 Pro處理器擁有190億個電晶體,超過50倍[1]。

畢竟,迄今為止的大多數進展都是透過更小的製程實現的。例如:蘋果目前在iPhone 15 Pro機型中採用的​​A17 Pro中的3奈米晶片處於領先地位,之後將計劃採用2奈米,然後是1.4奈米。如果每一顆晶片可以放入更多電晶體,這有助於晶片在未來發展。

另一方面,SKC是首家投入玻璃基板業務的韓廠,SKC與晶片設備大廠應材(Applied Materials)攜手成立Absolics,斥資2.4億美元在美國喬治亞州打造工廠。三星電機(Samsung Electro-Mechanics)和LG Innotek也將玻璃基板視為新成長引擎,已啟動生產投資。

蘋果正在與幾家未具名的供應商進行討論,三星也在其中。三星集團的子公司Samsung Electro-Mechanics、三星電子和三星顯示器將合作投資玻璃核心基板 (GCS) 的研發,以加速其商業化,旨在與在該領域處於領先地位的英特爾競爭[1]。此外,「玻璃基板」原本就被 LED 企業應用在改良 Mini/Micro LED等顯示產品上,本身具有散熱良好、成本較低、亮度高的優點,在技術方面,因為一致性高、效率好,被許多企業推崇使用。不過,此玻璃機基板非彼玻璃基板,雖然材質、功效上有相似效果,但技術層面不同,所以不太能同為一談[3]

因此,三星在這方面處於有利位置,因為用於製造先進多層顯示器的許多技術也適用於製造玻璃基板PCB。至於蘋果,其正在與幾家公司討論制定將玻璃基板融入電子設備的策略。未來蘋果採用玻璃基板預計將大幅擴大應用領域範圍[1]。

然而是否會對目前PCB生態造成影響?玻璃基板技術後續成熟後才能搭配 ABF 載板或硬板,如果是涉及玻璃基板的封裝段,是「矽中介層」或其他材質的變化,實際和 PCB 載板廠商生產製程較無關,而是封裝部分的材質流程變化,PCB 族群仍要尋找技術「出海口」。而英特爾也曾表示,玻璃基板只是其中一項解決方案,傳統基板仍會是客戶的選擇之一,所以,玻璃基板基本上對產業並不會造成威脅,為能夠搭配矽中介層材質改變所帶來的變動,PCB、ABF 載板與開發商積極配合,PCB廠反而有望搭上這波商機跟著受惠[3]。

若玻璃基板未來順利克服問題並確實在2026年起順利量產,有望再推升晶片熱潮,屆時AI概念股有望續熱,並助長輝達、超微、英特爾供應鏈高飛。不過,在此之前,仍要將目光放在現在的問題上,以英特爾為主的技術開發,雖然沒有明確供應鏈,但市場點名全球合作載板廠商的欣興受惠最大,另外還有設備廠鈦昇、南電、健鼎等台廠有望分一杯羹[3]。

Key:
  • 玻璃基板的超平坦性質,可以進行更精確的蝕刻,從而可以將組件放置得更近,從而增加任何尺寸內的電路電晶體密度約十倍[3]
  • Nvidia、AMD、英特爾等,也都有意採用,估計最快2026年上路。

  • 此市場的領導者為英特爾,2023年5月宣布擴足玻璃基板業務,已與部分韓企合作。英特爾已投入10億美元為將來量產計畫擴建相關產線。玻璃基板預計於2026至2030年推出

  • 預計到2030年使用玻璃基板可以讓一顆晶片放入一兆電晶體。這比起蘋果iPhone 15 Pro中的A17 Pro處理器擁有190億個電晶體,超過50倍

  • 韓廠SKC與晶片設備大廠Applied Materials攜手成立Absolics,斥資2.4億美元在美國喬治亞州打造工廠
  • 全球合作載板廠商的欣興受惠最大,還有設備廠鈦昇、南電、健鼎等台廠有望分一杯羹。

Reference:
[1][20240402]蘋果將關注於玻璃基板的開發,期望引領半導體產業前進https://iknow.stpi.narl.org.tw/post/Read.aspx?PostID=20585
[2][20240408]玻璃基板為晶片發展下一個重大趨勢?傳蘋果、Nvidia 將採用
https://money.udn.com/money/story/5599/7884922
[3][20240411]整理包/Nvidia、AMD 都將採用的玻璃基板是什麼?PCB 廠有望受惠?三大重點、概念股一次看
https://money.udn.com/money/story/5612/7892444

2024年4月12日 星期五

蘋果壟斷官司研究

 [20240412] 蘋果壟斷證據不斷,引發眾怒

雖然蘋果生態系提倡「產品與軟體達到無縫整合」,但美司法部認為,蘋果故意降低iPhone向Android手機發送簡訊、影片的傳輸速度,並阻擋iPhone兼容三星的軟體服務,如三星行動支付Samsung Pay、智慧手錶Galaxy Watch等。倘若蘋果最後被判有罪,美國司法部或將對蘋果開罰、施以改正措施,亦可能影響蘋果商譽。

[20240327] 蘋果當年稱高通稅不合理,如今自己也有蘋果稅的訴訟纏身
蘋果2017年初,以「反壟斷」之名,「不合理授權費」為由,聯合眾家供應商企圖打倒「高通稅」,向高通提告的世紀大案,甚至聯合鴻海、和碩、緯創、仁寶等蘋果代工廠,停止支付高通權利金。直到2019年蘋果與高通世紀大和解,上訴法庭在2020年8月間,由3名法官組成的合議庭大翻轉,認定聯邦貿易委員會(FTC)未能證明高通商業模式違反美國反托拉斯法

在過去的15年間,每當蘋果用戶透過App Store下載應用,或者在應用內購買、訂閱服務等,都只能通過蘋果指定的支付系統,留下30%的「蘋果稅」之後,再將剩餘費用歸入應用開發者帳戶。估計2023年全球「蘋果稅」收入大約數百億美元

因此,蘋果就相當年的高通一般,陷入壟斷困局,遭美國司法部聯合15個地方州法院及華府特區,聯合向蘋果提起訴訟,指蘋果違反美國反壟斷法第二條,而聲稱蘋果在美國手機市場逾65%佔有率,其主導地位來自於市場自然競爭,而是透過違反反壟斷法取得。

這就像蘋果於2024年3月4日被歐盟罰款616億新台幣(19.5 億美元,18億歐元),妨礙市場進行壟斷一般,美國也對蘋果提出相同質疑訴訟。但是美國稅會不會像高通稅一樣平安落幕呢?總總證據顯示,這答案肯定是「否」,蘋果勢必要做部分妥協。

因為2023年歐盟執委會根據「數位市場法(DMA)」,迫使蘋果、微軟和Meta等科技公司向其他競爭對手開放部分服務。其法律已對蘋果造成影響。蘋果宣布2024年3月6日的更新版行動作業系統iOS 17.4,是首個符合歐盟DMA規範的iOS系統,對自家以外的其他應用程式商店開放其iPhone和iPad,能夠讓iPhone使用者也能自App Store外下載其他應用程式。

[20240305] 蘋果iPhone銷售黯淡,高盛移除必買名單,蘋果壟斷被歐盟罰19.5億美元
投資銀行高盛(Goldman Sachs)將蘋果從「必買名單」(conviction list)中剔除,原因是旗下主要產品需求疲軟,引發市場擔憂,導致該公司股價表現欠佳。每股報178.93美元,2024年迄今累計下跌3.22%。蘋果股價欲振乏力,主因是核心產品iPhone銷售持續低迷引發投資人擔憂,特別此時主要市場中國大陸經濟遭逢嚴峻挑戰。

自高盛2023年6月公布20檔~25檔「首選買進」(Directors’ Cut)的名單以來,iPhone製造商蘋果一直名列其中。每個月對會針對必買名單進行審查,若股票「不再是最佳投資選擇」便會遭到剔除。但自那時起至今,蘋果股價大致持平,遠不如大盤標普500指數表現,後者漲幅達到近22%。若以「美股七雄」(Magnificent 7)來看,蘋果遠遠落後其他對手,僅贏過電動車龍頭Tesla,後者今年迄今大跌逾18%。

此外,歐盟執行機構歐盟執委會於2024年3月4 日 對蘋果處以 18 億歐元(19.5 億美元)反壟斷罰款,因為蘋果濫用其在音樂串流應用程式分發市場的主導地位。因為蘋果對應用程式開發者施加限制,阻止他們向 iOS 用戶告知應用程式之外提供的替代且更便宜的音樂訂閱服務。蘋果還禁止音樂串流應用程式開發人員提供有關用戶如何訂閱這些更便宜優惠的任何說明。

在 2019 年 Spotify (SPOT-US) 投訴後,歐盟執委會對蘋果展開調查。調查範圍縮小到了蘋果對應用程式開發商施加的合約限制,這些限制阻止他們以較低的價格向 iPhone 和 iPad 用戶提供應用商店外的替代音樂訂閱服務。蘋果的行為持續近 10 年,「可能導致許多 iOS 用戶為音樂串流訂閱支付較高的價格,因為蘋果向開發者徵收高額佣金,並將更高的佣金形式轉嫁給消費者在蘋果應用商店支付相同服務的訂閱價格。」

2023年歐盟委員會根據名為《數位市場法案》(Digital Markets Act;DMA)的代表性法規,指定蘋果公司以及微軟 (MSFT-US) 和 Meta (META-US) 等其他科技公司為「守門人」。「守門人」一詞指的是歐盟認為限制存取核心平台服務如線上搜尋、廣告、訊息傳遞和通訊等的大型網路平台

《數位市場法案》目標在打擊科技公司的反競爭行為,並迫使它們向其他競爭對手開放部分服務。較小的網路公司和其他企業抱怨這些公司的商業行為傷害了他們。這些法律已經對蘋果產生影響。該公司宣布計畫自今年起向外部其他應用程式商店開放其 iPhone 和 iPad。 開發者長期以來一直抱怨蘋果對應用程式內購買收取 30% 的費用

這兩則是蘋果的一個警訊,蘋果停止電動車的投資,全力發展AI,顧好iPhone手機的未來發展性,這才是當前之急。不過蘋果的產品已深入人心,未來仍大有可為。但是蘋果這種壟斷市場行為相當不可取,當罰。

Key:
  • 在過去的15年間,每當蘋果用戶透過App Store下載應用,或者在應用內購買、訂閱服務等,都只能通過蘋果指定的支付系統,留下30%的「蘋果稅」之後,再將剩餘費用歸入應用開發者帳戶。估計2023年全球「蘋果稅」收入大約數百億美元

2024年4月11日 星期四

AI模型研究


[20240426] 群聯、聯發科合力催生平民版GAI,潘健成:傳統PC設備即能達到70B參數AI運算

群聯與聯發科合力打造AI新藍海市場,不與雲端AI直接競爭,鎖定邊緣、中小型運算需求,致力生成式人工智慧(GAI)平民化、普及化。

群聯董事長潘健成指出,不需要額外投資,用傳統PC基礎設備,即能達到70B參數AI運算。潘健成以20年前機械手臂為例,當時要價1,500萬的設備,如今已普及全部工廠;典範轉移正發生於生成式AI身上。市場如今面臨一樣的問題,頂級GPU太貴、中小企業想用卻用不起,群聯本身也遇到相同痛點,遂開始投入研發,以自身於記憶體領域優勢,在近期推出平價版生成式AI解決方案。

GPU決定算力、HBM則決定模型大小,群聯以SSD取代造價高昂的HBM系統,加上輝達消費級GPU打造,將傳統工作站升級為小規模AI伺服器,硬體成本大幅降低;儘管運算速度仍不如大型CSP運端運算,不過相當具備成本優勢;他打趣地說道,台北到高雄,坐飛機最快、但是高鐵更有性價比。

此外,聯發科資深處長梁伯嵩強調,邊緣與雲端CPU設計有非常大的不同,輕巧化、高能源效率將為未來趨勢。梁伯嵩則分析,行動處理器在AI人工智慧計算上,受到更多限制。10年之間,手機CPU在同樣面積下,電晶體數量由10億成長至200億個,但受限功耗,在設計上就需要進行取捨,尤其要以幾十億之參數模型進行推論,考驗IC設計公司技術實力。

要讓大型神經網路的AI能力湧現(Emergence),需要極大量運算需求,短短七年間成長三十萬倍以上,遠超過半導體摩爾定律的成長速度,讓AI快速進入 Large-Scale Era。梁伯嵩表示,現階段將大型神經網路透過預訓練後,再Fine Tune進行下游任務訓練,兩階段的訓練方式,將協助生成式AI普及化。

然而,根據財團法人人工智慧科技基金會(AIF)的2023台灣產業AI化大調查,台灣企業已經開始使用AI,並且有超過半數的企業已經導入生成式AI工具。這些生成式AI工具降低了AI的使用門檻,使得企業內部已經開始導入AI到公司的營運流程或個人/部門內使用。其中,企業多半使用現成工具,例如ChatGPT、Midjourney和Bing。此外,一些企業也會串連生成式AI服務商所提供的API,開發自家專屬服務,或者開發自己的生成式AI模型(含fine-tuning)。

台灣業者再度發揮科技界的重要特質,如何有創意的降低成本(lower the cost),台灣的IC設計公司群聯與聯發科,作為頂尖企業,已經看出AI的商機。這兩家公司分別位居記憶體與處理器龍頭地位,這使得它們能夠互補合作,共同切入AI的低價發展優勢,並鎖定邊緣、中小型運算需求。預計台灣的業者將會前仆後繼,並發展其產業鏈群聚效益,因為降低使用運算需求成為AI進展與普及的關鍵,更是半導體產業的全新機會。台灣身處半導體產業鏈的關鍵角色,從IC的製造者,也同時成為AI應用的領先群,使台灣科技產業更上一層樓。

此外,AI的應用不僅僅局限於成本降低,並可加速企業的ESG永續發展。因此,企業應該密切關注AI的發展,並在營運策略與企業治理的高度重新定義及定位。

[20240411] 聯發科AI達哥模型推廣至台灣約40家企業

聯發創新基地團隊打造出的繁體中文大型語言模型BreeXe,目前已經開源並提供給各路研究者使用。聯發科創新基地負責人許大山博士表示,團隊除會繼續強化並更新BreeXe模型之外,本次對外推出的MediaTek DaVinci平台(該公司內部稱:達哥),更有可能成為聯發科另外一個新的發展契機。

MediaTek DaVinci平台最開始是公司為讓員工在工作時能更方便使用生成式AI(Generative AI,GAI)而開發的,核心思維是要透過手機App讓GAI變得更方便開發及使用。

由於聯發科有近一半的員工具備Coding能力,員工都可用該平台開發不同功能的AI工具,並以App Store的模式上架給公司其他人使用,這是個提高生成式AI在企業端使用效率的平台,而這也是聯發科認為,可以將該平台向外推廣給更多台灣企業的主因。

MediaTek DaVinci平台目前已有約40家來自高科技、金融、電信、法律、製造、銷售、服務、系統整合、雲端服務等產業的企業,包括教育機構、新創公司、API媒合平台群鼎團隊、意藍資訊以及提供aiDAPTIV+服務方案的群聯電子等,都加入MediaTek Davinci生態系。

未來該平台將與系統整合商合作,包括目前合作最為緊密的賽微科技,來強化平台的各類功能並服務導入平台的客戶。

平台未來會以授權的方式,和系統整合商一起提供給客戶,並收取授權費,每一家使用平台的業者,可以自由選擇其所需的運算基礎建設,要自建多高規格的資料中心,或是和雲端服務商合作,平台都可以配合;而這個平台也會以企業內網的模式提供服務,因此可以確保各類生成式AI工具的開發及背景資料,都是企業內部才能使用,並沒有外流的風險。

目前已經有許多大客戶在針對平台進行測試,來自各種不同業界的詢問度非常高,且熱度可以說是在2024年短短三個多月的時間快速竄起,可以看出台灣各行各業對於採用生成式AI來提高生產力的需求相當明確。

以營收來說,平台和主業的IC設計業務,在規模上完全不能相比,站在聯發科的立場,還是希望可以和更多台灣的企業一起分享生成式AI技術帶來的生產力提升,未來也有機會擴大推廣的範圍,將平台推向海外。值得注意的是,聯發科首次跳脫原本終端設備商角色,逐漸藉由AI達哥模型,進行應用服務而擴展AI於各大企業。

[20240319] 群聯研發邊緣記憶體最大化效能執行AI模型,建構AI生態圈
群聯執行長潘健成表示,GAI(生成式人工智慧)出現,帶動各種AI應用領域不斷擴大,產官學、企業界對AI模型微調(Fine-Tuning)運算需求持續上升,AI逐漸成為生活中不可或缺的場景。惟礙於建置成本資安考量,滲透率尚未明顯展開。當初在DOS系統時代,只有工程師會用編碼語言,但是後來推出win95,變成全世界都會用。目前群聯現今作法,則讓AI落地且更便宜,群聯積極尋找合作夥伴加入,建立生態系,希望將整個應用更簡化,讓大家都可以用。

因此,群聯自主開發AI運算服務「aiDAPTIV」,可以在本地有限的GPU與記憶體資源下,最大化效能執行AI模型,將有效降低提供AI服務所需投入的硬體建構成本。aiDAPTIV+賦予一個全新「Home-computing」概念,一次性解決隱私、安全性、個人化及成本優化問題,將帶動AI快速普及。結構性拆分大型AI模型並協同固態硬碟(Solid State Drive,SSD)運行,大幅降低硬體成本還提高運算效率,使有限GPU與DRAM資源下也能訓練大型AI模型。

其中,SSD和USB隨身碟類似,SSD使用快閃記憶體儲存資料,並以數位方式存取資料。傳統硬碟(HDD)利用旋轉碟片與橫跨於其上的懸臂讀取每個資料片段。由於 SSD 不須透過旋轉碟片尋找資料,因此可以提供您近乎即時的開機與讀取速度。

當前AI預訓練是客製化AI模型的重要基礎,而aiDAPTIV+則是在預訓練的模型為基礎化為可理解特定領域的專業工具,諸如法律、會計、醫療、工程等,提供該領域的精確服務。透過通用工作站硬體與aiDAPTIV+軟體middleware與群聯的aiDAPTIVCache系列ai100 SSD,可使工作站AI伺服器訓練更大規模的模型。

aiDAPTIV+著重在使開發者可專注於訓練使用者資料而非費時增加工程技能,可降低AI訓練複雜度與AI運算硬體需求,同時透過aiDAPTIVCache系列ai100 SSD可在不大幅增加成本下提升GPU可用的記憶體容量,同時透過地端AI微調訓練使資料不須上傳,保有資料安全性。

然而,群聯的記憶體也與AI有所牽連,這實在是很難想像,偏材料的記憶體,也與AI有所牽連。AI手機、AI PC、AI 記憶體,不過這到底是真的有所應用,還是在炒股票呢?不過群聯與聯發科的雙方合作是真的,雙方合作的名稱為:深度整合群聯創新AI運算服務 aiDAPTIV+和聯發科生成式AI服務平台MediaTek DaVinci。

其實不只和聯發科,群聯還與技嘉、華碩 、MAINGEAR、台灣大哥大建立「aiDAPTIV+」技術合作夥伴關係。其中MAINGEAR是一間主打客製化生產的精品電腦廠商,主要業務之一為替玩家打造各式各樣的華麗的水冷散熱主機,類似於台灣的TT曜越。總之,這呼應群聯積極尋找合作夥伴加入,建立生態系,希望將整個應用更簡化。

[20240312] 生成式AI技術瓶頸消失,終端手機、PC全面展開AI應用
GAI已成為推動電子產業向前發展的主動能,發展願景逐步從雲端延伸到邊緣端,AI手機、AI PC等。但是生成式AI模型的硬體需求門檻高,運算成本居高,尤其對訓練大型語言模型為運算基礎設施帶來無法忽視的記憶體挑戰,主要是因權重大小和優化器狀態不斷增加,這是無論運算晶片多強都難以繞過的問題。不過,各硬體晶片廠紛紛試著在不同領域投入相關研究,有望從AI演算法本身來解決硬體門檻。

這對於主流的手機規格,如果要運轉70億參數的INT8 LLM模型並順暢地運作,需要用到7~8GB的記憶體容量。這等於要在單一功能上用掉全部的記憶體容量,為維持其他功能的運作,手機的RAM最好要拉高到24GB才會夠用,對於邊緣端生成式AI的普及來說,會是很大的成本負擔。

目前AI的演進在足夠的資源及人力開發之下,每一季會往上跳一個世代,2023年Q4聯發科與Qualcomm尚未推出LoRA技術,但在MWC 2024已可看聯發科和Qualcomm提出Microsoft的LoRA技術。LoRA技術的概念是凍結原本預訓練模型權重,減少訓練參數量和優化器狀態,也能達到很好的微調(fine-tuning)效果。LoRA被用於微調生成AI圖片的參數,能夠在更小的記憶體需求下,讓生成的結果更加精準且迅速,相關技術對於手機生成式AI帶來的功能升級。

此外,曾在NVIDIA擔任AI研究資深總監的Anima Anandkumar提出GaLore(Gradient Low-Rank Projection)預訓練技術,可讓模型使用全部參數進行學習,同時比 LoRA 更省記憶體。在同樣運算效能的前提之下,GaLore可以將訓練期間的記憶體使用量減少達65%左右。而GaLore的另外優點是讓原本只能用在大型伺服器上的大型語言模型,透過家用電腦的高階顯示卡(例如 NVIDIA RTX 4090)也能進行訓練,研究人員首次證明在具有 24GB 記憶體的 GPU 預訓練 7B 參數模型是可行的。

因此可預見的未來,晶片廠商MTK和Qualcomm除了將LoRA導入,也會將改良lLoRA的GaLore導入。未來AI手機將有望和Wi-Fi一樣成為手機的標配,成為真正的智慧型手機。

[20240221] Google AI之探究,Gemini 1.5 Pro包含MoE模型
2024年2月,推出Gemini 1.0 Ultra模型,並且將「Bard」AI服務更名為「Gemini」之後,Google再宣布推出新版Gemini 1.5 Pro模型,強調能提供更進階執行效能,除上下文處理長度大幅增加,混合專家(Mixture of Experts; MoE)模型架構也是亮點。Google基礎設施強大、可調動眾多資料中心TPU訓練模型,但在新模型也採用MoE架構可視為指標

此外,Gemini 1.5 Pro更具備在大量資料中準確處理內容能力,例如可從多達402頁的阿波羅11號登月任務推斷各類細節,或是分析由巴斯特基頓主演長度為44分鐘的無聲電影主要情節、故事重點,另外也能對應長度更長的前後文關係判斷,藉此呈現與人類相仿的內容判斷能力,對於資訊分析、語意理解都能有更大提升效果。

Google在技術報告中提到,Gemini 1.5 Pro採稀疏式MoE,仍為Transformer架構,包含影像和語言模型,從Gemini 1.0原生多模態模型的基礎進展而來。過去數年來,團隊持續發表MoE相關研究,屬早期採用者。訓練Gemini 1.5 Pro時,如同Gemini 1.0 Ultra、1.0 Pro,運用4,096顆晶片為一組的Google TPUv4加速器,橫跨數個資料中心的資源。

Gemini 1.5可處理達 100 萬個 token 數,Google 表示長度約等同於一次性處理 1 小時的影片、11小時的音訊、超過 3 萬的行程式碼,或超過 70 萬個單字的程式碼庫。反觀 Gemini 1.0 Pro的token數為3萬 2000 個,GPT-4 Turbo 則是 12 萬 8000 個。

其實,傳統Transformer架構是一個大型的神經網路,MoE架構則切分成數個小型神經網路,可將輸入資料導向特定子集,只喚醒最相關的參數,形成條件式計算(conditional computation),大幅提升模型訓練和運作的效率。

MoE架構雖可提升預訓練階段的運算效率,但也可能導致overfitting,也就是過於符合訓練資料,在微調階段的泛化、通用化能力受限。

Gemini 1.5 之後將取代 Gemini 1.0,因此使用 Gemini 聊天機器人(原名 Bard)時就能與新版模型互動。不過標準版 Gemini 1.5 的 token 數僅會有的 12 萬 8,000 個,若要達百萬個 token 需額外付費[11]。

除Google,法國獨角獸新創Mistral AI也是MoE架構代表,已推出Mixtral 8x7B模型,稱可媲美、甚至超越Meta Llama 2參數量700億的模型表現。開源平台Hugging Face資料顯示,MoE架構包含混合專家層(每個神經網路代表一種專家),以及閘門或路由網路層,決定輸入資料要送到哪一專家層。

整體而言,在2022年底OpenAI發布ChatGPT後,看到AI的三巨頭的微軟(Open AI)、Google(Gemini )、META的蓬勃發展,不禁擔心會不會將來的一切全部都被AI掌握,那我們該何去何從呢?人們在享受便利的同時,也會失去某項優勢。不過,與其排斥AI,倒不如全心全意擁抱AI吧。

[20240220] AI模型探究
Meta研究員Martin Signoux於2023年底提出2024年AI趨勢預測,八大預測圍繞著模型發展融合消費性裝置兩大重點,包括多模態AI賦能的智慧眼鏡將成趨勢;繼LLM之後,大型多模態模型(LMM)、小型語言模型(SLM)將成新焦點;AI助理百花齊放,ChatGPT不再是唯一品牌,打破OpenAI一支獨秀現況的期待與開源模型、評測基準等議題。

Meta首席AI科學家楊立昆也轉發他的貼文,並表示同意其預測。針對小模型,Signoux談到用戶對成本效益和永續議題愈加重視,將加速SLM發展趨勢;此外,模型量化(Quantization)技術持續改善,帶動消費裝置融入小模型。

此外,Microsoft近期發表AI趨勢預測,強調小語言模型、多模態、科學應用為3大值得關注方向。事實上,許多業者皆期盼更多小模型可供選擇,原因不外乎是為了降低開發和維運成本,希望需要強化AI功能、但不增加太多成本,是整體業界的心之所向。

Microsoft在官方部落格表示,2023年是生成式AI重大進展的一年,相關技術從研發人員的實驗室走到現實生活。其以OpenAI ChatGPT、微軟Copilot為商品化兩大代表,並認為AI將愈趨普及、細緻化,並將與改善日常生活或重大問題的科技整合。

預計將出現可打敗GPT-4的開源模型,但開源與閉源陣營之間的辯論料將逐漸熄火。過去一年來開源陣營的動能強勁,與閉源模型的差距將逐漸消弭。市面上模型目前並無單一基準可滿足所有評測需求。既有基準如HELM持續改善,也有新評測機制如GAIA出現。

小語言模型(Small language model; SLM)
相較於參數量在數十億以上的LLM,小模型的參數量在數億等級,一大指標是可在手機端「離線」運作。微軟研究人員指出,小語言模型可讓AI更為普及、更多人可負擔,團隊正在開發新方法,讓小模型可如同大模型具備強大功能。

其已發表的小模型有Phi、Orca,稱某些任務的表現可媲美、甚至優於大模型。SLM訓練採高品質、挑選過的資料集,資料量就不須像訓練LLM來得大。

事實上,愈來愈多業者加入SLM發展行列,Google、Meta以及法國新創Mistral AI皆已發表相對輕量級的模型。Meta開源的Llama系列模型,獲許多開發人員使用,參數量70億等級者為常用款。

Google則為手機端推Gemini Nano模型,Nano-1參數量為18億個,Nano-2則有32.5億個,支援錄音檔摘要、訊息智慧回覆等功能。

此外,雖有許多新模型出現,但Meta研究員認為,2024年不會出現真正有突破性的發展,達到通用人工智慧(AGI)等級;LLM仍難擺脫既有限制,如模型的幻覺(Hallucination)問題。事實上,ChatGPT爆紅後,不但改寫AI發展路徑,也讓之前許多科技趨勢預測失效。雖然如此,Signoux的看法仍反映Meta團隊或AI領域所關注的重點。

近期許多專家皆談到,通用LLM的訓練資料綜合多種學科領域,但特定領域應用、企業級應用並不需要那麼多通識背景,可改用參數量較小的模型。要讓模型大小與精準度可達到最佳平衡,參數量該是多少?目前仍未有統一共識,但不同專家多指向百億等級的範圍。

有專家認為,模型參數量在50億~100億個之間,開始有人類智慧的跡象;另有開發者則指出,參數量在70億個~130億個的模型,通常只能解決單一任務;估計要到220億個參數以上,才會突破某個門檻、湧現能力。此外,開源模型讓開發者有較多彈性調整模型,愈來愈多模型開發者透過開源擴大夥伴生態系。

Unite AI網站盤點目前最佳5大開源模型,Meta Llama 2居冠,而後依序是開源社群的BLOOM、MosaicML的MPT-7B、阿拉伯聯合大公國技術創新研究院的Falcon系列、LMSYS Org的Vicuna-13B。

由於Meta與微軟擴大合作,Llama 2也可在微軟Azure和Windows取用。此外,高通也已宣布與Meta合作,預計2024年起,透過其晶片,將Llama 2賦能的AI應用帶入旗艦型手機和PC。

多模態(Multimodal AI)
正如其他業者,微軟也強調LLM朝多模態發展的趨勢。多模態指的是文字、圖片、影像、聲音等不同資料型態。近期OpenAI推出文字轉影片模型Sora,獲得外界高度關注;Google Gemini系列模型也主打支援多模態。

目前多數LLM仍基於Google Transformer架構,Meta則提出另一架構Joint Embedding Predictive Architectures(JEPA),近期公布影像處理版V-JEPA模型,希望透過「預測」影像缺失或被遮蔽部分,增進AI學習。相較於上述競業以新模型推進多模態,微軟則強調產品整合,如Copilot、Designer可支援語音、影像、搜尋資料處理。據此合理推測,多模態相關功能的模型仍由OpenAI提供。

科學應用(AI in science)

微軟表示許多專家希望AI工具可加速研發進程,常見議題如全球暖化、能源危機、公共疫情等。應用場景包括天氣預測、碳排預測、增進永續農業的數位工具。近期也有人為農民開發一款聊天機器人,可找出不知名的雜草、比較不同灌溉方式效率等。而在生物科技領域,癌症病理影像偵測、新藥開發、新興電池材料尋找等需求,也使用到廣義的AI工具。事實上,Google、Meta也常發表AI相關科研成果。Google近期即宣布與Environmental Defense Fund合作,運用衛星和AI演算法偵測甲烷排放。Meta則曾發表保存全球少數語言的計畫並開源相關模型。

Key:

  • 如果要運轉70億參數的INT8 LLM模型並順暢地運作,需要用到7~8GB的記憶體容量,等於要在單一功能上用掉全部的記憶體容量,為維持其他功能的運作,手機的RAM最好要拉高到24GB才會夠用,對於邊緣端生成式AI的普及是很大的成本負擔。
  • LLM並不適合自駕車、機器人等運算資源有限的邊緣AI終端裝置應用麻省理工學院計算機科學與人工智能實驗室(CSAIL)已開發規模小的液態神經網路(Liquid Neural Network;LNN)模型,可望推動AI領域的創新,尤其在傳統深度學習模型難以實現的領域,如機器人和自駕車等。
  • LNN最顯著的特點為結構緊湊,如典型深度神經網路約需10萬個人工神經元和50萬個參數,才能完成讓汽車維持在車道任務。然而,MIT只用19個神經元就能訓練出一個LNN完成同樣任務。
  • 2026年前,預計超過80%的企業將融入生成式AI技術,進而大幅提升創新能力與工作效率(數據來自Gartner)
  • 傳統Transformer架構是一個大型的神經網路,MoE架構則切分成數個小型神經網路,可將輸入資料導向特定子集,只喚醒最相關的參數,形成條件式計算,大幅提升模型訓練和運作的效率。
  • 模型參數量在50億~100億個之間,開始有人類智慧的跡象;另有開發者則指出,參數量在70億個~130億個的模型,通常只能解決單一任務;估計要到220億個參數以上,才會突破某個門檻、湧現能力。

  • MediaTek DaVinci(達哥)平台目前已有約40家來自高科技、金融、電信、法律、製造、銷售、服務、系統整合、雲端服務等產業的企業,包括教育機構、新創公司、API媒合平台群鼎團隊、意藍資訊以及提供aiDAPTIV+服務方案的群聯電子等,都加入MediaTek Davinci生態系。
  • 群聯董事長潘健成指出,不需要額外投資,用傳統PC基礎設備,即能達到70B參數AI運算。潘健成以20年前機械手臂為例,當時要價1,500萬的設備,如今已普及全部工廠;典範轉移正發生於生成式AI身上。
  • GPU決定算力、HBM則決定模型大小,群聯以SSD取代造價高昂的HBM系統,加上輝達消費級GPU打造,將傳統工作站升級為小規模AI伺服器,硬體成本大幅降低;儘管運算速度仍不如大型CSP運端運算,不過相當具備成本優勢
    • 台北到高雄,坐飛機最快、但是高鐵更有性價比。
  • 聯發科資深處長梁伯嵩強調,邊緣與雲端CPU設計有非常大的不同,輕巧化、高能源效率將為未來趨勢。
    • 行動處理器在AI計算上,受到更多限制。10年之間,手機CPU在同樣面積下,電晶體數量由10億成長至200億個,但受限功耗,在設計上就需要進行取捨,尤其要以幾十億之參數模型進行推論,考驗IC設計公司技術實力。
    • 要讓大型神經網路的AI能力湧現(Emergence),需要極大量運算需求,短短七年間成長三十萬倍以上,遠超過半導體摩爾定律的成長速度,讓AI快速進入 Large-Scale Era。現階段將大型神經網路透過預訓練後,再Fine Tune進行下游任務訓練,兩階段的訓練方式,將協助生成式AI普及化。

Reference:

[11][20240216]Google 新模型「Gemini 1.5」亮相!token 數破百萬、採 MoE 架構效率更佳

https://www.inside.com.tw/article/34200-gemini-1.5



2024年4月9日 星期二

華為手機研究

[20240429] 華為Pura70,除最高階機種外,其餘機種超過九成關鍵零組件均由陸企供應

中系智慧手機品牌大廠華為新款旗艦機Pura70,除最高階機種外,其餘機種超過九成關鍵零組件均由中企供應,台系手機鏈全面警戒。Pura 70系列手機使用麒麟9010晶片,這是中芯國際為華為Mate 60 Pro手機製造的麒麟9000晶片的更新版本。

根據日商調查公司Fomalhaut Techno Solutions拆解報告指出,華為僅Pura70 Ultra主相機採用日商索尼零組件,其餘Pura70、Pura70 Pro、Pura70 Pro+等機型的核心處理器、面板、機殼、電池、鏡頭、散熱、聲學元件等零組件,幾乎全面國產在地化。

Pura70拆解報告主要供應鏈名單中,涵蓋歐菲光、藍思科技、歌爾聲學、長盈精密、舜宇光學、京東方、水晶光電等陸企,凸顯華為歷經多年沉潛練兵後,已順利突破美國封鎖,幾乎達成智慧手機製造「全國產化」的目標。

目前手機零組件供應鏈中,除高階處理器受限於晶圓製程高階主相機外,幾乎沒有陸企做不到、不會做的零組件,加上華為在大陸銷售夠大,足以支撐在地供應鏈成長,兩者相輔相成,手機製造全面國產化是必然的結果。

然而,面對中國在晶片領域設法突圍,美國商務部長雷蒙多(Gina Raimondo)於2024年4月21日表示,華為所使用的晶片技術仍落後給美國,反映出美國對中出口禁令正發揮作用,Mate 60 Pro手機所用的晶片不如美國晶片先進,中國在尖端晶片技術上落後美國多年,美國在半導體產業中的創新方面已超越中國。

其實,這則消息並非是新資訊,早在去年華為Mate 60發表時,就已經吵得沸沸揚揚的。不過值得注意的是,華為似乎不在乎美國的打壓,持續發展手機事業,值得令人好奇的是由華為所分割的榮耀品牌,該如何自處呢?美國是否也須將榮耀列入禁止名單呢?否則斬草不除根,春風當然吹又生。

[20240409]華為P70與Mete 70風雲再起,預估P70 系列出貨強勁成長至1,000萬~1,500萬支

華為Mate系列和P系列在中國市場一直以來都是蘋果最大的競爭對手,憑借Mate 60系列熱銷,2023年華為終端業務打了一場翻身仗,如今的P70(已更名Pura系列)上市無疑又對蘋果來說更是壓力來源。因此於2024年4月上市的華為P70系列依然是三款機型,分別是P70、P70 Pro以及P70 Art。其中,P70和P70 Pro將採用三角排列的鏡頭模組,P70 Art則繼續採用不規則的鏡頭造型。而Mate 70系列預計2024年9~10月發布。

P70將搭載華為自研的麒麟9000S晶片(已改成麒麟9010)、支持5G、高密度電芯、無線充、 50Mp超大底感測器、潛望長焦鏡頭、衛星通訊等。其中,P70支持北斗衛星消息,而P70 Pro、P70 Art將進一步,支持北斗衛星消息和天通一號衛星通話。

影像處理晶片方面,P70系列也會帶來眾多升級,P70將採用豪威的CIS感測器OV50H晶片,P70 Pro和P70 Art則搭載Sony IMX989感測器。此外,潛望長焦鏡頭也將會是全系列的標配。

在中國高階手機市場,華為的新機對蘋果恐進一步產生影響。2024年前6周,華為手機銷量64%的成長,而蘋果手機則年減24%,雙方形成了明顯反差。市佔率方面,2024年Q1,榮耀、華為、蘋果三家廠商的手機成長量位於市場前三,分別是15.8%、15.5%、15.5%,華為也超過蘋果。

而IDC 2023年中國智慧型手機市場出貨量約2.71億台,年減幅5%。觀察個別品牌表現,蘋果以17.3%市佔率、榮耀(Honor)的17.1%、OPPO 16.7%、vivo 16.5%以及小米13.2%。華為睽違兩年多,終於重返中國前五大手機品牌(蘋果、榮耀、OPPO、vivo、華為),2023年第四季出貨量大幅成長36.2%,以13.9%的市佔表現,位居中國國內市場第四大品牌,小米則被擠出前五名。

自從2023年Q4起,蘋果在中國銷量便已出現頹勢,當季的手機年減約10.6%,而小米、華為、榮耀等品牌均呈現成長,這也說明蘋果在中國市場正面臨著多重挑戰。2024年2月,蘋果手機在中國銷售依然出現了33%下滑,這還是進行多輪降價後的結果,仍無法掩蓋蘋果手機銷量下滑的趨勢,而隨著華為P70系列的到來,蘋果的出貨量很可能進一步下滑。而這不僅只是華為,蘋果還要面臨的還有來自小米、Oppo、Vivo、榮耀等本土品牌的圍堵。

其中,P70系列產能可望比Mate 60樂觀,P70 系列出貨量在2024年有望強勁成長至1,000萬~1,500萬支,較2023年P60系列銷量400萬~500萬支倍增。Mate 60系列已經呈現疲軟態勢,華為需要用P70系列和Mate70系列來重新提振市場興趣,或許隨著美中和緩,華為手機事業可望再度提升,朝向當年全球手機排名第二邁進。

20240318 華為突破國際封鎖,營收在破七千億人民幣,實增9%成長

遭美國強力制裁的中國設備巨頭華為常務董事汪濤,表示去年2023公司經營基本回歸常態,整體經營穩健,全球的銷售收入超過人民幣7,000億元,實現超過9%的增長。而華為2022年全球銷售收入6,423億元,淨利356億元。其中,其中ICT基礎設施業務保持穩健,終端業務好於預期,數位能源和雲端業務實現良好成長,智慧汽車解決方案競爭力顯著提升。中國區企業業務收入取得超過25%的快速成長。而去年2023華為的研發投入總額排名居全球前五。華為公司始終保持對研發的強力投入,透過技術創新來構築產品和解決方案的競爭力。2021年至去年,這三年的研發投入占比公司營收均超20%。

自從2019年受美國制裁以來,華為在中國的市占率一直呈下降趨勢,但透過持續的研發與創新,華為於去年2023年8月底推出搭載自主研發的麒麟9000S晶片的Mate 60系列,而9月又開賣Mate X5系列,獲得中國市場的青睞,銷售從谷底回升。華為手機在去年第四季出貨情況顯著成長,時隔十個季度重回中國市場出貨前五榜單,Mate 60 Pro透過自研麒麟晶片以及衛星通話等創新功能,成為拉動華為出貨復甦的領導機型[3]。

據Canalys的數據,2023年Q4,中國手機市場跌幅進一步收窄,整體出貨7,390萬支,年減1%。其中,華為出貨1,040萬支,主因透過旗艦新品出貨大增47%,擠進銷售前四名。

據IDC的數據,Mate X5系列上市以後一直處於加價購買狀態,且供不應求,幫助華為鞏固去年中國折疊機市場第一的位置,市場占有率達到37.4%

此外,中芯最近已經籌組3奈米製程研發團隊,協助華為生產3奈米晶片,推測中芯將利用美國晶片禁令實施前所囤積的設備。美國財經媒體近日也披露,華為去年2023推出的Mate 60 Pro新機,其由中芯生產的處理器晶片麒麟9000s,就是使用美國半導體設備商應用材料科林研發的設備,這些設備在美方禁令實施之前就已獲得。如今,其新一代麒麟9010晶片將以3奈米製程製造,目前已在設計階段,預估在2024年底設計完成。

不過,華為與中芯仍受困於先進技術與高階設備的獲得,以致產品良率低導致產量減少。今年2月初傳出,因大陸市場對華為AI晶片的需求飆升,但是因製造方面的侷限,迫使華為要求代工業者先放緩高階Mate 60手機晶片生產速度,改為優先生產AI晶片。目前華為透過代工廠生產旗下昇騰AI晶片和麒麟晶片,在美國政府限制NVIDIA AI晶片輸中下,昇騰910B被視為大陸最具競爭力的AI晶片,目前在大陸市場變得很受歡迎[4]。

其實,華為能夠突破國際封鎖而公開這些華為數據營收,無外是宣傳成分居多。通常有兩種作為,第一是突破後,但是低調,怕被美方高度封鎖;第二是突破後,但是高調,讓全球商機再現,華為依舊強健。但是是否真的突破,真金才真的不怕火煉,可能需要在華為的後續作為才能看出。

20230907 華為Meta 60 Pro 新突破,引發美國強硬態度
華為最新旗艦機型「Mate 60 Pro」,該手機採用華為海思自研的麒麟9000S晶片,引發中國轟動預購熱潮,這支手機的速度高達800Mbps,標準的5G、5.5G手機。美國在2020年5月斷供華為晶片及晶片設計軟體後,經過1566天,華為海思自力設計出麒麟9000S晶片,並且取得5奈米晶片量產的成績,但是這5奈米值得商議。

麒麟 9000s 處理器應是透過中芯的N+2製造是7奈米,N+1應該是假7奈米,實際上比較接近 8-9奈米,不是市場傳聞的5 奈米,且中芯的7奈米不是用 EUV 生產的,所以要進行多次的多重曝光。這表示梁孟松帶領的中芯國際在 7 奈米技術與產能上都有重大突破,不可輕忽。事實上,梁孟松一直是中芯能夠持續進步的重要功臣,從 14 奈米到 7 奈米都經由他手。

對此美國共和黨議員蓋拉格反應,中國問題特別委員會已敦促拜登政府,在對中國出口美國技術方面採取更強硬立場。其聲明指出:「如果沒有美國的技術,這款晶片可能無法生產,因此中芯可能違反了商務部的外國直接產品規定(Foreign Direct Product Rule)。」
  • 華為EDA已完成14nm以上工藝的國產化,2023年將完成對其全面驗證
傳出華為EDA已完成14nm以上工藝的國產化,其EDA設計工具全流程自主化有重要意義。因為,中國公司佈局EDA領域多年,但國產EDA工具鏈不完整,且主要滿足中低端製程要求。在此美中對抗時,提高自製率、完成國產化更顯得格為重要,華為預計將在2023年完成其全面驗證導入設計生產流程。[2023/03/25]

這新聞值得注意的是,為什麼華為有辦法在美國技術阻擋下依舊可生產先進手機Mate 60 Pro?是因為EDA 技術的突破嗎?海思中芯是華為最大的幫手,因此這也引起美方的關切。然而此手機採用的奈米製程也同樣令人費疑?若是7奈米則稱7奈米,但是為何如此表示5奈米呢?中國誇大不實又再一例,因此對手機的號稱優秀性能同樣使人起疑。

華為全面拆解終端業務之優劣
由於美國近來防中動作頻頻,使華為的手機業務節節敗退(終端收入年減25.3%至1,013億元人民幣);然而,繼分割手機品牌榮耀之後,考慮全面拆解終端業務,將業務及研發全面轉入榮耀[2]。事實上,2021年第2季華為已將595件美國專利賣給榮耀,而在南韓申請的專利也一併歸榮耀所有,其中有一部分來自三星電子。

對於華為而言,有兩大分析需考量:
劣勢:若是拆解後可能會導致許多產品,如:健康、顯示和元宇宙等相關業務,沒有終端支持,最後導致商機受減、產品線不完整。

優勢:強化其他相關領域業務的韌性。同時,有望達到相關資產獨立上市或融資,進一步獲取現金流,並以化整為零形勢資助母公司華為。

其實面對美國的咄咄逼人,全面分解華為終端業務是好事。雖然短期會有陣痛發生,但是長期看來,這無疑是使華為精神遍地開花。類似食神的電影情節:撒尿牛丸的市場由死路一條,轉化成活水一片。[2023/03/06]

Key:
  • 華為2023年推出的Mate 60 Pro新機,其由中芯生產的處理器晶片麒麟9000s,就是使用美國半導體設備商應用材料科林研發的設備,這些設備在美方禁令實施之前就已獲得。
  • 全球的銷售收入超過人民幣7,000億元,實現超過9%的增長。而華為2022年全球銷售收入6,423億元,淨利356億元。中國區企業業務收入取得超過25%的快速成長。而去年2023華為的研發投入總額排名居全球前五。2021 7,000億年至去年,這三年的研發投入占比公司營收均超20%
  • 華為新一代麒麟9010晶片將以3奈米製程製造,目前已在設計階段,預估在2024年底設計完成
  • P70系列產能比Mate 60樂觀,P70 系列出貨量在2024年有望強勁成長至1,000萬~1,500萬支,較2023年P60系列銷量400萬~500萬支倍增
  • 2024年前6周,華為手機銷量64%的成長,而蘋果手機則年減24%,雙方形成了明顯反差
  • 市佔率方面,2024年第1季,榮耀、華為、蘋果三家廠商的手機成長量位於市場前三,分別是15.8%、15.5%、15.5%,華為也超過蘋果
  • IDC 2023年中國智慧型手機市場出貨量約2.71億台,年減幅5%。蘋果以17.3%市佔率、榮耀(Honor)的17.1%、OPPO 16.7%、vivo 16.5%以及小米13.2%。華為睽違兩年多,終於重返中國前五大手機品牌(蘋果、榮耀、OPPO、vivo、華為),2023年第四季出貨量大幅成長36.2%,以13.9%的市佔表現,位居中國國內市場第四大品牌,小米則被擠出前五名。
  • 自從2023年Q4起,蘋果在中國銷量便已出現頹勢,當季的手機年減約10.6%,2024年2月,蘋果手機在中國銷售依然出現33%下滑,還是進行多輪降價後的結果,仍無法掩蓋蘋果手機銷量下滑的趨勢
  • 據Canalys的數據,2023年Q4,中國手機市場跌幅進一步收窄,整體出貨7,390萬支,年減1%。其中,華為出貨1,040萬支,主因透過旗艦新品出貨大增47%,擠進銷售前四名。
  • 據IDC的數據,Mate X5系列上市以後一直處於加價購買狀態,且供不應求,幫助華為鞏固去年中國折疊機市場第一的位置,市場占有率達到37.4%
  • 中系智慧手機品牌大廠華為新款旗艦機Pura70,除最高階機種外,其餘機種超過九成關鍵零組件均由中企供應,台系手機鏈全面警戒。Pura 70系列手機使用麒麟9010晶片,這是中芯國際為華為Mate 60 Pro手機製造的麒麟9000晶片的更新版本。
  • 根據日商調查公司Fomalhaut Techno Solutions拆解報告指出,華為僅Pura70 Ultra主相機採用日商SONY零組件,其餘Pura70、Pura70 Pro、Pura70 Pro+等機型的核心處理器、面板、機殼、電池、鏡頭、散熱、聲學元件等零組件,幾乎全面國產在地化。

Reference
[4][20240318]3奈米製程設計 華為拚年底完成
https://www.chinatimes.com/newspapers/20240315000245-260203?utm_source=iii_news&utm_medium=rss&chdtv
[3][20240315]華為突圍 去年收入破7千億人民幣
https://www.chinatimes.com/newspapers/20240315000242-260203?utm_source=iii_news&utm_medium=rss&chdtv

[2][20230306]美頻出招 華為傳拆終端業務
華為內部考慮分拆終端業務,2023年可能減少在手機終端業務上的投入,同時把一些業務研發團隊分拆到榮耀,但實施細則還在討論階段。

華為2022年上半年營收年減5.9%至人民幣3,016億元。華為手機出貨量銳減,成為終端業務收入下滑的主因,期內終端業務收入年減25.3%至人民幣1,013億元,占總營收比重33.5%,是三大核心業務中唯一陷入衰退的。

華為經過多年布局,建立相對健全的消費電子產業鏈,而目前加速拓展的健康、顯示和元宇宙等相關業務,都與終端業務有關,且建立在該業務上。如果剝離終端業務,華為的產品鏈就會不完整。

華為分拆部分受限業務,可以降低在終端及晶片市場的研發、供應鏈的影響,進而保持相關領域業務的韌性。同時,此舉有望達到相關資產獨立上市或融資,進一步獲取現金流。

2024年4月2日 星期二

摺疊機觀察

[20240410] 摺疊機市場概況分析

2024年三星Galaxy Z Fold系列將具備三款陣容,以應對中國手機業者的快速追趕。根據Counterpoint Research數據,2023年全球折疊機出貨量年增25%,達1,590萬支,三星雖以66.4%市佔率位居第一,但與2022年80%相比大幅減少。

此外,DSCC則預測,2024年Q1華為透過Mate X5、Pocket 2等提高市佔率,華為折疊機出貨量預計將較去同期飆升105%,全球市占可望達到40%,並首次超越尚未推出新產品的三星,成為折疊機市場第一,而三星電子首季市占預估低於20%。

而IDC的數據指出,2023年中國折疊式手機市場成長114.5%,出貨量達到700萬支。而在市佔率部分,華為則引領中國折疊機市場,緊接著是Oppo、榮耀、三星,接下來才是Vivo。其中1,000美元以上的折疊機比例,從2022年的81%,下滑到2023年的66.5%;而400~600美元的手機市佔率則在增加當中。另外華為Mate X5系列上市以後一直處於加價購買狀態,且供不應求,幫助華為鞏固2023年中國折疊機市場第一的位置,市場占有率達到37.4%。

[20240402] 摺疊機華為與三星之兩雄爭霸
不讓三星專美於前,華為2024年下半將推出2款折疊式手機,其中1款為平價款,企圖擴大市場規模。三星傳將在下半年推出3款新折疊機,其中包括一款平價的折疊機Galaxy Z Fold 6 FE,其售價將由1,000美元以上,降至800美元,同時要打華為及Apple iPhone。Galaxy Z Fold6 Ultra(價格:1,800美元),為比既有產品群更高階的機型,三星Galaxy Z Fold6將具備3款規格。

原本三星獨佔折疊市場,如今中系廠已經快速跟上,兩大折疊式手機品牌華為與三星,將進入低價搶空策略。三星通常會於7~8月左右推出新產品,不排除三星可能先推出Fold6一般款後,再公開Fold6 Ultra。


品牌廠競相推出折疊式手機,代表2件事,首先是,該機款市場初步已滿足,接下來要進入第二階段的價格競爭,將會加速折疊機滲透率提升。

其次,折疊機種擴大,也讓更多供應商受惠,包括尚未切入供應鏈的廠商,有機會搭上車,然已經名列供應鏈的廠商,其供貨產品的平均單價與毛利率,也將受到壓縮。

然而,此為消費電子產品代工宿命,當產品規模拉升,其平均單價與毛利率難免受到客戶擠壓,不過好處是,當整體規模擴大,最終獲利仍有成長空間。

目前折疊式手機無法帶給大多數用戶具有足夠吸引力的額外效用,價格又高於一般智慧型手機,客層十分有限。在蘋果遲遲未進入該市場前,難以掀起大流行風潮。

其實,蘋果確實在開發折疊產品,然短期內尚無意導入iPhone設計,且調動Vision Pro團隊支援,最可能會從iPad或Mac開始,時間點最快也會在2025年下半或是2026年就會推出。蘋果確實最在意折疊面板的品質,也是蘋果仍不願推出折疊產品的主因。在此期間,Androind的三星與華為,勢必要進行價格戰。因此,三星面臨兩大挑戰,一為中系品牌廠快速跟進,諸如上述,總計中廠各品牌在2023年折疊式手機市佔率已經達5成。二為整體折疊式手機滲透率拉升速度不如預期。

三星因應價格戰,有意導入新供應商,也讓原本尚未打入折疊式手機供應鏈的廠商,找到切入點,價格戰凸顯折疊式手機無法擴大的癥結點,也意味客戶砍價恐更明顯。至於近期折疊機成長動能看似減緩,但是客戶給的出貨預估量並未改變,且2025年仍將快速成長,因此對供應鏈來說,與其擔心出貨量縮,更關心如何擴充產能因應客戶需求。此外,MWC 2024可彎曲手機也可能是摺疊機將來會整合的一項技術之一,屆時將可擴大消費者的吸引力。

[20240222] iPhone摺疊機透露機會,開發折疊產品已長達5年,最快在2026年9月發表《Alphabiz》透露蘋果有望打破「折疊iPhone開發不順」傳聞,Vision Pro團隊的許多核心人員已被指定參與摺疊機的開發。除非情況發生變化,否則蘋果的摺疊機將於2026年9月推出。蘋果考慮將摺疊機的出貨量目標訂為5000萬支,但若在開發過程中遇到重大障礙,所有這些計畫都可能被迫放棄。蘋果不願推出折疊產品的主因,是因為在意折疊面板的品質。對於摺疊產品,蘋果已經開發至少5年,依據產品線不同,分不同部門負責。近期摺疊產品設計已在收斂,開始進入量產準備的跡象,最快也要等2025年才會問世,且初期將是平板或NB(應是非手機的大尺寸產品最快),而手機則在2026年推出。


蘋果折疊螢幕的研發,已採購幾間廠商的設備進行研究,不過面板對螢幕測試卡關,導致iPhone折疊機項目又遇挑戰。目前分析折疊iPhone與傳統iPhone所需的關鍵零組件最大的差異,就是新增軸承,台灣軸承廠新日興是蘋果最大軸承夥伴,將成大贏家。

折疊產品的硬體設計有兩關鍵,一為軸承(Hinge),二為面板,軸承設計在三星、華為等廠商推出多款折疊機產品後,不僅技術日趨成熟,良率也明顯提升,唯一問題在面板,能否過關得看蘋果對產品完美的要求程度。

非蘋品牌折疊機百花齊放之際,先前已傳出蘋果積極串聯台灣與南韓供應鏈能量,加速開發首款折疊iPhone。台廠方面,先鎖定折疊機最關鍵的零組件軸承供應商,陸續要求國內軸承三雄新日興、兆利、富世達送樣。其中,新日興與蘋果在軸承領域合作多年,奪單呼聲高,預料將成為大贏家;南韓三星也協助開發首款折疊iPhone用顯示器。

從Samsung Electronics、華為領頭的折疊機風潮愈來愈旺,在5G話題逐漸退燒下,折疊成為近期手機品牌最佳行銷特點,由於蘋果摺疊機預計還要等上2年的時間,而對手三星目前的摺疊機已經是第5代,而等到蘋果在2026年推出首支摺疊機之際,三星的摺疊機可能已經進行到第8代。蘋果主要擔心的可能是折疊機的盈利能力,以及如何利用可折疊 iPhone 的銷售,同時向客戶收取 iPhone 15 Pro Max 等型號的溢價,而不是折疊螢幕的耐用性。

然而,折疊機銷售確實也闖出佳績,以中國市場銷售為突出。IDC統計,2023年第4季中國折疊機出貨達277.1萬支,年增149.6%。蘋果堅持品質下,不肯輕易推出,這是可以理解,因為除了摺疊機外,近期AI熱潮下的Android手機品牌,華為、OPPO、小米、vivo、榮耀與三星紛紛喊出AI手機,但是蘋果iPhone卻遲遲無推出自己的AI手機。因為蘋果對於產品的要求畢竟和其他廠商快狠準思維不太相同。當初2007~2008年,iPhone就以品質為名橫空出世,震撼所有人,使蘋果品牌效應重新回升。放眼手機市場,iPhone這把倚天劍不出,誰與爭鋒呢?

Key:
  • Counterpoint Research數據,2023年全球折疊機出貨量年增25%,達1,590萬支,三星雖以66.4%市佔率位居第一,但與2022年80%相比大幅減少。
  • DSCC則預測,2024年第1季華為透過Mate X5、Pocket 2等提高市佔率,將超越尚未推出新產品的三星,成為折疊機市場第一。
  • IDC的數據指出,2023年中國折疊式手機市場成長114.5%,出貨量達到700萬支。而在市佔率部分,華為則引領中國折疊機市場,緊接著是Oppo、榮耀、三星,接下來才是Vivo。另外華為Mate X5系列上市以後一直處於加價購買狀態,幫助華為鞏固2023年中國折疊機市場第一的位置,市場占有率達到37.4%。

2024年4月1日 星期一

蘋果的印度發展

 [20240401] 蘋果把目光朝向印度的iPhone業務

Counterpoint Research調研,2023年蘋果在印度智慧型手機市場市佔率約7%,銷售1,000萬支手機。除外,蘋果在印度高階手機市場的市佔率也正在提升。印度是第二大手機市場,僅次於中國。在中國、美國等主要市場需求放緩的同時,蘋果把目光看向印度的iPhone業務。2023年4月,蘋果在印度的首兩家直營店開幕,執行長Tim Cook還親自到場參與。

針對iPhone經銷商,蘋果的一套完整獎勵機制,可使經銷商順利賣出iPhone的同時,也獲得分潤。在高階機款當中,經銷商可以獲得4~6%的分潤;如果是200美元以下的手機,則可獲得6~10%的分潤。蘋果將經銷商分級,優良經銷商可獲得10%的分潤,大型連鎖店(Large Format Retail;LFR)可獲6~8%,授權的小型的業者則有4~6%。比較其他業者,Samsung Electronics提供8~10%的分潤,中國手機業者最高則是10%。

然而,蘋果現在透過鴻海、和碩等擴大合作,使近2023年7%或12-14%的iPhone都在印度生產,預計2024年在印度製造的iPhone比例將達到20-25%,這對印度來說是一個重大的飛躍。根據IDC統計,2023年蘋果在印度智慧手機市場的市占率由2022年的4.6%,提升到6.4%,是當地第六大智慧手機廠,出貨量達900萬支,年增率38.6%,平均單價為940美元。

iPhone成為首個出口超過50億美元的獨立品牌,並帶動印度手機總出口約120億美元,為代工合作夥伴鴻海(68%)、和碩(18%)、緯創(14%)帶來額外激勵資金。其中,印度經濟時報報導,若以離岸報價(FOB)計算,2023年在印度生產的iPhone價值超過120億美元,這超過之前預估的目標。而iPhone在2023年印度創下新高銷售,年增39%、達920萬支規模。iPhone在2023年印度市場表現亮眼,原因之一是本地化生產,蘋果的iPhone 13與iPhone 14是2023年出貨量前五名的機型之一[1]。

而印度政府祭出的智慧型手機生產獎勵連結(PLI)計畫,可能會促使蘋果在2025財年前,將其全球iPhone產量至少18%轉移至印度。印度將透過PLI計畫向蘋果供應鏈廠、三星等公司發放440億盧比補助,預計2024財年手機出口額將達140億~150億美元。

總而言之,印度對於iPhone的重要性是不言而喻的,鴻海的近期投資印度500億台幣擴廠,推測大手筆支出是為了加速iPhone產能,而2025年25%iPhone在印度生產的目標,進度可能超前嗎?

Key:
  • Counterpoint Research調研,2023年蘋果在印度智慧型手機市場市佔率約7%,銷售1,000萬支手機
  • 針對iPhone經銷商,蘋果的一套完整獎勵機制,可使經銷商順利賣出iPhone的同時,也獲得分潤。在高階機款當中,經銷商可以獲得4~6%的分潤;如果是200美元以下的手機,則可獲得6~10%的分潤。
  • 蘋果將經銷商分級,優良經銷商可獲得10%的分潤,大型連鎖店(Large Format Retail;LFR)可獲6~8%,授權的小型的業者則有4~6%。比較其他業者,Samsung Electronics提供8~10%的分潤,中國手機業者最高則是10%。
Reference:
[1] 20240219 iPhone印度出貨增 帶旺台鏈

2024年3月7日 星期四

NTT研究

 [20240307] 日本政府將廢除NTT法,全面私有化,能否令NTT朝向全球電信龍頭邁進?

2024年3月,日本內閣批准一項法案,以放寬 1984 年 NTT 半私有化過程中施加的法律限制。對這部已有 40 年歷史的法律的擬議修正案之一,包括廢除 NTT 公開披露其研發團隊成果的義務,以增強其全球競爭力。修訂法案還將允許 NTT 將不到三分之一的高階主管職位分配給外國人。該運營商目前只能任命當地國民擔任行政職務。廢除該立法的運動主要推動者是執政黨自民黨 (LDP)、 經濟產業省 (METI) 和 NTT 集團。 

因為<NTT法>是過時的法律,日本的主要業者受《電信商業法》管轄,但 NTT 也受到 1984 年半私有化之初頒布的另一套法規的約束。旨在限制當時的壟斷,允許引入競爭對手,同時確保普遍服務和日本控制。 該法要求固網、企業和行動業務分離。並須公開披露研究結果和政府強制持有至少三分之一的股份之外,圍繞NTT法的另一個爭論點是普遍服務條款,該條款要求這家電信巨頭繼續虧本提供固定電話服務。40年前(1984),固定電話至關重要,NTT 需要在全國範圍內提供服務,即使是在無利可圖的地區。隨著行動電話的廣泛普及,NTT 的固定電話收入早已下滑。

2022年《電信商業法》修訂後,NTT 法的這一部分變得更加多餘,將寬頻(例如光纖連接)指定為普遍服務。自民黨中的一些人呼籲完全廢除該法律,並將《電信商業法》修改為綜合法。其中,NTT 最大的抱怨之一是要求其公開其研究工作的結果,理由是該研究是由公共資助的,這多次阻礙與合作夥伴的合作。另一個是NTT的15萬名非日本員工被禁止擔任高階主管。 

然而,在修訂法案獲得批准後,這引起NTT的競爭對手,KDDI、樂天移動和軟銀立即發表聯合聲明,重申強烈反對擬議的修正案。其對該法案的提議表示深切擔憂,稱最終確定的修正案「必須設定時限」,因為這可能會導致倉促的討論,從而對日本電信業產生不利影響。因為其聯合聲明稱:「涉及公平競爭、普遍服務義務、限制外國投資等事項對國家利益和人民生活產生重大影響,包括從日本電信基礎設施安全的角度來看,有必要認真聽取各方的聲音。當地企業和公眾考慮此類問題。」這三家電信商將繼續反對『廢除』NTT法案,並強烈要求進行更仔細的政策討論。自 1984 年 以來,這三家業者一直在維護 NTT 的法律方面發揮著領導作用。

2023年10 月,這三個營運商與包括有線電視提供商、網路媒體公司和地方政府在內的177 個日本組織一起向自民黨計畫小組提交正式請願書,該小組的任務是審查該法律,並著眼於廢除該法律。請願書呼籲“進行充分且必要的討論”,目標是建立一個公平的環境來與 NTT 競爭,NTT 繼承了其作為上市公司時的資產和重要設施。

NTT全面私有化迫在眉睫,NTT 可能正在走上全面私有化的道路。然而,對於執政的自民黨來說,修改 NTT 法案的動機不僅僅是讓日本在 6G 競賽中領先。日本政府希望剝離在該公司的股份,以幫助資助不斷增長的國防成本。日本政府正在從 2027 年開始的財政年度將日本的年度國防開支增加一倍,達到國內生產總值的 2%,並計劃在未來五年內支出 43 兆日圓(3,010 億美元)。當時日本政府持有 NTT 34.25% 的股份最近估計為 4.8 兆日圓(328 億美元)。日本政府是該電信業者的單一最大股東。但在出售股票之前,必須修改《NTT 法》。出售股票將減少政府對 NTT 營運的影響,並有助於提高該公司的國際競爭力。

值得關切的是,若 NTT 的所有權規則發生變化,這是否人們會擔心日本的經濟安全。一些觀察家表示,如果允許外國公司(總共擁有 NTT 三分之一的股份)購買更多股份,它們增加的影響力可能會影響該電信公司的政策,這可能會對於日本未來的經濟安全產生疑慮,畢竟每個國家都有自己的國產保護措施,貿然開放,等同於讓其它別有用心的國家進行控制。這可能也是日本政府自己必須慎思的問題。

2024年3月4日 星期一

6G AI RAN研究

[20240325] Nokia、Ericsson的隱憂,對於Nvidia投入RAN開發
AI的興起使得Nvidia成為當今全球寵兒,其股價更是在近兩年內股價在短短兩年內仍上漲216%,目前估值約為2.2 兆美元。2024年3月8日來到974 美元時,隨後跌至不到880 美元。

Nvidia的GPU晶片除了成為生成AI的訓練器之外,而如今Nvidia也具備搶占電信設備的商機,因為有兩大原因。第一,在於「虛擬化的興起」,即在標準運算晶片上運行網路功能而不是專用硬體的能力;第二,「Open RAN」則為朝向多元供應商購買電信設備,以避免被單一供應商壟斷。


相較之下,Nvidia對於RU設備沒有興趣,但對於Virtual RAN\Open RAN的CU 和 DU的晶片和軟體則相對有興趣。Nvidia Aerial 是 Nvidia 5G/6G平台的品牌名稱,包括SDK[軟體開發套件]、硬體系統等。L1只是目前被稱為「Aerial CuPHY」的一個組件。名稱中的「Cu」是對 CUDA 的致敬,CUDA 是與 C++ 和 Python 等流行程式語言相容的 Nvidia 軟體平台。而Aerial 的Layer 1 軟體用於L1加速卡,這侵犯Ericsson或Nokia通常扮演的軟體角色。高通也有類似的第一層策略,在直接插入伺服器的智慧網路介面卡(SmartNIC)上提供晶片和軟體。

其實,只有在 GPU 發揮 AI 作用並且不僅僅用於 RAN 工作負載時,將 GPU 放入 RAN 才是經濟的。換句話說,Nvidia的成功取決於 GPU 是否需要支援電信邊緣的AI應用,但如今Aerial架構的出現,一切都變得未知,這提高Nvidia未來的發展潛力。而目前的L2和L3以及傳輸功能,可用 Intel x86 來實現,也可使用 AMD CPU、Arm 核心來實現,現在也可用 Nvidia CPU 來實現,而Nvidia Grace Hopper 的超級晶片,兼具CPU與專用晶片的功能,建構軟體虛擬化。

然而,Nvidia已經新成立一個名為 AI-RAN聯盟的組織,又推出「6G 研究雲端平台」,這將包括用於將AI入類似 6G 技術的各種 Nvidia 工具,以及用於研究 6G 的完整 RAN 堆疊,這看得出Nvidia想要搶奪電信設備商機。此外,Ericsson和Nokia對Nvidia的吸引力以及對 AI-RAN 聯盟的參與,主要是出於將AI應用程式引入 RAN 的興趣,而Ericsson與Nokia對於Nvidia的投入電信設備開發其實是隱隱感到擔憂的,尤其是對於Nvidia在L1加速卡部分以及整個vRAN軟體架構發展上。但如今AI風氣盛行,傳統電信設備商Ericsson與Nokia也只能全力投入這股AI RAN浪潮而發展。

[20240322] Nvidia建構6G研究平台,推進AI RAN發展
NVIDIA宣布推出 6G 研究平台,為研究人員開發下一階段無線技術提供新穎方法。NVIDIA 6G 研究雲端平台,開放、靈活且互聯,為研究人員提供一個全面的套件。

該平台使組織能夠加速 6G 技術的開發,從而將數兆台的設備與雲端基礎設施連接起來,為由自動駕駛汽車、智慧空間、廣泛的延展實境、沈浸式教育體驗和協作機器人所支持的超智慧世界奠定基礎。

連網設備的大幅增加和 6G 技術新應用的出現,將需要在無線通訊中大幅提升頻譜效率。而實現這一目標的關鍵是使用AI軟體定義的全 RAN 參考堆疊下一代數位孿生技術

Ansys、Arm、蘇黎世聯邦理工學院、富士通、是德科技、諾基亞、美國東北大學、羅德史瓦茲、三星、軟銀和 Viavi 都是其首批採用組織和生態系統合作夥伴。

NVIDIA 6G 研究雲平台由三個基本元素組成:第一,適用於 6G 的 NVIDIA Aerial Omniverse 數位孿生。做為參考應用程式和開發人員範例,Aerial Omniverse 數位孿生可對從單塔到城市規模的完整 6G 系統進行實體精確模擬,結合軟體定義的 RAN 和使用者裝置模擬器,以及真實的地形和物件屬性。使用 Aerial Omniverse 數位孿生,研究人員將能夠基於特定站點的資料模擬和建立基地台演算法,並即時訓練模型以提高傳輸效率。其中,Ansys致力透過將尖端的 Ansys Perceive EM 求解器無縫整合到 Omniverse 生態系統中來推進 6G 研究雲的使命。

第二,NVIDIA Aerial CUDA 加速 RAN:軟體定義的全 RAN 堆疊,為研究人員即時自定義、程式設計和測試 6G 網路提供了極大的靈活性。

第三,NVIDIA Sionna 神經無線電框架:該框架可與 PyTorch 和 TensorFlow 等主流框架無縫整合,利用 NVIDIA GPU 生成和獲取資料,以及大規模訓練 AI 和機器學習模型。其中也包括 NVIDIA Sionna,這是一款領先的鏈路級研究工具,可使用在基於 AI或機器學習的無線模擬。

然而可以發現的是,沒有通訊晶片高通、聯發科的身影,這主要是以傳統電信設備商和伺服器廠商的電信伺服器雲端為主,其提倡AI改變RAN的合作模式。這基本上也是架構於先前NVIDIA倡導的AI RAN。不過在這場遊戲之中,NVIDIA看起來計劃建構一連串軟硬體架構,以朝向推進RAN技術的AI發展。


[20240304] AI-RAN聯盟為6G必要發展趨勢

輝達 、亞馬遜、Arm、微軟聯手成立 AI-RAN 聯盟,這聯盟致力於改進AI的蜂巢網路技術,顯示大型科技公司共同努力,鞏固自己在AI熱潮中的地位。此創始成員還包括愛立信、三星、諾基亞、東北大學、軟銀、T-Mobile和 DeepSig。

這一新的聯盟將合作開發創新的新技術,以及將這些技術應用到商業產品中,為即將到來的 6G 時代做好準備。該聯盟的目標是「提高行動網路效率、降低功耗並改造現有基礎設施,為電信公司在 5G 和 6G 的推動下,利用人工智慧釋放新的經濟機會奠定基礎」。

聯盟中的網路營運商將帶頭,測試和實施這些透過成員公司和大學集體研究開發的先進技術。AI-RAN 聯盟設立三個工作組進行技術研究:AI for RAN、AI and RAN、AI on RAN,其中 AI for RAN 將專注於利用 AI / ML 的技術,以提高 RAN 的頻譜、成本和能源效率。

AI-RAN 聯盟的成立,正值多家科技巨頭尋求合作夥伴關係,以增強其利用人工智慧產品和服務不斷增長的需求的能力。萬物聯AI,成立AI聯盟很明顯看出是以美國為主,但是三大電信設備商Nokia、Ericsson、三星也都同時加入,這也表示這是以AI美國廠商為主,外加上RAN電信設備商。

2024年2月27日 星期二

聯發科與高通對決研究

[20240328] 高通Snapdragon 7+Gen 3與Snapdragon 8s Gen 3打造中階手機能獲得生成式AI功能
高通推出新一代Snapdragon 7+Gen 3行動平台是基於台積電4奈米製程打造的中階價位、旗艦等級晶片組,由1顆2.8GHz的Cortex-X4、4顆2.6GHz的Cortex-A720和3顆1.9GHz的Cortex-A520,共8顆核心所組成。其中提供的AI輔助,讓中階手機也能獲得生成式AI功能。一加、Realme和夏普(Sharp)已證實,近期會陸續推出搭載Snapdragon 7+Gen 3的手機產品。

而高通推出Snapdragon 8s Gen 3行動平台,首發機款將由小米搶下,預計就會在2024年3月推出終端商用,後續榮耀、iQOO、realme、紅米等也會陸續推出新品,鎖定500~1000美元的陸系品牌中階手機,由於此塊市場向來是競爭對手聯發科的大本營。

高通的Snapdragon 7+Gen 3整體效能雖不如Snapdragon 8s Gen 3和目前旗艦機採用的Snapdragon 8 Gen 3,不過相較前代的Snapdragon 7+Gen 2,Snapdragon 7+Gen 3的CPU效能提升15%、GPU效能提升45%

Snapdragon 7+Gen 3搭載高通的Snapdragon電玩加速器和Adreno Frame Motion Engine 2.0,在不過度耗電的情況下,提供更新率120 Hz的QHD+解析度。不過Snapdragon 7+Gen 3並不支援更高品質串流影像和效率更佳的AV1解碼技術。

生成式AI技術方面,Snapdragon 7+Gen 3可處理使用70億條參數的LLM,支援Baichuan-7B、Llama 2、Gemini Nano、智譜ChatGLM、Stable Diffusion等模型,以及基於生成式AI的虛擬助理、多語言翻譯、語音轉文字等功能,不過處理速度和功能的多樣性,仍不如旗艦款Snapdragon 8s Gen 3所能提供的輔助。

攝影功能方面,Snapdragon 7+ Gen 3具備和Snapdragon 8s Gen 3一樣的三重圖像訊號處理器(ISP),可在3顆鏡頭組成的鏡頭組間無縫切換,處理單顆2億畫素或3顆3600畫素影像。但Snapdragon 7+ Gen 3不支援8K影片拍攝,最高支援4K影像拍攝。

Snapdragon 7+ Gen 3搭載和前代Snapdragon 7系列同樣的Snapdragon X63 Modem-RF數據機系統,在5G連線的下行鏈路(Downlink;DL)最快可達4.2 Gbps。Wi-Fi連線部分也是採用與前代相同的FastConnect 7800,支援頻寬6GHz、5GHz和2.4GHz的Wi-Fi 7連線,最高傳輸速度可達5.8 Gbps。

此外,隨著聯發科與Google 的共同合作與優化,由Google所研發的Gemini Nano AI 大語言模型與專屬AI Core套件並率先整合於聯發科的天璣8300中階處理器與天璣9300旗艦處理器上。這意味著,搭載聯發科天璣8300中階處理器的中階安卓手機,在獲得Gemini Nano AI 技術的支援與運行下,很快地將能帶來具備有媲美高階旗艦手機般的AI應用操控體驗。

目前市售中階安卓手機搭載聯發科天璣8300中階處理器的機型,主要有三款皆為中國手機品牌,預期將有望成為首批具備有AI功能應用的中階手機。其中,有兩款皆已發表上市,分別為紅米 Redmi K70 系列中的 6.67 吋Redmi K70E(2023年11月發表、台灣尚未引進),還有 6.67 吋萬元出頭平價中階的Poco X6 Pro 5G(今年2024年一月在台上市)。另一款則是傳出預計在今年2024六月正式發表的OPPO Reno 12 系列。

整體而言,高通與聯發科都已經宣稱AI手機的中階機款時刻來臨。高通本次積極的大動作,無疑是不滿足於手機應用處理器(AP)「銷售額」王頭銜,在總量成長進入高原期之際,高通對於「銷售量」的企圖心也開始蠢蠢欲動。高通與聯發科的互相較勁,將使未來將會更進一步提升AI手機的滲透率。

[20240313] 高通與聯發科手機升級版旗艦SoC意義,背後隱含生成式AI快速發展
高通在中國發表新品有固樁的意味,因為過去幾年聯發科的新品發表都選擇在中國舉辦,這將能有效拉近與消費者和品牌客戶、供應生態系的關係。因此,此次高通高調舉辦發表會,也可以看出高通方面有擴大AI手機宣傳力道,爭奪市場與技術話語權的意圖。但對於廣大消費者來說,更重要是能夠帶來明確的生產力提升,或截然不同的手機使用體驗。

此外,華為也是高通在中國市場的一個變因。雖然華為2022年和2023年分別向高通採購2300~2500萬片以及4000~4200萬片搭載智慧手機的驍龍SoC,但是預計2024年華為將全面採用自家晶片,這表示高通未來將完全失去華為訂單。為穩固中國市場,高通很可能選擇降價求售,代表利潤將會減少。

另外值得注意的是,高通這次新品發表會揭露驍龍8s Gen 3驍龍7+ Gen 3等兩款新品,定位中高階價位,以高性價比搶市。「驍龍8s Gen 3」應是現有「驍龍8 Gen 3」升級版,與前一代同樣採用台積電4奈米製程打造,搭載與「驍龍8 Gen 3」同級的超大核心Cortex-X4,GPU為Adreno 735,理論上更省電。

過去幾年升級版旗艦SoC多半都是原有產品的微調升級,製程、架構都不太會有大改的情況發生,因此需求的好壞,基本上就會是前一年底旗艦SoC新品的延伸,兩家品牌勝出的一方,基本上就不會在升級版的產品上被逆轉。因此升級版SoC的市場關注度一直都不算太高,但因為生成式AI功能的演進速度實在太快,每一季都會有新的進展,受重視的程度就與過去大大不同。

現階段來看,高通除掌握Samsung Electronics旗艦手機的獨家供貨權之外,在中系手機品牌確實是有被聯發科逐步追上的情況,無論是導入機種數量,還是價格帶都有往上提升的趨勢。高通勢必得強化在中國市場的行銷力道,以及對中國品牌客戶的溝通,才能穩固在旗艦手機市場的領先地位。

2024年上半的升級版旗艦SoC,自然成為下半年雙方3奈米新品的前哨戰,手機供應鏈業者直言,過去軟體或系統的表現,多半都是手機品牌彼此競爭才會關注的內容,現在已經延伸到手機SoC業者身上,誰能推出更完整的AI平台,重要性不亞於晶片的硬體設計能力。

而雙方在下一代產品,同步進入台積電3奈米世代,高通也將跟進聯發科的全大核運算架構,並改採自家設計三年的CPU核心架構Oryon,和聯發科採用的Arm公版處理器是否能拉開差距,將是下一代高通的驍龍8 Gen 4與聯發科的天璣9400觀察重點。

預計聯發科的「天璣9400」可執行大型語言Llama 2 7B, 處理速度達12至15 tokens/s ,沿用八大核架構,將包括一顆Cortex-X5、三顆Cortex-X4、四顆Cortex-A720。高通的「驍龍8 Gen 4」CPU架構為自研晶片Oryon(原Nuvia產品),邊緣AI引擎為HTP5,另含一處理更低功耗(100+ GOPs)指令集晶片LPAI,負責低功耗指令。

此外,目前值得關注的是高通已投入AI PC和自動車領域,也建構其相關生態圈,但是聯發科在這方面確實還是落後許多,聯發科急起直追而股價也不斷創新高,股價最高曾站上1260元。

[20240227] 現代版屠龍刀倚天劍之爭,聯發科與高通的AI手機大戰

聯發科(MTK)與聯發科(Qualcomm)在手機系統單晶片競爭多年,從白牌手機、照相手機、多功能智慧手機,特別是Meta在2023年宣布Llama 2大型自然語言模型採開源規範後,AI應用成為競逐焦點,如今雙方在2024 MWC展更是在AI生成式功能中爭鋒不斷。

聯發科在2024 MWC展示手機生成式AI相關技術內容,並發表新款的5G射頻SoC平台T300,展示5G CPE平台T830的實際表現,以及衛星寬頻通訊、6G通訊情境等。

高通最新驍龍Snapdragon 8 Gen 3晶片,為高通首款以生成式AI為核心之行動平台,採用台積電 N4P 製程,採用 1+5+2 之CPU設置,由1大核心(Cortex-X4)、5個中核(Cortex-A720)和2個小核心組成。MWC會展示最新的AI技術成果新品發表包括最新的5G數據機射頻SoC平台X80,以及Wi-Fi 7新平台FastConnect 7900,兩者也都有導入AI技術來強化整體的表現。

最受關注的生成式AI方面,雙方均內建預訓練AI於2023年度新晶片之內,可於邊緣裝置部屬小規模AI訓練,舉凡圖片修補、生成式人工智慧、語音降噪等功能,不論是高通或聯發科,皆試圖成為引領手機AI新時代推手。

因此,目前聯發科和高通的競爭路徑發展一致,雙方都是圍繞著自家的AI平台來升級對客戶的服務品質,尤其高通在平台端的宣傳更加熱烈,全新推出的「Qualcomm AI Hub」包含一個完整且預先最佳化的AI模型資料庫,內含超過75個目前最熱門的生成式AI模型,方便所有採用高通硬體平台的開發者快速導入使用,縮短生成式AI產品進入市場的時間;而聯發科的Neuropilot AI平台,也正在持續擴充自家的生成式AI模型儲備及技術。

雙方針對如何提高生成式AI在手機上的表現,皆將整合LoRA(Low-Rank Adaptation)技術,這項技術概念是由Microsoft所提出,為的是讓原本的生成式AI模型,能夠透過額外訓練一個更小的模型,來有效率地微調最終的生成結果。

比方說在Stable Diffusion這類的AI製圖應用,就可以透過LoRA做出更精確的圖片調整,這樣的做法不僅可以提供使用者更好的生成式AI體驗,同時也大幅減少運算的記憶體負擔,這項技術對於生成式AI走入邊緣端的趨勢能否進一步加快,可說是非常重要。

然而,根據Counterpoint Research日前公布資料,指2023年Q1全球行動AP市場,聯發科以32%市佔率位居第一,其次則是高通(28%)及蘋果(26%),三星市佔率4%,為2021年第4季以來新低,主因或可歸咎Galaxy S23系列全數採用高通處理器。其次,高通AP主要交由台積電、三星代工,高通則是三星晶圓代工事業部的最大客戶,藉訂單遊走於台積電和三星之間,可望最大程度地降低AP生產成本。反較聯發科並無遊走台積電與三星間,只專注於項台積電投片。

最後,雖然高通、聯發科等晶片商,早已推出足以處理上述AI應用所需的手機晶片組,但想要直接在手機上運行資料量龐大的LLM和生成式AI,就需要突破現有的記憶體資料提存技術,讓手機僅憑有限的儲存容量,也能處理龐大數據資料。率先突破這項技術的廠商,就有機會成為AI手機市場的領頭羊,這也是蘋果先前提出論文的解決之道重點。屠龍刀與倚天劍究竟誰與爭鋒,這可能要在這AI手機大戰後,才能知曉一二。不過,由AP市場而言,聯發科是略為佔上風。

Key:
  • 高通Snapdragon 7+Gen 3行動平台是基於台積電4奈米製程打造的中階價位、旗艦等級晶片組,由1顆2.8GHz的Cortex-X4、4顆2.6GHz的Cortex-A720和3顆1.9GHz的Cortex-A520,共8顆核心所組成。其中提供的AI輔助,讓中階手機也能獲得生成式AI功能。一加、Realme和Sharp近期會陸續推出搭載Snapdragon 7+Gen 3的手機產品。
  • 高通推出Snapdragon 8s Gen 3行動平台,首發機款將由小米搶下,預計就會在2024年3月推出終端商用,後續榮耀、iQOO、realme、紅米等也會陸續推出新品,鎖定500~1000美元的陸系品牌中階手機。

  • 過去幾年升級版旗艦SoC多半都是原有產品的微調升級,製程、架構都不太會有大改的情況發生,因此需求的好壞,基本上就會是前一年底旗艦SoC新品的延伸,兩家品牌勝出的一方,基本上就不會在升級版的產品上被逆轉。因此升級版SoC的市場關注度一直都不算太高,但因為生成式AI功能的演進速度實在太快,每一季都會有新的進展,受重視的程度就與過去大大不同。
  • 聯發科與高通同步進入3奈米世代,高通也將跟進聯發科的全大核運算架構,並改採自家設計的CPU核心,和聯發科採用的Arm公版處理器是否能拉開差距,將是下一代高通的驍龍8 Gen 4與聯發科的天璣9400觀察重點。此外,目前值得關注的是高通已投入AI PC和自動車領域,也建構其相關生態圈,但是聯發科在這方面確實還是落後許多。
  • 高通在平台端的宣傳更加熱烈,全新推出的「Qualcomm AI Hub」包含一個完整且預先最佳化的AI模型資料庫,內含超過75個目前最熱門的生成式AI模型,方便所有採用高通硬體平台的開發者快速導入使用,縮短生成式AI產品進入市場的時間;而聯發科的Neuropilot AI平台,也正在持續擴充自家的生成式AI模型儲備及技術。

2024年2月23日 星期五

iPhone與Android之爭

[20240301] 蘋果在MWC的警訊,終止第三度蟬聯年度最佳智慧型手機的頭銜

近期,蘋果警訊是在2024年的世界行動通訊大會(Mobile World Congress, MWC)中頒發的GLOMO Award(全球行動通訊大獎),蘋果並未能第3度蟬聯年度最佳智慧型手機的頭銜(蘋果在2023、2022、2018年皆獲得此獎)。2024年的最佳智慧手機大獎由Google Pixel 8所奪得,顯現市場對於蘋果推出的iPhone系列產品已經出現疲態。

近年iPhone系列產品最為市場詬病的問題之一,就是缺乏創新性。這可能原因是因為包括在電動車等不同領域的多項投資而分散了研發創新力量。不過,若蘋果真能藉由終止汽車計畫,將相關資源、人力重新聚焦回到智慧型手機等ICT領域中,重新讓後續的新款產品與其他競爭者間產生實質的差異化。一旦蘋果能藉由重新聚焦,在市場上再次掀起新的風潮,自然也能重新帶動iPhone系列產品在市場上的競爭力,對於仍是主要代工業者的鴻海而言,所能帶來的直接效益自然更為明顯。

因此,鴻海和緯創、廣達這些股價上漲的公司相較,鴻海並沒有大幅上漲。很大的原因就是蘋果表現並沒有很理想。過去,蘋果一人得道升天,帶領著眾多台股廠商同樣上漲。如今,蘋果的AI優勢不再,自然相關蘋果概念股也黯淡失色不少。

[20240223] iPhone影響力下降?Android使用者跳槽iPhone下降 

消費者智庫CIRP數據顯示,Android用戶改投靠iPhone比率來到5年新高點15%之後,已出現微幅下滑,減少2%,達13%。

2019年Android用戶改使用iPhone的比率為13%,2020與2021年比率降至11%,但2022年又上升至15%,2023年才又下滑至13%。無論Android與iOS如何攻防,理想狀態是Android用戶持續留在Android陣營,但是美國青少年人口普遍容易青睞iPhone,而且極低比率的iPhone用戶有意願改投靠Android裝置。因此,最好只能期盼OEM能設法讓Android用戶持續滿意,不會想要投靠iOS。

2022年,美國市場上iPhone用戶首度超越50%,當中無疑包括來自許多Android陣營的用戶。評論指出,報告提到的「13%」並非代表在美國,有13%的Android用戶改投靠iPhone,而是指在2023年購買新iPhone的買家中,有13%之前是Android裝置用戶。另外,多數先前使用的是iPhone,而極少數用戶之前是使用功能型手機。

分析數據涵蓋每年在不同系統的轉換用戶,至於Android裝置是否能在2024年持續反將iPhone一軍也值得觀察,因為Samsung Electronics Galaxy S24系列在2024年1月推出後獲得好評,甚至在客戶滿意度得分上,還比iPhone 15與15 Pro表現更佳,都是一大利多。

速度決定一切,假如iPhone沒有持續增加新的功能,如AI手機、摺疊機等。那蘋果的吸引力將會下降。雖然蘋果很在意品質,但是若是沒有注意市場變化,讓Andriod陣營站穩市場,後續Apple可能會很難追上,這值得iphone深思。

2024年2月19日 星期一

iPhone 手機研究


[20240219] iPhone手機攻兩萬元以下低階手機,手機市場越來越不健康,失去多元發展

蘋果有意要擴大iPhone 16系列,打算把SE系列融入其中,擁有5款機型。這五款機型分別是:iPhone 16 SE、SE PLus、16、16 Pro和16 Pro Max。傳iPhone 16與iPhone SE將合併推出平價iPhone:續航激增、繼續採用8GB記憶體。

iPhone 16 SE 和 iPhone 16 SE Plus 將面向低端市場,成為該公司的經濟型 iPhone產品線。iPhone 16 SE(6.1英吋)、SE PLus(6.7英吋)都是後置單鏡頭、螢幕只有60Hz,售價iPhone 16 SE 128GB為699美元(約台幣2萬2000元)、iPhone 16 Plus SE 256GB為799美元(約台幣2萬5000元),為的是佔領中低階的手機市場。

iPhone SE 系列將採用與 iPhone 16 相似的設計,螢幕上將顯示動態島(Dynamic Island)。不過,該裝置的背面僅配備了單相機鏡頭。下一代 iPhone SE 仍將採用 60Hz 螢幕,因為蘋果歷來僅為高階機型保留更新率更高的面板,例如蘋果還沒有為 iPhone 15 和 iPhone 15 Plus 提供更新率更高的螢幕,而這兩款產品的售價相對高於競爭對手的產品。

iPhone 16 Pro Max電池容量將達到4676mAh,比前代產品增加5%,相信蘋果可以再一次提升裝置的整體續航時間。

此外,iPhone 16 Pro的細節還包括:該機將繼續採用8GB記憶體,並且蘋果將採用新型鈦合金製造工藝,從而進一步降低成本。蘋果iPhone 16 Pro將迎來重大影像升級,首次搭載兩顆48MP感測器,而長焦鏡頭仍為12MP。(分辨率48mp是4800萬像素的意思,MP是百萬簡稱)

蘋果不只針對中高階手機市場有興趣,如今更攻戰安卓的低階市場手機,未來將市場將如何反應,將令人好奇。不過,對於市場變化而言,單一品牌壟斷市場,並非消費者之福。

2024年1月30日 星期二

Intel在Cloud RAN布局與觀測L1加速器發展

 [20240130] Intel 網路部門營收虧損,Open RAN/Cloud RAN發展受阻

Intel向美國證券交易委員會 (SEC) 提交的文件顯示,由於支出放緩,Intel的網路和邊緣部門營業利潤從2022年的10億美元轉變為2023年的虧損 5 億美元。在銷售額從2021年的77億美元成長到2022年的84億美元後,2023年的營收也大幅下滑26億美元,降至 58 億美元,2023年網路和邊緣產品僅佔英特爾收入的 11%。此外,在 PC、資料中心和人工智慧晶片銷售額下降 57 億美元之後,英特爾收入下降 14%,至 542 億美元。在人工智慧領域,Intel來自NVIDIA的挑戰比任何事情都更令人擔憂。

Intel目前也處於成本節約模式,2023年裁員 7,100 人,截至2023年12 月底,員工人數達到 124,800 人。2023年時,英特爾聲稱佔據所有vRAN 部署的 99% 。 Altiostar(現為日本樂天公司所有)、Mavenir和 Parallel Wireless等 RAN 開發商,最初基於英特爾的 FlexRAN 參考設計構建其軟體。

此外,Granite Rapids D是即將推出的專門針對Cloud RAN 的英特爾晶片系列,其在定制伺服器中結合眾多硬體設計,包括 FEC 硬體加速、快速傅立葉變換 (FFT) 和探測參考訊號 (SRS) 功能與一個用於前傳連接的400Gbit/s 乙太網路控制器,以及用於加密的行動密碼。

由於,考慮到英特爾在市場中的巨大作用,對Cloud RAN業務的任何減少都可能會擾亂整個Open RAN生態系統,不過可發現的是Intel正為所支持的後備型加速卡(Lookaside)所努力,避免ARM Base的Inline陣營後來居上。Intel未來將為Ericsson生產基於 2 奈米設計的專用 5G 晶片,為Cloud RAN 開發的Xeon 處理器不會馬上出現,基於AT&T與Ericsson合作的Open RAN 140億計畫,預估將在2026 年才會推出用於AT&T電信網路布署的Intel 5G專用處理器。

Key:

  • 由於支出放緩,Intel的網路和邊緣部門營業利潤從2022年的10億美元轉變為2023年的虧損 5 億美元
  • 2023年的營收也大幅下滑26億美元,降至 58 億美元,2023年網路和邊緣產品僅佔英特爾收入的 11%。此外,在 PC、資料中心和人工智慧晶片銷售額下降 57 億美元之後,英特爾收入下降 14%,至 542 億美元。
  • Intel於2023年裁員 7,100 人,截至2023年12 月底,員工人數達到 124,800 人。
  • Granite Rapids D是即將推出的專門針對Cloud RAN 的英特爾晶片系列,其在定制伺服器中結合眾多硬體設計,包括 FEC 、FFT和SRS功能與一個用於前傳連接的400Gbit/s 乙太網路控制器,以及用於加密的行動密碼。
  • Intel未來將為Ericsson生產基於2奈米設計的專用 5G 晶片,預估將在2026 年才會推出用於AT&T電信網路布署的Intel 5G專用處理器。


2024年1月17日 星期三

晶心科技(Andes)研究

[20240117] 晶心科技營收破十億,年增13.5%

2024年1月,處理器核心業者晶心科推出最新高性能AndesCore AX65處理器IP產品,AndesCore AX65 亂序執行、超純量、多核心處理器 IP,目前已授權給多媒體和 AI/ML 領域客戶;市場傳出,該授權客戶就是 Meta(META-US),另外AX65產品已經獲得歐洲與亞洲客戶採用。

自 2023 年 8 月以來,亞洲、歐洲和美國均有客戶評估 AX65,目前已有多媒體和人工智慧 / 機器學習領域的客戶獲得授權。現在支援 Linux 和 RTOS 的 AX65 及其開發工具已正式導入市場,可立即提供一般性授權使用。

晶心科2023年合併營收為10.57億元,年增13.5%,但其實2023年累計前11月業績僅年增不到2%。該公司2023年12月業績之所以可大拉尾盤,AX65所帶來的貢獻就是重要動能之一。

AX65 是晶心科的第一個推出的亂序執行處理器,與廣受歡迎的 45 系列處理器相比,在 SPECint2006 上帶來超過 100% 的效能提升。此次也標誌著公司處理器系列效能的飛躍式提升, 憑藉 OoO 架構,可以著眼更多高效能目標市場,如 AI/ML、多媒體、網路應用和高階儲存等。

AX65 是高效能亂序處理 AX60 系列中的首款產品,AX65最多可同時支援高達8核心,配備 13 級流水線、4-wide 解碼、8-wide 亂序執行,目標市場為 Linux 平台上主應用處理器、網路和高階控制器,2023年 12 月獲得 EE Times Asia 頒發的「年度最佳 IP / 處理器」獎項。目標市場為Linux平台上的主應用處理器、網路和高階控制器,一推出就有亮眼成績,獲得歐洲與亞洲客戶採用。

為滿足客戶需求,AX65可強化 CPU 產品陣容,涵蓋低功耗嵌入式到高階亂序執行處理器,對於開發複雜 SoC 的客戶,可以使用 AX65 作為主要 Linux 應用處理器,並使用 AX45MPV/NX27V 進行向量 / DSP 處理,或使用 N25/N225 處理器作為資源和電源管理器。

AX65 在採用 12 奈米製程時,運行速度可超過 2.0GHz,SpecInt2006 得分為每 GHz 8.25 分,憑藉高效的記憶體子系統結構,其整體性能優於 Cortex A75。AX65 最多可同時支援高達 8 核心,最大可共享 8MB 的快取記憶體並支援快取一致性,也完全符合 RISC-V RVA22 之要求,可確保與 RISC-V 生態系統內的作業系統和軟體的相容性。

在安全性方面,AX65 支援增強型 PMP (ePMP) 以進一步保護記憶體存取,並支援 K 指令集擴展 (純量加密),以加速 AES 和 SHA 的加密操作;同時,為了在 Linux 作業系統上運行,AX65 支援 VIPT L1 指令快取、SV48 虛擬位址空間,和具有同步硬體 page walkers 的 2 級 TLB (Translation Lookaside Buffer)。

AX65 還結合最先進的分支預測機制 (branch prediction),具有 TAGE-L 演算法、返回位址堆疊 (return address stack),和 2 級分支目標緩衝區 (2-level branch target buffer)。AX65 作為主控制應用處理器,可應用的範圍包括 Wi-Fi、5Gnr 和 O-RAN 等網路應用,以及邊緣運算、工業電腦及嵌入式應用[1]。

晶心科在嵌入式控制器和高效能 AI 向量處理器方面取得成功,看好隨著 RISC-V 生態系統在 Linux 應用的日趨成熟,對於通用性的高效能 RISC-V 處理器需求不斷增加。透過自家 CPU 完整系列,客戶能夠簡化開發流程,同時受惠整合支援,大幅降低開發成本。

董事長暨執行長林志明表示,所有 RISC-V IP 供應商中,晶心科推出第一款支援數位訊號處理 DSP 的處理器 D25F、推出第一款向量處理器 NX27V,也推出第一款完全符合 ISO 26262 的功能安全車規處理器 N25F-SE,皆在市場上有非常出色的表現。

儘管晶心科不是第一個推出亂序執行處理器的公司,但林志明看好,公司還是以穩健的速度進行了發展與發布,這樣的穩健步伐,使公司不需要常常改組團隊,客戶也可以信賴 Andes,視我們為長期供應商和合作夥伴,滿足他們所有 RISC-V 處理器的需求。

以上晶心科的A65的處理器IP產品確實值得外界期待,如今獲得Meta客戶的認可,將來勢必會有更多的客戶採用晶心科的產品,對於台灣的這家處理器公司,國人應該給予熱情支持。如今,晶心科股票大漲,而2023年8月聯發科將晶心科處分持股以420.5元,對照今日股價最高532元而言,卻是低了將近100元左右,少賺了1.6億元(1652*10萬=16520萬),這不免有點可惜。

[20230829] 聯發科與晶心科關係轉淡,但仍為晶心科第一大股東

晶心科成立於2005年,聯發科旗下翔發原是其第一大股東,持股比率約11.17%。這次翔發共出售晶心科持股1,652張,每股出售價格為420.5元,總交易金額為6.94億元,處分利益6.6億元。在上述售股之後,若晶心科持股第二大、但非董事的自然人股東凃水城對其持股無變動,則翔發仍維持是其第一大股東的地位,惟持股比率降到7.91%,持有約4,005張。

此次處分晶心科股權,由於在會計處理上認列在財報的其他綜合損益項目,雖然這次的處分利益會增加聯發科的股東權益,但對於稅後純益與每股獲利都不會有挹注。

晶心科在2017年上市時,因為是聯發科轉投資事業而受到市場注意。到2021年7月改選之後,由於聯發科董事長蔡明介卸任晶心科董座,依照法規,在此之後聯發科就不再算是晶心科的關係人,但仍是該公司客戶。

商場上無永遠的朋友,如今聯發科透過翔發而賣晶心科股票,外則會計處理,但實則轉淡關係逢高而賣。淨賺6.6億元實則是個好買賣。不過晶心科的CPU專業可為全台唯一,應多鼓勵、多投資,若晶心科股票逢低時建議買進。

Reference:
[1][20240116]晶心科推亂序多核處理器架構 獲AI大廠採用
https://news.cnyes.com/news/id/5432072

2024年1月3日 星期三

AI PC研究

 [20240103] AI PC元年,Intel Core Ultra 全面帶動周邊元件升級

「AI PC元年」將至,台廠四大PC品牌宏碁、華碩、微星、技嘉也推出新品,搶進AI PC商機。華碩一度衝達502元,創下1998年6月以來、逾25年新高。

晶片大廠Intel日前發表為生成式人工智慧(AI)、個人電腦(PC)及伺服器所開發的新晶片,主打AI PC與AI伺服器效能,目標鎖定AI硬體;英特爾預估2024年全球將有超過230款筆電和PC採用Intel Core Ultra處理器,2028年AI PC將占整體PC市場8成。英特爾最新「Intel Core Ultra」處理器,標榜首度整合神經處理單元(NPU),能補強CPU和繪圖處理器(GPU)的AI處理功能

面對AI PC新浪潮,華碩一定會是最積極的品牌。AI PC浪潮勢不可擋,高通、超微(AMD)、英特爾都陸續端出對應的處理器搶市,並獲得品牌廠青睞。英特爾認為,AI已發展多年,惟過去被歸類在特殊應用,是額外的插件,但AI PC元年到來,可將AI搭載到每一台筆電中,從而刺激出更多創新的軟體與應用服務。

AI PC應會先從高階機種開始導入,初期成本可能較高,隨著滲透率拉高後,成本可望逐漸壓低。英特爾先前已公布AI PC加速計畫,希望推動於2025年前在超過1億台個人電腦上實現AI應用。AI PC搭載的處理器算力提升,周邊配合的元件規格也要跟著升級,例如核心電壓(Vcore)、大電流電源管理IC,或是高速運算要求的散熱效果必須更好,就需要更高規格的風扇馬達驅動IC。另外,可預期配合的記憶體方面,DDR 5規格的採用率也會提高,相關IC滲透率也將更為普及。

AI PC產品廠商:宏碁、華碩、技嘉、微星、戴爾、聯想、LG、神基等。

電子與通訊

這裡就是我的新的Blog 將以電子與通訊 做為本人研究探討之地!!
希望能夠更加了解神奇的宇宙 歡迎各位光臨 ^^"