作者zxwxz (zxwxz)
看板Stock
標題Re: [新聞] Nvidia覇主地位危矣？這些挑戰者做出便
時間Wed Aug 28 13:32:11 2024
NV的市場領先地位不是單單只有CUDA這麼單純，你要知道CUDA不是只會算AI，各種高階的模
擬運算才是最可怕的護城河。
NV在技術上還有兩大護城河
NVLink/Infiniband：高效的集群計算
Omniverse：虛擬與現實的融合
目前的LLM都有越來越大的趨勢，絕對不是單一個GPU能跑得動的，所以高效的集群計算才是
關鍵，你單一個GPU做多大算力不再是重點，而是你要有辦法高效的串成一整個集群，而且N
V大概是唯一一家有辦法自己“驗證集群運算缺陷”的公司，因為他自己也有AI團隊在搞大
模型，所以NVlink跟Infiniband才會如此重要，要知道UAlink才剛起草聯盟，第一版出來可
能要2026了
Omniverse 這可能是大家比較忽略的一塊，這塊是AI從虛擬走向實體的關鍵技術，以自駕車
為例，現在tesla就是以海量數據導致FSD能有領先地位，但最終，你不可能只用實際車輛採
集數據，尤其是各種負面範例，撞車或撞到人，這絕對是非常稀缺的資料，但假設你能用Om
niverse來模擬整個車禍發生的各種情況，才有機會解決這種資料稀缺問題。更進一步則是
機器人的虛擬環境訓練，你不可能把機器人丟到家庭裡，不小小壓到小孩才開始調整行為策
略，各種人機協作互動的行為更是關鍵。
這兩大塊甚至比單純的CUDA更壟斷，因為GPU集群的實驗你自己沒下去玩過，根本就不知道
會發生什麼事，臨時硬體壞了該如何備份復原更換，電力系統要如何整合，這都不是小公司
玩的起的
補上萬卡集群的訓練說明
https://youtu.be/aey0qZzJg-Q?si=7GoOw5EDFkG9LcVx
Omniverse 更是未來實體AI的關鍵，新的機器人一定是丟到虛擬環境練到好才出來，這也是
為啥老黃一直還是延續GPU而非特化成NPU，因為它需要3D建模與物理引擎，光追系統做虛擬
環境驗證，拔掉這些core可能可以省成本，但就無法用途轉移了
※ 引述 《breathair (拆了？簡單了)》 之銘言：
: 標題: Re: [新聞] Nvidia覇主地位危矣？這些挑戰者做出便
: 時間: Wed Aug 28 12:28:18 2024
:
: 小弟請教各位大佬
:
: NV最大的優勢，應該是CUDA
: CUDA讓各AI專家可以編程NV GPU
: 讓GPU跑你想跑的東西，而不侷限在圖形運算
:
: AMD正是落後在這裡
: 當大家都用CUDA編程AI晶片
: AMD不能用CUDA等於不能相容
: 於是AI晶片就被NV佔據極大優勢
:
: 以上不知對不對
:
: 如果對
: 小弟的疑問是
: 如果NV護城河是CUDA這種編程語言
: 而AI最大優勢又是編程
:
: 難道以後不會因為隨著AI的強大
: 各路AI晶片可以把CUDA編程
: 轉譯成自家AI晶片可以接受的語言
:
: 這樣護城河還會在嗎？
: -----
: Sent from JPTT on my iPhone
:
: --
: ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 42.76.203.28 (臺灣)
: ※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1724819300.A.882.html
: → bolovema : 以這麼幸福嗎 08/28 12:28
: → zerro7 : 前提是無痛轉譯 能達成嗎? 08/28 12:29
: → gozule : amd也有搞rocm 08/28 12:30
: → as80110680 : 你是第2147483647個發現的人，然後也早就有人在做 08/28 12:30
: → as80110680 : 了，還被nv發現被nv警告 08/28 12:30
: → bnn : CUDA本身不是護城河 是使用CUDA的人多到變成護城河 08/28 12:31
: 推 Lineage5415 : 之前NV某次聲明就是在警告這件事 08/28 12:31
: 推 josephpu : 所以AMD確實有在搞轉譯啊...但有難度 08/28 12:32
: → Djuda : amd追不上不只有cuda... 08/28 12:32
: → Djuda : 如果只是cuda 也沒辦法解釋從2007~現在amd顯卡也是 08/28 12:33
: → Djuda : 一路輸到脫褲子 沒有一次有跟上的 08/28 12:33
: 推 KALR : 可以查一下 ZLUDA 與 SCALE 08/28 12:33
: → ohya111326 : 現在早就有轉譯了阿 08/28 12:33
: 推 flipflap : 試試看 被告到破產喔 08/28 12:34
: 推 lolpklol0975: 只能用 反壟斷法 來壓制了 08/28 12:34
: 推 HiHiCano : 你可以看看顯卡的差距 就知道NV管理層的強大 08/28 12:36
: → flypenguin : 這比在文書作業領域幹掉 MS office 還困難。 08/28 12:37
: 推 xephon : AMD追不上的東西可多了... 08/28 12:38
: → xephon : NV現在要擔心有沒有人要用反壟斷搞他 08/28 12:38
: 推 yayohola : 能轉啊 中間損耗勒 08/28 12:38
:
: 問題是
: 一半的價格，只要提供一半多的算力
: 不也是變相的競爭？
: 不也是可以存活，或拉低NV毛利？
: ※ 編輯: breathair (42.76.203.28 臺灣), 08/28/2024 12:41:28
: 推 TurtleGods : 讓AMD努力一點，想當年CPU也是落後20年 08/28 12:40
: 推 gabriel : 除了CUDA還有NV_link壓 護城河不會只有一座 08/28 12:40
: 推 ohlong : 自己寫的很好改 問題是一堆api沒辦法改 西瓜偎大邊 08/28 12:41
: 推 pornpig32 : 你要沒問題的原廠，還是可能有問題的副廠？ 08/28 12:43
: 推 kylecheng25 : 能動的東西就不要換 08/28 12:45
: 推 strlen : 這東西沒那麼簡單喇 你設備做出來了 能用嗎？會不會 08/28 12:45
: → strlen : 跑一跑有bug 當機 燒壞 各種毛 08/28 12:45
: 推 s56565566123: Nv 沒有對手 08/28 12:45
: 推 KiwiSoda01 : 一般價格一般算力 加上電費跟額外處理自己需求就虧 08/28 12:46
: → KiwiSoda01 : 了 08/28 12:46
: 推 co80040814 : 制定標準是一個最賺錢的方法 08/28 12:46
: → KiwiSoda01 : 買越多省越多 真的不是隨便說說 08/28 12:46
: 推 Samurai : 轉譯，原廠隨便改版都弄死你，傻了才擔這個風險 08/28 12:47
: 推 js850604 : CUDA有一整個完整的社區當支持，強的是使用者多 08/28 12:48
: 推 SSglamr : 那是整組的 NV驅動值5000沒聽過嗎 跑LLM不一定要NV 08/28 12:48
: → SSglamr : 華為也可以跑啊 但目前NV最有效率 08/28 12:49
: 推 RinLink : 一個基本的觀念 軟體的一切取決於硬體 08/28 12:49
: → Samurai : 先行者優勢就是這麼大，不然windows早就被取代 08/28 12:49
:
: 如果不是從cuda 轉譯
: 而是從自然語言直接轉勒？
: 天方夜譚？AI的強項不是？
: ※ 編輯: breathair (42.76.203.28 臺灣), 08/28/2024 12:54:10
: 推 havochuman : 老黃強到只怕分拆 懂嗎？ 08/28 12:52
: 推 acgotaku : Cuda 是軟硬整合平台不是編程語言 他的語言是 c 08/28 12:53
: → acgotaku : 既然是軟硬整合 就要知道 你的計算機架構不是 nv 08/28 12:54
: → acgotaku : 的 08/28 12:54
: 噓 dos01 : AMD有做過類似的事情 但實際的效能算下來就很差 08/28 12:54
: → sezna : 轉譯哪有那麼簡單，光是效能就搞死你 08/28 12:54
: → acgotaku : 你抄也沒用，要自己調教出自己軟硬整合平台 08/28 12:55
: → dos01 : 對廠商來說 搞這些東西還不如多花點錢跟NV買顯卡 08/28 12:55
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 42.73.76.206 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1724823133.A.613.html
推 Stonghenge : 那麼專業給推Y 08/28 13:36
推 breathair : 推！ 08/28 13:37
推 c259888 : 簡單一句話 08/28 13:37
→ c259888 : NV只怕反壟斷法 08/28 13:37
推 KIMBEOM : 聽不懂 但就覺得你說的對 08/28 13:39
推 sdbb : 好人推，謝謝 08/28 13:41
推 Samurai : 就是NV可以幫你模擬生成失敗或缺陷的例子，用來訓 08/28 13:41
→ Samurai : 練 08/28 13:41
→ Samurai : 現在AI才正要起飛，歐印！ 08/28 13:42
推 josephpu : 謝謝分享08/28 13:42
推 peapriayod : 專業推08/28 13:43
推 dragonjj : 有道理推 不過NVLINK已經開始有再追上了 主要是太貴08/28 13:45
推 NEDOP : 聽不懂但感覺很專業 先推先贏08/28 13:45
推 littenVenus : 老黃：窩484快成佛了^O^ 08/28 13:46
推 ZYxuan1221 : 專業推 08/28 13:52
→ brain9453 : 挑戰者會被腰斬跟換腦 08/28 13:52
推 s9812508 : 專業分享，推 08/28 13:52
推 Linweij : 推 08/28 13:53
※ 編輯: zxwxz (42.73.76.206 臺灣), 08/28/2024 13:54:20
→ kkchen : 如果用AI技術來挖礦是不是比較容易財富自由啊？ 08/28 14:00
推 ymlin0331 : 不用講這麼多，all in NV就對了 08/28 14:00
→ kkchen : 明天台積電有機會開漲停嗎？ 08/28 14:01
→ zxwxz : 老黃不太欣賞挖礦，他一直很牴觸，因為挖礦並沒有 08/28 14:01
→ zxwxz : 真正產生新東西 08/28 14:01
推 ANGUSRUBY : 推，觀念正確! 08/28 14:04
推 debian99 : 專業 推 08/28 14:06
推 YOYOISGOOD : 沒錯 你講到重點了 Omniverse才是讓鏟子有價值去挖 08/28 14:11
→ YOYOISGOOD : 金山的機會 08/28 14:11
推 gladopo : 老黃之前賣卡都沒主打挖礦，但賺礦卡的錢太香了，也 08/28 14:12
→ gladopo : 沒認真擋 08/28 14:12
推 wonder007 : NV賣你鏟子還送你一座礦山 08/28 14:13
推 a12a9200 : Omniverse 這次麗臺在自動展也有提到，現場還展現超 08/28 14:15
→ a12a9200 : 真實虛擬噴火，當作ai的模擬數據 08/28 14:15
推 lyxiang : 長知識給推 08/28 14:20
推 Evenpan : 只是財經亡每也是這樣吹航運,我就成水鬼了.... 08/28 14:21
推 pp520 : 原來虛擬技術的眼光如此遙遠，長知識了 08/28 14:21
推 Destrall0708: 不明覺厲 08/28 14:23
推 ararar : 聽不懂但你講得很有道理 08/28 14:23
推 wuz830101 : 看不懂在說什麼碗糕，不過還是推 08/28 14:24
推 SSglamr : 然後晚上財報開出來就一根 有時不完全吃基本麵 08/28 14:24
推 qazse000 : 我看中國論壇吹說華為有Atlas900supercl 類似NVLink 08/28 14:28
→ qazse000 : 這是他們亂吹的還是真的? 08/28 14:28
→ qazse000 : 沒打好 Atlas900supercluster 08/28 14:29
推 aaaaafaith : 感謝專業分享，淺顯易懂！ 08/28 14:31
推 ChikanDesu : 挖礦根本就是拿核反應爐升火取暖的行為 低階到不行 08/28 14:36
→ qazse000 : 還有Huawei Cache Coherence System TJO 類似NVLink 08/28 14:39
推 sky121 : 聽不懂不過感覺你說得對 08/28 14:56
→ sheep2009 : 別人再比鏟子 老黃已經組好挖土機了 08/28 14:58
推 clisan : 專業推 08/28 15:05
推 eoeoeo : 數位孿生 08/28 15:15
推 askaa : 感謝分享~ 08/28 15:29
推 aaaaaaaa9 : Omniverse 應用領域不一樣，互補關係而已。 08/28 15:36
推 GGylin : 但業界用omni當物理引擎 佔比遠輸cuda 根本沒啥護城 08/28 15:39
→ GGylin : 河吧 08/28 15:39
→ cyshowen : UALink 2026? 今年底spec就第一版了吧，我猜spec 08/28 15:55
→ cyshowen : 還在draft時 Q和M都已經開始做了，明年就會有ip 08/28 15:55
→ zxwxz : ualink只有spec跟落地差很遠，且他還要協調聯盟內 08/28 15:58
→ zxwxz : 的分歧，確保各家都能受益，感覺會跟android體系一 08/28 15:58
→ zxwxz : 樣，效能落後ios一個層級 08/28 15:58
→ zxwxz : omniverse 的賽道很窄，幾乎是自動駕駛或機器人的 08/28 16:02
→ zxwxz : 頭部玩家才會進場，我認為等機器人更明朗之後，玩 08/28 16:02
→ zxwxz : 家才會變多，如果只是工廠調度，我認為cp值還太低 08/28 16:02
→ zxwxz : ，還要幾年之後才是爆發期 08/28 16:02
推 qscNERO : 推專業文 08/28 16:12
推 BruceChen227: 專業 推 08/28 16:25
推 aqasia : 結論：NV繼續無敵 08/28 16:53
推 roso4258 : 巷子內的 08/28 17:30
推 ppuuppu : 感謝推 08/28 19:00
推 coolrock : 好像真的很厲害 08/28 19:48
推 KUS0 : Omniverse目前跟大便一樣...有用過就知道 08/28 22:29
→ KUS0 : NV四處拜託別人用Omniverse做東西 XD 但..懂得就董 08/28 22:29
