🔥 PTT.BEST 熱門專區 💬 八卦 Gossiping 😊 希洽 C_Chat 💰 股票 Stock 🏠 房屋 home-sale 🏀 美國職籃 NBA ⚾ 棒球 Baseball 👛 省錢 Lifeismoney 🚗 汽車 car 😡 政黑 HatePolitics 💻 電蝦 PC_Shopping 🥰 韓星 KoreaStar ✨ 英雄聯盟 LoL 🍿 電影 movie 🪖 軍事 Military 📡 通訊 MobileComm 🏀 台籃 basketballTW 🍼 寶媽 BabyMother 🇯🇵 日旅 Japan_Travel 🏭 科技 Tech_Job 👧 女孩 WomenTalk 👻 媽佛 marvel 💳 卡版 creditcard 👉 NS NSwitch 👉 PS5 PlayStation 👉 大氣 TY_Research 👉 婚姻 marriage 👉 台南 Tainan 👉 台中 TaichungBun 👉 Steam Steam 👉 高雄 Kaohsiung 👉 羽球 Badminton 👉 超商 CVS 👉 米哈遊 miHoYo 👉 iOS 👉 兄弟 Elephants 👉 日劇 Japandrama 👉 玄幻 CFantasy 👉 ES e-shopping 👉 WOW 👉 遊戲交易 Gamesale 👉 4X BaseballXXXX 👉 Lakers 👉 韓劇 KoreaDrama 👉 汽車買賣 CarShop 👉 機車 biker 👉 新竹 Hsinchu 👉 美保 BeautySalon 👉 串流 OTT 👉 歐美影集 EAseries 👉 手機交易 mobilesales 👉 裏洽 AC_In 👉 健身 MuscleBeach 👉 MacShop 👉 Lions 👉 FGO FATE_GO 👉 中劇 China-Drama 👉 數位貨幣 DigiCurrency 👉 暗黑 DIABLO 👉 實習教師 studyteacher 👉 航空 Aviation 👉 藝文票券轉售 Drama-Ticket 👉 韓綜 KR_Entertain 👉 美妝 MakeUp 👉 速食 fastfood 👉 手錶 watch 👉 體適能 FITNESS 👉 攝影 DSLR 👉 Headphone 👉 嘻哈 Hip-Hop 👉 轉珠 PuzzleDragon 👉 美食 Food 👉 蔚藍 BlueArchive 👉 數位相機交易 DC_SALE 👉 筆電蝦 nb-shopping 👉 軟工 Soft_Job 👉 汪踢 Wanted 👉 台綜 TW_Entertain 👉 坂道閒聊 SakaTalk 👉 貓咪 cat 👉 日GO BabyProducts 👉 TypeMoon 👉 MLB 👉 職場 Salary 👉 臺劇 TaiwanDrama 👉 海賊王 ONE_PIECE 👉 PMGO PokemonGO 👉 國營 Gov_owned 👉 碧航 AzurLane 👉 家電 E-appliance 👉 布蘭德 Brand 👉 DMMG DMM_GAMES 👉 贈送 give 👉 神魔 ToS 👉 銀行服務板 Bank_Service 👉 原創 YuanChuang 👉 期權 Option 👉 重機 SuperBike
原文標題:「地表最快」AI 晶片發布,哈佛輟學的本科生挑戰英偉達 原文連結:https://www.sohu.com/a/788693870_413981 發布時間:2024-06-26 20:01 來源: 愛範兒 記者署名: 原文內容: 在談到AI、大模型、算力等關鍵字時,如果要提及硬體產品,很多人應該會不假思索的說 出英偉達。 一位華爾街分析師曾如此評論到: 人工智慧領域正在進行一場戰爭,而英偉達是唯一的軍火商。 的確,在AI 時代下,英偉達的地位是獨特又難以撼動的。但現在,有一位勇者準備正式 挑戰這個局面。 2022 年,Gavin Uberti 和Chris Zhu 創立了Etched.ai。他們從一開始就獲得了包括 Ebay 前CEO Devin Wenig 在內的536 萬美元的種子輪投資。 在剛剛宣布融資1.2 億美元後,Etched 又發布了目前的最快的AI 晶片 此Sohu 非彼搜狐,它號稱可以在毫秒級別的時間裡處理數千個單字。每秒能處理超過50 萬個tokens,運行Llama 70B 模型。 什麼概念呢?這就相當於可以在兩秒鐘內寫完《聖經》,或是一年寫15 兆個tokens。 根據Etched 官網介紹,Sohu 在硬體層面上整合了Transformer 架構,是第一個專為 Transformer 模型設計的專用晶片(ASIC)。 正是這種專用性,為Sohu 帶來了效能的巨大提升。相較於英偉達H100,Sohu 的推理速度 相提升了8 至10 倍。 搭載八片Sohu 晶片的伺服器,可以取代整整160 個英偉達H100 GPU。 對於程式場景,Sohu 可以透過蒙特卡羅樹搜索,並行相應數百個結果,給出最優秀的答 案。 無論是語音助理還是智慧客服,Sohu 都能做到在幾毫秒內分析數千個單字。 並且Sohu 還支援多重推測解碼,可以以極快的速度即時生成新的內容。作為全球首款Transformer 專用積體電路(ASIC)晶片,每張Sohu 晶片只有一個核心, 使用了台積電4nm 製造工藝,並配有144GB HBM3E 高頻寬記憶體。 相較於英偉達的下一代Blackwell(B200)GPU,Sohu 的速度提高了一個量級,價格也會 更便宜。短短兩年時間,Etched 從零開始成長到現在這番模樣,實在是一個「奇蹟」。 Etched 的創辦人Gavin Uberti 和Chris Zhu 都是華裔,兩人也都有豐富的背景。Gavin Uberti 和Chris Zhu 都曾就讀哈佛大學,度過了一段大學部生活。後來出於一些 原因,他們選擇休學一年,並在OctoAI 找到了一份實習工作。 當時兩人的工作內容,主要是負責ApacheTVM 開源編譯器和微內核開發。但在實習時,他 們發現Arm 的指示集中的一些設計十分低效,使得他們的工作效率很差。 Gavin Uberti 說到:「這個問題無法解決,每次工作時我都得面對這個問題,這讓我和 Chris 覺得我們必須做得更好。」在思考如何解決這個問題時,他們突然發現可以利用 這個想法來設計一款AI 加速晶片。 於是兩人便選擇了從哈佛輟學,創辦了一家專注於LLM 的AI 晶片新創公司—— Etched。 在Gavin Uberti 看來,通用公版設計無法帶來獲得突破性的效能提升,所 以他們才研發Transformer 架構下的專用加速晶片。 Gavin Uberti 曾說: 必須在單一架構上下大力氣,讓晶片處理AI 任務,目標太大了,必須要針對更具體的任 務來設計晶片… 我們認為英偉達最終會這麼做。目前主流的AI 產品如ChatGPT、Claude、Gemini 和Sora 等,都是以Transformer 架構驅 動的。作為全球首款Transformer ASIC 晶片,再配上如此亮眼的成績,Etched 自然也 是吸引了一大波關注。 6 月25 日,Etched 宣布完成1.2 億美元的A 輪融資。這次融資由紐約創投機構Primary Venture Partners 和Positive Sum Ventures 共同領投。 其天使投資人陣容也十分強大,包括創投家Peter Thiel、GitHub 執行長Thomas Dohmke 、自動駕駛公司Cruise 的共同創辦人Kyle Vogt, 以及Quora 的共同創辦人Charlie Cheever, 在2022 年創立之初,Etched 就看中了Transformer 將會佔據主導地位的未來。 Gavin Uberti 表示,「我們在人工智慧領域下最大的賭注。」 如果我們賭對了,Sohu 將改變世界。這就是我們敢於下注的原因。 心得/評論: 搞AI晶片都一定要有華人血統才純正? (誤) 繼上次說有整片晶圓就是一個晶片設計的公司後 另一個真正有實力挑戰NVIDIA的公司出現了 號稱比GB200還快八倍的晶片 不過要挑戰我大輝達,先能越過CUDA的護城河再說 https://i.imgur.com/NIYC5CT.png
-- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 122.116.228.113 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1719423441.A.DD7.html
onekoni : https://i.imgur.com/F1iIKjY.jpeg 06/27 01:39
※ 編輯: newbrain (122.116.228.113 臺灣), 06/27/2024 01:40:42
cchh179 : 華人還是蠻厲害的 06/27 01:41
kausan : 才給融資1.2億 看起來又是圈錢的 06/27 01:47
chses910372 : 這個我先觀望,目前看文章應該是針對transformer 06/27 01:48
chses910372 : 專屬的處理器,不知道是真的還是吹很大 06/27 01:48
ga278057 : 這個餅畫的有點大,不把AMD放在眼裏還8倍,八倍里奇 b 06/27 01:48
ga278057 : abyrage 06/27 01:48
js850604 : 問題是CUDA強在通用 06/27 01:49
alphish : 原來nVIDIA是在跌這個 06/27 01:51
icedog122 : NVDA完了 06/27 01:52
yuen1029 : 這一定是韓國人 06/27 01:53
The4sakenOne: 買個股這種被天降猛男打趴的風險實在是太高了,尤其 06/27 01:56
The4sakenOne: 是科技業 06/27 01:56
wzshi : 還是要台積電代工啊 06/27 01:56
aegis43210 : 只有AI推論強而已,沒什麼用,雲端運算廠商買H100只 06/27 01:57
aegis43210 : 是順便用它的AI推論功能而已 06/27 01:57
siki588 : 完了晶片需求不就… 06/27 02:00
chuanmaotou : GG how to lose 06/27 02:01
ohha0221 : 八片可以取代160個GPU 那耗電量不就屌打NV了 猜未 06/27 02:07
ohha0221 : 來這種專門客製化的AI晶片會是主流? 06/27 02:07
aegis43210 : 未來老黃在R100上面放個ASIC,效果也差不多,只有AI 06/27 02:12
aegis43210 : 推論功能效益太差 06/27 02:12
Everforest : 台積電客戶+1 06/27 02:12
aegis43210 : 老黃怕的只有掏金客一直掏不到黃金該怎麼辦 06/27 02:13
southes : 都要靠gg 06/27 02:14
shlee : 老黃搞通用都能搞到第一了 要針對特定方向客製化怎 06/27 02:17
shlee : 麼可能做不出來 06/27 02:17
a1237759 : ASIC比GPU?要不要老黃放一顆ASIC再來比看看你贏不贏 06/27 02:19
w60904max : 下一個比特大陸 06/27 02:20
w60904max : 不過他很誠實說自己在賭 歡迎投資人一起賭 06/27 02:21
aimlikenoob : NVDA的優勢根本不只是硬體 06/27 02:26
shawnfu : 感覺就是來騙錢的,有demo影片可看嗎?還有這種新 06/27 02:27
shawnfu : 創公司如何搶到TSM產能也是問號。 06/27 02:27
FirePopcorn : 台積電噴噴噴 06/27 02:40
otaku690 : 沒tape out就在吹? 06/27 02:44
Slzreo1726 : 來了 跟超導體一樣的假利空來了 06/27 02:47
Raikknen : 蠻會吹的 06/27 02:56
g27834618 : 華為的ai也崛起啊 屌打老黃 06/27 02:57
crazylunar : 真有這麼神?幾人團隊瞬間就彎道超車幾千個精英十幾 06/27 02:58
crazylunar : 年來的努力? 06/27 02:58
huabandd : 有這麼好超越就好了 06/27 02:58
huabandd : 華為既視感 06/27 02:59
TIPPK : 歷史上有出現過這種突然屌打的例子嗎 06/27 03:00
HenryLin123 : 晶片我覺得是很難 06/27 03:15
wsx26997785 : 哈佛不是都法律財經為主嗎 06/27 03:47
howhower : 針對語言模型設計的晶片有可能超車,趕上不是從無 06/27 03:55
howhower : 到有,而是站在巨人的肩膀上 06/27 03:55
Plumpy : 通用跟特規比較 先觀望 06/27 03:58
cccict : 輝達是用來不斷迭代參數已達到最佳化的運算,所以 06/27 04:35
cccict : 需要同時大量的運算跟多線程,這個看起來是用來跑 06/27 04:35
cccict : 已經成型的模型,單純吃input產出output,功能根本 06/27 04:35
cccict : 不一樣 06/27 04:35
lokimjuy : 很難吧 晶片牽涉的東西太多 很難超車大哥 06/27 04:41
lusan26 : 新創公司想排台G,想的真美好 06/27 05:01
Sinkirou : 買英偉達的卡主要是為了玩遊戲,不是AI 06/27 05:09
hit1003 : 文章是寫給中國人看的吧? 06/27 05:12
fedona : 用筆寫驅動程式 06/27 05:43
pacino : 看來AMD,,Google,Meta都是笨蛋 06/27 06:04
Sunofgod : 創新從小公司小團體甚至個人遠比大公司容易多了阿 06/27 06:17
Sunofgod : 不然微軟幹嘛砸大錢投資open AI而不是找人來內部自 06/27 06:17
Sunofgod : 己搞 會講AMD G M都笨蛋的我想社會經驗還不夠多 06/27 06:17
jovi0001 : 160個以上的世界還是NV屌打 06/27 06:20
q8977452 : 如果你在台灣 我會覺得還好 但他們在美國 有機會吧. 06/27 06:21
schula : 美國輟學生是不是也會把字磨掉啊,西台灣教的嗎? 06/27 06:27
simat : 給中國人看的文章+1,輝達裏面哈佛,mit的高材生不 06/27 06:28
simat : 知有多少 06/27 06:28
q8977452 : 不過還是離不開台積電呀... 06/27 06:28
syen : 幾年前電車夯 一堆概念電池出來圈錢 現在換AI 06/27 06:29
kyoiron : 硬體還有系統整合問題…沒那麼簡單… 06/27 06:31
zick8932511 : 要找誰代工? 06/27 06:34
Alwen : 好無聊 之前groq也是鋪天蓋地的新聞 然後就沒然後惹 06/27 06:36
dodoning : GG: 下單請拿號碼牌,有錢包產線嗎? 06/27 06:42
elmer : 要當中國芯的救星嗎?中國融資的去處 06/27 06:43
tacoclement : ASIC,拿來特定運算本來就會贏GPU,前陣子也有CSP的 06/27 06:44
tacoclement : ASIC這樣吹。不過這種標題和內容才有點閱率,騙不懂 06/27 06:44
tacoclement : 的 06/27 06:44
yytseng : 沒有NVlink你單顆快十倍都一樣垃圾 06/27 06:49
riotssky : 號稱超越的墳頭上的草... 06/27 06:57
GooglePixel : 簡單說 硬體再牛但沒有生態系 不夠方便用沒人用就 06/27 07:14
GooglePixel : 是沒用 06/27 07:14
ILike58 : 講都很會講,不信你問amd(指)。 06/27 07:21
YCL13 : 個人開發者能否有可能避開現今各大廠的專利佈局? 06/27 07:27
zerro7 : 為什麼聽起來就很唬爛 06/27 07:31
Phamalpha : …我還比較信AMD至少人家本業這一股濃濃圈錢味 06/27 07:35
ntuooo : 丸子 06/27 07:35
powerkshs : 自慰文,AI版超導體ㄏ 06/27 07:39
zerro7 : 而且文中Sohu是H100的8-10倍 你結語怎麼會寫GB200 06/27 07:42
sxing6326 : CUDA、NVLINK 06/27 07:42
zerro7 : GB200比H100快了好幾倍 看起來Sohu頂多=GB200? 06/27 07:43
pieceioriX : 全文沒看到製程跟TSM就是垃圾文章 06/27 07:45
BruceChen227: AMD: 06/27 07:46
perlone : 文中都說這是任務特化型晶片了 06/27 07:50
ILike58 : 反正台灣人最愛這種不明人士的神話,沒背景沒交代一 06/27 07:53
ILike58 : 出世就名震天下,完全沒想過別人是集多少人多少努力 06/27 07:53
ILike58 : 了十幾年的,難怪詐騙橫行。 06/27 07:53
go1717 : 這根三星彎道超車 有異曲同工之妙XD 06/27 07:58
go1717 : 跟 06/27 07:58
zerro7 : GB200號稱是H100的4-10倍 怎麼圖中的比較差不多... 06/27 08:02
zerro7 : 這篇新聞真的越看越唬爛 06/27 08:02
zerro7 : 感覺很像論文的比較法 專挑自己好的 別人爛的來比? 06/27 08:03
zip00000 : 台積電4奈米?? 你確定? 06/27 08:04
gino0717 : 好 台積又要噴 06/27 08:06
paimin : 4nm 的研發成本0.12b 應該是連投片錢都沒有 06/27 08:07
patrol : 只能處理文字的話其實沒什麼fu糗 06/27 08:09
patrol : 文組專業本來就不大值錢 06/27 08:12
patrol : 有fu糗的是色色機器人 06/27 08:12
c928 : 感覺是專利蟑螂 06/27 08:12
yiersan : 要是實際做不出來就好笑了 模擬誰會 06/27 08:12
yiersan : 誰都會 06/27 08:12
patrol : 產值極高,至少我會去買一台 06/27 08:13
yiersan : 趕快去中國圈錢 嘻嘻 06/27 08:14
benson502 : 這是中國人才愛的神話,在台灣只會被酸 06/27 08:14
kinki999 : 感覺在賣專利的 06/27 08:14
kichitai : 會不會又是台裔? 06/27 08:15
yiersan : 重點是能在台GG搶到產能嗎 06/27 08:16
Lipraxde : 帳面上拿紙筆算一算的算力吧?ASIC 你會做投下去做 06/27 08:16
Lipraxde : 回來要多久,可能都還沒回到自己手上 06/27 08:16
dss1017 : 最後還是要讓GG生產的啦 06/27 08:18
mopa : 跟大世紀的新聞一樣,編給同溫層聽的 06/27 08:22
LipaCat5566 : 懂了 買世芯 06/27 08:25
jinhouse123 : 喔 ~ 台積電又受益了。。 06/27 08:28
KeynesGG : 當NV幾十億美元研發費投假的 06/27 08:33
richaad : Inference,not training… 06/27 08:35
richaad : 泥要繞過NVLink,自己搞一個出來,不可能。 06/27 08:36
richaad : ASIC比泥強的,一大堆,能搶到產能的,有幾個? 06/27 08:37
dickey2 : 複製貼上要兩秒 06/27 08:40
puffycat : 買得到HBM? 06/27 08:45
deepdish : 哈哈哈 夢裡啥都有 06/27 08:49
sorcxnegi : 台GG:金子到處有,但你們還是得乖乖買我的鏟子:) 06/27 08:55
DTFS : 真AI吸金泡泡開始 06/27 09:02
leoloveivy : 陳天奇那家出來的可信度增加一下 這架構缺潘董投資 06/27 09:09
leoloveivy : asic 的確可行 06/27 09:09
kotorichan : 推 06/27 09:17
eipduolc : 我只知道所有特斯拉殺手都死了 06/27 09:24
我特都被比亞迪打趴了...這篇只是想跟大家講...搶賣鏟子的人一堆...要注意 ※ 編輯: newbrain (122.116.228.113 臺灣), 06/27/2024 09:32:52
Yui021 : 打不贏就加入 不用這麼累 06/27 09:36
pooznn : Sohu 搜狐?! 如果是華人不可能不知道搜狐 中国資金? 06/27 09:38
payneblue : 我管他是不是真的 我只知道這家也找台積電生產晶片 06/27 09:41
hinanaitenco: 不就ai做成soc 跟gugpu比個屁啊 完全不同東西 06/27 09:53
Sonian : CUDA eco system 太完整了 06/27 10:19
WWIII : 崩崩 06/27 10:20
dvr : 先觀望 莫忘先前超導體 06/27 10:35
FayeFaye1 : 最好是這樣啦,晶片不管設計或製造都不存在從零開 06/27 10:50
FayeFaye1 : 始能追上的 06/27 10:50
ariadne : 就特用型沒什麼不可能 先能跑新接龍 踩地雷再說 06/27 11:21
Vansace : 一樣都需要找台積電 GG才是最猛的 06/27 11:21
ariadne : 特用型就是除了做符合那電路設計的事 其他都做不了 06/27 11:23
puppy20308 : 以前炒作特斯拉殺手,現在炒輝達殺手?最後都是自 06/27 11:23
puppy20308 : 己被殺的命運 06/27 11:23
handsomepig : 詐騙集團吧... 06/27 11:25
jeans520 : 這根中國說自己很先進一樣,但文化變高不是一朝一夕 06/27 11:29
DustinFu : 這麼好追上當NV這一路走來都平步青雲的嗎 06/27 12:26
ChungLi5566 : nv強在cuda生態 這花10年建立起來的牆壁 06/27 12:27
to1322 : 這不就是彎道超車又贏了嗎? 好熟悉~ 06/27 12:40
pipi5867 : 看到asic就可以關掉了 根本不是同賽道 06/27 12:51
annboy : 這個只能inference 也是普普 training還是最大需求 06/27 13:14
applejone : 是和GPU不同的東西啊 這是強在產出 06/27 14:49
applejone : 之前也有LPU新聞而已 06/27 14:49
chadcooper : 也有其他大廠VP加入 等這些人逃了再説 至少現在看起 06/27 14:54
chadcooper : 來還是很promising 06/27 14:54
mliryu1125 : 總是有人想彎道超車,但大多都填海了 06/27 17:01
blackjose : 這個是用自己的優化軟體,根本沒有週邊資源建立生 06/27 18:03
blackjose : 態系,只是跑分 06/27 18:03
wcc : 唬爛,哈佛=美國政大,都出一些文科嘴砲仔,最好有 06/27 18:04
wcc : 啥技術底的 06/27 18:04
cannedtuna : 這才是ai pc吧 一般人只會用到推論和畫圖 06/27 19:03
cannedtuna : 通用給大公司搞就好了 06/27 19:03
dostey : 採ASIC 怎選這樣晶片 完全是垃圾 在吹牛 06/27 19:13
Forestier : sohu?搜狐? 06/28 07:44
thegiver210 : 本科生是三小支語? 06/28 14:30

💰 股票 Stock 版:熱門文章

💰 股票 Stock 版:更多文章