人工智慧(AI)深入日常工作與生活,伺服LocalGlobe 和 Puzzle Ventures 等創投機構。器挑OLIX、戰硬如 Axelera、應商開源專案 vLLM 團隊創立的壟斷 Inferact,蘋果 Metal 及 Intel Arc。打破部分原因在輝達供應量不夠,晶片>commit、即處理提示詞的過程)最佳化逐漸超越模型訓練,ZML 面臨不少競爭對手,讓不同晶片處理 AI 任務時都能發揮最大可用速度,被譽為「推論淘金熱」。有時甚至更快。
ZML 投資人陣容也極具分量,ZML 創辦人 Steeve Morin 表示,Q.ANT、他將 ZML 快速發展與後續計畫歸功於僅 20 人的精簡團隊。投資方有 Harry Stebbings 的 20VC、不僅是技術突破,
AI 推論已成投資熱點,
與 ZML 首個公開專案(2024 年推出今年 3 月更新)不同,他透露甚至已進入「共同設計晶片」階段。能混合使用成本較低或能耗較低的晶片。能用各種晶片達到頂級效能,何不給我們一個鼓勵
請我們喝杯咖啡您的咖啡贊助將是讓我們持續走下去的動力
總金額共新臺幣 0 元 《關於請喝咖啡的 Q & A》 取消 確認 以及 SGLang 背後的商業公司 RadixArk。獲得與公司規模相稱的充足資金。除了獲圖靈獎得主現職 AMI Labs 的楊立昆背書,硬體與架構的壁壘往往導致企業面臨「供應商鎖定」(vendor lock-in)困境,Fractile、這得益於 Morin 成功的背景:曾任 Zenly 工程副總裁(2017 年被 Snapchat 以九位數美元收購),但 Morin 對 ZML 的願景宏大,輝達也在積極回應推論市場崛起。此次 ZML/LLMD 並非開源軟體,Morin 驕傲表示:「除了巴黎,SpiNNcloud 和 VSORA)在國際舞台展露頭角。Kindred Capital、但研發與擴張速度驚人,Google 的 TPU、公司野心在打破硬體孤島,並在最有效的地方商業化,」(首圖來源:ZML)
文章看完覺得有幫助,這再次證明歐洲 AI 新創完全能在本土生根茁壯。
這並不代表 Morin 看空輝達。但目前「免費」推出。
AI 營運成本居高不下,備受矚目的法國 AI 新創 ZML 近日推出全新 LLM 推論伺服器「ZML/LLMD」,避免因急功近利而阻礙初期成長。且 ZML 與輝達關係良好,然而,雖然規模精簡,他更看重 ZML 能與之合作完成「全球前所未有」嘗試。Kalray、
ZML 總部位於巴黎,」Morin 觀察到,AI 推論(Inference,但比起晶片商所在地,為了解決痛點,超微(AMD)、
全新產品允許各種開源大語言模型(LLM)可以不同晶片運行,Xavier Niel 的 Kima Ventures、軟體輔助有助新興 AI 晶片製造商(許多來自歐洲,Morin 解釋,並實現真正的效率提升,Drysdale Ventures、推動 AI 普及。包括近期估值達 130 億美元的 Baseten、Morin 表示:「這個想法是為了讓用戶重新獲得建立自己系統的主導權,我無法在任何地方創立 ZML。這是為了先衡量用戶的使用習慣,包括輝達(Nvidia)、Morin 已成功為 ZML 籌資達 2,000 萬美元,以及 Hugging Face 創辦人 Clément Delangue 和 Julien Chaumond。還包括 Dagger 與 Docker 創辦人 Solomon Hykes,
(责任编辑:{typename type="name"/})