早前,矽谷AI圈有条消息挺刷屏的。一家刚成立不久的AI公司RadixArk宣布完成1亿美元种子轮融资,投后估值直接到4亿美元(约31亿港元)。对一家初创来说,这个成绩已经相当夸张了。
不过,比钱更吸引大家注意的,是投资人阵容:
• 领投:Accel、Spark Capital;• 跟投:英伟达(NVIDIA,又称辉达)旗下NVentures、AMD、联发科、Databricks;• 个人投资者:英特尔(Intel)CEO陈立武、博通CEO陈福阳、OpenAI联合创始人John Schulman、xAI联合创始人Igor Babuschkin、PyTorch创始团队成员Soumith Chintala,以及Hugging Face联合创始人Thomas Wolf。
不少人第一反应都是:
平时竞争这么激烈的几家公司,这次居然一起投了一家创业公司?
而这家公司的创始人,并不是大家熟悉的矽谷老兵,而是一位来自江西九江的年轻女孩----盛颖。
她做的事 其实大多数人平时看不到
现在一提AI,大家第一反应基本都是大模型。但在模型背后,还有一块同样关键、但不太显眼的东西:AI基础设施(Infra)。
很多业内人会这么解释:模型负责思考,GPU提供算力,而基础设施负责把这些算力真正用起来。
说白了,同样100张GPU,有的团队能跑出更高效率,有的却不行。差别往往就在Infra。
盛颖一直做的,就是这个方向。目前全球最有影响力的开源推理引擎主要有两个:一个是加州大学伯克利分校(UC Berkeley)团队的vLLM,另一个就是她参与发起的SGLang。
0
评论 (0)