GPU利用率争夺战:AI Infra千亿市场
文章指出,尽管谷歌、OpenAI等巨头自研芯片,但更广泛的市场机会在于AI Infra——通过优化已部署的数据中心和GPU,提升利用率。Baseten年收入增长20倍,估值达130亿美元;fireworks七个月估值翻四倍至175亿美元。开源推理引擎vLLM和SGLang先后商业化,种子轮融资均超1亿美元,吸引英伟达…
文章指出,尽管谷歌、OpenAI等巨头自研芯片,但更广泛的市场机会在于AI Infra——通过优化已部署的数据中心和GPU,提升利用率。Baseten年收入增长20倍,估值达130亿美元;fireworks七个月估值翻四倍至175亿美元。开源推理引擎vLLM和SGLang先后商业化,种子轮融资均超1亿美元,吸引英伟达…