AMD收购AI专用芯片公司Taalas
近日,AMD宣布收购加拿大AI推理芯片初创公司Taalas,交易完成后将把其技术整合进Instinct GPU的加速器路线图。Taalas采用模型硬化路线,将特定大模型的权重和部分数据流直接固化到芯片中,放弃通用性以换取更低的推理成本和更高的响应速度。其首款芯片HC1针对Llama 3.1 8B设计,单用户生成速度达…
近日,AMD宣布收购加拿大AI推理芯片初创公司Taalas,交易完成后将把其技术整合进Instinct GPU的加速器路线图。Taalas采用模型硬化路线,将特定大模型的权重和部分数据流直接固化到芯片中,放弃通用性以换取更低的推理成本和更高的响应速度。其首款芯片HC1针对Llama 3.1 8B设计,单用户生成速度达…