最近的一个趋势,搞大模型的海外大厂开始自己搞推理用的AI芯片。
推理芯片的门槛不高,起码不如训练用的芯片高,且各家大模型都想根据自己的算法去做适配定制。
前两天是OpenAI自己研发图像推理使用的芯片。
现在,特斯拉也在设计下一代芯片,马斯克刚刚在X上大赞自己的芯片团队,顺带在线招人。
有人问,这是汽车用的最好芯片吗?
马斯克说,AI5可能是所有推理芯片中,对于参数数量低于约2500亿的模型来说最好的。迄今为止硅片成本最低,性能功耗比最高。AI6 将会更进一步。
低于这个 2500 亿参数量的大模型也很多,这也意味着以后除了汽车场景,其他端侧场景都可能能使用这款芯片 。
#AI公司自研推理芯片或成趋势#
发布于 广东
