麻省理工科技评论 24-07-19 21:42
微博认证:《麻省理工科技评论》杂志官方微博

#芯片# 【百万年薪招募应届硕博,这家存算一体独角兽用人才加速AI产业共振】

王绍迪博士是业内少见的既懂技术、又懂市场,更擅长表达输出的年轻创始人。他是 2007 年全国中学生物理竞赛被保送至#北京大学# 。毕业后他进入美国#加州大学# 洛杉矶分校攻读硕士和博士,研究方向主要围绕存储器、存算一体相关领域。

2017 年,他创立了#知存科技# 并担任 CEO,短短 5 年便量产了全球首颗存内计算芯片并实现百万终端商用。现在公司年营收超亿元。此次访谈,王绍迪博士向 DeepTech 分享了存内计算的当下和未来,介绍了知存科技在多模态大模型时代的定位,以及最新发布的天才博士计划。

谈及创立知存科技的初衷,王绍迪回忆道,“ 2016 年底 AI 已经非常热门,随着 AI 从机器学习转入深度学习之后,对存储器的性能要求越来越高。我们看到了这个趋势,但由于当时‘存算一体’的概念比较新,一些国际巨头对于投入这个技术不是很积极,我们不想放弃这个新机遇,最终决定自己创业研发存算一体技术。现在我们很庆幸做了这个决定,这几年变化很快,现阶段大模型比当时深度学习模型对存储器的容量和带宽需求又高出了1 万倍。”

存算一体技术是一种新的计算架构,通过“存算融合”的方式克服了传统冯·诺依曼架构的瓶颈,结合先进封装、新型存储器件等技术能够进一步提升计算能效。“存内计算芯片的计算单元也是存储单元,通过修改存储器的拓扑结构,从存储器里读出来的其实是一个矩阵的乘累加计算结果,并且乘累加不是用乘法器、加法器实现的,而是直接用存储器单元的物理特性完成,因此可以大幅节约内存读写,让计算能效实现数量级提升。”他解释道。

在王绍迪看来,“当 AI 从以计算为中心转变成以存储器为中心之后,整个计算的成本、性能瓶颈全都落在存储器这一侧。比如,目前一颗 GPU 中大约有 70% 的成本是存储器,同时性能瓶颈也在存储器(超 80% 取决于存储器的性能)。因此,开发存内计算技术其实就是在存储器侧去提高有效带宽,解决算力瓶颈。毕竟,目前 AI 计算的瓶颈之一是读取带宽,数据读取效率的提升能带来计算效率的大幅提升。”

戳链接查看详情:http://t.cn/A68wJfOv