仔细研究机器学习芯片制造商Mythic

在2016年机器学习芯片市场开始sc sc之前，但在2012年在密歇根大学成立之后，Mythic试图构建嵌入式芯片，让监控无人机运行仿效人脑的软件。该公司的部分资金，即Isocline，来自国防部。

但是两年前重新启动后，Mythic重新关注了像自动驾驶汽车和安全摄像头这样的嵌入式设备。现在，该公司仅用几个月的时间就完成了基于雄心勃勃的架构的采样芯片，该架构采用闪存单元内的模拟计算来加速机器学习任务，如面部识别。

帮助超过终点的是上个月从新和现有投资者筹集的4000万美元，包括软银投资，Draper Fisher Jurvetson和Lux Capital。其他为Mythic在2019年初投入量产的投资者还包括Sun Microsystems和Arista Networks的联合创始人Lockheed Martin和Andy Bechtolsheim。

与主导培训中使用的服务器芯片的Nvidia不同，Mythic专注于嵌入式推理。例如，训练算法可以滚动浏览数百万张照片，以教授机器学习模型来识别特定对象，如猫。推理过程涉及使用模型解释前所未见的图像。

Mythic联合创始人兼首席技术官Dave Fick在德克萨斯州奥斯汀的公司总部接受采访时说：“我们一直认为推论是一个比培训更重要的问题。 “推理平台的功能决定了你在现场部署算法的能力。您可以将服务器场的规模扩大一倍，但这并不影响现场发生的任何事情。“

Fick告诉Electronic Design，该处理器的效率将比Nvidia的Titan XP GPU高出近百倍。这种性能可以使安全摄像头在不咨询云的情况下识别犯罪分子，提高隐私性并节省网络带宽。它还可以为自动驾驶汽车或工业控制带来更低的延迟。

该公司位于加利福尼亚州雷德伍德市，它的第二座基地在闪存内部进行处理，比其他芯片更快，更高效地运行机器学习。内存中的处理可以消除传统芯片将信息从外部存储器中抽出的功耗。 “移动数据耗费能源，”菲克说。

内存瓶颈已经超过了微芯片制造商，因为蚀刻越来越小的晶体管的成本优势已经受到削弱。尽管许多公司在存储通用指令的昂贵缓存中挤满了芯片，但其他公司却将内存尽可能地移近处理器 – 这是IBM True North使用的一种策略。其他人正试图计算DRAM的内部块。

通过在拥有数百万重量的相同闪存单元中运行推理算法，Mythic可以将运动降至最低程度，并融入机器学习模型。这些权重决定了照片中物体的特征与用于描述它的词语之间的关联强度。

Fick说：“推论实际上比训练简单得多。它们基本上是矩阵乘法的长线，其中输入乘以存储在网络中的权重。该产品被添加到另一个输入的乘积再乘以另一个权重，以此类推以进行数千次操作，每个操作花费的功率很小。

该公司否认使用大规模多核架构来数字执行复杂算术的想法。这里面临的挑战将是映射所有处理核心。 “我们认为英特尔和Nvidia能够相对容易地创造出类似的东西，所以我们想要做一些不同的事情，”Fick说。

Mythic选择了模拟计算。使用模拟电流代替数字信号可以节省通常由于晶体管电压不断切换而浪费的功率。相反，Mythic芯片中的所有存储单元同时驱动，这不仅缩短了数据进入处理器的行程，而且还自动处理添加操作 – 无需使用任何电源。

Mythic将内存块拼接成并行处理器。每个模块使用数字电路将指令转换为模拟电流。存储器单元末端的模数转换器吐出结果。数字电路可重新配置，并防止模拟电流在处理器的其他部分级联。

这些独立芯片基于富士通制造的40纳米嵌入式闪存。Mythic正在远离更先进的制造业，以保持低成本。上个月，该公司采用了处理器架构，现在它正在完成数字架构，这有助于加速不同神经网络的数量。

随着客户开始使用新的8位处理器，Mythic是否会在明年取得成功。该公司在过去两年筹集了5570万美元的风险投资，并计划扩大其35人团队。菲克说：“在嵌入式领域，在你将芯片拿出来之后，你会开始看到收入，这将是一年。”

虽然Fick负责奥斯汀硬件开发，但Mythic首席执行官Mike Henry负责监督Redwood City的一个软件团队。与竞争对手一样，该公司正在开发软件工具，以帮助嵌入式工程师轻松编程Mythic定制芯片。 “我们正在使用TensorFlow并将其直接编译到芯片上，”菲克说。

这种软件工具可以在日益拥挤的市场中平衡竞争环境。 “直到有人出来了一个认真的情报处理单位，Nvidia坐得很漂亮，”Fick告诉Electronic Design。 “但是一旦有人推出了具有竞争力的产品，Nvidia的销售将会大幅下降。在这个市场上，他们并不是很坚强。“

Dethroning Nvidia不是Mythic的目标。该公司计划在进入一般人工智能领域之前开始提供可安装在安全摄像机网络中的芯片。Mythic可能面临来自初创公司如Reduced Energy Microsystems和Horizon Robotics等面向嵌入式推理的挑战。

其他公司投下更长的阴影。在收购Movidius之后，英特尔正在制造能够处理机器学习算法的芯片，取代传统计算机视觉，这正是Movidius最初的重点。高通公司正在采样两款基于ARM的新型处理器，这些处理器可用于跟踪包裹或识别犯罪分子的安全摄像头。

菲克说：“ARM绝对是我们最大的竞争对手。该公司已经开始涉足全球几乎所有的智能手机，最近表示已经开发了一款用于相机和智能手机的物体检测处理器和机器学习加速器。监督这对称为Project Trillium的芯片是ARM IP产品部门总裁兼Mythic董事会成员Rene Haas。

Mythic还可能与Nvidia发生冲突，Nvidia已经设计了基于其Xavier自动驾驶汽车处理器的开源推理架构。上个月，Nvidia表示，新架构NVDLA将作为ARM机器学习产品的一部分提供，使其与Ceva，Cadence和Synopsys形成竞争。

半导体研究公司The Linley Group的分析师Mike Demler在上个月的一份通讯中说：“该公司在创建开源项目中的策略是促进更广泛地采用神经网络推理引擎。 “预计它将因其对昂贵的基于GPU的培训平台的更大需求而受益。”

菲克说，Mythic计划发布一张价值30,000美元的图形芯片的计算能力相同的服务器卡。它想要避开嵌入式市场的步伐。在实际产品中使用Mythic芯片之前，嵌入式开发人员将通过无情的资格认证。 “他们非常反感，”菲克说。

该公司的基于PCIe的卡可以定价更高，让Mythic更快赚钱。但从Graphcore和Wave Computing等初创公司可能面临比嵌入式市场更激烈的竞争。另外，像谷歌和微软这样的云计算巨头也纷纷加入定制芯片进行推理。

在菲克的脑海里，Mythic的模拟电脑占据了上风。 “由于专业化，您可以构建一个比GPU更高效10倍的系统，但使用模拟计算我们会再进行10次。”他说。 “与世界的Groqs和Graphcores相比，我们的效率提高了10倍。”

但随着越来越多的公司进入机器学习市场，Mythic的误差容限缩小了。 “如果你从历史角度看半导体行业，每个市场通常有两个玩家，”菲克说。假设是推理和培训市场将分别有两个赢家。

他说，Mythic是专注于成为其中的一员。