低能模拟AI芯片从DARPA获得了1亿美元的提升
喜欢指数的未来？加入我们的Xpotential社区，通过Xpotential University的课程进行未来的证明 ，阅读有关指数技术和趋势 ，连接，观看Keynote或浏览我的博客。
一家年轻的DARPA支持的初创公司，在低功耗的计算机芯片上进行了新的旋转 ，在B系列的B融资回合中筹集了超过1亿美元 ，这表明狂野的兴趣是建立更大，更好的人工智能（AI）能源需求的更节能的方法 ，因为AI能源需求继续超越需求 ，并继续超越AI Tech巨大的AI技术巨大的核电站，以使他们的核电站越来越多 ，以使他们的新模型保持了新的AI II型模型 。
该公司Encharge AI的目标是将AI最重的工作负载从大型 ，渴望的数据中心转移到边缘的设备，包括笔记本电脑和移动设备 ，其中能源 ，大小和成本限制更加紧密 。它的方法被称为模拟内存计算，来自首席执行官Naveen Verma在普林斯顿大学的实验室中旋转的研究 ，他仍然是电气和计算机工程学教授。
人工智能的未来 ，AI发言人Matthew Griffin
Verma不会说它的客户是谁。但是，除了去年的达帕（Darpa）外，这是一位工业 ，电子和国防参与者的名人 ，对Encharge的筹码感兴趣 。由Tiger Global领导的超额订购的资金回合包括情报界的投资部门IN-Q-TEL，以及国防巨头RTX的风险投资组 ，Power Prouither Producter Constellation Energy ，South Korea的三星和台湾的Hon Hai（Foxconn） 。总部位于加利福尼亚州圣克拉拉的初创公司还与半导体巨头台湾半导体（TSMC）合作生产其第一代芯片。
这项新投资将Encharge的总资金达到了超过1.44亿美元，并将帮助这家60人的公司将其技术商业化 ，这在半导体界并不便宜 。
Verma说：“鉴于半导体行业的资本强度 ，B系列是推进其第一芯片商业化的重要一步 。 ”他拒绝透露公司的新估值。
Encharge的推动力是AI行业的关键时刻，该行业正在努力应对生成AI风暴驱动的快速增长的能量和计算需求 。DeepSeek上个月的出现为AI模型培训和推理带来了新的效率和较低的成本 。但是DeepSeek不太可能阻止该行业对更多计算 ，更多记忆和更多能量的需求。
Encharge说 ，与当今领先的AI芯片相比，在广泛的AI用例中 ，其专业芯片或加速器的能量最多要少20倍 。
为了使它起作用 ，该公司依靠高线技术 。与其仅使用数字晶体管在AI推理的核心（生成聊天机器人输出的连续计算）上执行一些乘法操作，还可以利用模拟世界的非二元奇迹。
Verma说：“模拟计算并不是什么新鲜事，但是Encharge的特定实现和系统级别的方法解决了导致以前的模拟计算方法失败的许多基本问题 。 ”
内存访问是计算最大的能源猪 ，在AI中 ，推理而不是训练，构成了大多数模型的计算中的大部分 。键入A提示并按Enter ，并且推理过程开始在云中的某个地方 - 在笨拙的数据中心中 ，巨大的热量，能源密集型GPU和CPU的巨大群集需要大量的电力和水。
除了现有的环境成本外 ，在这些芯片上训练和运行生成模型所需的能量是对延伸薄的能量网格的需求。根据国际能源机构的说法 ，典型的CHATGPT请求消耗了10千焦，是典型的Google搜索的十倍 。
内存的能量需求也意味着可以减慢机器学习进展的限制 。这些包括在芯片上 ，计算速度超过了内存和通信的带宽。研究人员将此问题称为冯·诺伊曼（Von Neumann）瓶颈或“记忆墙” 。
Encharge对挑战的方法是数十年来一直在寻找效率的一部分 ，它通过将内存电路放置在旁边，而是在计算核心内 ，这是一种称为内存计算（IMC）的技术 。尽管实现这一目标可能很棘手 ，但IMC通过将内存和逻辑更加紧密地结合在一起，并使计算成本较小，从而使访问内存的计算成本要少得多。
这是模拟计算的来源 。虽然数字设备自四个世纪中叶以来在一个或关闭离散的1s和0s的世界中运行 ，但模拟设备利用了物理现象的信息之间的内在信息（例如电气 ，机械或液压量），这使他们能够将更多的数据和更多的数据存储在远低于数字的过程中 。
由于模拟设备中的状态可能是在电荷的芯片的情况下 ，在微小的电阻线中的电荷水平连续体 ，因此模拟状态之间的差异可能小于1到0之间的差异。这需要更少的能量才能在值之间切换 。Verma说，这降低了芯片的内存和计算之间的“数据移动成本” 。
但是 ，像量子一样 ，众所周知，模拟计算是嘈杂的 ，难以扩展。Verma说 ，Encharge使用其金属线电容器的精确“几何控制 ”，静态随机访问存储器（SRAM）来解决精度和可伸缩性问题 ，以存储模型权重 ，以及包括软件堆栈和包含编译器的数字体系结构，以将应用程序映射到芯片上 。
Verma说：“结果是一个全堆栈体系结构，比当前可用或即将提供的领先的数字AI芯片解决方案更节能 。 ”“这包括所有数字到分析和模数转换开销 ，需要以专业和集成的方式与内存中计算的体系结构进行设计。”
为了降低从数字转换为模拟和返回的成本 ，芯片依赖于Verma称为“虚拟化 ” IMC的技术。“这涉及直接在第一级内进行计算，同时也以一种类似的方式使用内存系统层次结构来进行虚拟内存系统 ，以使计算能够有效地扩展到非常大的AI工作负载和模型 。传统体系结构面对较大的延迟效率 ，并在数据范围内提高延迟，“启用延迟 ” ，“启用效率” ，“启用效率 ”，“启用效率 ” ，“启用效率” ，“促进效率 ”，“启用效率 ” ，“启用效率” ，“启用效率 ”，IMC的效率在范围内，IMC的效率是IMC ，IMC的imc imc imc imc and Imc in Imc and Imc in Imc in Imc in Imc in Imc and Imc and Imc in Imc 。大量数据 ” ，对于小型语言模型和大型语言模型都有效率。
自从Verma于2022年推出研究以来，该公司一直在与客户合作 ，以完善和DEDESK的硬件和软件设计 。当前的芯片（PCIE卡上的离散板）可以以每瓦的150台TERA操作（顶部）运行机器学习算法 ，而同等的NVIDIA芯片执行等效任务，每瓦24瓦（TOPS） ，每瓦24瓦 。追踪更精细的芯片功能的新过程使该公司可以将其能源效率度量标准三倍 ，达到每瓦650个顶部。
RTX Ventures总裁兼董事总经理Dan Ateya说：“ Encharge AI的模拟内存架构的效率突破对于国防和航空航天用例的变革性是有害的，在这种情况下 ，大小 ，重量和功率约束限制了当今AI的部署方式 。”“继续我们与Encharge AI的合作将有助于实现AI在以前无法访问的环境中的进步，鉴于当前的处理器技术的局限性 。”
数十家公司正在开发新型的芯片和其他建筑 ，以应对AI培训和推理的能量和计算挑战。去年被日本软银收购的小脑系统 ，桑巴诺瓦系统和Graphcore等初创公司试图在AI培训市场上与NVIDIA竞争 。
Cerebras出售其巨型AI芯片并通过云为客户提供服务，并于9月份提交了文书工作，以首次公开募股列出了其在纳斯达克股票的股份 。该公司在其IPO招股说明书中表示 ，它预计AI计算市场将从2024年的1310亿美元增长到2027年的4530亿美元。
其他公司还正在探索内存中的模拟计算 ，包括初创企业神话，新半导体和Sagence 。在一系列新论文中 ，IBM研究科学家还展示了模拟内存计算的进步 ，包括对大型模型的脑启发芯片架构的研究，以及针对较小边缘大小的模型的相变位数以及算法的进步 。其中一项研究表明 ，模拟内存计算“可以通过利用专家的混合物（MOES）模型来大大提高LLM的能源效率 ” ，这是一项研究，该研究在《自然计算科学》杂志的一月份封面上介绍。
美国国防部还继续追求模拟计算。国防创新部门（DIU）周一发布了一个“数字工程平台 ”的邀请 ，以加速模拟芯片的设计和验证以及混合信号 ，光子和混合品种 。
“这些芯片的设计通常是一种瓶颈，具有长时间的设计周期和高重新设计速率 ，”邀请说 。“当前的手动设计过程是耗时的 ，迭代的且容易出错的。此外，原型的成本上升和熟练的模拟设计师的短缺在开发管道中创造了瓶颈 。国防部需要一种加速设计过程并减少错误的方法 。 ”
西门子EDA的高级合成部门计划总监Russ Klein在12月告诉半导体工程，如果像Encharge这样的模拟IMC系统可以有效地扩展 ，则可以为推理和其他高性能计算建立新的能源标准。
他说：“不必移动所有数据和IMC承诺的并行性的能源节省将不仅影响AI ，而且会影响大量数据上发生的任何计算 。 ”
来源:https://www.siyonli.com/zlan/202506-3663.html 来源:https://xianggongguan.cn/zixun/202506-4499.html 来源:https://xianggongguan.cn/xgzx/202506-4680.html 来源:https://yayait.com/cshi/202506-9855.html 来源:https://xianggongguan.cn/zskp/202506-4639.html 来源:https://xianggongguan.cn/zskp/202506-4695.html 来源:https://yayait.com/zshi/202506-10107.html 来源:https://www.siyonli.com/wiki/202506-3611.html 来源:https://0514ps.com/kxun/202506-1725.html 来源:https://yayait.com/cshi/202506-9976.html
来源:https://www.siyonli.com/zlan/202506-3663.html 来源:https://xianggongguan.cn/zixun/202506-4499.html 来源:https://xianggongguan.cn/xgzx/202506-4680.html 来源:https://yayait.com/cshi/202506-9855.html 来源:https://xianggongguan.cn/zskp/202506-4639.html 来源:https://xianggongguan.cn/zskp/202506-4695.html 来源:https://yayait.com/zshi/202506-10107.html 来源:https://www.siyonli.com/wiki/202506-3611.html 来源:https://0514ps.com/kxun/202506-1725.html 来源:https://yayait.com/cshi/202506-9976.html
本文来自作者[雀俊凤]投稿，不代表策华号立场，如若转载，请注明出处：https://cehuayingxiao.cn/wiki/202506-39498.html
评论列表（4条）
我是策华号的签约作者“雀俊凤”！
希望本篇文章《低能模拟AI芯片从DARPA获得了1亿美元的提升》能对你有所帮助！
本站[策华号]内容主要涵盖：国足,欧洲杯,世界杯,篮球,欧冠,亚冠,英超,足球,综合体育
本文概览：低能模拟AI芯片从DARPA获得了1亿美元的提升 喜欢指数的未来？加入我们的Xpotential社区，通过Xpotential University的课程进行未来的证明，...