新闻中心
News Center
新闻中心
为生产企业提供智能制造整体解决方案
当前位置: 首页 新闻中心 公司新闻
金年会体育-AI数据中心成本飙升:能耗与延迟是关键因素

发布时间:2025-05-26 13:57:05

跟着人工智能运用的广泛扩大,练习及部署这些繁杂模子所需的计较力也于急剧上升。这一趋向使患上数据中央的本钱支出(CapEx)及运营支出(OpEx)连续上升,而数据中央恰是支撑这场数字革命的要害基石。

人工智能(AI)已经成为鞭策全世界技能厘革的焦点气力,它于医疗、金融、汽车及文娱等多个范畴揭示出巨年夜的成长潜力。但跟着人工智能运用的广泛扩大,练习及部署这些繁杂模子所需的计较力也于急剧上升。这一趋向使患上数据中央的本钱支出(CapEx)及运营支出(OpEx)连续上升,而数据中央恰是支撑这场数字革命的要害基石。

面临成本不停上升的挑战,浩繁数据中央业主采取了一种计谋,即经由过程人工智能练习装备的摊销来分摊推理阶段的成本,例如,部署已经经练习终了的人工智能模子。只管这类做法于短时间内看似可以或许减轻企业财政压力,实则躲藏危害,可能会对于数据中央的财政康健及运营效率造成倒霉影响。为了鞭策人工智能的连续康健成长,咱们必需调解计谋 力图于均衡本钱投入与运营支出的同时,保障装备的持久不变性及高效运行。

当前计谋:摊销及分摊成本

将人工智能练习硬件的成本于其估计利用周期内举行摊销的做法相对于直接。鉴在人工智能练习对于计较资源的高需求,高端GPU及加快器的购置成本可能高达数百万美元。数据中央业主经由过程将这些昂扬成天职摊至数年,试图为这一巨额投资提供合理性,并确保高端练习装备于经济上具备可行性。

这些昂贵的硬件于完成练习使命后其实不会闲置,它们凡是会于练习阶段竣事后转而用在推理事情。这类做法的思绪是,假如数据中央可以或许使用统一套硬件既举行练习又举行推理,那末由此孕育发生的总收入将有助在抵消最初的装备投资及连续的电力耗损。从理论上看,这一逻辑是建立的:将投资成天职摊到多种运营勾当中,可以减轻财政指标的压力,从而可能晋升盈利程度。

然而,实际环境远比理论繁杂。依靠人工智能练习装备举行推理的做法,给数据中央带来了不容轻忽的限定,如今这些问题已经没法再被纰漏。

真实的运营成本首恶:电力耗损

只管练习装备是一项要害的本钱投入,但于数据中央中,电力耗损才是运营成本的金年会体育重要构成部门,特别是于练习及推理历程中。高机能GPU及加快器于运行时孕育发生年夜量热量,需要强盛的冷却体系来维持,这不仅致使电费激增,还有给电力举措措施带来压力。纵然采用了尖真个冷却技能及节能办法,年夜范围运行人工智能的电力需求依旧难以有用节制。

当数据中央利用高功率练习装备履行永劫间的推理使命时,问题愈发现显。与凡是为突发性且可能间歇性举行的练习差别,推理使命是连续性的,由于模子需要处置惩罚及时数据流。连续的事情负载象征着,这些高容量体系需要永劫间靠近满负荷运行,从而致使运营成本远超预期。

隐蔽的运营成本首恶:延迟

于硬件处置惩罚范畴,延迟是一个常被纰漏却具备庞大影响的因素。延迟指的是从倡议查询到得到相应之间的时间距离。于呆板进修的练习阶段,延迟通常为可以容忍的,但于推理阶段,环境则彻底差别。于这个环节中,即即是微小的延迟也可能激发连锁反映。假如相应时间跨越几秒钟,就可能致使用户介入度降落,侵害用户体验,并违反及时处置惩罚的目的。

为了降服延迟问题,工程师可能会思量增长处置惩罚器数目以实现并行处置惩罚,从而晋升总体处置惩罚能力。乍看之下,这类要领好像行之有用;究竟,增长处置惩罚器能直接晋升处置惩罚速率。但现实上,这个问题远比想象中繁杂。增长处置惩罚器确凿可以或许提高机能,但这暗地里的价钱也是巨年夜的:数据中央运营方的本钱支出及运营支出将会急剧增长。扩充硬件资源犹如添柴加火,虽然可能暂时减缓延迟问题,但也可能激发成本急剧增长,以至在难以连续的水平。

成本的增长不仅表现于早期的投资上,还有会致使一样平常运营预算的上升,进而增长电力耗损、维护成本及资源治理的需求。对于在浩繁企业而言,这类做法可能会酿成一项极重繁重的运营承担,其带来的负面影响可能跨越了削减延迟所带来的收益。面临这一挑战,企业需要采取更为高效及可连续的计谋来解决延迟问题,好比经由过程专门的硬件优化、更智能的数据处置惩罚架构,或者是使用那些能简化及时相应又不会凌驾预算的技能手腕。

装备折旧及寿命挑战

当前摊销计谋的一个重要问题于在,它预设了人工智能练习装备于转为推理使命利用时,可以或许连续充足长的时间来完玉成部折旧。只管这些装备确凿具有强盛的处置惩罚能力,但永劫间持续利用所酿成的磨损及损耗可能会很是严峻。

练习阶段被极限利用的人工智能硬件,于连续履行推理使命时的耐用性可能不如预期。一个不容轻忽的实际是,很多数据中央可能不能不于这些体系完成折旧以前就举行改换,这不仅会致使本钱提早刊出,还有会带来分外的财政承担。

追求可连续解决方案

面临这些挑战,行业必需摸索可连续的解决之道,于本钱支出与运营支出之间追求均衡,确保对于人工智能基础举措措施的投资不仅于短时间内合理,久远来看也能连结耐用与高效。此时,那些着眼在持久不变性及能源效率的立异设计便显患上尤为主要。

一种可能的解决方案源自一个看起来与数据中央其实不相干的行业:汽车财产。汽车级技能持久以来致力在打造耐用、机能不变且高能源效率的产物。差别在传统数据中央硬件,汽车级体系被设计成可以或许抵御卑劣情况及持久持续运行的磨练,且其机能不会较着阑珊。这类坚韧特征象征着更长的利用寿命及降低的改换频次,这于思量装备摊销时成为一个至关主要的上风。

采用汽车级要领

一家最初办事在汽车行业的立异企业,开发了一项技能,可能会重塑数据中央于人工智能计谋上的制订方式。该技能采用为汽车行业量身定制的严酷质量及耐用性尺度,汽车级解决方案是以具有了与数据中央需求高度匹配的多个上风。

起首,这些体系于设计上看重低功耗。与很多高功耗的高端GPU及人工智能加快器差别,这项技能于连结卓着机能的同时,优先思量了能源效率。这有用解决了于年夜量运行人工智能模子时电力耗损所带来的重要运营成本问题,从而显著降低了总体的运营成本。

其次,这种解决方案相较在传统人工智能练习硬件,拥有更长的利用寿命。采用汽车级耐用性的装备可以或许抵御连续利用的严苛情况,不容易像传统数据中央硬件那样呈现初期磨损及毁坏。这象征着更长的折旧周期及削减了对于新硬件的本钱投入,从而有用减轻了数据中央运营商的财政压力。

从头思索人工智能计谋

人工智能的成长势头不减,支撑其发展的数据中央需求也于不停上升。今朝,将昂贵的练习装备转用在推理使命以分摊成本的计谋,正日趋显露出其短视性,该计谋未能充实思量电力耗损及硬件寿命的现实影响。为防止财政及运营上的不成连续压力,必需对于战略举行调解。

将汽车级技能解决方案融入人工智能基础举措措施计划之中,可以或许带来火急需要的改善。虽然这些体系可能需要于早期从头调解预算以应答较高的本钱支出,但其持久利益 降低能耗、延伸装备利用寿命,以和更为合理的摊销摆设 将远超初始的投资成本。

于数据中央不停鞭策人工智能革命的历程中,行业带领者们必需从头审阅计谋,以应答AI范围化带来的隐性成本。今朝,将练习装备成本经由过程于推理阶段的共用举行摊销的做法,轻忽了要害的运营成本挑战及硬件利用寿命的现实问题。

经由过程采取看重效率及长期性的解决方案,数据中央可以或许为人工智能的将来构建一个越发可连续、更具成本效益的基石。将来的成长路径,不仅要求于AI模子上推陈出新,也要求于支撑AI运行的基础举措措施长进行立异。

本文翻译自国际电子商情姊妹平台EETimes,原文标题:HiddenCostofAI:WhyDataCenterStrategiesNeedaRethink

责编:Clover.li 本文为国际电子商情原创文章,未经授权禁止转载。请尊敬常识产权,背者本司保留究查责任的权力。英集芯取缔并购辉芒微

国际电子商情讯,3月17日晚间,深圳英集芯科技株式会社发布通知布告称,公司决议终止采办辉芒微电子(深圳)株式会社节制权,公司芯股票自2025年3月18日开市起复牌。2024年全世界IC设计公司营收TOP10揭晓

全世界前十年夜IC设计公司整年营收合计达2498亿美元,同比激增49%。此中,英伟达以1243亿美元营收连任榜首,盘踞前十总份额的50%,与其他厂商形成断层式差距。奥迪公布裁人7500人!电动化转型遇阻,缩减用人成本

继宝马、疾驰裁人以后,奥迪也最先公布裁人。加码国产化!思远依附DDR5 PMIC跨界存储赛道

近来,国产存储范畴呈现了一个新进者——思远半导体。这家于智能穿着、TWS耳机、挪动电源、BMS等范畴深耕十数年的电源治理芯片(PMIC)Fabless,如今把营业规模乐成地扩大到了存储电源范畴。突发!华年夜九天出资收购芯及半导体控股权

3月17日午间,华年夜九天发布通知布告称,正于操持经由过程刊行股分和付出现金等方式,采办芯及半导体的控股权,其股票自当日开市时起最先停牌,估计于不跨越10个生意业务日的时间内披露本次生意业务方案。​四部委结合发布《人工智能天生合成内容标识措施》

近日,国度互联网信息办公室、工业及信息化部、公安部、国度播送电视总局结合发布《人工智能天生合成内容标识措施》(如下简称《标识措施》),该措施自 2025年9月1日起正式施行。再次挥动制裁年夜棒,美国意欲脱钩中国锂电池

日前,美国国会众议院以口头表决的方式一致经由过程了编号H.R.1166的《与依靠外国敌手电池脱钩法》,禁止美国领土安全数采购宁德时代、比亚迪、前景能源、亿纬锂能、海辰储能及国轩高科六家中国企业出产的电池。促成人工智能+消费!国度提振消费专项步履方案来了

2025年3月16日,中共中心办公厅、国务院办公厅印发《提振消费专项步履方案》并发出通知。此中触及到“人工智能+”步履,促成“人工智能+消费”。苹果iPhone 17 Air新爆料:厚5.5毫米,无SIM卡槽

国际电子商情讯,据彭博社资深记者马克·古尔曼(Mark Gurman)最新爆料,苹果正奥秘打造一款倾覆性产物——iPhone 17 Air,该机型将以“史上最薄iPhone”姿态打击市场,该机型将无SIM卡槽,机身厚度仅5.5毫米,较现有iPhone薄约2毫米。微软断供!华为再无Windows可用,鸿蒙PC要来了吗?

之后只有效咱们的鸿蒙PC了。”传长江存储4月涨价,涨幅或者超10%

国际电子商情讯,继闪迪、美光公布涨价以后,业内也传出长江存储也将涨价。按照中国闪存市场报导,按照渠道反馈,长江存储零售品牌致态也将在4月起面向渠道上调提货价格,幅度或者将跨越10%。首款原生鸿蒙正式版手机要来了!DeepSeek加持

“天下人平易近买患上起、想不到的产物” 英飞凌估计2025财年AI营业营收将冲破6亿欧元,将来两年内有望超10

美通社动静,3月14日,“2025英飞凌消费、计较与通信立异年夜会”(ICIC2025)于深圳进行。本届年夜会会聚600多位业界精

湖南宣布电子信息制造业重点项目,涉13个MLED、显示类项目

近日,湖南省工信厅发布了《2025年湖南电子信息制造业重点项目名单》,涵盖进步前辈计较、音视频、新一代半导体、人

总投资7.6亿,惠科东莞平板显示项目二期动工

3月15日,质鼎集团公家号动静,惠科东莞平板显示集群电子商务项目二期正式动工。

台湾20家电子企业2024年第四序度及整年财报汇总,富士康、台积

富士康、台积电、广达、华硕、联发科、友达光电等台湾20家电子企业2024年第四序度及整年财报汇总。

全世界LED显示屏市场机缘与挑战阐发

最近几年来,LED显示屏市场连续演进。回首2024年,行业出现出哪些成长态势?瞻望2025年和将来,市场又将面对哪些机缘与

索尼发布全新RGBLED违光技能

近日,索尼正式发布新一代RGBLED违光技能体系,可实现4000尼特峰值亮度。索尼规划该体系将在2025年最先量产,并将

AI发作,本土进步前辈封装怎样冲破?

AI芯片是半导体最年夜的增加点,进步前辈封装则是制造AI芯片的要害技能。此前英伟达H100成本约3000美元,而用进步前辈封装

泰西车用固态电池验证加快,估计最快2026年慢慢实现量产

截止2024年末,17家泰西固态电池企业融资总额已经冲破42亿美元。

中国半导体走向幕后时代

曾经几什么时候,中国半导体险些不停有年夜基金投资、年夜项目上马,以和美国制裁的新闻。持久处在聚光灯下,中国半导体成为

Dynabook(原东芝PC部分)于退出10年后重返美国消费市场

Dynabook于退出十年后公布重返美国消费市场。

中国年夜陆PC市场呈现反弹,估计2025年将实现3%的增加

Canalys最新数据显示,遭到消费需求激增8%的鞭策,2024年第四序度中国年夜陆的PC市场最先复苏,同比增加2%。

受苹果手机年底出产岑岭和中国补助政策动员,4Q24智能手机产量季增

按照TrendForce集邦咨询最新查询拜访,2024年第四序因为Apple(苹果)手机出产进入岑岭,以和中国部门处所提供消费补助

德州仪器推出全世界超小型MCU,助力微型运用立异

德州仪器近日推出了全世界超小型 MCU,进一步扩大了品类齐备的 Arm® Cortex®-M0+ MSPM0 MCU 产物组合。

芯向将来,2025英飞凌消费、计较与通信立异年夜会乐成举办

立异是企业连续成长最年夜的价值。

闪迪自力上市后首秀“肌肉”: UFS 4.1新品、企业级SSD满意云到端

“闪迪(Sandisk)又回来了!”于3月12日的存储年度嘉会CFMS MemoryS 2025上,闪迪公司全世界产物副总裁Eric Spa

摩尔斯微电子推出MM8102 Wi-Fi HaLow芯片,鞭策物联网新海潮

摩尔斯微电子推出合规的Wi-Fi HaLow片上体系(Soc),开启欧洲毗连技能新纪元。超低功耗、远间隔毗连功效现已经为

存储年夜佬们都说了啥?MemoryS 2025 财产年夜咖演讲内容合集

CFMS | MemoryS 2025已经圆满落幕,时期包括三星电子、长江存储、铠侠、美光、闪迪、高通、Arm、慧荣科技、S

安森美推出头具名向工业运用的进步前辈深度传感器

Hyperlux™ ID iToF 系列将深度丈量间隔晋升至最远 30 米,提高工业情况中的出产效率及安全性

西部数据推出年夜容量存储方案,赋能NAS用户、创意专业人士与内容创

26TB年夜容量CMR HDD助力WD Red Pro与G-DRIVE/G-RAID系列专业级产物矩阵,赋能数据存储拓展与出产力跃升

恩智浦发布全新一代S32K5微节制器系列,推进SDV区域节制架构成长,扩

全新一代MCU可以满意各类区域节制架谈判电气化体系需求,助力汽车制造商向软件界说汽车(SDV)过渡。将精彩的高

【原厂入驻】聚洵半导表现已经入驻iCEasy商城!

聚洵半导体科技(上海)有限公司(Gainsil Semiconductor Technology)在2016年景立在上海张江科学城,是一家全世界

4月必逛电子展!六年夜热点新赛道,来NEPCON China 2025一展全看

范畴新结果范畴新结果4月必逛电子展!AI、人形呆板人、低空飞行、汽车、新能源、半导体六年夜热点新赛道,来NEPCO

英飞凌成为全世界首个于安全节制器中采用后量子加密算法而得到Co妹妹

后量子加密技能帮忙掩护数字基础举措措施免受量子计较机于未来带来的潜于威逼。

踏时代之浪,共绘立异可连续新篇章

英飞凌坚信低碳化及数字化是将来十年的要害驱动力,半导体于应答能源挑战及鞭策数字化转型中饰演着主要脚色。

-金年会体育

相关新闻

微信公众号

销售热线:13549366882
服务热线:0769-81815562
售后专线:400-839-2292
Email:yicheng@mhn.com
地址:广东省东莞市石碣镇铭华路162号
友情链接
版权所有 © 2007-2025东莞市金年会自动化设备有限公司 粤ICP备17070912号 粤公网安备 44190002005222号
在线客服