编者按:英伟达公司是独立图形处理单元的顶级设计者,可增强计算平台上的体验。 该公司的芯片用于各种终端市场,包括用于游戏、数据中心和汽车信息娱乐系统的高端PC。 近年来,该公司已将其重点从传统的PC图形应用程序(如游戏)扩大到更复杂和有利的机会,包括利用该公司产品的高性能的人工智能和自动驾驶。
“下一波技术应用浪潮正在改变各行各业,首先是生成式人工智能,其次是数据科学,最后是用于创建虚拟世界的元宇宙。在这一波技术应用浪潮的推动下,云计算正在成为企业计算的标配。”
“当企业试图在云计算运行这些下一代应用时,无论是私有云还是公有云,都面临规模与性能、高效和弹性、电力供应限制、安全的多租户基础设施这四大需求和挑战。”
英伟达DPU和DOCA技术专家崔岩谈下一波技术应用浪潮。“下一波技术应用浪潮正在改变各行各业,首先是生成式人工智能,如最近火爆全网的ChatGPT。其次是数据科学,由数据驱动决策。最后是用于创建虚拟世界的元宇宙,并在虚拟世界中训练人工智能或构建工业中的数字孪生模拟。这些都需要算力才能实现大规模的运行。”3月29日,英伟达DPU和DOCA技术专家崔岩在2023国际集成电路展览会暨研讨会(IIC SH)上谈到,在下一波应用浪潮的推动下,云计算正在成为企业计算的标配。
根据Gartner的预测,到2023年,全球最终用户在公有云服务上的支出预计将从2022年的4903亿美元增长20.7%,达到5918亿美元,高于2022年预测的18.8%增长率。
云计算面临四大挑战
“然而当企业试图在云计算运行人工智能、数据科学或元宇宙这些下一代应用时,无论是私有云还是公有云,都面临一些新的需求和挑战。”崔岩说。
首先是规模与性能,工作负载在数据中心运行时,需要高度分布式的方式处理大量的数据和大型数据集。这些对云计算数据中心的基础设施、性能有严格要求,一个租户的工作负载与共享相同基础设施的其他租户会争抢资源,这会带来一些问题。
其次是高效和弹性,当云计算采用软件定义数据中心时,就需要占用高达30%的CPU核心来运行基础设施工作负载。而这部分被消耗的CPU核心,本可以用来运行业务程序。这导致CPU负载的效率降低,经济性变差。
同时,随着2022年全球电力价格的飙升,很多云计算数据中心面临电力供应限制、节能减排和云服务租用成本降低等多重压力。而且如人工智能训练和高性能计算等工作负载的运行,在本质上是瞬时的,虽然需要大量算力,但需要的时间较短。这就需要云计算数据中心能够快速、动态地重新部署资源,以响应这些需求,从而满足租户和工作负载不断变化的需求,且随时随地可用。
最后,就是安全的多租户基础设施。云计算的多租户性质需要一个安全的多租户基础设施,通过部署无处不在的安全模型,来防止云计算数据中心内部和外部的网络攻击,并实现快速恢复。安全已经不是一种选择,而是业务应用所必须的。企业需要不断评估和调整他们的安全态势,来防范广泛且复杂的网络威胁。
崔岩认为,未来应对这些对云计算的需求与挑战,推动下一波应用浪潮,越来越多的云服务提供商转向加速计算。
英伟达CEO黄仁勋在上周的GTC大会上宣布,全面投产BlueField-3芯片。BlueField-3是第三代的NVIDIA DPU平台,专为下一代数据中心基础设施构建。BlueField-3 DPU将传统计算环境转变为从云端到边缘的高性能、高效率、高安全性、可持续的数据中心。
据崔岩介绍,头部的服务器、OEM制造商正在将BlueField-3集成到他们的系统中,同时英伟达还将其集成到英伟达数据中心计算平台中。
降低电力成本成为数据中心主要目标
在大模型等热门的当下,对算力的需求也大幅增长,如何提升数据中心能效更加成为一个关键问题。
起初数据中心关注的焦点在于,更大限度提升计算密度,缩短上市时间,以及部署冗余系统,实现高可用性等目标上。如今大部分的数据中心都可以实现快速上线,以及通过更高可用性和计算密度来改善耗电量。“降低相关电力成本,成为优化现在数据中心和设计新数据中心的主要目标。”崔岩说。
崔岩提出,四个主要的驱动力使得能效在数据中心中变得越来越重要。第一个驱动力是电力成本上涨,且呈现出长期趋势,全球能源需求旺盛与供应受限的相互作用不断推动电力成本。第二是供电量的硬性限制。现有的数据中心电力输入具有硬性限制,即使数据中心所有者有意愿多支付电力费用,数据中心也无法获得额外的电力。第三是节能减排的要求。面对气候变化压力,推动数据中心采用绿色环保电力,以实现双碳的战略目标。第四是公有云服务商定价压力。在电力成本不断上涨的压力下,公有云服务商还要持续降低云服务的租用成本,来应对市场的竞争压力。
目前为了提升数据中心能效,数据中心运营商通常会采用多种策略降低数据中心的耗电量和电力成本,主要有五种策略。
第一,在电力成本更低或供应量更丰富的地区建立数据中心。这种策略可以降低电力成本,但不能降低耗电量,而且电力成本后续有可能会上涨。
第二,改善能源使用效率,也就是PUE(Power Usage Effectiveness,评价数据中心能源效率的指标),更大限度提升用于实际IT设备的电力占比。主要采用更高效的配电和UPS(一种电源保护设备,可以在电网停电或电压异常时,通过内置电池等电源提供电力,以保持电子设备的正常运行),提高冷却效益和更高效的照明,但不能提升服务器的能效。
这两种策略在电力成本上升和数据平均PUE平稳的情况下,对于持续提升数据中心能效的作用已经不显著。
第三,通过虚拟化容器(让多个应用程序在一个计算机系统中共享资源,提高计算机系统的利用率和性能),更大限度地提升每台服务器的利用率,从而在同等工作负载的情况下采用更少的服务器,但这可能会增加每台服务器的耗电量。
第四,提高服务器的能效,即设法降低每台服务器的耗电量。
第五,将选定的工作负载外包给公有云或电力成本更低的主机托管中心,但由于数据隐私和管理合规问题,不是所有的工作负载都可以进行外包。而且,公有云服务商和主机托管中心的高能效带来的低耗电量并不一定能惠及客户,实现电力成本的节省。
信息来源:澎湃新闻
链接:https://www.thepaper.cn/newsDetail_forward_22498013
专题系列报道:
■德国史太白全球研究院院长劳穆勒与国际院士科技创新中心主任、国际高新技术研究院院长于建华亲切会谈
■国际高新技术研究院:整合全球顶级资源,引进国际龙头企业,打造国际一流高新技术产业化平台!
■国际高新院结盟斯泰恩拜斯大学 深化国际技术转移经理人认证和创新融合发展
■国际高新院与国安龙巢强强联合 携手开拓新兴产业多领域战略发展
重点合作:世界知名技术转移机构一一德国史太白
■上海市科委主任骆大进会见世界知名技术转移机构——德国史太白全球研究院院长劳穆勒教授一行
重点合作:全球GPU龙头企业一一英伟达
发布:中经网·中经在线
编辑:王海珠 熊辉 郑紫文
(中经网·中经在线 欢迎各界供稿 13520414009 13041130188)
专家推荐:于建华(国际院士科技创新中心主任、国际高新技术研究院院长、中经网·中经在线首席专家顾问)
中经网·中经在线联合各大友情媒体单位
传统媒体、海外媒体、新媒体、自媒体、社会化媒体、融媒体
为中国品牌走向全球贡献力量,助力经济高质量发展!
【中经融媒体综合平台发布系统】中经网·中经在线、华人头条、顶端新闻、正观新闻、封面新闻、百度百家、上游新闻、凯迪财经、今日头条、凤凰、腾讯、搜狐、网易、优酷、爱奇艺、人民日报海外网-海客、大众网-海报、环球网-环球头条、虎嗅网、钛媒体、知乎、喜马拉雅、东方财富网、雪球财经、豆瓣网、企博网、一点资讯、抖音、快手、火山、西瓜视频、A站、B站、全民小视频、微信、微博、抖音、快手、小红书等。
■【中经专家智库】专家智库“智囊团”-重点合作机构及重点服务介绍
■【中经联合推介】携手国家级国际性大型活动平台:为中国品牌走向全球贡献力量!
■香港国际经贸合作协会:促进各省市经贸交流与投资合作 组织产业合作代表团投资考察
■北京各省市驻京机构商务协会——共建永不落幕的“各省市政府三招三引政企合作平台”
■京忠智库——汇集雄厚国内外高端专家学者队伍的“大型国际公共关系智库”
■中经网·中经在线、国际高新技术研究院特邀领军企业研究院-联合共建“专精特新”加速器
■联合国世界旅游组织专家团队-助力各地打造“世界级旅游目的地”
■世界酒店联盟:打造文旅融合项目投资合作的国际化综合服务平台
■北京国际生命健康跨境博览会-生命健康共同体,携手贸易无国界!
■国际高新技术研究院:打造国家和地方政府的战略科技产业化平台、战略新兴产业智库
■博鳌产业发展与乡村振兴峰会:汇聚社会资源 聚焦产业发展 推动乡村振兴
■福建省食品工业协会:开创新时代食协工作新局面,推动协会工作和食品事业迈向更高台阶
■中经网-专家智库“智囊团”-聚焦新发展格局下的高质量发展【让发展更美好!】
■中经《大医健康》专家智库:汇聚医疗专家资源,助力健康中国行动!
中经网·中经在线联合权威机构共建专家智库“智囊团”(简称中经专家智库):以“服务国家战略与经济建设,推动企业高质量发展”为宗旨,践行当好“政府的助手、企业的帮手、产业的推手”初心使命,联合“政、产、学、研、金、企、商、会”社会各界资源,为地方政府招商引资、重大项目推进、重大经济发展战略,企业技术创新、企业品牌经营创新管理等提供产业对接、专家指导、智库赋能、媒体宣传及资源整合等专业化服务,推动媒体融合创新,赋能地方经济高质量发展。
中经网·中经在线专家智库汇集了中国管理科学研究院媒体中心、中国社科院成果开发中心产学研发展战略研究院、中国未来研究会院士智谷专家委员会、北京各省市驻京机构商务协会、京忠智库、联合国世界旅游组织、联合国经社部世界酒店联盟、国际高新技术研究院、香港国际经贸合作协会、《中国企业报》集团证券市场研究院、中国民族贸易促进会、中国食文化研究会、中关村科技企业协会、国家建材大数据研究中心、中建政研集团、北大纵横管理咨询集团、北京高精尖科技开发院、纳斯达克(中国)金融中心等多家权威机构及院士专家组成的实战知名专家院士智库机构。按照中央指示精神,倾力服务于各城乡区域经济、科技成果转化、政府招商引资、工业园区提质增效、乡村振兴、文旅产业、民族品牌打造与大中型企业品牌经营创新项目为中心的高端智囊机构。将致力打造中国管理科学一张耀眼的中国名片,有力促进我国各区域经济、企业高质量发展!
本网站声明:凡本网转载作品,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责,转载信息版权属于原媒体及作者。我们力所能及地注明初始来源和原创作者,如果您觉得侵犯了您的权益,请提供相应证据联系我们,我们会立即删除改正。如因作品内容、版权和其它问题需要同本网联系的,请在7日内进行。
百度搜索:中经网·中经在线“三驾马车”超级资源综合赋能平台,陆续推出:中经《企业品牌》展播;中经《音乐作品》展播;中经《艺术名家》展播;中经《中医传承人物》展播;《中经会客厅》;中经《云端会议》;中经《十大对接“直通车”》;中经《上市公司》频道;中经《专家智库“智囊团”-让发展更美好》;中经《“三招三引”落地各省市重点项目库》;中经《重点单位专版专题》;中经《大型活动专版专题》;中经《大型访谈栏目专题》;中经《投资山西》特别专题;中经《大医健康》频道;中经《终身学习汇编》;中经《新春大拜年视频专题》;中经《“专精特新”加速器》等等栏目或项目板块。