英伟达中国区首席技术官:将任务负载从CPU移至GPU,整体能耗将节省更多

  • 来源:百度新闻
  • 时间:2023-07-07 13:21:35


(资料图片仅供参考)

7月7日,在2023世界人工智能大会上,英伟达(NVIDIA)中国区首席技术官赖俊杰表示,英伟达在全球数据中心计算问题上观察到两个重要趋势:一是人们对人机交互的期望大大提高,引发了全球第二波关于大模型的投入浪潮。

二是很多互联网公司面临着用户需求增长、功耗越来越多的问题,特别是人工智能的大模型访问比例增加,意味着需要更多的能耗投入。

针对第二个趋势,英伟达提出如果能更多地将任务负载从CPU移至GPU,那么能在支撑同样多的用户请求之同时,节省更多的能耗。(澎湃新闻记者范佳来 实习生 葛羽馨)

关键词:

精彩推送

谁“搞臭”了火锅业!
证券 2023/07/07
泰州:做强食用菌产业
看点 2023/07/07
勤洗手讲卫生谨防肠道传染病
应用程序 2023/07/07

资讯播报

【MCup】末日之中 8
软件 2023/07/07
晨会纪要
原油 2023/07/07
官方宣布!暂停运营
读书 2023/07/07
平江胜景 写意江南
社会 2023/07/07