切换到宽版
开启辅助访问
登录
立即注册
搜索
搜索
搜索
首页
Portal
论坛
同城
人才网
工具
菲龙网工具
个人中心
关于我们
每日签到
本地新闻
时事评论
华人世界
中国新闻
新闻视频
国际新闻
娱乐新闻
科技新闻
菲龙广场
房产网
菲龙速聘
二手交易
便民电话
美食餐厅
旅游签证
物流速运
商品买卖
二手车市场
严选
话费充值
便民电话
贺词页面
瀑布流页
汇率查询
APP下载
每日签到
我的任务
道具商店
每日签到
我的任务
道具商店
更改用户名
关于菲龙网
About US
联系菲龙网
活动回顾
加入我们
本版
用户
菲龙网
»
论坛
›
新闻频道
›
国际新闻
›
英伟达自己超越自己,H200取代H100成为新的最强AI芯片 ...
菲龙网编辑部7
有 744 人收听 TA
147261
主题
147278
回复
173376
积分
收听TA
发消息
加好友
本文来自
国际新闻
订阅
|
收藏
(
2955
)
菲龙网编辑部7发布过的帖子
0/63
田轩:10月非传统银行市场表现强劲,长期资金入市可促稳定
0/47
理财公司如何探索构建多资产多策略体系?当下时点哪些大类资产更具投资价值?南财理财通第九期策略会成功举办!
0/60
服务实体经济,这家银行不是说说而已
0/48
中国工商银行:未来五年将为苏州市提供不低于10000亿元的投融资支持
0/43
独家专访芝商所全球金属产品主管Jin Hennig:多交易中心对市场参与者有利,金属市场交易参与度上升
0/48
广银理财“幸福添利1个月持有期第3号A”近3月净值增长率领跑最短持有期产品榜单,成立来收益超基准上限75bps丨机警理财日报
0/43
服务实体经济,这家银行不是说说而已|新京智库
0/42
国家医保局发文,商业健康保险迎来利好!国新健康回应
0/43
服务实体经济,这家银行不是说说而已 | 新京智库
查看TA的全部帖子>>
英伟达自己超越自己,H200取代H100成为新的最强AI芯片
时间:2023-11-15 13:22
0
356
|
复制链接
|
互动交流
显示全部楼层
阅读模式
直达楼层
马上注册,结交更多好友
您需要
登录
才可以下载或查看,没有账号?
立即注册
x
·对比备受热捧的H100芯片,新的H200完成了1.4倍内存带宽和1.8倍内存容量的升级,提高了处理密集生成式人工智能负载的能力。据介绍,在处理Meta的大语言模型Llama2(700亿参数)时,H200的推理速度比H100提高了2倍。
·第一批H200芯片将于2024年第二季度上市。
英伟达芯片
第一批H200芯片将于2024年第二季度上市。
北京时间11月14日凌晨,英伟达在今年的SC23大会上突然宣布,推出新的顶级AI芯片HGX H200。第一批H200芯片将于2024年第二季度上市。
英伟达又一次自己超越自己,H200取代H100成为新的世界最强AI芯片。
对比备受热捧的H100芯片,这款新的GPU(图形处理单元)完成了1.4倍内存带宽和1.8倍内存容量的升级,提高了处理密集生成式人工智能负载的能力。据介绍,在处理Meta的大语言模型Llama2(700亿参数)时,H200的推理速度比H100提高了2倍。
从外观上看,H200似乎与H100基本相同。内存方面,H200芯片是第一款采用HBM3e(新型超高速高带宽内存)的GPU。HBM3e可加速生成式AI和大语言模型工作负载,将GPU的内存带宽提高到每秒4.8TB,而H100为每秒3.35TB,同时将其总内存容量提高到141GB,而其前身为80GB。与再前一代的A100相比,其容量翻倍,带宽增加2.4倍。
对于高性能计算(HPC),显存带宽也至关重要,其可以实现更快的数据传输,减少复杂任务的处理瓶颈。对于模拟、科学研究和人工智能等显存密集型HPC应用,H200更高的显存带宽可确保高效地访问和操作数据。据介绍,相较于H100,H200在处理高性能计算的应用程序上有20%以上的提升。
英伟达大规模与高性能计算副总裁伊恩·巴克(Ian Buck)在演示视频中表示,“HBM内存的整合有助于加速计算密集任务的性能,包括生成式人工智能模型和高性能计算应用,同时优化GPU的利用率和效率。”“借助H200,业界领先的端到端人工智能超算平台的速度会变得更快,一些世界上最重要的挑战,都可以被解决。”
H200还与支持H100的系统兼容。英伟达表示,云服务提供商在添加H200时无需进行任何更改。亚马逊、谷歌、微软和甲骨文等公司的云服务部门将是明年首批接收新GPU的公司。
除了各种芯片性能升级外,一个重要的关注点在于公司是否能够得到这些新芯片,或者它们是否会像H100一样受到供应限制。对于这个问题,英伟达并没有确切的答案。该公司表示正在与“全球系统制造商和云服务提供商”合作,以使其可用。英伟达发言人克里斯汀·内山(Kristin Uchiyama)拒绝就生产数量发表评论。
此外,价格也是核心焦点。英伟达目前没有列出新芯片的价格,内山表示定价由英伟达的合作伙伴确定。据美国媒体CNBC报道,上一代H100估计每个售价在25000到40000美元之间,要想在最高水平上运行,可能需要数千个H100芯片。
目前全球的人工智能公司还面临着“算力荒”,急切寻找H100芯片成为常态(H100被视为高效训练和运行生成式人工智能和大语言模型的最佳选择)。这些芯片已经成为了“硬通货”,甚至有公司将H100芯片用作贷款的抵押品,在硅谷谁拥有多少H100芯片也是热门的八卦话题。
内山在接受科技媒体The Verge的采访中表示,H200的推出不会影响H100的生产,“你将看到我们在整个年度增加总体供应”。据《金融时报》8月报道,英伟达计划在2024年将H100的生产量增加到三倍,目标是明年生产200万个(2023年生产约50万个)。
延伸阅读:
不愿失去中国市场 英伟达和华盛顿上演“猫鼠游戏”?
中美国旗
直新闻:在“习拜会”登场前,中美已经经过多轮磋商,包括中美经济和金融会谈,你认为中美关系是否出现拐点?
特约评论员陈冰:
经过几轮会谈,包括气候变化、核军控、经济会谈,我们可以看出中美关系在企稳止跌,在合作方面也有一定的成果。今后一段时间,也就是拜登总统剩余的任期内,中美关系大概率只会向好,不会再恶化了。最近几个月的中美高层互动,比如中国副总理何立峰和美国财长耶伦的深入会谈,我们可以看出中美新的共识正在形成,如果用一句话来归纳,就是中美都希望避免“修昔底德陷阱”,两个大国要努力管控分歧,不要因误解而出现意外摩擦,不要因摩擦而升级为冲突。
在这方面,美国的感触可能更深刻一些,中国很多的主张都得到实践检验,使得美国开始调弦,拜登政府不再像刚上台那么自以为是了,其中最大的变化是,美国承认现在与以往任何一个时代都不同,中美两个大国在经济上的相互依存,是处理中美关系和其他国际关系的基本点。因此耶伦在与何立峰深入会谈后,再一次强调美国不寻求中美经济“脱钩”,要发展健康的经济关系,两国要一道努力,应对共同挑战,包括经济增长、金融稳定和监管。以往美国说中美合作,至多提提气候变化问题,现在则拓展了合作领域和范围。耶伦在阐述美国对亚太地区经济政策时,也公开承认美中关系是世界上影响最大的关系之一,必须正确处理好这一关系。
如果美国与中国“脱钩断链”,包括亚太国家在内的各国将被迫选边站,将会对全球产生重大的负面影响,将导致灾难性后果。美国有这样的认识,算是较大的转变,一定程度上接受了中国的世界观。在安全领域,白宫国安顾问沙利文在《外交事务》杂志发表专文,阐述如何在一个相互依存的时代进行竞争,如何与中国竞争。沙利文承认,现在的竞争与过去的中型大国和近邻大国之间的地区竞争不同,而是真正的全球竞争。中美间经济上相互依存的竞争,决定了不是“零和竞争”,而是面临共同挑战。他承认在可预见的未来,中国仍将是世界舞台上的重要角色,华盛顿和北京需要找出管理竞争的方法,以缓解紧张局势,并在共同的挑战上找到前进的方向。拜登政府正在加强美国与中国的外交,保留现有的沟通渠道并建立新的渠道,努力避免陷入冲突。他强调高层的反复互动对于消除误解、避免误解、发出明确信号,对于阻止可能爆发重大危机的螺旋式下滑至关重要。
最近中美对稳定关系有令人鼓舞的迹象,今后真正的考验在于,当局势不可避免地急剧升级时,这些渠道能否发挥作用。可以这么说,中国对中美竞争的立场和态度是一贯的,一直寻求管控分歧、合作共赢,而美国则一直强调对抗和战略竞争。现在美国在对华政策上碰壁,在乌克兰危机和巴以冲突中陷入困境后,似乎开始微妙地进行政策调整,意识到中美关系的重要性,意识到“修昔底德陷阱”的可怕。我们尚不能说中美关系的拐点来了,但可以看出中美关系止跌企稳的迹象确实越来越明显。
英伟达芯片
直新闻:据传美国芯片制造商英伟达要向中国市场发布改良版系列芯片,以规避美国对华芯片限令,有媒体认为美国禁令难为了美国企业,把正常的进出口变成“猫鼠游戏”,你怎么看?今后美国政府会替企业着想吗?
特约评论员陈冰:
美国政府要是替美国企业着想,可能就不会制定对华芯片限令了。美国对华芯片出口限令,是典型的政治挂帅,以行政命令干扰市场,结果是害人不利己,把自家的企业搞得灰头土脸,又无可奈何。英伟达专门设计和制作适合中国市场的芯片,这是第二次了,都是拜登政府芯片限令惹的祸。
去年美国开始实施对华芯片限令,英伟达按照要求,制造提供中国市场的A800和H800;今年美国芯片限令又加码,英伟达只好再改制式,削减了一些计算能力,制作新的三款改良版芯片,专供中国市场,规避美国管制。很显然,这样做让美国企业陷入两难:一是给中国市场的不是最好的芯片,让中国用户不高兴,可能寻找替代者;二是美国企业增加成本,得生产两套或两套以上的产品。结果就是美国企业可能会失去一部分中国市场,失去盈利能力;而中国同行则加快芯片研制,占领市场。
所以路透社报道说,中国百度集团已向华为订购芯片,而不是向老供应商英伟达订购。英伟达等美国芯片企业的管理层,已多次向美国政府申诉,要求开放对华芯片供应,人为限制将使美国企业在世界最大芯片市场之一的中国,失去竞争优势,而且会推动中国芯片企业快速发展,在全球形成对美企的竞争力,会对美国科技企业造成巨大损害。我们再来看一个数据,2022年中国进口芯片总计约4156亿美元,其中人工智能芯片70亿美元的市场,英伟达占了90%,可见其对中国市场的依赖度之高。
不过拜登政府出于对中国的战略遏制,在芯片和技术出口,以及在高端制造业上的投资限制,不太可能取消,还要看2024年大选的结果。所以在这一届美国政府任内,美国对华芯片限令估计不会放松,美国企业只好与政府继续玩“猫鼠游戏”了。
责任编辑:荀建国_NN7379
回复
举报
高级模式
B
Color
Image
Link
Quote
Code
Smilies
您需要登录后才可以回帖
登录
|
立即注册
点我进行验证
本版积分规则
发表回复
回帖后跳转到最后一页
关闭
站长推荐
/1
【点击免费下载】菲龙网移动APP客户端
【点击免费下载】菲龙网移动APP客户端,新闻/娱乐/生活资讯生活通,带你了解菲律宾多一点!
查看 »
扫码添加微信客服
快速回复
返回列表
返回顶部