英伟达A100卡NVLink版与PCIe版GPU的究竟有什么
2024-02-10先说SXM版GPU。SXM架构是一种高带宽插座式解决方案,用于将 GPU连接到英伟达专有的 DGX 和 HGX 系统。对于每一代英伟达GPU(包括H800、H100、A800、A100,以及早期的P100、V100),DGX系统 、HGX 系统都配有相应 SXM 插座类型。下图是8块A100 SXM 卡插在HGX 系统上(浪潮NF5488A5)。 专门的HGX 系统板通过 NVLink 将 8 个 GPU 互连起来,实现了 GPU 之间的高带宽。如下图所示,每个H100 GPU 连接到4个
英伟达推出最新GPU芯片H200性能比H100提升约1倍
2024-02-10英伟达在2023年全球超算大会(SC23)上推出了一款最新的AI芯片H200,用于AI大模型的训练,相比于其前一代产品H100,H200的性能提升了约60%到90%。 H200是英伟达H100的升级版,与H100同样基于Hopper架构,主要升级包括141GB的HBM3e显存,显存带宽从H100的3.35TB/s增加到了4.8TB/s。 在大模型推理表现上,H200在700亿参数的Llama2大模型上的推理速度比H100快了一倍,而且在推理能耗上H200相比H100直接降低了一半。对于显存密集
AI繁荣英伟达硅谷园区价值飙升
2024-02-04随着投资者对人工智能(AI)相关地产的兴趣飙升,英伟达公司位于加州硅谷的总部园区的一部分正在挂牌出售。 据负责处理销售的Newmark经纪人Steve Golubchik和Edmund Najera透露,这家人工智能芯片制造商的房东Preylock 正在悄悄推销圣克拉拉的一座由七栋建筑组成的综合体。交易将包括大约200万平方英尺(186000平方米)的开发权,但不包括同样位于附近的英伟达新建的Voyager和Endeavour大楼。 Newmark经纪人表示,总部位于洛杉矶的Preylock已
英伟达显卡海外遭扫货 三倍价转卖大陆
2024-02-04英伟达(NVIDIA)的RTX 4090显卡在中国台湾、新加坡、越南和韩国等地出现扫货潮,严重供不应求,价格比一年多前上市时大涨60%,因为拿到中国大陆销售能卖到三倍价。报导指出,RTX 4090专为处理游戏图像设计,但也可用来训练人工智能(AI)模型。自从美国限制不得出货给大陆客户以来,在亚洲各国成抢手货。报导引述台北光华商场店家说法,将显卡带到香港或其他大陆城市,可卖到三倍价;台湾板卡业者也证实,高阶RTX 4090产品确实供不应求。美国拜登政府2022年起管制部分高阶芯片出口。英伟达功能最
英伟达缺货?OpenAI选择自研芯片
2024-01-31电子发烧友网报道(文/周凯扬)在生成式AI和大模型带来的AI洪流下,不少大厂都不约而同地选择了自研AI芯片。即便这意味着组建新的团队,花费大量的资金,但从长远发展的角度来看,自研芯片似乎成了势在必行。然而掀起这股AI洪流,或者说将其推向浪尖的“始作俑者”,OpenAI,却也已经在计划着自研芯片。有了英伟达供应的前提下为何要走向自研之路稍有关注OpenAI动向的话,想必也对2023年底OpenAI闹出的离职风波有所耳闻。据外网报道,在OpenAI闹剧期间,Sam Altman已经在秘密筹划一项数
英伟达与Equinix合作为企业客户提供超级计算机系统
2024-01-30近日,数据中心运营商Equinix与芯片巨头英伟达宣布达成一项重要合作。双方将共同为企业客户提供英伟达的超级计算机系统,使企业能够更轻松地拥有并控制自己的AI计算系统和数据。与传统的从亚马逊或微软等云计算提供商租用英伟达芯片的方式不同,此次合作将提供更加个性化和私密的数据中心服务。 这一合作包含英伟达的DGX系统、英伟达网络和AI Enterprise软件平台等一系列先进技术。Equinix将负责安装和运营每个客户专属的英伟达基础设施,并能够在全球主要的数据中心进行部署服务。这种合作模式将为客
英伟达DRIVE Thor超级芯片首搭极氪新车
2024-01-26英伟达和极氪汽车宣布了一项令人振奋的合作,新款极氪电动汽车将全球首发搭载英伟达DRIVE Thor超级芯片。这款新车预计将在2025年正式上市,而DRIVE Thor超级芯片将为其带来前所未有的AI功能。 DRIVE Thor超级芯片是英伟达最新的成果,其强大的性能最初在Grace CPU以及Hopper和Ada Lovelace架构的GPU上得到了验证。这款芯片预计将提供高达2000 TFLOP的高性能算力,相比于目前主流的英伟达Orin芯片,性能提升了约8倍。这使得车辆可以实现功能安全与信
英伟达发布RTX 40 SUPER系列显卡
2024-01-23在刚刚结束的CES 2024上,GPU巨头英伟达正式推出了全新的RTX 40 SUPER系列显卡,包括RTX 4080 SUPER、RTX 4070 Ti SUPER和RTX 4070 SUPER三款产品。这一系列显卡的发布,标志着英伟达在持续推动AI技术的发展方面又迈出了重要的一步。 英伟达表示,全新的GeForce RTX SUPER GPU是实现在PC上最佳AI体验的关键。通过采用先进的制程技术和优化设计,这些显卡在性能上有了显著的提升。与前代产品相比,RTX 40 SUPER系列显卡在
英特尔重返龙头,英伟达首次跻身前五
2024-01-20近日,美国市场研究机构Gartner发布了2023年全球十大半导体厂商榜单。英特尔营收超越三星,近三年来首度重返半导体龙头位置,英伟达(Nvidia)受益于AI芯片需求暴涨,首度杀入全球前五。 由于全球存储芯片需求锐减,拖累了2023年全球半导体营收萎缩11%至5330亿美元。其中,2023年全球存储芯片营收暴跌37%,DRAM暴跌38.5%至484亿美元,NAND Flash暴跌37.5%至362亿美元。 Gartner指出,2023年全球25大半导体厂合计营收年减14.1%,占全球整体半导
台积电财报引发股价涨,英伟达与AMD再创新高
2024-01-20近日,台积电发布2023年度第四季度和整年财务报告,董事长刘德音表示,虽然去年营收略有下降,但由于预期未来高端AI芯片市场需求增加,2024年营收有望提升20%。受此影响,各地股票市场纷纷上涨。英伟达和AMD的股价甚至刷新了历史记录,分别为每股576美元和每股168.60美元。值得注意的是,这两家中高端AI芯片巨头一年内股价大涨,分别达到了238.8%和127.6%,展现出投资者对AI产业的浓厚兴趣。 在此次上涨趋势中,英伟达和AMD无疑占据了主导地位。英伟达占据AI GPU市场的大多数份额,