图片来源:Pixabay
ChatGPT爆火带动AI芯片需求飙升。
截至上周五,英伟达最新发布的旗舰AI芯片H100在ebay上的售价超过4万美元一枚。相比此前零售商3.6万美元的报价,已提价明显。
(资料图片仅供参考)
这一价格仍在持续上涨。4月19日,时代财经搜索eBay时发现,目前共有5家店铺挂牌销售H100芯片,售价普遍达到4.5万美元左右,其中标价最高的一枚超过5万美元。以人民币计,相当于不到一周时间涨价近7万元。
而在国内,AI应用的主力芯片——由英伟达2020年发布的A100,其交易价格也在极短时间内迅速飙升。从事GPU服务器销售的文强(化名)向时代财经表示,从年初开始到现在短短三个月多时间里,A100的价格已经从原本的6万元左右一路涨至9万元,甚至一度超过10万元,涨幅超过50%。
在文强看来,A100售价还将继续上涨。去年8月,美国政府发布政策,禁止英伟达A100、H100两款AI芯片售往中国。目前,国内在售的产品都是此前的存货。业内预估,国内A100芯片仅有3万枚存货,奇货可居。
为符合美国政府出口管制政策,英伟达随后宣布推出在性能、带宽上有所阉割的“减配版”A800、H800芯片。受限于产能问题,这两款芯片同样缺货,价格也随之水涨船高。
文强告诉时代财经,自己手中A800报价也已经高达8.7万元,且仅剩16枚,售完即止。如果需求量大、需要订货,报价还会再涨5000元至9.2万元,直逼A100芯片售价。
“一天一个价,一天比一天贵。”
A100芯片缺口达30万枚
算力、算法和数据构成了AI时代的三要素,而算力又是基础设施。有多少枚GPU、多少算力,被认为是大语音模型研发和创业成败最为关键的因素之一。
正是因此,在海内外一众巨头和创业者涌入大语言模型研发训练的当下,市场对AI芯片的需求量飙升。
据前人工智能NLP企业首席科学家、千芯科技董事长陈巍测算,国内如果想要直接训练出一个GPT-3级别的大模型,最少需要3000到5000枚A100级别的AI芯片。
这意味着国内市场存在巨大的供应缺口。目前除了阿里巴巴、百度等互联网巨头之外,商汤科技、昆仑万维(300418)、毫末智行、360、知乎等公司也官宣了自己的大模型,如果再加上王小川、王慧文、李开复等创业者,中国年内即将推出的大模型数量已经超过10个。光是满足这些企业的需求就需要3万到5万枚A100级别的AI芯片。
这还只是研发训练层面的需求量。陈巍向时代财经表示,如果想要实际部署,算力的需求量只会更大。以保守情况估计,国内A100级别的AI芯片缺口在30万枚左右。
“我们算过,如果百度要在自己的搜索引擎内接入类似ChatGPT这样的对话模型,可能需要10万块A100级别的AI芯片,这还只是假设每个人只对话一次的保守测算。”
正是因此,A800、H800芯片遭到包括服务器、互联网厂商在内的公司哄抢。
一份流传的《阿里AI专家交流纪要》显示,百度年初紧急下单3000台8枚芯片的A800服务器,这意味着需要2.4万枚A800,预计全年百度会有A800和H800共5万枚需求。阿里云预计在今年需要1万枚左右,其中6000枚是H800。
在海外,巨头们的抢购也同样疯狂。据媒体报道,马斯克为推进推特内部的新AIGC项目,购买了大约1万枚AI芯片。而自2022年末开始,微软就实行了GPU资源配额供给,但今年1月以来审批时间越来越长,如今部分申请需要等待几天甚至几周才能获批。同时,微软向英伟达预订的数万枚AI芯片,交货无期。
或拖慢国产大语言模型发展
对于大语言模型训练来说,英伟达几乎成为唯一的赢家。
去年,国产芯片公司壁仞科技发布的BR100,已经被普遍认为能够在算力和能效比上达到全球领先水准。然而,在配套的产品生态上,几乎无人能与英伟达抗衡。
一位AI芯片设计相关的从业者向时代财经表示,英伟达于2006年发布的CUDA平台早已成为应用最为广泛的AI开发生态系统,然而CUDA几乎只支持英伟达的Tesla架构GPU,这导致开发者难以脱离英伟达芯片,进行生成式AI的研发以及训练。“几乎没有芯片公司可以撼动英伟达的统治地位。”
IDC数据显示,国内GPU服务器在2021年占国内服务器市场规模的比例超过88.4%,英伟达的产品占比超80%。
但受限于美国政府的出口管制政策,中国一众互联网大厂、大语言模型的创业者都无法及时获得最先进的AI芯片。在国内难以产出替代产品的情况下,毫无疑问将会影响国产大语言模型的发展进程。
在陈巍看来,中国企业如果使用“减配版”芯片,综合带宽性能可能只有同期旗舰型号的六成。这样需求量更大,跑得却更慢,综合成本至少要高出20%至30%。“这很有可能是赚钱和不赚钱的分水岭,活下去和活不下去的分水岭。”
ChatGPT爆火带动AI芯片需求飙升。截至上周五,英伟达最新发布的旗舰AI
证券时报网讯,据上海发布消息,上海市委书记陈吉宁今天(4月19日)上
1、子持莲华锦是景天科瓦松属多肉植物。文章到此就分享结束,希望对大
1、子惠,汉语词组,意思是慈爱;施以仁惠。2、。文章到此就分享结束,
1、杨树和柳树是两种不同的植物,同属于一个科,习性比较耐水,可以生
用科技诠释豪华!一文看懂AITO问界M9有多少硬核“黑科技”
不用华为方案也无妨!比亚迪地平线达成合作:自研BEV融合感知
华为智能驾驶总裁:华为智能驾驶体验明显好于特斯拉
中国商务新闻网是商务部国际商报社主办,国家互联网信息办公室批准的国家一类新闻网站,是全国商务系统网络宣传和信息服务的重要窗口,是我国
中国商务新闻网是商务部国际商报社主办,国家互联网信息办公室批准的国家一类新闻网站,是全国商务系统网络宣传和信息服务的重要窗口,是我国
【剑桥科技:高速光模块业务对公司净利润的贡献较小】4月19日,剑桥科技披露股票交易异常波动公告,目前公司的主营业务是电信宽带、无线网络和
新京报贝壳财经讯(记者丁爽)4月19日,冠昊生物发布2022年年报。报告期内,公司实现营业收入3 77亿元,同比下降22 84%;实现归属于上市公司股东
广交世界,互利天下 第133届中国进出口商品交易会 作为中国重要的贸易促进平台,中国进出口商品交易会(广交会)被誉为中国外贸的“晴雨
新能源汽车市场发展速度迅猛,已然成为未来必定走向,传统燃油车型同样多有涉足,油电混合款式就是其中较为常见的设计,将电驱结构作为辅助,
2023上海车展上,比亚迪为我们带来了一款运动风格的中型纯电动SUV--比亚迪宋L(图片),据悉新车的量产版车型有望在年内上市,作为一款具有爆款
昨天(4月18日),中证君沉浸式体验了一把上海车展的8号展区——“豪车”展区!兰博基尼、仰望、路特斯、劳斯莱斯、克蒂、卡尔曼、玛莎拉蒂、
场内基金和场外基金的区别有什么?1、交易场所交易场所的不同是它们的核心区别,主要是指能否在证券交易所交易上市。场内基金几乎都是可以在
你们好,最近小未来发现有诸多的小伙伴们对于怎么辨别猪的前后脚,怎么区分猪的前后脚这个问题都颇为感兴趣的,今天小活为大家梳
指数基金适合什么样的投资者?指数基金比较适合风险承受能力较低、追求稳定收益的稳健型投资者。指数基金投资的是某种特定的指数,比如沪深3
观点网讯。4月20日,观点新媒体获悉,佛山高明更合一宗占地约2万平方米的法拍地块因无人报价而最终流拍,该地块原起拍价为2415 72万元。据了解
4月20日消息,重庆世界贸易中心大厦拟进行转让。该大厦是重庆市的一座标志性摩天大楼,位于渝中区夫子池,竣工于2005年,总高283米,共62层,
4月17日,福州市仓山区发布“榕(仓)土征告〔2023〕1号”土地征收公告。公告内容显示,2023年3月2日,福建省人民政府下发了《关于福州市2022
题:安徽宿州杂技演员坠亡事件追踪 新华社“新华视点”记者水金辰、赵金正 连日来,安徽省宿州市埇桥区蒿沟镇一杂技演员坠亡事件引发社
“有些普通本科高校没有衔接专、本两个阶段人才培养的方案,沿用原有本科人才培养模式,使得这些专升本学生在本科阶段学习时‘水土不服’。”
今天(4月20日)是谷雨节气第一天,北京一连几日的晴暖被一股冷空气打断,迎来了大风降温天气。今天白天,北京风力强劲,阵风可达7-8级,局地伴
如何抓好今冬明春市场监管领域安全生
12月16日,达州市达川区市场监督管理局下发《市场监管领域今冬明春安全生产隐患大排查大整治行动工作方案》,要求下属各部门从2022年12月16日起至2023年3月15日,全面聚焦城镇燃气、特种设备、危险化学品、烟花爆
《2021年度中国对外直接投资统计公报
金港高速公路连接柬埔寨首都金边和该国最大深水海港西哈努克港,是中国路桥按建造—运营—移交模式投资的项目,采用中国设计及质量标准,横跨5个省份,全长187 05公里,双向四车道。金港高速公路通车后,从金边到
总体保持稳定恢复态势 工业经济展现
2022年1至10月,浙江省宁波市811家汽车制造业规上工业总产值2646 8亿元,同比增长14 2%。图为11月19日,工人在领克汽车宁波梅山工厂的总装车间作业。今年以来,受疫情多发散发、市场需求不振等因素影响,国内工业
14家券商获首批个人养老金代销展业资
11月18日晚间,证监会发布《个人养老金基金销售机构名录》,共37家机构入围,其中券商14家,银行16家,独立基金销售机构7家。14家券商包括华泰证券、中信证券、海通证券、国泰君安、申万宏源、中金财富和长江证券
北京再担保承保规模超6000亿 覆盖中
北京中小企业融资再担保有限公司(简称北京再担保)发布的最新数据显示,成立14年来已累计承保规模超过6000亿元,覆盖中小微企业(农户)超过16万户次,积极推动北京市中小微企业融资规模不断扩大。北京再担保2008年
Copyright @ 2001-2023 www.u74.cn All Rights Reserved 商业时报网 版权所有
网站信息内容, 均为相关单位具有著作权,未经书面授权,转载注明出处
未经商业时报网书面授权,请勿建立镜像,转载请注明来源,违者依法必究