当前,专门的机器学习工具和框架经历了从流行到难以扩展及投入生产的循环,许多新兴工具在市场中获得了一定的关注,但仍面临着从实验到生产阶段的过渡问题。特别是向量数据库(Vector Database)在爆发式增长后,其在向量空间搜索的独特性已不再吸引人。传统数据库供应商纷纷推出了自己的向量搜索方法,云计算巨头如AWS、Azure和Google Cloud也已扩展了他们的原生数据库服务,以支持大规模的向量搜索和检索。AI代理商的商业化进程在AI代理商方面,尽管一些公司对其项目保持神秘,但我们已看到多个AI代理的商业化尝试。由Cognition推出的Devin被宣传为“首个AI软件工程师”,它能够规划并执行需要数千个决策的任务,并在过程中修正错误、持续学习。Devin在推出后,获得了投资者的青睐,半年内便成功达到了20亿美元的估值,尽管该产品存在一些需要人工干预和控制的问题此外,OpenDevin作为Devin的开源竞争对手,已经在软件工程基准测试(SWE-bench)中领先了Devin 13个百分点。另一家公司MultiOn也在大力投资于强化学习(RL),其自主Web代理—Agent Q—将...
随着美国对芯片出口管制的不断扩大,曾经符合制裁要求的芯片如今也被推向了更严苛的性能门槛。尽管如此,芯片制造商们并未因此止步,反而采取了创新策略以适应日益复杂的国际贸易环境。美国对中国市场的芯片管制不断升级去年,有报道称NVIDIA向中国的主要AI实验室销售了超过10亿美元的A800/H800芯片,这是专为符合中国要求而设计的芯片。然而,美国随后禁止了对中国的销售,这迫使NVIDIA重新考虑其中国业务策略。美国商务部长吉娜·雷蒙多(Gina Raimondo)警告道:“如果围绕特定的技术标准重新设计一款芯片,允许中国用于AI应用,我将在第二天就对其实施管控。”尽管NVIDIA的新款中国专用芯片——H20在理论上比高端芯片性能要低,但在大型语言模型(LLM)推理任务上的优化,使其比H100在推理任务上提高了20%的速度。这使得NVIDIA预计将在未来几年从这一芯片系列获得120亿美元的销售收入。State of AI 表示,中国市场对于美国芯片制造商的重要性正在下降。根据NVIDIA的数据显示,过去中国市场占其数据中心业务的20%,如今已经降至“中低个位数”。AI开发助理:从静态代码到动态...
根据state of AI,随着人工智能市场的火热,英伟达自2020年推出A100以来,不断缩短下一代数据中心GPU的交付周期,同时显著提升TFLOPs性能(TFLOPs是衡量计算能力的单位,表示每秒执行的浮点运算次数。在高性能计算、超级计算机、图形处理单元以及深度学习等领域,TFLOPs是一个重要的性能指标,用于评估系统的计算能力。这个指标对于科学模拟、大数据分析、机器学习等需要大量计算的任务至关重要,TFLOPs越高,说明硬件在处理浮点运算方面的能力越强)。从A100到H100的时间缩短了60%,而从H200到GB200的周期又缩短了80%。在此期间,TFLOP性能增加了6倍。据悉,许多大型云公司正在大量采购GB200系统,其中微软的订单在70万至140万之间,谷歌为40万,亚马逊为36万。传闻OpenAI至少也购买了40万台GB200。图:英伟达加速其产品发布时间同时提升TFLOPs性能加快GPU与节点间连接提升集群性能对于大规模集群,GPU和节点间(纵向和横向扩展)数据通信的速度至关重要。英伟达的NVLink技术在过去8年间大幅提升了带宽、链路数量和每个节点的GPU数量,显著提...
在前面的2024年人工智能全景报告一、二、三中,我们分别介绍了2024年大语言模型的突破,国产AI大模型的发展以及目前大语言模型面临的挑战。接下来将介绍2024年AI行业的发展状况。今年上半年,英伟达成功成为全球最有价值的公司。《State of AI》报告指出,英伟达的雄心远不止于此。随着对硬件需求的急剧增加,尤其是支持新一代人工智能工作负载的要求,全球各大实验室几乎都依赖于英伟达的硬件。2024年6月,英伟达市值突破3万亿美元,成为继微软和苹果之后第三家达到这一里程碑的美国公司。在第二季度盈利大幅增长的推动下,英伟达的市场地位看起来依然稳固。英伟达的Blackwell GPU系列预售情况强劲,其提供的技术支持也备受关注。与之前的H100 Hopper架构相比,新的Blackwell B200 GPU和GB200 Superchip预计将在性能上实现显著提升。英伟达表示,其新产品的成本和能耗比H100低25倍。尽管Blackwell架构的发布因制造问题有所推迟,英伟达依然对今年年底前实现数十亿美元收入充满信心。英伟达创始人兼CEO黄仁勋进一步扩大了公司的影响力,提出了主权人工智能的愿...
在半导体设备方面,云岫资本指出:2023及2024Q1国际设备厂商业绩分化,国内厂商逆势上行。2023年,国际半导体厂商部分企业展现回暖现象,如ASML等企业实现较大幅度收入同比上升;2024年第一季度由于周期性调整和宏观需求环境的不确定性,国际半导体设备厂商收入整体下滑。另一方面,国内半导体设备2023及2024Q1市场整体回暖,厂商业绩表现乐观。由于晶圆厂扩产带动了对半导体设备的需求,2023年国内半导体设备厂商营收普遍较大幅度上升。如:拓荆科技、华海清科、北方华创和晶升股份实现了50%以上的增长。根据云岫资本,从2023年第四季度开始,半导体行业已呈现复苏态势,2024年第一季度持续复苏,广力微、晶升股份实现收入翻倍。2024年第一季度开始,部分公司增加研发投入,以求在高端市场上取得突破,成本比例上升,净利润出现短暂下滑情况。中国大陆设备占全球市场比重增加,禁令升级,国产替代紧迫随着美国对半导体行业限制的升级,我国也加快了国产代替的步伐,根据SEMI的数据,中国大陆市场占比同步提升,2023年已达到34.4%。国产半导体设备在近年来取得了显著的进展,但与国际先进水平相比,仍存在一...
根据云岫资本,我国国内半导体晶圆厂建设热度高涨,12英寸晶圆厂将占据主流市场。据SEMI统计,2024年中国大陆将是全球晶圆产能增长率最高的地区,占比42%以上。2024年中国大陆芯片制造商运营18个项目,晶圆产能以13%的增长率居全球之冠,从2023年的每月760万片晶圆增长至860万片晶圆。云岫资本指出,12英寸晶圆厂因其更高的生产效率和成本效益而逐渐成为主流。中国大陆已有多座12英寸晶圆厂投入生产,并且预计未开五年还将新增24座12英寸晶圆厂,规划月产能222.3万片。全国共24座12寸晶圆厂,其中DDIC/PMIC制造厂仅4座,产能严重不足根据云岫资本,目前国内仅有中芯国际、华虹华力、晶合集成、粤芯四家企业共计4座12寸晶圆厂进行PMIC、DDIC的产品生产,且总产能较低,产能严重稀缺。其中,55nm以下先进制程产线仅有三条,且总产能低下,每月不超2万片。总的来说,先进制程产能严重不足。综合来看,万片12寸fab厂资本投入不低于10亿美金,即超过65亿人民币,资本负担极重。图:我国主要晶圆厂分布地区中国显示面板市场占全球76% 但DDIC市占率仅有19%根据云岫资本,2022-...