Eric Flaningam 是 Felicis(风险投资公司)的投资东谈主和有计划员激色猫小叮当,近期他在 Substack (在线实质共享平台)共享了一篇对于东谈主工智能数据中心的著述,详备发扬了东谈主工智能数据中心发展的历史、时间和企业概况,符合想了解数据中心的读者行为初学读物阅读。
男同小说📝 著述正文
咱们正处于历史上范围最大的贪图基础模样的设立期。现在的场景很像一百多年前的电网设立。在电网的出身经过中,咱们看到了发电厂范围推广、天文数字的本钱支拨和电力成本的急剧下落。今天,咱们看到的是数据中心的范围推广、来自超大范围供应商的大额本钱支拨,以及东谈主工智能贪图成本的骤降。
这是一篇对东谈主工智能数据中心的先容著述,咱们将分几部分对东谈主工智能数据中心进行系统性分析:它是什么、迂回游企业链,以及潜在的投资契机。
01 东谈主工智能数据中心概括
“数据中心”这个词并不可准确形色这些东谈主工智能工场的宏大范围。有计划发现,超大数据中心的设立需要耗资数十亿好意思元,包括地皮、电力和冷却开发、设立成本、GPU 以过甚他贪图基础模样。
这还不包括能源成本。如若咱们算上能源成本,一个超大范围数据中心将糜掷高达 1 千兆瓦的能源。行为参考,纽约市的电力糜掷约为 5.5 千兆瓦。因此,每五个这么的超大数据中心,咱们就在电网中加多了一个相当于纽约市的负荷。
咱们不错将数据中心的价值链约莫分为几个类别:开发数据中心的运行设立、复古数据中心的工业开发、数据中心的贪图基础模样,以及数据中心供电所需的能源。此外,还有一些公司领有或租借数据中心,为消费者提供终局做事。
在这里,咱们不错将价值链形象化:
宝贵:这幅图片并莫得触及数据中心所波及的每一家公司。金融家、房地产开发商、建筑公司和其他很多公司都为数据中心的设立作念出了孝顺。
在久了探讨之前,咱们应该先望望数据中心的历史,这与咱们今天看到的能源紧缺尤其关连,绝顶是在好意思国北弗吉尼亚地区。
02 数据中心的简史
数据中心在很猛进度上是随贪图机和互联网的兴起而发展的,我将简要筹商这些趋势的发展历史以及咱们是奈何走到今天的。
2.1 数据中心的早期历史
早期版块的贪图机看起来与今天的数据中心一样:一个集收用贪图机,旨在贪图密集型的复杂任务。
咱们有两个早期的例子:
1. Colossus:艾伦·图灵(Alan Turing)为了破译恩尼格玛机而建造的贪图机。
2. ENIAC:二战期间好意思国军方想象的贪图机,但直到 1946 年才完成。Colossus 是在 ENIAC 之前建造的,但由于 Colossus 的守秘性质,ENIAC 宽泛被视为第一台贪图机。
这两个贪图机都不错被称之为“最早的数据中心”。
20 世纪 50 年代,IBM 凭借其推出的大型贪图机成为了贪图机规模的霸主,并在贪图机时间规模占据了数十年的主导地位。AT&T 亦然其时另一家占主导地位的科技公司。
1969 年发布的 ARPANET(阿帕网)是为了相接好意思国日益增多的贪图机而开发的,它现在被以为是互联网的早期版块。由于这是一个政府名目,其最密集的相接主要麇集在好意思国华盛顿特区隔邻。
这等于好意思国北弗吉尼亚州在贪图规模占据主导地位的根底原因。时于当天,跟着新一代数据中心的设立,他们但愿讹诈现存的基础模样,于是更多的数据中心在弗吉尼亚州北部地区设立和发展。
2.2 互联网和云的崛起
20 世纪 90 年代,跟着互联网的发展,咱们需要更多的物理基础模样来处理日益增长的互联网数据,这在一定进度上阐述为数据中心行为互联互通的节点。AT&T(好意思国电话电报公司)等电信提供商一经设立了通讯基础模样,因此,对他们来说,设立数据中心是贼人心虚的推广。
然而,这些电信公司的互助竞争态势与今天的垂直整合云提供商雷同。AT&T 领有通过其基础模样传输的数据以及基础模样自身。因此,在容量有限的情况下,AT&T 会优先处理我方的数据。公司对这种动态保握警惕,这导致了 Digital Realty 和 Equinix 等数据中心公司的崛起。
在通盘互联网泡沫期间,数据中心得到了大宗投资,但泡沫毒害后,投资速率彰着放缓。
2006 年,跟着亚马逊 AWS(Amazon Web Services)的发布,数据中心的低迷情状动手扭转。从那时起,好意思国的数据中心容量动手稳步增长。到今天,这种安适的增长还在握续,据忖度,到 2030 年,数据中心的容量将翻一番。
2.3 参加东谈主工智能数据中心
2023 年东谈主工智能怒潮席卷而来,模子考试所需的算力资源促使东谈主们再行矜恤数据中心的范围。有计划发现,贪图基础模样之间的距离越近,性能就越强。此外,当数据中心被想象为贪图单位而不单是是做事器机房时,企业不错得到特等的集成上风。不仅如斯,由于模子考试不需要围聚最终用户,数据中心不错建在职何地点。
回来现在的东谈主工智能数据中心的特质:阻挠范围、性能和成本,并且不错在职何地点建造。
03 奈何构建东谈主工智能数据中心
3.1 构建东谈主工智能数据中心
构建数据中心有两种模式,算力提供商不错采选自行构建,或者与数据中心开发商(如 Vantage、QTS 或 Equinix)互助完成。
率先他们需要寻找一个合适的地点。然后会需要遴聘又名总承包商来管束通盘设立经过,总承包商会把柄功能分裂遴聘专科的分包商进行施工,如电气、管谈、暖通空调等。工东谈主们将在名目进行期间搬到该地区。数据中心建筑外壳搭建完成后,下一步是安装开发。
数据中心的工业开发约莫可分为电气开发和冷却开发两个部分。
1. 电器开发:电气开发主要包含能够相接外部能源的主开关柜、配电装配、不阻隔电源(UPS)和做事器电源相接线。大多数数据中心还配有柴油发电机,行为停电时的备用电源。
2. 冷却开发:主要包括冷却器、冷却塔、暖通空调开发(HVAC)以及相接做事器自身的冷却液或空气冷却开发。
3.2 东谈主工智能数据中心的贪图
数据中心贪图所需的基础模样主要包括运行模子考试和推理责任负载的开发。主要开发是 GPU 或加快器(Accelerator)。除了 Nvidia、AMD 和超等贪图机以外,还有很多初创公司也在争夺东谈主工智能加快器这块蛋糕。
天然 CPU 的进攻性不如已往,但在奉行复杂运算和"任务分派"方面仍然饰演着进攻变装。在数据存储方面,存储开发隆重将数据保存在芯片以外,而内存则特殊用于存储需要宽泛打听的数据。至于收集,它的作用是相接总计组件,结束做事器里面以及做事器与外部之间的通讯。
终末,总计这些都被打包到做事器中,安装在数据中心。如下图所示,咱们不错在这里直不雅地看到其中一台做事器。
3.3 为东谈主工智能数据中心提供能源
能源供应链约莫可分为以下几个部分。
1. 电力开始:不错发电的化石燃料、可再生能源和核能。
2. 发电:发电厂将化石燃料改革为电能;而可再生能源的发电则更接近电能的开始。
3. 输电:变压器和变电站将高压电能鼎新为可控的电能,并通过高压线向方向地输电,以供东谈主们使用。
4. 配电:群众事迹公司将管束终末一英里的配电,并通过购电公约 (PPA) 管束电力的运输。
输电和配电等于宽泛所说的电网,由当地管束,把柄地点的不同,其中任何一个都可能成为能源运输的瓶颈。
事实阐发,能源是东谈主工智能数据中心设立的要津瓶颈。
缺憾的是,要快速提高能源容量并拦阻易。数据中心有两种采选:并网能源和离网能源。1)并网能源通过电网,由公用事迹公司分派。2)离网能源绕过电网,如太阳能、风能和电板。3)除此以外,还不错采选在 2.5 千兆瓦核电站独揽建造一个千兆瓦数据中心,这么恶果会更好。
使用电网能源的问题在于扩大电网容量所需的时辰。下图知道了公司苦求贸易用电需要的恭候时辰。
04 东谈主工智能数据中心的特质
新一代数据中心范围更大、密度更高、速率更快、能耗更高。设立超大范围的数据中心并非簇新事。从 2001 年的几兆瓦,到 2010 年代的 50 兆瓦,到 2020 年的 120 兆瓦大型数据中心,再到今天的千兆瓦级数据中心,每隔几年就会关连于数据中心超大范围的著述。
这些千兆瓦的数据中心从系统角度进行想象,密度也更高。这里要责罚的中枢问题是摩尔定律的放缓,即跟着晶体管密度的加多,半导体的性能将阻挡提高。然而,晶体管的创新正变得越来越具有挑战。因此,责罚决策是将做事器甚而通盘数据中心更致密地连结在一皆。
在实验中,这意味着数据中心正在被想象成集成系统,而不是堆满单个做事器的房间。这些做事器也被想象成集成系统,使总计开发更致密地连结在一皆。
这等于 Nvidia 销售做事器和 POD(最小的可部署贪图单位)的原因,亦然超大范围企业设立系统级数据中心的原因, 省略亦然 AMD 收购 ZT Systems 的原因。
咱们不错不才面看到 Nvidia DGX H100 的视觉恶果,它不错是一台独处的做事器,也不错通过 POD(最小的可部署贪图单位)与其他 GPU 相连,或者通过 SuperPOD(超等贪图集群)相接,以结束更多相接。
Nvidia 还匡助始创了加快贪图,即从 CPU 中卸载任务,从而提高了包括 GPU、收集和软件在内的总计其他组件的进攻性。
除此以外,东谈主工智能的私有需求还条目处理海量数据。这就使得存储越来越多的数据(内存 /存储)和快速出动越来越多数据的才气变得愈加进攻。这雷同于腹黑泵血,GPU 是腹黑,数据是血液。
这些零部件蓄积在一皆,酿成了这个星球上最强劲的贪图机。然而跟着贪图才气的进步,也会导致更多的能源糜掷、更多的热量产生以及每台做事器所需的更多冷却,并且这种能耗只会越来越高。
05 东谈主工智能数据中心构建的机遇和挑战
5.1 并网和离网
很彰着,咱们的能源基础模样需要发展,以复古这种设立。确凿每家科技公司都但愿使用电网供电,因为这么更可靠,管束起来也更省事。熬煎的是,当电网无法提供电力时,超大范围的科技企业就需要自行责罚电力问题。举例,AWS 将投资 110 亿好意思元在印第安纳州设立一个数据中心园区,并设立四个太阳能发电场和一个风力发电场(600 兆瓦)为其供电。
从中历久来看,我最看好责罚能源瓶颈的两个规模:核能和高储能电板。这两个规模都能为数据中心提供更具可握续性的能源。
核电的优点有目共睹:清洁、可靠。现在的挑战是奈缘何经济可行的模式建造核电。依我来看,宇宙上一些最令东谈主振作的初创公司正在粗莽这一挑战。
高储能电板创新将是可再生能源上前迈出的进攻一步。太阳能和风能的问题在于它们的不服稳性。它们只可在起风或太阳出来时提供能源,而历久电板不错在能源饱胀时储存能源,在能源匮乏时调配能源,从而匡助责罚这一问题。
5.2 施工许可自动化和冷却液
在工业方面,我对施工许可自动化和液体冷却这两个趋势感到振作。
1. 施工许可自动化:当我与有计划东谈主员交谈时,有一个话题历久是制约数据中心设立的瓶颈:施工许可。对于数据中心和能源扩建,开发商需要得到建筑、环境、分区、杂音等方面的许可。他们可能需要得到地点、州和国度机构的批准。此外,还需要顺从不同地区的优先购买权法律。
2. 冷却液:新式东谈主工智能数据中心的一个彰着不同是做事器产生的热量越来越大。这一代数据中心将接受液冷时间,而下一代数据中心可能会接受浸入式冷却。
5.3 向科技公司请安
咱们必须承认:(1)Nvidia 在构建生态系统方面所作念的了不得的责任;(2)AMD 在巩固我方行为其后者所作念的勉力。
从应用到软件基础模样,再到云贪图、系统和芯片, Nvidia 在东谈主工智能规模的地位之高令东谈主难以置信。如若你想编写一册为时间波浪作念准备的无缺脚本,Nvidia 一经作念到了。此外,Crusoe 是另一家优秀的算力基础模样设立公司,它同期提供东谈主工智能贪图资源和能源做事。
总的来说,参与数据中心设立的科技公司应该会不绝保握精致的事迹,因为收入会在价值链中流动。从收集到存储,再到做事器,如若一家公司能提供顶级性能,那么他们的事迹就会阐述出色。
5.4 终末的念念考
对于数据中心设立,我的终末极少目的是:这委果是一个咱们这个期间新的大趋势,但它可能只是通盘贪图发展史的一部分。我以为东谈主工智能、数据中心和算力这三者是一个合座,不可分开筹商。
正如萨姆·奥特曼(Sam Altman)所形色的那样:
“咱们不错从一个狭义的角度来看待东谈主类历史:经过数千年的科学发现和时间超越,咱们一经知谈奈何溶解沙子,加入一些杂质,以惊东谈主的精度和超小的范围将其陈设成贪图机芯片,通过它运行能量,最终酿成能够创造出越来越强劲的东谈主工智能的系统。”
在已往的 100 年历史中, 创造智能是一个历久不变的趋势,而数据中心恰是现在这一趋势的中枢。