近期国君TMT团队邀请了AI算力专家做分享，现将交流内容总结如下：

国外使用 GPT 通用模型，国内现在开发各种各样的专属模型，模型下边会有一个底座，使用异构GPU 算力。把 GPU 放到 AI 里面，就叫它 AI 芯片。

AI 芯片大概分四类：GPU，FPGA，ASIC和类脑，类脑目前还是在实验室研究阶段。市场销售比较多是前三类，大模型背景下面我们能看到 GPU 和 ASIC 出货量最多。国内在大模型出来之前， AI 芯片公司更多关注 ASIC ，因为GPU的研发难度是比较高的，ASIC相对来说是算力小，然后成本低，总结就是便宜、好用、专用。

AI应用海外内差异较大，特别是大模型出来以后，GPU算力落地的行业不太一样。海外和国内的区别在于海外在商业市场落地是比较快的，国内虽然说互联网厂商们一直在囤英伟达的芯片，但是能看到真正在B端能够产生实际应用场景反而是在政府侧。

特殊国情导致很多数字化、信息化的应用，政府会冲在前面。其他国家的政府好像也没有中国在这方面效率高，直观上现在公共安全政务部门对 GPU 的这个算力开始格外关注。另外，考虑到信息安全的问题，政府部门也在关注中国人自己到底能不能做真正的GPU，或者说GPU出来之后能不能好用？能不能低成本使用，能不能用出中国特色，因此国内是政府端的大需求是和互联网厂商同步的。

海外更多的是商业化的应用。德国那边已经研发在用英伟达GPU的算力集群，加上通用模型、加化工行业的专属模型，去做化学材料的加速创新研发，这意味着将来大家的汽车发生事故以后没必要再纠结是否去 4S 店补漆，以后小汽修店把漆补的又亮又硬又漂亮，跟原来的车的颜色一样的。这就是算力落地能够在生活中的一些应用。

国内的芯片公司产品做得再好也需要市场营销。目前国内产品做得再好，哪怕是像华为海思这样，在客户侧的号召力依旧赶不上老大哥Intel、英伟达。所以，产品再优秀，依旧需要市场销售去在客户侧做大量基础工作。芯片这个圈子仅仅靠国内是难以自主循环的，芯片产业是一个全球的产业链，国内最擅长的是芯片设计，我们设计确实是很厉害的，如果没有制裁或者限制，海思会把芯片做得很漂亮，国内也会孵化出很多不错的芯片设计公司。但是在上游 EDA 软件的问题到下游工厂光刻机以及光刻胶的生产等等，目前这些材料一旦到了生产28纳米以下的芯片，就有很多问题存在，国内目前能做到的就是中低端产品，在中低端勉强可以做一些产业链的自给自足，但是一旦制程比较先进的，受限制就会比较大。

国产芯片是特别是 AI 芯片，除了 CPU 之外，更多是生产 ASIC 的这种小芯片。现在来看，这些边缘芯片起家的公司依旧是小而美的公司，有自己专注的行业，然后芯片一代一代再往下迭代，然后量产，整体来说做得也还不错。但是大模型背景下，真正到了 GPU或GPGPU的时候，真正能做出来的厂家就没几个了。

衡量一个优秀的AI芯片企业有四个方面的核心因素。做GPU芯片难度比 ASIC 要高出很多。

团队经验是第一要素。不是说拉一帮人，拉一些风投就能把GPGPU或者GPU做出来的，而是说团队一定要有做过 GPU 的经验，要有设计、量产及迭代的经验才行。再者，不管上市公司或者初创企业，技术路线绝对不能犯错，这种错误基本上是致命性的，所以内部要团结，技术路线也必须要稳定。

长久的时间成本是第二要素。 GPGPU 芯片的团队大概需要1000 人左右，中间不踩坑，至少也要做两年才能做出一颗芯片，还不是训练推理一体的大芯片，只是推理而已。如果要做大模型训推一体的大芯片，那么至少 3 年才能把一颗芯片做出来。如果是渲染、训练、推理都放在一起的话，至少 3 年才能出一个芯片，有可能还不是那么好用，软件还需要花很长的时间去迭代。

人才是第三要素。原来看 1000 人好像挺多，现在看 1000 人只是一个低配，连标配都算不上，特别是现在大模型一出来，既需要做训练，也需要做大量的推理，然后还需要堆人去帮客户去调优你的产品，进一步做迭代等等。另一方面，芯片本身这个硬件不需要太多人，芯片定型了之后就按照迭代往下走就可以了。最难的是软件和生态，非常需要堆人，需要不断的抄作业，需要花时间，需要烧更多钱。

成本是第四要素。目前看国内一些主流的AI芯片设计公司的产品大部分是集中在7纳米，相对来说性价比会高一些，就功耗，计算的速度相对来说还可以。即便这样，一个 1000 人的团队，一颗 7 纳米的芯片，整个团队两年打底不踩坑也要 10- 20 亿人民币成本。所以各位在判断一些初创的 AI 芯片公司的时候，可以参考这几条核心要素。

以下是总结的国内 AI 芯片的初创企业，因为前面三家是上市企业就没有披露名字。重点关注最左侧 GPU 这一栏，其实真正在芯片的硬件架构上是 GPU 的企业并不多，大部分都是做ASIC或者NPU、XPU架构，这种架构没有办法做通用大模型。国内目前使用通用模型的基础是不具备的。首先，中文语料数量少，质量欠佳。再次，中文的逻辑跟英文是不一样的，这也是一个比较大的问题。

另外，微软拥有open AI和联邦学习平台，国内目前还缺乏这样一个平台来去打通各个巨头们的数据。因此，国内芯片厂商们能够做的是应对中小模型和专用模型AI算力。

当下面临英伟达芯片的限制风险。原来英伟达 A100 是可以买，现在只能买A800，本质上是把片间互联的速度限到了400，进一步限制我们做大模型的能力。那最近又听说 A800也要限购，但是还没有落实。同时，有可能将来把片间互联这个接口全部给封死，虽然单卡能力很强，但是没有办法做集群，更没有办法做大模型。这也是国产芯片的一个机会。

中国市场容量巨大，政府需求强烈。虽然说先进芯片上下游会有一些限制，但是中国市场太大了，我们的市场占到英伟达营收的1/ 3，中国整个市场在it、数字化这几个行业基本上都能占到全球的1/3，除美国以外中国是最大的单一市场，而且中国政府对数字化、信息化的这种诉求渴望是非常强烈的，而且政府愿意买单。我们的市场跟海外完全不一样，有政府需求跑在前面，不管是中小模型还是专用模型，匹配国产算力将来大有可为。我们不求和一线的美国厂商们相抗衡，就做好本国的区域市场就已经很不错了。

我们预测到2027年全球 GPU市场，能到 2000 亿美金。有点稍微夸张，但我觉得各种模型对算力的需求很恐怖，所以这个2000亿美金还是值得期待的。

国内在 GPT 出来之前市场预测是 300 亿，GPT问世后数字就翻了好几倍，国内市场预测有1000 亿人民币，其中训练和推理四六开。其实，1000 亿还是一个相对比较保守的数字，我认为国内未来两到三年就会涌现一批做 GPU 芯片的新秀厂商们。

GPT 4 的硬件成本在下降，现在的价格比以前低了不少。只需要H100 服务器 1000 台，成本算下来大概不到 20 亿人民币了。但是这对于国内想做大模型的企业来说是高昂的成本，很多客户难以自建，那么就会租赁。

目前三大运营商已经在寻找可靠的国产GPU 算力，将其放到自己的数据中心。同时国内建了一些政府主导的数据中心，但是利用率不高，基本只有30%的利用率，其中大多还是用于天气预测。现在运营商也好，金融行业也好，政府侧包括智能交通、智慧政务的这种大数据中心已经在迫切考察国产 AI 芯片厂商们的产品能不能用。接下来对于国内厂商来说，能否有可靠可用的算力产品是抢占市场的关键。

GPU 的算力和大模型结合能落地行业中，交通行业值得关注。前两天一个朋友和我说北京和上海吵了 10 年的红绿灯智能化实现了。以前一到节假日或者城市开展会，周边的交通就一塌糊涂，赶上天气糟糕就更差。为什么？大模型给我们提了个醒。原来交管部门能够拿到的数据只是交通部门的数据，比如说文旅行业的数据他拿不到。大模型之所以能够做出很多应用，是因为他把各个行业的数据全部打通了，他把其他行业的数据拿过来，去做赋能。比如它把各个维度的数据都拿过来，然后在路口的红绿灯上去做真正 AI 优化。真正能做到车多的时候红灯亮，车少的时候绿灯亮，行人想过的时候可能手都不用去摁那个红绿灯的按钮，人多了之后绿灯自动放行。

GPT 给国内各个行业真正提了一个醒，就是数据要打通各个行业，然后再去做专用模型才是真AI。既然说有专属模型，那下面匹配的算力就不是原来 CPU 而是变成 GPU 的异构算力。比如说省交通厅或者公安厅或者省政府的大数据中心，它会建训推一体的大芯片算力平台，到下面各个地级市或者县城会用边缘侧推理应用，用到更多的就是这种小芯片，比如说ASIC或者 NPU 架构的推理芯片。所以将来国产 GPU 的市场在5-6 年以后，会是训练占20%，推理占80%的市场比例。

以英伟达作为参考，海外GPU＋大模型的落地行业更多的是工业 4.0 的高端制造业。英伟达已经帮台积电把原来两纳米芯片特别高的成本通过异构算力大大降低，降低到了原来的十分之一。现在主流芯片是4纳米，三年以后轻轻松松可以做到2纳米，比我们领先了不止一代，这可能也是他们期望的一个差距；实体制造业里面也是这样，比亚迪投了国内自动驾驶的芯片厂商，帮助其在海外建工厂，将来海外跟国内会布局不同的GPU算力，海外会用英伟达，国内就用国产GPU 算力，主要用来做电池材料的创新研发。无独有偶，丰田已经借助英伟达的GPU算力＋算法，优化两个方向的创新研发，一个是电池，一个是氢燃料，极大地提升研发效率。