<?xml version="1.0" encoding="utf-8" standalone="yes"?><rss version="2.0" xmlns:atom="http://www.w3.org/2005/Atom"><channel><title>AI推理 on Korea Invest Insights</title><link>https://koreainvestinsights.com/zh/tags/ai%E6%8E%A8%E7%90%86/</link><description>Recent content in AI推理 on Korea Invest Insights</description><generator>Hugo -- gohugo.io</generator><language>zh</language><lastBuildDate>Thu, 09 Jul 2026 17:20:04 +0900</lastBuildDate><atom:link href="https://koreainvestinsights.com/zh/tags/ai%E6%8E%A8%E7%90%86/feed.xml" rel="self" type="application/rss+xml"/><item><title>中美智能体推理基础设施分化与SRAM机会</title><link>https://koreainvestinsights.com/zh/post/us-china-agentic-inference-stack-sram-opportunity-2026-07-09/</link><pubDate>Thu, 09 Jul 2026 17:20:00 +0900</pubDate><guid>https://koreainvestinsights.com/zh/post/us-china-agentic-inference-stack-sram-opportunity-2026-07-09/</guid><description>&lt;h2 id="摘要"&gt;摘要
&lt;/h2&gt;&lt;p&gt;美国和中国都在扩大AI推理基础设施，但两边解决的瓶颈并不相同。美国的核心约束是电力、机架密度、HBM、先进封装和每兆瓦token吞吐。中国的核心约束是先进逻辑芯片和HBM获取，因此更可能依赖Ascend、光互连、并行扩展和国产存储层级。&lt;/p&gt;
&lt;p&gt;对韩国上市公司来说，最清晰的机会不是简单押注中国光模块。更直接的落点在美国式AI factory瓶颈: HBM4/HBM4E、电力设备、HBM封装设备，以及三星电子在SRAM/LPU代工、AI存储和存储层级上的低估期权。&lt;/p&gt;
&lt;h2 id="1-哪些判断可以验证"&gt;1. 哪些判断可以验证
&lt;/h2&gt;&lt;p&gt;本文从YS-VC关于中美AI推理堆栈分化的文章出发。核心判断大体成立: AI推理已经不是简单的GPU故事，而是不同地区在解决不同物理约束。&lt;/p&gt;
&lt;table&gt;
 &lt;thead&gt;
 &lt;tr&gt;
 &lt;th&gt;判断&lt;/th&gt;
 &lt;th&gt;评估&lt;/th&gt;
 &lt;th&gt;投资含义&lt;/th&gt;
 &lt;/tr&gt;
 &lt;/thead&gt;
 &lt;tbody&gt;
 &lt;tr&gt;
 &lt;td&gt;中美AI推理堆栈正在分化&lt;/td&gt;
 &lt;td&gt;基本正确&lt;/td&gt;
 &lt;td&gt;美国优化电力和机架效率，中国绕开先进逻辑和HBM限制&lt;/td&gt;
 &lt;/tr&gt;
 &lt;tr&gt;
 &lt;td&gt;美国走向GPU/HBM/SRAM的rack-scale推理&lt;/td&gt;
 &lt;td&gt;正确&lt;/td&gt;
 &lt;td&gt;Vera Rubin、LPX、HBM4、SRAM/LPU进入同一系统&lt;/td&gt;
 &lt;/tr&gt;
 &lt;tr&gt;
 &lt;td&gt;中国使用Ascend、光互连和自有存储层级&lt;/td&gt;
 &lt;td&gt;部分正确&lt;/td&gt;
 &lt;td&gt;方向合理，但CloudMatrix性能仍需独立验证&lt;/td&gt;
 &lt;/tr&gt;
 &lt;tr&gt;
 &lt;td&gt;美国出口管制限制中国获得NVIDIA数据中心compute&lt;/td&gt;
 &lt;td&gt;正确&lt;/td&gt;
 &lt;td&gt;中国难以稳定获得最高端GPU和HBM&lt;/td&gt;
 &lt;/tr&gt;
 &lt;tr&gt;
 &lt;td&gt;HBM仍是关键控制点&lt;/td&gt;
 &lt;td&gt;正确&lt;/td&gt;
 &lt;td&gt;BIS将HBM视为大规模AI训练和推理的重要品类&lt;/td&gt;
 &lt;/tr&gt;
 &lt;/tbody&gt;
&lt;/table&gt;
&lt;h2 id="2-为什么两套基础设施会分化"&gt;2. 为什么两套基础设施会分化
&lt;/h2&gt;&lt;p&gt;智能体AI会显著增加token数量。代码智能体、研究智能体、语音智能体和企业流程智能体会读取长上下文、调用工具、解释结果并再次生成回答。因此prefill、decode、KV cache、存储、网络和电力都会成为瓶颈。&lt;/p&gt;
&lt;table&gt;
 &lt;thead&gt;
 &lt;tr&gt;
 &lt;th&gt;项目&lt;/th&gt;
 &lt;th&gt;美国&lt;/th&gt;
 &lt;th&gt;中国&lt;/th&gt;
 &lt;/tr&gt;
 &lt;/thead&gt;
 &lt;tbody&gt;
 &lt;tr&gt;
 &lt;td&gt;主要约束&lt;/td&gt;
 &lt;td&gt;电力、机架密度、变压器、HBM4、先进封装&lt;/td&gt;
 &lt;td&gt;先进逻辑、HBM获取、出口管制&lt;/td&gt;
 &lt;/tr&gt;
 &lt;tr&gt;
 &lt;td&gt;架构方向&lt;/td&gt;
 &lt;td&gt;Vera Rubin、LPX/LPU、HBM4、高功率AI机架&lt;/td&gt;
 &lt;td&gt;Huawei Ascend、光互连、并行扩展&lt;/td&gt;
 &lt;/tr&gt;
 &lt;tr&gt;
 &lt;td&gt;优势&lt;/td&gt;
 &lt;td&gt;最高端GPU、HBM和封装生态&lt;/td&gt;
 &lt;td&gt;电力扩张较快、国家主导基础设施&lt;/td&gt;
 &lt;/tr&gt;
 &lt;tr&gt;
 &lt;td&gt;弱点&lt;/td&gt;
 &lt;td&gt;电网接入、供电时间、变压器交期&lt;/td&gt;
 &lt;td&gt;缺乏EUV先进逻辑、HBM受限&lt;/td&gt;
 &lt;/tr&gt;
 &lt;tr&gt;
 &lt;td&gt;韩国股票映射&lt;/td&gt;
 &lt;td&gt;HBM、电力设备、HBM设备、代工&lt;/td&gt;
 &lt;td&gt;若无供应商证据则有限&lt;/td&gt;
 &lt;/tr&gt;
 &lt;/tbody&gt;
&lt;/table&gt;
&lt;p&gt;IEA预计数据中心电力需求到2030年可能达到约945TWh。([IEA][1]) Energy Connects引用BloombergNEF称，中国未来五年可能新增超过3.4TW发电能力，接近美国的六倍。([Energy Connects][2]) 所以美国更需要优化每MW token吞吐，而中国更容易通过基础设施扩张来缓冲。&lt;/p&gt;
&lt;h2 id="3-美国堆栈-hbm加sramlpu"&gt;3. 美国堆栈: HBM加SRAM/LPU
&lt;/h2&gt;&lt;p&gt;NVIDIA将LPX描述为Vera Rubin的推理加速器。Rubin GPU使用HBM，Groq 3 LPX使用基于SRAM的LPU。([NVIDIA LPX][3])&lt;/p&gt;
&lt;table&gt;
 &lt;thead&gt;
 &lt;tr&gt;
 &lt;th&gt;指标&lt;/th&gt;
 &lt;th style="text-align: right"&gt;NVIDIA LPX披露&lt;/th&gt;
 &lt;/tr&gt;
 &lt;/thead&gt;
 &lt;tbody&gt;
 &lt;tr&gt;
 &lt;td&gt;智能体系统token负载&lt;/td&gt;
 &lt;td style="text-align: right"&gt;最高15倍&lt;/td&gt;
 &lt;/tr&gt;
 &lt;tr&gt;
 &lt;td&gt;Vera Rubin NVL72 + LPX&lt;/td&gt;
 &lt;td style="text-align: right"&gt;每MW throughput最高35倍&lt;/td&gt;
 &lt;/tr&gt;
 &lt;tr&gt;
 &lt;td&gt;每个LPU accelerator SRAM&lt;/td&gt;
 &lt;td style="text-align: right"&gt;500MB&lt;/td&gt;
 &lt;/tr&gt;
 &lt;tr&gt;
 &lt;td&gt;每个LPU accelerator SRAM带宽&lt;/td&gt;
 &lt;td style="text-align: right"&gt;150TB/s&lt;/td&gt;
 &lt;/tr&gt;
 &lt;tr&gt;
 &lt;td&gt;LPX rack&lt;/td&gt;
 &lt;td style="text-align: right"&gt;256个LPU芯片&lt;/td&gt;
 &lt;/tr&gt;
 &lt;tr&gt;
 &lt;td&gt;每个LPX rack SRAM&lt;/td&gt;
 &lt;td style="text-align: right"&gt;128GB&lt;/td&gt;
 &lt;/tr&gt;
 &lt;tr&gt;
 &lt;td&gt;每个LPX rack DDR5&lt;/td&gt;
 &lt;td style="text-align: right"&gt;12TB&lt;/td&gt;
 &lt;/tr&gt;
 &lt;tr&gt;
 &lt;td&gt;rack SRAM带宽&lt;/td&gt;
 &lt;td style="text-align: right"&gt;40PB/s&lt;/td&gt;
 &lt;/tr&gt;
 &lt;/tbody&gt;
&lt;/table&gt;
&lt;p&gt;这不是HBM替代逻辑。HBM仍然是Rubin GPU的核心。SRAM/LPU补充HBM，用于对延迟敏感的decode阶段。&lt;/p&gt;
&lt;h2 id="4-中国堆栈是竞争信号不是韩国股票的直接交易"&gt;4. 中国堆栈是竞争信号，不是韩国股票的直接交易
&lt;/h2&gt;&lt;p&gt;如果中国无法自由获得最高端GPU和HBM，那么连接更多芯片、强化互连、使用光互连是合理选择。但这并不自动给韩国企业带来收入。中国AI供应链正在本土化，CloudMatrix等系统的性能、故障率和总拥有成本仍需要独立证据。&lt;/p&gt;
&lt;h2 id="5-韩国上市公司映射"&gt;5. 韩国上市公司映射
&lt;/h2&gt;&lt;table&gt;
 &lt;thead&gt;
 &lt;tr&gt;
 &lt;th&gt;层级&lt;/th&gt;
 &lt;th&gt;瓶颈&lt;/th&gt;
 &lt;th&gt;韩国公司&lt;/th&gt;
 &lt;th&gt;判断&lt;/th&gt;
 &lt;/tr&gt;
 &lt;/thead&gt;
 &lt;tbody&gt;
 &lt;tr&gt;
 &lt;td&gt;HBM4/HBM4E&lt;/td&gt;
 &lt;td&gt;Vera Rubin和AI服务器内存&lt;/td&gt;
 &lt;td&gt;SK hynix, Samsung Electronics&lt;/td&gt;
 &lt;td&gt;结构受益。SK hynix领先，Samsung是追赶期权&lt;/td&gt;
 &lt;/tr&gt;
 &lt;tr&gt;
 &lt;td&gt;SRAM/LPU代工&lt;/td&gt;
 &lt;td&gt;低延迟decode加速器&lt;/td&gt;
 &lt;td&gt;Samsung Electronics&lt;/td&gt;
 &lt;td&gt;收入尚不清晰，但期权重要&lt;/td&gt;
 &lt;/tr&gt;
 &lt;tr&gt;
 &lt;td&gt;AI存储/KV cache&lt;/td&gt;
 &lt;td&gt;eSSD、PCIe 6.0、智能体记忆&lt;/td&gt;
 &lt;td&gt;Samsung Electronics, FADU&lt;/td&gt;
 &lt;td&gt;HBM下方的存储层扩展&lt;/td&gt;
 &lt;/tr&gt;
 &lt;tr&gt;
 &lt;td&gt;HBM设备&lt;/td&gt;
 &lt;td&gt;TC bonder、先进封装&lt;/td&gt;
 &lt;td&gt;Hanmi Semiconductor&lt;/td&gt;
 &lt;td&gt;真瓶颈，但客户和估值重要&lt;/td&gt;
 &lt;/tr&gt;
 &lt;tr&gt;
 &lt;td&gt;电力设备&lt;/td&gt;
 &lt;td&gt;变压器、开关设备、电网连接&lt;/td&gt;
 &lt;td&gt;HD Hyundai Electric, LS ELECTRIC, Hyosung Heavy&lt;/td&gt;
 &lt;td&gt;直接暴露于美国数据中心电力瓶颈&lt;/td&gt;
 &lt;/tr&gt;
 &lt;tr&gt;
 &lt;td&gt;中国光互连&lt;/td&gt;
 &lt;td&gt;中国AI集群光模块&lt;/td&gt;
 &lt;td&gt;韩国直接证据有限&lt;/td&gt;
 &lt;td&gt;无供应链证据则回避&lt;/td&gt;
 &lt;/tr&gt;
 &lt;/tbody&gt;
&lt;/table&gt;
&lt;h2 id="6-实际投资判断"&gt;6. 实际投资判断
&lt;/h2&gt;&lt;table&gt;
 &lt;thead&gt;
 &lt;tr&gt;
 &lt;th style="text-align: right"&gt;优先级&lt;/th&gt;
 &lt;th&gt;暴露&lt;/th&gt;
 &lt;th&gt;判断&lt;/th&gt;
 &lt;/tr&gt;
 &lt;/thead&gt;
 &lt;tbody&gt;
 &lt;tr&gt;
 &lt;td style="text-align: right"&gt;1&lt;/td&gt;
 &lt;td&gt;Samsung Electronics&lt;/td&gt;
 &lt;td&gt;若HBM4E、SRAM/LPU和AI存储开始体现在数字中，则为条件型买入候选&lt;/td&gt;
 &lt;/tr&gt;
 &lt;tr&gt;
 &lt;td style="text-align: right"&gt;2&lt;/td&gt;
 &lt;td&gt;HD Hyundai Electric&lt;/td&gt;
 &lt;td&gt;等待。质量高，但订单动能已被市场看到&lt;/td&gt;
 &lt;/tr&gt;
 &lt;tr&gt;
 &lt;td style="text-align: right"&gt;3&lt;/td&gt;
 &lt;td&gt;SK hynix&lt;/td&gt;
 &lt;td&gt;等待。HBM领先，但交易拥挤&lt;/td&gt;
 &lt;/tr&gt;
 &lt;tr&gt;
 &lt;td style="text-align: right"&gt;4&lt;/td&gt;
 &lt;td&gt;Hanmi Semiconductor&lt;/td&gt;
 &lt;td&gt;观察名单。需要重复订单和客户多元化&lt;/td&gt;
 &lt;/tr&gt;
 &lt;tr&gt;
 &lt;td style="text-align: right"&gt;5&lt;/td&gt;
 &lt;td&gt;中国光互连受益股&lt;/td&gt;
 &lt;td&gt;无直接证据则回避&lt;/td&gt;
 &lt;/tr&gt;
 &lt;/tbody&gt;
&lt;/table&gt;
&lt;p&gt;韩国机会不是“中国光互连”，而是美国AI factory瓶颈: 电力、HBM、SRAM/LPU、先进封装和存储层级。SK hynix可能拥有最强业务位置，HD Hyundai Electric可能拥有最纯粹的电力设备暴露。但如果市场不再只把Samsung Electronics看作HBM落后者，而开始同时定价HBM4E、SRAM/LPU代工和AI存储，那么它可能是更具不对称性的重估候选。&lt;/p&gt;
&lt;h2 id="来源"&gt;来源
&lt;/h2&gt;&lt;ul&gt;
&lt;li&gt;&lt;a class="link" href="https://www.ys-vc.com/blog/us-china-ai-inference-stack-divergence" target="_blank" rel="noopener"
 &gt;YS-VC&lt;/a&gt;&lt;/li&gt;
&lt;li&gt;&lt;a class="link" href="https://www.iea.org/reports/energy-and-ai/energy-demand-from-ai" target="_blank" rel="noopener"
 &gt;IEA&lt;/a&gt;&lt;/li&gt;
&lt;li&gt;&lt;a class="link" href="https://www.energyconnects.com/news/renewables/2026/february/china-ramps-up-energy-boom-flagged-by-musk-as-key-to-ai-race/" target="_blank" rel="noopener"
 &gt;Energy Connects&lt;/a&gt;&lt;/li&gt;
&lt;li&gt;&lt;a class="link" href="https://www.nvidia.com/en-us/data-center/lpx/" target="_blank" rel="noopener"
 &gt;NVIDIA LPX&lt;/a&gt;&lt;/li&gt;
&lt;li&gt;&lt;a class="link" href="https://news.samsung.com/global/samsung-unveils-hbm4e-showcasing-comprehensive-ai-solutions-nvidia-partnership-and-vision-at-nvidia-gtc-2026" target="_blank" rel="noopener"
 &gt;Samsung Newsroom&lt;/a&gt;&lt;/li&gt;
&lt;li&gt;&lt;a class="link" href="https://www.bis.gov/press-release/commerce-strengthens-export-controls-restrict-chinas-capability-produce-advanced-semiconductors-military" target="_blank" rel="noopener"
 &gt;BIS&lt;/a&gt;&lt;/li&gt;
&lt;li&gt;&lt;a class="link" href="https://en.yna.co.kr/view/AEN20260128002800320" target="_blank" rel="noopener"
 &gt;Yonhap&lt;/a&gt;&lt;/li&gt;
&lt;li&gt;&lt;a class="link" href="https://www.thelec.net/news/articleView.html?idxno=11132" target="_blank" rel="noopener"
 &gt;The Elec&lt;/a&gt;&lt;/li&gt;
&lt;li&gt;&lt;a class="link" href="https://en.sedaily.com/finance/2026/07/06/hd-hyundai-electric-raises-2026-order-target-23-percent-on" target="_blank" rel="noopener"
 &gt;Seoul Economic Daily&lt;/a&gt;&lt;/li&gt;
&lt;/ul&gt;</description></item></channel></rss>