Ang mga higanteng chip ay nag-pivot sa gilid sa CIIE habang ang paggastos ng inference ng AI ay nalampasan ang pagsasanay sa unang pagkakataon

Binuksan ang 9th China International Import Expo (CIIE) sa Shanghai noong Nobyembre 5, at ang bulwagan ng teknolohiya at kagamitan nito ay naging isang barometro para sa pandaigdigang industriya ng semiconductor. Ang Qualcomm, Samsung, Intel, AMD, SK Hynix, Synopsys at iba pang mga vendor ay naglalagay ng real-world na deployment ng AI sa gitna ng kanilang mga booth — isang senyales na ang center of gravity para sa computing ay lumilipat mula sa cloud-based na pagsasanay patungo sa inference at sa gilid ng device.

Ang hinuha ay pumasa sa pagsasanay sa unang pagkakataon

Ang isang forecast ng Gartner na inilabas noong Agosto ay nagsasaad na ang paggasta sa buong mundo sa AI-optimized infrastructure-as-a-service ay aabot sa $42.3 bilyon sa 2026, tumaas ng 96% taon-taon. Sa kabuuan na iyon, $23.3 bilyon ang mapupunta sa hinuha at $19 bilyon sa pagsasanay — ang unang taon na hinuha ay nalampasan ang pagsasanay. Ang hinuha ay magiging account para sa 55% ng AI-optimized na paggasta sa IaaS sa 2026, na tumataas sa 59% sa 2027. Iniuugnay ni Gartner ang paglipat sa mga negosyong lumilipat mula sa pag-develop ng modelo patungo sa production-scale deployment, kung saan ang mga naka-fine-tune, na partikular sa domain na mga modelo ay patuloy na tumatakbo sa loob ng mga system na nakaharap sa customer.

Ang Qualcomm ay tumaya sa device: 6G prototype at on-device na mga modelo

Ang Qualcomm ay pampublikong nagpakita ng isang 6G terminal prototype na umaayon sa pinakabagong kahulugan ng 3GPP sa unang pagkakataon, at sinabing nagsasagawa ito ng magkasanib na 6G testing at interoperability verification sa mga Chinese partner kabilang ang China Mobile at ZTE, na may inaasahang komersyalisasyon sa susunod na dalawang taon. Sa panig ng device, nakipagtulungan ang Qualcomm sa StepFun, Infris AI at Longsys para magpatakbo ng 30-bilyong-parameter na mixture-of-experts na modelo nang buo sa isang smartphone, na nagpapalawak ng on-device AI sa mas kumplikadong mga application ng ahente. Ang mga produkto ng ahente na pinapagana ng mga platform ng Snapdragon, tulad ng Honor Robot Phone at Nubia NaviX Ultra, ay umani ng maraming bisita upang subukan ang mga ito.

Itinulak ng AMD ang mga lokal na host ng ahente; Sinabi ng Intel na ang compute ay dapat na mas malapit sa mga sitwasyon

Inilagay ng AMD ang "host ng ahente" bilang isang kongkretong sasakyan para sa pag-deploy ng AI. Ang isang host na nakabatay sa platform ng Ryzen AI Max+ PRO 495, na nilagyan ng 192GB ng pinag-isang memorya, ay maaaring magpatakbo ng malalaking modelo nang lokal at suportahan ang parallel na multi-agent na operasyon, na nag-aalok sa mga developer, isang tao na kumpanya at maliliit na negosyo ng opsyon sa pag-deploy na hindi napupunta sa cloud. Sinabi ng staff ng Booth na ang isang intelligent na appliance sa pagbi-bid ay pinipigilan ang pagproseso ng mga dokumento sa pag-bid mula sa "tatlong tao, pitong araw" hanggang sa "isang tao, kalahating araw," habang ang isang legal-assistant na host ang humahawak sa pagsusuri at pagbalangkas ng kontrata, na may lokal na deployment na nagpoprotekta sa sensitibong impormasyon.

Sinabi ni Wang Zhicong, chairman ng Intel China, sa isang panayam sa panahon ng expo na mas maraming AI compute ang ide-deploy sa inference at edge side sa susunod na limang taon, dahil ang "compute ay kailangang mas malapit sa data, mas malapit sa mga senaryo at mas malapit sa mga user." Dalawang taon na ang nakalilipas ang industriya ay pinakausap tungkol sa malaking-modelo na pagganap at pagsasanay, aniya; ngayon ang focus ay higit sa mga ahente, "na talagang tungkol sa hinuha." Ipinakita ng Intel ang isang full-stack computing matrix batay sa 18A na proseso nito at naglunsad ng green-power energy-storage computing solution at isang token all-in-one na makina.

Ang mga higante ng memorya ay nadodoble habang nagpapatuloy ang mga kakulangan

Habang patuloy ang pag-scale ng malalaking modelo, humihingi sila ng higit na kapasidad ng memorya, bandwidth at kahusayan sa enerhiya. Ipinakita ng Samsung ang LPDDR6, LPDDR5X-PIM at UFS 5.0, bukod sa iba pa; Nagdala ang SK Hynix ng 256GB DDR5 RDIMM, 128GB DDR5 MRDIMM, 192GB SOCAMM2 at mga enterprise SSD kabilang ang PS1101 E3.S at PSF010 E1.S.

Ang LPDDR5X-PIM ng Samsung ay ang unang LPDDR memory ng industriya na may teknolohiyang processing-in-memory. Pinagsasama nito ang isang compute unit sa bawat isa sa 16 na DRAM na bangko, na nagpapahintulot sa ilang mga pag-compute ng AI na makumpleto sa loob ng memorya at binabawasan ang paulit-ulit na paggalaw ng data sa pagitan ng processor at memorya; Sinasabi ng Samsung na naghahatid ito ng hanggang walong beses ang epektibong bandwidth ng umiiral na LPDDR5X. Ang susunod na henerasyon na low-power DRAM LPDDR6 ay nag-aalok ng hanggang 45% na mas mataas na transmission bandwidth kaysa sa nakaraang henerasyon, hanggang sa 125GB/s, at humigit-kumulang 21% na mas mahusay na kahusayan sa enerhiya kaysa sa LPDDR5X. Sinabi ng kawani ng SK Hynix booth na ang kasalukuyang kakulangan sa memorya ay hindi nagbago at ang mga pangunahing tagagawa ay pawang nagpapalawak ng kapasidad; kung kailan bubuti ang balanse ng supply-demand ay nananatiling makikita pagkatapos tumaas ang kapasidad sa 2028.

Ang intelligent computing capacity ng China ay lumago ng halos 90% ngayong taon

Ang isang ulat ng International Data Corporation (IDC) at Inspur ay nagtataya na ang intelligent computing capacity ng China ay aabot sa 2,576.5 EFLOPS sa 2026, tumaas ng 87.9% year on year, at 10,524.3 EFLOPS sa 2030; ang AI computing market ay inaasahang aabot sa $51.5 bilyon, tumaas ng 37% taon-taon. Hinuhulaan din ng ulat na pagsapit ng 2030, 50% ng enterprise AI inference tasks ang lilipat mula sa cloud patungo sa mga edge node o end device.

Isang tipikal na senaryo para sa hinuha at pagbuo ng nilalaman ay ang maikling drama. Ipinapakita ng pampublikong data na mula Enero hanggang Mayo 2026, ang AI drama at comic-drama market ay lumampas sa 22 bilyong yuan (humigit-kumulang $3.3 bilyon), at ang domestic AI short-drama na output ay inaasahang tataas mula 60,000 sa 2025 hanggang isang milyon sa 2026. Sinabi ni Wang na dati nang ipinakita ng Intel ang mga kasosyo sa isang Suzhou-clickrama na solusyon bilang isang hanay ng isang "short-clickrama-production" na solusyon sa Suzhou. may ideya at pangunahing script, makakagawa ka ng maikling drama sa isang click lang.”

Ang competitive na dimensyon ay nagbabago

Para sa mga gumagawa ng chip, ang yugto ng pagbabagong ito ay nangangahulugan na ang mapagkumpitensyang dimensyon ay lumilipat mula sa pinakamataas na kapangyarihan sa pag-compute patungo sa kahusayan ng enerhiya, flexibility ng deployment at pakikipagtulungan ng ecosystem. Ang pagsasanay sa cloud ay nananatiling isang dapat manalo na larangan ng digmaan, ngunit ang incremental na espasyo ay lalong lumalabas sa mga edge node, mga AI PC, mga host ng ahente at mga sitwasyong nasa sasakyan — sinumang makakapagpatakbo ng hinuha sa mas mababang halaga at mas mataas na kahusayan sa enerhiya na mas malapit sa mga user ay mas malamang na manalo sa susunod na yugto ng mga order sa industriya. Ang kakulangan sa memorya at ang bilis ng pagpapalawak ng kapasidad ay nagdaragdag ng kawalan ng katiyakan sa panig ng supply sa upcycle na ito.