غول‌های تراشه‌ها در CIIE به سمت لبه می‌روند، زیرا هزینه‌های استنتاج هوش مصنوعی برای اولین بار از آموزش پیشی می‌گیرد.

نهمین نمایشگاه بین المللی واردات چین (CIIE) در 5 نوامبر در شانگهای افتتاح شد و سالن فناوری و تجهیزات آن به یک فشارسنج برای صنعت نیمه هادی جهانی تبدیل شده است. کوالکام، سامسونگ، اینتل، AMD، SK Hynix، Synopsys و سایر فروشندگان همگی استقرار هوش مصنوعی در دنیای واقعی را در مرکز غرفه‌های خود قرار می‌دهند - نشانه‌ای از اینکه مرکز ثقل محاسبات از آموزش مبتنی بر ابر به سمت استنتاج و لبه دستگاه تغییر می‌کند.

استنتاج برای اولین بار آموزش را می گذراند

پیش‌بینی گارتنر که در ماه آگوست منتشر شد، نشان می‌دهد که هزینه‌های جهانی برای زیرساخت‌های بهینه‌سازی شده با هوش مصنوعی در سال 2026 به 42.3 میلیارد دلار خواهد رسید که 96 درصد نسبت به سال قبل افزایش می‌یابد. از این مجموع، 23.3 میلیارد دلار به استنتاج و 19 میلیارد دلار به آموزش اختصاص خواهد یافت - استنباط سال اول از آموزش پیشی گرفته است. استنتاج 55 درصد از هزینه‌های IaaS بهینه‌شده هوش مصنوعی در سال 2026 را به خود اختصاص می‌دهد، و در سال 2027 به 59 درصد افزایش می‌یابد. گارتنر این تغییر را به شرکت‌هایی نسبت می‌دهد که از توسعه مدل به استقرار در مقیاس تولید می‌روند، جایی که مدل‌های دقیق و خاص دامنه به طور مداوم در سیستم‌های رو به رو مشتری اجرا می‌شوند.

شرط‌بندی کوالکام روی دستگاه: نمونه اولیه 6G و مدل‌های روی دستگاه

کوالکام برای اولین بار یک نمونه اولیه ترمینال 6G مطابق با آخرین تعریف 3GPP را به صورت عمومی نشان داد و گفت که در حال انجام آزمایش مشترک 6G و تأیید قابلیت همکاری با شرکای چینی از جمله China Mobile و ZTE است و انتظار می رود به تدریج طی دو سال آینده تجاری شود. در سمت دستگاه، کوالکام با StepFun، Infris AI و Longsys کار کرد تا یک مدل ترکیبی از متخصصان با 30 میلیارد پارامتر را به طور کامل بر روی یک گوشی هوشمند اجرا کند و هوش مصنوعی روی دستگاه را به برنامه‌های عامل پیچیده‌تر گسترش دهد. محصولات نمایندگی که از پلتفرم‌های اسنپدراگون پشتیبانی می‌کنند، مانند Honor Robot Phone و Nubia NaviX Ultra، انبوهی از بازدیدکنندگان را برای امتحان کردنشان جذب کردند.

AMD میزبان های عامل محلی را هل می دهد. اینتل می گوید محاسبات باید به سناریوها نزدیک تر شود

AMD «میزبان عامل» را به عنوان وسیله‌ای بتن برای استقرار هوش مصنوعی قرار داد. یک میزبان مبتنی بر پلتفرم Ryzen AI Max+ PRO 495، مجهز به 192 گیگابایت حافظه یکپارچه، می‌تواند مدل‌های بزرگ را به صورت محلی اجرا کند و از عملیات چند عامله موازی پشتیبانی کند و به توسعه‌دهندگان، شرکت‌های تک نفره و کسب‌وکارهای کوچک گزینه‌ای استقرار ارائه دهد که به فضای ابری نمی‌رود. کارکنان غرفه گفتند که یک دستگاه مناقصه هوشمند پردازش اسناد مناقصه را از "سه نفر، هفت روز" به "یک نفر، نیم روز" فشرده می کند، در حالی که یک میزبان دستیار حقوقی بررسی و تنظیم قرارداد را انجام می دهد، با استقرار محلی از اطلاعات حساس محافظت می کند.

وانگ ژیکونگ، رئیس اینتل چین، در مصاحبه ای در طول این نمایشگاه گفت که محاسبات هوش مصنوعی بیشتری در سمت استنتاج و لبه طی پنج سال آینده مستقر خواهد شد، زیرا "محاسبات باید به داده ها نزدیک تر، به سناریوها و نزدیک تر به کاربران باشد." او گفت که دو سال پیش صنعت بیشتر در مورد عملکرد و آموزش مدل های بزرگ صحبت کرد. امروزه تمرکز بیشتر روی عوامل است، "که در واقع در مورد استنتاج است." اینتل یک ماتریس محاسباتی تمام پشته بر اساس فرآیند 18A خود را به نمایش گذاشت و یک راه حل محاسباتی ذخیره انرژی با انرژی سبز و یک ماشین همه کاره توکن را راه اندازی کرد.

با ادامه کمبود، غول های حافظه دو برابر می شوند

از آنجایی که مدل‌های بزرگ مقیاس‌پذیر می‌شوند، ظرفیت حافظه، پهنای باند و کارایی انرژی بیشتری را می‌طلبند. سامسونگ LPDDR6، LPDDR5X-PIM و UFS 5.0 را در میان دیگران به نمایش گذاشت. SK Hynix 256 گیگابایت DDR5 RDIMM، 128 گیگابایت DDR5 MRDIMM، 192 گیگابایت SOCAMM2 و SSDهای سازمانی از جمله PS1101 E3.S و PSF010 E1.S را به ارمغان آورد.

LPDDR5X-PIM سامسونگ اولین حافظه LPDDR صنعت با فناوری پردازش در حافظه است. این یک واحد محاسباتی را در هر یک از 16 بانک DRAM ادغام می کند، که اجازه می دهد برخی از محاسبات هوش مصنوعی در داخل حافظه تکمیل شود و حرکت داده های مکرر بین پردازنده و حافظه را کاهش دهد. سامسونگ می گوید که حداکثر هشت برابر پهنای باند موثر LPDDR5X موجود را ارائه می دهد. نسل بعدی DRAM کم مصرف LPDDR6 تا 45 درصد پهنای باند انتقال بالاتری نسبت به نسل قبلی، تا 125 گیگابایت بر ثانیه و حدود 21 درصد راندمان انرژی بهتر از LPDDR5X ارائه می دهد. کارکنان غرفه SK Hynix گفتند کمبود حافظه فعلی تغییر نکرده است و تولیدکنندگان بزرگ همگی در حال افزایش ظرفیت هستند. زمانی که تعادل عرضه و تقاضا بهبود خواهد یافت، پس از افزایش ظرفیت در سال 2028 باید دید.

ظرفیت محاسبات هوشمند چین در سال جاری نزدیک به 90 درصد رشد خواهد کرد

گزارشی توسط International Data Corporation (IDC) و Inspur پیش‌بینی می‌کند که ظرفیت محاسبات هوشمند چین در سال 2026 به 2576.5 EFLOPS خواهد رسید که نسبت به سال 87.9 درصد افزایش یافته و تا سال 2030 به 10524.3 EFLOPS خواهد رسید. انتظار می رود بازار محاسبات هوش مصنوعی به 51.5 میلیارد دلار برسد که نسبت به سال گذشته 37 درصد رشد داشته است. این گزارش همچنین پیش‌بینی می‌کند که تا سال 2030، 50 درصد از وظایف استنتاج هوش مصنوعی سازمانی از ابر به گره‌های لبه یا دستگاه‌های پایانی مهاجرت خواهند کرد.

یکی از سناریوهای معمول برای استنباط و تولید محتوا، درام کوتاه است. داده های عمومی نشان می دهد که از ژانویه تا مه 2026، بازار درام و کمیک-درام هوش مصنوعی از 22 میلیارد یوان (حدود 3.3 میلیارد دلار) فراتر رفت و انتظار می رود تولید درام کوتاه هوش مصنوعی داخلی از 60000 در سال 2025 به یک میلیون در سال 2026 افزایش یابد. وانگ گفت اینتل قبلاً با شرکای خود مجموعه ای از فیلم های کوتاه در Suzh-dra را به نمایش گذاشته است. راه حل ها، "به طوری که تا زمانی که یک ایده و یک فیلمنامه اولیه دارید، می توانید یک درام کوتاه با یک کلیک تولید کنید."

بعد رقابتی در حال تغییر است

برای سازندگان تراشه، این دور تغییر به این معنی است که بعد رقابتی از اوج قدرت محاسباتی به سمت بهره وری انرژی، انعطاف پذیری استقرار و همکاری اکوسیستم در حال حرکت است. آموزش ابری همچنان یک میدان نبرد ضروری است، اما فضای افزایشی به طور فزاینده‌ای در گره‌های لبه، رایانه‌های شخصی هوش مصنوعی، میزبان‌های عامل و سناریوهای درون خودرو ظاهر می‌شود – هر کسی که بتواند استنتاج را با هزینه کمتر و بهره‌وری انرژی بالاتر نزدیک‌تر به کاربران انجام دهد، احتمالاً در مرحله بعدی سفارش‌های صنعتی برنده خواهد شد. کمبود حافظه و سرعت افزایش ظرفیت، عدم قطعیت سمت عرضه را به این چرخه صعودی اضافه می کند.