চিপ জায়ান্টরা CIIE-তে প্রান্তে পৌঁছেছে কারণ AI অনুমান খরচ প্রথমবারের মতো প্রশিক্ষণকে ছাড়িয়ে গেছে

নবম চায়না ইন্টারন্যাশনাল ইমপোর্ট এক্সপো (CIIE) 5 নভেম্বর সাংহাইতে খোলা হয়েছে এবং এর প্রযুক্তি এবং সরঞ্জাম হল বিশ্বব্যাপী সেমিকন্ডাক্টর শিল্পের জন্য একটি ব্যারোমিটার হয়ে উঠেছে। Qualcomm, Samsung, Intel, AMD, SK Hynix, Synopsys এবং অন্যান্য বিক্রেতারা সকলেই তাদের বুথের কেন্দ্রে AI-এর বাস্তব-বিশ্ব স্থাপনাকে রাখে — এটি একটি লক্ষণ যে কম্পিউটিংয়ের মাধ্যাকর্ষণ কেন্দ্রটি ক্লাউড-ভিত্তিক প্রশিক্ষণ থেকে অনুমান এবং ডিভাইসের প্রান্তের দিকে সরে যাচ্ছে।

অনুমান প্রথমবারের জন্য প্রশিক্ষণ পাস

আগস্ট মাসে প্রকাশিত একটি গার্টনারের পূর্বাভাস অনুযায়ী, AI-অপ্টিমাইজ করা পরিকাঠামো-এ-সার্ভিস-এর জন্য বিশ্বব্যাপী খরচ 2026 সালে $42.3 বিলিয়ন হবে, যা বছরে 96% বেশি। এই মোটের মধ্যে $23.3 বিলিয়ন অনুমান এবং $19 বিলিয়ন প্রশিক্ষণে যাবে - প্রথম বছরের অনুমান প্রশিক্ষণকে ছাড়িয়ে গেছে। 2026 সালে AI-অপ্টিমাইজ করা IaaS খরচের 55% ইনফরেন্স হবে, যা 2027 সালে 59%-এ উন্নীত হবে। গার্টনার মডেল ডেভেলপমেন্ট থেকে প্রোডাকশন-স্কেল ডিপ্লোয়মেন্টে এন্টারপ্রাইজগুলিকে স্থানান্তরিত করার জন্য দায়ী করেছেন, যেখানে ফাইন-টিউনড, ডোমেন-নির্দিষ্ট মডেলগুলি গ্রাহক-মুখী সিস্টেমের মধ্যে ক্রমাগত চলে।

ডিভাইসে কোয়ালকম বাজি: 6G প্রোটোটাইপ এবং ডিভাইসে মডেল

Qualcomm সর্বজনীনভাবে একটি 6G টার্মিনাল প্রোটোটাইপ প্রদর্শন করেছে যা সর্বপ্রথম সর্বশেষ 3GPP সংজ্ঞার সাথে সামঞ্জস্যপূর্ণ, এবং বলেছে যে এটি চায়না মোবাইল এবং ZTE সহ চীনা অংশীদারদের সাথে যৌথ 6G পরীক্ষা এবং আন্তঃপরিচালনা যাচাই করছে, আগামী দুই বছরের মধ্যে ধীরে ধীরে বাণিজ্যিকীকরণ প্রত্যাশিত। ডিভাইসের দিকে, Qualcomm StepFun, Infris AI এবং Longsys-এর সাথে কাজ করেছে সম্পূর্ণরূপে স্মার্টফোনে 30-বিলিয়ন-প্যারামিটার মিশ্রণ-অফ-বিশেষজ্ঞ মডেল চালানোর জন্য, ডিভাইসে AI-কে আরও জটিল এজেন্ট অ্যাপ্লিকেশনগুলিতে প্রসারিত করেছে। Snapdragon প্ল্যাটফর্ম দ্বারা চালিত এজেন্ট পণ্যগুলি, যেমন Honor Robot Phone এবং Nubia NaviX Ultra, সেগুলি চেষ্টা করার জন্য দর্শকদের ভিড় আকর্ষণ করে৷

এএমডি স্থানীয় এজেন্ট হোস্টদের চাপ দেয়; ইন্টেল বলে যে কম্পিউটকে অবশ্যই পরিস্থিতির কাছাকাছি যেতে হবে

এএমডি AI স্থাপনার জন্য একটি কংক্রিট যান হিসাবে "এজেন্ট হোস্ট" কে স্থাপন করেছে। Ryzen AI Max+ PRO 495 প্ল্যাটফর্মের উপর ভিত্তি করে একটি হোস্ট, 192GB ইউনিফাইড মেমরি দিয়ে সজ্জিত, স্থানীয়ভাবে বড় মডেলগুলি চালাতে পারে এবং সমান্তরাল মাল্টি-এজেন্ট অপারেশনকে সমর্থন করতে পারে, ডেভেলপার, এক-ব্যক্তি কোম্পানি এবং ছোট ব্যবসাগুলিকে একটি স্থাপনার বিকল্প প্রদান করে যা ক্লাউডে যায় না। বুথ কর্মীরা বলেছেন যে একটি বুদ্ধিমান বিডিং অ্যাপ্লায়েন্স বিডিং নথির প্রক্রিয়াকরণকে "তিন জন, সাত দিন" থেকে "এক ব্যক্তি, অর্ধেক দিন" পর্যন্ত সংকুচিত করে, যখন একজন আইন-সহকারী হোস্ট চুক্তি পর্যালোচনা এবং খসড়া পরিচালনা করে, স্থানীয় স্থাপনা সংবেদনশীল তথ্য রক্ষা করে।

ইন্টেল চায়নার চেয়ারম্যান ওয়াং ঝিকং এক্সপো চলাকালীন একটি সাক্ষাত্কারে বলেছিলেন যে আগামী পাঁচ বছরে অনুমান এবং প্রান্তের দিকে আরও AI গণনা স্থাপন করা হবে, কারণ "গণনাকে ডেটার কাছাকাছি, পরিস্থিতির কাছাকাছি এবং ব্যবহারকারীদের কাছাকাছি হওয়া দরকার।" দুই বছর আগে শিল্প বড়-মডেল কর্মক্ষমতা এবং প্রশিক্ষণ সম্পর্কে সবচেয়ে বেশি কথা বলেছিল, তিনি বলেছিলেন; আজ ফোকাস এজেন্টদের উপর বেশি, "যা সত্যিই অনুমান সম্পর্কে।" ইন্টেল তার 18A প্রক্রিয়ার উপর ভিত্তি করে একটি ফুল-স্ট্যাক কম্পিউটিং ম্যাট্রিক্স প্রদর্শন করেছে এবং একটি গ্রিন-পাওয়ার এনার্জি-স্টোরেজ কম্পিউটিং সলিউশন এবং একটি টোকেন অল-ইন-ওয়ান মেশিন চালু করেছে।

ঘাটতি অব্যাহত থাকায় স্মৃতিশক্তি দ্বিগুণ হয়ে যায়

যেহেতু বড় মডেলগুলি স্কেলিং করতে থাকে, তারা আরও মেমরি ক্ষমতা, ব্যান্ডউইথ এবং শক্তি দক্ষতার দাবি করে। Samsung অন্যান্যদের মধ্যে LPDDR6, LPDDR5X-PIM এবং UFS 5.0 প্রদর্শন করেছে; SK Hynix 256GB DDR5 RDIMM, 128GB DDR5 MRDIMM, 192GB SOCAMM2 এবং PS1101 E3.S এবং PSF010 E1.S সহ এন্টারপ্রাইজ SSD নিয়ে এসেছে।

স্যামসাং-এর LPDDR5X-PIM হল প্রসেসিং-ইন-মেমরি প্রযুক্তি সহ শিল্পের প্রথম LPDDR মেমরি৷ এটি 16টি DRAM ব্যাঙ্কের প্রতিটিতে একটি কম্পিউট ইউনিটকে সংহত করে, কিছু AI কম্পিউটেশনকে মেমরির ভিতরে সম্পন্ন করার অনুমতি দেয় এবং প্রসেসর এবং মেমরির মধ্যে বারবার ডেটা চলাচল হ্রাস করে; স্যামসাং বলেছে যে এটি বিদ্যমান LPDDR5X এর আট গুণ কার্যকর ব্যান্ডউইথ সরবরাহ করে। পরবর্তী প্রজন্মের লো-পাওয়ার DRAM LPDDR6 পূর্ববর্তী প্রজন্মের তুলনায় 45% বেশি ট্রান্সমিশন ব্যান্ডউইথ, 125GB/s পর্যন্ত, এবং LPDDR5X-এর তুলনায় প্রায় 21% ভাল শক্তি দক্ষতা প্রদান করে। এসকে হাইনিক্স বুথের কর্মীরা বলেন, বর্তমান মেমরির ঘাটতি পরিবর্তিত হয়নি এবং প্রধান নির্মাতারা সব ক্ষমতা বাড়াচ্ছে; চাহিদা-সরবরাহের ভারসাম্য কবে উন্নত হবে তা 2028 সালে ক্ষমতা বৃদ্ধির পর দেখা বাকি।

চীনের বুদ্ধিমান কম্পিউটিং ক্ষমতা এই বছর প্রায় 90% বৃদ্ধি পাবে

ইন্টারন্যাশনাল ডেটা কর্পোরেশন (IDC) এবং Inspur-এর একটি রিপোর্টে পূর্বাভাস দেওয়া হয়েছে যে চীনের বুদ্ধিমান কম্পিউটিং ক্ষমতা 2026 সালে 2,576.5 EFLOPS-এ পৌঁছাবে, যা বছরে 87.9% বৃদ্ধি পাবে এবং 2030 সালের মধ্যে 10,524.3 EFLOPS; AI কম্পিউটিং বাজার বছরে 37% বেড়ে $51.5 বিলিয়ন পৌঁছবে বলে আশা করা হচ্ছে। প্রতিবেদনে আরও ভবিষ্যদ্বাণী করা হয়েছে যে 2030 সালের মধ্যে, 50% এন্টারপ্রাইজ এআই ইনফারেন্স টাস্কগুলি ক্লাউড থেকে প্রান্ত নোড বা শেষ ডিভাইসগুলিতে স্থানান্তরিত হবে।

অনুমান এবং বিষয়বস্তু তৈরির জন্য একটি সাধারণ দৃশ্যকল্প হল ছোট নাটক। পাবলিক ডেটা দেখায় যে জানুয়ারী থেকে মে 2026 পর্যন্ত, AI নাটক এবং কমিক-ড্রামার বাজার 22 বিলিয়ন ইউয়ান (প্রায় $3.3 বিলিয়ন) ছাড়িয়েছে এবং দেশীয় AI শর্ট-ড্রামা আউটপুট 2025 সালে 60,000 থেকে 2026 সালে এক মিলিয়নে উন্নীত হবে বলে আশা করা হচ্ছে। ওয়াং বলেন, ইন্টেল এর আগে একটি Suzhicks-এর অংশীদারের সাথে একটি সমীক্ষা প্রদর্শন করেছে। ফিল্ম-প্রোডাকশন শর্ট-ড্রামা সলিউশন, "যতদিন আপনার কাছে একটি ধারণা এবং একটি মৌলিক স্ক্রিপ্ট আছে, আপনি এক ক্লিকে একটি ছোট নাটক তৈরি করতে পারেন।"

প্রতিযোগিতার মাত্রা পরিবর্তন হচ্ছে

চিপমেকারদের জন্য, পরিবর্তনের এই রাউন্ডের অর্থ হল প্রতিযোগিতামূলক মাত্রা পিক কম্পিউটিং শক্তি থেকে শক্তি দক্ষতা, স্থাপনার নমনীয়তা এবং ইকোসিস্টেম সহযোগিতার দিকে চলে যাচ্ছে। ক্লাউড প্রশিক্ষণ একটি জয়ী যুদ্ধক্ষেত্র হিসাবে রয়ে গেছে, কিন্তু ক্রমবর্ধমান স্থান ক্রমবর্ধমানভাবে প্রান্ত নোড, এআই পিসি, এজেন্ট হোস্ট এবং যানবাহনের পরিস্থিতিতে উপস্থিত হচ্ছে — যে কেউ কম খরচে এবং উচ্চ শক্তি দক্ষতায় ব্যবহারকারীদের কাছাকাছি অনুমান চালাতে পারে তার পরবর্তী পর্যায়ে শিল্প আদেশ জয়ের সম্ভাবনা বেশি। মেমরির ঘাটতি এবং ক্ষমতা সম্প্রসারণের গতি এই আপসাইকেলে সরবরাহ-পার্শ্বের অনিশ্চয়তা যোগ করে।