২০২৬ সালে ফ্রন্টিয়ার এআই API মূল্য ৬৮% হ্রাস: প্রোপ্রাইটরি মডেলের সমকক্ষ ওপেন-ওয়েটস MoE আর্কিটেকচার
৩৩০+ ফাউন্ডেশন মডেলের বেঞ্চমার্ক বিশ্লেষণে দেখা গেছে স্পার্স Mixture-of-Experts (MoE) আর্কিটেকচার, প্রম্পট ক্যাশিং এবং ওপেন-ওয়েটস প্রতিযোগিতার ফলে গত ১২ মাসে এন্টারপ্রাইজ LLM ইনফারেন্স খরচ দুই-তৃতীয়াংশেরও বেশি কমেছে।
২০২৬ সালের অক্টোবরে এন্টারপ্রাইজ আর্টিফিশিয়াল ইন্টেলিজেন্স টিমগুলো যখন ফাউন্ডেশন মডেল API মূল্যায়ন করছে, তখন তারা মাত্র বারো মাস আগের তুলনায় সম্পূর্ণ ভিন্ন এক অর্থনৈতিক বাস্তবতার মুখোমুখি হচ্ছে। GetInfoUs রিসার্চ ডেস্ক দ্বারা ট্র্যাক করা ৩৩০টি ফ্রন্টিয়ার এবং ওপেন-ওয়েটস মডেলের মধ্যে MMLU-Pro-তে ৮০+ স্কোর এবং SWE-bench Verified-এ ৬৫%+ সমাধানের হার অর্জনের জন্য প্রয়োজনীয় গড় ৩:১ ব্লেন্ডেড API খরচ গত এক বছরে প্রায় ৬৮ শতাংশ কমেছে। আগে যেখানে প্রিমিয়াম প্রোপ্রাইটরি ফ্ল্যাগশিপ এন্ডপয়েন্টে প্রতি মিলিয়ন আউটপুট টোকেনের জন্য $15.00 থেকে $75.00 খরচ হতো, এখন স্পার্স Mixture-of-Experts (MoE) আর্কিটেকচার এবং হাই-এফিসিয়েন্সি রাউটিং টিয়ারের মাধ্যমে তা মাত্র $0.40 থেকে $3.00-এ সম্পন্ন করা সম্ভব হচ্ছে।
তিনটি প্রধান ইঞ্জিনিয়ারিং পরিবর্তন এই দ্রুত মূল্য হ্রাসের পেছনে কাজ করেছে। প্রথমত, ওপেন-ওয়েটস এবং বাণিজ্যিক উভয় প্রোভাইডারের কাছেই স্পার্স Mixture-of-Experts আর্কিটেকচার এখন ডিফল্ট ডিজাইন প্যাটার্নে পরিণত হয়েছে। প্রতিটি টোকেন তৈরির জন্য শত শত বিলিয়ন ডেন্স প্যারামিটার সক্রিয় করার পরিবর্তে DeepSeek V3.2, Qwen3.5 Max, Llama 4 Maverick এবং Mistral Large 2-এর মতো আধুনিক মডেলগুলো ৪০০ বিলিয়নের বেশি মোট প্যারামিটার পুল থেকে মাত্র ৩২ থেকে ৪৫ বিলিয়ন বিশেষায়িত অ্যাক্টিভ প্যারামিটার ব্যবহার করে। এতে মাল্টি-স্টেপ রিজনিং সক্ষমতা অক্ষুণ্ণ রেখেই ডিকোডিংয়ের কম্পিউট খরচ নাটকীয়ভাবে কমে যায়।
দ্বিতীয়ত, কনটেক্সট প্রম্পট ক্যাশিং এবং অ্যাসিনক্রোনাস ব্যাচ API এখন OpenAI, Anthropic, Google Vertex AI এবং DeepSeek-এ স্ট্যান্ডার্ড প্রোডাকশন বিলিং মেকানিজমে পরিণত হয়েছে। সিস্টেম প্রম্পট, টুল ডেফিনিশন এবং রিপোজিটরি কনটেক্সট ক্যাশ করার মাধ্যমে ইনপুট টোকেন খরচে ৫০% থেকে ৯০% পর্যন্ত ছাড় পাওয়া যাচ্ছে। তৃতীয়ত, হাইব্রিড প্রম্পট রাউটিং ক্যাসকেড ব্যবহারের ফলে ৭৫% থেকে ৮৫% সাধারণ ক্লাসিফিকেশন ও সামারাইজেশন কুয়েরি GPT-4.1 Nano বা Gemini 2.5 Flash-Lite-এর মতো সাশ্রয়ী মডেলে ($0.20/1M-এর নিচে) পাঠানো হচ্ছে এবং কেবল জটিল সফটওয়্যার ইঞ্জিনিয়ারিং কাজগুলো ফ্ল্যাগশিপ রিজনিং মডেলে যাচ্ছে।
তবে টোকেন প্রতি তালিকাভুক্ত দাম কমলেও এক্সটেন্ডেড রিজনিং মডেলগুলোর (যেমন OpenAI o-series, GPT-5 রিজনিং, Claude Extended Thinking এবং DeepSeek R1) ক্ষেত্রে লুকানো 'থিংকিং টোকেন' বিলিংয়ের বিষয়ে ইঞ্জিনিয়ারিং লিডারদের সতর্ক থাকতে হবে। একটি জটিল কোডিং বা গাণিতিক সমস্যার চূড়ান্ত উত্তর ৪০০ শব্দের হলেও মডেলটি ভেতরে ভেতরে ৮,০০০ থেকে ২৪,০০০ আউটপুট টোকেন খরচ করতে পারে। তাই ২০২৬–২০২৭ সালের এআই বাজেট পরিকল্পনায় টাস্ক-ভিত্তিক বেঞ্চমার্কিং, কঠোর `max_completion_tokens` সীমা এবং মাল্টি-প্রোভাইডার রাউটিং গেটওয়ে ব্যবহার করাই সবচেয়ে কার্যকর কৌশল।
GetInfoUs গবেষণা ডেস্ক কর্তৃক প্রকাশিত প্রতিটি প্রতিবেদন প্রকাশের পূর্বে সরকারি আইন, অফিসিয়াল প্রোভাইডার ডকুমেন্টেশন এবং যাচাইকৃত বেঞ্চমার্ক ডাটাসেটের সাথে মিলিয়ে দেখা হয়।
Related reading
এআই ল্যাবগুলোর নতুন রিলিজের সাথে সাথে বেঞ্চমার্ক স্কোর, টোকেন প্রাইসিং এবং রেট লিমিট নিয়মিত পরিবর্তিত হয়। প্রোডাকশনে ব্যবহারের পূর্বে সর্বদা অফিশিয়াল প্রোভাইডার ডকুমেন্টেশন যাচাই করুন।