ওপেন-ওয়েটস মিক্সচার-অব-এক্সপার্টস পাওয়ারহাউস সহ 141B total প্যারামিটারসমূহ এবং 39B সক্রিয়, প্রদানকারী ব্যতিক্রমী গণিত, কোডিং, এবং বহুভাষিক পারফরম্যান্স.
টেকনিক্যাল স্পেসিফিকেশন
- প্রোভাইডার
- Mistral AI
- ক্যাটাগরি
- open-source
- রিলিজ তারিখ
- 2024-04
- ব্যাচ এপিআই ডিসকাউন্ট
- 50% off async batch
- কনজিউমার সাবস্ক্রিপশন
- Free / Self-Hosted
- রিজনিং এফোর্ট কন্ট্রোল
- Fixed
- স্ট্রাকচার্ড আউটপুট
- Yes
- আউটপুট মোডালিটি
- text
- অফিশিয়াল ডকুমেন্টেশন
- প্রোভাইডার ডকুমেন্টেশন দেখুন ↗
ডেটা প্রাইভেসি, লাইসেন্স ও ডিপ্লয়মেন্ট নীতিমালা
অফিশিয়াল প্রোভাইডার রিলিজ স্পেক্স, API কোটা ও এজেন্টিক সক্ষমতা
- অফিশিয়াল API মডেল আইডি (SDK String)
- mixtral-8x22b-latest
- সাপোর্টেড SDK ও API প্রোটোকল
- OpenAI-Compatible REST / vLLM / SGLang / HuggingFace TGI
- রিলিজ লাইফসাইকেল ও ডেপ্রিকেশন স্ট্যাটাস
- লেগাসি স্ট্যাবল (নতুন প্রজন্মের আপগ্রেড মডেল উপলব্ধ)
- প্রোডাকশন রেট লিমিট (RPM ও TPM কোটা)
- Unlimited (Hardware-bound on self-hosted GPU) / 10,000 RPM Cloud · Unlimited local throughput / 10M+ TPM Managed Cloud
- লং-কনটেক্সট প্রাইসিং টিয়ার (>128K / >200K)
- পূর্ণ 66K কনটেক্সট জুড়ে একই ফ্ল্যাট রেট ($1.2/1M)
- প্রম্পট ক্যাশিং ও TTL পলিসি
- ক্যাশড ইনপুট রেট $0.6/1M টোকেন
- কম্পিউটার ইউজ ও ব্রাউজার GUI এজেন্ট
- API ও CLI টুল-কলিং এজেন্ট সমর্থিত (র-পিক্সেল ডেস্কটপ ক্লিক ছাড়া)
- MCP প্রোটোকল ও প্যারালাল টুল কলিং
- নেটিভ MCP সাপোর্ট · প্যারালাল ফাংশন কলিং · ১০০% স্ট্রিক্ট JSON স্কিমা
- বিল্ট-ইন ওয়েব সার্চ ও কোড স্যান্ডবক্স
- এক্সটার্নাল সার্চ (Tavily/Exa) ও ডকার স্যান্ডবক্সের মাধ্যমে সমর্থিত
- ফাইন-টিউনিং ও ডিস্টিলেশন সুবিধা
- পূর্ণ ওয়েটস SFT, LoRA, QLoRA, DPO ও RL ফাইন-টিউনিং (Unsloth / Axolotl)
- মাল্টিমোডাল টোকেনাইজেশন হিসাব
- টেক্সট BPE (~৪ অক্ষর/টোকেন)
- ওয়েটস প্রিসিশন ও কোয়ান্টাইজেশন ফরম্যাট
- BF16 / FP16, FP8 Dynamic, INT4 AWQ / GPTQ, GGUF (Q4_K_M / Q8_0)
- ন্যূনতম GPU VRAM রিকোয়ারমেন্ট
- 87 GB VRAM (৪-বিট কোয়ান্টাইজড) · 303 GB VRAM (নেটিভ BF16)
- সেলফ-হোস্টেড ইনফারেন্স ইঞ্জিন
- vLLM, SGLang, Ollama, llama.cpp, TensorRT-LLM, HuggingFace TGI
- সিস্টেম কার্ড ও সেফটি ক্লাসিফিকেশন
- Open-Weights System Card + Customizable Guardrail Layer (Llama Guard / ShieldGemma)
- এন্টারপ্রাইজ কমপ্লায়েন্স (SOC2 / HIPAA / ZDR)
- ১০০% অন-প্রেমিসেস / প্রাইভেট VPC নিয়ন্ত্রণ · সম্পূর্ণ HIPAA, GDPR ও SOC2 কমপ্লায়েন্ট
Mixtral 8x22B: খরচ, কনটেক্সট, হার্ডওয়্যার ও কোড ইন্টিগ্রেশন
ব্যক্তিগত চ্যাট ব্যবহারের জন্য $20/মাস সাবস্ক্রিপশন প্ল্যান বেশি সাশ্রয়ী।
ব্রেক-ইভেন পয়েন্ট: দৈনিক ~139 টি মেসেজে API খরচ $20/মাস এর সমান হয়।
একই কাজের ভলিউমে শীর্ষ বিকল্প মডেলগুলোর মাসিক খরচ তুলনা
লাইভ প্রম্পট টোকেন কাউন্টার (BPE Tokenizer)
আপনার সিস্টেম প্রম্পট, JSON বা কোড পেস্ট করে তাৎক্ষণিক টোকেন সংখ্যা ও খরচ দেখুন।
হাইব্রিড মডেল রাউটিং ক্যাসকেড সাশ্রয় (Cascade Router)
সাধারণ প্রশ্নগুলো ফাস্ট রাউটার মডেলে (Gemini 2.5 Flash / GPT-4.1 Nano) পাঠিয়ে শুধুমাত্র জটিল টাস্ক Mixtral 8x22B-এ পাঠালে মাসিক খরচ কত কমে দেখুন:
বেঞ্চমার্ক ফলাফল ও ৬-অক্ষের সক্ষমতা রাডার
- SWE-bench Verified
- 36%
- GPQA Diamond
- 51.2%
- MMLU-Pro
- 74%
- HumanEval
- 82.5%
- Terminal-Bench
- 31%
- AIME
- 62%
- Long-Context Reasoning
- 68%
- Chatbot Arena Elo
- 1260pts
শক্তিশালী দিকসমূহ
- উচ্চ প্যারামিটার সক্ষমতা (141B) সহ efficient 39B সক্রিয় টোকেন ইনফারেন্স
- Fully ওপেন-ওয়েটস আওতায় Apache 2.0 license এর জন্য ব্যক্তিগত ও সুরক্ষিত এন্টারপ্রাইজ hosting
- নেটিভ function calling এবং উচ্চ code completion fidelity
সীমাবদ্ধতা ও বিবেচ্য বিষয়
- প্রয়োজন হয় উল্লেখযোগ্য multi-GPU VRAM এর জন্য লোকাল ইনফারেন্স ক্লাস্টারসমূহ
- 64K কনটেক্সট উইন্ডো smaller চেয়ে 128K+ alternatives
সম্পাদকীয় মূল্যায়ন
defining বৃহৎ-স্কেল ওপেন MoE ফাউন্ডেশন মডেল এর early 2024.
সবচেয়ে উপযুক্ত: সেলফ-হোস্টেড এন্টারপ্রাইজ ব্যক্তিগত ও সুরক্ষিত ক্লাস্টারসমূহ, ওপেন-সোর্স AI অবকাঠামো, এবং বহুভাষিক অনুবাদ
Mixtral 8x22B-এর তুলনা
Mixtral 8x22B সম্পর্কে সচরাচর জিজ্ঞাসিত প্রশ্নাবলী
Mixtral 8x22B-এর API প্রাইসিং ও প্রম্পট ক্যাশিং খরচ কত?+
Mistral AI-এর Mixtral 8x22B ব্যবহারের খরচ প্রতি ১০ লক্ষ (1M) ইনপুট টোকেনে $1.2 এবং প্রতি ১০ লক্ষ আউটপুট টোকেনে $1.2। প্রম্পট ক্যাশিং ব্যবহার করলে ইনপুট খরচ কমে প্রতি ১M টোকেনে $0.6 হয় এবং অ্যাসিঙ্ক্রোনাস ব্যাচ API-তে 50% পর্যন্ত ছাড় পাওয়া যায়।
Mixtral 8x22B-এর জন্য $20/মাস সাবস্ক্রিপশন ভালো নাকি Pay-As-You-Go API?+
আপনি যদি শুধুমাত্র ব্যক্তিগত চ্যাট, রিসার্চ বা কোডিং অ্যাসিস্ট্যান্ট হিসেবে ব্যবহার করেন, তবে ফিক্সড $20/মাস সাবস্ক্রিপশন ঝুঁকিমুক্ত। কিন্তু আপনি যদি অ্যাপ্লিকেশন তৈরি করেন বা কম ভলিউমে (মাসে $20-এর কম টোকেন) ব্যবহার করেন, তবে প্রম্পট ক্যাশিংসহ API পে-অ্যাজ-ইউ-গো অনেক বেশি সাশ্রয়ী।
Mixtral 8x22B-এর কনটেক্সট উইন্ডোতে কত শব্দ বা পৃষ্ঠা ধরে?+
Mixtral 8x22B-এর কনটেক্সট উইন্ডো হলো 66K tokens, যা প্রায় 49,152টি ইংরেজি শব্দ বা প্রায় 131 পৃষ্ঠার স্ট্যান্ডার্ড ডকুমেন্টের সমান। এক বারে এর সর্বোচ্চ আউটপুট সীমা 8,192 টোকেন।
Mixtral 8x22B কি ওপেন-ওয়েটস এবং নিজের GPU-তে লোকালি চালানো যাবে?+
হ্যাঁ, Mixtral 8x22B একটি ওপেন-ওয়েটস (141B total (39B active MoE)) মডেল। আপনি Ollama, vLLM বা llama.cpp ব্যবহার করে নিজের GPU বা লোকাল সার্ভারে এটি ডাউনলোড করে চালাতে পারবেন।
Mixtral 8x22B API-তে পাঠানো ডেটা কি মডেল ট্রেইনিংয়ে ব্যবহার করা হয়?+
জিরো ডেটা শেয়ারিং (নিজস্ব সার্ভারে ১০০% লোকাল প্রাইভেসি)। লাইসেন্সের ধরন: Permissive Open-Weights (Apache 2.0 / MIT Commercial)। ডেভেলপাররা জেনারেটেড আউটপুট বাণিজ্যিক কাজে ব্যবহার করতে পারেন।
কোডিং ও রিজনিং বেঞ্চমার্কে Mixtral 8x22B-এর স্কোর কত?+
Mixtral 8x22B-এর কম্পোজিট ইন্টেলিজেন্স ইনডেক্স 44/100। বেঞ্চমার্কের মধ্যে SWE-bench Verified-এ 36%, GPQA Diamond-এ 51.2%, MMLU-Pro-তে 74% এবং Arena Elo-তে 1260 স্কোর অর্জন করেছে।
Mixtral 8x22B কোন কাজের জন্য সবচেয়ে উপযুক্ত?+
Mixtral 8x22B মূলত সেলফ-হোস্টেড এন্টারপ্রাইজ ব্যক্তিগত ও সুরক্ষিত ক্লাস্টারসমূহ, ওপেন-সোর্স AI অবকাঠামো, এবং বহুভাষিক অনুবাদ-এর জন্য সবচেয়ে কার্যকর। সম্পাদকীয় মূল্যায়ন: defining বৃহৎ-স্কেল ওপেন MoE ফাউন্ডেশন মডেল এর early 2024.
Mistral AI ফ্যামিলি লাইনেজ, রাউটিং টিয়ার ও আপগ্রেড পাথ
হাইব্রিড প্রম্পট রাউটিং বা আপগ্রেডের জন্য Mistral AI-এর অন্যান্য মডেল টিয়ার:
Mistral Medium 3.5
Mistral Small 4
Devstral 2
Devstral Medium
Devstral Small
Mistral Small 3.2
সম্পর্কিত এআই পরিভাষা ও গ্লোসারি
সব পরিভাষা দেখুন →Mixtral 8x22B-এর আর্কিটেকচার ও বৈশিষ্ট্যের সাথে সম্পর্কিত মূল পরিভাষাসমূহ:
একটি ল্যাঙ্গুয়েজ মডেল যে ক্ষুদ্রতম টেক্সট এককে ডেটা প্রসেস করে, যা সাধারণত ৩ থেকে ৪টি ইংরেজি অক্ষর বা প্রায় ০.৭৫ শব্দের সমান। উদাহরণস্বরূপ: "Artificial intelligence is fast" বাক্যটি প্রায় ৫টি টোকেনে বিভক্ত হয়।
একটি প্রমিত ও নিয়ন্ত্রিত টেস্ট স্যুট যার মাধ্যমে বিভিন্ন এআই মডেলের কর্মক্ষমতা বস্তুনিষ্ঠভাবে পরিমাপ ও তুলনা করা হয়; যেমন কোডিংয়ের জন্য SWE-bench, গণিতের জন্য AIME এবং সাধারণ জ্ঞানের জন্য MMLU।
একটি এআই মডেল একক অনুরোধে যে সর্বোচ্চ সংখ্যক টোকেন ইনপুট হিসেবে পড়তে এবং আউটপুট হিসেবে লিখতে পারে। ১,০০০,০০০ টোকেনের কনটেক্সট উইন্ডো একবারে প্রায় ৭৫০,০০০ ইংরেজি শব্দ ধারণ করতে সক্ষম।
একটি ল্যাঙ্গুয়েজ মডেলের এমন সক্ষমতা যার মাধ্যমে এটি বুঝতে পারে কখন বাইরের তথ্য বা ক্রিয়া প্রয়োজন এবং কাঠামোগত JSON আর্গুমেন্ট তৈরি করে ক্যালকুলেটর, ওয়েব সার্চ বা ডেটাবেস ফাংশন আহ্বান করে।
অ্যানথ্রপিক (Anthropic) কর্তৃক প্রবর্তিত একটি উন্মুক্ত স্ট্যান্ডার্ড, যার মাধ্যমে এআই এজেন্টরা স্ট্যান্ডার্ডাইজড সার্ভার ইন্টারফেসের সাহায্যে লোকাল ফাইল সিস্টেম, ডেভেলপমেন্ট পরিবেশ ও ক্লাউড সার্ভিসের সাথে সংযুক্ত হতে পারে।
একটি আধুনিক খরচ ও গতি অপ্টিমাইজেশন প্রযুক্তি যেখানে বারবার ব্যবহৃত প্রম্পট প্রিফিক্সের অ্যাটেনশন স্টেট মেমোরিতে ক্যাশ রাখা হয়। এতে ইনপুট টোকেনের খরচ ৫০% থেকে ৯০% পর্যন্ত হ্রাস পায় এবং দ্রুত উত্তর মেলে।
এআই ল্যাবগুলোর নতুন রিলিজের সাথে সাথে বেঞ্চমার্ক স্কোর, টোকেন প্রাইসিং এবং রেট লিমিট নিয়মিত পরিবর্তিত হয়। প্রোডাকশনে ব্যবহারের পূর্বে সর্বদা অফিশিয়াল প্রোভাইডার ডকুমেন্টেশন যাচাই করুন।
তথ্যসূত্র: Mistral AI Open Source Technical Release (April 2024)↗