Databricks' পথপ্রদর্শক 132B ওপেন MoE মডেল ব্যবহারকারী 16 সূক্ষ্ম বিশেষজ্ঞসমূহ (4 সক্রিয়) এর জন্য এন্টারপ্রাইজ SQL, কোডিং, এবং সাধারণ টাস্কসমূহ.
টেকনিক্যাল স্পেসিফিকেশন
- প্রোভাইডার
- Databricks
- ক্যাটাগরি
- open-source
- রিলিজ তারিখ
- 2024-03
- ব্যাচ এপিআই ডিসকাউন্ট
- Standard rate
- কনজিউমার সাবস্ক্রিপশন
- Free / Self-Hosted
- রিজনিং এফোর্ট কন্ট্রোল
- Fixed
- স্ট্রাকচার্ড আউটপুট
- Yes
- আউটপুট মোডালিটি
- text
- অফিশিয়াল ডকুমেন্টেশন
- প্রোভাইডার ডকুমেন্টেশন দেখুন ↗
ডেটা প্রাইভেসি, লাইসেন্স ও ডিপ্লয়মেন্ট নীতিমালা
অফিশিয়াল প্রোভাইডার রিলিজ স্পেক্স, API কোটা ও এজেন্টিক সক্ষমতা
- অফিশিয়াল API মডেল আইডি (SDK String)
- dbrx-instruct
- সাপোর্টেড SDK ও API প্রোটোকল
- OpenAI-Compatible REST / vLLM / SGLang / HuggingFace TGI
- রিলিজ লাইফসাইকেল ও ডেপ্রিকেশন স্ট্যাটাস
- লেগাসি স্ট্যাবল (নতুন প্রজন্মের আপগ্রেড মডেল উপলব্ধ)
- প্রোডাকশন রেট লিমিট (RPM ও TPM কোটা)
- Unlimited (Hardware-bound on self-hosted GPU) / 10,000 RPM Cloud · Unlimited local throughput / 10M+ TPM Managed Cloud
- লং-কনটেক্সট প্রাইসিং টিয়ার (>128K / >200K)
- পূর্ণ কনটেক্সট উইন্ডোতে সম্পূর্ণ ফ্রি (শুধু জিপিইউ VRAM ব্যবহৃত হয়)
- প্রম্পট ক্যাশিং ও TTL পলিসি
- vLLM ও SGLang-এ স্বয়ংক্রিয় প্রিফিক্স KV-ক্যাশিং (সম্পূর্ণ বিনামূল্যে)
- কম্পিউটার ইউজ ও ব্রাউজার GUI এজেন্ট
- API ও CLI টুল-কলিং এজেন্ট সমর্থিত (র-পিক্সেল ডেস্কটপ ক্লিক ছাড়া)
- MCP প্রোটোকল ও প্যারালাল টুল কলিং
- নেটিভ MCP সাপোর্ট · প্যারালাল ফাংশন কলিং · ১০০% স্ট্রিক্ট JSON স্কিমা
- বিল্ট-ইন ওয়েব সার্চ ও কোড স্যান্ডবক্স
- এক্সটার্নাল সার্চ (Tavily/Exa) ও ডকার স্যান্ডবক্সের মাধ্যমে সমর্থিত
- ফাইন-টিউনিং ও ডিস্টিলেশন সুবিধা
- পূর্ণ ওয়েটস SFT, LoRA, QLoRA, DPO ও RL ফাইন-টিউনিং (Unsloth / Axolotl)
- মাল্টিমোডাল টোকেনাইজেশন হিসাব
- টেক্সট BPE (~৪ অক্ষর/টোকেন)
- ওয়েটস প্রিসিশন ও কোয়ান্টাইজেশন ফরম্যাট
- BF16 / FP16, FP8 Dynamic, INT4 AWQ / GPTQ, GGUF (Q4_K_M / Q8_0)
- ন্যূনতম GPU VRAM রিকোয়ারমেন্ট
- 82 GB VRAM (৪-বিট কোয়ান্টাইজড) · 284 GB VRAM (নেটিভ BF16)
- সেলফ-হোস্টেড ইনফারেন্স ইঞ্জিন
- vLLM, SGLang, Ollama, llama.cpp, TensorRT-LLM, HuggingFace TGI
- সিস্টেম কার্ড ও সেফটি ক্লাসিফিকেশন
- Open-Weights System Card + Customizable Guardrail Layer (Llama Guard / ShieldGemma)
- এন্টারপ্রাইজ কমপ্লায়েন্স (SOC2 / HIPAA / ZDR)
- ১০০% অন-প্রেমিসেস / প্রাইভেট VPC নিয়ন্ত্রণ · সম্পূর্ণ HIPAA, GDPR ও SOC2 কমপ্লায়েন্ট
DBRX Instruct: খরচ, কনটেক্সট, হার্ডওয়্যার ও কোড ইন্টিগ্রেশন
এই মডেলটি ওপেন-ওয়েটস বা ফ্রি টিয়ারে উপলব্ধ, তাই কোনো মাসিক সাবস্ক্রিপশন ফি নেই।
একই কাজের ভলিউমে শীর্ষ বিকল্প মডেলগুলোর মাসিক খরচ তুলনা
লাইভ প্রম্পট টোকেন কাউন্টার (BPE Tokenizer)
আপনার সিস্টেম প্রম্পট, JSON বা কোড পেস্ট করে তাৎক্ষণিক টোকেন সংখ্যা ও খরচ দেখুন।
হাইব্রিড মডেল রাউটিং ক্যাসকেড সাশ্রয় (Cascade Router)
সাধারণ প্রশ্নগুলো ফাস্ট রাউটার মডেলে (Gemini 2.5 Flash / GPT-4.1 Nano) পাঠিয়ে শুধুমাত্র জটিল টাস্ক DBRX Instruct-এ পাঠালে মাসিক খরচ কত কমে দেখুন:
বেঞ্চমার্ক ফলাফল ও ৬-অক্ষের সক্ষমতা রাডার
- MMLU-Pro
- 74%
- HumanEval
- 78.5%
- Chatbot Arena Elo
- 1265pts
শক্তিশালী দিকসমূহ
- Pioneered সূক্ষ্ম 16-বিশেষজ্ঞ MoE আর্কিটেকচার মধ্যে বাণিজ্যিক ওপেন-সোর্স মডেলগুলো
- শক্তিশালী out-এর--box SQL প্রজন্ম এবং tabular database query সক্ষমতা
- Tight নেটিভ ইন্টিগ্রেশন সহ Databricks Lakehouse platform
সীমাবদ্ধতা ও বিবেচ্য বিষয়
- 32K কনটেক্সট উইন্ডো হয় smaller চেয়ে আধুনিক 128K+ alternatives
- প্রয়োজন হয় উল্লেখযোগ্য GPU VRAM এর জন্য unquantized ক্লাস্টার hosting
সম্পাদকীয় মূল্যায়ন
মাইলফলক ওপেন এন্টারপ্রাইজ MoE যা proved দক্ষতা এর সূক্ষ্ম বিশেষজ্ঞ রাউটিং.
সবচেয়ে উপযুক্ত: এন্টারপ্রাইজ ডেটা warehouse অ্যানালিটিক্স, স্বয়ংক্রিয় SQL প্রজন্ম, এবং lakehouse সহকারী
DBRX Instruct-এর তুলনা
DBRX Instruct সম্পর্কে সচরাচর জিজ্ঞাসিত প্রশ্নাবলী
DBRX Instruct-এর API প্রাইসিং ও প্রম্পট ক্যাশিং খরচ কত?+
Databricks-এর DBRX Instruct ব্যবহারের খরচ প্রতি ১০ লক্ষ (1M) ইনপুট টোকেনে $0 এবং প্রতি ১০ লক্ষ আউটপুট টোকেনে $0। প্রম্পট ক্যাশিং ব্যবহার করলে ইনপুট খরচ কমে প্রতি ১M টোকেনে $0 হয় এবং অ্যাসিঙ্ক্রোনাস ব্যাচ API-তে 0% পর্যন্ত ছাড় পাওয়া যায়।
DBRX Instruct-এর জন্য $20/মাস সাবস্ক্রিপশন ভালো নাকি Pay-As-You-Go API?+
আপনি যদি শুধুমাত্র ব্যক্তিগত চ্যাট, রিসার্চ বা কোডিং অ্যাসিস্ট্যান্ট হিসেবে ব্যবহার করেন, তবে ফিক্সড $20/মাস সাবস্ক্রিপশন ঝুঁকিমুক্ত। কিন্তু আপনি যদি অ্যাপ্লিকেশন তৈরি করেন বা কম ভলিউমে (মাসে $20-এর কম টোকেন) ব্যবহার করেন, তবে প্রম্পট ক্যাশিংসহ API পে-অ্যাজ-ইউ-গো অনেক বেশি সাশ্রয়ী।
DBRX Instruct-এর কনটেক্সট উইন্ডোতে কত শব্দ বা পৃষ্ঠা ধরে?+
DBRX Instruct-এর কনটেক্সট উইন্ডো হলো 33K tokens, যা প্রায় 24,576টি ইংরেজি শব্দ বা প্রায় 66 পৃষ্ঠার স্ট্যান্ডার্ড ডকুমেন্টের সমান। এক বারে এর সর্বোচ্চ আউটপুট সীমা 4,096 টোকেন।
DBRX Instruct কি ওপেন-ওয়েটস এবং নিজের GPU-তে লোকালি চালানো যাবে?+
হ্যাঁ, DBRX Instruct একটি ওপেন-ওয়েটস (132B total (36B active MoE)) মডেল। আপনি Ollama, vLLM বা llama.cpp ব্যবহার করে নিজের GPU বা লোকাল সার্ভারে এটি ডাউনলোড করে চালাতে পারবেন।
DBRX Instruct API-তে পাঠানো ডেটা কি মডেল ট্রেইনিংয়ে ব্যবহার করা হয়?+
জিরো ডেটা শেয়ারিং (নিজস্ব সার্ভারে ১০০% লোকাল প্রাইভেসি)। লাইসেন্সের ধরন: Open-Weights Research & Commercial License। ডেভেলপাররা জেনারেটেড আউটপুট বাণিজ্যিক কাজে ব্যবহার করতে পারেন।
কোডিং ও রিজনিং বেঞ্চমার্কে DBRX Instruct-এর স্কোর কত?+
DBRX Instruct-এর কম্পোজিট ইন্টেলিজেন্স ইনডেক্স 76/100। বেঞ্চমার্কের মধ্যে SWE-bench Verified-এ N/A%, GPQA Diamond-এ N/A%, MMLU-Pro-তে 74% এবং Arena Elo-তে 1265 স্কোর অর্জন করেছে।
DBRX Instruct কোন কাজের জন্য সবচেয়ে উপযুক্ত?+
DBRX Instruct মূলত এন্টারপ্রাইজ ডেটা warehouse অ্যানালিটিক্স, স্বয়ংক্রিয় SQL প্রজন্ম, এবং lakehouse সহকারী-এর জন্য সবচেয়ে কার্যকর। সম্পাদকীয় মূল্যায়ন: মাইলফলক ওপেন এন্টারপ্রাইজ MoE যা proved দক্ষতা এর সূক্ষ্ম বিশেষজ্ঞ রাউটিং.
সম্পর্কিত এআই পরিভাষা ও গ্লোসারি
সব পরিভাষা দেখুন →DBRX Instruct-এর আর্কিটেকচার ও বৈশিষ্ট্যের সাথে সম্পর্কিত মূল পরিভাষাসমূহ:
একটি ল্যাঙ্গুয়েজ মডেল যে ক্ষুদ্রতম টেক্সট এককে ডেটা প্রসেস করে, যা সাধারণত ৩ থেকে ৪টি ইংরেজি অক্ষর বা প্রায় ০.৭৫ শব্দের সমান। উদাহরণস্বরূপ: "Artificial intelligence is fast" বাক্যটি প্রায় ৫টি টোকেনে বিভক্ত হয়।
একটি প্রমিত ও নিয়ন্ত্রিত টেস্ট স্যুট যার মাধ্যমে বিভিন্ন এআই মডেলের কর্মক্ষমতা বস্তুনিষ্ঠভাবে পরিমাপ ও তুলনা করা হয়; যেমন কোডিংয়ের জন্য SWE-bench, গণিতের জন্য AIME এবং সাধারণ জ্ঞানের জন্য MMLU।
একটি এআই মডেল একক অনুরোধে যে সর্বোচ্চ সংখ্যক টোকেন ইনপুট হিসেবে পড়তে এবং আউটপুট হিসেবে লিখতে পারে। ১,০০০,০০০ টোকেনের কনটেক্সট উইন্ডো একবারে প্রায় ৭৫০,০০০ ইংরেজি শব্দ ধারণ করতে সক্ষম।
একটি ল্যাঙ্গুয়েজ মডেলের এমন সক্ষমতা যার মাধ্যমে এটি বুঝতে পারে কখন বাইরের তথ্য বা ক্রিয়া প্রয়োজন এবং কাঠামোগত JSON আর্গুমেন্ট তৈরি করে ক্যালকুলেটর, ওয়েব সার্চ বা ডেটাবেস ফাংশন আহ্বান করে।
অ্যানথ্রপিক (Anthropic) কর্তৃক প্রবর্তিত একটি উন্মুক্ত স্ট্যান্ডার্ড, যার মাধ্যমে এআই এজেন্টরা স্ট্যান্ডার্ডাইজড সার্ভার ইন্টারফেসের সাহায্যে লোকাল ফাইল সিস্টেম, ডেভেলপমেন্ট পরিবেশ ও ক্লাউড সার্ভিসের সাথে সংযুক্ত হতে পারে।
একটি উন্নত আর্কিটেকচার যেখানে একটি বিশাল মডেলকে একাধিক বিশেষজ্ঞ সাব-নেটওয়ার্কে ভাগ করা হয় এবং প্রতি টোকেনে মাত্র ২-৩টি নেটওয়ার্ক সক্রিয় হয়। যেমন DeepSeek-V3-এর মোট ৬৭১B প্যারামিটার থাকলেও প্রতি টোকেনে মাত্র ৩৭B সক্রিয় থাকে।
এআই ল্যাবগুলোর নতুন রিলিজের সাথে সাথে বেঞ্চমার্ক স্কোর, টোকেন প্রাইসিং এবং রেট লিমিট নিয়মিত পরিবর্তিত হয়। প্রোডাকশনে ব্যবহারের পূর্বে সর্বদা অফিশিয়াল প্রোভাইডার ডকুমেন্টেশন যাচাই করুন।