লাইটওয়েট 7B প্যারামিটার রিট্রিভাল ইঞ্জিন bringing Cohere উদ্ধৃতি গ্রাউন্ডিং এবং 128K কনটেক্সট প্রতি একক-GPU এজ servers.
টেকনিক্যাল স্পেসিফিকেশন
- প্রোভাইডার
- Cohere
- ক্যাটাগরি
- open-source
- রিলিজ তারিখ
- 2024-12
- ব্যাচ এপিআই ডিসকাউন্ট
- 50% off async batch
- কনজিউমার সাবস্ক্রিপশন
- Free / Self-Hosted
- রিজনিং এফোর্ট কন্ট্রোল
- Fixed
- স্ট্রাকচার্ড আউটপুট
- Yes
- আউটপুট মোডালিটি
- text
- অফিশিয়াল ডকুমেন্টেশন
- প্রোভাইডার ডকুমেন্টেশন দেখুন ↗
ডেটা প্রাইভেসি, লাইসেন্স ও ডিপ্লয়মেন্ট নীতিমালা
অফিশিয়াল প্রোভাইডার রিলিজ স্পেক্স, API কোটা ও এজেন্টিক সক্ষমতা
- অফিশিয়াল API মডেল আইডি (SDK String)
- command-r7b
- সাপোর্টেড SDK ও API প্রোটোকল
- OpenAI-Compatible REST / vLLM / SGLang / HuggingFace TGI
- রিলিজ লাইফসাইকেল ও ডেপ্রিকেশন স্ট্যাটাস
- লেগাসি স্ট্যাবল (নতুন প্রজন্মের আপগ্রেড মডেল উপলব্ধ)
- প্রোডাকশন রেট লিমিট (RPM ও TPM কোটা)
- Unlimited (Hardware-bound on self-hosted GPU) / 10,000 RPM Cloud · Unlimited local throughput / 10M+ TPM Managed Cloud
- লং-কনটেক্সট প্রাইসিং টিয়ার (>128K / >200K)
- পূর্ণ 128K কনটেক্সট জুড়ে একই ফ্ল্যাট রেট ($0.07/1M)
- প্রম্পট ক্যাশিং ও TTL পলিসি
- ক্যাশড ইনপুট রেট $0.02/1M টোকেন
- কম্পিউটার ইউজ ও ব্রাউজার GUI এজেন্ট
- API ও CLI টুল-কলিং এজেন্ট সমর্থিত (র-পিক্সেল ডেস্কটপ ক্লিক ছাড়া)
- MCP প্রোটোকল ও প্যারালাল টুল কলিং
- নেটিভ MCP সাপোর্ট · প্যারালাল ফাংশন কলিং · ১০০% স্ট্রিক্ট JSON স্কিমা
- বিল্ট-ইন ওয়েব সার্চ ও কোড স্যান্ডবক্স
- এক্সটার্নাল সার্চ (Tavily/Exa) ও ডকার স্যান্ডবক্সের মাধ্যমে সমর্থিত
- ফাইন-টিউনিং ও ডিস্টিলেশন সুবিধা
- পূর্ণ ওয়েটস SFT, LoRA, QLoRA, DPO ও RL ফাইন-টিউনিং (Unsloth / Axolotl)
- মাল্টিমোডাল টোকেনাইজেশন হিসাব
- টেক্সট BPE (~৪ অক্ষর/টোকেন)
- ওয়েটস প্রিসিশন ও কোয়ান্টাইজেশন ফরম্যাট
- BF16 / FP16, FP8 Dynamic, INT4 AWQ / GPTQ, GGUF (Q4_K_M / Q8_0)
- ন্যূনতম GPU VRAM রিকোয়ারমেন্ট
- 4 GB VRAM (৪-বিট কোয়ান্টাইজড) · 15 GB VRAM (নেটিভ BF16)
- সেলফ-হোস্টেড ইনফারেন্স ইঞ্জিন
- vLLM, SGLang, Ollama, llama.cpp, TensorRT-LLM, HuggingFace TGI
- সিস্টেম কার্ড ও সেফটি ক্লাসিফিকেশন
- Open-Weights System Card + Customizable Guardrail Layer (Llama Guard / ShieldGemma)
- এন্টারপ্রাইজ কমপ্লায়েন্স (SOC2 / HIPAA / ZDR)
- ১০০% অন-প্রেমিসেস / প্রাইভেট VPC নিয়ন্ত্রণ · সম্পূর্ণ HIPAA, GDPR ও SOC2 কমপ্লায়েন্ট
Command R7B: খরচ, কনটেক্সট, হার্ডওয়্যার ও কোড ইন্টিগ্রেশন
আপনার ব্যবহারে API পে-অ্যাজ-ইউ-গো বেশি সাশ্রয়ী ($14.30/মাস বাঁচবে)।
ব্রেক-ইভেন পয়েন্ট: দৈনিক ~1,754 টি মেসেজে API খরচ $20/মাস এর সমান হয়।
একই কাজের ভলিউমে শীর্ষ বিকল্প মডেলগুলোর মাসিক খরচ তুলনা
লাইভ প্রম্পট টোকেন কাউন্টার (BPE Tokenizer)
আপনার সিস্টেম প্রম্পট, JSON বা কোড পেস্ট করে তাৎক্ষণিক টোকেন সংখ্যা ও খরচ দেখুন।
হাইব্রিড মডেল রাউটিং ক্যাসকেড সাশ্রয় (Cascade Router)
সাধারণ প্রশ্নগুলো ফাস্ট রাউটার মডেলে (Gemini 2.5 Flash / GPT-4.1 Nano) পাঠিয়ে শুধুমাত্র জটিল টাস্ক Command R7B-এ পাঠালে মাসিক খরচ কত কমে দেখুন:
বেঞ্চমার্ক ফলাফল ও ৬-অক্ষের সক্ষমতা রাডার
- SWE-bench Verified
- 27%
- GPQA Diamond
- 42.5%
- MMLU-Pro
- 66%
- HumanEval
- 74%
- Long-Context Reasoning
- 68%
- Chatbot Arena Elo
- 1215pts
শক্তিশালী দিকসমূহ
- Remarkable 128K কনটেক্সট RAG পারফরম্যান্স মধ্যে আল্ট্রা-কমপ্যাক্ট 7B size
- উচ্চ ইনফারেন্স velocity এর 140 টোকেন/sec এর ওপর একক GPU cards
- নির্মিত-মধ্যে যাচাইযোগ্য উদ্ধৃতি নিষ্কাশন এবং টুল ব্যবহার
সীমাবদ্ধতা ও বিবেচ্য বিষয়
- Reduced রিজনিং সক্ষমতা এর তুলনায় Command R এবং R+
- টেক্সট-শুধুমাত্র ছাড়াই নেটিভ মাল্টিমোডাল সক্ষমতা
সম্পাদকীয় মূল্যায়ন
কমপ্যাক্ট, বাজেট-friendly RAG specialist bringing cited answers প্রতি এজ.
সবচেয়ে উপযুক্ত: এজ RAG অ্যাপ্লিকেশনসমূহ, লোকাল আইনি অনুসন্ধান, এবং বাজেট-constrained API পাইপলাইন
Command R7B-এর তুলনা
Command R7B সম্পর্কে সচরাচর জিজ্ঞাসিত প্রশ্নাবলী
Command R7B-এর API প্রাইসিং ও প্রম্পট ক্যাশিং খরচ কত?+
Cohere-এর Command R7B ব্যবহারের খরচ প্রতি ১০ লক্ষ (1M) ইনপুট টোকেনে $0.07 এবং প্রতি ১০ লক্ষ আউটপুট টোকেনে $0.2। প্রম্পট ক্যাশিং ব্যবহার করলে ইনপুট খরচ কমে প্রতি ১M টোকেনে $0.02 হয় এবং অ্যাসিঙ্ক্রোনাস ব্যাচ API-তে 50% পর্যন্ত ছাড় পাওয়া যায়।
Command R7B-এর জন্য $20/মাস সাবস্ক্রিপশন ভালো নাকি Pay-As-You-Go API?+
আপনি যদি শুধুমাত্র ব্যক্তিগত চ্যাট, রিসার্চ বা কোডিং অ্যাসিস্ট্যান্ট হিসেবে ব্যবহার করেন, তবে ফিক্সড $20/মাস সাবস্ক্রিপশন ঝুঁকিমুক্ত। কিন্তু আপনি যদি অ্যাপ্লিকেশন তৈরি করেন বা কম ভলিউমে (মাসে $20-এর কম টোকেন) ব্যবহার করেন, তবে প্রম্পট ক্যাশিংসহ API পে-অ্যাজ-ইউ-গো অনেক বেশি সাশ্রয়ী।
Command R7B-এর কনটেক্সট উইন্ডোতে কত শব্দ বা পৃষ্ঠা ধরে?+
Command R7B-এর কনটেক্সট উইন্ডো হলো 128K tokens, যা প্রায় 96,000টি ইংরেজি শব্দ বা প্রায় 256 পৃষ্ঠার স্ট্যান্ডার্ড ডকুমেন্টের সমান। এক বারে এর সর্বোচ্চ আউটপুট সীমা 4,096 টোকেন।
Command R7B কি ওপেন-ওয়েটস এবং নিজের GPU-তে লোকালি চালানো যাবে?+
হ্যাঁ, Command R7B একটি ওপেন-ওয়েটস (7B) মডেল। আপনি Ollama, vLLM বা llama.cpp ব্যবহার করে নিজের GPU বা লোকাল সার্ভারে এটি ডাউনলোড করে চালাতে পারবেন।
Command R7B API-তে পাঠানো ডেটা কি মডেল ট্রেইনিংয়ে ব্যবহার করা হয়?+
জিরো ডেটা শেয়ারিং (নিজস্ব সার্ভারে ১০০% লোকাল প্রাইভেসি)। লাইসেন্সের ধরন: Open-Weights Research & Commercial License। ডেভেলপাররা জেনারেটেড আউটপুট বাণিজ্যিক কাজে ব্যবহার করতে পারেন।
কোডিং ও রিজনিং বেঞ্চমার্কে Command R7B-এর স্কোর কত?+
Command R7B-এর কম্পোজিট ইন্টেলিজেন্স ইনডেক্স 38/100। বেঞ্চমার্কের মধ্যে SWE-bench Verified-এ 27%, GPQA Diamond-এ 42.5%, MMLU-Pro-তে 66% এবং Arena Elo-তে 1215 স্কোর অর্জন করেছে।
Command R7B কোন কাজের জন্য সবচেয়ে উপযুক্ত?+
Command R7B মূলত এজ RAG অ্যাপ্লিকেশনসমূহ, লোকাল আইনি অনুসন্ধান, এবং বাজেট-constrained API পাইপলাইন-এর জন্য সবচেয়ে কার্যকর। সম্পাদকীয় মূল্যায়ন: কমপ্যাক্ট, বাজেট-friendly RAG specialist bringing cited answers প্রতি এজ.
Cohere ফ্যামিলি লাইনেজ, রাউটিং টিয়ার ও আপগ্রেড পাথ
হাইব্রিড প্রম্পট রাউটিং বা আপগ্রেডের জন্য Cohere-এর অন্যান্য মডেল টিয়ার:
North Mini Code
Command A Plus
Command A Reasoning
Command A Translate
Command A Vision
Command A
সম্পর্কিত এআই পরিভাষা ও গ্লোসারি
সব পরিভাষা দেখুন →Command R7B-এর আর্কিটেকচার ও বৈশিষ্ট্যের সাথে সম্পর্কিত মূল পরিভাষাসমূহ:
একটি ল্যাঙ্গুয়েজ মডেল যে ক্ষুদ্রতম টেক্সট এককে ডেটা প্রসেস করে, যা সাধারণত ৩ থেকে ৪টি ইংরেজি অক্ষর বা প্রায় ০.৭৫ শব্দের সমান। উদাহরণস্বরূপ: "Artificial intelligence is fast" বাক্যটি প্রায় ৫টি টোকেনে বিভক্ত হয়।
একটি প্রমিত ও নিয়ন্ত্রিত টেস্ট স্যুট যার মাধ্যমে বিভিন্ন এআই মডেলের কর্মক্ষমতা বস্তুনিষ্ঠভাবে পরিমাপ ও তুলনা করা হয়; যেমন কোডিংয়ের জন্য SWE-bench, গণিতের জন্য AIME এবং সাধারণ জ্ঞানের জন্য MMLU।
একটি এআই মডেল একক অনুরোধে যে সর্বোচ্চ সংখ্যক টোকেন ইনপুট হিসেবে পড়তে এবং আউটপুট হিসেবে লিখতে পারে। ১,০০০,০০০ টোকেনের কনটেক্সট উইন্ডো একবারে প্রায় ৭৫০,০০০ ইংরেজি শব্দ ধারণ করতে সক্ষম।
একটি ল্যাঙ্গুয়েজ মডেলের এমন সক্ষমতা যার মাধ্যমে এটি বুঝতে পারে কখন বাইরের তথ্য বা ক্রিয়া প্রয়োজন এবং কাঠামোগত JSON আর্গুমেন্ট তৈরি করে ক্যালকুলেটর, ওয়েব সার্চ বা ডেটাবেস ফাংশন আহ্বান করে।
অ্যানথ্রপিক (Anthropic) কর্তৃক প্রবর্তিত একটি উন্মুক্ত স্ট্যান্ডার্ড, যার মাধ্যমে এআই এজেন্টরা স্ট্যান্ডার্ডাইজড সার্ভার ইন্টারফেসের সাহায্যে লোকাল ফাইল সিস্টেম, ডেভেলপমেন্ট পরিবেশ ও ক্লাউড সার্ভিসের সাথে সংযুক্ত হতে পারে।
একটি আধুনিক খরচ ও গতি অপ্টিমাইজেশন প্রযুক্তি যেখানে বারবার ব্যবহৃত প্রম্পট প্রিফিক্সের অ্যাটেনশন স্টেট মেমোরিতে ক্যাশ রাখা হয়। এতে ইনপুট টোকেনের খরচ ৫০% থেকে ৯০% পর্যন্ত হ্রাস পায় এবং দ্রুত উত্তর মেলে।
এআই ল্যাবগুলোর নতুন রিলিজের সাথে সাথে বেঞ্চমার্ক স্কোর, টোকেন প্রাইসিং এবং রেট লিমিট নিয়মিত পরিবর্তিত হয়। প্রোডাকশনে ব্যবহারের পূর্বে সর্বদা অফিশিয়াল প্রোভাইডার ডকুমেন্টেশন যাচাই করুন।
তথ্যসূত্র: Cohere Official Documentation & Pricing↗