AI21-এর revolutionary hybrid SSM-Transformer combining Mamba state space মডেলগুলো সহ attention layers এর জন্য 256K কনটেক্সট দক্ষতা.
টেকনিক্যাল স্পেসিফিকেশন
- প্রোভাইডার
- AI21
- ক্যাটাগরি
- flagship
- রিলিজ তারিখ
- 2024-08
- ব্যাচ এপিআই ডিসকাউন্ট
- 50% off async batch
- কনজিউমার সাবস্ক্রিপশন
- Free / Self-Hosted
- রিজনিং এফোর্ট কন্ট্রোল
- Fixed
- স্ট্রাকচার্ড আউটপুট
- Yes
- আউটপুট মোডালিটি
- text
- অফিশিয়াল ডকুমেন্টেশন
- প্রোভাইডার ডকুমেন্টেশন দেখুন ↗
ডেটা প্রাইভেসি, লাইসেন্স ও ডিপ্লয়মেন্ট নীতিমালা
অফিশিয়াল প্রোভাইডার রিলিজ স্পেক্স, API কোটা ও এজেন্টিক সক্ষমতা
- অফিশিয়াল API মডেল আইডি (SDK String)
- jamba-1-5-large
- সাপোর্টেড SDK ও API প্রোটোকল
- OpenAI-Compatible REST / vLLM / SGLang / HuggingFace TGI
- রিলিজ লাইফসাইকেল ও ডেপ্রিকেশন স্ট্যাটাস
- লেগাসি স্ট্যাবল (নতুন প্রজন্মের আপগ্রেড মডেল উপলব্ধ)
- প্রোডাকশন রেট লিমিট (RPM ও TPM কোটা)
- Unlimited (Hardware-bound on self-hosted GPU) / 10,000 RPM Cloud · Unlimited local throughput / 10M+ TPM Managed Cloud
- লং-কনটেক্সট প্রাইসিং টিয়ার (>128K / >200K)
- পূর্ণ 256K কনটেক্সট জুড়ে একই ফ্ল্যাট রেট ($2/1M)
- প্রম্পট ক্যাশিং ও TTL পলিসি
- ক্যাশড ইনপুট রেট $0.5/1M টোকেন
- কম্পিউটার ইউজ ও ব্রাউজার GUI এজেন্ট
- API ও CLI টুল-কলিং এজেন্ট সমর্থিত (র-পিক্সেল ডেস্কটপ ক্লিক ছাড়া)
- MCP প্রোটোকল ও প্যারালাল টুল কলিং
- নেটিভ MCP সাপোর্ট · প্যারালাল ফাংশন কলিং · ১০০% স্ট্রিক্ট JSON স্কিমা
- বিল্ট-ইন ওয়েব সার্চ ও কোড স্যান্ডবক্স
- এক্সটার্নাল সার্চ (Tavily/Exa) ও ডকার স্যান্ডবক্সের মাধ্যমে সমর্থিত
- ফাইন-টিউনিং ও ডিস্টিলেশন সুবিধা
- পূর্ণ ওয়েটস SFT, LoRA, QLoRA, DPO ও RL ফাইন-টিউনিং (Unsloth / Axolotl)
- মাল্টিমোডাল টোকেনাইজেশন হিসাব
- টেক্সট BPE (~৪ অক্ষর/টোকেন)
- ওয়েটস প্রিসিশন ও কোয়ান্টাইজেশন ফরম্যাট
- BF16 / FP16, FP8 Dynamic, INT4 AWQ / GPTQ, GGUF (Q4_K_M / Q8_0)
- ন্যূনতম GPU VRAM রিকোয়ারমেন্ট
- 247 GB VRAM (৪-বিট কোয়ান্টাইজড) · 856 GB VRAM (নেটিভ BF16)
- সেলফ-হোস্টেড ইনফারেন্স ইঞ্জিন
- vLLM, SGLang, Ollama, llama.cpp, TensorRT-LLM, HuggingFace TGI
- সিস্টেম কার্ড ও সেফটি ক্লাসিফিকেশন
- Open-Weights System Card + Customizable Guardrail Layer (Llama Guard / ShieldGemma)
- এন্টারপ্রাইজ কমপ্লায়েন্স (SOC2 / HIPAA / ZDR)
- ১০০% অন-প্রেমিসেস / প্রাইভেট VPC নিয়ন্ত্রণ · সম্পূর্ণ HIPAA, GDPR ও SOC2 কমপ্লায়েন্ট
Jamba 1.5 Large: খরচ, কনটেক্সট, হার্ডওয়্যার ও কোড ইন্টিগ্রেশন
ব্যক্তিগত চ্যাট ব্যবহারের জন্য $20/মাস সাবস্ক্রিপশন প্ল্যান বেশি সাশ্রয়ী।
ব্রেক-ইভেন পয়েন্ট: দৈনিক ~51 টি মেসেজে API খরচ $20/মাস এর সমান হয়।
একই কাজের ভলিউমে শীর্ষ বিকল্প মডেলগুলোর মাসিক খরচ তুলনা
লাইভ প্রম্পট টোকেন কাউন্টার (BPE Tokenizer)
আপনার সিস্টেম প্রম্পট, JSON বা কোড পেস্ট করে তাৎক্ষণিক টোকেন সংখ্যা ও খরচ দেখুন।
হাইব্রিড মডেল রাউটিং ক্যাসকেড সাশ্রয় (Cascade Router)
সাধারণ প্রশ্নগুলো ফাস্ট রাউটার মডেলে (Gemini 2.5 Flash / GPT-4.1 Nano) পাঠিয়ে শুধুমাত্র জটিল টাস্ক Jamba 1.5 Large-এ পাঠালে মাসিক খরচ কত কমে দেখুন:
বেঞ্চমার্ক ফলাফল ও ৬-অক্ষের সক্ষমতা রাডার
- SWE-bench Verified
- 41.2%
- GPQA Diamond
- 51%
- MMLU-Pro
- 70.2%
- HumanEval
- 86.5%
- Humanity's Last Exam
- 6.9%
- Terminal-Bench
- 26.5%
- SciCode
- 27.2%
- LiveCodeBench
- 45%
- AIME
- 54%
- Long-Context Reasoning
- 75%
- Chatbot Arena Elo
- 1275pts
শক্তিশালী দিকসমূহ
- Innovative Mamba-Transformer আর্কিটেকচার dramatically cuts KV cache মেমোরি scaling
- True 256K দীর্ঘ-কনটেক্সট ইনজেশন সহ শ্রেষ্ঠ গতি চেয়ে বেশি pure attention networks
- ওপেন-ওয়েটস রিলিজ সহ comprehensive এন্টারপ্রাইজ টুল সহায়তা
সীমাবদ্ধতা ও বিবেচ্য বিষয়
- বিশাল 398B total প্যারামিটারসমূহ require বিশেষায়িত মাল্টি-নোড ক্লাস্টারসমূহ
- কম community ইকোসিস্টেম familiarity সহ hybrid SSM runtimes
সম্পাদকীয় মূল্যায়ন
technological triumph demonstrating power এর Mamba-Transformer architectures -এ ফ্রন্টিয়ার স্কেল.
সবচেয়ে উপযুক্ত: বিশাল নথি বুদ্ধিমত্তা, দীর্ঘ আইনি contract বিশ্লেষণ, এবং hybrid আর্কিটেকচার গবেষণা
Jamba 1.5 Large-এর তুলনা
Jamba 1.5 Large সম্পর্কে সচরাচর জিজ্ঞাসিত প্রশ্নাবলী
Jamba 1.5 Large-এর API প্রাইসিং ও প্রম্পট ক্যাশিং খরচ কত?+
AI21-এর Jamba 1.5 Large ব্যবহারের খরচ প্রতি ১০ লক্ষ (1M) ইনপুট টোকেনে $2 এবং প্রতি ১০ লক্ষ আউটপুট টোকেনে $8। প্রম্পট ক্যাশিং ব্যবহার করলে ইনপুট খরচ কমে প্রতি ১M টোকেনে $0.5 হয় এবং অ্যাসিঙ্ক্রোনাস ব্যাচ API-তে 50% পর্যন্ত ছাড় পাওয়া যায়।
Jamba 1.5 Large-এর জন্য $20/মাস সাবস্ক্রিপশন ভালো নাকি Pay-As-You-Go API?+
আপনি যদি শুধুমাত্র ব্যক্তিগত চ্যাট, রিসার্চ বা কোডিং অ্যাসিস্ট্যান্ট হিসেবে ব্যবহার করেন, তবে ফিক্সড $20/মাস সাবস্ক্রিপশন ঝুঁকিমুক্ত। কিন্তু আপনি যদি অ্যাপ্লিকেশন তৈরি করেন বা কম ভলিউমে (মাসে $20-এর কম টোকেন) ব্যবহার করেন, তবে প্রম্পট ক্যাশিংসহ API পে-অ্যাজ-ইউ-গো অনেক বেশি সাশ্রয়ী।
Jamba 1.5 Large-এর কনটেক্সট উইন্ডোতে কত শব্দ বা পৃষ্ঠা ধরে?+
Jamba 1.5 Large-এর কনটেক্সট উইন্ডো হলো 256K tokens, যা প্রায় 192,000টি ইংরেজি শব্দ বা প্রায় 512 পৃষ্ঠার স্ট্যান্ডার্ড ডকুমেন্টের সমান। এক বারে এর সর্বোচ্চ আউটপুট সীমা 4,096 টোকেন।
Jamba 1.5 Large কি ওপেন-ওয়েটস এবং নিজের GPU-তে লোকালি চালানো যাবে?+
হ্যাঁ, Jamba 1.5 Large একটি ওপেন-ওয়েটস (398B (94B active)) মডেল। আপনি Ollama, vLLM বা llama.cpp ব্যবহার করে নিজের GPU বা লোকাল সার্ভারে এটি ডাউনলোড করে চালাতে পারবেন।
Jamba 1.5 Large API-তে পাঠানো ডেটা কি মডেল ট্রেইনিংয়ে ব্যবহার করা হয়?+
জিরো ডেটা শেয়ারিং (নিজস্ব সার্ভারে ১০০% লোকাল প্রাইভেসি)। লাইসেন্সের ধরন: Open-Weights Research & Commercial License। ডেভেলপাররা জেনারেটেড আউটপুট বাণিজ্যিক কাজে ব্যবহার করতে পারেন।
কোডিং ও রিজনিং বেঞ্চমার্কে Jamba 1.5 Large-এর স্কোর কত?+
Jamba 1.5 Large-এর কম্পোজিট ইন্টেলিজেন্স ইনডেক্স 42/100। বেঞ্চমার্কের মধ্যে SWE-bench Verified-এ 41.2%, GPQA Diamond-এ 51%, MMLU-Pro-তে 70.2% এবং Arena Elo-তে 1275 স্কোর অর্জন করেছে।
Jamba 1.5 Large কোন কাজের জন্য সবচেয়ে উপযুক্ত?+
Jamba 1.5 Large মূলত বিশাল নথি বুদ্ধিমত্তা, দীর্ঘ আইনি contract বিশ্লেষণ, এবং hybrid আর্কিটেকচার গবেষণা-এর জন্য সবচেয়ে কার্যকর। সম্পাদকীয় মূল্যায়ন: technological triumph demonstrating power এর Mamba-Transformer architectures -এ ফ্রন্টিয়ার স্কেল.
AI21 ফ্যামিলি লাইনেজ, রাউটিং টিয়ার ও আপগ্রেড পাথ
হাইব্রিড প্রম্পট রাউটিং বা আপগ্রেডের জন্য AI21-এর অন্যান্য মডেল টিয়ার:
সম্পর্কিত এআই পরিভাষা ও গ্লোসারি
সব পরিভাষা দেখুন →Jamba 1.5 Large-এর আর্কিটেকচার ও বৈশিষ্ট্যের সাথে সম্পর্কিত মূল পরিভাষাসমূহ:
একটি ল্যাঙ্গুয়েজ মডেল যে ক্ষুদ্রতম টেক্সট এককে ডেটা প্রসেস করে, যা সাধারণত ৩ থেকে ৪টি ইংরেজি অক্ষর বা প্রায় ০.৭৫ শব্দের সমান। উদাহরণস্বরূপ: "Artificial intelligence is fast" বাক্যটি প্রায় ৫টি টোকেনে বিভক্ত হয়।
একটি প্রমিত ও নিয়ন্ত্রিত টেস্ট স্যুট যার মাধ্যমে বিভিন্ন এআই মডেলের কর্মক্ষমতা বস্তুনিষ্ঠভাবে পরিমাপ ও তুলনা করা হয়; যেমন কোডিংয়ের জন্য SWE-bench, গণিতের জন্য AIME এবং সাধারণ জ্ঞানের জন্য MMLU।
একটি এআই মডেল একক অনুরোধে যে সর্বোচ্চ সংখ্যক টোকেন ইনপুট হিসেবে পড়তে এবং আউটপুট হিসেবে লিখতে পারে। ১,০০০,০০০ টোকেনের কনটেক্সট উইন্ডো একবারে প্রায় ৭৫০,০০০ ইংরেজি শব্দ ধারণ করতে সক্ষম।
একটি ল্যাঙ্গুয়েজ মডেলের এমন সক্ষমতা যার মাধ্যমে এটি বুঝতে পারে কখন বাইরের তথ্য বা ক্রিয়া প্রয়োজন এবং কাঠামোগত JSON আর্গুমেন্ট তৈরি করে ক্যালকুলেটর, ওয়েব সার্চ বা ডেটাবেস ফাংশন আহ্বান করে।
অ্যানথ্রপিক (Anthropic) কর্তৃক প্রবর্তিত একটি উন্মুক্ত স্ট্যান্ডার্ড, যার মাধ্যমে এআই এজেন্টরা স্ট্যান্ডার্ডাইজড সার্ভার ইন্টারফেসের সাহায্যে লোকাল ফাইল সিস্টেম, ডেভেলপমেন্ট পরিবেশ ও ক্লাউড সার্ভিসের সাথে সংযুক্ত হতে পারে।
একটি আধুনিক খরচ ও গতি অপ্টিমাইজেশন প্রযুক্তি যেখানে বারবার ব্যবহৃত প্রম্পট প্রিফিক্সের অ্যাটেনশন স্টেট মেমোরিতে ক্যাশ রাখা হয়। এতে ইনপুট টোকেনের খরচ ৫০% থেকে ৯০% পর্যন্ত হ্রাস পায় এবং দ্রুত উত্তর মেলে।
এআই ল্যাবগুলোর নতুন রিলিজের সাথে সাথে বেঞ্চমার্ক স্কোর, টোকেন প্রাইসিং এবং রেট লিমিট নিয়মিত পরিবর্তিত হয়। প্রোডাকশনে ব্যবহারের পূর্বে সর্বদা অফিশিয়াল প্রোভাইডার ডকুমেন্টেশন যাচাই করুন।
তথ্যসূত্র: AI21 Labs Jamba 1.5 Technical Whitepaper↗