AI2-এর OLMo 2 13B হলো সেলফ-হোস্টিং, ফাইন-টিউনিং এবং প্রাইভেট ক্লাউড ডিপ্লয়মেন্টের জন্য উন্মুক্ত ওপেন-ওয়েটস এআই মডেল, যা 33K কনটেক্সট উইন্ডো, 130 টোকেন/সেকেন্ড স্পিড এবং বিনামূল্যে ওপেন-ওয়েটস অ্যাক্সেস 71/100 ইন্টেলিজেন্স স্কোর প্রদান করে।
টেকনিক্যাল স্পেসিফিকেশন
- প্রোভাইডার
- AI2
- ক্যাটাগরি
- open-source
- রিলিজ তারিখ
- 2024-11
- ব্যাচ এপিআই ডিসকাউন্ট
- Standard rate
- কনজিউমার সাবস্ক্রিপশন
- Free / Self-Hosted
- রিজনিং এফোর্ট কন্ট্রোল
- Fixed
- স্ট্রাকচার্ড আউটপুট
- Yes
- আউটপুট মোডালিটি
- text
- অফিশিয়াল ডকুমেন্টেশন
- প্রোভাইডার ডকুমেন্টেশন দেখুন ↗
ডেটা প্রাইভেসি, লাইসেন্স ও ডিপ্লয়মেন্ট নীতিমালা
অফিশিয়াল প্রোভাইডার রিলিজ স্পেক্স, API কোটা ও এজেন্টিক সক্ষমতা
- অফিশিয়াল API মডেল আইডি (SDK String)
- olmo-2-13b
- সাপোর্টেড SDK ও API প্রোটোকল
- OpenAI-Compatible REST / vLLM / SGLang / HuggingFace TGI
- রিলিজ লাইফসাইকেল ও ডেপ্রিকেশন স্ট্যাটাস
- লেগাসি স্ট্যাবল (নতুন প্রজন্মের আপগ্রেড মডেল উপলব্ধ)
- প্রোডাকশন রেট লিমিট (RPM ও TPM কোটা)
- Unlimited (Hardware-bound on self-hosted GPU) / 10,000 RPM Cloud · Unlimited local throughput / 10M+ TPM Managed Cloud
- লং-কনটেক্সট প্রাইসিং টিয়ার (>128K / >200K)
- পূর্ণ কনটেক্সট উইন্ডোতে সম্পূর্ণ ফ্রি (শুধু জিপিইউ VRAM ব্যবহৃত হয়)
- প্রম্পট ক্যাশিং ও TTL পলিসি
- vLLM ও SGLang-এ স্বয়ংক্রিয় প্রিফিক্স KV-ক্যাশিং (সম্পূর্ণ বিনামূল্যে)
- কম্পিউটার ইউজ ও ব্রাউজার GUI এজেন্ট
- API ও CLI টুল-কলিং এজেন্ট সমর্থিত (র-পিক্সেল ডেস্কটপ ক্লিক ছাড়া)
- MCP প্রোটোকল ও প্যারালাল টুল কলিং
- নেটিভ MCP সাপোর্ট · প্যারালাল ফাংশন কলিং · ১০০% স্ট্রিক্ট JSON স্কিমা
- বিল্ট-ইন ওয়েব সার্চ ও কোড স্যান্ডবক্স
- এক্সটার্নাল সার্চ (Tavily/Exa) ও ডকার স্যান্ডবক্সের মাধ্যমে সমর্থিত
- ফাইন-টিউনিং ও ডিস্টিলেশন সুবিধা
- পূর্ণ ওয়েটস SFT, LoRA, QLoRA, DPO ও RL ফাইন-টিউনিং (Unsloth / Axolotl)
- মাল্টিমোডাল টোকেনাইজেশন হিসাব
- টেক্সট BPE (~৪ অক্ষর/টোকেন)
- ওয়েটস প্রিসিশন ও কোয়ান্টাইজেশন ফরম্যাট
- BF16 / FP16, FP8 Dynamic, INT4 AWQ / GPTQ, GGUF (Q4_K_M / Q8_0)
- ন্যূনতম GPU VRAM রিকোয়ারমেন্ট
- 8 GB VRAM (৪-বিট কোয়ান্টাইজড) · 28 GB VRAM (নেটিভ BF16)
- সেলফ-হোস্টেড ইনফারেন্স ইঞ্জিন
- vLLM, SGLang, Ollama, llama.cpp, TensorRT-LLM, HuggingFace TGI
- সিস্টেম কার্ড ও সেফটি ক্লাসিফিকেশন
- Open-Weights System Card + Customizable Guardrail Layer (Llama Guard / ShieldGemma)
- এন্টারপ্রাইজ কমপ্লায়েন্স (SOC2 / HIPAA / ZDR)
- ১০০% অন-প্রেমিসেস / প্রাইভেট VPC নিয়ন্ত্রণ · সম্পূর্ণ HIPAA, GDPR ও SOC2 কমপ্লায়েন্ট
OLMo 2 13B: খরচ, কনটেক্সট, হার্ডওয়্যার ও কোড ইন্টিগ্রেশন
এই মডেলটি ওপেন-ওয়েটস বা ফ্রি টিয়ারে উপলব্ধ, তাই কোনো মাসিক সাবস্ক্রিপশন ফি নেই।
একই কাজের ভলিউমে শীর্ষ বিকল্প মডেলগুলোর মাসিক খরচ তুলনা
লাইভ প্রম্পট টোকেন কাউন্টার (BPE Tokenizer)
আপনার সিস্টেম প্রম্পট, JSON বা কোড পেস্ট করে তাৎক্ষণিক টোকেন সংখ্যা ও খরচ দেখুন।
হাইব্রিড মডেল রাউটিং ক্যাসকেড সাশ্রয় (Cascade Router)
সাধারণ প্রশ্নগুলো ফাস্ট রাউটার মডেলে (Gemini 2.5 Flash / GPT-4.1 Nano) পাঠিয়ে শুধুমাত্র জটিল টাস্ক OLMo 2 13B-এ পাঠালে মাসিক খরচ কত কমে দেখুন:
বেঞ্চমার্ক ফলাফল ও ৬-অক্ষের সক্ষমতা রাডার
- MMLU-Pro
- 66%
- HumanEval
- 72%
- Chatbot Arena Elo
- 1200pts
শক্তিশালী দিকসমূহ
- 33K কনটেক্সট উইন্ডো এবং সর্বোচ্চ 4K আউটপুট টোকেন জেনারেশন সক্ষমতা (MMLU-Pro 66% · Arena Elo 1200)
- 130 টোকেন/সেকেন্ড জেনারেশন স্পিড এবং মাত্র 310ms প্রথম টোকেন ল্যাটেন্সি (TTFT)
- ওপেন-ওয়েটস আর্কিটেকচার (13B) — vLLM, Ollama বা প্রাইভেট GPU ক্লাস্টারে সেলফ-হোস্টিংযোগ্য
সীমাবদ্ধতা ও বিবেচ্য বিষয়
- সম্পূর্ণ প্রিসিশনে লোকাল GPU সার্ভারে হোস্ট করতে পর্যাপ্ত VRAM ও হার্ডওয়্যার অবকাঠামো প্রয়োজন
- অত্যন্ত জটিল মাল্টি-হপ গবেষণার ক্ষেত্রে ফ্ল্যাগশিপ রিজনিং মডেলের তুলনায় নির্ভুলতা কিছুটা কম হতে পারে
সম্পাদকীয় মূল্যায়ন
OLMo 2 13B (AI2) তার 33K কনটেক্সট উইন্ডো, 71/100 ইন্টেলিজেন্স ইনডেক্স এবং 130 টোকেন/সেকেন্ড গতির সমন্বয়ে নিজ ক্যাটাগরিতে একটি অত্যন্ত শক্তিশালী ও নির্ভরযোগ্য পছন্দ।
সবচেয়ে উপযুক্ত: সেলফ-হোস্টিং, ফাইন-টিউনিং এবং প্রাইভেট ক্লাউড ডিপ্লয়মেন্টের জন্য উন্মুক্ত ওপেন-ওয়েটস, RAG নলেজ পাইপলাইন এবং স্কেলেবল প্রোডাকশন API ইন্টিগ্রেশন।
OLMo 2 13B-এর তুলনা
OLMo 2 13B সম্পর্কে সচরাচর জিজ্ঞাসিত প্রশ্নাবলী
OLMo 2 13B-এর API প্রাইসিং ও প্রম্পট ক্যাশিং খরচ কত?+
AI2-এর OLMo 2 13B ব্যবহারের খরচ প্রতি ১০ লক্ষ (1M) ইনপুট টোকেনে $0 এবং প্রতি ১০ লক্ষ আউটপুট টোকেনে $0। প্রম্পট ক্যাশিং ব্যবহার করলে ইনপুট খরচ কমে প্রতি ১M টোকেনে $0 হয় এবং অ্যাসিঙ্ক্রোনাস ব্যাচ API-তে 0% পর্যন্ত ছাড় পাওয়া যায়।
OLMo 2 13B-এর জন্য $20/মাস সাবস্ক্রিপশন ভালো নাকি Pay-As-You-Go API?+
আপনি যদি শুধুমাত্র ব্যক্তিগত চ্যাট, রিসার্চ বা কোডিং অ্যাসিস্ট্যান্ট হিসেবে ব্যবহার করেন, তবে ফিক্সড $20/মাস সাবস্ক্রিপশন ঝুঁকিমুক্ত। কিন্তু আপনি যদি অ্যাপ্লিকেশন তৈরি করেন বা কম ভলিউমে (মাসে $20-এর কম টোকেন) ব্যবহার করেন, তবে প্রম্পট ক্যাশিংসহ API পে-অ্যাজ-ইউ-গো অনেক বেশি সাশ্রয়ী।
OLMo 2 13B-এর কনটেক্সট উইন্ডোতে কত শব্দ বা পৃষ্ঠা ধরে?+
OLMo 2 13B-এর কনটেক্সট উইন্ডো হলো 33K tokens, যা প্রায় 24,576টি ইংরেজি শব্দ বা প্রায় 66 পৃষ্ঠার স্ট্যান্ডার্ড ডকুমেন্টের সমান। এক বারে এর সর্বোচ্চ আউটপুট সীমা 4,096 টোকেন।
OLMo 2 13B কি ওপেন-ওয়েটস এবং নিজের GPU-তে লোকালি চালানো যাবে?+
হ্যাঁ, OLMo 2 13B একটি ওপেন-ওয়েটস (13B) মডেল। আপনি Ollama, vLLM বা llama.cpp ব্যবহার করে নিজের GPU বা লোকাল সার্ভারে এটি ডাউনলোড করে চালাতে পারবেন।
OLMo 2 13B API-তে পাঠানো ডেটা কি মডেল ট্রেইনিংয়ে ব্যবহার করা হয়?+
জিরো ডেটা শেয়ারিং (নিজস্ব সার্ভারে ১০০% লোকাল প্রাইভেসি)। লাইসেন্সের ধরন: Open-Weights Research & Commercial License। ডেভেলপাররা জেনারেটেড আউটপুট বাণিজ্যিক কাজে ব্যবহার করতে পারেন।
কোডিং ও রিজনিং বেঞ্চমার্কে OLMo 2 13B-এর স্কোর কত?+
OLMo 2 13B-এর কম্পোজিট ইন্টেলিজেন্স ইনডেক্স 71/100। বেঞ্চমার্কের মধ্যে SWE-bench Verified-এ N/A%, GPQA Diamond-এ N/A%, MMLU-Pro-তে 66% এবং Arena Elo-তে 1200 স্কোর অর্জন করেছে।
OLMo 2 13B কোন কাজের জন্য সবচেয়ে উপযুক্ত?+
OLMo 2 13B মূলত সেলফ-হোস্টিং, ফাইন-টিউনিং এবং প্রাইভেট ক্লাউড ডিপ্লয়মেন্টের জন্য উন্মুক্ত ওপেন-ওয়েটস, RAG নলেজ পাইপলাইন এবং স্কেলেবল প্রোডাকশন API ইন্টিগ্রেশন।-এর জন্য সবচেয়ে কার্যকর। সম্পাদকীয় মূল্যায়ন: OLMo 2 13B (AI2) তার 33K কনটেক্সট উইন্ডো, 71/100 ইন্টেলিজেন্স ইনডেক্স এবং 130 টোকেন/সেকেন্ড গতির সমন্বয়ে নিজ ক্যাটাগরিতে একটি অত্যন্ত শক্তিশালী ও নির্ভরযোগ্য পছন্দ।
সম্পর্কিত এআই পরিভাষা ও গ্লোসারি
সব পরিভাষা দেখুন →OLMo 2 13B-এর আর্কিটেকচার ও বৈশিষ্ট্যের সাথে সম্পর্কিত মূল পরিভাষাসমূহ:
একটি ল্যাঙ্গুয়েজ মডেল যে ক্ষুদ্রতম টেক্সট এককে ডেটা প্রসেস করে, যা সাধারণত ৩ থেকে ৪টি ইংরেজি অক্ষর বা প্রায় ০.৭৫ শব্দের সমান। উদাহরণস্বরূপ: "Artificial intelligence is fast" বাক্যটি প্রায় ৫টি টোকেনে বিভক্ত হয়।
একটি প্রমিত ও নিয়ন্ত্রিত টেস্ট স্যুট যার মাধ্যমে বিভিন্ন এআই মডেলের কর্মক্ষমতা বস্তুনিষ্ঠভাবে পরিমাপ ও তুলনা করা হয়; যেমন কোডিংয়ের জন্য SWE-bench, গণিতের জন্য AIME এবং সাধারণ জ্ঞানের জন্য MMLU।
একটি এআই মডেল একক অনুরোধে যে সর্বোচ্চ সংখ্যক টোকেন ইনপুট হিসেবে পড়তে এবং আউটপুট হিসেবে লিখতে পারে। ১,০০০,০০০ টোকেনের কনটেক্সট উইন্ডো একবারে প্রায় ৭৫০,০০০ ইংরেজি শব্দ ধারণ করতে সক্ষম।
একটি ল্যাঙ্গুয়েজ মডেলের এমন সক্ষমতা যার মাধ্যমে এটি বুঝতে পারে কখন বাইরের তথ্য বা ক্রিয়া প্রয়োজন এবং কাঠামোগত JSON আর্গুমেন্ট তৈরি করে ক্যালকুলেটর, ওয়েব সার্চ বা ডেটাবেস ফাংশন আহ্বান করে।
অ্যানথ্রপিক (Anthropic) কর্তৃক প্রবর্তিত একটি উন্মুক্ত স্ট্যান্ডার্ড, যার মাধ্যমে এআই এজেন্টরা স্ট্যান্ডার্ডাইজড সার্ভার ইন্টারফেসের সাহায্যে লোকাল ফাইল সিস্টেম, ডেভেলপমেন্ট পরিবেশ ও ক্লাউড সার্ভিসের সাথে সংযুক্ত হতে পারে।
২০১৭ সালে উদ্ভাবিত একটি যুগান্তকারী নিউরাল নেটওয়ার্ক আর্কিটেকচার যা আধুনিক সব এলএলএম পরিচালনা করে। এটি সেলফ-অ্যাটেনশনের মাধ্যমে বাক্যের সব শব্দকে ক্রমান্বয়ে না পড়ে একসাথে সমান্তরালে বিশ্লেষণ করে।
এআই ল্যাবগুলোর নতুন রিলিজের সাথে সাথে বেঞ্চমার্ক স্কোর, টোকেন প্রাইসিং এবং রেট লিমিট নিয়মিত পরিবর্তিত হয়। প্রোডাকশনে ব্যবহারের পূর্বে সর্বদা অফিশিয়াল প্রোভাইডার ডকুমেন্টেশন যাচাই করুন।
তথ্যসূত্র: Allen Institute for AI OLMo Release↗