Substantially upgraded ওপেন-ওয়েটস family সম্বলিত industry-leading পারফরম্যান্স প্রতি প্যারামিটার.
টেকনিক্যাল স্পেসিফিকেশন
- প্রোভাইডার
- ক্যাটাগরি
- open-source
- রিলিজ তারিখ
- 2024-06
- ব্যাচ এপিআই ডিসকাউন্ট
- Standard rate
- কনজিউমার সাবস্ক্রিপশন
- Free / Self-Hosted
- রিজনিং এফোর্ট কন্ট্রোল
- Fixed
- স্ট্রাকচার্ড আউটপুট
- Yes
- আউটপুট মোডালিটি
- text
- অফিশিয়াল ডকুমেন্টেশন
- প্রোভাইডার ডকুমেন্টেশন দেখুন ↗
ডেটা প্রাইভেসি, লাইসেন্স ও ডিপ্লয়মেন্ট নীতিমালা
অফিশিয়াল প্রোভাইডার রিলিজ স্পেক্স, API কোটা ও এজেন্টিক সক্ষমতা
- অফিশিয়াল API মডেল আইডি (SDK String)
- models/gemma-2
- সাপোর্টেড SDK ও API প্রোটোকল
- Google Gemini API (generateContent) + OpenAI-Compatible SDK
- রিলিজ লাইফসাইকেল ও ডেপ্রিকেশন স্ট্যাটাস
- লেগাসি স্ট্যাবল (নতুন প্রজন্মের আপগ্রেড মডেল উপলব্ধ)
- প্রোডাকশন রেট লিমিট (RPM ও TPM কোটা)
- Unlimited (Hardware-bound on self-hosted GPU) / 10,000 RPM Cloud · Unlimited local throughput / 10M+ TPM Managed Cloud
- লং-কনটেক্সট প্রাইসিং টিয়ার (>128K / >200K)
- পূর্ণ কনটেক্সট উইন্ডোতে সম্পূর্ণ ফ্রি (শুধু জিপিইউ VRAM ব্যবহৃত হয়)
- প্রম্পট ক্যাশিং ও TTL পলিসি
- vLLM ও SGLang-এ স্বয়ংক্রিয় প্রিফিক্স KV-ক্যাশিং (সম্পূর্ণ বিনামূল্যে)
- কম্পিউটার ইউজ ও ব্রাউজার GUI এজেন্ট
- API ও CLI টুল-কলিং এজেন্ট সমর্থিত (র-পিক্সেল ডেস্কটপ ক্লিক ছাড়া)
- MCP প্রোটোকল ও প্যারালাল টুল কলিং
- নেটিভ MCP সাপোর্ট · প্যারালাল ফাংশন কলিং · ১০০% স্ট্রিক্ট JSON স্কিমা
- বিল্ট-ইন ওয়েব সার্চ ও কোড স্যান্ডবক্স
- বিল্ট-ইন গুগল সার্চ গ্রাউন্ডিং + ম্যানেজড পাইথন কোড এক্সিকিউশন স্যান্ডবক্স
- ফাইন-টিউনিং ও ডিস্টিলেশন সুবিধা
- পূর্ণ ওয়েটস SFT, LoRA, QLoRA, DPO ও RL ফাইন-টিউনিং (Unsloth / Axolotl)
- মাল্টিমোডাল টোকেনাইজেশন হিসাব
- টেক্সট BPE (~৪ অক্ষর/টোকেন)
- ওয়েটস প্রিসিশন ও কোয়ান্টাইজেশন ফরম্যাট
- BF16 / FP16, FP8 Dynamic, INT4 AWQ / GPTQ, GGUF (Q4_K_M / Q8_0)
- ন্যূনতম GPU VRAM রিকোয়ারমেন্ট
- 2 GB VRAM (৪-বিট কোয়ান্টাইজড) · 4 GB VRAM (নেটিভ BF16)
- সেলফ-হোস্টেড ইনফারেন্স ইঞ্জিন
- vLLM, SGLang, Ollama, llama.cpp, TensorRT-LLM, HuggingFace TGI
- সিস্টেম কার্ড ও সেফটি ক্লাসিফিকেশন
- Google DeepMind Frontier Safety Framework Verified
- এন্টারপ্রাইজ কমপ্লায়েন্স (SOC2 / HIPAA / ZDR)
- ১০০% অন-প্রেমিসেস / প্রাইভেট VPC নিয়ন্ত্রণ · সম্পূর্ণ HIPAA, GDPR ও SOC2 কমপ্লায়েন্ট
Gemma 2: খরচ, কনটেক্সট, হার্ডওয়্যার ও কোড ইন্টিগ্রেশন
এই মডেলটি ওপেন-ওয়েটস বা ফ্রি টিয়ারে উপলব্ধ, তাই কোনো মাসিক সাবস্ক্রিপশন ফি নেই।
একই কাজের ভলিউমে শীর্ষ বিকল্প মডেলগুলোর মাসিক খরচ তুলনা
লাইভ প্রম্পট টোকেন কাউন্টার (BPE Tokenizer)
আপনার সিস্টেম প্রম্পট, JSON বা কোড পেস্ট করে তাৎক্ষণিক টোকেন সংখ্যা ও খরচ দেখুন।
হাইব্রিড মডেল রাউটিং ক্যাসকেড সাশ্রয় (Cascade Router)
সাধারণ প্রশ্নগুলো ফাস্ট রাউটার মডেলে (Gemini 2.5 Flash / GPT-4.1 Nano) পাঠিয়ে শুধুমাত্র জটিল টাস্ক Gemma 2-এ পাঠালে মাসিক খরচ কত কমে দেখুন:
বেঞ্চমার্ক ফলাফল ও ৬-অক্ষের সক্ষমতা রাডার
- MMLU-Pro
- 68.5%
- HumanEval
- 72%
- Chatbot Arena Elo
- 1250pts
শক্তিশালী দিকসমূহ
- ক্লাস-leading 9B এবং 27B প্যারামিটার দক্ষতা
- স্বল্প মেমোরি ফুটপ্রিন্ট এর ওপর Mac এবং RTX GPUs
- নির্দেশনা অনুসরণে অত্যন্ত পারদর্শী
সীমাবদ্ধতা ও বিবেচ্য বিষয়
- কনটেক্সট উইন্ডো remains capped -এ 8K
- No নেটিভ ছবি বা অডিও সহায়তা
সম্পাদকীয় মূল্যায়ন
One এর সর্বাধিক প্রতিযোগিতামূলক ওপেন weight টেক্সট মডেলগুলো এর 2024.
সবচেয়ে উপযুক্ত: লোকাল ডেভেলপার সহকারী, ব্যক্তিগত ও সুরক্ষিত এন্টারপ্রাইজ ফাইন-টিউনিং, এবং offline ইনফারেন্স
Gemma 2-এর তুলনা
Gemma 2 সম্পর্কে সচরাচর জিজ্ঞাসিত প্রশ্নাবলী
Gemma 2-এর API প্রাইসিং ও প্রম্পট ক্যাশিং খরচ কত?+
Google-এর Gemma 2 ব্যবহারের খরচ প্রতি ১০ লক্ষ (1M) ইনপুট টোকেনে $0 এবং প্রতি ১০ লক্ষ আউটপুট টোকেনে $0। প্রম্পট ক্যাশিং ব্যবহার করলে ইনপুট খরচ কমে প্রতি ১M টোকেনে $0 হয় এবং অ্যাসিঙ্ক্রোনাস ব্যাচ API-তে 0% পর্যন্ত ছাড় পাওয়া যায়।
Gemma 2-এর জন্য $20/মাস সাবস্ক্রিপশন ভালো নাকি Pay-As-You-Go API?+
আপনি যদি শুধুমাত্র ব্যক্তিগত চ্যাট, রিসার্চ বা কোডিং অ্যাসিস্ট্যান্ট হিসেবে ব্যবহার করেন, তবে ফিক্সড $20/মাস সাবস্ক্রিপশন ঝুঁকিমুক্ত। কিন্তু আপনি যদি অ্যাপ্লিকেশন তৈরি করেন বা কম ভলিউমে (মাসে $20-এর কম টোকেন) ব্যবহার করেন, তবে প্রম্পট ক্যাশিংসহ API পে-অ্যাজ-ইউ-গো অনেক বেশি সাশ্রয়ী।
Gemma 2-এর কনটেক্সট উইন্ডোতে কত শব্দ বা পৃষ্ঠা ধরে?+
Gemma 2-এর কনটেক্সট উইন্ডো হলো 8K tokens, যা প্রায় 6,144টি ইংরেজি শব্দ বা প্রায় 16 পৃষ্ঠার স্ট্যান্ডার্ড ডকুমেন্টের সমান। এক বারে এর সর্বোচ্চ আউটপুট সীমা 4,096 টোকেন।
Gemma 2 কি ওপেন-ওয়েটস এবং নিজের GPU-তে লোকালি চালানো যাবে?+
হ্যাঁ, Gemma 2 একটি ওপেন-ওয়েটস (2B / 9B / 27B) মডেল। আপনি Ollama, vLLM বা llama.cpp ব্যবহার করে নিজের GPU বা লোকাল সার্ভারে এটি ডাউনলোড করে চালাতে পারবেন।
Gemma 2 API-তে পাঠানো ডেটা কি মডেল ট্রেইনিংয়ে ব্যবহার করা হয়?+
জিরো ডেটা শেয়ারিং (নিজস্ব সার্ভারে ১০০% লোকাল প্রাইভেসি)। লাইসেন্সের ধরন: Open-Weights Research & Commercial License। ডেভেলপাররা জেনারেটেড আউটপুট বাণিজ্যিক কাজে ব্যবহার করতে পারেন।
কোডিং ও রিজনিং বেঞ্চমার্কে Gemma 2-এর স্কোর কত?+
Gemma 2-এর কম্পোজিট ইন্টেলিজেন্স ইনডেক্স 58/100। বেঞ্চমার্কের মধ্যে SWE-bench Verified-এ N/A%, GPQA Diamond-এ N/A%, MMLU-Pro-তে 68.5% এবং Arena Elo-তে 1250 স্কোর অর্জন করেছে।
Gemma 2 কোন কাজের জন্য সবচেয়ে উপযুক্ত?+
Gemma 2 মূলত লোকাল ডেভেলপার সহকারী, ব্যক্তিগত ও সুরক্ষিত এন্টারপ্রাইজ ফাইন-টিউনিং, এবং offline ইনফারেন্স-এর জন্য সবচেয়ে কার্যকর। সম্পাদকীয় মূল্যায়ন: One এর সর্বাধিক প্রতিযোগিতামূলক ওপেন weight টেক্সট মডেলগুলো এর 2024.
Google ফ্যামিলি লাইনেজ, রাউটিং টিয়ার ও আপগ্রেড পাথ
হাইব্রিড প্রম্পট রাউটিং বা আপগ্রেডের জন্য Google-এর অন্যান্য মডেল টিয়ার:
Gemini 4 Argon
Gemini 3.8 Flash
Gemini 3.7 Flash
Gemini 3.6 Flash
Gemini 3.5 Flash-Lite
Gemini Omni Flash
সম্পর্কিত এআই পরিভাষা ও গ্লোসারি
সব পরিভাষা দেখুন →Gemma 2-এর আর্কিটেকচার ও বৈশিষ্ট্যের সাথে সম্পর্কিত মূল পরিভাষাসমূহ:
একটি ল্যাঙ্গুয়েজ মডেল যে ক্ষুদ্রতম টেক্সট এককে ডেটা প্রসেস করে, যা সাধারণত ৩ থেকে ৪টি ইংরেজি অক্ষর বা প্রায় ০.৭৫ শব্দের সমান। উদাহরণস্বরূপ: "Artificial intelligence is fast" বাক্যটি প্রায় ৫টি টোকেনে বিভক্ত হয়।
একটি প্রমিত ও নিয়ন্ত্রিত টেস্ট স্যুট যার মাধ্যমে বিভিন্ন এআই মডেলের কর্মক্ষমতা বস্তুনিষ্ঠভাবে পরিমাপ ও তুলনা করা হয়; যেমন কোডিংয়ের জন্য SWE-bench, গণিতের জন্য AIME এবং সাধারণ জ্ঞানের জন্য MMLU।
একটি এআই মডেল একক অনুরোধে যে সর্বোচ্চ সংখ্যক টোকেন ইনপুট হিসেবে পড়তে এবং আউটপুট হিসেবে লিখতে পারে। ১,০০০,০০০ টোকেনের কনটেক্সট উইন্ডো একবারে প্রায় ৭৫০,০০০ ইংরেজি শব্দ ধারণ করতে সক্ষম।
একটি ল্যাঙ্গুয়েজ মডেলের এমন সক্ষমতা যার মাধ্যমে এটি বুঝতে পারে কখন বাইরের তথ্য বা ক্রিয়া প্রয়োজন এবং কাঠামোগত JSON আর্গুমেন্ট তৈরি করে ক্যালকুলেটর, ওয়েব সার্চ বা ডেটাবেস ফাংশন আহ্বান করে।
অ্যানথ্রপিক (Anthropic) কর্তৃক প্রবর্তিত একটি উন্মুক্ত স্ট্যান্ডার্ড, যার মাধ্যমে এআই এজেন্টরা স্ট্যান্ডার্ডাইজড সার্ভার ইন্টারফেসের সাহায্যে লোকাল ফাইল সিস্টেম, ডেভেলপমেন্ট পরিবেশ ও ক্লাউড সার্ভিসের সাথে সংযুক্ত হতে পারে।
২০১৭ সালে উদ্ভাবিত একটি যুগান্তকারী নিউরাল নেটওয়ার্ক আর্কিটেকচার যা আধুনিক সব এলএলএম পরিচালনা করে। এটি সেলফ-অ্যাটেনশনের মাধ্যমে বাক্যের সব শব্দকে ক্রমান্বয়ে না পড়ে একসাথে সমান্তরালে বিশ্লেষণ করে।
এআই ল্যাবগুলোর নতুন রিলিজের সাথে সাথে বেঞ্চমার্ক স্কোর, টোকেন প্রাইসিং এবং রেট লিমিট নিয়মিত পরিবর্তিত হয়। প্রোডাকশনে ব্যবহারের পূর্বে সর্বদা অফিশিয়াল প্রোভাইডার ডকুমেন্টেশন যাচাই করুন।
তথ্যসূত্র: Google DeepMind Gemma 2 Report↗