আল্ট্রা-efficient MoE রাউটিং 3B সক্রিয় প্যারামিটারসমূহ out এর 30B, pairing বিশাল 262K কনটেক্সট সহ desktop-grade ইনফারেন্স requirements.
টেকনিক্যাল স্পেসিফিকেশন
- প্রোভাইডার
- NVIDIA
- ক্যাটাগরি
- open-source
- রিলিজ তারিখ
- 2025-12
- ব্যাচ এপিআই ডিসকাউন্ট
- 50% off async batch
- কনজিউমার সাবস্ক্রিপশন
- Free / Self-Hosted
- রিজনিং এফোর্ট কন্ট্রোল
- Configurable (Low / Med / High)
- স্ট্রাকচার্ড আউটপুট
- Yes
- আউটপুট মোডালিটি
- text
- অফিশিয়াল ডকুমেন্টেশন
- প্রোভাইডার ডকুমেন্টেশন দেখুন ↗
ডেটা প্রাইভেসি, লাইসেন্স ও ডিপ্লয়মেন্ট নীতিমালা
অফিশিয়াল প্রোভাইডার রিলিজ স্পেক্স, API কোটা ও এজেন্টিক সক্ষমতা
- অফিশিয়াল API মডেল আইডি (SDK String)
- nemotron-3-nano-30b-a3b
- সাপোর্টেড SDK ও API প্রোটোকল
- OpenAI-Compatible REST / vLLM / SGLang / HuggingFace TGI
- রিলিজ লাইফসাইকেল ও ডেপ্রিকেশন স্ট্যাটাস
- সক্রিয় প্রোডাকশন রিলিজ (কমপক্ষে 2027 সাল পর্যন্ত সাপোর্ট নিশ্চিত)
- প্রোডাকশন রেট লিমিট (RPM ও TPM কোটা)
- Unlimited (Hardware-bound on self-hosted GPU) / 10,000 RPM Cloud · Unlimited local throughput / 10M+ TPM Managed Cloud
- লং-কনটেক্সট প্রাইসিং টিয়ার (>128K / >200K)
- পূর্ণ 262K কনটেক্সট জুড়ে একই ফ্ল্যাট রেট ($0.1/1M)
- প্রম্পট ক্যাশিং ও TTL পলিসি
- ক্যাশড ইনপুট রেট $0.02/1M টোকেন
- কম্পিউটার ইউজ ও ব্রাউজার GUI এজেন্ট
- API ও CLI টুল-কলিং এজেন্ট সমর্থিত (র-পিক্সেল ডেস্কটপ ক্লিক ছাড়া)
- MCP প্রোটোকল ও প্যারালাল টুল কলিং
- নেটিভ MCP সাপোর্ট · প্যারালাল ফাংশন কলিং · ১০০% স্ট্রিক্ট JSON স্কিমা
- বিল্ট-ইন ওয়েব সার্চ ও কোড স্যান্ডবক্স
- এক্সটার্নাল সার্চ (Tavily/Exa) ও ডকার স্যান্ডবক্সের মাধ্যমে সমর্থিত
- ফাইন-টিউনিং ও ডিস্টিলেশন সুবিধা
- পূর্ণ ওয়েটস SFT, LoRA, QLoRA, DPO ও RL ফাইন-টিউনিং (Unsloth / Axolotl)
- মাল্টিমোডাল টোকেনাইজেশন হিসাব
- টেক্সট BPE (~৪ অক্ষর/টোকেন)
- ওয়েটস প্রিসিশন ও কোয়ান্টাইজেশন ফরম্যাট
- BF16 / FP16, FP8 Dynamic, INT4 AWQ / GPTQ, GGUF (Q4_K_M / Q8_0)
- ন্যূনতম GPU VRAM রিকোয়ারমেন্ট
- 19 GB VRAM (৪-বিট কোয়ান্টাইজড) · 65 GB VRAM (নেটিভ BF16)
- সেলফ-হোস্টেড ইনফারেন্স ইঞ্জিন
- vLLM, SGLang, Ollama, llama.cpp, TensorRT-LLM, HuggingFace TGI
- সিস্টেম কার্ড ও সেফটি ক্লাসিফিকেশন
- Open-Weights System Card + Customizable Guardrail Layer (Llama Guard / ShieldGemma)
- এন্টারপ্রাইজ কমপ্লায়েন্স (SOC2 / HIPAA / ZDR)
- ১০০% অন-প্রেমিসেস / প্রাইভেট VPC নিয়ন্ত্রণ · সম্পূর্ণ HIPAA, GDPR ও SOC2 কমপ্লায়েন্ট
Nemotron 3 Nano 30B A3B: খরচ, কনটেক্সট, হার্ডওয়্যার ও কোড ইন্টিগ্রেশন
আপনার ব্যবহারে API পে-অ্যাজ-ইউ-গো বেশি সাশ্রয়ী ($12.65/মাস বাঁচবে)।
ব্রেক-ইভেন পয়েন্ট: দৈনিক ~1,361 টি মেসেজে API খরচ $20/মাস এর সমান হয়।
একই কাজের ভলিউমে শীর্ষ বিকল্প মডেলগুলোর মাসিক খরচ তুলনা
লাইভ প্রম্পট টোকেন কাউন্টার (BPE Tokenizer)
আপনার সিস্টেম প্রম্পট, JSON বা কোড পেস্ট করে তাৎক্ষণিক টোকেন সংখ্যা ও খরচ দেখুন।
হাইব্রিড মডেল রাউটিং ক্যাসকেড সাশ্রয় (Cascade Router)
সাধারণ প্রশ্নগুলো ফাস্ট রাউটার মডেলে (Gemini 2.5 Flash / GPT-4.1 Nano) পাঠিয়ে শুধুমাত্র জটিল টাস্ক Nemotron 3 Nano 30B A3B-এ পাঠালে মাসিক খরচ কত কমে দেখুন:
বেঞ্চমার্ক ফলাফল ও ৬-অক্ষের সক্ষমতা রাডার
- SWE-bench Verified
- 38%
- GPQA Diamond
- 54%
- MMLU-Pro
- 75%
- HumanEval
- 85%
- Terminal-Bench
- 34%
- AIME
- 64%
- Long-Context Reasoning
- 76%
- Chatbot Arena Elo
- 1285pts
শক্তিশালী দিকসমূহ
- শুধুমাত্র 3B সক্রিয় প্যারামিটারসমূহ during ইনফারেন্স, achieving lightning-দ্রুত প্রজন্ম গতি
- বিশাল 262K কনটেক্সট উইন্ডো সক্ষম এর ingesting whole codebases এবং আইনি নথিপত্র
- চলে efficiently এর ওপর বাণিজ্যিক workstation GPUs সহ minimal VRAM utilization
সীমাবদ্ধতা ও বিবেচ্য বিষয়
- Trailing larger 120B MoE variants এর ওপর প্রতিযোগিতামূলক algorithmic কোড জেনারেশন
- টেক্সট-শুধুমাত্র ছাড়াই নেটিভ ভিজ্যুয়াল অনুধাবন
সম্পাদকীয় মূল্যায়ন
brilliant demonstration এর sparse MoE দক্ষতা, প্রদানকারী 30B সক্ষমতা -এ 3B খরচ.
সবচেয়ে উপযুক্ত: লোকাল ডেভেলপার workstations, উচ্চ-concurrency এন্টারপ্রাইজ চ্যাটবট, এবং বাজেট RAG পাইপলাইন
Nemotron 3 Nano 30B A3B-এর তুলনা
Nemotron 3 Nano 30B A3B সম্পর্কে সচরাচর জিজ্ঞাসিত প্রশ্নাবলী
Nemotron 3 Nano 30B A3B-এর API প্রাইসিং ও প্রম্পট ক্যাশিং খরচ কত?+
NVIDIA-এর Nemotron 3 Nano 30B A3B ব্যবহারের খরচ প্রতি ১০ লক্ষ (1M) ইনপুট টোকেনে $0.1 এবং প্রতি ১০ লক্ষ আউটপুট টোকেনে $0.25। প্রম্পট ক্যাশিং ব্যবহার করলে ইনপুট খরচ কমে প্রতি ১M টোকেনে $0.02 হয় এবং অ্যাসিঙ্ক্রোনাস ব্যাচ API-তে 50% পর্যন্ত ছাড় পাওয়া যায়।
Nemotron 3 Nano 30B A3B-এর জন্য $20/মাস সাবস্ক্রিপশন ভালো নাকি Pay-As-You-Go API?+
আপনি যদি শুধুমাত্র ব্যক্তিগত চ্যাট, রিসার্চ বা কোডিং অ্যাসিস্ট্যান্ট হিসেবে ব্যবহার করেন, তবে ফিক্সড $20/মাস সাবস্ক্রিপশন ঝুঁকিমুক্ত। কিন্তু আপনি যদি অ্যাপ্লিকেশন তৈরি করেন বা কম ভলিউমে (মাসে $20-এর কম টোকেন) ব্যবহার করেন, তবে প্রম্পট ক্যাশিংসহ API পে-অ্যাজ-ইউ-গো অনেক বেশি সাশ্রয়ী।
Nemotron 3 Nano 30B A3B-এর কনটেক্সট উইন্ডোতে কত শব্দ বা পৃষ্ঠা ধরে?+
Nemotron 3 Nano 30B A3B-এর কনটেক্সট উইন্ডো হলো 262K tokens, যা প্রায় 196,608টি ইংরেজি শব্দ বা প্রায় 524 পৃষ্ঠার স্ট্যান্ডার্ড ডকুমেন্টের সমান। এক বারে এর সর্বোচ্চ আউটপুট সীমা 16,384 টোকেন।
Nemotron 3 Nano 30B A3B কি ওপেন-ওয়েটস এবং নিজের GPU-তে লোকালি চালানো যাবে?+
হ্যাঁ, Nemotron 3 Nano 30B A3B একটি ওপেন-ওয়েটস (30B (3B active MoE)) মডেল। আপনি Ollama, vLLM বা llama.cpp ব্যবহার করে নিজের GPU বা লোকাল সার্ভারে এটি ডাউনলোড করে চালাতে পারবেন।
Nemotron 3 Nano 30B A3B API-তে পাঠানো ডেটা কি মডেল ট্রেইনিংয়ে ব্যবহার করা হয়?+
জিরো ডেটা শেয়ারিং (নিজস্ব সার্ভারে ১০০% লোকাল প্রাইভেসি)। লাইসেন্সের ধরন: Open-Weights Research & Commercial License। ডেভেলপাররা জেনারেটেড আউটপুট বাণিজ্যিক কাজে ব্যবহার করতে পারেন।
কোডিং ও রিজনিং বেঞ্চমার্কে Nemotron 3 Nano 30B A3B-এর স্কোর কত?+
Nemotron 3 Nano 30B A3B-এর কম্পোজিট ইন্টেলিজেন্স ইনডেক্স 45/100। বেঞ্চমার্কের মধ্যে SWE-bench Verified-এ 38%, GPQA Diamond-এ 54%, MMLU-Pro-তে 75% এবং Arena Elo-তে 1285 স্কোর অর্জন করেছে।
Nemotron 3 Nano 30B A3B কোন কাজের জন্য সবচেয়ে উপযুক্ত?+
Nemotron 3 Nano 30B A3B মূলত লোকাল ডেভেলপার workstations, উচ্চ-concurrency এন্টারপ্রাইজ চ্যাটবট, এবং বাজেট RAG পাইপলাইন-এর জন্য সবচেয়ে কার্যকর। সম্পাদকীয় মূল্যায়ন: brilliant demonstration এর sparse MoE দক্ষতা, প্রদানকারী 30B সক্ষমতা -এ 3B খরচ.
NVIDIA ফ্যামিলি লাইনেজ, রাউটিং টিয়ার ও আপগ্রেড পাথ
হাইব্রিড প্রম্পট রাউটিং বা আপগ্রেডের জন্য NVIDIA-এর অন্যান্য মডেল টিয়ার:
Nemotron 3 Ultra 550B A55B
Nemotron 3.5 Content Safety
Nemotron 3 Nano Omni 30B A3B Reasoning
Nemotron 3 Content Safety
Nemotron 3 Super 120B A12B
Nemotron VoiceChat
সম্পর্কিত এআই পরিভাষা ও গ্লোসারি
সব পরিভাষা দেখুন →Nemotron 3 Nano 30B A3B-এর আর্কিটেকচার ও বৈশিষ্ট্যের সাথে সম্পর্কিত মূল পরিভাষাসমূহ:
একটি ল্যাঙ্গুয়েজ মডেল যে ক্ষুদ্রতম টেক্সট এককে ডেটা প্রসেস করে, যা সাধারণত ৩ থেকে ৪টি ইংরেজি অক্ষর বা প্রায় ০.৭৫ শব্দের সমান। উদাহরণস্বরূপ: "Artificial intelligence is fast" বাক্যটি প্রায় ৫টি টোকেনে বিভক্ত হয়।
একটি প্রমিত ও নিয়ন্ত্রিত টেস্ট স্যুট যার মাধ্যমে বিভিন্ন এআই মডেলের কর্মক্ষমতা বস্তুনিষ্ঠভাবে পরিমাপ ও তুলনা করা হয়; যেমন কোডিংয়ের জন্য SWE-bench, গণিতের জন্য AIME এবং সাধারণ জ্ঞানের জন্য MMLU।
একটি এআই মডেল একক অনুরোধে যে সর্বোচ্চ সংখ্যক টোকেন ইনপুট হিসেবে পড়তে এবং আউটপুট হিসেবে লিখতে পারে। ১,০০০,০০০ টোকেনের কনটেক্সট উইন্ডো একবারে প্রায় ৭৫০,০০০ ইংরেজি শব্দ ধারণ করতে সক্ষম।
রিইনফোর্সমেন্ট লার্নিংয়ের মাধ্যমে বিশেষভাবে প্রশিক্ষিত এআই মডেল, যা দ্রুত অনুমানের বদলে সময় নিয়ে গভীরভাবে যুক্তি বিশ্লেষণ করে জটিল গণিত, বিজ্ঞান ও সফটওয়্যার আর্কিটেকচার সমস্যা সমাধান করে। যেমন: OpenAI o3 ও DeepSeek R1।
একটি ধারাবাহিক চিন্তন কৌশল যেখানে এআই মডেল চূড়ান্ত উত্তর দেওয়ার পূর্বে ধাপে ধাপে অন্তর্বর্তী যুক্তি ও গণনা প্রদর্শন করে। OpenAI o3 এবং DeepSeek R1 জটিল গণিত ও কোডিং সমাধানে এই পদ্ধতি প্রয়োগ করে।
একটি ল্যাঙ্গুয়েজ মডেলের এমন সক্ষমতা যার মাধ্যমে এটি বুঝতে পারে কখন বাইরের তথ্য বা ক্রিয়া প্রয়োজন এবং কাঠামোগত JSON আর্গুমেন্ট তৈরি করে ক্যালকুলেটর, ওয়েব সার্চ বা ডেটাবেস ফাংশন আহ্বান করে।
এআই ল্যাবগুলোর নতুন রিলিজের সাথে সাথে বেঞ্চমার্ক স্কোর, টোকেন প্রাইসিং এবং রেট লিমিট নিয়মিত পরিবর্তিত হয়। প্রোডাকশনে ব্যবহারের পূর্বে সর্বদা অফিশিয়াল প্রোভাইডার ডকুমেন্টেশন যাচাই করুন।
তথ্যসূত্র: NVIDIA Nemotron 3 Architecture Preview (Dec 2025)↗