Meta AI-এর foundational ওপেন গবেষণা মডেল যা ignited আধুনিক ওপেন-সোর্স AI revolution সহ rotary positional embeddings এবং efficient pre-training.
টেকনিক্যাল স্পেসিফিকেশন
- প্রোভাইডার
- Meta
- ক্যাটাগরি
- historical
- রিলিজ তারিখ
- 2023-02
- ব্যাচ এপিআই ডিসকাউন্ট
- Standard rate
- কনজিউমার সাবস্ক্রিপশন
- Free / Self-Hosted
- রিজনিং এফোর্ট কন্ট্রোল
- Fixed
- স্ট্রাকচার্ড আউটপুট
- No
- আউটপুট মোডালিটি
- text
- অফিশিয়াল ডকুমেন্টেশন
- প্রোভাইডার ডকুমেন্টেশন দেখুন ↗
ডেটা প্রাইভেসি, লাইসেন্স ও ডিপ্লয়মেন্ট নীতিমালা
অফিশিয়াল প্রোভাইডার রিলিজ স্পেক্স, API কোটা ও এজেন্টিক সক্ষমতা
- অফিশিয়াল API মডেল আইডি (SDK String)
- meta-llama/LLaMA-1-(65B)
- সাপোর্টেড SDK ও API প্রোটোকল
- OpenAI-Compatible REST / vLLM / SGLang / HuggingFace TGI
- রিলিজ লাইফসাইকেল ও ডেপ্রিকেশন স্ট্যাটাস
- লেগাসি স্ট্যাবল (নতুন প্রজন্মের আপগ্রেড মডেল উপলব্ধ)
- প্রোডাকশন রেট লিমিট (RPM ও TPM কোটা)
- Unlimited (Hardware-bound on self-hosted GPU) / 10,000 RPM Cloud · Unlimited local throughput / 10M+ TPM Managed Cloud
- লং-কনটেক্সট প্রাইসিং টিয়ার (>128K / >200K)
- পূর্ণ কনটেক্সট উইন্ডোতে সম্পূর্ণ ফ্রি (শুধু জিপিইউ VRAM ব্যবহৃত হয়)
- প্রম্পট ক্যাশিং ও TTL পলিসি
- vLLM ও SGLang-এ স্বয়ংক্রিয় প্রিফিক্স KV-ক্যাশিং (সম্পূর্ণ বিনামূল্যে)
- কম্পিউটার ইউজ ও ব্রাউজার GUI এজেন্ট
- টেক্সট জেনারেশন (GUI অ্যাকশন লুপ নেই)
- MCP প্রোটোকল ও প্যারালাল টুল কলিং
- প্রম্পট-ভিত্তিক টেক্সট/JSON আউটপুট
- বিল্ট-ইন ওয়েব সার্চ ও কোড স্যান্ডবক্স
- এক্সটার্নাল সার্চ (Tavily/Exa) ও ডকার স্যান্ডবক্সের মাধ্যমে সমর্থিত
- ফাইন-টিউনিং ও ডিস্টিলেশন সুবিধা
- পূর্ণ ওয়েটস SFT, LoRA, QLoRA, DPO ও RL ফাইন-টিউনিং (Unsloth / Axolotl)
- মাল্টিমোডাল টোকেনাইজেশন হিসাব
- টেক্সট BPE (~৪ অক্ষর/টোকেন)
- ওয়েটস প্রিসিশন ও কোয়ান্টাইজেশন ফরম্যাট
- BF16 / FP16, FP8 Dynamic, INT4 AWQ / GPTQ, GGUF (Q4_K_M / Q8_0)
- ন্যূনতম GPU VRAM রিকোয়ারমেন্ট
- 40 GB VRAM (৪-বিট কোয়ান্টাইজড) · 140 GB VRAM (নেটিভ BF16)
- সেলফ-হোস্টেড ইনফারেন্স ইঞ্জিন
- vLLM, SGLang, Ollama, llama.cpp, TensorRT-LLM, HuggingFace TGI
- সিস্টেম কার্ড ও সেফটি ক্লাসিফিকেশন
- Open-Weights System Card + Customizable Guardrail Layer (Llama Guard / ShieldGemma)
- এন্টারপ্রাইজ কমপ্লায়েন্স (SOC2 / HIPAA / ZDR)
- ১০০% অন-প্রেমিসেস / প্রাইভেট VPC নিয়ন্ত্রণ · সম্পূর্ণ HIPAA, GDPR ও SOC2 কমপ্লায়েন্ট
LLaMA-1 (65B): খরচ, কনটেক্সট, হার্ডওয়্যার ও কোড ইন্টিগ্রেশন
এই মডেলটি ওপেন-ওয়েটস বা ফ্রি টিয়ারে উপলব্ধ, তাই কোনো মাসিক সাবস্ক্রিপশন ফি নেই।
একই কাজের ভলিউমে শীর্ষ বিকল্প মডেলগুলোর মাসিক খরচ তুলনা
লাইভ প্রম্পট টোকেন কাউন্টার (BPE Tokenizer)
আপনার সিস্টেম প্রম্পট, JSON বা কোড পেস্ট করে তাৎক্ষণিক টোকেন সংখ্যা ও খরচ দেখুন।
হাইব্রিড মডেল রাউটিং ক্যাসকেড সাশ্রয় (Cascade Router)
সাধারণ প্রশ্নগুলো ফাস্ট রাউটার মডেলে (Gemini 2.5 Flash / GPT-4.1 Nano) পাঠিয়ে শুধুমাত্র জটিল টাস্ক LLaMA-1 (65B)-এ পাঠালে মাসিক খরচ কত কমে দেখুন:
বেঞ্চমার্ক ফলাফল ও ৬-অক্ষের সক্ষমতা রাডার
- MMLU-Pro
- 48%
- HumanEval
- 23.7%
- Chatbot Arena Elo
- 1020pts
শক্তিশালী দিকসমূহ
- Catalyzed entire ওপেন-সোর্স LLM community (Alpaca, Vicuna, llama.cpp)
- Introduced Rotary Position Embeddings (RoPE) এবং RMSNorm now মানদণ্ড জুড়ে LLMs
- Outperformed GPT-3 (175B) despite being কম চেয়ে half এর প্যারামিটার size
সীমাবদ্ধতা ও বিবেচ্য বিষয়
- Original রিলিজ restricted প্রতি non-বাণিজ্যিক একাডেমিক গবেষণা
- ছোট 2,048 কনটেক্সট উইন্ডো এবং lacked নির্দেশনা tuning
সম্পাদকীয় মূল্যায়ন
spark যা ignited বৈশ্বিক democratized ওপেন-সোর্স AI ডেভেলপার revolution.
সবচেয়ে উপযুক্ত: একাডেমিক আর্কিটেকচার study এবং running আল্ট্রা-quantized weights এর ওপর লোকাল devices
LLaMA-1 (65B)-এর তুলনা
LLaMA-1 (65B) সম্পর্কে সচরাচর জিজ্ঞাসিত প্রশ্নাবলী
LLaMA-1 (65B)-এর API প্রাইসিং ও প্রম্পট ক্যাশিং খরচ কত?+
Meta-এর LLaMA-1 (65B) ব্যবহারের খরচ প্রতি ১০ লক্ষ (1M) ইনপুট টোকেনে $0 এবং প্রতি ১০ লক্ষ আউটপুট টোকেনে $0। প্রম্পট ক্যাশিং ব্যবহার করলে ইনপুট খরচ কমে প্রতি ১M টোকেনে $0 হয় এবং অ্যাসিঙ্ক্রোনাস ব্যাচ API-তে 0% পর্যন্ত ছাড় পাওয়া যায়।
LLaMA-1 (65B)-এর জন্য $20/মাস সাবস্ক্রিপশন ভালো নাকি Pay-As-You-Go API?+
আপনি যদি শুধুমাত্র ব্যক্তিগত চ্যাট, রিসার্চ বা কোডিং অ্যাসিস্ট্যান্ট হিসেবে ব্যবহার করেন, তবে ফিক্সড $20/মাস সাবস্ক্রিপশন ঝুঁকিমুক্ত। কিন্তু আপনি যদি অ্যাপ্লিকেশন তৈরি করেন বা কম ভলিউমে (মাসে $20-এর কম টোকেন) ব্যবহার করেন, তবে প্রম্পট ক্যাশিংসহ API পে-অ্যাজ-ইউ-গো অনেক বেশি সাশ্রয়ী।
LLaMA-1 (65B)-এর কনটেক্সট উইন্ডোতে কত শব্দ বা পৃষ্ঠা ধরে?+
LLaMA-1 (65B)-এর কনটেক্সট উইন্ডো হলো 2K tokens, যা প্রায় 1,536টি ইংরেজি শব্দ বা প্রায় 4 পৃষ্ঠার স্ট্যান্ডার্ড ডকুমেন্টের সমান। এক বারে এর সর্বোচ্চ আউটপুট সীমা 2,048 টোকেন।
LLaMA-1 (65B) কি ওপেন-ওয়েটস এবং নিজের GPU-তে লোকালি চালানো যাবে?+
হ্যাঁ, LLaMA-1 (65B) একটি ওপেন-ওয়েটস (65B (also 7B, 13B, 33B)) মডেল। আপনি Ollama, vLLM বা llama.cpp ব্যবহার করে নিজের GPU বা লোকাল সার্ভারে এটি ডাউনলোড করে চালাতে পারবেন।
LLaMA-1 (65B) API-তে পাঠানো ডেটা কি মডেল ট্রেইনিংয়ে ব্যবহার করা হয়?+
জিরো ডেটা শেয়ারিং (নিজস্ব সার্ভারে ১০০% লোকাল প্রাইভেসি)। লাইসেন্সের ধরন: Llama Community License (Commercial Permitted)। ডেভেলপাররা জেনারেটেড আউটপুট বাণিজ্যিক কাজে ব্যবহার করতে পারেন।
কোডিং ও রিজনিং বেঞ্চমার্কে LLaMA-1 (65B)-এর স্কোর কত?+
LLaMA-1 (65B)-এর কম্পোজিট ইন্টেলিজেন্স ইনডেক্স 25/100। বেঞ্চমার্কের মধ্যে SWE-bench Verified-এ N/A%, GPQA Diamond-এ N/A%, MMLU-Pro-তে 48% এবং Arena Elo-তে 1020 স্কোর অর্জন করেছে।
LLaMA-1 (65B) কোন কাজের জন্য সবচেয়ে উপযুক্ত?+
LLaMA-1 (65B) মূলত একাডেমিক আর্কিটেকচার study এবং running আল্ট্রা-quantized weights এর ওপর লোকাল devices-এর জন্য সবচেয়ে কার্যকর। সম্পাদকীয় মূল্যায়ন: spark যা ignited বৈশ্বিক democratized ওপেন-সোর্স AI ডেভেলপার revolution.
Meta ফ্যামিলি লাইনেজ, রাউটিং টিয়ার ও আপগ্রেড পাথ
হাইব্রিড প্রম্পট রাউটিং বা আপগ্রেডের জন্য Meta-এর অন্যান্য মডেল টিয়ার:
Llama 4 Behemoth
Llama 5
Muse Spark 1.1
Llama 4 Maverick
Llama 4 Scout
Llama 3.3 70B
সম্পর্কিত এআই পরিভাষা ও গ্লোসারি
সব পরিভাষা দেখুন →LLaMA-1 (65B)-এর আর্কিটেকচার ও বৈশিষ্ট্যের সাথে সম্পর্কিত মূল পরিভাষাসমূহ:
একটি ল্যাঙ্গুয়েজ মডেল যে ক্ষুদ্রতম টেক্সট এককে ডেটা প্রসেস করে, যা সাধারণত ৩ থেকে ৪টি ইংরেজি অক্ষর বা প্রায় ০.৭৫ শব্দের সমান। উদাহরণস্বরূপ: "Artificial intelligence is fast" বাক্যটি প্রায় ৫টি টোকেনে বিভক্ত হয়।
একটি প্রমিত ও নিয়ন্ত্রিত টেস্ট স্যুট যার মাধ্যমে বিভিন্ন এআই মডেলের কর্মক্ষমতা বস্তুনিষ্ঠভাবে পরিমাপ ও তুলনা করা হয়; যেমন কোডিংয়ের জন্য SWE-bench, গণিতের জন্য AIME এবং সাধারণ জ্ঞানের জন্য MMLU।
একটি এআই মডেল একক অনুরোধে যে সর্বোচ্চ সংখ্যক টোকেন ইনপুট হিসেবে পড়তে এবং আউটপুট হিসেবে লিখতে পারে। ১,০০০,০০০ টোকেনের কনটেক্সট উইন্ডো একবারে প্রায় ৭৫০,০০০ ইংরেজি শব্দ ধারণ করতে সক্ষম।
২০১৭ সালে উদ্ভাবিত একটি যুগান্তকারী নিউরাল নেটওয়ার্ক আর্কিটেকচার যা আধুনিক সব এলএলএম পরিচালনা করে। এটি সেলফ-অ্যাটেনশনের মাধ্যমে বাক্যের সব শব্দকে ক্রমান্বয়ে না পড়ে একসাথে সমান্তরালে বিশ্লেষণ করে।
এআই ল্যাবগুলোর নতুন রিলিজের সাথে সাথে বেঞ্চমার্ক স্কোর, টোকেন প্রাইসিং এবং রেট লিমিট নিয়মিত পরিবর্তিত হয়। প্রোডাকশনে ব্যবহারের পূর্বে সর্বদা অফিশিয়াল প্রোভাইডার ডকুমেন্টেশন যাচাই করুন।
তথ্যসূত্র: Meta AI paper: LLaMA: Open and Efficient Foundation Language Models (2023)↗