এআই ও এলএলএম ইঞ্জিনিয়ারিং শব্দকোষ

30টি গুরুত্বপূর্ণ কৃত্রিম বুদ্ধিমত্তা, লার্জ ল্যাঙ্গুয়েজ মডেল (LLM), কোয়ান্টাইজেশন, RAG এবং এজেন্টিক সিস্টেম সংক্রান্ত শব্দের বিশদ প্রযুক্তিগত সংজ্ঞা।

প্রদর্শিত হচ্ছে 30 এর মধ্যে 30

অ্যাটেনশন মেকানিজম (Attention Mechanism): ট্রান্সফরমার মডেলের গাণিতিক অ্যালগরিদম যার মাধ্যমে প্রতিটি শব্দ বা টোকেন কনটেক্সটের অন্যান্য শব্দের সাথে প্রাসঙ্গিকতার গুরুত্ব নির্ণয় করে দীর্ঘ দলিলের বিভিন্ন অংশের মধ্যে পারস্পরিক সম্পর্ক স্থাপন করে।
ইনফারেন্স (Inference): ইতিমধ্যে প্রশিক্ষিত একটি এআই মডেলে ব্যবহারকারীর প্রম্পট বা ডেটা পাঠিয়ে ফলাফল, কোড বা ভবিষ্যদ্বাণী তৈরি করার কার্যকর প্রক্রিয়া। এআই এপিআই টোকেন চার্জ মূলত এই ইনফারেন্স রানটাইমের জন্য ধার্য করা হয়।
এআই এজেন্ট (AI Agent): একটি স্বায়ত্তশাসিত সফটওয়্যার ব্যবস্থা যা এলএলএম দ্বারা পরিচালিত হয়ে লক্ষ্য নির্ধারণ করে, প্রয়োজনীয় টুলস (ওয়েব ব্রাউজার, টার্মিনাল, ফাইল এডিটর) ব্যবহার করে এবং মানুষের হস্তক্ষেপ ছাড়াই পূর্ণাঙ্গ প্রজেক্ট সম্পন্ন করে।
এমবেডিংস (Embeddings): শব্দ, বাক্য বা দলিলের উচ্চ-মাত্রিক সাংখ্যিক ভেক্টর রূপান্তর যা টেক্সটের অন্তর্নিহিত ভাবার্থ প্রকাশ করে। ভেক্টর দূরত্বের ঘনিষ্ঠতার মাধ্যমে অর্থগত সাদৃশ্য নির্ণয় করে ভেক্টর সার্চ ও RAG প্রযুক্তি কাজ করে।
কনটেক্সট উইন্ডো (Context Window): একটি এআই মডেল একক অনুরোধে যে সর্বোচ্চ সংখ্যক টোকেন ইনপুট হিসেবে পড়তে এবং আউটপুট হিসেবে লিখতে পারে। ১,০০০,০০০ টোকেনের কনটেক্সট উইন্ডো একবারে প্রায় ৭৫০,০০০ ইংরেজি শব্দ ধারণ করতে সক্ষম।
কেভি ক্যাশ (KV Cache): জিপিইউ মেমোরির একটি অপ্টিমাইজেশন যা পূর্ববর্তী টোকেনগুলোর কী (Key) এবং ভ্যালু (Value) ভেক্টর সংরক্ষণ করে রাখে, যাতে নতুন টোকেন তৈরির সময় পুনরায় হিসাব করতে না হয়। এটি দ্রুত স্ট্রিমিং ও প্রম্পট ক্যাশিংয়ের জন্য অপরিহার্য।
কোয়ান্টাইজেশন (Quantization): মডেলের ওজনের সংখ্যাগত নির্ভুলতা (যেমন ১৬-বিট ফ্লোট থেকে ৮-বিট বা ৪-বিট ইন্টিজার) হ্রাস করার কৌশল। এতে গুণমানের দৃশ্যমান পরিবর্তন ছাড়াই জিপিইউ মেমোরি খরচ অর্ধেকের বেশি কমে যায় এবং দ্রুত লোকাল ইনফারেন্স সম্ভব হয়।
ক্যাশড ইনপুট (Cached Input): একটি আধুনিক খরচ ও গতি অপ্টিমাইজেশন প্রযুক্তি যেখানে বারবার ব্যবহৃত প্রম্পট প্রিফিক্সের অ্যাটেনশন স্টেট মেমোরিতে ক্যাশ রাখা হয়। এতে ইনপুট টোকেনের খরচ ৫০% থেকে ৯০% পর্যন্ত হ্রাস পায় এবং দ্রুত উত্তর মেলে।
চেইন অব থট (Chain-of-Thought / CoT): একটি ধারাবাহিক চিন্তন কৌশল যেখানে এআই মডেল চূড়ান্ত উত্তর দেওয়ার পূর্বে ধাপে ধাপে অন্তর্বর্তী যুক্তি ও গণনা প্রদর্শন করে। OpenAI o3 এবং DeepSeek R1 জটিল গণিত ও কোডিং সমাধানে এই পদ্ধতি প্রয়োগ করে।
টাইম টু ফার্স্ট টোকেন (TTFT): ব্যবহারকারী প্রম্পট পাঠানোর পর মডেল থেকে সর্বপ্রথম টোকেনটি প্রাপ্ত হতে যে মিলিসেকেন্ড সময় লাগে। এটি প্রম্পট প্রসেসিংয়ের গতি এবং সার্ভার রেসপন্সিভনেস মাপার প্রধান মাপকাঠি।
টুল কলিং (Tool Calling): একটি ল্যাঙ্গুয়েজ মডেলের এমন সক্ষমতা যার মাধ্যমে এটি বুঝতে পারে কখন বাইরের তথ্য বা ক্রিয়া প্রয়োজন এবং কাঠামোগত JSON আর্গুমেন্ট তৈরি করে ক্যালকুলেটর, ওয়েব সার্চ বা ডেটাবেস ফাংশন আহ্বান করে।
টেম্পারেচার (Temperature): একটি স্যাম্পলিং হাইপারপ্যারামিটার যা এআই মডেলের উত্তরের সৃজনশীলতা ও অনিশ্চয়তা নিয়ন্ত্রণ করে। কম টেম্পারেচার (যেমন ০.১ থেকে ০.৩) কোডিং ও গণিতের জন্য সুনির্দিষ্ট এবং ধারাবাহিক উত্তর দেয়, আর উচ্চ টেম্পারেচার (যেমন ০.৭ থেকে ১.০) লেখায় বৈচিত্র্য ও সৃজনশীলতা আনে।
টোকেন (Token): একটি ল্যাঙ্গুয়েজ মডেল যে ক্ষুদ্রতম টেক্সট এককে ডেটা প্রসেস করে, যা সাধারণত ৩ থেকে ৪টি ইংরেজি অক্ষর বা প্রায় ০.৭৫ শব্দের সমান। উদাহরণস্বরূপ: "Artificial intelligence is fast" বাক্যটি প্রায় ৫টি টোকেনে বিভক্ত হয়।
টোকেনস পার সেকেন্ড (TPS): একটি এআই মডেলের আউটপুট জেনারেশনের গতি নির্দেশক মেট্রিক, যা প্রতি সেকেন্ডে কতটি টোকেন প্রস্তুত করে ব্যবহারকারীর কাছে পাঠায় তা প্রকাশ করে। রিয়েল-টাইম কোডিং ও চ্যাটবটের জন্য উচ্চ TPS অত্যন্ত গুরুত্বপূর্ণ।
ট্রান্সফরমার (Transformer): ২০১৭ সালে উদ্ভাবিত একটি যুগান্তকারী নিউরাল নেটওয়ার্ক আর্কিটেকচার যা আধুনিক সব এলএলএম পরিচালনা করে। এটি সেলফ-অ্যাটেনশনের মাধ্যমে বাক্যের সব শব্দকে ক্রমান্বয়ে না পড়ে একসাথে সমান্তরালে বিশ্লেষণ করে।
প্যারামিটার (Parameters): একটি নিউরাল নেটওয়ার্কের অভ্যন্তরীণ ভ্যারিয়েবল বা ওজন (weights), যা প্রশিক্ষণের মাধ্যমে ডেটার প্যাটার্ন ও জ্ঞান সংরক্ষণ করে। যেমন: Llama 3.3 70B মডেলে ৭০ বিলিয়ন প্যারামিটার রয়েছে।
ফাইন-টিউনিং (Fine-Tuning): একটি সাধারণ ফাউন্ডেশন মডেলকে কোনো নির্দিষ্ট সেক্টরের (যেমন চিকিৎসা, আইন বা বিশেষ কোডিং স্টাইল) বিশেষায়িত ডেটাসেট দিয়ে অতিরিক্ত প্রশিক্ষণ দিয়ে অত্যন্ত দক্ষ করে তোলার প্রক্রিয়া।
বেঞ্চমার্ক (Benchmark): একটি প্রমিত ও নিয়ন্ত্রিত টেস্ট স্যুট যার মাধ্যমে বিভিন্ন এআই মডেলের কর্মক্ষমতা বস্তুনিষ্ঠভাবে পরিমাপ ও তুলনা করা হয়; যেমন কোডিংয়ের জন্য SWE-bench, গণিতের জন্য AIME এবং সাধারণ জ্ঞানের জন্য MMLU।
ভিশন-ল্যাঙ্গুয়েজ মডেল (VLM): একটি মাল্টিমোডাল নিউরাল নেটওয়ার্ক যা একই সাথে ছবি, ডায়াগ্রাম, স্ক্রিনশট ও ভিডিওর মতো ভিজ্যুয়াল কন্টেন্ট এবং সাধারণ টেক্সট বিশ্লেষণ করে যৌক্তিক সিদ্ধান্ত ও ব্যাখ্যা প্রদানে সক্ষম।
মডেল কনটেক্সট প্রোটোকল (MCP): অ্যানথ্রপিক (Anthropic) কর্তৃক প্রবর্তিত একটি উন্মুক্ত স্ট্যান্ডার্ড, যার মাধ্যমে এআই এজেন্টরা স্ট্যান্ডার্ডাইজড সার্ভার ইন্টারফেসের সাহায্যে লোকাল ফাইল সিস্টেম, ডেভেলপমেন্ট পরিবেশ ও ক্লাউড সার্ভিসের সাথে সংযুক্ত হতে পারে।
মাল্টিমোডাল (Multimodal): একটি সমন্বিত এআই মডেল যা একই সাথে বিভিন্ন ধরনের ডেটা ফরম্যাট (যেমন টেক্সট, ছবি, অডিও, ভিডিও এবং কোড) বিশ্লেষণ ও তৈরি করতে সক্ষম, আলাদা কোনো কনভার্টার বা পাইপলাইন ছাড়াই।
মিক্সচার অব এক্সপার্টস (MoE): একটি উন্নত আর্কিটেকচার যেখানে একটি বিশাল মডেলকে একাধিক বিশেষজ্ঞ সাব-নেটওয়ার্কে ভাগ করা হয় এবং প্রতি টোকেনে মাত্র ২-৩টি নেটওয়ার্ক সক্রিয় হয়। যেমন DeepSeek-V3-এর মোট ৬৭১B প্যারামিটার থাকলেও প্রতি টোকেনে মাত্র ৩৭B সক্রিয় থাকে।
রিজনিং মডেল (Reasoning Model): রিইনফোর্সমেন্ট লার্নিংয়ের মাধ্যমে বিশেষভাবে প্রশিক্ষিত এআই মডেল, যা দ্রুত অনুমানের বদলে সময় নিয়ে গভীরভাবে যুক্তি বিশ্লেষণ করে জটিল গণিত, বিজ্ঞান ও সফটওয়্যার আর্কিটেকচার সমস্যা সমাধান করে। যেমন: OpenAI o3 ও DeepSeek R1।
লার্জ ল্যাঙ্গুয়েজ মডেল (LLM): বিশাল পরিমাণ টেক্সট ডেটার ওপর প্রশিক্ষিত একটি ডিপ-লার্নিং এআই মডেল, যা মানুষের মতো ভাষা বুঝতে, সারসংক্ষেপ করতে এবং নতুন কনটেন্ট তৈরি করতে পারে। উদাহরণস্বরূপ: GPT-4o, Claude 3.7 Sonnet এবং Gemini 2.0 Flash।
ল্যাটেন্সি (Latency): ব্যবহারকারীর প্রম্পট পাঠানো থেকে শুরু করে এআই মডেলের কাছ থেকে পূর্ণাঙ্গ উত্তর গ্রহণ করা পর্যন্ত মোট প্রয়োজনীয় সময়, যার মধ্যে নেটওয়ার্ক ট্রান্সমিশন, TTFT এবং আউটপুট জেনারেশন সময় অন্তর্ভুক্ত।
সিস্টেম প্রম্পট (System Prompt): ব্যবহারকারীর সাথে কথোপকথন শুরুর পূর্বে এআই মডেলকে দেওয়া উচ্চ-অগ্রাধিকারমূলক মৌলিক নির্দেশনা, যা মডেলের ব্যক্তিত্ব, সুর, নিরাপত্তামূলক সীমাবদ্ধতা এবং কাজের নিয়মাবলী নির্ধারণ করে।
স্পেকুলেটিভ ডিকোডিং (Speculative Decoding): ইনফারেন্সের গতি বৃদ্ধির একটি উদ্ভাবনী কৌশল যেখানে একটি ক্ষুদ্র ও অত্যন্ত দ্রুত ড্রাফট মডেলের মাধ্যমে একযোগে একাধিক সম্ভাব্য টোকেন অনুমান করা হয় এবং মূল বৃহৎ মডেলটি এক ধাপে তা যাচাই করে আউটপুট দ্বিগুণ দ্রুত সম্পন্ন করে।
হ্যালুসিনেশন (Hallucination): যখন একটি এআই মডেল সম্পূর্ণ কাল্পনিক বা তথ্যাগতভাবে ভুল কোনো বিষয়কে অত্যন্ত আত্মবিশ্বাসের সাথে সত্য হিসেবে উপস্থাপন করে। হ্যালুসিনেশন কমানো আধুনিক মডেলগুলোর অন্যতম প্রধান প্রযুক্তিগত লক্ষ্য।
RAG (রিট্রিভাল-অগমেন্টেড জেনারেশন): একটি জনপ্রিয় আর্কিটেকচার যা বহিরাগত ভেক্টর ডেটাবেস বা ফাইল সিস্টেম থেকে প্রাসঙ্গিক তথ্য খুঁজে নিয়ে প্রম্পটে যুক্ত করে, ফলে মডেল রি-ট্রেনিং ছাড়াই হালনাগাদ ও নিজস্ব প্রাতিষ্ঠানিক তথ্যের ভিত্তিতে সঠিক উত্তর দিতে পারে।
RLHF (মানব প্রতিক্রিয়ার মাধ্যমে রিইনফোর্সমেন্ট লার্নিং): একটি উন্নত প্রশিক্ষণ কৌশল যেখানে মানুষের পছন্দ ও মূল্যায়নের ওপর ভিত্তি করে রিইনফোর্সমেন্ট লার্নিং প্রয়োগ করে এআই মডেলের আচরণকে নিরাপদ, পক্ষপাতহীন ও ব্যবহারকারীর জন্য অধিক কার্যকর করে গড়ে তোলা হয়।

এআই ও এলএলএম পরিভাষা সংক্রান্ত প্রশ্নোত্তর (FAQ)

২৪ জিবি ভিআরএএম (RTX 4090) জিপিইউ-তে কি DeepSeek R1 লোকালভাবে চালানো সম্ভব?+

পূর্ণ ৬৭১ বিলিয়ন প্যারামিটারের DeepSeek R1 চালাতে মাল্টি-জিপিইউ ক্লাস্টার প্রয়োজন, তবে এর ডিস্টিল্ড সংস্করণগুলো (যেমন ৪-বিট কোয়ান্টাইজেশনসহ DeepSeek-R1-Distill-Qwen-14B বা 32B) একটি ২৪ জিবি RTX 4090 জিপিইউ-তেই মসৃণভাবে চলে।

লাইভ ভয়েস স্ট্রিমিংয়ের জন্য কোন মডেলের লেটেন্সি কম: Gemini 2.0 Flash নাকি GPT-4o-mini?+

নেটিভ মাল্টিমোডাল অডিও-টু-অডিও স্ট্রিমিং এবং ২০০ মিলিসেকেন্ডের কম টাইম-টু-ফার্স্ট-টোকেন (TTFT) সুবিধার কারণে Gemini 2.0 Flash লাইভ ভয়েস স্ট্রিমিংয়ে এগিয়ে রয়েছে।

EAGLE-3 স্পেকুলেটিভ ডিকোডিং কীভাবে ২ থেকে ৪ গুণ দ্রুত ইনফারেন্স স্পিডআপ দেয়?+

EAGLE-3 হালকা ড্রাফট হেড ব্যবহার করে সম্ভাব্য টোকেন অনুমান করে এবং মূল মডেলের একটি সিঙ্গেল ফরোয়ার্ড পাসে সেগুলো যাচাই করে, ফলে মেমোরি ব্যান্ডউইথ বাউন্ড জেনারেশন ২ থেকে ৪ গুণ দ্রুত হয়।

প্রোপ্রাইটারি এপিআই-এর বদলে এন্টারপ্রাইজে ব্যবহারের সেরা ওপেন-সোর্স এলএলএম কোনটি?+

DeepSeek V3 (671B MoE) এবং Meta Llama 3.3 70B বর্তমানে কোডিং, টুল কলিং এবং বহুভাষিক রিজনিংয়ে ক্লোজড ফ্রন্টিয়ার এপিআইগুলোর সমমানের পারফরম্যান্স দেয়।