آموزش کامل Fine-Tuning مدل‌های LLM ساخت مدل هوش مصنوعی… -جلسه 10

از Pista Academy حمایت کنید

حمایت شما به ادامه تولید آموزش‌های باکیفیت کمک می‌کند.

حمایت مالی

Pista Academy

LEARN • BUILD • GROW

آموزش کامل Fine-Tuning مدل‌های LLM ساخت مدل هوش مصنوعی… -جلسه 10

خلاصه آموزشی

خلاصه این جلسه

مرور سریع مفاهیم اصلی پیش از تماشای کامل یا برای جمع‌بندی بعد از آموزش.

در این جلسه، مدرس به توضیح مفاهیم اصلی مدل‌های ترنسفورمر مانند کوی، ولیو و اتنشن پرداخته است. با استفاده از مثال‌هایی مانند جستجو در موتورهای جستجو و تحلیل جملات، نحوه عملکرد این سه مفهوم در فرایند پردازش زبان طبیعی به طور واضح توضیح داده شده است. همچنین، معماری ترنسفورمر با توضیح انکودر و دیکودر و نحوه عملکرد لایه‌های مختلف آن مورد بررسی قرار گرفته است.

نکات کلیدی

در این جلسه یاد می‌گیرید

کوی، ولیو و اتنشن به عنوان سه مفهوم اصلی در مدل‌های ترنسفورمر در فرایند پردازش زبان طبیعی عمل می‌کنند.

انکودر و دیکودر در معماری ترنسفورمر به صورت جداگانه یا همزاده عمل می‌کنند و هر کدام برای کاربردهای مختلفی طراحی شده‌اند.

اتنشن به عنوان یکی از مفاهیم کلیدی در ترنسفورمر، به مدل کمک می‌کند تا اطلاعات را به طور موثر و دقیق پردازش کند.

درک معماری ترنسفورمر به ویژه انکودر و دیکودر برای طراحی مدل‌های هوش مصنوعی اختصاصی ضروری است.

متن ویدیو

Transcript کامل

متن زمان‌بندی‌شده این جلسه برای مرور، جستجو و دسترسی سریع‌تر.

00:04
سلام عرض می‌کنم خدمت دوستان عزیز. بریم سراغ ادامه بحثمون ترنسفورمرها. رسیدیم به
00:09
این قسمت کوی کی ولیو وکتورز میخوام راجع
00:14
به این صحبت کنیم. خب ما سه تا اصطلاح
00:17
داریم. کوری با کیو نشون میدیم کی با ک

پرسش‌های رایج

سؤالات متداول این جلسه

پاسخ کوتاه و مستقیم به پرسش‌هایی که معمولاً هنگام یادگیری این موضوع مطرح می‌شوند.

کوی، ولیو و اتنشن چه کاری انجام می‌دهند؟↓

کوی (Query)، ولیو (Value) و اتنشن (Attention) در مدل‌های ترنسفورمر به عنوان سه مفهوم اصلی عمل می‌کنند. اتنشن به مدل کمک می‌کند تا اطلاعات را به طور موثر و دقیق پردازش کند، در حالی که کوی و ولیو به عنوان ورودی‌های اصلی در این فرایند استفاده می‌شوند.

انکودر و دیکودر در معماری ترنسفورمر چه کاری انجام می‌دهند؟↓

انکودر در معماری ترنسفورمر برای پردازش ورودی‌ها استفاده می‌شود، در حالی که دیکودر برای تولید خروجی‌ها مانند جملات یا پاسخ‌ها مورد استفاده قرار می‌گیرد. هر کدام برای کاربردهای مختلفی طراحی شده‌اند.

چرا اتنشن در مدل‌های ترنسفورمر مهم است؟↓

اتنشن به مدل کمک می‌کند تا اطلاعات را به طور موثر و دقیق پردازش کند. این مفهوم به مدل امکان می‌دهد تا توجه خود را به جزئیات مهم متن معطوف کند و در نتیجه دقت و کارایی مدل را افزایش دهد.

آخرین به‌روزرسانی محتوای متنی: 2026-10-25

درباره این ویدیو

در این دوره آموزشی، به‌صورت عملی و پروژه‌محور یاد می‌گیریم چگونه مدل‌های زبانی بزرگ (Large Language Models) را برای کاربردهای خاص خودمان Fine-Tune کنیم. امروزه مدل‌هایی مانند LLaMA، Mistral، BERT، T5 و مدل‌های مبتنی بر Transformer توانایی‌های بسیار قدرتمندی دارند؛ اما برای رسیدن به بهترین عملکرد در یک حوزه تخصصی، معمولاً نیاز داریم آن‌ها را با داده‌های اختصاصی خودمان تنظیم کنیم. در این دوره از پایه با مفاهیم Fine-Tuning شروع می‌کنیم و سپس به تکنیک‌های پیشرفته و بهینه مانند LoRA، QLoRA و PEFT می‌پردازیم تا بتوانیم مدل‌های بزرگ را حتی با منابع سخت‌افزاری محدود آموزش دهیم. در طول دوره با استفاده از اکوسیستم Hugging Face، کتابخانه‌های Transformers، Datasets، PEFT، Accelerate و TRL مدل‌های مختلف را Fine-Tune کرده و پروژه‌های واقعی را پیاده‌سازی می‌کنیم. در این دوره چه چیزهایی یاد می‌گیریم؟ 🔹 آشنایی عمیق با معماری Transformer و مفاهیم پایه LLMها 🔹 کار با Hugging Face Transformers و مدل‌های Pre-trained 🔹 آماده‌سازی Dataset برای Fine-Tuning مدل‌های زبانی 🔹 تفاوت روش‌های مختلف Fine-Tuning و انتخاب روش مناسب 🔹 آموزش و Fine-Tuning مدل‌های BERT برای Classification 🔹 استفاده از Knowledge Distillation برای ساخت مدل‌های کوچک‌تر و سریع‌تر 🔹 Fine-Tuning مدل‌های DistilBERT و TinyBERT 🔹 Fine-Tuning مدل‌های T5 برای Text Summarization 🔹 Fine-Tuning Vision Transformer برای Image Classification 🔹 مفهوم Instruction Tuning و Chat Models 🔹 Fine-Tuning مدل‌های LLaMA برای ساخت مدل‌های مکالمه‌ای 🔹 Fine-Tuning مدل‌های Qwen برای کاربردهای مختلف 🔹 آشنایی کامل با LoRA (Low-Rank Adaptation) 🔹 Fine-Tuning بهینه با QLoRA و Quantization 🔹 استفاده از PEFT برای کاهش هزینه آموزش مدل‌های بزرگ 🔹 Fine-Tuning مدل‌های LLM روی Datasetهای شخصی 🔹 ساخت مدل‌های Voice و Audio با استفاده از LLMها و Qwen-TTS 🔹 Fine-Tuning مدل‌های صوتی با داده‌های اختصاصی پروژه‌هایی که در این دوره انجام می‌دهیم: ✅ ساخت مدل Classification اختصاصی با BERT ✅ تشخیص موجودیت‌های نامدار (NER) با مدل‌های Transformer ✅ ساخت سیستم خلاصه‌سازی متن با T5 ✅ Fine-Tuning مدل‌های LLM برای Chat و Instruction Following ✅ تنظیم مدل‌های LLaMA و Qwen روی داده‌های سفارشی ✅ استفاده از LoRA و QLoRA برای آموزش مدل‌های بزرگ با GPU محدود ✅ Fine-Tuning مدل‌های صوتی برای کاربردهای Voice AI این دوره مناسب چه کسانی است؟ این دوره برای افرادی مناسب است که: ✔ با Python آشنایی دارند و می‌خواهند وارد حوزه LLM Engineering شوند ✔ می‌خواهند مدل‌های زبانی موجود را برای پروژه‌های واقعی شخصی‌سازی کنند ✔ قصد دارند در حوزه Generative AI، NLP و مدل‌های مولد فعالیت کنند ✔ می‌خواهند به جای استفاده صرف از APIها، مدل‌های AI اختصاصی خودشان را بسازند ✔ علاقه‌مند به تحقیق و توسعه در حوزه مدل‌های زبانی بزرگ هستند پیش‌نیازهای دوره: آشنایی متوسط با Python آشنایی اولیه با Machine Learning و Deep Learning آشنایی مقدماتی با PyTorch آشنایی کلی با مفاهیم Neural Networks در پایان این دوره شما قادر خواهید بود مدل‌های زبانی بزرگ را با استفاده از جدیدترین تکنیک‌های روز مانند LoRA، QLoRA و PEFT روی داده‌های اختصاصی خودتان Fine-Tune کنید و مدل‌های آماده Hugging Face را برای ساخت اپلیکیشن‌های واقعی هوش مصنوعی بهینه‌سازی کنید. 🚀 برای یادگیری عملی LLM Engineering و ساخت مدل‌های AI اختصاصی، این دوره را از دست ندهید. #LLM #FineTuning #HuggingFace #LoRA #QLoRA #PEFT #GenerativeAI #AI #MachineLearning #DeepLearning #Transformers #LLaMA #Qwen #NLP