آموزش کامل Fine-Tuning مدل‌های LLM ساخت مدل هوش مصنوعی اختصاصی با Hugging Face، LoRA QLoRA - جلسه 5 | Pista Academy

از Pista Academy حمایت کنید

حمایت شما به ادامه تولید آموزش‌های باکیفیت کمک می‌کند.

حمایت مالی

Pista Academy

LEARN • BUILD • GROW

آموزش کامل Fine-Tuning مدل‌های LLM ساخت مدل هوش مصنوعی اختصاصی با Hugging Face، LoRA QLoRA - جلسه 5 | Pista Academy

خلاصه آموزشی

خلاصه این جلسه

مرور سریع مفاهیم اصلی پیش از تماشای کامل یا برای جمع‌بندی بعد از آموزش.

در جلسه 5 آموزش Fine-Tuning مدل‌های LLM، مدرس فرآیند تکست کلاسیفیکیشن را به صورت مرحله به مرحله توضیح می‌دهد. ابتدا متن ورودی به توکنایزر ارسال می‌شود و به توکن‌های عددی تبدیل می‌گردد. سپس این توکن‌ها به وکتورهایی تبدیل می‌شوند که مدل می‌تواند آنها را درک کند. مدل با استفاده از ترنسفورمر معنی جمله را در کانتکست تشخیص می‌دهد و احساس جمله را به عنوان لیبل نهایی ارائه می‌دهد. همچنین، نحوه عملکرد لایه‌های شبکه عصبی در مدل‌های LLM، از جمله کلاسیفیکیشن هد، فولی کانکتد لایر، لاجیت و سافت مکس، به طور جزئیاتی توضیح داده می‌شود.

نکات کلیدی

در این جلسه یاد می‌گیرید

فرآیند تبدیل متن به توکن‌های عددی و سپس به وکتورهای قابل درک توسط مدل به صورت مرحله‌ای انجام می‌شود.

کانتکست جمله در تشخیص معنی و احساس جمله نقش کلیدی دارد.

کلاسیفیکیشن هد معمولاً یک شبکه کوچک روی ترنسفورمر است و در پایان لایه‌ها اعدادی به نام لاجیت تولید می‌کند.

سافت مکس این اعداد را به احتمالات تبدیل می‌کند و با استفاده از آرگ مکس، کلاسی که بیشترین احتمال را دارد انتخاب می‌شود.

متن ویدیو

Transcript کامل

متن زمان‌بندی‌شده این جلسه برای مرور، جستجو و دسترسی سریع‌تر.

00:04
سلام عرض می‌کنم خدمت دوستان عزیز. خب برای اینکه مطالبی که ما توی دو سه جلسه
00:06
گذشته گفتیم یه ذره برامون جا بیفته و یه
00:10
کوچولو بریم دست به کد بشیم یه نمونه‌ای
00:14
رو من تو اینترنت آوردم یه فایل آماده است

پرسش‌های رایج

سؤالات متداول این جلسه

پاسخ کوتاه و مستقیم به پرسش‌هایی که معمولاً هنگام یادگیری این موضوع مطرح می‌شوند.

فرآیند تبدیل متن به توکن چگونه انجام می‌شود؟↓

متن ورودی به توکنایزر ارسال می‌شود که آن را به توکن‌های عددی تبدیل می‌کند.

چه نقشی کانتکست جمله در تشخیص معنی دارد؟↓

کانتکست جمله در تشخیص معنی و احساس جمله نقش کلیدی دارد.

کلاسیفیکیشن هد چه کاری انجام می‌دهد؟↓

کلاسیفیکیشن هد معمولاً یک شبکه کوچک روی ترنسفورمر است و در پایان لایه‌ها اعدادی به نام لاجیت تولید می‌کند.

سافت مکس چه کاری انجام می‌دهد؟↓

سافت مکس اعداد لاجیت را به احتمالات تبدیل می‌کند.

آخرین به‌روزرسانی محتوای متنی: 2026-10-04

درباره این ویدیو

در این دوره آموزشی، به‌صورت عملی و پروژه‌محور یاد می‌گیریم چگونه مدل‌های زبانی بزرگ (Large Language Models) را برای کاربردهای خاص خودمان Fine-Tune کنیم. امروزه مدل‌هایی مانند LLaMA، Mistral، BERT، T5 و مدل‌های مبتنی بر Transformer توانایی‌های بسیار قدرتمندی دارند؛ اما برای رسیدن به بهترین عملکرد در یک حوزه تخصصی، معمولاً نیاز داریم آن‌ها را با داده‌های اختصاصی خودمان تنظیم کنیم. در این دوره از پایه با مفاهیم Fine-Tuning شروع می‌کنیم و سپس به تکنیک‌های پیشرفته و بهینه مانند LoRA، QLoRA و PEFT می‌پردازیم تا بتوانیم مدل‌های بزرگ را حتی با منابع سخت‌افزاری محدود آموزش دهیم. در طول دوره با استفاده از اکوسیستم Hugging Face، کتابخانه‌های Transformers، Datasets، PEFT، Accelerate و TRL مدل‌های مختلف را Fine-Tune کرده و پروژه‌های واقعی را پیاده‌سازی می‌کنیم. در این دوره چه چیزهایی یاد می‌گیریم؟ 🔹 آشنایی عمیق با معماری Transformer و مفاهیم پایه LLMها 🔹 کار با Hugging Face Transformers و مدل‌های Pre-trained 🔹 آماده‌سازی Dataset برای Fine-Tuning مدل‌های زبانی 🔹 تفاوت روش‌های مختلف Fine-Tuning و انتخاب روش مناسب 🔹 آموزش و Fine-Tuning مدل‌های BERT برای Classification 🔹 استفاده از Knowledge Distillation برای ساخت مدل‌های کوچک‌تر و سریع‌تر 🔹 Fine-Tuning مدل‌های DistilBERT و TinyBERT 🔹 Fine-Tuning مدل‌های T5 برای Text Summarization 🔹 Fine-Tuning Vision Transformer برای Image Classification 🔹 مفهوم Instruction Tuning و Chat Models 🔹 Fine-Tuning مدل‌های LLaMA برای ساخت مدل‌های مکالمه‌ای 🔹 Fine-Tuning مدل‌های Qwen برای کاربردهای مختلف 🔹 آشنایی کامل با LoRA (Low-Rank Adaptation) 🔹 Fine-Tuning بهینه با QLoRA و Quantization 🔹 استفاده از PEFT برای کاهش هزینه آموزش مدل‌های بزرگ 🔹 Fine-Tuning مدل‌های LLM روی Datasetهای شخصی 🔹 ساخت مدل‌های Voice و Audio با استفاده از LLMها و Qwen-TTS 🔹 Fine-Tuning مدل‌های صوتی با داده‌های اختصاصی پروژه‌هایی که در این دوره انجام می‌دهیم: ✅ ساخت مدل Classification اختصاصی با BERT ✅ تشخیص موجودیت‌های نامدار (NER) با مدل‌های Transformer ✅ ساخت سیستم خلاصه‌سازی متن با T5 ✅ Fine-Tuning مدل‌های LLM برای Chat و Instruction Following ✅ تنظیم مدل‌های LLaMA و Qwen روی داده‌های سفارشی ✅ استفاده از LoRA و QLoRA برای آموزش مدل‌های بزرگ با GPU محدود ✅ Fine-Tuning مدل‌های صوتی برای کاربردهای Voice AI این دوره مناسب چه کسانی است؟ این دوره برای افرادی مناسب است که: ✔ با Python آشنایی دارند و می‌خواهند وارد حوزه LLM Engineering شوند ✔ می‌خواهند مدل‌های زبانی موجود را برای پروژه‌های واقعی شخصی‌سازی کنند ✔ قصد دارند در حوزه Generative AI، NLP و مدل‌های مولد فعالیت کنند ✔ می‌خواهند به جای استفاده صرف از APIها، مدل‌های AI اختصاصی خودشان را بسازند ✔ علاقه‌مند به تحقیق و توسعه در حوزه مدل‌های زبانی بزرگ هستند پیش‌نیازهای دوره: آشنایی متوسط با Python آشنایی اولیه با Machine Learning و Deep Learning آشنایی مقدماتی با PyTorch آشنایی کلی با مفاهیم Neural Networks در پایان این دوره شما قادر خواهید بود مدل‌های زبانی بزرگ را با استفاده از جدیدترین تکنیک‌های روز مانند LoRA، QLoRA و PEFT روی داده‌های اختصاصی خودتان Fine-Tune کنید و مدل‌های آماده Hugging Face را برای ساخت اپلیکیشن‌های واقعی هوش مصنوعی بهینه‌سازی کنید. 🚀 برای یادگیری عملی LLM Engineering و ساخت مدل‌های AI اختصاصی، این دوره را از دست ندهید. #LLM #FineTuning #HuggingFace #LoRA #QLoRA #PEFT #GenerativeAI #AI #MachineLearning #DeepLearning #Transformers #LLaMA #Qwen #NLP