آموزش کامل Fine-Tuning مدل‌های LLM ساخت مدل هوش مصنوعی اختصاصی با Hugging Face، LoRA QLoRA - جلسه 4 | Pista Academy

از Pista Academy حمایت کنید

حمایت شما به ادامه تولید آموزش‌های باکیفیت کمک می‌کند.

حمایت مالی

Pista Academy

LEARN • BUILD • GROW

آموزش کامل Fine-Tuning مدل‌های LLM ساخت مدل هوش مصنوعی اختصاصی با Hugging Face، LoRA QLoRA - جلسه 4 | Pista Academy

خلاصه آموزشی

خلاصه این جلسه

مرور سریع مفاهیم اصلی پیش از تماشای کامل یا برای جمع‌بندی بعد از آموزش.

در این جلسه، مدرس به بررسی پایپلاین در کتابخانه ترنسفورمر می‌پردازد و توضیح می‌دهد که چگونه این ابزار مراحل اجرای مدل‌های LLM را به صورت خودکار و ساده انجام می‌دهد. همچنین، اهمیت استفاده از پایپلاین در تست و استفاده از مدل‌ها و محدودیت‌های آن در کنترل فرآیند توضیح داده شده است. در ادامه، مفهوم اتوکلاس به عنوان یک راه حل برای کنترل بیشتر فرآیند فاین تیونینگ معرفی می‌شود. در بخش بعدی، به بررسی مفاهیم مرتبط با استفاده از اتوکانفیگ و اتو مدل در تحلیل احساسات و کلاسیفیکیشن متن پرداخته می‌شود و تفاوت بین اتو مدل و اتو مدل فور به عنوان ابزارهای مختلف در پردازش زبان طبیعی مورد بررسی قرار می‌گیرد.

نکات کلیدی

در این جلسه یاد می‌گیرید

پایپلاین یک رابط سطح بالا است که مراحل مختلف مانند توکنایزیشن و اجرا مدل را به صورت خودکار انجام می‌دهد.

اتوکلاس به عنوان یک فکتوری که بر اساس کانفیگ مدل مناسب را ایجاد می‌کند، به کنترل بیشتر فرآیند فاین تیونینگ کمک می‌کند.

اتوکانفیگ برای تنظیم معماری مدل و توکنایزر برای پردازش متن استفاده می‌شود.

اتو مدل فور برای کارهایی مانند تشخیص احساسات و فیک نیوز به کار می‌رود.

متن ویدیو

Transcript کامل

متن زمان‌بندی‌شده این جلسه برای مرور، جستجو و دسترسی سریع‌تر.

00:03
سلام عرض می‌کنم خدمت دوستان عزیز. بریم سراغ
00:05
ادامه بحث هاگین فیس. می‌خوایم راجع به د
00:07
تا موضوع صحبت کنیم جلسه. اولی بحث
00:11
پایپلاینه. اصلاً پایپلاین چیه؟ پایپلاین

پرسش‌های رایج

سؤالات متداول این جلسه

پاسخ کوتاه و مستقیم به پرسش‌هایی که معمولاً هنگام یادگیری این موضوع مطرح می‌شوند.

پایپلاین در کتابخانه ترنسفورمر چه کاری انجام می‌دهد؟↓

پایپلاین یک رابط سطح بالا است که مراحل مختلف مانند توکنایزیشن و اجرا مدل را به صورت خودکار انجام می‌دهد.

اتوکلاس چه کاری انجام می‌دهد؟↓

اتوکلاس به عنوان یک فکتوری که بر اساس کانفیگ مدل مناسب را ایجاد می‌کند، به کنترل بیشتر فرآیند فاین تیونینگ کمک می‌کند.

تفاوت بین اتو مدل و اتو مدل فور چیست؟↓

اتو مدل برای کارهایی مانند تشخیص احساسات و فیک نیوز به کار می‌رود، در حالی که اتوکانفیگ برای تنظیم معماری مدل و توکنایزر برای پردازش متن استفاده می‌شود.

آخرین به‌روزرسانی محتوای متنی: 2026-09-30

درباره این ویدیو

در این دوره آموزشی، به‌صورت عملی و پروژه‌محور یاد می‌گیریم چگونه مدل‌های زبانی بزرگ (Large Language Models) را برای کاربردهای خاص خودمان Fine-Tune کنیم. امروزه مدل‌هایی مانند LLaMA، Mistral، BERT، T5 و مدل‌های مبتنی بر Transformer توانایی‌های بسیار قدرتمندی دارند؛ اما برای رسیدن به بهترین عملکرد در یک حوزه تخصصی، معمولاً نیاز داریم آن‌ها را با داده‌های اختصاصی خودمان تنظیم کنیم. در این دوره از پایه با مفاهیم Fine-Tuning شروع می‌کنیم و سپس به تکنیک‌های پیشرفته و بهینه مانند LoRA، QLoRA و PEFT می‌پردازیم تا بتوانیم مدل‌های بزرگ را حتی با منابع سخت‌افزاری محدود آموزش دهیم. در طول دوره با استفاده از اکوسیستم Hugging Face، کتابخانه‌های Transformers، Datasets، PEFT، Accelerate و TRL مدل‌های مختلف را Fine-Tune کرده و پروژه‌های واقعی را پیاده‌سازی می‌کنیم. در این دوره چه چیزهایی یاد می‌گیریم؟ 🔹 آشنایی عمیق با معماری Transformer و مفاهیم پایه LLMها 🔹 کار با Hugging Face Transformers و مدل‌های Pre-trained 🔹 آماده‌سازی Dataset برای Fine-Tuning مدل‌های زبانی 🔹 تفاوت روش‌های مختلف Fine-Tuning و انتخاب روش مناسب 🔹 آموزش و Fine-Tuning مدل‌های BERT برای Classification 🔹 استفاده از Knowledge Distillation برای ساخت مدل‌های کوچک‌تر و سریع‌تر 🔹 Fine-Tuning مدل‌های DistilBERT و TinyBERT 🔹 Fine-Tuning مدل‌های T5 برای Text Summarization 🔹 Fine-Tuning Vision Transformer برای Image Classification 🔹 مفهوم Instruction Tuning و Chat Models 🔹 Fine-Tuning مدل‌های LLaMA برای ساخت مدل‌های مکالمه‌ای 🔹 Fine-Tuning مدل‌های Qwen برای کاربردهای مختلف 🔹 آشنایی کامل با LoRA (Low-Rank Adaptation) 🔹 Fine-Tuning بهینه با QLoRA و Quantization 🔹 استفاده از PEFT برای کاهش هزینه آموزش مدل‌های بزرگ 🔹 Fine-Tuning مدل‌های LLM روی Datasetهای شخصی 🔹 ساخت مدل‌های Voice و Audio با استفاده از LLMها و Qwen-TTS 🔹 Fine-Tuning مدل‌های صوتی با داده‌های اختصاصی پروژه‌هایی که در این دوره انجام می‌دهیم: ✅ ساخت مدل Classification اختصاصی با BERT ✅ تشخیص موجودیت‌های نامدار (NER) با مدل‌های Transformer ✅ ساخت سیستم خلاصه‌سازی متن با T5 ✅ Fine-Tuning مدل‌های LLM برای Chat و Instruction Following ✅ تنظیم مدل‌های LLaMA و Qwen روی داده‌های سفارشی ✅ استفاده از LoRA و QLoRA برای آموزش مدل‌های بزرگ با GPU محدود ✅ Fine-Tuning مدل‌های صوتی برای کاربردهای Voice AI این دوره مناسب چه کسانی است؟ این دوره برای افرادی مناسب است که: ✔ با Python آشنایی دارند و می‌خواهند وارد حوزه LLM Engineering شوند ✔ می‌خواهند مدل‌های زبانی موجود را برای پروژه‌های واقعی شخصی‌سازی کنند ✔ قصد دارند در حوزه Generative AI، NLP و مدل‌های مولد فعالیت کنند ✔ می‌خواهند به جای استفاده صرف از APIها، مدل‌های AI اختصاصی خودشان را بسازند ✔ علاقه‌مند به تحقیق و توسعه در حوزه مدل‌های زبانی بزرگ هستند پیش‌نیازهای دوره: آشنایی متوسط با Python آشنایی اولیه با Machine Learning و Deep Learning آشنایی مقدماتی با PyTorch آشنایی کلی با مفاهیم Neural Networks در پایان این دوره شما قادر خواهید بود مدل‌های زبانی بزرگ را با استفاده از جدیدترین تکنیک‌های روز مانند LoRA، QLoRA و PEFT روی داده‌های اختصاصی خودتان Fine-Tune کنید و مدل‌های آماده Hugging Face را برای ساخت اپلیکیشن‌های واقعی هوش مصنوعی بهینه‌سازی کنید. 🚀 برای یادگیری عملی LLM Engineering و ساخت مدل‌های AI اختصاصی، این دوره را از دست ندهید. #LLM #FineTuning #HuggingFace #LoRA #QLoRA #PEFT #GenerativeAI #AI #MachineLearning #DeepLearning #Transformers #LLaMA #Qwen #NLP