Hugging Face

در این دوره آموزشی، به‌صورت عملی و پروژه‌محور یاد می‌گیریم چگونه مدل‌های زبانی بزرگ (Large Language Models) را برای کاربردهای خاص خودمان Fine-Tune کنیم. امروزه مدل‌هایی مانند LLaMA، Mistral، BERT، T5 و مدل‌های مبتنی بر Transformer توانایی‌های بسیار قدرتمندی دارند؛ اما برای رسیدن به بهترین عملکرد در یک حوزه تخصصی، معمولاً نیاز داریم آن‌ها را با داده‌های اختصاصی خودمان تنظیم کنیم. در این دوره از پایه با مفاهیم Fine-Tuning شروع می‌کنیم و سپس به تکنیک‌های پیشرفته و بهینه مانند LoRA، QLoRA و PEFT می‌پردازیم تا بتوانیم مدل‌های بزرگ را حتی با منابع سخت‌افزاری محدود آموزش دهیم. در طول دوره با استفاده از اکوسیستم Hugging Face، کتابخانه‌های Transformers، Datasets، PEFT، Accelerate و TRL مدل‌های مختلف را Fine-Tune کرده و پروژه‌های واقعی را پیاده‌سازی می‌کنیم. در این دوره چه چیزهایی یاد می‌گیریم؟ 🔹 آشنایی عمیق با معماری Transformer و مفاهیم پایه LLMها 🔹 کار با Hugging Face Transformers و مدل‌های Pre-trained 🔹 آماده‌سازی Dataset برای Fine-Tuning مدل‌های زبانی 🔹 تفاوت روش‌های مختلف Fine-Tuning و انتخاب روش مناسب 🔹 آموزش و Fine-Tuning مدل‌های BERT برای Classification 🔹 استفاده از Knowledge Distillation برای ساخت مدل‌های کوچک‌تر و سریع‌تر 🔹 Fine-Tuning مدل‌های DistilBERT و TinyBERT 🔹 Fine-Tuning مدل‌های T5 برای Text Summarization 🔹 Fine-Tuning Vision Transformer برای Image Classification 🔹 مفهوم Instruction Tuning و Chat Models 🔹 Fine-Tuning مدل‌های LLaMA برای ساخت مدل‌های مکالمه‌ای 🔹 Fine-Tuning مدل‌های Qwen برای کاربردهای مختلف 🔹 آشنایی کامل با LoRA (Low-Rank Adaptation) 🔹 Fine-Tuning بهینه با QLoRA و Quantization 🔹 استفاده از PEFT برای کاهش هزینه آموزش مدل‌های بزرگ 🔹 Fine-Tuning مدل‌های LLM روی Datasetهای شخصی 🔹 ساخت مدل‌های Voice و Audio با استفاده از LLMها و Qwen-TTS 🔹 Fine-Tuning مدل‌های صوتی با داده‌های اختصاصی پروژه‌هایی که در این دوره انجام می‌دهیم: ✅ ساخت مدل Classification اختصاصی با BERT ✅ تشخیص موجودیت‌های نامدار (NER) با مدل‌های Transformer ✅ ساخت سیستم خلاصه‌سازی متن با T5 ✅ Fine-Tuning مدل‌های LLM برای Chat و Instruction Following ✅ تنظیم مدل‌های LLaMA و Qwen روی داده‌های سفارشی ✅ استفاده از LoRA و QLoRA برای آموزش مدل‌های بزرگ با GPU محدود ✅ Fine-Tuning مدل‌های صوتی برای کاربردهای Voice AI این دوره مناسب چه کسانی است؟ این دوره برای افرادی مناسب است که: ✔ با Python آشنایی دارند و می‌خواهند وارد حوزه LLM Engineering شوند ✔ می‌خواهند مدل‌های زبانی موجود را برای پروژه‌های واقعی شخصی‌سازی کنند ✔ قصد دارند در حوزه Generative AI، NLP و مدل‌های مولد فعالیت کنند ✔ می‌خواهند به جای استفاده صرف از APIها، مدل‌های AI اختصاصی خودشان را بسازند ✔ علاقه‌مند به تحقیق و توسعه در حوزه مدل‌های زبانی بزرگ هستند پیش‌نیازهای دوره: آشنایی متوسط با Python آشنایی اولیه با Machine Learning و Deep Learning آشنایی مقدماتی با PyTorch آشنایی کلی با مفاهیم Neural Networks