از Pista Academy حمایت کنید
خلاصه آموزشی
مرور سریع مفاهیم اصلی پیش از تماشای کامل یا برای جمعبندی بعد از آموزش.
در این جلسه آموزشی، مدرس به بررسی دو سناریو در استفاده از پایپلاین هاگینگ فیس میپردازد. در سناریو اول، مدل پیشفرض برای تحلیل احساسات انتخاب میشود، در حالی که در سناریو دوم، مدل خاصی برای تشخیص احساسات استفاده میگردد. همچنین، نحوه اجرا و کارکرد پایپلاین در تحلیل متن و کلاسیفیکاسیون احساسات توضیح داده میشود. تفاوت بین تکست کلاسیفیکیشن و تحلیل احساسات نیز به طور کامل بررسی میشود.
نکات کلیدی
در سناریو اول، مدل پیشفرض برای تحلیل احساسات استفاده میشود، در حالی که در سناریو دوم، مدل خاصی برای تشخیص احساسات انتخاب میگردد.
تفاوت بین تکست کلاسیفیکیشن و تحلیل احساسات در این است که تکست کلاسیفیکیشن فقط به دو کلاس مثبت و منفی میپردازد، در حالی که تحلیل احساسات به احساسات مختلفی مانند عشق، سوپرایز، ترس و غیره پرداخته است.
پایپلاین هاگینگ فیس برای تحلیل متن و کلاسیفیکاسیون احساسات به کار میرود.
روش اجرا و کارکرد پایپلاین در تحلیل متن و تشخیص احساسات به طور کامل توضیح داده شده است.
متن ویدیو
متن زمانبندیشده این جلسه برای مرور، جستجو و دسترسی سریعتر.
پرسشهای رایج
پاسخ کوتاه و مستقیم به پرسشهایی که معمولاً هنگام یادگیری این موضوع مطرح میشوند.
تکست کلاسیفیکیشن فقط به دو کلاس مثبت و منفی میپردازد، در حالی که تحلیل احساسات به احساسات مختلفی مانند عشق، سوپرایز، ترس و غیره پرداخته است.
در سناریو اول، مدل پیشفرض برای تحلیل احساسات انتخاب میشود.
در سناریو دوم، مدل خاصی برای تشخیص احساسات انتخاب میگردد.
آخرین بهروزرسانی محتوای متنی:
در این دوره آموزشی، بهصورت عملی و پروژهمحور یاد میگیریم چگونه مدلهای زبانی بزرگ (Large Language Models) را برای کاربردهای خاص خودمان Fine-Tune کنیم. امروزه مدلهایی مانند LLaMA، Mistral، BERT، T5 و مدلهای مبتنی بر Transformer تواناییهای بسیار قدرتمندی دارند؛ اما برای رسیدن به بهترین عملکرد در یک حوزه تخصصی، معمولاً نیاز داریم آنها را با دادههای اختصاصی خودمان تنظیم کنیم. در این دوره از پایه با مفاهیم Fine-Tuning شروع میکنیم و سپس به تکنیکهای پیشرفته و بهینه مانند LoRA، QLoRA و PEFT میپردازیم تا بتوانیم مدلهای بزرگ را حتی با منابع سختافزاری محدود آموزش دهیم. در طول دوره با استفاده از اکوسیستم Hugging Face، کتابخانههای Transformers، Datasets، PEFT، Accelerate و TRL مدلهای مختلف را Fine-Tune کرده و پروژههای واقعی را پیادهسازی میکنیم. در این دوره چه چیزهایی یاد میگیریم؟ 🔹 آشنایی عمیق با معماری Transformer و مفاهیم پایه LLMها 🔹 کار با Hugging Face Transformers و مدلهای Pre-trained 🔹 آمادهسازی Dataset برای Fine-Tuning مدلهای زبانی 🔹 تفاوت روشهای مختلف Fine-Tuning و انتخاب روش مناسب 🔹 آموزش و Fine-Tuning مدلهای BERT برای Classification 🔹 استفاده از Knowledge Distillation برای ساخت مدلهای کوچکتر و سریعتر 🔹 Fine-Tuning مدلهای DistilBERT و TinyBERT 🔹 Fine-Tuning مدلهای T5 برای Text Summarization 🔹 Fine-Tuning Vision Transformer برای Image Classification 🔹 مفهوم Instruction Tuning و Chat Models 🔹 Fine-Tuning مدلهای LLaMA برای ساخت مدلهای مکالمهای 🔹 Fine-Tuning مدلهای Qwen برای کاربردهای مختلف 🔹 آشنایی کامل با LoRA (Low-Rank Adaptation) 🔹 Fine-Tuning بهینه با QLoRA و Quantization 🔹 استفاده از PEFT برای کاهش هزینه آموزش مدلهای بزرگ 🔹 Fine-Tuning مدلهای LLM روی Datasetهای شخصی 🔹 ساخت مدلهای Voice و Audio با استفاده از LLMها و Qwen-TTS 🔹 Fine-Tuning مدلهای صوتی با دادههای اختصاصی پروژههایی که در این دوره انجام میدهیم: ✅ ساخت مدل Classification اختصاصی با BERT ✅ تشخیص موجودیتهای نامدار (NER) با مدلهای Transformer ✅ ساخت سیستم خلاصهسازی متن با T5 ✅ Fine-Tuning مدلهای LLM برای Chat و Instruction Following ✅ تنظیم مدلهای LLaMA و Qwen روی دادههای سفارشی ✅ استفاده از LoRA و QLoRA برای آموزش مدلهای بزرگ با GPU محدود ✅ Fine-Tuning مدلهای صوتی برای کاربردهای Voice AI این دوره مناسب چه کسانی است؟ این دوره برای افرادی مناسب است که: ✔ با Python آشنایی دارند و میخواهند وارد حوزه LLM Engineering شوند ✔ میخواهند مدلهای زبانی موجود را برای پروژههای واقعی شخصیسازی کنند ✔ قصد دارند در حوزه Generative AI، NLP و مدلهای مولد فعالیت کنند ✔ میخواهند به جای استفاده صرف از APIها، مدلهای AI اختصاصی خودشان را بسازند ✔ علاقهمند به تحقیق و توسعه در حوزه مدلهای زبانی بزرگ هستند پیشنیازهای دوره: آشنایی متوسط با Python آشنایی اولیه با Machine Learning و Deep Learning آشنایی مقدماتی با PyTorch آشنایی کلی با مفاهیم Neural Networks در پایان این دوره شما قادر خواهید بود مدلهای زبانی بزرگ را با استفاده از جدیدترین تکنیکهای روز مانند LoRA، QLoRA و PEFT روی دادههای اختصاصی خودتان Fine-Tune کنید و مدلهای آماده Hugging Face را برای ساخت اپلیکیشنهای واقعی هوش مصنوعی بهینهسازی کنید. 🚀 برای یادگیری عملی LLM Engineering و ساخت مدلهای AI اختصاصی، این دوره را از دست ندهید. #LLM #FineTuning #HuggingFace #LoRA #QLoRA #PEFT #GenerativeAI #AI #MachineLearning #DeepLearning #Transformers #LLaMA #Qwen #NLP
مختلفی داره. تمام ویدیو به صورت خودکار
روی وب سایت میاد. دورهها همه هست. یه
دورهای رم شروع بکنید به دیدن. این پایین
براتون تو هر قسمت دوره برید درصدشو
براتون نشون میده و میتونید اون روندتون
رو در حقیقت دنبال بکنید و بدونید که
مثلاً تا یه ویدیو رو تا کجا دیدید و
آخرین ویدیو که دیدید کجا بوده
حالا امکانات دیگهای هم داره قسمت فایلا
رو داریم که فایلای هر دوره رو سعی میکنم
اینجا قرار بدم اگه ویدیویی رو ذخیره
بکنید می تو قسمت ذخیره شدهها یه قسمت
ارتباطم میذارم که اگه درخواستی داشتید
نکتهای سؤالی چیزی بود میتونید اونجازا
پیامتونو بذارید توی کامنتها هم اگه سوالی
باشه در حد توان جواب میدم واقعاً سرفشقه
یه خواهشی که دارم اینه که کانالو به
دوستاتون معرفی کنید
خودتونم لطفاً سابسکرایب بکنید کامنت لایک
یادتون نره اگرم دوست داشتید حمایت مالی
داشته باشید از این کانال هم از طریق در
حقیقت پلتفرم رمییت امکان پذیری که لینکشو
این بالا گذاشتم دوستانی که خارج از کشور
هستن میتون از طرق مختلف توی کانال
یوتیوبمون از ما حمایت بکنن.
خب بریم شروع بکنیم ادامه بحثمونو.
خب بریم دیگه دست به کد بشیم. تیکه اول کدمون
رو اینجا من چجی خواستم یه ذره معرفی بکنم
بهمون توضیح بده چیه. میگه که
یه مثال عملیاتی از هاگینگ فیس پایپلانه. ما د تا سناریو مختلف بچهها اینجا داریم.
سناریو اول مدلو مشخص نکردیم. هاگین فیس
خودش یک مدل پیشفرض برای تحلیل احساسات
انتخاب میکنه. تو مثال دوم خودمون اومدیم
یه مدلی رو مشخص کردیم برای تشخیص احساس
میخواد تفاوتشو نشون بده.
ابتدا که اومدیم چیزایی که لازم داریمو
ایمپورت کردیم. خب این چیز خاصی نداره. رد
میکنم ازش.
میگه پایپلاین یه ایپیآی سطح بالا در هاگینگ فیسه که چند مرحله رو به صورت
خودکار برا ما انجام میده راجع بهش صحبت
کردیم متن رو میگیره توکنایزر آیدی
ترنسفورم مدل لاجیت پست پراسسینگ و درخطهم
لیبل بذار اسکور یعنی به جای اینکه
توکنایزر و مدل رو جداگانه لود کنیم یه
پاپلان بسیاری از این کارها رو پشت صحنه
انجام میده
پانداسم که خب کاری نداریم
خب ساخت اولین پایپلان این خط بسیار مهم ما یه پایپلان برای تکست
کلاسیفیکیشن ایجاد کردیم
تکست کلاسیفیکیشن یعنی یک متنو دریافت
بکنه مشخص کنه متعلق به چه کلاس یا لیبریه
برای مثال
ز مو از امیزگ مثلاً این یه متن یه
کامنتیه راجع به فیلمی داده شده اینو
گذاشته پوزیتیو
اما پایینیه آی هدس پروداکت مثلاً امکان
توی فروشگاه اینترنتی باشه نگتیو زده بشه
اومده به اینا لیبل زده به این متنا
میگه حالا این کلاسیفایری که اینجا تعریف کردیم یه پایپلاین آماده استفاده است.
دیوایس مساوی صفر یعنی چی؟ اینجا نوشتیم
این مدل این یعنی مدل روی جیپییو صفر
اجرا بشه اگر سیستم یک جی پی یو از نوع
انیدیا داشته باشد معمولاً اولین جی پی یو
شماره صفره
یعنی رو اولین جی پی یو اجا بشه جی پی یو نداشته باشه معمولاً میتونه از سی پی یو
استفاده بکنه
میگه ما تو این کدی که نوشتیم فقط تسکو مشخص کردیم مدلو مشخص نکردیم فقط گفتیم
مایا میخوایم تکست کلاسیفیکیشن انجام
بدیم مدل خودت انتخاب بکن
در نتیجه هاگینگ فیس یک مدل پیشفرضو
انتخاب میکنه
این همون چیزیه که وارنینگ داخل تصویرم به
ما میگه منظورش اینه بچهها از وارنینگ
فکر کنم این میگه هیچ هیچ مدلی مشخص نشده.
مدل پیشفرزمون اینه
و الی آخر.
اوکی بریم جلوتر. اما تو مثال پایینی بچهها ما اومدیم
دقیقاً مدلمونو مشخص کردیم.
پس اگه مدل مشخص بکنیم که هیچی نکنیم
دیفالت میاد بالا
بعد متن ورودیو داریم تو هر دو تاش
بعد متنو دادیم به اون کلاسیفایرمون تو
جفتش و در نهایت گفتیم خروجی رو برا ما
نشون بده
بعد اومدیم مدلو اجرا میکنیم در اصل ما داریم متنو به یه پایپلاین
میدیم
پشت صحنه پایپلان داره تمام این کارا رو
انجام میده و در آخر یه احتمال به من میده
مثلاً احتمالاً رو داده به احتمال پوزیتیو ۹۹ مثبته اینجا گفته ۹۴ لول جوی زده
اوک اسکور خب اینم توضیح دادم
میگه مدل این جمله رو پوزیتیو پیشبینی کرده بالایه رو به احتمال ۹۰ به با
تقریباً ۹۹ ۹۹ و۵یم امتیاز اسکور
ا این که حالا چیز خاصی نیست نیست.
خب کد تیکه دوم اینه. تفاوت بسیار مهمش با تیکه اولمون چیه؟
اینجا مدل مشخص شده بالا مدل مشخص نشده
بود
داره تو اسم مدلو میگه متنو میگیره لبل میزنه
آها میگه این مدل فقط دو حالته نیست یعنی
د تا کلاس پوزیتیو و نگتیو نداره حالتی
دیگه هم داره
عشقو داره سوپرایزو داره ترسو داره خشمو
داره ناراحتیو داره و لذت و اینا ارم داره
مثلاً اینو جوی تشخیص داده این ببخشید
اینو
اینو جوی تشخیص داده
پس خروجی مدل دیگه فقط نیست که جمله مثبته یا منفی احساس رو هم کاملاً میگه
تفاوت این د تا روش چی میگه در هر دو مثال
از این استفاده کردیم اما خروج متفاوتن
چرا چون چون
تسکپی یکیست ولی این قسمتشو متفاوته
در اصل مدلاشون متفاوته فریند آموزششو متفاوته طبیعتاً جهابا هم متفاوته
میگه چرا مدل اول پوزیتیو داد ولی مدل دوم
جو
چون این دو مدل برای مسائل متفاوت فاین
تیون شدن. مدل اول تقریباً چنین چیزیرو
یاد گرفته. یاد گرفته یه متن بگیره بگه
مثبته یا منفیه. اما مدل دوم یاد گرفته یه
متنو بگیره این احساسات رو بهمون خروجی
بده نشون بده.
پس برای همین جمله مدل اول میگه پوزیتیو
مدل دوم میگه جون روال آموزش رو متفاوت
بده.
خب این که مشخصه طبیعتاً وقتی برای اولین بار مدلو لود میکنید فایلاش از هابینگ
فیس هاب دانلود میشه که
میگه معمولاً هاگینگ فیس اونو در کش سیستم
شما نگهداری میکنه.
بنابراین بار دوم لازم نیست همه مفایلها
مجدد این از اینترنت دانلود بشه مگر اینکه
کش حذف شده باشه یه نسخه دیگری نیاز باشه.
میگه که اینجا تو خروجی فقط اون بهترین احساسو به ما نشون میده که درصد بالایی
داره. ولی میتونیم بگیم بقیه رم بهمون
نشون بده.
میتونیم بگیم بقیه رم بهمون نشون بده.
اونوقت میاد بقیه رم بچهها اینجا لیست میکنه. یه همچین کاری باید بکنیم تو
خروجنا.
یعنی اینجا بعد از تکست یه تاپk. بهش بدیم مثلاً میگه ۳ احتمال داره این جمله احساسش
عشق باشه.
ی سوپرایز و درصد خیلی کمی هم سه تای بعدی
خب فرض کنید تکست کلاسیفیکیشن و سانتیمنت آنالیس چیه
این برای یک مدل سانج این و این [صدای خرناس] میگه تکست کلاسیفیکیشن عمومیتره چون
کلاسی سفیکیشن لزوماً سانتیمنت نیست.
خیلی سادهترشو بگم بچهها. اگه شما دنبال احساسات دقیقتر هستید برید سراغ مدلهای
سانتیمنت.
اگر دنبال صرفاً یه مثبت و منفی هستید با
تکست کلاسیفیکیشن هم کارتون راه میفته.
میگه اگه این کدو میخواستیم به اتو کلاس بنویسیم یه همچین چیزی میشد.
اما پایپلان همه این مراحلو برای ما راحت
کرده.
خب دیگه فکر کنم کفایت میکنه. بریم بیایم اداشو جلسه بعدی صحبت کنیم. فعلاً
خداحافظ. ‏M.