مهندسی پرامپت و مدل‌های زبانی بزرگ؛ از مبانی تا پروژه‌های پیشرفته - جلسه 4

سلام عرض می‌کنم خدمت دوستان عزیز. بریم سراغ ادامه بحثمون. میخوایم این جلسه

راجع بهش صحبت بکنیم که

ال ام ها رو چهجوری آموزش میدن.

اول راجع به این صحبت کنیم اصلاً آموزش

یعنی چی؟

یادتون باشه گفتیم ال ام یه مخزن بزرگی از

اطلاعات متنیه.

اما این مخزن بزرگ اطلاعات اینجوری نیست

که شما مثلاً بیاید یه دیتای زیادی رو به

یه مدلی بدید و انتضا داشته باشید که اون

خوب کار بکنه مثلونه که مثلاً شما

یه دانشآموزی رو تصور کنید

مثلاً یه ۱۰ تا کتاب ریاضی بذارید جلوش

بعد بخواید ازش امتحان بگیرید خب طبیعتاً

اون دانش‌آموز حتی به شروع بکنه کتابا رو

بخونه هم شاید نتونه تونه متوجه ریاضیات

بشه نیازه که یکی بهش آموزش رو بده یعنی

این آموزش در کنار اون اطلاعاته که باعث

میشه اون دانش‌آموز بتونه ازفس ریاضیات

بربیاد

اینجا همینه یعنی ما یه دیتای خیلی زیادی

رو به این مدل‌ها دادیم در کنارش یک

فراآیند آموزشی رم اینا طی کردن و در

نهایت رسیدن به یک مدلی که می‌تونه الگوها

رو تشخیص بده این خط اولو نگاه کنید میگه

که آموزش

ال ام

به این معنی که شما به یه شبکه عصبی آموزش

بدید که الگوها رو تشخیص بده الگوها رو تو

هر زبانی تشخیص بده

چهجوری این الگوها رو تشخیص میده وقتی یه حجم زیادی دیتا رو بهش دادی اونا رو

پردازش کرده

اینجا نگاه کنید یه جمله خیلی این جمله خیلی مهمه میگه که مدل هیچوقت نمیاد

جواب‌ها رو حفظ بکنن.

مثلاً این ریسک که مثلاً بهش بگن که هر کی

ازت پرسید آسمون چنگه تو بگی آبی اینو حفظ

نمی‌کنن خب اون میاد

ارتباط آماری بین توکن کلمات جملات مفاهیم

و روش‌های نگارشی رو یاد می‌گیره.

میاد الگو یاد می‌گیره.

اما این اینم فرایند آموزشه.

میگم اول شما دیتا رو جمع می‌کنید

بعد دیتا رو یه ذره تره تمیز می‌کنید

توکنایزش می‌کنید

بعد میرید تو مرحله پیش آموزش

بعد فایند تیونینگه که حالا جلوتر راجع

بهش صحبت می‌کنیم الاینمنت اولیشن که میشه

ارزیابی و در آخرم دیپلوی می‌کنید

مدلتونو.

خب بریم سراغ مرحله اول دیتا کالکشن

طبیعتاً شما برای اینکه بخواید به یه مدلی آموزش بدید مرحله اولش اینه که اول یه حجم

زیادی دیتا رو جمع بکنید

شامل چیا می‌تونه باشه این دیتاها

مثلاً کتاب‌ها

مقالات

وب سایت‌ها

اسناد و حالا هر چیزی چیز دیگه که در

دسترسه

این آخری هم باحاله کوسن انسر ازمپل اینو به نظرتون از کجا میاره

یه سری سایت هست مثل مثلاً ردیت مثل مثلاً سایت زیادیه که الان شما می‌تونی بیاید

داخلش سؤال بپرسی یکی بیاد جوابتو بده این

یه مخزنیه از سؤال‌ها و جواب‌ها خب

هدف چیه؟ هدف اینه که تو زبان‌های مختلف شما بیاید پترن‌ها، موضوعات، فرمت و

استایلو یاد بگیرید. اینا رو بتونید

استخراج بکنید.

مثلاً فرض کنید میگه که دیتا ست ممکنه شامل جملاتی مثل این باشه. مثلاً

پاریس پایتخت فرانسهست.

پایتون یک زبان برنامه‌نویسیه.

گیاهان از نور خورشید برای فوتوسنت استفاده می‌کنن.

از تعداد زیادی از این جملات مدر شروع می‌کنه

یادگیری ارتباط بین کلمات و ایده‌ها رو.

کیفیت دیتا بچه‌ها خیلی مهمه. دیتا اگه با کیفیت نباشه مدل شما بد آموزش

می‌بینه.

خب

مرحله بعدی

تمیز کردن دیتا و مرحله پیش آموزشه.

میگه دیتاهای خامی که توی اینترنت وجود دارن مشکلات زیادی دارن. مثل چی؟ مثلاً

صفحات تکراری اسپم

متنایی که ناقصن مثلاً نصفه نوشته شدم

اطلاعات خصوصی

و و حالا چیزای دیگه اینا دیتایی هستن که

مشکل دارن باید اینا اصلاح بشن

میگه قبل از اینکه فرا آموزش شروع بشه

باید این دیتا فیلتر بشه و تمیز بشه و

اینا از توش بیاد بیرون

مثلاً میاد میگه که داکومنت‌های دوپلیکیتو ریموو بکنیم اونایی که تکرارینو برداریم

متنایی که مشکل دارنو حذف کنیم

و حالا روندهای دیگه وجود داره

مثلاً فرض کنید شما یه مقاله‌ای تو ۵۰۰ تا وب سایت هست خب لازم نیست همه رو پردازش

بکنی یه دونهش کفایت می‌کنه

پس اینجا میان مثلاً ۴۹۹ تاشو حذف می‌کنن یه دونشو نگه می‌دارن.

مرحله بعدی توکنایز کردنه.

میگه که ال‌ها به صورت مستقیم کلمات رو پردازش نمی‌کنن. مثل کاری که ما آدما

می‌کنیم.

متنو میاد به تیکه‌های کوچیک‌تری به نام توکن تقسیم می‌کنن. اونو پردازش می‌کنم.

مثلاً این به این صورت توکناز میشه.

قبلاً راجع بهش صحبت کردیم که مثلاً

کلماتی که کمتر متداول هستن رو امکان داره

تقسیم بکنه به چند تا توکن مثل این کلمه.

بعد هر توکن به یک آیدی عددی تبدیل میشه مثلاً این

در نهایت مدل شما میاد با این آیدیا کار می‌کنه

با خود اون توکن کار نمی‌کنه با اون متن

خامه کار نمی‌کنه

بریم مرحله پری ترینینگ قبل آموزش پیش آموزش

خب مرحله پیش آموزش میگه که مرحله‌ایه که از لحاظ

محاسباتی یکی از قسمت‌های پرهزینه ال هاست

توسعه ال‌هاست

تو مرحله پیش آموزش

مرتباً توی دفعات زیاد میان

در حقیقت حقیقت یک توالی از یک سری کلماتو

بهش میدن و اون باید کلمه بعدی رو حدس

بزنن به عنوان مثال فرض کنید ما یه

کلمه‌ای داریم به این صورت خورشید از شرق

مثلاً طلوع می‌کنن [صدای خرناس] میان

مثلاً این تیکهشو بهش میدن بعد کلمه بعدی

که شرقه رو پیش‌بینی بکنن امکان داره مدل

اون ابتدای امر مثلاً بیاد اینو یه کلمه

اشتباه تشخیص بده مثلاً بگه مورنینگ

خورشید چیز از صبح مثلاً تونو می‌کنن.

بعد میان چیکار می‌کنن؟ هر مدلی یه سری

پارامتر داره

میان اون پارامترا رو تغییر میدن تا برسن

به جواب درست.

این فراآیند

در حقیقت تیون کردن پارامترها دفعات خیلی

خیلی زیادی انجام میشه. اینجا یه عددی

گفته بود مثلاً امکان داره در حقیقت روی

متنی مختلف به اندازه بیلیون‌ها بار یا

تریلیون‌ها بار انجام بشه.

هر بارم که داره یه اشتباهی مثلاً انجام

میده متنی اشتباه تشخیص میده بهش میگن یه

لاس یه تلفاتی داشته

پس این فراآیند انقدر انجام میشه این

پارامترا انقدر تغییر می‌کنن تیون میشن تا

برسه به یه حالت بهینه

میگه هر ال تعداد زیادی مقادیر عددی قابل تنظیم داره

که بهش میگن پارامتر یا وزن.

پارامتر یا وزن

میگه این پارامترها نشان‌دهنده نمایش اون نماینده

الگوهای زبانی هستن که یاد گرفتن.

میگه پارامتر معمولاً مثلاً یه چیزی شبیه این نیستن مثلاً بگه پارامتر ۱۲۳ یعنی

فلان خب همچین چیزی نیست

میگه بعضی پارامتراها امکان داره مثلاً استفاده بشه برای گرامر برای ساختار جمله

برای اسم‌ها و الی آخر

و هر مدلی ممکنه شامل مثلاً مثلاً

میلیون‌ها یا بیلیون‌ها پارامتر باشه. این

اصطلاح استالاً شنیدید. مثلاً میگن فلان

مدل هوش مصنوعی با ان تا مثلاً پارامتر

الان مثلاً معرفی شد. خب

میگه کلمه لارج توی ال امضاً اشاره داره به تعداد پارامتراش.

یعنی مثلاً تعداد پارامترا خیلی زیادی داره.

فعلاً اینجا رو یه لحظه نگه دارید برید یه سؤال از خود چجیت پرسین

تایم پارامتر خب

چند تا از ال ام ها رو از لحاظ پارامتر می مقایسه می‌کنن. حالا

بونم سؤالمو درست پرسیدم یا نه.

خب بریم این چند تا مقایسه بکنیم با همدیگه مثلاً میگه مدل میسترال سون بی

۷ و سه ددهم بیلیون پارامتر داره

لاما که خب خیلیاتون شنیدت اسمشو ورژن سه و یکش مثلاً ۸ بیلیون

۷۰ بیلیون یا ۴ ۴۰۵ بیلیون حالا نمی‌دونم

تفاوتاشون تو چیه

این مدل مثلاً ۲ میلیون داره ۹ میلیونم داره ۲۷ تاشم داره و مدلای دیگه مثلاً جی

پی تی سه ۱۷۵ بیلیون پارامتر داره مثلاً

این تفاوت بین مدل‌های مختلف از لحاظ

پارامتر مثلاً دیپسیک ۶۷۱ بیلیون پارامتر

داره

خیلی عدد [صدای خرناس] گنده‌ایه.

خب من خواستم مثلاً یه دیدی پیدا بکنید که

این مدل‌های معروفی که الان وجود داره چه

تعداد پارامتر دارن و چهجوری او خب اینو

دیدیم بیایم اینجا

میگه در طول فرند آموزش میان توکن‌ها رو از داخل این لایه‌های شبکه عصبی رد

می‌کنن. یه چیزی هم بهتون بگم.

مدل‌های شما هستید بچه‌ها این یه سری لایه

دارن لایه‌های زیادی دارن لایه‌های شبکه

عصبی که یه ورودی میاد میره تو این

لایه‌ها و در نهایت خروجی تبدیل میشه به

یه خروجی بحث پارامت تنظیم کردن اون

سلول‌های این لایه‌هاست

خیلی ساده بخوام بگم

مثلا فرض کنید یه همچین ک جمله‌ای رو ما میدیم به مدلمون

آب در دمای صفر درجه فریز میشه خب

مدل میاد احتمالات کلمات بعدی رو اینجوری در نظر می‌گیره

سیلسیوس ۷۰

یعنی احتمال اینکه کلمه بعدی سیلیسیوس

باشه ۷۰

فارن‌های [صدای خرناس]

۱۲

ماه باشه کلمه دما باشه ۵ کلمه سرد باشه ۳

و توکن‌های دیگه هم ۱۰

خب اینجا یه چیزی هم گفته گفته که اگر فرض کنیم که توکن صحیح بعدی سلسیوس باشه

و مدل چون درصد زیادی رو احتمال داده که این

باشه پس لاس کمتری رو تجربه می‌کنه اما

اگه مدل بیاد مثلاً پیش‌بینی بکنه که کلمه

بعدی فارن هایته

اینجا خیلی لاس بالایی داره چون احتمال

کمتری داشته که این باشه ولی اومده گفته

اینه

میگه که یه لاست یه عددیه که چهجوری حساب میشه تفاوت بین پیش‌بینی مدل و توکن درسته

مثلاً میگه تو این مثال فرض کنید که توکن

درست سلس

احتمالاتی که مدل ما در نظر گرفته اینه که گفته ۱۰ احتمال سیرسیوس باشه فارنهایت ۸۰

۸۰

توکن دیگه هم ۱۰

تو این حالت مدل ما خیلی اشتباه رفته مسیرو بنابراین لاسمون بالاست

بعد از اینکه ترین بشه

امکان داره مدلمون مثلاً اینجوری بشه بگه

خب من الان آموزش دیدم از نظر من سیلسیوس

۹۲ فارنهایت ۴ و کلمات دیگه هم ۴

الان تو تو این حالت لاسمون اومده پایین.

یعنی بعد از آموزش لاسمون کمتر شده.

پس هدف از آموزش اینه که بتونیم لاسو

بیاریم پایین. تلفاتمونو بیاریم پایین.

یه مرحله دیگه داره بهش میگن بک پروپگیشن. یعنی چی؟ میگه که بعد از اینکه لاس محاسبه

شد خب مدل نیاز داره که تشخیص بده اینکه

کدوم پارامتر تو این خطا تأثیر داشته یعنی

میگه که من کدوم پارامترمو تغییر دادم این

خطای و از بین رفت

و از اینجا می‌تونید تشخیص بدی که کدوم پارامتر در آینده باید تغییر بده که خطا

رو کمتر بکنن.

برسیم به بحث فاین تیونینگ اینو بریم صحبت کنیم

خب مدل شما بعد از مرحله پریترینگ خب شاید بتونه متن تولید بکنه خب اما نمی‌تونه یه

سری دستورعمل‌های خاص رو جواب بده دنبال

بکنه

یعنی شما توی مرحله فاین تیونینگ میاید مدلتونو آموزش میدید که بیاد یه سری

تسک‌های خاص رو انجام بده مثلا فرض کنید

یه تسک می‌تونه این باشه که شما به مدلتون

یه متنی بدید بگید اینو خلاصه بکنه این

دیگه بحث پیش‌بینی کلمه نیست این یه تسک

خاصه یا مثلاً ازش بخواد که یه کد پایتون

بنویسه

برای اینکه بخواد این تسکا رو انجام بده

نیاز داره که یه مرحله‌ای به نام فاین

تیونینگ روش انجام بشه.

میگه تو مرحله فاین تیونینگ به مدلمون یه سری پرامت‌های کیفیت بالا

یه سری مثال‌هایی از پرامت‌های با کیفیت

بالا بهش داده میشه.

پس این پترنم یاد می‌گیره تو این مرحله

چهجوری سؤلاتو جواب بدن. دستورعمل‌ها رو

چه‌جوری دنبال کنن.

چه‌جوری جوابم رو فرمت بهش بدم تره تمیزش

بکنم خوشگلش بکنم

چهجوری درخواست‌های غیرا ایمن رو رد بکنم اونایی که درخواست عجیب غریبی مهم نیستنو

و چیزای دیگه پس تو این مرحله میاد اینا

رو یاد می‌گیره و در اون مرحله‌ایه که ما

با ال ام کار می‌کنیم چون ما از ال ام این

استفاده رو نمی‌کنیم که مثلاً برای ما متن

تشخیص بده ازش می‌خوایم که یه سری تسکا رو

انجام بده پس این مرحله خیلی مهمیه

به نظرم تا همین جا کافیه خب بریم بیایم ادامهشو جلسه بعدی صحبت کنیم فعلاً

خداحافظ