مهندسی پرامپت و مدل‌های زبانی بزرگ؛ از مبانی تا پروژه‌های پیشرفته - جلسه 10

که شما می‌خواید رو.

این چیزی که داره این بالا هم الان بهتون

میگم. یه مثالم اینجا زدم. مثلاً مثال

نظراتی که مثلاً بود ما یه دو سه تا نظر

مثبت و منفی رو خودمون مشخص می‌کردیم براش

و از اون می‌خواستیم که مثلاً اون نظره که

جدیده رو مثلاً تنگ تکلیف کنه.

در حالت عادی این طرز فکر ظاهراً درسته که شما اگر به ال ام اگزمپل بدید مثال بدید

ارتباط بین این نظر و لیبل رو متوجه میشه

و در حقیقت اون قواعد دسته بندی رو یاد

می‌گیره اما تو این ویدیو می‌خوایم اینو

بگیم که این نظریه یه مسئله‌ای توشه یه

ایرادی توشه خب خب

داره میگه که یه جمله اینجا میگه میگه که

مفهوم این کانتکست لرنینگ یعنی یادگیری

توی اون پرامپت یادگیری تو اون کانتکستی

که به عنوان ورودی دادید به ال ان خیلی

پیچیده ترتر از اون چیزیه که شما فکر

می‌کنید یعنی به این سادگی نیست که مثلاً

شما بیاید چند تا مثالم بذارید و بگید خب

تموم

ببینیم چی میگه

که محقا یه سؤالی پرسیدن میگه کدوم قسمت این مثال‌هایی که شما دادید به ال ام

داره کمک میکنه به ال خب

اومدن چیکار کردن اومدن لول‌های درستو با یه سری لول‌های

رندم یا غلط جایگزین کردن ببینن رفتار ال

ام چهجوریه مثلاً

این کامنتو نگاه کنید گفته محصول عالیه خب این نظر مثبته این محصول بده این میشه نظر

منفی تا اینجا هیچ مشکلی نیست خب

یعنی اومدن لولا رو برعکس بهش دادن. انتظار چیه؟ انتظار اینه که خب ال نتونه

تشخیص بده دفعات بعدی و عملکردش بد بشه.

اما چیزی که سوپرایزشون کرده این بوده که عملکرد مدل ال ام خیلی تحت تأثیر قرار

نگرفته.

یعنی از اون چیزی که انتظار داشتن کمتر

تحت تأثیر قرار گرفته.

پس نشون میده که یه پیچیدگی اون پشت هست.

در حقیقت اون توصیف می‌تونه کمک بکنه توصیفی که انجام میشه.

چرا؟ چون میاد ارتباط بین اونا رو تشخیص

میده اون ال الملا

میگه یعنی چی این مفهومی که الان ما اینجا صحبت کردیم یعنی چی

اومده یه مثالی زده میگه فرض کنید یه نظری یه کاربری گذاشته مثلاً از این کهه کیبورد

خیلی خوبی بود این میشه مثبت حسی که داره

میده و یکی گفته که باتری یه دفعه دیگه

کار نکردی خب منفیه حالا یه دونه جدید

داریم صفحه نمایش خیلی خوبه خب

میگه که ال ام داره در حقیقت اینجوری به قضیه نگاه

میکنه میگه که

میگه شما وقتی یه همچین چیزی رو به ال ام میدید ال ام چند تا چیز از این برداشت

می‌کنه یکی اینکه میگه اینا یه سری نظرات

کوتاه در رابطه به محصول دو میگه اون

لول‌هایی که من قراره مثلاً تشخیص بدم

دو حالت داره یه پوزیتیو یه نگیتیو یه

اسپیس یه فضایی رو برای لول‌ها در نظر

می‌گیره فرمت خروجی رو هم دیتکت می‌کنه

ریویو مثلاً احساسی که ناج به اون ریویو

وجود داره

و در نهایت مثلاً می‌تونه این ارتباطه رو

تشخیص بده

ریویو خوب میشه پوزیتیو ریویو بد میشه

نگیتیو

اما سوالی که پیش میاد اینه که این چرا برای پرامپت انجینگ مهمه این قضیه

میگه که مثال‌هایی که شما داخل یک پرامپت قرار میدید خب

لزوماً یک آموزش کوچولو برای اون مدل نیست یه مینی ترینینگ نیستش

میگه اگزمپل علاوه بر این آموزش رو میده

هیچ کار دیگه هم می‌کنه

میگه که این چی رو به مدل می‌فهمونه؟ اینکه تو چه فضایی کاری وجود داره.

خب یعنی اون فضای کاری که الل الان داخلش

قرار گرفته و قراره که پاسخ بدن بهش معرفی

می‌کنن.

یه مثالی داره می‌زنه. میگه فرض کنید شما

یه دونه کارمند جدید دارید.

شما میاید اینا رو بهش میدید

میگید که اگر تیکت

پرداختش

رد شده بود کتگوریش چی میشه؟ میشه بیلینگ

اگر

پسوردو نمی‌تونست ریست بکنه کتگوریش میشه

اکانت

اگه برنامه باز نمیشد کتگورش میشه تکنیکال مشکلات فنی خب

میگه که اینو شما وقتی جلوی یه دونه

کارمند بذارید فقط لیبل و کتگوری و اینا

رو یاد نمی‌گیره یه چیز دیگه رم یاد

می‌گیره

چی یاد می‌گیره

یاد می‌گیره که جایی که من توش قرار گرفتم

احتمالاً یه جایی شبیه پشتیبانیه

پشتیبانی تیکت

خروجی من یه لیبلیه که تمام حروفشم بزرگه آپر کیس

همش

چه لیلایی در دسترسه تکنیکال اکانت بیلینگ

پس علاوه بر اون آموزشی که در حقیقت ال ام می‌بینه یه دید کلی هم راجع به محیطی که

قراره توش اون تسکو انجام بده هم پیدا

می‌کنه.

اینجا یه نکته میگه میگه حالا اون تغییری که حالا ریسرچو انجام داده بودم بابت

اینکه مثالایی غلط به داده بدم به ال باعث

نشه که شما بیاید مثال غلط بهش بدید این

کارو نکنید خب

یعنی این همچنان تحقیقات نشون میده که

دادن مثال‌های درست در نتیجه خروجی خیلی

اثرات خوبی داره

مفهوم این کانتکست لرنینگ یعنی شما آموزش در داخل کانتکست به علم بدید اونجوری

نیستش که ما فکر می‌کنیم مثلاً مثل مغز

انسان نیستش فقط این محیق میخواستن اینو

بگن که نباید خیلی مثل مثلاً انسان باهاش

رفتار کرد

خب بریم سراغ مبحث دوم این جلسهمون یه

مبحث به نام چین آف تات پرامتینگ یعنی چی

خب این مفهوم بچه‌ها مفهومیه که من خودم خیلی ازش استفاده می‌کنم الان این مثالشو

براتون می‌زنم حالا بذار اول مثال خودشو

ببینیم اول مفهوم یعنی چی سی او تی یعنی

چی چین آف تات میگه که شما به جای اینکه

در حقیقت به ال امتون بگید جواب رو بده

بهش بگید که جواب رو در قالب چند مرحله

منطقی به من بگو چیه

خب میگه این کار باعث میشه که عملکرد اون

اون ال امتون خیلی بره بالا یه مثالی زده

حالا من مثال خودمم براتون می‌زنم

میگه جان ۵ تا باکس داره هر باکس ۸ تا سیب

داخلشه

۱۳ تا سیبو برمی‌داره

چند تا سیب مونده

یه پرامت معمولی میگه که خب جوابو بگو مدلم سریع میره مثلاً جوابو حساب بکنه

مثلاً میگه ۲۷ تا مونده خب یعنی ۵ ۸ تا ۴۰

تا ۱۳ تا ازش کم کنید میشه ۲۷

اما زمانی که مسئله بچه‌ها سخت‌تر باشه

پیچیده‌تر باشه این روش که شما مسئله رو

بگید جواب بخواید خیلی شاید درست نباشه خب

میگه به جاش بیاد این به طرف بگید که مراحلو مرحله مرحله فکر بکنه و به شما

جواب بده بعد ال میاد اینجوری فکر می‌کنه

میگه خب ۵ جعبه داشتم تو هر کدوم ۸ تاست

میشه ۴۰ تا ۳۰ ۱۳ تا ازش کم کنیم میشه ۲۷

تا پس جواب میشه ۲۷ تا خب یعنی اومده یه

مراحلیو رفته تا به جواب برسه اومده عملاً

مسئله رو به یه سری مسائل کوچک‌تر تقسیم

کرده

خب حالا مثال خودم بزنم من یادمه مثلاً

اوایل که می‌خواستم مثلاً یه برنامه‌ای رو

یا یک اپلیکیشنی رو بدم ترجی برام بزنه

اینجوری بودم که می‌گفتم که پرامپتو

می‌دادم بعد می‌گفتم کل مثلاً برنامه رو

یه جا بهم بده غلفتی

بعد خیلی دیدم ایراد داره این روش الان

چیکار می‌کنم الان طرح مسئله می‌کنم اون

اپلیکیشن یا هر چیزی که هست رو که می‌خوام

رو کامل بهش توضیح میدم بعد بهش میگم که

اینو مرحله مرحله به من بده

مرحله اولو میگه

بعد که تموم میشه میریم سراغ مرحله دوم

مثلاً فرض کنید شما میخواید یه اپلیکیشن

طراحی کنید اول میاد میگه که خب برید داخل

مثلاً اون ادیتورتون اون فرمت خام پروژه

رو درست کنید بعد میگه خیر خب حالا برید

اینجاشو عوض کنید بعد برید اینجاشو هی

استپ به استپ میره جلو این خیلی بهتر از

اینه که شما بخواید یه دفعه ازش یه جوابی

رو بخواید

خب میگه که یکی دیگه از کارایی که شما

می‌تونید بکنید اینه که بیاید روش سیو تی

رو با فیو شات با هم ترکیب بکنید یعنی بهش

مثال بدید ازش بخواید استپ به استپم جواب

بده یه مثالی زده میگه فرض کنید یه همچین

سؤالی پرسیدیم یه سؤال

معموله مثلاً فیوشات معمول شما یه مثال

بهش دادید جوابم دادید بعد ازش یه سؤال

دیگه پرسید پرسیدید این میشه فیوشات خب

حالا بیایم پایین

اما فیو شات با سی او تی ترکیبش سؤالو

پرسیده

بعد اومده گفته چهجوری فکر کنه

یعنی نحوه فکر کردن و جواب دادنو بهش

میگید و در نهایت جواب

حالا وقتی شما این سؤالو دوباره ازش

بپرسید

اون منطقش اینجوری میشه یعنی میگه من باید

اینجوری فکر کنم به قضیه و جواب بدم

میشه ترکیب فیوشاد و سیو تی

بعد سؤال می‌پرسه سی چرا کمک می‌کنه به ال ان چهجوری بهش کمک می‌کنه

باز یه مثال زدم

میگه فرض کنید یه مغازه ۱۲ تا باکس داره

هر باکسم ۸ تا داخلش خودکار هست

۳۵ تاشو می‌فروشه

بعد ۱۷ تا خودکار جدید دوباره دریافت

می‌کنه. چند تا خودکار داره

اینجا؟ چند تا بچه‌ها مرحله کار وجود

داره. اول اینکه باید حساب کنیم چند تا

کلاً خودکار داریم اول کار میشه ۱۲ تا

باکس ضربدر ۸ میشه چقدر؟ ۹۶ تا ۳۵ تاو

می‌فروشه ۹۶ من ۳۵ میشه ۶۱ی خودکار مونده

بعد ۱۷ تا میاد جدید ۱۷ تا به اون اضافه

می‌کنه میشه ۷۸

میگه هرچقدر شما پیچیدگی مسئلهتون بزرگتر

بشه وقتی اینو بیاید خوردش بکنید به مسائل

کوچک‌تر خیلی ساده‌تر میشه دقیقاً اون

مثالی که من بهتون زدم شما وقتی یک

اپلیکیشنی رو می‌خواید براتون درست بکنه

نیاید بهش بگی یه دفعه اپلیک اپلیکیشنو

دربیاره بگید مرحله مرحله براتون انجام

بده

اینجا اومده سی او تی رو با فیوشات مقایسه کرده

و حالا چیز خاصی نگفته

بعد اومده گفته چه سیوتی مفیده

میگه جاهای هایی که مثلاً پیچیدگی وجود داره می‌تونه خیلی کمک بکنه.

میگه جاهایی که مثلاً حل اون مسئله چند تا مرحله داره خیلی می‌تونه کمک بکنه.

حالا کجاها سیوتی خیلی مفید نیست.

مثلاً از یکی بپر از مدل بپرسید پایتخت

آلمان کجاست؟ خب این مرحله مرحله نداره

دیگه مشخصه ف آلمان مثلاً یه شهریه مثلاً

خب یعنی نیاز نیست مرحله مرحله فکر کنی

اینجا دیگه سیوتی عملاً واقعاً کارایی

نداره خب خب جواب برلینه دیگه حالا مرحله

مرحله نداره

یا مثلاً بهش ازش بپرسید کلمه هلو رو به

فرانس به اسپان ترجمه کن خب این دیگه

سیوتی معنی نداره توش یه کلمهست معنیشم

مشخصه

میگه زمانی بیاد از این تکنیک استفاده کنید که واقعاً رسیدن به جواب چندین مرحله

داشته باشه.

خب میگه یه جایی هم می‌تونه سیو تی مثلاً منجر به غلط یا اشتباه بشه. وقتی داره

مرحله مرحله انجام میده اگه یه مرحله رو

اشتباه بکنه دیگه بقیهشم همه اشتباه میشه.

خب

دیگه چی داره میگه؟ خب بریم سراغ م سوم این ولش کن بحث زیرو

شات چین آف تات

یعنی ما فیو شاتو گفتیم حالا این زیرو

شاتشه

زیرو شات چی بود بچه‌ها اینکه ما بهش هیچ اگزمپلی نمیدادیم خب دستورالعملرو

می‌دادیم سؤالو می‌دادیم هیچ اگزمپلی توش

نبود فیوشات چی بود دستورعمل مثال مثال

سؤال خب خب

حالا باز محقق پرسیدن که آیا واقعاً مگزم سمپل لازمه توی پرامپتی که داریم میدیم

که منجر به این تکنیک شد زیرو شات چین آف تات یا زیرو شات سیوت

اما زیرو شات سی چیه

میگه شما تو زیروش سیوتی به مدلتون رو میاد میگید که به تشویقش می‌کنید کنید که

مرحله مرحله فکر کنه و جواب بده اما دیگه

بهش اگزمپلی نمیدید. خب

یعنی مثلاً دقیقاً این میگه این یکی از معروف‌ترین مثلاً جملاتی که شما تو فرام

می‌تونید داشته باشین این کهه مرحله مرحله

فکر کن مدل جان

و حالا یه مقالاتی هم هست میگه که این باعث شده که عملکرد بهبود پیدا کنه. کلاً

بچه‌ها وقتی سؤال پیچیده‌ای دارید از ال

ام می‌پرسید هر ال امی

حتماً اینو به آخرش اضافه پرامتتون اضافه

کنید که مرحله مرحله فکر بکنه و پاسخ بده

این خیلی نکته مهمه

اینجا داره اینا رو مقایسه می‌کنه و آخرم

یه جدولی بکشیده که کاری نداریم ببینم

نکته خاصی می‌مونه

بریم بریم با ادامهش جلسه بعدی صحبت کنیم فعلاً خداحافظ