Fine-tuning و PEFT
Labelled Dataداده برچسب‌دار
داده برچسب‌دار؛ داده‌ای که برای هر نمونه پاسخ درست آن مشخص شده است؛ پیش‌نیاز روش‌های یادگیری نظارت‌شده.
مشاهدهٔ جزئیاتدانشنامهٔ Noventix
واژه‌نامهٔ هوش مصنوعی
مفاهیم و اصطلاحات هوش مصنوعی را عمیق‌تر بشناس.
۳۴۵ اصطلاح آموزشی۲۵ حوزهٔ موضوعیرایگان برای همه
مرور سریع
از الفبا شروع کن
دسته‌بندی‌ها
۳ اصطلاحموضوع موردنظرت را انتخاب کن
نتایج فیلترشده · حرف Lحذف فیلترها
Fine-tuning و PEFT
Learning Rateنرخ یادگیری
نرخ یادگیری؛ عددی که تعیین می‌کند مدل در هر مرحله چقدر وزن‌ها را تغییر دهد. اگر نرخ یادگیری خیلی بزرگ باشد آموزش ممکن است ناپایدار شود و اگر خیلی کوچک باشد یادگیری بسیار کند خواهد شد.
مشاهدهٔ جزئیاتFine-tuning و PEFT
LoRA (Low-Rank Adaptation)سازگاری با رتبه پایین
سازگاری با رتبه پایین؛ روش سبک برای تنظیم دقیق مدل‌های بزرگ با اضافه کردن تعداد کمی پارامتر. LoRA به‌خصوص برای تخصصی‌سازی مدل‌های بزرگ با هزینه محاسباتی و حافظه کمتر از Fine-tuning کامل محبوب است.
مشاهدهٔ جزئیات