Noventix
ورودشروع رایگان
اصطلاح هوش مصنوعی

Alignment

هم‌راستاسازی

هم‌راستاسازی؛ مطمئن شدن از این‌که رفتار هوش مصنوعی با ارزش‌ها و اهداف انسان هماهنگ است. اگر یک مدل با هدف واقعی کاربر هم‌راستا نباشد، ممکن است حتی با انجام درست دستور، نتیجه‌ای نامناسب یا ناخواسته تولید کند.

امنیت و ایمنی هوش مصنوعیسطح: متوسط

تعریف کامل

هم‌راستاسازی؛ مطمئن شدن از این‌که رفتار هوش مصنوعی با ارزش‌ها و اهداف انسان هماهنگ است. اگر یک مدل با هدف واقعی کاربر هم‌راستا نباشد، ممکن است حتی با انجام درست دستور، نتیجه‌ای نامناسب یا ناخواسته تولید کند.
ایمنی هوش مصنوعیAI Safetyیادگیری تقویتی از بازخورد انسانیRLHF (Reinforcement Learning from Human Feedback)مدل پاداشReward Model
بازگشت به واژه‌نامه