امنیت و ایمنی هوش مصنوعی
AI Alignment Taxonomyطبقه‌بندی هم‌راستاسازی
طبقه‌بندی هم‌راستاسازی؛ دسته‌بندی هدف، روش و ریسک در پژوهش هم‌راستاسازی؛ مثلا تفکیک هم‌راستایی با قصد کاربر از هم‌راستایی با ارزش‌های انسانی.
مشاهدهٔ جزئیاتدانشنامهٔ Noventix
واژه‌نامهٔ هوش مصنوعی
مفاهیم و اصطلاحات هوش مصنوعی را عمیق‌تر بشناس.
۳۴۵ اصطلاح آموزشی۲۵ حوزهٔ موضوعیرایگان برای همه
مرور سریع
از الفبا شروع کن
دسته‌بندی‌ها
۸ اصطلاحموضوع موردنظرت را انتخاب کن
نتایج فیلترشده · حرف Aحذف فیلترها
امنیت و ایمنی هوش مصنوعی
AI Ethicsاخلاق هوش مصنوعی
اخلاق هوش مصنوعی؛ اصول و قوانین برای استفاده منصفانه، ایمن و مسئولانه از هوش مصنوعی. موضوعاتی مانند تبعیض، حریم خصوصی، شفافیت، مسئولیت‌پذیری و جلوگیری از آسیب از مهم‌ترین بخش‌های اخلاق هوش مصنوعی هستند.
مشاهدهٔ جزئیاتامنیت و ایمنی هوش مصنوعی
AI Governanceحاکمیت هوش مصنوعی
حاکمیت هوش مصنوعی؛ سیاست‌ها و چارچوب‌هایی که سازمان‌ها برای مدیریت ریسک‌های هوش مصنوعی استفاده می‌کنند. هدف آن این است که استفاده از AI در یک سازمان قابل کنترل، قابل نظارت و هماهنگ با قوانین و سیاست‌های سازمان باشد.
مشاهدهٔ جزئیاتامنیت و ایمنی هوش مصنوعی
AI Safetyایمنی هوش مصنوعی
ایمنی هوش مصنوعی؛ تلاش‌ها برای جلوگیری از رفتار خطرناک یا ناخواسته در سیستم‌های هوش مصنوعی. تمرکز آن بر کاهش خطا، سوءاستفاده و رفتارهای پیش‌بینی‌نشده و ایجاد سازوکارهایی برای کنترل سیستم‌های هوشمند است.
مشاهدهٔ جزئیاتامنیت و ایمنی هوش مصنوعی
AI Securityامنیت هوش مصنوعی
امنیت هوش مصنوعی؛ محافظت از مدل‌ها و داده‌ها در برابر هک، حملات و سوءاستفاده. این حوزه هم خود مدل را در برابر حمله محافظت می‌کند و هم داده‌ها، APIها و زیرساخت‌هایی را که مدل با آن‌ها کار می‌کند.
مشاهدهٔ جزئیاتامنیت و ایمنی هوش مصنوعی
API Keyکلید API
کلید API؛ کد محرمانه‌ای که برای دسترسی امن به سرویس‌های هوش مصنوعی استفاده می‌شود. این کلید مانند یک رمز عبور برای شناسایی درخواست‌هاست و نباید در کد عمومی، فایل‌های قابل دانلود یا اختیار افراد غیرمجاز قرار بگیرد.
مشاهدهٔ جزئیاتامنیت و ایمنی هوش مصنوعی
Alignmentهم‌راستاسازی
هم‌راستاسازی؛ مطمئن شدن از این‌که رفتار هوش مصنوعی با ارزش‌ها و اهداف انسان هماهنگ است. اگر یک مدل با هدف واقعی کاربر هم‌راستا نباشد، ممکن است حتی با انجام درست دستور، نتیجه‌ای نامناسب یا ناخواسته تولید کند.
مشاهدهٔ جزئیاتامنیت و ایمنی هوش مصنوعی
Attributionانتساب
انتساب؛ نسبت دادن یک خروجی، تصمیم یا محتوا به منبع، مؤلفه یا نویسنده مشخص؛ پایه اعتماد در گزارش‌های داده و خروجی مدل‌های مولد.
مشاهدهٔ جزئیات