Noventix
پنل منشروع رایگان
اصطلاح هوش مصنوعی

Alignment

هم‌راستاسازی

هم‌راستاسازی؛ مطمئن شدن از این‌که رفتار هوش مصنوعی با ارزش‌ها و اهداف انسان هماهنگ است. اگر یک مدل با هدف واقعی کاربر هم‌راستا نباشد، ممکن است حتی با انجام درست دستور، نتیجه‌ای نامناسب یا ناخواسته تولید کند.

اخلاق، ایمنی و حاکمیت

تعریف کوتاه

هم‌راستاسازی؛ مطمئن شدن از این‌که رفتار هوش مصنوعی با ارزش‌ها و اهداف انسان هماهنگ است. اگر یک مدل با هدف واقعی کاربر هم‌راستا نباشد، ممکن است حتی با انجام درست دستور، نتیجه‌ای نامناسب یا ناخواسته تولید کند.

اصطلاحات مرتبط

ایمنی هوش مصنوعیAI Safetyمدل پاداشReward Modelیادگیری تقویتی از بازخورد انسانیRLHF (Reinforcement Learning from Human Feedback)
بازگشت به واژه‌نامه