Human-in-the-Loop (HITL) چیست ؟

گاهی بهتر است هوش مصنوعی کار را تا یک مرحله جلو ببرد، اما تصمیم نهایی را انسان بگیرد. به این الگو Human-in-the-Loop یا HITL گفته می‌شود؛ یعنی انسان بخشی از چرخه تصمیم یا اجرای سیستم باقی می‌ماند.

مثلاً یک AI Agent می‌تواند درخواست بازپرداخت را بررسی و پیشنهاد آماده کند، اما اگر مبلغ از حد مشخصی بیشتر بود، اجرا تا زمان تأیید کارمند متوقف شود. در این مثال AI سرعت کار را بالا می‌برد ولی اختیار نهایی در نقطه حساس به انسان می‌رسد.

HITL فقط برای جلوگیری از اشتباه نیست. گاهی موضوع نیاز به قضاوت انسانی، مسئولیت حقوقی یا اطلاعاتی دارد که مدل به‌تنهایی نمی‌تواند درست ارزیابی کند.

البته اگر انسان صرفاً بدون توجه روی «تأیید» کلیک کند، وجود HITL فایده زیادی ندارد. فرد باید اطلاعات کافی برای فهم تصمیم پیشنهادی داشته باشد و بتواند آن را رد یا اصلاح کند.

در سیستم‌های Agentic، HITL یکی از راه‌های محدودکردن ریسک اقدام‌های حساس است. می‌توان اجازه داد کارهای کم‌خطر خودکار انجام شوند و عملیات مهم مانند پرداخت، حذف داده یا تغییر دسترسی به تأیید انسانی نیاز داشته باشند.