Inference چیست ؟

بعد از اینکه یک مدل هوش مصنوعی آموزش دید، زمانی که ورودی تازه‌ای به آن می‌دهیم و مدل پاسخ یا پیش‌بینی تولید می‌کند، این مرحله را معمولاً Inference یا استنتاج می‌نامند.

یک مثال ساده: آموزش مدل شبیه دوره یادگیری قبل از امتحان است و Inference شبیه لحظه‌ای است که سؤال جدید روی برگه می‌آید و مدل باید با چیزهایی که یاد گرفته جواب بدهد.

وقتی از یک چت‌بات سؤال می‌پرسید، مدل در حال آموزش مجدد روی همان سؤال نیست. معمولاً مدل از وزن‌ها و الگوهای از قبل آموخته‌شده استفاده می‌کند تا خروجی را در همان لحظه بسازد.

سرعت و هزینه Inference در محصولات AI مهم است، چون هر بار استفاده کاربر به پردازش نیاز دارد. اندازه مدل، سخت‌افزار، طول ورودی و طول خروجی می‌توانند روی زمان و منابع مصرف‌شده اثر بگذارند.

Inference را با Training اشتباه نکنید. Training مرحله یادگیری و تنظیم مدل است؛ Inference مرحله استفاده از مدل آموزش‌دیده برای داده تازه. Fine-tuning هم نوعی آموزش اضافی است، نه همان پاسخ‌دادن روزمره مدل.