انتظار

اصطلاح "انتظار" در زمینه یادگیری ماشین معمولاً به تعداد دوره ها اشاره دارد که باید منتظر بمانیم قبل از اینکه آموزش را در صورت عدم بهبود در معیار اعتبارسنجی متوقف کنیم. این در ارتباط با تکنیک هایی مانند توقف زودهنگام استفاده می شود تا از بیش برازش جلوگیری کند و تعمیم مدل را بهبود بخشد. مقدار "انتظار" یک فراپارامتر است که حداکثر تعداد عصور را برای ادامه آموزش بدون بهبود در معیار اعتبارسنجی مشخص می کند. مقادیر حداقل و حداکثر ارائه شده (به ترتیب 0 و 100000) محدوده ای را نشان می دهند که در آن می توان فراپارامتر "انتظار" را مشخص کرد. در اینجا معنی آن را می بینید: مقدار "انتظار" برابر با 0 به این معنی است که آموزش فوراً متوقف خواهد شد اگر پس از اولین دوره هیچ بهبودی مشاهده نشود. مقدار "انتظار" برابر با 100000 به این معنی است که آموزش حداکثر برای 100000 دوره ادامه خواهد یافت حتی اگر هیچ بهبودی مشاهده نشود. در عمل، مقدار "انتظار" معمولاً بر اساس آزمایش و عملکرد اعتبارسنجی انتخاب می شود. باید تعادلی بین اجازه دادن به مدل برای یادگیری الگوهای معنی دار در داده ها و جلوگیری از بیش برازش با توقف آموزش زمانی که عملکرد در مجموعه اعتبارسنجی شروع به تخریب می شود، برقرار کند. روش رایج این است که با یک مقدار نسبتاً کوچک برای "انتظار" شروع کنید و در صورت لزوم آن را تدریجاً افزایش دهید. مقادیر بین 5 تا 20 اغلب به عنوان نقطه شروع استفاده می شوند، اما مقدار بهینه ممکن است بسته به مجموعه داده، معماری مدل، و اهداف آموزش متفاوت باشد.