Практикада машыктыруу: эпохалар, батчтар жана окуу ылдамдыгы
Нейрон тармак мисалдарды карап, божомол жасап, канчалык жаңылганын текшерип, сандарын бир аз оңдоп үйрөнөрүн сен мурда таанышкансың. Бул – окуянын бир сүйлөмдө айтылганы. Бул сабак болсо ошол окуянын толук чечмелениши: чыныгы машыктыруу кантип уюштурулат, экрандагы прогресстеги ар бир сөз эмнени билдирет, иштер жакшы жүрүп жатканын көрсөткөн графиктерди кантип окуйбуз жана тармакты жаттап алуу менен «алдап кетүүдөн» кантип токтотобуз. Сабактын аягында сен чыныгы машыктыруу журналын карап, жүрөктүн согушун окуган дарыгердей: «дени сак», «оорулуу» же «мына бул жерде так эмне бузук» деп айта аласың.
Сен эмнени жасай аласың
- батч (batch), итерация (кадам, step) жана эпоха (epoch) түшүнүктөрүн аныктап, машыктырууда алардын ар биринен канча болорун санай аласың.
- Эмне үчүн бир мисалдан же бүт маалыматтан эмес, мини-батчтар (mini-batch) менен машыктырарыбызды түшүндүрө аласың.
- Машыктыруу циклин (training loop) жөнөкөй псевдокод катары окуй аласың.
- Машыктырууну анын ийри сызыктары (training curves) боюнча диагноздойсуң: дени сак, жетишсиз машыктыруу, ашыкча машыктыруу же өтө жогорку окуу ылдамдыгы.
- Маалыматты машыктыруу / валидация / тест болуп туура бөлүп, тест топтому эмне үчүн бир гана жолу колдонуларын билесиң.
- Ашыкча машыктырууга каршы эрте токтотуу (early stopping), dropout, салмактын кемүүсү (weight decay) жана маалыматтарды көбөйтүүнү (data augmentation) колдоносуң.
- Акылга сыярлык баштапкы гиперпараметрлерди (hyperparameters) тандап, аларды бир өзгөртүүдөн кийин бирден жөнгө саласың.