Как устроена нейронная сеть
Главная идея: Нейронная сеть — это не таинственный цифровой мозг. Это огромный набор очень простых вычислителей, называемых искусственными нейронами, соединённых в слои. Каждый нейрон принимает числа, умножает их на значения «важности», называемые весами, складывает результаты и решает, передавать ли сигнал дальше. Соедините тысячи таких простых элементов, настройте их веса в ходе обучения — и вся система сможет распознавать лица, переводить языки и рекомендовать видео, хотя ни один отдельный нейрон вообще ничего не понимает.
К концу этого урока вы сможете:
- Объяснить, как работает искусственный нейрон: входы, веса, смещение и активация.
- Вычислить простую взвешенную сумму с небольшими числами и определить, «срабатывает» ли нейрон.
- Назвать три вида слоёв — входной, скрытые, выходной — и объяснить, что делает каждый из них.
- Объяснить, что означает слово «глубокое» в глубоком обучении (много скрытых слоёв).
- Описать обучение как процесс подстройки миллионов «ручек»-весов ради уменьшения ошибок.
- Объяснить, почему ранние слои распознают простые узоры, а поздние — их комбинации.
1. Свободное вдохновение мозгом
В вашем мозге примерно 86 миллиардов клеток, называемых нейронами. Биологический нейрон получает электрические сигналы от соседей через ветвящиеся отростки. Если суммарный входящий сигнал достаточно силён, нейрон «срабатывает» и посылает собственный сигнал дальше, другим нейронам. Мышление, зрение и память возникают из миллиардов таких крошечных решений «сработать или промолчать», происходящих одновременно.