Линейная регрессия: предсказание чисел с помощью прямой

Представьте, что у вас есть горстка точек, разбросанных по графику, — каждая точка это реальная квартира, её площадь отложена по нижней оси, а цена по вертикальной. Виден общий тренд: квартиры побольше стоят дороже. Линейная регрессия (linear regression) это просто искусство провести одну прямую линию, которая проходит через середину этих точек как можно лучше, а затем использовать эту линию, чтобы угадать цену квартиры, которую вы никогда раньше не видели.

В этом и состоит вся идея. Машина «учит» линию по примерам, и после этого линия становится машиной предсказаний: дайте ей площадь, и она вернёт вам цену. На этом уроке мы построим эту линию вручную на реальных числах, точно разберёмся, что значит «наилучшая», и увидим, как компьютер шаг за шагом подгоняет линию на нужное место.

Что вы сможете делать после этого урока

• Объяснять простыми словами, что означает линейная модель $y = w\,x + b$, и что именно задают наклон $w$ и свободный член $b$.
• Использовать подобранную линию, чтобы предсказать число (например, цену квартиры) по входному значению (например, по площади).
• Измерять, насколько хороша линия, с помощью остатков (residuals), возведения в квадрат и среднеквадратичной ошибки (Mean Squared Error, MSE) — вычисляя их вручную.
• Описывать, как градиентный спуск (gradient descent) «спускается вниз по склону» в поисках наилучшей линии, и что делает скорость обучения (learning rate).
• Расширять линию на много признаков (features) (взвешенная сумма) и читать веса — осторожно — как важность признаков.
• Понимать, где линейная регрессия работает, а где нет, и читать R-квадрат ($R^2$) как долю объяснённой изменчивости.
• Обучать реальную модель в несколько строк на Python с помощью scikit-learn.