задача регрессии в машинном обучении это

Регрессия в машинном обучении: оптимальный алгоритм

Регрессия используется в ML. Рассмотрим несколько алгоритмов и определим, как их использовать, исходя из преимуществ и недостатков.

задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это

Сталкиваясь с какой-либо проблемой в ML, помните, что есть множество алгоритмов, позволяющих её решить. Однако не существует такого универсального алгоритма, который подходил бы под все случаи и решал абсолютно все проблемы.

Выбор алгоритма строго зависит от размера и структуры ваших данных. Таким образом, выбор правильного алгоритма может быть неясен до тех пор, пока мы не проверим возможные варианты и не наткнёмся на ошибки.

Но каждый алгоритм обладает как преимуществами, так и недостатками, которые можно использовать в качестве руководства для выбора наиболее подходящего под ситуацию.

Линейная и полиномиальная регрессия

задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это

Начнём с простого. Одномерная (простая) линейная регрессия – это метод, используемый для моделирования отношений между одной независимой входной переменной (переменной функции) и выходной зависимой переменной. Модель линейная.

Более общий случай – множественная линейная регрессия, где создаётся модель взаимосвязи между несколькими входными переменными и выходной зависимой переменной. Модель остаётся линейной, поскольку выходное значение представляет собой линейную комбинацию входных значений.

Также стоит упомянуть полиномиальную регрессию. Модель становится нелинейной комбинацией входных переменных, т. е. среди них могут быть экспоненциальные переменные: синус, косинус и т. п. Модели регрессии можно обучить с помощью метода стохастического градиента.

Преимущества:

Недостатки:

Нейронные сети

задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это

Нейронная сеть состоит из взаимосвязанных групп узлов, называемых нейронами. Входные данные передаются в эти нейроны в виде линейной комбинации со множеством переменных. Значение, умножаемое на каждую функциональную переменную, называется весом. Затем к этой линейной комбинации применяется нелинейность, что даёт нейронной сети возможность моделировать сложные нелинейные отношения. Чаще всего нейросети бывают многослойными: выход одного слоя передается следующему так, как описано выше. На выходе нелинейность не применяется.

Нейронные сети тренируются с помощью метода стохастического градиента и алгоритма обратного распространения ошибки.

Преимущества:

Недостатки:

Дерево принятия решений и Случайный лес

задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это

Начнём с простого случая. Дерево принятия решений – это представления правил, находящихся в последовательной, иерархической структуре, где каждому объекту соответствует узел, дающий решение. При построении дерева важно классифицировать атрибуты так, чтобы создать “чистые” узлы. То есть выбранный атрибут должен разбить множество так, чтобы получаемые в итоге подмножества состояли из объектов, принадлежащих к одному классу, или были максимально приближены к этому, т.е. количество объектов из других классов в каждом из этих множеств было как можно меньше.

“Случайные лес” – совокупность деревьев принятия решений. Входной вектор проходит через несколько деревьев решений. Для регрессии выходное значение всех деревьев усредняется; для классификации используется схема голосования для определения конечного класса.

Источник

Базовые принципы машинного обучения на примере линейной регрессии

задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении этоЗдравствуйте, коллеги! Это блог открытой русскоговорящей дата саентологической ложи. Нас уже легион, точнее 2500+ человек в слаке. За полтора года мы нагенерили 800к+ сообщений (ради этого слак выделил нам корпоративный аккаунт). Наши люди есть везде и, может, даже в вашей организации. Если вы интересуетесь машинным обучением, но по каким-то причинам не знаете про Open Data Science, то возможно вы в курсе мероприятий, которые организовывает сообщество. Самым масштабным из них является DataFest, который проходил недавно в офисе Mail.Ru Group, за два дня его посетило 1700 человек. Мы растем, наши ложи открываются в городах России, а также в Нью-Йорке, Дубае и даже во Львове, да, мы не воюем, а иногда даже и употребляем горячительные напитки вместе. И да, мы некоммерческая организация, наша цель — просвещение. Мы делаем все ради искусства. (пс: на фотографии вы можете наблюдать заседание ложи в одном из тайных храмов в Москве).

Мне выпала честь сделать первый пост, и я, пожалуй, отклонюсь от своей привычной нейросетевой тематики и сделаю пост о базовых понятиях машинного обучения на примере одной из самых простых и самых полезных моделей — линейной регрессии. Я буду использовать язык питон для демонстрации экспериментов и отрисовки графиков, все это вы с легкостью сможете повторить на своем компьютере. Поехали.

Формализмы

задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это

Машинное обучение — это подраздел искусственного интеллекта, в котором изучаются алгоритмы, способные обучаться без прямого программирования того, что нужно изучать. Линейная регрессия является типичным представителем алгоритмов машинного обучения. Для начала ответим на вопрос «а что вообще значит обучаться?». Ответ на этот вопрос мы возьмем из книги 1997 года (стоит отметить, что оглавление этой книги не сильно отличается от современных книг по машинному обучению).

Говорят, что программа обучается на опыте задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении этоотносительно класса задач задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении этов смысле меры качества задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это, если при решении задачи задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении этокачество, измеряемое мерой задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это, возрастает при демонстрации нового опыта задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это.

Можно выделить следующие задачи задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это, решаемые машинным обучением: обучение с учителем, обучение без учителя, обучение с подкреплением, активное обучение, трансфер знаний и т.д. Регрессия (как и классификация) относится к классу задач обучения с учителем, когда по заданному набору признаков наблюдаемого объекта необходимо спрогнозировать некоторую целевую переменную. Как правило, в задачах обучения с учителем, опыт задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении этопредставляется в виде множества пар признаков и целевых переменных: задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это. В случае линейной регрессии признаковое описание объекта — это действительный вектор задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это, а целевая переменная — это скаляр задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это. Самой простой мерой качества задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении этодля задачи регрессии является задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это, где задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это— это наша оценка реального значения целевой переменной.

У нас есть задача, данные и способ оценки программы/модели. Давайте определим, что такое модель, и что значит обучить модель. Предиктивная модель – это параметрическое семейство функций (семейство гипотез):

задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это

задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это

Получается, что алгоритм обучения — это отображение из набора данных в пространство гипотез. Обычно процесс обучения с учителем состоит из двух шагов:

задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это

Но, к сожалению, такой интеграл не посчитать, т.к. распределение задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении этонеизвестно, иначе и задачи не было бы. Но мы можем посчитать эмпирическую оценку риска, как среднее значение функции стоимости:

задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это

Тогда, согласно принципу минимизации эмпирического риска, мы должны выбрать такую гипотезу задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это, которая минимизирует задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это:

задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это

У данного принципа есть существенный недостаток, решения найденные таким путем будут склонны к переобучению. Мы говорим, что модель обладает обобщающей способностью, тогда, когда ошибка на новом (тестовом) наборе данных (взятом из того же распределения задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это) мала, или же предсказуема. Переобученная модель не обладает обобщающей способностью, т.е. на обучающем наборе данных ошибка мала, а на тестовом наборе данных ошибка существенно больше.

Линейная регрессия

задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это

Эмпирический риск (функция стоимости) принимает форму среднеквадратичной ошибки:

задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это

строки матрицы задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это— это признаковые описания наблюдаемых объектов. Один из алгоритмов обучения задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении этотакой модели — это метод наименьших квадратов. Вычислим производную функции стоимости:

задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это

приравняем к нулю и найдем решение в явном виде:

задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это

Поздравляю, дамы и господа, мы только что с вами вывели алгоритм машинного обучения. Реализуем же этот алгоритм. Начнем с датасета, состоящего всего из одного признака. Будем брать случайную точку на синусе и добавлять к ней шум — таким образом получим целевую переменную; признаком в этом случае будет координата задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это:

задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это

А теперь реализуем алгоритм обучения, используя магию NumPy:

задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это

Как мы видим, линия не очень-то совпадает с настоящей кривой. Среднеквадратичная ошибка равна 0.26704 условных единиц. Очевидно, что если бы вместо линии мы использовали кривую третьего порядка, то результат был бы куда лучше. И, на самом деле, с помощью линейной регрессии мы можем обучать нелинейные модели.

Полиномиальная регрессия

задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это

Если заранее предрассчитать все степени признаков, то задача опять сводится к описанному выше алгоритму — методу наименьших квадратов. Попробуем отрисовать графики нескольких полиномов разных степеней.

задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это

На графике мы можем наблюдать сразу два феномена. Пока не обращайте внимание на 13-ую степень полинома. При увеличении степени полинома, средняя ошибка продолжает уменьшаться, хотя мы вроде были уверены, что именно кубический полином должен лучше всего описывать наши данные.

perror
10.26704
20.22495
30.08217
50.05862
70.05749
100.0532
135.76155

Это явный признак переобучения, который можно заметить по визуализации даже не используя тестовый набор данных: при увеличении степени полинома выше третьей модель начинает интерполировать данные, вместо экстраполяции. Другими словами, график функции проходит точно через точки из тренировочного набора данных, причем чем выше степень полинома, тем через большее количество точек он проходит. Степень полинома отражает сложность модели. Таким образом, сложные модели, у которых степеней свободы достаточно много, могут попросту запомнить весь тренировочный набор, полностью теряя обобщающую способность. Это и есть проявление негативной стороны принципа минимизации эмпирического риска.

Вернемся к полиному 13-ой степени, с ним явно что-то не так. По идее, мы ожидаем, что полином 13-ой степени будет описывать тренировочный набор данных еще лучше, но результат показывает, что это не так. Из курса линейной алгебры мы помним, что обратная матрица существует только для несингулярных матриц, т.е. тех, у которых нет линейной зависимости колонок или строк. В методе наименьших квадратов нам необходимо инвертировать следующую матрицу: задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это. Для тестирования на линейную зависимость или мультиколлинеарность можно использовать число обусловленности матрицы. Один из способов оценки этого числа для матриц — это отношение модуля максимального собственного числа матрицы к модулю минимального собственного числа. Большое число обусловленности матрицы, или же наличие одного или нескольких собственных чисел близких к нулю свидетельствует о наличии мультиколлинеарности (или нечеткой мультиколлиниарности, когда задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это). Такие матрицы называются слабо обусловленными, а задача — некорректно поставленной. При инвертировании такой матрицы, решения имеют большую дисперсию. Это проявляется в том, что при небольшом изменении начальной матрицы, инвертированные будут сильно отличаться друг от друга. На практике это всплывет тогда, когда к 1000 семплов, вы добавите всего один, а решение МНК будет совсем другим. Посмотрим на собственные числа полученной матрицы, нас там ждет сюрприз:

задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это

Все так, numpy вернул два комплекснозначных собственных значения, что идет вразрез с теорией. Для симметричных и положительно определенных матриц (каковой и является матрица задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это) все собственные значения должны быть действительные. Возможно, это произошло из-за того, что при работе с большими числами матрица стала слегка несимметричной, но это не точно ¯\_(ツ)_/¯. Если вы вдруг найдете причину такого поведения нумпая, пожалуйста, напишите в комменте.

UPDATE (один из членов ложи по имени Андрей Оськин, с ником в слаке skoffer, без аккаунта на хабре, подсказывает):

Есть только одно замечание — не надо пользоваться формулой `(X^T X^<-1>) X^T` для вычисления коэффициентов линейной регрессии. Проблема с расходящимися значениями хорошо известна и на практике используют `QR` или `SVD`.

Ну, то есть вот такой кусок кода даст вполне приличный результат:

Перед тем как перейти к следующему разделу, давайте посмотрим на амплитуду параметров полиномиальной регрессии. Мы увидим, что при увеличении степени полинома, размах значений коэффициентов растет чуть ли не экспоненциально. Да, они еще и скачут в разные стороны.

задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это
задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это
задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это
задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это
задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это
задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это

задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении этоРегуляризация

задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это

задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это

Новая функция стоимости примет вид:

задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это

Вычислим производную по параметрам:

задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это

И найдем решение в явном виде:

задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это

задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это

Для такой матрицы число обусловленности будет равно: задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это, где задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это— это собственные числа матрицы. Таким образом, увеличивая параметр регуляризации мы уменьшаем число обусловленности, а обусловленность задачи улучшается.

задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это

perror
10.26748
20.22546
30.08803
100.05833
120.05585
130.05638

В результате даже 13-ая степень ведет себя так, как мы ожидаем. Графики немного сгладились, хотя мы все равно наблюдаем небольшое переобучение на степенях выше третьей, что выражается в интерполяции данных в правой части графика.

задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это
задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это
задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это
задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это
задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это
задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это

Амплитуда коэффициентов также изменилась, хотя скакать в разные стороны они не перестали. Мы помним, что полином третьей степени должен лучше всего описывать наши данные, хотелось бы, чтобы в результате регуляризации все коэффициенты при полиномиальных признаках степени выше третьей были равны нулю. И, оказывается, есть и такой регуляризатор.

задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении эторегуляризация

задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это

Тогда задача примет вид:

задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это

Посчитаем производную по параметрам модели (надеюсь уважаемые господа не будут пинать меня, за то, что я вжух и взял производную по модулю):

задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это

К сожалению, такая задача не имеет решения в явном виде. Для поиска хорошего приближенного решения мы воспользуемся методом градиентного спуска, тогда формула обновления весов примет вид:

задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это

а в задаче появляется еще один гиперпараметр задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это, отвечающий за скорость спуска, его в машинном обучении называют скоростью обучения (learning rate).
Запрограммировать такой алгоритм не составит труда, но нас ждет еще один сюрприз:

Получим такую вот эволюцию ошибки:

Даже при такой небольшой скорости обучения, ошибка все равно растет и очень даже стремительно. Причина в том, что каждый признак измеряется в разных масштабах, от небольших чисел у полиномиальных признаков 1-2 степени, до огромных при 12-13 степени. Для того чтобы итеративный процесс сошелся, необходимо либо выбрать экстремально мелкую скорость обучения, либо каким-то образом нормализовать признаки. Применим следующее преобразование к признакам и попробуем запустить процесс еще раз:

задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это

задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это

Такое преобразование называется стандартизацией, распределение каждого признака теперь имеет нулевое матожидание и единичную дисперсию.

Все стало сильно лучше.
задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это

Нарисуем теперь все графики:

задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это

perror
10.27204
20.23794
30.24118
100.18083
120.16069
130.15425

Если посмотреть на коэффициенты, мы увидим, что большая часть из них близка к нулю (то, что у 13-ой степени коэффициент совсем не нулевой, можно списать на шум и малое количество примеров в обучающей выборке; так же стоит помнить, что теперь все признаки измеряются в одинаковых шкалах).

задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это
задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это
задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это
задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это
задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это
задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это

Описанный способ построения регрессии называется LASSO регрессия. Очень хотелось бы думать, что дядька на коне бросает веревку и ворует коэффициенты, а на их месте остается нуль. Но нет, LASSO = least absolute shrinkage and selection operator.

Байесовская интерпретация линейной регрессии

Две вышеописанные регуляризации, да и сама лининейная регрессия с квадратичной функцией ошибки, могут показаться какими-то грязными эмпирическими трюками. Но, оказывается, если взглянуть на эту модель с другой точки зрения, с точки зрения байесовой статистики, то все становится по местам. Грязные эмпирические трюки станут априорными предположениями. В основе байесовой статистики находится формула Байеса:

задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это

задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это

В то время как в байесовом подходе интересуются апостериорным распределением:

задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это

Часто получается так, что интеграл, полученный в результате байесового вывода, крайне нетривиален (в случае линейной регрессии это, к счастью, не так), и тогда нужна точечная оценка. Тогда мы интересуемся максимумом апостериорного распределения (MAP = maximum a posteriori):

задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это

Давайте сравним ML и MAP гипотезы для линейной регрессии, это даст нам четкое понимание смысла регуляризаций. Будем считать, что все объекты из обучающей выборки были взяты из общей популяции независимо и равномерно распределенно. Это позволит нам записать совместную вероятность данных (правдоподобие) в виде:

задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это

А также будем считать, что целевая переменная подчиняется следующему закону:

задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это

задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это

Т.е. верное значение целевой переменной складывается из значения детерминированной линейной функции и некоторой непрогнозируемой случайной ошибки, с нулевым матожиданием и некоторой дисперсией. Тогда, мы можем записать правдоподобие данных как:

задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это

удобнее будет прологарифмировать это выражение:

задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это

И внезапно мы увидим, что оценка, полученная методом максимального правдоподобия, – это то же самое, что и оценка, полученная методом наименьших квадратов. Сгенерируем новый набор данных большего размера, найдем ML решение и визуализируем его.

задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это

По оси абсцисс и ординат отложены различные значения всех двух параметров модели (решаем именно линейную регрессию, а не полиномиальную), цвет фона пропорционален значению правдоподобия в соответствующей точке значений параметров. ML решение находится на самом пике, где правдоподобие максимально.

Найдем MAP оценку параметров линейной регрессии, для этого придется задать какое-нибудь априорное распределение на параметры модели. Пусть для начала это будет опять нормальное распределение: задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это.

задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это

задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это

задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это

Если расписать логарифм этого выражения, то вы легко увидите, что добавление нормального априорного распределения — это то же самое, что и добавление задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении этонормы к функции стоимости. Попробуйте сделать это сами. Также станет ясно, что варьируя регуляризационный параметр, мы изменяем дисперсию априорного распределения: задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это.

задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это

Теперь на график добавились круги, исходящие от центра — это плотность априорного распределения (круги, а не эллипсы из-за того, что матрица ковариации данного нормального распределения диагональна, а на диагонали находится одно и то же число). Точками обозначены различные решения MAP задачи. При увеличении параметра регуляризации (что эквивалентно уменьшению дисперсии), мы заставляем решение отдаляться от ML оценки и приближаться к центру априорного распределения. При большом значении параметра регуляризации, все параметры будут близки к нулю.

Естественно мы можем наложить и другое априорное распределение на параметры модели, например распределение Лапласа, тогда получим то же самое, что и при задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении эторегуляризации.

задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это

задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это

Тогда апостериорное распределение примет вид:

задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это

задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это

Глобальная динамика не изменилась: увеличиваем параметр регуляризации — решение приближается к центру априорного распределения. Также мы можем наблюдать, что такая регуляризация способствует нахождению разреженных решений: вы можете видеть два участка, на которых сначала один параметр равен нулю, затем второй параметр (в конце оба равны нулю).

И на самом деле два описанных регуляризатора — это частные случаи наложения обобщенного нормального распределения в качестве априорного распределения на параметры линейной регрессии:

задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это

задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это

Или же мы можем смотреть на эти регуляризаторы с точки зрения ограничения задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении этонормы, как в предыдущей части:

задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это

задача регрессии в машинном обучении это. Смотреть фото задача регрессии в машинном обучении это. Смотреть картинку задача регрессии в машинном обучении это. Картинка про задача регрессии в машинном обучении это. Фото задача регрессии в машинном обучении это

Заключение

Здесь вы найдете jupyter notebook со всем вышеописанным и несколькими бонусами. Отдельное спасибо тем, кто осилил этот текст до конца.

Желающим копнуть эту тему глубже, рекомендую:

Источник

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *