reverse boosting что это
Методы сбора ансамблей алгоритмов машинного обучения: стекинг, бэггинг, бустинг
Что такое ансамбли моделей?
Стекинг. Могут рассматриваться разнородные отдельно взятые модели. Существует мета-модель, которой на вход подаются базовые модели, а выходом является итоговый прогноз.
Бэггинг. Рассматриваются однородные модели, которые обучаются независимо и параллельно, а затем их результаты просто усредняются. Ярким представителем данного метода является случайный лес.
Бустинг. Рассматриваются однородные модели, которые обучаются последовательно, причем последующая модель должна исправлять ошибки предыдущей. Конечно, в качестве примера здесь сразу приходит на ум градиентный бустинг.
Рисунок 1
Три этих способа и будут детальнее рассмотрены далее.
Стекинг
Из трех вариантов стекинг является наименее популярным. Это можно проследить и по числу готовых реализаций данного метода в программных библиотеках. В том же sklearn.ensemble в python куда чаше используют AdaBoost, Bagging, GradientBoosting, чем тот же самый Stacking (хотя его реализация там тоже есть).
Стекинг выделяется двумя основными чертами: он может объединить в себе алгоритмы разной природы в качестве базовых. Например, взять метод опорных векторов (SVM), k-ближайших соседей (KNN) в качестве базовых и на основе их результатов обучить логистическую регрессию для классификации. Также стоит отметить непредсказуемость работы метамодели. Если в случае бэггинга и бустинга существует достаточно четкий и конкретный ансамблевый алгоритм (увидим далее), то здесь метамодель может с течением времени по-разному обучаться на входных данных.
Алгоритм обучения выглядит следующим образом (рис. 2):
Делим выборку на k фолдов (тот же смысл, что и в кросс-валидации).
Для объекта из выборки, который находится в k-ом фолде, делается предсказание слабыми алгоритмами, которые были обучены на k-1 фолдах. Этот процесс итеративен и происходит для каждого фолда.
Создается набор прогнозов слабых алгоритмов для каждого объекта выборки.
На сформированных низкоуровневыми алгоритмами прогнозах в итоге обучается метамодель.
Рисунок 2
Ссылки на библиотеки для использования метода приведены ниже:
Бэггинг
Бэггинг является уже более популярным подходом и зачастую при упоминании этого термина вспоминается алгоритм построения случайного леса, как наиболее типичного его представителя.
При данном методе базовые алгоритмы являются представителями одного и того же семейства, они обучаются параллельно и почти независимо друг от друга, а финальные результаты лишь агрегируются. Нам необходимо, чтобы на вход слабым алгоритмам подавались разные данные, а не один и тот же набор, ведь тогда результат базовых моделей будет идентичен и смысла в них не будет.
0.632*n разных объектов. Таким образом, должны сформироваться m обучающих выборок для m слабых алгоритмов.
Бутстрэп выборки являются в значительной степени независимыми. Отчасти поэтому и говорят, что базовые алгоритмы обучаются на выборках независимо.
Что касается агрегации выходов базовых алгоритмов, то в случае задачи классификации зачастую просто выбирается наиболее часто встречающийся класс, а в случае задачи регрессии выходы алгоритмов усредняются (рис. 3). В формуле под ai подразумеваются выходы базовых алгоритмов.
Рисунок 3
Общий процесс приведен на рисунке ниже (рис. 4):
Рисунок 4
Случайный лес
Рисунок 5
Ссылки на библиотеки для использования метода приведены ниже:
Бустинг
В данном случае, модели уже не обучаются отдельно друг от друга, а каждая следующая правит ошибки предыдущей. То есть можно сказать, что если один слабый алгоритм не смог выявить какую-либо закономерность в данных, так как это было для него сложно, то следующая модель должна сделать это. Но из данного подхода вытекает недостаток: работу алгоритма трудно распараллелить из-за зависимости предыдущего и последующего шагов.
Бустинг направлен скорее на уменьшение смещения в данных, чем на снижение разброса в них. Поэтому в качестве базовых алгоритмов могут браться модели с достаточно высоким смещением, например, неглубокие случайные деревья.
Рисунок 6
Типичными представителями бустинга являются две модели: градиентный бустинг и AdaBoost. Обе по-разному решают одну и ту же оптимизационную задачу по поиску итоговой модели, представляющей собой взвешенную сумму слабых алгоритмов (рис. 6).
Градиентный бустинг использует типичный алгоритм градиентного спуска для решения задачи. Когда приходит время добавить новый слабый алгоритм в ансамбль делается следующее:
Находится оптимальный вектор сдвига, улучшающий предыдущий ансамбль алгоритмов.
Этот вектор сдвига является антиградиентом от функции ошибок работы предыдущего ансамбля моделей
Благодаря вектору сдвигов мы знаем, какие значения должны принимать объекты обучающей выборки
А поскольку нам надо найти очередной алгоритм в композиции, то находим тот, при использовании которого минимизируется отклонение ответов от истинных
Ссылки на библиотеки для использования метода приведены ниже:
Заключение
Таким образом, мы увидели, что для того, чтобы улучшить качество функционирования отдельно взятых моделей машинного обучения, существует ряд техник их объединения в ансамбли. Эти техники уже заложены в программные продукты и ими можно пользоваться, улучшая свое решение. Однако, с моей точки зрения, при решении задачи не стоит сразу же браться за них. Лучше сначала попробовать одну простую, отдельную модель, понять, как она функционирует на конкретных данных, а уже дальше использовать ансамбли.
🤖 Решаем задачи машинного обучения с помощью алгоритма градиентного бустинга
Alex Maszański
Предположим, что вы играете в гольф. Чтобы загнать мяч в лунĸу, вам необходимо замахиваться клюшкой, каждый раз исходя из предыдущего удара. То есть перед новым ударом гольфист в первую очередь смотрит на расстояние между мячом и лунĸой после предыдущего удара, так как наша основная задача – при следующем ударе уменьшить это расстояние.
Стоит отметить, что для задач классификации и регрессии реализация алгоритма в программировании будет различаться.
Параметры алгоритма
Реализация на языке python (библиотека sklearn)
Результат работы кода:
Базовая модель градиентного бустинга с несложной простой настройкой дает нам точность более чем в 95% на задаче регрессии.
Какие библиотеки использовать?
Вы можете установить XGBoost следующим образом:
Библиотека XGBoost предоставляем нам разные классы для разных задач: XGBClassifier для классификации и XGBregressor для регрессии.
Вы можете установить LightGBM также при помощи pip:
Более того, главным преимуществом CatBoost (помимо улучшения скорости вычислений) является поддержка категориальных входных переменных. Из-за этого библиотека получила свое название CatBoost, от «Category Gradient Boosting» (Категориальный Градиентный Бустинг).
Вы можете установить CatBoost проверенным ранее путем:
Когда использовать?
Вы можете использовать алгоритм градиентного бустинга при следующих условиях:
Когда НЕ следует использовать XGBoost:
Плюсы и минусы
Хотя градиентный бустинг широко используется во всех областях науки о данных, от соревнований Kaggle до практических задач, многие специалисты все еще используют его как черный ящик. В этой статье мы разбили метод на более простые шаги, чтобы помочь читателям понять лежащие в основе работы алгоритма процессы. Удачи!
Бустинг — ещё один способ машинного обучения
Как с помощью слабых алгоритмов сделать сильный.
Мы уже говорили об общем принципе работы нейросетей для машинного обучения. Разберём другой — бустинг. Кто кого бустит и зачем?
Ноги бустинга растут из вопроса «можно ли с помощью нескольких слабых алгоритмов сделать один сильный?». Оказывается, что да. В этом и есть суть метода: строим серию не особо точных алгоритмов и обучаем их на ошибках друг друга.
Дерево решений
Чтобы понять бустинг, нужно сначала понять дерево решений. Вот это — очень простое дерево:
Сейчас это дерево решений, но может быть деревом предсказаний. Представьте, что в заголовке дерева написано «Выйдет ли Юзернейм гулять?» — и вы получите машину предсказаний, которая на основе данных о Юзернейме и погоде будет строить точные предсказания о Юзернейме — при условии, что мы задаём правильные вопросы.
Машина предсказания
Теперь пример сложнее. Допустим, у нас есть данные по миллиону музыкальных клипов на Ютубе. По каждому есть 100 критериев, например:
Также у нас есть данные о том, набрал ли клип больше миллиона просмотров. Мы хотим научиться предсказывать этот критерий — назовём его популярностью. То есть мы хотим получить некий алгоритм, которому на вход подаёшь 100 критериев клипа в формате да/нет, а на выходе он тебе говорит: «Этому клипу суждено стать популярным».
Миллион клипов, сто критериев — обучающая выборка для алгоритма
Первая проблема
Если мы захотим построить дерево предсказаний для этой задачи, мы столкнёмся с проблемой: мы не знаем, какие критерии ставить в начало, а какие в конец, какие запихивать в какие ветки, а какие вообще не нужны и потому не влияют.
Первый шаг решения
Чтобы построить дерево для такой задачи, мы должны будем сначала посчитать, насколько каждый критерий связан с желаемым результатом:
Среди миллиона клипов в обучающей выборке 300 000 выпустили известные лейблы. 120 000 из них стали популярны. Этот критерий лучше других предсказывает популярность
В итоге мы видим, что самая сильная связь с итоговой популярностью у критерия «Выпустил ли клип популярный лейбл». Получается, если клип выпустил лейбл, это влияет на успех сильнее, чем бочка или автотюн. Этот критерий встаёт на вершину дерева.
Затем мы смотрим, какой критерий поставить следующим. Берём те 300 000 клипов, которые выпустили лейблы, и прогоняем их по остальным критериям. Ищем тот, который даёт самую высокую итоговую точность предсказания.
Среди 300 000 клипов, которые выпустили лейблы, 250 000 клипов идут дольше 3 минут и 90 000 из них набрали больше миллиона просмотров. Этот критерий лучше других предсказывает популярность клипов лейбла
Ставим его на второе место.
То же самое делаем для другой ветки. И так строим последовательность из остальных критериев. На практике вручную этим не занимаются: есть специальные алгоритмы, которые делают это автоматически.
Оп, у нас появилось дерево решений:
Большинство клипов не взлетит, но какие-то станут популярными
Случайный лес
Есть проблема: построенное таким образом дерево очень сложное и, вероятно, не очень точное. Попробуем сделать не одно огромное дерево, а несколько небольших.
Возьмём случайную выборку из наших исходных данных. Не миллион клипов, а 10 000. К ним — случайный набор критериев, не все 100, а 5:
И построим дерево попроще:
Было много уровней, стало меньше
Так построим ещё несколько деревьев, каждое — на своём наборе данных и своём наборе критериев:
Лес алгоритмов
У нас появился случайный лес. Случайный — потому что мы каждый раз брали рандомный набор данных и критериев. Лес — потому что много деревьев.
Теперь запустим клип, которого не было в обучающей выборке. Каждое дерево выдаст свой вердикт, станет ли он популярным — «да» или «нет». Как голосование на выборах. Выбираем вариант, который получит больше всего голосов.
Три за, один против — клип ждёт успех. Наверное
Неслучайный лес — бустинг
Теперь построим похожий лес, но набор данных будет неслучайным. Первое дерево мы построим так же, как и раньше, на случайных данных и случайных критериях. А потом прогоним через это дерево контрольную выборку: другие клипы, по которым у нас есть все данные, но которые не участвуют в обучении. Посмотрим, где дерево ошиблось:
Первое дерево может давать много ошибок
Теперь делаем следующее дерево. Обратим внимание на места, где первое дерево ошиблось. Дадим этим ошибкам больший вес при подборе данных и критериев для обучения. Задача — сделать дерево, которое исправит ошибки предыдущего.
Учим дерево исправлять ошибки предшественника
Но второе дерево наделает своих ошибок. Делаем третье, которое их исправит. Потом четвёртое. Потом пятое. Вы поняли принцип.
Делаем такие деревья, пока не достигнем желаемой точности или пока точность не начнёт падать из-за переобучения. Получается, у нас много деревьев, каждое из которых не очень сильное. Но вместе они складываются в лес, который даёт хорошую точность. Бустинг!
И где это используют?
Бустинг часто используют в задачах, когда нейронные сети не очень подходят.
Нейросети хорошо справляются с однородными данными, например изображениями или голосом. А вот если данные разного характера и с разной структурой, то бустинг справляется лучше. Например, чтобы предсказать погоду, надо учесть температуру и влажность, данные с радаров, наблюдения пользователей и другие параметры. Бустинг с этим справляется отлично.
Вот что про бустинг рассказывает Роман Халкечев, руководитель отдела аналитики в Яндекс.Еде:
«В Яндексе повсеместно используем библиотеку CatBoost. Это внутренняя разработка, которую в 2017 году выложили в open source. Она помогает решать много задач, например, ранжирование в Поиске, предсказание в Погоде, рекомендации в Музыке.
Когда я работал в Такси, с помощью CatBoost мы решали такую задачу: когда пользователь только заказывает машину, в округе может не быть свободных водителей. Мы в таком случае выводим сообщение: «Нет свободных машин». Но при этом уже через несколько секунд может появиться доступный водитель.
С одной стороны, мы не хотим терять заказ. С другой — не хотим разочаровывать пользователя, который начал поиск такси, но так и не смог уехать, потому что никогда не нашлось.
С помощью CatBoost мы решили научиться предсказывать, сможем ли найти для конкретного пользователя машину после вызова. Это задача классификации — нужно отнести пользователя к одной из двух групп: «Сможем найти машину» или «Не сможем найти машину». Мы ориентировались на метрики precision и recall. Они позволяют найти баланс надёжности: не наобещать лишнего, но и не потерять заказы.
В итоге благодаря новому механизму совершается около 1% от всех поездок, а в некоторых городах и районах — до 15%».
Почитайте полное интервью с Романом, там много про аналитику и машинное обучение на практике →
How COD Warzone players are reverse boosting to avoid SBMM and get into easier lobbies
Reverse boosting is a method many players have been using in COD Warzone to make the game easier for themselves. This method involves joining lobbies and then missing shots to get killed early in the game.
This leads the game to believe that the players are weak and groups these strong players with those of a lower skill level. This is one of the loopholes of the skill-based matchmaking feature that COD Warzone has.
The problems with reverse boosting in COD Warzone
Performing well in COD Warzone will pit players against players who have the same level of skill. This tends to remove the fun aspects of the game. Players then tend to reverse boost to get placed in easier lobbies. Now, the problem lies in the fact that many professionals are also doing it to participate in tournaments.
This came to light back in October last year when 100Thieves member Tommey tweeted about how players were abusing the SBMM system in COD Warzone to get into tournaments with a K/D ratio cap.
To follow up on this whole tanking K/D, as far as I’m aware there’s no rule in Vikk’s tournament. That’s the difference from @NICKMERCS to this. They’d have dedicated guys looking through days of stats to make sure nothing like this got swept under the carpet.
The problem with this is that players who abuse the SBMM system in COD Warzone to place in tournaments make it difficult for other players who actually deserve to be in those tournaments. In a way, this also qualifies as cheating.
Tricking the SBMM system by reverse boosting has become very popular off late. Activision is yet to patch this. Although many streamers use this method to generate content for themselves, using a disclaimer in their streams could be a wise choice.
Итак, чтобы помочь прояснить эти различия между этой четверкой, вот небольшая статья.
Исторические факты о дисторшене: первой педалью, генерирующей дисторшн, был фуз. Однако до того, как возникла эта новаторская единица гармонического смешения, Линк Рэй, часто упускаемый из виду, в 1958 году записал инструментал под названием «Rumble», в котором звучал сильно искаженный гитарный звук. Как Линку удалось достичь этого звука? Проделав дыры в конусах его динамиков карандашом, вот как! Вышеупомянутый сингл был запрещен радио США, но вдохновил таких, как Пит Таунсенд из The Who, взять в руки гитару. Линк, возможно, не был первым, кто записал звук с искаженным гитарным звуком, но его влияние неоспоримо.
Часть I. Что такое искажение?
«Словарное определение» этого слова: акт искажения или изменения чего-либо из его истинного, естественного или исходного состояния.
Искажение звука: искаженное воспроизведение звукового сигнала, вызванное изменением формы волны исходного сигнала.
Чтобы лучше понять, что такое искажение и что оно делает, давайте кратко рассмотрим «истинное, естественное состояние» сигнала «чистой» гитарной ноты, прежде чем он подвергнется пыткам и деформируется в искажение. Представьте простую синусоиду.
Усилители, лампы, педали или динамики искажают эту красивую, гладкую, симметричную волну, отрубая (или отсекая) ее вершины (пики) и низы (впадины).
Вышеизложенное, как уже было сказано, представляет собой очень простой, базовый обзор гораздо более сложного звукового объекта. Например, часто задействованное отсечение далеко не симметрично (то есть деформация пиков и впадин, вызванная искажением, асимметрична) или красивое на вид, но, надеемся, этот быстрый взгляд оказался полезным для вас.
Часть II: Как исказить гитарную ноту?
Как мы только что узнали в Части I, искажение осуществляется путем отсечения формы волны ноты и, таким образом, добавления к ней дополнительных гармоник. Это можно сделать двумя основными способами:
Метод 1: Поднимите сигнал (до 11)!
Так называемый порог, представляет собой максимальный выходной уровень вашего сигнала. Пространство между пиком формы волны сигнала и линией порога известно как «запас по громкости».
И так же, как пол и потолок в коридоре, эти две линии являются неподвижными объектами. Следовательно, когда форма волны сигнала становится выше, чем запас по громкости, волна должна трансформироваться, чтобы соответствовать этим двум линиям, а не наоборот.
Итак, чтобы отсечь волну, нам просто нужно усилить ее, чтобы она была больше порога. И чем больше мы делаем волну относительно высоты запаса, тем более искаженным становится сигнал.
Кроме того, чем ниже сделан потолок, тем более искаженным приходится делать тело парню, чтобы пройти по указанному коридору.
Педали Boost.
Как правило, основные отличия педалей буста от своих собратьев овердрайвов, дисторшну и фуззу заключаются в следующем: они обычно НЕ содержат схемы клиппирования (то есть добавления искажений); тогда как другие содержат. Функция педали усиления (boost) обычно состоит в том, чтобы добавить чистое усиление к сигналу вашей гитары, а именно сделать его больше (и, следовательно, громче), но не изменять его (т.е. искажать) каким-либо образом.
Чтобы подчеркнуть этот факт, производители часто используют термин чистый буст при описании функции такой педали.
С учетом вышеизложенного, чистая педаль усиления может и будет перегружать усилитель до искажения, если уровень усиления таков, что сигнал, попадающий в усилитель, превышает пороговое значение предусилителя. Это часто называют фронтальным усилителем, и это очень желательно для многих. Из-за этого рок-гитаристы часто используют педали буста, чтобы «разогреть» уже перегруженный усилитель.
Педаль буста также может добавить определенного звука педали овердрайва или дисторшна, если она помещена перед ней и обе педали задействованы. Некоторые педали овердрайва и дисторшна имеют встроенные переключаемые опции «Boost».
Буквальная педаль «чистого буста» всегда будет иметь только один регулятор уровня (буста). Некоторые, однако, имеют переключатель или регулятор тембра (или три!) для тональной настройки желаемого усиления.
Педали Overdrive.
У этих «плохих парней» обычно есть по крайней мере три регулятора: один для громкости (или уровня), один для драйва (или усиления) и один для тона. Некоторые дошли до того, что имеют регуляторы для низких, средних и высоких частот, что позволяет дополнительно настраивать тон.
Еще одно отличие состоит в следующем: хотя педаль овердрайва чертовски сильно «разогревает» ваш сигнал, она не сильно меняет ваш существующий тон. Педали дисторшн, с другой стороны, не только добавляют больше насыщенности (или изюминки), но также имеют тенденцию изменять ваш звук.
Для ушей (и пальцев) многих, в том числе некоторых из наиболее уважаемых тон-гитаристов, звук педали овердрайва, используемой для разогревания и без того хрустящего лампового усилителя, очень желателен. И отчасти причина в том, что комбинация овердрайв педали и усилителя более сложна и не может быть достигнута ни одним из устройств по отдельности. Следует отметить, что это часто делается с регулятором громкости педали овердрайва на максимум и выключенным регулятором усиления, что фактически делает его своего рода чистым устройством буста.
Так же, как педали овердрайва, педали дисторшна обычно используют операционные усилители и диоды для достижения желаемого ограничения. Они также, как правило, имеют три (громкость, тон, искажение) или более (например, громкость, низкие частоты, средние, высокие, искажение) регулятора.
Однако, в отличие от педалей овердрайва, из-за огромной насыщенности, которую педаль дисторшна добавляет вашему тону, они не очень чувствительны к тонким нюансам выбора.
По легенде, первая запись «нечеткой гитары» была одной из тех чудесных счастливых случайностей! По всей видимости, виной всему была неисправная микшерная панель с ламповым питанием, и всем участникам понравился полученный звук, поэтому его оставили.
Используемый транзистор часто оказывает огромное влияние на тип создаваемого фузза. Кремниевые транзисторы генерируют яркий агрессивный фузз, в то время как германиевые имеют тенденцию к более плавному и теплому звучанию.
Заключение.
Как и все тональные вещи, здесь нет ничего лучшего, правильного или, если на то пошло, неправильного. Все, что, по вашему мнению, лучше всего подходит вашему стилю и звучанию, является правильным, независимо от мнения других. Руководствуйтесь своей интуицией и не бойтесь экспериментировать. Иногда, казалось бы, диковинное или нелогичное сочетание педалей может быть волшебным.
Комментарии
Не комментариев. Будьте первым, кто оставит комментарий.