Я пытаюсь реализовать приложение, использующее алгоритм AdaBoost. Я знаю, что AdaBoost использует набор слабых классификаторов, но я не знаю, что такое эти слабые классификаторы. Можете ли вы объяснить это мне примером и сказать мне, нужно ли мне создавать свои собственные слабые классификаторы, или я готов использовать какой-то алгоритм?
Слабый классификатор
Ответ 1
Когда я использовал AdaBoost, мои слабые классификаторы были в основном порогами для каждого атрибута данных. Эти пороговые значения должны иметь производительность более 50%, если бы не полная случайность.
Вот хорошая презентация об Adaboost и о том, как рассчитать эти слабые классификаторы: http://www.cse.cuhk.edu.hk/~lyu/seminar/07spring/Hongbo.ppt
Ответ 2
Слабые классификаторы (или слабые ученики) - это классификаторы, которые выполняют лишь немного лучше, чем случайный классификатор. Это, таким образом, классификаторы, которые имеют некоторое представление о том, как прогнозировать правильные метки, но не так сильно, как сильные классификаторы, например, Naive Bayes, Neurel Networks или SVM.
Одним из простейших слабых классификаторов является Decump Stump, который является одноуровневым деревом решений. Он выбирает порог для одной функции и разбивает данные на этом пороге. Затем AdaBoost будет обучать армию этих решающих пней, каждая из которых фокусируется на одной части характеристик данных.