Методики для 1 класса на адаптацию: Методическая разработка (1 класс) на тему: Методики диагностики адаптации первоклассников

При обучении глубоких нейронных сетей часто полезно снизить скорость обучения в процессе обучения. Это может быть сделано с использованием предварительно определенных расписаний или адаптивных методов обучения . В этой статье я обучаю сверточную нейронную сеть на CIFAR-10, используя различные графики скорости обучения и методы адаптивной скорости обучения, чтобы сравнить их модельные характеристики.

Графики скорости обучения стремятся регулировать скорость обучения во время обучения, уменьшая скорость обучения в соответствии с заранее определенным расписанием. Обычные графики скорости обучения включают основанное на времени затухание , ступенчатое затухание и экспоненциальное затухание . Для наглядности я строю сверточную нейронную сеть, обученную на CIFAR-10, используя алгоритм оптимизации стохастического градиентного спуска (SGD) с различными графиками скорости обучения для сравнения характеристик.

Постоянная скорость обучения

Постоянная скорость обучения является графиком скорости обучения по умолчанию в оптимизаторе SGD в Керасе. Импульс и скорость затухания по умолчанию установлены на ноль. Сложно выбрать правильную скорость обучения. Экспериментируя с диапазоном скоростей обучения в нашем примере, лр = 0,1 показывает относительно хорошую производительность для начала. Это может послужить нам базой для экспериментов с различными стратегиями скорости обучения.

 керас.оптимизаторы.SGD (lr = 0.1, импульс = 0.0, распад = 0.0, nesterov =  False ) 

Затухание, основанное на времени

Математическая форма затухания, основанного на времени, составляет lr = lr0 / (1 + kt) , где lr , k — гиперпараметры, а t — номер итерации. Рассматривая исходный код Keras, оптимизатор SGD принимает спада, и lr аргументов и обновляет скорость обучения с уменьшающимся коэффициентом в каждую эпоху.

 lr * = (1. / (1. + self.decay * self.iterations)) 

Momentum — это еще один аргумент в оптимизаторе SGD, который можно настроить для получения более быстрой сходимости. В отличие от классической SGD, метод импульса помогает вектору параметров наращивать скорость в любом направлении с постоянным градиентным спуском, чтобы предотвратить колебания. Типичный выбор импульса составляет от 0,5 до 0,9.

SGD оптимизатор также имеет аргумент nesterov , который по умолчанию имеет значение false.Нестеровский импульс — это другой вариант метода импульса, который имеет более сильные теоретические гарантии сходимости для выпуклых функций. На практике это работает немного лучше, чем стандартный импульс.

В Keras мы можем реализовать затухание на основе времени, задав начальную скорость обучения, скорость затухания и импульс в оптимизаторе SGD.

 learning_rate = 0,1 
 decay_rate = learning_rate / epochs 
 График пошагового распада снижает коэффициент обучения каждые несколько эпох.floor (epoch / epochs_drop) 

Типичным способом является снижение скорости обучения наполовину каждые 10 эпох. Чтобы реализовать это в Keras, мы можем определить функцию пошагового затухания и использовать обратный вызов LearningRateScheduler, чтобы взять функцию пошагового затухания в качестве аргумента и вернуть обновленные скорости обучения для использования в оптимизаторе SGD.

 def step_decay (эпоха): 
 initial_lrate = 0,1 
 drop = 0,5 
 epochs_drop = 10,0 
 lrate = initial_lrate * math.pow (drop, 
 math.floor ((1 + epoch) / epochs_drop)) 
 return lratelrate = LearningRateS (step_decay) 

В качестве отступления обратный вызов — это набор функций, которые должны применяться на определенных этапах процедуры обучения.Мы можем использовать обратные вызовы, чтобы получить представление о внутренних состояниях и статистике модели во время обучения. В нашем примере мы создаем пользовательский обратный вызов, расширяя базовый класс keras.callbacks.Callback для записи истории потерь и скорости обучения во время процедуры обучения.

 class LossHistory (keras.callbacks.Callback): 
 def on_train_begin (self, logs = {}): 
 self.losses = [] 
 self.lr = [] 
 def on_epoch_end (self, batch, logs = {} ): 
 self.losses.append (logs.get ('loss')) 
 self.lr.append (step_decay (len (self.losses))) 
 

Собрав все вместе, мы можем передать список обратных вызовов, состоящий из обратных вызовов LearningRateScheduler и нашего пользовательского обратного вызова, чтобы соответствовать модели. Затем мы можем визуализировать график скорости обучения и историю потерь, обратившись к loss_history.lr и loss_history.losses .

 loss_history = LossHistory () 
 lrate = LearningRateScheduler (step_decay) 
 callbacks_list = [loss_history, lrate] history = model.(−kt) , где  lr ,  k  - гиперпараметры, а  t  - номер итерации. Точно так же мы можем реализовать это путем определения экспоненциальной функции затухания и передать ее в  LearningRateScheduler . Фактически, любой пользовательский график распада может быть реализован в Keras, используя этот подход. Единственное отличие заключается в определении другой пользовательской функции затухания. 
 
 def exp_decay (эпоха): 
 initial_lrate = 0,1 
 k = 0,1 
 lrate = initial_lrate * exp (-k * t) 
 return lratelrate = LearningRateScheduler (exp_decay) 
Рис. 4a: График экспоненциального убыванияФиг 4b: Расписание экспоненциального убывания Теперь мы сравним точность модели, используя различные графики скорости обучения в нашем примере.
 Рис. 5. Сравнение характеристик различных расписаний скорости обучения
 Проблема использования расписаний скорости обучения заключается в том, что их гиперпараметры должны быть определены заранее, и они сильно зависят от типа модели и проблемы. Другая проблема заключается в том, что одинаковая скорость обучения применяется ко всем обновлениям параметров. Если у нас есть редкие данные, мы можем вместо этого обновить параметры в другой степени.
 Алгоритмы адаптивного градиентного спуска, такие как Adagrad ,  Adadelta, RMSprop ,  Adam, предоставляют альтернативу классическому SGD.Эти методы оценки скорости обучения для каждого параметра обеспечивают эвристический подход, не требуя дорогостоящей работы по настройке гиперпараметров для расписания скорости обучения вручную.
 Вкратце,  Adagrad  выполняет большие обновления для более разреженных параметров и меньшие обновления для менее разреженных параметров. Он имеет хорошую производительность с разреженными данными и обучением крупномасштабной нейронной сети. Тем не менее, его монотонная скорость обучения обычно оказывается слишком агрессивной и перестает учиться слишком рано при обучении глубоких нейронных сетей. Adadelta  - это расширение Adagrad, которое стремится снизить свою монотонно уменьшающуюся скорость обучения.  RMSprop  очень просто настраивает метод Адаграда, пытаясь снизить его монотонно уменьшающуюся скорость обучения.  Adam  - это обновление оптимизатора RMSProp, похожее на RMSprop с импульсом.
 В Keras мы можем легко реализовать эти алгоритмы адаптивного обучения, используя соответствующие оптимизаторы. Обычно рекомендуется оставлять гиперпараметры этих оптимизаторов на их значениях по умолчанию (за исключением иногда  lr ).
 keras.optimizers.Adagrad (lr = 0,01, эпсилон = 1e-08, распад = 0,0) keras.optimizers.Adadelta (lr = 1,0, rho = 0,95, эпсилон = 1e-08, распад = 0,0) keras.optimizers. RMSprop (lr = 0,001, rho = 0,9, эпсилон = 1e-08, распад = 0,0) keras.optimizers.Adam (lr = 0,001, beta_1 = 0,9, бета_2 = 0,999, эпсилон = 1e-08, распад = 0,0) 
 Давайте теперь посмотрим на характеристики модели, используя различные адаптивные методы обучения. В нашем примере Adadelta дает лучшую точность модели среди других адаптивных методов обучения.
 Рис. 6: Сравнение характеристик различных алгоритмов адаптивного обучения
 Наконец, мы сравниваем характеристики всех графиков скорости обучения и методов адаптивной скорости обучения, которые мы обсуждали.
 Рис. 7. Сравнение характеристик различных графиков скорости обучения и алгоритмов адаптивного обучения
 Во многих примерах, над которыми я работал, методы адаптивной скорости обучения демонстрируют лучшую производительность, чем графики скорости обучения, и они требуют гораздо меньших усилий в настройках гиперпараметра. Мы также можем использовать  LearningRateScheduler  в Keras для создания пользовательских расписаний скорости обучения, которые являются специфическими для нашей проблемы с данными.
 Для дальнейшего чтения в статье Йошуа Бенжио содержатся очень хорошие практические рекомендации по настройке скорости обучения для глубокого обучения, такие как, как установить начальную скорость обучения, размер мини-пакета, количество эпох и использование ранней остановки и импульса.
 Исходный код
 Список литературы: 
.
 Адаптация - Переводчик Мысли 
 Кьяра Грассилли
 В технике перевода
 12 октября 2015 г.
 1 Комментарий
 2722 просмотров
 Адаптация 
 Хорошо известно, что для того, чтобы получить совершенный перевод, нужно выйти за пределы поверхностного значения слов. Очень важно извлечь то, что слова означают в конкретной ситуации в соответствии с культурным контекстом.Рассмотрение культурного элемента помогает нам понять, что переводчик не единственный человек, вовлеченный в процесс перевода. Юджин Нида отметил, что «язык является частью культуры, и на самом деле это самый сложный набор привычек, которые проявляет любая культура. Язык отражает культуру, обеспечивает доступ к культуре и во многих отношениях представляет собой модель культуры ».
 В этом контексте адаптация является очень важной техникой перевода. Это необходимо, когда что-то специфическое для одной языковой культуры выражается совершенно другим образом, знакомым или подходящим для другой языковой культуры.Это сдвиг в культурной среде. Должно ли пинчо (испанское блюдо из меню ресторана) переводиться как кебаб на английский? Это включает в себя изменение культурного ориентира, когда в целевой культуре отсутствует ситуация в исходной культуре. Понятие «адаптация» традиционно противопоставляется понятию «перевод» при комментировании происхождения текста: «Это перевод?» «Нет, это адаптация». Это означает, что текст не был просто переведен, был процесс манипулирования текстом по определенной причине.Мы можем дать вам несколько соответствующих примеров:
 1) Прототип был длинным по сравнению с пространством, доступным для метатекста; В этом случае клиент будет запрашивать сокращенный перевод для выполнения своих задач. Эта процедура в основном используется в случае технических и технологических текстов, но есть ситуации, когда даже литературные тексты должны пройти этот процесс адаптации.
 2) Когда метатекст адресован детям, издатель должен адаптировать текст, чтобы избежать языка, который может быть неприемлемым для ребенка, и подготовить цензурную адаптацию.Любые сексуальные ссылки должны быть исключены, а также жестокие выражения. Слова, которые слишком сложны для понимания, также будут исключены, как и все типы поведения, которые считаются противоречащими общественной морали.
 3) То же самое, это еще один тип цензуры, применяемый, даже если текст посвящен взрослой публике.
 4) Культурные особенности публики отличаются тем, что требуют серьезной модификации текстового содержания, чтобы оно лучше воспринималось в реальности, в которой оно будет использоваться.Последний пункт относится в основном к тексту практического характера, инструкциям, функционированию машин или программ и т. Д.
 Трудно понять разницу между переводом и адаптацией, потому что перевод на самом деле является своего рода адаптацией. Переводчик должен адаптировать текст, даже если он не сталкивается с одной из перечисленных ситуаций. Причина в том, что сложность текста просто заставляет переводчика делать это. Он должен адаптироваться ко всем нюансам языка, чтобы получить хорошие результаты.
 Зарегистрируйтесь и получите еженедельные советы, чтобы начать переводить
 Зарегистрируйтесь и получайте бесплатные еженедельные советы
 О "Кьяра Грассилли" имеет 118 сообщений 
 С раннего возраста я увлекаюсь языками. Я имею степень магистра по письменному и устному переводу и несколько лет работаю внештатным переводчиком. Я специализируюсь на маркетинге, цифровом маркетинге, Интернете и социальных сетях.Я люблю вести блоги, и я также веду блог www.italiasocialmedia.com
 ,
 онлайн-методов для многодоменного обучения и адаптации
  Транскрипция 
 1 Онлайн-методы для многопрофильного обучения и адаптации Марк Дредзе и Коби Крэйр, специалист по компьютерным наукам и информатике, Пенсильванский университет, Филадельфия, Пенсильвания, США. Абстрактные задачи НЛП часто бывают специфическими, но системы могут изучать поведение в разных областях.Мы разрабатываем новую ульти-доиновскую онлайн-систему обучения, основанную на комбинировании параэтеров для ультипульных классификаторов. Наши алгоритмы основаны на обучении ультимативных задач и адаптации doain, чтобы адаптировать классификаторы doain к исходным источникам к новому целевому doain, обучаться в разных типах doain и изучать большое количество разнородных doain. Мы оцениваем наши алгоритмы по двум популярным задачам адаптации НЛП: разумная классификация и спа-фильтрация. 1 Введение Статистические классификаторы регулярно обрабатывают иллюзии веб-сайтов, eails, блогов и другого текста каждый день.Изменчивость в разных источниках данных означает, что обучение одного классификатора скрывает различия, а отдельные классификаторы игнорируют неравномерность. С другой стороны, добавление новых документов в существующие системы требует адаптации существующих классификаторов. Мы представляем новые онлайн-алгоритмы для трех сценариев обучения ультидоаин: адаптация существующих классификаторов к новым дуанам, обучение через ультипольные сиалийские доктрины и системы масштабирования для любых разнородных областей. Многокомпонентное обучение сочетает в себе характеристики как ультизационного обучения, так и адаптацию и рисование в обеих областях. Мы разрабатываем технику комбинирования параэтеров для ульти-классификатора для линейных классификаторов с доверительной вероятностью (CW) (Dredze et al., 2008). Мы ориентируемся на онлайн-алгоритмы, которые масштабируются до большого количества данных. Далее мы опишем ультрасовременное обучение и рассмотрим алгоритм CW. Затем мы рассмотрим три наших параметра, используя комбинацию параметров ульти-классификатора. Мы заключаем с соответствующей работой. 2 Многопрофильное обучение В интерактивном обучении ульти-доайну каждый экземпляр x рисуется для конкретного распределения dain d x x d d в пространстве векторов RN и помечается специфичной для doain функцией fd с меткой y {1, +1} (для двоичная классификация.) В первом раунде классификатор получает экземпляр xi и идентификатор doain di и предсказывает метку i {1, +1}.Затем он получает истинную метку y i {1, +1} и обновляет свое правило прогнозирования. В качестве примера рассмотрим фильтр для конечных пользователей, который дает высококачественные прогнозы для новых пользователей (без новых пользовательских данных), одновременно учится для конечных пользователей и масштабируется до тысяч учетных записей. В то время как один классификатор, обученный для всех пользователей, будет обобщать пользователей и распространяться на новых пользователей, он не сможет узнать пользовательские предпочтения. В качестве альтернативы, отдельные классификаторы будут фиксировать поведение, специфичное для пользователя, но не будут обобщаться между пользователями.Подход, который мы применяем для решения ультидонских проблем, заключается в объединении конкретных классификаторов. В условиях адаптации мы объединяем классификаторы doain-источников для нового целевого doain. Для обучения через doain мы объединяем классификаторы, специфичные для doain, и общий классификатор, изучаемый для всех doain. Для изучения различных различий мы узнаем, какие конкретные и общие классификаторы объединяются. Многолучевое обучение сочетает в себе свойства как ультимативного обучения, так и самодеятельности. В 689 Слушаниях конференции 2008 года по эпирическим методам в обработке естественного языка, стр., Гонолулу, октябрь c 2008 Ассоциация по компьютерной лингвистике
 2 в обучении ультимативных задач, мы рассматриваем дуанов, которые помечены различными классификационными функциями.Например, один пользователь может наслаждаться тем, что другой пользователь считает спа: отличается по своей функции классификации. Целью обучения с ультизационными задачами является обобщение между заданиями / делами (Dekel et al., 2006; Evgeniou and Pontil, 2004). Furtherore, как и в doain адаптации, приводятся примеры различных распределений. Например, один пользователь может получать сообщения об инженерных разработках, а другой - об искусстве, различаясь по своим функциям. Адаптация Doain имеет дело с этими изменениями распределения признаков (Blitzer et al.2007; Цзян и Чжай, 2007). Наша работа объединяет эти две области, обучаясь как распределению, так и поведению или функциям. 3 Линейная классификация с взвешиванием по доверию Линейная классификация с взвешиванием по доверию (CW), новый онлайн-алгоритм, Dredze et al., 2008, содержит вероятностное снижение достоверности параетера, которое может быть полезно при комбинировании параэтеров для различных распределений дуаина. Мы обучаем CW обучению, чтобы обесценить читателя. Доверие к параэтеру определяется гауссовым распределением по весовым векторам с ean µ R N и диагональной ковариацией Σ R N N.Значения µ j и Σ j, j представляют знание и уверенность в параметре для признака j. Сэллер Σ j, j, достоверность руды, которую мы имеем в значении ean paraeter µ j. В этой работе мы рассмотрим диагональные ковариационные матрицы для масштабирования до данных НЛП. Одель предсказывает метку наибольшей вероятности, arg ax y {± 1} Pr w N (µ, σ) [y i (w x i) 0]. Гауссово распределение по параэтерным векторам w индуцирует одномерное гауссово распределение по счету S i = wxi, параэтеризованному µ, Σ и экземпляром xi: S i N (µ i, σ 2 i), с ean µi = µ xi и дисперсией σ 2 i = xi Σx i.Алгоритм CW основан на обновлении Passive Aggressive (PA) (Craer et al., 2006), которое обеспечивает положительный аргин при инициации смены параметров. CW заменяет евклидово расстояние, используемое в обновлении PA, дивергенцией Кульбака-Лейблера (KL) по гауссовским распределениям. Он также заменяет начальное ограничение аргина на начальное ограничение вероятности: при заданной вероятности η (0,5, 1] ​​нарисованный классификатор назначит правильную метку. Эта стратегия дает следующую цель, решаемую в каждом раунде обучения: в D KL (N (µ, Σ) N (µ i, Σ i)) s.т. Pr [y i (w x i) 0] η, где (µ i, Σ i) - параметры в раунде i и w N (µ, Σ). Ограничение гарантирует, что результирующие paraeters () µ i + 1, i + 1 будут правильно классифицировать x i с вероятностью не менее η. Для удобства запишем φ = Φ 1 (η), где Φ - кумулятивная функция норального распределения. Вышеприведенная задача оптимизации не является выпуклой, но замкнутая для аппроксимации ее решения имеет следующую добавку для: i + 1 = i + i ii ixi и 1 i + 1 = 1 i + 2α i φx ixi для , α i = (1 + 2φ i) + (1 + 2 φ i) 2 8 φ () μ i φσi 2 4φσi 2.Каждое обновление изменяет вес элемента µ и повышает достоверность (дисперсия Σ всегда уменьшается). Мы используем классификаторы CW, поскольку они обеспечивают достоверные оценки, которые полезны для объединения классификаторов. Кроме того, поскольку нам требуются оценки достоверности по каждому параметру, другие классификаторы, основанные на доверительной вероятности, не подходят для этого параметра. 4 Мульти-классификатор Cообщество параэтеров Основой нашего подхода к обучению ультидоэну является объединение параэтеров CW-классификаторов в отдельные дуаны при уважении доверия параэтеров.Метод комбинирования берет M CW-классификаторов, каждый из которых параэтеризован своими собственными ean и дисперсионными параметрами {(µ, Σ)} M = 1, и создает один комбинированный классификатор (µ c, Σ c). Техника siple будет заключаться в усреднении параметров классификаторов в новый классификатор. Однако это игнорирует разницу в распределении объектов. Для примера рассмотрим, что вес, связанный со словом в исходном классификаторе, имеет значение 0. Это может означать, что слово встречается очень редко или оно нейтрально для предсказания (например, работа).Информация, полученная параметром дисперсии, позволяет нам различать два случая: высокая дисперсия указывает на отсутствие уверенности в значении весовых векторов 690
 3 из-за большого количества примеров (первый случай) и наоборот, отклонение Салла указывает, что значение веса основано на большом количестве доказательств. Мы поддерживаем сочувствия, чувствительные к этому различию. Поскольку CW-классификаторы являются гауссовыми распределениями, мы рассматриваем объединение параетеров классификатора как нахождение нового распределения, которое инициирует взвешенную дивергенцию для набора заданных распределений: (µ c, Σ c) = arg, где (так как Σ является диагональным), D ( (µ c, Σc) (µ, Σ); b) = N fbf D ((µ cf, Σc f, f) (µ f, Σf, f)).Веса iportance (специфичные для классификатора) b R N + используются для того, чтобы по-разному взвешивать определенные параметры сои в комбинированной обработке. Когда D - евклидово расстояние (L2), мы имеем и получаем: D ((µ cf, Σc f, f) (µf, Σf, f)) = (µ cf µ f) 2 + (Σ cf , f Σf, f) 2. µ cf = 1 M bf Σ cf, f = 1 M bf M bf µ f, M bf Σf, f. (1) Обратите внимание, что это (взвешенное) среднее значение параметров. Другой случай, который мы рассмотрим, когда D является взвешенной дивергенцией KL, мы получаем взвешивание µ с помощью Σ 1: (M) 1 µ cf = M (Σf, f) 1 bf (Σf, f) 1 µfbf (Σ c) 1 = (MM bf) 1 M (Σf) 1 b f.(2) В то время как каждый параметр оценивается по его дисперсии в KL, мы также можем явно кодировать это поведение как b f = a f, f 0, где a - значение инициализации для f, f. Мы называем эту весовую дисперсию в отличие от единичного взвешивания параметров (b f = 1). Поэтому у нас есть два метода кобинации (L2 и KL) и два метода взвешивания (униформа и дисперсия). 5 Наборы данных Для оценки мы выбрали два набора данных по адаптации: spa (Jiang and Zhai, 2007) и sentient (Blitzer et al., 2007). Данные spa содержат две задачи: одну с тремя пользователями (задача A) и одну с 15 (задача B).Цель состоит в том, чтобы классифицировать eail (bag-ofwords) как spa или ha (not-spa), и у каждого пользователя могут быть свои предпочтения и особенности. Мы использовали 700 и 100 обучающих эссеций для M D ((µ c, Σ c) (µ, Σ); b каждый пользователь для задач A и B соответственно и 300 тестов), 691 Eail для каждого пользователя. Эти данные содержат обзоры продуктов Aazon для четырех типов продуктов: книги, DVD-диски, электронику и кухонную технику, и мы расширили ее тремя дополнительными задачами: одежда, музыка и видео. Мы следуем Blitzer et.и др. для извлечения признаков. Мы создали разные наборы данных, изменив границы решения, используя порядковый рейтинг каждого экземпляра (1-5 звездочек) и исключив пограничные экземпляры. Мы используем четыре версии этих данных: все - 7 партий, по одному на тип продукта. Книги - 3 книги с бинарной границей принятия решений, равной 2, 3 и 4 звездам. DVD - то же самое, что и книги, но с обзорами DVD. Книги + DVD - Cobined Книги и DVD Набор данных All содержит типичный сценарий адаптации doain, в котором каждый doain имеет функцию принятия решения sae, но имеет свои особенности.Книги и DVD имеют противоположную проблему: те же характеристики, но разные границы классификации. Книги + DVD объединяют обе проблемы. Эксперты используют 1500 тренировок и 100 тестовых экземпляров за день. 6 Многопрофильная адаптация Мы начинаем с разработки типичного сценария адаптации доина, но с точки зрения онлайн, поскольку учебные системы часто адаптируются к новым пользователям или быстро, без данных обучения. Например, спа-фильтр с отдельными классификаторами, обученными для каждого пользователя, также классифицирует все для нового пользователя.Поскольку обучающие данные других пользователей могут быть удалены или являются частными, существующие классификаторы должны быть объединены для нового пользователя.
 4 Spa Sentient Train L2 KL Target Doain All Src Target Best Src Avg Src Unifor Variance Unifor Variance одежда пользователя пользовательская одежда книги DVD кухонная электроника usic video Таблица 1: Ошибка теста для адаптации ульти-источника к чувствительным и спа-данным. Объединение классификаторов подтверждает выбор одного классификатора априори (Avg Src).Мы объединяем существующие пользовательские классификаторы в один новый классификатор для нового пользователя. Поскольку ничего не известно о новом пользователе (его функции принятия решений), каждый классификатор источника может быть полезен. Тем не менее, возможность взвешивания признаков, возможно, упрощенная с использованием немаркированных данных, может использоваться для взвешивания исходных данных. В частности, мы объединяем параметры каждого классификатора в соответствии с их достоверностью, используя методы комбинирования, описанные выше. Мы оценили четыре стратегии кобинации L2 против KL, Unifor противДисперсия по спа и чувствительным данным. Для каждой оценки один тест был проведен для тестирования, в то время как отдельные классификаторы были обучены на каждом исходном тесте, т.е. Исходные классификаторы затем объединяются, и объединенный классификатор оценивается по тестовым данным (400 экземпляров) целевого doain. Каждый классификатор был обучен в течение 5 итераций по обучающим данным (для обеспечения конвергенции), и каждый эксперимент был повторен с использованием 10-кратной перекрестной проверки. Параметр CW φ был настроен на один рандомизированный прогон для каждого экспериментатора.Мы включаем несколько базовых показателей: обучение целевым данным для получения верхней границы перфорации (Target), обучение по всем источникам вместе, полезная стратегия, если все исходные данные получены (All Src), выбор (с отсутствием науки) источника с наилучшими показателями классификатор целевых данных (Best Src) и ожидаемый реальный эффект рандолы при выборе исходного классификатора (Avg Src). Хотя по крайней мере один исходный классификатор достиг высокой перфорации в целевом doain (Best Src), правильный исходный классификатор нельзя выбрать без целевых данных, а выбор классификатора источника рандо приводит к высокой ошибке.В отличие от этого, комбинированный классификатор всегда был лучше, чем лучший исходный классификатор doain (таблица 1). Вероятность того, что результаты наших исследований оказались лучше, чем лучший сценарий обучения, вероятно, вызвана увеличением данных о тренировках с использованием ультипланов. Увеличение всех доступных данных обучения очень интересно и может быть связано с эффектом регуляризации обучения отдельных оделей. Лучше всего подходы L2, а KL - 7 из 10 комбинаций. Объединение параэтеров классификатора может дать хорошие классификаторы без предварительного знания целевого доина.7 Обучение через Doains В дополнение к адаптации к новым Doains, системы ultidoain должны изучать поведение кунов через Doains. Наивно, мы можем предположить, что дуаны либо достаточно одинаковы, чтобы гарантировать один классификатор, либо достаточно различны для отдельных классификаторов. В реальности это часто рудный коплекс. Вместо этого мы получаем общие и специфические параметры и объединяем их для обучения и прогнозирования. Многозадачное обучение направлено на изучение поведения кунов при решении связанных с этим проблем, что является одной из главных целей ультидоистичного обучения.Основное различие заключается в природе задач / задач: в наших условиях каждый из них является самой задачей, но отличается по типам функций в дополнение к функции принятия решения. Подход ультимативной задачи может быть адаптирован к нашим условиям с использованием наших методов классификации классификаторов. 692
 5 Spa Sentient Method Задача A Задача B Книги DVD Книги + DVD Все отдельные функции разделения MDR MDR + L MDR + L2-Var MDR + KL MDR + KL-Var Таблица 2: Ошибка онлайн-обучения для обучения через дуайны.Spa Sentient Method Задача A Задача B Книги DVD Книги + DVD Все отдельные функции разделения MDR MDR + L MDR + L2-Var MDR + KL MDR + KL-Var Таблица 3: Ошибка тестовых данных: обучение через doains (MDR) Исходные данные и Daué (2007). Мы стремимся учиться конкретным парапетерам, руководствуясь общими парапетами. Dekel et al. (2006) следовали этому подходу для алгоритма онлайн-ультимативных задач, хотя они не имели общих параметров и предполагали, что учебный раунд содержал пример для каждой задачи. Евгений и Понтиль (2004) достигли одной цели, используя общие параметры для регуляризации ультимативных задач.В частности, они предполагали, что вектор весовых коэффициентов для задачи d может быть представлен как w c = w d + w s, где w d - параметры, специфичные для задачи, а w s - общие для всех задач. В этой программе все задачи близки к базовым, и каждый отклоняется от этого на w. Их ультимативная цель в стиле SVM инициирует потерю w c и nor of w d и w s, с компромиссным параметром, позволяющим добиться расхождения во времени. Алгоритм адаптации siple doain для расщепления признаков, используемый Daué (2007), является частным случаем этого одела, где nors одинаково взвешены.Аналогичная цель CW: в 1 λ 1 D KL (N (µ d, Σ d) ()) N µ di, Σ di + 1 λ 2 D KL (N (µ s, Σ s) N (μ si, Σ si)) st Pr w N (µ c, σc) [y i (w x i) 0] η. (3) (µ d, Σ d) - параметры для doain d, (µ s, Σ s) для общего классификатора и (µ c, Σ c) для совокупности doain и общих классификаторов. Паратеры объединяются через (2) только с двумя искателями - один для общих паратеров s, а другой - для дуановских паратеров d. Это отражает интуицию Evgeniou и Pontil: обновления обеспечивают условия обучения для комбинированных параметров и инициируют смену параметров.Для удобства перепишем λ 2 = 2 2λ 1, где λ 1 [0, 1]. Если классификаторы объединяются с использованием su отдельных весовых векторов и λ 1 = 0,5, это идентично разделению признаков (Daué) для классификаторов CW. Специфические и общие классификаторы doain можно обновить 693
 6, используя закрытое для решения (3) выражение: µ s = µ si + λ 2 αy i Σ cxi (Σ s) 1 = (Σ si) 1 + 2λ 2 αφx ixT i µ d = µ di + λ 1 αy i Σ c ix i (Σ d) 1 = (Σ di) 1 + 2λ 1 αφx ix T i (4) Мы называем эту цель многопрофильной регуляризацией (MDR) ,Как и прежде, объединенные параметры создаются одним из способов кобинации. В каждом раунде алгоритм получает экземпляр x i и doain d i, для которого он создает объединенный классификатор (µ c, Σ c) с использованием общих (µ s, Σ s) и конкретных специфических параметров (µ d, Σ d). Прогноз выдается с использованием стандартного линейного признака правила прогнозирования (µ c x), и обновления следуют (4). Эффект состоит в том, что функции, объединяющие разные типы доменов, быстро сходятся в разделяемом классификаторе, обмениваясь информацией между доменами.Объединенный классификатор отражает общую и дает определенную достоверность параметров: весы с низкой дисперсией (т.е. большей достоверностью) будут вносить руду. Мы оцениваем MDR за один проход по целому ряду случаев, чтобы определить реальный мир. Параметры λ 1 и φ итеративно оптимизируются на одном рандомизированном прогоне для каждого набора данных. Все участники используют 10-кратное резюме. В дополнение к оценке четырех методов сочетания с MDR, мы оцениваем перфорацию одного классификатора, обученного по всем doains (Single), отдельного классификатора, обученного по каждому doain (Separate), Feature Splitting (Daué) и разделению признаков с оптимизированным λ 1 (МЛУ).В таблице 3 приведены результаты тестовых данных, а в таблице 2 - ошибка онлайн-обучения. В этой настройке комбинации L2 оказываются наилучшими на 5 из 6 наборов данных, причем взвешенная дисперсия комбинаций дает наилучшие результаты. MDR (оптимизация λ 1) слегка улучшает расщепление признаков, и способы кобинации улучшаются в каждом случае. Наш лучший результат является статистически значимым в сравнении с разделением функций с использованием теста Макнира (p = .001) для задачи B, Книги, DVD, Книги + DVD. В то время как один или несколько классификаторов по-разному влияют на каждый набор данных, MDR дает наилучшие результаты в целом.8 Обучение во многих Doains До сих пор мы рассматривали настройки с большим количеством siilar doains. Хотя это типично для ультимативных задач, в реальных условиях присутствуют любые проблемы, которые не все разделяют поведение sae. Онлайновые алгоритмы масштабируются до многочисленных примеров, и мы желаем такого же поведения для различных целей. Рассмотрим спа-фильтр, используемый крупным провайдером eail, который фильтрует миллиарды eails для иллюзий пользователей. Предположим, что спайеры контролируют любые аккаунты и дружелюбно называют спа легитимными.Альтернативно, подмножества пользователей могут делиться своими предпочтениями. Поскольку поведение не одинаково в разных сферах, общие параметры не могут быть изучены. Мы ищем алгоритмы, устойчивые к такому поведению. Поскольку подмножества пользователей разделяют поведение, его можно узнать с помощью нашей программы MDR. Например, обнаружение более надежных и легальных аккаунтов позволило бы учиться внутри группы. Задача заключается в обнаружении этих подмножеств в режиме онлайн при изучении параметров оделя. Мы дополняем программу MDR, чтобы дополнительно изучить это приложение.Мы начнем с обобщения MDR, включив в него k общих классификаторов вместо одного набора общих параметров. Каждый набор общих параметров представляет различное подмножество doains. Если соответствующие общие параметры известны для doain, мы могли бы использовать sae target (3) и update (4), как и раньше. Если общих параметров меньше, чем у даинов (k D), мы можем извлечь пользу из ульти-доанского обучения. Затем мы расширяем алгоритм обучения, чтобы изучить приложение между doains и разделяемыми классификаторами. Интуитивно понятно, что doain следует применять к общим параметрам, которые правильно классифицируют этот doain.Метод Куна для обучения таких экспертов алгоритму взвешенного большинства (Littlestone and Waruth, 1994), который взвешивает выбор экспертов (классификаторов). Однако, поскольку нам требуется жесткий назначитель, который выбирает один общий набор параметров s, а не ixture, алгоритм сводится к выбору классификатора s с наименьшим количеством попыток при прогнозировании doain d. Это требует отслеживания количества istakes ade для каждого общего классификатора в каждом doain после обнаружения метки. Для обучения для обновления MDR выбран общий классификатор с наименьшим количеством операций для doain.Классификатор связи нарушен рандолы. В то время как мы экспериментируем:
 7 Рис. 1. Обучение по любым предметам - спа (слева) и разумно (справа) - с использованием MDR с использованием k общих классификаторов. Рисунок 2: Обучение через любые doains - spa (слева) и sentient (справа) - без каких-либо специфических параметров doain. Этот метод с использованием рудного коплекса хорошо зарекомендовал себя на практике. Когда в систему добавляется новый doain, требуется меньше примеров, чтобы узнать, какой разделяемый классификатор использовать, вместо того, чтобы изучать новую версию для нуля.В то время как этот подход добавляет еще один свободный параметр (k), который можно установить, используя данные о разработчиках, мы наблюдаем, что вместо этого k можно зафиксировать на большой константе. Поскольку в каждом раунде обновляется только один общий классификатор, алгоритм предпочтет выбрать ранее использованный классификатор, а не новый, используя при необходимости любые классификаторы, но не масштабируя до k. Это не может быть оптимистом, но это просто сипл. Чтобы оценить большее количество doains, мы создали любые переменные doains, используя данные spa и разумные данные. Для spa было создано 6 пользователей eail, разделив 3 пользователя задачи A на 2 пользователя и поменяв метку одного из этих пользователей (пользователя alicious), получив 400 поездов и 100 тестовых eail на пользователя.Для разумных, книга doain была разделена на 3 группы с бинарными границами с рейтингом 2, 3 или 4. Каждая из этих групп была разделена на 8 групп, из которых половина поменяла свои ярлыки, создав 24 doains. Эта же процедура была повторена для обзоров DVD, но для границы принятия решения 3, 6 групп были созданы, а для границы 2 и 4, 3 группы были созданы с 1 и 2 переворотами соответственно, в результате чего получилось 12 выпадений DVD и всего 36 Doains с различными границами решения, функциями и перевернутыми функциями решения.Каждый из них использовал 300 поездов и 100 тестовых экземпляров. 10-кратная перекрестная проверка с одной обучающей итерацией использовалась для обучения оделов на этих 695
 8 двух наборах данных. Paraeters были оптимизированы, как и раньше. Эксперименты были повторены для различных настроек k. Поскольку L2 предшествовал задолго до этого, мы оценили MDR + L2 и MDR + L2-Var. Результаты показаны на рисунке 1. Как для spa, так и для чувствительного пользователя добавление дополнительных общих параметров за пределы единого общего классификатора значительно уменьшает ошибку, с дальнейшим уменьшением при увеличении k.Это дает 45% -ное снижение ошибок для spa и 38% -ное снижение для разумных по сравнению с наилучшей базовой линией. В то время как у каждой задачи есть опциональное k (около 5 для spa, 2 для разумного), при больших значениях достигается низкая ошибка, что указывает на гибкость использования больших значений k. Хотя добавление paraeters однозначно помогает при любых действиях, может оказаться целесообразным сохранить конкретные классификаторы для тысяч или иллюзий. В этом случае мы могли бы определить конкретные классификаторы и полагаться только на k совместно используемых классификаторов, обучая их применению.Мы копируем этот подход, используя лучший результат для MDR выше, снова изменяя k. На рисунке 2 показано, что потеря специфичных для doain параметров приводит к ухудшению перфорации, но все еще является преимуществом по сравнению с базовыми методами. Кроме того, мы можем ожидать улучшения перфорации по мере того, как возрастает количество сииларов. Это может быть привлекательной альтернативой хранению очень большого числа параметров. 9 Сопутствующая работа Многопрофильное обучение пересекается с двумя областями исследований: адаптация доайна и обучение в ультимативных задачах. В адаптации doain классификатор, обученный для исходного doain, переносится в целевой doain с использованием либо немеченых, либо нескольких обозначенных целевых данных.Блитцер и соавт. (2007) использовали обучение структурной переписке для обучения классификатора исходных данных с новыми функциями, созданными для целевых немеченых данных. В сопутствующем подходе Jiang и Zhai (2007) взвесили обучающие экземпляры, основываясь на их одинаковости с немаркированными целевыми данными. Некоторые подходы используют исходные данные для обучения по целому ряду целевых меток, включая разделение признаков (Daué, 2007) и добавление предсказания классификатора источника в качестве функции (Chelba and Acero, 2004). Другие рассматривали трансферное обучение, при котором существующий doain используется для улучшения обучения в новом doain, таком как построение приоров (Raina et al.2006; Marx et al., 2008) и функции изучения параметров для классификации текста по связанным данным (Do and Ng, 2006). Эти методы в значительной степени требуют пакетного обучения, немаркированных целевых данных или доступных исходных данных при адаптации. Напротив, наши алгоритмы работают исключительно в режиме онлайн и могут применяться, когда целевые данные недоступны. Многозадачные алгоритмы, также известные как индуктивный перенос, одновременно изучают ряд связанных проблем (Caruana, 1997). Наиболее актуальным подходом является регулярное многозадачное обучение (Evgeniou and Pontil, 2004), которое мы используем для активизации нашего онлайн-алгоритма.Dekel et al. (2006) дал сийларский онлайн-подход, но не использовал общие параметры и предполагал, что в каждом раунде будут использоваться последние экземпляры. Мы обобщаем эту работу для включения произвольной классификации классификаторов и любых общих классификаторов. В ультизационной работе также рассматривалось группирование задач, схожих с тем, что мы изучали в подгруппах учителей (Thrun and O Sullivan, 1998; Bakker and Heskes, 2003). Существуют какие-либо методы для комбинирования выходных данных ультратонких классификаторов для ансамблевого обучения или привлечения экспертов.Киттлер и соавт. (Март 1998) предоставляет теоретическую основу для объединения классификаторов. В этой эпической работе рассматривалось добавление к выходу классификатора в сравнении с ультипулирующим (Tax et al., 2000), использование локальных оценок точности для сочетания (Woods et al., 1997) и приложений к задачам NLP (Florian et al., 2003). Тем не менее, эти документы рассматривают комбинированный вывод классификатора для прогнозирования. В противоположность этому, мы рассматриваем комбинирование параэтеров как для предсказания, так и для обучения. 10 Заключение Мы изучили несколько ультрасовременных параметров обучения с использованием CW-классификаторов и метода сочетания.Наш подход создает лучший классификатор для нового целевого doain, чем предыдущий выбор исходного классификатора rando, уменьшает ошибку обучения на ультипольных doain, сопоставленных с базовыми подходами, может обрабатывать любые разрозненные doain с использованием любых общих классификаторов и масштабируется до очень большого числа делает со снижением перфорации. Эти сценарии реалистичны для систем НЛП в дикой природе. Эта работа также поднимает ряд вопросов об обучении на большом количестве разрозненных областей: может ли эраархическая онлайн-кластеризация дать лучшее представление, чем просто выбор между k совместно используемыми параметрами? Кроме того, как предыдущие знания о дуальной сириарности могут быть включены в методы кобинации? Мы планируем изучить эти вопросы в будущей работе.Благодарности Этот материал основан на работе, поддерживаемой Агентством перспективных исследовательских проектов в области обороны (DARPA) в рамках контракта № FA D. Литература B. Bakker и T. Heskes. Журнал исследований машинного обучения, 4: Джон Блитцер, Марк Дредзе и Фернандо Перейра. Биографии, Болливуд, бу-боксы и блендеры: адаптация Doain для разумной классификации. В Ассоциации по компьютерной лингвистике (ACL). Богатая Каруана Многозадачность обучения.Машинное обучение, 28: Чиприан Челба и Алекс Асеро Адаптация классификатора аксиальной энтропии: мало данных могут помочь. В Эпических методах в обработке естественного языка (EMNLP). Коби Крэйер, Офер Декель, Джозеф Кешет, Шай Шалев-Шварц и Йора Сингер Онлайн-пассивные агрессивные алгоритмы. Journal of Machine Learning Research, 7: Hal Daué Неудобно легкая адаптация doain. В Ассоциации по компьютерной лингвистике (ACL). Офер Декель, Филип М. Лонг и Йора Сингер Онлайн обучение ультитаскале.В конференции по теории обучения (COLT). Чуонг Б. До и Эндрю Нг Передача обучения для классификации текста. Достижения в области систем нейронной обработки информации (NIPS). Марк Дредзе, Коби Крэйер и Фернандо Перейра. Линейная классификация, взвешенная по доверию. В Международной конференции по машинному обучению (ICML). Теодорос Евгений и Массилиано Понтиль Регулярное обучение в ульти-задачах. В конференции по открытию знаний и интеллектуальному анализу данных (KDD). Распознавание сущностей Раду Флориана, Абе Иттихерии, Хунъяна Цзина и Тонг Чжан Наэда путем объединения классификаторов.На конференции по компьютерному изучению естественного языка (CONLL). Вес Jing Jiang и ChengXiang Zhai Instance для адаптации doain в NLP. В Ассоциации по компьютерной лингвистике (ACL). J. Kittler, M. Hatef, R.P.W. Duin и J. Matas. Мар Об объединении классификаторов. Анализ образов и машинный интеллект, IEEE транзакции, 20 (3): Н. Литтлстоун и М. К. Варут Алгоритм взвешенного арифметического. Информация и копутация, 108. Звика Маркс, Майкл Т. Розенштейн, Тоас Г. Диттерих и Лесли Пак Кельблинг. Два алгоритма для трансферного обучения.В индуктивной передачи: 10 лет спустя. Раджат Райна, Эндрю Нг и Дафна Коллер. В Международной конференции по машинному обучению (ICML). Дэвид М. Дж. Налог, Мартейн ван Брейкелен, Роберт П. В. Дуина и Джозеф Киттлер Кобинируют ультипульные классификаторы путем усреднения или с помощью ультипиализации? Распознавание образов, 33 (9): Septeber. С. Трун и Дж. О Салливан Кластеризация учебных заданий и выборочная передача знаний между задачами. У С. Труна и Л.Ю. Пратт, редакторы, Учимся учиться.Kluwer Academic Publishers. Кевин Вудс, В. Филип Кегелейер-младший и Кевин Бойер. Совмещение ультипельных классификаторов с использованием локальных оценок точности. IEEE Труды по анализу образов и машинному интеллекту, 19 (4):
.