часть :

# 60daysofudacity

Конкурс на получение защищенной и частной стипендии на ИИ от Facebook

Наиболее широко используемые методы в контексте частного глубокого обучения. Этот термин был придуман в Google несколько лет назад Брендой Макманн, и с тех пор Google является пионером в этой области.

Федеративное обучение - это метод обучения моделей машинного обучения на данных, к которым у нас нет доступа, вместо того, чтобы переносить все данные на одни машины в облаке и обучать модель, мы собираемся перенести эту модель на данные, обучите его локально, где бы ни находились данные, и просто загрузите обновления модели на центральный сервер.

Здесь есть несколько вариантов использования. Федеративное обучение довольно интересно, но первый и, вероятно, самый известный вариант использования относится к мобильным телефонам. Если вы знакомы со смартфонами, когда вы открываете свое текстовое приложение, и текстовое приложение пытается предсказать следующее слово, которое вы собираетесь написать, модель машинного обучения, которая на самом деле это делает, если у вас есть iPhone или Android , он фактически обучается с использованием федеративного обучения. Это означает, что, когда вы идете домой ночью, подключаете свой телефон и подключаете его к Wi-Fi, время от времени он фактически будет выполнять небольшую локальную тренировку на вашем устройстве, с вашими собственными текстовыми сообщениями, и он будет отправьте новую модель, немного более умную модель в облако, а затем вы получите обновленную агрегацию всех остальных моделей, которые также были переданы в облако, что даст вам более разумную модель. от наличия этой модели текстовых сообщений внутри вашего телефона, несмотря на то, что вы лично не генерируете достаточно данных для обучения, чтобы он стал умным. Таким образом, вы получаете выгоду от того, что эта модель становится умной, глядя на тысячи и миллионы других телефонов, при этом никому из этих людей не нужно разглашать личную информацию, содержащуюся в их телефоне, и без необходимости разглашать какую-либо личную информацию в своем телефоне.

В контексте федеративного обучения есть и другие очень интересные приложения, один интересный случай - это профилактическое обслуживание, например, если у вас есть автомобиль. Каждые несколько тысяч миль вы должны сдавать его, чтобы заменить масло, мы просто иметь фиксированное количество миль, которое мы обычно делаем. Но федеративное обучение можно использовать, чтобы попытаться предсказать, когда вашему автомобилю необходимо заблаговременно провести техническое обслуживание, имея модель, которая фактически живет во всех автомобилях, находящихся на дороге, изучая, когда они действительно начинают ломаться, используя различные аспекты ваш климат, то, как вы водите, какой у вас двигатель, такие прогностические модели могут действительно стать разумными в этом. Приятно то, что на самом деле это не потребует от вас загрузки каких-либо данных из вашего автомобиля на какой-то центральный сервер. Теоретически модель просто сводится к вашему автомобилю, она учится предсказывать, когда вашему автомобилю потребуется техническое обслуживание, и загружает эту способность предсказания. Обновление модели, резервное копирование в Облако.

Еще один интересный вариант использования - это носимые медицинские устройства, вы можете себе представить, есть ли у вас такие модные часы или браслеты, которые отслеживают ваше движение, частоту сердечных сокращений или, возможно, даже циклы сна, или если вы, возможно, записываете свою диету в Интернете, одно из этих диалоговых приложений, вы можете представить, что федеративное обучение позволит вам изучить модель машинного обучения, которая может помочь вам оптимизировать определенные части вашего здоровья, будь то ваша диета для улучшения цикла сна или то, сколько вы двигаетесь во время день для пробуждения. Опять же, приятно здесь то, что вы сами на самом деле не генерируете достаточно обучающих данных, чтобы иметь возможность обучать такую ​​модель. Но если вы совместно обучались в рамках единой модели машинного обучения с тысячами или миллионами других людей, то каждый может извлечь выгоду из этой модели машинного обучения без необходимости загружать свои данные в центральное облако.

Наконец, один из других широко распространенных вариантов использования федеративного обучения - внутри мобильных браузеров, часто в контексте блокировки рекламы или автозаполнения. Это означает, что когда вы заходите в свой браузер и начинаете вводить какой-либо веб-сайт, он пытается предсказать, на какой веб-сайт, по его мнению, вы пытаетесь ссылаться, опять же, это еще один пример, когда федеративное обучение использовалось во всем мире, чтобы позволить большие группы людей могут пользоваться преимуществами моделей машинного обучения без необходимости загружать все свои данные в облако.

Общая проблема заключается в том, что у вас есть сценарий, в котором набор данных распространяется среди большого количества источников, обычно потому, что он создается источниками в контексте телефона, браузера, носимых медицинских устройств или автомобилей, например, что мы Мы хотим обучить модель машинного обучения на этом наборе данных. Но вы не можете агрегировать этот набор данных по разным причинам. Иногда это нужно для уединения, верно? Может существовать юридическое ограничение, которое не позволяет вам агрегировать данные на центральном сервере, например, медицинские данные имеют множество таких юридических ограничений. Пользователь может испытывать дискомфорт. Таким образом, в случае использования этого блокировщика рекламы или автозаполнения в браузерах люди на самом деле не хотят загружать все URL-адреса веб-страниц, на которые они собираются, на какой-то центральный сервер, если им это не нужно. Затем, конечно, есть конкурентная динамика. Так что, если вы думаете в контексте профилактического обслуживания, автомобильные компании могут не захотеть загружать данные на какой-либо центральный сервер каждый раз, когда один из их автомобилей выходит из строя. Теперь, если это только одна торговая марка, возможно просто Ford или что-то в этом роде, это было бы здорово. Но если вы можете себе представить, что если бы Toyota могла видеть, когда автомобили Honda ломаются, потому что, если какой-то центральный сервер, может быть какая-то странная конкурентная динамика или утечки потенциально негативной информации. Но федеративное обучение - это не только конфиденциальность. Часто его используют из-за технических ограничений. Как оказалось, федеративное обучение можно использовать для снижения затрат на полосу пропускания из-за необходимости загружать наборы данных в облако, позволяя обучению происходить локально внутри этих устройств.

Вот почему контексты федеративного обучения - невероятно мощный инструмент. Он уже широко применяется в некоторых очень важных случаях использования, и это одна из тех вещей, которые действительно развиваются быстрее всего с точки зрения конфиденциальности и сохранения технологий.