Что такого особенного в машинном обучении, глубоком обучении, искусственном интеллекте и т. Д.?
Чтобы разобраться в этом, давайте немного отойдем от темы.
Мы действительно знаем, что большинство человеческих изобретений, открытий или инноваций вдохновлено природой, например, полетами, изобретатели анализировали полет птиц с желанием летать высоко в небе, как они. Изучая китов, ученым пришла в голову идея изобрести подводную лодку. На изобретение гидролокатора вдохновили летучие мыши и дельфины, которые используют эхолокацию для навигации.
Точно так же глубокое обучение вдохновлено человеческим мозгом. Подобно тому, как человеческий мозг учится методом проб и ошибок, то есть получая знания путем изучения, опыта, совершения ошибок или обучения, глубокое обучение имеет дело с алгоритмами, которые помогают машинам с интеллектом без явного программирования.
Биологический нейрон
Давайте узнаем о биологическом нейроне, прежде чем погрузиться в перцептрон.
- дендриты отвечают за получение информации от других нейронов, с которыми они связаны. Дендриты соединяются с другими нейронами через разрыв, называемый синапсом, который присваивает вес конкретному входу.
- Сома - это тело клетки нейрона, отвечающее за обработку получаемой информации.
- Аксон похож на кабель, по которому нейрон отправляет выходной сигнал на терминалы аксона. Эти терминалы аксонов соединены с дендритами других нейронов через синапс.
Итак, чтобы собрать все вместе, нейрон принимает некоторые двоичные входы через дендриты, но не все входы обрабатываются одинаково, поскольку они взвешены. Если комбинация этих входов превышает определенный порог, то создается выходной сигнал, то есть нейрон «срабатывает». но если комбинация не достигает порога, то нейрон не производит никакого вывода, т.е. нейрон «не срабатывает». Когда нейрон срабатывает, этот единственный выходной сигнал перемещается по аксону к другим нейронам.
Факт: общее количество связей в человеческом мозгу
По оценкам исследователей, между нейронами человеческого мозга существует более 500 триллионов связей. Даже самые крупные искусственные нейронные сети сегодня даже близко не приблизились к этой цифре.
Искусственный нейрон - персептрон
Персептроны были разработаны в 1950-х и 1960-х годах ученым Фрэнком Розенблаттом. Мотивом создания перцептрона был биологический нейрон в человеческом мозге.
Так как же работают перцептроны?
Персептрон принимает несколько двоичных входов, x1, x2,… и выдает один двоичный выход, как показано на рисунке. Затем Розенблатт предложил простое правило для вычисления результата. Он ввел веса, w1, w2,… действительные числа, выражающие важность соответствующих входных данных для выходных. Выход нейрона, 0 или 1, определяется тем, больше или меньше взвешенная сумма некоторого порогового значения. Как и веса, порог - это действительное число, которое является параметром нейрона. Выражаясь более точными алгебраическими терминами:
Так зачем нам нужны веса? Возьмем пример. Предположим, вы решаете, поступать в университет или нет. Какие факторы вы бы приняли во внимание при принятии решения?
- Курс доступен?
- Стоимость обучения?
- Доступно ли проживание на территории кампуса?
- Расходы на проживание? Так далее и тому подобное.
Итак, среди них первый фактор является наиболее важным: если ваш курс не предлагается университетом, вы не стали бы рассматривать его применение, а фактор размещения на территории кампуса не был бы самым важным, потому что вы всегда можете найти альтернативу. . Вы бы придали большее значение доступности курсов, чем еде или проживанию. Таким образом, любой процесс принятия решения включает в себя взвешивание входных данных, необходимых для принятия решения. Следовательно, мы можем сказать, что перцептрон - это устройство, которое принимает решения, взвешивая входные данные. Варьируя веса и порог, мы можем получить разные модели принятия решений.
Очевидно, перцептрон не является полной моделью принятия решений человеком! Но этот пример показывает, как перцептрон может взвешивать различные типы входных данных, чтобы принимать решения.
Персептрон - это итеративный алгоритм, который пытается определить лучший набор значений для вектора «w» для выборки данных. Когда он достигает наилучших значений, он затем решает, к какому классу принадлежит этот образец, просто умножая матрицу числовых значений «x» образца данных на только что полученный вектор веса, и, если прогноз неверен, он настраивает себя. чтобы сделать более обоснованный прогноз в следующий раз. Он становится более точным после тысяч итераций.
Обратной стороной перцептрона является то, что, когда данные нелинейно разделимы, т. Е. Если вы не можете разделить данные на классы, разбросанные по двум или более измерениям любой линией или плоскостью, алгоритм персептрона не может найти решение, и оно имеет тенденцию бесконечно обновлять свое w. Однако затем ученые обнаружили, что, хотя один перцептрон не может хорошо работать с классами, которые нельзя разделить линейно, два нейрона, вместе взятые, смогли этого добиться. Это было сделано с помощью простой операции XOR.
Логические функции OR и AND были изучены с использованием 2 разных нейронов, а затем объединены для функции XOR.
Основным компонентом нейронной сети является нейрон (также называемый единицей). Многие нейроны, расположенные во взаимосвязанной структуре, составляют нейронную сеть, где каждый нейрон связан с входами и выходами других нейронов. Таким образом, нейрон может вводить характеристики из примеров или результатов других нейронов, в зависимости от своего местоположения в нейронной сети.
Персептрон заложил основу для глубоких нейронных сетей, которые у нас есть сегодня. Когда психолог Розенблатт придумал идею перцептрона, он думал об этом как об упрощенной математической версии нейрона мозга. По его словам, «перцептрон - первая машина, способная выдвинуть оригинальную идею».
«Он хотел спросить себя, какое минимальное количество вещей должен иметь мозг физически, чтобы выполнять те удивительные вещи, которые он делает. Он приподнял завесу и дал нам возможность исследовать все эти возможности и увидеть, что подобные идеи доступны человеку ».
- Ричард О’Брайен, бывший директор Корнельского отделения биологических наук.
Ссылки:
- Практическое машинное обучение с помощью Scikit-Learn, Keras и TensorFlow от Орелиен Жерон
- Глубокое обучение для чайников, Джон Пол Мюллер, Лука Массарон
- Глубокое обучение: подход практиков Дж. Паттерсона, А. Гибсона
- Корнельские хроники - профессора-перцептрон-проложили путь-ай-60-лет-слишком-рано
- pythonmachinelearning.pro
- neuralnetworksanddeeplearning.com
