Публикации по теме 'language-model'
Две минуты НЛП — Растерянность, объясненная простыми вероятностями
Языковые модели, вероятности предложений и энтропия
В общем, недоумение — это мера того, насколько хорошо вероятностная модель предсказывает выборку. В контексте обработки естественного языка недоумение — это один из способов оценки языковых моделей.
Языковая модель — это распределение вероятностей по предложениям: она способна генерировать правдоподобные предложения, написанные человеком (если это хорошая языковая модель), и оценивать качество уже написанных предложений. При..
Основные моменты из учебных пособий ACL 2019
Здесь Nina @ Lab41 делится некоторыми яркими моментами первого дня 57-го ежегодного собрания Ассоциации компьютерной лингвистики (ACL), которое проходило с 28 июля по 2 августа 2019 года. Это было дождливое воскресенье (28 июля) во Флоренции, в Фортецца да Баззо. Неплохой день, чтобы потратить на некоторые исключительно хорошо организованные обучающие программы!
Уроки были разделены на утреннее и дневное занятия. Утром я посетил Модели скрытой структуры для НЛП , которые..
Google Universal Pretraining Framework объединяет парадигмы изучения языка
Обобщение является одной из основных целей современных исследований в области машинного обучения и рассматривается как путь к искусственному общему интеллекту. Хотя сегодняшние предварительно обученные большие языковые модели (LM) продолжают продвигать современное состояние обработки естественного языка (NLP), большинство таких моделей нацелены на определенные классы проблем и значительно страдают…
Языковые модели N-грамм | Часть 1
На предыдущем уроке мы изучили некоторые основы языковой обработки, во-первых, мы увидели, что такое регулярное выражение и как его использовать для запросов к заданному корпусу, затем мы рассмотрели некоторые понятия о сегментации предложений и о том, как мы можем создать словарь для заданный корпус, и, наконец, мы ввели расстояние редактирования, которое позволяет нам оценить сходство между двумя строками.
В этом курсе мы познакомимся с концепцией языковой модели, увидим, что такое..
DeepMind изучает процесс и модель, основанную на результатах, значительно сокращая количество рассуждений…
Недавние исследования показали, что побуждение языковых моделей к генерации шагов рассуждений может повысить производительность в различных задачах рассуждения на естественном языке. Но как контролировать такие модели? Лучше использовать подходы, основанные на результатах, которые контролируют окончательный ответ, или…
ИИ не для всех
Продукты искусственного интеллекта на основе языка распределены неравномерно
*(версия логотипа на португальском языке на английском языке)*
Если вы погуглите «корпус языка X», вы увидите, что английский — это язык с наибольшим количеством документации и корпусов. При этом английский язык стал «международным языком». Из-за этого большинство языковых моделей и языкового ИИ работают только и/или лучше с английским языком. Более того, мы видим множество приложений, которые работают с..
Две минуты НЛП — Заставить модели большого языка рассуждать с помощью подсказок по цепочке мыслей
Быстрая разработка и цепочка мыслей, побуждающая к арифметическим, символическим и здравым рассуждениям.
Здравствуйте, любители НЛП! Когда большие языковые модели стали способны выполнять задачи с небольшим и нулевым числом шагов, мы узнали, что разные подсказки дают разные результаты, и заговорили о «разработке подсказок». Сегодня мы видим, как разные подсказки приводят к очень разной производительности во многих логических задачах, таких как арифметические, символические и..
