Разработку приложений машинного обучения можно рассматривать как состоящую из трех компонентов [1]: представления данных, функции оценки и метода оптимизации для оценки параметра модели машинного обучения. Это верно для обучения с учителем, без учителя и обучения с подкреплением. Основное внимание в этой статье уделяется компоненту оценки (целевым функциям или функциям потерь) задач машинного обучения, и она разделена на следующие разделы: Целевые функции для регрессии Целевые функции..

Перекрестная энтропийная потеря — это функция потерь, которая говорит вам, насколько плохо ваша модель машинного обучения или глубокого обучения классифицирует вещи. Он сравнивает вероятности, которые ваша модель присваивает различным категориям, таким как кошки и собаки, с фактическими вероятностями, которые вы хотите, чтобы ваша модель изучала. Чтобы лучше понять кросс-энтропийные потери, давайте сначала рассмотрим концепцию энтропии. Энтропия  – это мера неопределенности в..

Всем привет! Любому новичку в машинном обучении и науке о данных важно, чтобы понятия энтропия и перекрестная энтропия были ему понятны. Они появляются повсюду и служат ключевой основой для построения деревьев, причудливых уменьшений размеров и классификации изображений. В этой статье я попытаюсь рассказать вам о концепциях энтропии через призму теории информации , которая оказалась очень полезной, когда я впервые попытался освоить эту концепцию. Посмотрим, как пойдет. Шаг..