Инженеры по машинному обучению, известные многим как разработчики и программисты, все чаще используют программное обеспечение ИИ, которое может иметь непреднамеренные последствия для их компании и тех, кого они обслуживают. Чтобы справиться с этой тенденцией, этика ИИ быстро становится областью внимания, поскольку все больше компаний осознают важность справедливого обслуживания своих клиентов без расовых, культурных или других предубеждений при создании надежных моделей.

Я создал Пять лучших практик по этике ИИ, чтобы разработчики и работодатели могли руководствоваться ими в этичном и беспристрастном взаимодействии с клиентами через свои цифровые платформы.

Рекомендация №1

Включите несколько заинтересованных сторон в процесс принятия решений по программированию ИИ. Начните с создания небольшого комитета — с разными функциями и точками зрения. В группу должны входить потенциальные пользователи, заказчики, ваша команда разработчиков и руководство. Убедитесь, что вы пригласили кого-то беспристрастного в отношении продуктов и услуг вашей компании. Разнообразная группа людей будет платить дивиденды за принятие обоснованных, важных решений.

Рекомендация № 2

Четко определите предполагаемое использование вашего программного обеспечения ИИ — ранжируйте и определите, насколько важно каждое из них и как они приносят пользу и потенциально вредят людям, использующим его. Начните с правильной стратегии и разработайте варианты использования/злоупотребления и анализ режима отказа.

Например, технология распознавания лиц может снизить уровень преступности, но она также ущемляет свободы людей, иногда создавая ложные профили и причиняя вред цветным людям. В качестве цели определите, какие стандарты вы будете измерять, потому что вы не хотите иметь пристрастное или предвзятое мнение о том, что важнее всего.

Рекомендация № 3

Не развертывайте свой ИИ-продукт до его тщательного тестирования — эта идея известна в сообществе разработчиков как Shift Left. Предвзятый продукт может нанести вред людям, поэтому тщательно проверьте его перед использованием. Это означает определение того, какие показатели являются приемлемыми и когда вы выполнили эти условия.

А еще лучше получить мнение непредвзятой стороны, такой как Виртуозный ИИ, и убедиться, что у вас есть его одобрение на его реализацию или на то, нуждается ли ваш продукт в дополнительной тонкой настройке из-за непреднамеренной расовой предвзятости.

Рекомендация № 4

Всесторонне рассмотрите этику ИИ в вашей компании. Это означает тестирование в нескольких критических областях — от дизайна UX до вашего механизма обратной связи. Многие компании пропускают этот процесс, но обдумывают детали, прежде чем внедрять правильно работающую систему.

В ходе тестирования вы можете обнаружить, что некоторые клиенты из числа меньшинств могут иметь склонность использовать ваш продукт не так, как вы ожидаете. Таким образом, вы должны иметь точное представление о том, что вы делаете с точки зрения UX, в том числе о том, как вы расположили элементы на странице и оказывает ли ваш дизайн ожидаемый эффект.

Рекомендация № 5

Будьте в курсе тенденций — и следите за новостями. Вы можете подписаться на нашу бесплатную рассылку новостей, чтобы быть в курсе последних новостей и рекомендаций. Одно предостережение: многие популярные тренды не самые лучшие. Например, многие языковые модели, в том числе BERT, имеют расистские предубеждения и могут нанести непреднамеренный вред определенным меньшинствам. Поэтому важно быть в курсе ситуации — и знать, есть ли обновленная информация об используемых вами алгоритмах и потенциальных способах минимизировать потенциал неэтичного ИИ.