В волшебном городе Dreamland гадалка поразила всех своими сверхъестественными предсказаниями. Люди всегда трепетали перед его способностями и точностью, но фокусник никогда не раскрывал своих «самых сокровенных секретов». Это было похоже на волшебную коробку, которая показывала будущее. Точно такие же модели машинного обучения генерируют прогнозы и часто называются « черными ящиками ». По мере увеличения сложности модели становится сложно объяснить, как модель пришла к предсказаниям...

Введение С ростом популярности моделей машинного обучения, таких как ChatGPT, проблема предвзятости стала более заметной. OpenAI, исследовательская организация в области искусственного интеллекта, стоящая за ChatGPT, публично заявила, что работает над тем, чтобы сделать ChatGPT более справедливым, точным и менее предвзятым после серии сообщений о недопустимых результатах . Несмотря на ограждения, системы машинного обучения, включая ChatGPT, находятся в стадии разработки. Модели..

Во второй части серии «Объяснимый ИИ» мы обсудим, что такое значения Шепли и как использовать значения Шепли для интерпретации предсказания модели. Значение Шепли — это понятие решения, используемое в теории игр . Это предполагает справедливое распределение как выгод, так и издержек между несколькими действующими лицами, работающими в коалиции. Ценность Шепли применяется в первую очередь в ситуациях, когда вклад каждого участника неравный, но каждый игрок работает в сотрудничестве..