Модели машинного обучения начали проникать в такие важные отрасли, как здравоохранение, юстиция и финансовый сектор. В результате выяснение того, как модели принимают решения, и обеспечение того, чтобы процесс принятия решений соответствовал этническим или правовым стандартам, становится обязательным. Между тем, быстрая эволюция моделей глубокого обучения увеличивает потребность в интерпретации сложных моделей. Люди стремятся в полной мере использовать возможности ИИ в основных аспектах..