ROC

【算法模型评价/业务监控指标(ROC、Lift、Gain、PSI、CSI)】 算法模型在不同场景下的评价与监控指标多种多样,主要分为回归模型与分类模型两大类。在模型上线前,重点在于评估模型本身的性能,包括各种评价指标;而上线后,则需关注业务相关指标,构建全面的监控体系。 对于回归模型而言,评价指标包括平均绝对误差(MAE)、均方误差(MSE)、均...

算法模型评价/业务监控指标(ROC、Lift、Gain、PSI、CSI)

算法模型在不同场景下的评价与监控指标多种多样,主要分为回归模型与分类模型两大类。在模型上线前,重点在于评估模型本身的性能,包括各种评价指标;而上线后,则需关注业务相关指标,构建全面的监控体系。

对于回归模型而言,评价指标包括平均绝对误差(MAE)、均方误差(MSE)、均方根误差(RMSE)、平均绝对百分比误差(MAPE)、均方对数误差(MSLE)、中位数绝对误差(MedAE)以及决定系数(R-Squared)。这些指标从不同角度衡量预测值与实际值之间的差异,帮助评估模型表现。业务监控指标则涵盖需求满足率、群体稳定性(PSI)以及特征稳定性(CSI),重点关注模型在业务场景中的实际应用效果。

在分类模型的评价中,查全率、查准率、准确率、F-Score、AUC值、KS值、正确率(AR)、迁移矩阵(MR)以及KT值等指标,用于衡量模型的分类能力与区分效果。值得注意的是,部分指标,如混淆矩阵、Lift图与Gain图,侧重于模型性能的可视化呈现,更适用于模型评估而非实时监控。

在分类模型的业务监控方面,关键指标包括通过率、好坏样本比例以及模型调用次数等,用于追踪模型在实际业务场景中的应用情况与效果。同时,群体稳定性(PSI)与特征稳定性(CSI)指标同样重要,它们关注于不同类别客户占比随时间的变化,反映模型在长期应用过程中的适应性与稳定性。
继续阅读:算法模型评价/业务监控指标(ROC、Lift、Gain、PSI、CSI)