随机前馈注意力机制与Bregman散度在工业数据处理中的应用
随机前馈注意力网络在设备缺陷分类中的应用
在设备缺陷分类工作中,提出了一种随机前馈注意力网络(SFAN),它由特征提取和前馈注意力模块组成。
实验设置
- 一维卷积滤波器数量(h = 64)。
- 小批量大小设置为(64)。
- 使用Adam优化器,学习率(\eta = 10^{-4})。
- 应用比例为(0.01)的蒙特卡罗丢弃法随机构建模型参数,包括注意力机制。
- 随机前向传播次数(N)为(100),用于量化注意力分数和不确定性。
- 最大训练轮数定义为(500),并根据验证集计算的验证损失进行提前停止。
性能评估指标
为了比较所提出的方法与其他方法在缺陷分类方面的性能,使用了准确率和F1分数,计算公式如下:
- 准确率:(Accuracy = \frac{TP + TN}{TP + TN + FP + FN})
- 精确率:(Precision = \frac{TP}{TP + FP})
- 召回率:(Recall = \frac{TP}{TP + FN})
- F1分数:(F1 - score = \frac{2 * Precision * Recall}{Precision + Recall} = \frac{2 * TP}{2 * TP + FP + FN})
其中,真正例(TP)是被预测为有缺陷的缺陷数量,假负例(FN)是被错误预测为正常的缺陷数量;真负例(TN)是被预测为正
超级会员免费看
订阅专栏 解锁全文
885

被折叠的 条评论
为什么被折叠?



