Tecnología de ajuste parcial de extracción de características de clasificación de imágenes de red convolucional (pytorch)
?El ajuste es una parte inevitable del proceso de aprendizaje profundo. Ya sea que copie el artículo de otra persona o implemente un nuevo algoritmo, debe pasar por este proceso. ¿Por qué estructuras de red similares producen resultados tan diferentes? Esto requiere ajustes. Para conjuntos de datos más simples, el ajuste puede incluso mejorar la precisión del conjunto de pruebas en más de un 20 %. Basándome en mi propia experiencia con el tuning, he resumido los siguientes consejos, que se actualizarán de vez en cuando.
Nota: Este es solo mi propio registro de experiencia y no es necesariamente completo ni preciso.
@[toc]
?Desde el procesamiento de datos hasta la construcción del modelo y el entrenamiento del modelo, hay una serie de parámetros que se pueden ajustar, y estos parámetros pueden convertirse en factores que afectan el resultado final. resultados.
?El aumento de datos, aunque en realidad se implementa durante el preprocesamiento de datos, se destaca como un método importante para mejorar la precisión.
?Existen muchos métodos comunes de mejora de datos y también hay mucha información en Internet, por lo que no los presentaré en detalle. Los principales métodos de aumento de datos que utilizo son el recorte aleatorio y la rotación aleatoria; solo hay un punto a destacar.
?Por supuesto, diferentes problemas requieren diferentes funciones de pérdida. Generalmente, en los problemas de clasificación, utilizo la función de pérdida de entropía cruzada CrossEntropyLoss(). Me dijeron que agregar ContrastiveLoss() también ayudaría, pero aún no lo he probado.
El optimizador SGD muchas veces parece ser la mejor opción para mejorar los resultados, aunque en ocasiones converge lentamente. Sin embargo, en mis experimentos descubrí que Adam mejoró los resultados y, en ocasiones, fue incluso más preciso que SGD.10. Analice el problema específico en detalle para ver qué optimizador es más adecuado.