목록convolutional neural network (3)

iMTE

CAMERAS: Enhanced Resolution And Sanity Preserving Class Activation Mapping For Image Saliency 내용 정리 [XAI-24]

논문 제목: CAMERAS: Enhanced Resolution And Sanity Preserving Class Activation Mapping For Image Saliency 논문 주소: https://arxiv.org/abs/2106.10649 CAMERAS: Enhanced Resolution And Sanity preserving Class Activation Mapping for image saliency Backpropagation image saliency aims at explaining model predictions by estimating model-centric importance of individual pixels in the input. However, class-inse..
Deep learning study/Explainable AI, 설명가능한 AI 2021. 11. 16. 17:41
CAM (Class activation mapping) 내용 정리 [XAI-2]

논문 제목 : Learning deep features for discriminative localization 논문 주소 : openaccess.thecvf.com/content_iccv_2017/html/Selvaraju_Grad-CAM_Visual_Explanations_ICCV_2017_paper.html ICCV 2017 Open Access Repository Grad-CAM: Visual Explanations From Deep Networks via Gradient-Based Localization Ramprasaath R. Selvaraju, Michael Cogswell, Abhishek Das, Ramakrishna Vedantam, Devi Parikh, Dhruv Batra; Pr..
Deep learning study/Explainable AI, 설명가능한 AI 2021. 4. 8. 17:55
Visualizing outputs from intermediate layers

Deep neural network는 대표적인 black box로 내부에 어떤 경과를 통해서 decision이 되었는지를 알지 못하는 문제가 있다. Support Vector Machine도 그런점을 갖고 있다. 반대로 Decision tree는 decision 과정을 확인할 수 있기 때문에 대표적인 white box 형태의 machine learning model이다. Deep neural network는 output layer의 activation 결과를 바탕으로 learned filter가 어떤 feature map을 만들었는지를 확인할 수 있다. 다음은 pytorch로 pre-trained vgg16의 feature map을 확인한 결과이다. 그리고 learned된 filter의 형태를 나타냈다.
Deep learning/pytorch 2018. 6. 27. 00:25
Prev 1 Next