ディープラーニングによる判断基準はトレーニング中に自動的に決められるため、この根拠を説明することは難しく、AIモデルはブラックボックスと言われます。
一方AIモデルの判断根拠に何らかの説明を求める声は多く、その一助となる方法にGrad-CAMがあります。
今回の報告はPointNetを使用した３D形状のクラス分けについて、Grad-CAMを用いてヒートマップを出力し、クラス分けの根拠としてAIモデルの注目部位を３D形状上にプロットしました。
弊社デモサイトでこのGrad-CAMモデルをお試しいただけます。
Astraea-Software Demo-Site
