|
‘æ1ß@à–¾‰Â”\‚ÈAI‚Æ‹@ŠBŠwK‚ł̌ö•½«
‚Í‚¶‚ß‚É
1.à–¾‰Â”\‚ÈAI
@1.1@ŠT”O
@1.2@”»’fª‹’‚̉Ž‹‰»Žè–@
@@1.2.1@Grad-CAM
@@1.2.2@LIME
@@1.2.3@SHAP
@@1.2.4 Smooth Grad
@1.3@—…¶–åŒø‰Ê
@1.4@Attention Branch Network
@1.5@SGD Influence
@1.6@‘å‹K–ÍŒ¾Œêƒ‚ƒfƒ‹‚É‚¨‚¯‚éà–¾‰Â”\‚ÈAI
2.‹@ŠBŠwK‚ł̌ö•½«
@2.1@ŽÐ‰ï“I‚È–â‘è
@2.2@Œö•½«”z—¶Œ^‹@ŠBŠwK
@2.3@à–¾‰Â”\‚ȃf[ƒ^ƒoƒCƒAƒXŠÉ˜a
‚¨‚í‚è‚É
‘æ2ß@Ž–Œãà–¾Ší‚É‚æ‚éà–¾‚Ì’‰ŽÀ«‚ð‰ü‘P‚·‚é—\‘ªƒ‚ƒfƒ‹ŒP—û–@
‚Í‚¶‚ß‚É
1.–â‘èÝ’è‹y‚Ñ’ñˆÄ–@‚ÌŠT—v
2.’‰ŽÀ«‚Ì•]‰¿ŽÚ“x
3.”÷•ª‰Â”\‚ȒljÁE휃ƒgƒŠƒNƒX
4.à–¾‚Ì’‰ŽÀ«‚̳‘¥‰»•t‚«ŠwK–@
5.«”\•]‰¿
6.Ž–Œãà–¾Ší‚Ìà–¾‚ð‰ü‘P‚³‚¹‚é‚»‚Ì‘¼‚̃Aƒvƒ[ƒ`
‚¨‚í‚è‚É
‘æ3ß@AIƒ‚ƒfƒ‹‚Ì“§–¾‰»‹Zp‚Æ•iŽ¿•ÛØ
‚Í‚¶‚ß‚É
1.AI•W€‰»‚ÅdŽ‹‚³‚ê‚éŠÏ“_
2.AIƒ‚ƒfƒ‹‚Ì“§–¾«‚Æ‚Í
3.AIƒVƒXƒeƒ€‚Ì“§–¾‰»‹Zp
@3.1@à–¾‰Â”\‚ÈAI‚Æ‚Í
@3.2@AI‚ðà–¾‰Â”\‚É‚·‚邳‚Ü‚´‚܂Ȏè–@
@3.3@ƒgƒŒ[ƒTƒrƒŠƒeƒB‚É‚æ‚é“§–¾‰»
@3.4@ƒVƒXƒeƒ€‚Ì“Á«‚Ìn’m
@@3.4.1@Step1:ƒJƒ^ƒƒO‚ðŠˆ—p
@@3.4.2@Step2:ÚׂȓÁ«‚ð”cˆ¬
4.AIƒVƒXƒeƒ€ŠJ”ƒvƒƒZƒX‚Ì“§–¾‰»‹Zp
@4.1@ŠJ”ƒvƒƒZƒX‚Ì’è‹`‚ÆŽÀŽ{
@4.2@AIƒ‚ƒfƒ‹‚Ì•]‰¿•K{€–Ú
@4.3 Žg—pŽÀтɂæ‚騖¾
5.—˜—pŽÒ‚Æ‚Ì‘ŠŒÝì—p‚Ì“§–¾‰»‹Zp
‚¨‚í‚è‚É
‘æ4ß@à–¾‰Â”\‚ÈAI‚Ìd—v«‚Æ‹Zp“®Œü
‚Í‚¶‚ß‚É
1.XAI‚Ì—ðŽj
2.XAI‚Ì•ª—Þ
@2.1@XAI‚ÌŽí—Þ‚Ì•ª—Þ
@2.2@XAI‚É‚æ‚éà–¾‚Ì•\Œ»•û–@
@@2.2.1@“Á’¥‚Ìd—v“x
@@2.2.2@—Ꭶ‚Ì“±o
@@2.2.3@„’èƒvƒƒZƒX‚̉Ž‹‰»
@@2.2.4@ƒJƒEƒ“ƒ^[ƒtƒ@ƒNƒ`ƒ…ƒAƒ‹i”½ŽÀŽ–ŽÀ“Ijà–¾
@@2.2.5@ƒ‹[ƒ‹ƒx[ƒX‚Ì“±o
@@2.2.6@ƒOƒ‰ƒt‚ȂǂÌ\‘¢‚Å’ñަ
@@2.2.7@ƒeƒLƒXƒg‚ÆŽ©‘RŒ¾Œê‚Ìà–¾
3.AIME (Approximate inverse model explanations)‚Æ‚»‚Ì’ñަ—á‚©‚猩‚éXAI‚É‚æ‚Á‚ĕω»‚·‚邱‚Æ
@3.1@AIME‚Æ‚Í
@3.2@AIME‚©‚瓱o‚³‚ê‚éà–¾‚Ì—á
@3.3@ƒrƒWƒlƒX‚É‚¨‚¯‚éXAI‚Ì–ðŠ„
4.XAI‚Ì‚±‚ê‚©‚ç‚Ì‹Zp“®Œü
‚¨‚í‚è‚É
‘æ5ß@ˆö‰Ê„˜_‹ZpCALC‚É‚æ‚éAI‚Ì”»’f——R‚Ì—‰ð
‚Í‚¶‚ß‚É
1.AIŠˆ—p‚ÌŒ»‹µ‚Æ‚»‚Ìà–¾«
2.XAI‚Ì‚½‚߂̂¢‚‚‚©‚Ì•û–@
@2.1@LIME
@2.2@SHAP
3.ƒ\ƒj[CSL“ÆŽ©‚̈ö‰Ê„˜_ƒc[ƒ‹CALC
@3.1@‘ŠŠÖ‚Æˆö‰Ê‚̈Ⴂ
@3.2@\‘¢“I‚Ȉö‰Êƒ‚ƒfƒ‹‚ÌŒø—p
@3.3@ˆö‰Ê„˜_ƒƒ\ƒbƒhCALC
4.ˆö‰Ê„˜_ƒc[ƒ‹CALC‚ÌŽ–—á
@4.1@ƒ\ƒj[‘¹ŠQ•ÛŒ¯Š”Ž®‰ïŽÐ‚ł̎–—á
@4.2@ƒWƒƒƒpƒ“EƒC[ƒGƒ€Eƒ\ƒŠƒ…[ƒVƒ‡ƒ“ƒYДޮ‰ïŽÐ‚ł̎–—á
@4.3@‚»‚Ì‘¼‚ÌŽ–—á
5.CALC‚ÌXAI‚Æ‚µ‚Ă̊ˆ—p
‚܂Ƃß
‘æ6ß@à–¾«‚Ì‚‚¢ŽžŒn—ñ”gŒ`ƒf[ƒ^•ªÍŒü‚¯AI‚ÌŠJ”‚ƈÙíf’f‚Ö‚ÌŠˆ—p
‚Í‚¶‚ß‚É
1.AI‚Ìà–¾«
2.ShapeletsŠwK–@
3.³íƒf[ƒ^‚݂̂ŊwK‚·‚éshapeletsŠwK–@
4.’·‚³‚ðŠwK‰Â”\‚Èshapelets‚ÉŠî‚Ã‚ŽžŒn—ñ•ª—ÞŽè–@
‚¨‚í‚è‚É
‘æ7ß@à–¾‰Â”\‚ÈAI‚ƃvƒ‰ƒ“ƒg§Œä‚ւ̃f[ƒ^•ªÍ‹Zp
‚Í‚¶‚ß‚É
1.uf’fE—\‘ªv‚É‚¨‚¯‚éuà–¾‚Å‚«‚éAIv
@1.1@uà–¾‚Å‚«‚éAIv‚Æ‚»‚Ì—ÞŒ^
2.Šˆ—pŽ–—á
@2.1@f’f
@@2.1.1@”“dƒvƒ‰ƒ“ƒg‚̈Ùíf’f‚Ö‚Ì“K—p—áiMSPCjF„˜_Œ‹‰Ê‚Ìà–¾
@@2.1.2@ƒGƒlƒ‹ƒM[ƒvƒ‰ƒ“ƒg‚̈Ùí—vˆö‚Ì“K—p—áiˆö‰Ê„˜_‚ÆŒˆ’è–ØjFƒ‚ƒfƒ‹‚Ìà–¾
@2.2@—\‘ª
@@2.2.1@‘¾—z“d’r»‘¢ƒvƒ‰ƒ“ƒg‚ÌÅ“K»‘¢ðŒ’Tõi•”•ª“IŬ“ñæ–@jFƒf[ƒ^Eƒ‚ƒfƒ‹‚Ìà–¾
@@2.2.2@»‘¢ƒvƒ‰ƒ“ƒg‚̉·“x—\‘ªi\‘¢‰»ƒfƒB[ƒvƒ‰[ƒjƒ“ƒOi•xŽm“d‹@“ÆŽ©jjFƒ‚ƒfƒ‹‚Ìà–¾
‘æ8ß@ƒQƒmƒ€ˆã—Âɂނ¯‚½à–¾‰Â”\AI (XAI) ‚ÌŠJ”
‚Í‚¶‚ß‚É
1.‚ª‚ñ‚̈â“`Žq•ψقɑ΂·‚錴ˆöi•aŒ´«j„’è‚Æuà–¾‰Â”\AIiXAIjv
@1.1@‚ª‚ñƒQƒmƒ€ˆã—Â̕aŒ´«„’è‚ÌŠT—v
@1.2@Žè–@
@1.3@–{Œ¤‹†¬‰Ê‚Ì¡Œã‚Ì“WŠJFõF‘̃Œƒxƒ‹‚̑傫‚ȕψقɑΉž‚µ‚½•aŒ´«„’èXAI‚ÌŠJ”
2.‚³‚Ü‚´‚܂Ȉã—ÃŒü‚¯AI
@2.1@ˆã—Õ¶Œ£‚̃Lƒ…ƒŒ[ƒVƒ‡ƒ“ì‹Æ‚ðŒø—¦‰»‚·‚éƒVƒXƒeƒ€
@2.2@Ž©‘RŒ¾Œêˆ—‹Zp‚ðŠˆ—p‚µ‚½•¶Œ£ŒŸõƒT[ƒrƒX
@2.3@–ò܂̔½‰ž‚ð—\‘ª‚·‚éƒVƒXƒeƒ€
@2.4@‚ª‚ñ޾г‚ȂǂÅd—v‚ȉ»Šw”½‰ž‚ÌÚׂð—\‘ª‚·‚éƒiƒŒƒbƒWƒOƒ‰ƒt
@2.5@Ž©“®—Õ°ƒR[ƒh•t—^‹Zp‚ÌŠJ”
@2.6@—Õ°ƒeƒLƒXƒg‚©‚ç‰Æ‘°î•ñ‚ð’Šo‚·‚鉯Œn}¶¬‹Zp
@2.7@ƒfƒWƒ^ƒ‹‰»‚³‚ꂽˆã—Õ¶‘‚Ì‚½‚߂̎©‘RŒ¾Œêˆ—‹ZpŒQ
@2.8@¶¬AI‚â‘å‹K–ÍŒ¾Œêˆ—‚ð—˜—p‚µ‚½XAIƒVƒXƒeƒ€‚ÌŠJ”‚ɂނ¯‚Ä
‚¨‚í‚è‚É
‘æ9ß@“ú—§ƒRƒ“ƒTƒ‹ƒeƒBƒ“ƒO‚Å‚ÌXAI“K—pŽ–—á|‰c‹Æ•”–åAI“K—p‚É‚¨‚¯‚éƒxƒeƒ‰ƒ“’mޝ‚Ì’Šo
‚Í‚¶‚ß‚É- AIŽÀ–±ˆÄŒ‚ÌZ“§‚ÆXAI‹Zp‚Ì“oê
1.XAIŽè–@
2.“ú—§ƒRƒ“ƒTƒ‹ƒeƒBƒ“ƒO‚ł̃xƒeƒ‰ƒ“E‘gD’m‚ÌW–ñŽ–—á
@2.1@‰c‹ÆŠˆ“®‚̬Œ÷—vˆö‚Ìà–¾ƒ‚ƒfƒ‹
@2.2@ŽÀ–±•”–å‚Ö‚ÌAIƒ‚ƒfƒ‹“±“ü‚É‚ ‚½‚Á‚Ẳۑè
@2.3@‰ðŒˆôFŽÀ–±ŽÒ‚ðŒð‚¦‚½‰¼àŒŸØ“¢‹c‰ï‹c‘Ì
@@2.3.1@‰Šú‰¼à‚ÌŠm”FF펯’ʂ肩‚ÌŠm”F
@@2.3.2@ŽÀ–±ŽÒ‚Ì펯E’¼Š´‚ƈقȂ錋‰Ê‚ÌŠm”F
@@2.3.3@ŒŸØ“¢‹cŒ‹‰Ê‚Ì‹L˜^^V‚µ‚¢‰¼à‚Ì‹L˜^‚ÆŽŸ‰ñƒAƒNƒVƒ‡ƒ“‚ÌÝ’è
@2.4@ƒAƒEƒgƒvƒbƒg—á
‚¨‚í‚è‚É - Žè–@‚̈ê”ʉ»C¶¬AI“™V‹Zp‚Ì“K—p
‘æ10ß@•¡”ƒ_ƒ€‚É‚¨‚¯‚éô‚Ýž‚݃jƒ…[ƒ‰ƒ‹ƒlƒbƒgƒ[ƒN‚ð—p‚¢‚½—¬“ü—Ê—\‘ªƒ‚ƒfƒ‹‚ÌXAI“K—p
‚Í‚¶‚ß‚É
1.ŒŸØ‘ÎÛƒ_ƒ€‚ƃf[ƒ^
@1.1@‘ÎÛƒ_ƒ€
@1.2@‘ÎÛƒf[ƒ^
2.ƒ‚ƒfƒ‹\’z
@2.1@“üo—̓f[ƒ^
@2.2@ƒ‚ƒfƒ‹
3.XAI‚Ì“K—p
@3.1@Grad-CAM
@3.2@SHAP
4.—¬“ü—Ê—\‘ªƒ‚ƒfƒ‹‚ÌŒvŽZŒ‹‰Ê‚ÆlŽ@
@4.1@ŒvŽZŒ‹‰Ê
@@4.1.1@“yŽtƒ_ƒ€
@@4.1.2@–쑺ƒ_ƒ€
@4.2@lŽ@
@@4.2.1@“yŽtƒ_ƒ€
@@4.2.2@–쑺ƒ_ƒ€
5.XAI‚É‚æ‚é—\‘ª‚̪‹’‚̉Ž‹‰»
@5.1@“yŽtƒ_ƒ€
@5.2@–쑺ƒ_ƒ€
6.XAI‚É‚æ‚é‰ÂŽ‹‰»‚ÌlŽ@
@6.1@“yŽtƒ_ƒ€
@6.2@–쑺ƒ_ƒ€
‚³‚¢‚²‚É
‘æ11ß@à–¾‰Â”\‚ÈlH’m”\‚ð—p‚¢‚½ŒÚ‹qƒf[ƒ^‚©‚ç‚Ì–ž‘«—vˆö‚ÌŒŸo‚ÉŠÖ‚·‚錤‹†
–{e‚ÌŠT—v
‚Í‚¶‚ß‚É
1.à–¾‰Â”\‚ÈlH’m”\‚ÌŠT—v
@1.1@à–¾‰Â”\‚ÈlH’m”\‚ÌŠT—v
@1.2@LIME
@1.3@SHAP
2.LIME‚É‚æ‚éŒÚ‹q–ž‘«“x‚̉ð͂ƉŽ‹‰»
@2.1@ұҟ
@2.2@‰ðÍ‘ÎÛ‚ÌŠT—v
@2.3@LIME‚É‚æ‚éo—ÍŒ‹‰Ê‚̉Ž‹‰»
@2.4. ƒf[ƒ^‰ðÍ
@@2.4.1@‰ðÍ‚ÌÝ’è
@@2.4.2@‰ðÍŒ‹‰Ê
@@2.4.3@‚܂Ƃ߂ÆlŽ@
@2.5@‚¨‚í‚è‚É
3.SHAP‚ð—p‚¢‚½ƒIƒ“ƒ‰ƒCƒ“w”ƒŒÚ‹q‚̃Š[ƒhƒXƒRƒAƒŠƒ“ƒO‚Æ‚»‚̉ðŽß7)
@3.1@ұҟ
@3.2@‰ð̓f[ƒ^‚ɂ‚¢‚Ä
@@3.2.1@‰ðÍ‘ÎÛ‚ÌŠT—v‚Æ•ûj
@@3.2.2@ƒNƒ‰ƒX‚Æ‚µ‚Ĉµ‚¤Ž¿–‖Ú
@@3.2.3@“Á’¥—ʂƂµ‚Ĉµ‚¤Ž¿–‖Ú
@3.3@‰ðÍ•û–@‚ɂ‚¢‚Ä
@@3.3.1@’ñˆÄ–@‚ÌŠî–{•ûj
@@3.3.2 ’ñˆÄ–@
@3.4@‰ðÍŽÀŒ±
@@3.4.1@‰ðÍ‚ÌÝ’è
@@3.4.2@‰ðÍŒ‹‰Ê
@@3.4.3@‚܂Ƃ߂ÆlŽ@
@3.5@‚¨‚í‚è‚É
‚܂Ƃß
ŽÓŽ«
‘æ12ß@à–¾‰Â”\‚ÈAI(XAI)‚ð—p‚¢‚½‹‰JŽž‚ÌZ–¯”ð“ïs“®•ªÍ
‚Í‚¶‚ß‚É
1.ƒf[ƒ^ƒZƒbƒg
2.‹@ŠBŠwK‚ð—p‚¢‚½Z–¯”ð“ï‘I‘ðs“®ƒ‚ƒfƒ‹
3.Z–¯”ð“ïs“®—vˆö‚Ì•ªÍŽè–@gPartial DependenceiPDj•ªÍh
4.XAI‚ð—p‚¢‚½Z–¯”ð“ïs“®—vˆö‚Ì•ªÍŒ‹‰Ê‚¨‚æ‚Ñ“Œv“IŒŸ’è‚Æ‚Ì”äŠr
‚¨‚í‚è
|