๋ณธ๋ฌธ์œผ๋กœ ๊ฑด๋„ˆ๋›ฐ๊ธฐ

๋ฌด๋ฃŒ ๊ฐ•์˜

Python์œผ๋กœ ๋ฐฐ์šฐ๋Š” Explainable AI

์ค‘๊ธ‰4์‹œ๊ฐ„

Scikit-learn, SHAP ๋ฐ LIME์„ ํ™œ์šฉํ•˜์—ฌ ํˆฌ๋ช…ํ•˜๊ณ  ์‹ ๋ขฐํ•  ์ˆ˜ ์žˆ์œผ๋ฉฐ ์ฑ…์ž„๊ฐ ์žˆ๋Š” AI ์‹œ์Šคํ…œ์„ ํ…Œ์ŠคํŠธํ•˜๊ณ  ๊ตฌ์ถ•ํ•˜๋Š” ๋ฐ ํ•„์š”ํ•œ ํ•ต์‹ฌ ๊ธฐ์ˆ ์„ ์Šต๋“ํ•˜์„ธ์š”.

Python4์‹œ๊ฐ„์ˆ˜๋ฃŒ ์ฆ๋ช…์„œ

๋ฌด๋ฃŒ ๊ณ„์ • ๋งŒ๋“ค๊ธฐ

Google์—์„œ ๊ณ„์† ์ง„ํ–‰
๋˜๋Š”
๊ณ„์† ์ง„ํ–‰ํ•˜์‹œ๋ฉด ๋‹ค์Œ ์‚ฌํ•ญ์— ๋™์˜ํ•˜๋Š” ๊ฒƒ์œผ๋กœ ๊ฐ„์ฃผ๋ฉ๋‹ˆ๋‹ค: ์ด์šฉ์•ฝ๊ด€ ๋ฐ ๊ฐœ์ธ์ •๋ณด ์ฒ˜๋ฆฌ๋ฐฉ์นจ ๊ทธ๋ฆฌ๊ณ  ๊ท€ํ•˜์˜ ๋ฐ์ดํ„ฐ๊ฐ€ ๋ฏธ๊ตญ์— ์ €์žฅ๋œ๋‹ค๋Š” ์ ์— ๋™์˜ํ•˜๋Š” ๊ฒƒ์œผ๋กœ ๊ฐ„์ฃผ๋ฉ๋‹ˆ๋‹ค.

์ˆ˜์ฒœ ๊ฐœ ๊ธฐ์—…์˜ ํ•™์Šต์ž๋“ค์ด ์‚ฌ๋ž‘ํ•˜๋Š” ์„œ๋น„์Šค

๊ฐ•์˜ ์„ค๋ช…

์„ค๋ช… ๊ฐ€๋Šฅํ•œ AI์˜ ํž˜์„ ๋ฐœ๊ฒฌํ•˜์„ธ์š”

์„ค๋ช… ๊ฐ€๋Šฅํ•œ AI์˜ ํฅ๋ฏธ๋กœ์šด ์„ธ๊ณ„๋กœ ๋– ๋‚˜ AI ์˜์‚ฌ๊ฒฐ์ • ๋’ค์— ์ˆจ์€ ๋น„๋ฐ€์„ ๋ฐํ˜€๋ณด์„ธ์š”. ๋ฐ์ดํ„ฐ ๊ณผํ•™์ž์™€ ML ์‹ค๋ฌด์ž์—๊ฒŒ ์ด์ƒ์ ์ธ ์ด ๊ฐ•์˜๋Š” Python์„ ์‚ฌ์šฉํ•ด AI ๋ชจ๋ธ์˜ ๋™์ž‘์„ ํ•ด์„ํ•˜๊ณ  ์„ค๋ช…ํ•˜๋Š” ๋ฐ ํ•„์š”ํ•œ ํ•ต์‹ฌ ์—ญ๋Ÿ‰์„ ๊ฐ–์ถ”๊ฒŒ ํ•ด์ฃผ๋ฉฐ, ๋” ํˆฌ๋ช…ํ•˜๊ณ  ์‹ ๋ขฐํ•  ์ˆ˜ ์žˆ์œผ๋ฉฐ ์ฑ…์ž„ ์žˆ๋Š” AI ์‹œ์Šคํ…œ์„ ๊ตฌ์ถ•ํ•  ์ˆ˜ ์žˆ๋„๋ก ๋•์Šต๋‹ˆ๋‹ค. ์„ค๋ช… ๊ฐ€๋Šฅํ•œ AI๋ฅผ ์ตํžˆ๋ฉด ๋ชจ๋ธ ๋””๋ฒ„๊น… ๋Šฅ๋ ฅ์„ ๋†’์ด๊ณ , ๊ทœ์ œ ์š”๊ฑด์„ ์ถฉ์กฑํ•˜๋ฉฐ, ๋‹ค์–‘ํ•œ ์‚ฐ์—… ์ „๋ฐ˜์—์„œ AI ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜์— ๋Œ€ํ•œ ์‹ ๋ขฐ๋ฅผ ๊ตฌ์ถ•ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

์„ค๋ช… ๊ฐ€๋Šฅ์„ฑ ๊ธฐ๋ฒ• ์‚ดํŽด๋ณด๊ธฐ

๋ชจ๋ธ๋ณ„ ์„ค๋ช… ๊ฐ€๋Šฅ์„ฑ ์ ‘๊ทผ๋ฒ•์„ ์ดํ•ดํ•˜๋Š” ๊ฒƒ๋ถ€ํ„ฐ ์‹œ์ž‘ํ•˜์„ธ์š”. Python์˜ Scikit-learn ๊ฐ™์€ ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ๋ฅผ ์‚ฌ์šฉํ•ด ์˜์‚ฌ๊ฒฐ์ • ํŠธ๋ฆฌ๋ฅผ ์‹œ๊ฐํ™”ํ•˜๊ณ  ์„ ํ˜• ๋ชจ๋ธ์—์„œ ํŠน์„ฑ ์˜ํ–ฅ๋„๋ฅผ ๋ถ„์„ํ•˜์„ธ์š”. ๊ทธ๋Ÿฐ ๋‹ค์Œ, ๋‹ค์–‘ํ•œ ๋ชจ๋ธ์—์„œ ์ž‘๋™ํ•˜๋Š” ๋ชจ๋ธ์— ๊ตฌ์• ๋ฐ›์ง€ ์•Š๋Š” ๊ธฐ๋ฒ•์œผ๋กœ ๋„˜์–ด๊ฐ‘๋‹ˆ๋‹ค. SHAP ๋ฐ LIME๊ณผ ๊ฐ™์€ ๋„๊ตฌ๋ฅผ ํ™œ์šฉํ•˜์—ฌ ์ „์ฒด ๋ชจ๋ธ์˜ ๋™์ž‘๊ณผ ๊ฐœ๋ณ„ ์˜ˆ์ธก์— ๋Œ€ํ•œ ์ƒ์„ธํ•œ ์ธ์‚ฌ์ดํŠธ๋ฅผ ์ œ๊ณตํ•˜๊ณ , ์‹ค์ œ ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜์—์„œ AI ๋ชจ๋ธ์„ ๋ถ„์„ํ•˜๊ณ  ์„ค๋ช…ํ•˜๋Š” ๋Šฅ๋ ฅ์„ ํ–ฅ์ƒ์‹œํ‚ค์„ธ์š”.

์„ค๋ช… ๊ฐ€๋Šฅ์„ฑ์„ ๋” ๊นŠ์ด ํƒ๊ตฌํ•˜์„ธ์š”

์„ค๋ช…์˜ ์‹ ๋ขฐ์„ฑ๊ณผ ์ผ๊ด€์„ฑ์„ ํ‰๊ฐ€ํ•˜๋Š” ๋ฐฉ๋ฒ•์„ ๋ฐฐ์šฐ๊ณ , ๋น„์ง€๋„ ๋ชจ๋ธ ์„ค๋ช…์˜ ๋ฏธ๋ฌ˜ํ•œ ์ฐจ์ด๋ฅผ ์ดํ•ดํ•˜๋ฉฐ, ์‹ค์šฉ์ ์ธ ์˜ˆ์ œ๋ฅผ ํ†ตํ•ด ์ƒ์„ฑํ˜• AI ๋ชจ๋ธ ์„ค๋ช…์˜ ๊ฐ€๋Šฅ์„ฑ์„ ์‚ดํŽด๋ณด์„ธ์š”. ๊ฐ•์˜๊ฐ€ ๋๋‚  ๋ฌด๋ ต์—๋Š” AI ๋ชจ๋ธ์˜ ๊ฒฐ์ •์„ ์ž์‹  ์žˆ๊ฒŒ ์„ค๋ช…ํ•  ์ˆ˜ ์žˆ๋Š” ์ง€์‹๊ณผ ๋„๊ตฌ๋ฅผ ๊ฐ–์ถ”๊ฒŒ ๋˜์–ด, AI ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜์˜ ํˆฌ๋ช…์„ฑ๊ณผ ์‹ ๋ขฐ์„ฑ์„ ๋ณด์žฅํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

์„ ์ˆ˜ ๊ณผ๋ชฉ

์ปค๋ฆฌํ˜๋Ÿผ

๊ฐ•์˜ ๊ฐœ์š”

1

Explainable AI์˜ ๊ธฐ์ดˆ

Explainable AI์˜ ๊ธฐ๋ณธ ๊ฐœ๋…์„ ํƒ๊ตฌํ•˜๋ฉฐ ํ•™์Šต์„ ์‹œ์ž‘ํ•ด ๋ณด์„ธ์š”. ์˜์‚ฌ๊ฒฐ์ •๋‚˜๋ฌด์—์„œ ์˜์‚ฌ๊ฒฐ์ • ๊ทœ์น™์„ ์ถ”์ถœํ•˜๋Š” ๋ฐฉ๋ฒ•์„ ๋ฐฐ์šฐ๊ณ , ์„ ํ˜• ๋ฐ ํŠธ๋ฆฌ ๊ธฐ๋ฐ˜ ๋ชจ๋ธ์—์„œ ํŠน์„ฑ ์ค‘์š”๋„๋ฅผ ๋„์ถœํ•˜๊ณ  ์‹œ๊ฐํ™”ํ•˜์—ฌ ๋ชจ๋ธ์ด ์˜ˆ์ธก์„ ์ˆ˜ํ–‰ํ•˜๋Š” ๋ฐฉ์‹์„ ์ดํ•ดํ•จ์œผ๋กœ์จ ๋” ํˆฌ๋ช…ํ•œ ์˜์‚ฌ๊ฒฐ์ •์„ ๊ฐ€๋Šฅํ•˜๊ฒŒ ํ•ฉ๋‹ˆ๋‹ค.
์ฑ•ํ„ฐ ์‹œ์ž‘
2

๋ชจ๋ธ ๋น„ํŠน์ด์  ์„ค๋ช… ๊ฐ€๋Šฅ์„ฑ

๋ชจ๋ธ ๋น„ํŠน์ด์  ๊ธฐ๋ฒ•์„ ํ™œ์šฉํ•ด ๋‹ค์–‘ํ•œ ๋ชจ๋ธ ์ „๋ฐ˜์—์„œ ํŠน์„ฑ์˜ ์˜ํ–ฅ๋ ฅ์„ ํŒŒ์•…ํ•ด ๋ณด์„ธ์š”. permutation importance์™€ SHAP ๊ฐ’์„ ์‚ฌ์šฉํ•ด ํŠน์„ฑ์ด ๋ชจ๋ธ ๋™์ž‘์— ๋ฏธ์น˜๋Š” ์˜ํ–ฅ์„ ๋ถ„์„ํ•ฉ๋‹ˆ๋‹ค. SHAP ์‹œ๊ฐํ™” ๋„๊ตฌ๋ฅผ ์‚ดํŽด๋ณด๋ฉฐ ์„ค๋ช… ๊ฐ€๋Šฅ์„ฑ ๊ฐœ๋…์„ ๋” ์‰ฝ๊ฒŒ ์ดํ•ดํ•  ์ˆ˜ ์žˆ๋„๋ก ํ•ฉ๋‹ˆ๋‹ค.
์ฑ•ํ„ฐ ์‹œ์ž‘
3

๋กœ์ปฌ ์„ค๋ช… ๊ฐ€๋Šฅ์„ฑ

๋กœ์ปฌ ์„ค๋ช… ๊ฐ€๋Šฅ์„ฑ์— ์ง‘์ค‘ํ•ด ๊ฐœ๋ณ„ ์˜ˆ์ธก์„ ์„ค๋ช…ํ•ด ๋ณด์„ธ์š”. ๋กœ์ปฌ ์„ค๋ช… ๊ฐ€๋Šฅ์„ฑ์„ ์œ„ํ•ด SHAP์„ ํ™œ์šฉํ•˜๋Š” ๋ฐฉ๋ฒ•์„ ๋ฐฐ์šฐ๊ณ , LIME์„ ์ตํ˜€ ํ…์ŠคํŠธ, ํ‘œ ํ˜•ํƒœ, ์ด๋ฏธ์ง€ ๋ฐ์ดํ„ฐ ๋“ฑ ๋‹จ์ผ ๊ฒฐ๊ณผ์— ์˜ํ–ฅ์„ ๋ฏธ์น˜๋Š” ๊ตฌ์ฒด์  ์š”์ธ์„ ๋ฐํ˜€๋ƒ…๋‹ˆ๋‹ค.
์ฑ•ํ„ฐ ์‹œ์ž‘
4

Explainable AI ๊ณ ๊ธ‰ ์ฃผ์ œ

๋ชจ๋ธ ๋™์ž‘๊ณผ ์„ค๋ช… ๋ฐฉ๋ฒ•์˜ ํšจ๊ณผ๋ฅผ ํ‰๊ฐ€ํ•˜๋ฉฐ Explainable AI์˜ ๊ณ ๊ธ‰ ์ฃผ์ œ๋ฅผ ํƒ๊ตฌํ•˜์„ธ์š”. ์„ค๋ช…์˜ ์ผ๊ด€์„ฑ๊ณผ ์ถฉ์‹ค๋„๋ฅผ ํ‰๊ฐ€ํ•˜๋Š” ์—ญ๋Ÿ‰์„ ๊ฐ–์ถ”๊ณ , ๋น„์ง€๋„ ๋ชจ๋ธ ๋ถ„์„์„ ํŒŒ๊ณ ๋“ค๋ฉฐ, ChatGPT ๊ฐ™์€ ์ƒ์„ฑํ˜• AI ๋ชจ๋ธ์˜ ์ถ”๋ก  ๊ณผ์ •์„ ๋ช…ํ™•ํžˆ ํ•˜๋Š” ๋ฐฉ๋ฒ•์„ ๋ฐฐ์›๋‹ˆ๋‹ค. ๋ณต์žกํ•œ AI ์‹œ์Šคํ…œ์—์„œ ์„ค๋ช… ๊ฐ€๋Šฅ์„ฑ์„ ์ธก์ •ํ•˜๊ณ  ํ–ฅ์ƒ์‹œํ‚ค๋Š” ๊ธฐ๋ฒ•์„ ์ตํžˆ์„ธ์š”.
์ฑ•ํ„ฐ ์‹œ์ž‘

Python์œผ๋กœ ๋ฐฐ์šฐ๋Š” Explainable AI

๊ฐ•์˜
์™„๋ฃŒ

์ˆ˜๋ฃŒ์ฆ ํš๋“

์ง€๊ธˆ ๋“ฑ๋กํ•˜๊ธฐ

DataCamp for Mobile๋กœ ๋ฐ์ดํ„ฐ ์—ญ๋Ÿ‰์„ ํ‚ค์šฐ์„ธ์š”

๋ชจ๋ฐ”์ผ ๊ฐ•์˜์™€ ๋งค์ผ 5๋ถ„ ์ฝ”๋”ฉ ์ฑŒ๋ฆฐ์ง€๋กœ ์ด๋™ ์ค‘์—๋„ ํ•™์Šต์„ ์ด์–ด๊ฐ€์„ธ์š”.