DNN(Deep Neural Network)์ด๋?
DNN(์ฌ์ธต ์ ๊ฒฝ๋ง)์ ์ ๋ ฅ์ธต๊ณผ ์ถ๋ ฅ์ธต ์ฌ์ด์ ์ฌ๋ฌ ๊ฐ์ ‘์๋์ธต(hidden layer)’์ด ํฌํจ๋ ์ธ๊ณต ์ ๊ฒฝ๋ง ๋ชจ๋ธ์ด๋ค. ์๋์ธต์ด ์ฌ๋ฌ ๋จ๊ณ๋ก ๊ตฌ์ฑ๋์ด ์์ด ๋ฐ์ดํฐ ์ ๋ณต์กํ ํจํด๊ณผ ๋น์ ํ์ ์ธ ๊ด๊ณ๋ฅผ ํ์ตํ ์ ์๋ ๊ฒ์ด ํน์ง์ด๋ค. ์ด๋ฌํ ๊ตฌ์กฐ ๋๋ถ์ DNN์ ์ด๋ฏธ์ง ์ธ์, ์์ฑ ์ธ์, ์์ฐ์ด ์ฒ๋ฆฌ ๋ฑ ๋ค์ํ ์ธ๊ณต์ง๋ฅ ๋ถ์ผ์์ ํ์ฉ๋๋ ๋ฅ๋ฌ๋์ ํต์ฌ ๋ชจ๋ธ๋ก ์ฌ์ฉ๋๋ค. ๋ค๋ง, ํ์ต ๊ณผ์ ์์ ๋ง์ ์ฐ์ฐ๋์ด ํ์ํ๋ฉฐ ํ์ต ๋ฐ์ดํฐ์ ์ง๋์น๊ฒ ๋ง์ถฐ์ ธ ์ค์ ๋ฐ์ดํฐ์์ ์ฑ๋ฅ์ด ๋จ์ด์ง๋ ‘๊ณผ์ ํฉ(overfitting)’์ด๋ ‘๊ธฐ์ธ๊ธฐ ์์ค(vanishing gradient)’๊ณผ ๊ฐ์ ๋ฌธ์ ๊ฐ ๋ฐ์ํ ์ ์๋ค. ์ด๋ฅผ ํด๊ฒฐํ๊ธฐ ์ํด Dropout, ReLU, Batch Normalization ๋ฑ์ ๋ค์ํ ํ์ต ๊ธฐ๋ฒ์ด ํจ๊ป ํ์ฉ๋๋ค.
DNN์ ์ฝ๊ฒ ์ค๋ช ํ๋ฉด
“์ฌ๋ฌ ๊ฐ์ ํํฐ๋ฅผ ์ฐจ๋ก๋ก ํต๊ณผํ๋ฉฐ ์ ์ ๋ ์ ํํ ๊ฒฐ๊ณผ๋ฅผ ๋ง๋ค์ด๋ด๋ ์ ์๊ธฐ ๊ณผ์ ”์ ๊ฐ๊น๋ค.
๋ด์ฉ ์ถ์ฒ : ํ๊ตญ์ ๋ณดํต์ ๊ธฐ์ ํํ
