-- ๋ณธ ํฌ์คํ ์ ํ์ดํ ์น๋ก ๋ฐฐ์ฐ๋ ์์ฐ์ด ์ฒ๋ฆฌ (ํ๋น๋ฏธ๋์ด) ์ฑ ์ ์ฐธ๊ณ ํด์ ์์ฑ๋ ๊ธ์ ๋๋ค. -- ์์ค์ฝ๋๋ ์ฌ๊ธฐ 1. ์ดํ ์ (Attention) 1.1 ์ดํ ์ ๋ฑ์ฅ ๋ฐฐ๊ฒฝ ์์ ์ธ๊ธํ seq2seq ๋ชจ๋ธ์ '์ ์ฒด ์ ๋ ฅ ๋ฌธ์ฅ'์ ํ๋์ ๋ฒกํฐ๋ก ์ธ์ฝ๋ฉํ๊ธฐ์, ์งง์ ๋ฌธ์ฅ์๋ง ์ ํฉํ๊ณ ๊ธด ๋ฌธ์ฅ์์๋ ์ ์ฒด ์ ๋ ฅ ์ ๋ณด๋ฅผ ์ ๋๋ก ๊ฐ์งํ์ง ๋ชปํ๋ค๋ ๋ฌธ์ ์ ๋ฐ์ ์ฆ, ํ๋์ ๊ณ ์ ๋ ํฌ๊ธฐ์ ๋ฒกํฐ์ ๋ชจ๋ ์ ๋ณด๋ฅผ ๋ด๋ค๋ณด๋ ์ ๋ณด ์์ค์ด ๋ฐ์ํ๋ค. RNN์ ๊ณ ์ง์ ์ธ ๋ฌธ์ ์ธ ๊ธฐ์ธ๊ธฐ ์์ค ๋ฌธ์ (Vanishing Gradient)๊ฐ ์กด์ฌํ๋ค. โถ ์ด๋ฐ RNN์ ๊ธฐ๋ฐํ sequence๋ชจ๋ธ์ ๋ฌธ์ ๋ค์ ๊ธฐ๊ณ ๋ฒ์ญ ๋ถ์ผ์์ ์ ๋ ฅ ๋ฌธ์ฅ์ด ๊ธธ๋ฉด ํ์ง์ด ๋จ์ด์ง๋ ์น๋ช ์ ์ธ ๋จ์ ์ผ๋ก ์์ฉ โถ ๋ฐ๋ผ์ ์ด๋ฅผ ์ํ ๋์์ผ๋ก ์ ๋ ฅ ์ํ์ค๊ฐ ๊ธธ์ด์ง๋ฉด ์ถ..
