1๏ธโฃ AI•DS/๐ LLM4 [์ฑ ์คํฐ๋] 3. ํ๊น ํ์ด์ค ํธ๋์คํฌ๋จธ ๋ผ์ด๋ธ๋ฌ๋ฆฌ ๐ LLM์ ํ์ฉํ ์ค์ AI ์ ํ๋ฆฌ์ผ์ด์ ๊ฐ๋ฐ ์ฑ ์คํฐ๋ ์ ๋ฆฌ ์๋ฃ (์ ์๊ถ ๋ฌธ์ ์ ์ ๊ธํ๊ฒ ์ต๋๋ค~!) โถ๏ธ ์ค์ต์ฝ๋ (๊นํ ๊ณต๊ฐ์ฝ๋ ํ์ฉ)โถ๏ธ ๊นํ์ฝ๋ 1. ํ๊น ํ์ด์ค ํธ๋์คํฌ๋จธ๋ โฏ Transformer ๋ผ์ด๋ธ๋ฌ๋ฆฌ • ๊ณตํต๋ ์ธํฐํ์ด์ค๋ก ํธ๋์คํฌ๋จธ ๋ชจ๋ธ์ ํ์ฉํ ์ ์๋๋ก ์ง์ํ์ฌ ๋ฅ๋ฌ๋ ๋ถ์ผ์ ํต์ฌ ๋ผ์ด๋ธ๋ฌ๋ฆฌ ์ค ํ๋ (์คํ์์ค ๋ผ์ด๋ธ๋ฌ๋ฆฌ) • ๋ชจ๋ธ๊ณผ ํ ํฌ๋์ด์ → transformer ๋ผ์ด๋ธ๋ฌ๋ฆฌ : AutoTokenizer, AutoModel• ๋ฐ์ดํฐ์ → datasets ๋ผ์ด๋ธ๋ฌ๋ฆฌ from transformers import AutoTokenizer, AutoModeltext = "What is Huggingface Transformers?"# BERT ๋ชจ๋ธ .. 2024. 12. 16. [์ฑ ์คํฐ๋] 2. ํธ๋์คํฌ๋จธ ์ํคํ ์ฒ ์ดํด๋ณด๊ธฐ ๋ณดํธ๋์ด ์๋ ๊ธ ์ ๋๋ค. 2024. 12. 11. [์ฑ ์คํฐ๋] 13.LLM ์ด์ํ๊ธฐ ๋ณดํธ๋์ด ์๋ ๊ธ ์ ๋๋ค. 2024. 12. 3. [์ฑ ์คํฐ๋] 1. LLM ๊ธฐ์ด : sLLM, RAG ๋ณดํธ๋์ด ์๋ ๊ธ ์ ๋๋ค. 2024. 12. 1. ์ด์ 1 ๋ค์ 728x90