๊ด€๋ฆฌ ๋ฉ”๋‰ด

๋ชฉ๋กskala1๊ธฐ (3)

๐˜š๐˜ญ๐˜ฐ๐˜ธ ๐˜ฃ๐˜ถ๐˜ต ๐˜ด๐˜ต๐˜ฆ๐˜ข๐˜ฅ๐˜บ

[LLM] LangChain๊ณผ RAG์„ ํ™œ์šฉํ•œ ๊ฐ„๋‹จํ•œ LLM ๊ธฐ๋ฐ˜ ์ฑ—๋ด‡ ๊ตฌํ˜„ํ•˜๊ธฐ

LangChain?LangChain์€ ๋Œ€ํ˜• ์–ธ์–ด ๋ชจ๋ธ(LLM)์„ ํšจ์œจ์ ์œผ๋กœ ํ™œ์šฉํ•  ์ˆ˜ ์žˆ๋„๋ก ์ง€์›ํ•˜๋Š” ํ”„๋ ˆ์ž„์›Œํฌ๋กœ, AI ๊ธฐ๋ฐ˜ ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜ ๊ฐœ๋ฐœ์„ ๋ณด๋‹ค ์ฒด๊ณ„์ ์ด๊ณ  ์œ ์—ฐํ•˜๊ฒŒ ์„ค๊ณ„ํ•  ์ˆ˜ ์žˆ๋„๋ก ๋•๋Š”๋‹ค. LangChain์€ ๋‹ค์–‘ํ•œ LLM๊ณผ ์—ฐ๋™ํ•  ์ˆ˜ ์žˆ์œผ๋ฉฐ, ์ด๋ฅผ ํ†ตํ•ด AI ๋ชจ๋ธ์„ ์‰ฝ๊ฒŒ ํ˜ธ์ถœํ•˜๊ณ , ๋Œ€ํ™”ํ˜• ์‘๋‹ต์„ ์ƒ์„ฑํ•˜๊ฑฐ๋‚˜ ๋ฐ์ดํ„ฐ ๋ถ„์„ ๋ฐ ์ž๋™ํ™” ํ”„๋กœ์„ธ์Šค๋ฅผ ๊ตฌ์ถ•ํ•˜๋Š” ๋ฐ ํ™œ์šฉํ•  ์ˆ˜ ์žˆ๋‹ค.- ChatGPT LangChain์€ ๋‹ค์–‘ํ•œ LLM ๋ชจ๋ธ์„ ์†์‰ฝ๊ฒŒ ํ˜ธ์ถœํ•˜๊ณ  ์‚ฌ์šฉํ•  ์ˆ˜ ์žˆ๊ฒŒ ์ง€์›ํ•œ๋‹ค. ํŠนํžˆ OpenAI API๋ฅผ ์ง์ ‘ ํ™œ์šฉํ•˜์—ฌ ํ”„๋กฌํ”„ํŠธ๋ฅผ ์ „๋‹ฌํ•˜๋Š” ๋ฐฉ์‹๋ณด๋‹ค LangChain์„ ํ™œ์šฉํ•˜๋ฉด LLM์„ ํ™œ์šฉํ•˜๋Š” ์ธก๋ฉด์—์„œ ํ™•์žฅ์„ฑ๋„ ์ข‹๊ณ  ์ฝ”๋“œ ํ™œ์šฉ๋„ ํ›จ์”ฌ ๊ฐ„ํŽธํ•˜๋‹ค. ์‹ค์ œ ์ฝ”๋“œ๋ฅผ ๋†“๊ณ  ๋น„๊ตํ•ด๋„ ์•„๋ž˜์™€ ๊ฐ™์ด ๋” ์ง๊ด€์ ์œผ๋กœ ์ดํ•ดํ•˜๊ธฐ..

machine learning 2025. 3. 26. 00:55
[LLM] LLM์˜ ํŒŒ๋ผ๋ฏธํ„ฐ, temperature ์ดํ•ดํ•˜๊ธฐ + temperature ์„ค์ •๊ฐ’ ๋ณ„ ๋‹ต๋ณ€ ํ™•์ธํ•˜๊ธฐ

Temperature?์–ธ์–ด ๋ชจ๋ธ์ด ํ…์ŠคํŠธ๋ฅผ ์ƒ์„ฑํ•  ๋•Œ ๋žœ๋ค์„ฑ์„ ์ œ์–ดํ•˜๋Š” ํ•˜์ดํผ ํŒŒ๋ผ๋ฏธํ„ฐ๋กœ, ๋ชจ๋ธ์ด ์ƒ์„ฑํ•  ๋‹ค์Œ ๋‹จ์–ด์˜ ํ™•๋ฅ  ๋ถ„ํฌ๋ฅผ ์กฐ์ •ํ•œ๋‹ค. ๊ฐ’์˜ ๋ฒ”์œ„๋Š” ์ผ๋ฐ˜์ ์œผ๋กœ [0, 1]์„ ๊ฐ–๋Š”๋‹ค.๋‚ฎ์€ ๊ฐ’์ผ์ˆ˜๋ก ๋ชจ๋ธ์ด ๋” ์˜ˆ์ธก ๊ฐ€๋Šฅํ•œ ์ถœ๋ ฅ์„ ์ƒ์„ฑํ•˜๊ณ , ๋†’์€ ๊ฐ’์ผ ์ˆ˜๋ก ๋ชจ๋ธ์ด ๋” ๋‹ค์–‘ํ•˜๊ณ  ์ฐฝ์˜์ ์ธ ์ถœ๋ ฅ์„ ์ƒ์„ฑํ•œ๋‹ค. ์ด๋ก ์ ์œผ๋กœ 1.0 ์ด์ƒ์˜ ๊ฐ’์„ ๊ฐ€์งˆ ์ˆ˜ ์žˆ์œผ๋‚˜, ๊ฐ’์„ ํ‚ค์›Œ ๋‹ค์–‘์„ฑ์„ ๋Š˜๋ฆด ์ˆ˜๋ก ๋ฌด์ž‘์œ„์„ฑ๋„ ํ•จ๊ป˜ ์ฆ๊ฐ€ํ•˜๊ธฐ ๋•Œ๋ฌธ์— ๋‹จ์ˆœ ๋žœ๋ค ํ…์ŠคํŠธ ์ƒ์„ฑ์— ๊ทธ์น  ์ˆ˜ ์žˆ๋‹ค. ๋˜ํ•œ, ํ•œ๊ตญ์–ด์˜ ๊ฒฝ์šฐ 1.0 ์ด์ƒ์˜ ๊ฐ’์œผ๋กœ ๋„˜์–ด๊ฐ€๋ฉด ๋งž์ถค๋ฒ•์ด ๋‹ฌ๋ผ์งˆ ์ˆ˜ ์žˆ๋‹ค.0์— ๊ฐ€๊นŒ์šธ ์ˆ˜๋ก ์ •ํ•ด์ง„ ๋‹ต๋ณ€์„ ์ˆ˜ํ–‰ํ•˜๊ธฐ ๋•Œ๋ฌธ์—, ์ผ๋ฐ˜์ ์œผ๋กœ 0 ~ 0.5 ์ดํ•˜์˜ ๊ฐ’์„ ์‚ฌ์šฉํ•˜๋Š” ๊ฒƒ์„ ๊ถŒ์žฅํ•œ๋‹ค.  ๊ทผ๋ฐ1 ์ด์ƒ์˜ ์ž์œ ๋„๋ฅผ ๊ฐ€์งˆ ๋•Œ ๋‹ต๋ณ€์ด ์–ด๋–ป๊ฒŒ ๋‹ฌ๋ผ์ง€๋Š”์ง€ ๊ถ๊ธˆํ•ด์„œ..

machine learning 2025. 3. 14. 14:04