2023๋…„ 7์›” 11์ผยท1๋ถ„ ์ฝ๊ธฐ

์ค‘๊ตญ ๊ธฐ์ˆ  ๊ฐœ์ฒ™์ž, OpenAI์— ๋„์ „ํ•  ์˜คํ”ˆ ์†Œ์Šค ์–ธ์–ด ๋ชจ๋ธ ๊ณต๊ฐœ

์ค‘๊ตญ ๊ธฐ์—…๊ฐ€ Wang Xiaochuan์€ ์ž์‹ ์˜ ์Šคํƒ€ํŠธ์—…์ธ Baichuan Intelligence๊ฐ€ ๊ณ ๊ธ‰ ๋Œ€ํ˜• ์–ธ์–ด ๋ชจ๋ธ์ธ Baichuan-13B๋ฅผ ๋„์ž…ํ•˜๋ฉด์„œ ์ค‘๊ตญ์— ์ž์ฒด OpenAI๋ฅผ ์ œ๊ณตํ•˜๋ ค๋Š” ๋น„์ „์„ ์ถ”์ง„ํ•˜๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค.

์ค‘๊ตญ ๊ธฐ์ˆ  ๊ฐœ์ฒ™์ž, OpenAI์— ๋„์ „ํ•  ์˜คํ”ˆ ์†Œ์Šค ์–ธ์–ด ๋ชจ๋ธ ๊ณต๊ฐœ

์ค‘๊ตญ์€ Baichuan Intelligence์˜ ๋ŒํŒŒ๊ตฌ ๋•๋ถ„์— ๊ณ ๊ธ‰ ์–ธ์–ด ์ธ๊ณต ์ง€๋Šฅ(AI) ๊ธฐ์ˆ ์˜ ์ฃผ๋ชฉ์„ ๋ฐ›๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค. ๊ฒฝํ—˜์ด ํ’๋ถ€ํ•œ ๊ธฐ์—…๊ฐ€์ด์ž ์ปดํ“จํ„ฐ ๊ณผํ•™์˜ ๊ฑฐ์žฅ์ธ Wang Xiaochuan์ด ์‹œ์ž‘ํ•œ ์ด ์Šคํƒ€ํŠธ์—…์€ OpenAI์™€ ๊ฐ™์€ ๊ฑฐ๋Œ€ ๊ธฐ์—…๊ณผ ๊ฒฝ์Ÿํ•˜๋„๋ก ์„ค๊ณ„๋œ ์ตœ์ฒจ๋‹จ ๋Œ€ํ˜• ์–ธ์–ด ๋ชจ๋ธ(LLM)์ธ Baichuan-13B๋ฅผ ์ถœ์‹œํ–ˆ์Šต๋‹ˆ๋‹ค.

์˜ฌํ•ด ์ดˆ Wang Xiaochuan์€ '์ค‘๊ตญ ๊ณ ์œ ์˜ OpenAI'๋ฅผ ๋งŒ๋“ค๊ฒ ๋‹ค๋Š” ์—ด๋ง์„ ํ‘œ๋ช…ํ–ˆ์Šต๋‹ˆ๋‹ค. ์ค‘๊ตญ ๊ฒ€์ƒ‰ ์—”์ง„ Sogou๋ฅผ ์„ค๋ฆฝํ•˜๊ณ  ๋‚˜์ค‘์— ์ด๋ฅผ Tencent์— ๋งค๊ฐํ•œ ๊ฒƒ์œผ๋กœ ์œ ๋ช…ํ•œ ๊ธฐ์ˆ  ๊ฑฐ๋ฌผ์ธ ๊ทธ๋Š” ์ž์‹ ์ด ์ข‹์•„ํ•˜๋Š” ํ”„๋กœ์ ํŠธ์ธ Baichuan Intelligence๊ฐ€ ์ค‘๊ตญ์—์„œ LLM ๊ฐœ๋ฐœ์˜ ์ตœ์ „์„ ์— ๋“ฑ์žฅํ•˜๋Š” ๊ฒƒ์„ ๋ชฉ๊ฒฉํ–ˆ์Šต๋‹ˆ๋‹ค.

ChatGPT์˜ ํŒŒ๊ดด์ ์ธ ์˜ํ–ฅ๋ ฅ์ด ์ „ ์„ธ๊ณ„์— ๋ฐ˜ํ–ฅ์„ ์ผ์œผ์ผฐ์„ ๋•Œ Wang์˜ ํฌ๋ถ€๋Š” ๋‚ ์•„์˜ฌ๋ž์Šต๋‹ˆ๋‹ค. ๊ทธ๋Š” 2021๋…„ Sogou์—์„œ ์‚ฌ์ง์„œ๋ฅผ ์ž‘์„ฑํ•˜๊ณ  ์˜ฌํ•ด 4์›” Baichuan ์„ค๋ฆฝ์— ์ฐฉ์ˆ˜ํ•˜์—ฌ ์—”์ ค ํˆฌ์ž์ž๋กœ๋ถ€ํ„ฐ ์ธ์ƒ์ ์ธ ์ดˆ๊ธฐ ์ž๊ธˆ 5์ฒœ๋งŒ ๋‹ฌ๋Ÿฌ๋ฅผ ๋น ๋ฅด๊ฒŒ ํ™•๋ณดํ–ˆ์Šต๋‹ˆ๋‹ค.

GPT ์˜ ๊ธฐ๋ฐ˜์ด๊ธฐ๋„ ํ•œ Transformer ์•„ํ‚คํ…์ฒ˜๋ฅผ ํ™œ์šฉํ•˜๋Š” 130์–ต ๊ฐœ์˜ ๋งค๊ฐœ๋ณ€์ˆ˜ ๋ชจ๋ธ์ธ Baichuan ์€ ์ค‘๊ตญ์–ด ๋ฐ ์˜์–ด ๋ฐ์ดํ„ฐ๋กœ ๋Šฅ์ˆ™ํ•˜๊ฒŒ ํ›ˆ๋ จ๋œ ์˜คํ”ˆ ์†Œ์Šค ๋ชจ๋ธ์ž…๋‹ˆ๋‹ค. AI ์šฉ์–ด์—์„œ ๋งค๊ฐœ๋ณ€์ˆ˜๋Š” ํ…์ŠคํŠธ๋ฅผ ์ƒ์„ฑํ•˜๊ณ  ํ•ด๋…ํ•˜๊ธฐ ์œ„ํ•ด ๋ชจ๋ธ์—์„œ ์‚ฌ์šฉํ•˜๋Š” ์ค‘์š”ํ•œ ๋ณ€์ˆ˜์ž…๋‹ˆ๋‹ค. GitHub ํŽ˜์ด์ง€๋Š” Baichuan์ด ์ƒ์—…์ ์œผ๋กœ ์‚ฌ์šฉํ•  ์ค€๋น„๊ฐ€ ๋˜์—ˆ์Œ์„ ๋‚˜ํƒ€๋ƒ…๋‹ˆ๋‹ค.

Baichuan-13B์˜ ์šด์˜ ๋Šฅ๋ ฅ์€ 130์–ต ๊ฐœ์˜ ๋งค๊ฐœ๋ณ€์ˆ˜ ๋ชจ๋ธ์— 1์กฐ ๊ฐœ์˜ ํ† ํฐ์„ ํ™œ์šฉํ•˜๋Š” Meta์˜ DLLaMa๋ณด๋‹ค ํ›จ์”ฌ ํฐ 1์กฐ 4์ฒœ์–ต ๊ฐœ์˜ ํ† ํฐ์œผ๋กœ ํ›ˆ๋ จํ•  ์ˆ˜ ์žˆ๋Š” ๋Šฅ๋ ฅ์œผ๋กœ ์š”์•ฝ๋ฉ๋‹ˆ๋‹ค.

Baichuan์ด ์‹œ์ž‘๋œ ์ง€ 6๊ฐœ์›”๋„ ์ฑ„ ์•ˆ ๋˜์—ˆ์ง€๋งŒ ๊ธฐ์ˆ  ๋ฐœ์ „์€ ํ™•์‹คํžˆ ์ฃผ๋ชฉํ•  ๋งŒํ•ฉ๋‹ˆ๋‹ค. ์ด ๋ณต์žฅ์€ 4์›” ๋ง๊นŒ์ง€ 50๋ช…์˜ ์ง์›์œผ๋กœ ๋ฒˆ์ฐฝํ–ˆ๊ณ , ๋น ๋ฅด๋ฉด 6์›”์—๋Š” 70์–ต ๊ฐœ์˜ ๋งค๊ฐœ๋ณ€์ˆ˜๋กœ ๊ตฌ์„ฑ๋œ ํ˜์‹ ์ ์ธ LLM์ธ Baichuan-7B๋ฅผ ์ถœ์‹œํ–ˆ์Šต๋‹ˆ๋‹ค.

๋‹ค๋ฅธ LLM ํ”Œ๋žซํผ๊ณผ ๋งˆ์ฐฌ๊ฐ€์ง€๋กœ ์ค‘๊ตญ์—์„œ ๋Œ€๊ทœ๋ชจ ์–ธ์–ด ๋ชจ๋ธ์˜ ์ถœํ˜„์€ ๋น ๋ฅด๊ฒŒ ๋ฐœ์ „ํ•˜๋Š” ์ด ๊ธฐ์ˆ  ์‚ฐ์—…์—์„œ ์ค‘์š”ํ•œ ์—ญํ• ์„ ํ•˜๋ ค๋Š” ์ค‘๊ตญ์˜ ์•ผ๋ง์„ ๊ฐ•์กฐํ•ฉ๋‹ˆ๋‹ค.

Baichuan Intelligence์™€ ๊ฐ™์€ ๊ฒฝ๋กœ์—๋Š” Tsinghua University๊ฐ€ ๊ธฐ๋ฐ˜์„ ๋‘๊ณ  Tang Jie ๊ต์ˆ˜๊ฐ€ ์ง€๋„ํ•˜๋Š” Zhipu.ai์™€ ๊ฐ™์€ ๋‹ค๋ฅธ ์ค‘๊ตญ ๊ฑฐ๋Œ€ ๊ธฐ์ˆ  ๊ธฐ์—…๊ณผ Microsoft Research Asia์˜ ๋›ฐ์–ด๋‚œ ์ง€์„ฑ ์ค‘ ํ•œ ๋ช…์ธ Harry Shum์ด ๊ณต๋™ ์„ค๋ฆฝํ•œ IDEA๊ฐ€ ์žˆ์Šต๋‹ˆ๋‹ค. ์ค‘๊ตญ์ด ์ฝ˜ํ…์ธ ์— ์ค‘์ ์„ ๋‘๊ณ  ์„ธ๊ณ„์—์„œ ๊ฐ€์žฅ ๊ฐ•๋ ฅํ•œ AI ๊ทœ์ •์„ ์‹œํ–‰ํ•˜๊ธฐ ์ง์ „์ธ ์ƒํ™ฉ์—์„œ ์ด ๊ฑฐ๋Œ€ ๊ธฐ์ˆ  ๊ธฐ์—…๋“ค์€ ์ค‘๊ตญ์—์„œ LLM์˜ ์ƒˆ๋กœ์šด ๋ฏธ๋ž˜๋ฅผ ์„ค๊ณ„ํ•˜๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค.

AppMaster์˜ ์ฝ”๋“œ ์—†๋Š” ํ”Œ๋žซํผ์€ ๋ฐ์ดํ„ฐ ๊ด€๋ฆฌ, ๋น„์ฆˆ๋‹ˆ์Šค ๋…ผ๋ฆฌ ์ƒ์„ฑ, API ์ƒ์„ฑ ๋“ฑ์„ ์œ„ํ•œ ๊ฐ•๋ ฅํ•œ ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜์„ ๋งŒ๋“œ๋Š” ๋ฐ ๋„์›€์ด ๋˜๋Š” ๋„๊ตฌ ๋ชฉ๋ก์—์„œ ์ฃผ๋ชฉํ• ๋งŒํ•œ ๋˜ ๋‹ค๋ฅธ ๋ชจ๋ธ๋กœ, ์ž ์žฌ์ ์œผ๋กœ Baichuan ๋ฐ ๊ธฐํƒ€ ํšŒ์‚ฌ๊ฐ€ ๋” ์งง์€ ์‹œ๊ฐ„์— ํ™•์žฅ ๊ฐ€๋Šฅํ•œ ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜์„ ๋งŒ๋“ค ์ˆ˜ ์žˆ๋„๋ก ์ง€์›ํ•ฉ๋‹ˆ๋‹ค.

๊ทธ๋Ÿฌ๋‚˜ ์ •๋ถ€๋Š” ์ด๋ฅผ ๊ฐ€๋ณ๊ฒŒ ์—ฌ๊ธฐ์ง€ ์•Š๋Š”๋‹ค. ์—„๊ฒฉํ•œ ๊ทœ์ œ๊ฐ€ ์ž„๋ฐ•ํ•œ ์ƒํ™ฉ์—์„œ ๊ธฐ์—…์€ ๊ณง ๋Œ€๊ทœ๋ชจ ์–ธ์–ด ๋ชจ๋ธ์„ ๋ฐฐํฌํ•˜๊ธฐ ์ „์— ๋ผ์ด์„ ์Šค๋ฅผ ์š”๊ตฌํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์ด๊ฒƒ์€ ์ž ์žฌ์ ์œผ๋กœ ๋น ๋ฅด๊ฒŒ ๋ถ€์ƒํ•˜๋Š” AI ์–ธ์–ด ์‚ฐ์—…์—์„œ ๋ฏธ๊ตญ์— ๋Œ€ํ•œ ์ค‘๊ตญ์˜ ๊ฒฝ์Ÿ์„ ๋ฐฉํ•ดํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

Easy to start
Create something amazing

Experiment with AppMaster with free plan.
When you will be ready you can choose the proper subscription.

Get Started
์ค‘๊ตญ ๊ธฐ์ˆ  ๊ฐœ์ฒ™์ž, OpenAI์— ๋„์ „ํ•  ์˜คํ”ˆ ์†Œ์Šค ์–ธ์–ด ๋ชจ๋ธ ๊ณต๊ฐœ | AppMaster