์ค๊ตญ ๊ธฐ์ ๊ฐ์ฒ์, OpenAI์ ๋์ ํ ์คํ ์์ค ์ธ์ด ๋ชจ๋ธ ๊ณต๊ฐ
์ค๊ตญ ๊ธฐ์ ๊ฐ Wang Xiaochuan์ ์์ ์ ์คํํธ์ ์ธ Baichuan Intelligence๊ฐ ๊ณ ๊ธ ๋ํ ์ธ์ด ๋ชจ๋ธ์ธ Baichuan-13B๋ฅผ ๋์ ํ๋ฉด์ ์ค๊ตญ์ ์์ฒด OpenAI๋ฅผ ์ ๊ณตํ๋ ค๋ ๋น์ ์ ์ถ์งํ๊ณ ์์ต๋๋ค.

์ค๊ตญ์ Baichuan Intelligence์ ๋ํ๊ตฌ ๋๋ถ์ ๊ณ ๊ธ ์ธ์ด ์ธ๊ณต ์ง๋ฅ(AI) ๊ธฐ์ ์ ์ฃผ๋ชฉ์ ๋ฐ๊ณ ์์ต๋๋ค. ๊ฒฝํ์ด ํ๋ถํ ๊ธฐ์ ๊ฐ์ด์ ์ปดํจํฐ ๊ณผํ์ ๊ฑฐ์ฅ์ธ Wang Xiaochuan์ด ์์ํ ์ด ์คํํธ์ ์ OpenAI์ ๊ฐ์ ๊ฑฐ๋ ๊ธฐ์ ๊ณผ ๊ฒฝ์ํ๋๋ก ์ค๊ณ๋ ์ต์ฒจ๋จ ๋ํ ์ธ์ด ๋ชจ๋ธ(LLM)์ธ Baichuan-13B๋ฅผ ์ถ์ํ์ต๋๋ค.
์ฌํด ์ด Wang Xiaochuan์ '์ค๊ตญ ๊ณ ์ ์ OpenAI'๋ฅผ ๋ง๋ค๊ฒ ๋ค๋ ์ด๋ง์ ํ๋ช ํ์ต๋๋ค. ์ค๊ตญ ๊ฒ์ ์์ง Sogou๋ฅผ ์ค๋ฆฝํ๊ณ ๋์ค์ ์ด๋ฅผ Tencent์ ๋งค๊ฐํ ๊ฒ์ผ๋ก ์ ๋ช ํ ๊ธฐ์ ๊ฑฐ๋ฌผ์ธ ๊ทธ๋ ์์ ์ด ์ข์ํ๋ ํ๋ก์ ํธ์ธ Baichuan Intelligence๊ฐ ์ค๊ตญ์์ LLM ๊ฐ๋ฐ์ ์ต์ ์ ์ ๋ฑ์ฅํ๋ ๊ฒ์ ๋ชฉ๊ฒฉํ์ต๋๋ค.
ChatGPT์ ํ๊ดด์ ์ธ ์ํฅ๋ ฅ์ด ์ ์ธ๊ณ์ ๋ฐํฅ์ ์ผ์ผ์ผฐ์ ๋ Wang์ ํฌ๋ถ๋ ๋ ์์ฌ๋์ต๋๋ค. ๊ทธ๋ 2021๋ Sogou์์ ์ฌ์ง์๋ฅผ ์์ฑํ๊ณ ์ฌํด 4์ Baichuan ์ค๋ฆฝ์ ์ฐฉ์ํ์ฌ ์์ ค ํฌ์์๋ก๋ถํฐ ์ธ์์ ์ธ ์ด๊ธฐ ์๊ธ 5์ฒ๋ง ๋ฌ๋ฌ๋ฅผ ๋น ๋ฅด๊ฒ ํ๋ณดํ์ต๋๋ค.
GPT ์ ๊ธฐ๋ฐ์ด๊ธฐ๋ ํ Transformer ์ํคํ ์ฒ๋ฅผ ํ์ฉํ๋ 130์ต ๊ฐ์ ๋งค๊ฐ๋ณ์ ๋ชจ๋ธ์ธ Baichuan ์ ์ค๊ตญ์ด ๋ฐ ์์ด ๋ฐ์ดํฐ๋ก ๋ฅ์ํ๊ฒ ํ๋ จ๋ ์คํ ์์ค ๋ชจ๋ธ์ ๋๋ค. AI ์ฉ์ด์์ ๋งค๊ฐ๋ณ์๋ ํ ์คํธ๋ฅผ ์์ฑํ๊ณ ํด๋ ํ๊ธฐ ์ํด ๋ชจ๋ธ์์ ์ฌ์ฉํ๋ ์ค์ํ ๋ณ์์ ๋๋ค. GitHub ํ์ด์ง๋ Baichuan์ด ์์ ์ ์ผ๋ก ์ฌ์ฉํ ์ค๋น๊ฐ ๋์์์ ๋ํ๋ ๋๋ค.
Baichuan-13B์ ์ด์ ๋ฅ๋ ฅ์ 130์ต ๊ฐ์ ๋งค๊ฐ๋ณ์ ๋ชจ๋ธ์ 1์กฐ ๊ฐ์ ํ ํฐ์ ํ์ฉํ๋ Meta์ DLLaMa๋ณด๋ค ํจ์ฌ ํฐ 1์กฐ 4์ฒ์ต ๊ฐ์ ํ ํฐ์ผ๋ก ํ๋ จํ ์ ์๋ ๋ฅ๋ ฅ์ผ๋ก ์์ฝ๋ฉ๋๋ค.
Baichuan์ด ์์๋ ์ง 6๊ฐ์๋ ์ฑ ์ ๋์์ง๋ง ๊ธฐ์ ๋ฐ์ ์ ํ์คํ ์ฃผ๋ชฉํ ๋งํฉ๋๋ค. ์ด ๋ณต์ฅ์ 4์ ๋ง๊น์ง 50๋ช ์ ์ง์์ผ๋ก ๋ฒ์ฐฝํ๊ณ , ๋น ๋ฅด๋ฉด 6์์๋ 70์ต ๊ฐ์ ๋งค๊ฐ๋ณ์๋ก ๊ตฌ์ฑ๋ ํ์ ์ ์ธ LLM์ธ Baichuan-7B๋ฅผ ์ถ์ํ์ต๋๋ค.
๋ค๋ฅธ LLM ํ๋ซํผ๊ณผ ๋ง์ฐฌ๊ฐ์ง๋ก ์ค๊ตญ์์ ๋๊ท๋ชจ ์ธ์ด ๋ชจ๋ธ์ ์ถํ์ ๋น ๋ฅด๊ฒ ๋ฐ์ ํ๋ ์ด ๊ธฐ์ ์ฐ์ ์์ ์ค์ํ ์ญํ ์ ํ๋ ค๋ ์ค๊ตญ์ ์ผ๋ง์ ๊ฐ์กฐํฉ๋๋ค.
Baichuan Intelligence์ ๊ฐ์ ๊ฒฝ๋ก์๋ Tsinghua University๊ฐ ๊ธฐ๋ฐ์ ๋๊ณ Tang Jie ๊ต์๊ฐ ์ง๋ํ๋ Zhipu.ai์ ๊ฐ์ ๋ค๋ฅธ ์ค๊ตญ ๊ฑฐ๋ ๊ธฐ์ ๊ธฐ์ ๊ณผ Microsoft Research Asia์ ๋ฐ์ด๋ ์ง์ฑ ์ค ํ ๋ช ์ธ Harry Shum์ด ๊ณต๋ ์ค๋ฆฝํ IDEA๊ฐ ์์ต๋๋ค. ์ค๊ตญ์ด ์ฝํ ์ธ ์ ์ค์ ์ ๋๊ณ ์ธ๊ณ์์ ๊ฐ์ฅ ๊ฐ๋ ฅํ AI ๊ท์ ์ ์ํํ๊ธฐ ์ง์ ์ธ ์ํฉ์์ ์ด ๊ฑฐ๋ ๊ธฐ์ ๊ธฐ์ ๋ค์ ์ค๊ตญ์์ LLM์ ์๋ก์ด ๋ฏธ๋๋ฅผ ์ค๊ณํ๊ณ ์์ต๋๋ค.
AppMaster์ ์ฝ๋ ์๋ ํ๋ซํผ์ ๋ฐ์ดํฐ ๊ด๋ฆฌ, ๋น์ฆ๋์ค ๋ ผ๋ฆฌ ์์ฑ, API ์์ฑ ๋ฑ์ ์ํ ๊ฐ๋ ฅํ ์ ํ๋ฆฌ์ผ์ด์ ์ ๋ง๋๋ ๋ฐ ๋์์ด ๋๋ ๋๊ตฌ ๋ชฉ๋ก์์ ์ฃผ๋ชฉํ ๋งํ ๋ ๋ค๋ฅธ ๋ชจ๋ธ๋ก, ์ ์ฌ์ ์ผ๋ก Baichuan ๋ฐ ๊ธฐํ ํ์ฌ๊ฐ ๋ ์งง์ ์๊ฐ์ ํ์ฅ ๊ฐ๋ฅํ ์ ํ๋ฆฌ์ผ์ด์ ์ ๋ง๋ค ์ ์๋๋ก ์ง์ํฉ๋๋ค.
๊ทธ๋ฌ๋ ์ ๋ถ๋ ์ด๋ฅผ ๊ฐ๋ณ๊ฒ ์ฌ๊ธฐ์ง ์๋๋ค. ์๊ฒฉํ ๊ท์ ๊ฐ ์๋ฐํ ์ํฉ์์ ๊ธฐ์ ์ ๊ณง ๋๊ท๋ชจ ์ธ์ด ๋ชจ๋ธ์ ๋ฐฐํฌํ๊ธฐ ์ ์ ๋ผ์ด์ ์ค๋ฅผ ์๊ตฌํ ์ ์์ต๋๋ค. ์ด๊ฒ์ ์ ์ฌ์ ์ผ๋ก ๋น ๋ฅด๊ฒ ๋ถ์ํ๋ AI ์ธ์ด ์ฐ์ ์์ ๋ฏธ๊ตญ์ ๋ํ ์ค๊ตญ์ ๊ฒฝ์์ ๋ฐฉํดํ ์ ์์ต๋๋ค.


