백서
로컬 LLM이 월드모델로 진화하기 위한 첫 번째 조건
기업이 자기 네트워크 안에서 돌리는 언어 모델은 왜 기대만큼 답하지 못하는가, 그리고 모델을 바꾸지 않고 그 둘레에 기억·자가발전 계층을 두면 무엇이 달라지는가. 오픈 모델 12종(12B~약 400B MoE)과 작은 모델 11종을 한 네트워크 안에서 측정했고, 백서의 모든 숫자는 직접 측정한 것이며 한계도 함께 적었습니다.
백서
기업이 자기 네트워크 안에서 돌리는 언어 모델은 왜 기대만큼 답하지 못하는가, 그리고 모델을 바꾸지 않고 그 둘레에 기억·자가발전 계층을 두면 무엇이 달라지는가. 오픈 모델 12종(12B~약 400B MoE)과 작은 모델 11종을 한 네트워크 안에서 측정했고, 백서의 모든 숫자는 직접 측정한 것이며 한계도 함께 적었습니다.