werty1248/stack-edu-ko

HuggingFaceTB/stack-edu 에서 한국어가 포함된 데이터만 발췌

• 주석이나 소스코드 내부에 한국어가 포함된 경우
• 한국어로 작성된 문서(Markdown 등)

특징

• 한글이 5글자 이상 들어있으면 한국어가 포함된 데이터라고 판단함

• 극소수지만 한국어가 아닌데 유니코드가 깨져서 우연히 한글이 검출된 경우도 있는 것 같음

  • SmolLM2 토크나이저 기준 토큰 수 비교 (총 125B -> 4.1B, 마크다운 제외 시 2.1B)

Language	Stack-Edu (B tokens)	Stack-Edu-Ko (M tokens)
Python	21.8	430.8
Cpp	16.0	187.4
Markdown	14.0	1990.9
C	11.1	76.5
JavaScript	11.1	179.6
Java	42.1	810.5
SQL	9.62	240.1
PHP	9.07	32.2
C-Sharp	8.87	66.8
TypeScript	3.03	23.4
Shell	3.13	8.5
Swift	1.83	41.6
Go	1.80	6.5
Rust	1.75	5.2
Ruby	1.61	4.2

---

Citation Information

@misc{allal2025smollm2smolgoesbig,
      title={SmolLM2: When Smol Goes Big -- Data-Centric Training of a Small Language Model}, 
      author={Loubna Ben Allal and Anton Lozhkov and Elie Bakouch and Gabriel Martín Blázquez and Guilherme Penedo and Lewis Tunstall and Andrés Marafioti and Hynek Kydlíček and Agustín Piqueres Lajarín and Vaibhav Srivastav and Joshua Lochner and Caleb Fahlgren and Xuan-Son Nguyen and Clémentine Fourrier and Ben Burtenshaw and Hugo Larcher and Haojun Zhao and Cyril Zakka and Mathieu Morlon and Colin Raffel and Leandro von Werra and Thomas Wolf},
      year={2025},
      eprint={2502.02737},
      archivePrefix={arXiv},
      primaryClass={cs.CL},
      url={https://arxiv.org/abs/2502.02737}, 
}