pretty_name: 1C-Code-Train
language:
- ru
task_categories:
- sentence-similarity
size_categories:
- 100K<n<1M
license: other
tags:
- code-retrieval
- 1c
- bsl
- hard-negatives
configs:
- config_name: default
data_files:
- split: train
path: train-*.parquet
1C-Code-Train
1C-Code-Train содержит 784 057 синтетических триплетов для поиска кода 1С:E/BSL преимущественно по русскоязычным запросам. Датасет использовался для обучения модели PruhaNLP/USER2-1C-code.
Данные
Сплит train содержит три текстовых поля:
query— синтетический поисковый запрос на естественном языке;positive— соответствующий запросу фрагмент кода 1С/BSL;negative— сложный отрицательный пример, найденный в корпусе кода.
from datasets import load_dataset
dataset = load_dataset("PruhaNLP/1C-Code-Train", split="train")
Подготовка
Код происходит из публичного корпуса leongl/1c_github. После фильтрации и точной дедупликации запросы были сгенерированы моделью google/gemma-4-26B-A4B-it. Сложные отрицательные примеры отбирались из первых 20 результатов deepvk/USER2-small с помощью FAISS и поиска по скалярному произведению.
Публикуемый файл прошёл очистку персональных данных. Консервативная обработка на основе правил заменяет обнаруженные адреса электронной почты, номера телефонов, IP-адреса, пути файловой системы и имена людей на [EMAIL], [PHONE], [IP], [PATH] и [PERSON]. Это снижает риск раскрытия персональных данных, но не является формальной гарантией полной деидентификации.
Назначение и ограничения
Датасет предназначен для исследований и обучения моделей поиска кода по текстовому запросу. Запросы являются синтетическими, среди сложных отрицательных примеров могут встречаться ложноотрицательные, а исходный код может содержать повторяющиеся шаблоны или неполные фрагменты.
Для исходного корпуса лицензия не указана. Поэтому для этого датасета установлено license: other. Перед повторным распространением или коммерческим использованием пользователи должны самостоятельно проверить происхождение исходных данных и лицензии соответствующих репозиториев. Проект является независимым, не аффилирован с фирмой «1С» и не одобрен ею.
Код оценки: PruhaNLP/1C-RB.