Saidakmal/fw_eval_clean

FW Eval Clean

Очищенный набор для оценки ASR на узбекском языке. Содержит 97 390 аудиосегментов (формат .opus) и эталонные транскрипции, плюс гипотезы исходной системы и метрики WER/CER.

Файлы

• fw_eval_clean.jsonl — манифест (по одной записи на строку). Поля:
  • audio_filepath — относительный путь к аудио (audios/audio_XXXXXXX.opus)
  • duration — длительность сегмента, сек.
  • reference — эталонный текст
  • hypothesis_raw — гипотеза с пунктуацией
  • hypothesis — гипотеза без пунктуации (используется для WER)
  • wer, cer — метрики на этой записи
• audios.zip.part00, audios.zip.part01, audios.zip.part02 — все аудио, ZIP разрезан на куски по ~10ГБ (store-режим, без сжатия — opus уже сжат). Общий размер ~26ГБ.

Как использовать

# Скачать
hf download Saidakmal/fw_eval_clean --repo-type dataset --local-dir .

# Склеить части и распаковать
cat audios.zip.part* > audios.zip
unzip -q audios.zip
# Получится папка audios/ — пути в JSONL уже относительные.

Или через Python:

from huggingface_hub import snapshot_download
import zipfile, json

local = snapshot_download("Saidakmal/fw_eval_clean", repo_type="dataset")
with zipfile.ZipFile(f"{local}/audios.zip") as z:
    z.extractall(local)

with open(f"{local}/fw_eval_clean.jsonl") as f:
    for line in f:
        d = json.loads(line)
        # d["audio_filepath"] = "audios/audio_XXXXXXX.opus"
        ...