Files
grabber-ai/reports/data_audit.md
T

4.1 KiB
Raw Blame History

Аудит датасета: data/labels.csv

строк в CSV: 6864 строк после подготовки: 7780 (train 7264 / test 516) источники: {'kinozal': 107, 'rutracker': 3924, 'nnm': 3749} уникальных нормализованных текстов: 4205 групп (релиз ∪ одинаковый текст): 834 удалено: пустой текст 0, мусорный studio 20, не-озвучка (оригинал/субтитры) 4, противоречивые дубли 0 (групп-противоречий: 0) спан автора найден: 5489 (70.6%), не найден: 29 аугментировано морфологических вариантов: 920 дорожек 18+: 316 (из них без упоминания «18» в тексте: 2)

Распределение translation_type

  • проф. многоголосый: 2730
  • проф. дубляж: 1909
  • авт. одноголосый: 1301
  • проф. двухголосый: 616
  • одноголосый: 465
  • неизвестно: 322
  • люб. многоголосый: 184
  • многоголосый: 111
  • люб. двухголосый: 65
  • люб. одноголосый: 46
  • двухголосый: 17
  • проф. одноголосый: 12
  • авт. многоголосый: 1
  • авт. двухголосый: 1

Спан не найден (примеры)

  • [rutracker] studio=«datynet; : Куценко» text=«Одноголосый закадровый datynet; перевод: Куценко»
  • [rutracker] studio=«datynet и Yuka_chan; :Куценко» text=«Любительский (двухголосый закадровый) datynet и Yuka_chan; перевод:Куц»
  • [rutracker] studio=«Дубляж, Blu-ray CEE_ 2009г» text=«Профессиональный (дублированный) |Дубляж, Blu-ray CEE[МОСФИЛЬМ]_2009г»
  • [rutracker] studio=«AC3, 6ch , 448 кбит/с Ист-Вест *» text=«Русский (Дублированный), AC3, 6ch (L, C, R, Ls, Rs +LFE), 448 кбит/с |»
  • [rutracker] studio=«R5, - Карусель, - Пучков ака Гоблин, - Гаврилов, - Горчаков, - Живов» text=«Многоголосый закадровый - R5, Многоголосый закадровый - Карусель, Авто»
  • [rutracker] studio=«ТК Россия, / озвучен в 2009 году» text=«Профессиональный (многоголосый закадровый) |ТК Россия, (Илья Хвостиков»
  • [rutracker] studio=«den904 & DeadSno Janetta» text=«Любительский (двухголосый закадровый) den904 & DeadSno перевод Janetta»
  • [rutracker] studio=«AC3, 6ch , 448 кбит/с Blu-ray CEE +» text=«Русский (Дублированный), AC3, 6ch (L, C, R, Ls, Rs +LFE), 448 кбит/с |»
  • [rutracker] studio=«AC3, 6ch , 448 кбит/с Blu-ray CEE +» text=«Украинский (Дублированный), AC3, 6ch (L, C, R, Ls, Rs +LFE), 448 кбит/»
  • [rutracker] studio=«AC3, 6ch , 384 кбит/с Киномания» text=«Русский (Профессиональный (многоголосый)), AC3, 6ch (L, C, R, Ls, Rs +»
  • [rutracker] studio=«AC3, 6ch , 384 кбит/с Сербин» text=«Русский (Профессиональный (один голос)), AC3, 6ch (L, C, R, Ls, Rs +LF»
  • [rutracker] studio=«AC3, 6ch , 384 кбит/с Гаврилов» text=«Русский (Профессиональный (один голос)), AC3, 6ch (L, C, R, Ls, Rs +LF»
  • [rutracker] studio=«Oдноголосый Матвеев Алексей» text=«Oдноголосый закадровый |Матвеев Алексей|»
  • [rutracker] studio=«телеканал Интер, Андрей Гаврилов» text=«Профессиональный (дублированный), Профессиональный (многоголосый закад»
  • [rutracker] studio=«1+1 / Новий канал украинский» text=«Профессиональный (двухголосый закадровый) 1+1 / Новий канал [Євген Паш»