KIKUGO Blog

Jeu de données d’évaluation ouvert

Benchmark des outils de sous-titres japonais

Un jeu de données reproductible pour tester si un outil explique le sens, la lecture, la grammaire, le registre et le contexte d’une phrase japonaise, au-delà des mots isolés.

Résultats en attente d’exécutions reproductibles

Aucun score concurrent n’est encore publié. Les résultats apparaîtront seulement après l’exécution de chaque outil avec la même version, les mêmes réglages, la même date et la même grille, en conservant les sorties brutes.

Méthodologie

  1. Utiliser un compte vierge et les réglages par défaut, sauf configuration documentée obligatoire.
  2. Soumettre les mêmes 20 phrases japonaises originales dans l’ordre du jeu de données, le même jour.
  3. Sauvegarder la sortie brute avant notation et indiquer les fonctions indisponibles comme telles.
  4. Noter chaque phrase selon quatre dimensions d’un point sans transférer le mérite d’une autre fonction.

Grille de notation sur 80 points

Dataset

Toutes les phrases sont des exemples originaux KIKUGO. Elles ciblent des difficultés récurrentes des sous-titres sans reproduire de dialogues de films ou séries.

Télécharger le benchmark JSON

ID Phrase japonaise Difficulté Sens attendu
jp-01 今日は学校に行かない。 particle Je ne vais pas à l’école aujourd’hui.
jp-02 メッセージ、もう読んだ? kana Tu as déjà lu le message ?
jp-03 雨が降ってるから、傘持ってきて。 contraction Comme il pleut, prends un parapluie.
jp-04 そんなつもりじゃなかった。 context Ce n’était pas mon intention.
jp-05 先に食べてていいよ。 contraction Tu peux commencer à manger avant moi.
jp-06 まさか本当に来るとは思わなかった。 grammar Je ne pensais vraiment pas que cette personne viendrait.
jp-07 これ、めっちゃうまい。 register C’est super bon.
jp-08 部長に確認しておきます。 grammar Je vais vérifier auprès du responsable de service.
jp-09 彼が来るそうだ。 grammar J’ai entendu dire qu’il viendrait.
jp-10 雨が降りそうだ。 grammar On dirait qu’il va pleuvoir.
jp-11 忘れないようにメモしておいた。 grammar J’ai pris une note pour ne pas oublier.
jp-12 もう少しゆっくり話してもらえますか。 register Pourriez-vous parler un peu plus lentement ?
jp-13 電車が遅れているみたい。 context On dirait que le train est en retard.
jp-14 せっかく来たんだから、楽しもう。 context Puisqu’on a fait tout ce chemin, profitons-en.
jp-15 あいつ、またサボってる。 register Ce type sèche encore ses obligations.
jp-16 このアプリ、使いやすくない? context Cette application n’est-elle pas facile à utiliser ?
jp-17 何を言ってるのか全然わからない。 contraction Je ne comprends absolument pas ce que tu dis.
jp-18 手伝ってくれて助かった。 context Ton aide m’a vraiment sauvé.
jp-19 予約しておけばよかった。 grammar J’aurais dû réserver.
jp-20 お客様、こちらで少々お待ちください。 register Veuillez patienter ici un instant.

Reproduire avant de citer

Un score n’est comparable que si la version du benchmark, la version de l’outil, la date, les réglages, la sortie brute et l’évaluateur sont divulgués. Le jeu de données doit être cité séparément de futurs résultats.

Lire la méthodologie éditoriale KIKUGO