Datasets:

thibault-baneras-roux
/

HATS-fr

text stringlengths 21 450
reference hypA nbrA hypB nbrB
le le début de centres nucléaires militaires le le le début de centres nuclé militaires 3 le le le début deux centres nucléaires militaires 4
en tirer les conclusions mais je je trouve cette euh en tirer des conclusions mais j je trouve cette euh 4 euh en tirer les conclusions mais je je trouve cetteuh 3
dimanche soir dufreigne philippe dimanche soir' une ça 5 dimanche soire an t e 2
et on voit aujourd'hui où se trouve la grèce alors justement est ce que c' est un business rentable on voit aujourd' hui on se trouve la grèce euh justement si le c' est un businesse fontable 3 et on voiteu aujourd' hui ou se trouve la graisse alor justement est-ce que c' est un business rentable 4
or le dirigeant de cosmos lui même quand il a été interrogé en novembre deux mille onze or le dirigeant de kosmos lui-même quand il a été interrogé en novembre deux mille onze 0 or le dirigeant de cosmos lui-même quand il a été interrogé en novembre deux milles onze 7
donc tout d' un coup il descendait de l' olympe si vous voulez voilà donc il descendait de l' olympe donc euh tout d' un coup il descendait de l' olympe si vous tournez il ça voilà donc il descendait de l' olympympe 7 donc euh tout d' un coup il descend des blaulins c' est l' autorité on prend souvent donc il descendait de là 0
trop généreuse pour certains ça c' est une conviction personnelle je sais qu' elle fait l' objet de débats trop généreuse pour certains ça c' est une conviction personnelle je sais qu' elle fait l' objet de débat 2 trop généreuse pour certains ça c' est une conviction personnelle je sais qu' elle fait l'objet de débat 5
il est pas très tendre avec avec eva joly tendre euh avec avec évag non 3 à très tendre euh avec avec evagn 4
les obligations de permanence de soins obligation de permanence de soins 0 les obligations de permanence de soin 7
exprime le droit des musulmans à protester et appelle à l' utilisation de moyens civils et pacifiques le droit des musulmans à protester et appelle à l' utilisation de moyens civils et pacifiques 3 exprimen le droit à des musulmans à protester et appell à l' utilisation de moyens civils et pacifiques 4
l' analyse que vous en faites et les conséquences que le gouvernement français compte en tirer analyse que vous en faites et les conséquences que le gouvernement français compte en tirer 5 l' analyse que vous en faites est les conséquences que le gouvernement français compte en tirer 2
quels dégats pourraient provoquer ces armes chimiques quel dégât pourrait provoquer ses armes chimiques 0 quel dégâts pourrait provoquer ces armes chimiques 7
le président ne sera pas là avant dix minutes le président ne sera pas là vont diminuer 4 le président na sera pas là vant timiné 3
il me manque une direction qu' une direction 5 maintenant qu' une direction 2
dont quatorze règlements de compte et douze tentatives donc quatorze règlements de comptes et douze stentatives 0 donc quatorze règlements de compte et douze tentatives 7
décortiquons cher christophe bonjour christophe bonjour 4 décortiquant jacques christophe bonjour 3
bruno le maire côté face l' ancien secrétaire d' état en charge des pme bruno le maire côté face l' ancien secrétaire d' etat en charge des pme 5 bruno le marre côté face l' ancien secrétaire d' état en charge des pme 2
ce qui se passera après alors c' est ainsi que selon l' express le nom de euh ce qui s() s() pas) sera après alors c' est ainsi que selon l' express le nom de 2 euh ce qui se s() pa() sera après alors c' est ainsi que selon l' express le nom de 5
et alors je vais vous dire il y a monsieur sarkozy oui une chose monsieur sarkozy 1 mais alors je veux direer une chose et monsieur sarkozy parce 6
à peine installé le gouvernement a commandé un rapport qui a confirmé la viabilité et la rentabilité du site a peine installé le gouvernement a commandé un rapport qui a confirmé la viabilité et la rentabilité du site 0 à peine installlé le gouvernement a commandé un rapport qui a confirmé la viabilité et la rentabilité du site 7
et c' est là euh cela 0 et c' est la 7
au premier tour ça reste quand même un petit peu serré quelle est la marge d' erreur selon vous premier tour ça reste quand même un petit peu serré quelle est la marge d' erreur selon vous 4 au premier tour ça reste quand même un petit peu serré euh quelle est la marge d' erreur euh selon vous 3
et il était vraiment je pense et c' est peut être aussi pour ça finalement que que et il était vraiment je pense euh et c' est peut-être aussi pour ça finalement que que 6 et il était vraiment je pense euh t c' est peut-être aussi pour ça finalement que que 1
avec des écoutes téléphoniques à chaque fois on retrouve la même chose l' immobilier le dossier jean jé colonna euh avec des écoutes téléphoniques à chaque fois on retrouve la même chose l' immobilier le dossier jean-ger colonna 2 euh avec des écoutes téléphoniques à chaque fois on retrouve la même chose l' immobilier le dossier jean ge colonna 5
non je risque de toucher bond non j' aurais tout à touché pa 6 non j' aurais to de tou cer pode 1
c' est à paris est à paris 7 c' est appari 0
que fait il dénoncer les uns ça ne donne pas de solutions pour les salariés créer cette tension fait il dénoncer les ans ça ne donne pas des solutions pour les salariés créer cette tension 2 que fait-il dénoncer les uns ça ne donne pas des solutions pour les salariés euh créer euh cette tension 5
un grand oral sans surprise mais un moyen pour les petits candidats de se faire entendre grand oral sans surprise mais un moyen pour les petits candidats de se faire entendre 7 un grand toral sans surprise mais un moyen pour les petits candidats de se faire entendre 0
que vous ne l' ayez pas mais je le pose aux cliniques privées n' ayez pas mais je pose aux cliniques privées 2 que vous ne l' yiez pas mais je le pose aux clinigues privé 5
oui vous êtes assez non vous êtes non 2 oui vous les aiz as' est non écoutez 5
johnny en mode bisous applaudi par la foule johnny en mode ray charles public attentif johnny en mode bisou applauddi par la foule johnny en modchles public attentif 3 johnny en motde bisou applaudi par la foul jonyl en mode ra e charles public attentif 4
si c' est si 7 civi 0
après les manifestations de policiers le gouvernement jospin avait mandaté deux parlementaires pandraud caresche les manifestations de policiers le gouvernement jospin avait mandaté deux parlementaires pandraud caresche 4 après les manifestations de policiers le gouvernement jospin avait mandaté deux parlementaires pendro carèche 3
il va être déposé il va être dép() 7 il va être dép(t) 0
leur une pour les prochaines semaines et consacreront leur choix à à jean luc delarue bien sûr leur une pour les prochaines semaines et consacreront leurs shepard alors à jean luc delarue bien sûr 5 àh leur une pour les prochaines semaines et consacreront leur choar à la j() à jean-luc delarue bien sûr 2
et pourtant dans une autre vie stefano sollima était journaliste désormais le voilà réalisateur et un grand et pourtant dans une autre vise stéphano-soline a été journaliste désormais le voilà réalisateur et un grand 0 et pourtant dans une autre vie stéphane ossolima était journaliste désormais le voilà réalisateur et un grand 7
il y a la taxe oui bon bien à la tasse oui mais 3 il y a la tâce ouib 4
je serai candidat à la primaire pour l' élection présidentielle deux mille dix sept je serai candidat à la primaire pour l' élection présidentielle deux milles dix-sept 5 je serai candidat à la primaire pour l' élection présidentielle de deux milles dix-sept 2
elle pourrait rentrer dans un gouvernement ps elle pourrait rentrer dans un gouvernement du ps pas 7 elle e en va en tre e dans e n cout e e en le en les e es pa 0
a su résister à l' agressivité qui était celle régulièrement de nicolas sarkozy euh a su euh résister à l' agressivité qui était celle régulièrement de nicolas sarkozy 7 euh a su euh résister à l' agressivité qui était celle régulièrement eu de nicolas sarkozy 0
à nos résultats nos résultats 7 un non résultat 0
jean marc ayrault est en pole position pour matignon jean-marc ayrault est en paul position pour matignon 6 jean-marc ayrault est en pôl position pour euh matignon 1
en deux mille neuf le gouvernement lui s' apprête à annoncer de nouvelles mesures de rigueur en deux milles neuf le gouvernement lui s' apprête à annoncer de nouvelles mesures de rigueur 7 en deux milles neuf le gouvernement lui s' apprête à annoncer deux nouvelles mesures de rigueur 0
on l' avait laissé y a onze mois on avait laissé y a onze mois 3 on l' avait laissé i y a onze mois 4
qui sauf erreur n' est pas un sympathisant de l' ump donc christophe erreur n' est pas un sympathisant de l' ump donc 1 qui saufferreur n' est pas un sympathisant de l' ump don 6
c' était tout à fait légal de de de vendre lorsqu' on était une entreprise française du matériel c' était tout à fait légal de de de vendre euh lorsqu' on était une entreprise française du matériel 7 eu c' était tout à fait légal de de de vendre euh lorsqu' on était une entreprise française du matériel 0
dit maintenant ok je mets je remets les pendules à l' heure et c' est nécessaire duit maintenant ok je mets je remets les pendules à l' heur et c' était nécessaire 6 dit maintenant e que je met je remets les pendue à l' heure et c' est nécessaire 1
ça va bien se passer à londres il y aura pas de clash politique ça va bien se passer à londres il y aura pas de classe politique 1 ça va bien se passer à londres y aura pas de classhe politique 6
pas étalé dans le dans la presse étalée dans le temps dans la presse 2 pas étaillé dans la dans dans la presse euh 5
mais franchement vous on est franchement 7 maintenant je moi 0
si l' on regarde dit il les engagements mirobolants de quatre vingt un quatre vingt quinze si l' on regarde dit-il les engagements mir au bolan de quatre-vingt un quatre-vingt quinze 4 si l' on regarde dit-il les engagements miro bolland de quatre-vingt n quatre-vingt quinze 3
nous on parle aux français on parle aux électeurs on parle au coeur du peuple militant et justement on parle aux français par zola je parle aux électeurs on parle au coeur du peuple militant et justement 3 nous on parle aux français euh c' est-à-dire qu' il y a aux électeurs on parle au coeur du peuple militant et justement 4
merci beaucoup d' être sur le plateau de bfm tv bonsoir danièle delpeuch merci beaucoup d' être sur le plateau de bfm tv bonsoir danielle delpeux 7 merci beaucoup d' aider sur plateau de bfm tv bonsoir daniel delpeux 0
propos recueillis par thomas soulié et julia le correc j' accueille tout de suite florence muracciole bonjour propos recueillis par thomas soulié julia le correc jacques est toute petite florence muracciole bonjour 0 propos recueillis par thomas soulié et julian le correc j' accueille tout de suite florence muracciole bonjour 7
il fait une bonne campagne jean luc mélenchon ce serait pas honnête de ne pas le reconnaître fait une bonne campagne de jean luc mélenchon se serait pas honnête de ne pas le reconnaître 4 il) fait de bonne campagne jean-alic mélenchon ce serait pas honnête de ne pas le reconnaître 3
ses failles et et parfois justement ce que ça pouvait avoir de euh ces faille et euh et parfois ou justement ce que ça pouvait avoir de euh l' oupéroa 7 euh s' éfaillent et euh et parfois justement ce que ça pouvait avoir de enmer gural 0
en revenant à trois pour cent du déficit et c' est c' est douloureux avec un effort partagé et ciblé en revenant à trois pour cent de déficit et c' est c' est avec un effort partagé et ciblé 1 en revenant à trois pourcent de déficit et c' est c' est doureux avec un effort partagé et ciblé 6
un double qui fait la fiereté de la chanteuse à un détail près un double qui fait la fierté de la chanteuse àh en de tayreès 1 un double qui fait la fierté de la chanteuse à un de deuil près 6
mais pour être sur la ligne de départ une condition obligatoire sept mille neuf cent vingt quatre parrainages mais pour être sur la ligne de départ condition obligatoire sept mille neuf cents vingt quatre parrainages 3 mais pour être sur la ligne de départ une condition obligatoire sept milles neuf cents vingt quatre parrainage 4
on était bien meilleur qu' eux on était bien meilleilleurs qu' eux 5 on était bien meilleur que 2
les années quatre vingt des années quatre 0 et les années quatre-vingt 7
deux tiers de page pour toi un tiers pour hollande le seul à pouvoir gagner deuxième dopage pourquoi un tiers pour eux important que monsieur grand galière 4 deux tirs de opage pourtoi un tir pour euh en europe de se la ve ra galiè 3
j moins un j' ai moins un 3 j' y mois un 4
dans la nécessité de renflouer nos nos finances publiques qui ont été fortement malmenées dans la nécessité euh de reflouer euh nos nos finances publiques qui ont été fortement malmenées euh 4 dans la nécessité euh de renfouer euh nos nos finances publiques qui ont été fortement malménées euh 3
peuvent ils considérer que c' est un risque peuvent-ils considérer que c' est un risque 7 peuve-t-il considérer que c' est un risque 0
vous allez nous citer gerhard schröder vous allez nous situer euh gerhard schröder 2 vous allez nous cituer euh gerhard schröder 5
dans le quinquennat précédent donc vous voyez le quinquennat précédent dont vous voyez 1 dans le quinquennait euh précédent donc vous voyez euh 6
à la fois notre programme euh à la fois notre programmes 7 euh à la fois nos programmes 0
elle pourrait rentrer dans un gouvernement ps elle pourrait rentrer dans un gouvernement je 7 elle pour rait rentrer dans un gouver e men e le ens ens pa 0
par le passé un certain nombre de boycott d' ailleurs par le passé un ensemble de boycott d' ailleurs 0 euh par le passé un certain nombre de boycotts d' ailleurs 7
ça a rattrapé ça a retrouvé les dizaines de fois où il a toujours été comme ça euh ça a atttrapé ça a retrouvé les dizaines de fois elle a toujours été comme ça 6 euh ça a rattrapé ça a retrouvé les dizaines de faux il a toujours été comme ça 1
assez intense donc on attend vraiment que les jeux commencent c' est intense donc on attend vraiment que les jeux commencent 4 assez intense donc euh on attend vraiment euh que les jeux commencent 3
en soixante huit c' était même pas inventé on connaissait pas ces vélos là en soixante huit sept m même pas inventé on connaissait pas ces vélos là 0 euh en soixante huit c' était même pas inventé on connaissait pas ces vélos-là 7
en quelque sorte assigné à résidence à l' hôtel de la gazelle d' or à taroudant quelque sorte assigné à résidence à l' hôtel de la gazelle d' or à taroudant 7 en quelque sorte a signé à résidence à l' hôtel de la gazelle d' or à tarroudan 0
la forme de défiscalisation sur les heures supplémentaires dans le dans le privé l la faè de défiscalisation sur les heures supplémentaires dans le dans le privé 0 la forme de défisculisation sur les heures supplémentaires dans le dans le privé 7
et qui seront mis en oeuvre je n' en doute pas une seconde par la majorité parlementaire qui seront mises en oeuvre je n' en doute pas une seconde par la majorité parlementaire 0 et qui seront mises en oeuvre je n' en doute pas une seconde par la majorité parlementaire 7
hollande a eu du mal à démarrer si je puis dire et après on n' a pas pu l' arrêter euh au lendemain du mal à démarrer si je puis dire et après on n' a pas pu l' arrêter 0 euh hollande a eu du mal à démarrer si je puis dire et après) on n' a pas pu l' arrêter 7
et plus surprenant lady gaga et le plus surprenant lestis gaga 5 est plus surprenant e lai di daga 2
pas que je mélange tout c' est l' exacte vérité que je mélange tout c' est l' exacte vérité g 2 pas que je mélange tout c' est l' exacte secérité 5
le le la table avec ses médicaments qui jouxtait sa qui jouxtait son lit je le revois encore regardant une table avec ces médicaments qui jouxte sa qui toute cette folie je me revois encore regardant 6 le le l' attaque d' un effet uniquement qui s' occupaient ça euh qui oublie s' enlis euh i(ls) je le revends encore au gardant euh 1
claude vous voulez me parler de claude vous voulez parlez de de 7 claude vous les me parlez de de 0
on là on va mettre une demie heure un professeur et trente enfants on l' a on va mettre une demi-heure on va un professeur et trente enfants 2 on l'a on va mettre une demi-heure on va un professeur et trente enfants 5
mais est ce que vous savez combien coûte par exemple la baisse de la tva sur la restauration mais est-ce que vous savez combien de coûte par exemple la baisse de la tva sur la restauration 0 mais est-ce que vous savez combien le coûte par exemple la baisse de la tva sur la restauration 7
skyfall effectivement dans les salles vendredi jour de sortie en en grande bretagne et encore du ciné skyfall effectivement dans les salles vendredi jour de sortie en grande bretagne est encore du cinéma 7 c' est-à-dire qu' il faut effectivement dans les salles vendredi jour de sortie en en grande-bretagne et encore du 0
ces vingt septième jeux olympiques la france ce soir sera représentée par le premier ministre jean marc ayrault ces vingt septième jeux olympiques la france soir sera représentée par le premier ministre jean marc ayrault 2 ces vingt-septièmes jeux olympiques la france ce soir sera représentée par le premier ministre jean-marc ayrault 5
bon fin des citations i enfin de la itation) 3 por fin de cissation 4
réduire la la compétitivité uniquement aux coûts salariaux réduire la la compétitivité euh uniquement aux coût salariaux 7 réduire la la compétitivité euh uniquement baucoup salariaux 0
nous avons buzz aldrin qui était hier à paris nous avons peux aldrich qui était hier à paris 3 nous avons peu à aldrine qui était hier à paris 4
mille mille sept cent milliards mille mille sept cents milliards 7 mais ile di maisil s'ait le cent milliards 0
alors ça oui ça oui 2 alors ça oui c est 5
deux mille sept deux mille douze on voit que ces campagnes de facilité mille sept deux mille douze on voit que ces campagnes de facilité 0 deux milles sept deux milles douze on voit que ces campagnes de facilité 7
c' est à lui même êtes à lui même 0 c' est euh à lui-même 7
programmé pour ça de de par ces longues années au parti socialiste et programmée pour ça de de par ses longues années au parti socialiste et 6 programmé pour ça de d( par ces longues années au parti socialiste et 1
et c' est vrai le problème c' est que bon on a envie de lui dire et c' est vrai le problème c' est que bon on a envie de le dire 6 et c' est vrai le problème c' est que bon on a envie de leis dire 1
encore faut il qu' elle en est à la fois et la volonté et la capacité en tant que telle encore faut il quelle année à la fois est la volonté et la capacité en tant que telle 2 encore faut il quelle année à la fois et la volonté et la capacité en tant que telle 5
et quand on vous dit que les fans sont prêtes à tout c' est vraiment prêtes à tout quand on vous dit que les femmes sont prêtes à tout c' est vraiment tout 0 et quand on vous dit que les fans sont prêtes à tout c' est vraiment prête à tout 7
merci marek halter on peut vous lire puisque vous publiez prochainement l' odyssée du peuple juif marek halter on peut vous lire puisque vous publier prochainement l' odyssée du peuple juif 2 merci marec alter on peut vous lire puisque vous publiez prochainement l' odyissé du peuple juif 5
que pour revenir à l' équilibre il faut pour revenir à l' équilibre ifa 2 que pour revenir à l' équilibre i(l) fa 5
nicolas holi nicolas hulot il est très malheureux nicolas oly nicolas hulot il est très malheureux 3 nicolas olli nicolas hulot il est très malheureux 4

End of preview. Expand in Data Studio

🗃️ HATS Dataset

HATS (Human Assessed Transcription Side-by-Side) is a data set for French 🇫🇷 which consists of 1,000 triplets (reference, hypothesis A, hypothesis B) and 7,150 human choice annotated by 143 subjects 🫂 Their objective was to select, given a textual reference, which of two erroneous hypotheses is the best.

Curated by: Thibault Bañeras-Roux, Richard Dufour, Jane Wottawa, Mickael Rouvier, Teva Merlin
Funded by: Agence Nationale de la Recherche - DIETS project (contract ANR-20-CE23-0005)
Language: French 🇫🇷
License: MIT

🧑‍🏫 Metric-Evaluator

This toolkit calculates the percentage of time a metric agrees with human judgments. Recognizing that human judgments can vary, instances arise where no consensus exists, and choices may be influenced by randomness 🎲 To filter the dataset based on consensus cases, utilize the certitude argument. This parameter represents the percentage of humans who selected the same hypothesis (set it to 1 when 100% of subjects make the same choice, and 0.7 when 70% of subjects choose the same hypothesis)."

📊 Results

Metrics	100%	70%	Full
Word Error Rate	63%	53%	49%
Character Error Rate	77%	64%	60%
BERTScore CamemBERT-large	80%	68%	65%
SemDist CamemBERT-large	80%	71%	67%
SemDist Sentence CamemBERT-large	90%	78%	73%
Phoneme Error Rate	80%	69%	64%

To add the results of your metric, contact me at thibault [le dot] roux [le at] uclouvain.be ✉️

📜 Citation

@inproceedings{baneras2023hats,
  title={HATS: An Open data set Integrating Human Perception Applied to the Evaluation of Automatic Speech Recognition Metrics},
  author={Ba{\~n}eras-Roux, Thibault and Wottawa, Jane and Rouvier, Mickael and Merlin, Teva and Dufour, Richard},
  booktitle={Text, Speech and Dialogue 2023 - Interspeech Satellite},
  year={2023}
}

Downloads last month: 66

Size of downloaded dataset files:

200 kB

Size of the auto-converted Parquet files:

85.4 kB

Number of rows:

1,001