Add files using upload-large-folder tool

.gitattributes

@@ -1541,3 +1541,4 @@ cmn_Hani/fineweb-2_000011_remove.jsonl filter=lfs diff=lfs merge=lfs -text
 cmn_Hani/new_cc_000578_keep.jsonl filter=lfs diff=lfs merge=lfs -text
 cmn_Hani/fineweb-2_000287_remove.jsonl filter=lfs diff=lfs merge=lfs -text
 cmn_Hani/new_cc_000588_keep.jsonl filter=lfs diff=lfs merge=lfs -text
+cmn_Hani/new_cc_000684_remove.jsonl filter=lfs diff=lfs merge=lfs -text

azb_Arab/fineweb-2_000001_stas.jsonl

@@ -0,0 +1,115 @@
+[
+    {
+        "avg": {
+            "num_words": 813.6603468103135,
+            "character_repetition_ratio": 0.06387389541217771,
+            "word_repetition_ratio": 0.020035119840213052,
+            "special_characters_ratio": 0.223379327563249,
+            "stopwords_ratio": 0.0054213926885364975,
+            "flagged_words_ratio": 0.0002313127950611306,
+            "lang_id_score": 0.882363893596417,
+            "perplexity_score": 114636.96889299118
+        }
+    },
+    {
+        "std": {
+            "num_words": 4385.9156439739045,
+            "character_repetition_ratio": 0.037753541277810346,
+            "word_repetition_ratio": 0.050218038315067395,
+            "special_characters_ratio": 0.03191624757546639,
+            "stopwords_ratio": 0.006737438417429501,
+            "flagged_words_ratio": 0.0014122698512539563,
+            "lang_id_score": 0.2229946726096164,
+            "perplexity_score": 78835.1903528684
+        }
+    },
+    {
+        "median": {
+            "num_words": 233.0,
+            "character_repetition_ratio": 0.061,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.22,
+            "stopwords_ratio": 0.004,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 96672.4
+        }
+    },
+    {
+        "max": {
+            "num_words": 208311.0,
+            "character_repetition_ratio": 0.405,
+            "word_repetition_ratio": 0.735,
+            "special_characters_ratio": 0.53,
+            "stopwords_ratio": 0.122,
+            "flagged_words_ratio": 0.078,
+            "lang_id_score": 1.0,
+            "perplexity_score": 1461988.5
+        }
+    },
+    {
+        "min": {
+            "num_words": 52.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.09,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.114,
+            "perplexity_score": 1238.8
+        }
+    },
+    {
+        "90%": {
+            "num_words": 1360.0,
+            "character_repetition_ratio": 0.107,
+            "word_repetition_ratio": 0.077,
+            "special_characters_ratio": 0.263,
+            "stopwords_ratio": 0.014,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 195018.72000000006
+        }
+    },
+    {
+        "75%": {
+            "num_words": 514.0,
+            "character_repetition_ratio": 0.083,
+            "word_repetition_ratio": 0.006,
+            "special_characters_ratio": 0.241,
+            "stopwords_ratio": 0.008,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 135737.15000000002
+        }
+    },
+    {
+        "50%": {
+            "num_words": 233.0,
+            "character_repetition_ratio": 0.061,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.22,
+            "stopwords_ratio": 0.004,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 96672.4
+        }
+    },
+    {
+        "25%": {
+            "num_words": 132.0,
+            "character_repetition_ratio": 0.039,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.202,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.953,
+            "perplexity_score": 68717.925
+        }
+    },
+    {
+        "total size": "66088",
+        "keep size": "60630",
+        "remove size": "5458"
+    }
+]

azb_Arab/mala_000002_stas.jsonl

@@ -0,0 +1,115 @@
+[
+    {
+        "avg": {
+            "num_words": 83.74577236215855,
+            "character_repetition_ratio": 0.043850955309776764,
+            "word_repetition_ratio": 0.0009946165805228633,
+            "special_characters_ratio": 0.20724725544478842,
+            "stopwords_ratio": 0.003814747637295949,
+            "flagged_words_ratio": 6.158713707092886e-05,
+            "lang_id_score": 0.9810926330001228,
+            "perplexity_score": 265810.97219782625
+        }
+    },
+    {
+        "std": {
+            "num_words": 243.97562764394576,
+            "character_repetition_ratio": 0.04274942070411236,
+            "word_repetition_ratio": 0.009950560430560099,
+            "special_characters_ratio": 0.025594251054904798,
+            "stopwords_ratio": 0.007331232002382269,
+            "flagged_words_ratio": 0.0011446476464862267,
+            "lang_id_score": 0.09893526779318644,
+            "perplexity_score": 173712.00789135796
+        }
+    },
+    {
+        "median": {
+            "num_words": 51.0,
+            "character_repetition_ratio": 0.035,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.205,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 233352.7
+        }
+    },
+    {
+        "max": {
+            "num_words": 31048.0,
+            "character_repetition_ratio": 0.2,
+            "word_repetition_ratio": 0.462,
+            "special_characters_ratio": 0.4,
+            "stopwords_ratio": 0.133,
+            "flagged_words_ratio": 0.087,
+            "lang_id_score": 1.0,
+            "perplexity_score": 1916324.3
+        }
+    },
+    {
+        "min": {
+            "num_words": 11.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.117,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.037,
+            "perplexity_score": 30.7
+        }
+    },
+    {
+        "90%": {
+            "num_words": 137.0,
+            "character_repetition_ratio": 0.106,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.238,
+            "stopwords_ratio": 0.016,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 505892.6
+        }
+    },
+    {
+        "75%": {
+            "num_words": 73.0,
+            "character_repetition_ratio": 0.074,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.218,
+            "stopwords_ratio": 0.003,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 357663.1
+        }
+    },
+    {
+        "50%": {
+            "num_words": 51.0,
+            "character_repetition_ratio": 0.035,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.205,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 233352.7
+        }
+    },
+    {
+        "25%": {
+            "num_words": 32.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.194,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 144236.85
+        }
+    },
+    {
+        "total size": "293308",
+        "keep size": "278247",
+        "remove size": "15061"
+    }
+]

azb_Arab/new_cc_000003_stas.jsonl

@@ -0,0 +1,115 @@
+[
+    {
+        "avg": {
+            "num_words": 214.87180621612654,
+            "character_repetition_ratio": 0.02210762083840283,
+            "word_repetition_ratio": 0.0018046676252626921,
+            "special_characters_ratio": 0.1751739851786307,
+            "stopwords_ratio": 0.016542970910297532,
+            "flagged_words_ratio": 2.0019909302068353e-05,
+            "lang_id_score": 0.991458798805442,
+            "perplexity_score": 113795.1978652804
+        }
+    },
+    {
+        "std": {
+            "num_words": 738.5506635772763,
+            "character_repetition_ratio": 0.03529574872092426,
+            "word_repetition_ratio": 0.019324326721900358,
+            "special_characters_ratio": 0.046132232433483876,
+            "stopwords_ratio": 0.011368069330798853,
+            "flagged_words_ratio": 0.0005099796453054297,
+            "lang_id_score": 0.013306237502845803,
+            "perplexity_score": 108465.38829426329
+        }
+    },
+    {
+        "median": {
+            "num_words": 93.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.187,
+            "stopwords_ratio": 0.017,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.997,
+            "perplexity_score": 77843.8
+        }
+    },
+    {
+        "max": {
+            "num_words": 20971.0,
+            "character_repetition_ratio": 0.283,
+            "word_repetition_ratio": 0.829,
+            "special_characters_ratio": 0.416,
+            "stopwords_ratio": 0.065,
+            "flagged_words_ratio": 0.029,
+            "lang_id_score": 1.0,
+            "perplexity_score": 1279484.8
+        }
+    },
+    {
+        "min": {
+            "num_words": 15.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.065,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.49,
+            "perplexity_score": 6601.7
+        }
+    },
+    {
+        "90%": {
+            "num_words": 219.0,
+            "character_repetition_ratio": 0.102,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.209,
+            "stopwords_ratio": 0.038,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 221854.8
+        }
+    },
+    {
+        "75%": {
+            "num_words": 112.0,
+            "character_repetition_ratio": 0.023,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.202,
+            "stopwords_ratio": 0.021,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 173917.6
+        }
+    },
+    {
+        "50%": {
+            "num_words": 93.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.187,
+            "stopwords_ratio": 0.017,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.997,
+            "perplexity_score": 77843.8
+        }
+    },
+    {
+        "25%": {
+            "num_words": 59.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.163,
+            "stopwords_ratio": 0.007,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.973,
+            "perplexity_score": 19734.0
+        }
+    },
+    {
+        "total size": "9041",
+        "keep size": "8399",
+        "remove size": "642"
+    }
+]

azb_Arab/new_cc_000004_stas.jsonl

@@ -0,0 +1,115 @@
+[
+    {
+        "avg": {
+            "num_words": 238.3046865777358,
+            "character_repetition_ratio": 0.023816078385078505,
+            "word_repetition_ratio": 0.0018847833785857631,
+            "special_characters_ratio": 0.1751736512808405,
+            "stopwords_ratio": 0.01671077794829418,
+            "flagged_words_ratio": 1.758942273639476e-05,
+            "lang_id_score": 0.9922859166568292,
+            "perplexity_score": 110134.84461102585
+        }
+    },
+    {
+        "std": {
+            "num_words": 736.2622673915862,
+            "character_repetition_ratio": 0.0363683516311749,
+            "word_repetition_ratio": 0.01828881848737658,
+            "special_characters_ratio": 0.046916289114461475,
+            "stopwords_ratio": 0.011590825356157353,
+            "flagged_words_ratio": 0.00026265158442349894,
+            "lang_id_score": 0.014789098989681285,
+            "perplexity_score": 106950.2760431595
+        }
+    },
+    {
+        "median": {
+            "num_words": 94.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.188,
+            "stopwords_ratio": 0.017,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.997,
+            "perplexity_score": 62988.9
+        }
+    },
+    {
+        "max": {
+            "num_words": 21381.0,
+            "character_repetition_ratio": 0.339,
+            "word_repetition_ratio": 0.764,
+            "special_characters_ratio": 0.352,
+            "stopwords_ratio": 0.069,
+            "flagged_words_ratio": 0.01,
+            "lang_id_score": 1.0,
+            "perplexity_score": 1517320.9
+        }
+    },
+    {
+        "min": {
+            "num_words": 15.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.065,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.261,
+            "perplexity_score": 5533.4
+        }
+    },
+    {
+        "90%": {
+            "num_words": 235.0,
+            "character_repetition_ratio": 0.102,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.207,
+            "stopwords_ratio": 0.038,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 221854.8
+        }
+    },
+    {
+        "75%": {
+            "num_words": 112.0,
+            "character_repetition_ratio": 0.031,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.203,
+            "stopwords_ratio": 0.021,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 173917.6
+        }
+    },
+    {
+        "50%": {
+            "num_words": 94.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.188,
+            "stopwords_ratio": 0.017,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.997,
+            "perplexity_score": 62988.9
+        }
+    },
+    {
+        "25%": {
+            "num_words": 59.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.163,
+            "stopwords_ratio": 0.006,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.995,
+            "perplexity_score": 19633.25
+        }
+    },
+    {
+        "total size": "8471",
+        "keep size": "7852",
+        "remove size": "619"
+    }
+]

azb_Arab/new_cc_000005_stas.jsonl

@@ -0,0 +1,115 @@
+[
+    {
+        "avg": {
+            "num_words": 203.91244920576284,
+            "character_repetition_ratio": 0.017195603989656444,
+            "word_repetition_ratio": 0.0019363994581948034,
+            "special_characters_ratio": 0.18333407215860115,
+            "stopwords_ratio": 0.016667282354389856,
+            "flagged_words_ratio": 1.8039650289373234e-05,
+            "lang_id_score": 0.9900871813816033,
+            "perplexity_score": 103059.5387513853
+        }
+    },
+    {
+        "std": {
+            "num_words": 764.4164185810986,
+            "character_repetition_ratio": 0.032111569723656926,
+            "word_repetition_ratio": 0.022354714067050783,
+            "special_characters_ratio": 0.03419923528251535,
+            "stopwords_ratio": 0.008660118937265269,
+            "flagged_words_ratio": 0.0003927769829173325,
+            "lang_id_score": 0.012062719746456226,
+            "perplexity_score": 90247.03843520017
+        }
+    },
+    {
+        "median": {
+            "num_words": 94.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.195,
+            "stopwords_ratio": 0.017,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.997,
+            "perplexity_score": 68365.35
+        }
+    },
+    {
+        "max": {
+            "num_words": 31725.0,
+            "character_repetition_ratio": 0.339,
+            "word_repetition_ratio": 1.0,
+            "special_characters_ratio": 0.514,
+            "stopwords_ratio": 0.045,
+            "flagged_words_ratio": 0.033,
+            "lang_id_score": 1.0,
+            "perplexity_score": 1189263.3
+        }
+    },
+    {
+        "min": {
+            "num_words": 17.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.065,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.785,
+            "perplexity_score": 6356.8
+        }
+    },
+    {
+        "90%": {
+            "num_words": 222.0,
+            "character_repetition_ratio": 0.064,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.207,
+            "stopwords_ratio": 0.022,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 221854.8
+        }
+    },
+    {
+        "75%": {
+            "num_words": 112.0,
+            "character_repetition_ratio": 0.023,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.203,
+            "stopwords_ratio": 0.021,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.999,
+            "perplexity_score": 173917.6
+        }
+    },
+    {
+        "50%": {
+            "num_words": 94.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.195,
+            "stopwords_ratio": 0.017,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.997,
+            "perplexity_score": 68365.35
+        }
+    },
+    {
+        "25%": {
+            "num_words": 59.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.163,
+            "stopwords_ratio": 0.016,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.973,
+            "perplexity_score": 19886.1
+        }
+    },
+    {
+        "total size": "16242",
+        "keep size": "14387",
+        "remove size": "1855"
+    }
+]

azb_Arab/new_cc_000006_stas.jsonl

@@ -0,0 +1,115 @@
+[
+    {
+        "avg": {
+            "num_words": 280.40111966410075,
+            "character_repetition_ratio": 0.02477704688593422,
+            "word_repetition_ratio": 0.0027512946116165153,
+            "special_characters_ratio": 0.17112582225332398,
+            "stopwords_ratio": 0.017466480055983204,
+            "flagged_words_ratio": 2.953114065780266e-05,
+            "lang_id_score": 0.9933167249825053,
+            "perplexity_score": 107852.08375087475
+        }
+    },
+    {
+        "std": {
+            "num_words": 1010.7305048571114,
+            "character_repetition_ratio": 0.0341535286308914,
+            "word_repetition_ratio": 0.023782696694758056,
+            "special_characters_ratio": 0.052002812388007615,
+            "stopwords_ratio": 0.012523177794859123,
+            "flagged_words_ratio": 0.0005674601719864852,
+            "lang_id_score": 0.012858808284825272,
+            "perplexity_score": 112895.82468806126
+        }
+    },
+    {
+        "median": {
+            "num_words": 93.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.188,
+            "stopwords_ratio": 0.017,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.997,
+            "perplexity_score": 57279.6
+        }
+    },
+    {
+        "max": {
+            "num_words": 22210.0,
+            "character_repetition_ratio": 0.339,
+            "word_repetition_ratio": 0.792,
+            "special_characters_ratio": 0.425,
+            "stopwords_ratio": 0.068,
+            "flagged_words_ratio": 0.029,
+            "lang_id_score": 1.0,
+            "perplexity_score": 1262812.5
+        }
+    },
+    {
+        "min": {
+            "num_words": 17.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.065,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.49,
+            "perplexity_score": 6339.4
+        }
+    },
+    {
+        "90%": {
+            "num_words": 304.60000000000036,
+            "character_repetition_ratio": 0.09760000000000037,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.209,
+            "stopwords_ratio": 0.038,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 221854.8
+        }
+    },
+    {
+        "75%": {
+            "num_words": 112.0,
+            "character_repetition_ratio": 0.038,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.204,
+            "stopwords_ratio": 0.022,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 173917.6
+        }
+    },
+    {
+        "50%": {
+            "num_words": 93.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.188,
+            "stopwords_ratio": 0.017,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.997,
+            "perplexity_score": 57279.6
+        }
+    },
+    {
+        "25%": {
+            "num_words": 79.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.163,
+            "stopwords_ratio": 0.005,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.996,
+            "perplexity_score": 19410.9
+        }
+    },
+    {
+        "total size": "7145",
+        "keep size": "6621",
+        "remove size": "524"
+    }
+]

baw_Latn/mala_000001_keep.jsonl

@@ -0,0 +1,2 @@
+{"url":"","collection":"silbloomlm","source":"BLOOM Library","original_code":"baw","text":"Mɨnwe mə́ŋə́ má wu zé mbəʼə CORONAVIROS kə COVID Coronaviros\n\nCoronaviros,  ma bɨ bənɨ ɨtweŋə nɨ COVID-19 lə́gə́ agho fi. Amí ɨkômɨ lə́gə́ fə China fə ɨjwi mɨgham mɨntye nɨ nchu moʼo fə sháŋ ncho-alum fə alum gwe ma agə chəgə la (2019). Alə́gə́ ɨyə gii nɨ ɨliishɨ ma gə ɨzhwi bɨgɨ bənendɨ. Alə́gə́ mbeʼ ndaŋ gii fə ɨtum nəndɨ fə agii. Bɨ lə́gə́ mbidɨ ndum gwa ma agho yii alem wu ze.\nBɨdikaŋ bɨ bɨgɨBɨgɨ bə́gə́ ma bi gho agho ɨtəmBɨgɨ bə́gə́ ma agho wo áyaŋshɨ ɨnkwen fə anu búgú.\n\nAgho yɨ akaŋa lə́gə́ bɨgɨ fə akaŋ ncham. Mbɨ bɨ bɨgɨ bə́gə́ ma bɨ daŋa ɨgho nɨ mɨgho ma, (akwe-ɨtəm, agho fɨngwaŋ, agho ɨtəm nɨ alɨgɨ ma akoʼo) agho wo yɨ a lə́gə́ ɨyə ɨyaŋshɨ ɨngaŋa agwa.\n-Ɨfə́ə́\n-Búgú bɨ nɨkoo-Akwe zhubɨlɨ,\n-Búgú  ɨnoo nu yúgú ma ɨlwimnɨ yáŋnɨƗliishɨ agho wo\n\nƗliishɨ Coronaviros jwi, ɨjwi lə́gə́ ma jwi ɨfə́ə́ fɨba, akwe-zhubɨlɨ,  ɨnoo nu yúgú ma ɨyaŋnɨ, nɨ nɨkoo. Bɨgɨ bəshə bɨ gə yuʼ ɨnu yaŋnɨ, ɨgə vee kikaŋ, mɨlwi mɨ gə shwiʼnɨ,  kímtóŋ kə lúʼshɨ agaŋ. Bɨgɨ bəshə bɨ jwi nɨ yɨ aliishɨ daŋ akaʼa ndé. Ɨghaʼa bɨgɨ wo bii  nə bɨ lə́gə́ tən dɨ jɨ afu agho wo.\nŊwen akwweNdum gwa ma agho wo alemnə wu.\n\nCOVID-19 lə́gə́ lemshɨ bɨgɨ bə́gə́ ma bɨ mbɨʼɨ agho wo. Ŋwen gwa ma ajwi nɨ yɨ a nə daŋ ɨkwe kə ndzenɨ lə́gə́ bwo bɨ ɨbum kə mɨtwígí mɨ lɨgɨ fə achu yɨ kə fə mɨlwi. Lə́gə́ wu daŋ ɨtəm fə nɨban yɨ ɨvi ɨbum kə mɨtwígí wo ɨkwenshɨ wu biʼi agho wo. Wu lə́gə́ daŋ ɨkumə ayum yə́gə́ ma ɨbum kə mɨtwígí wo mɨ jwi wo ɨgəshɨ ɨkum ɨlee yúgú ke mɨlwi muŋu kə inchu gu búgú wu biʼi agho wo.\nWii lə́gə́ ndum gwa ma wu toʼnɨ nɨ nu yúgú wu1.     Kaʼa ɨlee yugú kə nɨlwi kə ɨnchu gu nə gə nkumə.2.     Shu mbugu muŋu ɨngha nendɨ nɨ nɨki bugu ntse ma ɨkuŋu shwiʼi ɨchɨʼ nɨ achəʼ yə́gə́ ma ŋwaʼa.3.     Wu gə ke fə akwe nɨ kə ndzenɨ wu kyɨshɨ nɨkwe yúgú nkendɨ ɨchu gu kə mɨlwi muŋu wu.4.     Kaʼa ɨnoo mbee nə pfe ɨkaʼa mɨnoo nɨ mbúgú múŋú kumə.\n5.     Gə ɨtəmə ɨfə́gə́ abaŋ fə mbugu ŋwen gwa akwe kə ndzenɨ.\n6.     Kaʼa ŋwen nɨ mbúgú nə gə ɨcheʼdə. Cheʼdə ŋwen shə nɨ nchu kə wu mbimdɨ nə atú yúgú.7.     Nɨ kaʼa fə adiʼi moʼo ntsandə ghaʼa.8.     Nɨ gə nwinə fə adiʼi moʼo ɨkaʼa gii.9.     Nɨ gə wiʼdɨ ɨgiʼi jwə́gə́ ma yɨ ɨshenwe mbənɨ ngə ŋwaŋa adiʼi yə́gə́ ma ɨfee wu.","num_words":419,"character_repetition_ratio":0.056,"word_repetition_ratio":0.0,"special_characters_ratio":0.262,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.933,"perplexity_score":500.0,"cluster_detection":1}
+{"url":"","collection":"silbloomlm","source":"BLOOM Library","original_code":"baw","text":"Anwɔ̀ɔ yə ghò teʼe mɨ̀ zaà a nɔ àghɔɔ yə adzwì Àghɔɔ wu (coronavirus)\n\nÀghɔɔ wu (COVID-19) tə bɨ bè ntɔgə̀ ni COVID-19, là àghɔɔ fi. A mbəə la no ŋwɨ̀ clìsì (31 december, 2019) a làʼà China tə̀ bɨ̀ nchyəmbì i shɨgə̀ a nɔ  àghɔɔ wù. A dzà là no ŋwɨ̀, kə̀ nò àkwe tə̀ngtì kàʼa a jwìlə̀ ŋwè. Àghɔɔ wù zaalì a nò ìtùm ghàʼannì a mbì wè. Bɨ bì tìni zà ngə̀ àghɔɔ wù a lwoo là ìfə̀ lə̀.\nBɨ̀təŋkaŋ bə̀Ŋwè wə tə aghɔɔnə nʼaghɔɔ ntimBə̀bəə̀ kàꞋa àghɔɔ wù zàŋsì ngàgà a wə̀\n\nBwò àghɔɔ fì ze a gàgà a ŋwè ntsàm. Ìlwè bə̀, nì bə̀bəə̀ tə̀ bɨ̀ ghɔ̀nə̀ nʼàkwe ndzòʼò, àlèbə̀ ghàʼa, diatetes, nʼàghɔɔ ntìm. Yə̀ bə̀bəə̀ tə̀ fù àghɔɔ zè lòtì fɨ̀ ǹgə̀ʼə a mbuu bù naa tìkaŋ.\n-nò ŋimni no\n-nikɔɔ-àkwe zhubɨ̀li\n-zàŋnì noBɨ̀ mə̀ndùm mɨ̀ zà ngə àghɔɔ wù dzwì à nò ŋwè\n\nÀghɔɔ fì zè tə̀ dzà lè a dzwe laa nò ŋimni no, àkwe zhubɨ̀li, ìzàŋnì no, ni nìkɔɔ. Ngang ghɔɔ wù chɨ̀gɨ tèʼe zàŋnì no, ŋwɨ̀ ntɨɨ, ìshwìʼìnì mɨ̀lwi nì kìm ntòŋ kə̀ luʼusi. Bəə chɨ̀gɨ̀ bɨ beʼe àghɔɔ zè, i mbɔ̀ɔnì tingə̀ buu kwè mɨ̀fù.\nŊwè wə teʼe akweLoꞋowə̀ bù àghɔɔ wu à lèm\n\nÀghɔɔ fì zè kaʼa lèmsì tì bə̀bəə bɨ̀ tèʼe àghɔɔ wù. Bwò ŋwè wə̀ teʼe àghɔɔ wù a kwè kə̀ njinni, boo bɨ djum bə̀chɨ̀gɨ bɨ feekɨ a ntsoo yì kə̀ a mɨ̀lwɨ yi te bù ŋwè Kwè ajwè wù kaʼa a beè ǹkwe àghɔɔ zè. Kə̀ te fù boo bɨ djum bè bɨ fè kəə noo àkə̀, ŋwè dza ǹkùm nì mbwɔ mi, mbɨʼɨ nkum imii mi, nìlwi yi kə̀ ntsoo yi, à bèʼè àghɔɔ wù.\nIloꞋo mɨ̀ toꞋònì ni ìnò yò1. Toʼònə̀ mɨ̀ kə̀ ǹkum imii moo, nìlwi yo ni ntsoo gho.2. Suu mbwɔ moo àmbò tsàm ni nìki, ni ntsa ŋwaʼa wə bɨ nɨŋtə̀, i ti zi nʼa tsəʼə ŋwaʼa.3. Kə nkwe, njinnə a mɔm nìkwe ghò.4. Kɨ̀ inɔɔ yə̀ bɨ lɔɔ i kɨ ni ne mbi ni mphɔ, i mbe kɨ mɨnɔɔ ǹkubə̀.\n5. Kɨ ni ntim nkumtə̀ ŋwè wə̀ tə̀ a kwee mbəgə njiinə.\n6. Kɨ bə̀ ni mbwo nchyatə̀ nə̂ʼətə atu kə fɨ achyatə ntsoo.\n7. Bə kə’ ntseetə ghaʼtə.8. Binni kɨ tibɔ̀gɔ ngii.9. Bə̀ lɔɔsə atu a no mɨ̀nwɔ me mɨ chəə, kə mbe za adiʼi yə mɨ fe wù.","num_words":387,"character_repetition_ratio":0.055,"word_repetition_ratio":0.0,"special_characters_ratio":0.252,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.872,"perplexity_score":500.0,"cluster_detection":1}

baw_Latn/mala_000001_stas.jsonl

@@ -0,0 +1,115 @@
+[
+    {
+        "avg": {
+            "num_words": 403.0,
+            "character_repetition_ratio": 0.0555,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.257,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.9025000000000001,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "std": {
+            "num_words": 16.0,
+            "character_repetition_ratio": 0.0005000000000000004,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.0050000000000000044,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.030500000000000027,
+            "perplexity_score": 0.0
+        }
+    },
+    {
+        "median": {
+            "num_words": 403.0,
+            "character_repetition_ratio": 0.0555,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.257,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.9025000000000001,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "max": {
+            "num_words": 419.0,
+            "character_repetition_ratio": 0.056,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.262,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.933,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "min": {
+            "num_words": 387.0,
+            "character_repetition_ratio": 0.055,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.252,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.872,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "90%": {
+            "num_words": 415.8,
+            "character_repetition_ratio": 0.0559,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.261,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.9269000000000001,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "75%": {
+            "num_words": 411.0,
+            "character_repetition_ratio": 0.05575,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.2595,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.9177500000000001,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "50%": {
+            "num_words": 403.0,
+            "character_repetition_ratio": 0.0555,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.257,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.9025000000000001,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "25%": {
+            "num_words": 395.0,
+            "character_repetition_ratio": 0.05525,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.2545,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.88725,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "total size": "2",
+        "keep size": "2",
+        "remove size": "0"
+    }
+]

cmn_Hani/new_cc_000684_remove.jsonl

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:7faeba9ec790438977c9c163149ea3a1079c5ab9a1a8d7c46dd4ade4afdf6327
+size 2574884390

kwi_Latn/fineweb-2_000001_stas.jsonl

@@ -0,0 +1,115 @@
+[
+    {
+        "avg": {
+            "num_words": 549.32782369146,
+            "character_repetition_ratio": 0.06550964187327823,
+            "word_repetition_ratio": 0.0015674931129476583,
+            "special_characters_ratio": 0.18438842975206612,
+            "stopwords_ratio": 0.27335812672176313,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.9987630853994491,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "std": {
+            "num_words": 486.8270236273159,
+            "character_repetition_ratio": 0.02288735839392372,
+            "word_repetition_ratio": 0.011222652272014293,
+            "special_characters_ratio": 0.009943397854617054,
+            "stopwords_ratio": 0.0718247301104849,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.015512336274920217,
+            "perplexity_score": 0.0
+        }
+    },
+    {
+        "median": {
+            "num_words": 523.0,
+            "character_repetition_ratio": 0.063,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.183,
+            "stopwords_ratio": 0.275,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "max": {
+            "num_words": 7998.0,
+            "character_repetition_ratio": 0.16,
+            "word_repetition_ratio": 0.127,
+            "special_characters_ratio": 0.219,
+            "stopwords_ratio": 0.477,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "min": {
+            "num_words": 47.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.139,
+            "stopwords_ratio": 0.06,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.708,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "90%": {
+            "num_words": 905.2,
+            "character_repetition_ratio": 0.093,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.197,
+            "stopwords_ratio": 0.364,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "75%": {
+            "num_words": 701.0,
+            "character_repetition_ratio": 0.075,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.189,
+            "stopwords_ratio": 0.324,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "50%": {
+            "num_words": 523.0,
+            "character_repetition_ratio": 0.063,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.183,
+            "stopwords_ratio": 0.275,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "25%": {
+            "num_words": 370.5,
+            "character_repetition_ratio": 0.053,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.178,
+            "stopwords_ratio": 0.2245,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "total size": "363",
+        "keep size": "333",
+        "remove size": "30"
+    }
+]

kwi_Latn/mala_000002_remove.jsonl

@@ -0,0 +1,7 @@
+{"url":"","collection":"madlad400","source":"CC 20220801","original_code":"kwi","text":"2 Tesalonicenses 1 - Masas Pit Jesucristowa\\n1Nane Pablo mun ish. Nane Silvanokasa Timoteokasa an pɨnkɨh paat kit uruza Tesalónica pɨpulura uztuza ɨninnamtus, u au Anpat Jesucristorakas u au Taitta Diostakas piankaamamtu akwa.\\n2Aune u akwa au Taitta Diostakas au Anpat Jesucristorakas paikumtumakpas, Dios uruza wat kiwainanapa, kalpain uzanapa.\\n3Diosta piantuz, mɨzhain. Aune pailta payu u akwa Diosta aishtaish kiztumakpas. Ka kaiztawamakpas, u Diosta an nɨjkulamtu akwa, u uruzpain an pashiamtu akwa.\\n4Katmizna, u Diosta nɨjkulturuzkin pianakane, aune wat puramakpas. Aune usparuza u Diosta nɨjkulamtu kiznamtumakpas. Mamaztuz uruza naizninnamtukas, u akwan tuntu kwail naizamtukas, une wan chiwal tailchaamtu, u Diosta nɨjkulamtu akwa.\\n5U Dios pit nɨjkulamtu akwa, mamaztuzne uruza naizninnamtu. Sunkana wat Diosne wattuzakas kwailtuzakas nil kinanazi. U naizamtukas, Diosne uruzpa wat min kit uruza paiña ɨnintukin uzninnanazi.\\n6Dios nil kimtu akwa, Diosne uruza naizninturuza naizninnanazi.\\n7Sun payura Diosne uruzakas aumɨzakas parejuin kwaizkulninnanazi. Au Anpat Jesús chiyuras paiña tɨnta ángeltuzkasa kaiyakane, wan naizninmu pailtɨnazi. Kailka, usne ĩnkanain aiztɨnazi.\\n8Sun payura Diosne Diosta pianchiruzakas, au Anpat Jesús watsal pit mɨmtuchiruzakas ilninnanazi.\\n9Diosne pailta payukima usparuza ilnanazi, naizanakima, wan kanakima. Uspane au Anpat Jesúspa uzkin kashain mizurainkas pianasachi. Sɨpnazi. Uspane miza us watsal iztɨt piankamamanazi. Yawa tɨnta i piankamamanazi.\\n10Au Anpat akane, Diosta nɨjkulturuzne ussa “kwisha wari” kizat kit uspa iztukin wakpuj wainñanazi. Sun payura ukas sunkana kianazi, u au pit parat aizpa nɨjkulara akwa.\\n11Katmizna aune, Cristora nɨjkulamtu akwa pailta payukima Diosta paikumtumakpas, uruza tɨnta kiwainnanapa. Diosne uruza akwanara, Dios uruza kurunamtu aizpakana uzanapa. U Diosta nɨjkulamtu akwa, usne uruza kiwainnashina, u wan wat pashiamtu aizpa kianpa.\\n12Sunkana u uzamtune, awaruzne au Anpat Jesúspa wat minñanazi. U Dios kaiztu aizpa mɨamtu akwa, uskas u akwa wat minanazi. Wan chiwal sunkana kirɨnazi, au Dioskas, au Anpat Jesucristokas uruza kwisha wat kiwainashimtu akwa.","num_words":275,"character_repetition_ratio":0.088,"word_repetition_ratio":0.0,"special_characters_ratio":0.171,"stopwords_ratio":0.378,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":500.0,"cluster_detection":-1}
+{"url":"","collection":"madlad400","source":"CC 20220801","original_code":"kwi","text":"Masas Pit Jesucristowa San Mateo 1\\nSan Mateone an ñancha Dios Watsal Pit Judío awaruza panara, Mesíasta, Dios nɨrɨtmikara, piankamanapa, Jesús usparuza watsat mɨlnanapa. Jesúspa ñamin kwalpakas Jesús kawira payukas parawane, San Mateone Juan munnammikawa paramtu. Kwiztane San Mateone Diablowa, Jesústa kwail kimmikawa, paramtu (1.1–3.12). Kwiztane Jesúsne paiña kal kimɨzta (3.13–4.11). Usne Dios watsal pit awaruza kamtanat kit akkwan ishturuza watsaninnara (4.12–18.35). Minpa kwail awaruzne Jesústa tɨra patpian kit piantaara (caps 19, 20). Kwiztane Jesús irɨttas kakultawane, Jesúsne paiña kammuruza ɨninnamtu, wan sura uztuza ɨanapa, Jesúspa kammuruza namninnanapa (caps 21–28).\\nJesúsne kwisha wat kamtammika azi. Usne Dios awaruza ɨninnamtu kamtanara, us kuruntu aizpa uzanapa. Wan awaruza kamtam kwintakasa kamtanara. Usne awaruza kamtanara, Jesústa kanpaanapa, nil uzanapa.\\n1 Jesucristowa kwal an ñamin kwal uztuza wian kit ka munara: Davidpa kwalkas Abrahampa kwalkas.\\n2 Abrahamne Isaacpa papihsh azi.\\n3 Judáne Fareswakas Zarawakas papihsh azi. Tamarne uspawa akkuhsh azi.\\n4 Aramne Aminadabpa papihsh azi.\\n5 Salmónne Boozpa papihsh azi. Rahabne paiña akkuhsh azi.\\n6 Isaíne katsa ɨninmika Davidpa papihsh azi.\\n7 Salomónne Roboampa papihsh azi.\\n8 Asane Josafatpa papihsh azi.\\n9 Uzíasne Jotampa papihsh azi.\\n10 Ezequíasne Manaséspa papihsh azi.\\n11 Josíasne Jeconíaspakas paiña aimpihshtuzpakas papihsh azi. Sun payukin Babilonia suras awane Judío awaruza piznat kit uspawa surakima kal kin mɨlnara.\\n12 Sun kitpane, Jeconíasne Salatielpa papihsh azi.\\n13 Zorobabelne Abiudpa papihsh azi.\\n14 Azorne Sodocpa papihsh azi.\\n15 Eliudne Eleazarpa papihsh azi.\\n16 Jacobne Joséwa papihsh azi. Joséne Maríawa ampu azi. Maríane Jesúspa akkuhsh azi. Jesúsne, Mesíaskas, Dios nɨrɨtmikakas, muntɨt.\\n17 Sunkanain catorce kwaltuzne Abramtas Davidtakima uzat kit ka munara. Davidtas Babilonia awa Judío awaruza piznat kit mɨlnarakima, mamaz catorce kwaltuzne uzara. Sun payuras mamaz catorce kwaltuzne uzara, Dios nɨrɨtmika kawinakima.\\n18 Sunkana Jesucristone kawirɨt. Paiña akkuhshne Josékasa kasara kin namtɨt, pareju uztachasmin. Pareju uztachasmin, usne pɨja wa wanmalta, Dios Sɨnam Izpul akwa. Dios Sɨnam Izpulne Maríara winta, sun pashpa mɨlnapa. 19 Joséne, paiña ampune, uskasa kasara kin namtɨt. Wat awa azi. Mane María pɨja warɨt mɨrawane, usne sun awa iztakin Maríara kwaimtus kainanashitchi. Usne Maríara puintain kwaishimtu, awa piankamamanpa. 20 Sun mintuasmin, pitmɨzta. José kainkizpamtuasmin, Anpatpa ángelne Joséra ka kaizta:\\n—Mɨza. Nune Davidpa kwal i. Nune Maríara mɨlna ishkumun, up ashampa namnapa. Maríane sun painkul mɨjanpai, Sɨnam Izpul akwa. 21 Usne maza painkul mɨjanpai. Nune ussa Jesús munnaka. Awa ussa Jesús munaanazi, Judío awaruza watsat mɨlnamtu akwa, kwail kiamanpa, ka kizta.\\n22 Sunkana kirɨt, wan awa Anpat kaizta aizpa nɨjkulanapa. Dios kainammmikane ka kaizta:\\n23 “Nimpihsh ashampane pɨja wanazi.\\nUspane ussa Emanuel munanazi.”✡ Is 7.14\\n24 Kainkizpamtu izkultawane, Joséne Anpatpa ángel ɨninta aizpa kit kit Maríara mɨlta, paiña ashampakana. 25 Uspane pareju pitpailtachi, pashpa mɨlnakima. Pashpa mɨlkane, Joséne ussa Jesús munta.\\n✡1:23 Is 7.14","num_words":407,"character_repetition_ratio":0.079,"word_repetition_ratio":0.0,"special_characters_ratio":0.203,"stopwords_ratio":0.167,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":500.0,"cluster_detection":-1}
+{"url":"","collection":"madlad400","source":"CC 20220801","original_code":"kwi","text":"Masas Pit Jesucristowa San Marcos 1\\nDios Watsal Pit Jesucristowa Para\\nMarcosne an ñamin Dios watsal pit para. Mateokas Lucaskas paiña pit parɨt aizpa iz kit mamaz pɨnkɨh Jesucristowa kwizta parɨt. Marcosne an ainki pɨnkɨh para. Usne miza Dios watsal pit Jesucristowa masamɨzta kamtara. Jesucristowa pit kwisha wari, Jesucristo awaruza watsat mɨlnamtu akwa. Marcosne Juan munna kimmikawa pamtu. Juan Jesústa munna kimtawane, Marcosne Diablo Jesústa kwail kinintu aizpa pamtu. Kwiztane usne Jesús Galilea sukin kirɨt aizpa pamtu (1.14–9.50). Suasne Jesúsne Galilea suras kail kit mamasa Jerusalén pɨpulura kailtu (11.1-52). Kwiztane Marcosne Jesucristowa minpa payuwa pamtu, awa Jesús it kit irɨttas kuhsta piankamanapa (caps 11–16).\\nJesús akkwan iztasparɨt kal kimtuasmin, usne wan awaruza kamtanamɨzta, Dios ussa ɨninta piankamanapa. Jesúsne ussa kiztu: “Nane Ampu namtɨtmika ish.” Diablowa saliztuzne ussa “Dios painkul i” kizara. Judíowa pariyaruzne ussa ka mɨmaara: “¿Nune Dios Cristo kish? ¿Nune au wat Dios Painkul kish?” Jesúsne sɨnkanara: “Nane Cristo ish. Une nawa, Ampu namtɨtmikara, izanazi,” (Mr 14.61-62).\\nJuan munnammikane Dios pit kainammtu\\n(Mt 3.1-12; Lc 3.1-9, 15-17; Jn 1.19-28)\\n1 Sunkana Dios watsal pit masamtu. Sun pitne Jesucristowa, Dios Painkulpa, kainarɨt.\\n2 Antikwain Isaíasne, Dios pit kainammmikane, kainat kit pɨnkɨhta para. Jesúspa kiz kit pɨnkɨhta ka para:\\n“Mɨrain. Diosne paiña ɨninmika ɨninnazi,\\nan ñancha Jesúspa mi watsanapa.✡ Mal 3.1\\n3 Mazane pul sura ɨt kit akkwan awa tuchira ka tɨnta paranazi:\\n‘Au wat Anpatpa mi nil sarain,’ ”✡ Is 40.3 kiz kit ka para.\\n4 Suas Juanne pul sura, akkwan awa tuchira, akkwan awara munnanara. Ka akkwan piji kainanara:\\n—U kwail kwizninnat kit munnarain, Dios u kwail kiarɨt aizpa kanintɨnpa, uruza maizanapa, kiznara. 5 Akkwan awane Judea suras Jerusalén pɨpuluras Juanparakima taizara, ussa mɨana. Uspane Diosta kaizara:\\n—Watcha. Aune kwail kianashɨ. Sun kizakane, Juanne Jordán Pira usparuza munnanara.\\n6 Juanne kwaksham kwara. Mamaz kalpa, camello ashkasa kwaksham sɨp kit kwara. Aya kɨra ip kit kuhta. Usne pak, ittalkanakas, mishkikas kwarɨt. 7 Kamtanamtuasmin, Juanne kaiznara: “Mazane mamaz payura ap kwizpa anazi. Usne nakin anza tɨnta ɨninmika i. Nane paiña kiwainmika ish. Us an tɨnta namtɨt akwa, nane paiña zapato tɨt chɨhtshitchish. Nane ussa wat kiwainnapa piankamsachish. 8 Nane watcha umɨza kwazikasain munnanamtus. Usne umɨza ayukta Sɨnam Izpul winnanazi,” kiznara.\\nJuanne Jesústa muntu\\n(Mt 3.13-17; Lc 3.21-22)\\n9 Mamaz payura Jesúsne Nazaret pɨpuluras, Galilea suras, puz kit Jordán pira ara. Juanne Jesústa munnara Jordán Pira. 10 Mane Jesús piras salaktawane, chiyu azkane, Jesúsne Dios Izpulta utkurukana iztɨt. Dios Izpulne taiz kit ussa uzta. 11 Diosne chiyuras ussa kwianta: “Nune ap painkul i. Nua pashimtus. Nane nua narɨt,” kizta.\\nDiablone Jesústa kwail kishimtu\\n(Mt 4.1-11; Lc 4.1-13)\\n12 Mane Dios Izpulne ussa pul sura, awa tuchira, ɨninta. 13 Cuarenta payura pul sura, awa tuchira, tuazi. Satanásne Jesústa kwail kinashimtu, us kwail kinpa. Ɨnkal kalpakasa tuazi. Ángeltuzkas purazi, ussa kiwaina.\\nJesúsne kammuruza akwanamtu\\n(Mt 4.12-17; Lc 4.14-15)\\n14 Suldaruruz Juanta piz kit kajchira sɨpparɨkane, Jesúsne ɨt kit Galilea sura Dios watsal pit kainanara. 15 Awaruza ka kiznara: “Diosne sun payu narɨt, awaruza ɨninnanapa, usparuza watsat mɨlnanapa. U kwail kwizninnat kit Dios watsal pit nɨjkultain,” kiznara.\\nJesúsne ampara pishkaru sulmuruza akwanamtu\\n(Mt 4.18-22; Lc 5.1-11)\\n16 Jesúsne Galilea Pimamin chamtuasmin, Jesúsne Simóntakas Andréstakas aimpihshtuzpain iznara. Uspane pishkaru ɨmmu kiainpailta. Pailta payu pishkaru sulpailta. 17 Jesúsne usparuza ka kaiznara:\\n—Nakasa at kit piankamnarain. Ñamin pishkaru sulpailta. Kawarain awara akwananaka, Diosta piankamanapa.\\n18 Mane uspane pishkaru ɨmmu chɨhkat kit ussa kanpailta.\\n19 Jesúsne pitchin an ñancha ɨt kit Santiagorakas Juantakas, Zebedeo painkulta iznara. Uspane katsa kanuara pishkaru ɨmmu yalpailta. 20 Mane usne usparuza akwanara. Uspane uspa papihshta, Zebedeora, chɨhkailta. Usne kanuara kiwaintuzkasa nukkulara. Ussa kanpailta.\\nKwail salizne ampura piztɨt\\n21 Uspane Capernaum pɨpulukin pianaat kit nappara. Mane Jesúsne kwaizkultu payura Judío kammu yalkin nap kit awaruza kamtanamɨzta. 22 Uspane paiña kammukasa iztaspaarɨt. Uspane ka kizara:\\n—Nune katsa mikwakana tɨnta kamtanamtu. An Moisés kaizta aizpa kamtamtuzne sunkana kamtaamtuchi, kizara. 23 Ta Judío kammu yalta maza ampune, saliz piztɨtmikane tuazi. 24 Usne kwian kit Jesústa Nazaret pɨpuluras kiz mɨmara:\\n—¿Aumɨzane chima kinash? ¿Amas, aumɨza puzninnana? Nane nua pianish. Nune Diostas sɨnammika i, kizara.\\n25 Jesúsne ussa ɨnin kit tɨnta kaizta:\\n—¡Puñain! ¡Awaras puzti! kizta.\\n26 Kwail salizne awara ulnin kit tɨnta kwianta. Suasne Jesúsne salizta awaras puzninta. 27 Wan awane ishkuara. Usparuza ka mɨmaara:\\n—¿Anne chi i? Masas kammu i. Katsa mikwakana kamtamtu. Ɨninkane, kwail saliztuzne ussa mɨamtu, kizara.\\n28 Azain sun awane, wan Galilea sura uztuzne, Jesúspa piankamaara.\\nJesúsne Pedrowa suegrara wat panintu\\n(Mt 8.14-15; Lc 4.38-39)\\n29 Judío kammu yaltas puzarawane, suasne Simónpa yalkinkas Andréspa yalkinkas nappara, Santiagokasa Juankasa. 30 Sua Simónpa suegrane kamara immukasa ishtu tuazi. Uspane Jesústa kainaara:\\n—Paiña suegra ishtu tuazi, kainaara. 31 Jesúsne at kit up chihtɨra piz kit ussa kuhsakninta. Suasmesa immu kara. Suasne Simónpa suegrane usparuza kumira kwinnara.\\nJesúsne akkwan awara wat paninnamtu\\n(Mt 8.16-17; Lc 4.40-41)\\n32 Amtane pãn payaptɨkane, Galilea suras awane ishturuzakas kwail saliz piztɨttuzakas ussa karaara. 33 Akkwan pɨpulukis awane Jesús tukin pɨjtakin wanmakkara. 34 Usne akkwan tuntu ishturuza wat paninnara. Usne akkwan kwail saliztuza puzninnara. Usne kwail saliz puznintɨttuza chi paranintachi. Saliztuzne ussa piankam kit kaizara: “Jesúsne Dios Painkul i,” kizara.\\nJesúsne Galilea sura Dios pit kainammtu\\n35 Tɨlawain tɨlkwilmin Jesúsne kuhsak kit awa tuchira ɨt kit Diosta paikwat. 36 Simónne mamaz awaruzkasa an kwizta kanpaara. 37 Uspane ussa sait kit kaizara:\\n—Chiwal awaruzne nua sayamtu, kizara.\\n38 Usne usparuza kaiznara:\\n—Ɨzhain, mamaz kasha pɨpulurain, Dios pit kwinta kinpa. Katmizna chiyuras arau, kiznara.\\n39 Usne Judío kammu yalta Galilea suwara ɨt kit Dios pit kwinta kit kit saliztuza awaras puzninnara.\\nJesúsne aya pɨtta ishtumikara wat panintu\\n(Mt 8.1-4; Lc 5.12-16)\\n40 Maza ampune, aya pɨttɨt ishtumikane, ussa at kit tɨnta paikwat kit wain kit kaizta:\\n—Namtashitne, namtashina. Namtazha, kizta.\\n41 Us akwa mintane, Jesúsne paiña chihtɨkasa ussa paat kit kaizta:\\n—Nua namtanash. Nua wat pari, kizta.\\n42 Mane aya pɨtta ishtu karɨt. Wat kultɨt. 43 Suasne mamin Jesúsne ussa paiña yalta ɨnin kit ka tɨnta kainara:\\n44 —Nune wat parɨt. Mɨnainkas paranamun. Nu wat parɨt akwa, pariyara ɨt kit nua Diospa yal pariyara antash. Ussa Moisés ñamin kaizta aizpa mɨltash. Usne nu akwa Diosta mɨlnazi. Sunkana wan awane nu wat parɨt piankamanazi, kizta.\\n45 Sun ampune puz kit wanta sun namtɨt aizpa kwinta kinamɨzta. Akkwan awa Jesús tukin wanmakkara akwa, Jesúsne awa iztakin pɨpulukin napsachi. Attishta, awa tuchira, aara. Uspane pul sura ussa salkularɨt.\\n✡1:2 Mal 3.1\\n✡1:3 Is 40.3\\n© 2002 WBT","num_words":949,"character_repetition_ratio":0.05,"word_repetition_ratio":0.0,"special_characters_ratio":0.22,"stopwords_ratio":0.223,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":500.0,"cluster_detection":-1}
+{"url":"","collection":"madlad400","source":"CC 20220801","original_code":"kwi","text":"Masas Pit Jesucristowa Gálatas 2\\nMamaz Dios ɨnintaruzne Pablora sappamtu\\n1 Kwiztane, catorce año pailtawane, nane mamasa Jerusalén pɨpulura nurau. Na ɨmtuasmin, nane Bernabérakas Titorakas mɨlnarau. 2 Jerusalén pɨpulura nurau, Dios nawa ɨnpa piankamninta akwa, Diosta piantuzkasa, Cristora nɨjkulturuzpa mikwakasa kwinta kin. Nakas Jerusalén pɨpulura Cristowa ɨnintaruzkas paimpa wanmaktamakpas. Suane nane na Judío awachiruza kamtanarɨt aizpa usparuza kainnanarau. Nane Dios watsal pitmin usparuza kainanamtu aizpa kiznarau. Nane uspakasa sun pit kainana wanmaktau, na kal kimtu aizpa kamanpa. 3 Titone, nakasa amtumikane, Griego awa azi. Sun Cristo ɨnintaruzne ussa paiña ña tɨtnapa, circuncisión kinpa, ɨninarachi. 4 Mamaz kwail kamtamtuzne sun kinpa ɨninñara. Mazantuz kwail kamturuzne au Cristora piantuzkasa puñain kulat kit wanmakkara, Titora circuncisión kinpa pashiara akwa. Puñain aukin akane, uspane au kiamtu aizpa izshiara, au kwail kiarɨt kizanapa, Moisés ɨninta aizpa kiarachi akwa. Jesucristone aumɨza chɨhtnarɨt, Moisés ɨnintu aizpa kiamanpa. Sun kwail kamtamtuzne aumɨza Moisés kanpamtuza namninnashimtu, us ɨnintu aizpa kianapa. 5 Aune uspa ɨninta aizpa mizurainkas mɨshitchimakpas, pailta payukima Dios watsal pit uruza wat kiwainnanapa, u watcha nɨjkulamɨznapa.\\n6 Sun mikwaruzne, sun Dios pit kamtamturuzne, nawa kurunnarachi, na kamtamtu aizpa maiznapa. Uspane nakin an katsa chi mai. Nakas uspakas Dios ɨnintaruz makpas. Aune Dios iztakin kawarain makpas. 7 Uspane nawa mamaz pit kainanapa kurunnarachi. Uspane Dios nawa narɨt pian mai, Judío chi awaruza Dios watsal pit kamtananapa, Dios usparuza watsat mɨlnanapa. Sunkana Pedrokas paiña kal sapta, Judío awaruza Dios watsal pit kamtananapa. 8 Sunkana Diosmin Pedrora nat kit Judío awaruza Dios watsal pit kainana ɨninta. Sun Diosmin nawa nat kit Judío awachiruza Dios watsal pit kainana ɨninta.\\n9 Santiagokas Pedrokas Juankas Jerusalén Iglesiakin katsa mikwaruz mazi. Dios nawa wat kiwaintɨt akwa, uspane nawakas Bernabérakas sappat kit au chihtɨ kanat kit sulmin kal kin namara. Au Judío chi awaruza Dios watsal pit kamtanamtuasmin, uspane Judío awaruza kamtanashina. 10 Uspane aumɨza akwanara, Judea sura puizaruza kiwainanapa. Uspa sun akwanamtukas, nane me puizaruza kiwainshimtuazi.\\nPablone Antioquía pɨpulukin Pedrora pilchamtu\\n11 An ñamin mɨnpazha mikwaruzne Antioquía pɨpulura wanmakkarɨt. Na Antioquía pɨpulura piannatpane, Pedrokas sun pɨpulura pianara. Nane paiña matsɨh izawara pilcharau, Pedro awa iztakin kwail kit akwa. 12 Santiagowa izmuruz piannarachasmin, Pedrone, Judío awa mikwane, Judío awachiruzkasa kummamin. Santiagone paiña izmuruza Jerusalén pɨpuluras ɨninnara. Sun ɨninturuz pianatpane, Pedrone Judío chi awaruzkis paimpa nukkulta, uspakasa kumanpa. Usne Judío awaruza Jerusalén pɨpulukis aattuza ishkwaninnarɨt. Sun Judío awaruzne wan Moisés ɨninnamtu aizpa kiashimtu, Dios usparuza watsat mɨlnanapa. Impara imparain Pedrone sun Judío awa chiruza chɨhkanara, uskasa kumanpa. 13 Suasne sun Antioquía pɨpuluras Judío awaruzne, Cristora nɨjkultuzne, Pedrokana kiat kit Judío awachiruza, circuncisión kitchiruza chɨhkanamɨzta. Bernabékas Pedro kirɨt aizpa kishira. Uspane salaam kit uspa nɨjkulara aizpa wat kiarachi. 14 Sun Cristora piantuz Dios watsal pit mɨarɨtkas, uspane Dios watcha kaizta aizpa maizat kit nilchi uzara. Uspa nil chi uzara akwa, watsal pit kiamtuchi akwa, nane wan awa iztakin Pedrora ka kaiztau: “Pedro nawa mɨzha. Nune Judío awa i. Apa uztuasmin, nune au Judío awa ɨlaparuz ɨninta aizpa kimtuchi. Judío awachiruzkana uztu akwa, nune Judío awakana uzsachi. Judío awachiruza chɨhkanamtu akwa, nune usparuza Judío awakana uzanapa kamtanamtu. Sunkana kimun,” kizta.\\nDiosne Judío awaruzakas Judío chi awaruzakas watsat mɨlnanazi\\n15 Judío awa, mɨzha. Au paasne Judío awakanain kawirawas. Aune Moisés Judío awaruza ɨninta aizpa izwailtawas. Aune Judío awachikana kwail kitchiwailwas. 16 Aune Dios awaruza maiznamtu pianwailwas. Diosne awa kwail kiarɨt aizpa wat kulninnamtu, paiña iztakin wat uzanapa. Moisés Judío awaruza us kaizta aizpa ɨninnarakas, Diosne Moisés kaizta aizpa mɨmturuza uspa kwail kiarɨt aizpa wat kulmanazi. Diosne Jesucristora nɨjkultuzain uspa kwail kiarɨt aizpa wat kulninnanazi. Au paasne Jesucristora nɨjkultawailwas, Dios au kwail kiarɨt aizpa wat kulnanapa, Dios iztakin wat uzanapa. Judío awa Moisés kaizta aizpa mɨamtukas, Diosne uspa kwail kiarɨt aizpa wat kulmanazi. Diosne mizurainkas Moisés kaizta aizpa mɨmturuza sapnamanazi, usparuza Dios iztakin nil namnanapa.\\n17 Au paas Judío awane Cristora nɨjkultawailwas, Dios au kwail kiarɨt aizpa wat kulnanapa, paiña iztakin wat uzanapa. Awaruzne au paas kwail kimtuwailwas kizamtu, au Moisés kaizta aizpa mɨamtuchi akwa. Cristone aumɨza kwail kininmanazi. Cristo aumɨza kamtarɨt aizpa mɨmturuzne kwail kiamanazi, Moisés kaizta aizpa mɨamtuchikas. 18 Nane Moisés kaizta aizpa kin kailmanash, ap kwail wat kulnapa akwa. Moisés kaizta aizpa kin kailturuzne Cristo kamtamtu aizpa mɨamtuchi. Nane sunkana kimanash. 19 Ñamin nane Moisés ɨninta aizpa kirau. Na wan ɨnim mɨrakas, Diosne ap kwail kirɨt aizpa wat kultachi, us iztakin wat uznapa. Moisés kaizta aizpa mɨmtuchi akwa, nane Dios nawa kaiztu aizpa mɨshimtus, Dios akwa uznapa. Cristo na akwa irɨt akwa, nane Dios pashimtu aizpa kishimtus. Jesucristo nawa kuruntuasmin, usne nawa kiwaintu, uskasa chanpa, kwail kimanpa. 20 Usne makima nawa ɨnintu, us pashit aizpa kinpa. An sura uztuasmin, nane Dios painkulta nɨjkultus, us nawa wat uznintu akwa. Usne nawa pashit kit na akwa irɨt. 21 Dios nawa kiwaintu akwa, nane ussa kwaimtuchish. Diosne mizurainkas Moisés ɨninta aizpa mɨmturuza nil namninnamanazi. Dios Moisés ɨninta aizpa kitmikasha nil namtaratne, suasne Cristone kainmin irɨt.","num_words":771,"character_repetition_ratio":0.09,"word_repetition_ratio":0.0,"special_characters_ratio":0.171,"stopwords_ratio":0.328,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":500.0,"cluster_detection":-1}
+{"url":"","collection":"madlad400","source":"CC 20220801","original_code":"kwi","text":"San Mateo 1, Masas Pit Jesucristowa (KWINT) | The Bible App\\nAwa for Ecuador - 2002 Edition (NT)\\nLisätietoja käännöksestä Masas Pit Jesucristowa\\nJesucristowa an ñamin kwal uztuzne iara\\n1Jesucristowa kwal an ñamin kwal uztuza wian kit ka munara: Davidpa kwalkas Abrahampa kwalkas.\\n2Abrahamne Isaacpa papihsh azi.\\nIsaacne Jacobwa papihsh azi.\\nJacobne Judáwa papihsh azi. Uskas paiña aimpihshtuzpa papihsh azi.\\n3Judáne Fareswakas Zarawakas papihsh azi. Tamarne uspawa akkuhsh azi.\\nFaresne Esrompa papihsh azi.\\nEsromne Arampa papihsh azi.\\n4Aramne Aminadabpa papihsh azi.\\nAminadabne Naasónpa papihsh azi.\\nNaasónne Salmónpa papihsh azi.\\n5Salmónne Boozpa papihsh azi. Rahabne paiña akkuhsh azi.\\nBoozne Obedpa papihsh azi. Rutne paiña akkuhsh azi.\\nObedne Isaíwa papihsh azi.\\n6Isaíne katsa ɨninmika Davidpa papihsh azi.\\nKatsa ɨninmika Davidne Salomónpa papihsh azi. Usne Uríaspa ashampara mɨlta. Uríaspa ashampane Salomónpa akkuhsh azi.\\n7Salomónne Roboampa papihsh azi.\\nRoboamne Abíaspa papihsh azi.\\nAbíasne Asawa papihsh azi.\\n8Asane Josafatpa papihsh azi.\\nJosafatne Jorampa papihsh azi.\\nJoramne Uzíaspa papihsh azi.\\n9Uzíasne Jotampa papihsh azi.\\nJotamne Acazpa papihsh azi.\\nAcazne Ezequíaspa papihsh azi.\\n10Ezequíasne Manaséspa papihsh azi.\\nManasésne Amónpa papihsh azi.\\nAmónne Josíaspa papihsh azi.\\n11Josíasne Jeconíaspakas paiña aimpihshtuzpakas papihsh azi. Sun payukin Babilonia suras awane Judío awaruza piznat kit uspawa surakima kal kin mɨlnara.\\n12Sun kitpane, Jeconíasne Salatielpa papihsh azi.\\nSalatielne Zorobabelpa papihsh azi.\\n13Zorobabelne Abiudpa papihsh azi.\\nAbiudne Eliaquimpa papihsh azi.\\nEliaquimne Azorpa papihsh azi.\\n14Azorne Sodocpa papihsh azi.\\nSodocne Aquimpa papihsh azi.\\nAquimne Eliudpa papihsh azi.\\n15Eliudne Eleazarpa papihsh azi.\\nEleazarne Matánpa papihsh azi.\\nMatánne Jacobpa papihsh azi.\\n16Jacobne Joséwa papihsh azi. Joséne Maríawa ampu azi. Maríane Jesúspa akkuhsh azi. Jesúsne, Mesíaskas, Dios nɨrɨtmikakas, muntɨt.\\n17Sunkanain catorce kwaltuzne Abramtas Davidtakima uzat kit ka munara. Davidtas Babilonia awa Judío awaruza piznat kit mɨlnarakima, mamaz catorce kwaltuzne uzara. Sun payuras mamaz catorce kwaltuzne uzara, Dios nɨrɨtmika kawinakima.\\n18Sunkana Jesucristone kawirɨt. Paiña akkuhshne Josékasa kasara kin namtɨt, pareju uztachasmin. Pareju uztachasmin, usne pɨja wa wanmalta, Dios Sɨnam Izpul akwa. Dios Sɨnam Izpulne Maríara winta, sun pashpa mɨlnapa. 19Joséne, paiña ampune, uskasa kasara kin namtɨt. Wat awa azi. Mane María pɨja warɨt mɨrawane, usne sun awa iztakin Maríara kwaimtus kainanashitchi. Usne Maríara puintain kwaishimtu, awa piankamamanpa. 20Sun mintuasmin, pitmɨzta. José kainkizpamtuasmin, Anpatpa ángelne Joséra ka kaizta:\\n—Mɨza. Nune Davidpa kwal i. Nune Maríara mɨlna ishkumun, up ashampa namnapa. Maríane sun painkul mɨjanpai, Sɨnam Izpul akwa. 21Usne maza painkul mɨjanpai. Nune ussa Jesús munnaka. Awa ussa Jesús munaanazi, Judío awaruza watsat mɨlnamtu akwa, kwail kiamanpa, ka kizta.\\n22Sunkana kirɨt, wan awa Anpat kaizta aizpa nɨjkulanapa. Dios kainammmikane ka kaizta:\\n23“Nimpihsh ashampane pɨja wanazi.\\nUsne maza painkul mɨjanazi.\\nUspane ussa Emanuel munanazi.”#Is 7.14\\n(Sun mun kizkane, “au Diosne aukasa uztu” kizmuspas.)\\n24Kainkizpamtu izkultawane, Joséne Anpatpa ángel ɨninta aizpa kit kit Maríara mɨlta, paiña ashampakana. 25Uspane pareju pitpailtachi, pashpa mɨlnakima. Pashpa mɨlkane, Joséne ussa Jesús munta.","num_words":399,"character_repetition_ratio":0.138,"word_repetition_ratio":0.0,"special_characters_ratio":0.182,"stopwords_ratio":0.135,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":500.0,"cluster_detection":-1}
+{"url":"","collection":"madlad400","source":"CC 20220801","original_code":"kwi","text":"Masas Pit Jesucristowa San Lucas 1\\nSan Lucasne Jesucristowa Dios Watsal Pit para, Israel awaruzkas wan awaruzkas sun kin namtɨt, watsat mɨlmumikasha piankamanapa. Usne sun pit pamtu, wan awa Jesús kirɨt aizpa au sukin piankamanapa. Jesucristowa parachasmin, San Lucasne Mateo parɨt aizpakas Marcos parɨt aizpakas izta, wan kamna, wan nil pana (1.1-4). Katmizna San Lucasne Jesús kawira payuwakas Juan muntumikawakas an akkwan pamtu (1.5–2.52). San Lucasne Juan muntumikawa kamtamtu aizpakas (3.1-20) Diablo Jesústa kwail kinintu aizpakas (3.21–4.13) Anpat Jesús Galilea sukin kamtamtu aizpakas (4.19–9.50) pamtu. Cristo Jerusalén ɨmtuasmin (9.51–19.27), San Lucasne Jesústa kimtu aizpa pamtu. Suasne usne Jesús imtu payukas (19.28–23.56) irɨttas kuhstu payukas chiyura numtu payukas pamtu (cap. 24).\\nSan Lucasne Israel kammu yalkin Jesús kamtamtu aizpa pamtu. Usne Isaías kaizta aizpa para, wan awa Dios Watsal Pit piankamanapa. Jesúspa paramtuasmin, Lucasne puizaruzakas naizamturuzakas watchiruza panara. Usne Samaritano kamtam kwintakas papihsh paiña painkulta watkulta kamtam kwintakas pamtu. San Lucasne awaruza kamtanamtu, awa Diosta paikuanapa, Dios Sɨnam Izpulta piankamanapa, Dios au kwail kiarɨt aizpa watkulshina piankamanapa.\\nPrólogo. An ñancha pit\\n1 Watcha i. Akkwan awane sun kwinta kirɨt aizpa awaruzpain pɨnkɨh pashiara. 2 Chiwazha kirɨt aizpa izmuruzne, Dios pit kammuruzne, an ñamin sun kwinta aumɨza kamtanarɨt. 3 An ñamin wan pɨnkɨh Jesúspa parɨt aizpa iztau. Makima na sun kwinta watsal kamtɨt akwa, nakas nua, Teófilora, pɨnkɨh pashimtus. Na nua pashimtu akwa, nane impara imparain wan sun kirɨt aizpa pamtus, 4 nua wan kamtarɨt aizpa wat piankamnapa.\\nMaza ángelne Juan munnammika kawinazi kiztu\\n5 Herodes, Judío awaruzpa mikwa, Judea sukin uzasmin, maza pariyane, Zacarías muntɨtmikane, uzta. Paiña ira pampa Abíasne pariya aramin. Paiña ashampane Isabel mun. Paiña ira pampa Aarónne pariya aramin. 6 Uspa paasne Dios iztakin wat uzpait kit wan Dios ɨninta aizpa mɨilta. Mɨnminkas uspa paasta kwail kirɨt kizarachi. 7 Uspane pashpa mɨjchiara, Isabel pashpa mɨlsachi akwa. Usne ɨlapa azi; ashampakas ɨnkwa azi.\\n8-9 Maza payune usne paiña pariya kwalkasa Dios yalta kiwaina ɨrɨt. Ussa narawane, Zacaríasne Dios yal ayukmal napta, wat piam incienso paktana. 10 Us ayukmal wat piam incienso paktamtuasmin, wan awane pianamal Diosta paikuara. 11 Suane Diospa ángelne Zacarías tukin kun kit ussa izpanta. Usne wat piam incienso paktamtukin, numal misharɨkin kunta. 12 Ángelta iztawane, Zacaríasne iztaspat kit kun kirɨt. Chinkas kisachi. Ishkwarɨt. 13 Ángelne ussa kaizta:\\n—Zacarías, an ishkumun, Dios nu paikwat aizpa mɨra akwa. Up ashampane, Isabelne, ampu pashpa mɨlnazi. Nune ussa Juan munnazi. 14 Nune kwisha wat kultɨnazi. Us kawira akwa, akkwan awane wat kularɨnazi. 15 Usne Dios iztakin tɨnta namnazi. Chappikas chappi tainkas kumanazi. Diospa Sɨnam Izpulne pashpara piznazi, mɨltachasmin. 16 Usne Judío awaruza akwananazi, uspa Anpatta, uspa Diosta, kaiyanapa. 17 Diospa ɨnintamika amtuchasmin, an Juanne ussa an ñancha ɨnazi, wan watsanpa. Usne an ñancha Elías uzmikakanain uznazi. Dios Sɨnam Izpulne ussa kiwainazi, Diospa tɨnta paranpa. Usne papihshtuza ka kurunnanazi: “Up pashparuza paashirain. Usne kwail awaruza maizninnanazi, wat awakana uzanapa. Suasne awa sunkana kiat kit kamarane, awane Diospa ɨnintamikasha mɨat kit sappanazi.”\\n18 Zacaríasne ángelta mɨmara:\\n—¿Mizama ap ashampa pashpa mɨlshina? Nane ɨlapa ish. Ap ashampakas ɨnkwa i, kizta.\\n19 Ángelne ussa sɨnkara:\\n—Nane Gabriel munish. Nane Dios uzkin kunish. Usne nawa nua kwinta kininpa ɨninchish, nu sun watsal pit mɨnapa. 20 Mane mɨri. Nu na kaizta aizpa nɨjkultachi akwa, nune paramanazi, up painkul kawinakima. Nueve mish pailka, sun kirɨnazi.\\n21 Sun kimtuasmin, awane pianamal kunat kit Zacaríasta tɨrizara. Uspane usparuzpain minñara: “¿Chitma katne Dios yal ayukta tɨriztu arau? ¿Chitma puzmas?” 22 Zacarías puztawane, usparuza paramanamta. Suasne uspane Zacarías chiwazha Diospa yal ayukmal izta nɨjkulara. Awaruza paiña chihtɨkasa annamtuasmin, usne puñain para. Ussa kirɨt aizpa parasachi.\\n23 Paiña kal Diospa yalta pailtawane, Zacaríasne paiña yalta kailta. 24 Mamaz payura paiña ashampane, Isabelne, pɨja warɨt. Cinco mishtakima yalkimin uz kit ka minta: 25 “Ap Anpatne sun payura nawa kiwainzish, pɨja wana. Mane nane awa iztakin mɨtsal chiish.”\\nMaza ángelne kaiztu: Jesúsne kawinazi\\n26 Isabel pɨja warawane, seis mish pailtɨka, Diosne ángel Gabrielta Galilea sura, Nazaret pɨpulura, ɨninta, 27 maza nimpihsh ashampara kwinta kinpa. Usne María munta. Mama ampukasa pittachi. Usne maza ampura kasara kin namtɨt azi. Sun ampune José munta. Paiña ira pampa Davidne mikwa arakwain. 28 Ángelne María tukin nap kit kaizta:\\n—Kakishapu. Diosne nua wat kit kit kiwainshimtu. Anpatne nua pashit kit nukasa ɨmtu, kizta.\\n29 Ángelta iztane, Maríane ishkwat kit ángel kaiztu aizpa minta. “¿Usne chikishma sun nawa kwinta kimtu?” minta. 30 Suasne ángelne ussa kaizta:\\n—María. Ishkumun. Diosne nua wat kit kit kiwainshimtu. 31 Mɨri. Mane nune pɨjakasa anpai. Painkul mɨjanpai. Ussa Jesús munnaka. 32 Usne tɨnta namnazi, chiyuras amtu akwa. Usne chiyuras Dios Painkul munnazi. Anpat Diosne ussa Davidkin anza katsa mikwakana namnazi, Davidkanain ɨninapa. 33 Usne pailta payukima Israelpa kwalta ɨninnanazi. Paiña ɨnintu aizpa pailmanazi, kizta.\\n34 Suasne Maríane ángelta mɨmara:\\n—Ampu mɨjkine, ¿mizama painkul mɨlnapai? kizta.\\n35 Ángelne ussa sɨnkara:\\n—Diosne Sɨnam Izpul akwa nu tukin anazi. Katsa Diosne nua tɨnta kiwainazi, pashpa pɨja wanapa. Katmizna up kawintu pashpane Dios pashimtu aizpa kinazi. Dios Painkulkas munnazi. 36 Na nua kaiztu aizpa mɨri. Up kwal, Isabelne, ɨnkwa i. Wan awane ussa “Pashpa wasachi,” kizara. Maneme usne seis mish pɨja warɨt tu. 37 Diosne chikas wantain kishinai.\\n38 Suasne Maríane ussa sɨnkara:\\n—Nane ap Anpatpa kiwainmumika ish. Watcha, nune nawa kaizta aizpa sari, kizta.\\nSuasne ángelne ɨrɨt.\\nMaríane Isabelta kwinta kin ɨt\\n39 Sun payune Maríane wan watsat kit maza pɨpulukin Judea ɨnkal sura azain ɨrɨt. 40 Zacaríaspa yalta nap kit Isabelta kaizta: “Manta kail ish,” kizta. 41 Isabel Maríawa pit mɨrane, paiña pashpa pɨjakin kialta. Suasne Dios Sɨnam Izpulne Isabelta pizta. 42 Suasne usne tɨnta kaizta:\\n—Diosne wan ashampakin nua anza watsal kiwainnazi. Diosne nu mɨltu pashpara wat kiwainazi. 43 Ap Anpatpa akkuhsh nawa kwinta kin at akwa, kwisha wat kultus. 44 Mɨri. Nu nawa kakishapu kiztawane, ap painkulne pɨjara tɨnta kialta. Usne watsal kultuazi. 45 Ap Anpatne nua kin namtɨt aizpa kinazi. Nune wat kulnazi, us kin namtɨt aizpa nɨjkulta akwa, kaizta.\\n46 Suasne Maríane min kit paiña kaijchuras kaizta:\\n“Ap Anpat katsa i.\\n47 Ap Diosne, ap watsat mɨlmumikane, kwisha wat i, nawa kwisha wat mintɨt akwa.\\n48 Usne nawa, paiña kiwainmumikasha, kiwainshira.\\nMakis wan awane nawa kaizanazi: Diosne ussa wat ashampa namninta.\\n49 Ap katsa Diosne na akwa akkwan kirɨt.\\nUsne sɨnammika muntɨt.\\n50 Usne wan Diosta wat minturuzakas\\nDiosta wakpuj wainamtuzakas iznat kit kiwainanazi.\\n51 Usne katsa kal sara.\\nDiosne anza katsa mintuza an ainkinkanain namninnara, uspa minñara aizpa kiamanpa.\\n52 Usne katsa mikwaruza uspa ɨninmukis taizninnanazi.\\nUsne kiwaintuza watsat mɨlnara.\\n53 Usne chiwazha we mɨjtuza wan mɨlanara.\\nUsne kwazpa awaruza kɨlmin ɨninnara.\\n54 Usne paiña Judío kwaltuza,\\npaiña kiwaintuza, pailta payurakima kiwainnara.\\n55 Sunkanain usne au an ñancha ira kwaltakas\\nAbrahamtakas Abrahampa kwizta kwal uzamturuzakas kin namnara.”\\n56 Isabelkasa kutña mish uztawane, Maríane papihshpa yalta kailta.\\nJuan munnammikane kawimtu\\n57 Sunpawa payu pailtɨkane, ishtu kirɨkane, Isabelne paiña painkul nishta. 58 Dios ussa wat kirɨt aizpa mɨarawane, kasha izmuruzkas kwaltuzkas kaizara: “Au Anpatne nu wat kirɨt. Uspane uskasa wat kularɨt.” 59 Ocho payu pailtawane, uspane ampu pashpara muara, pashpa aya tɨtnapa, circuncisión kinpa, Judío awaruza ɨnintɨt aizpa kinpa. Uspane kaizara: “Usne Zacarías papihshkanain munnazi.” 60 Paiña akkuhshne kaizta:\\n—Zacarías munnachi. Juan munnazi, kizta.\\n61 Uspane ussa sɨnkaara:\\n—Up kwalne sun mun mɨjchi, kizara.\\n62 Suasne papihshta saiaat kit mɨmaara, ¿Miza munashinasa, awa piankamanapa? 63 Usne pɨnkɨh paikwat kit para: “Usne Juan mun i.” Wan awane iztaspaarɨt. 64 Sun urain Zacaríasne paiña pit ɨsak kit paiña yankwija chɨhkul kit kaizta:\\n—Diosne kwisha wari, kizta. 65 Suasne wan kasha izturuzne iztaspaarɨt. Wan awane Judea ɨnkal sura sun kirɨt aizpa wantuza kwinta kinara. 66 Sun kwinta mɨmturuzne usparuzpain mɨmaara: “Sun pashpane ¿Chima kinazi?” kizara. Dios ussa kiwainshimtu akwa, Diosne an pashpara an tɨnta namnazi.\\n67 Zacaríasne, pashpawa papihshne, Dioskasa paramtu uzta. Dios Sɨnam Izpulne ussa piz kit kiwainmɨzta. Zacaríasne Dios akwa parat kit kaizta:\\n68 “Judío awawa Diosne, au Anpatne, kwisha wari.\\nUsne apain at kit paiña kwaltuza watsat mɨlnanazi.\\n69 Usne tɨnta watsat mɨltamikasha ɨninta.\\nSun kiwainmikane ñamin pampa Davidpa kwal i.\\n70 An ñamin Diosne paiña kainammtuz akwa sun pit kin nam kit kaizta:\\n71 Usne aumɨza watsat mɨlnashina,\\naliz awa aumɨza anuppamanpa, aumɨza aliz kulamanpa.\\n72 Diosne sunkas kaizta: au ira kwaltuza nanat kit kiwainanash.\\nUruza kin namtɨt aizpa mainmanash.\\n73 Sun pitmin au papihshta, Abrahamta, sunkana tɨnta kaizta:\\n74 Usne aumɨza watsat mɨlnanazi, waya kimtuz aumɨza chinkas kiamanpa.\\nUsne aumɨza paiña kiwainmu namninnanazi, paiña kal kianapa, ishkwatchin.\\n75 Dios iztakin uzamtuasmin, aune pailta payukima us wat kuruntu aizpa kiat kit Diosta wakpuj waintamakpas.\\n76 Mane nua, ap painkul pashpara paranash. Nune chiyuras kainammmika munnazi.\\nNukas up Anpatpa miwara an ñancha ɨnazi, paiña mi watsanapa.\\n77 Nukas Dios paiña kwaltuza watsat mɨlnana piankamninnanazi.\\nUspa kwail kiarɨt aizpa wat kulna piankamninnanazi.\\n78 Dios aumɨza pashinamtu akwa, usne aumɨza kiwain kit chiyuras amtumikasha ɨninnazi.\\nSuasne wan awane ussa piankamashina.\\n79 Paiña ɨnintumika akwa Diosne kwail kim uzturuzakas,\\nirɨn ishkumtuzakas, watsat mɨlnanazi.\\nUsne aumɨza wat miwara ɨninanazi, kalpain uzanapa.”\\n80 An katsa kawimtuasmin, pashpane pailta payukima Diosta an pashimɨzta. Wan kawirawane, usne pul sura ɨt kit uzta, Judío awaruz ussa piankamnakima. Kwiztane uspane us kaizta aizpa mɨara.","num_words":1366,"character_repetition_ratio":0.046,"word_repetition_ratio":0.0,"special_characters_ratio":0.203,"stopwords_ratio":0.25,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":500.0,"cluster_detection":-1}
+{"url":"","collection":"madlad400","source":"CC 20220801","original_code":"kwi","text":"Masas Pit Jesucristowa Hechos 1\\nƗnintaruz Kiarɨt Aizpa\\nSan Lucas pɨnkɨh iztawane, Hechos, Ɨnintuz Kiarɨt Aizpa, pɨnkɨh, iztawa, San Lucas paasas pɨnkɨh parɨt akwa. San Lucasne Dios watsal pit para, awa Jesús kirɨt aizpa piankamat kit Jesucristora nɨjkulanapa. Kwiztane usne Hechos, Ɨnintuz Kiarɨt Aizpa, pɨnkɨh para, awa miza Jesúspa kammuruz uzara piankamanapa. Suasne Jesúspa kammuruzne wan pɨpuluwara ɨara, Dios watsal pit kainana, wan awa Jesucristora nɨjkulanapa. Dios Sɨnam Izpul usparuza kiwanninara akwa, paiña kammuruzne akkwan iztasparɨt kal kiara. Jerusalén pɨpulukis Jesúspa kammuruzne Judea surakas Samaria surakas Siria surakas ɨara, Dios Watsal pit kainana. Suasne San Pablone Asia suwarakas Macedonia suwarakas Roma pɨpulurakas piannara, wan awaruza Dios pit kamtananapa, Jesucristora nɨjkulturuz iglesiakin wanmakkanapa.\\nHechos, Ɨnintuz Kiarɨt Aizpa, pɨnkɨhkin kutña pajte wa: (1) Jesucristo chiyura nurachasmin, usne paiña kammuruza Dios pit kainanapa ɨninnat kit mamasa kailnash kaiznara (1.1-14). Cristora nɨjkulturuzne Jerusalén (1.15-83) pɨpulura wanmakkamtu, paiña iglesia namanapa. (2) Paiña kammuruzne Dios Watsal Pit Palestina suwara kainanamtu (8.4–12.25). (3) Kwiztane paiña kammuruzne Dios Watsal Pit Asia suwarakas Grecia suwarakas Roma pɨpulurakas ɨara, paiña pit kamtanana. (a) An ñancha Pablone Chipre suwarakas Grecia suwarakas ɨra (13.1–14.28). (b) Pablone wan ɨnintuzkasakas ɨlaparuzkasakas Jerusalén pɨpulukin wanmakkara (15.1-35). (c) Suasne Pablone mamasa attishta Siria suwarakas Asia suwarakas Grecia suwarakas ɨt kit Dios Watsal pit kainanara (15.36–18.22). (d) Kwiztane mamasa Pablone Asia suwarakas Grecia suwarakas ɨt kit Dios Watsal Pit kainanara (18.23–21.16). (e) Minpa piji Jerusalén pɨpulukin kachira sɨptawane, Pablone, piztɨtmikakanain, Roma pɨpulura, Italia sukin, ɨra (21.17–28.31). Suas usne Dios Watsal pit wan awaruza kamtanara.\\nDiosne paiña Sɨnam Izpulta ɨninna namtu\\n1 Nane Lucas mun ish. Nua, Teófilora, kakishapu kiz kit an pɨnkɨh pamtus. An ñancha an pɨnkɨhta Jesús wan kit aizpakas us kamtanara aizpakas parau, Jesús chiyura numtu payukima. 2 Nurachasmin, usne paiña Sɨnam Izpulkasa paiña narɨt ɨnintaruza kamtaninnara, us kamtara aizpa kianapa. 3 Irɨttas kakultawane, Jesúsne usparuza cuarenta payurakima, akkwan pijikima, izpannara, us uztu piankamanapa. Akkwan piji usparuza izpan kit Dios awaruza ɨninnashimtu kwinta kinara.\\n4 Mama uspakasa tuasmin, Jesúsne ɨninnat kit kaiznara:\\n—Jerusalén pɨpuluras ɨman. Suain tɨriztain, ap Papihsh umɨza kin namtɨt aizpa sappanakima. Nane sunpa uruza kaiznara. 5 Watcha Juanne uruza kwazikasain munnanara. Akkwan payuchin kawarain Sɨnam Izpulne uruza piznanazi.\\nJesúsne chiyura numtu\\n6 Suasne kanpamtuzne Jesústa ka akkwan piji mɨmaara:\\n—Au Anpat, ¿An payura au Israel awara kiwainanakish, au sukin ɨninna? mɨmaara.\\n7 Usne usparuza ka sɨnkanaara:\\n—Uruzne an payu piankamamanazi. Au Taittain an payu nanarɨt, us kishit aizpa kin. 8 Diosne paiña Sɨnam Izpulta ɨninnazi, u ussa sappanapa. Usne uruza tɨnta kiwainnanazi, na akwa kamtananapa. Suasne une Jerusalén pɨpulurakas wan Judea surakas Samaria surakas wan attish surakas ɨanazi, na akwa kainana.\\n9 Jesús sun kiztawane, awa izamtuasmin, Diosne ussa chiyura nuninta. Wanish at kit ussa pal kit sɨpta. Ussa an izarachi. 10 Jesús numtuasmin, uspane chiyura kwashpa izakkaara. Suasne paas ángelne putchã kamisha kwa usparuza at kit uspakasa kunpailta. 11 Usparuza kaiznara:\\n—Galilea suras awa, ¿Chikishmaka chiyura izakpuspas? An Jesúsmin uruztas nurɨtmikain watcha mamasa sunkanain mamaz payura kailnazi.\\nUspane Matíasta naanara, Judaspa kal kinpa\\n12 Suasne uspane Olivos ɨzakis kihshat kit Jerusalén pɨpulura kaiyarɨt. Moisés usparuza ɨninta aizpa kiashit akwa, uspane kwaizkulmu payura maza kilómetrokima kashain ɨshiara. 13 Pɨpulukin piannatpane, kwashtɨt yal pitmura nuarɨt.\\nPedrokas Juankas Santiagokas\\nAndréskas Felipekas Tomáskas\\nBartolomékas Mateokas Santiago Alfeowa painkulkas\\nSimón Celote munmikakas Judas Santiagowa aimpihshkas usparuzpain pura.\\n14 Wan wanmakkara Jesúspa aimpihshkasa paiña akkuhsh, Maríakasa mamaz ashamparuzkasa, Diosta payu aizpa paikuana.\\n15 Sun payune Pedrone Cristora nɨjkulturuz paizkakin nil satkunta. Maza cien veintekasa awa purakin. Pedrone ka kaiznara: 16 “Cristora piantuz, mɨzhain. Diosne chiwazha paiña pɨnkɨhta panintɨt aizpa ka kirɨt. Sɨnam Izpulne Davidta Judaspa kwinta kininta. Usne an ñancha Judas kit aizpa kwinta kira. Usne Jesústa annara, awa ussa pizanapa. 17 Usne au izmumika azi. Aukasa kal kimika azi. 18 Kwiztane kwail kit akwa, Judasne pial sap kit sun pialkasa su paira. Usne kwashtas kɨzpuwara taiz kit irɨt. Paiña pɨja puzpian kit pɨrɨt puzta. 19 Jerusalénkin uztuz sun piankamarawane, uspane sun su i Acéldama munara. Usparuzpa pitne ‘aimpi su’ mun. 20 Sun wan kanta pɨnkɨhta ka parɨt:\\n‘Paiña kwairɨt yalta suane mɨnminkas uzmuchi.’✡ Sal 69.25\\nAnkas ka parɨt:\\n‘Mamazne paiña kal kitpa.’✡ Sal 109.8\\n21-22 Katmizna aune mɨnpazha aukasa wanmakmumikasha nanarawash. Wanmakmumikane awara ka kizshina: ‘Au Anpat Jesús irɨttas kakulta.’ Mama Jesús wan payu aukasa uzasmin, uskas aukasa wanmakta. Juan munnanakima, Jesús kakulnakima, usne aukasa chara.”\\n23 Suasne Dios pit piantuzne, wanmakmuruzne, paas awara nanara. Mazane paas mun muntɨt: José Barsabáskas Justokas. Mamazne Matías muntɨt. 24 Suasne uspane uspa Anpatta ka paikuara: “Nune miza wan awa minñamtu pian. Katmizna aumɨza an paastas nu narɨtmikasha izninchain, 25 mamaz ɨninmikawa kal kinpa. Judasne sun kal chɨhkat kit us kwail akwa paiña miwara ɨt kit naizta.”\\n26 Suasne uspane awa wanmakkarawane, wankis an watmikasha naara. Sunkanain uspane Matíasta naat kit once ɨnintaruzkasa wianara.\\n✡1:20 Sal 69.25\\n✡1:20 Sal 109.8","num_words":734,"character_repetition_ratio":0.062,"word_repetition_ratio":0.003,"special_characters_ratio":0.199,"stopwords_ratio":0.221,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":500.0,"cluster_detection":-1}

kwi_Latn/mala_000002_stas.jsonl

@@ -0,0 +1,115 @@
+[
+    {
+        "avg": {
+            "num_words": 615.5675675675676,
+            "character_repetition_ratio": 0.06624324324324322,
+            "word_repetition_ratio": 8.108108108108108e-05,
+            "special_characters_ratio": 0.18883783783783786,
+            "stopwords_ratio": 0.298054054054054,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "std": {
+            "num_words": 232.76000173482726,
+            "character_repetition_ratio": 0.01583769947361385,
+            "word_repetition_ratio": 0.00048648648648648657,
+            "special_characters_ratio": 0.010703658161010073,
+            "stopwords_ratio": 0.05366661146623056,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.0,
+            "perplexity_score": 0.0
+        }
+    },
+    {
+        "median": {
+            "num_words": 593.0,
+            "character_repetition_ratio": 0.065,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.187,
+            "stopwords_ratio": 0.311,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "max": {
+            "num_words": 1366.0,
+            "character_repetition_ratio": 0.138,
+            "word_repetition_ratio": 0.003,
+            "special_characters_ratio": 0.22,
+            "stopwords_ratio": 0.396,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "min": {
+            "num_words": 275.0,
+            "character_repetition_ratio": 0.046,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.171,
+            "stopwords_ratio": 0.135,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "90%": {
+            "num_words": 933.8,
+            "character_repetition_ratio": 0.08159999999999999,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.20240000000000002,
+            "stopwords_ratio": 0.3488,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "75%": {
+            "num_words": 751.0,
+            "character_repetition_ratio": 0.068,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.194,
+            "stopwords_ratio": 0.33,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "50%": {
+            "num_words": 593.0,
+            "character_repetition_ratio": 0.065,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.187,
+            "stopwords_ratio": 0.311,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "25%": {
+            "num_words": 415.0,
+            "character_repetition_ratio": 0.057,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.182,
+            "stopwords_ratio": 0.272,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "total size": "37",
+        "keep size": "30",
+        "remove size": "7"
+    }
+]

lmo_Latn/fineweb-2_000001_stas.jsonl

@@ -0,0 +1,115 @@
+[
+    {
+        "avg": {
+            "num_words": 1080.3278304055918,
+            "character_repetition_ratio": 0.07239138232318587,
+            "word_repetition_ratio": 0.04060236365308563,
+            "special_characters_ratio": 0.2264108341764003,
+            "stopwords_ratio": 0.1087488733560195,
+            "flagged_words_ratio": 0.00016361629725006896,
+            "lang_id_score": 0.8057041754805482,
+            "perplexity_score": 1144.3667479076614
+        }
+    },
+    {
+        "std": {
+            "num_words": 6959.656462634823,
+            "character_repetition_ratio": 0.08052472308842286,
+            "word_repetition_ratio": 0.11575032170187506,
+            "special_characters_ratio": 0.027488661080040448,
+            "stopwords_ratio": 0.03612747060250022,
+            "flagged_words_ratio": 0.0017094133105249752,
+            "lang_id_score": 0.2297898863883347,
+            "perplexity_score": 1029.3965250791368
+        }
+    },
+    {
+        "median": {
+            "num_words": 302.0,
+            "character_repetition_ratio": 0.052,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.228,
+            "stopwords_ratio": 0.107,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.928,
+            "perplexity_score": 1106.35
+        }
+    },
+    {
+        "max": {
+            "num_words": 218949.0,
+            "character_repetition_ratio": 0.716,
+            "word_repetition_ratio": 0.98,
+            "special_characters_ratio": 0.507,
+            "stopwords_ratio": 0.405,
+            "flagged_words_ratio": 0.062,
+            "lang_id_score": 1.0,
+            "perplexity_score": 11328.2
+        }
+    },
+    {
+        "min": {
+            "num_words": 52.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.114,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.092,
+            "perplexity_score": 2.8
+        }
+    },
+    {
+        "90%": {
+            "num_words": 1532.0,
+            "character_repetition_ratio": 0.152,
+            "word_repetition_ratio": 0.1125,
+            "special_characters_ratio": 0.257,
+            "stopwords_ratio": 0.153,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 2300.45
+        }
+    },
+    {
+        "75%": {
+            "num_words": 720.0,
+            "character_repetition_ratio": 0.081,
+            "word_repetition_ratio": 0.014,
+            "special_characters_ratio": 0.243,
+            "stopwords_ratio": 0.13,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 1686.475
+        }
+    },
+    {
+        "50%": {
+            "num_words": 302.0,
+            "character_repetition_ratio": 0.052,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.228,
+            "stopwords_ratio": 0.107,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.928,
+            "perplexity_score": 1106.35
+        }
+    },
+    {
+        "25%": {
+            "num_words": 151.0,
+            "character_repetition_ratio": 0.029,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.211,
+            "stopwords_ratio": 0.087,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.607,
+            "perplexity_score": 196.82500000000002
+        }
+    },
+    {
+        "total size": "21746",
+        "keep size": "19626",
+        "remove size": "2120"
+    }
+]

lmo_Latn/mala_000002_stas.jsonl

@@ -0,0 +1,115 @@
+[
+    {
+        "avg": {
+            "num_words": 66.21255643545233,
+            "character_repetition_ratio": 0.018570604674183346,
+            "word_repetition_ratio": 0.00031943069605736495,
+            "special_characters_ratio": 0.2505948628648689,
+            "stopwords_ratio": 0.05288214647866922,
+            "flagged_words_ratio": 4.8223641324030044e-05,
+            "lang_id_score": 0.9725461563533646,
+            "perplexity_score": 140434.8234007943
+        }
+    },
+    {
+        "std": {
+            "num_words": 191.89776288858724,
+            "character_repetition_ratio": 0.03362308416375383,
+            "word_repetition_ratio": 0.005995489045592215,
+            "special_characters_ratio": 0.04415407749301236,
+            "stopwords_ratio": 0.03613358142707863,
+            "flagged_words_ratio": 0.00119802861544407,
+            "lang_id_score": 0.09210157884620505,
+            "perplexity_score": 95687.07249274066
+        }
+    },
+    {
+        "median": {
+            "num_words": 44.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.244,
+            "stopwords_ratio": 0.048,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 119453.29999999999
+        }
+    },
+    {
+        "max": {
+            "num_words": 30859.0,
+            "character_repetition_ratio": 0.2,
+            "word_repetition_ratio": 0.593,
+            "special_characters_ratio": 0.4,
+            "stopwords_ratio": 0.292,
+            "flagged_words_ratio": 0.125,
+            "lang_id_score": 1.0,
+            "perplexity_score": 1233804.7
+        }
+    },
+    {
+        "min": {
+            "num_words": 10.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.089,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.055,
+            "perplexity_score": 19.0
+        }
+    },
+    {
+        "90%": {
+            "num_words": 99.0,
+            "character_repetition_ratio": 0.066,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.312,
+            "stopwords_ratio": 0.097,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 268046.59
+        }
+    },
+    {
+        "75%": {
+            "num_words": 72.0,
+            "character_repetition_ratio": 0.027,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.276,
+            "stopwords_ratio": 0.068,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 177355.69999999998
+        }
+    },
+    {
+        "50%": {
+            "num_words": 44.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.244,
+            "stopwords_ratio": 0.048,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 119453.29999999999
+        }
+    },
+    {
+        "25%": {
+            "num_words": 26.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.219,
+            "stopwords_ratio": 0.031,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.995,
+            "perplexity_score": 74896.7
+        }
+    },
+    {
+        "total size": "331352",
+        "keep size": "304283",
+        "remove size": "27069"
+    }
+]

lmo_Latn/new_cc_000003_keep.jsonl

@@ -0,0 +1,53 @@
+{"text":"Massongy l'è 'n cümü fransés de la regiù Rhône-Alpes, endèla Frància sud-orientàla. El fa part del cantù de Douvaine, del circondàre (arrondissement) de Thonon-les-Bains e del dipartimènt de l'Alta Savoia. El g'ha 'na popolasiù de 1 498 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 9 km² e 'l và de 'na altèsa mìnima de 415 méter a 'na altèsa màsima de 490 méter s.l.m.","num_words":99,"character_repetition_ratio":0.03,"word_repetition_ratio":0.0,"special_characters_ratio":0.28,"stopwords_ratio":0.101,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":105069.9,"cluster_detection":1}
+{"text":"Vulped (en italià: Volpedo) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Alessandria. El g'ha presapóch 1.191 abitàncc, 'na superfìce de 10,58 km² e 'na densità de 113 ab.\/km². El cunfìna coi cümü de Ar Casà, Gudiass (PV), Munlià, Munt Marsèi, Pussö 'd Gröpu, Vulpijèi","num_words":73,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.303,"stopwords_ratio":0.055,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":103680.4,"cluster_detection":1}
+{"text":"Velden l'è 'n cümü todèsch del stat federàl (Bundesland) de la Baviera, distrèt (Regierungsbezirk) de la Basa Baviera. El pórta 'l tìtol de Mercàt (Marktgemeinde) che völ dì che 'l reprezènta 'n cèntro de importànsa piö grànda de 'n cümü normàl. El fà part del circondare rüràl (Landkreis) de Landshut. La süperfìce del teretóre aministràt del cümü l'è de 49.40 km² e 'ndel Desember 2016 el gh'ìa 'na popolasiù de 6 548 abitàncc.","num_words":97,"character_repetition_ratio":0.005,"word_repetition_ratio":0.0,"special_characters_ratio":0.254,"stopwords_ratio":0.052,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":220855.2,"cluster_detection":1}
+{"text":"Megève l'è 'n cümü fransés de la regiù Rhône-Alpes, endèla Frància sud-orientàla. El fa part del cantù de Sallanches, del circondàre (arrondissement) de Bonneville e del dipartimènt de l'Alta Savoia. El g'ha 'na popolasiù de 3 516 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 44,11 km² e 'l và de 'na altèsa mìnima de 1027 méter a 'na altèsa màsima de 2485 méter s.l.m.","num_words":96,"character_repetition_ratio":0.03,"word_repetition_ratio":0.0,"special_characters_ratio":0.29,"stopwords_ratio":0.104,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":136802.2,"cluster_detection":1}
+{"text":"Serét (en tortonés: Sregh; en piemontés: Srèj) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Alessandria. El g'ha presapóch 339 abitàncc, 'na superfìce de 4 km² e 'na densità de 85 ab.\/km². El cunfìna coi cümü de Costa, Munzögh, Sarzòu, La Vilëta.","num_words":63,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.282,"stopwords_ratio":0.063,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":96772.9,"cluster_detection":1}
+{"text":"San Vito di Leguzzano (en vèneto: San Vito de Łegusan) l'è 'n cümü italià, de la regiù del Vèneto, en Pruvìncia de Vicènsa. El g'ha presapóch 3.390 abitàncc, 'na superfìce de 6 km² e 'na densità de 565 ab.\/km². El cunfìna coi cümü de Malo, Marano Vicentino, Monte di Malo, Schio.","num_words":71,"character_repetition_ratio":0.007,"word_repetition_ratio":0.0,"special_characters_ratio":0.287,"stopwords_ratio":0.056,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":116853.4,"cluster_detection":1}
+{"text":"Wiesentheid l'è 'n cümü todèsch del stat federàl (Bundesland) de la Baviera, distrèt (Regierungsbezirk) de la Bàsa Francònia. El pórta 'l tìtol de Mercàt (Marktgemeinde) che völ dì che 'l reprezènta 'n cèntro de importànsa piö grànda de 'n cümü normàl. El fà part del circondare rüràl (Landkreis) de Kitzingen. La süperfìce del teretóre aministràt del cümü l'è de 33.33 km² e 'ndel Desember 2016 el gh'ìa 'na popolasiù de 4 797 abitàncc.","num_words":99,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.249,"stopwords_ratio":0.051,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":228957.6,"cluster_detection":1}
+{"text":"Schönberg l'è 'n cümü todèsch del stat federàl (Bundesland) de la Baviera, distrèt (Regierungsbezirk) de la Basa Baviera. El pórta 'l tìtol de Mercàt (Marktgemeinde) che völ dì che 'l reprezènta 'n cèntro de importànsa piö grànda de 'n cümü normàl. El fà part del circondare rüràl (Landkreis) de Freyung-Grafenau. La süperfìce del teretóre aministràt del cümü l'è de 32.71 km² e 'ndel Desember 2016 el gh'ìa 'na popolasiù de 3 818 abitàncc.","num_words":100,"character_repetition_ratio":0.005,"word_repetition_ratio":0.0,"special_characters_ratio":0.25,"stopwords_ratio":0.05,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":203322.6,"cluster_detection":1}
+{"text":"Seinsheim l'è 'n cümü todèsch del stat federàl (Bundesland) de la Baviera, distrèt (Regierungsbezirk) de la Bàsa Francònia. El pórta 'l tìtol de Mercàt (Marktgemeinde) che völ dì che 'l reprezènta 'n cèntro de importànsa piö grànda de 'n cümü normàl. El fà part del circondare rüràl (Landkreis) de Kitzingen. La süperfìce del teretóre aministràt del cümü l'è de 17.52 km² e 'ndel Desember 2016 el gh'ìa 'na popolasiù de 1 030 abitàncc.","num_words":98,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.251,"stopwords_ratio":0.051,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":213367.3,"cluster_detection":1}
+{"text":"Rüdenhausen l'è 'n cümü todèsch del stat federàl (Bundesland) de la Baviera, distrèt (Regierungsbezirk) de la Bàsa Francònia. El pórta 'l tìtol de Mercàt (Marktgemeinde) che völ dì che 'l reprezènta 'n cèntro de importànsa piö grànda de 'n cümü normàl. El fà part del circondare rüràl (Landkreis) de Kitzingen. La süperfìce del teretóre aministràt del cümü l'è de 6.88 km² e 'ndel Desember 2016 el gh'ìa 'na popolasiù de 874 abitàncc.","num_words":97,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.244,"stopwords_ratio":0.052,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":211281.9,"cluster_detection":1}
+{"text":"Portomaggiore (endèla parlàda locàl: Port Mazor) l'è 'n cümü italià, de la regiù de l'Emìlia Romàgna, en Pruvìncia de Ferràra. El g'ha presapóch 11.861 abitàncc e 'l g'ha 'na superfìce de 126 km², per 'na densità de 94 ab.\/km². El cunfìna coi cümü de Argenta, Comacchio, Masi Torello, Ostellato, Voghiera.","num_words":72,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.279,"stopwords_ratio":0.083,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":100873.6,"cluster_detection":1}
+{"text":"Guastalla (endèla parlàda locàl: Guastâla) l'è 'n cümü italià, de la regiù de l'Emìlia Romàgna, en Pruvìncia de Reggio Emilia. El g'ha presapóch 13.887 abitàncc e 'l g'ha 'na superfìce de 52 km², per 'na densità de 267 ab.\/km². El cunfìna coi cümü de Cadelbosco di Sopra, Dösul (MN), Gualtieri, Luzzara, Novellara, Reggiolo.","num_words":80,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.281,"stopwords_ratio":0.1,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":86175.0,"cluster_detection":1}
+{"text":"Flachslanden l'è 'n cümü todèsch del stat federàl (Bundesland) de la Baviera, distrèt (Regierungsbezirk) de la Média Francònia. El pórta 'l tìtol de Mercàt (Marktgemeinde) che völ dì che 'l reprezènta 'n cèntro de importànsa piö grànda de 'n cümü normàl. El fà part del circondare rüràl (Landkreis) de Ansbach. La süperfìce del teretóre aministràt del cümü l'è de 41.00 km² e 'ndel Desember 2016 el gh'ìa 'na popolasiù de 2 322 abitàncc.","num_words":99,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.249,"stopwords_ratio":0.051,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":210988.4,"cluster_detection":1}
+{"text":"Mulì di Tórcc (en tortonés: Mulèi di Tort; en italià: Molino dei Torti) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Alessandria. El g'ha presapóch 737 abitàncc, 'na superfìce de 2 km² e 'na densità de 369 ab.\/km². El cunfìna coi cümü de Aussan, Casé (PV), Casternöv, Guassura, Isula.","num_words":75,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.283,"stopwords_ratio":0.067,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":101966.0,"cluster_detection":1}
+{"text":"Vurasca (en piemontés e 'n italià: Avolasca) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Alessandria. El g'ha presapóch 280 abitàncc, 'na superfìce de 12,29 km² e 'na densità de 23 ab.\/km². El cunfìna coi cümü de Casasch, Castlania, Costa, Garbagna, Munzögh, Munt Marsèi.","num_words":71,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.281,"stopwords_ratio":0.07,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":91799.9,"cluster_detection":1}
+{"text":"Bastia Mondovì (en piemontés: Bastìa) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Cuneo. El g'ha presapóch 624 abitàncc, 'na superfìce de 11 km² e 'na densità de 57 ab.\/km². El cunfìna coi cümü de Carrù, Cigliè, Clavesana, Mondovì.","num_words":60,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.282,"stopwords_ratio":0.067,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":104685.7,"cluster_detection":1}
+{"text":"La Gissöla (nòm uficiàl en Italià: Gussola) l'è 'n cümü italià, de la regiù de la Lombardìa, en Pruvìncia de Cremùna. El g'ha presapóch 2.799 abitàncc e 'l g'ha 'na superfìce de 25 km², per 'na densità de 112 ab.\/km². El cunfìna coi cümü de Colorno (PR), Martignana, San Giuan in Crus, Scandulèra, Sissa (PR), Sularòl, Turesela.","num_words":81,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.293,"stopwords_ratio":0.074,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":112599.0,"cluster_detection":1}
+{"text":"Poviglio (endèla parlàda locàl: Puvî) l'è 'n cümü italià, de la regiù de l'Emìlia Romàgna, en Pruvìncia de Reggio Emilia. El g'ha presapóch 6.523 abitàncc e 'l g'ha 'na superfìce de 43 km², per 'na densità de 152 ab.\/km². El cunfìna coi cümü de Boretto, Brescello, Castelnovo di Sotto, Gattatico.","num_words":74,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.28,"stopwords_ratio":0.081,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":98990.0,"cluster_detection":1}
+{"text":"Tresigallo (endèla parlàda locàl: Trasgàl) l'è 'n cümü italià, de la regiù de l'Emìlia Romàgna, en Pruvìncia de Ferràra. El g'ha presapóch 4.754 abitàncc e 'l g'ha 'na superfìce de 20 km², per 'na densità de 238 ab.\/km². El cunfìna coi cümü de Ferrara, Formignana, Jolanda di Savoia, Migliarino, Ostellato.","num_words":73,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.275,"stopwords_ratio":0.082,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":89757.7,"cluster_detection":1}
+{"text":"Salassa (en piemontés: Salassa) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Türì. El g'ha presapóch 1.618 abitàncc, 'na superfìce de 4,955 km² e 'na densità de 326,538 ab.\/km². El cunfìna coi cümü de Castellamonte, Valperga, Rivarolo Canavese, San Ponso, Oglianico.","num_words":64,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.294,"stopwords_ratio":0.062,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":104302.8,"cluster_detection":1}
+{"text":"Castèl Gabià (nòm uficiàl en Italià: Castel Gabbiano) l'è 'n cümü italià, de la regiù de la Lombardìa, en Pruvìncia de Cremùna. L'è 'n paés del cremàsch che g'ha presapóch 392 abitàncc e 'na superfìce de 5 km², per 'na densità de 78 ab.\/km². El cunfìna coi cümü de Camisà, Casal e Idulasch, Fara Olivana con Sola (BG), Isso (BG), Mozzanica (BG), Sergnà.","num_words":88,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.28,"stopwords_ratio":0.068,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":134203.2,"cluster_detection":1}
+{"text":"Redundèsch (nòm uficiàl en Italià: Redondesco) l'è 'n cümü italià, de la regiù de la Lombardìa, en Pruvìncia de Màntoa. El g'ha presapóch 1.387 abitàncc e 'l g'ha 'na superfìce de 19 km², per 'na densità de 73 ab.\/km². El cunfìna coi cümü de Aquanégra, Gasòlt, Marcarìa, Mariàna, Piübega.","num_words":71,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.281,"stopwords_ratio":0.085,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":94660.9,"cluster_detection":1}
+{"text":"Bersà (en tortonés e 'n piemontés: Bërsòu; en italià: Berzano di Tortona) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Alessandria. El g'ha presapóch 132 abitàncc, 'na superfìce de 2,91 km² e 'na densità de 208 ab.\/km². El cunfìna coi cümü de Muliaa, Sarsòu, Vigsö, Vulpijèi.","num_words":71,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.285,"stopwords_ratio":0.07,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":95199.6,"cluster_detection":1}
+{"text":"Pilsting l'è 'n cümü todèsch del stat federàl (Bundesland) de la Baviera, distrèt (Regierungsbezirk) de la Basa Baviera. El pórta 'l tìtol de Mercàt (Marktgemeinde) che völ dì che 'l reprezènta 'n cèntro de importànsa piö grànda de 'n cümü normàl. El fà part del circondare rüràl (Landkreis) de Dingolfing-Landau. La süperfìce del teretóre aministràt del cümü l'è de 71.05 km² e 'ndel Desember 2016 el gh'ìa 'na popolasiù de 6 492 abitàncc.","num_words":100,"character_repetition_ratio":0.005,"word_repetition_ratio":0.0,"special_characters_ratio":0.25,"stopwords_ratio":0.05,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":209913.4,"cluster_detection":1}
+{"text":"Kleinlangheim l'è 'n cümü todèsch del stat federàl (Bundesland) de la Baviera, distrèt (Regierungsbezirk) de la Bàsa Francònia. El pórta 'l tìtol de Mercàt (Marktgemeinde) che völ dì che 'l reprezènta 'n cèntro de importànsa piö grànda de 'n cümü normàl. El fà part del circondare rüràl (Landkreis) de Kitzingen. La süperfìce del teretóre aministràt del cümü l'è de 19.09 km² e 'ndel Desember 2016 el gh'ìa 'na popolasiù de 1 751 abitàncc.","num_words":99,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.248,"stopwords_ratio":0.051,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":210204.0,"cluster_detection":1}
+{"text":"Li Tur (nòm uficiàl en Italià: Torre de' Picenardi) l'è 'n cümü italià, de la regiù de la Lombardìa, en Pruvìncia de Cremùna. El g'ha presapóch 1.839 abitàncc e 'l g'ha 'na superfìce de 17 km², per 'na densità de 108 ab.\/km². El cunfìna coi cümü de Li Cà, Capela, Drissuna, Isola, La Pessina, Vultèd.","num_words":72,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.3,"stopwords_ratio":0.083,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":100097.3,"cluster_detection":1}
+{"text":"Eygalières l'è 'n cümü fransés de la regiù Provence-Alpes-Côte d'Azur , endèla Frància meridiunàla. El fa part del cantù de Orgon, del circondàre (arrondissement) de Arles e del dipartimènt de le Bouches-du-Rhône . El g'ha 'na popolasiù de 1 752 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 33,97 km² e 'l và de 'na altèsa mìnima de 12 méter a 'na altèsa màsima de 300 méter s.l.m.","num_words":104,"character_repetition_ratio":0.029,"word_repetition_ratio":0.0,"special_characters_ratio":0.286,"stopwords_ratio":0.096,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":124335.7,"cluster_detection":1}
+{"text":"Carbunera (isé pò en piemontés; Carbonara Scrivia 'n italià) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Alessandria. El g'ha presapóch 966 abitàncc, 'na superfìce de 5 km² e 'na densità de 193 ab.\/km². El cunfìna coi cümü de Spineigh, Turtona, La Vilëta.","num_words":65,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.272,"stopwords_ratio":0.062,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":111209.4,"cluster_detection":1}
+{"text":"Curt de Frat (nòm uficiàl en Italià: Corte de' Frati) l'è 'n cümü italià, de la regiù de la Lombardìa, en Pruvìncia de Cremùna. El g'ha presapóch 1.368 abitàncc e 'l g'ha 'na superfìce de 20 km², per 'na densità de 68 ab.\/km². El cunfìna coi cümü de Alfianèl (BS), Gruntart, Persech, Puntìch (BS), Pusài, Rubéch, Scandulèra Rìa d'Ói.","num_words":83,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.297,"stopwords_ratio":0.084,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":98711.6,"cluster_detection":1}
+{"text":"Bechhofen l'è 'n cümü todèsch del stat federàl (Bundesland) de la Baviera, distrèt (Regierungsbezirk) de la Média Francònia. El pórta 'l tìtol de Mercàt (Marktgemeinde) che völ dì che 'l reprezènta 'n cèntro de importànsa piö grànda de 'n cümü normàl. El fà part del circondare rüràl (Landkreis) de Ansbach. La süperfìce del teretóre aministràt del cümü l'è de 60.12 km² e 'ndel Desember 2016 el gh'ìa 'na popolasiù de 5 897 abitàncc.","num_words":97,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.251,"stopwords_ratio":0.052,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":228119.5,"cluster_detection":1}
+{"text":"Mimet l'è 'n cümü fransés de la regiù Provence-Alpes-Côte d'Azur , endèla Frància meridiunàla. El fa part del cantù de Gardanne, del circondàre (arrondissement) de Aix-en-Provence e del dipartimènt de le Bouches-du-Rhône . El g'ha 'na popolasiù de 4 508 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 18,7 km² e 'l và de 'na altèsa mìnima de 269 méter a 'na altèsa màsima de 779 méter s.l.m.","num_words":106,"character_repetition_ratio":0.029,"word_repetition_ratio":0.0,"special_characters_ratio":0.286,"stopwords_ratio":0.094,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":97204.1,"cluster_detection":1}
+{"text":"Munlià (en italià: Monleale) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Alessandria. El g'ha presapóch 634 abitàncc, 'na superfìce de 9,61 km² e 'na densità de 70 ab.\/km². El cunfìna coi cümü de Bërsòu, Munzögh, Munt Marsèi, Sarzòu, Vulped, Vulpijèi.","num_words":65,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.284,"stopwords_ratio":0.062,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":84709.6,"cluster_detection":1}
+{"text":"Baiso (endèla parlàda locàl: Baîṣ) l'è 'n cümü italià, de la regiù de l'Emìlia Romàgna, en Pruvìncia de Reggio Emilia. El g'ha presapóch 3.259 abitàncc e 'l g'ha 'na superfìce de 75 km², per 'na densità de 43 ab.\/km². El cunfìna coi cümü de Carpineti, Castellarano, Prignano sulla Secchia (MO), Toano, Viano.","num_words":77,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.282,"stopwords_ratio":0.078,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":94580.1,"cluster_detection":1}
+{"text":"Còsta (isé pò en piemontés; Costa Vescovato 'n italià) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Alessandria. El g'ha presapóch 347 abitàncc, 'na superfìce de 7,74 km² e 'na densità de 44 ab.\/km². El cunfìna coi cümü de Vurasca, Carzòu, Castlania, Sregh, Munzögh, Paderna, La Vilëta.","num_words":74,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.278,"stopwords_ratio":0.081,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":101311.8,"cluster_detection":1}
+{"text":"Lehrberg l'è 'n cümü todèsch del stat federàl (Bundesland) de la Baviera, distrèt (Regierungsbezirk) de la Média Francònia. El pórta 'l tìtol de Mercàt (Marktgemeinde) che völ dì che 'l reprezènta 'n cèntro de importànsa piö grànda de 'n cümü normàl. El fà part del circondare rüràl (Landkreis) de Ansbach. La süperfìce del teretóre aministràt del cümü l'è de 50.88 km² e 'ndel Desember 2016 el gh'ìa 'na popolasiù de 3 122 abitàncc.","num_words":98,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.252,"stopwords_ratio":0.051,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":212674.5,"cluster_detection":1}
+{"text":"La Gissöla (nòm uficiàl en Italià: Gussola) l'è 'n cümü italià, de la regiù de la Lombardìa, en Pruvìncia de Cremùna. El g'ha presapóch 2.799 abitàncc e 'l g'ha 'na superfìce de 25 km², per 'na densità de 112 ab.\/km². El cunfìna coi cümü de Colorno (PR), Martignana, San Giuan in Crus, Scandulèra, Sissa (PR), Sularòl, Turesela.","num_words":81,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.293,"stopwords_ratio":0.074,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":112599.0,"cluster_detection":1}
+{"text":"Uras l'è 'n cümü italià, de la regiù de la Sardegna, en Pruvìncia de Oristano. El g'ha presapóch 3.106 abitàncc, 'na superfìce de 39 km² e 'na densità de 80 ab.\/km². El cunfìna coi cümü de Marrubiu, Masullas, Mogoro, Morgongiori, San Nicolò d'Arcidano, Terralba.","num_words":68,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.279,"stopwords_ratio":0.059,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":85409.3,"cluster_detection":1}
+{"text":"Elva (en piemontés: Elva) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Cuneo. El g'ha presapóch 108 abitàncc, 'na superfìce de 26 km² e 'na densità de 4 ab.\/km². El cunfìna coi cümü de Bellino, Casteldelfino, Prazzo, Sampeyre, Stroppo.","num_words":62,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.279,"stopwords_ratio":0.081,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":92224.5,"cluster_detection":1}
+{"text":"Lagnes l'è 'n cümü fransés de la regiù Provence-Alpes-Côte d'Azur, endèla Frància meridiunàla. El fa part del cantù de L'Isle-sur-la-Sorgue, del circondàre (arrondissement) de Avignon e del dipartimènt de la Vaucluse. El g'ha 'na popolasiù de 1 657 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 16,93 km² e 'l và de 'na altèsa mìnima de 64 méter a 'na altèsa màsima de 622 méter s.l.m.","num_words":102,"character_repetition_ratio":0.029,"word_repetition_ratio":0.0,"special_characters_ratio":0.284,"stopwords_ratio":0.108,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":75945.1,"cluster_detection":1}
+{"text":"Sénas l'è 'n cümü fransés de la regiù Provence-Alpes-Côte d'Azur , endèla Frància meridiunàla. El fa part del cantù de Orgon, del circondàre (arrondissement) de Arles e del dipartimènt de le Bouches-du-Rhône . El g'ha 'na popolasiù de 6 661 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 30,61 km² e 'l và de 'na altèsa mìnima de 85 méter a 'na altèsa màsima de 273 méter s.l.m.","num_words":103,"character_repetition_ratio":0.03,"word_repetition_ratio":0.0,"special_characters_ratio":0.29,"stopwords_ratio":0.097,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":122833.8,"cluster_detection":1}
+{"text":"Arborea l'è 'n cümü italià, de la regiù de la Sardegna, en Pruvìncia de Oristano. El g'ha presapóch 3.927 abitàncc, 'na superfìce de 115 km² e 'na densità de 34 ab.\/km². El cunfìna coi cümü de Marrubiu, Santa Giusta, Terralba.","num_words":54,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.292,"stopwords_ratio":0.074,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":126197.5,"cluster_detection":1}
+{"text":"Geisenhausen l'è 'n cümü todèsch del stat federàl (Bundesland) de la Baviera, distrèt (Regierungsbezirk) de la Basa Baviera. El pórta 'l tìtol de Mercàt (Marktgemeinde) che völ dì che 'l reprezènta 'n cèntro de importànsa piö grànda de 'n cümü normàl. El fà part del circondare rüràl (Landkreis) de Landshut. La süperfìce del teretóre aministràt del cümü l'è de 62.54 km² e 'ndel Desember 2016 el gh'ìa 'na popolasiù de 6 938 abitàncc.","num_words":98,"character_repetition_ratio":0.005,"word_repetition_ratio":0.0,"special_characters_ratio":0.251,"stopwords_ratio":0.051,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":228825.0,"cluster_detection":1}
+{"text":"Cuvat l'è 'n cümü fransés de la regiù Rhône-Alpes, endèla Frància sud-orientàla. El fa part del cantù de Annecy-le-Vieux, del circondàre (arrondissement) de Annecy e del dipartimènt de l'Alta Savoia. El g'ha 'na popolasiù de 1 018 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 4,72 km² e 'l và de 'na altèsa mìnima de 540 méter a 'na altèsa màsima de 902 méter s.l.m.","num_words":98,"character_repetition_ratio":0.035,"word_repetition_ratio":0.0,"special_characters_ratio":0.29,"stopwords_ratio":0.102,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":104639.8,"cluster_detection":1}
+{"text":"Li Tur (nòm uficiàl en Italià: Torre de' Picenardi) l'è 'n cümü italià, de la regiù de la Lombardìa, en Pruvìncia de Cremùna. El g'ha presapóch 1.839 abitàncc e 'l g'ha 'na superfìce de 17 km², per 'na densità de 108 ab.\/km². El cunfìna coi cümü de Li Cà, Capela, Drissuna, Isola, La Pessina, Vultèd.","num_words":72,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.3,"stopwords_ratio":0.083,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":100097.3,"cluster_detection":1}
+{"text":"San Bastian (en italià: San Sebastiano Curone) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Alessandria. El g'ha presapóch 543 abitàncc, 'na superfìce de 3,95 km² e 'na densità de 181 ab.\/km². El cunfìna coi cümü de Bërgnàu e Frascà, Dernis, Gremiasch, Muntèigu.","num_words":70,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.277,"stopwords_ratio":0.071,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":91576.7,"cluster_detection":1}
+{"text":"Obernbreit l'è 'n cümü todèsch del stat federàl (Bundesland) de la Baviera, distrèt (Regierungsbezirk) de la Bàsa Francònia. El pórta 'l tìtol de Mercàt (Marktgemeinde) che völ dì che 'l reprezènta 'n cèntro de importànsa piö grànda de 'n cümü normàl. El fà part del circondare rüràl (Landkreis) de Kitzingen. La süperfìce del teretóre aministràt del cümü l'è de 9.82 km² e 'ndel Desember 2016 el gh'ìa 'na popolasiù de 1 705 abitàncc.","num_words":99,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.248,"stopwords_ratio":0.051,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":209567.1,"cluster_detection":1}
+{"text":"La Mòta (nòm uficiàl en Italià: Motta Baluffi) l'è 'n cümü italià, de la regiù de la Lombardìa, en Pruvìncia de Cremùna. El g'ha presapóch 968 abitàncc e 'l g'ha 'na superfìce de 16 km², per 'na densità de 61 ab.\/km². El cunfìna coi cümü de Cela, Singia, Roccabianca (PR), San Daniel, Scandulèra, Turesela.","num_words":76,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.284,"stopwords_ratio":0.092,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":111857.7,"cluster_detection":1}
+{"text":"Essenbach l'è 'n cümü todèsch del stat federàl (Bundesland) de la Baviera, distrèt (Regierungsbezirk) de la Basa Baviera. El pórta 'l tìtol de Mercàt (Marktgemeinde) che völ dì che 'l reprezènta 'n cèntro de importànsa piö grànda de 'n cümü normàl. El fà part del circondare rüràl (Landkreis) de Landshut. La süperfìce del teretóre aministràt del cümü l'è de 83.57 km² e 'ndel Desember 2016 el gh'ìa 'na popolasiù de 11 899 abitàncc.","num_words":97,"character_repetition_ratio":0.005,"word_repetition_ratio":0.0,"special_characters_ratio":0.254,"stopwords_ratio":0.052,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":226103.8,"cluster_detection":1}
+{"text":"Lagosanto (endèla parlàda locàl: Lagh) l'è 'n cümü italià, de la regiù de l'Emìlia Romàgna, en Pruvìncia de Ferràra. El g'ha presapóch 4.398 abitàncc e 'l g'ha 'na superfìce de 34 km², per 'na densità de 129 ab.\/km². El cunfìna coi cümü de Codigoro, Comacchio, Massa Fiscaglia, Ostellato.","num_words":66,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.281,"stopwords_ratio":0.091,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":108160.8,"cluster_detection":1}
+{"text":"Vialfrè (en piemontés: Vialfrèj) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Türì. El g'ha presapóch 229 abitàncc, 'na superfìce de 4 km² e 'na densità de 57 ab.\/km². El cunfìna coi cümü de San Martino Canavese, Scarmagno, Agliè, Cuceglio.","num_words":62,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.273,"stopwords_ratio":0.081,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":93925.3,"cluster_detection":1}
+{"text":"Monteu da Po (en piemontés: Montèu) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Türì. El g'ha presapóch 828 abitàncc, 'na superfìce de 7 km² e 'na densità de 118 ab.\/km². El cunfìna coi cümü de Verolengo, Brusasco, Lauriano, Cavagnolo.","num_words":61,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.282,"stopwords_ratio":0.066,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":99345.8,"cluster_detection":1}
+{"text":"Abtswind l'è 'n cümü todèsch del stat federàl (Bundesland) de la Baviera, distrèt (Regierungsbezirk) de la Bàsa Francònia. El pórta 'l tìtol de Mercàt (Marktgemeinde) che völ dì che 'l reprezènta 'n cèntro de importànsa piö grànda de 'n cümü normàl. El fà part del circondare rüràl (Landkreis) de Kitzingen. La süperfìce del teretóre aministràt del cümü l'è de 12.81 km² e 'ndel Desember 2016 el gh'ìa 'na popolasiù de 847 abitàncc.","num_words":97,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.248,"stopwords_ratio":0.052,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":207277.7,"cluster_detection":1}
+{"text":"Còsta (isé pò en piemontés; Costa Vescovato 'n italià) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Alessandria. El g'ha presapóch 347 abitàncc, 'na superfìce de 7,74 km² e 'na densità de 44 ab.\/km². El cunfìna coi cümü de Vurasca, Carzòu, Castlania, Sregh, Munzögh, Paderna, La Vilëta.","num_words":74,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.278,"stopwords_ratio":0.081,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":101311.8,"cluster_detection":1}

lmo_Latn/new_cc_000003_remove.jsonl

@@ -0,0 +1,17 @@
+{"text":"El Distret de Liestal l'è giü dei sich distrècc (en todèsch: Bezirke) del Canton Basilea Campagna, en Svìsera. El capolöch aministratìf del distrèt l'è la citadìna de Liestal che l'è apò a la capitàal del cantù. Endèl més de Marz 2011 la popolasiù totàl del distrèt l'ìa 57 371 abitàncc, en magiuranza de lengua todèsca.","num_words":68,"character_repetition_ratio":0.058,"word_repetition_ratio":0.0,"special_characters_ratio":0.234,"stopwords_ratio":0.074,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":199589.4,"cluster_detection":-1}
+{"text":"Revò (Rvòu 'n ladì nònes) l'è stat 'n cümü italià, de la regiù del Trentino\/Alto Adige, en Pruvincia de Trent. El g'ha presapóch 1.203 abitàncc, 'na süperfìce de 13 km², per 'na densità de 93 ab.\/km². Del 2020 l'è part del cümü de Novella.","num_words":59,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.322,"stopwords_ratio":0.085,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":88535.5,"cluster_detection":-1}
+{"text":"El danés (nòm natìf: dansk; IPA: [d̥ænsɡ̊]) l'è giöna de le lèngue germàniche setentriunài (ciamàde apò lèngue scandìnave), en sóta-'nsèma del ram Germànic de le lèngue Indo-Europèe.\nL'è parlàt de piö o méno 6 miliù de persùne, suratöt en Danimarca, ma l'è dopràt apò a de 50,000 danés endèl Schleswig-Holstein (nòrt de la Germania) endóche l'è cunsideràda lèngua minuritària.\nEl danés el g'ha stato uficiàl e l'è 'nsegnàt endèle scöle apò 'n Groenlàndia, e 'ndèle ìzole Far Oer.\n'N Islànda e 'ndèle ìzole Far Oer el danés l'è 'nsegnàt come lèngua straniéra ubligatòria. Gh'è dèle cumünità che pàrla la lèngua danés apò 'n Argentina, 'ndèi Stati Ünìcc e 'n Cànada.","num_words":162,"character_repetition_ratio":0.073,"word_repetition_ratio":0.0,"special_characters_ratio":0.238,"stopwords_ratio":0.068,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":72320.3,"cluster_detection":-1}
+{"text":"Vinzier l'è 'n cümü fransés de la regiù Rhône-Alpes, endèla Frància sud-orientàla. El fa part del cantù de Évian-les-Bains, del circondàre (arrondissement) de Thonon-les-Bains e del dipartimènt de l'Alta Savoia. El g'ha 'na popolasiù de 727 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 7 km² e 'l và de 'na altèsa mìnima de 536 méter a 'na altèsa màsima de 920 méter s.l.m.","num_words":100,"character_repetition_ratio":0.04,"word_repetition_ratio":0.0,"special_characters_ratio":0.277,"stopwords_ratio":0.1,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":77222.9,"cluster_detection":-1}
+{"text":"Castelanìa (en tortonés e 'n piemontés: Castlanìa; en italià: Castellania) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Alessandria. El g'ha presapóch 95 abitàncc, 'na superfìce de 7,69 km² e 'na densità de 12 ab.\/km². El cunfìna coi cümü de Vurasca, Carzòu, Còsta, Garbagna, Sant'Agta, Sardigliano.","num_words":74,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.267,"stopwords_ratio":0.054,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":62639.9,"cluster_detection":-1}
+{"text":"Fontaine-de-Vaucluse l'è 'n cümü fransés de la regiù Provence-Alpes-Côte d'Azur, endèla Frància meridiunàla. El fa part del cantù de Isle-sur-la-Sorgue, del circondàre (arrondissement) de Avignon e del dipartimènt de la Vaucluse. El g'ha 'na popolasiù de 661 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 7,14 km² e 'l và de 'na altèsa mìnima de 68 méter a 'na altèsa màsima de 652 méter s.l.m.","num_words":103,"character_repetition_ratio":0.028,"word_repetition_ratio":0.0,"special_characters_ratio":0.274,"stopwords_ratio":0.117,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":58317.3,"cluster_detection":-1}
+{"text":"Valle-d'Alesani l'è 'n cümü de la Còrsica, endèl teretóre nasiunàl de la Frància. El fa part del cantù de Orezza-Alesani, del circondàre (arrondissement) de Corte e del dipartimènt de la Còrsica Alta. El g'ha 'na popolasiù de 133 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 9,59 e 'l và de 'na altèsa mìnima de 271 méter a 'na altèsa 1056 méter s.l.m.","num_words":92,"character_repetition_ratio":0.058,"word_repetition_ratio":0.0,"special_characters_ratio":0.287,"stopwords_ratio":0.109,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":130292.3,"cluster_detection":-1}
+{"text":"Chens-sur-Léman l'è 'n cümü fransés de la regiù Rhône-Alpes, endèla Frància sud-orientàla. El fa part del cantù de Douvaine, del circondàre (arrondissement) de Thonon-les-Bains e del dipartimènt de l'Alta Savoia. El g'ha 'na popolasiù de 1 971 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 12,56 km² e 'l và de 'na altèsa mìnima de 1 méter a 'na altèsa màsima de 1 méter s.l.m.","num_words":101,"character_repetition_ratio":0.059,"word_repetition_ratio":0.0,"special_characters_ratio":0.28,"stopwords_ratio":0.099,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":76087.9,"cluster_detection":-1}
+{"text":"Cardeto l'è 'n cümü italià, de la regiù de la Calabria, en Pruvìncia de Reggio Calabria. El g'ha presapóch 2.324 abitàncc, 'na superfìce de 36 km² e 'na densità de 65 ab.\/km². El cunfìna coi cümü de Bagaladi, Reggio di Calabria, Roccaforte del Greco.","num_words":59,"character_repetition_ratio":0.017,"word_repetition_ratio":0.0,"special_characters_ratio":0.276,"stopwords_ratio":0.085,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":125044.4,"cluster_detection":-1}
+{"text":"Casalòlt (nòm uficiàl en Italià: Casaloldo) l'è 'n cümü italià, de la regiù de la Lombardìa, en Pruvìncia de Màntoa. El g'ha presapóch 2.172 abitàncc e 'l g'ha 'na superfìce de 16 km², per 'na densità de 136 ab.\/km². El cunfìna coi cümü de Àsula, Castèl, Sarezére e Piübega.","num_words":69,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.292,"stopwords_ratio":0.116,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":127875.3,"cluster_detection":-1}
+{"text":"Seynod' l'è 'n cümü fransés de la regiù Rhône-Alpes, endèla Frància sud-orientàla. El fa part del cantù de Seynod, del circondàre (arrondissement) de Annecy e del dipartimènt de l'Alta Savoia. El g'ha 'na popolasiù de 18 646 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 19,17 km² e 'l và de 'na altèsa mìnima de 446 méter a 'na altèsa màsima de 1024 méter s.l.m.","num_words":95,"character_repetition_ratio":0.031,"word_repetition_ratio":0.0,"special_characters_ratio":0.297,"stopwords_ratio":0.105,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":132395.2,"cluster_detection":-1}
+{"text":"Castelviscunt (nòm uficiàl en Italià: Castelvisconti) l'è 'n cümü italià, de la regiù de la Lombardìa, en Pruvìncia de Cremùna. El g'ha presapóch 350 abitàncc e 'l g'ha 'na superfìce de 9 km², per 'na densità de 39 ab.\/km². El cunfìna coi cümü de Sanèl, Burdulan, Bórch San Giàcom (BS), Casalbütan, Casalmuran, Quinsà (BS).","num_words":84,"character_repetition_ratio":0.006,"word_repetition_ratio":0.0,"special_characters_ratio":0.272,"stopwords_ratio":0.071,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":78703.9,"cluster_detection":-1}
+{"text":"Röhrnbach l'è 'n cümü todèsch del stat federàl (Bundesland) de la Baviera, distrèt (Regierungsbezirk) de la Basa Baviera. El pórta 'l tìtol de Mercàt (Marktgemeinde) che völ dì che 'l reprezènta 'n cèntro de importànsa piö grànda de 'n cümü normàl. El fà part del circondare rüràl (Landkreis) de Freyung-Grafenau. La süperfìce del teretóre aministràt del cümü l'è de 40.66 km² e 'ndel Desember 2016 el gh'ìa 'na popolasiù de 4 349 abitàncc.","num_words":101,"character_repetition_ratio":0.005,"word_repetition_ratio":0.0,"special_characters_ratio":0.25,"stopwords_ratio":0.05,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":193336.9,"cluster_detection":-1}
+{"text":"La cità de Santa Ana a l'è una cità sitüada al südest de Los Angeles, e l'è la capital de la Cuntea de Orange.","num_words":29,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.245,"stopwords_ratio":0.103,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":236215.7,"cluster_detection":-1}
+{"text":"Giardini-Naxos l'è 'n cümü italià, de la regiù de la Sicilia, en Pruvìncia de Messina. El g'ha presapóch 8.715 abitàncc, 'na superfìce de 5 km² e 'na densità de 1743 ab.\/km². El cunfìna coi cümü de Calatabiano (CT), Taormina.","num_words":55,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.298,"stopwords_ratio":0.091,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":72127.5,"cluster_detection":-1}
+{"text":"Tarrano l'è 'n cümü de la Còrsica, endèl teretóre nasiunàl de la Frància. El fa part del cantù de Orezza-Alesani, del circondàre (arrondissement) de Corte e del dipartimènt de la Còrsica Alta. El g'ha 'na popolasiù de 14 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 3,83 e 'l và de 'na altèsa mìnima de 466 méter a 'na altèsa 1050 méter s.l.m.","num_words":90,"character_repetition_ratio":0.059,"word_repetition_ratio":0.0,"special_characters_ratio":0.286,"stopwords_ratio":0.111,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":172164.3,"cluster_detection":-1}
+{"text":"Ciconio (en piemontés: Sicheugn) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Türì. El g'ha presapóch 345 abitàncc, 'na superfìce de 3 km² e 'na densità de 115 ab.\/km². El cunfìna coi cümü de San Giorgio Canavese, Ozegna, Rivarolo Canavese, Lusigliè.","num_words":64,"character_repetition_ratio":0.023,"word_repetition_ratio":0.0,"special_characters_ratio":0.271,"stopwords_ratio":0.062,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":99191.5,"cluster_detection":-1}

lmo_Latn/new_cc_000003_stas.jsonl

@@ -0,0 +1,115 @@
+[
+    {
+        "avg": {
+            "num_words": 82.24285714285715,
+            "character_repetition_ratio": 0.010014285714285713,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.2752571428571428,
+            "stopwords_ratio": 0.07578571428571429,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 129088.49142857146
+        }
+    },
+    {
+        "std": {
+            "num_words": 19.111279925953763,
+            "character_repetition_ratio": 0.01806535188629079,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.018180590682126373,
+            "stopwords_ratio": 0.01957395708379804,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.0,
+            "perplexity_score": 51923.92926402388
+        }
+    },
+    {
+        "median": {
+            "num_words": 78.5,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.28,
+            "stopwords_ratio": 0.074,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 104662.75
+        }
+    },
+    {
+        "max": {
+            "num_words": 162.0,
+            "character_repetition_ratio": 0.073,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.322,
+            "stopwords_ratio": 0.117,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 236215.7
+        }
+    },
+    {
+        "min": {
+            "num_words": 29.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.234,
+            "stopwords_ratio": 0.05,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 58317.3
+        }
+    },
+    {
+        "90%": {
+            "num_words": 101.0,
+            "character_repetition_ratio": 0.031400000000000004,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.2943,
+            "stopwords_ratio": 0.1031,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 212743.78
+        }
+    },
+    {
+        "75%": {
+            "num_words": 98.0,
+            "character_repetition_ratio": 0.00675,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.286,
+            "stopwords_ratio": 0.091,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 163323.775
+        }
+    },
+    {
+        "50%": {
+            "num_words": 78.5,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.28,
+            "stopwords_ratio": 0.074,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 104662.75
+        }
+    },
+    {
+        "25%": {
+            "num_words": 69.25,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.25725,
+            "stopwords_ratio": 0.05675,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 94600.3
+        }
+    },
+    {
+        "total size": "70",
+        "keep size": "53",
+        "remove size": "17"
+    }
+]

lmo_Latn/new_cc_000004_keep.jsonl

@@ -0,0 +1,66 @@
+{"text":"Beaumettes l'è 'n cümü fransés de la regiù Provence-Alpes-Côte d'Azur, endèla Frància meridiunàla. El fa part del cantù de Gordes, del circondàre (arrondissement) de Apt e del dipartimènt de la Vaucluse. El g'ha 'na popolasiù de 244 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 2,59 km² e 'l và de 'na altèsa mìnima de 119 méter a 'na altèsa màsima de 229 méter s.l.m.","num_words":97,"character_repetition_ratio":0.03,"word_repetition_ratio":0.0,"special_characters_ratio":0.281,"stopwords_ratio":0.103,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":137072.5,"cluster_detection":1}
+{"text":"Gambasca (en piemontés: Gambasca) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Cuneo. El g'ha presapóch 346 abitàncc, 'na superfìce de 5 km² e 'na densità de 69 ab.\/km². El cunfìna coi cümü de Brossasco, Martiniana Po, Revello, Rifreddo, Sanfront.","num_words":62,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.27,"stopwords_ratio":0.065,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":94687.5,"cluster_detection":1}
+{"text":"Treiso (en piemontés: Trèis) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Cuneo. El g'ha presapóch 762 abitàncc, 'na superfìce de 9 km² e 'na densità de 85 ab.\/km². El cunfìna coi cümü de Alba, Barbaresco, Neive, Neviglie, Trezzo Tinella.","num_words":62,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.28,"stopwords_ratio":0.081,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":85186.4,"cluster_detection":1}
+{"text":"Gruntart (nòm uficiàl en Italià: Grontardo) l'è 'n cümü italià, de la regiù de la Lombardìa, en Pruvìncia de Cremùna. El g'ha presapóch 1.301 abitàncc e 'l g'ha 'na superfìce de 12 km², per 'na densità de 108 ab.\/km². El cunfìna coi cümü de Curt de Frat, Gabianida, Gadesch, Persech, Pescaròl, Scandulèra Rìa d'Ói, Vescuàt.","num_words":79,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.282,"stopwords_ratio":0.076,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":75680.3,"cluster_detection":1}
+{"text":"Grognardo (en piemontés: Gognèd) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Alessandria. El g'ha presapóch 320 abitàncc, 'na superfìce de 9 km² e 'na densità de 36 ab.\/km². El cunfìna coi cümü de Acqui Terme, Cavatore, Morbello, Ponzone, Visone.","num_words":65,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.27,"stopwords_ratio":0.062,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":78403.5,"cluster_detection":1}
+{"text":"Druver (nòm uficiàl en Italià: Derovere) l'è 'n cümü italià, de la regiù de la Lombardìa, en Pruvìncia de Cremùna. El g'ha presapóch 350 abitàncc e 'l g'ha 'na superfìce de 9 km², per 'na densità de 39 ab.\/km². El cunfìna coi cümü de Li Cà, Capela, Cela, Singia, Pief San Giacum.","num_words":69,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.29,"stopwords_ratio":0.087,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":101433.2,"cluster_detection":1}
+{"text":"Mesola (endèla parlàda locàl: La Mésula) l'è 'n cümü italià, de la regiù de l'Emìlia Romàgna, en Pruvìncia de Ferràra. El g'ha presapóch 7.459 abitàncc e 'l g'ha 'na superfìce de 84 km², per 'na densità de 89 ab.\/km². El cunfìna coi cümü de Ariano nel Polesine (RO), Berra, Codigoro, Goro.","num_words":72,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.294,"stopwords_ratio":0.083,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":94286.7,"cluster_detection":1}
+{"text":"Montagny-les-Lanches l'è 'n cümü fransés de la regiù Rhône-Alpes, endèla Frància sud-orientàla. El fa part del cantù de Seynod, del circondàre (arrondissement) de Annecy e del dipartimènt de l'Alta Savoia. El g'ha 'na popolasiù de 622 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 4,38 km² e 'l và de 'na altèsa mìnima de 525 méter a 'na altèsa màsima de 729 méter s.l.m.","num_words":97,"character_repetition_ratio":0.03,"word_repetition_ratio":0.0,"special_characters_ratio":0.282,"stopwords_ratio":0.103,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":97755.4,"cluster_detection":1}
+{"text":"Faucigny l'è 'n cümü fransés de la regiù Rhône-Alpes, endèla Frància sud-orientàla. El fa part del cantù de Bonneville, del circondàre (arrondissement) de Bonneville e del dipartimènt de l'Alta Savoia. El g'ha 'na popolasiù de 502 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 4,91 km² e 'l và de 'na altèsa mìnima de 477 méter a 'na altèsa màsima de 1002 méter s.l.m.","num_words":96,"character_repetition_ratio":0.056,"word_repetition_ratio":0.0,"special_characters_ratio":0.281,"stopwords_ratio":0.104,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":130884.8,"cluster_detection":1}
+{"text":"Morières-lès-Avignon l'è 'n cümü fransés de la regiù Provence-Alpes-Côte d'Azur, endèla Frància meridiunàla. El fa part del cantù de Avignon-Est, del circondàre (arrondissement) de Avignon e del dipartimènt de la Vaucluse. El g'ha 'na popolasiù de 7 741 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 10,35 km² e 'l và de 'na altèsa mìnima de 25 méter a 'na altèsa màsima de 116 méter s.l.m.","num_words":101,"character_repetition_ratio":0.038,"word_repetition_ratio":0.0,"special_characters_ratio":0.279,"stopwords_ratio":0.099,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":93875.8,"cluster_detection":1}
+{"text":"Cabannes l'è 'n cümü fransés de la regiù Provence-Alpes-Côte d'Azur , endèla Frància meridiunàla. El fa part del cantù de Orgon, del circondàre (arrondissement) de Arles e del dipartimènt de le Bouches-du-Rhône . El g'ha 'na popolasiù de 4 341 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 20,91 km² e 'l và de 'na altèsa mìnima de 42 méter a 'na altèsa màsima de 65 méter s.l.m.","num_words":102,"character_repetition_ratio":0.029,"word_repetition_ratio":0.0,"special_characters_ratio":0.286,"stopwords_ratio":0.098,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":131897.5,"cluster_detection":1}
+{"text":"Arborea l'è 'n cümü italià, de la regiù de la Sardegna, en Pruvìncia de Oristano. El g'ha presapóch 3.927 abitàncc, 'na superfìce de 115 km² e 'na densità de 34 ab.\/km². El cunfìna coi cümü de Marrubiu, Santa Giusta, Terralba.","num_words":54,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.292,"stopwords_ratio":0.074,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":126197.5,"cluster_detection":1}
+{"text":"Mömbris l'è 'n cümü todèsch del stat federàl (Bundesland) de la Baviera, distrèt (Regierungsbezirk) de la Bàsa Francònia. El pórta 'l tìtol de Mercàt (Marktgemeinde) che völ dì che 'l reprezènta 'n cèntro de importànsa piö grànda de 'n cümü normàl. El fà part del circondare rüràl (Landkreis) de Anschaffenburg. La süperfìce del teretóre aministràt del cümü l'è de 35.92 km² e 'ndel Desember 2016 el gh'ìa 'na popolasiù de 11 525 abitàncc.","num_words":99,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.251,"stopwords_ratio":0.051,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":211827.0,"cluster_detection":1}
+{"text":"Casalmuran (nòm uficiàl en Italià: Casalmorano) l'è 'n cümü italià, de la regiù de la Lombardìa, en Pruvìncia de Cremùna. El g'ha presapóch 1.653 abitàncc e 'l g'ha 'na superfìce de 12 km², per 'na densità de 138 ab.\/km². El cunfìna coi cümü de Nich, Sanèl, Casalbütan, Castelviscunt, Geniòlta, Paderno, Suresina.","num_words":78,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.275,"stopwords_ratio":0.09,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":67332.9,"cluster_detection":1}
+{"text":"Schliersee l'è 'n cümü todèsch del stat federàl (Bundesland) de la Baviera, distrèt (Regierungsbezirk) de l'Alta Baviera. El pórta 'l tìtol de Mercàt (Marktgemeinde) che völ dì che 'l reprezènta 'n cèntro de importànsa piö grànda de 'n cümü normàl. El fà part del circondare rüràl (Landkreis) de Miesbach. La süperfìce del teretóre aministràt del cümü l'è de 79.16 km² e 'ndel Desember 2016 el gh'ìa 'na popolasiù de 6 890 abitàncc.","num_words":99,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.252,"stopwords_ratio":0.051,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":205741.3,"cluster_detection":1}
+{"text":"Murs l'è 'n cümü fransés de la regiù Provence-Alpes-Côte d'Azur , endèla Frància meridiunàla. El fa part del cantù de Gordes , del circondàre (arrondissement) de Apt e del dipartimènt de la Vaucluse. El g'ha 'na popolasiù de 416 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 31,26 km² e 'l và de 'na altèsa mìnima de 248 méter a 'na altèsa màsima de 803 méter s.l.m.","num_words":98,"character_repetition_ratio":0.03,"word_repetition_ratio":0.0,"special_characters_ratio":0.29,"stopwords_ratio":0.102,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":166546.2,"cluster_detection":1}
+{"text":"Kinding l'è 'n cümü todèsch del stat federàl (Bundesland) de la Baviera, distrèt (Regierungsbezirk) de l'Alta Baviera. El pórta 'l tìtol de Mercàt (Marktgemeinde) che völ dì che 'l reprezènta 'n cèntro de importànsa piö grànda de 'n cümü normàl. El fà part del circondare rüràl (Landkreis) de Eichstätt. La süperfìce del teretóre aministràt del cümü l'è de 51.72 km² e 'ndel Desember 2016 el gh'ìa 'na popolasiù de 2 584 abitàncc.","num_words":99,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.253,"stopwords_ratio":0.051,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":197541.2,"cluster_detection":1}
+{"text":"Konnersreuth l'è 'n cümü todèsch del stat federàl (Bundesland) de la Baviera, distrèt (Regierungsbezirk) de l'Alt Palatinato. El pórta 'l tìtol de Mercàt (Marktgemeinde) che völ dì che 'l reprezènta 'n cèntro de importànsa piö grànda de 'n cümü normàl. El fà part del circondare rüràl (Landkreis) de Tirschenreuth. La süperfìce del teretóre aministràt del cümü l'è de 23.32 km² e 'ndel Desember 2016 el gh'ìa 'na popolasiù de 1 784 abitàncc.","num_words":100,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.247,"stopwords_ratio":0.05,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":188648.3,"cluster_detection":1}
+{"text":"Thiersheim l'è 'n cümü todèsch del stat federàl (Bundesland) de la Baviera, distrèt (Regierungsbezirk) de l'Àlta Francònia. El pórta 'l tìtol de Mercàt (Marktgemeinde) che völ dì che 'l reprezènta 'n cèntro de importànsa piö grànda de 'n cümü normàl. El fà part del circondare rüràl (Landkreis) de Wunsiedel. La süperfìce del teretóre aministràt del cümü l'è de 23.69 km² e 'ndel Desember 2016 el gh'ìa 'na popolasiù de 1 811 abitàncc.","num_words":100,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.251,"stopwords_ratio":0.05,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":193764.1,"cluster_detection":1}
+{"text":"Prazzo (en piemontés: Prass) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Cuneo. El g'ha presapóch 218 abitàncc, 'na superfìce de 51 km² e 'na densità de 4 ab.\/km². El cunfìna coi cümü de Acceglio, Bellino, Canosio, Elva, Marmora, Stroppo.","num_words":62,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.282,"stopwords_ratio":0.065,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":83876.5,"cluster_detection":1}
+{"text":"Gnotzheim l'è 'n cümü todèsch del stat federàl (Bundesland) de la Baviera, distrèt (Regierungsbezirk) de la Média Francònia. El pórta 'l tìtol de Mercàt (Marktgemeinde) che völ dì che 'l reprezènta 'n cèntro de importànsa piö grànda de 'n cümü normàl. El fà part del circondare rüràl (Landkreis) de Weißenburg-Gunzenhausen. La süperfìce del teretóre aministràt del cümü l'è de 12.48 km² e 'ndel Desember 2016 el gh'ìa 'na popolasiù de 804 abitàncc.","num_words":101,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.241,"stopwords_ratio":0.05,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":190700.8,"cluster_detection":1}
+{"text":"Charvonnex l'è 'n cümü fransés de la regiù Rhône-Alpes, endèla Frància sud-orientàla. El fa part del cantù de Annecy-le-Vieux, del circondàre (arrondissement) de Annecy e del dipartimènt de l'Alta Savoia. El g'ha 'na popolasiù de 1 175 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 4,71 km² e 'l và de 'na altèsa mìnima de 500 méter a 'na altèsa màsima de 741 méter s.l.m.","num_words":100,"character_repetition_ratio":0.035,"word_repetition_ratio":0.0,"special_characters_ratio":0.286,"stopwords_ratio":0.1,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":99962.4,"cluster_detection":1}
+{"text":"Cartignano (en piemontés: Cartignan) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Cuneo. El g'ha presapóch 170 abitàncc, 'na superfìce de 6 km² e 'na densità de 28 ab.\/km². El cunfìna coi cümü de Dronero, Melle, Roccabruna, San Damiano Macra.","num_words":60,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.271,"stopwords_ratio":0.067,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":104079.9,"cluster_detection":1}
+{"text":"Briga Marìtima (en fransés: La Brigue) l'è 'n cümü fransés de la regiù Provence-Alpes-Côte d'Azur, endèla Frància meridiunàla. El fa part del cantù de Tende, del circondàre (arrondissement) de Nìsa e del dipartimènt de le Alpi Marìtime. El g'ha 'na popolasiù de 734 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 91,77 km² e 'l và de 'na altèsa mìnima de 559 méter a 'na altèsa màsima de 2650 méter s.l.m.","num_words":107,"character_repetition_ratio":0.028,"word_repetition_ratio":0.0,"special_characters_ratio":0.283,"stopwords_ratio":0.093,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":128131.1,"cluster_detection":1}
+{"text":"Ubraye l'è 'n cümü fransés de la regiù Provence-Alpes-Côte d'Azur, endèla Frància meridiunàla. El fa part del cantù de Annot, del circondàre (arrondissement) de Castellane e del dipartimènt de le Alpi de Alta Provènsa. El g'ha 'na popolasiù de 101 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 35,65 km² e 'l và de 'na altèsa mìnima de 720 méter a 'na altèsa màsima de 1938 méter s.l.m.","num_words":101,"character_repetition_ratio":0.029,"word_repetition_ratio":0.0,"special_characters_ratio":0.281,"stopwords_ratio":0.099,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":140031.7,"cluster_detection":1}
+{"text":"Belvedere Langhe (en piemontés: Bërvèj) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Cuneo. El g'ha presapóch 372 abitàncc, 'na superfìce de 4 km² e 'na densità de 93 ab.\/km². El cunfìna coi cümü de Bonvicino, Clavesana, Dogliani, Farigliano, Murazzano.","num_words":65,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.264,"stopwords_ratio":0.062,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":82300.3,"cluster_detection":1}
+{"text":"Arâches-la-Frasse l'è 'n cümü fransés de la regiù Rhône-Alpes, endèla Frància sud-orientàla. El fa part del cantù de Cluses, del circondàre (arrondissement) de Bonneville e del dipartimènt de l'Alta Savoia. El g'ha 'na popolasiù de 1 823 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 37,69 km² e 'l và de 'na altèsa mìnima de 560 méter a 'na altèsa màsima de 2466 méter s.l.m.","num_words":99,"character_repetition_ratio":0.03,"word_repetition_ratio":0.0,"special_characters_ratio":0.288,"stopwords_ratio":0.111,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":84583.9,"cluster_detection":1}
+{"text":"Copparo (endèla parlàda locàl: Cupàr) l'è 'n cümü italià, de la regiù de l'Emìlia Romàgna, en Pruvìncia de Ferràra. El g'ha presapóch 18.030 abitàncc e 'l g'ha 'na superfìce de 157 km², per 'na densità de 115 ab.\/km². El cunfìna coi cümü de Berra, Ferrara, Formignana, Jolanda di Savoia, Ro.","num_words":70,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.296,"stopwords_ratio":0.086,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":101602.5,"cluster_detection":1}
+{"text":"Leschaux l'è 'n cümü fransés de la regiù Rhône-Alpes, endèla Frància sud-orientàla. El fa part del cantù de Seynod, del circondàre (arrondissement) de Annecy e del dipartimènt de l'Alta Savoia. El g'ha 'na popolasiù de 269 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 12,52 km² e 'l và de 'na altèsa mìnima de 756 méter a 'na altèsa màsima de 1666 méter s.l.m.","num_words":95,"character_repetition_ratio":0.031,"word_repetition_ratio":0.0,"special_characters_ratio":0.289,"stopwords_ratio":0.105,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":135174.4,"cluster_detection":1}
+{"text":"Magland' l'è 'n cümü fransés de la regiù Rhône-Alpes, endèla Frància sud-orientàla. El fa part del cantù de Cluses, del circondàre (arrondissement) de Bonneville e del dipartimènt de l'Alta Savoia. El g'ha 'na popolasiù de 3 174 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 40,32 km² e 'l và de 'na altèsa mìnima de 483 méter a 'na altèsa màsima de 2649 méter s.l.m.","num_words":95,"character_repetition_ratio":0.03,"word_repetition_ratio":0.0,"special_characters_ratio":0.292,"stopwords_ratio":0.105,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":129215.9,"cluster_detection":1}
+{"text":"Torre San Giorgio (en piemontés: La Tor ëd San Giòrs) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Cuneo. El g'ha presapóch 672 abitàncc, 'na superfìce de 5,38 km² e 'na densità de 124,9 ab.\/km². El cunfìna coi cümü de Moretta, Saluzzo, Scarnafigi, Villanova Solaro.","num_words":68,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.287,"stopwords_ratio":0.059,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":117791.6,"cluster_detection":1}
+{"text":"San Vito Lo Capo l'è 'n cümü italià, de la regiù de la Sicilia, en Pruvìncia de Trapani. El g'ha presapóch 3.914 abitàncc, 'na superfìce de 59 km² e 'na densità de 66 ab.\/km². El cunfìna coi cümü de Castellammare del Golfo, Custonaci.","num_words":56,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.286,"stopwords_ratio":0.071,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":157357.4,"cluster_detection":1}
+{"text":"Val-des-Prés l'è 'n cümü fransés de la regiù Provence-Alpes-Côte d'Azur, endèla Frància meridiunàla. El fa part del cantù de Briançon-Nord, del circondàre (arrondissement) de Briançon e del dipartimènt Hautes-Alpes. El g'ha 'na popolasiù de 536 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 44,77 km² e 'l và de 'na altèsa mìnima de 1338 méter a 'na altèsa màsima de 2761 méter s.l.m.","num_words":102,"character_repetition_ratio":0.044,"word_repetition_ratio":0.0,"special_characters_ratio":0.283,"stopwords_ratio":0.108,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":81914.6,"cluster_detection":1}
+{"text":"Neviglie (en piemontés: Nevije) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Cuneo. El g'ha presapóch 419 abitàncc, 'na superfìce de 8 km² e 'na densità de 52 ab.\/km². El cunfìna coi cümü de Mango, Neive, Treiso, Trezzo Tinella.","num_words":62,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.283,"stopwords_ratio":0.081,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":83231.2,"cluster_detection":1}
+{"text":"Briançonnet l'è 'n cümü fransés de la regiù Provence-Alpes-Côte d'Azur, endèla Frància meridiunàla. El fa part del cantù de Canton de Saint-Auban, del circondàre (arrondissement) de Grasse e del dipartimènt de le Alpi Marìtime. El g'ha 'na popolasiù de 231 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 24,32 km² e 'l và de 'na altèsa mìnima de 740 méter a 'na altèsa màsima de 1600 méter s.l.m.","num_words":104,"character_repetition_ratio":0.028,"word_repetition_ratio":0.0,"special_characters_ratio":0.278,"stopwords_ratio":0.106,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":129450.5,"cluster_detection":1}
+{"text":"Bonavigo l'è 'n cümü italià, de la regiù del Vèneto, en Pruvìncia de Verùna. El g'ha presapóch 1.879 abitàncc e 'l g'ha 'na superfìce de 17,79 km², per 'na densità de 111 ab.\/km². El cunfìna coi cümü de Albaredo d'Adige, Angiari, Legnago, Minerbe, Roverchiara, Veronella.","num_words":66,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.295,"stopwords_ratio":0.091,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":88571.4,"cluster_detection":1}
+{"text":"Orsago (en vèneto: Orsago) l'è 'n cümü italià, de la regiù del Vèneto, en Pruvìncia de Treviso. El g'ha presapóch 3.597 abitàncc, 'na superfìce de 10 km² e 'na densità de 360 ab.\/km². El cunfìna coi cümü de Cordignano, Gaiarine, Godega di Sant'Urbano.","num_words":59,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.291,"stopwords_ratio":0.068,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":95936.7,"cluster_detection":1}
+{"text":"Mitwitz l'è 'n cümü todèsch del stat federàl (Bundesland) de la Baviera, distrèt (Regierungsbezirk) de l'Àlta Francònia. El pórta 'l tìtol de Mercàt (Marktgemeinde) che völ dì che 'l reprezènta 'n cèntro de importànsa piö grànda de 'n cümü normàl. El fà part del circondare rüràl (Landkreis) de Kronach. La süperfìce del teretóre aministràt del cümü l'è de 33.19 km² e 'ndel Desember 2016 el gh'ìa 'na popolasiù de 2 833 abitàncc.","num_words":98,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.253,"stopwords_ratio":0.051,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":205536.8,"cluster_detection":1}
+{"text":"Ayze l'è 'n cümü fransés de la regiù Rhône-Alpes, endèla Frància sud-orientàla. El fa part del cantù de Bonneville, del circondàre (arrondissement) de Bonneville e del dipartimènt de l'Alta Savoia. El g'ha 'na popolasiù de 2 019 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 10,48 km² e 'l và de 'na altèsa mìnima de 444 méter a 'na altèsa màsima de 1843 méter s.l.m.","num_words":96,"character_repetition_ratio":0.056,"word_repetition_ratio":0.0,"special_characters_ratio":0.29,"stopwords_ratio":0.104,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":135400.3,"cluster_detection":1}
+{"text":"Cheval-Blanc l'è 'n cümü fransés de la regiù Provence-Alpes-Côte d'Azur, endèla Frància meridiunàla. El fa part del cantù de Cavaillon, del circondàre (arrondissement) de Apt e del dipartimènt de la Vaucluse. El g'ha 'na popolasiù de 4 109 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 58,56 km² e 'l và de 'na altèsa mìnima de 76 méter a 'na altèsa màsima de 725 méter s.l.m.","num_words":99,"character_repetition_ratio":0.03,"word_repetition_ratio":0.0,"special_characters_ratio":0.283,"stopwords_ratio":0.101,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":121677.4,"cluster_detection":1}
+{"text":"Lugrin l'è 'n cümü fransés de la regiù Rhône-Alpes, endèla Frància sud-orientàla. El fa part del cantù de Évian-les-Bains, del circondàre (arrondissement) de Thonon-les-Bains e del dipartimènt de l'Alta Savoia. El g'ha 'na popolasiù de 2 303 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 13,22 km² e 'l và de 'na altèsa mìnima de 373 méter a 'na altèsa màsima de 1248 méter s.l.m.","num_words":100,"character_repetition_ratio":0.039,"word_repetition_ratio":0.0,"special_characters_ratio":0.29,"stopwords_ratio":0.1,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":77198.8,"cluster_detection":1}
+{"text":"Frassino (en piemontés: Frasso) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Cuneo. El g'ha presapóch 324 abitàncc, 'na superfìce de 16 km² e 'na densità de 20 ab.\/km². El cunfìna coi cümü de Brossasco, Melle, Sampeyre, San Damiano Macra.","num_words":63,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.28,"stopwords_ratio":0.063,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":105605.1,"cluster_detection":1}
+{"text":"Vidracco (en piemontés: Vidré) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Türì. El g'ha presapóch 522 abitàncc, 'na superfìce de 3 km² e 'na densità de 174 ab.\/km². El cunfìna coi cümü de Castellamonte, Issiglio, Vistrorio, Baldissero Canavese.","num_words":62,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.267,"stopwords_ratio":0.065,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":89106.8,"cluster_detection":1}
+{"text":"Schirnding l'è 'n cümü todèsch del stat federàl (Bundesland) de la Baviera, distrèt (Regierungsbezirk) de l'Àlta Francònia. El pórta 'l tìtol de Mercàt (Marktgemeinde) che völ dì che 'l reprezènta 'n cèntro de importànsa piö grànda de 'n cümü normàl. El fà part del circondare rüràl (Landkreis) de Wunsiedel. La süperfìce del teretóre aministràt del cümü l'è de 16.53 km² e 'ndel Desember 2016 el gh'ìa 'na popolasiù de 1 207 abitàncc.","num_words":101,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.251,"stopwords_ratio":0.05,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":175841.2,"cluster_detection":1}
+{"text":"Steinwiesen l'è 'n cümü todèsch del stat federàl (Bundesland) de la Baviera, distrèt (Regierungsbezirk) de l'Àlta Francònia. El pórta 'l tìtol de Mercàt (Marktgemeinde) che völ dì che 'l reprezènta 'n cèntro de importànsa piö grànda de 'n cümü normàl. El fà part del circondare rüràl (Landkreis) de Kronach. La süperfìce del teretóre aministràt del cümü l'è de 55.08 km² e 'ndel Desember 2016 el gh'ìa 'na popolasiù de 3 468 abitàncc.","num_words":99,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.251,"stopwords_ratio":0.051,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":208474.3,"cluster_detection":1}
+{"text":"Manta (en piemontés: La Manta) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Cuneo. El g'ha presapóch 3.354 abitàncc, 'na superfìce de 11 km² e 'na densità de 305 ab.\/km². El cunfìna coi cümü de Lagnasco, Pagno, Saluzzo, Verzuolo.","num_words":59,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.298,"stopwords_ratio":0.068,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":99269.4,"cluster_detection":1}
+{"text":"Settimo Rottaro (en piemontés: Ël Seto Rojé) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Türì. El g'ha presapóch 514 abitàncc, 'na superfìce de 6 km² e 'na densità de 86 ab.\/km². El cunfìna coi cümü de Azeglio, Caravino, Borgo d'Ale (VC), Cossano Canavese.","num_words":71,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.282,"stopwords_ratio":0.056,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":90010.8,"cluster_detection":1}
+{"text":"Machilly l'è 'n cümü fransés de la regiù Rhône-Alpes, endèla Frància sud-orientàla. El fa part del cantù de Annemasse-Nord, del circondàre (arrondissement) de Thonon-les-Bains e del dipartimènt de l'Alta Savoia. El g'ha 'na popolasiù de 966 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 5,76 km² e 'l và de 'na altèsa mìnima de 459 méter a 'na altèsa màsima de 1129 méter s.l.m.","num_words":98,"character_repetition_ratio":0.03,"word_repetition_ratio":0.0,"special_characters_ratio":0.282,"stopwords_ratio":0.102,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":93470.7,"cluster_detection":1}
+{"text":"Marktrodach l'è 'n cümü todèsch del stat federàl (Bundesland) de la Baviera, distrèt (Regierungsbezirk) de l'Àlta Francònia. El pórta 'l tìtol de Mercàt (Marktgemeinde) che völ dì che 'l reprezènta 'n cèntro de importànsa piö grànda de 'n cümü normàl. El fà part del circondare rüràl (Landkreis) de Kronach. La süperfìce del teretóre aministràt del cümü l'è de 33.22 km² e 'ndel Desember 2016 el gh'ìa 'na popolasiù de 3 722 abitàncc.","num_words":100,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.251,"stopwords_ratio":0.05,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":192725.0,"cluster_detection":1}
+{"text":"Kösching l'è 'n cümü todèsch del stat federàl (Bundesland) de la Baviera, distrèt (Regierungsbezirk) de l'Alta Baviera. El pórta 'l tìtol de Mercàt (Marktgemeinde) che völ dì che 'l reprezènta 'n cèntro de importànsa piö grànda de 'n cümü normàl. El fà part del circondare rüràl (Landkreis) de Eichstätt. La süperfìce del teretóre aministràt del cümü l'è de 55.60 km² e 'ndel Desember 2016 el gh'ìa 'na popolasiù de 9 523 abitàncc.","num_words":99,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.253,"stopwords_ratio":0.051,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":190381.5,"cluster_detection":1}
+{"text":"Marene (en piemontés: Maren-e) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Cuneo. El g'ha presapóch 2.702 abitàncc, 'na superfìce de 28 km² e 'na densità de 97 ab.\/km². El cunfìna coi cümü de Cavallermaggiore, Cervere, Cherasco, Savigliano.","num_words":58,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.28,"stopwords_ratio":0.086,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":73488.3,"cluster_detection":1}
+{"text":"Lornay l'è 'n cümü fransés de la regiù Rhône-Alpes, endèla Frància sud-orientàla. El fa part del cantù de Rumilly, del circondàre (arrondissement) de Annecy e del dipartimènt de l'Alta Savoia. El g'ha 'na popolasiù de 514 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 9,65 km² e 'l và de 'na altèsa mìnima de 295 méter a 'na altèsa màsima de 1025 méter s.l.m.","num_words":94,"character_repetition_ratio":0.031,"word_repetition_ratio":0.0,"special_characters_ratio":0.288,"stopwords_ratio":0.106,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":141568.4,"cluster_detection":1}
+{"text":"Capela Cantòn (nòm uficiàl en Italià: Cappella Cantone) l'è 'n cümü italià, de la regiù de la Lombardìa, en Pruvìncia de Cremùna. El g'ha presapóch 534 abitàncc e 'l g'ha 'na superfìce de 13 km², per 'na densità de 41 ab.\/km². El cunfìna coi cümü de Nich, Castleòn, Grümel, Pisighitòn, San Basàn, Suresina.","num_words":76,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.275,"stopwords_ratio":0.092,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":99810.2,"cluster_detection":1}
+{"text":"Masi Torello (endèla parlàda locàl: I Mas) l'è 'n cümü italià, de la regiù de l'Emìlia Romàgna, en Pruvìncia de Ferràra. El g'ha presapóch 2.328 abitàncc e 'l g'ha 'na superfìce de 22 km², per 'na densità de 106 ab.\/km². El cunfìna coi cümü de Ferrara, Ostellato, Portomaggiore, Voghiera.","num_words":69,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.285,"stopwords_ratio":0.087,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":103497.4,"cluster_detection":1}
+{"text":"Cazàsch (en italià: Casasco) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Alessandria. El g'ha presapóch 149 abitàncc, 'na superfìce de 9,03 km² e 'na densità de 17 ab.\/km². El cunfìna coi cümü de Vurasca, Bërgnàu e Frascà, Garbagna, Mumpron, Munt Marsèi.","num_words":67,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.28,"stopwords_ratio":0.06,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":108731.4,"cluster_detection":1}
+{"text":"Saint-Sylvestre l'è 'n cümü fransés de la regiù Rhône-Alpes, endèla Frància sud-orientàla. El fa part del cantù de Alby-sur-Chéran, del circondàre (arrondissement) de Annecy e del dipartimènt de l'Alta Savoia. El g'ha 'na popolasiù de 599 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 5,34 km² e 'l và de 'na altèsa mìnima de 355 méter a 'na altèsa màsima de 688 méter s.l.m.","num_words":101,"character_repetition_ratio":0.03,"word_repetition_ratio":0.0,"special_characters_ratio":0.282,"stopwords_ratio":0.099,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":76212.6,"cluster_detection":1}
+{"text":"Nancy-sur-Cluses l'è 'n cümü fransés de la regiù Rhône-Alpes, endèla Frància sud-orientàla. El fa part del cantù de Scionzier, del circondàre (arrondissement) de Bonneville e del dipartimènt de l'Alta Savoia. El g'ha 'na popolasiù de 434 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 14,22 km² e 'l và de 'na altèsa mìnima de 680 méter a 'na altèsa màsima de 2183 méter s.l.m.","num_words":98,"character_repetition_ratio":0.03,"word_repetition_ratio":0.0,"special_characters_ratio":0.283,"stopwords_ratio":0.102,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":79781.2,"cluster_detection":1}
+{"text":"Puget l'è 'n cümü fransés de la regiù Provence-Alpes-Côte d'Azur, endèla Frància meridiunàla. El fa part del cantù de Cadenet, del circondàre (arrondissement) de Apt e del dipartimènt de la Vaucluse. El g'ha 'na popolasiù de 683 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 17,9 km² e 'l và de 'na altèsa mìnima de 123 méter a 'na altèsa màsima de 703 méter s.l.m.","num_words":96,"character_repetition_ratio":0.031,"word_repetition_ratio":0.0,"special_characters_ratio":0.284,"stopwords_ratio":0.104,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":141697.5,"cluster_detection":1}
+{"text":"Nangy l'è 'n cümü fransés de la regiù Rhône-Alpes, endèla Frància sud-orientàla. El fa part del cantù de Reignier-Ésery, del circondàre (arrondissement) de Saint-Julien-en-Genevois e del dipartimènt de l'Alta Savoia. El g'ha 'na popolasiù de 1 540 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 4,35 km² e 'l và de 'na altèsa mìnima de 415 méter a 'na altèsa màsima de 530 méter s.l.m.","num_words":103,"character_repetition_ratio":0.029,"word_repetition_ratio":0.0,"special_characters_ratio":0.283,"stopwords_ratio":0.097,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":85195.6,"cluster_detection":1}
+{"text":"Annot l'è 'n cümü fransés de la regiù Provence-Alpes-Côte d'Azur, endèla Frància meridiunàla. El fa part del cantù de Annot, del circondàre (arrondissement) de Castellane e del dipartimènt de le Alpi de Alta Provènsa. El g'ha 'na popolasiù de 1 070 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 29,8 km² e 'l và de 'na altèsa mìnima de 599 méter a 'na altèsa màsima de 1638 méter s.l.m.","num_words":101,"character_repetition_ratio":0.029,"word_repetition_ratio":0.0,"special_characters_ratio":0.284,"stopwords_ratio":0.099,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":151497.6,"cluster_detection":1}
+{"text":"Scandiano (endèla parlàda locàl: Scandiân) l'è 'n cümü italià, de la regiù de l'Emìlia Romàgna, en Pruvìncia de Reggio Emilia. El g'ha presapóch 22.843 abitàncc e 'l g'ha 'na superfìce de 49 km², per 'na densità de 466 ab.\/km². El cunfìna coi cümü de Albinea, Casalgrande, Castellarano, Reggio Emilia, Viano.","num_words":75,"character_repetition_ratio":0.033,"word_repetition_ratio":0.0,"special_characters_ratio":0.276,"stopwords_ratio":0.107,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":99455.8,"cluster_detection":1}
+{"text":"Vestignè (en piemontés: Vëssgné) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Türì. El g'ha presapóch 858 abitàncc, 'na superfìce de 12 km² e 'na densità de 72 ab.\/km². El cunfìna coi cümü de Ivrea, Albiano d'Ivrea, Strambino, Caravino, Borgomasino, Vische.","num_words":69,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.275,"stopwords_ratio":0.072,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":54358.6,"cluster_detection":1}
+{"text":"Braux l'è 'n cümü fransés de la regiù Provence-Alpes-Côte d'Azur, endèla Frància meridiunàla. El fa part del cantù de Annot, del circondàre (arrondissement) de Castellane e del dipartimènt de le Alpi de Alta Provènsa. El g'ha 'na popolasiù de 128 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 11,67 km² e 'l và de 'na altèsa mìnima de 639 méter a 'na altèsa màsima de 1600 méter s.l.m.","num_words":100,"character_repetition_ratio":0.029,"word_repetition_ratio":0.0,"special_characters_ratio":0.282,"stopwords_ratio":0.1,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":147245.6,"cluster_detection":1}
+{"text":"Martiniana Po (en piemontés: Martinian-a) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Cuneo. El g'ha presapóch 666 abitàncc, 'na superfìce de 13 km² e 'na densità de 51 ab.\/km². El cunfìna coi cümü de Brondello, Brossasco, Gambasca, Isasca, Revello.","num_words":64,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.274,"stopwords_ratio":0.078,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":64107.0,"cluster_detection":1}
+{"text":"Jonquerettes l'è 'n cümü fransés de la regiù Provence-Alpes-Côte d'Azur, endèla Frància meridiunàla. El fa part del cantù de Isle-sur-la-Sorgue, del circondàre (arrondissement) de Avignon e del dipartimènt de la Vaucluse. El g'ha 'na popolasiù de 1 354 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 2,57 km² e 'l và de 'na altèsa mìnima de 38 méter a 'na altèsa màsima de 119 méter s.l.m.","num_words":102,"character_repetition_ratio":0.029,"word_repetition_ratio":0.0,"special_characters_ratio":0.278,"stopwords_ratio":0.108,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":78800.5,"cluster_detection":1}
+{"text":"Neuvecelle l'è 'n cümü fransés de la regiù Rhône-Alpes, endèla Frància sud-orientàla. El fa part del cantù de Évian-les-Bains, del circondàre (arrondissement) de Thonon-les-Bains e del dipartimènt de l'Alta Savoia. El g'ha 'na popolasiù de 2 657 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 4 km² e 'l và de 'na altèsa mìnima de 372 méter a 'na altèsa màsima de 770 méter s.l.m.","num_words":101,"character_repetition_ratio":0.039,"word_repetition_ratio":0.0,"special_characters_ratio":0.279,"stopwords_ratio":0.099,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":76384.4,"cluster_detection":1}

lmo_Latn/new_cc_000004_remove.jsonl

@@ -0,0 +1,12 @@
+{"text":"Burghaslach l'è 'n cümü todèsch del stat federàl (Bundesland) de la Baviera, distrèt (Regierungsbezirk) de la Média Francònia. El pórta 'l tìtol de Mercàt (Marktgemeinde) che völ dì che 'l reprezènta 'n cèntro de importànsa piö grànda de 'n cümü normàl. El fà part del circondare rüràl (Landkreis) de Neustadt a.d.Aisch-Bad Windsheim. La süperfìce del teretóre aministràt del cümü l'è de 44.02 km² e 'ndel Desember 2016 el gh'ìa 'na popolasiù de 2 586 abitàncc.","num_words":108,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.247,"stopwords_ratio":0.056,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":139500.4,"cluster_detection":-1}
+{"text":"Cintano (en piemontés: Sintan) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Türì. El g'ha presapóch 244 abitàncc, 'na superfìce de 4 km² e 'na densità de 61 ab.\/km². El cunfìna coi cümü de Castellamonte, Colleretto Castelnuovo, Castelnuovo Nigra.","num_words":59,"character_repetition_ratio":0.024,"word_repetition_ratio":0.0,"special_characters_ratio":0.26,"stopwords_ratio":0.068,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":102870.6,"cluster_detection":-1}
+{"text":"Feletto (en piemontés: Flèt) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Türì. El g'ha presapóch 2.341 abitàncc, 'na superfìce de 7 km² e 'na densità de 334 ab.\/km². El cunfìna coi cümü de San Giorgio Canavese, Rivarolo Canavese, Lusigliè, San Giusto Canavese, Bosconero.","num_words":69,"character_repetition_ratio":0.032,"word_repetition_ratio":0.0,"special_characters_ratio":0.271,"stopwords_ratio":0.058,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":111379.0,"cluster_detection":-1}
+{"text":"Ol UTC+01:00 (anc adoma UTC+1) l'è un fus orare qe l'è inanz de un'ora sœ l'UTC, e l'è basad sœ l'Europa Centrala.","num_words":33,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.342,"stopwords_ratio":0.121,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":45734.1,"cluster_detection":-1}
+{"text":"Regen l'è 'na citadìna todèsca del stat federàl (Bundesland) de la Baviera, distrèt (Regierungsbezirk) de la Basa Baviera. L'è 'l capolöch del circondare rüràl (Landkreis) omònim. La süperfìce del teretóre aministràt de la cità l'è de 65.15 km² e 'ndel Desember 2016 la gh'ìa 'na popolasiù de 10 884 abitàncc.","num_words":69,"character_repetition_ratio":0.007,"word_repetition_ratio":0.0,"special_characters_ratio":0.265,"stopwords_ratio":0.087,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":157257.5,"cluster_detection":-1}
+{"text":"La aliteraziun a l'è una figüra retoriga che l'è la ripetiziun de parol che gh'hann dent de spess l'istessa letera\/sun per fà un efet acüstich, che de solit a l'è ligaa al sens de la fras","num_words":47,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.225,"stopwords_ratio":0.064,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":142190.4,"cluster_detection":-1}
+{"text":"Bodenmais l'è 'n cümü todèsch del stat federàl (Bundesland) de la Baviera, distrèt (Regierungsbezirk) de la Basa Baviera. El pórta 'l tìtol de Mercàt (Marktgemeinde) che völ dì che 'l reprezènta 'n cèntro de importànsa piö grànda de 'n cümü normàl. El fà part del circondare rüràl (Landkreis) de Regen. La süperfìce del teretóre aministràt del cümü l'è de 45.28 km² e 'ndel Desember 2016 el gh'ìa 'na popolasiù de 3 462 abitàncc.","num_words":99,"character_repetition_ratio":0.005,"word_repetition_ratio":0.0,"special_characters_ratio":0.254,"stopwords_ratio":0.051,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":207150.7,"cluster_detection":-1}
+{"text":"El Distret de Boudry l'è giü dei sés distrècc del Canton Neuchâtel, en Svizzera. La popolasiù del distrèt l'è 'n magiurànsa de lèngua franséza e 'n totàl la mónta a 38 866 abitàncc (dato del Desember 2010). El capolöch aministratìf del distrèt l'è la citadìna de Boudry.","num_words":58,"character_repetition_ratio":0.069,"word_repetition_ratio":0.0,"special_characters_ratio":0.244,"stopwords_ratio":0.052,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":297967.8,"cluster_detection":-1}
+{"text":"Perelli l'è 'n cümü de la Còrsica, endèl teretóre nasiunàl de la Frància. El fa part del cantù de Orezza-Alesani, del circondàre (arrondissement) de Corte e del dipartimènt de la Còrsica Alta. El g'ha 'na popolasiù de 107 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 6,21 e 'l và de 'na altèsa mìnima de 426 méter a 'na altèsa màsima de 1441 méter s.l.m.","num_words":92,"character_repetition_ratio":0.063,"word_repetition_ratio":0.0,"special_characters_ratio":0.286,"stopwords_ratio":0.109,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":177268.8,"cluster_detection":-1}
+{"text":"Rapaggio l'è 'n cümü de la Còrsica, endèl teretóre nasiunàl de la Frància. El fa part del cantù de Orezza-Alesani, del circondàre (arrondissement) de Corte e del dipartimènt de la Còrsica Alta. El g'ha 'na popolasiù de 20 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 2,56 e 'l và de 'na altèsa mìnima de 318 méter a 'na altèsa màsima de 768 méter s.l.m.","num_words":92,"character_repetition_ratio":0.063,"word_repetition_ratio":0.0,"special_characters_ratio":0.281,"stopwords_ratio":0.109,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":184829.1,"cluster_detection":-1}
+{"text":"El celest l'è vön di culur del speter che l'omm al pö vidé, un fracch cumün in natüra: al se pö vidé suratüt ind el ciel quand che l'è bel nett o anca ind el mar. Ind la lingua lumbarda el celest l'è vön di culur principai: l'è una versiun püssé ciara del blö, cumpagn del rösa che a l'è fundamentalment un russ püssé ciar.","num_words":72,"character_repetition_ratio":0.108,"word_repetition_ratio":0.0,"special_characters_ratio":0.235,"stopwords_ratio":0.069,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":247875.3,"cluster_detection":-1}
+{"text":"El Distret de Frauenfeld l'è giü dei òt distrecc del Canton Türgovia, en Svizzera. El g'ha 'na popolasiù de 63 296 abitàncc (dato del Desember 2012). El capolöch del distret l'è la citadìna de Frauenfeld che l'è apò la capitàl del cantù.","num_words":53,"character_repetition_ratio":0.053,"word_repetition_ratio":0.0,"special_characters_ratio":0.257,"stopwords_ratio":0.094,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":229445.7,"cluster_detection":-1}

lmo_Latn/new_cc_000004_stas.jsonl

@@ -0,0 +1,115 @@
+[
+    {
+        "avg": {
+            "num_words": 82.96153846153847,
+            "character_repetition_ratio": 0.017397435897435892,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.2752307692307692,
+            "stopwords_ratio": 0.08144871794871794,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 127213.77564102567
+        }
+    },
+    {
+        "std": {
+            "num_words": 18.739402001577474,
+            "character_repetition_ratio": 0.02202640591490001,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.0176866769189106,
+            "stopwords_ratio": 0.021108782614934235,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.0,
+            "perplexity_score": 50205.164091216204
+        }
+    },
+    {
+        "median": {
+            "num_words": 94.5,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.281,
+            "stopwords_ratio": 0.086,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 110055.2
+        }
+    },
+    {
+        "max": {
+            "num_words": 108.0,
+            "character_repetition_ratio": 0.108,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.342,
+            "stopwords_ratio": 0.121,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 297967.8
+        }
+    },
+    {
+        "min": {
+            "num_words": 33.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.225,
+            "stopwords_ratio": 0.05,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 45734.1
+        }
+    },
+    {
+        "90%": {
+            "num_words": 101.0,
+            "character_repetition_ratio": 0.04049999999999999,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.2903,
+            "stopwords_ratio": 0.106,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 199939.87999999998
+        }
+    },
+    {
+        "75%": {
+            "num_words": 99.75,
+            "character_repetition_ratio": 0.03,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.28574999999999995,
+            "stopwords_ratio": 0.10075,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 155817.525
+        }
+    },
+    {
+        "50%": {
+            "num_words": 94.5,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.281,
+            "stopwords_ratio": 0.086,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 110055.2
+        }
+    },
+    {
+        "25%": {
+            "num_words": 65.25,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.2655,
+            "stopwords_ratio": 0.06225,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 88705.25
+        }
+    },
+    {
+        "total size": "78",
+        "keep size": "66",
+        "remove size": "12"
+    }
+]

lmo_Latn/new_cc_000005_keep.jsonl

@@ -0,0 +1,88 @@
+{"text":"Stroppo (en piemontés: Stròp) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Cuneo. El g'ha presapóch 108 abitàncc, 'na superfìce de 28 km² e 'na densità de 4 ab.\/km². El cunfìna coi cümü de Elva, Macra, Marmora, Prazzo, Sampeyre.","num_words":61,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.287,"stopwords_ratio":0.066,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":92015.7,"cluster_detection":1}
+{"text":"Bernex l'è 'n cümü fransés de la regiù Rhône-Alpes, endèla Frància sud-orientàla. El fa part del cantù de Évian-les-Bains, del circondàre (arrondissement) de Thonon-les-Bains e del dipartimènt de l'Alta Savoia. El g'ha 'na popolasiù de 1 245 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 22,31 km² e 'l và de 'na altèsa mìnima de 820 méter a 'na altèsa màsima de 2222 méter s.l.m.","num_words":101,"character_repetition_ratio":0.039,"word_repetition_ratio":0.0,"special_characters_ratio":0.29,"stopwords_ratio":0.099,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":78096.2,"cluster_detection":1}
+{"text":"Palmi l'è 'n cümü italià, de la regiù de la Calabria, en Pruvìncia de Reggio Calabria. El g'ha presapóch 19.207 abitàncc, 'na superfìce de 31 km² e 'na densità de 620 ab.\/km². El cunfìna coi cümü de Gioia Tauro, Seminara.","num_words":52,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.299,"stopwords_ratio":0.077,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":141657.3,"cluster_detection":1}
+{"text":"Dentlein am Forst l'è 'n cümü todèsch del stat federàl (Bundesland) de la Baviera, distrèt (Regierungsbezirk) de la Média Francònia. El pórta 'l tìtol de Mercàt (Marktgemeinde) che völ dì che 'l reprezènta 'n cèntro de importànsa piö grànda de 'n cümü normàl. El fà part del circondare rüràl (Landkreis) de Ansbach. La süperfìce del teretóre aministràt del cümü l'è de 18.03 km² e 'ndel Desember 2016 el gh'ìa 'na popolasiù de 2 357 abitàncc.","num_words":100,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.251,"stopwords_ratio":0.05,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":234402.6,"cluster_detection":1}
+{"text":"Les Ollières l'è 'n cümü fransés de la regiù Rhône-Alpes, endèla Frància sud-orientàla. El fa part del cantù de Thorens-Glières, del circondàre (arrondissement) de Annecy e del dipartimènt de l'Alta Savoia. El g'ha 'na popolasiù de 840 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 11,64 km² e 'l và de 'na altèsa mìnima de 489 méter a 'na altèsa màsima de 794 méter s.l.m.","num_words":98,"character_repetition_ratio":0.03,"word_repetition_ratio":0.0,"special_characters_ratio":0.283,"stopwords_ratio":0.102,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":130390.8,"cluster_detection":1}
+{"text":"Cortandone (en piemontés: Cortandon) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Asti. El g'ha presapóch 331 abitàncc, 'na superfìce de 5 km² e 'na densità de 66 ab.\/km². El cunfìna coi cümü de Camerano Casasco, Cinaglio, Cortazzone, Maretto, Monale.","num_words":61,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.266,"stopwords_ratio":0.066,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":97603.6,"cluster_detection":1}
+{"text":"Weisendorf l'è 'n cümü todèsch del stat federàl (Bundesland) de la Baviera, distrèt (Regierungsbezirk) de la Média Francònia. El pórta 'l tìtol de Mercàt (Marktgemeinde) che völ dì che 'l reprezènta 'n cèntro de importànsa piö grànda de 'n cümü normàl. El fà part del circondare rüràl (Landkreis) de Erlangen-Höchstadt. La süperfìce del teretóre aministràt del cümü l'è de 36.72 km² e 'ndel Desember 2016 el gh'ìa 'na popolasiù de 6 492 abitàncc.","num_words":100,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.247,"stopwords_ratio":0.05,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":207258.6,"cluster_detection":1}
+{"text":"Mumprù (en tortonés: Mumpron; en italià: Momperone) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Alessandria. El g'ha presapóch 232 abitàncc, 'na superfìce de 8,6 km² e 'na densità de 27 ab.\/km². El cunfìna coi cümü de Bërgnàu e Frascà, Casasch, Sésma (PV), Munt Marsèi, Pussö 'd Gröpu.","num_words":78,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.285,"stopwords_ratio":0.051,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":81997.3,"cluster_detection":1}
+{"text":"Caldiero l'è 'n cümü italià, de la regiù del Vèneto, en Pruvìncia de Verùna. El g'ha presapóch 5.619 abitàncc e 'l g'ha 'na superfìce de 10,42 km², per 'na densità de 562 ab.\/km². El cunf��na coi cümü de Belfiore, Colognola ai Colli, Lavagno, San Martino Buon Albergo, Zevio.","num_words":68,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.296,"stopwords_ratio":0.088,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":111895.1,"cluster_detection":1}
+{"text":"Marrubiu l'è 'n cümü italià, de la regiù de la Sardegna, en Pruvìncia de Oristano. El g'ha presapóch 4.961 abitàncc, 'na superfìce de 61 km² e 'na densità de 81 ab.\/km². El cunfìna coi cümü de Ales, Arborea, Morgongiori, Santa Giusta, Terralba, Uras.","num_words":61,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.284,"stopwords_ratio":0.066,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":108304.2,"cluster_detection":1}
+{"text":"Puget-Théniers l'è 'n cümü fransés de la regiù Provence-Alpes-Côte d'Azur, endèla Frància meridiunàla. El fa part del cantù de Puget-Théniers, del circondàre (arrondissement) de Nìsa e del dipartimènt de le Alpi Marìtime. El g'ha 'na popolasiù de 1 820 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 21,45 km² e 'l và de 'na altèsa mìnima de 353 méter a 'na altèsa màsima de 1436 méter s.l.m.","num_words":105,"character_repetition_ratio":0.053,"word_repetition_ratio":0.0,"special_characters_ratio":0.283,"stopwords_ratio":0.095,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":126666.0,"cluster_detection":1}
+{"text":"Sona l'è 'n cümü italià, de la regiù del Vèneto, en Pruvìncia de Verùna. El g'ha presapóch 14.269 abitàncc e 'l g'ha 'na superfìce de 41,14 km², per 'na densità de 348 ab.\/km². El cunfìna coi cümü de Bussolengo, Castelnuovo del Garda, Sommacampagna, Valeggio sul Mincio, Verùna.","num_words":64,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.291,"stopwords_ratio":0.094,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":115504.5,"cluster_detection":1}
+{"text":"Candia Canavese (en piemontés: Candia) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Türì. El g'ha presapóch 1.304 abitàncc, 'na superfìce de 9 km² e 'na densità de 145 ab.\/km². El cunfìna coi cümü de Strambino, Mercenasco, Vische, Barone Canavese, Mazzè, Caluso.","num_words":66,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.277,"stopwords_ratio":0.091,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":99618.5,"cluster_detection":1}
+{"text":"Gadesch (nòm uficiàl en Italià: Gadesco-Pieve Delmona) l'è 'n cümü italià, de la regiù de la Lombardìa, en Pruvìncia de Cremùna. El g'ha presapóch 1.634 abitàncc e 'l g'ha 'na superfìce de 17 km², per 'na densità de 96 ab.\/km². El cunfìna coi cümü de Cremùna, Gruntart, Malagnin, Persech, Vescuàt.","num_words":73,"character_repetition_ratio":0.014,"word_repetition_ratio":0.0,"special_characters_ratio":0.279,"stopwords_ratio":0.096,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":86801.3,"cluster_detection":1}
+{"text":"Essing l'è 'n cümü todèsch del stat federàl (Bundesland) de la Baviera, distrèt (Regierungsbezirk) de la Basa Baviera. El pórta 'l tìtol de Mercàt (Marktgemeinde) che völ dì che 'l reprezènta 'n cèntro de importànsa piö grànda de 'n cümü normàl. El fà part del circondare rüràl (Landkreis) de Kelheim. La süperfìce del teretóre aministràt del cümü l'è de 17.36 km² e 'ndel Desember 2016 el gh'ìa 'na popolasiù de 1 021 abitàncc.","num_words":97,"character_repetition_ratio":0.005,"word_repetition_ratio":0.0,"special_characters_ratio":0.255,"stopwords_ratio":0.052,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":219791.9,"cluster_detection":1}
+{"text":"Castèl Gabià (nòm uficiàl en Italià: Castel Gabbiano) l'è 'n cümü italià, de la regiù de la Lombardìa, en Pruvìncia de Cremùna. L'è 'n paés del cremàsch che g'ha presapóch 392 abitàncc e 'na superfìce de 5 km², per 'na densità de 78 ab.\/km². El cunfìna coi cümü de Camisà, Casal e Idulasch, Fara Olivana con Sola (BG), Isso (BG), Mozzanica (BG), Sergnà.","num_words":88,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.28,"stopwords_ratio":0.068,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":134203.2,"cluster_detection":1}
+{"text":"Castagnaro l'è 'n cümü italià, de la regiù del Vèneto, en Pruvìncia de Verùna. El g'ha presapóch 4.153 abitàncc e 'l g'ha 'na superfìce de 34,74 km², per 'na densità de 122 ab.\/km². El cunfìna coi cümü de Badia Polesine (RO), Giacciano con Baruchella (RO), Terrazzo, Villa Bartolomea.","num_words":69,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.296,"stopwords_ratio":0.087,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":115882.7,"cluster_detection":1}
+{"text":"Tenda (nòm uficiàl en fransés: Tende) l'è 'n cümü fransés de la regiù Provence-Alpes-Côte d'Azur, endèla Frància meridiunàla. El fa part del cantù de Tende, del circondàre (arrondissement) de Nìsa e del dipartimènt de le Alpi Marìtime. El g'ha 'na popolasiù de 2 114 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 177,47 km² e 'l và de 'na altèsa mìnima de 552 méter a 'na altèsa màsima de 2920 méter s.l.m.","num_words":106,"character_repetition_ratio":0.028,"word_repetition_ratio":0.0,"special_characters_ratio":0.289,"stopwords_ratio":0.094,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":140877.4,"cluster_detection":1}
+{"text":"Choisy l'è 'n cümü fransés de la regiù Rhône-Alpes, endèla Frància sud-orientàla. El fa part del cantù de Annecy-Nord-Ouest , del circondàre (arrondissement) de Annecy e del dipartimènt de l'Alta Savoia. El g'ha 'na popolasiù de 1 555 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 16 km² e 'l và de 'na altèsa mìnima de 350 méter a 'na altèsa màsima de 905 méter s.l.m.","num_words":101,"character_repetition_ratio":0.035,"word_repetition_ratio":0.0,"special_characters_ratio":0.286,"stopwords_ratio":0.099,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":114367.8,"cluster_detection":1}
+{"text":"Merano (Meran en todèsch; Maran en ladì) l'è 'n cümü italià, de la regiù del Trentino-Alto Adige, en Pruvìncia de Bolzano. El g'ha presapóch 33.404 abitàncc, 'na superfìce de 26 km² e 'na densità de 1285 ab.\/km². Dopo de Bolsàno, l'è la cità con piö tacc abitàncc de la pruvincia.","num_words":67,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.293,"stopwords_ratio":0.075,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":105482.6,"cluster_detection":1}
+{"text":"Portacomaro (en piemontés: Portacomé) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Asti. El g'ha presapóch 1.992 abitàncc, 'na superfìce de 10 km² e 'na densità de 199 ab.\/km². El cunfìna coi cümü de Asti, Calliano, Castagnole Monferrato, Scurzolengo.","num_words":62,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.273,"stopwords_ratio":0.065,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":82950.9,"cluster_detection":1}
+{"text":"Daluis l'è 'n cümü fransés de la regiù Provence-Alpes-Côte d'Azur, endèla Frància meridiunàla. El fa part del cantù de Canton de Guillaumes, del circondàre (arrondissement) de Nìsa e del dipartimènt de le Alpi Marìtime. El g'ha 'na popolasiù de 149 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 40,03 km² e 'l và de 'na altèsa mìnima de 590 méter a 'na altèsa màsima de 2502 méter s.l.m.","num_words":101,"character_repetition_ratio":0.029,"word_repetition_ratio":0.0,"special_characters_ratio":0.281,"stopwords_ratio":0.099,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":149811.1,"cluster_detection":1}
+{"text":"Boussy l'è 'n cümü fransés de la regiù Rhône-Alpes, endèla Frància sud-orientàla. El fa part del cantù de Rumilly, del circondàre (arrondissement) de Annecy e del dipartimènt de l'Alta Savoia. El g'ha 'na popolasiù de 503 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 5,23 km² e 'l và de 'na altèsa mìnima de 326 méter a 'na altèsa màsima de 567 méter s.l.m.","num_words":94,"character_repetition_ratio":0.031,"word_repetition_ratio":0.0,"special_characters_ratio":0.286,"stopwords_ratio":0.106,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":142484.3,"cluster_detection":1}
+{"text":"Dingy-Saint-Clair l'è 'n cümü fransés de la regiù Rhône-Alpes, endèla Frància sud-orientàla. El fa part del cantù de Annecy-le-Vieux, del circondàre (arrondissement) de Annecy e del dipartimènt de l'Alta Savoia. El g'ha 'na popolasiù de 1 351 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 34,12 km² e 'l và de 'na altèsa mìnima de 492 méter a 'na altèsa màsima de 1856 méter s.l.m.","num_words":103,"character_repetition_ratio":0.034,"word_repetition_ratio":0.0,"special_characters_ratio":0.289,"stopwords_ratio":0.097,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":73757.1,"cluster_detection":1}
+{"text":"Cossano Canavese (en piemontés: Cossan) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Türì. El g'ha presapóch 549 abitàncc, 'na superfìce de 3 km² e 'na densità de 183 ab.\/km². El cunfìna coi cümü de Caravino, Settimo Rottaro, Borgo d'Ale (VC), Borgomasino.","num_words":67,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.279,"stopwords_ratio":0.06,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":79806.1,"cluster_detection":1}
+{"text":"Roatto (en piemontés: Roat) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Asti. El g'ha presapóch 373 abitàncc, 'na superfìce de 6 km² e 'na densità de 62 ab.\/km². El cunfìna coi cümü de Cortazzone, Maretto, Montafia, San Paolo Solbrito, Villafranca d'Asti.","num_words":65,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.272,"stopwords_ratio":0.077,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":86602.1,"cluster_detection":1}
+{"text":"Combloux l'è 'n cümü fransés de la regiù Rhône-Alpes, endèla Frància sud-orientàla. El fa part del cantù de Sallanches, del circondàre (arrondissement) de Bonneville e del dipartimènt de l'Alta Savoia. El g'ha 'na popolasiù de 2 080 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 17,27 km² e 'l và de 'na altèsa mìnima de 720 méter a 'na altèsa màsima de 1784 méter s.l.m.","num_words":97,"character_repetition_ratio":0.03,"word_repetition_ratio":0.0,"special_characters_ratio":0.287,"stopwords_ratio":0.103,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":129152.8,"cluster_detection":1}
+{"text":"Siegenburg l'è 'n cümü todèsch del stat federàl (Bundesland) de la Baviera, distrèt (Regierungsbezirk) de la Basa Baviera. El pórta 'l tìtol de Mercàt (Marktgemeinde) che völ dì che 'l reprezènta 'n cèntro de importànsa piö grànda de 'n cümü normàl. El fà part del circondare rüràl (Landkreis) de Kelheim. La süperfìce del teretóre aministràt del cümü l'è de 25.63 km² e 'ndel Desember 2016 el gh'ìa 'na popolasiù de 3 732 abitàncc.","num_words":98,"character_repetition_ratio":0.005,"word_repetition_ratio":0.0,"special_characters_ratio":0.252,"stopwords_ratio":0.051,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":226183.0,"cluster_detection":1}
+{"text":"Cavatore (en piemontés: Cavàu) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Alessandria. El g'ha presapóch 310 abitàncc, 'na superfìce de 10 km² e 'na densità de 31 ab.\/km². El cunfìna coi cümü de Acqui Terme, Cartosio, Grognardo, Melazzo, Ponzone.","num_words":65,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.273,"stopwords_ratio":0.077,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":78324.8,"cluster_detection":1}
+{"text":"San Giovanni di Gerace l'è 'n cümü italià, de la regiù de la Calabria, en Pruvìncia de Reggio Calabria. El g'ha presapóch 609 abitàncc, 'na superfìce de 13 km² e 'na densità de 47 ab.\/km². El cunfìna coi cümü de Grotteria, Martone.","num_words":56,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.277,"stopwords_ratio":0.071,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":152845.6,"cluster_detection":1}
+{"text":"Marigny-Saint-Marcel' l'è 'n cümü fransés de la regiù Rhône-Alpes, endèla Frància sud-orientàla. El fa part del cantù de Rumilly, del circondàre (arrondissement) de Annecy e del dipartimènt de l'Alta Savoia. El g'ha 'na popolasiù de 657 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 7,35 km² e 'l và de 'na altèsa mìnima de 340 méter a 'na altèsa màsima de 504 méter s.l.m.","num_words":98,"character_repetition_ratio":0.03,"word_repetition_ratio":0.0,"special_characters_ratio":0.283,"stopwords_ratio":0.102,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":92095.1,"cluster_detection":1}
+{"text":"Molochio l'è 'n cümü italià, de la regiù de la Calabria, en Pruvìncia de Reggio Calabria. El g'ha presapóch 2.805 abitàncc, 'na superfìce de 37 km² e 'na densità de 76 ab.\/km². El cunfìna coi cümü de Ciminà, Cittanova, Taurianova, Terranova Sappo Minulio, Varapodio.","num_words":65,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.267,"stopwords_ratio":0.062,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":117498.6,"cluster_detection":1}
+{"text":"Monasterace l'è 'n cümü italià, de la regiù de la Calabria, en Pruvìncia de Reggio Calabria. El g'ha presapóch 3.357 abitàncc, 'na superfìce de 15 km² e 'na densità de 224 ab.\/km². El cunfìna coi cümü de Guardavalle (CZ), Stilo.","num_words":56,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.294,"stopwords_ratio":0.071,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":106228.1,"cluster_detection":1}
+{"text":"Aindling l'è 'n cümü todèsch del stat federàl (Bundesland) de la Baviera, distrèt (Regierungsbezirk) de la Svevia. El pórta 'l tìtol de Mercàt (Marktgemeinde) che völ dì che 'l reprezènta 'n cèntro de importànsa piö grànda de 'n cümü normàl. El fà part del circondare rüràl (Landkreis) de Aichach-Friedberg. La süperfìce del teretóre aministràt del cümü l'è de 31.43 km² e 'ndel Desember 2016 el gh'ìa 'na popolasiù de 4 361 abitàncc.","num_words":100,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.251,"stopwords_ratio":0.05,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":190421.8,"cluster_detection":1}
+{"text":"El Canton Glarona (en todèsch: Glarus; en fransés e 'n alemà: Glaris; en romàncio: Glaruna) l'è 'n cantù svìser a magiurànsa linguìstica todèsca, sitüàt endèl cèntro del paés. La capitàl l'è la cità de Glarona. L'è stat en posedimènt dei Asburgo 'ntra 'l 1264 e 'l 1352, quan che pò l'è deentàt mèmber de la Confederasiù Svìsera.","num_words":79,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.258,"stopwords_ratio":0.076,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":133159.3,"cluster_detection":1}
+{"text":"Schwarzach am Main l'è 'n cümü todèsch del stat federàl (Bundesland) de la Baviera, distrèt (Regierungsbezirk) de la Bàsa Francònia. El pórta 'l tìtol de Mercàt (Marktgemeinde) che völ dì che 'l reprezènta 'n cèntro de importànsa piö grànda de 'n cümü normàl. El fà part del circondare rüràl (Landkreis) de Kitzingen. La süperfìce del teretóre aministràt del cümü l'è de 21.11 km² e 'ndel Desember 2016 el gh'ìa 'na popolasiù de 3 642 abitàncc.","num_words":100,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.25,"stopwords_ratio":0.05,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":235723.8,"cluster_detection":1}
+{"text":"Chiuppano (en vèneto: Chiupano) l'è 'n cümü italià, de la regiù del Vèneto, en Pruvìncia de Vicènsa. El g'ha presapóch 2.559 abitàncc, 'na superfìce de 4 km² e 'na densità de 640 ab.\/km². El cunfìna coi cümü de Caltrano, Calvene, Carrè, Lugo di Vicenza, Piovene Rocchette.","num_words":68,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.279,"stopwords_ratio":0.088,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":82276.8,"cluster_detection":1}
+{"text":"Sant'Ilario dello Ionio l'è 'n cümü italià, de la regiù de la Calabria, en Pruvìncia de Reggio Calabria. El g'ha presapóch 1.388 abitàncc, 'na superfìce de 13 km² e 'na densità de 107 ab.\/km². El cunfìna coi cümü de Antonimina, Ardore, Ciminà, Portigliola.","num_words":61,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.277,"stopwords_ratio":0.066,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":100407.1,"cluster_detection":1}
+{"text":"Marignier l'è 'n cümü fransés de la regiù Rhône-Alpes, endèla Frància sud-orientàla. El fa part del cantù de Canton de Bonneville, del circondàre (arrondissement) de Bonneville e del dipartimènt de l'Alta Savoia. El g'ha 'na popolasiù de 6 228 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 19,97 km² e 'l và de 'na altèsa mìnima de 453 méter a 'na altèsa màsima de 1860 méter s.l.m.","num_words":98,"character_repetition_ratio":0.054,"word_repetition_ratio":0.0,"special_characters_ratio":0.284,"stopwords_ratio":0.102,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":146903.6,"cluster_detection":1}
+{"text":"Isen l'è 'n cümü todèsch del stat federàl (Bundesland) de la Baviera, distrèt (Regierungsbezirk) de la Alta Baviera. El pórta 'l tìtol de Mercàt (Marktgemeinde) che völ dì che 'l reprezènta 'n cèntro de importànsa piö grànda de 'n cümü normàl. El fà part del circondare rüràl (Landkreis) de Erding. La süperfìce del teretóre aministràt del cümü l'è de 43.78 km² e 'ndel Desember 2016 el gh'ìa 'na popolasiù de 5 832 abitàncc.","num_words":97,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.256,"stopwords_ratio":0.052,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":227274.1,"cluster_detection":1}
+{"text":"San Candido (Innichen) l'è 'n cümü italià, de la regiù del Trentino-Alto Adige, en Pruvìncia de Bolzano. El g'ha presapóch 3.099 abitàncc, 'na superfìce de 80 km² e 'na densità de 39 ab.\/km². El cunfìna coi cümü de Dobbiaco, Sesto.","num_words":55,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.29,"stopwords_ratio":0.073,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":97238.8,"cluster_detection":1}
+{"text":"Cavallerleone (en piemontés: Cavalion) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Cuneo. El g'ha presapóch 561 abitàncc, 'na superfìce de 16 km² e 'na densità de 35 ab.\/km². El cunfìna coi cümü de Cavallermaggiore, Murello, Racconigi, Ruffia.","num_words":58,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.265,"stopwords_ratio":0.069,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":87893.0,"cluster_detection":1}
+{"text":"Vagli Sotto (endèla parlàda locàl: Uàgi) l'è 'n cümü italià, de la regiù de la Toscana, en Pruvìncia de Lucca. El g'ha presapóch 1.123 abitàncc, 'na superfìce de 40 km² e 'na densità de 28 ab.\/km². El cunfìna coi cümü de Camporgiano, Careggine, Massa (MS), Minucciano, Stazzema.","num_words":64,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.284,"stopwords_ratio":0.062,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":113137.8,"cluster_detection":1}
+{"text":"Bova Marina l'è 'n cümü italià, de la regiù de la Calabria, en Pruvìncia de Reggio Calabria. El g'ha presapóch 3.951 abitàncc, 'na superfìce de 29 km² e 'na densità de 136 ab.\/km². El cunfìna coi cümü de Bova, Condofuri, Palizzi.","num_words":56,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.293,"stopwords_ratio":0.071,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":131566.0,"cluster_detection":1}
+{"text":"Trezzo Tinella (en piemontés: Trés) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Cuneo. El g'ha presapóch 356 abitàncc, 'na superfìce de 10 km² e 'na densità de 36 ab.\/km². El cunfìna coi cümü de Alba, Borgomale, Castino, Mango, Neviglie, Treiso.","num_words":65,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.282,"stopwords_ratio":0.077,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":78479.7,"cluster_detection":1}
+{"text":"Caraffa del Bianco l'è 'n cümü italià, de la regiù de la Calabria, en Pruvìncia de Reggio Calabria. El g'ha presapóch 622 abitàncc, 'na superfìce de 12 km² e 'na densità de 52 ab.\/km². El cunfìna coi cümü de Bianco, Casignana, Ferruzzano, Sant'Agata del Bianco.","num_words":60,"character_repetition_ratio":0.024,"word_repetition_ratio":0.0,"special_characters_ratio":0.268,"stopwords_ratio":0.067,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":118014.6,"cluster_detection":1}
+{"text":"Salcedo (en vèneto: Salcedo) l'è 'n cümü italià, de la regiù del Vèneto, en Pruvìncia de Vicènsa. El g'ha presapóch 1.024 abitàncc, 'na superfìce de 6 km² e 'na densità de 171 ab.\/km². El cunfìna coi cümü de Fara Vicentino, Lugo di Vicenza, Lusiana, Marostica, Molvena.","num_words":62,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.283,"stopwords_ratio":0.065,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":107898.3,"cluster_detection":1}
+{"text":"Vurasca (en piemontés e 'n italià: Avolasca) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Alessandria. El g'ha presapóch 280 abitàncc, 'na superfìce de 12,29 km² e 'na densità de 23 ab.\/km². El cunfìna coi cümü de Casasch, Castlania, Costa, Garbagna, Munzögh, Munt Marsèi.","num_words":71,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.281,"stopwords_ratio":0.07,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":91799.9,"cluster_detection":1}
+{"text":"Curt de Frat (nòm uficiàl en Italià: Corte de' Frati) l'è 'n cümü italià, de la regiù de la Lombardìa, en Pruvìncia de Cremùna. El g'ha presapóch 1.368 abitàncc e 'l g'ha 'na superfìce de 20 km², per 'na densità de 68 ab.\/km². El cunfìna coi cümü de Alfianèl (BS), Gruntart, Persech, Puntìch (BS), Pusài, Rubéch, Scandulèra Rìa d'Ói.","num_words":83,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.297,"stopwords_ratio":0.084,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":98711.6,"cluster_detection":1}
+{"text":"Elfershausen l'è 'n cümü todèsch del stat federàl (Bundesland) de la Baviera, distrèt (Regierungsbezirk) de la Bàsa Francònia. El pórta 'l tìtol de Mercàt (Marktgemeinde) che völ dì che 'l reprezènta 'n cèntro de importànsa piö grànda de 'n cümü normàl. El fà part del circondare rüràl (Landkreis) de Bad Kissingen. La süperfìce del teretóre aministràt del cümü l'è de 34.92 km² e 'ndel Desember 2016 el gh'ìa 'na popolasiù de 2 853 abitàncc.","num_words":100,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.249,"stopwords_ratio":0.05,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":214521.4,"cluster_detection":1}
+{"text":"Holzkirchen l'è 'n cümü todèsch del stat federàl (Bundesland) de la Baviera, distrèt (Regierungsbezirk) de l'Alta Baviera. El pórta 'l tìtol de Mercàt (Marktgemeinde) che völ dì che 'l reprezènta 'n cèntro de importànsa piö grànda de 'n cümü normàl. El fà part del circondare rüràl (Landkreis) de Miesbach. La süperfìce del teretóre aministràt del cümü l'è de 48.33 km² e 'ndel Desember 2016 el gh'ìa 'na popolasiù de 16 473 abitàncc.","num_words":99,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.253,"stopwords_ratio":0.051,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":205027.7,"cluster_detection":1}
+{"text":"Terzo (en piemontés: Ters) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Alessandria. El g'ha presapóch 846 abitàncc, 'na superfìce de 8 km² e 'na densità de 106 ab.\/km². El cunfìna coi cümü de Acqui Terme, Bistagno, Melazzo, Montabone (AT).","num_words":61,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.285,"stopwords_ratio":0.082,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":102334.3,"cluster_detection":1}
+{"text":"Vougy l'è 'n cümü fransés de la regiù Rhône-Alpes, endèla Frància sud-orientàla. El fa part del cantù de Bonneville, del circondàre (arrondissement) de Bonneville e del dipartimènt de l'Alta Savoia. El g'ha 'na popolasiù de 1 487 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 3,99 km² e 'l và de 'na altèsa mìnima de 450 méter a 'na altèsa màsima de 800 méter s.l.m.","num_words":96,"character_repetition_ratio":0.056,"word_repetition_ratio":0.0,"special_characters_ratio":0.285,"stopwords_ratio":0.104,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":146269.7,"cluster_detection":1}
+{"text":"Praz-sur-Arly l'è 'n cümü fransés de la regiù Rhône-Alpes, endèla Frància sud-orientàla. El fa part del cantù de Sallanches, del circondàre (arrondissement) de Bonneville e del dipartimènt de l'Alta Savoia. El g'ha 'na popolasiù de 1 319 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 22,64 km² e 'l và de 'na altèsa mìnima de 980 méter a 'na altèsa màsima de 2282 méter s.l.m.","num_words":98,"character_repetition_ratio":0.03,"word_repetition_ratio":0.0,"special_characters_ratio":0.288,"stopwords_ratio":0.102,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":96785.9,"cluster_detection":1}
+{"text":"Chens-sur-Léman l'è 'n cümü fransés de la regiù Rhône-Alpes, endèla Frància sud-orientàla. El fa part del cantù de Douvaine, del circondàre (arrondissement) de Thonon-les-Bains e del dipartimènt de l'Alta Savoia. El g'ha 'na popolasiù de 1 971 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 12,56 km² e 'l và de 'na altèsa mìnima de 1 méter a 'na altèsa màsima de 1 méter s.l.m.","num_words":101,"character_repetition_ratio":0.059,"word_repetition_ratio":0.0,"special_characters_ratio":0.28,"stopwords_ratio":0.099,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":76087.9,"cluster_detection":1}
+{"text":"Camini l'è 'n cümü italià, de la regiù de la Calabria, en Pruvìncia de Reggio Calabria. El g'ha presapóch 735 abitàncc, 'na superfìce de 17 km² e 'na densità de 43 ab.\/km². El cunfìna coi cümü de Riace, Stignano, Stilo.","num_words":53,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.288,"stopwords_ratio":0.075,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":113074.3,"cluster_detection":1}
+{"text":"Ozegna (en piemontés: Osegna) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Türì. El g'ha presapóch 1.151 abitàncc, 'na superfìce de 5 km² e 'na densità de 230 ab.\/km². El cunfìna coi cümü de Castellamonte, Bairo, Agliè, San Giorgio Canavese, Rivarolo Canavese, Ciconio.","num_words":69,"character_repetition_ratio":0.022,"word_repetition_ratio":0.0,"special_characters_ratio":0.274,"stopwords_ratio":0.072,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":93272.1,"cluster_detection":1}
+{"text":"Le Muy l'è 'n cümü fransés de la regiù Provence-Alpes-Côte d'Azur, endèla Frància meridiunàla. El fa part del cantù de Le Muy, del circondàre (arrondissement) de Draguignan e del dipartimènt del Var. El g'ha 'na popolasiù de 9 189 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 66,58 km² e 'l và de 'na altèsa mìnima de 7 méter a 'na altèsa màsima de 561 méter s.l.m.","num_words":97,"character_repetition_ratio":0.03,"word_repetition_ratio":0.0,"special_characters_ratio":0.288,"stopwords_ratio":0.103,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":136735.1,"cluster_detection":1}
+{"text":"Figanières l'è 'n cümü fransés de la regiù Provence-Alpes-Côte d'Azur, endèla Frància meridiunàla. El fa part del cantù de Callas, del circondàre (arrondissement) de Draguignan e del dipartimènt del Var. El g'ha 'na popolasiù de 2 559 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 28,17 km² e 'l và de 'na altèsa mìnima de 227 méter a 'na altèsa màsima de 719 méter s.l.m.","num_words":96,"character_repetition_ratio":0.03,"word_repetition_ratio":0.0,"special_characters_ratio":0.284,"stopwords_ratio":0.104,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":133555.6,"cluster_detection":1}
+{"text":"La Gissöla (nòm uficiàl en Italià: Gussola) l'è 'n cümü italià, de la regiù de la Lombardìa, en Pruvìncia de Cremùna. El g'ha presapóch 2.799 abitàncc e 'l g'ha 'na superfìce de 25 km², per 'na densità de 112 ab.\/km². El cunfìna coi cümü de Colorno (PR), Martignana, San Giuan in Crus, Scandulèra, Sissa (PR), Sularòl, Turesela.","num_words":81,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.293,"stopwords_ratio":0.074,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":112599.0,"cluster_detection":1}
+{"text":"Maretto (en piemontés: Marèj) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Asti. El g'ha presapóch 358 abitàncc, 'na superfìce de 4 km² e 'na densità de 90 ab.\/km². El cunfìna coi cümü de Cortandone, Cortazzone, Monale, Roatto, Villafranca d'Asti.","num_words":62,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.274,"stopwords_ratio":0.081,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":83901.7,"cluster_detection":1}
+{"text":"Aviernoz l'è 'n cümü fransés de la regiù Rhône-Alpes, endèla Frància sud-orientàla. El fa part del cantù de Thorens-Glières, del circondàre (arrondissement) de Annecy e del dipartimènt de l'Alta Savoia. El g'ha 'na popolasiù de 779 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 15,90 km² e 'l và de 'na altèsa mìnima de 578 méter a 'na altèsa màsima de 1673 méter s.l.m.","num_words":98,"character_repetition_ratio":0.03,"word_repetition_ratio":0.0,"special_characters_ratio":0.285,"stopwords_ratio":0.102,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":116443.6,"cluster_detection":1}
+{"text":"Rifreddo (en piemontés: Rifrèid) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Cuneo. El g'ha presapóch 1.030 abitàncc, 'na superfìce de 6 km² e 'na densità de 172 ab.\/km². El cunfìna coi cümü de Envie, Gambasca, Revello, Sanfront.","num_words":59,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.289,"stopwords_ratio":0.068,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":83569.8,"cluster_detection":1}
+{"text":"Bova l'è 'n cümü italià, de la regiù de la Calabria, en Pruvìncia de Reggio Calabria. El g'ha presapóch 474 abitàncc, 'na superfìce de 46 km² e 'na densità de 10 ab.\/km². El cunfìna coi cümü de Africo, Bova Marina, Condofuri, Palizzi, Roghudi, Staiti.","num_words":63,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.279,"stopwords_ratio":0.063,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":108148.8,"cluster_detection":1}
+{"text":"Pazzano l'è 'n cümü italià, de la regiù de la Calabria, en Pruvìncia de Reggio Calabria. El g'ha presapóch 799 abitàncc, 'na superfìce de 15 km² e 'na densità de 53 ab.\/km². El cunfìna coi cümü de Bivongi, Caulonia, Nardodipace (VV), Placanica, Stignano, Stilo.","num_words":65,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.276,"stopwords_ratio":0.062,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":97589.8,"cluster_detection":1}
+{"text":"San Ferdinando l'è 'n cümü italià, de la regiù de la Calabria, en Pruvìncia de Reggio Calabria. El g'ha presapóch 4.306 abitàncc, 'na superfìce de 13 km² e 'na densità de 331 ab.\/km². El cunfìna coi cümü de Gioia Tauro, Rosarno.","num_words":54,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.289,"stopwords_ratio":0.074,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":145274.1,"cluster_detection":1}
+{"text":"Windorf l'è 'n cümü todèsch del stat federàl (Bundesland) de la Baviera, distrèt (Regierungsbezirk) de la Basa Baviera. El pórta 'l tìtol de Mercàt (Marktgemeinde) che völ dì che 'l reprezènta 'n cèntro de importànsa piö grànda de 'n cümü normàl. El fà part del circondare rüràl (Landkreis) de Passau. La süperfìce del teretóre aministràt del cümü l'è de 56.90 km² e 'ndel Desember 2016 el gh'ìa 'na popolasiù de 4 793 abitàncc.","num_words":98,"character_repetition_ratio":0.005,"word_repetition_ratio":0.0,"special_characters_ratio":0.255,"stopwords_ratio":0.051,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":224897.8,"cluster_detection":1}
+{"text":"Ampezzo (en furlà: Dimpeç) l'è 'n cümü italià, de la regiù del Friuli-Venesia Giulia, en Pruvìncia de Udine. El g'ha presapóch 1.509 abitàncc, 'na superfìce de 73 km² e 'na densità de 16 ab.\/km². El cunfìna coi cümü de Forni di Sotto, Ovaro, Sauris, Socchieve.","num_words":66,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.288,"stopwords_ratio":0.061,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":94541.9,"cluster_detection":1}
+{"text":"Ólta (nòm uficiàl en Italià: Volta Mantovana) l'è 'n cümü italià, de la regiù de la Lombardìa, en Pruvìncia de Màntoa. El g'ha presapóch 6.602 abitàncc e 'l g'ha 'na superfìce de 50 km², per 'na densità de 132 ab.\/km². El cunfìna coi cümü de Cavriàna, Gùit, Marmiröl, Monsanbàn, Valeggio sul Mincio (VR).","num_words":78,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.289,"stopwords_ratio":0.077,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":97676.7,"cluster_detection":1}
+{"text":"Paisan-a en piemontés (en italià: Paesana) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Cuneo. El g'ha presapóch 3.071 abitàncc, 'na superfìce de 58 km² e 'na densità de 53 ab.\/km². El cunfìna coi cümü de Barge, Oncino, Ostana, Sampeyre, Sanfront.","num_words":63,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.289,"stopwords_ratio":0.079,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":71139.5,"cluster_detection":1}
+{"text":"Vigarano Mainarda (endèla parlàda locàl: Vigaràn) l'è 'n cümü italià, de la regiù de l'Emìlia Romàgna, en Pruvìncia de Ferràra. El g'ha presapóch 6.589 abitàncc e 'l g'ha 'na superfìce de 42 km², per 'na densità de 157 ab.\/km². El cunfìna coi cümü de Bondeno, Ferrara, Mirabello, Poggio Renatico.","num_words":71,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.277,"stopwords_ratio":0.085,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":93026.0,"cluster_detection":1}
+{"text":"Teisnach l'è 'n cümü todèsch del stat federàl (Bundesland) de la Baviera, distrèt (Regierungsbezirk) de la Basa Baviera. El pórta 'l tìtol de Mercàt (Marktgemeinde) che völ dì che 'l reprezènta 'n cèntro de importànsa piö grànda de 'n cümü normàl. El fà part del circondare rüràl (Landkreis) de Regen. La süperfìce del teretóre aministràt del cümü l'è de 25.79 km² e 'ndel Desember 2016 el gh'ìa 'na popolasiù de 2 928 abitàncc.","num_words":98,"character_repetition_ratio":0.005,"word_repetition_ratio":0.0,"special_characters_ratio":0.255,"stopwords_ratio":0.051,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":225704.9,"cluster_detection":1}
+{"text":"Porcari l'è 'n cümü italià, de la regiù de la Toscana, en Pruvìncia de Lucca. El g'ha presapóch 7.078 abitàncc, 'na superfìce de 17 km² e 'na densità de 416 ab.\/km². El cunfìna coi cümü de Altopascio, Capannori, Montecarlo.","num_words":53,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.291,"stopwords_ratio":0.075,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":121032.2,"cluster_detection":1}
+{"text":"Partanna l'è 'n cümü italià, de la regiù de la Sicilia, en Pruvìncia de Trapani. El g'ha presapóch 11.376 abitàncc, 'na superfìce de 82 km² e 'na densità de 139 ab.\/km². El cunfìna coi cümü de Castelvetrano, Montevago (AG), Salaparuta, Santa Ninfa.","num_words":56,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.29,"stopwords_ratio":0.071,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":131181.6,"cluster_detection":1}
+{"text":"Piasco (en piemontés: Ël Piasch) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Cuneo. El g'ha presapóch 2.711 abitàncc, 'na superfìce de 10 km² e 'na densità de 271 ab.\/km². El cunfìna coi cümü de Costigliole Saluzzo, Pagno, Rossana, Venasca, Verzuolo.","num_words":62,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.285,"stopwords_ratio":0.065,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":85318.1,"cluster_detection":1}
+{"text":"Castèl Gabià (nòm uficiàl en Italià: Castel Gabbiano) l'è 'n cümü italià, de la regiù de la Lombardìa, en Pruvìncia de Cremùna. L'è 'n paés del cremàsch che g'ha presapóch 392 abitàncc e 'na superfìce de 5 km², per 'na densità de 78 ab.\/km². El cunfìna coi cümü de Camisà, Casal e Idulasch, Fara Olivana con Sola (BG), Isso (BG), Mozzanica (BG), Sergnà.","num_words":88,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.28,"stopwords_ratio":0.068,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":134203.2,"cluster_detection":1}
+{"text":"Careri l'è 'n cümü italià, de la regiù de la Calabria, en Pruvìncia de Reggio Calabria. El g'ha presapóch 2.442 abitàncc, 'na superfìce de 38 km² e 'na densità de 64 ab.\/km². El cunfìna coi cümü de Benestare, Platì, San Luca, Santa Cristina d'Aspromonte.","num_words":60,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.28,"stopwords_ratio":0.067,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":100452.8,"cluster_detection":1}
+{"text":"Montferrat l'è 'n cümü fransés de la regiù Provence-Alpes-Côte d'Azur, endèla Frància meridiunàla. El fa part del cantù de Callas, del circondàre (arrondissement) de Draguignan e del dipartimènt del Var. El g'ha 'na popolasiù de 1 445 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 34,01 km² e 'l và de 'na altèsa mìnima de 420 méter a 'na altèsa màsima de 952 méter s.l.m.","num_words":96,"character_repetition_ratio":0.03,"word_repetition_ratio":0.0,"special_characters_ratio":0.284,"stopwords_ratio":0.104,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":139218.0,"cluster_detection":1}
+{"text":"Brancaleone l'è 'n cümü italià, de la regiù de la Calabria, en Pruvìncia de Reggio Calabria. El g'ha presapóch 3.861 abitàncc, 'na superfìce de 35 km² e 'na densità de 110 ab.\/km². El cunfìna coi cümü de Bruzzano Zeffirio, Palizzi, Staiti.","num_words":57,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.28,"stopwords_ratio":0.07,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":107711.9,"cluster_detection":1}
+{"text":"La Motte l'è 'n cümü fransés de la regiù Provence-Alpes-Côte d'Azur, endèla Frància meridiunàla. El fa part del cantù de Draguignan, del circondàre (arrondissement) de Draguignan e del dipartimènt del Var. El g'ha 'na popolasiù de 2 948 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 28,12 km² e 'l và de 'na altèsa mìnima de 10 méter a 'na altèsa màsima de 320 méter s.l.m.","num_words":96,"character_repetition_ratio":0.055,"word_repetition_ratio":0.0,"special_characters_ratio":0.283,"stopwords_ratio":0.104,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":145335.4,"cluster_detection":1}
+{"text":"Gallio (en vèneto: Galio; en cìmbro: Ghel) l'è 'n cümü italià, de la regiù del Vèneto, en Pruvìncia de Vicènsa. El g'ha presapóch 2.331 abitàncc, 'na superfìce de 47 km² e 'na densità de 50 ab.\/km². El cunfìna coi cümü de Asiago, Enego, Foza.","num_words":59,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.306,"stopwords_ratio":0.085,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":89578.6,"cluster_detection":1}
+{"text":"Ruhmannsfelden l'è 'n cümü todèsch del stat federàl (Bundesland) de la Baviera, distrèt (Regierungsbezirk) de la Basa Baviera. El pórta 'l tìtol de Mercàt (Marktgemeinde) che völ dì che 'l reprezènta 'n cèntro de importànsa piö grànda de 'n cümü normàl. El fà part del circondare rüràl (Landkreis) de Regen. La süperfìce del teretóre aministràt del cümü l'è de 5.80 km² e 'ndel Desember 2016 el gh'ìa 'na popolasiù de 2 128 abitàncc.","num_words":99,"character_repetition_ratio":0.005,"word_repetition_ratio":0.0,"special_characters_ratio":0.249,"stopwords_ratio":0.051,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":211252.3,"cluster_detection":1}
+{"text":"Painten l'è 'n cümü todèsch del stat federàl (Bundesland) de la Baviera, distrèt (Regierungsbezirk) de la Basa Baviera. El pórta 'l tìtol de Mercàt (Marktgemeinde) che völ dì che 'l reprezènta 'n cèntro de importànsa piö grànda de 'n cümü normàl. El fà part del circondare rüràl (Landkreis) de Kelheim. La süperfìce del teretóre aministràt del cümü l'è de 13.77 km² e 'ndel Desember 2016 el gh'ìa 'na popolasiù de 2 264 abitàncc.","num_words":98,"character_repetition_ratio":0.005,"word_repetition_ratio":0.0,"special_characters_ratio":0.254,"stopwords_ratio":0.051,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":205210.1,"cluster_detection":1}
+{"text":"Caines (Kuens) l'è 'n cümü italià, de la regiù del Trentino-Alto Adige, en Pruvìncia de Bolzano. El g'ha presapóch 319 abitàncc, 'na superfìce de 1 km² e 'na densità de 319 ab.\/km². El cunfìna coi cümü de Rifiano, Scena, Tirolo.","num_words":55,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.289,"stopwords_ratio":0.073,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":72783.5,"cluster_detection":1}
+{"text":"Penango (en piemontés: Pnangh) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Asti. El g'ha presapóch 538 abitàncc, 'na superfìce de 9 km² e 'na densità de 60 ab.\/km². El cunfìna coi cümü de Alfiano Natta (AL), Calliano, Grana, Grazzano Badoglio, Moncalvo.","num_words":65,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.278,"stopwords_ratio":0.077,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":93746.7,"cluster_detection":1}
+{"text":"Giffone l'è 'n cümü italià, de la regiù de la Calabria, en Pruvìncia de Reggio Calabria. El g'ha presapóch 2.181 abitàncc, 'na superfìce de 14 km² e 'na densità de 156 ab.\/km². El cunfìna coi cümü de Anoia, Cinquefrondi, Galatro, Mammola, Maropati.","num_words":60,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.282,"stopwords_ratio":0.067,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":84833.1,"cluster_detection":1}
+{"text":"Küps l'è 'n cümü todèsch del stat federàl (Bundesland) de la Baviera, distrèt (Regierungsbezirk) de l'Àlta Francònia. El pórta 'l tìtol de Mercàt (Marktgemeinde) che völ dì che 'l reprezènta 'n cèntro de importànsa piö grànda de 'n cümü normàl. El fà part del circondare rüràl (Landkreis) de Kronach. La süperfìce del teretóre aministràt del cümü l'è de 35.64 km² e 'ndel Desember 2016 el gh'ìa 'na popolasiù de 7 745 abitàncc.","num_words":99,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.255,"stopwords_ratio":0.051,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":202233.1,"cluster_detection":1}
+{"text":"Violès l'è 'n cümü fransés de la regiù Provence-Alpes-Côte d'Azur, endèla Frància meridiunàla. El fa part del cantù de Orange-Est, del circondàre (arrondissement) de Avignon e del dipartimènt de la Vaucluse. El g'ha 'na popolasiù de 1 560 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 14,79 km² e 'l và de 'na altèsa mìnima de 78 méter a 'na altèsa màsima de 124 méter s.l.m.","num_words":98,"character_repetition_ratio":0.03,"word_repetition_ratio":0.0,"special_characters_ratio":0.284,"stopwords_ratio":0.102,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":127187.8,"cluster_detection":1}

lmo_Latn/new_cc_000005_remove.jsonl

@@ -0,0 +1,12 @@
+{"text":"Évian-les-Bains l'è 'n cümü fransés de la regiù Rhône-Alpes, endèla Frància sud-orientàla. El fa part del cantù de Évian-les-Bains, del circondàre (arrondissement) de Thonon-les-Bains e del dipartimènt de l'Alta Savoia. El g'ha 'na popolasiù de 8 408 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 4,3 km² e 'l và de 'na altèsa mìnima de 372 méter a 'na altèsa màsima de 739 méter s.l.m.","num_words":103,"character_repetition_ratio":0.068,"word_repetition_ratio":0.0,"special_characters_ratio":0.284,"stopwords_ratio":0.097,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":61673.1,"cluster_detection":-1}
+{"text":"fòrsi l'etega l'è ona scienza che l'è sparida del mond intregh. Fa nagòtt, gh'avaremm anmò de inventalla","num_words":24,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.212,"stopwords_ratio":0.083,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":79312.9,"cluster_detection":-1}
+{"text":"El Distret de Neuchâtel l'è giü dei sés distrècc del Canton Neuchâtel, en Svizzera. L'è sitüàt endèla regiù ciamàda Le Littoral. El capolöch aministratìf del distrèt l'è la cità de Neuchâtel che l'è apò la capitàl del cantù. La popolasiù del distrèt l'è 'n magiurànsa de lèngua franséza e 'n totàl la mónta a l'è de 52 669 (dato del Desember 2010).","num_words":75,"character_repetition_ratio":0.08,"word_repetition_ratio":0.0,"special_characters_ratio":0.244,"stopwords_ratio":0.08,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":238667.9,"cluster_detection":-1}
+{"text":"El Distret de Le Locle l'è giü dei sés distrècc del Canton Neuchâtel, en Svizzera. El capolöch aministratìf del distrèt l'è la citadìna de Le Locle. La popolasiù del distrèt l'è 'n magiurànsa de lèngua franséza e 'n total la mónta a 14 099 abitàncc (dato del Desember 2010).","num_words":58,"character_repetition_ratio":0.083,"word_repetition_ratio":0.0,"special_characters_ratio":0.248,"stopwords_ratio":0.052,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":331894.4,"cluster_detection":-1}
+{"text":"El Distret de Val-de-Ruz l'è giü dei sés distrècc del Canton Neuchâtel, en Svizzera. L'è furmàt dei teretóre de la regiù ciamàda Val de Ruz e dei mucc del Giüra che gh'è töt entùren. El capolöch aministratìf del distrèt l'è la citadìna de Cernier. La popolasiù del distrèt l'è 'n magiurànsa de lèngua franséza e 'n total la mónta a 15 831 abitàncc (dato del Desember 2010).","num_words":81,"character_repetition_ratio":0.044,"word_repetition_ratio":0.0,"special_characters_ratio":0.244,"stopwords_ratio":0.074,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":220422.1,"cluster_detection":-1}
+{"text":"'l otàgon (dal Gréch Antìch, da oct cioè òt e gonos cioè àngoi), l'è öna figüra geomètrica piàna, ü polìgon che 'l gh'à òt làti; menimà se ciàma otàgon regolàr, ün otàgon che 'l gh'à i òt làti töi lónch istès e i òt àngoi töi gràncc istès e cioè de 135 gradi.\nÜn otàgon mia regolàr\nÜn otàgon regolàr\nOl perìmeter d'ün otàgon\nModifega\nPer troà 'l perìmeter d'ü otàgon, se 'l otàgon l'è mia regolàr, mè fà l somatòria de töcc e òt i làti, menimà se l'è regolàr bàsta fà.\n2 p = 8 ⋅ l {\\displaystyle 2p\\,=\\,8\\cdot l}\nL'àrea d'ün otàgon\nModifega\nGh'è dò manére dièrse per troà l'àrea d'ü otàgon regolàr:\nA ( l ) = 8 l a 2 = 2 P a 2 {\\displaystyle A(l)={\\frac {8la}{2}}={\\frac {2Pa}{2}}}\n'ndóe l l'è 'l làto, a l'è l'apotéma e 8l e 2P i'è 'l perìmeter. Per capì chèsta fórmula, bàsta pensà che 'l otàgon 'l sìes facc de òt triàngoi regolàr e per ògnü de chès-ce triàngoi 'l làto del otàgon l'è la bàze, menimà l'altèsa l'è 'l apotéma, isé per troà l'àrea de ü de chès-ce triàngoi s'fà come per töcc i triàngoi, cioè bàze per altèsa e pò gh'è de dividì töt per dù, e alùra per troà l'àrea del otàgon l'è asé moltiplicà per òt.","num_words":287,"character_repetition_ratio":0.077,"word_repetition_ratio":0.0,"special_characters_ratio":0.298,"stopwords_ratio":0.094,"flagged_words_ratio":0.0,"lang_id_score":0.999,"perplexity_score":77582.9,"cluster_detection":-1}
+{"text":"El Distret de Delémont (en todèsch: Delsberg) l'è giü dei tré distrècc del Canton Giüra, en Svìsera. El capolöch del distrèt l'è la citadìna de Delémont. La lèngua piö parlàda 'ndel distrèt l'è 'l fransés e la popolasiù totàl l'è de 36031 abitàncc.","num_words":54,"character_repetition_ratio":0.084,"word_repetition_ratio":0.0,"special_characters_ratio":0.242,"stopwords_ratio":0.093,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":151649.6,"cluster_detection":-1}
+{"text":"Riedenburg l'è 'na citadìna todèsca del stat federàl (Bundesland) de la Baviera, distrèt (Regierungsbezirk) de la Bàsa Baviéra. La fà part del circondàre rüràl de Kelheim. La süperfìce del teretóre aministràt de la cità de Riedensburg l'è de 100.60 km² e 'ndel des 2016 la gh'ìa 'na popolasiù de 5 891 abitàncc.","num_words":71,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.257,"stopwords_ratio":0.056,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":229571.8,"cluster_detection":-1}
+{"text":"Piazzole l'è 'n cümü de la Còrsica, endèl teretóre nasiunàl de la Frància. El fa part del cantù de Orezza-Alesani, del circondàre (arrondissement) de Corte e del dipartimènt de la Còrsica Alta. El g'ha 'na popolasiù de 48 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 3,86 e 'l và de 'na altèsa mìnima de 277 méter a 'na altèsa màsima de 1185 méter s.l.m.","num_words":92,"character_repetition_ratio":0.063,"word_repetition_ratio":0.0,"special_characters_ratio":0.283,"stopwords_ratio":0.109,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":177142.6,"cluster_detection":-1}
+{"text":"Saint-Jean-de-Tholome l'è 'n cümü fransés de la regiù Rhône-Alpes, endèla Frància sud-orientàla. El fa part del cantù de Saint-Jeoire, del circondàre (arrondissement) de Bonneville e del dipartimènt de l'Alta Savoia. El g'ha 'na popolasiù de 884 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 12,37 km² e 'l và de 'na altèsa mìnima de 613 méter a 'na altèsa màsima de 1840 méter s.l.m.","num_words":102,"character_repetition_ratio":0.029,"word_repetition_ratio":0.0,"special_characters_ratio":0.283,"stopwords_ratio":0.118,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":72709.0,"cluster_detection":-1}
+{"text":"Montgenèvre l'è 'n cümü fransés de la regiù Provence-Alpes-Côte d'Azur, endèla Frància meridiunàla. El fa part del cantù de Briançon-Nord, del circondàre (arrondissement) de Briançon e del dipartimènt Hautes-Alpes. El g'ha 'na popolasiù de 521 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 40,07 km² e 'l và de 'na altèsa mìnima de 1360 méter a 'na altèsa màsima de 3124 méter s.l.m.","num_words":101,"character_repetition_ratio":0.044,"word_repetition_ratio":0.0,"special_characters_ratio":0.279,"stopwords_ratio":0.109,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":100614.7,"cluster_detection":-1}
+{"text":"El Distret de Porrentruy (en todèsch: Pruntrut) l'è giü dei tré distrècc del Canton Giüra, en Svìsera. El capolöch del distrèt l'è la citadìna de Porrentruy. La lèngua piö parlàda 'ndel distrèt l'è 'l fransés e la popolasiù totàl l'è de 24193 abitàncc.","num_words":54,"character_repetition_ratio":0.099,"word_repetition_ratio":0.0,"special_characters_ratio":0.238,"stopwords_ratio":0.093,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":132916.1,"cluster_detection":-1}

lmo_Latn/new_cc_000005_stas.jsonl

@@ -0,0 +1,115 @@
+[
+    {
+        "avg": {
+            "num_words": 79.49,
+            "character_repetition_ratio": 0.015040000000000003,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.27621999999999997,
+            "stopwords_ratio": 0.07738000000000002,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.9999899999999999,
+            "perplexity_score": 128990.76199999999
+        }
+    },
+    {
+        "std": {
+            "num_words": 28.021240158137182,
+            "character_repetition_ratio": 0.02410847154010391,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.01662202153770713,
+            "stopwords_ratio": 0.018117825476585206,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 9.949874371066208e-05,
+            "perplexity_score": 51703.99523407602
+        }
+    },
+    {
+        "median": {
+            "num_words": 71.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.282,
+            "stopwords_ratio": 0.075,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 113106.05
+        }
+    },
+    {
+        "max": {
+            "num_words": 287.0,
+            "character_repetition_ratio": 0.099,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.306,
+            "stopwords_ratio": 0.118,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 331894.4
+        }
+    },
+    {
+        "min": {
+            "num_words": 24.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.212,
+            "stopwords_ratio": 0.05,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.999,
+            "perplexity_score": 61673.1
+        }
+    },
+    {
+        "90%": {
+            "num_words": 101.0,
+            "character_repetition_ratio": 0.05410000000000001,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.2912,
+            "stopwords_ratio": 0.1021,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 219854.92
+        }
+    },
+    {
+        "75%": {
+            "num_words": 98.0,
+            "character_repetition_ratio": 0.03,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.288,
+            "stopwords_ratio": 0.094,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 145289.425
+        }
+    },
+    {
+        "50%": {
+            "num_words": 71.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.282,
+            "stopwords_ratio": 0.075,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 113106.05
+        }
+    },
+    {
+        "25%": {
+            "num_words": 61.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.26775000000000004,
+            "stopwords_ratio": 0.065,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 92075.25
+        }
+    },
+    {
+        "total size": "100",
+        "keep size": "88",
+        "remove size": "12"
+    }
+]

lmo_Latn/new_cc_000006_keep.jsonl

@@ -0,0 +1,68 @@
+{"text":"Ravensburg l'è 'na citadìna todèsca del stat federàl (Bundesland) del Baden-Württemberg, distrèt (Regierungsbezirk) de Tübinga. L'è 'l capolöch del circondàre rüràl (Landkreis) omònim. La süperfìce del teretóre aministràt de la cità l'è de 92.04 km² e 'ndel 31. des 2017 el gh'ìa 'na popolasiù de 50 393 abitàncc.","num_words":72,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.268,"stopwords_ratio":0.083,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":134642.6,"cluster_detection":1}
+{"text":"Gumbet (nòm uficiàl en Italià: Gombito) l'è 'n cümü italià, de la regiù de la Lombardìa, en Pruvìncia de Cremùna. El g'ha presapóch 614 abitàncc e 'l g'ha 'na superfìce de 9 km², per 'na densità de 68 ab.\/km². El cunfìna coi cümü de Bertonico (LO), Castleòn, Castiglione d'Adda (LO), Furmighèra, Riultèla, San Basàn.","num_words":81,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.282,"stopwords_ratio":0.074,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":74563.3,"cluster_detection":1}
+{"text":"Publier l'è 'n cümü fransés de la regiù Rhône-Alpes, endèla Frància sud-orientàla. El fa part del cantù de Évian-les-Bains, del circondàre (arrondissement) de Thonon-les-Bains e del dipartimènt de l'Alta Savoia. El g'ha 'na popolasiù de 6 288 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 8,92 km² e 'l và de 'na altèsa mìnima de 372 méter a 'na altèsa màsima de 721 méter s.l.m.","num_words":100,"character_repetition_ratio":0.039,"word_repetition_ratio":0.0,"special_characters_ratio":0.286,"stopwords_ratio":0.1,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":78229.2,"cluster_detection":1}
+{"text":"Reggiolo (endèla parlàda locàl: Rezōl) l'è 'n cümü italià, de la regiù de l'Emìlia Romàgna, en Pruvìncia de Reggio Emilia. El g'ha presapóch 8.559 abitàncc e 'l g'ha 'na superfìce de 43 km², per 'na densità de 199 ab.\/km². El cunfìna coi cümü de Campagnola Emilia, Fabbrico, Gunsàga (MN), Guastalla, Luzzara, Mòia (MN), Novellara, Rolo.","num_words":85,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.286,"stopwords_ratio":0.082,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":85751.9,"cluster_detection":1}
+{"text":"Garzigliana (en piemontés: Garzian-a) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Türì. El g'ha presapóch 544 abitàncc, 'na superfìce de 7 km² e 'na densità de 78 ab.\/km². El cunfìna coi cümü de Pinerolo, Osasco, Macello, Bricherasio, Cavour.","num_words":64,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.274,"stopwords_ratio":0.078,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":77904.9,"cluster_detection":1}
+{"text":"Montanaro (en piemontés: Montanar) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Türì. El g'ha presapóch 5.273 abitàncc, 'na superfìce de 20 km² e 'na densità de 264 ab.\/km². El cunfìna coi cümü de Caluso, Foglizzo, San Benigno Canavese, Chivasso.","num_words":62,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.282,"stopwords_ratio":0.065,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":99793.4,"cluster_detection":1}
+{"text":"La Muraz l'è 'n cümü fransés de la regiù Rhône-Alpes, endèla Frància sud-orientàla. El fa part del cantù de Reignier-Ésery, del circondàre (arrondissement) de Saint-Julien-en-Genevois e del dipartimènt de l'Alta Savoia. El g'ha 'na popolasiù de 1 045 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 14,38 km² e 'l và de 'na altèsa mìnima de 537 méter a 'na altèsa màsima de 1303 méter s.l.m.","num_words":103,"character_repetition_ratio":0.029,"word_repetition_ratio":0.0,"special_characters_ratio":0.286,"stopwords_ratio":0.097,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":86882.3,"cluster_detection":1}
+{"text":"Touët-sur-Var l'è 'n cümü fransés de la regiù Provence-Alpes-Côte d'Azur, endèla Frància meridiunàla. El fa part del cantù de Canton de Villars-sur-Var, del circondàre (arrondissement) de Nìsa e del dipartimènt de le Alpi Marìtime. El g'ha 'na popolasiù de 682 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 14,98 km² e 'l và de 'na altèsa mìnima de 280 méter a 'na altèsa màsima de 1043 méter s.l.m.","num_words":105,"character_repetition_ratio":0.028,"word_repetition_ratio":0.0,"special_characters_ratio":0.282,"stopwords_ratio":0.095,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":82998.7,"cluster_detection":1}
+{"text":"Vinzier l'è 'n cümü fransés de la regiù Rhône-Alpes, endèla Frància sud-orientàla. El fa part del cantù de Évian-les-Bains, del circondàre (arrondissement) de Thonon-les-Bains e del dipartimènt de l'Alta Savoia. El g'ha 'na popolasiù de 727 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 7 km² e 'l và de 'na altèsa mìnima de 536 méter a 'na altèsa màsima de 920 méter s.l.m.","num_words":100,"character_repetition_ratio":0.04,"word_repetition_ratio":0.0,"special_characters_ratio":0.277,"stopwords_ratio":0.1,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":77222.9,"cluster_detection":1}
+{"text":"Carbunera (isé pò en piemontés; Carbonara Scrivia 'n italià) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Alessandria. El g'ha presapóch 966 abitàncc, 'na superfìce de 5 km² e 'na densità de 193 ab.\/km². El cunfìna coi cümü de Spineigh, Turtona, La Vilëta.","num_words":65,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.272,"stopwords_ratio":0.062,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":111209.4,"cluster_detection":1}
+{"text":"Mésigny l'è 'n cümü fransés de la regiù Rhône-Alpes, endèla Frància sud-orientàla. El fa part del cantù de Annecy-Nord-Ouest, del circondàre (arrondissement) de Annecy e del dipartimènt de l'Alta Savoia. El g'ha 'na popolasiù de 691 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 6,73 km² e 'l và de 'na altèsa mìnima de 400 méter a 'na altèsa màsima de 720 méter s.l.m.","num_words":98,"character_repetition_ratio":0.035,"word_repetition_ratio":0.0,"special_characters_ratio":0.283,"stopwords_ratio":0.102,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":102149.2,"cluster_detection":1}
+{"text":"Piea (en piemontés: Pièja) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Asti. El g'ha presapóch 568 abitàncc, 'na superfìce de 8 km² e 'na densità de 71 ab.\/km². El cunfìna coi cümü de Cortanze, Cunico, Montafia, Piovà Massaia, Soglio, Viale.","num_words":64,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.283,"stopwords_ratio":0.094,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":82048.7,"cluster_detection":1}
+{"text":"Weidenbach l'è 'n cümü todèsch del stat federàl (Bundesland) de la Baviera, distrèt (Regierungsbezirk) de la Média Francònia. El pórta 'l tìtol de Mercàt (Marktgemeinde) che völ dì che 'l reprezènta 'n cèntro de importànsa piö grànda de 'n cümü normàl. El fà part del circondare rüràl (Landkreis) de Ansbach. La süperfìce del teretóre aministràt del cümü l'è de 21.71 km² e 'ndel Desember 2016 el gh'ìa 'na popolasiù de 2 218 abitàncc.","num_words":98,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.251,"stopwords_ratio":0.051,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":226103.8,"cluster_detection":1}
+{"text":"El Canton Glarona (en todèsch: Glarus; en fransés e 'n alemà: Glaris; en romàncio: Glaruna) l'è 'n cantù svìser a magiurànsa linguìstica todèsca, sitüàt endèl cèntro del paés. La capitàl l'è la cità de Glarona. L'è stat en posedimènt dei Asburgo 'ntra 'l 1264 e 'l 1352, quan che pò l'è deentàt mèmber de la Confederasiù Svìsera.","num_words":79,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.258,"stopwords_ratio":0.076,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":133159.3,"cluster_detection":1}
+{"text":"Kipfenberg l'è 'n cümü todèsch del stat federàl (Bundesland) de la Baviera, distrèt (Regierungsbezirk) de l'Alta Baviera. El pórta 'l tìtol de Mercàt (Marktgemeinde) che völ dì che 'l reprezènta 'n cèntro de importànsa piö grànda de 'n cümü normàl. El fà part del circondare rüràl (Landkreis) de Eichstätt. La süperfìce del teretóre aministràt del cümü l'è de 81.43 km² e 'ndel Desember 2016 el gh'ìa 'na popolasiù de 5 792 abitàncc.","num_words":100,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.252,"stopwords_ratio":0.05,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":189391.8,"cluster_detection":1}
+{"text":"Scido l'è 'n cümü italià, de la regiù de la Calabria, en Pruvìncia de Reggio Calabria. El g'ha presapóch 1.047 abitàncc, 'na superfìce de 17 km² e 'na densità de 62 ab.\/km². El cunfìna coi cümü de Cosoleto, Delianuova, San Luca, Santa Cristina d'Aspromonte.","num_words":60,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.276,"stopwords_ratio":0.067,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":98248.0,"cluster_detection":1}
+{"text":"Scientrier l'è 'n cümü fransés de la regiù Rhône-Alpes, endèla Frància sud-orientàla. El fa part del cantù de Reignier-Ésery, del circondàre (arrondissement) de Saint-Julien-en-Genevois e del dipartimènt de l'Alta Savoia. El g'ha 'na popolasiù de 1 087 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 7,21 km² e 'l và de 'na altèsa mìnima de 423 méter a 'na altèsa màsima de 490 méter s.l.m.","num_words":102,"character_repetition_ratio":0.029,"word_repetition_ratio":0.0,"special_characters_ratio":0.279,"stopwords_ratio":0.098,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":89825.6,"cluster_detection":1}
+{"text":"Bad Bocklet l'è 'n cümü todèsch del stat federàl (Bundesland) de la Baviera, distrèt (Regierungsbezirk) de la Bàsa Francònia. El pórta 'l tìtol de Mercàt (Marktgemeinde) che völ dì che 'l reprezènta 'n cèntro de importànsa piö grànda de 'n cümü normàl. El fà part del circondare rüràl (Landkreis) de Bad Kissingen. La süperfìce del teretóre aministràt del cümü l'è de 36.20 km² e 'ndel Desember 2016 el gh'ìa 'na popolasiù de 4 533 abitàncc.","num_words":101,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.252,"stopwords_ratio":0.05,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":219662.3,"cluster_detection":1}
+{"text":"Laghi (en vèneto: Laghi) l'è 'n cümü italià, de la regiù del Vèneto, en Pruvìncia de Vicènsa. El g'ha presapóch 127 abitàncc, 'na superfìce de 22 km² e 'na densità de 6 ab.\/km². El cunfìna coi cümü de Arsiero, Folgaria (TN), Lastebasse, Posina, Terragnolo (TN).","num_words":66,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.291,"stopwords_ratio":0.091,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":95051.7,"cluster_detection":1}
+{"text":"Oberkotzau l'è 'n cümü todèsch del stat federàl (Bundesland) de la Baviera, distrèt (Regierungsbezirk) de l'Àlta Francònia. El pórta 'l tìtol de Mercàt (Marktgemeinde) che völ dì che 'l reprezènta 'n cèntro de importànsa piö grànda de 'n cümü normàl. El fà part del circondare rüràl (Landkreis) de Hof. La süperfìce del teretóre aministràt del cümü l'è de 21.51 km² e 'ndel Desember 2016 el gh'ìa 'na popolasiù de 5 341 abitàncc.","num_words":100,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.254,"stopwords_ratio":0.05,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":173570.2,"cluster_detection":1}
+{"text":"Còsta (isé pò en piemontés; Costa Vescovato 'n italià) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Alessandria. El g'ha presapóch 347 abitàncc, 'na superfìce de 7,74 km² e 'na densità de 44 ab.\/km². El cunfìna coi cümü de Vurasca, Carzòu, Castlania, Sregh, Munzögh, Paderna, La Vilëta.","num_words":74,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.278,"stopwords_ratio":0.081,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":101311.8,"cluster_detection":1}
+{"text":"La Penne l'è 'n cümü fransés de la regiù Provence-Alpes-Côte d'Azur, endèla Frància meridiunàla. El fa part del cantù de Puget-Théniers, del circondàre (arrondissement) de Nìsa e del dipartimènt de le Alpi Marìtime. El g'ha 'na popolasiù de 319 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 18,08 km² e 'l và de 'na altèsa mìnima de 520 méter a 'na altèsa màsima de 1436 méter s.l.m.","num_words":102,"character_repetition_ratio":0.029,"word_repetition_ratio":0.0,"special_characters_ratio":0.283,"stopwords_ratio":0.098,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":134123.9,"cluster_detection":1}
+{"text":"Castelviscunt (nòm uficiàl en Italià: Castelvisconti) l'è 'n cümü italià, de la regiù de la Lombardìa, en Pruvìncia de Cremùna. El g'ha presapóch 350 abitàncc e 'l g'ha 'na superfìce de 9 km², per 'na densità de 39 ab.\/km². El cunfìna coi cümü de Sanèl, Burdulan, Bórch San Giàcom (BS), Casalbütan, Casalmuran, Quinsà (BS).","num_words":84,"character_repetition_ratio":0.006,"word_repetition_ratio":0.0,"special_characters_ratio":0.272,"stopwords_ratio":0.071,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":78703.9,"cluster_detection":1}
+{"text":"Beinette (en piemontés: Beinëtte) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Cuneo. El g'ha presapóch 2.719 abitàncc, 'na superfìce de 17 km² e 'na densità de 160 ab.\/km². El cunfìna coi cümü de Chiusa di Pesio, Cuneo, Margarita, Morozzo, Peveragno.","num_words":66,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.285,"stopwords_ratio":0.061,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":87864.9,"cluster_detection":1}
+{"text":"Cinaglio (en piemontés: Sinaj) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Asti. El g'ha presapóch 459 abitàncc, 'na superfìce de 5 km² e 'na densità de 92 ab.\/km². El cunfìna coi cümü de Asti, Camerano Casasco, Chiusano d'Asti, Cortandone, Monale, Settime.","num_words":67,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.274,"stopwords_ratio":0.075,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":83274.6,"cluster_detection":1}
+{"text":"Palazzo Canavese (en piemontés: Palass) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Türì. El g'ha presapóch 782 abitàncc, 'na superfìce de 5 km² e 'na densità de 156 ab.\/km². El cunfìna coi cümü de Bollengo, Piverone, Magnano (BI), Albiano d'Ivrea, Azeglio.","num_words":67,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.281,"stopwords_ratio":0.06,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":91442.3,"cluster_detection":1}
+{"text":"Le Gere (nòm uficiàl en Italià: Gerre de' Caprioli) l'è 'n cümü italià, de la regiù de la Lombardìa, en Pruvìncia de Cremùna. El g'ha presapóch 895 abitàncc e 'l g'ha 'na superfìce de 8 km², per 'na densità de 112 ab.\/km². El cunfìna coi cümü de Castelvetro Piacentino (PC), Cremùna, Stagn.","num_words":73,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.286,"stopwords_ratio":0.082,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":114182.4,"cluster_detection":1}
+{"text":"Rasteau l'è 'n cümü fransés de la regiù Provence-Alpes-Côte d'Azur, endèla Frància meridiunàla. El fa part del cantù de Vaison-la-Romaine, del circondàre (arrondissement) de Carpentras e del dipartimènt de la Vaucluse. El g'ha 'na popolasiù de 805 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 18,81 km² e 'l và de 'na altèsa mìnima de 117 méter a 'na altèsa màsima de 366 méter s.l.m.","num_words":100,"character_repetition_ratio":0.029,"word_repetition_ratio":0.0,"special_characters_ratio":0.277,"stopwords_ratio":0.11,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":100705.4,"cluster_detection":1}
+{"text":"Portigliola l'è 'n cümü italià, de la regiù de la Calabria, en Pruvìncia de Reggio Calabria. El g'ha presapóch 1.332 abitàncc, 'na superfìce de 5 km² e 'na densità de 266 ab.\/km². El cunfìna coi cümü de Antonimina, Locri, Sant'Ilario dello Ionio.","num_words":58,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.276,"stopwords_ratio":0.069,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":110325.6,"cluster_detection":1}
+{"text":"Redundèsch (nòm uficiàl en Italià: Redondesco) l'è 'n cümü italià, de la regiù de la Lombardìa, en Pruvìncia de Màntoa. El g'ha presapóch 1.387 abitàncc e 'l g'ha 'na superfìce de 19 km², per 'na densità de 73 ab.\/km². El cunfìna coi cümü de Aquanégra, Gasòlt, Marcarìa, Mariàna, Piübega.","num_words":71,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.281,"stopwords_ratio":0.085,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":94660.9,"cluster_detection":1}
+{"text":"Elva (en piemontés: Elva) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Cuneo. El g'ha presapóch 108 abitàncc, 'na superfìce de 26 km² e 'na densità de 4 ab.\/km². El cunfìna coi cümü de Bellino, Casteldelfino, Prazzo, Sampeyre, Stroppo.","num_words":62,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.279,"stopwords_ratio":0.081,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":92224.5,"cluster_detection":1}
+{"text":"Untergriesbach l'è 'n cümü todèsch del stat federàl (Bundesland) de la Baviera, distrèt (Regierungsbezirk) de la Basa Baviera. El pórta 'l tìtol de Mercàt (Marktgemeinde) che völ dì che 'l reprezènta 'n cèntro de importànsa piö grànda de 'n cümü normàl. El fà part del circondare rüràl (Landkreis) de Passau. La süperfìce del teretóre aministràt del cümü l'è de 73.60 km² e 'ndel Desember 2016 el gh'ìa 'na popolasiù de 5 999 abitàncc.","num_words":98,"character_repetition_ratio":0.005,"word_repetition_ratio":0.0,"special_characters_ratio":0.251,"stopwords_ratio":0.051,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":212043.0,"cluster_detection":1}
+{"text":"Sparneck l'è 'n cümü todèsch del stat federàl (Bundesland) de la Baviera, distrèt (Regierungsbezirk) de l'Àlta Francònia. El pórta 'l tìtol de Mercàt (Marktgemeinde) che völ dì che 'l reprezènta 'n cèntro de importànsa piö grànda de 'n cümü normàl. El fà part del circondare rüràl (Landkreis) de Hof. La süperfìce del teretóre aministràt del cümü l'è de 16.36 km² e 'ndel Desember 2016 el gh'ìa 'na popolasiù de 1 632 abitàncc.","num_words":98,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.255,"stopwords_ratio":0.051,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":207796.6,"cluster_detection":1}
+{"text":"Larringes l'è 'n cümü fransés de la regiù Rhône-Alpes, endèla Frància sud-orientàla. El fa part del cantù de Évian-les-Bains, del circondàre (arrondissement) de Thonon-les-Bains e del dipartimènt de l'Alta Savoia. El g'ha 'na popolasiù de 1 252 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 8,07 km² e 'l và de 'na altèsa mìnima de 713 méter a 'na altèsa màsima de 873 méter s.l.m.","num_words":101,"character_repetition_ratio":0.039,"word_repetition_ratio":0.0,"special_characters_ratio":0.285,"stopwords_ratio":0.099,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":76681.2,"cluster_detection":1}
+{"text":"Vacqueyras l'è 'n cümü fransés de la regiù Provence-Alpes-Côte d'Azur, endèla Frància meridiunàla. El fa part del cantù de Beaumes-de-Venise, del circondàre (arrondissement) de Carpentras e del dipartimènt de la Vaucluse. El g'ha 'na popolasiù de 1 076 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 8,97 km² e 'l và de 'na altèsa mìnima de 68 méter a 'na altèsa màsima de 254 méter s.l.m.","num_words":102,"character_repetition_ratio":0.029,"word_repetition_ratio":0.0,"special_characters_ratio":0.275,"stopwords_ratio":0.108,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":96910.6,"cluster_detection":1}
+{"text":"Cascinette d'Ivrea (en piemontés: Cassinëtte d'Ivrèja) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Türì. El g'ha presapóch 1.448 abitàncc, 'na superfìce de 2 km² e 'na densità de 724 ab.\/km². El cunfìna coi cümü de Chiaverano, Burolo, Ivrea.","num_words":64,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.283,"stopwords_ratio":0.078,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":64369.7,"cluster_detection":1}
+{"text":"San Bastian (en italià: San Sebastiano Curone) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Alessandria. El g'ha presapóch 543 abitàncc, 'na superfìce de 3,95 km² e 'na densità de 181 ab.\/km². El cunfìna coi cümü de Bërgnàu e Frascà, Dernis, Gremiasch, Muntèigu.","num_words":70,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.277,"stopwords_ratio":0.071,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":91576.7,"cluster_detection":1}
+{"text":"Ardore l'è 'n cümü italià, de la regiù de la Calabria, en Pruvìncia de Reggio Calabria. El g'ha presapóch 4.827 abitàncc, 'na superfìce de 32 km² e 'na densità de 151 ab.\/km². El cunfìna coi cümü de Benestare, Bovalino, Ciminà, Platì, Sant'Ilario dello Ionio.","num_words":64,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.282,"stopwords_ratio":0.062,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":97833.4,"cluster_detection":1}
+{"text":"Castellero (en piemontés: Castlé) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Asti. El g'ha presapóch 291 abitàncc, 'na superfìce de 4 km² e 'na densità de 73 ab.\/km². El cunfìna coi cümü de Baldichieri d'Asti, Monale, Villafranca d'Asti.","num_words":62,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.275,"stopwords_ratio":0.097,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":82481.0,"cluster_detection":1}
+{"text":"Amirat l'è 'n cümü fransés de la regiù Provence-Alpes-Côte d'Azur, endèla Frància meridiunàla. El fa part del cantù de Canton de Saint-Auban, del circondàre (arrondissement) de Grasse e del dipartimènt de le Alpi Marìtime. El g'ha 'na popolasiù de 57 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 12,95 km² e 'l và de 'na altèsa mìnima de 725 méter a 'na altèsa màsima de 1373 méter s.l.m.","num_words":102,"character_repetition_ratio":0.029,"word_repetition_ratio":0.0,"special_characters_ratio":0.279,"stopwords_ratio":0.108,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":134882.6,"cluster_detection":1}
+{"text":"Sillingy l'è 'n cümü fransés de la regiù Rhône-Alpes, endèla Frància sud-orientàla. El fa part del cantù de Annecy-Nord-Ouest , del circondàre (arrondissement) de Annecy e del dipartimènt de l'Alta Savoia. El g'ha 'na popolasiù de 4 588 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 14,84 km² e 'l và de 'na altèsa mìnima de 455 méter a 'na altèsa màsima de 755 méter s.l.m.","num_words":102,"character_repetition_ratio":0.035,"word_repetition_ratio":0.0,"special_characters_ratio":0.29,"stopwords_ratio":0.098,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":110103.2,"cluster_detection":1}
+{"text":"Quinto di Treviso (en vèneto: Quinto de Trevixo) l'è 'n cümü italià, de la regiù del Vèneto, en Pruvìncia de Treviso. El g'ha presapóch 9.286 abitàncc, 'na superfìce de 18 km² e 'na densità de 516 ab.\/km². El cunfìna coi cümü de Morgano, Paese, Treviso, Zero Branco.","num_words":67,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.289,"stopwords_ratio":0.06,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":109085.0,"cluster_detection":1}
+{"text":"Eschau l'è 'n cümü todèsch del stat federàl (Bundesland) de la Baviera, distrèt (Regierungsbezirk) de la Bàsa Francònia. El pórta 'l tìtol de Mercàt (Marktgemeinde) che völ dì che 'l reprezènta 'n cèntro de importànsa piö grànda de 'n cümü normàl. El fà part del circondare rüràl (Landkreis) de Miltenberg. La süperfìce del teretóre aministràt del cümü l'è de 38.12 km² e 'ndel Desember 2016 el gh'ìa 'na popolasiù de 3 762 abitàncc.","num_words":98,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.252,"stopwords_ratio":0.051,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":221929.5,"cluster_detection":1}
+{"text":"Li Tur (nòm uficiàl en Italià: Torre de' Picenardi) l'è 'n cümü italià, de la regiù de la Lombardìa, en Pruvìncia de Cremùna. El g'ha presapóch 1.839 abitàncc e 'l g'ha 'na superfìce de 17 km², per 'na densità de 108 ab.\/km². El cunfìna coi cümü de Li Cà, Capela, Drissuna, Isola, La Pessina, Vultèd.","num_words":72,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.3,"stopwords_ratio":0.083,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":100097.3,"cluster_detection":1}
+{"text":"Auvare l'è 'n cümü fransés de la regiù Provence-Alpes-Côte d'Azur, endèla Frància meridiunàla. El fa part del cantù de Canton de Puget-Théniers, del circondàre (arrondissement) de Nìsa e del dipartimènt de le Alpi Marìtime. El g'ha 'na popolasiù de 46 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 18,27 km² e 'l và de 'na altèsa mìnima de 479 méter a 'na altèsa màsima de 2133 méter s.l.m.","num_words":104,"character_repetition_ratio":0.029,"word_repetition_ratio":0.0,"special_characters_ratio":0.279,"stopwords_ratio":0.096,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":129784.2,"cluster_detection":1}
+{"text":"Geiselwind l'è 'n cümü todèsch del stat federàl (Bundesland) de la Baviera, distrèt (Regierungsbezirk) de la Bàsa Francònia. El pórta 'l tìtol de Mercàt (Marktgemeinde) che völ dì che 'l reprezènta 'n cèntro de importànsa piö grànda de 'n cümü normàl. El fà part del circondare rüràl (Landkreis) de Kitzingen. La süperfìce del teretóre aministràt del cümü l'è de 48.77 km² e 'ndel Desember 2016 el gh'ìa 'na popolasiù de 2 427 abitàncc.","num_words":98,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.25,"stopwords_ratio":0.051,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":228628.8,"cluster_detection":1}
+{"text":"Pers-Jussy l'è 'n cümü fransés de la regiù Rhône-Alpes, endèla Frància sud-orientàla. El fa part del cantù de Reignier-Ésery, del circondàre (arrondissement) de Saint-Julien-en-Genevois e del dipartimènt de l'Alta Savoia. El g'ha 'na popolasiù de 2 660 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 18,68 km² e 'l và de 'na altèsa mìnima de 480 méter a 'na altèsa màsima de 931 méter s.l.m.","num_words":103,"character_repetition_ratio":0.029,"word_repetition_ratio":0.0,"special_characters_ratio":0.283,"stopwords_ratio":0.097,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":76789.5,"cluster_detection":1}
+{"text":"Argonay l'è 'n cümü fransés de la regiù Rhône-Alpes, endèla Frància sud-orientàla. El fa part del cantù de Annecy-le-Vieux, del circondàre (arrondissement) de Annecy e del dipartimènt de l'Alta Savoia. El g'ha 'na popolasiù de 2 608 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 5,16 km² e 'l và de 'na altèsa mìnima de 450 méter a 'na altèsa màsima de 738 méter s.l.m.","num_words":99,"character_repetition_ratio":0.035,"word_repetition_ratio":0.0,"special_characters_ratio":0.288,"stopwords_ratio":0.101,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":99960.4,"cluster_detection":1}
+{"text":"Agnana Calabra l'è 'n cümü italià, de la regiù de la Calabria, en Pruvìncia de Reggio Calabria. El g'ha presapóch 663 abitàncc, 'na superfìce de 8 km² e 'na densità de 83 ab.\/km². El cunfìna coi cümü de Canolo, Gerace, Mammola, Siderno.","num_words":57,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.275,"stopwords_ratio":0.07,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":112559.4,"cluster_detection":1}
+{"text":"Masi (en vèneto: Maxi) l'è 'n cümü italià, de la regiù del Vèneto, en Pruvìncia de Padova. El g'ha presapóch 1.800 abitàncc, 'na superfìce de 13 km² e 'na densità de 138 ab.\/km². El cunfìna coi cümü de Badia Polesine (RO), Castelbaldo, Merlara, Piacenza d'Adige.","num_words":62,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.298,"stopwords_ratio":0.065,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":91728.0,"cluster_detection":1}
+{"text":"Martellago (en vèneto: Martełago) l'è 'n cümü italià, de la regiù del Vèneto, en Pruvìncia de Venésia. El g'ha presapóch 19.294 abitàncc, 'na superfìce de 20 km² e 'na densità de 965 ab.\/km². El cunfìna coi cümü de Mirano, Salzano, Scorzè, Spinea, Venezia.","num_words":61,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.293,"stopwords_ratio":0.082,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":84023.5,"cluster_detection":1}
+{"text":"Sablet l'è 'n cümü fransés de la regiù Provence-Alpes-Côte d'Azur, endèla Frància meridiunàla. El fa part del cantù de de Beaumes-de-Venise, del circondàre (arrondissement) de de Carpentras e del dipartimènt de la Vaucluse. El g'ha 'na popolasiù de 1 224 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 11,1 km² e 'l và de 'na altèsa mìnima de 112 méter a 'na altèsa màsima de 419 méter s.l.m.","num_words":102,"character_repetition_ratio":0.029,"word_repetition_ratio":0.0,"special_characters_ratio":0.28,"stopwords_ratio":0.108,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":107275.6,"cluster_detection":1}
+{"text":"Ólta (nòm uficiàl en Italià: Volta Mantovana) l'è 'n cümü italià, de la regiù de la Lombardìa, en Pruvìncia de Màntoa. El g'ha presapóch 6.602 abitàncc e 'l g'ha 'na superfìce de 50 km², per 'na densità de 132 ab.\/km². El cunfìna coi cümü de Cavriàna, Gùit, Marmiröl, Monsanbàn, Valeggio sul Mincio (VR).","num_words":78,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.289,"stopwords_ratio":0.077,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":97676.7,"cluster_detection":1}
+{"text":"Spinea (en vèneto: Spinea) l'è 'n cümü italià, de la regiù del Vèneto, en Pruvìncia de Venésia. El g'ha presapóch 24.512 abitàncc, 'na superfìce de 15 km² e 'na densità de 1634 ab.\/km². El cunfìna coi cümü de Martellago, Mira, Mirano, Venezia.","num_words":56,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.305,"stopwords_ratio":0.071,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":98651.8,"cluster_detection":1}
+{"text":"Burgsinn l'è 'n cümü todèsch del stat federàl (Bundesland) de la Baviera, distrèt (Regierungsbezirk) de la Bàsa Francònia. El pórta 'l tìtol de Mercàt (Marktgemeinde) che völ dì che 'l reprezènta 'n cèntro de importànsa piö grànda de 'n cümü normàl. El fà part del circondare rüràl (Landkreis) de Main-Spessart. La süperfìce del teretóre aministràt del cümü l'è de 51.38 km² e 'ndel Desember 2016 el gh'ìa 'na popolasiù de 2 419 abitàncc.","num_words":101,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.251,"stopwords_ratio":0.05,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":189372.5,"cluster_detection":1}
+{"text":"Samo l'è 'n cümü italià, de la regiù de la Calabria, en Pruvìncia de Reggio Calabria. El g'ha presapóch 1.091 abitàncc, 'na superfìce de 50 km² e 'na densità de 22 ab.\/km². El cunfìna coi cümü de Africo, Cosoleto, San Luca, Sant'Agata del Bianco.","num_words":58,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.289,"stopwords_ratio":0.069,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":122563.0,"cluster_detection":1}
+{"text":"San Bastian (en italià: San Sebastiano Curone) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Alessandria. El g'ha presapóch 543 abitàncc, 'na superfìce de 3,95 km² e 'na densità de 181 ab.\/km². El cunfìna coi cümü de Bërgnàu e Frascà, Dernis, Gremiasch, Muntèigu.","num_words":70,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.277,"stopwords_ratio":0.071,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":91576.7,"cluster_detection":1}
+{"text":"Isolabella (en piemontés: Isolabela) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Türì. El g'ha presapóch 398 abitàncc, 'na superfìce de 4 km² e 'na densità de 100 ab.\/km². El cunfìna coi cümü de Villanova d'Asti (AT), Poirino, Valfenera (AT), Cellarengo (AT).","num_words":66,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.29,"stopwords_ratio":0.076,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":102806.0,"cluster_detection":1}
+{"text":"Munzögh (en italià: Montegioco) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Alessandria. El g'ha presapóch 305 abitàncc, 'na superfìce de 9,8 km² e 'na densità de 61 ab.\/km². El cunfìna coi cümü de Vurasca, Sregh, Costa, Munlià, Munt Marsèi, Sarzòu.","num_words":65,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.282,"stopwords_ratio":0.062,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":80431.6,"cluster_detection":1}
+{"text":"Elsenfeld l'è 'n cümü todèsch del stat federàl (Bundesland) de la Baviera, distrèt (Regierungsbezirk) de la Bàsa Francònia. El pórta 'l tìtol de Mercàt (Marktgemeinde) che völ dì che 'l reprezènta 'n cèntro de importànsa piö grànda de 'n cümü normàl. El fà part del circondare rüràl (Landkreis) de Miltenberg. La süperfìce del teretóre aministràt del cümü l'è de 24.38 km² e 'ndel Desember 2016 el gh'ìa 'na popolasiù de 9 221 abitàncc.","num_words":98,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.25,"stopwords_ratio":0.051,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":212494.7,"cluster_detection":1}
+{"text":"Cellarengo (en piemontés: Slarengh) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Asti. El g'ha presapóch 603 abitàncc, 'na superfìce de 10 km² e 'na densità de 60 ab.\/km². El cunfìna coi cümü de Isolabella (TO), Montà (CN), Poirino (TO), Pralormo (TO), Valfenera.","num_words":68,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.297,"stopwords_ratio":0.059,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":108109.0,"cluster_detection":1}
+{"text":"Baldichieri d'Asti (en piemontés: Baudiché) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Asti. El g'ha presapóch 1.010 abitàncc, 'na superfìce de 5 km² e 'na densità de 202 ab.\/km². El cunfìna coi cümü de Asti, Castellero, Monale, Tigliole, Villafranca d'Asti.","num_words":66,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.279,"stopwords_ratio":0.091,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":80483.0,"cluster_detection":1}
+{"text":"Abtswind l'è 'n cümü todèsch del stat federàl (Bundesland) de la Baviera, distrèt (Regierungsbezirk) de la Bàsa Francònia. El pórta 'l tìtol de Mercàt (Marktgemeinde) che völ dì che 'l reprezènta 'n cèntro de importànsa piö grànda de 'n cümü normàl. El fà part del circondare rüràl (Landkreis) de Kitzingen. La süperfìce del teretóre aministràt del cümü l'è de 12.81 km² e 'ndel Desember 2016 el gh'ìa 'na popolasiù de 847 abitàncc.","num_words":97,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.248,"stopwords_ratio":0.052,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":207277.7,"cluster_detection":1}
+{"text":"Alpette (en piemontés: Alpëtte) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Türì. El g'ha presapóch 300 abitàncc, 'na superfìce de 5 km² e 'na densità de 60 ab.\/km². El cunfìna coi cümü de Pont-Canavese, Sparone, Cuorgnè, Canischio.","num_words":59,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.277,"stopwords_ratio":0.068,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":83761.3,"cluster_detection":1}
+{"text":"Plaus (Plaus) l'è 'n cümü italià, de la regiù del Trentino-Alto Adige, en Pruvìncia de Bolzano. El g'ha presapóch 548 abitàncc, 'na superfìce de 4 km² e 'na densità de 137 ab.\/km². El cunfìna coi cümü de Lagundo, Naturno, Parcines.","num_words":56,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.286,"stopwords_ratio":0.071,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":89599.6,"cluster_detection":1}
+{"text":"Santena (en piemontés: Santna) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Türì. El g'ha presapóch 10.019 abitàncc, 'na superfìce de 16 km² e 'na densità de 626 ab.\/km². El cunfìna coi cümü de Chieri, Cambiano, Trofarello, Poirino, Villastellone.","num_words":60,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.285,"stopwords_ratio":0.083,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":90251.6,"cluster_detection":1}
+{"text":"Zeitlofs l'è 'n cümü todèsch del stat federàl (Bundesland) de la Baviera, distrèt (Regierungsbezirk) de la Bàsa Francònia. El pórta 'l tìtol de Mercàt (Marktgemeinde) che völ dì che 'l reprezènta 'n cèntro de importànsa piö grànda de 'n cümü normàl. El fà part del circondare rüràl (Landkreis) de Bad Kissingen. La süperfìce del teretóre aministràt del cümü l'è de 40.11 km² e 'ndel Desember 2016 el gh'ìa 'na popolasiù de 2 062 abitàncc.","num_words":101,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.251,"stopwords_ratio":0.05,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":215739.7,"cluster_detection":1}
+{"text":"Favria (en piemontés: Favria) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Türì. El g'ha presapóch 4.322 abitàncc, 'na superfìce de 14 km² e 'na densità de 309 ab.\/km². El cunfìna coi cümü de Rivarolo Canavese, Busano, Oglianico, Front.","num_words":59,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.29,"stopwords_ratio":0.068,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":104186.7,"cluster_detection":1}

lmo_Latn/new_cc_000006_remove.jsonl

@@ -0,0 +1,16 @@
+{"text":"El Distret de Münchwilen l'è giü dei òt distrecc del Canton Türgovia, en Svizzera. El g'ha 'na popolasiù de 43 614 abitàncc (dato del Desember 2012 El capolöch del distrèt l'è la citadìna de Münchwilen.","num_words":45,"character_repetition_ratio":0.052,"word_repetition_ratio":0.0,"special_characters_ratio":0.252,"stopwords_ratio":0.089,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":211614.2,"cluster_detection":-1}
+{"text":"Pietra Marazzi (en piemontés: La Prèja) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Alessandria. El g'ha presapóch 930 abitàncc, 'na superfìce de 7 km² e 'na densità de 133 ab.\/km². El cunfìna coi cümü de Alessandria, Montecastello, Pecetto di Valenza.","num_words":64,"character_repetition_ratio":0.046,"word_repetition_ratio":0.0,"special_characters_ratio":0.264,"stopwords_ratio":0.078,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":106218.4,"cluster_detection":-1}
+{"text":"Röhrnbach l'è 'n cümü todèsch del stat federàl (Bundesland) de la Baviera, distrèt (Regierungsbezirk) de la Basa Baviera. El pórta 'l tìtol de Mercàt (Marktgemeinde) che völ dì che 'l reprezènta 'n cèntro de importànsa piö grànda de 'n cümü normàl. El fà part del circondare rüràl (Landkreis) de Freyung-Grafenau. La süperfìce del teretóre aministràt del cümü l'è de 40.66 km² e 'ndel Desember 2016 el gh'ìa 'na popolasiù de 4 349 abitàncc.","num_words":101,"character_repetition_ratio":0.005,"word_repetition_ratio":0.0,"special_characters_ratio":0.25,"stopwords_ratio":0.05,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":193336.9,"cluster_detection":-1}
+{"text":"El danés (nòm natìf: dansk; IPA: [d̥ænsɡ̊]) l'è giöna de le lèngue germàniche setentriunài (ciamàde apò lèngue scandìnave), en sóta-'nsèma del ram Germànic de le lèngue Indo-Europèe.\nL'è parlàt de piö o méno 6 miliù de persùne, suratöt en Danimarca, ma l'è dopràt apò a de 50,000 danés endèl Schleswig-Holstein (nòrt de la Germania) endóche l'è cunsideràda lèngua minuritària.\nEl danés el g'ha stato uficiàl e l'è 'nsegnàt endèle scöle apò 'n Groenlàndia, e 'ndèle ìzole Far Oer.\n'N Islànda e 'ndèle ìzole Far Oer el danés l'è 'nsegnàt come lèngua straniéra ubligatòria. Gh'è dèle cumünità che pàrla la lèngua danés apò 'n Argentina, 'ndèi Stati Ünìcc e 'n Cànada.","num_words":162,"character_repetition_ratio":0.073,"word_repetition_ratio":0.0,"special_characters_ratio":0.238,"stopwords_ratio":0.068,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":72320.3,"cluster_detection":-1}
+{"text":"Rüdenhausen l'è 'n cümü todèsch del stat federàl (Bundesland) de la Baviera, distrèt (Regierungsbezirk) de la Bàsa Francònia. El pórta 'l tìtol de Mercàt (Marktgemeinde) che völ dì che 'l reprezènta 'n cèntro de importànsa piö grànda de 'n cümü normàl. El fà part del circondare rüràl (Landkreis) de Kitzingen. La süperfìce del teretóre aministràt del cümü l'è de 6.88 km² e 'ndel Desember 2016 el gh'ìa 'na popolasiù de 874 abitàncc.","num_words":97,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.244,"stopwords_ratio":0.052,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":211281.9,"cluster_detection":-1}
+{"text":"Valle-d'Orezza l'è 'n cümü de la Còrsica, endèl teretóre nasiunàl de la Frància. El fa part del cantù de Orezza-Alesani, del circondàre (arrondissement) de Corte e del dipartimènt de la Còrsica Alta. El g'ha 'na popolasiù de 43 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 3,93 e 'l và de 'na altèsa mìnima de 433 méter a 'na altèsa 1200 méter s.l.m.","num_words":92,"character_repetition_ratio":0.058,"word_repetition_ratio":0.0,"special_characters_ratio":0.286,"stopwords_ratio":0.109,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":115443.4,"cluster_detection":-1}
+{"text":"Pigna l'è 'n cümü de la Còrsica, endèl teretóre nasiunàl de la Frància. El fa part del cantù de Île-Rousse, del circondàre (arrondissement) de Calvi e del dipartimènt de la Còrsica Alta. El g'ha 'na popolasiù de 100 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 2,21 e 'l và de 'na altèsa mìnima de 15 méter a 'na altèsa màsima de 521 méter s.l.m.","num_words":92,"character_repetition_ratio":0.064,"word_repetition_ratio":0.0,"special_characters_ratio":0.286,"stopwords_ratio":0.098,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":146072.7,"cluster_detection":-1}
+{"text":"Geisenhausen l'è 'n cümü todèsch del stat federàl (Bundesland) de la Baviera, distrèt (Regierungsbezirk) de la Basa Baviera. El pórta 'l tìtol de Mercàt (Marktgemeinde) che völ dì che 'l reprezènta 'n cèntro de importànsa piö grànda de 'n cümü normàl. El fà part del circondare rüràl (Landkreis) de Landshut. La süperfìce del teretóre aministràt del cümü l'è de 62.54 km² e 'ndel Desember 2016 el gh'ìa 'na popolasiù de 6 938 abitàncc.","num_words":98,"character_repetition_ratio":0.005,"word_repetition_ratio":0.0,"special_characters_ratio":0.251,"stopwords_ratio":0.051,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":228825.0,"cluster_detection":-1}
+{"text":"Domancy l'è 'n cümü fransés de la regiù Rhône-Alpes, endèla Frància sud-orientàla. El fa part del cantù de Sallanches, del circondàre (arrondissement) de Bonneville e del dipartimènt de l'Alta Savoia. El g'ha 'na popolasiù de 1 859 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 7,4 km² e 'l và de 'na altèsa mìnima de 547 méter a 'na altèsa màsima de 900 méter s.l.m.","num_words":96,"character_repetition_ratio":0.03,"word_repetition_ratio":0.0,"special_characters_ratio":0.282,"stopwords_ratio":0.104,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":142801.8,"cluster_detection":-1}
+{"text":"Ol UTC+03:00 (anc adoma UTC+3) l'è un fus orare qe l'è inanz de tre ore sœ l'UTC, e per la so jeografia l'è l'ora del Caucaso.","num_words":38,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.333,"stopwords_ratio":0.079,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":62688.4,"cluster_detection":-1}
+{"text":"Campegine (endèla parlàda locàl: Campéṣen) l'è 'n cümü italià, de la regiù de l'Emìlia Romàgna, en Pruvìncia de Reggio Emilia. El g'ha presapóch 4.900 abitàncc e 'l g'ha 'na superfìce de 24 km², per 'na densità de 204 ab.\/km². El cunfìna coi cümü de Cadelbosco di Sopra, Castelnovo di Sotto, Gattatico, Reggio Emilia, Sant'Ilario d'Enza.","num_words":85,"character_repetition_ratio":0.03,"word_repetition_ratio":0.0,"special_characters_ratio":0.27,"stopwords_ratio":0.082,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":75614.4,"cluster_detection":-1}
+{"text":"Treville (en piemontés: Tërvila) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Alessandria. El g'ha presapóch 280 abitàncc, 'na superfìce de 4 km² e 'na densità de 70 ab.\/km². El cunfìna coi cümü de Cereseto, Ozzano Monferrato, Sala Monferrato.","num_words":61,"character_repetition_ratio":0.016,"word_repetition_ratio":0.0,"special_characters_ratio":0.263,"stopwords_ratio":0.066,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":98855.9,"cluster_detection":-1}
+{"text":"Brizon l'è 'n cümü fransés de la regiù Rhône-Alpes, endèla Frància sud-orientàla. El fa part del cantù de Bonneville, del circondàre (arrondissement) de Bonneville e del dipartimènt de l'Alta Savoia. El g'ha 'na popolasiù de 457 abitàncc[1], dato agiurnàt al sginer 2011. El sò teretóre el g'ha 'na superfìce de 10,39 km² e 'l và de 'na altèsa mìnima de 707 méter a 'na altèsa màsima de 1936 méter s.l.m.","num_words":95,"character_repetition_ratio":0.056,"word_repetition_ratio":0.0,"special_characters_ratio":0.285,"stopwords_ratio":0.105,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":133595.7,"cluster_detection":-1}
+{"text":"Montaldo Torinese (en piemontés: Montàud) l'è 'n cümü italià, de la regiù del Piemónt, en Pruvìncia de Türì. El g'ha presapóch 589 abitàncc, 'na superfìce de 4 km² e 'na densità de 147 ab.\/km². El cunfìna coi cümü de Gassino Torinese, Sciolze, Marentino, Pavarolo, Chieri, Andezeno.","num_words":68,"character_repetition_ratio":0.007,"word_repetition_ratio":0.0,"special_characters_ratio":0.266,"stopwords_ratio":0.059,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":78266.1,"cluster_detection":-1}
+{"text":"Ol UTC+01:00 (anc adoma UTC+1) l'è un fus orare qe l'è inanz de un'ora sœ l'UTC, e l'è basad sœ l'Europa Centrala.","num_words":33,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.342,"stopwords_ratio":0.121,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":45734.1,"cluster_detection":-1}
+{"text":"Oberthulba l'è 'n cümü todèsch del stat federàl (Bundesland) de la Baviera, distrèt (Regierungsbezirk) de la Bàsa Francònia. El pórta 'l tìtol de Mercàt (Marktgemeinde) che völ dì che 'l reprezènta 'n cèntro de importànsa piö grànda de 'n cümü normàl. El fà part del circondare rüràl (Landkreis) de Bad Kissingen. La süperfìce del teretóre aministràt del cümü l'è de 52.24 km² e 'ndel Desember 2016 el gh'ìa 'na popolasiù de 5 018 abitàncc.","num_words":102,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.25,"stopwords_ratio":0.049,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":214827.3,"cluster_detection":-1}

lmo_Latn/new_cc_000006_stas.jsonl

@@ -0,0 +1,115 @@
+[
+    {
+        "avg": {
+            "num_words": 80.97619047619048,
+            "character_repetition_ratio": 0.011488095238095238,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.2761071428571429,
+            "stopwords_ratio": 0.07683333333333334,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 119717.22261904759
+        }
+    },
+    {
+        "std": {
+            "num_words": 20.7645394789589,
+            "character_repetition_ratio": 0.018434242236882767,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.01775965053357835,
+            "stopwords_ratio": 0.019021187017522215,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.0,
+            "perplexity_score": 49115.47329537702
+        }
+    },
+    {
+        "median": {
+            "num_words": 78.5,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.279,
+            "stopwords_ratio": 0.076,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 100028.85
+        }
+    },
+    {
+        "max": {
+            "num_words": 162.0,
+            "character_repetition_ratio": 0.073,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.342,
+            "stopwords_ratio": 0.121,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 228825.0
+        }
+    },
+    {
+        "min": {
+            "num_words": 33.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.238,
+            "stopwords_ratio": 0.049,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 45734.1
+        }
+    },
+    {
+        "90%": {
+            "num_words": 102.0,
+            "character_repetition_ratio": 0.037800000000000014,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.29,
+            "stopwords_ratio": 0.1017,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 211914.36000000002
+        }
+    },
+    {
+        "75%": {
+            "num_words": 100.0,
+            "character_repetition_ratio": 0.029,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.286,
+            "stopwords_ratio": 0.09525,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 134253.575
+        }
+    },
+    {
+        "50%": {
+            "num_words": 78.5,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.279,
+            "stopwords_ratio": 0.076,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 100028.85
+        }
+    },
+    {
+        "25%": {
+            "num_words": 64.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.2655,
+            "stopwords_ratio": 0.06175,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 85319.79999999999
+        }
+    },
+    {
+        "total size": "84",
+        "keep size": "68",
+        "remove size": "16"
+    }
+]

mah_Latn/fineweb-2_000001_stas.jsonl

@@ -0,0 +1,115 @@
+[
+    {
+        "avg": {
+            "num_words": 631.6608821402748,
+            "character_repetition_ratio": 0.10082646420824296,
+            "word_repetition_ratio": 0.04219233550253072,
+            "special_characters_ratio": 0.2243463485177151,
+            "stopwords_ratio": 0.18240853217642808,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.8111344902386117,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "std": {
+            "num_words": 1431.5793062774296,
+            "character_repetition_ratio": 0.11638797521522534,
+            "word_repetition_ratio": 0.12108490904296802,
+            "special_characters_ratio": 0.03787624078621657,
+            "stopwords_ratio": 0.1106623461966236,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.2714072469525238,
+            "perplexity_score": 0.0
+        }
+    },
+    {
+        "median": {
+            "num_words": 209.0,
+            "character_repetition_ratio": 0.064,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.22,
+            "stopwords_ratio": 0.22,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "max": {
+            "num_words": 30211.0,
+            "character_repetition_ratio": 0.568,
+            "word_repetition_ratio": 0.956,
+            "special_characters_ratio": 0.563,
+            "stopwords_ratio": 0.488,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "min": {
+            "num_words": 48.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.135,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.113,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "90%": {
+            "num_words": 1733.3999999999983,
+            "character_repetition_ratio": 0.2785999999999997,
+            "word_repetition_ratio": 0.102,
+            "special_characters_ratio": 0.267,
+            "stopwords_ratio": 0.304,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "75%": {
+            "num_words": 624.0,
+            "character_repetition_ratio": 0.108,
+            "word_repetition_ratio": 0.006,
+            "special_characters_ratio": 0.234,
+            "stopwords_ratio": 0.272,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "50%": {
+            "num_words": 209.0,
+            "character_repetition_ratio": 0.064,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.22,
+            "stopwords_ratio": 0.22,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "25%": {
+            "num_words": 94.0,
+            "character_repetition_ratio": 0.037,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.208,
+            "stopwords_ratio": 0.066,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.58,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "total size": "1383",
+        "keep size": "1094",
+        "remove size": "289"
+    }
+]

mah_Latn/mala_000002_stas.jsonl

@@ -0,0 +1,115 @@
+[
+    {
+        "avg": {
+            "num_words": 1253.7385620915034,
+            "character_repetition_ratio": 0.06287254901960783,
+            "word_repetition_ratio": 0.0048921568627450975,
+            "special_characters_ratio": 0.2201503267973856,
+            "stopwords_ratio": 0.25900653594771245,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.9918137254901961,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "std": {
+            "num_words": 1341.978871341626,
+            "character_repetition_ratio": 0.0234658721325334,
+            "word_repetition_ratio": 0.01587074436567145,
+            "special_characters_ratio": 0.019495523616196463,
+            "stopwords_ratio": 0.06492479276402291,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.07312716970364586,
+            "perplexity_score": 0.0
+        }
+    },
+    {
+        "median": {
+            "num_words": 719.5,
+            "character_repetition_ratio": 0.064,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.217,
+            "stopwords_ratio": 0.262,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "max": {
+            "num_words": 10475.0,
+            "character_repetition_ratio": 0.157,
+            "word_repetition_ratio": 0.141,
+            "special_characters_ratio": 0.324,
+            "stopwords_ratio": 0.455,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "min": {
+            "num_words": 11.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.176,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.252,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "90%": {
+            "num_words": 2879.0,
+            "character_repetition_ratio": 0.0895,
+            "word_repetition_ratio": 0.0115,
+            "special_characters_ratio": 0.243,
+            "stopwords_ratio": 0.316,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "75%": {
+            "num_words": 1858.25,
+            "character_repetition_ratio": 0.076,
+            "word_repetition_ratio": 0.002,
+            "special_characters_ratio": 0.22875,
+            "stopwords_ratio": 0.289,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "50%": {
+            "num_words": 719.5,
+            "character_repetition_ratio": 0.064,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.217,
+            "stopwords_ratio": 0.262,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "25%": {
+            "num_words": 394.25,
+            "character_repetition_ratio": 0.05025,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.208,
+            "stopwords_ratio": 0.244,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "total size": "306",
+        "keep size": "284",
+        "remove size": "22"
+    }
+]

min_Latn/fineweb-2_000001_stas.jsonl

@@ -0,0 +1,115 @@
+[
+    {
+        "avg": {
+            "num_words": 1553.2692307692307,
+            "character_repetition_ratio": 0.09277188328912467,
+            "word_repetition_ratio": 0.09044960212201592,
+            "special_characters_ratio": 0.18826127320954908,
+            "stopwords_ratio": 0.0031684350132625996,
+            "flagged_words_ratio": 0.00027188328912466843,
+            "lang_id_score": 0.815710875331565,
+            "perplexity_score": 1448.8957559681699
+        }
+    },
+    {
+        "std": {
+            "num_words": 5042.90464781273,
+            "character_repetition_ratio": 0.07166848935166167,
+            "word_repetition_ratio": 0.16004063884133787,
+            "special_characters_ratio": 0.020168834099569728,
+            "stopwords_ratio": 0.00501768870478076,
+            "flagged_words_ratio": 0.0009726116266521781,
+            "lang_id_score": 0.23322456753158488,
+            "perplexity_score": 1132.1442894015004
+        }
+    },
+    {
+        "median": {
+            "num_words": 581.0,
+            "character_repetition_ratio": 0.0675,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.187,
+            "stopwords_ratio": 0.002,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.9655,
+            "perplexity_score": 1259.75
+        }
+    },
+    {
+        "max": {
+            "num_words": 84493.0,
+            "character_repetition_ratio": 0.481,
+            "word_repetition_ratio": 0.818,
+            "special_characters_ratio": 0.253,
+            "stopwords_ratio": 0.039,
+            "flagged_words_ratio": 0.013,
+            "lang_id_score": 1.0,
+            "perplexity_score": 9753.9
+        }
+    },
+    {
+        "min": {
+            "num_words": 59.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.131,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.129,
+            "perplexity_score": 2.3
+        }
+    },
+    {
+        "90%": {
+            "num_words": 1913.1000000000015,
+            "character_repetition_ratio": 0.205,
+            "word_repetition_ratio": 0.38670000000000004,
+            "special_characters_ratio": 0.215,
+            "stopwords_ratio": 0.008,
+            "flagged_words_ratio": 0.001,
+            "lang_id_score": 1.0,
+            "perplexity_score": 2509.75
+        }
+    },
+    {
+        "75%": {
+            "num_words": 1148.0,
+            "character_repetition_ratio": 0.107,
+            "word_repetition_ratio": 0.109,
+            "special_characters_ratio": 0.202,
+            "stopwords_ratio": 0.004,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 1890.3500000000001
+        }
+    },
+    {
+        "50%": {
+            "num_words": 581.0,
+            "character_repetition_ratio": 0.0675,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.187,
+            "stopwords_ratio": 0.002,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.9655,
+            "perplexity_score": 1259.75
+        }
+    },
+    {
+        "25%": {
+            "num_words": 236.0,
+            "character_repetition_ratio": 0.049,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.174,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.63525,
+            "perplexity_score": 775.6
+        }
+    },
+    {
+        "total size": "754",
+        "keep size": "662",
+        "remove size": "92"
+    }
+]

min_Latn/mala_000002_stas.jsonl

@@ -0,0 +1,115 @@
+[
+    {
+        "avg": {
+            "num_words": 49.74024615893515,
+            "character_repetition_ratio": 0.0198534055316847,
+            "word_repetition_ratio": 8.49909895630541e-05,
+            "special_characters_ratio": 0.18675339140442218,
+            "stopwords_ratio": 0.003010347358374193,
+            "flagged_words_ratio": 8.500304942129906e-05,
+            "lang_id_score": 0.9955418959475429,
+            "perplexity_score": 366383.22175994684
+        }
+    },
+    {
+        "std": {
+            "num_words": 145.88479231348614,
+            "character_repetition_ratio": 0.02861165421171509,
+            "word_repetition_ratio": 0.003086199938920334,
+            "special_characters_ratio": 0.04168092543148252,
+            "stopwords_ratio": 0.007730128385225543,
+            "flagged_words_ratio": 0.0016695849698121447,
+            "lang_id_score": 0.042123510140596676,
+            "perplexity_score": 160279.21489926163
+        }
+    },
+    {
+        "median": {
+            "num_words": 34.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.175,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 348508.05000000005
+        }
+    },
+    {
+        "max": {
+            "num_words": 31637.0,
+            "character_repetition_ratio": 0.2,
+            "word_repetition_ratio": 0.586,
+            "special_characters_ratio": 0.4,
+            "stopwords_ratio": 0.182,
+            "flagged_words_ratio": 0.133,
+            "lang_id_score": 1.0,
+            "perplexity_score": 1893335.7
+        }
+    },
+    {
+        "min": {
+            "num_words": 10.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.065,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.054,
+            "perplexity_score": 55.6
+        }
+    },
+    {
+        "90%": {
+            "num_words": 80.0,
+            "character_repetition_ratio": 0.058,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.232,
+            "stopwords_ratio": 0.02,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 543020.69
+        }
+    },
+    {
+        "75%": {
+            "num_words": 54.0,
+            "character_repetition_ratio": 0.033,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.205,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 424403.7
+        }
+    },
+    {
+        "50%": {
+            "num_words": 34.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.175,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 348508.05000000005
+        }
+    },
+    {
+        "25%": {
+            "num_words": 29.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.159,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 273020.3
+        }
+    },
+    {
+        "total size": "580438",
+        "keep size": "547554",
+        "remove size": "32884"
+    }
+]

mug_Latn/fineweb-2_000001_keep.jsonl

@@ -0,0 +1,2 @@
+{"text":"1\nPi zi tiki na wiini hlai n'amai gaiɗi yai gaini ɗif lai\n1-11\nAlaw a rga hlai n'amai gaiɗi yai, gaini ɗif lai\n1War pi zi tiki, won hlai n'Alaw a za hlai a tika pini aŋ rga hlai n'amai gaiɗi yai ɗa, 2yai te nafu kadai nɵa, wala warɗi kai, gegeŋ a wa tini edi midini yem paŋ, smer na gdaŋ na mini Alaw par guvula amai midini yem.\n3Nɵa Alaw a muɗa: Gaglai a za, gaglai a za lai. 4Alaw a tala ɓa gaglai ɗa a wala na pɗem, nɵa a ɓurwa gaglai edi sini gegeŋ par. 5Alaw a sini yiki wiini gaglai ɗa ɓa girvudi, wiini gegeŋ ɗa ɓa duvuk lai, koskoi ktai te za, gorof par ktai te za lai, hanɗa a mefeŋ n'avut.\n6Alaw a muɗa: Wala ktai na gdaŋ ta a yima arbani yem n'amai gaini na azumai ɗa kaai, aŋ za ɓraw arbani. 7A za nɵa lai, Alaw a za wala hanɗa kapai a ɓurwa yem n'amai gaini n'azumai edi sini marni par. 8Alaw a sini yiki wiini wala hanɗa ɓa hlai n'amai. Koskoi te za, gorof par ta za lai, hanɗa a mefeŋ n'ag'aŋ sulu. 9Alaw a muɗa ɓa yem n'azumai a tapa war hlai ktai, a hina hlai ɗa a huula, a za nɵa lai. 10Alaw a sini yiki wiini hlai na huleŋ ɓa \"afti\", wiini yem-ra n'a tapa war hlai ktai ɓa \"yem-ra n'abai\". Alaw a tala hanɗa arni pɗem.\n11Alaw a muɗa: Afti paŋ a va gaini sugoi n'a guɗa, gaini evek na seyemni a sisiɗa viya, gaini luwuŋ n'a ali pinzibani kiini kiini, gaini na seyemni a na war alini zi wii dama, a za nɵa lai. 12Afti a diya sugoi na gaini gûɗi, evek na pinzibani kiini kiini viya sisiɗa pini seyemni gaini luwoŋai n'a wa alini gaini seyemni amlai war alini pinzibani kiini kiini lai. Alaw a tala ɓa hanɗa a pɗem. 13Koskoi te za, gorof par te za lai, hanɗa a mefeŋ n'ag'aŋ hu. 14Alaw a muɗa: Wazagai n'a za gaglai war hlai n'amai buri a ɓurwa arbaɗi girvudi gaini duvuk, kapai a za aŋ wala zi siŋki war kitini hlai zi fet, war piɵini mefeŋ gaini buza lai, 15Kapai a za aŋ wazagai n'a za gaglai warni hlai n'amai, a ŋala midini afti, a za maini nɵa. 16Alaw a za wazagai n'abakai n'a za gaglai sulu, n'abai arbani a sumna aŋ pai na girvudi, n'agwi a sumna aŋ pai duvuk, gaini meeɵek lai. 17Alaw a mulaŋ amai arbani hlai n'amai, aŋ za gaglai midini afti. 18Aŋ midini girvudi gaini duvuk, aŋ ɓurwa arbani gaglai gaini gegeŋ. Alaw a tala ɓa hanɗa a pɗem. 19Koskoi te za, gorof par te za, hanɗa a mefeŋ n'ag'aŋ puɗu.\n20Alaw a muɗa: Yem-ra a va gaini wazagai na karni, wala zi ɗufli a ɗufla arbani hlai n'amai, amai par midini afti. 21Alaw a rga wazagai na karni n'abakai na karni n'arni yem, wazagai na karni n'a na muguza paŋ pinzibani kiini kiini, n'a va arni yem paŋ gaini wazagai zi ɗufli zi baada, pinzibani kiini kiini lai. Alaw a tala ɓa hanɗa a pɗem. 22Alaw a ɓakaŋ a muɗa: Ki bindi maswai, ki sisiɗi viya, ki vi yem war yem-ra n'abakai, wala zi ɗufli lai a bunda viya midini afti. 23Koskoi te za, gorof par te za lai, hanɗa a mefeŋ n'ag'aŋ ɵim. 24Alaw a muɗa: Afti a wa wazagai na karni pinzibani kiini kiini, wazagai na gaini ezini puɗu puɗu n'aha gaini n'edi buza gaini wazagai na karni n'agogoi n'a hidila, a za maini nɵa. 25Alaw a za wazagai n'edi buza pinzibani kiini kiini, wazagai n'abakai n'aha pinzibani kiini kiini, wazagai n'agogoi n'a hidila azumai midini afti paŋ, pinzibani kiini kiini lai. Alaw a tala hanɗa arni pɗem. 26Alaw a muɗa: Zumu ɗif maimu tumu nɵa, ziŋgani maimu tumu nɵa lai, kapai a ŋa midini hilif na warni yem-ra n'abai, midini wazagai zi ɗifli n'arbani hlai n'amai, midini wazagai n'ezini puɗu puɗu paŋ, midini afti paŋ, midini wazagai zi hidili na midini afti paŋ lai. 27Nɵa Alaw a rga ɗif a ziŋga sini nɵa,\na rgaŋ a ziŋga sini Ni Alaw nɵa,\na rgiɗi ɗa wus gaiɗi muni.\n28Alaw a ɓikiɗi a miɗiɗi: Ki sisiɗi viya, ki bindi viya, ki vi midini afti, ki ŋi midini, hilif na war yem-ra n'abai, wazagai zi ɗufli n'arbani hlai n'amai gaini wazagai na karni na midini afti paŋ, aga ki simni aŋ paakai midini.\n29Alaw a muɗa: Tili, mu na siki evek na seyemni a na midiɗi yai paŋ, gaini luwuŋ paŋ, na seyemni a na war ali zi wii lai aŋ walaki zi simi. 30Sugoi n'a guɗa, mu saŋ aŋ simi sini wazagai na midiɗi yai ɗa paŋ, sini wazagai zi ɗufli n'arbani hlai n'amai, sini wazagai na muguza midini afti, na gaini suŋfa warni paŋ, aga a za nɵa. 31Alaw a tala sdani n'a zaŋ, a tala arni pɗem gara. Koskoi te za, gorof par te za lai. Hanɗa a mefeŋ n'ag'aŋ ɵaara.","id":"<urn:uuid:f19f519e-6265-4d7a-b8fe-fc3aa54e1d97>","dump":"CC-MAIN-2019-43","url":"https:\/\/www.bible.com\/fi\/bible\/1855\/GEN.1.MUSGUM","date":"2019-10-15T17:17:20Z","file_path":"s3:\/\/commoncrawl\/crawl-data\/CC-MAIN-2019-43\/segments\/1570986660067.26\/warc\/CC-MAIN-20191015155056-20191015182556-00207.warc.gz","language":"mug","language_score":1.0000090599,"language_script":"Latn","minhash_cluster_size":2,"top_langs":"{\"mug_Latn_score\": 1.0000090599060059}","num_words":824,"character_repetition_ratio":0.104,"word_repetition_ratio":0.028,"special_characters_ratio":0.257,"stopwords_ratio":0.331,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":500.0,"cluster_detection":1}
+{"text":"6\nHitrini Yesu midini wala zi si aŋ like\n1ki giɗimi siki pɗem kapai ki zi jre ɗikat na wiiki pini arɗi ɗai kapai e tiliki ɗa kai, na ɓa ki ziŋ maini hanɗa nɵa ɗa, Epiki na warni fuŋ-n'Alaw aga a siki vrak kai. 2Nɵa won hlai na ku sa wala aŋ like ɗa wiini ɗif n'aŋ war gir ɗa, ku pɵa hum wuzaku kai, maini na ɗai zi rhai e ziŋ amlai warni Sinagogne, war futi lai kapai ɗai e kûliɗi ɗa nɵa kai, jre mu miɗiki nagai e nivi vrakɗi ya. 3Amma won hlai na ku sa walaku aŋ like wiini ɗif n'aŋ war gir ɗa, a zuva tuku na muni ɗa, e siɗa wala na tuku na wus ɗa te zaŋ ɗa kai. 4Kapai wala na ku saŋ aŋ like ɗa a za war kuɗuhai, Apuku n'a tala wala na war ŋoyai ɗa, aga a vurguŋku.\nHitrini na midini siiwa\nLuk. 11. 2-4\n5Won hlai na ki siiwi ɗa, aga ki zi maiɗi ɗai zi rhai n'e firiyi e siiwi amai gaini eziɗi ca ca amlai warni Sinagogne, zaw mini dagrani futi, kapai ɗai paŋ e siɗiɗi ɗa nɵa kai, jre, mu miɗiki, e nivi vrakɗi ya. 6Amma tuku ɗa, won hlai na ku dara ku siiwa ɗa, niya amlai warɗi dilimiku n'edi pini hlai ɗa, ku doogo porte amai duk, ku siiwa Apuku n'a na war ŋoyai ɗa, Apuku n'a tala wala na war ŋoyai ɗa aga a vurguŋku. 7Won hlai na ki diri ki siiwi ɗa, ki miɗi seŋ viya viya maini na wiiɗi pinziba na zamai ɗa nɵa kai, n'e hiini ɓa siiwaɗi aga a ɵina burini seŋɗi na viya n'e miɗiŋ war siiwa ɗa, 8Ki zi maiɗi nɵa kai, buri Epiki a siɗa wala na jaaki aŋ sini, won hlai na ki zilbiŋ kai hai ɗa.\nSiiwa na wiini Epiɗ-ɗai\nLuk. 11. 2-4\n9Nɵa, aga ki siiwi maini nɵa:\nEpiyi n'aŋ warni fuŋ-n'Alaw, a zuva ɓa, ɗai e siɗi ɓa yikuku a na sɗik,\n10A zuva ɓa paiku te halasi, a zuva ɓa diriku a za midiɗi yai,\nmaini n'amai warni fuŋ-n'Alaw nɵa.\n11Girɗa ɗa, siyi walayi zi simi na war yuvai ɗa,\n12Ku hina meefeŋ n'aŋ midiyi ɗa,\nmaini na tiyi mi ɗa ziŋ siɗi nagai na tumuɗyi aŋ midiɗi nɵa.\n13Hiniyi aŋ niyi warni titimi kai, amma ku kûɗiyi edi tini na meefeŋ par,\nburi pai gaini spak gaiɗi abai paŋ a wiiku haa hlai n'a faada kai.\nAmen.\n14Na ɓa tiki ki hini meefeŋ na wiiɗi ɗai li ɗa, Epiki war fuŋ-n'Alaw aga a hiniki meefeŋ na wiiki tiki lai. 15amma na ɓa tiki ki hini meefeŋ na wiiɗi ɗai kai ɗa, Epiki aga a hiniki meefeŋ na wiiki kaalai.\nHitrini Yesu midini tikini sai\n16Won hlai na ki tiki sai li ɗa, ki zi siki maiɗi ɗai zi rhai ɗa ɵa kai, n'e ŋirɓi arɗi kapai ɗai e siɗi ɓa e ɗa tiki sai, jre mu miɗiki, e nivi vrakɗi ya. 17Amma tuku, won hlai na ku tika sai ɗa, ku girda emel muduku, ku ma arku lai, 18kapai ɗai e siɗi suku ɓa ku tika sai kai, sai a sɗaŋ ɗa a Apuku n'a na war ŋoyai, Apuku n'a na tala war ŋoyai aga a vurguŋku.\nGodai na war fuŋ-n'Alaw\nLuk. 12. 32-34\n19Ki tipi godai warɗi yai kai, woni hlai na foto a sumaŋ, a coro, a tuura edi lai, na mahalakai e cû dalam buri e hiliŋ ɗa kai. 20A pɗem ɓa, ki tipi godaiki ɗa amai warni fuŋ-n'Alaw, woni ɗa foto a kiɗa a tuuraŋ kai, a coro aŋ tuura kai, mahalakai e kiɗi e cû dalam aŋ hiliŋ kaalai. 21Buri ɓa, hlai na godaiku aŋ woni ɗa, agulku aga te za woni lai.\nArai te lampa na wiini si\nLuk. 11. 33-36\n22Arai te lampa na wiini si, na ɓa arku te na pɗemi, si paŋ a gaglai. 23Amma na ɓa arai te na pɗemi kai ɗa, suku paŋ aŋ warni gegeŋ. Na ɓa gaglai na suku ɗa a gegeŋ ɗa, gegeŋ ɗa mal ɗa aga a suwa hanɗa azi gama ɗa?\nAlaw, zaw farai\nLuk. 16. 13\n24Ɗif a kiɗa aŋ za aŋ bege na wiiɗi ɗai n'abakai sulu kai, aga a miisa na ktai, a dara na zamai, zaw a tapa seŋni gaini na ktai a miisa na zamai, tiki lai, ki kiɗi ki zi aŋ bagakai na wiini Alaw lai, na wiini Mamun lai kai.\nHiini zi giriŋi\nLuk. 12. 22-32\n25Buri nɵa mu na miɗiki, ki giriŋi burini wala kai zaŋ, burini suŋfaki kai, burini wala n'aga ki simiŋ ɗa kai, burini wala n'aga ki ciŋ ɗa kai, burini amur-siki kai, burini wala n'aga ki wiŋ siki kaalai. Suŋfa ɗa a suwa simi kai ɗi? Si ɗa a suwa sapa lai kai ɗi? 26Tili sini wala zi ɗifli n'arbani hlai n'amai, a bula kai, a haɗa kai, a tapasi seyem aha warni vre kaalai, amma Epiki na warni fuŋ-n'Alaw a sini simi, tiki, ki siiwi wala zi ɗifli ɗa kai ɗi? 27Arbaki ɗa, n'a kiɗa a dinɗa mefeŋni wuzani agwi gaini hiinini zi giriŋi ɗa asiya ɗa? 28Ki giriŋi burini sapa ɗa buri ma ɗa? Ki tili sini miye n'a na diya edi warni basga, a za sda kai, a duɓura aduzi kai, 29paŋ ktai mu miɗiki: koo Salmun warɗi abaini tekeɗeɗi a wa sapa sini maini ktai arbaɗi nɵa kai. 30Na ɓa Alaw a wa sapa sini evek n'edi war basga n'a na girna, na dawai aga a poko arni afu maini hanɗa ɵa ɗa, aga a za hanɗa siki tiki a suwa pra kai ɗi? Tiki na gaini yimi n'agwi, aga a za siki a suwa hanɗa azi gama ɗa? 31Nɵa ki hiwiyi siki gaini hiini na ɓa aga mi simi ɗa a ma ɗa? Zaw aga mi ci ɗa a ma ɗa? Zaw n'aga mi wi siyi ɗa a ma ɗi ɗa kai, 32hanɗa a wazagai na pinziba na zamai ɗa e piyiŋ mriɗi edi ta ɗa, buri Epiki na warni fuŋ-n'Alaw a sɗa ɓa jaaki aŋ sini. 33Ki piyiti avut ɗa e pai na wiini Alaw gaini jre ɗikat na wiini, na hanɗa paŋ aga a sa siki aŋ ɓeste. 34Nɵa ki hûwyi siki buriɗi dawai kai, buri ɓa dawai aga te huwya siɗi burini siɗi dama\" Yuvai paŋ t'aŋ gaini girɗi girɗi.\"","id":"<urn:uuid:2944b1ff-fc89-4d70-bb7f-1e8497513486>","dump":"CC-MAIN-2019-43","url":"https:\/\/www.bible.com\/ru\/bible\/1855\/MAT.6.MUSGUM","date":"2019-10-19T12:39:40Z","file_path":"s3:\/\/commoncrawl\/crawl-data\/CC-MAIN-2019-43\/segments\/1570986693979.65\/warc\/CC-MAIN-20191019114429-20191019141929-00202.warc.gz","language":"mug","language_score":1.0000094175,"language_script":"Latn","minhash_cluster_size":1,"top_langs":"{\"mug_Latn_score\": 1.0000094175338745}","num_words":1035,"character_repetition_ratio":0.058,"word_repetition_ratio":0.004,"special_characters_ratio":0.272,"stopwords_ratio":0.412,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":500.0,"cluster_detection":1}

mug_Latn/fineweb-2_000001_stas.jsonl

@@ -0,0 +1,115 @@
+[
+    {
+        "avg": {
+            "num_words": 929.5,
+            "character_repetition_ratio": 0.081,
+            "word_repetition_ratio": 0.016,
+            "special_characters_ratio": 0.2645,
+            "stopwords_ratio": 0.3715,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "std": {
+            "num_words": 105.5,
+            "character_repetition_ratio": 0.022999999999999993,
+            "word_repetition_ratio": 0.012,
+            "special_characters_ratio": 0.007500000000000007,
+            "stopwords_ratio": 0.04049999999999998,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.0,
+            "perplexity_score": 0.0
+        }
+    },
+    {
+        "median": {
+            "num_words": 929.5,
+            "character_repetition_ratio": 0.081,
+            "word_repetition_ratio": 0.016,
+            "special_characters_ratio": 0.2645,
+            "stopwords_ratio": 0.3715,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "max": {
+            "num_words": 1035.0,
+            "character_repetition_ratio": 0.104,
+            "word_repetition_ratio": 0.028,
+            "special_characters_ratio": 0.272,
+            "stopwords_ratio": 0.412,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "min": {
+            "num_words": 824.0,
+            "character_repetition_ratio": 0.058,
+            "word_repetition_ratio": 0.004,
+            "special_characters_ratio": 0.257,
+            "stopwords_ratio": 0.331,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "90%": {
+            "num_words": 1013.9,
+            "character_repetition_ratio": 0.0994,
+            "word_repetition_ratio": 0.0256,
+            "special_characters_ratio": 0.2705,
+            "stopwords_ratio": 0.4039,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "75%": {
+            "num_words": 982.25,
+            "character_repetition_ratio": 0.0925,
+            "word_repetition_ratio": 0.022,
+            "special_characters_ratio": 0.26825,
+            "stopwords_ratio": 0.39175,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "50%": {
+            "num_words": 929.5,
+            "character_repetition_ratio": 0.081,
+            "word_repetition_ratio": 0.016,
+            "special_characters_ratio": 0.2645,
+            "stopwords_ratio": 0.3715,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "25%": {
+            "num_words": 876.75,
+            "character_repetition_ratio": 0.0695,
+            "word_repetition_ratio": 0.01,
+            "special_characters_ratio": 0.26075000000000004,
+            "stopwords_ratio": 0.35125,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "total size": "2",
+        "keep size": "2",
+        "remove size": "0"
+    }
+]