Add files using upload-large-folder tool

.gitattributes

@@ -2758,3 +2758,25 @@ tur_Latn/new_cc_000092_keep.jsonl filter=lfs diff=lfs merge=lfs -text
 tur_Latn/fineweb-2_000014_remove.jsonl filter=lfs diff=lfs merge=lfs -text
 tur_Latn/fineweb-2_000027_remove.jsonl filter=lfs diff=lfs merge=lfs -text
 tur_Latn/new_cc_000036_keep.jsonl filter=lfs diff=lfs merge=lfs -text
+tur_Latn/new_cc_000056_keep.jsonl filter=lfs diff=lfs merge=lfs -text
+tur_Latn/new_cc_000032_keep.jsonl filter=lfs diff=lfs merge=lfs -text
+tur_Latn/new_cc_000123_remove.jsonl filter=lfs diff=lfs merge=lfs -text
+tur_Latn/new_cc_000093_keep.jsonl filter=lfs diff=lfs merge=lfs -text
+tur_Latn/fineweb-2_000015_keep.jsonl filter=lfs diff=lfs merge=lfs -text
+tur_Latn/new_cc_000076_remove.jsonl filter=lfs diff=lfs merge=lfs -text
+tur_Latn/fineweb-2_000008_remove.jsonl filter=lfs diff=lfs merge=lfs -text
+tur_Latn/new_cc_000050_remove.jsonl filter=lfs diff=lfs merge=lfs -text
+tur_Latn/new_cc_000082_keep.jsonl filter=lfs diff=lfs merge=lfs -text
+tur_Latn/new_cc_000037_keep.jsonl filter=lfs diff=lfs merge=lfs -text
+tur_Latn/new_cc_000118_remove.jsonl filter=lfs diff=lfs merge=lfs -text
+tur_Latn/new_cc_000091_keep.jsonl filter=lfs diff=lfs merge=lfs -text
+tur_Latn/new_cc_000070_remove.jsonl filter=lfs diff=lfs merge=lfs -text
+tur_Latn/fineweb-2_000020_keep.jsonl filter=lfs diff=lfs merge=lfs -text
+tur_Latn/new_cc_000101_keep.jsonl filter=lfs diff=lfs merge=lfs -text
+tur_Latn/new_cc_000087_remove.jsonl filter=lfs diff=lfs merge=lfs -text
+tur_Latn/new_cc_000069_remove.jsonl filter=lfs diff=lfs merge=lfs -text
+tur_Latn/new_cc_000114_keep.jsonl filter=lfs diff=lfs merge=lfs -text
+tur_Latn/fineweb-2_000022_keep.jsonl filter=lfs diff=lfs merge=lfs -text
+tur_Latn/new_cc_000131_keep.jsonl filter=lfs diff=lfs merge=lfs -text
+tur_Latn/new_cc_000132_remove.jsonl filter=lfs diff=lfs merge=lfs -text
+tur_Latn/new_cc_000066_remove.jsonl filter=lfs diff=lfs merge=lfs -text

acn_Latn/fineweb-2_000001_stas.jsonl

@@ -0,0 +1,115 @@
+[
+    {
+        "avg": {
+            "num_words": 1680.4153471376371,
+            "character_repetition_ratio": 0.06075761266747869,
+            "word_repetition_ratio": 0.008574908647990256,
+            "special_characters_ratio": 0.23442265529841658,
+            "stopwords_ratio": 0.24752984165651645,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.7806455542021925,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "std": {
+            "num_words": 3471.925434939742,
+            "character_repetition_ratio": 0.02520896262231137,
+            "word_repetition_ratio": 0.03283581574310902,
+            "special_characters_ratio": 0.030590102501052662,
+            "stopwords_ratio": 0.1819463270259813,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.2872209652764992,
+            "perplexity_score": 0.0
+        }
+    },
+    {
+        "median": {
+            "num_words": 754.0,
+            "character_repetition_ratio": 0.061,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.22,
+            "stopwords_ratio": 0.337,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "max": {
+            "num_words": 41055.0,
+            "character_repetition_ratio": 0.276,
+            "word_repetition_ratio": 0.44,
+            "special_characters_ratio": 0.312,
+            "stopwords_ratio": 0.558,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "min": {
+            "num_words": 48.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.162,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.242,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "90%": {
+            "num_words": 3704.0,
+            "character_repetition_ratio": 0.086,
+            "word_repetition_ratio": 0.02,
+            "special_characters_ratio": 0.28,
+            "stopwords_ratio": 0.433,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "75%": {
+            "num_words": 1224.0,
+            "character_repetition_ratio": 0.072,
+            "word_repetition_ratio": 0.003,
+            "special_characters_ratio": 0.266,
+            "stopwords_ratio": 0.405,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "50%": {
+            "num_words": 754.0,
+            "character_repetition_ratio": 0.061,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.22,
+            "stopwords_ratio": 0.337,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "25%": {
+            "num_words": 414.0,
+            "character_repetition_ratio": 0.05,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.21,
+            "stopwords_ratio": 0.024,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.445,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "total size": "821",
+        "keep size": "743",
+        "remove size": "78"
+    }
+]

bwt_Latn/mala_000001_keep.jsonl

@@ -0,0 +1,2 @@
+{"url":"","collection":"silbloomlm","source":"BLOOM Library","original_code":"bwt","text":"Njɛmɛ mot a wɛl di baghɛ ditɛŋgɛn dulagh dya CORON Coronavirus wa ba baghɛ na si COVID-19, dulagh di kɔlɔn. Ba na kolɛ di byana di botɛ ɔ mu ma lal na yogh, ɔ ngɔnd ya mandindɛn, ɔ mwa bikoli biba na dyɔm na dibugh (2019)\nDulagh mɛn di wɛl ɛyɛmblan ya ɛkosi na ɛbomb tɛ di fiti di yɛlan mot ɔ mujumb mwa mudimb. Dulagh mɛn di ma kawɛn ɔ miki jita mya mika mwase. Bibotedi bya dulagh din wan di  si bilɛni.\nMot a ma jindMot wa a wɛl dulagh dya mulɛmBat ba dulagh di ma kwɛl ɔ nyol\n\nNyɔŋgɔn ɛsus ba fiti di wɛl dulagh di kɔlɔn din.\nBat ba ma jind, na  bat ba ba ma wɛl mulagh na si dulagh dyo ɔ sɔ so pɛmi lɛ, na dulagh dya fikpa na dulagh dya mulɛm, na dulagh dya maki ma kundil ɔ molo mwa mot mɔ ma befi jita na ma tani dulkagh dibey din dya ba fiŋgil na coronavirus.\n-Mubonji\n-Di jɛ dya nyol-Ekosi ya ɛfɛghɛsi-Missis mya mya waBiyemblan\nBiyɛmblan bya dulagh dya coronavirus bi yɔ mulɛmlɛm na si ɛbomb, mubonji, ɛkosi ya ɛ fɛghɛsi, na missis mya mya wa na di jɛ.\nDoŋgo dya bat ba wɛl mulagh ba wɛl buwa, na ɛbomb ya etigh mot ɔ dyo, na ɛbom ya ese fɛghɛs. Na buwa bwa etogha ngom. Na dinya dibi dya maki. Ditu dya bat ko kana ba ma wɛl dulagh mɛn, ba si wɛl eyɛmblan nde ba yɔ lɛ. Ditu bá pu esiba na ba bolan mel.\nMot na ekosiDitombis dya dulagh dya coronavirus\nCOVID-19: dulagh din wan dyá tombɛlɛn na bat ɔ nyol a na bat ba ba wɛli dulagh mɛn, ba vutɛn bapɛ ba ba si wɛli.\nNa mot a vul ɛkosi ko a simi ma byom bya bya nyet mɔ ɔ dyo na mujum byo bi yɔ dulagh mɛn.\nNa mot a nɔŋg ɛfu ya mot am koso ekosi, ko di simi dulagh dinu difit di wali mot mɛn. Na mot a myeti yom ya dualgh di ma bandam wɔ, tɛ a myɛti mǐs ɛmawɛ, dyo ɛdyawɛ ko mujum ɛmwawɛ, dulagh dinu di fiti di wali mɔ.\nWaŋgo ɔ fiti di kombɛn nyol ɛyawɛ1.  Bol na ɔ si myɛti mǐs,dyo na mujumb ɛmawɛ.\n2. Yofo maka bité na bité, na sɔpi na mali ma ma yagha, tɛ ɔ tiso na tahili ya esaŋgi.3. Ɔ koso na di simi ɔ ɛpapagh ɛyawɛ.4. Bol na osi dya nyam ɛpéyn na di myeti biyɛmbɛ bya bi yɔ loŋgɛ.\n5. Ɔ si vutɛn mot wa a koso na wa a simi, ɔ mima mita mwɔgh.\n6. Ɔ si somɛn bat na maka, ɔ byawan bat na di nughi dya molo kona mujumb.\n7. Si si yɛlagh ɔ matan.8. Si mima fumfogh si si kɛndɛ kɛndɛ.9. Si kɛg si baghɛ na di waso myaŋgo mya mya fu ditɛŋgɛn coronavirus.","num_words":470,"character_repetition_ratio":0.061,"word_repetition_ratio":0.0,"special_characters_ratio":0.252,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.481,"perplexity_score":500.0,"cluster_detection":1}
+{"url":"","collection":"silbloomlm","source":"BLOOM Library","original_code":"bwt","text":"Yə̌ ɛ́yə́ sí lɔ́líní ɛ bî tɛ́ngɛnɛ KORÓNAVAYR Korónavarusə tɔ̂ COVID-19, ɛ́ dí kɛ́n ɛ kɔ́nə́. Ɛtî ɛ́ wusuwə ɛ́yə́ ndúm ɛ nyítíní tɛ́ngɛnɛ nyambɛ̂ anín ɛ́ bílí á ɛkumbu ɛ́ Chǐna, á madû 31 má December, 2019. Nyambɛ̂ anín a wɔ́ŋí biyəmblan ngə bí ŋgɔ́nkɛlɛ, a tingání pə́ mɔ ɛ bulu njí a dí mɔ á nyǔ bwám bwam. A mə́ ɛ kután baʼ á bikumbu jǐta á nkí n shiyə̌. Mɔ ká fɔ́ a bíyǎ á fə́ nyambɛ̂ anin a fíní.\nBatínaMɔ awə̌ a wɔ́ŋí nyambɛ̂ a nlə́mBaʼ ábə́ nyambɛ̂ anin a tíngání ɛ wáli\n\nKɛ́n ɛ kɔ́nə́ ɛ nínán ɛ tingání ɛ kutan baʼ bá kɔ́l ɛsə́sə̌n. Batína na baʼ ábə́ bá mə̌ ɛ́ wɔ́ŋ biyəmblan bí nyambɛ̂ (ngə nyambɛ̂ a pəmi, nyambɛ̂ a bɔmbɔ́, nyambɛ̂ a nlə́m, nyambɛ̂ a makǐ ámə́ má pulu) bá míndí ngə baʼ ábə́ njí kɛ́n ɛ nínan ɛ kwilí bɔ́ á nyǔ bá kfún nkfulu n nə̂n.\n-Ɛfi\n-Wukɔmbakɔm (nyǔ ɛ̌ ləŋ wə á tin)-Ɛkwɛ́sí ɛ́ kínjyə na wuwa wú maka má nyǔBiyəmblan\n\nBiyəmblan bí kɛ́n ɛ Koróna bí dí mulinlin ngə bí ngɔ́nkɛlɛ:\nNkfulu, ɛfi , ɛkfwɛ́sí ɛ nkínjyə́, wuwa wú maka má nyǔ, wukɔ́mbɔ́kɔm, baʼ ábə́ bá kfulu bafɔ́ bá wú wuwa, dwi álə́ lí pə́ŋí, ɛbɔm, yɔndɔmbwá, wusán. Baʼ báfɔ́ ká nyambɛ̂ anin a mə̌ bɔ́  ɛ kutan, bá míndí bwǎm. Baʼ jǐta bá pwi ká bá núŋiyǎ mə̌.\nMɔ a wə̌ á wɔŋí ɛkwɛ́síLikutan lí kɛ́n ɛ koróna\nBaʼ ábə́ bá wúŋí COVID-19, bɔ́ bá kután baʼ bápə́pə̌.\nWə́ti mɔ awə̌ ǎ kfulu a shə́mú, ǎ pə́njí matɔ́tɔ́ má  bikwən á bə́ bí fí mɔ́ á dwî na á nsu.\nNjí baʼ bá núŋí pə́mi ɛyə̌ matɔ́tɔ́ mâ má díní átin, kɛ́n ɛ koróna ɛ tíngání bɔ́ ɛ kutan. Wə́ti mɔ a nyɔtí yǔm ɛ́yə́ matɔ́tɔ́ mâ má mə́ní ɛ kutan ti a kanání ɛkɛ́ á mǐ, á dwí, na á nsu, nyambɛ̂ anin a tingání mɔ́ ɛ kutan.\nYə̌ ɛ́yə́ sí lɔ́líní ɛ bwə nána nyambɛ̂ a nínán a si kután sə́1. Sí si nyɔtí mî, madwî na misu mí sə.2. Sí wû makɛ́ má sə ɛtî tɛ́ na sɔ́pí na madí ámə́ má sáŋí. Ti sí fyákú mɔ́ ná táwili ɛyə̌ ɛ sáŋí.3. Sí Kfwɛ́sí, sí shɛ́mu á  libɔ́ŋ lí ɛkɛ́ átin.4. Sí si dyá nyam ɛ pínyə́; sí si nyɔti ka pə́ nyam ɛ́yə́ ɛ dí wə́ á lungɛ́. Ndé njí sí nyɔ́tí yɔ́, sí lɔ́lí ɛ wulí makɛ́ má sə́ á fâ á shí á shí.\n5. Sí si wútán mɔ awə̌ ǎ kwɛ́si tɔ awə̌ ǎ shə́mu.\n6. Sì si sambán pə́ baꞌ na makɛ́.\n7. Sí si kə̌ á fə́ limuti lí díní.8. Sí máku miyə́ngə́.9. Sí wánan á li kwisí ndúm tɛngɛnɛ yə̌ ɛ́yə́ ɛ́ bwəlan, ndé si lɔ́lí ɛ wasí á fə́ ndúm ɛni ɛ fíní.","num_words":461,"character_repetition_ratio":0.059,"word_repetition_ratio":0.0,"special_characters_ratio":0.234,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.488,"perplexity_score":500.0,"cluster_detection":1}

bwt_Latn/mala_000001_stas.jsonl

@@ -0,0 +1,115 @@
+[
+    {
+        "avg": {
+            "num_words": 465.5,
+            "character_repetition_ratio": 0.06,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.243,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.4845,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "std": {
+            "num_words": 4.5,
+            "character_repetition_ratio": 0.0010000000000000009,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.008999999999999994,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.003500000000000003,
+            "perplexity_score": 0.0
+        }
+    },
+    {
+        "median": {
+            "num_words": 465.5,
+            "character_repetition_ratio": 0.06,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.243,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.4845,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "max": {
+            "num_words": 470.0,
+            "character_repetition_ratio": 0.061,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.252,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.488,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "min": {
+            "num_words": 461.0,
+            "character_repetition_ratio": 0.059,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.234,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.481,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "90%": {
+            "num_words": 469.1,
+            "character_repetition_ratio": 0.0608,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.2502,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.4873,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "75%": {
+            "num_words": 467.75,
+            "character_repetition_ratio": 0.0605,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.2475,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.48624999999999996,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "50%": {
+            "num_words": 465.5,
+            "character_repetition_ratio": 0.06,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.243,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.4845,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "25%": {
+            "num_words": 463.25,
+            "character_repetition_ratio": 0.0595,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.23850000000000002,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.48275,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "total size": "2",
+        "keep size": "2",
+        "remove size": "0"
+    }
+]

dak_Latn/fineweb-2_000001_stas.jsonl

@@ -0,0 +1,115 @@
+[
+    {
+        "avg": {
+            "num_words": 3254.82905982906,
+            "character_repetition_ratio": 0.03645299145299145,
+            "word_repetition_ratio": 0.5215042735042735,
+            "special_characters_ratio": 0.20353846153846153,
+            "stopwords_ratio": 0.18555555555555558,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.9912393162393163,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "std": {
+            "num_words": 1496.1307891694582,
+            "character_repetition_ratio": 0.006253198465682102,
+            "word_repetition_ratio": 0.4554452620610669,
+            "special_characters_ratio": 0.008408927349644399,
+            "stopwords_ratio": 0.027991282050760093,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.013549308225094939,
+            "perplexity_score": 0.0
+        }
+    },
+    {
+        "median": {
+            "num_words": 3250.0,
+            "character_repetition_ratio": 0.036,
+            "word_repetition_ratio": 0.879,
+            "special_characters_ratio": 0.202,
+            "stopwords_ratio": 0.187,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.996,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "max": {
+            "num_words": 8092.0,
+            "character_repetition_ratio": 0.054,
+            "word_repetition_ratio": 0.968,
+            "special_characters_ratio": 0.227,
+            "stopwords_ratio": 0.253,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "min": {
+            "num_words": 1094.0,
+            "character_repetition_ratio": 0.025,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.186,
+            "stopwords_ratio": 0.128,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.923,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "90%": {
+            "num_words": 4925.0,
+            "character_repetition_ratio": 0.045,
+            "word_repetition_ratio": 0.95,
+            "special_characters_ratio": 0.2144,
+            "stopwords_ratio": 0.2212,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.999,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "75%": {
+            "num_words": 3722.0,
+            "character_repetition_ratio": 0.04,
+            "word_repetition_ratio": 0.945,
+            "special_characters_ratio": 0.21,
+            "stopwords_ratio": 0.206,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.998,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "50%": {
+            "num_words": 3250.0,
+            "character_repetition_ratio": 0.036,
+            "word_repetition_ratio": 0.879,
+            "special_characters_ratio": 0.202,
+            "stopwords_ratio": 0.187,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.996,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "25%": {
+            "num_words": 1950.0,
+            "character_repetition_ratio": 0.033,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.197,
+            "stopwords_ratio": 0.166,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.991,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "total size": "117",
+        "keep size": "84",
+        "remove size": "33"
+    }
+]

kor_Hang/fineweb-2_000012_stas.jsonl

@@ -0,0 +1,115 @@
+[
+    {
+        "avg": {
+            "num_words": 669.6762787226658,
+            "character_repetition_ratio": 0.027314653592502607,
+            "word_repetition_ratio": 0.008743471017007976,
+            "special_characters_ratio": 0.2985770360985768,
+            "stopwords_ratio": 0.11930495765359266,
+            "flagged_words_ratio": 3.6163484901076004e-05,
+            "lang_id_score": 0.9996932891357162,
+            "perplexity_score": 917.8587631725089
+        }
+    },
+    {
+        "std": {
+            "num_words": 1075.221151606148,
+            "character_repetition_ratio": 0.028959359823820592,
+            "word_repetition_ratio": 0.029719948969990456,
+            "special_characters_ratio": 0.0362866685910315,
+            "stopwords_ratio": 0.03083734236721388,
+            "flagged_words_ratio": 0.00043523852114399586,
+            "lang_id_score": 0.005850323696077785,
+            "perplexity_score": 715.2045374457078
+        }
+    },
+    {
+        "median": {
+            "num_words": 403.0,
+            "character_repetition_ratio": 0.019,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.294,
+            "stopwords_ratio": 0.122,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 716.7
+        }
+    },
+    {
+        "max": {
+            "num_words": 128689.0,
+            "character_repetition_ratio": 0.453,
+            "word_repetition_ratio": 0.904,
+            "special_characters_ratio": 0.68,
+            "stopwords_ratio": 0.378,
+            "flagged_words_ratio": 0.067,
+            "lang_id_score": 1.0,
+            "perplexity_score": 75287.6
+        }
+    },
+    {
+        "min": {
+            "num_words": 32.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.035,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.257,
+            "perplexity_score": 2.3
+        }
+    },
+    {
+        "90%": {
+            "num_words": 1376.0,
+            "character_repetition_ratio": 0.067,
+            "word_repetition_ratio": 0.022,
+            "special_characters_ratio": 0.345,
+            "stopwords_ratio": 0.156,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 1578.2
+        }
+    },
+    {
+        "75%": {
+            "num_words": 766.0,
+            "character_repetition_ratio": 0.043,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.317,
+            "stopwords_ratio": 0.14,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 1051.5
+        }
+    },
+    {
+        "50%": {
+            "num_words": 403.0,
+            "character_repetition_ratio": 0.019,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.294,
+            "stopwords_ratio": 0.122,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 716.7
+        }
+    },
+    {
+        "25%": {
+            "num_words": 220.0,
+            "character_repetition_ratio": 0.004,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.276,
+            "stopwords_ratio": 0.101,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 540.2
+        }
+    },
+    {
+        "total size": "2881000",
+        "keep size": "2668265",
+        "remove size": "212735"
+    }
+]

kor_Hang/fineweb-2_000013_stas.jsonl

@@ -0,0 +1,115 @@
+[
+    {
+        "avg": {
+            "num_words": 669.1572262317835,
+            "character_repetition_ratio": 0.02726173039555863,
+            "word_repetition_ratio": 0.008750736641221377,
+            "special_characters_ratio": 0.2985851367106177,
+            "stopwords_ratio": 0.11930127307425394,
+            "flagged_words_ratio": 3.6217557251908364e-05,
+            "lang_id_score": 0.9996804389312967,
+            "perplexity_score": 917.9454550659262
+        }
+    },
+    {
+        "std": {
+            "num_words": 1062.528143590478,
+            "character_repetition_ratio": 0.028911867635817295,
+            "word_repetition_ratio": 0.029717262768156887,
+            "special_characters_ratio": 0.03635438601534126,
+            "stopwords_ratio": 0.030848560291820773,
+            "flagged_words_ratio": 0.00043211816613557556,
+            "lang_id_score": 0.00616049324692175,
+            "perplexity_score": 716.5746538932883
+        }
+    },
+    {
+        "median": {
+            "num_words": 403.0,
+            "character_repetition_ratio": 0.018,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.294,
+            "stopwords_ratio": 0.122,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 716.1
+        }
+    },
+    {
+        "max": {
+            "num_words": 93336.0,
+            "character_repetition_ratio": 0.473,
+            "word_repetition_ratio": 0.942,
+            "special_characters_ratio": 0.811,
+            "stopwords_ratio": 0.347,
+            "flagged_words_ratio": 0.062,
+            "lang_id_score": 1.0,
+            "perplexity_score": 55225.2
+        }
+    },
+    {
+        "min": {
+            "num_words": 33.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.002,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.243,
+            "perplexity_score": 2.1
+        }
+    },
+    {
+        "90%": {
+            "num_words": 1376.0,
+            "character_repetition_ratio": 0.067,
+            "word_repetition_ratio": 0.022,
+            "special_characters_ratio": 0.345,
+            "stopwords_ratio": 0.156,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 1578.3
+        }
+    },
+    {
+        "75%": {
+            "num_words": 766.0,
+            "character_repetition_ratio": 0.043,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.317,
+            "stopwords_ratio": 0.14,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 1051.7
+        }
+    },
+    {
+        "50%": {
+            "num_words": 403.0,
+            "character_repetition_ratio": 0.018,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.294,
+            "stopwords_ratio": 0.122,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 716.1
+        }
+    },
+    {
+        "25%": {
+            "num_words": 220.0,
+            "character_repetition_ratio": 0.004,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.276,
+            "stopwords_ratio": 0.101,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 540.0
+        }
+    },
+    {
+        "total size": "2882000",
+        "keep size": "2674816",
+        "remove size": "207184"
+    }
+]

kor_Hang/fineweb-2_000021_stas.jsonl

@@ -0,0 +1,115 @@
+[
+    {
+        "avg": {
+            "num_words": 969.5115477698479,
+            "character_repetition_ratio": 0.05358840176723207,
+            "word_repetition_ratio": 0.04498950783205117,
+            "special_characters_ratio": 0.3210642794615914,
+            "stopwords_ratio": 0.10608884975437946,
+            "flagged_words_ratio": 3.255785213334569e-05,
+            "lang_id_score": 0.9996038495999013,
+            "perplexity_score": 1184.81005324353
+        }
+    },
+    {
+        "std": {
+            "num_words": 1788.2747226406823,
+            "character_repetition_ratio": 0.03101866576355648,
+            "word_repetition_ratio": 0.06150313038473616,
+            "special_characters_ratio": 0.04226022689485087,
+            "stopwords_ratio": 0.02970862043708833,
+            "flagged_words_ratio": 0.0003748742470311525,
+            "lang_id_score": 0.006720276034395571,
+            "perplexity_score": 703.876931221274
+        }
+    },
+    {
+        "median": {
+            "num_words": 629.0,
+            "character_repetition_ratio": 0.052,
+            "word_repetition_ratio": 0.017,
+            "special_characters_ratio": 0.318,
+            "stopwords_ratio": 0.107,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 1031.8
+        }
+    },
+    {
+        "max": {
+            "num_words": 102879.0,
+            "character_repetition_ratio": 0.436,
+            "word_repetition_ratio": 0.789,
+            "special_characters_ratio": 0.627,
+            "stopwords_ratio": 0.299,
+            "flagged_words_ratio": 0.04,
+            "lang_id_score": 1.0,
+            "perplexity_score": 30413.1
+        }
+    },
+    {
+        "min": {
+            "num_words": 39.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.065,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.226,
+            "perplexity_score": 13.4
+        }
+    },
+    {
+        "90%": {
+            "num_words": 1785.0,
+            "character_repetition_ratio": 0.092,
+            "word_repetition_ratio": 0.131,
+            "special_characters_ratio": 0.375,
+            "stopwords_ratio": 0.142,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 1916.0
+        }
+    },
+    {
+        "75%": {
+            "num_words": 1054.0,
+            "character_repetition_ratio": 0.07,
+            "word_repetition_ratio": 0.071,
+            "special_characters_ratio": 0.346,
+            "stopwords_ratio": 0.126,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 1422.6
+        }
+    },
+    {
+        "50%": {
+            "num_words": 629.0,
+            "character_repetition_ratio": 0.052,
+            "word_repetition_ratio": 0.017,
+            "special_characters_ratio": 0.318,
+            "stopwords_ratio": 0.107,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 1031.8
+        }
+    },
+    {
+        "25%": {
+            "num_words": 336.0,
+            "character_repetition_ratio": 0.035,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.293,
+            "stopwords_ratio": 0.088,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 739.7
+        }
+    },
+    {
+        "total size": "485505",
+        "keep size": "452134",
+        "remove size": "33371"
+    }
+]

kor_Hang/fineweb-2_000023_stas.jsonl

@@ -0,0 +1,115 @@
+[
+    {
+        "avg": {
+            "num_words": 977.0723050832925,
+            "character_repetition_ratio": 0.05368889068849054,
+            "word_repetition_ratio": 0.04524264611309862,
+            "special_characters_ratio": 0.32128339438746584,
+            "stopwords_ratio": 0.10593298495162512,
+            "flagged_words_ratio": 3.3705215721955195e-05,
+            "lang_id_score": 0.9995889230813202,
+            "perplexity_score": 1187.7791223448596
+        }
+    },
+    {
+        "std": {
+            "num_words": 1809.0799929027498,
+            "character_repetition_ratio": 0.031080940314534598,
+            "word_repetition_ratio": 0.06166972234037812,
+            "special_characters_ratio": 0.042451261186148746,
+            "stopwords_ratio": 0.02974358591615391,
+            "flagged_words_ratio": 0.00039097429604632026,
+            "lang_id_score": 0.006736644376593679,
+            "perplexity_score": 707.5706166922585
+        }
+    },
+    {
+        "median": {
+            "num_words": 632.0,
+            "character_repetition_ratio": 0.052,
+            "word_repetition_ratio": 0.018,
+            "special_characters_ratio": 0.318,
+            "stopwords_ratio": 0.107,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 1033.4
+        }
+    },
+    {
+        "max": {
+            "num_words": 105563.0,
+            "character_repetition_ratio": 0.45,
+            "word_repetition_ratio": 0.777,
+            "special_characters_ratio": 0.594,
+            "stopwords_ratio": 0.293,
+            "flagged_words_ratio": 0.051,
+            "lang_id_score": 1.0,
+            "perplexity_score": 28693.8
+        }
+    },
+    {
+        "min": {
+            "num_words": 39.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.063,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.336,
+            "perplexity_score": 14.2
+        }
+    },
+    {
+        "90%": {
+            "num_words": 1803.0,
+            "character_repetition_ratio": 0.092,
+            "word_repetition_ratio": 0.132,
+            "special_characters_ratio": 0.376,
+            "stopwords_ratio": 0.142,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 1916.8
+        }
+    },
+    {
+        "75%": {
+            "num_words": 1061.0,
+            "character_repetition_ratio": 0.071,
+            "word_repetition_ratio": 0.072,
+            "special_characters_ratio": 0.347,
+            "stopwords_ratio": 0.125,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 1425.2
+        }
+    },
+    {
+        "50%": {
+            "num_words": 632.0,
+            "character_repetition_ratio": 0.052,
+            "word_repetition_ratio": 0.018,
+            "special_characters_ratio": 0.318,
+            "stopwords_ratio": 0.107,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 1033.4
+        }
+    },
+    {
+        "25%": {
+            "num_words": 338.0,
+            "character_repetition_ratio": 0.035,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.293,
+            "stopwords_ratio": 0.088,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 740.9
+        }
+    },
+    {
+        "total size": "419846",
+        "keep size": "391792",
+        "remove size": "28054"
+    }
+]

kor_Hang/mala_000029_stas.jsonl

@@ -0,0 +1,115 @@
+[
+    {
+        "avg": {
+            "num_words": 134.34579442549273,
+            "character_repetition_ratio": 0.013000384521764285,
+            "word_repetition_ratio": 0.001902747743139461,
+            "special_characters_ratio": 0.30423719701272467,
+            "stopwords_ratio": 0.05358236350359299,
+            "flagged_words_ratio": 0.0001670905813334086,
+            "lang_id_score": 0.9998492498297874,
+            "perplexity_score": 798042.2780568601
+        }
+    },
+    {
+        "std": {
+            "num_words": 353.8678092934931,
+            "character_repetition_ratio": 0.029489004832350223,
+            "word_repetition_ratio": 0.015356641310612356,
+            "special_characters_ratio": 0.04516770182172236,
+            "stopwords_ratio": 0.035622309839865314,
+            "flagged_words_ratio": 0.0019029717917225315,
+            "lang_id_score": 0.00841383415352901,
+            "perplexity_score": 819598.2595337612
+        }
+    },
+    {
+        "median": {
+            "num_words": 56.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.302,
+            "stopwords_ratio": 0.051,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 564484.4
+        }
+    },
+    {
+        "max": {
+            "num_words": 34881.0,
+            "character_repetition_ratio": 0.2,
+            "word_repetition_ratio": 0.505,
+            "special_characters_ratio": 0.4,
+            "stopwords_ratio": 0.304,
+            "flagged_words_ratio": 0.176,
+            "lang_id_score": 1.0,
+            "perplexity_score": 20445357.1
+        }
+    },
+    {
+        "min": {
+            "num_words": 10.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.083,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.189,
+            "perplexity_score": 51.0
+        }
+    },
+    {
+        "90%": {
+            "num_words": 269.0,
+            "character_repetition_ratio": 0.05,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.368,
+            "stopwords_ratio": 0.1,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 1691723.3000000003
+        }
+    },
+    {
+        "75%": {
+            "num_words": 113.0,
+            "character_repetition_ratio": 0.009,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.336,
+            "stopwords_ratio": 0.074,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 1029297.2
+        }
+    },
+    {
+        "50%": {
+            "num_words": 56.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.302,
+            "stopwords_ratio": 0.051,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 564484.4
+        }
+    },
+    {
+        "25%": {
+            "num_words": 31.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.273,
+            "stopwords_ratio": 0.03,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 288689.6
+        }
+    },
+    {
+        "total size": "283469",
+        "keep size": "263914",
+        "remove size": "19555"
+    }
+]

kor_Hang/new_cc_000032_stas.jsonl

@@ -0,0 +1,115 @@
+[
+    {
+        "avg": {
+            "num_words": 830.2900442692758,
+            "character_repetition_ratio": 0.035244992868863775,
+            "word_repetition_ratio": 0.05004282899075255,
+            "special_characters_ratio": 0.3168291121607599,
+            "stopwords_ratio": 0.04195911098501695,
+            "flagged_words_ratio": 9.453867427321197e-05,
+            "lang_id_score": 0.9760596408361066,
+            "perplexity_score": 751378.1474258901
+        }
+    },
+    {
+        "std": {
+            "num_words": 2743.8183024349555,
+            "character_repetition_ratio": 0.04552322735376433,
+            "word_repetition_ratio": 0.14965949564874073,
+            "special_characters_ratio": 0.093840659903481,
+            "stopwords_ratio": 0.03378170440833358,
+            "flagged_words_ratio": 0.0011360950737354734,
+            "lang_id_score": 0.11865509855474071,
+            "perplexity_score": 1978708.2035814952
+        }
+    },
+    {
+        "median": {
+            "num_words": 259.0,
+            "character_repetition_ratio": 0.021,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.293,
+            "stopwords_ratio": 0.041,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 421853.35
+        }
+    },
+    {
+        "max": {
+            "num_words": 225410.0,
+            "character_repetition_ratio": 1.0,
+            "word_repetition_ratio": 1.0,
+            "special_characters_ratio": 1.0,
+            "stopwords_ratio": 0.963,
+            "flagged_words_ratio": 0.536,
+            "lang_id_score": 1.0,
+            "perplexity_score": 26440928.5
+        }
+    },
+    {
+        "min": {
+            "num_words": 1.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.0,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.038,
+            "perplexity_score": 2.8
+        }
+    },
+    {
+        "90%": {
+            "num_words": 1847.0,
+            "character_repetition_ratio": 0.089,
+            "word_repetition_ratio": 0.133,
+            "special_characters_ratio": 0.441,
+            "stopwords_ratio": 0.071,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 1327109.7
+        }
+    },
+    {
+        "75%": {
+            "num_words": 829.0,
+            "character_repetition_ratio": 0.054,
+            "word_repetition_ratio": 0.012,
+            "special_characters_ratio": 0.334,
+            "stopwords_ratio": 0.057,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 791966.425
+        }
+    },
+    {
+        "50%": {
+            "num_words": 259.0,
+            "character_repetition_ratio": 0.021,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.293,
+            "stopwords_ratio": 0.041,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 421853.35
+        }
+    },
+    {
+        "25%": {
+            "num_words": 64.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.268,
+            "stopwords_ratio": 0.024,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 195210.45
+        }
+    },
+    {
+        "total size": "782484",
+        "keep size": "729654",
+        "remove size": "52830"
+    }
+]

kor_Hang/new_cc_000033_stas.jsonl

@@ -0,0 +1,115 @@
+[
+    {
+        "avg": {
+            "num_words": 833.3731616350823,
+            "character_repetition_ratio": 0.03516760836593062,
+            "word_repetition_ratio": 0.04992093957098513,
+            "special_characters_ratio": 0.3168502999462801,
+            "stopwords_ratio": 0.04197710177147158,
+            "flagged_words_ratio": 9.685976309436357e-05,
+            "lang_id_score": 0.9763121505488015,
+            "perplexity_score": 748661.7802382902
+        }
+    },
+    {
+        "std": {
+            "num_words": 2795.2345840471025,
+            "character_repetition_ratio": 0.04542342560842706,
+            "word_repetition_ratio": 0.14916384748709824,
+            "special_characters_ratio": 0.09358673896321988,
+            "stopwords_ratio": 0.03367466255471934,
+            "flagged_words_ratio": 0.0010162527468018337,
+            "lang_id_score": 0.1177681766050792,
+            "perplexity_score": 1961890.5012539697
+        }
+    },
+    {
+        "median": {
+            "num_words": 261.0,
+            "character_repetition_ratio": 0.021,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.293,
+            "stopwords_ratio": 0.041,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 422158.8
+        }
+    },
+    {
+        "max": {
+            "num_words": 226662.0,
+            "character_repetition_ratio": 1.0,
+            "word_repetition_ratio": 1.0,
+            "special_characters_ratio": 1.0,
+            "stopwords_ratio": 0.963,
+            "flagged_words_ratio": 0.167,
+            "lang_id_score": 1.0,
+            "perplexity_score": 26440928.5
+        }
+    },
+    {
+        "min": {
+            "num_words": 1.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.0,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.037,
+            "perplexity_score": 2.8
+        }
+    },
+    {
+        "90%": {
+            "num_words": 1850.0,
+            "character_repetition_ratio": 0.089,
+            "word_repetition_ratio": 0.132,
+            "special_characters_ratio": 0.44,
+            "stopwords_ratio": 0.071,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 1325244.2400000012
+        }
+    },
+    {
+        "75%": {
+            "num_words": 830.0,
+            "character_repetition_ratio": 0.054,
+            "word_repetition_ratio": 0.013,
+            "special_characters_ratio": 0.334,
+            "stopwords_ratio": 0.057,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 791339.0
+        }
+    },
+    {
+        "50%": {
+            "num_words": 261.0,
+            "character_repetition_ratio": 0.021,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.293,
+            "stopwords_ratio": 0.041,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 422158.8
+        }
+    },
+    {
+        "25%": {
+            "num_words": 64.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.268,
+            "stopwords_ratio": 0.024,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 196171.5
+        }
+    },
+    {
+        "total size": "779973",
+        "keep size": "725936",
+        "remove size": "54037"
+    }
+]

kor_Hang/new_cc_000035_stas.jsonl

@@ -0,0 +1,115 @@
+[
+    {
+        "avg": {
+            "num_words": 834.9048449455735,
+            "character_repetition_ratio": 0.03527026191218609,
+            "word_repetition_ratio": 0.05023489715862939,
+            "special_characters_ratio": 0.3170540647010743,
+            "stopwords_ratio": 0.04202269965494985,
+            "flagged_words_ratio": 9.41477492182157e-05,
+            "lang_id_score": 0.9762450985298478,
+            "perplexity_score": 748731.024514216
+        }
+    },
+    {
+        "std": {
+            "num_words": 2735.0521702505507,
+            "character_repetition_ratio": 0.045552067981128146,
+            "word_repetition_ratio": 0.15016120443625308,
+            "special_characters_ratio": 0.09410713109927168,
+            "stopwords_ratio": 0.0343204615847212,
+            "flagged_words_ratio": 0.000994405922336493,
+            "lang_id_score": 0.11802830447777668,
+            "perplexity_score": 1966616.3364668866
+        }
+    },
+    {
+        "median": {
+            "num_words": 260.0,
+            "character_repetition_ratio": 0.021,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.293,
+            "stopwords_ratio": 0.041,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 421410.4
+        }
+    },
+    {
+        "max": {
+            "num_words": 226662.0,
+            "character_repetition_ratio": 1.0,
+            "word_repetition_ratio": 1.0,
+            "special_characters_ratio": 1.0,
+            "stopwords_ratio": 0.963,
+            "flagged_words_ratio": 0.167,
+            "lang_id_score": 1.0,
+            "perplexity_score": 26440928.5
+        }
+    },
+    {
+        "min": {
+            "num_words": 1.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.0,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.034,
+            "perplexity_score": 2.8
+        }
+    },
+    {
+        "90%": {
+            "num_words": 1855.0,
+            "character_repetition_ratio": 0.089,
+            "word_repetition_ratio": 0.133,
+            "special_characters_ratio": 0.442,
+            "stopwords_ratio": 0.071,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 1324496.54
+        }
+    },
+    {
+        "75%": {
+            "num_words": 833.0,
+            "character_repetition_ratio": 0.054,
+            "word_repetition_ratio": 0.013,
+            "special_characters_ratio": 0.335,
+            "stopwords_ratio": 0.057,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 790972.8
+        }
+    },
+    {
+        "50%": {
+            "num_words": 260.0,
+            "character_repetition_ratio": 0.021,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.293,
+            "stopwords_ratio": 0.041,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 421410.4
+        }
+    },
+    {
+        "25%": {
+            "num_words": 64.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.268,
+            "stopwords_ratio": 0.024,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 194814.5
+        }
+    },
+    {
+        "total size": "779307",
+        "keep size": "723049",
+        "remove size": "56258"
+    }
+]

kor_Hang/new_cc_000042_stas.jsonl

@@ -0,0 +1,115 @@
+[
+    {
+        "avg": {
+            "num_words": 900.4849919577578,
+            "character_repetition_ratio": 0.03546971915545271,
+            "word_repetition_ratio": 0.05248057680403529,
+            "special_characters_ratio": 0.31622373344006605,
+            "stopwords_ratio": 0.09965268203186567,
+            "flagged_words_ratio": 3.1450512242356136e-05,
+            "lang_id_score": 0.9753711588038314,
+            "perplexity_score": 1219.5306015398344
+        }
+    },
+    {
+        "std": {
+            "num_words": 2688.01082836813,
+            "character_repetition_ratio": 0.04590932233827314,
+            "word_repetition_ratio": 0.14983600492979177,
+            "special_characters_ratio": 0.09257574696309066,
+            "stopwords_ratio": 0.05137089394563581,
+            "flagged_words_ratio": 0.000561242084693128,
+            "lang_id_score": 0.12147774710492151,
+            "perplexity_score": 3785.854570734807
+        }
+    },
+    {
+        "median": {
+            "num_words": 285.0,
+            "character_repetition_ratio": 0.022,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.293,
+            "stopwords_ratio": 0.108,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 731.3
+        }
+    },
+    {
+        "max": {
+            "num_words": 243024.0,
+            "character_repetition_ratio": 1.0,
+            "word_repetition_ratio": 1.0,
+            "special_characters_ratio": 1.0,
+            "stopwords_ratio": 0.969,
+            "flagged_words_ratio": 0.052,
+            "lang_id_score": 1.0,
+            "perplexity_score": 253741.3
+        }
+    },
+    {
+        "min": {
+            "num_words": 1.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.0,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.039,
+            "perplexity_score": 1.5
+        }
+    },
+    {
+        "90%": {
+            "num_words": 2015.0,
+            "character_repetition_ratio": 0.089,
+            "word_repetition_ratio": 0.148,
+            "special_characters_ratio": 0.435,
+            "stopwords_ratio": 0.153,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 2108.0
+        }
+    },
+    {
+        "75%": {
+            "num_words": 905.0,
+            "character_repetition_ratio": 0.055,
+            "word_repetition_ratio": 0.018,
+            "special_characters_ratio": 0.333,
+            "stopwords_ratio": 0.132,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 1128.1
+        }
+    },
+    {
+        "50%": {
+            "num_words": 285.0,
+            "character_repetition_ratio": 0.022,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.293,
+            "stopwords_ratio": 0.108,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 731.3
+        }
+    },
+    {
+        "25%": {
+            "num_words": 72.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.269,
+            "stopwords_ratio": 0.069,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 523.8
+        }
+    },
+    {
+        "total size": "804502",
+        "keep size": "731668",
+        "remove size": "72834"
+    }
+]

kor_Hang/new_cc_000048_stas.jsonl

@@ -0,0 +1,115 @@
+[
+    {
+        "avg": {
+            "num_words": 840.9717732872933,
+            "character_repetition_ratio": 0.035668799675132305,
+            "word_repetition_ratio": 0.049631759138181145,
+            "special_characters_ratio": 0.31358213508571187,
+            "stopwords_ratio": 0.04332779968534826,
+            "flagged_words_ratio": 0.00011342658807183866,
+            "lang_id_score": 0.9771436211511348,
+            "perplexity_score": 728225.1190612039
+        }
+    },
+    {
+        "std": {
+            "num_words": 2596.9235839523403,
+            "character_repetition_ratio": 0.04585780285387117,
+            "word_repetition_ratio": 0.14679225122445322,
+            "special_characters_ratio": 0.09023574654243646,
+            "stopwords_ratio": 0.035051847339846245,
+            "flagged_words_ratio": 0.0011979963119581273,
+            "lang_id_score": 0.1162667262989741,
+            "perplexity_score": 1864269.8688537779
+        }
+    },
+    {
+        "median": {
+            "num_words": 270.0,
+            "character_repetition_ratio": 0.022,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.292,
+            "stopwords_ratio": 0.043,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 434379.75
+        }
+    },
+    {
+        "max": {
+            "num_words": 254179.0,
+            "character_repetition_ratio": 1.0,
+            "word_repetition_ratio": 1.0,
+            "special_characters_ratio": 1.0,
+            "stopwords_ratio": 0.996,
+            "flagged_words_ratio": 0.167,
+            "lang_id_score": 1.0,
+            "perplexity_score": 26957569.2
+        }
+    },
+    {
+        "min": {
+            "num_words": 1.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.0,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.045,
+            "perplexity_score": 3.3
+        }
+    },
+    {
+        "90%": {
+            "num_words": 1832.0,
+            "character_repetition_ratio": 0.088,
+            "word_repetition_ratio": 0.137,
+            "special_characters_ratio": 0.425,
+            "stopwords_ratio": 0.073,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 1298354.1
+        }
+    },
+    {
+        "75%": {
+            "num_words": 835.0,
+            "character_repetition_ratio": 0.054,
+            "word_repetition_ratio": 0.012,
+            "special_characters_ratio": 0.33,
+            "stopwords_ratio": 0.058,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 775833.25
+        }
+    },
+    {
+        "50%": {
+            "num_words": 270.0,
+            "character_repetition_ratio": 0.022,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.292,
+            "stopwords_ratio": 0.043,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 434379.75
+        }
+    },
+    {
+        "25%": {
+            "num_words": 68.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.268,
+            "stopwords_ratio": 0.024,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 202562.9
+        }
+    },
+    {
+        "total size": "783088",
+        "keep size": "725828",
+        "remove size": "57260"
+    }
+]

kor_Hang/new_cc_000053_stas.jsonl

@@ -0,0 +1,115 @@
+[
+    {
+        "avg": {
+            "num_words": 842.0337393916674,
+            "character_repetition_ratio": 0.035746255976683114,
+            "word_repetition_ratio": 0.04945367774722707,
+            "special_characters_ratio": 0.3137857734150994,
+            "stopwords_ratio": 0.0432447468522056,
+            "flagged_words_ratio": 0.00011157925174550503,
+            "lang_id_score": 0.9769277027658113,
+            "perplexity_score": 734284.0691739419
+        }
+    },
+    {
+        "std": {
+            "num_words": 2572.0199355096233,
+            "character_repetition_ratio": 0.04611869673625722,
+            "word_repetition_ratio": 0.1461462436145189,
+            "special_characters_ratio": 0.09054923519777691,
+            "stopwords_ratio": 0.03470041487312472,
+            "flagged_words_ratio": 0.0011364103577912207,
+            "lang_id_score": 0.11662540177741568,
+            "perplexity_score": 1896725.1533781185
+        }
+    },
+    {
+        "median": {
+            "num_words": 270.0,
+            "character_repetition_ratio": 0.022,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.292,
+            "stopwords_ratio": 0.043,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 433507.6
+        }
+    },
+    {
+        "max": {
+            "num_words": 252679.0,
+            "character_repetition_ratio": 1.0,
+            "word_repetition_ratio": 1.0,
+            "special_characters_ratio": 1.0,
+            "stopwords_ratio": 0.966,
+            "flagged_words_ratio": 0.056,
+            "lang_id_score": 1.0,
+            "perplexity_score": 26957082.7
+        }
+    },
+    {
+        "min": {
+            "num_words": 1.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.0,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.039,
+            "perplexity_score": 2.6
+        }
+    },
+    {
+        "90%": {
+            "num_words": 1834.0,
+            "character_repetition_ratio": 0.089,
+            "word_repetition_ratio": 0.137,
+            "special_characters_ratio": 0.426,
+            "stopwords_ratio": 0.073,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 1298354.1
+        }
+    },
+    {
+        "75%": {
+            "num_words": 835.0,
+            "character_repetition_ratio": 0.054,
+            "word_repetition_ratio": 0.012,
+            "special_characters_ratio": 0.33,
+            "stopwords_ratio": 0.058,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 778233.55
+        }
+    },
+    {
+        "50%": {
+            "num_words": 270.0,
+            "character_repetition_ratio": 0.022,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.292,
+            "stopwords_ratio": 0.043,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 433507.6
+        }
+    },
+    {
+        "25%": {
+            "num_words": 68.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.268,
+            "stopwords_ratio": 0.024,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 202319.4
+        }
+    },
+    {
+        "total size": "781579",
+        "keep size": "727318",
+        "remove size": "54261"
+    }
+]

kor_Hang/new_cc_000055_stas.jsonl

@@ -0,0 +1,115 @@
+[
+    {
+        "avg": {
+            "num_words": 838.4022278372638,
+            "character_repetition_ratio": 0.03568628343705844,
+            "word_repetition_ratio": 0.04985236632885723,
+            "special_characters_ratio": 0.3137713464793024,
+            "stopwords_ratio": 0.04332699434243249,
+            "flagged_words_ratio": 0.0001095815866946491,
+            "lang_id_score": 0.9770856489333336,
+            "perplexity_score": 733022.6993729331
+        }
+    },
+    {
+        "std": {
+            "num_words": 2494.5031705747006,
+            "character_repetition_ratio": 0.04604157883344039,
+            "word_repetition_ratio": 0.1470449461016336,
+            "special_characters_ratio": 0.0905116749440762,
+            "stopwords_ratio": 0.03487960342787561,
+            "flagged_words_ratio": 0.001128616105036468,
+            "lang_id_score": 0.11603230845315163,
+            "perplexity_score": 1893789.2467218277
+        }
+    },
+    {
+        "median": {
+            "num_words": 267.0,
+            "character_repetition_ratio": 0.022,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.292,
+            "stopwords_ratio": 0.043,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 433364.8
+        }
+    },
+    {
+        "max": {
+            "num_words": 252381.0,
+            "character_repetition_ratio": 1.0,
+            "word_repetition_ratio": 1.0,
+            "special_characters_ratio": 1.0,
+            "stopwords_ratio": 0.963,
+            "flagged_words_ratio": 0.057,
+            "lang_id_score": 1.0,
+            "perplexity_score": 26149695.6
+        }
+    },
+    {
+        "min": {
+            "num_words": 1.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.0,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.039,
+            "perplexity_score": 2.5
+        }
+    },
+    {
+        "90%": {
+            "num_words": 1835.0,
+            "character_repetition_ratio": 0.089,
+            "word_repetition_ratio": 0.138,
+            "special_characters_ratio": 0.426,
+            "stopwords_ratio": 0.073,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 1298354.1
+        }
+    },
+    {
+        "75%": {
+            "num_words": 832.0,
+            "character_repetition_ratio": 0.054,
+            "word_repetition_ratio": 0.012,
+            "special_characters_ratio": 0.33,
+            "stopwords_ratio": 0.058,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 776610.2
+        }
+    },
+    {
+        "50%": {
+            "num_words": 267.0,
+            "character_repetition_ratio": 0.022,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.292,
+            "stopwords_ratio": 0.043,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 433364.8
+        }
+    },
+    {
+        "25%": {
+            "num_words": 68.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.268,
+            "stopwords_ratio": 0.024,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 202871.1
+        }
+    },
+    {
+        "total size": "551297",
+        "keep size": "511862",
+        "remove size": "39435"
+    }
+]

kor_Hang/new_cc_000062_stas.jsonl

@@ -0,0 +1,115 @@
+[
+    {
+        "avg": {
+            "num_words": 881.0171790283025,
+            "character_repetition_ratio": 0.03578216875455691,
+            "word_repetition_ratio": 0.04919701332272819,
+            "special_characters_ratio": 0.3143721057864387,
+            "stopwords_ratio": 0.0430521468814211,
+            "flagged_words_ratio": 0.00011372837542254924,
+            "lang_id_score": 0.9767698999138329,
+            "perplexity_score": 718794.3629657321
+        }
+    },
+    {
+        "std": {
+            "num_words": 2823.6167577910096,
+            "character_repetition_ratio": 0.04606827188809714,
+            "word_repetition_ratio": 0.14667906238466405,
+            "special_characters_ratio": 0.09007448843462508,
+            "stopwords_ratio": 0.03460892116019183,
+            "flagged_words_ratio": 0.0011526242339558134,
+            "lang_id_score": 0.11652743619376399,
+            "perplexity_score": 1716372.1368146348
+        }
+    },
+    {
+        "median": {
+            "num_words": 276.0,
+            "character_repetition_ratio": 0.023,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.292,
+            "stopwords_ratio": 0.043,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 438195.6
+        }
+    },
+    {
+        "max": {
+            "num_words": 255023.0,
+            "character_repetition_ratio": 1.0,
+            "word_repetition_ratio": 1.0,
+            "special_characters_ratio": 1.0,
+            "stopwords_ratio": 0.999,
+            "flagged_words_ratio": 0.056,
+            "lang_id_score": 1.0,
+            "perplexity_score": 26628117.8
+        }
+    },
+    {
+        "min": {
+            "num_words": 1.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.0,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.038,
+            "perplexity_score": 2.5
+        }
+    },
+    {
+        "90%": {
+            "num_words": 1816.0,
+            "character_repetition_ratio": 0.088,
+            "word_repetition_ratio": 0.132,
+            "special_characters_ratio": 0.426,
+            "stopwords_ratio": 0.073,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 1305753.4
+        }
+    },
+    {
+        "75%": {
+            "num_words": 857.0,
+            "character_repetition_ratio": 0.054,
+            "word_repetition_ratio": 0.012,
+            "special_characters_ratio": 0.331,
+            "stopwords_ratio": 0.058,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 787471.875
+        }
+    },
+    {
+        "50%": {
+            "num_words": 276.0,
+            "character_repetition_ratio": 0.023,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.292,
+            "stopwords_ratio": 0.043,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 438195.6
+        }
+    },
+    {
+        "25%": {
+            "num_words": 70.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.268,
+            "stopwords_ratio": 0.024,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 208524.0
+        }
+    },
+    {
+        "total size": "754350",
+        "keep size": "704940",
+        "remove size": "49410"
+    }
+]

kor_Hang/new_cc_000063_stas.jsonl

@@ -0,0 +1,115 @@
+[
+    {
+        "avg": {
+            "num_words": 876.3969896023142,
+            "character_repetition_ratio": 0.035891379387636174,
+            "word_repetition_ratio": 0.049512437404243985,
+            "special_characters_ratio": 0.31436032213575793,
+            "stopwords_ratio": 0.04309526157708343,
+            "flagged_words_ratio": 0.00011295979368122374,
+            "lang_id_score": 0.9769492074500485,
+            "perplexity_score": 723574.6591867759
+        }
+    },
+    {
+        "std": {
+            "num_words": 2717.8670251532167,
+            "character_repetition_ratio": 0.04635686444070951,
+            "word_repetition_ratio": 0.14736897475908364,
+            "special_characters_ratio": 0.08998906534630827,
+            "stopwords_ratio": 0.03468390985439278,
+            "flagged_words_ratio": 0.0011626585165690402,
+            "lang_id_score": 0.11634752381299181,
+            "perplexity_score": 1740113.2192049662
+        }
+    },
+    {
+        "median": {
+            "num_words": 276.0,
+            "character_repetition_ratio": 0.023,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.292,
+            "stopwords_ratio": 0.043,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 439092.1
+        }
+    },
+    {
+        "max": {
+            "num_words": 254181.0,
+            "character_repetition_ratio": 1.0,
+            "word_repetition_ratio": 1.0,
+            "special_characters_ratio": 1.0,
+            "stopwords_ratio": 0.984,
+            "flagged_words_ratio": 0.062,
+            "lang_id_score": 1.0,
+            "perplexity_score": 26628117.8
+        }
+    },
+    {
+        "min": {
+            "num_words": 1.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.0,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.033,
+            "perplexity_score": 2.7
+        }
+    },
+    {
+        "90%": {
+            "num_words": 1818.0,
+            "character_repetition_ratio": 0.088,
+            "word_repetition_ratio": 0.133,
+            "special_characters_ratio": 0.426,
+            "stopwords_ratio": 0.073,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 1305753.4
+        }
+    },
+    {
+        "75%": {
+            "num_words": 858.0,
+            "character_repetition_ratio": 0.055,
+            "word_repetition_ratio": 0.012,
+            "special_characters_ratio": 0.331,
+            "stopwords_ratio": 0.058,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 788009.8999999999
+        }
+    },
+    {
+        "50%": {
+            "num_words": 276.0,
+            "character_repetition_ratio": 0.023,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.292,
+            "stopwords_ratio": 0.043,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 439092.1
+        }
+    },
+    {
+        "25%": {
+            "num_words": 70.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.268,
+            "stopwords_ratio": 0.024,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 208558.1
+        }
+    },
+    {
+        "total size": "758438",
+        "keep size": "702207",
+        "remove size": "56231"
+    }
+]

mrw_Latn/fineweb-2_000001_stas.jsonl

@@ -0,0 +1,115 @@
+[
+    {
+        "avg": {
+            "num_words": 2154.993865030675,
+            "character_repetition_ratio": 0.05120245398773006,
+            "word_repetition_ratio": 0.004828220858895706,
+            "special_characters_ratio": 0.20009202453987726,
+            "stopwords_ratio": 0.3697668711656442,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.927042944785276,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "std": {
+            "num_words": 3385.1310501893754,
+            "character_repetition_ratio": 0.032163912924136596,
+            "word_repetition_ratio": 0.0168029339725594,
+            "special_characters_ratio": 0.011734177345989272,
+            "stopwords_ratio": 0.07669680331458836,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.15702574325669014,
+            "perplexity_score": 0.0
+        }
+    },
+    {
+        "median": {
+            "num_words": 649.0,
+            "character_repetition_ratio": 0.059,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.202,
+            "stopwords_ratio": 0.393,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.996,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "max": {
+            "num_words": 26758.0,
+            "character_repetition_ratio": 0.169,
+            "word_repetition_ratio": 0.135,
+            "special_characters_ratio": 0.239,
+            "stopwords_ratio": 0.524,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "min": {
+            "num_words": 50.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.165,
+            "stopwords_ratio": 0.154,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.32,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "90%": {
+            "num_words": 4529.600000000001,
+            "character_repetition_ratio": 0.08640000000000003,
+            "word_repetition_ratio": 0.01,
+            "special_characters_ratio": 0.212,
+            "stopwords_ratio": 0.45180000000000003,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "75%": {
+            "num_words": 3461.5,
+            "character_repetition_ratio": 0.07,
+            "word_repetition_ratio": 0.003,
+            "special_characters_ratio": 0.207,
+            "stopwords_ratio": 0.428,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.999,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "50%": {
+            "num_words": 649.0,
+            "character_repetition_ratio": 0.059,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.202,
+            "stopwords_ratio": 0.393,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.996,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "25%": {
+            "num_words": 63.0,
+            "character_repetition_ratio": 0.03,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.1945,
+            "stopwords_ratio": 0.3115,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.9504999999999999,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "total size": "163",
+        "keep size": "144",
+        "remove size": "19"
+    }
+]

mrw_Latn/mala_000002_remove.jsonl

@@ -0,0 +1,3 @@
+{"url":"","collection":"madlad400","source":"CC 20220801","original_code":"mrw","text":"ONTAY & MAROGONG.NET Ontay & Marogong.Net - KA KHAWASATIG - SPEECH\\nKA KHAWASATIG - SPEECH\\nKA KAWASATIG KO BANGSA O MAAMOR SA RYA\\nna tabia ko diron pud na salamat ko baon pud, ka malo akun kilangun so bangsa o Maamor a paganay kabukuna o tihaya ko sudupan o maganding ka kagiya bansa niyan so datu pondag ko Ranao na manganon ko Maruhom Cahar ada mabaya maki lilod ko bangsa o Balindong bsar.\\nNa ayalad o Maruhom ayadun si Cahar na giyoto so pilombay o maupaat Alinaw ko Abantas ko sudupan o Maganding, na ayalad o Cahar na tlo a lilangiyan na isaon a mindaya so pilombay o Ampao sa daptar o Bacolod nagosiran pulombaye na isaon a n’dadaya so Saber sa Radapan a paganay a masaber ko paninindug ko Ranao sadiron kasarowangi.\\nNasipuman si Palawan a Saber sa Radapan na giyanan so Radia na inistri niyan so lombayoan o Orong na gosiran ndaridayi na Pat katao a Datu na igira inisarat na pata magari-ari a diawagan sa pa-ar o mbawataan o Palao ka kagiya miasaber so milombay sa dariran, na amay ka pundidawn so manga ilano iran na aya pata Maruhom sa Raya a dipagukaskasan o kadato ko nanagun a aya katanto niyan na diaptar a raya a dinidawan ki Cahar.\\nna amay ka payag’nta so pat katao a datu na paganay si Maamor a aya Maruhom Salam, na manganon ki Simban a Maruhom Datu a Simban, na manganganon ki Sarip a aya Maruhom Bsar na aya ari si Sidic a aya Maruhom Sidic aya kapapantagan a pupanikan sa gagao o bangsa o irayan ka kagiya bansairan so bagu a songdodaig a pangandag o ewaton.\\nNa si-itabo kompasa ko Maamor ko Nanagun ka ayambukun sa zaman a kayambolan ko inged ka paganay kaidalan na ayapun kaidalan ko kitalingoma masa, na aya ladi Maamor asi Maruhom Salam na kagiya paganakan na Datu Sangcad ko Raya aya Sulotan Maamor na inistiri niyan si Bae a Romapunut sa bukun a Maguindanao a giyoto so dariday o Datu Saikalabi a lombay o Datu sa Palao, na aya kadidawaon na Amindang sa Maguindanao a apo o Kawasa.\\nGodun sa Pulombaye so Amindang ago Sangcad na miapayag a bantog o Datu Dangcal sa Raya na manga panamaniyan so Pascan go Baida sa isaka daradiat, na manga panamaniyan so limakatao a lombay o Maruhom Daromoyod ka kagiya mit’pasa a miagagao sa garing ko bantogan o Amindang so Maruhom Daromoyod sa diaptar a lilod agoso Sangcad sa Raya, ka langon ini pulilang o Bae a Romapunut sa Maguindanao.\\nMoriatao Dangcal Maruhom Salam;\\nInota di mabaya na gotadi masosonor e kagiya siyalugan a ginawako Marogong ko bangsa o Maamor aya si Datu Dangcal ka paganay a mulilang na aya potre Sari a apo o Sharif Maupaat Amerol Omra Sa Maguindano ka kagiya ama iyan so Sawalo a tunganay a pinggaring o Paramata sa Raya a lombay o Maruhom Salic a dariday o Datu sa Palao. Na godun sa paganaki si Dangcal ago Sari na katatan ka mapayad si Darimbang a paganay masulotan sa diaptar a Raya a saber a sulotan, na manga pagariniyan si Datu a Magoromba, Datu a Mamko, Datu a Sumagayan, na mabalon ki Dilngin a siyangkadan sa Bae a labi sa inarkat a Raya.\\nMiparoman lomilang so Dangcal ko Nanagun na aya Inai Alaga a babo e Sulotan Alauya Alonto a miaona senador, a siangkadan sa Bae o bangsa kadapaan ka miaki pagindiga so ayonan sa Dapaan ko Maamor ko nanagun, na aya lombay o Dangcal ko Bae sa kadapaan na aya Bae Alaga na badun inistiri o Sulotan sa Unayan aya si Datu Dima a pagari o Maruhombsar sa arkat a Ganassi, na isako babadiyan so manga bantog a Datu “Abdul Maruhombsar, Cassan Maruhombsar, Arsad Maruhombsar” a langon vice gov.\\nMiparoman lomilang so Dangcal sa Nanagun na Potri a Manoyod a moritao Maruhom Jaman sa diaptar a wato a ikapat a Maruhom ko inarkat a lilod ka datu a Cabugatan aya Radiamoda a panaman e mithokur a manganon ki Mithonong ayadun si Mipukur a manga panamaniran b'ton si Mipatri aya Maruhom Bae a liamin sa Ramain miangombao e bantog.\\nKagiya ndariday so Manoyod ago Dangcal na miayapayag a Bantog o Datu Radia, Datu Miondas, Bae Ponda, Bae Pipink, Bae Mindirabao, na langondun barabantog ko kakormat sa lolot kaso diron kawasa na miaka edukado nasodiron tatamokun malai paninindug ko agama a Islam ka langon mala e simba ko kadnan a dapayag.\\nna ayako igoris so Bangsa I Mamao aya si Mamaontay igira tialowan na Datu Ontay Marogong a Raja Muda a Sumpad ko Dalinding o Mindanao ka kagiya tanda iyan so Salsila o Ranao a igma go Taritib. Nasii akun anduga ko Darimbang a miaona sulotan sa diaptar a Raya na inistiri niyan so Potri Abay a Bae a labi sa arkat a Masiu a babae e Langi a Datu a Cabugatan sa arkat a Masiu ago si Repors ayadun Manalocon a manganon ki Bontales miona a mayor sa dalingding o Masiu.\\nKagiya Paganakan so Darimbang ago Abay na miapayag a bantog e Macalipot a Sangcopan sa Masiu, Macagaan a Simbaan sa Masiu, Datu a Dimapundug, na manga babairan so magayawa a bae asi Tanan ayasi Barantanan ago si Piki a bae labi sa poonan a Masiu, na mansiran inisaod a bitoon a misangkad ka kagiya bansa iran so subangan go sudupan o Masiu.\\nAyalad o Simbaan sa Masiu a Anggaan sa Wato a datu a Macagaan na inistiri niyan si Potri Marinaot a babae e Mapupuno a Moritao e Oyod a ayadun Daromoyod agosi Radiatuwa sa inarkat a Wato, gosiran paganaki na isaon a ndadaya si Datu Musa na piangaroma niyan si Bayata sa Masiu a moriato Guiling go Repors a wata e Macapunut na kagiya paganakan na Auditor Nader G. Macagaan na panamaniyan b’ton si Bae Adia Guiling Macagaan a giyanan so Milombay ki Datu Ontay Marogong.\\nSipuman si A’PIKI aya Bae a Labi sa poonan a Masiu na inistiri badun e Dangcogan a sulotan sa Wato a pagari e Dimaporo a sulotan sa Binidayan a moriatao Baida, ayalad i Dangcogan ago si A’Piki na inipulombayran so Bae a Mulukba ago so Saber a Bae sa Maindig-Binidayan aya Bae Pantalan. Ayalad I Pantalan na badun piangaroma e Sulotan sa Marogong a Panondiongan Adel sa Binidayan minombao a graduate a mayor ko tlo a Inged, Binidayan, Tubaran, Marogong, na gosiran n’daridayi na sasakatao a wata aya Datu Pasayod ayakon kadi Areef a miona bariyo sa bukun a Bolawanun, na ayalad e Pasayod na inistiri niyan si pangkatan e Adia a babae Auditor Nader na gosiran n’daridayi na walo katao a wata na isaon a n’dadaya si Datu Ontay Marogong a putanod ko taritib. –Datu Ontay-\\nNote: kunaba aya kabasal sa Agong ka matag aya sample o kataro sa kawasatig, Kawasatig is form of public speaking and the body of the speech is genealogy-Salsila, in Meranao tradition there is certain “Adat” reward after the speaker finished his speech in certain event.\\nIMANTO NA 947354 visitors (3006614 hits) SANGGIBO SALAMAT","num_words":1138,"character_repetition_ratio":0.048,"word_repetition_ratio":0.0,"special_characters_ratio":0.196,"stopwords_ratio":0.351,"flagged_words_ratio":0.0,"lang_id_score":0.94,"perplexity_score":500.0,"cluster_detection":-1}
+{"url":"","collection":"madlad400","source":"CC 20220801","original_code":"mrw","text":"21 Oba di daa kapaar iyan kiran, - ogaid na an Ami mapnto so taw a mapaparatiyaya ko akhirat sii ko taw a skaniyan na zasangka on: Na so Kadnan ka i somisiyap ko langowan taman.\\n22 Tharoang ka a: \"Tawaga niyo so siran a initgo niyo (a tohan) a salakaw ko Allah: da a mipapaar iran a timbang o ssrm, sii ko manga langit go da sii ko lopa: Go da a mitotompok iran on, go da a tabanga iyan kiran;\\n23 \"Go da a khibgay a gona o kapangalbalb sii ko hadapan Iyan, inonta sii ko taw a inidinan Iyan. Taman sa igira kiyadaan sa kalk so manga poso iran na tharoon iran a: Antonaa so pitharo o Kadnan niyo? Tharoon iran a: So bnar; go Skaniyan so Maporo, a Mala.\"\\n24 Tharoang ka a: \"Antawaa i pphagpr rkano, a pphakapoon ko manga langit ago so lopa? Tharoang ka: So Allah; na mataan a skami odi na skano, na mataan a matatago ko toroan, odi na sii ko kadadag, a mapayag!\"\\n25 Tharoang ka a: \"Di rkano khiiza so minizala ami, go di rkami khiiza so gii niyo nggolawlaan.\"\\n26 Tharoang ka a: \"Plimodn tano o Kadnan tano: Oriyan iyan na ikhokom Iyan rktano so bnar: Ka Skaniyan so Kokoman,\"\\n27 Tharoang ka a: \"Pakiilay niyo rakn so siran a inirimbang iyo Ron a manga sakotowa; sabnar, a kna, ka so bo so Allah, a Mabagr, a Mawngangn (a da a sakotowa Iyan).\"\\n28 Na da a kiyasogo Ami rka (hay Mohammad) a rowar sa langkap ko manga manosiya, a pphamanothol sa mapiya, go pphamakaiktiyar, na ogaid na so kadaklan ko manga manosiya na di iran katawan.\\n29 Na gi iran tharoon a: \"Anda dn angkai a diyandi (a siksa) o skano na manga bnar?\"\\n30 Tharoang ka a: \"Rk iyo so diyandi ko alongan, a di niyo to khisonggod sa isa ka oras, go di niyo khaktng.\"\\n31 Na pitharo o siran a miyamangongkir a: \"Di ami dn pharatiyayaan angkai a Qor'an, go di (ami pharatiyayaan) so miyaonaan iyan\". Na o maylaing ka amay ka so manga darowaka na tarongko on siran ko hadapan o Kadnan iran, na pangndodan o sabaad kiran so sabaad a katharo. Tharoon o siran a piyamangarasiyan ko siran a miyamanakabor a: \"O da so skano, na miyabaloy kami dn a miyamaratiyaya!\"\\n32 Tharoon o siran a miyamanakabor ko siran a piyamangarasiyan a: \"Ba skami i miyakaalang rkano ko toroan ko oriyan o masa a kiyapakawma niyan rkano? Kna, ka miyabaloy kano a manga baradosa.\\n33 Na tharoon o siran a piyamangarasiyan ko siran a miyamanakabor a: \"Kna! ka so antangan a marata ko kagagawii ago so kadawndaw: Gowani ko pzogoon kami niyo so kaongkir ami ko Allah go so kapangmbaal ami sa manga saginda Niyan (i miyakaalang rkami ko paratiyaya)!\" Na misoln iran so kasndit ko masa a kaylaya iran ko siksa: Go tagoon Ami so manga patong ko manga lig o siran a miyamangongkir: Ba adn a imbalas kiran a rowar ko pinggolawla iran?\\n34 Na da a siyogo an Ami a ingd sa phamakaiktiyar, a ba da tharoa o manga olowan on a: \"Mataan! a skami na so inisogo rkano to na inongkir ami.\"\\n35 Go pitharo iran a: \"Skami i madakl i manga tamok go manga wata, go kna a ba skami i phamaniksaan.\"\\n36 Tharoang ka a: \"Mataan! a so Kadnan ko na pphakawladn Iyan so rizki ko taw a kabaya Iyan, go pphakasimpitn Iyan, na ogaid na so kadaklan ko manga manosiya na di iran katawan.\"\\n37 Na kna a ba so manga tamok iyo, go kna a ba so manga wata iyo, so maphakarani kano niyan Rkami sa samporna a kapakarani: Ogaid na so taw a miyaratiyaya, go miyagamal sa mapiya na siran man i khibagian ko balas a takp sabap ko pinggolawla iran, go siran i khatago ko manga darpa ko sorga a khisasarig siran!\\n38 Na siran a mananamar sa kabinasa o manga ayat Ami, a rorompisan iran, na siran man i phamakadarpaan ko siksa.\\n39 Tharoang ka a: \"Mataan! a so Kadnan ko na pphakawladn Iyan so rizki ko taw a kabaya Iyan ko manga oripn Iyan, go pphakasimpitn Iyan on. Na apiya antonaa i mapnggasto niyo a shay' na Skaniyan i pzambi on: Go Skaniyan i taralbi a mapiya ko (pphamamgay sa riskhi).\\n40 Na sii ko gawii a limodn Iyan siran langon, oriyan iyan na tharoon Iyan ko manga malaikat a: \"Ba siran aya so skano i sinimba iran?\"","num_words":727,"character_repetition_ratio":0.066,"word_repetition_ratio":0.033,"special_characters_ratio":0.238,"stopwords_ratio":0.472,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":500.0,"cluster_detection":-1}
+{"url":"","collection":"madlad400","source":"CC 20220801","original_code":"mrw","text":"the best of me: ikaw lamang\\nminsan, di ko na alam kung ang utak ko na lang ang dapat paganahin. dito sa amerika, isinasaksak ko sa isip ko, na dapat matutunan kong wag magmahal ng lubos lubos. sa kakaunting panahon na inilagi ko dito, napansin ko, ang pagsasama ng ilang tao (na maaring di rin lang iilan) ay dahil sa dikta ng pamumuhay at mga pangangailangan. hindi ko nakagisnan ang ganitong sistema. kaya pala napakadaling makipaghiwalay.\\nminsan, gusto ko nang sabihing \"mahal na mahal kita...\", pero di ko masabi. nabanggit ko na ito minsan, pero mali pala ito. sabi mo, di posibleng mahalin ang isang taong kahapon mo lang nakilala. marahil ito ay tama...\\nsa ngayon, eto na lang muna ang nasa isip ko, nasa dibdib ko. di mo man naiintindihan, damhin mo ang nakikita't naririnig.","num_words":133,"character_repetition_ratio":0.018,"word_repetition_ratio":0.0,"special_characters_ratio":0.215,"stopwords_ratio":0.218,"flagged_words_ratio":0.0,"lang_id_score":0.999,"perplexity_score":500.0,"cluster_detection":-1}

mrw_Latn/mala_000002_stas.jsonl

@@ -0,0 +1,115 @@
+[
+    {
+        "avg": {
+            "num_words": 1855.8181818181818,
+            "character_repetition_ratio": 0.06431818181818182,
+            "word_repetition_ratio": 0.0030454545454545456,
+            "special_characters_ratio": 0.21563636363636363,
+            "stopwords_ratio": 0.45849999999999996,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.9969090909090909,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "std": {
+            "num_words": 1613.3620919277303,
+            "character_repetition_ratio": 0.019765411394739692,
+            "word_repetition_ratio": 0.007048386486715644,
+            "special_characters_ratio": 0.013309413806316514,
+            "stopwords_ratio": 0.0739199505607863,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.012449567684750756,
+            "perplexity_score": 0.0
+        }
+    },
+    {
+        "median": {
+            "num_words": 1393.5,
+            "character_repetition_ratio": 0.064,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.2125,
+            "stopwords_ratio": 0.4755,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "max": {
+            "num_words": 5346.0,
+            "character_repetition_ratio": 0.127,
+            "word_repetition_ratio": 0.033,
+            "special_characters_ratio": 0.248,
+            "stopwords_ratio": 0.542,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "min": {
+            "num_words": 112.0,
+            "character_repetition_ratio": 0.018,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.196,
+            "stopwords_ratio": 0.218,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.94,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "90%": {
+            "num_words": 3640.6000000000004,
+            "character_repetition_ratio": 0.0749,
+            "word_repetition_ratio": 0.007700000000000006,
+            "special_characters_ratio": 0.2373,
+            "stopwords_ratio": 0.5353000000000001,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "75%": {
+            "num_words": 3098.25,
+            "character_repetition_ratio": 0.07125,
+            "word_repetition_ratio": 0.0035,
+            "special_characters_ratio": 0.22175,
+            "stopwords_ratio": 0.5025,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "50%": {
+            "num_words": 1393.5,
+            "character_repetition_ratio": 0.064,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.2125,
+            "stopwords_ratio": 0.4755,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "25%": {
+            "num_words": 479.75,
+            "character_repetition_ratio": 0.05575,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.20825,
+            "stopwords_ratio": 0.45225000000000004,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.99925,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "total size": "22",
+        "keep size": "19",
+        "remove size": "3"
+    }
+]

non_Latn/fineweb-2_000001_stas.jsonl

@@ -0,0 +1,115 @@
+[
+    {
+        "avg": {
+            "num_words": 1642.1336669049322,
+            "character_repetition_ratio": 0.05934185132237312,
+            "word_repetition_ratio": 0.01422265904217298,
+            "special_characters_ratio": 0.21915278770550392,
+            "stopwords_ratio": 0.10896497498213009,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.7790950679056469,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "std": {
+            "num_words": 5421.1926627549265,
+            "character_repetition_ratio": 0.04855625212962465,
+            "word_repetition_ratio": 0.08173199347547813,
+            "special_characters_ratio": 0.030937121681679895,
+            "stopwords_ratio": 0.09043262623815769,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.19124008868339926,
+            "perplexity_score": 0.0
+        }
+    },
+    {
+        "median": {
+            "num_words": 337.5,
+            "character_repetition_ratio": 0.051,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.216,
+            "stopwords_ratio": 0.086,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.827,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "max": {
+            "num_words": 98099.0,
+            "character_repetition_ratio": 0.767,
+            "word_repetition_ratio": 0.976,
+            "special_characters_ratio": 0.675,
+            "stopwords_ratio": 0.367,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "min": {
+            "num_words": 43.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.132,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.194,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "90%": {
+            "num_words": 2995.5,
+            "character_repetition_ratio": 0.093,
+            "word_repetition_ratio": 0.005,
+            "special_characters_ratio": 0.249,
+            "stopwords_ratio": 0.271,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.989,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "75%": {
+            "num_words": 973.0,
+            "character_repetition_ratio": 0.071,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.228,
+            "stopwords_ratio": 0.162,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.956,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "50%": {
+            "num_words": 337.5,
+            "character_repetition_ratio": 0.051,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.216,
+            "stopwords_ratio": 0.086,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.827,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "25%": {
+            "num_words": 127.0,
+            "character_repetition_ratio": 0.033,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.204,
+            "stopwords_ratio": 0.03,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.632,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "total size": "5596",
+        "keep size": "5208",
+        "remove size": "388"
+    }
+]

nrf_Latn/fineweb-2_000001_stas.jsonl

@@ -0,0 +1,115 @@
+[
+    {
+        "avg": {
+            "num_words": 288.52863436123346,
+            "character_repetition_ratio": 0.03390088105726872,
+            "word_repetition_ratio": 0.0006740088105726872,
+            "special_characters_ratio": 0.2514559471365639,
+            "stopwords_ratio": 0.10748458149779735,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.6616145374449339,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "std": {
+            "num_words": 1011.4170121804807,
+            "character_repetition_ratio": 0.03241500372025415,
+            "word_repetition_ratio": 0.006043482910669338,
+            "special_characters_ratio": 0.038034896420114456,
+            "stopwords_ratio": 0.04607777833775103,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.21338091079716442,
+            "perplexity_score": 0.0
+        }
+    },
+    {
+        "median": {
+            "num_words": 122.5,
+            "character_repetition_ratio": 0.027,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.246,
+            "stopwords_ratio": 0.105,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.648,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "max": {
+            "num_words": 19307.0,
+            "character_repetition_ratio": 0.233,
+            "word_repetition_ratio": 0.093,
+            "special_characters_ratio": 0.43,
+            "stopwords_ratio": 0.254,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "min": {
+            "num_words": 45.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.175,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.083,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "90%": {
+            "num_words": 455.79999999999984,
+            "character_repetition_ratio": 0.07369999999999999,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.294,
+            "stopwords_ratio": 0.1707,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.9447,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "75%": {
+            "num_words": 214.25,
+            "character_repetition_ratio": 0.051,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.266,
+            "stopwords_ratio": 0.134,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.861,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "50%": {
+            "num_words": 122.5,
+            "character_repetition_ratio": 0.027,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.246,
+            "stopwords_ratio": 0.105,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.648,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "25%": {
+            "num_words": 76.0,
+            "character_repetition_ratio": 0.008,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.226,
+            "stopwords_ratio": 0.076,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.49075,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "total size": "454",
+        "keep size": "418",
+        "remove size": "36"
+    }
+]

swa_Latn/mala_000003_stas.jsonl

@@ -0,0 +1,115 @@
+[
+    {
+        "avg": {
+            "num_words": 571.9156588297266,
+            "character_repetition_ratio": 0.06542912353124566,
+            "word_repetition_ratio": 0.013599175455004785,
+            "special_characters_ratio": 0.18771418281893337,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.9647974081121468,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "std": {
+            "num_words": 872.1613170490687,
+            "character_repetition_ratio": 0.026046429969114073,
+            "word_repetition_ratio": 0.034566331412421755,
+            "special_characters_ratio": 0.025619411604496514,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.07001028595335586,
+            "perplexity_score": 0.0
+        }
+    },
+    {
+        "median": {
+            "num_words": 372.0,
+            "character_repetition_ratio": 0.063,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.182,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.983,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "max": {
+            "num_words": 28108.0,
+            "character_repetition_ratio": 0.2,
+            "word_repetition_ratio": 0.287,
+            "special_characters_ratio": 0.4,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "min": {
+            "num_words": 10.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.055,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.038,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "90%": {
+            "num_words": 1092.0,
+            "character_repetition_ratio": 0.096,
+            "word_repetition_ratio": 0.047,
+            "special_characters_ratio": 0.214,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.995,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "75%": {
+            "num_words": 638.0,
+            "character_repetition_ratio": 0.078,
+            "word_repetition_ratio": 0.006,
+            "special_characters_ratio": 0.194,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.991,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "50%": {
+            "num_words": 372.0,
+            "character_repetition_ratio": 0.063,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.182,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.983,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "25%": {
+            "num_words": 219.0,
+            "character_repetition_ratio": 0.05,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.173,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.967,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "total size": "930210",
+        "keep size": "831952",
+        "remove size": "98258"
+    }
+]

swa_Latn/new_cc_000014_remove.jsonl

@@ -0,0 +1,75 @@
+{"text":"Zabuni ya Usaidizi na Utunzaji wa Kituo cha Data na Vifaa katika Mnara wa Pensheni wa Ushuru kwa Kipindi cha Miaka Miwili(2)\nZabuni ya Usaidizi na Utunzaji wa Kituo cha Data na Vifaa katika Mnara wa Pensheni wa Ushuru kwa Kipindi cha Miaka Miwili(2)","num_words":44,"character_repetition_ratio":0.092,"word_repetition_ratio":0.743,"special_characters_ratio":0.197,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.946,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"Ufikiaji wa chaneli ya huduma ya kipaumbele kama vile laini ya simu inayopewa kipaumbele katika vituo vya mawasiliano na kona ya kipaumbele katika vituo vya kutolewa","num_words":26,"character_repetition_ratio":0.179,"word_repetition_ratio":0.0,"special_characters_ratio":0.152,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.977,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"Kibubu kizuri kwa ajili ya kuweka pesa zako kwa kipindi flani cha mwaka Unaweza kutumia ufunguo au password","num_words":18,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.159,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.625,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"Utafiti huu ulihusu nafasi ya lugha ya Kiswahili katika mandhari-lugha ya Jiji la Mbeya nchini Tanzania. Lengo kuu lilikuwa kuchunguza nafasi ya lugha ya Kiswahili katika mandhari-lugha ya Jiji la Mbeya nchini Tanzania. Malengo mahususi yalikuwa matatu: kwanza, kubainisha ruwaza za lugha kwenye mabango ya matangazo ya makampuni ya mawasiliano ya simu katika mandhari-lugha ya Jiji la Mbeya nchini Tanzania. Pili, kudhihirisha nafasi ya lugha ya Kiswahili kwa kuzingatia ruwaza za lugha kwenye mabango ya matangazo ya makampuni ya mawasiliano ya simu katika mandhari-lugha ya Jiji la Mbeya nchini Tanzania. Tatu, kuwianisha sera ya lugha ya Tanzania na nafasi ya lugha kwenye mabango ya matangazo ya makampuni ya mawasiliano ya simu katika mandhari-lugha ya Jiji la Mbeya nchini Tanzania. Utafiti huu uliongozwa na nadharia ya Ubeberu wa Kiisimu yenye msingi kwamba katika jamii kuna vipengele vya kimfumo na kiitikadi vinavyosababisha uhusiano usio wa usawa miongoni mwa lugha za jamii mbalimbali. Data zilikusanywa kwa kutumia mbinu ya upigaji wa picha za mabango ya makampuni ya mawasiliano ya simu na mbinu ya usaili. Uchambuzi wa data za mabango ya makampuni ya mawasiliano ya simu ulifanyika kwa mbinu ya usomaji wa matini na Programu Tarakilishi ya Takwimu (PTT). Uwasilishaji wa data umefanyika kwa kutumia vielelezo vya majedwali, grafu na picha kwa data za kiidadi za mabango ya makampuni ya mawasiliano ya simu. Nukuu za usaili na ufafanuzi wa kinathari umetumika kwa data za kitaamuli. Matokeo yanaonesha kwamba kuna ruwaza nne za lugha katika mandhari-lugha ya Jiji la Mbeya nchini Tanzania. Ruwaza zilizobainishwa ni Kiswahili pekee, Kiingereza pekee, Kiswahili-Kiingereza na Kiingereza-Kiswahili. Kiswahili kinajitokeza kwa asilimia 54.5 katika ruwaza ya Kiswahili pekee mbele ya Kiingereza. Kwa kigezo cha ukubwa wa maandishi Kiswahili kinajitokeza cha kwanza kwa asilimia 63 kwa maandishi makubwa zaidi kuliko Kiingereza. Vilevile, kwa kigezo cha idadi ya maneno Kiswahili kinajitokeza katika nafasi ya kwanza kwa kuwa na asilimia 72.23. Kwa hiyo, Kiswahili kinajitokeza katika nafasi ya kwanza kimatumizi katika mandhari-lugha ya Jiji la Mbeya nchini Tanzania. Aidha, kuna uwiano baina ya Sera ya Lugha ya Tanzania na nafasi ya matumizi ya lugha katika mandhari-lugha ya Jiji la Mbeya. Hata hivyo, tunapendekeza serikali ifanye mapitio ya sera ya lugha ili kuunda kanuni za matumizi ya lugha katika mandhari-lugha na kuweka urari wa matumizi ya lugha katika mandhari-lugha. Vilevile, tafiti fuatishi zifanyike kwa kuchunguza mabango ya makampuni mahususi tofautitofauti ili kupanua uelewa kuhusu ruwaza za lugha, nafasi ya Kiswahili na uwiano wa nafasi ya matumizi ya lugha na Sera ya lugha ya Tanzania.\nDescription\nAvailable in print form, East Africana Collection, Dr.Wilbert Chagula Library, class mark (THS EAF PL8701T34K396)\nKeywords\nBantu languages, Swahili language, Mbeya Municipal, Tanzania\nCitation\nKawonga, G (2020) Nafasi ya lugha ya kiswahili katika mandhari- lugha ya jiji la Mbeya nchini Tanzania, Doctoral dissertation , University of Dar es Salaam, Dar es Salaam.","num_words":457,"character_repetition_ratio":0.133,"word_repetition_ratio":0.094,"special_characters_ratio":0.177,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.997,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"msimamo wa sasa:Ukurasa wa nyumbani > Mashine na vifaa vya tasniahabari > PaksJukwaa la kupanda kwa moja kwa mojaNini cha kujua kuhusu","num_words":20,"character_repetition_ratio":0.016,"word_repetition_ratio":0.0,"special_characters_ratio":0.179,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.756,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"Mchambuzi wa kuyeyuka umeundwa kuamua kiwango cha kuyeyuka kwa madawa, uchafu, dyes. Joto la kiwango cha kuyeyuka kwa dutu wakati wa mabadiliko yake kutoka kwa ngumu hadi hali ya kioevu. Upimaji kwa njia hii ndio njia kuu ya kugundua uchafu katika dutu. Tunatoa maagizo ya kina ya kuunda mfano huu wa uchambuzi wa kuyeyuka. Kabla ya kusafirisha, wachambuzi wanakaguliwa na kupimwa katika uzalishaji. Ukamilifu na utendaji umehakikishwa. Tunatunza hisa za sehemu na vitu vyake katika ghala. Bei hiyo inajumuisha malipo ya forodha nchini Urusi na uwasilishaji kwa mji wa mnunuzi.\nIliyotumwa na 11\/10\/2017 Vifaa vya dawa katika Wachambuzi wa kuyeyuka 6 maoni ya wateja\nTafuta bei Tazama video Pakua KP\nPiga simu Tuma ombi Mapitio ya Wateja\nMchanganyiko wa Dawa ya Uinginishaji wa Dawa RY-01\n331\n921044\nMchambuzi wa kuyeyuka umeundwa kuamua kiwango cha kuyeyuka kwa madawa, uchafu, dyes. Joto la kiwango cha kuyeyuka kwa dutu wakati wa mabadiliko yake kutoka kwa ngumu hadi hali ya kioevu. Upimaji kwa njia hii ndio njia kuu ya kugundua uchafu katika dutu. Tunatoa maagizo ya kina ya kuunda mfano huu wa uchambuzi wa kuyeyuka. Kabla ya kusafirisha, wachambuzi wanakaguliwa na kupimwa katika uzalishaji. Ukamilifu na utendaji umehakikishwa. Tunatunza hisa za sehemu na vitu vyake katika ghala. Bei hiyo inajumuisha malipo ya forodha nchini Urusi na uwasilishaji kwa mji wa mnunuzi.\nIliyotumwa na 11\/10\/2017 Vifaa vya dawa katika Wachambuzi wa kuyeyuka 6 maoni ya wateja\nTafuta bei Tazama video Pakua KP\nPiga simu Tuma ombi Mapitio ya Wateja\nMchanganyiko wa Dawa za Uwekaji wa Dawa za Kulehemu RD-01\n330\n921041\nMchambuzi wa kuyeyuka umeundwa kuamua kiwango cha kuyeyuka kwa madawa, uchafu na utengenezaji wa nguo. Joto la kiwango cha kuyeyuka kwa dutu wakati wa mabadiliko yake kutoka kwa ngumu hadi hali ya kioevu. Upimaji kwa njia hii ndio njia kuu ya kugundua uchafu katika dutu. Ugunduzi wa joto kwa kutumia sensor nyeti sana. Tunatoa maagizo ya kina ya kuunda mfano huu wa uchambuzi wa kuyeyuka. Kabla ya kusafirisha, wachambuzi wanakaguliwa na kupimwa katika uzalishaji. Ukamilifu na utendaji umehakikishwa. Tunatunza hisa za sehemu na vitu vyake katika ghala. Bei hiyo inajumuisha malipo ya forodha nchini Urusi na uwasilishaji kwa mji wa mnunuzi.","num_words":349,"character_repetition_ratio":0.095,"word_repetition_ratio":0.824,"special_characters_ratio":0.194,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.993,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"Charles Mingus (22 Aprili 1922 – 5 Januari 1979), alikuwa mwanamuziki wa Marekani. Alikuwa anapiga muziki wa jazz.","num_words":13,"character_repetition_ratio":0.019,"word_repetition_ratio":0.0,"special_characters_ratio":0.298,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.976,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"Utoaji wa Huduma za Chai kwa Mamlaka ya Mapato ya Kenya kwa Mikoa ya Kusini na Kusini mwa Ufa kwa muda wa miaka miwili (2)\nUtoaji wa Huduma za Chai kwa Mamlaka ya Mapato ya Kenya kwa Mikoa ya Kusini na Kusini mwa Ufa kwa muda wa miaka miwili (2)","num_words":48,"character_repetition_ratio":0.093,"word_repetition_ratio":0.769,"special_characters_ratio":0.224,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.994,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"◄ | Miaka ya 820 | Miaka ya 830 | Miaka ya 840 | Miaka ya 850 | Miaka ya 860 | Miaka ya 870 | Miaka ya 880 | ►","num_words":15,"character_repetition_ratio":0.337,"word_repetition_ratio":0.833,"special_characters_ratio":0.545,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.267,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"Katibu Mkuu Ofisi ya Makamu wa Rais Bi. Mary Maganga akiongoza Kikao cha Pili cha Kamati ya Usimamizi wa Mradi wa Kuimarisha Uwezo wa Kitaasisi wa Utekelezaji wa Sheria ya Usimamizi wa Mazingira (EMA) katika ukumbi wa Ofisi ya Makamu wa Rais Mtumba jijini Dodoma leo Novemba 15, 2022.\nMatukio mbalimbali wakati wa Kikao cha Pili cha Kamati ya Usimamizi wa Mradi wa Kuimarisha Uwezo wa Kitaasisi wa Utekelezaji wa Sheria ya Usimamizi wa Mazingira (EMA) katika ukumbi wa Ofisi ya Makamu wa Rais Mtumba jijini Dodoma leo Novemba 15, 2022.","num_words":87,"character_repetition_ratio":0.108,"word_repetition_ratio":0.692,"special_characters_ratio":0.207,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.995,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"29 юни, 15:17 2014 Контролно 2 Matrix 44899 Alexander Despotov C\/C++ ok wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa tl tl wa wa wa wa wa wa wa\n29 юни, 14:44 2014 Контролно 2 Matrix 44899 Alexander Despotov C\/C++ wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa\n29 юни, 14:43 2014 Контролно 2 Matrix 44899 Alexander Despotov C\/C++ wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa\n29 юни, 14:42 2014 Контролно 2 Matrix 44899 Alexander Despotov C\/C++ ce ce ce ce ce ce ce ce ce ce ce ce ce ce ce ce ce ce ce ce ce ce ce ce ce\n29 юни, 14:37 2014 Контролно 2 Pairs 44899 Alexander Despotov C\/C++ ok ok ok ok ok ok ok ok ok ok\n29 юни, 14:36 2014 Контролно 2 Matrix 44899 Alexander Despotov C\/C++ wa ok wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa\n29 юни, 14:24 2014 Контролно 2 Matrix 44899 Alexander Despotov C\/C++ wa ok wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa\n29 юни, 13:33 2014 Контролно 2 Matrix 44899 Alexander Despotov C\/C++ wa ok wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa\n29 юни, 13:31 2014 Контролно 2 Matrix 44899 Alexander Despotov C\/C++ wa ok wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa\n29 юни, 13:24 2014 Контролно 2 Bridges 44899 Alexander Despotov C\/C++ ok ok ok ok ok ok ok ok ok ok ok ok ok ok ok ok ok ok ok ok ok ok ok ok ok","num_words":295,"character_repetition_ratio":0.465,"word_repetition_ratio":0.801,"special_characters_ratio":0.397,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.672,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"Marijampolė (kati ya miaka 1955 na 1989: Kapsukas) ni mji nchini Lituanya. Ni mji mkubwa wa saba katika nchi ya Lituanya. Kuna wakazi 47,244 (mwaka 2007).","num_words":22,"character_repetition_ratio":0.028,"word_repetition_ratio":0.0,"special_characters_ratio":0.331,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.999,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"◄ | Miaka ya 820 | Miaka ya 830 | Miaka ya 840 | Miaka ya 850 | Miaka ya 860 | Miaka ya 870 | Miaka ya 880 | ►","num_words":15,"character_repetition_ratio":0.337,"word_repetition_ratio":0.833,"special_characters_ratio":0.545,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.267,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"Umri wa shamsa ni mara nne ya umri wa mtoto wake. Ikiwa jumla ya umri wao ni miaka 120. Tafuta 1:umri wa shamsa 2:umri wa mtoto wake KWA kuonyesha njia ya jawabu ?\nUmri wa shamsa ni mara nne ya umri wa mtoto wake. Ikiwa jumla ya umri wao ni miaka 120. Tafuta 1:umri wa shamsa 2:umri wa mtoto wake KWA kuonyesha njia ya jawabu ?","num_words":62,"character_repetition_ratio":0.151,"word_repetition_ratio":0.83,"special_characters_ratio":0.26,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.998,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"Hali ya Uchumi wa Taifa kwa Mwaka 2018 na Mpango wa Maendeleo wa Taifa kwa Mwaka wa Fedha 2019\/2020 na Mapendekezo ya Serikali kuhusu Makadirio ya Mapato na Matumizi kwa Mwaka wa Fedha 2019\/2020 Michango\nHali ya Uchumi wa Taifa kwa Mwaka 2018 na Mpango wa Maendeleo wa Taifa kwa Mwaka wa Fedha 2019\/2020 na Mapendekezo ya Serikali kuhusu Makadirio ya Mapato na Matumizi kwa Mwaka wa Fedha 2019\/2020 Michango\nHali ya Uchumi wa Taifa kwa Mwaka 2018 na Mpango wa Maendeleo wa Taifa kwa Mwaka wa Fedha 2019\/2020 na Mapendekezo ya Serikali kuhusu Makadirio ya Mapato na Matumizi kwa Mwaka wa Fedha 2019\/2020 Michango\nHali ya Uchumi wa Taifa kwa Mwaka 2018 na Mpango wa Maendeleo wa Taifa kwa Mwaka wa Fedha 2019\/2020 na Mapendekezo ya Serikali kuhusu Makadirio ya Mapato na Matumizi kwa Mwaka wa Fedha 2019\/2020 Michango\nHali ya Uchumi wa Taifa kwa Mwaka 2018 na Mpango wa Maendeleo wa Taifa kwa Mwaka wa Fedha 2019\/2020 na Mapendekezo ya Serikali kuhusu Makadirio ya Mapato na Matumizi kwa Mwaka wa Fedha 2019\/2020 Michango\nHali ya Uchumi wa Taifa kwa Mwaka 2018 na Mpango wa Maendeleo wa Taifa kwa Mwaka wa Fedha 2019\/2020 na Mapendekezo ya Serikali kuhusu Makadirio ya Mapato na Matumizi kwa Mwaka wa Fedha 2019\/2020 Michango\nHali ya Uchumi wa Taifa kwa Mwaka 2018 na Mpango wa Maendeleo wa Taifa kwa Mwaka wa Fedha 2019\/2020 na Mapendekezo ya Serikali kuhusu Makadirio ya Mapato na Matumizi kwa Mwaka wa Fedha 2019\/2020 Michango\nHali ya Uchumi wa Taifa kwa Mwaka 2018 na Mpango wa Maendeleo wa Taifa kwa Mwaka wa Fedha 2019\/2020 na Mapendekezo ya Serikali kuhusu Makadirio ya Mapato na Matumizi kwa Mwaka wa Fedha 2019\/2020 Michango\nHali ya Uchumi wa Taifa kwa Mwaka 2018 na Mpango wa Maendeleo wa Taifa kwa Mwaka wa Fedha 2019\/2020 na Mapendekezo ya Serikali kuhusu Makadirio ya Mapato na Matumizi kwa Mwaka wa Fedha 2019\/2020 Michango\nHali ya Uchumi wa Taifa kwa Mwaka 2018 na Mpango wa Maendeleo wa Taifa kwa Mwaka wa Fedha 2019\/2020 na Mapendekezo ya Serikali kuhusu Makadirio ya Mapato na Matumizi kwa Mwaka wa Fedha 2019\/2020 Michango\nHali ya Uchumi wa Taifa kwa Mwaka 2018 na Mpango wa Maendeleo wa Taifa kwa Mwaka wa Fedha 2019\/2020 na Mapendekezo ya Serikali kuhusu Makadirio ya Mapato na Matumizi kwa Mwaka wa Fedha 2019\/2020 Michango\nHali ya Uchumi wa Taifa kwa Mwaka 2018 na Mpango wa Maendeleo wa Taifa kwa Mwaka wa Fedha 2019\/2020 na Mapendekezo ya Serikali kuhusu Makadirio ya Mapato na Matumizi kwa Mwaka wa Fedha 2019\/2020 Michango\nHali ya Uchumi wa Taifa kwa Mwaka 2018 na Mpango wa Maendeleo wa Taifa kwa Mwaka wa Fedha 2019\/2020 na Mapendekezo ya Serikali kuhusu Makadirio ya Mapato na Matumizi kwa Mwaka wa Fedha 2019\/2020 Michango\nHali ya Uchumi wa Taifa kwa Mwaka 2018 na Mpango wa Maendeleo wa Taifa kwa Mwaka wa Fedha 2019\/2020 na Mapendekezo ya Serikali kuhusu Makadirio ya Mapato na Matumizi kwa Mwaka wa Fedha 2019\/2020 Michango\nHali ya Uchumi wa Taifa kwa Mwaka 2018 na Mpango wa Maendeleo wa Taifa kwa Mwaka wa Fedha 2019\/2020 na Mapendekezo ya Serikali kuhusu Makadirio ya Mapato na Matumizi kwa Mwaka wa Fedha 2019\/2020 Michango\nHali ya Uchumi wa Taifa kwa Mwaka 2018 na Mpango wa Maendeleo wa Taifa kwa Mwaka wa Fedha 2019\/2020 na Mapendekezo ya Serikali kuhusu Makadirio ya Mapato na Matumizi kwa Mwaka wa Fedha 2019\/2020 Michango\nHali ya Uchumi wa Taifa kwa Mwaka 2018 na Mpango wa Maendeleo wa Taifa kwa Mwaka wa Fedha 2019\/2020 na Mapendekezo ya Serikali kuhusu Makadirio ya Mapato na Matumizi kwa Mwaka wa Fedha 2019\/2020 Michango\nHali ya Uchumi wa Taifa kwa Mwaka 2018 na Mpango wa Maendeleo wa Taifa kwa Mwaka wa Fedha 2019\/2020 na Mapendekezo ya Serikali kuhusu Makadirio ya Mapato na Matumizi kwa Mwaka wa Fedha 2019\/2020 Michango\nHali ya Uchumi wa Taifa kwa Mwaka 2018 na Mpango wa Maendeleo wa Taifa kwa Mwaka wa Fedha 2019\/2020 na Mapendekezo ya Serikali kuhusu Makadirio ya Mapato na Matumizi kwa Mwaka wa Fedha 2019\/2020 Michango\nHali ya Uchumi wa Taifa kwa Mwaka 2018 na Mpango wa Maendeleo wa Taifa kwa Mwaka wa Fedha 2019\/2020 na Mapendekezo ya Serikali kuhusu Makadirio ya Mapato na Matumizi kwa Mwaka wa Fedha 2019\/2020 Michango\nHali ya Uchumi wa Taifa kwa Mwaka 2018 na Mpango wa Maendeleo wa Taifa kwa Mwaka wa Fedha 2019\/2020 na Mapendekezo ya Serikali kuhusu Makadirio ya Mapato na Matumizi kwa Mwaka wa Fedha 2019\/2020 Michango\nHali ya Uchumi wa Taifa kwa Mwaka 2018 na Mpango wa Maendeleo wa Taifa kwa Mwaka wa Fedha 2019\/2020 na Mapendekezo ya Serikali kuhusu Makadirio ya Mapato na Matumizi kwa Mwaka wa Fedha 2019\/2020 Michango\nHali ya Uchumi wa Taifa kwa Mwaka 2018 na Mpango wa Maendeleo wa Taifa kwa Mwaka wa Fedha 2019\/2020 na Mapendekezo ya Serikali kuhusu Makadirio ya Mapato na Matumizi kwa Mwaka wa Fedha 2019\/2020 Michango\nHali ya Uchumi wa Taifa kwa Mwaka 2018 na Mpango wa Maendeleo wa Taifa kwa Mwaka wa Fedha 2019\/2020 na Mapendekezo ya Serikali kuhusu Makadirio ya Mapato na Matumizi kwa Mwaka wa Fedha 2019\/2020 Michango\nHali ya Uchumi wa Taifa kwa Mwaka 2018 na Mpango wa Maendeleo wa Taifa kwa Mwaka wa Fedha 2019\/2020 na Mapendekezo ya Serikali kuhusu Makadirio ya Mapato na Matumizi kwa Mwaka wa Fedha 2019\/2020 Michango\nHali ya Uchumi wa Taifa kwa Mwaka 2018 na Mpango wa Maendeleo wa Taifa kwa Mwaka wa Fedha 2019\/2020 na Mapendekezo ya Serikali kuhusu Makadirio ya Mapato na Matumizi kwa Mwaka wa Fedha 2019\/2020 Michango\nHali ya Uchumi wa Taifa kwa Mwaka 2018 na Mpango wa Maendeleo wa Taifa kwa Mwaka wa Fedha 2019\/2020 na Mapendekezo ya Serikali kuhusu Makadirio ya Mapato na Matumizi kwa Mwaka wa Fedha 2019\/2020 Michango\nHali ya Uchumi wa Taifa kwa Mwaka 2018 na Mpango wa Maendeleo wa Taifa kwa Mwaka wa Fedha 2019\/2020 na Mapendekezo ya Serikali kuhusu Makadirio ya Mapato na Matumizi kwa Mwaka wa Fedha 2019\/2020 Michango\nHali ya Uchumi wa Taifa kwa Mwaka 2018 na Mpango wa Maendeleo wa Taifa kwa Mwaka wa Fedha 2019\/2020 na Mapendekezo ya Serikali kuhusu Makadirio ya Mapato na Matumizi kwa Mwaka wa Fedha 2019\/2020 Michango\nHali ya Uchumi wa Taifa kwa Mwaka 2018 na Mpango wa Maendeleo wa Taifa kwa Mwaka wa Fedha 2019\/2020 na Mapendekezo ya Serikali kuhusu Makadirio ya Mapato na Matumizi kwa Mwaka wa Fedha 2019\/2020 Michango\nHali ya Uchumi wa Taifa kwa Mwaka 2018 na Mpango wa Maendeleo wa Taifa kwa Mwaka wa Fedha 2019\/2020 na Mapendekezo ya Serikali kuhusu Makadirio ya Mapato na Matumizi kwa Mwaka wa Fedha 2019\/2020 Michango\nHali ya Uchumi wa Taifa kwa Mwaka 2018 na Mpango wa Maendeleo wa Taifa kwa Mwaka wa Fedha 2019\/2020 na Mapendekezo ya Serikali kuhusu Makadirio ya Mapato na Matumizi kwa Mwaka wa Fedha 2019\/2020 Michango\nSession timetable\nQuestions\nName\nDate\nEster Michael Mmasi Question on Youth, Disabled, Labor and Employment 18th June, 2019\nEmmanuel Adamson Mwakasaka Question on Regional Administration and Local Government Authorities 18th June, 2019\nMartha Moses Mlata Question on Regional Administration and Local Government Authorities 18th June, 2019\nMbaraka Kitwana Dau Question on Natural Resources and Tourism 18th June, 2019\nJulius Kalanga Laizer Question on Energy and Minerals 18th June, 2019\nSelemani Said Bungara Question on Livestock , Fisheries, Agriculture, Food Security and Cooperatives 18th June, 2019","num_words":1102,"character_repetition_ratio":0.234,"word_repetition_ratio":0.93,"special_characters_ratio":0.274,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.982,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"Ulezi ni mbegu ya mlezi au mwele, aina ya nafaka ambayo hulimwa katika sehemu zenye hali ya ukame, hasa katika Ulimwengu wa Tatu.","num_words":23,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.194,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.695,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"Mkuu wa Mkoa wa Mwanza Mhandisi Robert Gabriel akizungumza katika Sherehe za Usiku wa Waandishi na Wadau wa Habari Kanda ya Ziwa.\nNa Kadama Malunde – Malunde 1 blog\nMkuu wa Mkoa wa Mwanza Mhandisi Robert Gabriel amewaongoza Wadau wa Habari Kanda ya Ziwa katika Sherehe za Usiku wa Marafiki wa Vyombo vya Habari Kanda ya Ziwa maarufu ‘Usiku wa Waandishi na Wadau wa Habari Kanda ya Ziwa’ zilizoandaliwa na Klabu ya Waandishi wa Habari ya Mkoa wa Mwanza (Mwanza Press Club – MPC).\nSherehe hizo zenye lengo la kuwaleta pamoja wadau wa habari ili waweze kueleza tathmini yao ya mwaka mmoja wa utekelezaji wa mipango yao ya mwaka ndani ya mwaka mmoja wa Rais Samia Suluhu Hassan zimefanyika Usiku wa Ijumaa Juni 3,2022 katika ukumbi wa Rock City Mall Jijini Mwanza na kuhudhuriwa na wadau mbalimbali wa Habari kutoka Kanda ya Ziwa.\nKatika sherehe hizo Maalumu za Usiku wa Marafiki wa Vyombo vya habari wadau wa habari wamepata fursa ya kuonyesha bidhaa au huduma zao mbele ya vyombo vya habari pamoja na kujenga mahusiano ya kikazi baina ya vyombo vya habari na wadau wa habari.\nMkuu huyo wa Mkoa wa Mwanza Mhandisi Robert Gabriel pia amezindua Akaunti ya Benki kwa ajili ya kuchangia ujenzi wa Ofisi ya Klabu ya Waandishi wa Habari ya Mkoa wa Mwanza (Mwanza Press Club – MPC)\nMiongoni mwa Wadhamini wa Sherehe za Usiku wa Waandishi wa Habari Kanda ya Ziwa ni pamoja na Kampuni ya TBL, TCRA,NSSF, Kampuni ya Jambo, UTPC, Metro Fm, Clouds Media, TRA, TIRA, EMEDO, YUHOMA,MSCL,RFA, Cecy Toto & Gift Shop na SBC LTD.\nMwenyekiti wa MPC , Edwin Soko amesema kuwa, kwa Mwaka ujao 2023 usiku wa waandishi wa habari na wadau wa habari Kanda ya Ziwa kwa Mwaka utaadhimishwa kitaifa ili kuwaleta wadau wengi zaidi kwani kumekuwa na maombi toka kwa wadau juu ya hafla hiyo kuwa ya kitaifa.\nSoko ameongeza kuwa, MPC inatambua uwepo wa wadaua na kwa mwaka 2022\/ 2023 itahakikisha inaboresha mahusiano zaidi ya wadau wa habari Kanda ya Ziwa .\nUsiku wa waaandishi wa habari na wadau wadau Kanda ya Ziwa ilitanguliwa na wiki ya wadau Kanda ya Ziwa iliyoanza Mei 29 na kuhitimishwa Juni 3, 2022, ambapo wadau wa habari waliweza kutembelewa na vyombo vya habari na kueleza tathimini ya utendaji kazi wao na mipango yao kwa mwaka wa fedha 2022\/2023.\nTazama Picha hapa chini\nMkuu wa Mkoa wa Mwanza Mhandisi Robert Gabriel akizungumza katika Sherehe za Usiku wa Marafiki wa Vyombo vya Habari Kanda ya Ziwa maarufu ‘Usiku wa Waandishi na Wadau wa Habari Kanda ya Ziwa’ zilizoandaliwa na Klabu ya Waandishi wa Habari ya Mkoa wa Mwanza (Mwanza Press Club – MPC) Juni 3,2022. Picha na Kadama Malunde – Malunde 1 blog\nMeya wa Manispaa ya Shinyanga Mhe. Elias Ramadhan Masumbuko akizungumza kwa niaba ya Mkuu wa Mkoa wa Shinyanga Mhe. Sophia Mjema katika Sherehe za Usiku wa Marafiki wa Vyombo vya Habari Kanda ya Ziwa maarufu ‘Usiku wa Waandishi na Wadau wa Habari Kanda ya Ziwa’ zilizoandaliwa na Klabu ya Waandishi wa Habari ya Mkoa wa Mwanza (Mwanza Press Club – MPC) Juni 3,2022.\nMwenyekiti wa Klabu ya Waandishi wa Habari Mkoa wa Mwanza, Edwin Soko akizungumza kwa niaba ya Mkuu wa Mkoa wa Shinyanga Mhe. Sophia Mjema katika Sherehe za Usiku wa Marafiki wa Vyombo vya Habari Kanda ya Ziwa maarufu ‘Usiku wa Waandishi na Wadau wa Habari Kanda ya Ziwa’ zilizoandaliwa na Klabu ya Waandishi wa Habari ya Mkoa wa Mwanza (Mwanza Press Club – MPC) Juni 3,2022.\nMC Ben na MC Gsengo (kulia) wakizungumza jambo kwwenye Sherehe za Usiku wa Marafiki wa Vyombo vya Habari Kanda ya Ziwa maarufu ‘Usiku wa Waandishi na Wadau wa Habari Kanda ya Ziwa’ zilizoandaliwa na Klabu ya Waandishi wa Habari ya Mkoa wa Mwanza (Mwanza Press Club – MPC) Juni 3,2022.\nMkuu Mkoa wa Mwanza Mhandisi Robert Gabriel (kushoto) akikata utepe kuzindua Akaunti ya Benki kwa ajili ya kuchangia ujenzi wa Ofisi ya Klabu ya Waandishi wa Habari ya Mkoa wa Mwanza (Mwanza Press Club – MPC)\nMkuu Mkoa wa Mwanza Mhandisi Robert Gabriel (kushoto) akionesha namba za akaunti baada ya kuzindua Akaunti ya Benki kwa ajili ya kuchangia ujenzi wa Ofisi ya Klabu ya Waandishi wa Habari ya Mkoa wa Mwanza (Mwanza Press Club – MPC)\nMkuu Mkoa wa Mwanza Mhandisi Robert Gabriel (kulia) akimpongeza Mwenyekiti wa MPC , Edwin Soko kwa kupata tuzo ya kutetea uhuru wa kujieleza\nMeza kuu wakiwa katika Sherehe za Usiku wa Marafiki wa Vyombo vya Habari Kanda ya Ziwa maarufu ‘Usiku wa Waandishi na Wadau wa Habari Kanda ya Ziwa’ zilizoandaliwa na Klabu ya Waandishi wa Habari ya Mkoa wa Mwanza\nWadau wakiwa kwenye sherehe za Usiku wa Waandishi na Wadau wa Habari Kanda ya Ziwa’ zilizoandaliwa na Klabu ya Waandishi wa Habari ya Mkoa wa Mwanza\nWadau wakiwa kwenye sherehe za Usiku wa Waandishi na Wadau wa Habari Kanda ya Ziwa’ zilizoandaliwa na Klabu ya Waandishi wa Habari ya Mkoa wa Mwanza\nWadau wakiwa kwenye Sherehe za Usiku wa Waandishi na Wadau wa Habari Kanda ya Ziwa zilizoandaliwa na Klabu ya Waandishi wa Habari ya Mkoa wa Mwanza\nWadau wakiwa kwenye Sherehe za Usiku wa Waandishi na Wadau wa Habari Kanda ya Ziwa zilizoandaliwa na Klabu ya Waandishi wa Habari ya Mkoa wa Mwanza\nWadau wakiwa kwenye Sherehe za Usiku wa Marafiki wa Vyombo vya Habari Kanda ya Ziwa maarufu ‘Usiku wa Waandishi na Wadau wa Habari Kanda ya Ziwa’ zilizoandaliwa na Klabu ya Waandishi wa Habari ya Mkoa wa Mwanza\nWadau wakiwa kwenye sherehe za Usiku wa Waandishi na Wadau wa Habari Kanda ya Ziwa’ zilizoandaliwa na Klabu ya Waandishi wa Habari ya Mkoa wa Mwanza\nWadau wakiwa kwenye Sherehe za Usiku wa Marafiki wa Vyombo vya Habari Kanda ya Ziwa maarufu ‘Usiku wa Waandishi na Wadau wa Habari Kanda ya Ziwa’ zilizoandaliwa na Klabu ya Waandishi wa Habari ya Mkoa wa Mwanza\nWadau wakiwa kwenye sherehe za Usiku wa Waandishi na Wadau wa Habari Kanda ya Ziwa’ zilizoandaliwa na Klabu ya Waandishi wa Habari ya Mkoa wa Mwanza\nWadau wakiwa kwenye Sherehe za Usiku wa Marafiki wa Vyombo vya Habari Kanda ya Ziwa maarufu ‘Usiku wa Waandishi na Wadau wa Habari Kanda ya Ziwa’ zilizoandaliwa na Klabu ya Waandishi wa Habari ya Mkoa wa Mwanza\nWadau wakiwa kwenye Sherehe za Usiku wa Marafiki wa Vyombo vya Habari Kanda ya Ziwa maarufu ‘Usiku wa Waandishi na Wadau wa Habari Kanda ya Ziwa’ zilizoandaliwa na Klabu ya Waandishi wa Habari ya Mkoa wa Mwanza\nWadau wakiwa kwenye sherehe za Usiku wa Waandishi na Wadau wa Habari Kanda ya Ziwa’ zilizoandaliwa na Klabu ya Waandishi wa Habari ya Mkoa wa Mwanza\nWadau wakiwa kwenye sherehe za Usiku wa Waandishi na Wadau wa Habari Kanda ya Ziwa’ zilizoandaliwa na Klabu ya Waandishi wa Habari ya Mkoa wa Mwanza\nWadau wakiwa kwenye sherehe za Usiku wa Waandishi na Wadau wa Habari Kanda ya Ziwa’ zilizoandaliwa na Klabu ya Waandishi wa Habari ya Mkoa wa Mwanza\nWadau wakiwa kwenye sherehe za Usiku wa Waandishi na Wadau wa Habari Kanda ya Ziwa’ zilizoandaliwa na Klabu ya Waandishi wa Habari ya Mkoa wa Mwanza\nWadau wakiwa kwenye sherehe za Usiku wa Waandishi na Wadau wa Habari Kanda ya Ziwa’ zilizoandaliwa na Klabu ya Waandishi wa Habari ya Mkoa wa Mwanza\nWadau wakiwa kwenye sherehe za Usiku wa Waandishi na Wadau wa Habari Kanda ya Ziwa’ zilizoandaliwa na Klabu ya Waandishi wa Habari ya Mkoa wa Mwanza\nWadau wakiwa kwenye sherehe za Usiku wa Waandishi na Wadau wa Habari Kanda ya Ziwa’ zilizoandaliwa na Klabu ya Waandishi wa Habari ya Mkoa wa Mwanza\nWadau wakiwa kwenye sherehe za Usiku wa Waandishi na Wadau wa Habari Kanda ya Ziwa’ zilizoandaliwa na Klabu ya Waandishi wa Habari ya Mkoa wa Mwanza\nWadau wakiwa kwenye sherehe za Usiku wa Waandishi na Wadau wa Habari Kanda ya Ziwa’ zilizoandaliwa na Klabu ya Waandishi wa Habari ya Mkoa wa Mwanza\nWadau wakiwa kwenye sherehe za Usiku wa Waandishi na Wadau wa Habari Kanda ya Ziwa’ zilizoandaliwa na Klabu ya Waandishi wa Habari ya Mkoa wa Mwanza\nWadau wakiwa kwenye sherehe za Usiku wa Waandishi na Wadau wa Habari Kanda ya Ziwa’ zilizoandaliwa na Klabu ya Waandishi wa Habari ya Mkoa wa Mwanza\nWadau wakiwa kwenye sherehe za Usiku wa Waandishi na Wadau wa Habari Kanda ya Ziwa’ zilizoandaliwa na Klabu ya Waandishi wa Habari ya Mkoa wa Mwanza\nWadau wakiwa kwenye sherehe za Usiku wa Waandishi na Wadau wa Habari Kanda ya Ziwa’ zilizoandaliwa na Klabu ya Waandishi wa Habari ya Mkoa wa Mwanza\nWadau wakiwa kwenye sherehe za Usiku wa Waandishi na Wadau wa Habari Kanda ya Ziwa’ zilizoandaliwa na Klabu ya Waandishi wa Habari ya Mkoa wa Mwanza\nWadau wakiwa kwenye sherehe za Usiku wa Waandishi na Wadau wa Habari Kanda ya Ziwa’ zilizoandaliwa na Klabu ya Waandishi wa Habari ya Mkoa wa Mwanza\nWadau wakiwa kwenye sherehe za Usiku wa Waandishi na Wadau wa Habari Kanda ya Ziwa’ zilizoandaliwa na Klabu ya Waandishi wa Habari ya Mkoa wa Mwanza\nWadau wakiwa kwenye Sherehe za Usiku wa Waandishi na Wadau wa Habari Kanda ya Ziwa zilizoandaliwa na Klabu ya Waandishi wa Habari ya Mkoa wa Mwanza\nMC Ben na MC Gsengo (kushoto) wakiwa katika Sherehe za Usiku wa Marafiki wa Vyombo vya Habari Kanda ya Ziwa maarufu ‘Usiku wa Waandishi na Wadau wa Habari Kanda ya Ziwa’ zilizoandaliwa na Klabu ya Waandishi wa Habari ya Mkoa wa Mwanza (Mwanza Press Club – MPC) Juni 3,2022.","num_words":1531,"character_repetition_ratio":0.241,"word_repetition_ratio":0.694,"special_characters_ratio":0.195,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.988,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"wamwendea Yesu kwa kusafiwa na kuoshwa kwa damu ya kondoo je neema yake atumwagia tumeoshwa kwa damu ya kondoo kuoshwa kwa damu itutakasayo ya kondoo ziwe safi nguo nyeupe mno umeoshwa kwa damu ya kondoo wamwandama daima mkombozi na kuoshwa na damu ya kondoo yako kwa msulubiwa makazi umeoshwa kwa damu ya kondoo","num_words":53,"character_repetition_ratio":0.248,"word_repetition_ratio":0.0,"special_characters_ratio":0.167,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.97,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"Waziri wa Habari, Mawasiliano na Teknolojia ya Habari akiwa katika picha ya pamoja na wajumbe wa Bodi\nWaziri wa Habari, Mawasiliano na Teknolojia ya Habari akiwa katika picha ya pamoja na wajumbe wa Bodi ya Tume ya Ulinzi wa Taarifa Binafsi mara baada ya uzinduzi wa bodi hiyo","num_words":48,"character_repetition_ratio":0.097,"word_repetition_ratio":0.41,"special_characters_ratio":0.178,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.987,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"Mkuu wa Mkoa wa Kagera Mhe. Fatma Mwassa akisaini kitabu cha wageni katika ofisi ya Mkuu wa Mkoa wa Morogoro mara baada ya kuwasili ofisini hapo.\nMkuu wa Mkoa wa Morogoro Mhe. Adam Malima (kushoto) akiwa pamoja na Mkuu wa Mkoa wa Kagera wakibadilishana mawazo kabla ya hafla ya makabidhiano rasmi ya ofisi ya Mkuu wa Mkoa wa Morogoro.\nMkuu wa Mkoa wa Morogoro Mhe. Adam Kighoma Malima amesema Mkoa wa Morogoro una fursa nyingi za kiuchumi ambazo zikitumiwa vizuri uchumi wa mtu mmoja mmoja na Taifa kwa ujumla utakua.\nMkuu wa Mkoa wa Morogoro Mhe. Adam Malima (kushoto) na Mkuu wa Mkoa wa Kagera Mhe. Fatma Mwassa (kulia) wakisaini nyaraka za Makabidhiano ya Ofisi ya Mkuu wa Mkoa huo.\nMhe. Malima ametoa kauli hiyo Juni 1 mwaka huu kwenye hafla ya makabidhiano ya ofisi kati yake na aliyekuwa Mkuu wa Mkoa huo Mhe. Fatma Mwassa katika ukumbi wa mikutano wa Ofisi ya Mkuu wa Mkoa wa Morogoro.\nMkuu huyo wa Mkoa amesema pamoja na Mkoa huo kushika nafasi ya kwanza kwenye uzalishaji wa chakula hapa nchini lakini kuna haja ya Mkoa kuweka mikakati bora ili kuhakikisha kuwa Mkoa huo unashika nafasi ya kwanza kwa uzalishaji wa Chakula.\nMhe. Fatma Mwassa (kulia) akikabidhi nyaraka za serikali kwa Mhe. Adam Malima (kushoto) ikiwa ni ishara ya kukabidhi rasmi ofisi hiyo.\n\"...tunaenda kujadiliana pale ambapo tunakuwa mtu wa tano au wa nne, kwa nini tusiwe wa kwanza, kinachotukwaza tusiwe mtu wa kwanza ni nini?...\" amesema Mhe. Adam Malima.\nAidha, Mhe. Adam Malima amesema mifugo ya Morogoro lazima iwe na mchango kiuchumi ndani ya Mkoa huo na Taifa kwa jumla ndani vinginevyo kitakuwa hakuna maana.\nMkuu wa Mkoa wa Morogoro Mhe. Adam Malima akizungumza na viongozi waliohudhuria hafla ya makabidhiano ya ofisi ya Mkuu wa Mkoa huo.\nSambamba na hilo Mkuu huyo wa Mkoa amemuhakikishia Mhe. Fatma Mwassa kuwa ataendeleza mazuri aliyoyaacha katika Mkoa huo pamoja na kuweka mazingira mazuri kwa ajili ya kuwavutia wawekezaji katika sekta mbalimbali.\nAwali, Mhe. Fatma Mwassa ambaye kwa sasa ni Mkuu wa Mkoa wa Kagera amemuhakikishia Mhe. Adam Malima kupata ushirikiano kutoka kwake ili kufanikisha harakati za kuwaletea wanamorogoro maendeleo.\nAliyekuwa Mkuu wa Mkoa wa Morogoro Mhe. Fatma Mwassa ambaye kwa sasa ni Mkuu wa Mkoa wa Kagera akitoa taarifa fupi ya Mkoa huo kabla ya kukabidhi rasmi ofisi hiyo.\nNae Mkuu wa Wilaya ya Malinyi Mhe. Sebastian Waryuba kwa niaba ya Wakuu wa Wilaya za Mkoa huo amemshukuru Mhe. Fatma Mwassa kwa uongozi wake uliotukuka katika kuhakikisha kuwa viongozi ndani ya Mkoa huo wanakuwa na maono ya pamoja.\nMkuu wa Wilaya ya Malinyi Mhe. Sebastian Waryuba akitoa neno la shukurani na la ukaribisho kwa niaba ya Wakuu wa Wilaya za Mkoa wa Morogoro kwenye hafla ya makabidhiano ya ofisi ya Mkuu wa Mkoa wa Morogoro.\nPicha ya pamoja wakati wa hafla fupi ya makabidhiano ya kiofisi baina ya Mkuu wa Mkoa wa Morogoro na Mkuu wa MKoa wa Kagera. kutoka kushoto waliokaa ni Katibu Tawala wa Mkoa wa Morogoro Dkt. Mussa Ali Mussa, Mhe. Adam Kighoma Malima Mkuu wa Mkoa wa Morogoro, Mkuu wa Mkoa wa Kagera Mhe. Fatma Abubakari Mwassa na Mwenyekiti wa CCM MKoa wa Morogoro Joseph Masunga\nHawa ni baadhi ya Wajumbe wa Menejimenti ya Mkoa wa Morogoro wakiwa katika picha ya pamoja na Wahe. wakuu wa Mikoa ya Morogoro na Kagera baada ya makabidhiano ya kiofisi\nWaliosimama ni baadhi ya viongozi wa chama cha mapinduzi (CCM) Mkoa wa Morogoro kushoto ni Alhaji Hamis Sengulo, katikati ni Ndg. Solomon Kasaba na kulia ni Jamila Miyonga wakiwa kwenye picha ya pamoja na wahe. Wakuu wa Mikoa ya Morogoro na Kagera.\nMkuu wa Mkoa wa Morogoro Mhe. Adam Malima (wa pili kushoto waliokaa), Mkuu wa Mkoa wa Kagera Mhe. Fatma Mwassa wakiwa kwenye picha ya pamoja na Viongozi wa dini wa Mkoa wa Morogoro baada ya hafla fupi ya makabidhiano ya ofisi.\nMkuu wa Mkoa wa Morogoro Mhe. Adam Malima (wa pili kushoto waliokaa), Mkuu wa Mkoa wa Kagera Mhe. Fatma Mwassa wakiwa kwenye picha ya pamoja na Wakurugenzi wa Halmashauri za Mkoa wa Morogoro baada ya hafla fupi ya makabidhiano ya ofisi.\nMkuu wa Mkoa wa Morogoro Mhe. Adam Malima (wa pili kutoka kushoto waliokaa), Mkuu wa Mkoa wa Kagera Mhe. Fatma Mwassa wakiwa kwenye picha ya pamoja na baadhi ya waandishi wa habari wa Mkoa wa Morogoro.\nMWISHO.\nMatangazo\nORODHA YA WANAFUNZI WALIOCHAGULIWA KUJIUNGA NA KIDATO CHA KWANZA 2024 - MKOA WA MOROGORO. December 18, 2023\nView All\nHabari Mpya\nMufti Abubakari asisitiza kulinda maadili hapa Nchini.\nMay 19, 2024\nRC MALIMA ATAKA VIKUNDI VYA WANAWAKE KUJIKITA KATIKA SHUGHULI ZA KIUCHUMI\nMay 14, 2024\nMOROGORO YAPOKEA PROGRAM YA UWEZESHAJI WANANCHI KIUCHUMI KWA KUUNGANISHA NA MAZAO YA KIMKAKATI.\nMay 13, 2024\nMADAKTARI WA DKT. SAMIA WAPONGEZWA MOROGORO.\nMay 11, 2024\nView All\nVideo\nMkuu wa Mkoa wa Morogoro Mhe. Adam Kighoma Malima akikagua ujenzi wa jengo la ofisi mpya ya Mkuu wa Mkoa.","num_words":796,"character_repetition_ratio":0.171,"word_repetition_ratio":0.097,"special_characters_ratio":0.198,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.998,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"Ugavi na Utoaji wa Maji Safi ya Kunywa ya Chupa ya Lita 18.9 - Mfumo wa Mkataba wa Miaka Miwili (2) kwa Mkoa wa Nairobi (Zimehifadhiwa kwa: Watu Wanaoishi na Ulemavu)\nUgavi na Utoaji wa Maji Safi ya Kunywa ya Chupa ya Lita 18.9 - Mfumo wa Mkataba wa Miaka Miwili (2) kwa Mkoa wa Nairobi (Zimehifadhiwa kwa: Watu Wanaoishi na Ulemavu)","num_words":56,"character_repetition_ratio":0.074,"word_repetition_ratio":0.809,"special_characters_ratio":0.249,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.984,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"\"Serikali imeongeza udahili katika vyuo vya elimu ya ufundi kutoka wanafunzi 171,581 mwaka 2022\/23 hadi wanafunzi 235,804 mwaka 2023\/24, ongezeko hili linatokana na kuongezeka kwa idadi ya vyuo vya elimu ya ufundi kutoka vyuo 465 (visivyo vya serikali 285) mwaka 2022\/23 hadi vyuo 474 (visivyo vya serikali 294) mwaka 2023\/24,\" - Prof Adolf Mkenda, Waziri wa Elimu","num_words":46,"character_repetition_ratio":0.101,"word_repetition_ratio":0.0,"special_characters_ratio":0.33,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.997,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"Vifaa vya Kuchezea vya Bunduki vya Maji vya Umeme vya Kiotomatiki kwa Watoto Wanaocheza Majira ya joto","num_words":17,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.157,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.697,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"Spika wa baraza la wawakilishi Marekani aanzisha uchunguzi kwa nia ya mswada wa kutokuwa na imani na Rais Biden\nALFAJIRI\nSpika wa baraza la wawakilishi Marekani aanzisha uchunguzi kwa nia ya mswada wa kutokuwa na imani na Rais Biden","num_words":39,"character_repetition_ratio":0.099,"word_repetition_ratio":0.667,"special_characters_ratio":0.164,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.997,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"Mkuu wa Mkoa wa Mara Meja Jenerali Suleiman Mzee leo ameanza ziara ya kikazi katika Wilaya ya Musoma na Wilaya ya Butiama kwa kutembelea ofisi za Chama cha Mapinduzi (CCM) Mkoa wa Mara kwa lengo la kujitambulisha.\nAkizungumza baada ya kujitambulisha na kukaribishwa, Mkuu wa Mkoa amewaahidi ushirikiano yeye mwenyewe na viongozi wote wa serikali wa Mkoa wa Mara.\n“Mimi ninawaahidi tutatoa ushirikiano wa kutosha kwa Chama cha Mapinduzi na viongozi wa Chama na niwaombe ushirikiano katika utekelezaji wa shughuli za maendeleo kwa wananchi” ameeleza Mheshimiwa Mzee.\nMheshimiwa Mzee ameeleza kuwa anaamini katika mabadiliko ya kimaendeleo na ubunifu kwa ajili ya kuutoa Mkoa wa Mara sehemu ilipofikia kwenda katika maendeleo zaidi.\nKwa upande wake, Katibu wa CCM Mkoa wa Mara Bwana Lengaeli Akyoo amemkaribisha Mkuu wa Mkoa na kusema kuwa watu wa Mkoa wa Mara wamefurahia uteuzi wao na kuahidi kutoa ushirikiano wa kutosha kwa viongozi hao.\nAidha, amewapongeza kwa kuaminiwa na kuteuliwa na Mheshimiwa Rais na kuwakaribisha Mkoa wa Mara na hususan katika Chama cha Mapinduzi.\nkatika ziara hiyo, Mkuu wa Mkoa aliambatana na Katibu Tawala wa Mkoa wa Mara Bwana Msalika Robert Makungu ambaye pia amewasili Mkoa wa Mara tarehe 5 Agosti, 2022 baada ya kuteuliwa na Rais wa Jamhuri ya Muungano wa Tanzania tarehe 28 Julai, 2022.\nHii ni ziara ya kwanza ya Mheshimiwa Mzee katika Mkoa wa Mara baada ya kuwasili tarehe 6 Agosti, 2022 baada ya kuteuliwa na Rais tarehe 31 Julai, 2022 kuwa Mkuu wa Mkoa wa Mara.","num_words":236,"character_repetition_ratio":0.115,"word_repetition_ratio":0.0,"special_characters_ratio":0.19,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.996,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"Kukodisha nafasi ya ofisi kwa Mamlaka ya Mapato ya Kenya katika mji wa Siaya, Kaunti ya Siaya kwa muda wa miaka sita (6)\nKukodisha nafasi ya ofisi kwa Mamlaka ya Mapato ya Kenya katika mji wa Siaya, Kaunti ya Siaya kwa muda wa miaka sita (6)","num_words":44,"character_repetition_ratio":0.095,"word_repetition_ratio":0.743,"special_characters_ratio":0.22,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.99,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"Kuongezwa kwa Tarehe ya Kufunga Zabuni - Utoaji wa huduma za chai\/upishi kutoka nje kwa vituo mbalimbali vya KRA\nKuongezwa kwa Tarehe ya Kufunga Zabuni - Utoaji wa huduma za chai\/upishi kutoka nje kwa vituo mbalimbali vya KRA","num_words":36,"character_repetition_ratio":0.093,"word_repetition_ratio":0.667,"special_characters_ratio":0.182,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.967,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"Hali ya Uchumi wa Taifa kwa Mwaka 2015, Mpango wa Maendeleo wa Taifa kwa Mwaka wa Fedha 2016\/2017 na Mapendekezo ya Serikali kuhusu Makadirio ya Mapato na Matumizi kwa Mwaka wa Fedha 2016\/2017. Michango","num_words":31,"character_repetition_ratio":0.135,"word_repetition_ratio":0.0,"special_characters_ratio":0.282,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.992,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"Utoaji wa Huduma za Kuua Viini na Usafishaji kwa Ofisi za Mamlaka ya Mapato ya Kenya na Maeneo ya Makazi Nchini kote. Mkataba wa Mfumo wa mwaka mmoja (1).\nUtoaji wa Huduma za Kuua Viini na Usafishaji kwa Ofisi za Mamlaka ya Mapato ya Kenya na Maeneo ya Makazi Nchini kote. Mkataba wa Mfumo wa mwaka mmoja (1).","num_words":56,"character_repetition_ratio":0.08,"word_repetition_ratio":0.809,"special_characters_ratio":0.217,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.998,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"Zabuni ya Utoaji wa Huduma za Usimamizi wa Mpango kwa Mpango wa Pensheni wa Wafanyakazi wa Mamlaka ya Mapato ya Kenya kwa Kipindi cha Miaka 3.\nZabuni ya Utoaji wa Huduma za Usimamizi wa Mpango kwa Mpango wa Pensheni wa Wafanyakazi wa Mamlaka ya Mapato ya Kenya kwa Kipindi cha Miaka 3.","num_words":50,"character_repetition_ratio":0.087,"word_repetition_ratio":0.78,"special_characters_ratio":0.193,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.879,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"Waziri Mkuu, Kassim Majaliwa akiongozana na Mkuu wa Mkoa wa Songwe Waziri Kindamba (kulia) na Mjumbe wa Halmashauri Kuu ya Taifa ya CCM, Aden Mwakyonde (kushoto) wakati alipowasili kwenye uwanja wa ndege wa Songwe kuanza ziara ya kikazi mkoani Songwe\nWaziri Mkuu, Kassim Majaliwa akisalimiana na viongozi wa Mkoa wa Songwe wakati alipowasili kwenye uwanja wa ndege wa Songwe kuanza ziara ya kikazi mkoani humo, Februari 13, 2023. Wa pili kushoto ni Mkuu wa Mkoa wa Songwe, Waziri Kindamba na wa pili kulia ni Mkuu wa Mkoa wa Mbeya, Juma Homela. (Picha na Ofisi ya Waziri Mkuu)","num_words":95,"character_repetition_ratio":0.111,"word_repetition_ratio":0.093,"special_characters_ratio":0.203,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.998,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"◄ | Miaka ya 810 | Miaka ya 820 | Miaka ya 830 | Miaka ya 840 | Miaka ya 850 | Miaka ya 860 | Miaka ya 870 | ►","num_words":15,"character_repetition_ratio":0.337,"word_repetition_ratio":0.833,"special_characters_ratio":0.545,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.288,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"Mwingiliano wa Lugha ya Mazungumzo na ya Maandishi katika Uandishi wa Kitaaluma wa Insha za Wanafunzi\nCOSTECH Integrated Repository\nMwingiliano wa Lugha ya Mazungumzo na ya Maandishi katika Uandishi wa Kitaaluma wa Insha za Wanafunzi\nLogin\nCOSTECH Repository Home\n→\nUniversity of Dar-es-salaam\n→\nInstitute of Kiswahili Studies\n→\nDepartment of Kiswahili Language and Linguistics\n→\nView Item\nJavaScript is disabled for your browser. Some features of this site may not work without it.\nMwingiliano wa Lugha ya Mazungumzo na ya Maandishi katika Uandishi wa Kitaaluma wa Insha za Wanafunzi\nPeterson, Rhoda\nURI: http:\/\/hdl.handle.net\/20.500.11810\/4955\nDescription:\nLugha ya Mazungumzo na ya Maandishi ni njia tofauti za mawasiliano zinazotumiwa na wanadamu. Hata hivyo baadhi ya sifa za lugha ya mazungumzo hujitokeza katika lugha ya maandishi na za lugha ya maandishi hujitokeza katika lugha ya mazungumzo. Mwingiliano huo husababisha uchanganyaji wa miundo ya njia hizi mbili za mawasiliano kwa baadhi ya waandishi. Lengo la makala haya ni: Mosi, kubainisha sifa za lugha ya mazungumzo na ya maandishi hasa katika kipengele cha muundo. Pili, kuonesha mwingiliano wa sifa hizo na sababu zake. Tatu, kutathmini athari za mwingiliano huo katika uandishi wa kitaaluma wa insha za wanafunzi. Inatarajiwa kuwa makala haya yatasaidia kupanua uelewa wa wanafunzi na waandishi kwa jumla kuhusu taratibu za uandishi, hasa wa kitaaluma.","num_words":208,"character_repetition_ratio":0.102,"word_repetition_ratio":0.106,"special_characters_ratio":0.181,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.987,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"Mwanasheria kutoka Wizara ya Afya, Maendeleo yaJamii, Jinsia, Wazee na Watoto (Idara Kuu ya Maendeleo ya Jamii) Bi. Idda Kombe (kulia) akitoa huduma kwa mdau wa Mashirika Yasiyo ya Kiserikali aliyefika kukamilisha usajili wa shirika lake wakati wa zoezi la usajili wa NGOs zilizokuwa nje ya Sheria ya Mashirika Yasiyo ya Kiserikali linaloendelea katika Mikoa ya Kanda ya Ziwa katika Ukumbi wa Ofisi ya Mkuu wa Mkoa jijini Mwanza.\nKatibu Mkuu wa Wizaraya Afya, Maendeleo ya Jamii, Jinsia, Wazee na Watoto (Idara kuu ya Maendeleo ya Jamii) Dkt. John Jingu (kushoto) akizungumza na wadau wa NGOs waliofika kupata huduma za pamoja za usajili wa mashirika yao wakati wa zoezi la usajili wa NGOs zilizokuwa nje ya Sheria ya Mashirika Yasiyo ya Kiserikali linaloendelea katika Mikoa ya Kanda ya Ziwa katika Ukumbi wa Ofisi ya Mkuu wa mkoa jijini Mwanza.\n- Advertisement -\nMwanasheria kutoka Wizara ya Afya Maendeleo ya Jamii, Jinsia, Wazee na Watoto Bi. Happy Msimbe akitoa huduma kwa mdau wa NGOs wakati wa zoezi la usajili wa NGOs zilizokuwa nje ya Sheria ya Mashirika Yasiyo ya Kiserikali linaloendelea katika Mikoa ya Kanda ya Ziwa katika Ukumbi wa Ofisi ya Mkuu wa mkoa jijini Mwanza.","num_words":194,"character_repetition_ratio":0.092,"word_repetition_ratio":0.4,"special_characters_ratio":0.185,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.993,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"Иван Стефанов 82164 ok ok wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa 0.13 2444","num_words":27,"character_repetition_ratio":0.642,"word_repetition_ratio":0.778,"special_characters_ratio":0.404,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.784,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"So funny Ya i ya i ya i ya i ya i ya i ya Ya i ya i ya i ya i Ya i ya i ya i ya i ya i ya i ya It's so funny ya i ya i Ya i ya i ya i ya i ya i ya i ya Ya i ya i ya i ya i It's so funny ya i ya i ya i ya i ya Ya i ya i ya i ya i\n我主張克制不了就放任\n懸上該有的天真\n起伏在於喜怒哀樂\n鬆了繩 大不了無人問\nYa i ya i ya i ya i ya i ya i ya Ya i ya i ya i ya i Ya i ya i ya i ya i ya i ya i ya It's so funny ya i ya i Ya i ya i ya i ya i ya i ya i ya Ya i ya i ya i ya It's so funny ya i ya i ya i ya i ya Ya i ya i ya i ya","num_words":169,"character_repetition_ratio":0.563,"word_repetition_ratio":0.844,"special_characters_ratio":0.358,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"Wadau wa usalama waonyesha wasiwasi kuhusu uwezo wa kikosi cha kukabiliana na magenge ya uhalifu haiti\nALFAJIRI\nWadau wa usalama waonyesha wasiwasi kuhusu uwezo wa kikosi cha kukabiliana na magenge ya uhalifu haiti","num_words":33,"character_repetition_ratio":0.098,"word_repetition_ratio":0.583,"special_characters_ratio":0.15,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.945,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"Mfumo wa Mkataba wa Utoaji wa Huduma za Ushauri kwa Utafiti wa Mtazamo wa Ufisadi kwa Kipindi cha Miaka 3\nMfumo wa Mkataba wa Utoaji wa Huduma za Ushauri kwa Utafiti wa Mtazamo wa Ufisadi kwa Kipindi cha Miaka 3","num_words":38,"character_repetition_ratio":0.099,"word_repetition_ratio":0.69,"special_characters_ratio":0.194,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.977,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"Mwongozo wa Upakiaji wa Kiotomatiki wa Kukunja kwa Nguvu Inayobadilika ya Marekebisho ya Kinyozi cha Ambulance","num_words":16,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.136,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.689,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"Mkoa wa Adana • Mkoa wa Adıyaman • Mkoa wa Afyonkarahisar • Mkoa wa Ağrı • Mkoa wa Aksaray • Mkoa wa Amasya • Mkoa wa Ankara • Mkoa wa Antalya • Mkoa wa Ardahan • Mkoa wa Artvin • Mkoa wa Aydin • Mkoa wa Balikesir • Mkoa wa Bartin • Mkoa wa Batman • Mkoa wa Bayburt • Mkoa wa Bilecik • Mkoa wa Bingöl • Mkoa wa Bitlis • Mkoa wa Bolu • Mkoa wa Burdur • Mkoa wa Bursa • Mkoa wa Çanakkale • Mkoa wa Çankiri • Mkoa wa Çorum • Mkoa wa Denizli • Mkoa wa Diyarbakir • Mkoa wa Düzce • Mkoa wa Edirne • Mkoa wa Elazig • Mkoa wa Erzincan • Mkoa wa Erzurum • Mkoa wa Eskisehir • Mkoa wa Gaziantep • Mkoa wa Giresun • Mkoa wa Gümüshane • Mkoa wa Hakkari • Mkoa wa Hatay • Mkoa wa Igdir • Mkoa wa Isparta • Mkoa wa Istanbul • Mkoa wa Izmir • Mkoa wa Kahramanmaras • Mkoa wa Karabük • Mkoa wa Karaman • Mkoa wa Kars • Mkoa wa Kastamonu • Mkoa wa Kayseri • Mkoa wa Kirikkale • Mkoa wa Kirklareli • Mkoa wa Kirsehir • Mkoa wa Kilis • Mkoa wa Kocaeli • Mkoa wa Konya • Mkoa wa Kütahya • Mkoa wa Malatya • Mkoa wa Manisa • Mkoa wa Mardin • Mkoa wa Mersin • Mkoa wa Mugla • Mkoa wa Mus • Mkoa wa Nevsehir • Mkoa wa Nigde • Mkoa wa Ordu • Mkoa wa Osmaniye • Mkoa wa Rize • Mkoa wa Sakarya • Mkoa wa Samsun • Mkoa wa Siirt • Mkoa wa Sinop • Mkoa wa Sivas • Mkoa wa Sirnak • Mkoa wa Tekirdag • Mkoa wa Tokat • Mkoa wa Trabzon • Mkoa wa Tunceli • Mkoa wa Sanliurfa • Mkoa wa Usak • Mkoa wa Van • Mkoa wa Yalova • Mkoa wa Yozgat • Mkoa wa Zonguldak\nBendera ya Uturuki\nRudishwa kutoka \"https:\/\/sw.wikipedia.org\/w\/index.php?title=Kigezo:Mikoa_ya_Uturuki&oldid=488712\"\nJamii:\nNavigational boxes without horizontal lists\nVigezo ya Uturuki\nUkurasa huu umebadilishwa kwa mara ya mwisho tarehe 26 Agosti 2010, saa 20:32.\nMaandishi yanapatikana chini ya leseni ya Creative Commons Attribution-ShareAlike License; matakwa mengine yanaweza kutakiwa. Tazama maelezo zaidi ya Matakwa ya Utumiaji.","num_words":289,"character_repetition_ratio":0.197,"word_repetition_ratio":0.0,"special_characters_ratio":0.266,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.979,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"Mwanga wa jua, Nguzo ya Mwanga wa jua, Mwanga wa Pole wa Juu, Nguzo ya Mwanga wa Mtaa, Taa ya Mtaa wa Sola ya China, Nguzo ya Taa,","num_words":28,"character_repetition_ratio":0.19,"word_repetition_ratio":0.0,"special_characters_ratio":0.254,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.748,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"Mkuu wa Mkoa wa Mara Meja Jenerali Suleiman Mungiya Mzee leo ameongoza kikao cha kuwajengea uelewa wa pamoja baina ya Wakala wa Maji na Usafi wa Mazingira Vijijini (RUWASA) Mkoa wa Mara na kuitaka Wakala hiyo kuwasilisha taarifa ya vyanzo vya maji na mkakati wa kivilinda vyanzo vilivyopo ofisini kwake kwa ajili ya kupata uelewa wa pamoja wa viongozi ndani ya Mkoa.\n“Ninataka nipewe taarifa ya vyanzo vya maji vilivyopo na mkakati wa kivilinda vyanzo hivi ili viongozi wote tuuelewe na tushiriki kulinda kwa ajili ya kuleta uhakika wa maji kwa maendeleo ya wananchi katika Mkoa wa Mara” amesema Mheshimiwa Mzee.\nMheshimiwa Mzee ametoa agizo hilo baada ya baadhi ya wajumbe wa kikao hicho kulalamika kuwa kuna baadhi ya vyanzo vya maji havijatunzwa vizuri na kusababisha uharibifu wa vyanzo hivyo kutokana na shughuli mbalimbali za kibinadamu.\nMkuu wa Mkoa ameitaka RUWASA kuendelea kutoa elimu kwa wananchi kuhusu Sheria ya Huduma ya Maji na Usafi wa Mazingira na. 5 ya mwaka 2019 ili wananchi waepuke kuharibu mazingira na vyanzo vya maji bila kujua kuwa ni kosa kisheria.\nAidha, Mheshimiwa Mzee ameitaka RUWASA kufuatilia miradi ya maji inayotekelezwa katika Mkoa wa Mara ili iweze kukamilika kwa wakati na kutoa huduma ya maji kwa wananchi.\nMheshimiwa Mzee amewataka viongozi waliohudhuria kikao hicho kuwaelimisha wananchi wanaowawakilisha ili kulinda vyanzo vya maji na uharibifu wa mazingira.\nKwa upande wake, Mhandisi wa RUWASA Mkoa wa Mara, Nuni Munjobelege ameeleza kuwa lengo la kikao hicho ni kujenga uelewa wa pamoja baina ya RUWASA, Sekretarieti ya Mkoa na viongozi mbalimbali kuhusu mwelekeo mpya wa utoaji wa huduma yam aji vijijini chini ya Sheria ya Huduma za Maji na Usafi wa Mazingira Na. 5 ya mwaka 2019.\nAkizungumza wakati wa kutoa mada kuhusu hali ya utekelezaji wa ujenzi wa miradi ya maji katika Mkoa wa Mara, Mhandisi Nuni ameeleza kuwa kwa sasa miradi yote ya maji inayotelekezwa katika Mkoa wa Mara inaendelea vizuri.\nMhandisi Nuni ameeleza kuwa kwa sasa Mkoa una miradi ya maji 115 inayotekelezwa na vikundi vya watumia maji 91 vinavyoendesha miradi hiyo baada ya baadhi ya vikundi kuanza kuunganishwa ili kuendana na mwongozo mpya wa vikundi vya watumiaji maji katika ngazi ya jamii.\nKikao hicho kimehudhuriwa pia na Katibu Tawala wa Mkoa wa Mara, Katibu Mkuu wa Chama cha Mapinduzi (CCM) Mkoa wa Mara, Wakuu wa Wilaya, Kamati ya Siasa ya Mkoa, Kamati ya Usalama ya Mkoa, Wakuu wa Idara na Vitengo vya Ofisi ya Mkuu wa Mkoa wa Mara, Makatibu Tawala wa Wilaya, Wenyeviti wa Halmashauri, Wakurugenzi wa Halmashauri na wakuu wa baadhi ya taasisi za serikali.","num_words":416,"character_repetition_ratio":0.082,"word_repetition_ratio":0.0,"special_characters_ratio":0.181,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.991,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"Kitanda cha PE kinachokunjika chenye Nguvu ya Juu kwa Matumizi ya Nje ya Hospitali ya Kawaida ya Hospitali","num_words":18,"character_repetition_ratio":0.082,"word_repetition_ratio":0.0,"special_characters_ratio":0.16,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.81,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"Wanafunzi wengi wanaokuja kujifunza Kiswahili kama lugha ya kigeni wana nafasi chache za kushirikiana na wazawa ambao ni wazungumzaji wa lugha mama ya Kiswahili. Mara nyingi uelewa kwenye lugha unapatikana kwa kutumia mbinu mbali mbali za ufundishaji wa lugha ya pili au ya kigeni ambayo humpa mwanafunzi wa kigeni kupata stadi za kusoma, kusikiliza, kuzungumza na kuandika. Mbinu hizi huweza kuwasaidia wanafunzi hawa kujifunza lugha kwa ufasaha kutoka kwa wazawa. Mbinu moja wapo ni kutumia mkakati wa marafiki wa lugha kwa wanafunzi wanaojifunza kama Kiswahili kama lugha ya kigeni. Njia hii huweza kuwasaidia wanafunzi hawa kujifunza lugha kwa ufasaha kutoka kwa wazawa. Kwa mantiki hiyo lengo kuu la utafiti huu ni kutathmini kwa kiasi gani mikakati inayotumiwa na marafiki wa lugha huwasaidia wanafunzi wa kigeni kujifunza Kiswahili kwa ufasaha katika Chuo Kikuu cha Taifa cha Zanzibar (SUZA). Utafiti ulikuwa na malengo matatu mahsusi. Kwanza, kubainisha majukumu ya marafiki wa lugha yaliyoandaliwa na Idara ya Kiswahili kwa Wageni; pili, kuchunguza mikakati inayotumiwa na marafiki wa lugha katika kuwasaidia wanafunzi wa kigeni kujifunza Kiswahili katika Chuo cha SUZA1.Tatu, kutathmini viwango vya usaidizi walivyovipata wanafunzi wa kigeni kutoka kwa marafiki wa lugha ya Kiswahili. Utafiti uliongozwa na nadharia ya Mwingiliano Jamii iliyoasisiwa na Vygostsky miaka ya 1980. Utafiti huu ulifanyika Kisiwa cha Unguja, Mkoa wa Mjini Magharibi kwa kuhusisha watoa taarifa wazawa. Vilevile, ulishirikisha wanafunzi wa kigeni wanaoishi nchi ya Marekani waliowahi kushiriki katika programu ya marafiki wa lugha katika chuo hiki uanzia 2010 mpaka 2018. Utafiti ulihusisha makundi matatu na watoa taarifa 28. Aliyekuwa mkuu wa Idara ya Kiswahili kwa Wageni, marafiki wa lugha ya Kiswahili 15 na wanafunzi wa kigeni waliowahi kushiriki programu ya marafiki wa lugha ya Kiswahili kutoka nchi ya Marekani walikuwa 12. Data za utafiti zilikusanywa kwa mbinu ya usaili na hojaji. Matokeo ya utafiti huu yameeleza kwamba mbinu ya kutumia marafiki wa lugha katika kujifunza na kufundisha Kiswahili kwa wanafunzi wa kigeni hurahisisha mchakato wa kufundisha na kujifunza. Wanafunzi wa kigeni huzifahamu vyema stadi za Kiswahili. Marafiki wa lugha waliandaa mikakati mahsusi katika kuwasaidia wanafunzi wa kigeni kujifunza Kiswahili kwa wepesi. Baadhi ya mikakati hiyo ni mkakati wa kiziara, mkakati wa kushiriki matukio ya kijamii, mkakati wa usomaji matini za Kiswahili, mkakati wa usikilizaji na utazamaji wa filamu za Kiswahili. Kutokana na matokeo ya utafiti huu mtafiti alipendekeza kuwa mbinu ya marafiki wa lugha, ni vyema kutumika kwa wanafunzi wote wa Kiswahili kama lugha ya kigeni. Aidha kwa sasa mbinu hiyo hutumiwa kwa wanafunzi wachache wanaokuwa tayari kuichagua na kuilipia mbinu hiyo katika masomo yao. Hivyo, utafiti huu unapendekeza mbinu hii itumike kwa wanafunzi wote wa kigeni katika kujifunza Kiswahili hapa SUZA. Vilevile, mbinu hii iimarishwe kwa kuongezwa muda wa kukutana baina ya marafiki wa lugha na wanafunzi wa kigeni ili ipatikane fursa kubwa ya kujifunza Kiswahili. Aidha, utafiti unapendekeza kutolewa kwa mafunzo zaidi ambayo ni endelevu kwa marafiki wa lugha ili kupunguza changamoto na hatimaye kuleta ufanisi wa hali ya juu katika programu hiyo.\nDescription\nWanafunzi wengi wanaokuja kujifunza Kiswahili kama lugha ya kigeni wana nafasi chache za kushirikiana na wazawa ambao ni wazungumzaji wa lugha mama ya Kiswahili.","num_words":507,"character_repetition_ratio":0.149,"word_repetition_ratio":0.068,"special_characters_ratio":0.166,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.991,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"Familia mbili zenye nguvu ya kiuchumi na ushawishi mkubwa wa kisiasa kwenye jamii zinaingia kwenye vita vikali na visasi sababu kubwa ikiwa ni mapenzi","num_words":24,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.153,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.568,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"Hati ya Kawaida ya Zabuni ya Utoaji wa Huduma za Uhifadhi kwa Mpango wa Pensheni wa Wafanyakazi wa Mamlaka ya Mapato ya Kenya (KRASPS)\nHati ya Kawaida ya Zabuni ya Utoaji wa Huduma za Uhifadhi kwa Mpango wa Pensheni wa Wafanyakazi wa Mamlaka ya Mapato ya Kenya (KRASPS)","num_words":48,"character_repetition_ratio":0.085,"word_repetition_ratio":0.769,"special_characters_ratio":0.19,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.976,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"Mkuu wa Mkoa wa Mara Meja Jenerali Suleiman Mzee leo ameanza ziara ya kikazi katika Wilaya ya Musoma na Wilaya ya Butiama kwa kutembelea ofisi za Chama cha Mapinduzi (CCM) Mkoa wa Mara kwa lengo la kujitambulisha.\nAkizungumza baada ya kujitambulisha na kukaribishwa, Mkuu wa Mkoa amewaahidi ushirikiano yeye mwenyewe na viongozi wote wa serikali wa Mkoa wa Mara.\n“Mimi ninawaahidi tutatoa ushirikiano wa kutosha kwa Chama cha Mapinduzi na viongozi wa Chama na niwaombe ushirikiano katika utekelezaji wa shughuli za maendeleo kwa wananchi” ameeleza Mheshimiwa Mzee.\nMheshimiwa Mzee ameeleza kuwa anaamini katika mabadiliko ya kimaendeleo na ubunifu kwa ajili ya kuutoa Mkoa wa Mara sehemu ilipofikia kwenda katika maendeleo zaidi.\nKwa upande wake, Katibu wa CCM Mkoa wa Mara Bwana Lengaeli Akyoo amemkaribisha Mkuu wa Mkoa na kusema kuwa watu wa Mkoa wa Mara wamefurahia uteuzi wao na kuahidi kutoa ushirikiano wa kutosha kwa viongozi hao.\nAidha, amewapongeza kwa kuaminiwa na kuteuliwa na Mheshimiwa Rais na kuwakaribisha Mkoa wa Mara na hususan katika Chama cha Mapinduzi.\nkatika ziara hiyo, Mkuu wa Mkoa aliambatana na Katibu Tawala wa Mkoa wa Mara Bwana Msalika Robert Makungu ambaye pia amewasili Mkoa wa Mara tarehe 5 Agosti, 2022 baada ya kuteuliwa na Rais wa Jamhuri ya Muungano wa Tanzania tarehe 28 Julai, 2022.\nHii ni ziara ya kwanza ya Mheshimiwa Mzee katika Mkoa wa Mara baada ya kuwasili tarehe 6 Agosti, 2022 baada ya kuteuliwa na Rais tarehe 31 Julai, 2022 kuwa Mkuu wa Mkoa wa Mara.","num_words":236,"character_repetition_ratio":0.115,"word_repetition_ratio":0.0,"special_characters_ratio":0.19,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.996,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"◄ | Miaka ya 820 | Miaka ya 830 | Miaka ya 840 | Miaka ya 850 | Miaka ya 860 | Miaka ya 870 | Miaka ya 880 | ►","num_words":15,"character_repetition_ratio":0.337,"word_repetition_ratio":0.833,"special_characters_ratio":0.545,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.267,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"Andreas Horsche alizaliwa mwaka wa 1978 katika mji wa Erfurt (Thüringen). Baada ya mafunzo ya useremala na kutumika kwa miaka mianne kama askari wa muda katika kitengo cha muziki jeshini, alisomea utawala katika taasisi ya FHVR mjini Saale. Kabla ya kuchaguliwa kuwa Meya wa kwanza, alifanya kazi kama afisa wa utawala katika mji mkuu wa jimbo la Bavaria, Munich na mji wa Abensberg.\nTangu mwaka wa 2014 amekuwa Meya wa Manispaa ya Furth na pia Mwenyekiti wa jumuiya ya kiutawala yenye jina sawa na hilo pamoja na manispaa nyingine wanachama za Obersüßbach na Weiihmichl.\nMeya wa pili Josef Fürst\nJosef Fürst alizaliwa 1952 katika mji wa Linden (Arth). Amekuwa mwanachama wa halmashauri ya mtaa wa Further tangu mwaka wa 1978. Mkulima huyu kutoka Arth amekuwa na ushawishi mkubwa katika maendeleo ya mji huo kwa miongo iliyopita. Akiwa kama mwanachama wa chama cha Christian Social Union, ni mjumbe wa baraza la manispaa na mjumbe wa kamati ya ujenzi na mazingira, mwanachama wa baraza la mambo ya utawala, mwanachama wa bodi ya wakurugenzi wa taasisi ya manispaa ya Furth na mwakilishi kwenye baraza la chama cha maendeleo jumuishi ya vijijini. Kwa kipindi cha miaka 2020-2026, Josef Fürst alichaguliwa mara kadhaa kama naibu wa Meya. Kabla ya hapo aliiwakilisha ofisi ya meya wa tatu kwa miaka mingi.\nMeya wa tatu Monka Dierl\nMonika Dierl alizaliwa Vilsbiburg mnamo mwaka wa 1970 na kukulia katika eneo la Landshut.\nTangu 2008 ni mwanachama wa Halmashauri ya mtaa wa Furth. Msaidizi huyo wa mambo ya matatizo ya kuzungumza, amekuwa na mchango mkubwa kwenye maendeleo ya miaka iliyopita hasa katika kazi za watoto na vijana. Kama mwanachama wa Kundi la wa Wapiga Kura Huru au Free Voters, yeye ni mwanachama wa chama cha muungano wa kampuni ya FuKeE, mjumbe wa Jumuiya ya utawala ya Furth, mwanachama wa jumuiya ya maendeleo ya vijijini huko Holledauer Tor na nmjumbe wa kamati ya ujenzi na mazingira. Monika Dierl alichaguliwa kuwa meya wa tatu kwa muhula wa 2020-2026.","num_words":318,"character_repetition_ratio":0.081,"word_repetition_ratio":0.0,"special_characters_ratio":0.201,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.99,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"Zabuni ya Utoaji wa Huduma ya Mwaka ya Mkataba wa Matengenezo(AMC) kwa Vifaa vya KRA Oracle Exadata na Uboreshaji wa Kituo cha Data kwa Muda wa Miaka Miwili(2)\nZabuni ya Utoaji wa Huduma ya Mwaka ya Mkataba wa Matengenezo(AMC) kwa Vifaa vya KRA Oracle Exadata na Uboreshaji wa Kituo cha Data kwa Muda wa Miaka Miwili(2)","num_words":56,"character_repetition_ratio":0.077,"word_repetition_ratio":0.809,"special_characters_ratio":0.204,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.918,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"... kwa marafiki wako watano kuwa macho kwa yote hayo tayari wamepokea kutoka kwa Mungu katika wao maisha, na yote anayowapa katika Kristo, hiyo wanaweza kumsifu.","num_words":25,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.191,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.627,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"◄ | Miaka ya 810 | Miaka ya 820 | Miaka ya 830 | Miaka ya 840 | Miaka ya 850 | Miaka ya 860 | Miaka ya 870 | ►","num_words":15,"character_repetition_ratio":0.337,"word_repetition_ratio":0.833,"special_characters_ratio":0.545,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.288,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"Utafiti huu umeshughulikia; Tathmini ya Utoaji wa Maelezo ya Utamaduni katika Kufundisha Kiswahili kama Lugha ya Kigeni. Maelezo ya utamaduni ni kipengele muhimu sana katika ufundishaji wa lugha. Maelezo hayo yamebainishwa kwa ufupi katika vitabu kulingana na mada husika. Mwalimu amepewa nafasi ya kutoa maelezo ya ziada kuhusu utamaduni kwa kutumia mbinu mbalimbali. Utafiti umefanywa Unguja, Mkoa wa Mjini Magharibi katika Chuo Kikuu cha Taifa cha Zanzibar (SUZA) na Taasisi ya Kiswahili na Utamaduni (KIU).\nUtafiti huu umeshughulikia; Tathmini ya Utoaji wa Maelezo ya Utamaduni katika Kufundisha Kiswahili kama Lugha ya Kigeni. Maelezo ya utamaduni ni kipengele muhimu sana katika ufundishaji wa lugha. Maelezo hayo yamebainishwa kwa ufupi katika vitabu kulingana na mada husika. Mwalimu amepewa nafasi ya kutoa maelezo ya ziada kuhusu utamaduni kwa kutumia mbinu mbalimbali. Utafiti umefanywa Unguja, Mkoa wa Mjini Magharibi katika Chuo Kikuu cha Taifa cha Zanzibar (SUZA) na Taasisi ya Kiswahili na Utamaduni (KIU). Lengo la utafiti huu lilikuwa ni kubainisha maelezo ya utamaduni yanayotolewa katika ufundishaji wa Kiswahili kama lugha ya kigeni, kutathmini mbinu anazotumia mwalimu kutoa maelezo ya utamaduni katika kufundisha Kiswahili kama lugha ya kigeni na kueleza umuhimu wa maelezo ya utamaduni katika kufundisha Kiswahili kama lugha ya kigeni. Jumla ya watoa taarifa tisa (9) walihusiswa kutoa taarifa katika utafiti huu. Watoa taarifa hao ni walimu wanaofundisha Kiswahili kama lugha ya kigeni ambao walichaguliwa kwa kutumia sampuli lengwa kulingana na upatikanaji wao. Data zilikusanywa kwa kutumia mbinu ya mahojiano, ushuhudiaji na uchambuzi ws nyaraka. Utafiti uliongozwa na nadharia ya utamaduni jamii iliyotumika kuangalia maelezo ya utamaduni kama kitu kipya na muhimu anachotakiwa kupewa mwanafunzi katika ufundishaji lugha na mbinu za utoaji wa maelezo ya utamaduni katika kufundisha Kiswahili kama lugha ya kigeni. Utafiti ulitathmini na kushughulikia utoaji wa maelezo ya utamaduni kwa wanafunzi wa kiwango cha kwanza. Matokeo ya utafiti yamebaini kuwa: walimu wanatumia mbinu mbalimbali kutoa maelezo ya utamaduni lakini mbinu zinazotumika haziwasaidii sana walimu kufundisha wanafunzi wa kiwango cha kwanza kwa urahisi zaidi. Utafiti umependekeza walimu wapewe mafunzo ya kutosha kuhusu utoaji wa maelezo ya utamaduni na matumizi ya mbinu ya teknolojia katika utoaji wa maelezo ya utamaduni kama vile televisheni na mkazo zaidi utolewe kwa walimu wanaofundisha wanafunzi wa kiwango cha kwanza.","num_words":363,"character_repetition_ratio":0.129,"word_repetition_ratio":0.39,"special_characters_ratio":0.158,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.997,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"Rais Samia ashiriki mkutano wa Wakuu wa Nchi na Mashirika ya Kimataifa kujadili namna ya kuokoa uchumi wa Afrika.\nHome\nAbout\nContact\nHome\nHABARI\nFACTS\nHomeNEWSRais Samia ashiriki mkutano wa Wakuu wa Nchi na Mashirika ya Kimataifa kujadili namna ya kuokoa uchumi wa Afrika.\nRais Samia ashiriki mkutano wa Wakuu wa Nchi na Mashirika ya Kimataifa kujadili namna ya kuokoa uchumi wa Afrika.","num_words":63,"character_repetition_ratio":0.095,"word_repetition_ratio":0.537,"special_characters_ratio":0.168,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.999,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"Familia mbili zenye nguvu ya kiuchumi na ushawishi mkubwa wa kisiasa kwenye jamii zinaingia kwenye vita vikali na visasi sababu kubwa ikiwa ni mapenzi","num_words":24,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.153,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.568,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"Hati ya zabuni ya Mkataba wa Matengenezo wa Mwaka (AMC) na Leseni za Miundombinu ya Kompyuta ya Mezani (VDI) kwa muda wa mwaka mmoja.\nHati ya zabuni ya Mkataba wa Matengenezo wa Mwaka (AMC) na Leseni za Miundombinu ya Kompyuta ya Mezani (VDI) kwa muda wa mwaka mmoja.","num_words":48,"character_repetition_ratio":0.085,"word_repetition_ratio":0.769,"special_characters_ratio":0.213,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.994,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"e-Vibali ni Mfumo uliosanifiwa na kutengenezwa kwa manufaa ya Serikali ya Jamhuri ya Muungano wa Tanzania ili kusimamia na kuratibu utoaji wa vibali vya kusafiri nje ya nchi kwa watumishi wa umma.\nSoma Zaidi\ne-Vibali\ne-Vibali ni Mfumo uliosanifiwa na kutengenezwa kwa manufaa ya Serikali ya Jamhuri ya Muungano wa Tanzania ili kusimamia na kuratibu utoaji wa vibali vya kusafiri nje ya nchi kwa watumishi wa umma.","num_words":67,"character_repetition_ratio":0.069,"word_repetition_ratio":0.793,"special_characters_ratio":0.172,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.991,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"Jiang Xirui, mhandisi mkuu, mwenye uzoefu wa zaidi ya miaka 30 katika sekta ya kusagwa na kukausha.Aliwajibika kwa mradi wa uboreshaji wa kiufundi na alipata zaidi ya hataza 10 za kitaifa na tuzo 3 za mkoa.\nLi Xuejing, mhandisi mkuu, mwenye uzoefu wa zaidi ya miaka 30 katika sekta ya kusagwa na kukausha.Aliwajibika kwa mradi wa uboreshaji wa kiufundi na alipata zaidi ya hataza 10 za kitaifa na tuzo 4 za mkoa.\nWang Jia, mhandisi mkuu, mwenye uzoefu wa zaidi ya miaka 20 katika sekta ya kusagwa na kukausha.Aliwajibika kwa mradi wa uboreshaji wa kiufundi na alipata zaidi ya hataza 10 za kitaifa na tuzo 2 za mkoa.\nWeng Zengyan, mhandisi, alihusika na mradi wa uvumbuzi mbalimbali wa kiufundi na alipata hataza zaidi ya 10 na tuzo 2 za mkoa.\nWei Hongwu, mhandisi, alihusika na mradi wa uvumbuzi mbalimbali wa kiufundi na alipata hataza zaidi ya 10 na tuzo 2 za mkoa.\nLiu Manping, makamu wa mhandisi mkuu, aliwajibika kwa mradi wa uvumbuzi wa kiufundi na kupata zaidi ya hataza 10 na tuzo 2 za mkoa.\nTian Guoli, makamu wa mhandisi mkuu, aliwajibika kwa mradi wa uvumbuzi wa kiufundi na kupata zaidi ya hataza 10 na tuzo 2 za mkoa.\nYun Baoju, profesa na msimamizi wa udaktari wa Chuo Kikuu cha Sayansi na Teknolojia cha China Kaskazini, ni mkuu katika utafiti wa uhandisi wa usalama.\nWang Xuedong, akitoa mtaalam, ni mkuu katika utafiti wa teknolojia ya akitoa.\nShi Jianguo, daktari na mwalimu mkuu, ni mkuu katika utafiti wa vifaa vya kuchimba makaa ya mawe.\nWasiliana nasi\nKusini mwa Wafangzhuang High-tech Zone, Tangshan, Hebei, China\n+86-18931582978\[email protected]\nJIPYA\nKwa maswali kuhusu bidhaa zetu au orodha ya bei, tafadhali tuachie barua pepe yako na tutawasiliana ndani ya saa 24.","num_words":268,"character_repetition_ratio":0.112,"word_repetition_ratio":0.409,"special_characters_ratio":0.219,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.982,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"Kukodisha nafasi ya ofisi kwa Mamlaka ya Ushuru ya Kenya katika Port Victoria, Kaunti ya Busia kwa muda wa miaka sita (6).\nKukodisha nafasi ya ofisi kwa Mamlaka ya Ushuru ya Kenya katika Port Victoria, Kaunti ya Busia kwa muda wa miaka sita (6).","num_words":42,"character_repetition_ratio":0.093,"word_repetition_ratio":0.727,"special_characters_ratio":0.216,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.885,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"Zabuni ya Utoaji wa Huduma za Kila Mwaka za Matengenezo ya Kituo Kipya cha Data na Vifaa katika Mnara wa Pensheni wa Ushuru kwa muda wa miaka miwili (2)\nZabuni ya Utoaji wa Huduma za Kila Mwaka za Matengenezo ya Kituo Kipya cha Data na Vifaa katika Mnara wa Pensheni wa Ushuru kwa muda wa miaka miwili (2)","num_words":56,"character_repetition_ratio":0.081,"word_repetition_ratio":0.809,"special_characters_ratio":0.207,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.829,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"NBS YAKUTANA NA WAANDISHI WA HABARI WA MITANDAO YA KIJAMII MAANDALIZI YA SENSA YA WATU NA MAKAZI 2022 - Mzalendo\nMzalendoBlog\nHabari\nKitaifa\nKimataifa\nMichezo\nBurudani\nMakala\nMzalendo\nHabari\nKitaifa\nKimataifa\nMichezo\nBurudani\nMakala\nHome » NBS YAKUTANA NA WAANDISHI WA HABARI WA MITANDAO YA KIJAMII MAANDALIZI YA SENSA YA WATU NA MAKAZI 2022\nFeatured • Kitaifa\nNBS YAKUTANA NA WAANDISHI WA HABARI WA MITANDAO YA KIJAMII MAANDALIZI YA SENSA YA WATU NA MAKAZI 2022\n2 years ago\nby mzalendoeditor\n4 Views\nWritten by mzalendoeditor\nMtaalamu wa Habari na Mawasiliano kutoka Ofisi ya Taifa ya Takwimu (NBS), Said Ameir akizungumza wakati wa Mafunzo kwa Waandishi wa Habari wa Mitandao ya Kijamii (Bloggers\/Youtubers) kutoka mikoa mbalimbali nchini kuhusu Maandalizi ya Sensa ya Watu na Makazi ya mwaka 2022\nNa Kadama Malunde – Malunde 1 blog\nOfisi ya Taifa ya Takwimu (NBS) imetoa Mafunzo kwa Waandishi wa Habari wa Mitandao ya Kijamii (Bloggers\/Youtubers) kutoka mikoa mbalimbali nchini kuhusu Maandalizi ya Sensa ya Watu na Makazi ya mwaka 2022.\nMafunzo hayo ya siku mbili yaliyoanza leo Jumanne Juni 14,2022 yanafanyika katika Chuo Kikuu Kishiriki cha Elimu Mkwawa Iringa.\nAkizungumza wakati wa mafunzo hayo, Mtaalamu wa Habari na Mawasiliano kutoka Ofisi ya Taifa ya Takwimu (NBS), Said Ameir amesema mafunzo hayo ni sehemu ya Programu ya uhamasishaji ushiriki wa vyombo vya habari katika zoezi la Sensa ya Watu na Makazi linalotarajiwa kufanyika Agosti 23,2022\n“Tumeanza na vyombo vya habari vya mtandaoni, tutakutana pia na makundi mengine ya waandishi wa habari wakiwemo Wahariri, Jukwaa la wahariri na Radio za Mikoani”,amesema Ameir.\n“Katika mafunzo haya ya siku mbili waandishi wa habari wa mitandao ya kijamii watajengewa uwezo\/uelewa kuhusu Sensa na Sheria ya Takwimu,umuhimu wa sense ya watu na makazi na maandalizi yake,madodoso ya sense na maudhui yake, maeneo ya kuhesabia watu ya sense ya watu na makazi ya mwaka 2022,Matumizi ya Teknolojia katika senda ya watu na makazi kutoka kwenye makaratasi hadi kwenye Kishikwambi”,amesema Ameir.\nAmesema pia waandishi hao wa habari wa mitandao ya kijamii watajengewa uelewa kuhusu changamoto za uripoti wa sense kwa vyombo vya habari, wajibu wa vyombo vya habari katika kufanikisha sense ya watu na makazi 2022, vyanzo vikuu vya uripoti kwenye sensa ya watu na makazi,maswali yanayoulizwa mara kwa mara kuhusu sense,vidokezo vya habari kwa mitandao ya kijamii, sense katika mitandao ya kijamii, uchambuzi wa Takwimu kwa ajili ya habari (Interviewing data\/data analysis) na mbinu za uripoti na mambo ya kuzingatia.\nANGALIA PICHA HAPA CHINI\nMtaalamu wa Habari na Mawasiliano kutoka Ofisi ya Taifa ya Takwimu (NBS), Said Ameir akizungumza wakati wa Mafunzo kwa Waandishi wa Habari wa Mitandao ya Kijamii (Bloggers\/Youtubers) kutoka mikoa mbalimbali nchini kuhusu Maandalizi ya Sensa ya Watu na Makazi ya mwaka 2022 yaliyoandaliwa na NBS leo Jumanne Juni 14,2022 katika Chuo Kikuu Kishiriki cha Elimu Mkwawa Iringa. Picha na Kadama Malunde – Malunde 1 blog\nMtaalamu wa Habari na Mawasiliano kutoka Ofisi ya Taifa ya Takwimu (NBS), Said Ameir akizungumza wakati wa Mafunzo kwa Waandishi wa Habari wa Mitandao ya Kijamii (Bloggers\/Youtubers) kutoka mikoa mbalimbali nchini kuhusu Maandalizi ya Sensa ya Watu na Makazi ya mwaka 2022 yaliyoandaliwa na NBS\nMtaalamu wa Habari na Mawasiliano kutoka Ofisi ya Taifa ya Takwimu (NBS), Said Ameir akizungumza wakati wa Mafunzo kwa Waandishi wa Habari wa Mitandao ya Kijamii (Bloggers\/Youtubers) kutoka mikoa mbalimbali nchini kuhusu Maandalizi ya Sensa ya Watu na Makazi ya mwaka 2022 yaliyoandaliwa na NBS\nMtaalamu wa Habari na Mawasiliano kutoka Ofisi ya Taifa ya Takwimu (NBS), Said Ameir akizungumza wakati wa Mafunzo kwa Waandishi wa Habari wa Mitandao ya Kijamii (Bloggers\/Youtubers) kutoka mikoa mbalimbali nchini kuhusu Maandalizi ya Sensa ya Watu na Makazi ya mwaka 2022 yaliyoandaliwa na NBS\nMtaalamu wa Habari na Mawasiliano kutoka Ofisi ya Taifa ya Takwimu (NBS), Said Ameir akizungumza wakati wa Mafunzo kwa Waandishi wa Habari wa Mitandao ya Kijamii (Bloggers\/Youtubers) kutoka mikoa mbalimbali nchini kuhusu Maandalizi ya Sensa ya Watu na Makazi ya mwaka 2022 yaliyoandaliwa na NBS\nMtaalamu wa Habari na Mawasiliano kutoka Ofisi ya Taifa ya Takwimu (NBS), Said Ameir akizungumza wakati wa Mafunzo kwa Waandishi wa Habari wa Mitandao ya Kijamii (Bloggers\/Youtubers) kutoka mikoa mbalimbali nchini kuhusu Maandalizi ya Sensa ya Watu na Makazi ya mwaka 2022 yaliyoandaliwa na NBS\nMwanasheria kutoka NBS, Mary Senape akizungumza wakati wa Mafunzo kwa Waandishi wa Habari wa Mitandao ya Kijamii (Bloggers\/Youtubers) kutoka mikoa mbalimbali nchini kuhusu Maandalizi ya Sensa ya Watu na Makazi ya mwaka 2022 yaliyoandaliwa na NBS\nMwanasheria kutoka NBS, Mary Senape akizungumza wakati wa Mafunzo kwa Waandishi wa Habari wa Mitandao ya Kijamii (Bloggers\/Youtubers) kutoka mikoa mbalimbali nchini kuhusu Maandalizi ya Sensa ya Watu na Makazi ya mwaka 2022 yaliyoandaliwa na NBS\nWaandishi wa Habari wa Mitandao ya Kijamii (Bloggers\/Youtubers) kutoka mikoa mbalimbali nchini wakiwa kwenye mafunzo kuhusu Maandalizi ya Sensa ya Watu na Makazi ya mwaka 2022 yaliyoandaliwa na NBS\nWaandishi wa Habari wa Mitandao ya Kijamii (Bloggers\/Youtubers) kutoka mikoa mbalimbali nchini wakiwa kwenye mafunzo kuhusu Maandalizi ya Sensa ya Watu na Makazi ya mwaka 2022 yaliyoandaliwa na NBS\nWaandishi wa Habari wa Mitandao ya Kijamii (Bloggers\/Youtubers) kutoka mikoa mbalimbali nchini wakiwa kwenye mafunzo kuhusu Maandalizi ya Sensa ya Watu na Makazi ya mwaka 2022 yaliyoandaliwa na NBS\nWaandishi wa Habari wa Mitandao ya Kijamii (Bloggers\/Youtubers) kutoka mikoa mbalimbali nchini wakiwa kwenye mafunzo kuhusu Maandalizi ya Sensa ya Watu na Makazi ya mwaka 2022 yaliyoandaliwa na NBS\nWaandishi wa Habari wa Mitandao ya Kijamii (Bloggers\/Youtubers) kutoka mikoa mbalimbali nchini wakiwa kwenye mafunzo kuhusu Maandalizi ya Sensa ya Watu na Makazi ya mwaka 2022 yaliyoandaliwa na NBS\nWaandishi wa Habari wa Mitandao ya Kijamii (Bloggers\/Youtubers) kutoka mikoa mbalimbali nchini wakiwa kwenye mafunzo kuhusu Maandalizi ya Sensa ya Watu na Makazi ya mwaka 2022 yaliyoandaliwa na NBS\nWaandishi wa Habari wa Mitandao ya Kijamii (Bloggers\/Youtubers) kutoka mikoa mbalimbali nchini wakiwa kwenye mafunzo kuhusu Maandalizi ya Sensa ya Watu na Makazi ya mwaka 2022 yaliyoandaliwa na NBS\nWaandishi wa Habari wa Mitandao ya Kijamii (Bloggers\/Youtubers) kutoka mikoa mbalimbali nchini wakiwa kwenye mafunzo kuhusu Maandalizi ya Sensa ya Watu na Makazi ya mwaka 2022 yaliyoandaliwa na NBS\nWaandishi wa Habari wa Mitandao ya Kijamii (Bloggers\/Youtubers) kutoka mikoa mbalimbali nchini wakiwa kwenye mafunzo kuhusu Maandalizi ya Sensa ya Watu na Makazi ya mwaka 2022 yaliyoandaliwa na NBS\nWaandishi wa Habari wa Mitandao ya Kijamii (Bloggers\/Youtubers) kutoka mikoa mbalimbali nchini wakiwa kwenye mafunzo kuhusu Maandalizi ya Sensa ya Watu na Makazi ya mwaka 2022 yaliyoandaliwa na NBS\nWaandishi wa Habari wa Mitandao ya Kijamii (Bloggers\/Youtubers) kutoka mikoa mbalimbali nchini wakiwa kwenye mafunzo kuhusu Maandalizi ya Sensa ya Watu na Makazi ya mwaka 2022 yaliyoandaliwa na NBS\nWaandishi wa Habari wa Mitandao ya Kijamii (Bloggers\/Youtubers) kutoka mikoa mbalimbali nchini wakiwa kwenye mafunzo kuhusu Maandalizi ya Sensa ya Watu na Makazi ya mwaka 2022 yaliyoandaliwa na NBS\nWaandishi wa Habari wa Mitandao ya Kijamii (Bloggers\/Youtubers) kutoka mikoa mbalimbali nchini wakiwa kwenye mafunzo kuhusu Maandalizi ya Sensa ya Watu na Makazi ya mwaka 2022 yaliyoandaliwa na NBS\nWaandishi wa Habari wa Mitandao ya Kijamii (Bloggers\/Youtubers) kutoka mikoa mbalimbali nchini wakiwa kwenye mafunzo kuhusu Maandalizi ya Sensa ya Watu na Makazi ya mwaka 2022 yaliyoandaliwa na NBS\nWaandishi wa Habari wa Mitandao ya Kijamii (Bloggers\/Youtubers) kutoka mikoa mbalimbali nchini wakiwa kwenye mafunzo kuhusu Maandalizi ya Sensa ya Watu na Makazi ya mwaka 2022 yaliyoandaliwa na NBS\nWaandishi wa Habari wa Mitandao ya Kijamii (Bloggers\/Youtubers) kutoka mikoa mbalimbali nchini wakiwa kwenye mafunzo kuhusu Maandalizi ya Sensa ya Watu na Makazi ya mwaka 2022 yaliyoandaliwa na NBS","num_words":1187,"character_repetition_ratio":0.148,"word_repetition_ratio":0.713,"special_characters_ratio":0.186,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.995,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"Utoaji wa Huduma za Ukaguzi wa Ada za Huduma kwa Mpango wa Pensheni wa Wafanyakazi wa Mamlaka ya Mapato ya Kenya (KRASPS) kwa muda wa miaka mitatu (3)\nUtoaji wa Huduma za Ukaguzi wa Ada za Huduma kwa Mpango wa Pensheni wa Wafanyakazi wa Mamlaka ya Mapato ya Kenya (KRASPS) kwa muda wa miaka mitatu (3)\nPakua Notisi ya Zabuni Pakua Seti ya Nyongeza ya 1 Pakua Seti ya Nyongeza ya 2 Pakua Kiungo cha Prebid Pakua Seti ya Nyongeza ya 3","num_words":77,"character_repetition_ratio":0.106,"word_repetition_ratio":0.529,"special_characters_ratio":0.218,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.99,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"Hati ya Zabuni ya Ununuzi wa Leseni za Usajili wa Kofia Nyekundu kwa Mamlaka ya Mapato ya Kenya kwa Kipindi cha Miaka Mitatu.\nHati ya Zabuni ya Ununuzi wa Leseni za Usajili wa Kofia Nyekundu kwa Mamlaka ya Mapato ya Kenya kwa Kipindi cha Miaka Mitatu.","num_words":46,"character_repetition_ratio":0.091,"word_repetition_ratio":0.757,"special_characters_ratio":0.187,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.99,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"Mkuu wa Mkoa wa Ruvuma Christina Mndeme ametoa taarifa ya utekelezaji wa Ilani ya CCM ya miaka mitano katika Mkoa wa Ruvuma kuanzia mwaka 2015 hadi 2020\nUTEKELEZAJI wa Ilani ya Uchaguzi ya CCM ya mwakA 2015\/2020 mkoani Ruvuma\nJuly 18th, 2020\nMkuu wa Mkoa wa Ruvuma Christina Mndeme ametoa taarifa ya ya saa mbili ya utekelezaji wa Ilani ya CCM ya mwaka 2015\/2020 ambapo mgeni rasmi alikuwa ni Katibu Mwenezi wa CCM Taifa Humphrey Polepole","num_words":71,"character_repetition_ratio":0.121,"word_repetition_ratio":0.032,"special_characters_ratio":0.247,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.999,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"Hali ya Uchumi wa Taifa kwa Mwaka 2015, Mpango wa Maendeleo wa Taifa kwa Mwaka wa Fedha 2016\/2017 na Mapendekezo ya Serikali kuhusu Makadirio ya Mapato na Matumizi kwa Mwaka wa Fedha 2016\/2017. Michango\nHali ya Uchumi wa Taifa kwa Mwaka 2015, Mpango wa Maendeleo wa Taifa kwa Mwaka wa Fedha 2016\/2017 na Mapendekezo ya Serikali kuhusu Makadirio ya Mapato na Matumizi kwa Mwaka wa Fedha 2016\/2017. Michango\nHali ya Uchumi wa Taifa kwa Mwaka 2015, Mpango wa Maendeleo wa Taifa kwa Mwaka wa Fedha 2016\/2017 na Mapendekezo ya Serikali kuhusu Makadirio ya Mapato na Matumizi kwa Mwaka wa Fedha 2016\/2017. Michango\nHali ya Uchumi wa Taifa kwa Mwaka 2015, Mpango wa Maendeleo wa Taifa kwa Mwaka wa Fedha 2016\/2017 na Mapendekezo ya Serikali kuhusu Makadirio ya Mapato na Matumizi kwa Mwaka wa Fedha 2016\/2017. Michango\nHali ya Uchumi wa Taifa kwa Mwaka 2015, Mpango wa Maendeleo wa Taifa kwa Mwaka wa Fedha 2016\/2017 na Mapendekezo ya Serikali kuhusu Makadirio ya Mapato na Matumizi kwa Mwaka wa Fedha 2016\/2017. Michango\nHali ya Uchumi wa Taifa kwa Mwaka 2015, Mpango wa Maendeleo wa Taifa kwa Mwaka wa Fedha 2016\/2017 na Mapendekezo ya Serikali kuhusu Makadirio ya Mapato na Matumizi kwa Mwaka wa Fedha 2016\/2017. Michango\nHali ya Uchumi wa Taifa kwa Mwaka 2015, Mpango wa Maendeleo wa Taifa kwa Mwaka wa Fedha 2016\/2017 na Mapendekezo ya Serikali kuhusu Makadirio ya Mapato na Matumizi kwa Mwaka wa Fedha 2016\/2017. Michango\nHali ya Uchumi wa Taifa kwa Mwaka 2015, Mpango wa Maendeleo wa Taifa kwa Mwaka wa Fedha 2016\/2017 na Mapendekezo ya Serikali kuhusu Makadirio ya Mapato na Matumizi kwa Mwaka wa Fedha 2016\/2017. Michango\nHali ya Uchumi wa Taifa kwa Mwaka 2015, Mpango wa Maendeleo wa Taifa kwa Mwaka wa Fedha 2016\/2017 na Mapendekezo ya Serikali kuhusu Makadirio ya Mapato na Matumizi kwa Mwaka wa Fedha 2016\/2017. Michango\nHali ya Uchumi wa Taifa kwa Mwaka 2015, Mpango wa Maendeleo wa Taifa kwa Mwaka wa Fedha 2016\/2017 na Mapendekezo ya Serikali kuhusu Makadirio ya Mapato na Matumizi kwa Mwaka wa Fedha 2016\/2017. Michango\nHali ya Uchumi wa Taifa kwa Mwaka 2015, Mpango wa Maendeleo wa Taifa kwa Mwaka wa Fedha 2016\/2017 na Mapendekezo ya Serikali kuhusu Makadirio ya Mapato na Matumizi kwa Mwaka wa Fedha 2016\/2017. Michango\nHali ya Uchumi wa Taifa kwa Mwaka 2015, Mpango wa Maendeleo wa Taifa kwa Mwaka wa Fedha 2016\/2017 na Mapendekezo ya Serikali kuhusu Makadirio ya Mapato na Matumizi kwa Mwaka wa Fedha 2016\/2017. Michango\nHali ya Uchumi wa Taifa kwa Mwaka 2015, Mpango wa Maendeleo wa Taifa kwa Mwaka wa Fedha 2016\/2017 na Mapendekezo ya Serikali kuhusu Makadirio ya Mapato na Matumizi kwa Mwaka wa Fedha 2016\/2017. Michango\nHali ya Uchumi wa Taifa kwa Mwaka 2015, Mpango wa Maendeleo wa Taifa kwa Mwaka wa Fedha 2016\/2017 na Mapendekezo ya Serikali kuhusu Makadirio ya Mapato na Matumizi kwa Mwaka wa Fedha 2016\/2017. Michango\nHali ya Uchumi wa Taifa kwa Mwaka 2015, Mpango wa Maendeleo wa Taifa kwa Mwaka wa Fedha 2016\/2017 na Mapendekezo ya Serikali kuhusu Makadirio ya Mapato na Matumizi kwa Mwaka wa Fedha 2016\/2017. Michango\nHali ya Uchumi wa Taifa kwa Mwaka 2015, Mpango wa Maendeleo wa Taifa kwa Mwaka wa Fedha 2016\/2017 na Mapendekezo ya Serikali kuhusu Makadirio ya Mapato na Matumizi kwa Mwaka wa Fedha 2016\/2017. Michango\nHali ya Uchumi wa Taifa kwa Mwaka 2015, Mpango wa Maendeleo wa Taifa kwa Mwaka wa Fedha 2016\/2017 na Mapendekezo ya Serikali kuhusu Makadirio ya Mapato na Matumizi kwa Mwaka wa Fedha 2016\/2017. Michango\nHali ya Uchumi wa Taifa kwa Mwaka 2015, Mpango wa Maendeleo wa Taifa kwa Mwaka wa Fedha 2016\/2017 na Mapendekezo ya Serikali kuhusu Makadirio ya Mapato na Matumizi kwa Mwaka wa Fedha 2016\/2017. Michango\nHali ya Uchumi wa Taifa kwa Mwaka 2015, Mpango wa Maendeleo wa Taifa kwa Mwaka wa Fedha 2016\/2017 na Mapendekezo ya Serikali kuhusu Makadirio ya Mapato na Matumizi kwa Mwaka wa Fedha 2016\/2017. Michango\nHali ya Uchumi wa Taifa kwa Mwaka 2015, Mpango wa Maendeleo wa Taifa kwa Mwaka wa Fedha 2016\/2017 na Mapendekezo ya Serikali kuhusu Makadirio ya Mapato na Matumizi kwa Mwaka wa Fedha 2016\/2017. Michango\nHali ya Uchumi wa Taifa kwa Mwaka 2015, Mpango wa Maendeleo wa Taifa kwa Mwaka wa Fedha 2016\/2017 na Mapendekezo ya Serikali kuhusu Makadirio ya Mapato na Matumizi kwa Mwaka wa Fedha 2016\/2017. Michango\nHali ya Uchumi wa Taifa kwa Mwaka 2015, Mpango wa Maendeleo wa Taifa kwa Mwaka wa Fedha 2016\/2017 na Mapendekezo ya Serikali kuhusu Makadirio ya Mapato na Matumizi kwa Mwaka wa Fedha 2016\/2017. Michango\nHali ya Uchumi wa Taifa kwa Mwaka 2015, Mpango wa Maendeleo wa Taifa kwa Mwaka wa Fedha 2016\/2017 na Mapendekezo ya Serikali kuhusu Makadirio ya Mapato na Matumizi kwa Mwaka wa Fedha 2016\/2017. Michango\nSession timetable\nQuestions\nName\nDate\nMartha Jachi Umbulla Question on Regional Administration and Local Government Authorities 10th June, 2016\nDeo Kasenyenda Sanga Question on Regional Administration and Local Government Authorities 10th June, 2016\nGeorge Malima Lubeleje Question on Health and Social Welfare 03rd June, 2016\nHalima Ali Mohammed Question on Investment and Empowerment 10th June, 2016\nMohamed Omary Mchengerwa Question on Livestock , Fisheries, Agriculture, Food Security and Cooperatives 10th June, 2016\nJerome Dismas Bwanausi Question on Livestock , Fisheries, Agriculture, Food Security and Cooperatives 10th June, 2016","num_words":793,"character_repetition_ratio":0.217,"word_repetition_ratio":0.906,"special_characters_ratio":0.277,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.992,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"Пламен Димитров™ 44927 wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa wa 0.06 11508","num_words":32,"character_repetition_ratio":0.719,"word_repetition_ratio":0.913,"special_characters_ratio":0.398,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.681,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"1 Yehova anayankhula ndi Zefaniya mwana wa Kusi, mwana wa Gedaliya, mwana wa Amariya, mwana wa Hezekiya pa nthawi ya Yosiya, mwana wa Amoni, mfumu ya Yuda.","num_words":26,"character_repetition_ratio":0.151,"word_repetition_ratio":0.0,"special_characters_ratio":0.213,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.917,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"Hati ya Kawaida ya Kukodisha Nafasi ya Ofisi kwa Mamlaka ya Mapato ya Kenya katika Mji wa Wajir, Kaunti ya Wajir kwa Kipindi cha Miaka Sita {6}.\nHati ya Kawaida ya Kukodisha Nafasi ya Ofisi kwa Mamlaka ya Mapato ya Kenya katika Mji wa Wajir, Kaunti ya Wajir kwa Kipindi cha Miaka Sita {6}.","num_words":52,"character_repetition_ratio":0.086,"word_repetition_ratio":0.791,"special_characters_ratio":0.218,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.975,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"Mkuu wa Mkoa wa Mara Meja Jenerali Suleiman Mungiya Mzee leo ameongoza kikao cha kuwajengea uelewa wa pamoja baina ya Wakala wa Maji na Usafi wa Mazingira Vijijini (RUWASA) Mkoa wa Mara na kuitaka Wakala hiyo kuwasilisha taarifa ya vyanzo vya maji na mkakati wa kivilinda vyanzo vilivyopo ofisini kwake kwa ajili ya kupata uelewa wa pamoja wa viongozi ndani ya Mkoa.\n“Ninataka nipewe taarifa ya vyanzo vya maji vilivyopo na mkakati wa kivilinda vyanzo hivi ili viongozi wote tuuelewe na tushiriki kulinda kwa ajili ya kuleta uhakika wa maji kwa maendeleo ya wananchi katika Mkoa wa Mara” amesema Mheshimiwa Mzee.\nMheshimiwa Mzee ametoa agizo hilo baada ya baadhi ya wajumbe wa kikao hicho kulalamika kuwa kuna baadhi ya vyanzo vya maji havijatunzwa vizuri na kusababisha uharibifu wa vyanzo hivyo kutokana na shughuli mbalimbali za kibinadamu.\nMkuu wa Mkoa ameitaka RUWASA kuendelea kutoa elimu kwa wananchi kuhusu Sheria ya Huduma ya Maji na Usafi wa Mazingira na. 5 ya mwaka 2019 ili wananchi waepuke kuharibu mazingira na vyanzo vya maji bila kujua kuwa ni kosa kisheria.\nAidha, Mheshimiwa Mzee ameitaka RUWASA kufuatilia miradi ya maji inayotekelezwa katika Mkoa wa Mara ili iweze kukamilika kwa wakati na kutoa huduma ya maji kwa wananchi.\nMheshimiwa Mzee amewataka viongozi waliohudhuria kikao hicho kuwaelimisha wananchi wanaowawakilisha ili kulinda vyanzo vya maji na uharibifu wa mazingira.\nKwa upande wake, Mhandisi wa RUWASA Mkoa wa Mara, Nuni Munjobelege ameeleza kuwa lengo la kikao hicho ni kujenga uelewa wa pamoja baina ya RUWASA, Sekretarieti ya Mkoa na viongozi mbalimbali kuhusu mwelekeo mpya wa utoaji wa huduma yam aji vijijini chini ya Sheria ya Huduma za Maji na Usafi wa Mazingira Na. 5 ya mwaka 2019.\nAkizungumza wakati wa kutoa mada kuhusu hali ya utekelezaji wa ujenzi wa miradi ya maji katika Mkoa wa Mara, Mhandisi Nuni ameeleza kuwa kwa sasa miradi yote ya maji inayotelekezwa katika Mkoa wa Mara inaendelea vizuri.\nMhandisi Nuni ameeleza kuwa kwa sasa Mkoa una miradi ya maji 115 inayotekelezwa na vikundi vya watumia maji 91 vinavyoendesha miradi hiyo baada ya baadhi ya vikundi kuanza kuunganishwa ili kuendana na mwongozo mpya wa vikundi vya watumiaji maji katika ngazi ya jamii.\nKikao hicho kimehudhuriwa pia na Katibu Tawala wa Mkoa wa Mara, Katibu Mkuu wa Chama cha Mapinduzi (CCM) Mkoa wa Mara, Wakuu wa Wilaya, Kamati ya Siasa ya Mkoa, Kamati ya Usalama ya Mkoa, Wakuu wa Idara na Vitengo vya Ofisi ya Mkuu wa Mkoa wa Mara, Makatibu Tawala wa Wilaya, Wenyeviti wa Halmashauri, Wakurugenzi wa Halmashauri na wakuu wa baadhi ya taasisi za serikali.","num_words":416,"character_repetition_ratio":0.082,"word_repetition_ratio":0.0,"special_characters_ratio":0.181,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.991,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"Wafanyakazi wa Wizara ya Katiba na Sheria Zanzibar wakifatilia kwa makini taarifa ya utekelezaji wa mpango kazi wa Mwaka 2019\/2020 na mpango kazi wa mwaka 2020\/2021.\nWafanyakazi wa Wizara ya Katiba na Sheria Zanzibar wakifatilia kwa makini taarifa ya utekelezaji wa mpango kazi wa Mwaka 2019\/2020 na mpango kazi wa mwaka 2020\/2021.\nBaadhi ya wafanyakazi wa Wizara ya Katiba na Sheria Zanzibar wakifatilia kwa makini taarifa ya utekelezaji wa mpango kazi wa Mwaka 2019\/2020 na mpango kazi wa mwaka 2020\/2021.","num_words":74,"character_repetition_ratio":0.127,"word_repetition_ratio":0.692,"special_characters_ratio":0.268,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.998,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"Zabuni ya Ugavi na Uwasilishaji wa Kipimo cha Kidhibiti cha joto kwa ajili ya Ufuatiliaji wa Mionzi ya Kibinafsi.\nZabuni ya Ugavi na Uwasilishaji wa Kipimo cha Kidhibiti cha joto kwa ajili ya Ufuatiliaji wa Mionzi ya Kibinafsi.","num_words":38,"character_repetition_ratio":0.092,"word_repetition_ratio":0.69,"special_characters_ratio":0.172,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.992,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"Utoaji wa Huduma za Upishi kwa Mamlaka ya Mapato ya Kenya kwa Mikoa ya Kusini na Kusini mwa Bonde la Ufa kwa Kipindi cha Miaka Miwili (2)\nUtoaji wa Huduma za Upishi kwa Mamlaka ya Mapato ya Kenya kwa Mikoa ya Kusini na Kusini mwa Bonde la Ufa kwa Kipindi cha Miaka Miwili (2)\nPakua Notisi ya Zabuni Pakua Seti ya Nyongeza ya 1 Pakua Kiungo cha Kununua Mapema Pakua Upanuzi wa Tarehe ya Kufunga Zabuni","num_words":73,"character_repetition_ratio":0.082,"word_repetition_ratio":0.531,"special_characters_ratio":0.205,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.994,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"Hati ya Kawaida ya Kukodisha Nafasi ya Ofisi kwa Mamlaka ya Mapato ya Kenya katika Mji wa Isiolo, Kaunti ya Isiolo kwa Kipindi cha Miaka Sita {6}.\nHati ya Kawaida ya Kukodisha Nafasi ya Ofisi kwa Mamlaka ya Mapato ya Kenya katika Mji wa Isiolo, Kaunti ya Isiolo kwa Kipindi cha Miaka Sita {6}.","num_words":52,"character_repetition_ratio":0.085,"word_repetition_ratio":0.791,"special_characters_ratio":0.215,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.948,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"Mhe Mkuu wa Mkoa Queen Sendiga akitoa maelezo ya mafanikio yaliyopatikana ndani ya Mkoa wa Iringa katika sekta ya kilimo ndani ya kipindi cha mwaka mmoja cha Rais wetu wa Jamhuri ya Muungano wa Tanzania Mhe.Samia Suluhu Hassan.\nIRINGA TUMEFANIKIWA KATIKA MIFUGO\nMarch 31st, 2022\nMhe Mkuu wa Mkoa Queen Sendiga akitoa maelezo ya mafanikio yaliyopatikana ndani ya Mkoa wa Iringa katika sekta ya Mifugo ndani ya kipindi cha mwaka mmoja cha Rais wetu wa Jamhuri ya Muungano wa Tanzania Mhe.Samia Suluhu Hassan\nIRINGA YAPATA MAFANIKIO KWENYE SEKTA YA KILIMO\nMarch 31st, 2022\nMhe Mkuu wa Mkoa Queen Sendiga akitoa maelezo ya mafanikio yaliyopatikana ndani ya Mkoa wa Iringa katika sekta ya kilimo ndani ya kipindi cha mwaka mmoja cha Rais wetu wa Jamhuri ya Muungano wa Tanzania Mhe.Samia Suluhu Hassan.","num_words":129,"character_repetition_ratio":0.072,"word_repetition_ratio":0.692,"special_characters_ratio":0.187,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.998,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"Maafisa ushirika wa wilaya ya Mbinga mkoani Ruvuma wametakiwa kutokuwa chanzo cha kuanzisha migogoro katika vyama vya ushirika ambavyo vipo katika wilaya hiyo ambapo sasa kumekuwa na migogoro inayopandikizwa katika vyama hivyo hasa unapo karibia muda wa uchaguzi wa viongozi wa vyama vya ushirika.\nAkitoa maagizo hayo kwenye mkutano mkuu wa 21 wa mwaka wa chama kikuu cha ushirika cha Mbinga (MBIFACU) ambacho kinasimamia zao la kahawa mkuu wa wilaya ya Mbinga Bi Aziza Mangosongo amesema migogoro ambayo ipo kwenye vyama vya ushirika vya wilaya ya Mbinga kwa sehemu kubwa inaletwa na maafisa ushirika wa wilaya hiyo hivyo amewataka maafisa hao wawe sehemu ya kutatua migogoro na sio sehemu ya kuchochea migogoro.\nMoja ya sababu ya vyama vya ushirika kuwa na migogoro ni malipo ya fedha ambapo baadhi ya wakulima wa kahawa wa wilaya ya Mbinga wamekuwa wakipeleka malalamiko kwenye chama kikuu cha ushirika cha Mbinga ambapo kaimu meneja wa chama kikuu cha ushirika Mbinga (MBIFACU) bwana Faraja Komba amesema chama hicho kimekuwa kikishughulikia changamoto hiyo ya malipo\nKutokana na kuwepo na changamoto ya migogoro ambayo ipo kwenye vyama vya ushirika wilaya ya Mbinga baadhi ya wajumbe wa mkutano mkuu wa chama cha ushirika Mbinga (MBIFACU)wamewaomba viongozi kutoa elimu kwa wakulima ili migogoro hiyo iweze kuisha katika vyama hivyo.","num_words":208,"character_repetition_ratio":0.122,"word_repetition_ratio":0.0,"special_characters_ratio":0.164,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.997,"perplexity_score":500.0,"cluster_detection":-1}

swa_Latn/new_cc_000015_stas.jsonl

@@ -0,0 +1,115 @@
+[
+    {
+        "avg": {
+            "num_words": 33.65758091993186,
+            "character_repetition_ratio": 0.03713628620102215,
+            "word_repetition_ratio": 0.0589488926746167,
+            "special_characters_ratio": 0.19079386712095403,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.9563492333901191,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "std": {
+            "num_words": 40.96660404474545,
+            "character_repetition_ratio": 0.09453004981880643,
+            "word_repetition_ratio": 0.20158315680794014,
+            "special_characters_ratio": 0.046891553779760044,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.10023318134486613,
+            "perplexity_score": 0.0
+        }
+    },
+    {
+        "median": {
+            "num_words": 21.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.178,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.995,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "max": {
+            "num_words": 432.0,
+            "character_repetition_ratio": 0.848,
+            "word_repetition_ratio": 1.0,
+            "special_characters_ratio": 0.545,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "min": {
+            "num_words": 15.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.136,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.267,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "90%": {
+            "num_words": 54.19999999999993,
+            "character_repetition_ratio": 0.098,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.2259999999999999,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "75%": {
+            "num_words": 31.0,
+            "character_repetition_ratio": 0.0555,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.1935,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.999,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "50%": {
+            "num_words": 21.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.178,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.995,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "25%": {
+            "num_words": 20.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.168,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.941,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "total size": "587",
+        "keep size": "516",
+        "remove size": "71"
+    }
+]

swa_Latn/new_cc_000017_stas.jsonl

@@ -0,0 +1,115 @@
+[
+    {
+        "avg": {
+            "num_words": 32.57875,
+            "character_repetition_ratio": 0.035536250000000005,
+            "word_repetition_ratio": 0.02486875,
+            "special_characters_ratio": 0.18877249999999995,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.9612450000000001,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "std": {
+            "num_words": 37.567024082797666,
+            "character_repetition_ratio": 0.07999999178710895,
+            "word_repetition_ratio": 0.13335244288515113,
+            "special_characters_ratio": 0.04662467955653958,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.09229803613837079,
+            "perplexity_score": 0.0
+        }
+    },
+    {
+        "median": {
+            "num_words": 22.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.176,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.996,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "max": {
+            "num_words": 434.0,
+            "character_repetition_ratio": 0.726,
+            "word_repetition_ratio": 1.0,
+            "special_characters_ratio": 0.545,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "min": {
+            "num_words": 14.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.136,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.267,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "90%": {
+            "num_words": 48.10000000000002,
+            "character_repetition_ratio": 0.10720000000000005,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.22310000000000002,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "75%": {
+            "num_words": 30.0,
+            "character_repetition_ratio": 0.062,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.192,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "50%": {
+            "num_words": 22.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.176,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.996,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "25%": {
+            "num_words": 20.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.168,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.941,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "total size": "800",
+        "keep size": "726",
+        "remove size": "74"
+    }
+]

trq_Latn/fineweb-2_000001_stas.jsonl

@@ -0,0 +1,115 @@
+[
+    {
+        "avg": {
+            "num_words": 1125.983870967742,
+            "character_repetition_ratio": 0.0817258064516129,
+            "word_repetition_ratio": 0.0021774193548387104,
+            "special_characters_ratio": 0.21466129032258066,
+            "stopwords_ratio": 0.41217741935483865,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.9353548387096774,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "std": {
+            "num_words": 374.4564444259337,
+            "character_repetition_ratio": 0.011285402153622644,
+            "word_repetition_ratio": 0.0047059474845526405,
+            "special_characters_ratio": 0.006683980725216651,
+            "stopwords_ratio": 0.04299832112009401,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.0392539690921837,
+            "perplexity_score": 0.0
+        }
+    },
+    {
+        "median": {
+            "num_words": 1092.5,
+            "character_repetition_ratio": 0.079,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.215,
+            "stopwords_ratio": 0.4075,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.945,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "max": {
+            "num_words": 2096.0,
+            "character_repetition_ratio": 0.118,
+            "word_repetition_ratio": 0.021,
+            "special_characters_ratio": 0.229,
+            "stopwords_ratio": 0.493,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.994,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "min": {
+            "num_words": 497.0,
+            "character_repetition_ratio": 0.063,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.198,
+            "stopwords_ratio": 0.295,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.795,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "90%": {
+            "num_words": 1592.8999999999999,
+            "character_repetition_ratio": 0.096,
+            "word_repetition_ratio": 0.006,
+            "special_characters_ratio": 0.223,
+            "stopwords_ratio": 0.46790000000000004,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.9779,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "75%": {
+            "num_words": 1312.75,
+            "character_repetition_ratio": 0.09,
+            "word_repetition_ratio": 0.002,
+            "special_characters_ratio": 0.22,
+            "stopwords_ratio": 0.445,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.95975,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "50%": {
+            "num_words": 1092.5,
+            "character_repetition_ratio": 0.079,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.215,
+            "stopwords_ratio": 0.4075,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.945,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "25%": {
+            "num_words": 858.25,
+            "character_repetition_ratio": 0.074,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.209,
+            "stopwords_ratio": 0.383,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.9177500000000001,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "total size": "62",
+        "keep size": "50",
+        "remove size": "12"
+    }
+]

tur_Latn/fineweb-2_000008_remove.jsonl

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:f482fe0649dded1b7b88ac017a1e94116dc196a8ed61e81ec807541091345631
+size 1815090311

tur_Latn/fineweb-2_000015_keep.jsonl

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:532c5f19db2136b029be91409852de5390d663e3e3101771a4f260573db28f30
+size 11699898477

tur_Latn/fineweb-2_000020_keep.jsonl

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:b7dfae9f85de31eb391e33496fff02d875d0ca9aad6658974fd20f6fa7c47b2d
+size 11781622143

tur_Latn/fineweb-2_000022_keep.jsonl

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:8e4843390518b5b1caa1d2dedbb645c074ff22f909437d1a2c9748ebb30c1b75
+size 8675596086

tur_Latn/new_cc_000032_keep.jsonl

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:e2f0106924c698a019cf721387c1d5154600c54c1e545e1a47ce154a3190d9fe
+size 3333216833

tur_Latn/new_cc_000037_keep.jsonl

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:7b43070b9d615a0a17d53c5384ca2395ff95ee415e3acccb5ec3f1e39a42c96d
+size 3268318771

tur_Latn/new_cc_000050_remove.jsonl

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:d4fd9d5259f07292a21de73493328a2854fac8a9cc0569874c94ac5ff7bfbf2b
+size 544095738

tur_Latn/new_cc_000056_keep.jsonl

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:cc7d3a05c503b0d7ff6c86b670d2c28f6dc5cf03ee48b8a387c05035740a8784
+size 3089839336