Add files using upload-large-folder tool

.gitattributes

@@ -354,3 +354,14 @@ vie_Latn/new_cc_000081_keep.jsonl filter=lfs diff=lfs merge=lfs -text
 vie_Latn/new_cc_000085_keep.jsonl filter=lfs diff=lfs merge=lfs -text
 vie_Latn/new_cc_000030_remove.jsonl filter=lfs diff=lfs merge=lfs -text
 vie_Latn/new_cc_000121_keep.jsonl filter=lfs diff=lfs merge=lfs -text
+vie_Latn/new_cc_000025_remove.jsonl filter=lfs diff=lfs merge=lfs -text
+vie_Latn/new_cc_000089_remove.jsonl filter=lfs diff=lfs merge=lfs -text
+vie_Latn/new_cc_000048_remove.jsonl filter=lfs diff=lfs merge=lfs -text
+vie_Latn/new_cc_000104_remove.jsonl filter=lfs diff=lfs merge=lfs -text
+vie_Latn/new_cc_000047_remove.jsonl filter=lfs diff=lfs merge=lfs -text
+vie_Latn/fineweb-2_000011_remove.jsonl filter=lfs diff=lfs merge=lfs -text
+vie_Latn/new_cc_000095_keep.jsonl filter=lfs diff=lfs merge=lfs -text
+vie_Latn/new_cc_000068_keep.jsonl filter=lfs diff=lfs merge=lfs -text
+vie_Latn/fineweb-2_000016_remove.jsonl filter=lfs diff=lfs merge=lfs -text
+vie_Latn/new_cc_000029_keep.jsonl filter=lfs diff=lfs merge=lfs -text
+vie_Latn/fineweb-2_000001_remove.jsonl filter=lfs diff=lfs merge=lfs -text

arp_Latn/fineweb-2_000001_remove.jsonl

@@ -0,0 +1,2 @@
+{"text":"Hethadenee Waunauyaunee Vadan Luke Vanenana the Gospel According to Saint Luke\nDescription\nExcerpt: ...henee nenajaa naheth e jaanaa nau vadannauauwuu: hethauwuu nananenau nehethathana nananena, hadneenaudedauwuhuu nuu heee henaedede. 52 Naunauthauau hadnedas na nananena nanavaavehehauau, hanau nananena dauhudanauwuna gaunaudauauha haeyaude: nananena hadnehauwujed va nehayau, nau henee hath ejed thee nananena najauaunauna. 53 Nau daunenehedauau nuu hayauhuhau yesee, wauthaunauh hehau nau Nesethajauhuhauau hana ejaseseneenanaudedaun de, nau haeneenadaunanauau hadnauthedaudauwunith hauwauhuu hayauhuhau; 54 53 Haeaudenauthaa, nau hadnesedanauwunethe hayewhu hehethee hedenene, hadn edauwauthauthee. NEHEDAUNAU 12. 1 Gaunauwuu, h ene hena hau chaudenee hau nee haejedaguu hadauchaa henanedanede, dauwauthaa haeaunauguhudaunadenauau, hana ejases edauwunaude hethauguh daunau nedauau vahee, Haunauyauhaudauwauau nananena gauhaujau Nesethajauhuhauau, nenadaunahethee. 2 Hanau hehauwuyauthesa, hath eyauthesaa, daudause hehauwuyauthesa, neth ejaenaunee. 3 Hanau daun nananena hasanaden veeyaugu hadnedauwuhuu hesenee; nau henee nananena hasenehen waunaudaunuu jedauwuu hadnauchunana dasee hauauwuu. 4 Nau nananena h edauwunathana N daehauhauau, Jevaesaa henee nenadethee henaneday hau, nau heee hehauwauthesedaunauau. 5 Hau nananena h edauwunathana daun nananena h chaunenau: Hesaa Naa, heee hesena nagu naunaud de hadgauusev na hadaugauhauchanee; haa, Nananenau h edauwunathana nananena, Hesaa. 6 Hayauthaunethee hajaseaheauau gujeaudaunaune heee hanes enee neva henee, nau hanes de hehauwunauneethedaun Hejavaneauthu? 7 Hau daudausee hadauch e h thaanenau haudauguhuanenau vahenay ee. Jevan thajauau henaheee: nananena java nauwauhuana hadauchuthee hajaseaheauau. 8 Jea Nananenau h edauwunathana, Daun naujaudautheh de hesee henanedaa, nananede He hene henanene jea...show more\nProduct details\n- Paperback | 42 pages\n- 189 x 246 x 2mm | 95g\n- 13 Sep 2013\n- Rarebooksclub.com\n- United States\n- English\n- black & white illustrations\n- 1236720512\n- 9781236720511","id":"<urn:uuid:1fe4cf30-d4c8-4cf8-860a-3db5b1aceb8f>","dump":"CC-MAIN-2017-43","url":"https:\/\/www.bookdepository.com\/Hethadenee-Waunauyaunee-Vadan-Luke-Vanenana-Gospel-According-Saint-Luke-John-Roberts\/9781236720511","date":"2017-10-23T06:49:53Z","file_path":"s3:\/\/commoncrawl\/crawl-data\/CC-MAIN-2017-43\/segments\/1508187825700.38\/warc\/CC-MAIN-20171023054654-20171023074654-00255.warc.gz","language":"arp","language_score":1.0000029802,"language_script":"Latn","minhash_cluster_size":1,"top_langs":"{\"arp_Latn_score\": 1.0000029802322388}","num_words":223,"character_repetition_ratio":0.06,"word_repetition_ratio":0.0,"special_characters_ratio":0.181,"stopwords_ratio":0.233,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"1Wauhā yauthaunenee jajene wauwu neeenajanede Tiberius Caesar, Pontius Pinade nausunajawaudauau Judea, nau Herod nanajawaudauau Gananee, nau henauhauwauau Theneb nanajawaudauau Iturea nau vedauauwuu Trachonitis, nau Lysanias naja Abilene,\n2Annas nau Caiaphas vevethahenajanauau, Hejavaneauthu nanadede haeedasaa Jaun heau Zacharias nauaunee.\n3Nau haeedade vahee vedauauwuu hanathaudanee Jordan, haeauthedaude dusaahede haudneaugauthuu gaugauuthajaudenau hadneegudanee wauchudaudenau;\n4Naathauthaunauhuu wauthaunauhanaa hedanadede Esaias haeyāhe, Jasaye haevasenehe nauaunee, Hesaanuu hathaāhede Vahadāhede, nesedee hevau chwuwuu.\n5Hadauchugauaudayauau hadnechauchaunaa, nau hadauchāe hauane nau jauaudane hadjananee, nau jajāvāe hadchuvanee, nau hadauhauauyauau bau hadneyauthauau;\n6Nau vahee henanedanede hadnauhaudauau Hejavaneathu hedenayauthaunene.\n7Haenaāenehethaude waunauthanee henanedanede henee hedasādaunau haddusaanaude, Hau hedenaededaunenau seseyānauau, hanaa hāedauwunādaunenau haddaugauhudauwuna nauthee hasenaunaude hadnauusanauau?\n8Hethadee nesedee hadeheaenaunee hadnaugauthuu haugaugauuthajaudenenau jevaauthenehee hadahenauau, hāsaunaunene Abraham: hanau nāedauwunathana, Hejavaneauthau neene nesehaude nuu hauunaugānau Abraham hedāeyaunewau.\n9Nau wauhā jea hauunauchu janenanee hethājee hauhaudee: vahee hauhaudee jeneeaudehuk vevenaudenau haddauwauhude, nau hadneewaudedaunaunee.\n10Nau henanedanau haenaudedaunaa, hauddusedaune? hathāhuk.\n11Hanaāāedauwunaude, Daun nanesevechudaunade, jevena daun janevechudaunenith; nau daun hevethenede jenaasedaude, hahagu.\n12Wauhā haenaāenuusathee hauāyāhehauau haddusaahethee, Hechauhauthethāhe hauddusedaune, hathāhuk,\n13Nau hathāhaugaunee, javaauthaunaudaunāthe henee nethautheavane.\n14Nau vanenanenau hanaasedaunethe, hanaasenehethāde, Nau haddusedaune, hathāhuk? Nau javaauthasenehaa henaneda, hathāhaugaunee, javaauthenanedaunevaa henaneda, nau hadnanethauaunahedava haunaudaunadenenau.\n15Nau henanedanau hathanavāhuk, nau vahee henanedanede haegaugauanavaa hedāhenenau Jaun wauau Chris haenane, nau wauāthe hajee;\n16Jaun hanaāauchuhanehethaude, hathauhuk vahee, Hadneedusaanathana heee naje; hau hanesāde javaānaudāde javaāhenau jaunaude hewauhugu hewauaunaa nāhauwuneaugunavane, hadneedusaanāna heee Hejavaneauthu Vadanauwauthauwu heee heseda.\n17Henaunasāhau nanewauunauau, nau hadgaunauhauau heyauthee nedauthauayāde, nau hadnauānauau wauchuunethauauhanau nedauthānauau jenayaunau; hau jenethauayaunau hadvadauchauauau hesedaa nedaujesaudaunahee.\n18Nau waunauthanee hanasejāesaunee hayauhuhau hanathauthedaunaude henanedanau.\n19Hau Herod naja haeaunaunewau heee Herodias henauhauwauau Thenebeau henenene, nau vahee hathāewausaunee hanasedaude Herod,\n20Haewauhaunene nuu vahee henee dauaugauhude Jauneau duguhunauauwuu.\n21Wauhā hāevahesedusaahedaunee henanedanede, hethauwuu henee Hejavaneauthusau haenethedusaā, nau haeevevetha, hejavaa hanaāegaunanenee,\n22Nau Hejavaneauthuvadanauwauthauwu haejejanauhusane hedanayaunaa hedanayau haenaasaunee waude vedāene nau hanadede haejenauusa hehethee hejavaa, hasenehehuk, Nananene vechauthauau Nāa, nananene vaveenethedaunathane.\n23Nau Hejavaneauthusau nehayau wauwu wauau hanasauau jajeneva, hanane (hathanavade) heau Joseph, nananenith heau Heli,\n24Nananenith heau Matthat, nananenith heau Levi, nananenith heau Melchi, nananenith heau Janna, nananenith heau Joseph,\n25Nananenith heau Mattathias, nananenith heau Amos, nananenith heau Naum, nananenith heau Esli, nananenith heau Nagge,\n26Nananenith heau Maath, nananenith heau Mattathias, nananenith heau Semei, nananenith heau Joseph, nananenith heau Juda,\n27Nananenith heau Jonanna, nananenith heau Rhesa, nananenith heau Zorobabel, nananenith heau Salathiel, nananenith heau Neri,\n28Nananenith heau Melchi, nananenith heau Addi, nananenith heau Cosam, nananenith heau Elmodam, nananenith heau Er,\n29Nananenith heau Jose, nananenith heau Eliezer, nananenith heau Jorim, nananenith heau Matthat, nananenith heau Levi,\n30Nananenith heau Simeon, nananenith heau Juda, nananenith heau Joseph, nananenith heau Jonan, nananenith heau Eliakim,\n31Nananenith heau Melea, nananenith heau Menan, nananenith heau Matthatha, nananenith heau Nathan, nananenith heau David,\n32Nananenith heau Jesse, nananenith heau Obed, nananenith heau Booz, nananenith heau Salmon, nananenith heau Naason,\n33Nananenith heau Aminadab, nananenith heau Aram, nananenith heau Esrom, nananenith heau Phares, nananenith heau Juda,\n34Nananenith heau Jacob, nananenith heau Isaac, nananenith heau Abraham, nananenith heau Thara, nananenith heau Nachor,\n35Nananenith heau Saruch, nananenith heau Ragau, nananenith heau Phalec, nananenith heau Heber, nananenith heau Sala,\n36Nananenith heau Cainan, nananenith heau Arphaxad, nananenith heau Sem, nananenith heau Noe, nananenith heau Lamech,\n37Nananenith heau Mathusala, nananenith heau Enoch, nananenith heau Jared, nananenith heau Maleleel, nananenith heau Cainan,\n38Nananenith heau Enos, nananenith heau Seth, nananenith heau Adam, nananenith heau Hejavaneauthau.","id":"<urn:uuid:5f8ada70-05a3-4385-ae8f-8c68bc021ac0>","dump":"CC-MAIN-2019-09","url":"http:\/\/www.aionianbible.org\/Bibles\/Arapaho---Arapaho-Luke\/Luke\/3\/strongs-g3754","date":"2019-02-21T17:02:06Z","file_path":"s3:\/\/commoncrawl\/crawl-data\/CC-MAIN-2019-09\/segments\/1550247505838.65\/warc\/CC-MAIN-20190221152543-20190221174543-00495.warc.gz","language":"arp","language_score":1.0000064373,"language_script":"Latn","minhash_cluster_size":2,"top_langs":"{\"arp_Latn_score\": 1.0000064373016357}","num_words":521,"character_repetition_ratio":0.183,"word_repetition_ratio":0.0,"special_characters_ratio":0.147,"stopwords_ratio":0.409,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":500.0,"cluster_detection":-1}

arp_Latn/fineweb-2_000001_stas.jsonl

@@ -0,0 +1,115 @@
+[
+    {
+        "avg": {
+            "num_words": 572.047619047619,
+            "character_repetition_ratio": 0.06328571428571428,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.13566666666666663,
+            "stopwords_ratio": 0.28252380952380945,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "std": {
+            "num_words": 148.1136874130577,
+            "character_repetition_ratio": 0.02737768096398938,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.011336134107707814,
+            "stopwords_ratio": 0.03606821453542221,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.0,
+            "perplexity_score": 0.0
+        }
+    },
+    {
+        "median": {
+            "num_words": 557.0,
+            "character_repetition_ratio": 0.055,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.133,
+            "stopwords_ratio": 0.276,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "max": {
+            "num_words": 805.0,
+            "character_repetition_ratio": 0.183,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.181,
+            "stopwords_ratio": 0.409,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "min": {
+            "num_words": 223.0,
+            "character_repetition_ratio": 0.049,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.125,
+            "stopwords_ratio": 0.233,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "90%": {
+            "num_words": 744.0,
+            "character_repetition_ratio": 0.067,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.142,
+            "stopwords_ratio": 0.308,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "75%": {
+            "num_words": 713.0,
+            "character_repetition_ratio": 0.064,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.137,
+            "stopwords_ratio": 0.296,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "50%": {
+            "num_words": 557.0,
+            "character_repetition_ratio": 0.055,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.133,
+            "stopwords_ratio": 0.276,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "25%": {
+            "num_words": 493.0,
+            "character_repetition_ratio": 0.054,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.131,
+            "stopwords_ratio": 0.258,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "total size": "21",
+        "keep size": "19",
+        "remove size": "2"
+    }
+]

bkc_Latn/mala_000001_keep.jsonl

@@ -0,0 +1 @@
+{"url":"","collection":"silbloomlm","source":"BLOOM Library","original_code":"bkc","text":"Lɛta nà Baka b   Bbili\nɓ   Ɓɓandi\nd   Ddindo\nɗ   Ɗɗɔɔ\ne   Etete\nɛ   Ɛbɛ\ng   Gga\ngb   Gbgba\nh   Hhiye\ni   Ikingili\nj   Jjaakɔkɔ\nk   Kkema\nkp   Kpkpa\nl   Llo\nm   Mmongulu\nmb   Mbmbombo\nn   Nnu\nnd   Ndnda\nng   Ngngangulu\nngb   Ngbngbala\nnj   Njnju\nny   Nynyiɛ\no   Okoɓo\nɔ   Ɔmɔkɔkɔkɔ\np   Ppapala\ns   Ssi\nt   Ttongia\nu   Ukukulu\nw   Wwa\ny   Yya","num_words":63,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.358,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.423,"perplexity_score":500.0,"cluster_detection":1}

bkc_Latn/mala_000001_stas.jsonl

@@ -0,0 +1,115 @@
+[
+    {
+        "avg": {
+            "num_words": 63.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.358,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.423,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "std": {
+            "num_words": 0.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.0,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.0,
+            "perplexity_score": 0.0
+        }
+    },
+    {
+        "median": {
+            "num_words": 63.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.358,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.423,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "max": {
+            "num_words": 63.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.358,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.423,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "min": {
+            "num_words": 63.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.358,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.423,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "90%": {
+            "num_words": 63.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.358,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.423,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "75%": {
+            "num_words": 63.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.358,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.423,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "50%": {
+            "num_words": 63.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.358,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.423,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "25%": {
+            "num_words": 63.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.358,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.423,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "total size": "1",
+        "keep size": "1",
+        "remove size": "0"
+    }
+]

cmn_Hani/fineweb-2_000045_stas.jsonl

@@ -0,0 +1,115 @@
+[
+    {
+        "avg": {
+            "num_words": 812.599172792101,
+            "character_repetition_ratio": 0.015641782227098198,
+            "word_repetition_ratio": 0.008238518376302798,
+            "special_characters_ratio": 0.16616242238069112,
+            "stopwords_ratio": 0.07255843390016455,
+            "flagged_words_ratio": 0.0010227882611080642,
+            "lang_id_score": 0.9568485863960507,
+            "perplexity_score": 747.8369609983542
+        }
+    },
+    {
+        "std": {
+            "num_words": 2319.1647109701116,
+            "character_repetition_ratio": 0.026282708094023464,
+            "word_repetition_ratio": 0.026731016566327963,
+            "special_characters_ratio": 0.04062710524277409,
+            "stopwords_ratio": 0.023766429687766676,
+            "flagged_words_ratio": 0.0031141508377215163,
+            "lang_id_score": 0.061330074245820786,
+            "perplexity_score": 677.8956521396585
+        }
+    },
+    {
+        "median": {
+            "num_words": 478.0,
+            "character_repetition_ratio": 0.002,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.161,
+            "stopwords_ratio": 0.072,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.975,
+            "perplexity_score": 635.9
+        }
+    },
+    {
+        "max": {
+            "num_words": 145900.0,
+            "character_repetition_ratio": 0.266,
+            "word_repetition_ratio": 0.636,
+            "special_characters_ratio": 0.668,
+            "stopwords_ratio": 0.29,
+            "flagged_words_ratio": 0.2,
+            "lang_id_score": 1.0,
+            "perplexity_score": 127445.3
+        }
+    },
+    {
+        "min": {
+            "num_words": 34.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.018,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.033,
+            "perplexity_score": 1.4
+        }
+    },
+    {
+        "90%": {
+            "num_words": 1487.0,
+            "character_repetition_ratio": 0.052,
+            "word_repetition_ratio": 0.023,
+            "special_characters_ratio": 0.219,
+            "stopwords_ratio": 0.102,
+            "flagged_words_ratio": 0.003,
+            "lang_id_score": 0.994,
+            "perplexity_score": 1282.8
+        }
+    },
+    {
+        "75%": {
+            "num_words": 822.0,
+            "character_repetition_ratio": 0.021,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.19,
+            "stopwords_ratio": 0.087,
+            "flagged_words_ratio": 0.001,
+            "lang_id_score": 0.988,
+            "perplexity_score": 919.1
+        }
+    },
+    {
+        "50%": {
+            "num_words": 478.0,
+            "character_repetition_ratio": 0.002,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.161,
+            "stopwords_ratio": 0.072,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.975,
+            "perplexity_score": 635.9
+        }
+    },
+    {
+        "25%": {
+            "num_words": 244.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.138,
+            "stopwords_ratio": 0.058,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.952,
+            "perplexity_score": 423.1
+        }
+    },
+    {
+        "total size": "1823000",
+        "keep size": "1655348",
+        "remove size": "167652"
+    }
+]

cmn_Hani/new_cc_000412_stas.jsonl

@@ -0,0 +1,115 @@
+[
+    {
+        "avg": {
+            "num_words": 1364.4572521060577,
+            "character_repetition_ratio": 0.02736762659149692,
+            "word_repetition_ratio": 0.05764415203043669,
+            "special_characters_ratio": 0.18533126675356698,
+            "stopwords_ratio": 0.04358349786525351,
+            "flagged_words_ratio": 0.0014364431092266366,
+            "lang_id_score": 0.9243473251670573,
+            "perplexity_score": 135196.3451381921
+        }
+    },
+    {
+        "std": {
+            "num_words": 5994.163614859076,
+            "character_repetition_ratio": 0.04195813485621307,
+            "word_repetition_ratio": 0.16382026342323752,
+            "special_characters_ratio": 0.09339184486565191,
+            "stopwords_ratio": 0.029547821940081747,
+            "flagged_words_ratio": 0.004176173721567367,
+            "lang_id_score": 0.13952536977560076,
+            "perplexity_score": 1383622.8175178585
+        }
+    },
+    {
+        "median": {
+            "num_words": 289.0,
+            "character_repetition_ratio": 0.005,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.162,
+            "stopwords_ratio": 0.043,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.977,
+            "perplexity_score": 2648.0
+        }
+    },
+    {
+        "max": {
+            "num_words": 223076.0,
+            "character_repetition_ratio": 0.921,
+            "word_repetition_ratio": 1.0,
+            "special_characters_ratio": 0.974,
+            "stopwords_ratio": 0.985,
+            "flagged_words_ratio": 0.354,
+            "lang_id_score": 1.0,
+            "perplexity_score": 48335260.8
+        }
+    },
+    {
+        "min": {
+            "num_words": 4.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.0,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.025,
+            "perplexity_score": 8.8
+        }
+    },
+    {
+        "90%": {
+            "num_words": 1671.0,
+            "character_repetition_ratio": 0.079,
+            "word_repetition_ratio": 0.17,
+            "special_characters_ratio": 0.295,
+            "stopwords_ratio": 0.078,
+            "flagged_words_ratio": 0.004,
+            "lang_id_score": 0.998,
+            "perplexity_score": 51155.149999999994
+        }
+    },
+    {
+        "75%": {
+            "num_words": 722.0,
+            "character_repetition_ratio": 0.045,
+            "word_repetition_ratio": 0.011,
+            "special_characters_ratio": 0.216,
+            "stopwords_ratio": 0.061,
+            "flagged_words_ratio": 0.001,
+            "lang_id_score": 0.993,
+            "perplexity_score": 10732.675000000001
+        }
+    },
+    {
+        "50%": {
+            "num_words": 289.0,
+            "character_repetition_ratio": 0.005,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.162,
+            "stopwords_ratio": 0.043,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.977,
+            "perplexity_score": 2648.0
+        }
+    },
+    {
+        "25%": {
+            "num_words": 99.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.126,
+            "stopwords_ratio": 0.023,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.933,
+            "perplexity_score": 1513.9
+        }
+    },
+    {
+        "total size": "679706",
+        "keep size": "622536",
+        "remove size": "57170"
+    }
+]

cmn_Hani/new_cc_000523_stas.jsonl

@@ -0,0 +1,115 @@
+[
+    {
+        "avg": {
+            "num_words": 1932.7066661406607,
+            "character_repetition_ratio": 0.026991768662530936,
+            "word_repetition_ratio": 0.0713620545797047,
+            "special_characters_ratio": 0.1871555314469441,
+            "stopwords_ratio": 0.0404937895120965,
+            "flagged_words_ratio": 0.0014251970057104538,
+            "lang_id_score": 0.9098542857988221,
+            "perplexity_score": 127980.02192952178
+        }
+    },
+    {
+        "std": {
+            "num_words": 8110.64398999328,
+            "character_repetition_ratio": 0.041007707212585676,
+            "word_repetition_ratio": 0.20065723822446413,
+            "special_characters_ratio": 0.09236422762046465,
+            "stopwords_ratio": 0.029158035095230527,
+            "flagged_words_ratio": 0.004186966276736049,
+            "lang_id_score": 0.15503382341289565,
+            "perplexity_score": 1384330.4607078684
+        }
+    },
+    {
+        "median": {
+            "num_words": 295.0,
+            "character_repetition_ratio": 0.007,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.163,
+            "stopwords_ratio": 0.04,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.974,
+            "perplexity_score": 3233.2
+        }
+    },
+    {
+        "max": {
+            "num_words": 211948.0,
+            "character_repetition_ratio": 0.948,
+            "word_repetition_ratio": 1.0,
+            "special_characters_ratio": 1.0,
+            "stopwords_ratio": 0.981,
+            "flagged_words_ratio": 0.175,
+            "lang_id_score": 1.0,
+            "perplexity_score": 51769992.5
+        }
+    },
+    {
+        "min": {
+            "num_words": 2.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.0,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.022,
+            "perplexity_score": 8.1
+        }
+    },
+    {
+        "90%": {
+            "num_words": 1832.0,
+            "character_repetition_ratio": 0.079,
+            "word_repetition_ratio": 0.202,
+            "special_characters_ratio": 0.295,
+            "stopwords_ratio": 0.075,
+            "flagged_words_ratio": 0.004,
+            "lang_id_score": 0.997,
+            "perplexity_score": 76168.00000000017
+        }
+    },
+    {
+        "75%": {
+            "num_words": 705.0,
+            "character_repetition_ratio": 0.044,
+            "word_repetition_ratio": 0.014,
+            "special_characters_ratio": 0.22,
+            "stopwords_ratio": 0.058,
+            "flagged_words_ratio": 0.001,
+            "lang_id_score": 0.992,
+            "perplexity_score": 14719.4
+        }
+    },
+    {
+        "50%": {
+            "num_words": 295.0,
+            "character_repetition_ratio": 0.007,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.163,
+            "stopwords_ratio": 0.04,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.974,
+            "perplexity_score": 3233.2
+        }
+    },
+    {
+        "25%": {
+            "num_words": 104.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.129,
+            "stopwords_ratio": 0.019,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.912,
+            "perplexity_score": 1617.6
+        }
+    },
+    {
+        "total size": "506965",
+        "keep size": "462032",
+        "remove size": "44933"
+    }
+]

cmn_Hani/new_cc_000596_stas.jsonl

@@ -0,0 +1,115 @@
+[
+    {
+        "avg": {
+            "num_words": 1973.270340607256,
+            "character_repetition_ratio": 0.026536691027945217,
+            "word_repetition_ratio": 0.06222570896887377,
+            "special_characters_ratio": 0.18603537885896965,
+            "stopwords_ratio": 0.04104102118556454,
+            "flagged_words_ratio": 0.0014127208817775515,
+            "lang_id_score": 0.9079954471712821,
+            "perplexity_score": 126670.94729255803
+        }
+    },
+    {
+        "std": {
+            "num_words": 7771.795073891991,
+            "character_repetition_ratio": 0.04001367336805671,
+            "word_repetition_ratio": 0.1824536522049731,
+            "special_characters_ratio": 0.08999703603355663,
+            "stopwords_ratio": 0.028981634946290545,
+            "flagged_words_ratio": 0.003978937528098211,
+            "lang_id_score": 0.16061258918664623,
+            "perplexity_score": 1452971.4266298364
+        }
+    },
+    {
+        "median": {
+            "num_words": 311.0,
+            "character_repetition_ratio": 0.006,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.163,
+            "stopwords_ratio": 0.04,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.974,
+            "perplexity_score": 3136.7
+        }
+    },
+    {
+        "max": {
+            "num_words": 275246.0,
+            "character_repetition_ratio": 0.935,
+            "word_repetition_ratio": 1.0,
+            "special_characters_ratio": 1.0,
+            "stopwords_ratio": 0.99,
+            "flagged_words_ratio": 0.127,
+            "lang_id_score": 1.0,
+            "perplexity_score": 48814760.3
+        }
+    },
+    {
+        "min": {
+            "num_words": 1.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.0,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.022,
+            "perplexity_score": 2.6
+        }
+    },
+    {
+        "90%": {
+            "num_words": 1972.0,
+            "character_repetition_ratio": 0.078,
+            "word_repetition_ratio": 0.157,
+            "special_characters_ratio": 0.292,
+            "stopwords_ratio": 0.075,
+            "flagged_words_ratio": 0.004,
+            "lang_id_score": 0.997,
+            "perplexity_score": 60382.6
+        }
+    },
+    {
+        "75%": {
+            "num_words": 750.0,
+            "character_repetition_ratio": 0.043,
+            "word_repetition_ratio": 0.014,
+            "special_characters_ratio": 0.218,
+            "stopwords_ratio": 0.059,
+            "flagged_words_ratio": 0.001,
+            "lang_id_score": 0.992,
+            "perplexity_score": 13665.0
+        }
+    },
+    {
+        "50%": {
+            "num_words": 311.0,
+            "character_repetition_ratio": 0.006,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.163,
+            "stopwords_ratio": 0.04,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.974,
+            "perplexity_score": 3136.7
+        }
+    },
+    {
+        "25%": {
+            "num_words": 111.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.13,
+            "stopwords_ratio": 0.02,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.911,
+            "perplexity_score": 1640.5
+        }
+    },
+    {
+        "total size": "502984",
+        "keep size": "459656",
+        "remove size": "43328"
+    }
+]

cmn_Hani/new_cc_000615_stas.jsonl

@@ -0,0 +1,115 @@
+[
+    {
+        "avg": {
+            "num_words": 1954.8500709166694,
+            "character_repetition_ratio": 0.026522392505518477,
+            "word_repetition_ratio": 0.06226622847595244,
+            "special_characters_ratio": 0.18611618497908006,
+            "stopwords_ratio": 0.0410834094446406,
+            "flagged_words_ratio": 0.0014065330132384357,
+            "lang_id_score": 0.908188076136294,
+            "perplexity_score": 124442.7906630659
+        }
+    },
+    {
+        "std": {
+            "num_words": 7754.358643268143,
+            "character_repetition_ratio": 0.040081522066578425,
+            "word_repetition_ratio": 0.1823978995280406,
+            "special_characters_ratio": 0.08993117918001949,
+            "stopwords_ratio": 0.029252327880206867,
+            "flagged_words_ratio": 0.003957468152456246,
+            "lang_id_score": 0.16032541507451317,
+            "perplexity_score": 1439482.1819765428
+        }
+    },
+    {
+        "median": {
+            "num_words": 310.0,
+            "character_repetition_ratio": 0.006,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.163,
+            "stopwords_ratio": 0.04,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.975,
+            "perplexity_score": 3134.9
+        }
+    },
+    {
+        "max": {
+            "num_words": 274403.0,
+            "character_repetition_ratio": 0.928,
+            "word_repetition_ratio": 1.0,
+            "special_characters_ratio": 1.0,
+            "stopwords_ratio": 0.991,
+            "flagged_words_ratio": 0.144,
+            "lang_id_score": 1.0,
+            "perplexity_score": 52869687.1
+        }
+    },
+    {
+        "min": {
+            "num_words": 1.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.0,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.023,
+            "perplexity_score": 6.7
+        }
+    },
+    {
+        "90%": {
+            "num_words": 1960.0,
+            "character_repetition_ratio": 0.078,
+            "word_repetition_ratio": 0.158,
+            "special_characters_ratio": 0.292,
+            "stopwords_ratio": 0.076,
+            "flagged_words_ratio": 0.004,
+            "lang_id_score": 0.997,
+            "perplexity_score": 61120.73999999997
+        }
+    },
+    {
+        "75%": {
+            "num_words": 749.0,
+            "character_repetition_ratio": 0.043,
+            "word_repetition_ratio": 0.013,
+            "special_characters_ratio": 0.219,
+            "stopwords_ratio": 0.059,
+            "flagged_words_ratio": 0.001,
+            "lang_id_score": 0.992,
+            "perplexity_score": 13753.5
+        }
+    },
+    {
+        "50%": {
+            "num_words": 310.0,
+            "character_repetition_ratio": 0.006,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.163,
+            "stopwords_ratio": 0.04,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.975,
+            "perplexity_score": 3134.9
+        }
+    },
+    {
+        "25%": {
+            "num_words": 111.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.13,
+            "stopwords_ratio": 0.02,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.911,
+            "perplexity_score": 1638.1
+        }
+    },
+    {
+        "total size": "506933",
+        "keep size": "461975",
+        "remove size": "44958"
+    }
+]

cmn_Hani/new_cc_000618_stas.jsonl

@@ -0,0 +1,115 @@
+[
+    {
+        "avg": {
+            "num_words": 1974.4608076860316,
+            "character_repetition_ratio": 0.026506839501554153,
+            "word_repetition_ratio": 0.06207299978906394,
+            "special_characters_ratio": 0.18568425660966087,
+            "stopwords_ratio": 0.04112235086225081,
+            "flagged_words_ratio": 0.0014042330485033495,
+            "lang_id_score": 0.9082335738534829,
+            "perplexity_score": 124261.81626814346
+        }
+    },
+    {
+        "std": {
+            "num_words": 7797.8505072540565,
+            "character_repetition_ratio": 0.03991846706257122,
+            "word_repetition_ratio": 0.18199801289160925,
+            "special_characters_ratio": 0.08972942289095115,
+            "stopwords_ratio": 0.02904723184292553,
+            "flagged_words_ratio": 0.003961836952731466,
+            "lang_id_score": 0.16013794983703789,
+            "perplexity_score": 1442492.7834982157
+        }
+    },
+    {
+        "median": {
+            "num_words": 311.0,
+            "character_repetition_ratio": 0.006,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.163,
+            "stopwords_ratio": 0.04,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.975,
+            "perplexity_score": 3120.4
+        }
+    },
+    {
+        "max": {
+            "num_words": 274763.0,
+            "character_repetition_ratio": 0.958,
+            "word_repetition_ratio": 1.0,
+            "special_characters_ratio": 0.942,
+            "stopwords_ratio": 0.981,
+            "flagged_words_ratio": 0.358,
+            "lang_id_score": 1.0,
+            "perplexity_score": 52869687.1
+        }
+    },
+    {
+        "min": {
+            "num_words": 8.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.0,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.025,
+            "perplexity_score": 2.7
+        }
+    },
+    {
+        "90%": {
+            "num_words": 1968.0,
+            "character_repetition_ratio": 0.078,
+            "word_repetition_ratio": 0.157,
+            "special_characters_ratio": 0.291,
+            "stopwords_ratio": 0.076,
+            "flagged_words_ratio": 0.004,
+            "lang_id_score": 0.997,
+            "perplexity_score": 60845.60000000019
+        }
+    },
+    {
+        "75%": {
+            "num_words": 751.0,
+            "character_repetition_ratio": 0.043,
+            "word_repetition_ratio": 0.013,
+            "special_characters_ratio": 0.218,
+            "stopwords_ratio": 0.059,
+            "flagged_words_ratio": 0.001,
+            "lang_id_score": 0.992,
+            "perplexity_score": 13756.699999999999
+        }
+    },
+    {
+        "50%": {
+            "num_words": 311.0,
+            "character_repetition_ratio": 0.006,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.163,
+            "stopwords_ratio": 0.04,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.975,
+            "perplexity_score": 3120.4
+        }
+    },
+    {
+        "25%": {
+            "num_words": 112.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.13,
+            "stopwords_ratio": 0.02,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.912,
+            "perplexity_score": 1636.9
+        }
+    },
+    {
+        "total size": "502522",
+        "keep size": "456694",
+        "remove size": "45828"
+    }
+]

cmn_Hani/new_cc_000672_stas.jsonl

@@ -0,0 +1,115 @@
+[
+    {
+        "avg": {
+            "num_words": 1639.80737436569,
+            "character_repetition_ratio": 0.026580472117640645,
+            "word_repetition_ratio": 0.05793837643913353,
+            "special_characters_ratio": 0.18705540152507225,
+            "stopwords_ratio": 0.041732090972335906,
+            "flagged_words_ratio": 0.0014181433131445409,
+            "lang_id_score": 0.9142362856032084,
+            "perplexity_score": 131838.24339533207
+        }
+    },
+    {
+        "std": {
+            "num_words": 6785.972502666346,
+            "character_repetition_ratio": 0.04073200546035973,
+            "word_repetition_ratio": 0.17250320251397952,
+            "special_characters_ratio": 0.09163893047563146,
+            "stopwords_ratio": 0.028860572342485683,
+            "flagged_words_ratio": 0.003944400995080942,
+            "lang_id_score": 0.15569990202227876,
+            "perplexity_score": 1462549.831023048
+        }
+    },
+    {
+        "median": {
+            "num_words": 294.0,
+            "character_repetition_ratio": 0.005,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.164,
+            "stopwords_ratio": 0.041,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.975,
+            "perplexity_score": 2964.9
+        }
+    },
+    {
+        "max": {
+            "num_words": 201705.0,
+            "character_repetition_ratio": 1.0,
+            "word_repetition_ratio": 1.0,
+            "special_characters_ratio": 1.0,
+            "stopwords_ratio": 0.992,
+            "flagged_words_ratio": 0.141,
+            "lang_id_score": 1.0,
+            "perplexity_score": 52373881.8
+        }
+    },
+    {
+        "min": {
+            "num_words": 1.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.0,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.023,
+            "perplexity_score": 3.1
+        }
+    },
+    {
+        "90%": {
+            "num_words": 1848.0,
+            "character_repetition_ratio": 0.078,
+            "word_repetition_ratio": 0.143,
+            "special_characters_ratio": 0.296,
+            "stopwords_ratio": 0.076,
+            "flagged_words_ratio": 0.004,
+            "lang_id_score": 0.997,
+            "perplexity_score": 53764.4
+        }
+    },
+    {
+        "75%": {
+            "num_words": 730.0,
+            "character_repetition_ratio": 0.044,
+            "word_repetition_ratio": 0.013,
+            "special_characters_ratio": 0.221,
+            "stopwords_ratio": 0.059,
+            "flagged_words_ratio": 0.001,
+            "lang_id_score": 0.992,
+            "perplexity_score": 11751.8
+        }
+    },
+    {
+        "50%": {
+            "num_words": 294.0,
+            "character_repetition_ratio": 0.005,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.164,
+            "stopwords_ratio": 0.041,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.975,
+            "perplexity_score": 2964.9
+        }
+    },
+    {
+        "25%": {
+            "num_words": 106.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.129,
+            "stopwords_ratio": 0.021,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.92,
+            "perplexity_score": 1598.5
+        }
+    },
+    {
+        "total size": "586464",
+        "keep size": "532901",
+        "remove size": "53563"
+    }
+]

gso_Latn/fineweb-2_000001_stas.jsonl

@@ -0,0 +1,115 @@
+[
+    {
+        "avg": {
+            "num_words": 862.9508196721312,
+            "character_repetition_ratio": 0.0531256830601093,
+            "word_repetition_ratio": 0.001366120218579235,
+            "special_characters_ratio": 0.27257377049180326,
+            "stopwords_ratio": 0.5041857923497268,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "std": {
+            "num_words": 313.16919218928064,
+            "character_repetition_ratio": 0.008619494137026699,
+            "word_repetition_ratio": 0.004121428704318743,
+            "special_characters_ratio": 0.008462309267163322,
+            "stopwords_ratio": 0.044209244332848216,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.0,
+            "perplexity_score": 0.0
+        }
+    },
+    {
+        "median": {
+            "num_words": 824.0,
+            "character_repetition_ratio": 0.052,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.273,
+            "stopwords_ratio": 0.504,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "max": {
+            "num_words": 1867.0,
+            "character_repetition_ratio": 0.088,
+            "word_repetition_ratio": 0.026,
+            "special_characters_ratio": 0.293,
+            "stopwords_ratio": 0.605,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "min": {
+            "num_words": 338.0,
+            "character_repetition_ratio": 0.035,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.247,
+            "stopwords_ratio": 0.308,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "90%": {
+            "num_words": 1301.6,
+            "character_repetition_ratio": 0.064,
+            "word_repetition_ratio": 0.0038000000000000113,
+            "special_characters_ratio": 0.283,
+            "stopwords_ratio": 0.5568000000000001,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "75%": {
+            "num_words": 1048.0,
+            "character_repetition_ratio": 0.058,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.278,
+            "stopwords_ratio": 0.537,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "50%": {
+            "num_words": 824.0,
+            "character_repetition_ratio": 0.052,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.273,
+            "stopwords_ratio": 0.504,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "25%": {
+            "num_words": 631.0,
+            "character_repetition_ratio": 0.047,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.267,
+            "stopwords_ratio": 0.4795,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "total size": "183",
+        "keep size": "158",
+        "remove size": "25"
+    }
+]

lbe_Cyrl/fineweb-2_000001_stas.jsonl

@@ -0,0 +1,115 @@
+[
+    {
+        "avg": {
+            "num_words": 1073.1992303137952,
+            "character_repetition_ratio": 0.06021551213735939,
+            "word_repetition_ratio": 0.0062309058614564835,
+            "special_characters_ratio": 0.1514490822972173,
+            "stopwords_ratio": 0.006738602723505032,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.961143576080521,
+            "perplexity_score": 2935.3681172291294
+        }
+    },
+    {
+        "std": {
+            "num_words": 1573.7305582650322,
+            "character_repetition_ratio": 0.016714393834901902,
+            "word_repetition_ratio": 0.010977881490045882,
+            "special_characters_ratio": 0.014944358436179575,
+            "stopwords_ratio": 0.004682715348258608,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.034125640138481565,
+            "perplexity_score": 518.4842332845438
+        }
+    },
+    {
+        "median": {
+            "num_words": 702.0,
+            "character_repetition_ratio": 0.06,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.15,
+            "stopwords_ratio": 0.006,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.973,
+            "perplexity_score": 2909.45
+        }
+    },
+    {
+        "max": {
+            "num_words": 55906.0,
+            "character_repetition_ratio": 0.129,
+            "word_repetition_ratio": 0.138,
+            "special_characters_ratio": 0.235,
+            "stopwords_ratio": 0.043,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.999,
+            "perplexity_score": 7715.7
+        }
+    },
+    {
+        "min": {
+            "num_words": 77.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.11,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.805,
+            "perplexity_score": 1220.1
+        }
+    },
+    {
+        "90%": {
+            "num_words": 2275.6000000000004,
+            "character_repetition_ratio": 0.081,
+            "word_repetition_ratio": 0.02,
+            "special_characters_ratio": 0.169,
+            "stopwords_ratio": 0.012,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.991,
+            "perplexity_score": 3490.6600000000003
+        }
+    },
+    {
+        "75%": {
+            "num_words": 1245.5,
+            "character_repetition_ratio": 0.071,
+            "word_repetition_ratio": 0.009,
+            "special_characters_ratio": 0.16,
+            "stopwords_ratio": 0.009,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.985,
+            "perplexity_score": 3200.775
+        }
+    },
+    {
+        "50%": {
+            "num_words": 702.0,
+            "character_repetition_ratio": 0.06,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.15,
+            "stopwords_ratio": 0.006,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.973,
+            "perplexity_score": 2909.45
+        }
+    },
+    {
+        "25%": {
+            "num_words": 410.25,
+            "character_repetition_ratio": 0.049,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.141,
+            "stopwords_ratio": 0.004,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.95,
+            "perplexity_score": 2631.55
+        }
+    },
+    {
+        "total size": "3378",
+        "keep size": "3059",
+        "remove size": "319"
+    }
+]

lbe_Cyrl/mala_000002_stas.jsonl

@@ -0,0 +1,115 @@
+[
+    {
+        "avg": {
+            "num_words": 112.37173396674584,
+            "character_repetition_ratio": 0.049502375296912114,
+            "word_repetition_ratio": 0.0010807600950118765,
+            "special_characters_ratio": 0.22727197149643705,
+            "stopwords_ratio": 0.01577434679334917,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.6475106888361044,
+            "perplexity_score": 3440.1067695962
+        }
+    },
+    {
+        "std": {
+            "num_words": 378.2327273229189,
+            "character_repetition_ratio": 0.04793429409282504,
+            "word_repetition_ratio": 0.008135324305768197,
+            "special_characters_ratio": 0.06137152463688449,
+            "stopwords_ratio": 0.017579109480616924,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.2943503947234865,
+            "perplexity_score": 2424.3231647638695
+        }
+    },
+    {
+        "median": {
+            "num_words": 57.0,
+            "character_repetition_ratio": 0.039,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.209,
+            "stopwords_ratio": 0.008,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.643,
+            "perplexity_score": 2759.8
+        }
+    },
+    {
+        "max": {
+            "num_words": 8377.0,
+            "character_repetition_ratio": 0.196,
+            "word_repetition_ratio": 0.125,
+            "special_characters_ratio": 0.389,
+            "stopwords_ratio": 0.08,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 20992.0
+        }
+    },
+    {
+        "min": {
+            "num_words": 13.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.112,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.091,
+            "perplexity_score": 408.5
+        }
+    },
+    {
+        "90%": {
+            "num_words": 185.0,
+            "character_repetition_ratio": 0.11389999999999999,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.319,
+            "stopwords_ratio": 0.04,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.994,
+            "perplexity_score": 6737.59
+        }
+    },
+    {
+        "75%": {
+            "num_words": 87.75,
+            "character_repetition_ratio": 0.09175,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.281,
+            "stopwords_ratio": 0.033,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.96775,
+            "perplexity_score": 4306.925
+        }
+    },
+    {
+        "50%": {
+            "num_words": 57.0,
+            "character_repetition_ratio": 0.039,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.209,
+            "stopwords_ratio": 0.008,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.643,
+            "perplexity_score": 2759.8
+        }
+    },
+    {
+        "25%": {
+            "num_words": 30.0,
+            "character_repetition_ratio": 0.0,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.179,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.376,
+            "perplexity_score": 1685.6
+        }
+    },
+    {
+        "total size": "842",
+        "keep size": "764",
+        "remove size": "78"
+    }
+]

lub_Latn/mala_000001_stas.jsonl

@@ -0,0 +1,115 @@
+[
+    {
+        "avg": {
+            "num_words": 1553.885257301808,
+            "character_repetition_ratio": 0.06341168289290681,
+            "word_repetition_ratio": 0.005406815020862309,
+            "special_characters_ratio": 0.20268497913769123,
+            "stopwords_ratio": 0.1527440890125174,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.9972079276773297,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "std": {
+            "num_words": 2243.587728867803,
+            "character_repetition_ratio": 0.018432040414932866,
+            "word_repetition_ratio": 0.01787273455912271,
+            "special_characters_ratio": 0.016076189762951255,
+            "stopwords_ratio": 0.033055710390182014,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.028683865454817912,
+            "perplexity_score": 0.0
+        }
+    },
+    {
+        "median": {
+            "num_words": 910.5,
+            "character_repetition_ratio": 0.06,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.203,
+            "stopwords_ratio": 0.149,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "max": {
+            "num_words": 23560.0,
+            "character_repetition_ratio": 0.192,
+            "word_repetition_ratio": 0.227,
+            "special_characters_ratio": 0.297,
+            "stopwords_ratio": 0.28,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "min": {
+            "num_words": 107.0,
+            "character_repetition_ratio": 0.033,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.127,
+            "stopwords_ratio": 0.016,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.515,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "90%": {
+            "num_words": 2599.5,
+            "character_repetition_ratio": 0.087,
+            "word_repetition_ratio": 0.014,
+            "special_characters_ratio": 0.22,
+            "stopwords_ratio": 0.193,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "75%": {
+            "num_words": 2058.5,
+            "character_repetition_ratio": 0.072,
+            "word_repetition_ratio": 0.003,
+            "special_characters_ratio": 0.212,
+            "stopwords_ratio": 0.17,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "50%": {
+            "num_words": 910.5,
+            "character_repetition_ratio": 0.06,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.203,
+            "stopwords_ratio": 0.149,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "25%": {
+            "num_words": 564.25,
+            "character_repetition_ratio": 0.051,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.192,
+            "stopwords_ratio": 0.13125,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "total size": "1438",
+        "keep size": "1336",
+        "remove size": "102"
+    }
+]

mee_Latn/fineweb-2_000001_stas.jsonl

@@ -0,0 +1,115 @@
+[
+    {
+        "avg": {
+            "num_words": 1190.7846153846153,
+            "character_repetition_ratio": 0.0672076923076923,
+            "word_repetition_ratio": 0.007853846153846154,
+            "special_characters_ratio": 0.2077923076923077,
+            "stopwords_ratio": 0.4263538461538462,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.9999769230769232,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "std": {
+            "num_words": 324.57941980864035,
+            "character_repetition_ratio": 0.012495350614618563,
+            "word_repetition_ratio": 0.0138725581571131,
+            "special_characters_ratio": 0.006721602549124898,
+            "stopwords_ratio": 0.03597603081079691,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.0001947536754026488,
+            "perplexity_score": 0.0
+        }
+    },
+    {
+        "median": {
+            "num_words": 1148.5,
+            "character_repetition_ratio": 0.065,
+            "word_repetition_ratio": 0.003,
+            "special_characters_ratio": 0.208,
+            "stopwords_ratio": 0.42,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "max": {
+            "num_words": 2269.0,
+            "character_repetition_ratio": 0.115,
+            "word_repetition_ratio": 0.102,
+            "special_characters_ratio": 0.225,
+            "stopwords_ratio": 0.523,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "min": {
+            "num_words": 535.0,
+            "character_repetition_ratio": 0.042,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.193,
+            "stopwords_ratio": 0.33,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.998,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "90%": {
+            "num_words": 1625.9,
+            "character_repetition_ratio": 0.085,
+            "word_repetition_ratio": 0.02,
+            "special_characters_ratio": 0.217,
+            "stopwords_ratio": 0.4787,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "75%": {
+            "num_words": 1353.75,
+            "character_repetition_ratio": 0.075,
+            "word_repetition_ratio": 0.01075,
+            "special_characters_ratio": 0.212,
+            "stopwords_ratio": 0.44575,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "50%": {
+            "num_words": 1148.5,
+            "character_repetition_ratio": 0.065,
+            "word_repetition_ratio": 0.003,
+            "special_characters_ratio": 0.208,
+            "stopwords_ratio": 0.42,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "25%": {
+            "num_words": 951.25,
+            "character_repetition_ratio": 0.058,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.203,
+            "stopwords_ratio": 0.40325,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 1.0,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "total size": "130",
+        "keep size": "116",
+        "remove size": "14"
+    }
+]

oki_Latn/mala_000001_keep.jsonl

@@ -0,0 +1,4 @@
+{"url":"","collection":"silbloomlm","source":"BLOOM Library","original_code":"oki","text":"Kaanaametaap Kaniisa Ēn kēnyiit agetōgōl, pēsyōōsyēk 50 kōgaipata Pasaka, kō kiimay kō āmēy Yāudiik igoortoop pēsyēēt nē kiguurēēn Pēndēkōstē. Kiipēsyōōni kō kiimay kōngērēkchin Yāudiik kēsiisyēētoop ingano-iisyek. Kiipwoonēy Yāudiik Jērusālēēm kōyoop luukwēk tōgōl chēpo ng'wony si kōng'ērēkchi tōgōl Pēndēkōstē. Ēn kēnyiini kō kiit Pēndēkōstē wiigiit ageenge kō kaiyeey Jēēsō turuuret.\nKiin kōōndēē kooyānik tōgōl, konyiy kipageenge koot ne kiindēē icheek salauta nē yuu usōōnēt nē ōw. Ēn iyoon kōtook tuguuk chē yuu māstinik chē lāldōōs ēn mētēwēēgoop kooyānik tōgōl. Kiinyiy icheek Tāmirmiiryēt nē Tiliil is koonaam kōng'ālooso ēn kuutusweek alak.\nKiin kogas pōloot piik ēn Jērusālēēm, kopwa okwēēt si kōgēēr kiit nē kiitēsēy taay. Kiin kogas piik kōmwoo-ēy kooyānik agōpo yāyuutik chē king'āsyānjin chē po Tōrōōrēt, kōng'āsyānso kōlē kiigāsēy ng'aleechu ēn kuutusweekchuwaak.\nKiimwaaytaa-ey piik alak koosipik ng'aleek kōlē pōōgitōōs. Pēēgō kiitōōnōōn Pētērō is kōmwoochi icheek kōlēēnji, \"Ōyēpchoon iit! Mā pōōgitōōs pichu! Kay koo-iitista ng'aleechu mo-ōōnotēētoop mo-ōōtyoot Jōēl kiin komwa Tōrōōrēt kōlē, Ēn pēsyōōsyēgoop lēt,ooroong'u Tāmirmiiryēnyōōn.\"\n\"Ng'ēētootigoop Isra-ēēl, Jēēsō kō kii chiito nē kiiyay koopooruno-iik che chaang chē ēchēēn ak ng'āsyānuutik ēn kaamuugetaap Tōrōōrēt, kōyuu iyē kay ōgēēr iskō kay oonay. Pēēgō kii ō-uuytē inee!\"\nIngaandaa kiimee Jēēsō, kō kiituutis inee :Tōrōōrēt ēn iyētoop mee-eet. Ko-iitista mo-ōōnotēēt nē mwoo-ēy kōlē, \"Mā ipāgoochē nēng'uung' nē tiliil kōpus ēn kirēēriit.\" Kipā-ōōryānii kēēlē kiituutis :Tōrōōrēt Jēēsō si kōsop kōgēny.\n\"Tōrōōr Jēēsō paani ēn ē-uutoop taay nēpo Paapa Tōrōōrēt. Iskō kay kōōyook Jēēsō Tāmirmiiryēt nē Tiliil kōyuu kiin kōōyoomiis kōlē yāyēy. Tāmirmiiryēt nē Tiliil nē otin koyayak ng'aleechu ōgēērē is ōōgāsē paani.\"\n\"Kii oargat chiichi, Jēēsō. Pēēgō onay nēpo iman ōōlē kii kōoti :Tōrōōrēt Jēēsō kōēk Kiptayaat iskō Meesia!\"\nKiitiing'ok ōtkō piik chē kiiyēpchin iit Pētērō agōpo tuguuk chē kiimwoo-ēy inee. Koteepey aynyōōn :icheek Pētērō ak koosipik kōlēēnji, \"Tuupchōōsyēchu, nee ne maktaat keeyay?\"\nKōwālchi :Pētērō icheek kōlēēnji, \"Maaktaat kōsik agetōgōl ēn okweek is keepaatiisan ēn kayneetaap Jēēsō Kristō si kōnyōōywook kaat Tōrōōrēt tēngēēkwoogikwook. Ēn iyoon kōgōōnook kōgēny kōōnuno-iigoop Tāmirmiiryēt nē Tiliil.\"\nKiiyan :piik chē itēy 3,000 kiit nē kiimwoo-ēy Pētērō is kōēk koosipigoop Jēēsō. Kiigiipaatiisan icheek is kōēk kepeepertaap kaniisa ēn Jērusālēēm.\nKiitestaay Koosipik kōyēpchi iit koonēētiisyēētoop chē kiiyooktooy, kōōtēpi tōgōl, kōāmiis tōgōl, is kosaa kipageenge. Kiing'ērēkchi kōōloosu Tōrōōrēt kipageenge is kopchey tōgōl kēy agetōgōl nē kiitinyēy. Kiindēē choomyēēt kwēēnēēnyuwaan, kōēk piik che chaang' kooyānik.","num_words":367,"character_repetition_ratio":0.055,"word_repetition_ratio":0.0,"special_characters_ratio":0.176,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.925,"perplexity_score":500.0,"cluster_detection":1}
+{"url":"","collection":"silbloomlm","source":"BLOOM Library","original_code":"oki","text":"ISOMITIT Isomitit kō otēpto nē punēy chiito agetōgōl ēn kāsārwēēk alak ēn sopēēnyuwaan. Imuuchēy konaam isomitit kōsērpēn ōtkō ōwiit. Yā-iitu kiit kaigaa-ey keey chiito ēn katyaat nē siirēy āroo-ēk o-ēēny.\nChaang' tuguuk chē ōpu isomitit. Imuuchēy koonaamey ng'ālyoot nē katiritiit, kōyuu ingōpētyo rwoonik, onoon kō iyoon katunumak chiito. Kiit age nē ōpu isomitit kō pōōgitēēgoop rootiik onoon kō chēpo kērichēēk.\nKiit nē itooy chiito ingōwālu ng'aleek kōmuuchēy kōōpoor kōlē tinyēy isomitit. Imuuchēy konyitak onoon kōōpoor otēpto nē mānenyiin. Chiito nē tin isomitit, kōtunumaksēy is kosaagiit.\nChiito nē tin isomitit kōsyēnu  iskō materektaat mētit. Kāsēy kōgomēw is kōpētyo  rwoonik onoon  kōruu ōtkō.\nChiito nē tinyēy isomitit kō usoot kōtēēn kay, iskō mēēy kōmāgēēn kēy  koyay kiit nē   kiichāmēy koyay.\nChiito nē isomitaat kōōmuuchēy kolugey keey is  koriirtaa-ey keey ēn tuguuk chē kayayak koya. Chiito nē isomitaat kōchāmēy kōōtepiēy ineegeey kōtēēn kay  is kopwaat kōlē kaygay  mee-eet.\nKō aynyōōn, nee ne maktaat iyay iyoon  iisomitaat, onoon iyoon itinyē chorweet onoon kō chiitoop latyeeng'uung' nē toogu kōlē tinyēy isomitit?\n\nAsa kiimuuchey kēētēēr isomiitit komanam chiito?\nKiit ne taay  kō kee-am āmiitwoogik chē siing'ōō-ēēn chē iuyuuyēy pōōrwēk. Kiit kagiam āmiitwoogik chē maktaat  kēēgosē kōsiing'ō��y is kotereekta keey mētōwēēkchook. Āmitwoogiik chē  kii-āmēy  kō chē tēēchēy pōōrwēk  chē yuu maa-eeniik, samageenik,injuguuk ak ingwēēk chē nyāliilēēn. Tuguuk alak chē tēēchēy pōōrto \/kēēsigēēn  marakweek, mologeenik ak mwaanik.\nPo koomonuutyēt kiinin keey si kōsiing'ō-iit pōōrto, is koterekta keey mētit. Keepeendaat ēn iyē indēē kōriisto nē siing'ōōy, kēēyāyiis ēn imbareet, marareet ak pirēētoop imbireet ak loogōōk kō siing'ōōy ēn pōōrto.\nMā iyuutyē iyee pēēk che chaang' iyoon  iininii pōōrto  ēn pēētuut kōtēēn ki-oon. Ma iyee rootiik onoon kō tawoosyek chē kipōōgitēēn.\nCheeng' iyē iimuung'ē ēēn saang' is iitolēēn ki-eet. Ipwaat kiit nē  chāmdooyiin Tōrōōrēt.    Ingen  tuguuk chē ipirchiinoo-e kōōngōy Tōrōōrēt.\nSooman onoon iiyēpchii iit  Siruutik chē Tiliilēēn  ak tyēnwoogiik chē chēērin iiloosu Tōrōōrēt.\nCheeng' choorweet nē iiyānii onoon kō nē iimuuchē iing'oong'ji ng'aleeguk. Panda age kō myēēy ii-āmji choorweeng'uung' tuguuk chē ipuunē ēn sopēēng'uung'.\nŌroorii tuwaay. Mwoowēēch Bibilia ēn puguutoop Koroguutiik kōlē,  \"Muguulēldo ne  ng'eregaat kō taweet nē siing'ōōy.\"\n                     Koroguutik 17:22\nKiit ko-iisip tuguuchu, kōtoorētin iigas kōsiing'ōōy pēsyōōsyēk tōgōl.\n\nŌt iitinyē chorweet onoon kō chiitoop laatyeet nē toogu kōlē tinyēy isomitit, iiguur kōnyō  kaing'uung' oyee cha-iik tuwaay. Ipoorchiin inee iilē ichāmē is iigāsinii ng'aleekchiik. Iimuuchē iitoorēt inee iiyōōychi āmiitwoogiik chē siing'ōō-ēēn is iisoom inee opeendaate tuwaay.","num_words":385,"character_repetition_ratio":0.063,"word_repetition_ratio":0.0,"special_characters_ratio":0.193,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.556,"perplexity_score":500.0,"cluster_detection":1}
+{"url":"","collection":"silbloomlm","source":"BLOOM Library","original_code":"oki","text":"PŌŌGITĒK ĒN KAAPŌT MAANA Kiimēng'iisyēy Maana ak siigiikchiik kōpooto piigoop kainyuwaan ēn tōōtēēnyuwaan. Kōyuu wēēriik alak tōgōl, kō kiichāmēy :Maana kōsorogoniy ak chōrōōnōōkchiik. Kiichāmēy kōōtēpoot ēn iyētoop maat ak piigoop kainyuwaan ēn lang'at.\nKwamba Maana kō kii kirwogiindēt. Kiigoonyitiy inee :ng'ēētootik ēn tōōtēēt. Kiitēp kōpwoonēy piik si kōtilji icheek ng'aleek is kōōtuuyo piik chē kochuunjuun.\nPaanda age  kō kiiryēchēy kaaput Maana rootiik chē wo kō āldooy ēn indōōnyō. Kiit agial kōmyēēy rootiichaan, kōsiichēy ropiisyek che chaang'. Ryēchēy  tyēpōōsōōk alak ak icheek  rootiik si kopa ko alda ēn pēsyēētoop indōōnyō. Kiigōēk kilapu kooriigoop tyēpōōsōōchu ēn pēsyōōsyēgoop indōōnyō. Maan kōsichēy ropiisyek kiit maay alda rootiik tōgōl che kariech icheek.\nKiichāmēy kwaamba Maana koye rootiik iskō kiitēp kōsuwēy :Maana kwaanda kōpōōgitoot. Kiisogorak kwaanda is kōwookchiin chiito agetōgōl nē kānyōōr.\nKiindisyaanak Maana kiin kōkwēr kameet :kwaanda kōpōōgiti. Kiin koyayak ki-oon, komang'da Maana ēn koo is kōwo kouny keey. Kiin kopiit Maana, konaam kopwaat agōpo otēpēētoop kwaanda, nēpo yēēysēēt. Kiiyēgēēychi kōlē may kōmiāniy kwaanda agōpo yēēysēēt, iskō kiitestaay kōyēēyso kōpārēy si kotar mianda.  Kopwaat :Maana kōlē, tōōn kopagaach kwaanda yēēysēēt. Pēēgō omu kiiyēēy rootiik :piik alak che chaang', koopwaat kōlē mā totuun kōpāgoochēy. Maay suwa :maana kiit nē imuuchēy kowal inee.\nKiipagaach suguul :Maana. Ēn  pēsyēēt ageenge kō kiipiirēy impireet  ak chōrōōnōōkchiik alak kiin kogapwa en suguul. Koteepey :choorweenyiin nē kiichāmēy ēn tōgōl kōlēēnji omu nee si koondisyaanak inee.  Kōmwoochi :Maana choorweenyiin kōlēēnji \"Ipārē kii kō oti :rootiik Paapa komian. Āndisyoonāksē-ii omu putēy kainyaan :yēēysēēnyiin.\nKomwa choorweetaap Maana kōlē, \"Kiirēriiwēēch koonēētiindēnyoon kiit nē yāyāksēy ēn pōōrwēkchook kiit agiyee rootiik. Iyā-iitēy  mētinyoon, nē otiin kōyāyiis kēpēēpērwēēk alak  chēpo pōōrwēkchook. Kiit ka igeey ki-oon kō mēēy kōmwoochin :mētit pōōrto kiit nē maktaat koyay omu chiito nē pōōgiti kō mā ng'āloonēy kōsiing'ooy.\nKōmwoochi kōgēny Maana :konēētiindēnyuwaan kōlēēnji, kōtēēn kōyēēy chiito rootiik, kōtēsēy taay kōōyā-iitēy mētit ak kēpēēpērwēēk alak  chēpo pōōrto. kiimwa kōlē, \"En iman, ōtkō ma pagaach chiito rootiik, kō itēy pēsyēēt nē pārēy inee!\"\nKiinaam kōōsipto kiirwoogiindēt nē ōw nēpo tōōtēēt ng'aleegaap piikchiik. Kiiyēēgēēychi kōlē mēēy kōyuu kiit nē kiiyuu ēn kēny, ng'ēētootiik ak tiēpōōsōōk. Kiit nē kiimāchēy koyay icheek kō koye rootiik kityō.\nKiisuwa kōlē mēēy kōōndēē ng'eregeet kooriigoop piik chē yēēysēy. Mēēy kōōpuunjin kooriikchuwaak āmiitwoogiik ak kānyooysēēt.  Kiingēn kiirwoogiindēt orēērēt nē kiindēē kooriik che teerteer chēpo icheek chē kiiyēēysēy. Kiisuwa kōlē kii kōgōlkōliitu iskō mēēy kōtiin rarwa ng'ēētootiik, omu  kiipirēy loogōōk ak tyēpōōsōōkchuwaak. Kiimaan kōōngēn kiirwoogiindēt kiit nē kiimaktaat koyay.\nEn pēsyēēt ageenge, kōnyō kooryaam kiirwoogiindēt :ingugēēnyiin. Kōmwoochii :inee kiirwoogiindēt tuguuk chē kiinēētēy keey ēn suguul. Kiiyep iit kōsiing'ōōy kiirwoogiindēt kiin kōmwoochi :ingugēēnyiin tuguuk che kiineet keey ēn suguul agōpo yēēysēēt.\nKiin kōrook, kōwo suguul kiirwoogiindēt is koteepey koonēētiindēt kōrēriichi  kiit nē yāyāksēy ēn piik chē indēē tōōtēēnyiin chē yēēysēy. Kong'alaan ōtkō kiirwoogiindēt ak koonēētiindēt agōpo kiit nē kiigoita :rootiik tōōtēēt. Konay kiirwoogiindēt kōlē, kiit konoy piik kōyēēy rootiik kō meey kōpāgōōchēy. Konay kōgēny kōlē yee-oonaanyiin po rootiik kōnyō kōpārēy inee kiit maay pagaach. Maay mach inee kome.\nNee ne maktaat koyay? Nee nē itooy  ingōpāgoochēy otēpooni po yēēysēēt? Kiin ko-eech kōgos kirwoogiindēt is kōōninoot keey. Kiin kōwēēndiy kōsoo-ēy Yāyiindētoop tuguuk tōgōl kōtēēpēēn inee kiit ne maktaat koyay inee. Koopwaat kōlē kuurēy tuuyēēt nēpo chōōrōōnōōk chē nēēgitēēn ēn tōōtēēt si kō āmji icheek tuguuk chē kiigooneet keey inee agōpo otēpēētoop yēēysēētoop rootiik.\nKii kiguur kwamba Maana kōnyō kong'alaan ak kiirwoogiindēt  agōpo yēēysēētoop rootiik. Kiin kotar kōng'āloonēy ak kiirwoogiindēt konay kiit nē yāyāksēy ēn pōōrtonyiin, kō kōyuu  kiirwoogiindēt, kō maan kōmāchēy kome ēn otēpooni ya. Kotiil ng'ēētootichu tuwaay ak choorweenyuwaan age kōlē kopa kōtuuyo ēn pēsyēēt nē kata yēēysēy si kong'alaaney kiit nē itooy ingōpāgoochēy yēēysēētoop rootiik. Kii-āmji keey ngēētootichu sōmōgu agōpo kiit nē kiimēy kō mā mu-ēēn kiit nē ipwootēy piik. Kii-ēk icheek iyē yoopu uyuyindo ak chēērsēēt.\nKō kaipata tupo pēsyōōsyo, kōgēēr :Maana kōlē koogoonaam kowalak otēpēētoop kwaanda iskō mēēy kō miāni. Kiindēē kainyuwaan ng'eregeet ak myēēyndo kōsiir iyē kiiyuu ēn taay. Kiing'eregaat ōtkō kaameetaap Maana. kiitin ropiisyek chē yāmēy ko aley kēy  agetōgōl nē māchēy omu maan kota kōpētōōs ropiisyek ēn rootiik.\nKiitēpoot kipageenge siigiigoop Maana is kong'alaaney kiit nē itooy ingōsichēy ropiisyek che chaang' chē yāmēy tuguuk tōgōl chē māchēy ēn kainyuwaan. Kiiwaalak ōtkō kaa-aan po agōt Manaa ōt kōōyēgēēychi alak ēn tōtoonoon is komach kōyuu-iit icheek.\nKiing'erech Manaa ōtkō omu kiinyō ng'eregeet kainyuwaan kōgēny. Kiinay kōlē imuuchēy piik kopagaach otēpēēt ne ya nēpo yēēysēētoop rootiik.","num_words":714,"character_repetition_ratio":0.059,"word_repetition_ratio":0.0,"special_characters_ratio":0.169,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.936,"perplexity_score":500.0,"cluster_detection":1}
+{"url":"","collection":"silbloomlm","source":"BLOOM Library","original_code":"oki","text":"TYPŌYT Kiintē koymuutik chē yuu kiyoon tōtoonik alak, kōyookto :sirkaliit konēētiintētoop myēyntaap pōōrto. Kiineet Pwaari piik chē kiimochēy konay kēy ōpu miyoni, ak kēy kiyoyēy si komanam chiito.\nKooyan Pwaari kōnyō tōtēētoop akut Mōōsi.Kiin kokas Pwaari kēy kiimyontooy piik komwa kōlē, \"Iporē yuu taypōyt\".\nŌw typōyt ēēn kiyeet nē purkēy, is kōmuuchēy kotar piik. Ōpu kuutyet nē kikuurēēn \"Salmonella Typhi\".\nImuuchēy kotar araaweet onoon kōsiir si kōsop chiito, is kōmuuchēy kōyēēychi kiit maay riipkeey.\nKiiteep piikoop tōtonoon kōlē, \"Nee nē itooy inkōnomēy piik taypōyt?\".\nKōmwoochi Pwaari kōlēēnchi, \"Sichēy :piik kuutyani kiit kaye onoon kowam omtit nē kaynaamta kuutichaan chiito nē tin kōrōōwoon. Imuuchēy konaamtakeey piik ēēn koriik chē kiisēsēēnkeey chē murēēn, ak kiit maach iwuun ēwuunēk piik kōsing'ōōy kō kapa kooseeskeey.\nMaktaat kētēēkyi korchoon kiisēsēēnkeey iyē lōōw ēēn iyē kiromēēn pēēk. Iyoo pēēk chē kiyēēy ot kokuut.\" Kong'at kōlē, piik chē tin typōyt kō mamaktaat konam onoon kooyo omtit.\nŌpēy kalyang'ik simto ēēn kēyēkyuwaak. Kō maktaat aynyōōn iiker omtit komanam kalyaang'ik.Ker ng'wēnēēt ak kurkeet nēpo koon kiisēsēēnkeey, is ing'uuy saraktiit ēēn pēyuung'uung'.\n\nSing'ōōy iikan iyoo inkwēēk kōtōōmo iiyam.\n\nIwuunēēn ēwuunēk sopuniit ak pēēk chē tiliilēēn kōtōōmo iyoo omtit\n\"Nee nē yoyey chiito si kōmyēēyt ēēn typōyt?\"\n\nKōpoorchi :chichoon po myēyntoop pōōrto piikoop tōtonoon kēy kiinētēēn piik, koneet kōlēēnchi, \"Maktaat iyee pēēk che chaang' onoon kō lukumeekoop ng'onoyēēk.\" Kiit ko-iintēn sawumuusyek onoon kō sawumuusyek chē ng'ooti omtit kōyoychin pōōrto. Kō muchēlēēk ak ng'onoyēēk chē inkoop koruryo kō tin aasisiikyet ēēn pōōrto kōkēny.Saayit ake kō toorēti kērichēēk pōōrto kōyēētunēy myonwookik.\n\nYa kōmyēēy inkonam lokōōk chē sērpēnēēn taypōyt. Kiit kaynay iilē tin laakwa kuutikaap typōyt, immuti takitaari onoon kō chiitoop myēyntoop pōōrto.\nYEETITAAYETAAP TYPŌYT\n1. Inkeechaanchanin iyoon imochē iiwē kōrēēt nē intēē typōyt.\n2. Iyoo pēēk chē iyēē.\n3. Ma iyee tukuuk alaktōkōl che tin \"ice\", iiyo iyoon iinken iilē \"ice\" inaan kō sing'ōōy.\n4. Ma iyam omtit nē twoon, kan iyoo si iiyomē.\n5. Iwuun ēwuunēk saayit aketōkōl ēēn pēēk ak sopuniit.\n6. Iwuun ēwuunēk kōmyēēy iyoon ko-iyoopu koon kiisēsēēnkeey.\n7. Mo i-oti kolool kalyaang'ik onoon kō tyong'iik alak omtit:\n      inaakisteen omtit,\n      ker ng'wēnonoon po koon kiisēsēēnkeey,\n             ng'uuy saraktiit ēēn pēyuut.","num_words":342,"character_repetition_ratio":0.053,"word_repetition_ratio":0.0,"special_characters_ratio":0.198,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.971,"perplexity_score":500.0,"cluster_detection":1}

oki_Latn/mala_000001_remove.jsonl

@@ -0,0 +1,2 @@
+{"url":"","collection":"silbloomlm","source":"BLOOM Library","original_code":"oki","text":"Agōpo kuutigoop Koroona KōōtēētSēruunēēkKoonyeek,Kiit kochut Chiito nē \n  pēērēy keeyChiito ne miāniKinoomndooy keey kuutichu ēn pēēk chē soitooy chēpo\nInaaktaa-e, iyē tēēn Mita-iitsyek o-ēēny si kōmoipiisiin  pēēychoon isooytooy chiichoon po o-ēēny1Mita-iisyek o-ēēnyAtisyōō!Ko aynyōōn kiit ka isuwe  chiito nē loolēy, nē iryoonēy nē mi-āni kō maktaat:\nIgoochin kiit nē tuchēēn sēruunēēk ak kōōtēēt.  Kō paanan kōmuuchēy kōloolchi onoon kōryoonchi  si kōmainaamda piik chē nēēgitēēno-ēēnyKiit nē kituchēēn sēruunēk iyoon\nkiiryoonēyONOON\nImuuchēy kōmo miāni, kōēk kityō  riipēy keey.Piik chē kiigonaamda kōmuuchēy kōmotook kōlē tinyēy, iskō ais inoomdooy piik.Iskō kōmyēēy  kōmoinēēgitē  iyē chaang' piik, ingaap moingēēn ilē ainōōn ēn piichoon nē  miāni.\nSiipitik chē kigutēēn keeleekChiito nē pēērēy keeyKiit nē kināmēy ēn kariitaap maatKi-oon kichiilēy ēn liftKartasiit ne tanguskigomba-iikKōmpuuta ak siimoitAgōt karaastaap kiyoon kiituchēēn  kōōtēēt ak sēruunēkTuguchoon kināmootēy ingēloonyēy patay koKiit nē kichiilēēn kōmpuutakilaamitChapii inaan kigērēēn kurgeetĒ-iinēkyuwaakIs kōmuuchēy ais  kōsoychiin  ng’uleegaap chiito nē mi-āni tuuguugoop chiit age…\nKō  omuuchē omi-āsē tōgōlOnoon kō togoitaap tilyonuutiguukItinytiny konyeeguukKō ōt inam tuguuchu komaay inay, is inam togoita,\nKō kiit nē kiitooy kityō komanamin kō kee-uun e-iinek ēn sopuniit, onoon kō tuguuk che kiigitesta rootiikImuuchēy kōsopcho kuutichaan ēn patay tuguuk ēn tuchuupo saa-isyasopuniit\nRiipēētoop keeyNoon omunee si kōmaktaat kēēsip ng'aleechu\nI-uunēēn  sopuniit oōt iitis iyusopuniitTutunytoop ē-uutMe inam  togoitang’uung’. (Onoon kō togoitaap chii agetōgōl.) Kiit kaimach inam, igan i-uun ē-iinēguuk kōsiing'ōōy ēn sopuniit.\nSaa-it nē yāmēy iguurtoo-ē tyēni porēy  “Happy Birthday” kip o-ēēny Oriitoop siiloliksegoontiisyek  20Tooytoop moriikI-uun rēpēito ak patay ē-iinēguukKōsiing'ōōy kō nee?\nŌt inam, kō moimwēy. I-uun ē-iinēguuk ēn sopuniit.Kōgēny kēēr ilē maay inam oriit ēn  maskinaanPēēk chē soitooyPiitunēēn oriitoop masking'uung'  kuutik chē kēēguurēēn \"bacteria\" kiita kailaach pēsyōōsyēk  che chaang'.Mētēēn maskit  iyoon kay komuny. Me ilaach ōt isiiris  pēsyēēt  ageenge!\nPchē-ēēn  segeetyet nē ōwLaakweetPaapaĒyōō,Ōngōtinyēy chiitōgōl  toulōinyiinMoam omdit ēn saniit ageenge, onoon o-āmisiē kurpeet ageenge onoon ōsuchēgēēy toulōit ageenge.\nMoimuugoksēy itwaa-e togoitang'uung' tutuunytoop ē-uut agōt inda iyōōtē.Yaateen kurgeet tutunytoop ē-uut onion kō tigikyoot nē kata iyootēēnē ē-uut, ōt kōmuugoksēy.\nKaawAk iyoon kay imang'de ēn iyē indēē piik.Kōtōōmo iāmiisyēI-uunēēn sopuniit ē-iinēguuk kōtēēn kay…Nēpo lēt,\nSopuniitRiip keey chiitōgōl\nRiip keey chiitōgōlSopuniit\nSooman siruutik  siinay che chaang’!1.     “This animation shows how far your sneeze can actually travel” by Chia Yi Hou and Andrea Schmitz, in Business Insider (Jan 21, 2020)\n1.     “The Wuhan Virus: How to stay safe”, by Laurie Garrett, in Foreign policy, Report.  (Jan 25, 2020)\n1.     “How to avoid the coronavirus? Wash your hands”. By Elizabeth Rosenthal, in the New York Times, opinion.  (Jan 28,2020)\nIyē kinyōōrchin ng'aleegaap konyoo-isēēt:\nSiruutik alak: Waakta nēyuu ni nē kimwooyto-ēēn agōpo tiliilindoop pōōrto kō siingōōy agōt ēn mwaaytaa-etaap miānweek alakchē yuu ting'ōōwēk, iskō maktaat kēēsip ēn pēsyōōsyēk tōgōl agōt iyoon moindēē miāndo nē yuu ni.\nIyē kinyōōrchin ng'aleek: Ng'aleechu kōyoopu koguuyēētoop COVID19 ot koit 28\/2\/2020 is kēēnyōōrchin iyu: https:\/\/www.nytimes.com\/2020\/01\/28\/opinion\/coronavirus-prevention-tips.htmlhttps:\/\/foreignpolicy.com\/2020\/01\/25\/wuhan-coronavirus-safety-china\/  https:\/\/www.businessinsider.com\/how-far-sneeze-cough-germs-can-travel-2018-10\nNg'aleek alak: Imuuchē inyēmu siruutik alak chē indēē ēn PDF kō maay kiyaachin ēn iyu: https:\/\/gumroad.com\/weimankowart\niyētoop yayiisyēēt.\nIyoon igoito-ii ipwaat Ng'aleechu sōmōk: 1) Mogiiyānjin chiito agetōgōl kowal ng'aleek chē indēē puguuni. 2) Mogiyāyēēn biashara puguuni. 3) Ōt kō indēē internet imwaay chiito nē kiiyāyu Ng'aleechu ilē @weimankowart onion kō @weimankow\nŌt imāche inay kiit nē kiitooy puguuni, isoom ēn [email protected]","num_words":495,"character_repetition_ratio":0.037,"word_repetition_ratio":0.0,"special_characters_ratio":0.195,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.848,"perplexity_score":500.0,"cluster_detection":-1}
+{"url":"","collection":"silbloomlm","source":"BLOOM Library","original_code":"oki","text":"KIIPAR CHŌŌSĒP  SIKIIKTA Kiitēp kōwēēntin Chōōsēp tawōōn iyē intēē tipiik ak kipleelach koonyen is k��ruuyo tōkōl.\nPēēkō kii myanaat paanaan is kō maan kōtakōmuuchēy kōwo iyoon po tawōōn. Maan kōōntēē chiito nē inkēn kōlē nee nē omēy.\nKosuwa chorweenyiin :Chonees, kōlē nyaraat chiito.\nKiin kōlē kōkin :chiitoop myēēyntoop pōōrto, komay nay kōlē ankōrōōt ne tinyēy omu kiikay koonyanya pōōrto.\n\nKiinam Choosēp :ng'ulyēēlookaap kaatit ak iyoon po nē rēktoot ēēn mo-ēēt, is koloolēy komyēēy. Kii lolēēn maat kwēmooy is kolipchoni komyēēy.\nKii pē-ēēn is kōtiloksēy mo-ēēt ēēn pēsyōōsyēk che chaang', koyaam is kotilaatilak makateenyiin. Kiisiruunēy tuchupo miruutik chē nyinkiyoot, kotēēn kotēsoksēy is kō-ēēchēkiitu, pēēkō kiimay nay chiitoop myēēyintoop pōōrto kōlē kii myanta aynōōn noon. Kii solōyto chepyoseet is kō maan kōsing'ōōy akinee pōōrto. Kii kay koonaam kochoot kōyuu Chōōsēp.\nKiinyō pēsyēēt ake takitaari tōtēēnyuwaan kōnyō kochaanchan piik.\nKōōmuti takitaari :Chonees chorweenyin Chōōsēp.\nKiin kōkēēr :takitaari Chōōsēp ak kayta, kō-orookēn kōmyēēy omu kii kay kōkēēr ēēn taay piik chē kiitinyēy myani is kōōnkēn kōlē ya  myani kōmyēēy. Kotil takitaari kōlē maktaat keepa kēēkin Chōōsēp ak kaytanyiin kōmyēēy ēēn tawōōn.\nKiin koyt tawōōn Chōōsēp ak chepyoseenyiin, kiinyēm korotiik is kēēkin ēēn sipitaali. Kiin ko kay kōkin takitaari korotiikyuwaak, omu kiinay kōlē tin tuwaay SIKIIKTA, konay kōlē mo-intēē kērichēēk chē isoopēy, kowaley kōkoochi kērichēēk chē rikisi is kō-oti kopa kōōtēpi kiipokēy. Akut kōyuu noon kōpēku Chōōsēp ak chepyosenyiin kōmo lōōw.\nKomwa takitaari kōlē, imuuchēy kō kiisich :Chōōsēp kōrōwoon kōkowo kōruuyo ak kipleelach koonyen onoon kō chēpyōsōōk chē kiikōruuyo ak ng'ētootik alak chē kiitinyēy myanaan. Kōnyō konaamta :Chōōsēp kayta. Kō omu solōyto, kōmuuchēy konaamta akinee lakweet nē tinyēy ēēn mo-ēēt, si kome kōmo lōōw akinee kōkēny.\nKiikoochi icheek :takitaari kiitapuut nē sērpēn. Ēēn kitapuunaan kō kiikisir kēēlē, intēē wookwēk alak chē imuuchēy konamey chiito :SIKIIKTA, kōyuu, akut kiit koruuyo ng'ētootik tuwaay.\nKimuuchēy kiinaamtakeey SIKIIKTA iyoon okikēti is kēēkēti kēēkinēy piik kiyoon kiinyēmuunēēn korotiik onoon kō kiit kokirutēy piik kateet nē kokirutēy chiito nē tinyēy kōrō-oon. Kinoomtokeey kiit okitēsi chiito korotiikaap chiito nē tinyēy kōrō-oon chē maay kikin.\nKō aynyoon maktaat kōriipkeey chiitoop mēēyntoop pōōrto nē intēē tōtēētoop akut Chōōsēp, kōmo rutēykeey katanaan korutēēn Chōōsēp ak kayta koma inaamta SIKIIKTA korotichaan intēē kataanan. Kōkēny, kiit maay iwuun is koyoo kataanan kōmaay rutiisyēy kōkēny, kōmuuchēy konaamta chiito ake SIKIIKTA kiit korutēy katanaan.\nImuuchēy akut konaamta :soorēēmik chē tiin Chōōsēp takitaariinaan SIKIIKTA kiit kowosēēchi korotiichaan soorēēmyēt nē intēē pōōrtonyiin. Noon omunee si komaktaat kiisuchēy sopuniit korotiik onoon kō pēēkoop pōōrto chē kowosēēchi kēy kiinyooysēēn kōtōōmo kiinyaa-ey chiito ake. Tukuuk chē akiinyaa-ey chiito nē miyoni ēēn kilinikiisyēēk ak sipitaliisyek komaktaat kiiwunēy sopuniit nē yuu JIK kōtēēn kō akinyaa-ey chiito. Kii nē otiin komakiinaamtakeey SIKIIKTA.\nMaktaat akinee chiito nē tōru keleek kōriipkeey kōmyēēy, omu imuuchēy konaamta SIKIIKTA :korotiik onoon kō sorēēmik ēēn kōtēētoop Chōōsēp. Pēēkoop pōōrto chē kong'ēt ēēn tukuuchoon yoyiisyēēn kōmuuchēy konaamta myaanta chiito ake. Kō aynyōōn maktaat kōwuun is koyoo kēy kotōruunēēn chiito aketōkōl kelteet si koma-inaamtaat piik.\nOmu kiikay konyar pōōrtoop Chōōsēp kō kiyoon nē kii oti inee konaamta T.B wēriituupcho nē kiinyō kooryaam icheek. Kiinyaa-ey takitaari kērichēēk muut chēpo olyēēt nē ōw sikopar kuutichaan po T.B si kōmanam piik alak . Kiitar āroowēk kiinyoo-ēy, pēēkō kiin kō meekoya kōmyēēy kēē-oti kooyeey kaaw is komwa kōlē, isiipi konyooysēt kochurta.\nkiin kooyeey Chōōsēp tōtēēnyuwaan, kōmuwēy :piik omu kii kay konyar ēēn myaanta is kō kiimaan kōmochēy konaamta icheek myaanta. Kiiman kōmochēy kopa kaynyiin. Kii kay kō charchariit is kōsyēn Chōōsēp ak kayta. Kii maan kōōntēē chiito nē toorēti icheek kōtōkōl. Kii myooni lakweenyuwaan akinee. Ēēn lēt kōpēk tōkōl ak lakweeknyuwaan.\nKiin koyt tōtonoon :chiitoop myēēyntoop pōōrto, kōkēēr kōlē kiimwēy piik omu akut maan kēnēēkitin Chōōsēp ak chepyoseenyiin kiin kōtōōmo kōpēk, koma-inaamta piik myanaan. Kōyuum piik ēēn iyēt akeenke is kooneet kōlēēnchi, “Mamaaktaat ōōmuwē piik chē kii konam SIKIIKTA.”\n“Monomēēch SIKIIKTA kiit akinooykeey onoon kēēmēng'siini-ē tōkōl onoon iyoon akipe kiiryaam piik chē tinyēy SIKIIKTA. Kiimuuchēy kēē-oti kōmyoso kōmyēēy kiit may kiikaykay icheek iyoon akipa kiiryaam.”\n“Kiit okiipir pēēk ak chiito nē tinyēy SIKIIKTA kō mōōs nameech kōrōōy.\"\n“Mōōs nameech SIKIIKTA iyoon akinam tukuuk yaach, sēpēruuk, ng'uleek, lipchaanik, lōōkik, sōkōsēēk onoon kang'ung'tayek iyoo inkōōntēē korotik chē kayng'oleykeey . Ōt kiinkēn chiito nē kiikonam SIKIIKTA kō maktaat kēētoorēt is keecham kōyuu chōrōnōkyook. Opwaat ōōlē momaktaat kēruuyēn tōkōl onoon ketway korotiikchuwaak.”\nKomwa chiitoop myēēyintoop pōōrto kōlē,\"Piik chē yuu kipleelach koonyen chēp chēpyōsōōk ak ng'ētootik kōmuuchēy konaam SIKIIKTA onoon kō chiito aketōkōl nē koruyo ak piik che chaang'.”\n“Kōkēny intēē kērichēēk chē ng'woonēēn chē olēy is kōrutiitoykeey siko miyakiitu. Kērichēēchu kō mo-iyonoti ēēn ng'otuutik is kiimuuchēy kenaamin keepa keekerteen ēēn Cheela. Alak chē kikurēēn Narcotics kō otuun ipōōkit kipokēy is kō-otuun iimyaan. Mosiing'ōōy iirutikeey Narcotics omu iimuuchē inaamtekeey SIKIIKTA iyoon korutēykeey kateet nē motiilil  piik alak, is iirutēkeey kōkēny okinyēē.”\n“Imuuchēy konaamtakeey piik SIKIIKTA kōtōōmo konay kōlē myantōōs. Kō aynyōōn mamaktaat ōruuyē ak chiito ake iyoon inkēn iilē itiinyē SIKIIKTA, kōmōōru ak chiito kōlēēn komaach ilaach impiireet omu imuuchēy kō-otwook komonaamtekeey SIKIIKTA. Iskō impiiranaan kōmo imuuchēy kō otuun kōmanamin SIKIIKTA.”\n“Kiit koywē sipitali onoon kō kilinik, imwoochi ilēēchi kōrutēēn onoon kōōnyēmuunēēn korotiik kateet nē tiliil is koma-iiyan kēētēsuun korotiik kō-ēk kityo iyoon kimochēy iisop. Kikan kēēkinēy korotiik inkō tin kuutikaap SIKIIKTA kōtōōmo kēētēsun. Pēēko ēēn iyēt ake kōmo kiyoon nē yuu. Kō kiit ka-imach kēētēsuun korotiik is kōmaay kikiin kōkakay ikuur chōrōnōōk onoon kō tilyoonuutik chē iinkēn iilē motin myaanta kōōnyēmuun korotiik .”\n“Kiit kokiriipkeey is kēēriip tiliilinto, iyoon kokinēēkiti sorēēmik onoon kō korotiik kōyēētēy komakiinaamta piik alak SIKIIKTA. Komwa piikoop myēēytoop pōōrto kōlē, \"Maktaat koolaach impirōōk ēēn ēynēk piikoop myēēyintoop pōōrto iyoon ituumisi solōyto, onoon kō kiit kanam korotiik, ak iyoon kinyoo-ēy sorēēmik si ko teekteen komanamin SIKIIKTA.”\nKii-ēk orookēnēēt nē ōw kiiin kopar Chōōsēp ak kayta ak lakweenyuwaan kōrōōy kikuureen SIKIIKTA. Sorchin kōyēstooy ēēn ngwony kōtēēn kiyoon is kō-akut paani kōōntēē lukwēk tōkōl ēēn kiyay nyoon.\nKiit okiriipkeey kō okiisip kēy mwoo-ēy kitapuuni, kō mōōs nameech SIKIIKTA. Nay iilē mosing'ōōy ōruuyē ak kipleelach koonyen, onoon kō chiito nē moylēēn pootēng'uung' onoon kō chepyoseeng'uung' nē iiyonii. Omu kooyēsta kōrōōy ēēn ng'wony kōtēēn kiyoon kō kiit maach iriipkeey kōmuuchēy konamin SIKIIKTA, is iiwē imeey.\nMō-intēē kērichēk chē inyooy-ēy SIKIIKTA. Intēē kērichēēk chē irikiisēy miyonwookik chē iyoopu SIKIIKTA. Chiito aketōkōl nē kay konam SIKIIKTA kōmēēy, pēēkō imuuchēy kotaar chiito kēnyiisyēk che chaang' kōmaaysip kome. Kōtōōmo kome kōmuuchēy konaamta piik alak. Kō aynyoon ōnkēēriipkeey is kēēriip tilyonuutikchook komanam SIKIIKTA. Kiit okiriipkeey is kiisip kēy mwoo-ēy kitapuuni, kō mōōs nameech SIKIIKTA.\nINTĒĒ SIKIIKTA ŌLTO TŌKŌL!","num_words":1056,"character_repetition_ratio":0.063,"word_repetition_ratio":0.0,"special_characters_ratio":0.168,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.9,"perplexity_score":500.0,"cluster_detection":-1}

oki_Latn/mala_000001_stas.jsonl

@@ -0,0 +1,115 @@
+[
+    {
+        "avg": {
+            "num_words": 559.8333333333334,
+            "character_repetition_ratio": 0.05499999999999999,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.18316666666666667,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.8560000000000002,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "std": {
+            "num_words": 254.74000907243098,
+            "character_repetition_ratio": 0.00886942313043338,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.012508885730640528,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.13927550634144778,
+            "perplexity_score": 0.0
+        }
+    },
+    {
+        "median": {
+            "num_words": 440.0,
+            "character_repetition_ratio": 0.056999999999999995,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.1845,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.9125000000000001,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "max": {
+            "num_words": 1056.0,
+            "character_repetition_ratio": 0.063,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.198,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.971,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "min": {
+            "num_words": 342.0,
+            "character_repetition_ratio": 0.037,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.168,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.556,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "90%": {
+            "num_words": 885.0,
+            "character_repetition_ratio": 0.063,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.1965,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.9535,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "75%": {
+            "num_words": 659.25,
+            "character_repetition_ratio": 0.062,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.1945,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.93325,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "50%": {
+            "num_words": 440.0,
+            "character_repetition_ratio": 0.056999999999999995,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.1845,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.9125000000000001,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "25%": {
+            "num_words": 371.5,
+            "character_repetition_ratio": 0.0535,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.17075,
+            "stopwords_ratio": 0.0,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.861,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "total size": "6",
+        "keep size": "4",
+        "remove size": "2"
+    }
+]

vie_Latn/fineweb-2_000001_remove.jsonl

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:9cb1f4d036983645ff6669e29a770fbc0c76b96eb921f28a084baf430e3e9264
+size 1974562255

vie_Latn/fineweb-2_000011_remove.jsonl

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:f9f8103ba4a6168a5b927a75dd08d629be6070ebbd62354dbee28b74fbfaf1bf
+size 1741074673

vie_Latn/fineweb-2_000016_remove.jsonl

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:f605af633a796e9cf620529cbefbd6c922bec39186d449dd09208172117a1309
+size 1885967007

vie_Latn/new_cc_000025_remove.jsonl

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:06c2d60991206d194bf8f9ed69045a6455a28e7225dbb72b00e7441ed445cbfd
+size 683743810

vie_Latn/new_cc_000029_keep.jsonl

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:d7c71d59b8358d76327fbd5028f38382e66faab2c61db11837e23ef574f0f50b
+size 3248296537

vie_Latn/new_cc_000047_remove.jsonl

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:6b9fb07854655fcc20382a4894786c715f39df57d5854a395aa4bfe8cb49fd3d
+size 782871677

vie_Latn/new_cc_000048_remove.jsonl

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:ac2a34bc14c51b3b69d66946ec6644f4dd5aeffec74aaa50402abd9128b0d1e4
+size 672277602

vie_Latn/new_cc_000068_keep.jsonl

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:70f60ad38ee91f58c03c57c07fa581425079d9fa6329fcb3ef1db2904724ae2e
+size 3224582256

vie_Latn/new_cc_000089_remove.jsonl

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:6d80bb8b01e60f6c92dc28f1e445bd5ece8d95b4870ecb459f06795d7fc67dda
+size 773157337

vie_Latn/new_cc_000095_keep.jsonl

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:b5455860f65717e91910abbd3258b0ffbe304f35a7c3bece57e4de13b66dcb54
+size 3148049522

vie_Latn/new_cc_000104_remove.jsonl

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:9eacee55c8994263d2912c6d6bce132d564c733a8cea0cb5485ffab8248c309e
+size 771707280

zsm_Arab/fineweb-2_000001_keep.jsonl

@@ -0,0 +1,24 @@
+{"text":"چاريله كبنرن دڠن جالن برفيكير،جاڠنله اندا سڤرتي اورڠ بوتا يڠ مڠيكوت تونتونن اورڠ. كراڬوان ايتله يڠ داڤت مڽمڤأيكن كڤد كبنرن، سسياڤا يڠ تيدق راڬو،مك دي تيدق برفيكير، سسياڤا يڠ تيدق برفيكير مك دي تيدق وسڤادا. بارڠ سياڤا يڠ تيدق وسڤادا مك دي تتڤ بوتا دان ترسست. رينوڠيله واهاي انسان\nإِنِّي أَعِظُكَ أَن تَكُونَ مِنَ الْجَاهِلِينَSesungguhnaya Aku memperingatkan kepadamu supaya kamu jangan termasuk orang-orang yang bodoh. (QS Hud : 46).\nNote: Only a member of this blog may post a comment.","id":"<urn:uuid:80af34c4-e647-4434-be1a-6d1e04e8538b>","dump":"CC-MAIN-2017-09","url":"http:\/\/pas123.blogspot.com\/2015\/06\/pas-prdan-dap-2015.html","date":"2017-02-23T20:50:45Z","file_path":"s3:\/\/commoncrawl\/crawl-data\/CC-MAIN-2017-09\/segments\/1487501171232.43\/warc\/CC-MAIN-20170219104611-00161-ip-10-171-10-108.ec2.internal.warc.gz","language":"zsm","language_score":0.3978917003,"language_script":"Arab","minhash_cluster_size":16,"top_langs":"{\"zsm_Arab_score\": 0.39789170026779175, \"ace_Arab_score\": 0.32545965909957886, \"bjn_Arab_score\": 0.15213291347026825, \"min_Arab_score\": 0.0780729427933693}","num_words":78,"character_repetition_ratio":0.082,"word_repetition_ratio":0.0,"special_characters_ratio":0.21,"stopwords_ratio":0.218,"flagged_words_ratio":0.0,"lang_id_score":0.428,"perplexity_score":500.0,"cluster_detection":1}
+{"text":"السلام عليکم.\nبريکوت مروڤاکن سناراي نام٢ font ستاندارد يڠ بوليه دݢونا اونتوق منوليس توليسن جاوي.\n1. Times New Roman\n2. Sakkal Majalla\n3. Arial\n4. Courier New\n5. Arabic Typesetting\n6. Microsoft Sans Serif\n7. Scheherazade\nاوليه کران font بريکوت اداله حق چيڤتا ترڤليهارا، امت سوکر باݢي ساي جيک ساي سرتاکن فاٴيل font ترسبوت دبلوݢ ساي.\nاوليه ايت، دهارڤکن اݢر اندا داڤتله اونتوق منچاري font ترسبوت دڠن مڠݢوناکن search engine يڠ اندا ݢماري.\nلينک بريکوت اداله ساله ساتو دريڤد لينک يڠ داڤت مموڠکينکن اندا اونتوق مموات تورون ببراڤ درڤد font داتس.\nساي مڠهارڤکن معلوم بالس دري اندا سموا.","id":"<urn:uuid:fdef042d-c2a2-40cd-8531-0959f5ae9fc4>","dump":"CC-MAIN-2017-13","url":"http:\/\/faithiswithinme.blogspot.com\/2010\/02\/font-jawi.html","date":"2017-03-23T23:52:57Z","file_path":"s3:\/\/commoncrawl\/crawl-data\/CC-MAIN-2017-13\/segments\/1490218187227.84\/warc\/CC-MAIN-20170322212947-00105-ip-10-233-31-227.ec2.internal.warc.gz","language":"zsm","language_score":0.442602843,"language_script":"Arab","minhash_cluster_size":11,"top_langs":"{\"zsm_Arab_score\": 0.44260284304618835, \"bjn_Arab_score\": 0.23734547197818756, \"min_Arab_score\": 0.1703575998544693, \"ace_Arab_score\": 0.11368990689516068}","num_words":91,"character_repetition_ratio":0.042,"word_repetition_ratio":0.0,"special_characters_ratio":0.224,"stopwords_ratio":0.099,"flagged_words_ratio":0.0,"lang_id_score":0.526,"perplexity_score":500.0,"cluster_detection":1}
+{"text":"توݢسن يڠ کلاڤن اين مروڤاکن توݢسن مڠلوارکن ڤرکاتاءن يڠ تله دتوليس دالم توليسن خط ايت. ڤلاجر بوليه مڠݢوناکن اڤ٢ اڤليکاسي يڠ ترداڤت د دالم کومڤيوتر سڤرتي موۏي ميکر, ڤاور ڤوينت دان لاءين٢ لاݢي.\nنساء بنانا :\nتوݢسن کلاڤن اين اياله توݢسن يڠ ڤاليڠ منچابر.ساي ميمڠ تياد اساس دالم بهاس عرب اڤاته لاݢي اونتوق ممباچڤد مولاڽ ساي مڽياڤکن دهولو سلاءيد اونتوق ݢمبر دان منيڠݢلکن رواڠ اونتوق ڤرکاتاءن يڠ ترداڤت د دالم توليسن خط ايت.اڤاله ڬوناڽ کاون-کانکن؟؟جادي, مريکله تمڤت ساي برتاڽ دان منداڤتکن جواڤن اونتوق توݢسن خط اين.ملالوءي توݢسن اين, سربا سديکيت علمو مڠناءي ڤنوليسن خط اين دڤروليهي سڤرتي کالاو اد تيتيق تو, تيتيق تو ميمڠ اد فوڠسيڽ بوکن اونتوق هياسن سمات-مات.والاوڤون هاڽ مڠتاهوءي سديکيت علمو مڠناءي ڤنوليسن خط, اياڽ ممڤو ممبواتکن ساي تراوجا دان ݢمبيرا.\nڤيرري ڤلاتيڤوس\nتوݢسن کالي اين امت روميت !ساي تيدق تاهو بهاس عرب اڤاته لاݢي هندق ممباچ توليسن يڠ برسيمڤول سبݢيتو. ميمڠ ! تاڤي ساي تيدق فهم. ها: سستڠه ڤرکاتاءن يڠ موده سهاج بوليه ساي تافسيرکن. يڠ لاءين کاون-کاون يڠ باڽق ممبنتو. ڤرتولوڠن ڤروف بوخاري امت بربالوي. کامي داڤت مڽياڤکن توݢسن دڠن جياڽ. نامون اڤ يڠ ساي ترکيلن اياله, اين کالي ڤرتام ساي هانتر ليوات توݢسن ساي ڤد دوکتور. لمبت 25 مينيت سبب اينترنيت رومه ساي يڠ ساڠت لمبڤ. ساي هارڤ دوکتور منريما هاصيل کرجا ساي.\nسيلاله تکن لين ک دباوه اين..","id":"<urn:uuid:61621d7a-b934-4f04-96e1-47c2f0aea07a>","dump":"CC-MAIN-2017-17","url":"http:\/\/thenisahbananawaperryplatypus.blogspot.com\/2013\/05\/8.html","date":"2017-04-30T22:32:12Z","file_path":"s3:\/\/commoncrawl\/crawl-data\/CC-MAIN-2017-17\/segments\/1492917125881.93\/warc\/CC-MAIN-20170423031205-00218-ip-10-145-167-34.ec2.internal.warc.gz","language":"zsm","language_score":0.5308970213,"language_script":"Arab","minhash_cluster_size":1,"top_langs":"{\"zsm_Arab_score\": 0.5308970212936401, \"bjn_Arab_score\": 0.3725552260875702, \"min_Arab_score\": 0.07607761770486832, \"ace_Arab_score\": 0.0202355794608593}","num_words":212,"character_repetition_ratio":0.06,"word_repetition_ratio":0.0,"special_characters_ratio":0.223,"stopwords_ratio":0.198,"flagged_words_ratio":0.0,"lang_id_score":0.531,"perplexity_score":500.0,"cluster_detection":1}
+{"text":"السلام عليكم\nسوده لاما راسڽ ساي تق اڤدات بلوڬ. ساڠت برساوڠ. ساي ترلالو سيبوق. باليق رومه ڤولا سنتياس مڠنتوق. هاري ميڠڬو ڤولا ساي اد حال لاين. سوده منجادي ڤرينسيڤ ساي سام سكالي تيدق بلوڬ سوقتو د ڤجابت.\nان شاء الله ساي اكن منجادي راجين اونتوق اڤدات بلوڬ سلڤس اين.\n*Tahniah kepada zariel kerana mendapat cahaya mata yang pertama.","id":"<urn:uuid:46814f69-9d85-4186-8e1f-1b27d87625c4>","dump":"CC-MAIN-2017-17","url":"http:\/\/enciksepul.blogspot.com\/2009\/02\/","date":"2017-04-25T22:15:44Z","file_path":"s3:\/\/commoncrawl\/crawl-data\/CC-MAIN-2017-17\/segments\/1492917120881.99\/warc\/CC-MAIN-20170423031200-00558-ip-10-145-167-34.ec2.internal.warc.gz","language":"zsm","language_score":0.4138219953,"language_script":"Arab","minhash_cluster_size":15,"top_langs":"{\"zsm_Arab_score\": 0.4138219952583313, \"min_Arab_score\": 0.2976074814796448, \"bjn_Arab_score\": 0.2730706036090851, \"ace_Arab_score\": 0.01022522896528244}","num_words":58,"character_repetition_ratio":0.019,"word_repetition_ratio":0.0,"special_characters_ratio":0.218,"stopwords_ratio":0.172,"flagged_words_ratio":0.0,"lang_id_score":0.419,"perplexity_score":500.0,"cluster_detection":1}
+{"text":"السلام عليکم..هاري اين راس بݢيتو تروجا سبب ڤرتام کالي کمسکيني بلوݢ ݢونا بهاس جاوي.مک هاروسله ساي منوليس دالم بهاس ملايو يڠ لڠکڤ..ننتي تيدق بوليه دترجمهکن ڤولا.تيبا-تيبا ساي راس سڠل ڤولا سبب سوده تيدق تاهو ماهو توليس اڤ...سلامت تيڠݢل..جومڤا لاݢي د هاري دان وقتو يڠ لاين.\nتتاڤي ساي راس ماچم نق سمبوڠ لاݢي کارڠن ساي اين.راس سرونوک ڤولا مناءيڤ ݢونا جاوي.دهولو کن ماس سکوله منڠه ساي سوک ساڠت منوليس جاوي بربنديڠ رومي مسکيڤون ماس سکوله مان اد توليس دالم جاوي.\nساي ساڠت سرونوک﴿موتيف تيدق داڤت دکنلڤستي","id":"<urn:uuid:6ed6eb66-abbb-47c1-97a0-be742007668f>","dump":"CC-MAIN-2017-17","url":"http:\/\/qasehadam.blogspot.com\/2011\/06\/blog-post.html","date":"2017-04-30T05:06:49Z","file_path":"s3:\/\/commoncrawl\/crawl-data\/CC-MAIN-2017-17\/segments\/1492917124299.47\/warc\/CC-MAIN-20170423031204-00459-ip-10-145-167-34.ec2.internal.warc.gz","language":"zsm","language_score":0.5309190154,"language_script":"Arab","minhash_cluster_size":7,"top_langs":"{\"zsm_Arab_score\": 0.5309190154075623, \"bjn_Arab_score\": 0.3730584383010864, \"min_Arab_score\": 0.0650821328163147, \"ace_Arab_score\": 0.029214145615696907}","num_words":85,"character_repetition_ratio":0.021,"word_repetition_ratio":0.0,"special_characters_ratio":0.235,"stopwords_ratio":0.224,"flagged_words_ratio":0.0,"lang_id_score":0.531,"perplexity_score":500.0,"cluster_detection":1}
+{"text":"\"بروسهاله دڠن احلاص تنڤا مميکيرکن بالسن سمات-مات، کران سماکين تيڠݢي کأخلاصن ددالم ديري، سماکين تيڠݢيله بالسن باٴيق يڠ اکن دڤراوليهي دالم کأداٴن سدر\nاتاو تيدق\"\n\"اورڠ يڠ ترلالو چڤت برڤوتوس اسا اداله اورڠ يڠ ڤوتوس هارڤن سأومڤاما دي تله مڽدياکن ديريڽ اونتوق ماتي سبلوم ماتي\"\n\"کسوسهن تيدق سمواڽ سيقساٴن دان يڠ ڤاليڠ ڤاه��ت ايت بوکن سمواڽ راچون. تتاڤي اداکالاڽ لبيه برݢونا درڤد کسنڠن يڠ تروس- منروس\"\n\"جاڠن ليهت اڤ يڠ تله کامو اوسهاکن، تتاڤي ليهتله اڤ يڠ بلوم کامو سلسايکن\"\n\"اورڠ يڠ سبنرڽ براني اياله مريک يڠ تق لکس ڤاته هاتي، تتاڤي برتاهن دڠن مڠهادڤي ستياڤ دوݢاٴن دان چابرن\"","id":"<urn:uuid:a2c99f3c-9e29-4315-a911-2e904f7a28a3>","dump":"CC-MAIN-2017-17","url":"http:\/\/friedzup.blogspot.com\/2013\/05\/blog-post_3594.html","date":"2017-04-26T00:04:31Z","file_path":"s3:\/\/commoncrawl\/crawl-data\/CC-MAIN-2017-17\/segments\/1492917121000.17\/warc\/CC-MAIN-20170423031201-00493-ip-10-145-167-34.ec2.internal.warc.gz","language":"zsm","language_score":0.4445460737,"language_script":"Arab","minhash_cluster_size":7,"top_langs":"{\"zsm_Arab_score\": 0.44454607367515564, \"bjn_Arab_score\": 0.2977421283721924, \"ace_Arab_score\": 0.15324482321739197, \"min_Arab_score\": 0.10387040674686432}","num_words":99,"character_repetition_ratio":0.022,"word_repetition_ratio":0.0,"special_characters_ratio":0.238,"stopwords_ratio":0.253,"flagged_words_ratio":0.0,"lang_id_score":0.445,"perplexity_score":500.0,"cluster_detection":1}
+{"text":"اونتوق توݢسن کتوجوه اين, دوکتور تله ممبريکن ستياڤ ڤلاجر تاجوق توݢسن يڠ بربيذا-بيذا.\nدوکتور ماهو کامي ممبوات ساتو ڤرانچڠن ڤڠاجرن دان دالم ماس يڠ سام اياڽ تيدق ترکوڠکوڠ دالم فورمت ايت سهاج,.کتاڽ ايکوت کرياتيۏيتي ماسيڠ٢.\nنساء بنانا :\nتاجوق: ڤڠاجرن اݢام إسلام دالم سکوله رندهاينيله تاجوق يڠ ساي داڤت اونتوق توݢسن کالي ک انم اين,.هيممم,.اڤ يڠ ڤرلو ساي لاکوکن ؟؟سوءالن يڠ ليݢت برماءين دالم اوتق ڤد وقتو ايت.دسببکن تالين اينترنيت لاجو, ساي ڤون منچاري باهن يڠ برسسواين دان اخيرڽ ترجومڤا دڠن ساتو بلوڬ يڠ منرڠکن رانچڠن ڤڠاجرن صلاة جمعة.مک, ساي ڤون بواتله مڠنأي صلاة جمعة.\nڤيرري ڤلاتيڤوس\nڤد کالي اين توݢسن کامي سڤرتي يڠ دهولو.چوما بزاڽ, کامي دبريکن تاجوق يڠ برلاءيساي تله دڤيڤيه اونتوق منداڤت ڤڠاجرن ج-قاف دسکوله رنده.باݢي ساي اي تيدق روميت کران دالم اينترنيت سوده اد باڽق معلومت.ساي هاڽ ڤرلو منترجمه سهاج\nسيلاله تکن لين ک دباوه اين..","id":"<urn:uuid:437ab333-f41a-4772-bc06-6ccbcc286d30>","dump":"CC-MAIN-2017-17","url":"http:\/\/thenisahbananawaperryplatypus.blogspot.com\/2013\/05\/6.html","date":"2017-04-30T22:33:16Z","file_path":"s3:\/\/commoncrawl\/crawl-data\/CC-MAIN-2017-17\/segments\/1492917125881.93\/warc\/CC-MAIN-20170423031205-00122-ip-10-145-167-34.ec2.internal.warc.gz","language":"zsm","language_score":0.4583191872,"language_script":"Arab","minhash_cluster_size":1,"top_langs":"{\"zsm_Arab_score\": 0.45831918716430664, \"bjn_Arab_score\": 0.27855855226516724, \"min_Arab_score\": 0.1780211627483368, \"ace_Arab_score\": 0.08408289402723312}","num_words":139,"character_repetition_ratio":0.039,"word_repetition_ratio":0.0,"special_characters_ratio":0.223,"stopwords_ratio":0.18,"flagged_words_ratio":0.0,"lang_id_score":0.458,"perplexity_score":500.0,"cluster_detection":1}
+{"text":"باڽق اورڠ مڠاداكن مجليس ڤركهوينن يڠ بسر-بسر دان ميواه..تاڤي ادكه ايت سواتو كواجيڤن؟مان يڠ واجب؟عقد نكاح ايت اتاو مجليس كندوريڽ؟يڠ واجب عقدڽ،يڠ سنة كندوريڽ.كندوري اين اداله سواتو چارا باڬايمانا كيت مڠيكلانكن بهاوا كيت سوده بركهوين اونتوق مڠلقكن فتنه.نبي مڽوروه كيت ممبوات كندوري والاوڤون دڠن مڽمبليه سايكور كمبيڠ.سايكور كمبيڠ براڤ اورڠ بوليه دجمڤوت؟اڠڬرن 200 اورڠ تتامو.باڬي سستڠه كيت اي موڠكين كچيل..باڬي سستڠه يڠ لاين اي سوده منچوكوڤي.برڬنتوڠ كڤد كڤرلوان كيت.\nتاڤي اي مڠيكوت كممڤوان كيت.ايت يڠ اوتام.\nSTARTER KIT BAJA\nSeminggu yang lalu","id":"<urn:uuid:ca5a71a1-5465-4941-9d84-e7d6e6eea2d6>","dump":"CC-MAIN-2017-26","url":"http:\/\/agricultureinmalaysia.blogspot.com\/2009\/06\/blog-post_20.html","date":"2017-06-27T15:50:40Z","file_path":"s3:\/\/commoncrawl\/crawl-data\/CC-MAIN-2017-26\/segments\/1498128321458.47\/warc\/CC-MAIN-20170627152510-20170627172510-00668.warc.gz","language":"zsm","language_score":0.3233591616,"language_script":"Arab","minhash_cluster_size":8,"top_langs":"{\"zsm_Arab_score\": 0.3233591616153717, \"ace_Arab_score\": 0.3178025186061859, \"bjn_Arab_score\": 0.29743388295173645, \"min_Arab_score\": 0.055137451738119125}","num_words":81,"character_repetition_ratio":0.023,"word_repetition_ratio":0.0,"special_characters_ratio":0.209,"stopwords_ratio":0.148,"flagged_words_ratio":0.0,"lang_id_score":0.351,"perplexity_score":500.0,"cluster_detection":1}
+{"text":"ماله کيني، ساي مڠاکو؞ي سماکين ڬمبيرا دڠن کهيدوڤن کيني تراوتاماڽ درڤد سڬي تاورن کرجاي يڠ کيني سماکين لبت دڠن تاورن.\nاونتوق تاهون اين، جدوال کرجا ساي سوده مولا دأتورکن سجق اول تاهون سهيڠڬ هوجوڠ تاهون اين.\nميمڠ تيدق منڠ تاڠن سبنرڽ تتاڤي ساي اڠڬڤ اڤ يڠ دڤراوليه سکارڠ اداله رزقي انق يڠ ساي تومڤڠ.\nساي ڤرچاي ستياڤ يڠ برلاکو اد حکمه ترسنديري. سبب ايت ساي تيدق برڤوتوس اسا والاوڤون دأوجي سبڬيني.\nسلا؞ين تاورن برلاکون دان مپاپي، ساي جوڬ بارو٢ اين دتاورکن منجادي دوتا جوس کصيحتن، لنتيق دارا.\nمنروسي لانتيقن ايت، ساي منجادي دوتا سلاما انم بولن دان جک اد رزقي اونتوق دلنجوتکن، ساي سديا اونتوق منريماڽ.\nساي ميمڠ تليتي سبلوم منجادي دوتا اڤاته لاڬي اونتوق ڤرودوک کصيحتن. الحمدلله، سوده سبولن ساي عملکن مينوم جوس ترسبوت دان کيني برت ساي سوده تورون سباپق ليم کيلوڬرم.\nبيلا ساي ده نمڤق کبرکسنن ڤرودوک اين، باروله ساي برسديا اونتوق ممڤروموسيکن ڤرودوک اين کڤد اورڠ لوار.","id":"<urn:uuid:44099324-5e23-4472-9a26-285da83be25d>","dump":"CC-MAIN-2018-09","url":"http:\/\/www.utusanmelayu.com.my\/%D9%87%D9%8A%D8%A8%D9%88%D8%B1%D9%86\/%D8%A7%D9%8A%D9%84%D9%8A-%D9%85%D8%B2%D9%84%D9%8A%D9%86-%D8%A8%D9%87%D8%A7%DA%AC%D9%8A%D8%A7-%D8%AF%DA%A0%D9%86-%DA%A9%D9%87%D9%8A%D8%AF%D9%88%DA%A4%D9%86-%D8%B3%DA%A9%D8%A7%D8%B1%DA%A0-1.541414","date":"2018-02-21T01:32:39Z","file_path":"s3:\/\/commoncrawl\/crawl-data\/CC-MAIN-2018-09\/segments\/1518891813187.88\/warc\/CC-MAIN-20180221004620-20180221024620-00146.warc.gz","language":"zsm","language_score":0.4526369572,"language_script":"Arab","minhash_cluster_size":5,"top_langs":"{\"zsm_Arab_score\": 0.4526369571685791, \"bjn_Arab_score\": 0.3058646619319916, \"min_Arab_score\": 0.21474435925483704, \"ace_Arab_score\": 0.02588527835905552}","num_words":151,"character_repetition_ratio":0.036,"word_repetition_ratio":0.0,"special_characters_ratio":0.217,"stopwords_ratio":0.238,"flagged_words_ratio":0.0,"lang_id_score":0.453,"perplexity_score":500.0,"cluster_detection":1}
+{"text":"ساي مليهت اين ملالو؞ي سيتواسي ساي سهاج، جادي جاڠن اڠڬڤ اين ڤنداڤت اونتوق مريک دلوار سان ڤولا. نوح جوڬ سوده منچچه تيڬ تاهون، ميمڠ دري اول لاڬي ساي دان سوامي تيدق ماهو دي منجادي انق توڠڬل. بوكن اڤ كالاو اڤ٢ جادي كڤد كامي، دي اد اديق اونتوق بركوڠسي مسئله.\nسو؞ال جنتينا ساي سوده تاهو تتاڤي كالاو بوليه تيدق ماهو ددهكن بوات ماس اين. توڠڬو سهاج ببراڤ ميڠڬو لاڬي. تيدق لاما ماناڤون اونتوق ساي لاهيركن انق كدوا اين. كالا اين جوڬ سوده همڤير 39 ميڠڬو.\nاڤ يڠ بربيذا مڠنا؞ي كاندوڠن كالي اين، كالاو دڠن نوح ساي تيدق مڠيدم اڤ٢ چوما ساكيت دبهاڬين ڤروت سهاج. نامون كالي اين ساي ساڠت سوک مڠوپه ا؞يس. ماله تيدق كيرا وقتو سبنرڽ.\nڤربيذا؞ن كاندوڠن ڤرتام دان كدوا اين ميمڠ لا؞ين. جک دڠن نوح دولو ساي باپق ممباچ، اياله انق ڤرتام ميمڠ ايت يڠ اكن دلالو؞ي سموا اورڠ. كالي اين تيدق لبيه سنتاي، الحمدﷲ ڤرجالنن سڤنجڠ مڠاندوڠ اين ساڠت موده تيدق مڠالمي اڤ٢ مسئله.\nبوات ماس اين ساي لبيه باپق درومه، مڠوروسكن نوح دان كلوارڬ. دالم ماس يڠ سام توروت ممبوات ڤرسديا؞ن اونتوق كلاهيرن اين، بوكن اڤ تيدق ماهو بوات سمواڽ ڤد ساعة٢ اخير،\" تمبهڽ.","id":"<urn:uuid:c4c8aa48-5129-4bae-998d-00b00fe308c7>","dump":"CC-MAIN-2018-09","url":"http:\/\/www.utusanmelayu.com.my\/%D9%87%D9%8A%D8%A8%D9%88%D8%B1%D9%86\/%D9%8A%D8%B3%D9%85%D9%8A%D9%86-%D9%87%D8%A7%D9%86%D9%8A-%D8%A8%D8%B1%D8%AF%D8%A8%D8%B1-%D8%AA%D9%88%DA%A0%DA%AC%D9%88-%D9%83%D8%AD%D8%A7%D8%B6%D9%8A%D8%B1%D9%86-%D8%A7%D9%86%D9%82-%D9%83%D8%AF%D9%88%D8%A7-1.416349","date":"2018-02-23T06:11:19Z","file_path":"s3:\/\/commoncrawl\/crawl-data\/CC-MAIN-2018-09\/segments\/1518891814493.90\/warc\/CC-MAIN-20180223055326-20180223075326-00233.warc.gz","language":"zsm","language_score":0.5747095942,"language_script":"Arab","minhash_cluster_size":5,"top_langs":"{\"zsm_Arab_score\": 0.5747095942497253, \"bjn_Arab_score\": 0.2889738976955414, \"min_Arab_score\": 0.1347513049840927}","num_words":187,"character_repetition_ratio":0.02,"word_repetition_ratio":0.0,"special_characters_ratio":0.243,"stopwords_ratio":0.283,"flagged_words_ratio":0.0,"lang_id_score":0.569,"perplexity_score":500.0,"cluster_detection":1}
+{"text":"ڤڠوربانن يڠ دلاكوكن ڤلاكون يڠ مسرا ممبهاساكن ديري سباڬاي سم منروسي فيلم تربهاروڽ ڤينجمكن هاتيكو يڠ براد دڤاواڬم ڤد 30 نوۏيمبر لالو.\n\"ساي ممڬڠ واتق ججاک كامڤوڠ برنام نوفل. واتق ترسبوت ممرلوكن ساي منورونكن برت بادن دان مڠچيلكن بنتوق بادن كران مڠهيدڤ ڤپاكيت كنسر ڤارو٢ يڠ كرونيک.\n\"ساي دبري ماس دوا بولن اونتوق منداڤتكن سوسوق توبوه يڠ منمڤقكن كساكيتن يڠ دعالمي نوفل. دالم تيمڤوه ترسبوت ساي ڤرلو 'ڤانتڠ' ماكن دمان ساي هاڽ ماكن سكالي سهاري يايت هيدڠن تنڤا ڬولا كربوهيدرات دمان دي سقدر مڠالس ڤروت دڠن مماكن سايور-سايورن دان بواه-بواهن سهاج.\n\"كڤريتن يڠ ساي لالوي سڤنجڠ ڤروسيس مناهن ماكن دو مڠچيلكن بادن ممبواتكن راس سنتياس ريندوكن چريتا اين. ڤون بڬيتو سجوجورڽ ساي لبيه ڤواس هاتي سكيراڽ دبري لبيه ماس اونتوق منداڤتكن بنتوق بادن يڠ رياليستيک اونتوق واتق ڤساكيت كنسر.\n\"نامون دالم ماس يڠ سام ساي توروت برشكور كران جک ترلالو لاما ساي مڠعملكن ڤماكنن سڤرتي ايت ساي تيدق تاهو اڤ يڠ اكن ترجادي دڠن بادن ساي ممندڠكن ساي تيدق منداڤتكن روجوعن دان نصيحة ڤاكر ڤماكنن اتاو دوكتور.\n\"والاوڤون تيدق بڬيتو ڤواس هاتي دڠن بنتوق بادن ترسبوت تتاڤي ساي تاهو ساي برجاي ملاكوكنڽ كران كتيک ايت راماي يڠ برتاڽ اداكه ساي ساكيت. ايت برمعنا ساي تله ممنوهي كريتيريا يڠ دڤرلوكن اونتوق واتق.\n\"سلڤس اين كالاو اد رزقي ساي اونتوق ممباواكن واتق للاكي ڬموق ساي ڤستي تيدق اكن منولق دان سڠڬوڤ مڠڬموقكن بادن\" اوجرڽ.","id":"<urn:uuid:4966f9e0-d7d1-410d-ba6c-479946f948cd>","dump":"CC-MAIN-2018-09","url":"http:\/\/www.utusanmelayu.com.my\/%D9%87%D9%8A%D8%A8%D9%88%D8%B1%D9%86\/%D8%B4%D9%87%D9%8A%D8%B2%D9%8A-%D8%B3%D9%85-%D8%B3%DA%A0%DA%AC%D9%88%DA%A4-%D9%82%D8%B1%D8%A8%D8%A7%D9%86-%D8%A8%D8%A7%D8%AF%D9%86-1.578716","date":"2018-02-25T17:25:01Z","file_path":"s3:\/\/commoncrawl\/crawl-data\/CC-MAIN-2018-09\/segments\/1518891816841.86\/warc\/CC-MAIN-20180225170106-20180225190106-00295.warc.gz","language":"zsm","language_score":0.7261368036,"language_script":"Arab","minhash_cluster_size":5,"top_langs":"{\"zsm_Arab_score\": 0.7261368036270142, \"bjn_Arab_score\": 0.13923832774162292, \"min_Arab_score\": 0.09878042340278625, \"ace_Arab_score\": 0.035298753529787064}","num_words":221,"character_repetition_ratio":0.037,"word_repetition_ratio":0.0,"special_characters_ratio":0.212,"stopwords_ratio":0.244,"flagged_words_ratio":0.0,"lang_id_score":0.684,"perplexity_score":500.0,"cluster_detection":1}
+{"text":"ڤسره دڠن اوجين الهي، ايليان نيکد مرهسياکن ڤپاکيت يڠ دهادڤيڽ درڤد ڤڠتاهوان عموم کچوالي کلوارڬ تردکت دان راکن ترتنتو.\nکتابهن ايليان مڠوندڠ سبق دالم کالڠن ڤمينت اڤابيلا ڤد مالم تراخير ڤپرتا؞نڽ دکونسرت ميڠڬوان ڬڬر ۏاڬنزا موسيم کأمڤت (GV4) ميڠڬو لالو، ايليان مڠعمومکن بهاوا دي مروڤاکن ڤساکيت کنسر تاهڤ امڤت.\nبيارڤون تيدق دسارنکن مپرتا؞ي GV4 اوليه دوکتور يڠ مراوت، ڬلودق جيوا ايليان يڠ ممبواق-بواق باڬايکن مندوروڠڽ مڠهديهکن سسواتو کڤد ڤمينتڽ بيارڤون ترڤقسا برجواڠ مڠهادڤي ڤپاکيتڽ ايت.\nساي ڤرلو سنتياس ڤوسيتيف، کالاو اورڠ ليهت دري سڬي فيزيکل تمڤق ساي سڤرتي صيحت تتاڤي سبنرڽ ساي سريڠ کلسوان دان تتکالا مالم ساي جادي سوسه نق تيدور کران بيمبڠ ساي تيدق داڤت باڠون کأيسوقن هاري دان تيدق داڤت جومڤا انق ساي.\nڤرنه نفس ساي تراس سڤرتي ترهنتي کتيک تيدور مپببکن ستياڤ مالم ساي جادي تاکوت اونتوق تيدور، سبب ايت ساي تيدق تيدور اونتوق ڤستيکن ماس يڠ اد ايت ساي لواڠکن سڤنوهڽ دڠن انق ساي يڠ کيني براوسيا انم تاهون.\nساي هيدڤ کنسر ايت سجق توجوه تاهون لالو، کتيک ڬمبيرا بارو ملاهيرکن انق، ساي دبريتاهو اوليه دوکتور يڠ ساي مڠهيدڤ کنسر ليمفورما تاهڤ دوا، کتيک ايت ساي تيدق مناڠيس لڠسوڠ سباليقڽ ڤسره.","id":"<urn:uuid:c4f0f234-25b0-4cb2-93ec-bdd2c26b843a>","dump":"CC-MAIN-2018-09","url":"http:\/\/www.utusanmelayu.com.my\/%D9%87%D9%8A%D8%A8%D9%88%D8%B1%D9%86\/%D8%AA%D8%A7%D8%A8%D9%87-%D9%87%D8%A7%D8%AF%DA%A4%D9%8A-%DA%A9%D9%86%D8%B3%D8%B1-1.565714","date":"2018-02-25T13:42:37Z","file_path":"s3:\/\/commoncrawl\/crawl-data\/CC-MAIN-2018-09\/segments\/1518891816462.95\/warc\/CC-MAIN-20180225130337-20180225150337-00036.warc.gz","language":"zsm","language_score":0.7028279305,"language_script":"Arab","minhash_cluster_size":5,"top_langs":"{\"zsm_Arab_score\": 0.7028279304504395, \"bjn_Arab_score\": 0.2057369351387024, \"min_Arab_score\": 0.06535469740629196, \"ace_Arab_score\": 0.025707393884658813}","num_words":186,"character_repetition_ratio":0.044,"word_repetition_ratio":0.0,"special_characters_ratio":0.217,"stopwords_ratio":0.21,"flagged_words_ratio":0.0,"lang_id_score":0.688,"perplexity_score":500.0,"cluster_detection":1}
+{"text":"دتمو؞ي دالم مجليس ڤلنچرن لاڬو ترسبوت، جلس ازادن، والاوڤون ڤرنه مپاتاکن حسرة اونتوق کلوار درڤد کومڤولن ايت دوا تاهون لالو، سهيڠڬ کيني دي ماسيه ماهو مپومبڠکن بقتي اونتوق تروس مماجوکن موزيک نشيد برسام رباني.\nساي تله براد دالم ايندوستري اين سجق 30 تاهون لالو برسام کومڤولن نادا مورني سبلوم دتوکر نام کڤد کومڤولن رباني.\nترلالو باپق کنڠن، ماله کامي دالم کومڤولن اين تله ترلالو عقرب سجق سکين لاما، ساي ماسيه لاڬي ماهو برسام دڠن کومڤولن اين والاوڤون تله ملاهيرکن سيڠڬل سولو ساي سنديري.\nسلاڬي حياة دکاندوڠ بادن نام رباني تتڤ برسام ساي، ميمڠ سبلوم اين ساي ڤرنه کات نق کلوار دري رباني تتاڤي ايتله سبنرڽ اوجين اونتوق ساي، کالاو ساي هاڽ ايڠين برڬرق سنديري سوده ڤستي تله لاما ساي کلوار تتاڤي ساي ماسيه ايڠت ڤسنن اﷲيرحم استاذ عصري سوڤايا سنتياس مڠوتاماکن کومڤولن رباني.\nساي کنل ستياڤ اڠڬوتا کومڤولن رباني، ساي تاهو مريک تيدق اد مسئله اونتوق ممبنرکن ساي تمڤيل دڠن لاڬو سولو سنديري اصلکن تيدق مڠڠڬو ڤرجالنن سني کومڤولن رباني سنديري.","id":"<urn:uuid:4b7cbe88-e952-4510-ac3b-0b3d3834ee3f>","dump":"CC-MAIN-2018-09","url":"http:\/\/www.utusanmelayu.com.my\/%D9%87%D9%8A%D8%A8%D9%88%D8%B1%D9%86\/%D8%A7%D8%B2%D8%A7%D8%AF%D9%86-%D8%AA%D9%85%DA%A4%D9%8A%D9%84-%D8%B3%D9%88%D9%84%D9%88-%D8%AA%D9%8A%D8%AF%D9%82-%D8%AA%D9%8A%DA%A0%DA%AC%D9%84%DA%A9%D9%86-%D8%B1%D8%A8%D8%A7%D9%86%D9%8A-1.544736","date":"2018-02-25T17:31:58Z","file_path":"s3:\/\/commoncrawl\/crawl-data\/CC-MAIN-2018-09\/segments\/1518891816841.86\/warc\/CC-MAIN-20180225170106-20180225190106-00476.warc.gz","language":"zsm","language_score":0.4192051888,"language_script":"Arab","minhash_cluster_size":5,"top_langs":"{\"zsm_Arab_score\": 0.4192051887512207, \"min_Arab_score\": 0.34909820556640625, \"bjn_Arab_score\": 0.22352492809295654}","num_words":160,"character_repetition_ratio":0.066,"word_repetition_ratio":0.0,"special_characters_ratio":0.214,"stopwords_ratio":0.163,"flagged_words_ratio":0.0,"lang_id_score":0.419,"perplexity_score":500.0,"cluster_detection":1}
+{"text":"مڠولس لنجوت مڠنا؞ي ڤرکارا ترسبوت، قي اکو؞ي بيارڤون اي مماکن ماس يڠ لاما اونتوق مريک برديکاري، نامون دي دان راکن٢ ککل ڤوسيتيف دڠن کأدا؞ن ايت.\n\"بربنديڠ کومڤولن موزيک لا؞ين سأوسيا کامي يڠ ترلبيه اول برڬرق سنديري، بوليه دکاتاکن کامي اڬق لمبت مڠمبيل لڠکه يڠ سام. نامون اي بوکن هالڠن اونتوق کامي ملاکوکنڽ سکارڠ،\" کات قي.\nڤرتام کالي مماچو OAG سچارا بيبس، قي تيدق منافيکن بهاوا مريک تور��ت بردڤن چابرن بيبس يڠ بوکن سديکيت. سوده تربياس دڠن بنتوان درڤد شريکت ڤڠوروسن دان رقمن سبلوم اين ممبواتکن مريک ڤرلو بلاجر سسواتو يڠ بهارو.\nباڬايماناڤون، چابرن يڠ دهادڤي دجاديکن ڤڠالمن اڬر مريک ممڤو منجادي ساتو ڤاسوقن يڠ لبيه با؞يق ڤد ماس هادڤن. تمبه قي، چابرن ايت توروت ممبوک مات مريک مڠنا؞ي کممڤوان ديري دالم برڬلر انق سني دان اهلي ڤرنياڬا؞ن.\n\"سميمڠڽ منچابر اڤابيلا کامي مڠوروسکن سمواڽ سچارا سنديري. کتيک برسام شريکت رقمن يڠ بسر، سمواڽ تراتور.\nکامي دسدياکن ساتو ڤاسوقن يڠ مڠوروسکن سموا ڤرکارا سڤرتي سو؞ال ڤماسرن، ڤروموسي دان سباڬايڽ.","id":"<urn:uuid:859b9187-8d66-4179-b574-ee995a63b73c>","dump":"CC-MAIN-2018-34","url":"http:\/\/www.utusanmelayu.com.my\/%D9%87%D9%8A%D8%A8%D9%88%D8%B1%D9%86\/oag-%D8%A8%D8%B1%DA%AC%D8%B1%D9%82-%D8%B3%D9%86%D8%AF%D9%8A%D8%B1%D9%8A-%D9%87%D8%A7%D8%B1%D9%88%DA%A0%D9%8A-%DA%86%D8%A7%D8%A8%D8%B1%D9%86-%D8%B3%D9%86%D9%8A-1.727553","date":"2018-08-21T14:04:30Z","file_path":"s3:\/\/commoncrawl\/crawl-data\/CC-MAIN-2018-34\/segments\/1534221218189.86\/warc\/CC-MAIN-20180821132121-20180821152121-00060.warc.gz","language":"zsm","language_score":0.4872086048,"language_script":"Arab","minhash_cluster_size":5,"top_langs":"{\"zsm_Arab_score\": 0.48720860481262207, \"bjn_Arab_score\": 0.24541255831718445, \"min_Arab_score\": 0.1898472160100937, \"ace_Arab_score\": 0.076133593916893}","num_words":157,"character_repetition_ratio":0.027,"word_repetition_ratio":0.0,"special_characters_ratio":0.208,"stopwords_ratio":0.127,"flagged_words_ratio":0.0,"lang_id_score":0.483,"perplexity_score":500.0,"cluster_detection":1}
+{"text":"باڬي ڤلاکون عايشه ازمان، دي سبوليه-بوليهڽ ماهو لاري جا؞وه درڤد دتيمڤا سبارڠ کونتروۏرسي. اڤاته لاڬي. جک کهاڠتن چريتا ترسبوت ممڤو ممبونوه کاريئر سنديري.\nسدر سميمڠڽ کونتروۏرسي اداله چارا ڤاليڠ موده اونتوق دکنلي تتاڤي ايت بوکن ستراتيڬي ساي. کالاو بوليه، تيدق ماهو منچونتيڠ کنۏس سني ساي دڠن لومڤور سمات-مات اونتوق ڤوڤولر.\nسمنتله، ڤڠالمن ابڠ ساي يڠ جوڬ ڤلاکون، افيق معز ڤرنه بردڤن دڠن کونتروۏرسي ڤانس سواتو کتيک دهولو باپق مڠاجر ساي اونتوق لبيه برهاتي-هاتي.\nتق ڤرلو اد-ادکن چريتا اتاو ڬيميک مورهن اونتوق منيمبولکن کونتروۏرسي يڠ موڠکين ڤد اخيرڽ منچمرکن نام با؞يق کيت دان کلوارڬ. باڬي ساي، ايت بوکن لڠکه بيجق.\nلبيه با؞يق کيت لمبت دکنلي درڤد مڠڬوناکن کونتروۏرسي سباڬاي باتو لونچتن. ساي سليسا دڠن لڠکه ترسبوت. لاڬيڤون، منچاري ڤوڤولاريتي بوکن نية ساي مپرتا؞ي ايندوستري.","id":"<urn:uuid:43b12225-66a1-4f8f-8bfc-fd9468a889cf>","dump":"CC-MAIN-2018-51","url":"http:\/\/www.utusanmelayu.com.my\/%D9%87%D9%8A%D8%A8%D9%88%D8%B1%D9%86\/%D8%B9%D8%A7%D9%8A%D8%B4%D9%87-%D8%A7%D8%B2%D9%85%D8%A7%D9%86-%D8%AA%D9%88%D9%84%D9%82-%DA%A9%D9%88%D9%86%D8%AA%D8%B1%D9%88%DB%8F%D8%B1%D8%B3%D9%8A-%D9%85%D9%88%D8%B1%D9%87%D9%86-1.797881","date":"2018-12-16T10:09:04Z","file_path":"s3:\/\/commoncrawl\/crawl-data\/CC-MAIN-2018-51\/segments\/1544376827639.67\/warc\/CC-MAIN-20181216095437-20181216121437-00467.warc.gz","language":"zsm","language_score":0.6404241323,"language_script":"Arab","minhash_cluster_size":5,"top_langs":"{\"zsm_Arab_score\": 0.6404241323471069, \"min_Arab_score\": 0.16356565058231354, \"bjn_Arab_score\": 0.10753726959228516, \"ace_Arab_score\": 0.08779146522283554}","num_words":123,"character_repetition_ratio":0.033,"word_repetition_ratio":0.0,"special_characters_ratio":0.218,"stopwords_ratio":0.163,"flagged_words_ratio":0.0,"lang_id_score":0.64,"perplexity_score":500.0,"cluster_detection":1}
+{"text":"سباڬاي ڤلاكون ميمڠ كادڠ٢ اد راس ماهو ريحت سبنتر باڬي ممستيكن مينتل دان ايموسي ساي برسديا اونتوق واتق يڠ بربيذا ڤولا. نامون كالاو سوده ترتوليس ايت رزقي تقكن ساي هندق تولق ساي تريما جوڬ تاورن يڠ داتڠ.\nلاڬيڤون ساي منجاڬ هوبوڠن دڠن ڤرودوسر دان ڤڠاره. كالاو تولق اڤ ڤولا كات مريک ننتي. موڠكين ساي اكن تتڤ بريحت بوات سمنتارا وقتو سكارڠ اڬق سيبوق.\nبوات ماس سكارڠ ميمڠ تق بوليه امبيل چوتي. كرجا يڠ داتڠ برسيليه ڬنتي دان ستاكت اين ميمڠ سموا واتق ممرلوكن ساي اونتوق مناڠيس دان ممري جيوا سرتا ايموسي يڠ مندالم. تنڤا ڤرسياڤن دان ڤرسديان يڠ بتول بوكن سنڠ سبنرڽ اونتوق اونتوق ممهمي واتق يڠ دباواكن.\nراماي ڤمينت ڤرنه مپواراكن ڤرمينتان سوڤايا ساي ملاكونكن واتق يڠ بربيذا. جوجورڽ ساي ڤون ماهو منونجولكن سيسي لاكونن بربيذا. سبب سباڬاي ڤلاكون ميمڠ منجادي ايمڤين ساي اونتوق ممڤو ممباواكن ڤلباڬاي واتق بربيذا.\nماله ميمڠ منجادي هارڤن ساي سواتو هاري ننتي اونتوق ممباواكن واتق سأورڠ كورڠ اوڤاي اتاو ڤرمڤوان يڠ مڠالمي كموروڠن سرتا مسئله ڤسكولوڬي. ساي ماهو منچابر ديري سنديري دڠن واتق سبڬيتو. تاڤي بوات ماس سكارڠ ساي بلوم تربوک اونتوق ملاكونكن واتق اكسي.\nنامون انداي دتاوركن واتق اكسي ساي اكن ڤرتيمبڠ. كنا تيڠوق سكريڤ دان جالن چريتا دهولو.\nسوال مڠالمي مسئله ايموسي ميمڠ ساي ريساو اڤابيلا كيت ترلالو برماين دڠن ايموسي لاما-كلامان كيت ترباوا-باوا دڠن كاركتر ايت.","id":"<urn:uuid:9986784a-194e-4fb1-8f79-a8c0a03b6478>","dump":"CC-MAIN-2018-51","url":"http:\/\/www.utusanmelayu.com.my\/%D9%87%D9%8A%D8%A8%D9%88%D8%B1%D9%86\/%D9%86%D9%8A%D9%86%D8%A7-%D8%A7%D8%B3%D9%83%D9%86%D8%AF%D8%B1-%D8%AA%D9%8A%D8%A7%D8%AF-%D9%85%D8%A7%D8%B3-%D8%A8%D8%B1%DA%86%D9%88%D8%AA%D9%8A-1.793733","date":"2018-12-16T10:32:46Z","file_path":"s3:\/\/commoncrawl\/crawl-data\/CC-MAIN-2018-51\/segments\/1544376827639.67\/warc\/CC-MAIN-20181216095437-20181216121437-00592.warc.gz","language":"zsm","language_score":0.5074554086,"language_script":"Arab","minhash_cluster_size":4,"top_langs":"{\"zsm_Arab_score\": 0.5074554085731506, \"bjn_Arab_score\": 0.33332300186157227, \"min_Arab_score\": 0.10041450709104538, \"ace_Arab_score\": 0.058348216116428375}","num_words":215,"character_repetition_ratio":0.057,"word_repetition_ratio":0.0,"special_characters_ratio":0.203,"stopwords_ratio":0.219,"flagged_words_ratio":0.0,"lang_id_score":0.507,"perplexity_score":500.0,"cluster_detection":1}
+{"text":"بارو٢ اين ساي اد منريما تاورن سباپق RM1,500 اونتوق ممبينتڠي سبواه دراما برسيري باڬي منجاياکن 12 درڤد 16 بابق کسلوروهن ڤرودوکسي برکنا؞ن.\nبايڠکن ساي ممڬڠ واتق اوتام دالم ايڤيسود بردوراسي ستڠه جم ترسبوت. اداکه RM1,500 ستيمڤل دڠن بايرن يڠ دتاورکن؟ ساي بوکن ممينتا بايرن تيڠڬي ملمڤاو تتاڤي بيارله سأيمبڠ دڠن باکت يڠ ساي اد.\nسببڽ، ساي بوکن بوات کرجا ما؞ين٢، بوقتيڽ سوده اد دالم ستياڤ لاکونن ساي ترماسوق جومله تروفي يڠ دمنڠي سلاما اين. بوکن نية ساي هندق ممبوروق-بوروقکن سسياڤا، چوما تيندقن ساي مڠووار-اووارکن ڤرکارا اين دلامن سوسيال اداله دمي ملواهکن سڬالا يڠ تربوکو دهاتي.\nسببکن ڤڠهينا؞ن ترسبوت، ساي ترڤقسا منولق تاورن ايت کران دراساکن تيدق بربالوي دڠن اوسيا 47 تاهون يڠ دعبديکن ترهادڤ دنيا سني سلاما اين.\nاين بوکن کالي ڤرتام برلاکو کڤد ساي تتاڤي سوده ببراڤ کالي دان اداکه اين برمعصود ڤلاکون توا سڤرتي ساي سوده تياد هرڬ؟ اتاو اداکه مريک مڠڠڬڤ کلومڤوق ڤلاکون ۏيترن اين سقدر واتق تيمڤيلن سمات-مات ددالم سسبواه دراما؟","id":"<urn:uuid:32f46525-d496-4c21-b161-1277dd54cec9>","dump":"CC-MAIN-2019-35","url":"http:\/\/www.utusanmelayu.com.my\/%D9%87%D9%8A%D8%A8%D9%88%D8%B1%D9%86\/%D8%B1%D8%A7%D8%B3-%D8%AA%D8%B1%D9%87%D9%8A%D9%86%D8%A7-%D8%A8%D8%A7%D9%8A%D8%B1%D9%86-%D8%AA%D8%B1%D9%84%D8%A7%D9%84%D9%88-%D8%B1%D9%86%D8%AF%D9%87-%D8%AC%D9%84%D9%8A%D9%84-%D8%AD%D9%85%D9%8A%D8%AF-1.767150","date":"2019-08-19T14:57:38Z","file_path":"s3:\/\/commoncrawl\/crawl-data\/CC-MAIN-2019-35\/segments\/1566027314752.21\/warc\/CC-MAIN-20190819134354-20190819160354-00338.warc.gz","language":"zsm","language_score":0.4836187363,"language_script":"Arab","minhash_cluster_size":1,"top_langs":"{\"zsm_Arab_score\": 0.48361873626708984, \"bjn_Arab_score\": 0.4136837422847748, \"min_Arab_score\": 0.08680528402328491, \"ace_Arab_score\": 0.014234969392418861}","num_words":152,"character_repetition_ratio":0.013,"word_repetition_ratio":0.0,"special_characters_ratio":0.224,"stopwords_ratio":0.217,"flagged_words_ratio":0.0,"lang_id_score":0.485,"perplexity_score":500.0,"cluster_detection":1}
+{"text":"منولق ڤنداڤت يڠ مڠاتاکن بلياو ماهو ملوڤاکن بيدڠ لاکونن، ترپات إيرون ساعت اين اد ڤرکارا يڠ لبيه ڤنتيڠ يڠ ڤرلو دأوتاماکن اوليهڽ.\n\"سڤنجڠ براد دالم ايدوستري، اﷲ سوده بريکن رزقي يڠ باپق اونتوق ساي. سوده سمڤاي ماساڽ ساي ممبري فوکوس کڤد عمل عبادة ڤولا.\n\"سنڠ چريتا ساي سوده تيدق ترکجر-کجر لاڬي دالم بيدڠ اين،\" کاتاڽ.\nبرچاکڤ سو؞ال ڤوڤولاريتي، ترپات اد سيسي ماتڠ يڠ ايڠين دسمڤايکن اوليه إيرون. جلسڽ، سلڤس ملالو؞ي ڤلباڬاي رينتڠن اونتوق براد ڤد تاهڤ اين، بلياو رضا منريما کأدا؞ن جک بنر ناماڽ تيدق لاڬي منجادي سبوتن ڤنونتون دنڬارا اين.\n\"باڬي ساي، جک تيدق ڤوڤولر لاڬي بوکن ڤرکارا يڠ ڤرلو دريساوکن. ساي سوده ملالو؞ي زمان ڤوڤولاريتي ترسبوت دان ساي ڬمبيرا دڠن کأدا؞ن ساي کيني.\n\"چوما ساي تيدق نفيکن سرونوق مليهت کبڠکيتن دراما دان فيلم کيت. ماله لبيه راماي ڤلاکون سوده ممڤو ممباواکن واتق يڠ ممبريکن ايمڤک کڤد ڤنونتون دان اين اداله سسواتو يڠ باڬوس،\" کاتاڽ.","id":"<urn:uuid:5b689851-a544-46a9-b6dd-7952181ebb48>","dump":"CC-MAIN-2019-35","url":"http:\/\/www.utusanmelayu.com.my\/%D9%87%D9%8A%D8%A8%D9%88%D8%B1%D9%86\/%D8%A5%D9%8A%D8%B1%D9%88%D9%86-%D8%B9%D8%B2%D9%8A%D8%B2-%D8%A8%DA%A0%DA%AC-%D8%B3%D9%85%D8%A8%D9%88%D8%AA%D9%86-%D9%81%D9%8A%D9%84%D9%85-%D8%AA%D9%85%DA%A4%D8%AA%D9%86-1.785172","date":"2019-08-25T16:24:51Z","file_path":"s3:\/\/commoncrawl\/crawl-data\/CC-MAIN-2019-35\/segments\/1566027330750.45\/warc\/CC-MAIN-20190825151521-20190825173521-00463.warc.gz","language":"zsm","language_score":0.6159060597,"language_script":"Arab","minhash_cluster_size":1,"top_langs":"{\"zsm_Arab_score\": 0.6159060597419739, \"bjn_Arab_score\": 0.19224344193935394, \"min_Arab_score\": 0.145063117146492, \"ace_Arab_score\": 0.04641130939126015}","num_words":146,"character_repetition_ratio":0.017,"word_repetition_ratio":0.0,"special_characters_ratio":0.22,"stopwords_ratio":0.219,"flagged_words_ratio":0.0,"lang_id_score":0.543,"perplexity_score":500.0,"cluster_detection":1}
+{"text":"سيتواسي يڠ سروڤا ڤرنه دلالو؞ي ڤپاپي ڤوڤولر، ازهرينا ازهر اڤابيلا دکچم دان دکريتيک هاڽ کران مميليقي برت بادن يڠ برلبيهن.\nستيڬما مشارکت يڠ سريڠ مڠاڠڬڤ سيليبريتي برتوبوه ڬمڤل سوکر برتاهن لاما دالم دنيا هيبورن، باڬايمان ڤون مپونتيق سماڠت ازهرينا اونتوق ممبوقتيکن بهاوا سا؞يز بادن بوکن فکتور يڠ 'منوتوڤ' رزقي سسأورڠ.\nمنوروت ڤپاپب يڠ ڤوڤولر منروسي لاڬو ايليڬي سڤي ايت، سچارا جوجورڽ دي تيدق مڠاڠڬڤ مميليقي بادن يڠ ڬمڤل ممبريکن مسئله کڤد ديريڽ ماله چوکوڤ سليسا دڠن کأدا؞ن ايت.\nاورڠ سلالو چاکڤ ارتيس تق بوليه بربادن ڬموق ننتي تق لاکو! ايت ساتو کپاتا؞ن يڠ تيدق بتول سام سکالي ماله ساي تيدق ماهو ڤرکارا سڤرتي اين منجادي ڤڠوکور کڤد کجايا؞ن کپجاي سني سسأروڠ.\nموڠکين ساي بوکن سأورڠ يڠ موده برکچيل هاتي دڠن کات٢ يڠ سڠاج ماهو منجاتوهکن ا؞ير موک اورڠ لا؞ين، نامون ساي ماهو ڤميکيرن سڤرتي ايت دأوبه دالم مشارکت کيت.\nماله ساي منجاديکن موديل انتارابڠسا، تايرا بڠک س سباڬاي اينسڤيراسي کران دي جوڬ ڤرنه مڠالمي ڤنيڠکتن برت بادن يڠ مندادق، نامون برجاي مڠوبه ڤرسيڤسي نيڬاتيف کڤد ڤوسيتيف.","id":"<urn:uuid:ef10a7fa-1168-4571-a2a6-07444707b054>","dump":"CC-MAIN-2019-35","url":"http:\/\/www.utusanmelayu.com.my\/%D9%87%D9%8A%D8%A8%D9%88%D8%B1%D9%86\/%D8%AF%DA%86%D9%85%D9%88%D9%87-%D8%A8%D8%B1%D8%A8%D8%A7%D8%AF%D9%86-%DA%AC%D9%85%DA%A4%D9%84-1.736196","date":"2019-08-19T14:49:57Z","file_path":"s3:\/\/commoncrawl\/crawl-data\/CC-MAIN-2019-35\/segments\/1566027314752.21\/warc\/CC-MAIN-20190819134354-20190819160354-00198.warc.gz","language":"zsm","language_score":0.4842352271,"language_script":"Arab","minhash_cluster_size":1,"top_langs":"{\"zsm_Arab_score\": 0.4842352271080017, \"ace_Arab_score\": 0.19002415239810944, \"bjn_Arab_score\": 0.18717069923877716, \"min_Arab_score\": 0.13764719665050507}","num_words":166,"character_repetition_ratio":0.013,"word_repetition_ratio":0.0,"special_characters_ratio":0.212,"stopwords_ratio":0.205,"flagged_words_ratio":0.0,"lang_id_score":0.479,"perplexity_score":500.0,"cluster_detection":1}
+{"text":"Please enable JavaScript.\nCoggle requires JavaScript to display documents.\nحديث احاد, - Coggle Diagram\nحديث احاد\nڤڠحجهان حديث احاد\nمقبول- حديث يڠ دتريما\nمردود- حديث يڠ دتولق\nحكوم حديث مقبول اداله بوليه دجاديكن حجه دان برعمال دڠنڽ\nحكوم حديث مردود اداله تيدق بوليه دجاديكن حجه\nحكوم برعمال دڠن حديث احاد\nكتيڬ تيڬ حديث ترسبوت بوليه دعمالكن دان برحجه دڠن شرط برستاتوس صحيح\nجك حديث برتارف ضعيف، مك تيدق بوليه برحجه دڠنڽ تتاڤي ماسيه بوليه برعمال دڠن شرط شرط يڠ ترتنتو\nكسيمڤولنڽ، بوليه برعمال دان برحجه دڠن حديث احاد تتاڤي تيدق كوفور باڬي يڠ تيدق مڠمالكنڽ\nتربهاڬي كڤد 3\nحديث مشهور\nحديث يڠ دروايتكن اوليه تيڬ اورڠ ڤراوي اتاو لبيه ڤد ستياڤ ڤريڠكت تتاڤي تيدق سمڤأي حد حديث متواتر\nحديث عزيز\nحديث يڠ دروايتكن اوليه دوا اورڠ ڤراوي ڤد ستياڤ ڤريڠكت\nحديث غريب\nحديث يڠ دروايتكن اوليه سأورڠ ڤراوي سهاج\nدري سڬي\nبهاس\nساتو، ياءيت ممبري معنى اڤ يڠ دروايتكن اوليه سأورڠ ڤراوي\nايستيله\nحديث يڠ تيدق ممنوهي شرط حديث متواتر","id":"<urn:uuid:27ccdd1f-6df7-4098-a08f-51b290fe33cc>","dump":"CC-MAIN-2020-40","url":"https:\/\/coggle.it\/diagram\/XtjwFJnHqjR2opMv\/t\/%D8%AD%D8%AF%D9%8A%D8%AB-%D8%A7%D8%AD%D8%A7%D8%AF","date":"2020-09-24T15:54:47Z","file_path":"s3:\/\/commoncrawl\/crawl-data\/CC-MAIN-2020-40\/segments\/1600400219221.53\/warc\/CC-MAIN-20200924132241-20200924162241-00791.warc.gz","language":"zsm","language_score":0.4084078372,"language_script":"Arab","minhash_cluster_size":1,"top_langs":"{\"zsm_Arab_score\": 0.4084078371524811, \"bjn_Arab_score\": 0.3917545676231384, \"ace_Arab_score\": 0.15901441872119904, \"min_Arab_score\": 0.030247613787651062}","num_words":158,"character_repetition_ratio":0.097,"word_repetition_ratio":0.0,"special_characters_ratio":0.218,"stopwords_ratio":0.158,"flagged_words_ratio":0.0,"lang_id_score":0.449,"perplexity_score":500.0,"cluster_detection":1}
+{"text":"ڤيليهن راي نݢري (ڤ.ر.ن.) ملاک باکل برلڠسوڠ دالم ماس ببراڤ هاري سهاج لاݢي. رعيت ملاک باکل مميليه کراجاءن بهارو ستله کراجاءن تردهولو رونتوه عاقبة 4 ادون برتوکر هالوان.\nاين برمعنا ملاک باکل منداڤت 3 کراجاءن دالم ماس 3 تاهون.\nکالي اين کيت مليهت راماي موک٢ بهارو دان اورڠ مودا يڠ تله دکتڠهکن سباݢاي چالون اوليه ڤرتي٢ يڠ برتنديڠ. نمڤقڽ کالي اين باريسن ناسيونل (ب.ن.) ڤون توروت مڠامبيل لڠکه يڠ سام⁏ سڤرتي کات توء مت حسن ايت مروڤاکن سبهاݢين درڤد لڠکه اونتوق مرماجاکن ڤرتي.\nسوده تنتو سموا چالون برحسرت اونتوق منڠ⹁ بݢيتو جوݢ دڠن ڤرتي٢ يڠ برتنديڠ. نامون⹁ ستله منڠ⹁ اداکه تيدق اکن برلاکو لاݢي لومڤت-ملومڤت دالم کالڠن مريک يڠ دڤيليه اوليه ڤڠوندي؟\nتيدق داڤت دنافيکن بهاوا کباڽقن چالون ممنڠي کروسي ماسيڠ٢ اتس حاصيل کرجا کرس دان کريڠت جنترا سرتا اکر اومبي ڤرتي يڠ مريک واکيلي.\nماله⹁ اد چالون يڠ بلوم دکنلي سرتا بلوم ممڤوڽاءي ريکود ڤريستاسي کرجا يڠ باءيق ڤون برجاي منداڤت اوندي يڠ باڽق هاڽ کران ڤڠوندي دسيتو اياله ڤڽوکوڠ تݢر ڤرتي يڠ مريک واکيلي.\nنامون⹁ سجق ڤ.ر.ع.14⹁ راماي واکيل رعيت يڠ دڤيليه برتيندق ملومڤت کڤادڠ يڠ لبيه هيجاو⹁ ماله اد يڠ ملومڤت-لومڤت سهيڠݢ رعيت کليرو برسام ڤرتي ماناکه مريک سکارڠ.\nايرونيڽ⹁ راماي يڠ برکات اڤ يڠ مريک لاکوکن اياله ڤرجواڠن دمي ڤرتي يڠ مريک واکيلي.\nسيکڤ کتيدقستياءن واکيل رعيت کڤد ڤرتي اتاو ڤرتي کڤد ݢابوڠن ڤرتي سوده سأکن-اکن منجادي سڤرتي ڤرکارا بياسا سلڤس ڤ.ر.ع.14.\nعاقبتڽ⹁ نݢارا کيت تيدق لاݢي ممڤوڽاءي کراجاءن يڠ ستابيل⹁ باءيق دڤريڠکت نݢري ماهوڤون دڤريڠکت ڤرسکوتوان.\nراماي اورڠ٢ مودا برڤندڠن بهاوا اکسي لومڤت-ملومڤت دان کتيدقستياءن کڤد ڤرتي اياله ڤرماءينن اورڠ لاما⹁ خاصڽ وورلورد ڤوليتيک يڠ برسيکڤ هاڽ ممنتيڠکن ديري سنديري تنڤا مميکيرکن اونتوڠ نصيب رعيت.\nنامون تله جلس ددڤن مات کيت بهاوا ڤميمڤين٢ مودا ڤون دوا کالي ليم سهاج دالم حال ملومڤت دان تيدق ستيا کڤد ڤرتي.\nجوسترو⹁ ڤارا ڤڠوندي مستي برهاتي-هاتي سبلوم ممبوات ڤيليهن کران جک مريک سيلڤ مميليه واکيل رعيت⹁ کراجاءن اکن جاتوه لاݢي سبلوم ڤڠݢل ڤ.ر.ع.14 براخير.","id":"<urn:uuid:84b1ca41-4849-4c4e-95e6-093a6af031aa>","dump":"CC-MAIN-2021-49","url":"https:\/\/ahmadalikarim.wordpress.com\/2021\/11\/18\/","date":"2021-12-06T23:40:05Z","file_path":"s3:\/\/commoncrawl\/crawl-data\/CC-MAIN-2021-49\/segments\/1637964363327.64\/warc\/CC-MAIN-20211206224536-20211207014536-00309.warc.gz","language":"zsm","language_score":0.4737263024,"language_script":"Arab","minhash_cluster_size":7,"top_langs":"{\"zsm_Arab_score\": 0.4737263023853302, \"bjn_Arab_score\": 0.26660022139549255, \"ace_Arab_score\": 0.15377092361450195, \"min_Arab_score\": 0.10495865345001221}","num_words":312,"character_repetition_ratio":0.054,"word_repetition_ratio":0.0,"special_characters_ratio":0.223,"stopwords_ratio":0.115,"flagged_words_ratio":0.0,"lang_id_score":0.474,"perplexity_score":500.0,"cluster_detection":1}
+{"text":"مقصود قدم اياله كابادين اتاو كككالن. اي مروجوق كڤد كبرادان الله يڠ تيدق ممڤوڽاءي ڤرمولأن. الله تيدق دچيڤتاكن دان تيدق برأصل دري سسواتو. الله بوكنله أوبجيك يڠ دچيڤتاكن\nتيدق اد يڠ منچيڤتاكن الله. الله-له يڠ منچيڤتاكن سڬالا سسواتو. صفة قدم اداله صفة كسمڤورنأن يڠ هاڽ لايق اد ڤد الله دڠن صفة كتوهانن-ڽ\nPrepare exams with mock exam papers","id":"<urn:uuid:f5fa0689-2f9d-4d20-846f-4e160c9d2ae7>","dump":"CC-MAIN-2024-18","url":"https:\/\/app.pandai.org\/note\/read\/kssr-kf-y2-02-05\/kssr-y2-kf-02\/bab-2syft-kdm","date":"2024-04-16T02:24:46Z","file_path":"s3:\/\/commoncrawl\/crawl-data\/CC-MAIN-2024-18\/segments\/1712296817036.4\/warc\/CC-MAIN-20240416000407-20240416030407-00788.warc.gz","language":"zsm","language_score":0.7675830722,"language_script":"Arab","minhash_cluster_size":1,"top_langs":"{\"zsm_Arab_score\": 0.7675830721855164, \"bjn_Arab_score\": 0.09331101924180984, \"ace_Arab_score\": 0.07836182415485382, \"min_Arab_score\": 0.0570138581097126}","num_words":58,"character_repetition_ratio":0.031,"word_repetition_ratio":0.0,"special_characters_ratio":0.228,"stopwords_ratio":0.224,"flagged_words_ratio":0.0,"lang_id_score":0.782,"perplexity_score":500.0,"cluster_detection":1}
+{"text":"١. الله بركهندق ملاكوكن سموا ڤركارا تنڤا برڬنتوڠ دڠن سسواتو\n٢. كهندق مأنسي اڬق ترباتس، تتاڤي كهندق الله تيدق ترباتس كران الله تيدق برصفة لمه دان ممڤو منچيڤتا عالم اين\nإِنَّمَآ أَمْرُهُۥٓ إِذَآ أَرَادَ شَيْـًٔا أَن يَقُولَ لَهُۥ كُن فَيَكُونُ\nسوره يسٓ ايات ٨٢\n١. سموا مخلوق دموك بومي اين دجاديكن اوليه الله دڠن كهندقڽ تنڤا دڤقسا\n٢. مستحيل الله برصفة ترڤقسا كران صفة اين اداله ساتو كلمهن باڬي الله\n١. اومت اسلام واجب ڤرچاي الله صيفت ارادة ايايت الله بركهندق\n٢. الله مها بركواس ملاكوكن اڤ يڠ دكهندقيڽ\n٣. الله تيدق برصفة ترڤقسا\n١. منيڠكتكن كايمانن\n٢. ممڤوڽاءي كيقينن ديري\n٣. صبر مڠهادڤي چابرن\n١. ممبواتكن كيت يقين دان برتوكل دڠن الله سباڬاي توهن سكالين عالم\n٢. مڠواتكن لاڬي كايمانن كيت ڤرچاي كڤد الله\n٣. كيت تيدق موده ڤوتوس اسا\n١. بوليه مروسقكن ايمان كيت كران كيت واجب ممڤرچايأي صفة واجب الله\n٢. بوليه مڽببكن كيت براس بوليه مالس دان ڤوتوس اسا دالم كهيدوڤن كران فيكيركن الله ايت برصفة ترڤقسا سداڠكن الله ايت برصفة كهندق\n١. موڠكين برلاكو\nكهندق مأنسي تيدق سمستيڽ داڤت دلقسانكن كران كهندق مأنسي اكن برڬنتوڠ كڤد كهندق الله\n٢. ترباتس\nكهندق مأنسي ممڤ��ڽاءي باتسن كران مأنسي تيدق ككال\n١. ڤستي برلاكو\nكهندق الله ڤستي برلاكو تياد سسياڤا يڠ بوليه مڠهالڠ كهندقڽ\n٢. تيدق ترباتس\nكهندق الله تياد باتس دان سمڤادن\nLive class daily with celebrity tutors","id":"<urn:uuid:33efb21a-8792-4165-b8ee-1a688a016be5>","dump":"CC-MAIN-2024-18","url":"https:\/\/app.pandai.org\/note\/read\/kssr-kf-y5-02-01\/kssr-y5-kf-02\/bab-2-aakyd-syft-arad","date":"2024-04-22T23:21:17Z","file_path":"s3:\/\/commoncrawl\/crawl-data\/CC-MAIN-2024-18\/segments\/1712296818374.84\/warc\/CC-MAIN-20240422211055-20240423001055-00316.warc.gz","language":"zsm","language_score":0.4293114841,"language_script":"Arab","minhash_cluster_size":2,"top_langs":"{\"zsm_Arab_score\": 0.42931148409843445, \"bjn_Arab_score\": 0.2902340590953827, \"min_Arab_score\": 0.24278634786605835, \"ace_Arab_score\": 0.021044211462140083}","num_words":221,"character_repetition_ratio":0.066,"word_repetition_ratio":0.0,"special_characters_ratio":0.235,"stopwords_ratio":0.104,"flagged_words_ratio":0.0,"lang_id_score":0.426,"perplexity_score":500.0,"cluster_detection":1}
+{"text":"7 questions\nاڤاكه مقصود دعاء؟\nڤربواتن همبا مموهون سسواتو كڤد الله\nممباسوه تاڠن دان موك\nڤربواتن روكوع دان سجود\nمناهن ديري درڤد ماكن دان مينوم\nانتارا برايكوت، يڠ مانكه دليل الله ممرينتهكن كيت سوڤاي بردعاء\nقُلۡ أَعُوذُ بِرَبِّ ٱلنَّاسِ\nوَلَمۡ يَكُن لَّهُۥ كُفُوًا أَحَدُۢ\nقُلۡ أَعُوذُ بِرَبِّ ٱلۡفَلَقِ\nوَقَالَ رَبُّكُمُ ٱدۡعُونِيٓ أَسۡتَجِبۡ لَكُمۡۚ\nمڠاڤكه كيت دتونتوت اونتوق بردعاء كڤد الله؟\nمموهون سوڤاي الله ممقبولكن دعاء كيت\nمڠيسي ماس لاڤڠ\nمندعاءكن كبوروقن اونتوق اورڠ لاءين\nممينتا سوڤاي دكناكن بالا بنچان\nانتارا ادب بردعاء كڤد الله اداله\nبروضوء\nبرچاكڤ-چاكڤ كتيك بردعاء\nتيدق مڠهادڤ قبلة\nتيدق بروضوء\n....برايكوت مروڤاكن تاتاچارا بردعاء كڤد الله كچوالي\nنية يڠ إخلاص كڤد الله\nمنومڤوكن ڤرهاتين ڤد دعاء\nمڠهادڤ قبلة\nتيدق مڠهادڤ قبلة\nانتارا برايكوت، سيتواسي مانكه يڠ منونجوقكن سسأورڠ برادب كتيك بردعاء\nايمان منومڤوكن ڤرهاتين كڤد دعاءڽ\nسيتي تيدق مڠهادڤ قبلة كتيك بردعاء\nعَلي تيدق بروضوء سبلوم بردعاء\nلُقمان بردعاء اونتوق منونجوق كباءيقن ديريڽ\nعُمر تيدق مڠهادڤ قبلة كتيك بردعاء. ادكه دعاء أيمان ماسيه بوليه دتريما اوليه الله؟\nيا\nتيدق","id":"<urn:uuid:77199c74-1476-4533-8d45-09608d7f6438>","dump":"CC-MAIN-2023-23","url":"https:\/\/quizizz.com\/admin\/quiz\/5fb62013bf3a25001bfbcd22\/adab-berdoa-tahun-2-sk-bbst","date":"2023-06-02T13:08:52Z","file_path":"s3:\/\/commoncrawl\/crawl-data\/CC-MAIN-2023-23\/segments\/1685224648635.78\/warc\/CC-MAIN-20230602104352-20230602134352-00032.warc.gz","language":"zsm","language_score":0.4523518682,"language_script":"Arab","minhash_cluster_size":1,"top_langs":"{\"zsm_Arab_score\": 0.4523518681526184, \"bjn_Arab_score\": 0.32698288559913635, \"ace_Arab_score\": 0.09801582247018814, \"min_Arab_score\": 0.07120407372713089}","num_words":162,"character_repetition_ratio":0.089,"word_repetition_ratio":0.0,"special_characters_ratio":0.197,"stopwords_ratio":0.086,"flagged_words_ratio":0.0,"lang_id_score":0.452,"perplexity_score":500.0,"cluster_detection":1}

zsm_Arab/fineweb-2_000001_remove.jsonl

@@ -0,0 +1,7 @@
+{"text":"اوكي. اكو سكارڠ اد مسئله. اكو نق تڠكڤ ڬمبر كاون اكو، دي نق برتونڠ بولن دڤن.مسئلهڽ اياله اكو تق اد سڤيدلايت. اكو برهارڤ ساڠت اد اورڠ يڠ بوليه تولوڠ اكو سكارڠ ني. بارڠ سسياڤا يڠ باءيق هاتي نق ڤينجمكن اكو سڤيدلايت دي اونتوق ٢-٣ هاري، تولوڠله باڬيتاهو يا؟\nيڠ برهارڤ\nاكم هرياتي كاسه ا.ق.ا چئ كمق.","id":"<urn:uuid:3cbd5c5e-1460-46e4-9fac-501b6fcdc8f5>","dump":"CC-MAIN-2017-22","url":"http:\/\/republikjiwa.blogspot.com\/2009\/02\/masalah.html","date":"2017-05-28T12:23:03Z","file_path":"s3:\/\/commoncrawl\/crawl-data\/CC-MAIN-2017-22\/segments\/1495463609817.29\/warc\/CC-MAIN-20170528120617-20170528140617-00181.warc.gz","language":"zsm","language_score":0.974437654,"language_script":"Arab","minhash_cluster_size":6,"top_langs":"{\"zsm_Arab_score\": 0.9744376540184021, \"min_Arab_score\": 0.023034077137708664}","num_words":56,"character_repetition_ratio":0.014,"word_repetition_ratio":0.0,"special_characters_ratio":0.268,"stopwords_ratio":0.304,"flagged_words_ratio":0.0,"lang_id_score":0.974,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"بوات ڤڠتاهوان ڤارا ڤمباچ لامن بلوݢ يڠ امت ساي حرمتي، ساي تلهڤون مڠمسکيني وجه لامن بلوݢ ساي سمڤنا تاهون بارو٢٠٢٠، سڤرتي يڠ تلهڤون ساي عمومکن ڤد اول بولن لڤس. اين اداله کران ساي ڤرلو مڠدڤتاسيکن لامن بلوݢ ساي کڤد سيستم بهارو ووردڤريسس، کران 'تيهم' لامن بلوݢ يڠ ساي ݢوناکن تيدق لاݢي دسوکوڠ اوليه ووردڤريسس.\nسڤرتي يڠ تله ساي عمومکن ڤد اول بولن لڤس، برمولا ڤد هاري ڤرتام تاهون بارو ٢٠٢٠، لامن بلوݢ ساي کيني بروجه بارو. اين اداله کران ساي ڤرلو مڠدڤتاسيکن لامن بلوݢ ساي کڤد سيستم بهارو ووردڤريسس، کران 'تيهم' لامن بلوݢ يڠ تله ساي ݢوناکن سجق لبيه سدکت يڠ لالو تيدق لاݢي دسوکوڠ اوليه ووردڤريسس.\nمنجونجوڠ سماڠت دان سروان تيته کبوه دولي يڠ مها مليا راج ڤرماءيسوري اݢوڠ، تونکو حجة عزيزة امينة ميمونة إسکندرية بنت المرحوم المتوکل على الله سلطان اسکندر الحج، ان شاء الله مولاي هاري اين ستياڤ رنچان توليسن ساي يڠ بربهاس ملايو اکن دسرتاکن دڠن ۏرسي توليسن جاوي، توليسن اصل باݢي بهاس کبڠسأن، سلاين درڤد ۏرسي توليسن رومي سڤرتي سبلوم اين.","id":"<urn:uuid:51ec96a7-6efd-43ba-930e-d4608c74bdcb>","dump":"CC-MAIN-2020-10","url":"https:\/\/ahmadalikarim.wordpress.com\/2020\/01\/01\/%D9%88%D8%AC%D9%87-%D8%A8%D8%A7%D8%B1%D9%88-%D9%84%D8%A7%D9%85%D9%86-%D8%A8%D9%84%D9%88%DD%A2-%D8%A7%D8%AD%D9%85%D8%AF-%D8%B9%D9%84%D9%8A-%D9%83%D8%B1%D9%8A%D9%85\/","date":"2020-02-27T02:37:04Z","file_path":"s3:\/\/commoncrawl\/crawl-data\/CC-MAIN-2020-10\/segments\/1581875146643.49\/warc\/CC-MAIN-20200227002351-20200227032351-00029.warc.gz","language":"zsm","language_score":0.47108531,"language_script":"Arab","minhash_cluster_size":8,"top_langs":"{\"zsm_Arab_score\": 0.4710853099822998, \"bjn_Arab_score\": 0.2785385549068451, \"ace_Arab_score\": 0.2033432424068451, \"min_Arab_score\": 0.04492053762078285}","num_words":166,"character_repetition_ratio":0.086,"word_repetition_ratio":0.115,"special_characters_ratio":0.23,"stopwords_ratio":0.181,"flagged_words_ratio":0.0,"lang_id_score":0.46,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"کومڤولن ڤڠکاجي دسبواه اونيۏرسيتي مندقوى داره بياوق اءير مڠندوڠي باهن يڠ بوليه منچݢه کنسر⹁ بکتيريا دان کموڠکينن ۏيروس کوۏيد-19.\nڤروفيسور جيتکامول ثاناسک دري فاکولتي ڤراوبتن ۏيترينر⹁ اونيۏرسيتي ماهيدول برکات⹁ کومڤولن ڤڠکاجي ايت اکن منليتي رهسيا سيستم ايمون بياوق اءير يڠ قوات سهيڠݢ ممبوليهکنڽ هيدوڤ دالم اءير ترچمر سرتا ماکن بڠکاي.\nکاتڽ⹁ کومڤولن ڤڠکاجي ايت سودن منداڤت کبنرن درڤد کراجاءن اونتوق مڠامبيل سمڤل داره بياوق اءير اونتوق دسليديق.\n\"سمڤل داره ايت دݢوناکن اونتوق مڠکاجي چيري٢ ڤروتين يڠ ممبنتوق سيستم ايمون دياوق اءير.\n\"ڤڠکاجي منداڤتي ڤروتين برکناءن بوليه ممبونوه سيل کنسر⹁ بکتيريا دان موڠکين براوڤايا منچݢه جڠکيتن ۏ��روس ترماسوق کوۏيد-19⹁\" کاتاڽ کڤد اخبر نيشن ثاءيلند.\nکومڤولن ڤڠکاجي ايت برچادڠ اونتوق مماتنکن کاجين ترسبوت سلڤس ڤڽليديقن راڤي دلاکوکن.\nمريک دجڠک مڽلسايکن کاجين اول ايت منجلڠ ڤڠهوجوڠ تاهون اين سبلوه دݢوناکن اونتوق مڠاوجي کبرکسنن مننتڠ اينفلوءينزا دان کوۏيد-19.","id":"<urn:uuid:45365807-8045-4807-92a0-b10750e28cdd>","dump":"CC-MAIN-2021-39","url":"https:\/\/ahmadalikarim.wordpress.com\/tag\/%D8%A8%D9%8A%D8%A7%D9%88%D9%82-%D8%A7%D8%A1%D9%8A%D8%B1\/","date":"2021-09-28T10:05:26Z","file_path":"s3:\/\/commoncrawl\/crawl-data\/CC-MAIN-2021-39\/segments\/1631780060677.55\/warc\/CC-MAIN-20210928092646-20210928122646-00585.warc.gz","language":"zsm","language_score":0.3055967391,"language_script":"Arab","minhash_cluster_size":5,"top_langs":"{\"zsm_Arab_score\": 0.3055967390537262, \"min_Arab_score\": 0.26807138323783875, \"ace_Arab_score\": 0.26294127106666565, \"bjn_Arab_score\": 0.15900598466396332}","num_words":134,"character_repetition_ratio":0.089,"word_repetition_ratio":0.0,"special_characters_ratio":0.193,"stopwords_ratio":0.09,"flagged_words_ratio":0.0,"lang_id_score":0.296,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"Pengguna:EmpAhmadK\/Jawi\nسلام سجاهترا! نام ساي احمد⹁ دان ساي براصل دري مليسيا. ساي سأورڠ ڤڽونتيڠ بياسا دويکيڤيديا يڠ ساڠت مڠهرݢاءي علمو سرتا ݢمر مڠوڠسيڽ دڠن اورڠ راماي. ساي جوݢ ملاکوکن ايلوستراسي ۏيکتور دان سريڠ ملوکيس سمولا سستڠه ݢرافيک راستر سڤرتي بنديرا سباݢاي ݢرافيک ۏيکتور. ساي جوݢ سأورڠ ڤمينت بنديرا. ساي تله مندالمي بيدڠ ۏيکسيلولوݢي سجق کچيل⹁ دان جوݢ تله مموات ناءيق کڤد کومنس باڽق ݢمبر٢ بنديرا برسجاره يڠ ساي تله لوکيس برداسرکن روجوعن يڠ تله ساي جومڤاءي. ساي اد باڽق لاݢي يڠ بلوم دلوکيس⹁ نامون دسببکن ککاڠن ماس عقبة ڤمبلاجرن ساي⹁ ساي ترڤقسا مڠنڤيکن داهولو حال٢ سدميکين بوات ماس اين. والاوڤون بݢيتو⹁ ساي ماسيه لاݢي ممبوات دان ممواتناءيقڽ دري سماس کسماس⹁ تراوتامڽ ݢرافيک يڠ لبيه موده اتاو يڠ ساي تله هامڤير لڠکڤکن داهولو.\nساي ممبوات ايلوستراسي ۏيکتور سباݢاي ساتو هوبي دان جوݢ دأتس ڤرمينتاءن کادڠ٢. کباڽقن حاصيل کاريا ساي اداله لوکيسن سمولا لوݢو اتاو بنديرا⹁ نامون ساي جوݢ مموات ناءيق ݢمبر٢ لاءين ﴿ڤوتريت⹁ ڤماندڠن⹁ کجادين⹁ دان سباݢايڽ﴾⹁ سرتا اءوديو سبوتن بهاس ملايو جيک ساي اد کلاڤڠن ماس ﴿لازيمڽ اونتوق مڽونتيڠ⹁ کران ساي سوده ممڤوڽاءي 54 فاءيل اءوديو يڠ بلوم دسونتيڠ ڤد ماس کيني⹁ کسمواڽ تله دراکمکن ڤد هاري يڠ سام دڠ يڠ تله ساي موات ناءيق سبلوم اين﴾. جيک اندا ماهوکن ساي اونتوق بنتو چيڤتا سام اد لوکيسن ۏيکتور اتاو راکمن اءوديو سبوتن بهاس ملايو⹁ کيريمکن ساي سڤوچوق سورت ملالوءي لامن ڤربينچاڠن ساي دان ساي اکن ليهت جيک ساي بوليه ملاکوکنڽ.\nايلوستراسي باݢي ويکيڤيديا بهاس ملايو\nبنديرا\nسيمبول\/لوݢو\/بنديرا ڤرتي ڤوليتيک\nاءوديو سبوتن ايستيله\nسبوتن بهاس ملايو باݢي ايستيله \"علم سميستا\".\nسبوتن بهاس ملايو باݢي نام يڠ دڤوتوان اݢوڠ مليسيا ک-16.\nسبوتن بهاس ملايو باݢي ايستيله \"بومي\".\nسبوتن بهاس ملايو باݢي نام \"مليسيا\".\nݢمبر٢\nساي ممڤوڽاءي باڽق کوميتمن لاءين⹁ معسودڽ ساي ڤرلو مڠنڤيکن کرجا٢ سوکريلاون دان هوبي سڤرتي اين. رانچاڠن ساي اداله اونتوق سلساي ملوکيس سمولا سموا بنديرا داءيره جوهر ﴿کسمواڽ سودهڤون دالم بنتوق ۏيکتور⹁ نامون ممڤوڽاءي اوکورن يڠ ساله باݢي سستڠه ايليمن﴾⹁ سرتا بنديرا٢ نݢري کلنتن يڠ ساي تله سلساي ملوکيس سمولا⹁ نامون بلوم سمڤت منوکرکن فورمتڽ. ساي جوݢ ڤرلو سياڤکن لوکيسن ۏيکتور لوݢو لمباݢ موزيوم نݢري ترڠݢانو يڠ دمينتا ڤڠݢون Anumengelamun. کيني⹁ ساي مندا��ولوکن ڤرمينتاءن دري ڤيهق ويکيڤيديا بهاس ملايو⹁ سرتا مموات ناءيق ايلوستراسي يڠ ساي تله سلساي چيڤتا ساتو دمي ساتو. ساي ماسيه منچيڤتا سستڠه ايلوستراسي لاءين نامون کباڽقنڽ ڤرلو توڠݢو سهيڠݢ ڤمبلاجرن ساي تامت.","id":"<urn:uuid:4636d246-f013-433e-8df0-8f346947f5a4>","dump":"CC-MAIN-2022-21","url":"https:\/\/ms.wikipedia.org\/wiki\/Pengguna:EmpAhmadK\/Jawi?uselang=ms-arab","date":"2022-05-23T11:34:52Z","file_path":"s3:\/\/commoncrawl\/crawl-data\/CC-MAIN-2022-21\/segments\/1652662558015.52\/warc\/CC-MAIN-20220523101705-20220523131705-00198.warc.gz","language":"zsm","language_score":0.3548944592,"language_script":"Arab","minhash_cluster_size":2,"top_langs":"{\"zsm_Arab_score\": 0.3548944592475891, \"bjn_Arab_score\": 0.25601503252983093, \"ace_Arab_score\": 0.25204747915267944, \"min_Arab_score\": 0.1344686895608902}","num_words":375,"character_repetition_ratio":0.075,"word_repetition_ratio":0.0,"special_characters_ratio":0.205,"stopwords_ratio":0.168,"flagged_words_ratio":0.0,"lang_id_score":0.355,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"اد ماساڽ اكو اڠڬن منوليس\nتتاڤي ڤينا دتاڠنكو\nمڠڬرقكن ديريڽ\nدان منوليس سسواتو\nﻣﮏ نمڤقله اكو يڠ منوليس\nسدڠكن اكو سدڠ لينا تيدور\nمميمڤيكن ديريمو يڠ بنچيكن ڤويسي\nدان مڠهيندري ڤويسيكو\nسبب ايت، اڠكاو ممباچ\nبڬيتو باڽق ڤويسيكو\nيڠ سارت دڠن كات كليسيكو\nبوكن اكو يڠ منوليسكنڽ\nسايڠكو، ملاءينكن ديريمو.","id":"<urn:uuid:14521488-f4de-4ca3-8a70-b6ce7bab14eb>","dump":"CC-MAIN-2023-50","url":"https:\/\/wadahdbp.my\/tinta-jawi\/%DA%A4%D9%88%D9%8A%D8%B3%D9%8A%DA%A9%D9%88\/","date":"2023-12-11T12:44:39Z","file_path":"s3:\/\/commoncrawl\/crawl-data\/CC-MAIN-2023-50\/segments\/1700679511159.96\/warc\/CC-MAIN-20231211112008-20231211142008-00726.warc.gz","language":"zsm","language_score":0.4480135739,"language_script":"Arab","minhash_cluster_size":2,"top_langs":"{\"zsm_Arab_score\": 0.448013573884964, \"min_Arab_score\": 0.34835830330848694, \"bjn_Arab_score\": 0.19164204597473145, \"ace_Arab_score\": 0.011350919492542744}","num_words":50,"character_repetition_ratio":0.036,"word_repetition_ratio":0.0,"special_characters_ratio":0.188,"stopwords_ratio":0.26,"flagged_words_ratio":0.0,"lang_id_score":0.448,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"کلوڤق مات ترتومڤو ڤد تمڤت ايت\nسوقتو هيڠرڽ سواسان ڤپبب اي ترجادي\nاکو دودوق مڠݢڠݢم ارت کرتس ڤوتيه\nهاڽ سباريس کات دأوڠكڤ—معاف.\nجک هاڽ دڠن سباريس کات داڤت اوباتي هاتي لوک\nجک هاڽ سباريس کات داڤت مپمڤاي بريتا\nجک هاڽ سباريس کات داڤت مڠوبه سمستا\nسباريس کات يڠ مپدرکن کاڤيستا سسواتو ڤرکارا.\nسباريس کات مپمڤاي سريبو معنا\nکادڠ اي منجاديکن ماءنسي ليک\nتنڤا سباريس کات ايت اکو تيدق اکن مڠتاهوءي\nيڠ ديري تيدق ڤرنه دهرڬاءي.","id":"<urn:uuid:cfc9519e-6033-45c2-8a2c-6a9de5af286e>","dump":"CC-MAIN-2024-18","url":"https:\/\/wadahdbp.my\/tinta-jawi\/sebaris-kata-%D8%B3%D8%A8%D8%A7%D8%B1%D9%8A%D8%B3-%DA%A9%D8%A7%D8%AA\/","date":"2024-04-18T10:57:17Z","file_path":"s3:\/\/commoncrawl\/crawl-data\/CC-MAIN-2024-18\/segments\/1712296817206.28\/warc\/CC-MAIN-20240418093630-20240418123630-00182.warc.gz","language":"zsm","language_score":0.4392797053,"language_script":"Arab","minhash_cluster_size":1,"top_langs":"{\"zsm_Arab_score\": 0.439279705286026, \"bjn_Arab_score\": 0.4297264814376831, \"min_Arab_score\": 0.07923950999975204, \"ace_Arab_score\": 0.05122397467494011}","num_words":75,"character_repetition_ratio":0.141,"word_repetition_ratio":0.0,"special_characters_ratio":0.219,"stopwords_ratio":0.12,"flagged_words_ratio":0.0,"lang_id_score":0.439,"perplexity_score":500.0,"cluster_detection":-1}
+{"text":"بقاء ممباوا مقصود ككال اداڽ. الله وجود اداله ككال. الله وجود تيدق اد اخيرڽ. الله وجود تيدق دداتڠي بيناسا. الله وجود تيدق منريما ڤروبهن. الله تيدق بوليه بروبه\nككال الله اداله ككال يڠ هاكيكي. الله تيدق برڬنتوڠ كڤد سسواتو اونتوق ككال. الله تيدق ممرلوكن سسواتو اونتوق ككال. كوجودن الله اداله واجب ككال يڠ تيدق اد ڤڠهوجوڠڽ\nChallenge your friend in timed Quiz battle","id":"<urn:uuid:843003e0-9835-4ce3-9ba8-b5dd13882404>","dump":"CC-MAIN-2024-18","url":"https:\/\/app.pandai.org\/note\/read\/kssr-kf-y2-02-06\/kssr-y2-kf-02\/bab-2syft-bkaaa","date":"2024-04-16T02:13:39Z","file_path":"s3:\/\/commoncrawl\/crawl-data\/CC-MAIN-2024-18\/segments\/1712296817036.4\/warc\/CC-MAIN-20240416000407-20240416030407-00581.warc.gz","language":"zsm","language_score":0.8408560753,"language_script":"Arab","minhash_cluster_size":1,"top_langs":"{\"zsm_Arab_score\": 0.8408560752868652, \"min_Arab_score\": 0.07774407416582108, \"bjn_Arab_score\": 0.03594689071178436, \"ace_Arab_score\": 0.025453487411141396}","num_words":63,"character_repetition_ratio":0.137,"word_repetition_ratio":0.0,"special_characters_ratio":0.242,"stopwords_ratio":0.175,"flagged_words_ratio":0.0,"lang_id_score":0.82,"perplexity_score":500.0,"cluster_detection":-1}

zsm_Arab/fineweb-2_000001_stas.jsonl

@@ -0,0 +1,115 @@
+[
+    {
+        "avg": {
+            "num_words": 146.3548387096774,
+            "character_repetition_ratio": 0.05116129032258064,
+            "word_repetition_ratio": 0.003709677419354839,
+            "special_characters_ratio": 0.2198064516129032,
+            "stopwords_ratio": 0.18596774193548388,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.5165806451612904,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "std": {
+            "num_words": 73.72116096048055,
+            "character_repetition_ratio": 0.03406833434124246,
+            "word_repetition_ratio": 0.02031874003648197,
+            "special_characters_ratio": 0.01572837861511993,
+            "stopwords_ratio": 0.05618890021885435,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.14214004320899418,
+            "perplexity_score": 0.0
+        }
+    },
+    {
+        "median": {
+            "num_words": 151.0,
+            "character_repetition_ratio": 0.039,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.218,
+            "stopwords_ratio": 0.181,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.474,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "max": {
+            "num_words": 375.0,
+            "character_repetition_ratio": 0.141,
+            "word_repetition_ratio": 0.115,
+            "special_characters_ratio": 0.268,
+            "stopwords_ratio": 0.304,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.974,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "min": {
+            "num_words": 50.0,
+            "character_repetition_ratio": 0.013,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.188,
+            "stopwords_ratio": 0.086,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.296,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "90%": {
+            "num_words": 221.0,
+            "character_repetition_ratio": 0.089,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.238,
+            "stopwords_ratio": 0.253,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.688,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "75%": {
+            "num_words": 176.0,
+            "character_repetition_ratio": 0.07050000000000001,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.226,
+            "stopwords_ratio": 0.2215,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.537,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "50%": {
+            "num_words": 151.0,
+            "character_repetition_ratio": 0.039,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.218,
+            "stopwords_ratio": 0.181,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.474,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "25%": {
+            "num_words": 83.0,
+            "character_repetition_ratio": 0.0225,
+            "word_repetition_ratio": 0.0,
+            "special_characters_ratio": 0.211,
+            "stopwords_ratio": 0.153,
+            "flagged_words_ratio": 0.0,
+            "lang_id_score": 0.442,
+            "perplexity_score": 500.0
+        }
+    },
+    {
+        "total size": "31",
+        "keep size": "24",
+        "remove size": "7"
+    }
+]