Datasets:
Yingli Shen
commited on
Add files using upload-large-folder tool
Browse filesThis view is limited to 50 files because it contains too many changes.
See raw diff
- .gitattributes +1 -0
- adj_Latn/fineweb-2_000001_keep.jsonl +0 -0
- adj_Latn/fineweb-2_000001_remove.jsonl +0 -0
- adj_Latn/fineweb-2_000001_stas.jsonl +115 -0
- bjn_Latn/fineweb-2_000001_keep.jsonl +0 -0
- bjn_Latn/fineweb-2_000001_remove.jsonl +0 -0
- bjn_Latn/fineweb-2_000001_stas.jsonl +115 -0
- bjn_Latn/mala_000002_remove.jsonl +0 -0
- bjn_Latn/mala_000002_stas.jsonl +115 -0
- ewe_Latn/fineweb-2_000001_keep.jsonl +0 -0
- ewe_Latn/fineweb-2_000001_remove.jsonl +0 -0
- ewe_Latn/fineweb-2_000001_stas.jsonl +115 -0
- ewe_Latn/mala_000002_stas.jsonl +115 -0
- gqr_Latn/fineweb-2_000001_keep.jsonl +0 -0
- gqr_Latn/fineweb-2_000001_remove.jsonl +5 -0
- gqr_Latn/fineweb-2_000001_stas.jsonl +115 -0
- hun_Latn/new_cc_000035_keep.jsonl +3 -0
- mbl_Latn/fineweb-2_000001_keep.jsonl +0 -0
- mbl_Latn/fineweb-2_000001_remove.jsonl +14 -0
- mbl_Latn/fineweb-2_000001_stas.jsonl +115 -0
- mbt_Latn/fineweb-2_000001_keep.jsonl +0 -0
- mbt_Latn/fineweb-2_000001_remove.jsonl +0 -0
- mbt_Latn/mala_000002_remove.jsonl +0 -0
- mnw_Latn/mala_000001_keep.jsonl +0 -0
- mnw_Latn/mala_000001_remove.jsonl +0 -0
- mnw_Latn/mala_000001_stas.jsonl +115 -0
- mrj_Cyrl/fineweb-2_000001_remove.jsonl +0 -0
- mrj_Cyrl/fineweb-2_000001_stas.jsonl +115 -0
- mrj_Cyrl/mala_000002_remove.jsonl +0 -0
- mrj_Cyrl/mala_000002_stas.jsonl +115 -0
- mrj_Cyrl/new_cc_000003_keep.jsonl +0 -0
- mrj_Cyrl/new_cc_000003_remove.jsonl +0 -0
- mrj_Cyrl/new_cc_000003_stas.jsonl +115 -0
- mrj_Cyrl/new_cc_000004_keep.jsonl +0 -0
- mrj_Cyrl/new_cc_000004_remove.jsonl +0 -0
- mrj_Cyrl/new_cc_000004_stas.jsonl +115 -0
- mrj_Cyrl/new_cc_000005_keep.jsonl +0 -0
- mrj_Cyrl/new_cc_000005_remove.jsonl +27 -0
- mrj_Cyrl/new_cc_000005_stas.jsonl +115 -0
- mrj_Cyrl/new_cc_000006_keep.jsonl +0 -0
- mrj_Cyrl/new_cc_000006_remove.jsonl +0 -0
- mrj_Cyrl/new_cc_000006_stas.jsonl +115 -0
- nhe_Latn/fineweb-2_000001_remove.jsonl +0 -0
- nhe_Latn/fineweb-2_000001_stas.jsonl +115 -0
- nhe_Latn/mala_000002_keep.jsonl +0 -0
- nhe_Latn/mala_000002_remove.jsonl +0 -0
- nhe_Latn/mala_000002_stas.jsonl +115 -0
- njy_Latn/mala_000001_keep.jsonl +1 -0
- njy_Latn/mala_000001_remove.jsonl +0 -0
- njy_Latn/mala_000001_stas.jsonl +115 -0
.gitattributes
CHANGED
@@ -4084,3 +4084,4 @@ hun_Latn/new_cc_000052_keep.jsonl filter=lfs diff=lfs merge=lfs -text
|
|
4084 |
hun_Latn/new_cc_000063_keep.jsonl filter=lfs diff=lfs merge=lfs -text
|
4085 |
hun_Latn/new_cc_000055_keep.jsonl filter=lfs diff=lfs merge=lfs -text
|
4086 |
hun_Latn/new_cc_000054_keep.jsonl filter=lfs diff=lfs merge=lfs -text
|
|
|
|
4084 |
hun_Latn/new_cc_000063_keep.jsonl filter=lfs diff=lfs merge=lfs -text
|
4085 |
hun_Latn/new_cc_000055_keep.jsonl filter=lfs diff=lfs merge=lfs -text
|
4086 |
hun_Latn/new_cc_000054_keep.jsonl filter=lfs diff=lfs merge=lfs -text
|
4087 |
+
hun_Latn/new_cc_000035_keep.jsonl filter=lfs diff=lfs merge=lfs -text
|
adj_Latn/fineweb-2_000001_keep.jsonl
ADDED
The diff for this file is too large to render.
See raw diff
|
|
adj_Latn/fineweb-2_000001_remove.jsonl
ADDED
The diff for this file is too large to render.
See raw diff
|
|
adj_Latn/fineweb-2_000001_stas.jsonl
ADDED
@@ -0,0 +1,115 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
[
|
2 |
+
{
|
3 |
+
"avg": {
|
4 |
+
"num_words": 438.1508379888268,
|
5 |
+
"character_repetition_ratio": 0.04317877094972067,
|
6 |
+
"word_repetition_ratio": 0.0020293296089385474,
|
7 |
+
"special_characters_ratio": 0.302804469273743,
|
8 |
+
"stopwords_ratio": 0.3983240223463687,
|
9 |
+
"flagged_words_ratio": 0.0,
|
10 |
+
"lang_id_score": 0.9993533519553073,
|
11 |
+
"perplexity_score": 500.0
|
12 |
+
}
|
13 |
+
},
|
14 |
+
{
|
15 |
+
"std": {
|
16 |
+
"num_words": 473.22256345860865,
|
17 |
+
"character_repetition_ratio": 0.030965179518670866,
|
18 |
+
"word_repetition_ratio": 0.0108779660488821,
|
19 |
+
"special_characters_ratio": 0.011741550254202426,
|
20 |
+
"stopwords_ratio": 0.04612832517901262,
|
21 |
+
"flagged_words_ratio": 0.0,
|
22 |
+
"lang_id_score": 0.01703002614326746,
|
23 |
+
"perplexity_score": 0.0
|
24 |
+
}
|
25 |
+
},
|
26 |
+
{
|
27 |
+
"median": {
|
28 |
+
"num_words": 87.5,
|
29 |
+
"character_repetition_ratio": 0.045,
|
30 |
+
"word_repetition_ratio": 0.0,
|
31 |
+
"special_characters_ratio": 0.303,
|
32 |
+
"stopwords_ratio": 0.4,
|
33 |
+
"flagged_words_ratio": 0.0,
|
34 |
+
"lang_id_score": 1.0,
|
35 |
+
"perplexity_score": 500.0
|
36 |
+
}
|
37 |
+
},
|
38 |
+
{
|
39 |
+
"max": {
|
40 |
+
"num_words": 2117.0,
|
41 |
+
"character_repetition_ratio": 0.156,
|
42 |
+
"word_repetition_ratio": 0.219,
|
43 |
+
"special_characters_ratio": 0.348,
|
44 |
+
"stopwords_ratio": 0.538,
|
45 |
+
"flagged_words_ratio": 0.0,
|
46 |
+
"lang_id_score": 1.0,
|
47 |
+
"perplexity_score": 500.0
|
48 |
+
}
|
49 |
+
},
|
50 |
+
{
|
51 |
+
"min": {
|
52 |
+
"num_words": 52.0,
|
53 |
+
"character_repetition_ratio": 0.0,
|
54 |
+
"word_repetition_ratio": 0.0,
|
55 |
+
"special_characters_ratio": 0.26,
|
56 |
+
"stopwords_ratio": 0.122,
|
57 |
+
"flagged_words_ratio": 0.0,
|
58 |
+
"lang_id_score": 0.544,
|
59 |
+
"perplexity_score": 500.0
|
60 |
+
}
|
61 |
+
},
|
62 |
+
{
|
63 |
+
"90%": {
|
64 |
+
"num_words": 1117.0,
|
65 |
+
"character_repetition_ratio": 0.086,
|
66 |
+
"word_repetition_ratio": 0.003,
|
67 |
+
"special_characters_ratio": 0.316,
|
68 |
+
"stopwords_ratio": 0.4505,
|
69 |
+
"flagged_words_ratio": 0.0,
|
70 |
+
"lang_id_score": 1.0,
|
71 |
+
"perplexity_score": 500.0
|
72 |
+
}
|
73 |
+
},
|
74 |
+
{
|
75 |
+
"75%": {
|
76 |
+
"num_words": 793.0,
|
77 |
+
"character_repetition_ratio": 0.05725,
|
78 |
+
"word_repetition_ratio": 0.0,
|
79 |
+
"special_characters_ratio": 0.31,
|
80 |
+
"stopwords_ratio": 0.425,
|
81 |
+
"flagged_words_ratio": 0.0,
|
82 |
+
"lang_id_score": 1.0,
|
83 |
+
"perplexity_score": 500.0
|
84 |
+
}
|
85 |
+
},
|
86 |
+
{
|
87 |
+
"50%": {
|
88 |
+
"num_words": 87.5,
|
89 |
+
"character_repetition_ratio": 0.045,
|
90 |
+
"word_repetition_ratio": 0.0,
|
91 |
+
"special_characters_ratio": 0.303,
|
92 |
+
"stopwords_ratio": 0.4,
|
93 |
+
"flagged_words_ratio": 0.0,
|
94 |
+
"lang_id_score": 1.0,
|
95 |
+
"perplexity_score": 500.0
|
96 |
+
}
|
97 |
+
},
|
98 |
+
{
|
99 |
+
"25%": {
|
100 |
+
"num_words": 62.0,
|
101 |
+
"character_repetition_ratio": 0.016,
|
102 |
+
"word_repetition_ratio": 0.0,
|
103 |
+
"special_characters_ratio": 0.296,
|
104 |
+
"stopwords_ratio": 0.377,
|
105 |
+
"flagged_words_ratio": 0.0,
|
106 |
+
"lang_id_score": 1.0,
|
107 |
+
"perplexity_score": 500.0
|
108 |
+
}
|
109 |
+
},
|
110 |
+
{
|
111 |
+
"total size": "716",
|
112 |
+
"keep size": "664",
|
113 |
+
"remove size": "52"
|
114 |
+
}
|
115 |
+
]
|
bjn_Latn/fineweb-2_000001_keep.jsonl
ADDED
The diff for this file is too large to render.
See raw diff
|
|
bjn_Latn/fineweb-2_000001_remove.jsonl
ADDED
The diff for this file is too large to render.
See raw diff
|
|
bjn_Latn/fineweb-2_000001_stas.jsonl
ADDED
@@ -0,0 +1,115 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
[
|
2 |
+
{
|
3 |
+
"avg": {
|
4 |
+
"num_words": 497.2424965893588,
|
5 |
+
"character_repetition_ratio": 0.09264733969986359,
|
6 |
+
"word_repetition_ratio": 0.02090620736698499,
|
7 |
+
"special_characters_ratio": 0.18306412005457023,
|
8 |
+
"stopwords_ratio": 0.08175102319236016,
|
9 |
+
"flagged_words_ratio": 0.0019935197817189635,
|
10 |
+
"lang_id_score": 0.8845150068212825,
|
11 |
+
"perplexity_score": 500.0
|
12 |
+
}
|
13 |
+
},
|
14 |
+
{
|
15 |
+
"std": {
|
16 |
+
"num_words": 1507.1967646966043,
|
17 |
+
"character_repetition_ratio": 0.07620090249250189,
|
18 |
+
"word_repetition_ratio": 0.06724759084479556,
|
19 |
+
"special_characters_ratio": 0.019614444880336503,
|
20 |
+
"stopwords_ratio": 0.050296061561908585,
|
21 |
+
"flagged_words_ratio": 0.009227436934817508,
|
22 |
+
"lang_id_score": 0.20413166705949126,
|
23 |
+
"perplexity_score": 0.0
|
24 |
+
}
|
25 |
+
},
|
26 |
+
{
|
27 |
+
"median": {
|
28 |
+
"num_words": 227.0,
|
29 |
+
"character_repetition_ratio": 0.068,
|
30 |
+
"word_repetition_ratio": 0.0,
|
31 |
+
"special_characters_ratio": 0.183,
|
32 |
+
"stopwords_ratio": 0.073,
|
33 |
+
"flagged_words_ratio": 0.0,
|
34 |
+
"lang_id_score": 1.0,
|
35 |
+
"perplexity_score": 500.0
|
36 |
+
}
|
37 |
+
},
|
38 |
+
{
|
39 |
+
"max": {
|
40 |
+
"num_words": 30842.0,
|
41 |
+
"character_repetition_ratio": 0.53,
|
42 |
+
"word_repetition_ratio": 0.917,
|
43 |
+
"special_characters_ratio": 0.314,
|
44 |
+
"stopwords_ratio": 0.333,
|
45 |
+
"flagged_words_ratio": 0.2,
|
46 |
+
"lang_id_score": 1.0,
|
47 |
+
"perplexity_score": 500.0
|
48 |
+
}
|
49 |
+
},
|
50 |
+
{
|
51 |
+
"min": {
|
52 |
+
"num_words": 43.0,
|
53 |
+
"character_repetition_ratio": 0.0,
|
54 |
+
"word_repetition_ratio": 0.0,
|
55 |
+
"special_characters_ratio": 0.125,
|
56 |
+
"stopwords_ratio": 0.001,
|
57 |
+
"flagged_words_ratio": 0.0,
|
58 |
+
"lang_id_score": 0.142,
|
59 |
+
"perplexity_score": 500.0
|
60 |
+
}
|
61 |
+
},
|
62 |
+
{
|
63 |
+
"90%": {
|
64 |
+
"num_words": 831.4000000000005,
|
65 |
+
"character_repetition_ratio": 0.193,
|
66 |
+
"word_repetition_ratio": 0.07,
|
67 |
+
"special_characters_ratio": 0.205,
|
68 |
+
"stopwords_ratio": 0.153,
|
69 |
+
"flagged_words_ratio": 0.005,
|
70 |
+
"lang_id_score": 1.0,
|
71 |
+
"perplexity_score": 500.0
|
72 |
+
}
|
73 |
+
},
|
74 |
+
{
|
75 |
+
"75%": {
|
76 |
+
"num_words": 406.0,
|
77 |
+
"character_repetition_ratio": 0.09425,
|
78 |
+
"word_repetition_ratio": 0.0,
|
79 |
+
"special_characters_ratio": 0.193,
|
80 |
+
"stopwords_ratio": 0.114,
|
81 |
+
"flagged_words_ratio": 0.0,
|
82 |
+
"lang_id_score": 1.0,
|
83 |
+
"perplexity_score": 500.0
|
84 |
+
}
|
85 |
+
},
|
86 |
+
{
|
87 |
+
"50%": {
|
88 |
+
"num_words": 227.0,
|
89 |
+
"character_repetition_ratio": 0.068,
|
90 |
+
"word_repetition_ratio": 0.0,
|
91 |
+
"special_characters_ratio": 0.183,
|
92 |
+
"stopwords_ratio": 0.073,
|
93 |
+
"flagged_words_ratio": 0.0,
|
94 |
+
"lang_id_score": 1.0,
|
95 |
+
"perplexity_score": 500.0
|
96 |
+
}
|
97 |
+
},
|
98 |
+
{
|
99 |
+
"25%": {
|
100 |
+
"num_words": 115.0,
|
101 |
+
"character_repetition_ratio": 0.053,
|
102 |
+
"word_repetition_ratio": 0.0,
|
103 |
+
"special_characters_ratio": 0.17,
|
104 |
+
"stopwords_ratio": 0.046,
|
105 |
+
"flagged_words_ratio": 0.0,
|
106 |
+
"lang_id_score": 0.828,
|
107 |
+
"perplexity_score": 500.0
|
108 |
+
}
|
109 |
+
},
|
110 |
+
{
|
111 |
+
"total size": "2932",
|
112 |
+
"keep size": "2697",
|
113 |
+
"remove size": "235"
|
114 |
+
}
|
115 |
+
]
|
bjn_Latn/mala_000002_remove.jsonl
ADDED
The diff for this file is too large to render.
See raw diff
|
|
bjn_Latn/mala_000002_stas.jsonl
ADDED
@@ -0,0 +1,115 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
[
|
2 |
+
{
|
3 |
+
"avg": {
|
4 |
+
"num_words": 50.23764249562461,
|
5 |
+
"character_repetition_ratio": 0.02613956293458209,
|
6 |
+
"word_repetition_ratio": 0.00027318953691878343,
|
7 |
+
"special_characters_ratio": 0.17649600302729293,
|
8 |
+
"stopwords_ratio": 0.0005395676647273072,
|
9 |
+
"flagged_words_ratio": 0.00022995600964949623,
|
10 |
+
"lang_id_score": 0.9502088832127146,
|
11 |
+
"perplexity_score": 80059.7207653375
|
12 |
+
}
|
13 |
+
},
|
14 |
+
{
|
15 |
+
"std": {
|
16 |
+
"num_words": 184.0972772396916,
|
17 |
+
"character_repetition_ratio": 0.04268256459768793,
|
18 |
+
"word_repetition_ratio": 0.006467895609231526,
|
19 |
+
"special_characters_ratio": 0.04199064054067544,
|
20 |
+
"stopwords_ratio": 0.004227887975881074,
|
21 |
+
"flagged_words_ratio": 0.003539084673786287,
|
22 |
+
"lang_id_score": 0.13672551014094714,
|
23 |
+
"perplexity_score": 43283.607857793766
|
24 |
+
}
|
25 |
+
},
|
26 |
+
{
|
27 |
+
"median": {
|
28 |
+
"num_words": 24.0,
|
29 |
+
"character_repetition_ratio": 0.0,
|
30 |
+
"word_repetition_ratio": 0.0,
|
31 |
+
"special_characters_ratio": 0.162,
|
32 |
+
"stopwords_ratio": 0.0,
|
33 |
+
"flagged_words_ratio": 0.0,
|
34 |
+
"lang_id_score": 1.0,
|
35 |
+
"perplexity_score": 68234.8
|
36 |
+
}
|
37 |
+
},
|
38 |
+
{
|
39 |
+
"max": {
|
40 |
+
"num_words": 15439.0,
|
41 |
+
"character_repetition_ratio": 0.2,
|
42 |
+
"word_repetition_ratio": 0.523,
|
43 |
+
"special_characters_ratio": 0.4,
|
44 |
+
"stopwords_ratio": 0.1,
|
45 |
+
"flagged_words_ratio": 0.154,
|
46 |
+
"lang_id_score": 1.0,
|
47 |
+
"perplexity_score": 331044.2
|
48 |
+
}
|
49 |
+
},
|
50 |
+
{
|
51 |
+
"min": {
|
52 |
+
"num_words": 10.0,
|
53 |
+
"character_repetition_ratio": 0.0,
|
54 |
+
"word_repetition_ratio": 0.0,
|
55 |
+
"special_characters_ratio": 0.097,
|
56 |
+
"stopwords_ratio": 0.0,
|
57 |
+
"flagged_words_ratio": 0.0,
|
58 |
+
"lang_id_score": 0.063,
|
59 |
+
"perplexity_score": 157.4
|
60 |
+
}
|
61 |
+
},
|
62 |
+
{
|
63 |
+
"90%": {
|
64 |
+
"num_words": 79.0,
|
65 |
+
"character_repetition_ratio": 0.096,
|
66 |
+
"word_repetition_ratio": 0.0,
|
67 |
+
"special_characters_ratio": 0.232,
|
68 |
+
"stopwords_ratio": 0.0,
|
69 |
+
"flagged_words_ratio": 0.0,
|
70 |
+
"lang_id_score": 1.0,
|
71 |
+
"perplexity_score": 140644.54
|
72 |
+
}
|
73 |
+
},
|
74 |
+
{
|
75 |
+
"75%": {
|
76 |
+
"num_words": 39.0,
|
77 |
+
"character_repetition_ratio": 0.042,
|
78 |
+
"word_repetition_ratio": 0.0,
|
79 |
+
"special_characters_ratio": 0.188,
|
80 |
+
"stopwords_ratio": 0.0,
|
81 |
+
"flagged_words_ratio": 0.0,
|
82 |
+
"lang_id_score": 1.0,
|
83 |
+
"perplexity_score": 104240.45
|
84 |
+
}
|
85 |
+
},
|
86 |
+
{
|
87 |
+
"50%": {
|
88 |
+
"num_words": 24.0,
|
89 |
+
"character_repetition_ratio": 0.0,
|
90 |
+
"word_repetition_ratio": 0.0,
|
91 |
+
"special_characters_ratio": 0.162,
|
92 |
+
"stopwords_ratio": 0.0,
|
93 |
+
"flagged_words_ratio": 0.0,
|
94 |
+
"lang_id_score": 1.0,
|
95 |
+
"perplexity_score": 68234.8
|
96 |
+
}
|
97 |
+
},
|
98 |
+
{
|
99 |
+
"25%": {
|
100 |
+
"num_words": 18.0,
|
101 |
+
"character_repetition_ratio": 0.0,
|
102 |
+
"word_repetition_ratio": 0.0,
|
103 |
+
"special_characters_ratio": 0.15,
|
104 |
+
"stopwords_ratio": 0.0,
|
105 |
+
"flagged_words_ratio": 0.0,
|
106 |
+
"lang_id_score": 0.989,
|
107 |
+
"perplexity_score": 49587.4
|
108 |
+
}
|
109 |
+
},
|
110 |
+
{
|
111 |
+
"total size": "42282",
|
112 |
+
"keep size": "39297",
|
113 |
+
"remove size": "2985"
|
114 |
+
}
|
115 |
+
]
|
ewe_Latn/fineweb-2_000001_keep.jsonl
ADDED
The diff for this file is too large to render.
See raw diff
|
|
ewe_Latn/fineweb-2_000001_remove.jsonl
ADDED
The diff for this file is too large to render.
See raw diff
|
|
ewe_Latn/fineweb-2_000001_stas.jsonl
ADDED
@@ -0,0 +1,115 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
[
|
2 |
+
{
|
3 |
+
"avg": {
|
4 |
+
"num_words": 409.364064602961,
|
5 |
+
"character_repetition_ratio": 0.050195827725437424,
|
6 |
+
"word_repetition_ratio": 3.297442799461642e-05,
|
7 |
+
"special_characters_ratio": 0.23826514131897714,
|
8 |
+
"stopwords_ratio": 0.22689804845222078,
|
9 |
+
"flagged_words_ratio": 0.002684387617765814,
|
10 |
+
"lang_id_score": 0.9924582772543742,
|
11 |
+
"perplexity_score": 500.0
|
12 |
+
}
|
13 |
+
},
|
14 |
+
{
|
15 |
+
"std": {
|
16 |
+
"num_words": 420.7092974349587,
|
17 |
+
"character_repetition_ratio": 0.02617530729651948,
|
18 |
+
"word_repetition_ratio": 0.0010207748663365775,
|
19 |
+
"special_characters_ratio": 0.022834319497592168,
|
20 |
+
"stopwords_ratio": 0.049495156949618514,
|
21 |
+
"flagged_words_ratio": 0.004230566987312704,
|
22 |
+
"lang_id_score": 0.04733159502642471,
|
23 |
+
"perplexity_score": 0.0
|
24 |
+
}
|
25 |
+
},
|
26 |
+
{
|
27 |
+
"median": {
|
28 |
+
"num_words": 292.5,
|
29 |
+
"character_repetition_ratio": 0.05,
|
30 |
+
"word_repetition_ratio": 0.0,
|
31 |
+
"special_characters_ratio": 0.238,
|
32 |
+
"stopwords_ratio": 0.231,
|
33 |
+
"flagged_words_ratio": 0.0,
|
34 |
+
"lang_id_score": 0.999,
|
35 |
+
"perplexity_score": 500.0
|
36 |
+
}
|
37 |
+
},
|
38 |
+
{
|
39 |
+
"max": {
|
40 |
+
"num_words": 3821.0,
|
41 |
+
"character_repetition_ratio": 0.192,
|
42 |
+
"word_repetition_ratio": 0.053,
|
43 |
+
"special_characters_ratio": 0.406,
|
44 |
+
"stopwords_ratio": 0.484,
|
45 |
+
"flagged_words_ratio": 0.048,
|
46 |
+
"lang_id_score": 1.0,
|
47 |
+
"perplexity_score": 500.0
|
48 |
+
}
|
49 |
+
},
|
50 |
+
{
|
51 |
+
"min": {
|
52 |
+
"num_words": 46.0,
|
53 |
+
"character_repetition_ratio": 0.0,
|
54 |
+
"word_repetition_ratio": 0.0,
|
55 |
+
"special_characters_ratio": 0.152,
|
56 |
+
"stopwords_ratio": 0.013,
|
57 |
+
"flagged_words_ratio": 0.0,
|
58 |
+
"lang_id_score": 0.294,
|
59 |
+
"perplexity_score": 500.0
|
60 |
+
}
|
61 |
+
},
|
62 |
+
{
|
63 |
+
"90%": {
|
64 |
+
"num_words": 841.7000000000003,
|
65 |
+
"character_repetition_ratio": 0.081,
|
66 |
+
"word_repetition_ratio": 0.0,
|
67 |
+
"special_characters_ratio": 0.265,
|
68 |
+
"stopwords_ratio": 0.28,
|
69 |
+
"flagged_words_ratio": 0.007,
|
70 |
+
"lang_id_score": 0.999,
|
71 |
+
"perplexity_score": 500.0
|
72 |
+
}
|
73 |
+
},
|
74 |
+
{
|
75 |
+
"75%": {
|
76 |
+
"num_words": 526.0,
|
77 |
+
"character_repetition_ratio": 0.063,
|
78 |
+
"word_repetition_ratio": 0.0,
|
79 |
+
"special_characters_ratio": 0.253,
|
80 |
+
"stopwords_ratio": 0.256,
|
81 |
+
"flagged_words_ratio": 0.004,
|
82 |
+
"lang_id_score": 0.999,
|
83 |
+
"perplexity_score": 500.0
|
84 |
+
}
|
85 |
+
},
|
86 |
+
{
|
87 |
+
"50%": {
|
88 |
+
"num_words": 292.5,
|
89 |
+
"character_repetition_ratio": 0.05,
|
90 |
+
"word_repetition_ratio": 0.0,
|
91 |
+
"special_characters_ratio": 0.238,
|
92 |
+
"stopwords_ratio": 0.231,
|
93 |
+
"flagged_words_ratio": 0.0,
|
94 |
+
"lang_id_score": 0.999,
|
95 |
+
"perplexity_score": 500.0
|
96 |
+
}
|
97 |
+
},
|
98 |
+
{
|
99 |
+
"25%": {
|
100 |
+
"num_words": 127.0,
|
101 |
+
"character_repetition_ratio": 0.037,
|
102 |
+
"word_repetition_ratio": 0.0,
|
103 |
+
"special_characters_ratio": 0.225,
|
104 |
+
"stopwords_ratio": 0.203,
|
105 |
+
"flagged_words_ratio": 0.0,
|
106 |
+
"lang_id_score": 0.997,
|
107 |
+
"perplexity_score": 500.0
|
108 |
+
}
|
109 |
+
},
|
110 |
+
{
|
111 |
+
"total size": "2972",
|
112 |
+
"keep size": "2770",
|
113 |
+
"remove size": "202"
|
114 |
+
}
|
115 |
+
]
|
ewe_Latn/mala_000002_stas.jsonl
ADDED
@@ -0,0 +1,115 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
[
|
2 |
+
{
|
3 |
+
"avg": {
|
4 |
+
"num_words": 279.1080215934677,
|
5 |
+
"character_repetition_ratio": 0.012568049263489136,
|
6 |
+
"word_repetition_ratio": 0.0018271437484740796,
|
7 |
+
"special_characters_ratio": 0.2178753492662019,
|
8 |
+
"stopwords_ratio": 0.019442313430811382,
|
9 |
+
"flagged_words_ratio": 0.0011169736592246968,
|
10 |
+
"lang_id_score": 0.9949236632938177,
|
11 |
+
"perplexity_score": 14477.970032281692
|
12 |
+
}
|
13 |
+
},
|
14 |
+
{
|
15 |
+
"std": {
|
16 |
+
"num_words": 1085.2684837861145,
|
17 |
+
"character_repetition_ratio": 0.02819803796543358,
|
18 |
+
"word_repetition_ratio": 0.012975691466157421,
|
19 |
+
"special_characters_ratio": 0.03270701213930351,
|
20 |
+
"stopwords_ratio": 0.028866981765235736,
|
21 |
+
"flagged_words_ratio": 0.00657690809479569,
|
22 |
+
"lang_id_score": 0.03149122732069535,
|
23 |
+
"perplexity_score": 5823.739866555725
|
24 |
+
}
|
25 |
+
},
|
26 |
+
{
|
27 |
+
"median": {
|
28 |
+
"num_words": 26.0,
|
29 |
+
"character_repetition_ratio": 0.0,
|
30 |
+
"word_repetition_ratio": 0.0,
|
31 |
+
"special_characters_ratio": 0.217,
|
32 |
+
"stopwords_ratio": 0.0,
|
33 |
+
"flagged_words_ratio": 0.0,
|
34 |
+
"lang_id_score": 0.999,
|
35 |
+
"perplexity_score": 13405.8
|
36 |
+
}
|
37 |
+
},
|
38 |
+
{
|
39 |
+
"max": {
|
40 |
+
"num_words": 51471.0,
|
41 |
+
"character_repetition_ratio": 0.2,
|
42 |
+
"word_repetition_ratio": 0.969,
|
43 |
+
"special_characters_ratio": 0.396,
|
44 |
+
"stopwords_ratio": 0.25,
|
45 |
+
"flagged_words_ratio": 0.154,
|
46 |
+
"lang_id_score": 1.0,
|
47 |
+
"perplexity_score": 42919.4
|
48 |
+
}
|
49 |
+
},
|
50 |
+
{
|
51 |
+
"min": {
|
52 |
+
"num_words": 10.0,
|
53 |
+
"character_repetition_ratio": 0.0,
|
54 |
+
"word_repetition_ratio": 0.0,
|
55 |
+
"special_characters_ratio": 0.102,
|
56 |
+
"stopwords_ratio": 0.0,
|
57 |
+
"flagged_words_ratio": 0.0,
|
58 |
+
"lang_id_score": 0.154,
|
59 |
+
"perplexity_score": 42.0
|
60 |
+
}
|
61 |
+
},
|
62 |
+
{
|
63 |
+
"90%": {
|
64 |
+
"num_words": 787.0,
|
65 |
+
"character_repetition_ratio": 0.052,
|
66 |
+
"word_repetition_ratio": 0.0,
|
67 |
+
"special_characters_ratio": 0.258,
|
68 |
+
"stopwords_ratio": 0.059,
|
69 |
+
"flagged_words_ratio": 0.001,
|
70 |
+
"lang_id_score": 1.0,
|
71 |
+
"perplexity_score": 22290.140000000014
|
72 |
+
}
|
73 |
+
},
|
74 |
+
{
|
75 |
+
"75%": {
|
76 |
+
"num_words": 41.0,
|
77 |
+
"character_repetition_ratio": 0.0,
|
78 |
+
"word_repetition_ratio": 0.0,
|
79 |
+
"special_characters_ratio": 0.238,
|
80 |
+
"stopwords_ratio": 0.033,
|
81 |
+
"flagged_words_ratio": 0.0,
|
82 |
+
"lang_id_score": 1.0,
|
83 |
+
"perplexity_score": 17554.0
|
84 |
+
}
|
85 |
+
},
|
86 |
+
{
|
87 |
+
"50%": {
|
88 |
+
"num_words": 26.0,
|
89 |
+
"character_repetition_ratio": 0.0,
|
90 |
+
"word_repetition_ratio": 0.0,
|
91 |
+
"special_characters_ratio": 0.217,
|
92 |
+
"stopwords_ratio": 0.0,
|
93 |
+
"flagged_words_ratio": 0.0,
|
94 |
+
"lang_id_score": 0.999,
|
95 |
+
"perplexity_score": 13405.8
|
96 |
+
}
|
97 |
+
},
|
98 |
+
{
|
99 |
+
"25%": {
|
100 |
+
"num_words": 19.0,
|
101 |
+
"character_repetition_ratio": 0.0,
|
102 |
+
"word_repetition_ratio": 0.0,
|
103 |
+
"special_characters_ratio": 0.196,
|
104 |
+
"stopwords_ratio": 0.0,
|
105 |
+
"flagged_words_ratio": 0.0,
|
106 |
+
"lang_id_score": 0.998,
|
107 |
+
"perplexity_score": 10494.8
|
108 |
+
}
|
109 |
+
},
|
110 |
+
{
|
111 |
+
"total size": "36863",
|
112 |
+
"keep size": "34250",
|
113 |
+
"remove size": "2613"
|
114 |
+
}
|
115 |
+
]
|
gqr_Latn/fineweb-2_000001_keep.jsonl
ADDED
The diff for this file is too large to render.
See raw diff
|
|
gqr_Latn/fineweb-2_000001_remove.jsonl
ADDED
@@ -0,0 +1,5 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
{"text":"1Ginn kaw lə Jeju Kirisitɨ kɨ ngonnkaw Dabidɨ, kɨ ngonnkaw Abiraham ə to kin: 2Abiraham ojɨ Isakɨ, Isakɨ ojɨ Jakobɨ, Jakobɨ ojɨ Juda kɨ ngannkon'a'gɨ. 3Juda in kɨ Tamar oji Peresɨ kɨ Jara, Peresɨ ojɨ Esirom, Esirom ojɨ Aram, 4Aram ojɨ Aminadabɨ, Aminadabɨ ojɨ Nason, Nason ojɨ Salmon, 5Salmon in kɨ Rahabɨ oji Bowajɨ, Bowajɨ in kɨ Rutɨ oji Obedɨ, Obedɨ ojɨ Jese, 6Jese ojɨ ngar Dabidɨ. Dabidɨ taa ne Uri ojɨ'n Salomon, 7Salomon ojɨ Robowam, Robowam ojɨ Abiya, Abiya ojɨ Asa, 8Asa ojɨ Jojapa, Jojapa ojɨ Joram, Joram ojɨ Ojiyasɨ, 9Ojiyasɨ ojɨ Jowatam, Jowatam ojɨ Akajɨ, Akajɨ ojɨ Ejəkiyasɨ, 10Ejəkiyasɨ Ojɨ Manasa, Manasa ojɨ Amon, Amon ojɨ Jojiyasɨ, 11Jojiyasɨ ojɨ Jekoniyasɨ kɨ ngannkon'a'gɨ. Dɔkagilo'ə'tɨ kin ə uwəi de'gɨ kɨ Jerujalem awi se'de ɓər Babilon'tɨ. 12Lokɨ awi se'de Babilon'tɨ, Jekoniyasɨ ojɨ Salatiyel, Salatiyel ojɨ Jorobabel, 13Jorobabel ojɨ Abiyudɨ, Abiyudɨ ojɨ Eliyakim, Eliyakim ojɨ Ajɔr, 14Ajɔr ojɨ Sadokɨ, Sadokɨ ojɨ Akim, Akim ojɨ Eliyudɨ, 15Eliyudɨ ojɨ Eliyajar, Eliyajar ojɨ Matan, Matan ojɨ Jakobɨ, 16Jakobɨ ojɨ Jisepɨ kɨ ngaw Mari. Ningə Mari ojɨ Jeju kɨ ɓari'ə Kirisitɨ, De kɨ Luwə mbət'ə. 17Ulə ngirə dɔ Abiraham'tɨ bitɨ te'n dɔ Dabidɨ'tɨ, ginn kojɨ in dɔgɨ gidə in sɔ, ə in dɔ Dabidɨ'tɨ bitɨ kaw ɓər Babilon'tɨ, in ginn kojɨ dɔgɨ gidə sɔ, taa in dɔ kaw ɓər Babilon'tɨ bitɨ kojɨ Kirisitɨ'tɨ, in ginn kojɨ dɔgɨ gidə in sɔ tɔ. 18Gorow kojɨ Jeju Kirisitɨ ə to kin. Kon'a Mari in njenduwə lə Jisepɨ kɨ uwə dɔ'a. Ningə, lokɨ ingəi nan dene kɨ dingəm el ɓay ə, Mari in səm kɨ tɔgɨ lə Ndil Luwə. 19Lo kin'tɨ non be, Jisepɨ kɨ njenduwə lə Mari, in de kɨ dana, ndigɨ kadɨ n'elta kin kɨ taga n'ulə'n rɔsɔl dɔ Mari'tɨ el, adɨ ɔjɨ me'ne'tɨ kadɨ n'inyəi nan kɨ Mari gidɨ kuwə par. 20Lokɨ ɔjɨ ta kin be me'ne'tɨ ningə, malayka lə Burəɓe te bus me nii'tɨ el'ə ene: «Jisepɨ, ngonnkaw Dabidɨ, ɓol el kadɨ taa Mari ne'i'tɨ, tadɔ ngonn kɨ to me'i'tɨ kin, in ngonn kɨ re kɨ gorow lə Ndil Luwə. 21Mari a ojɨ ngonn kɨ dingəm, ningə a ində tɔ'a nan Jeju, tadɔ in ə in de kɨ a ajɨ de'gɨ lə'ne me majel'gɨ'tɨ lə'de.» 22Nya'gɨ kin pətɨ a rai nya be kadɨ ta kɨ Burəɓe el kɨ ta njekeltakita'a'tɨ kete nu kin tɔlta'ne. 23Burəɓe el ene: «Oyi ngonn kɨ mandɨ kɨ gər dingəm el ɓay a in səm, A ɔjɨ ngonn kɨ dingəm, Ningə a ɓari'ə Emanuwel, Kɨ kɔr ginn'ə nan: \"Luwə in se'je\".» 24Lokɨ Jisepɨ ndəl dɔ ɓi'tɨ, ra tokɨ malayka lə Burəɓe el'n'ə, adɨ taa Mari ne'ne'tɨ, re si'ə kəy. 25Nan gər'ə kɨ dene kɨ dingəm'tɨ el, bitɨ kadɨ Mari ojɨ'n ngonn. Ojɨ ngonn kɨ dingəm, adɨ Jisepɨ ində tɔ'a nan Jeju.\nCopyrighted Material","id":"<urn:uuid:1a255aa2-bffc-4182-82db-4264e1337855>","dump":"CC-MAIN-2017-43","url":"http:\/\/listen.bible.is\/GQRWBT\/Matt\/1\/D","date":"2017-10-24T01:20:40Z","file_path":"s3:\/\/commoncrawl\/crawl-data\/CC-MAIN-2017-43\/segments\/1508187827662.87\/warc\/CC-MAIN-20171023235958-20171024015958-00636.warc.gz","language":"gqr","language_score":0.9999771118,"language_script":"Latn","minhash_cluster_size":12,"top_langs":"{\"gqr_Latn_score\": 0.9999771118164062}","num_words":451,"character_repetition_ratio":0.051,"word_repetition_ratio":0.0,"special_characters_ratio":0.257,"stopwords_ratio":0.302,"flagged_words_ratio":0.0,"lang_id_score":0.998,"perplexity_score":500.0,"cluster_detection":-1}
|
2 |
+
{"text":"Makitu kɨ nja joo kɨ\nJan\nndangɨ\nTa kɨ dɔ makitu'tɨ kɨ nja joo kɨ Jan ndangɨ\nMakitu kin in kɨ kulə'n kadɨ mbətɨ kɨ Dene lə Luwə kɨ ngann'a'gɨ adɨ to to kɨ in njekawnan lo madɨ'tɨ kɨ njekunme'gɨ kɨ me'tɨ be. Majɨ kadɨ in ndiginan yo kɨ ne ningə kadɨ uwəi tɔgɨ'de ba me rɔ'tɨ kɨ isɨ rɔi kɨ de'gɨ kɨ isɨ ndoi de'gɨ nyando'gɨ kɨ ngom kɨ lo lo.\nKon ta'gɨ kɨ me'tɨ: Kandɨ me ta'tɨ 1-3. Majɨ kɨ ur mad'a lə ndigɨ 4-6. Ndəjɨ nan kɨ ɔjidɔ nyando'gɨ kɨ ngom 7-11. Dɔboy ta 12-13.\n1\nKuwə ji nan\n1 M'in Ngatɔgɨ lə njekawnan'gɨ, m'ndangɨ makitu kin mad'i in Dene kɨ Luwə mbəti, taa madɨ ngann'i'gɨ kɨ in se'de'gɨ, m'ndigɨ'se ndigɨ kɨ rɔta'tɨ. Ningə in m'in par ə m'ndigɨ'se el, nan in de'gɨ pətɨ kɨ gəri nya kɨ rɔta'tɨ ə ndigɨ'se. 2 Jɨ ndigɨ'se tadɔ nya kɨ rɔta'tɨ uwə me'je, ningə in nya kɨ a to me'je'tɨ bitɨ kɨ non'tɨ. 3 Ningə jɨ dəjɨ kadɨ memajɨ, kɨ k'oo kumtondoo, kɨ lapiya lə Baw'je Luwə in kɨ Ngonn'o Jeju Kirisitɨ in sese nan'tɨ kadɨ isɨ me nyara kɨ rɔta'tɨ kɨ me ndigɨ nan'tɨ.\nNya ra kɨ rɔta'tɨ in kɨ ndiginan\n4 Rɔm nəl'm kɨ dum bitɨ kadɨ m'oo tokɨ ngann'i'gɨ madɨ isɨ njiyəi dɔ row'tɨ kɨ rɔta'tɨ, tokɨ Baw'je Luwə dəjɨ'n'je. 5 Ningə kɨ ngɔsine kin, Dene kɨ njendigɨ lə'm, nya kɨ m'dəj'i, in ta kadɨ jɨ ndiginan kɨ yo ge ne ge. In mbərkikində kɨ sigɨ ə m'ad'i el, nan in ndukun kɨ j'ingəi lo kulə ngirə'tɨ nu inɓe kin* 1.5 Jan 13.34, 15.12,17. 6 Ndigɨ nan in njiyə go mbərkikində'gɨ'tɨ lə Luwə. Nga ningə, mbərkikində kɨ osɨ mbi'se'tɨ lo kulə ngirə'tɨ nu, in ta kadɨ njiyəi me ndigɨ nan'tɨ.\n7 Nje kədɨ de'gɨ k'ilə'de kɔ ngayn sananyinan kɨ lo pətɨ dɔnangɨ'tɨ ne, ningə mbeti kadɨ n'eli tokɨ Jeju Kirisitɨ təl'de tokɨ rɔta'tɨ. Lo kin'tɨ a oyi'de kɨ nje ngom'gɨ, kɨ njeban lə Kirisitɨ. 8 Indəi kumkədɨ dɔ rɔ'se'tɨ inɓe'gɨ, kadɨ kandɨ kulə ra'se nanyi kɔ kare el, nan kadɨ ingəi nyakugə goji'se kɨ asɨ low'ə'tɨ berere. 9 Ningə de kɨ ra dɔ nja'ne'tɨ me nyando'tɨ kɨ ɔjidɔ Kirisitɨ el, nan tɔ ra dow kare, in de kɨ nya madɨ kɨ dɔɔ'a nan'tɨ kɨ Luwə goto ne. De kɨ ra dɔ nja'ne'tɨ me nyando'tɨ kɨ ɔjidɔ Kirisitɨ, in de kɨ dɔyinan nan'tɨ kɨ Luwə kɨ Baw kɨ Ngonn'o num. 10 Kin ə re de madɨ re rɔ'se'tɨ kɨ nya kɨ rangɨ um kɨ nyando kin el ə, uwəi'ə kɨ rɔ'se'tɨ el num, uwəi ji'ə el num. 11 Tadɔ re uwəi ji'ə ə, rai madɨ nan si'ə dɔ kulə ra'a'tɨ kɨ majel.\nTa kɨ dɔboy'tɨ\n12 M'aw kɨ nya'gɨ ngayn ɓay kadɨ m'el'se, nan m'ndigɨ kadɨ m'ndangɨ kɨ mann ndangɨ nya me makitu'tɨ el. Tadɔ m'ində me'm'tɨ kadɨ m'a m'aw rɔ'se'tɨ kadɨ m'el'se ta kɨ ta'm, kadɨ to rɔnel lə'je osɨ taga bal. 13 Ngann'gɨ lə konnann'i kɨ in njekawnan'gɨ kɨ ne, kɨ in de'gɨ kɨ Luwə mbətɨ'de uwəi ji'i.\n*1:5 1.5 Jan 13.34, 15.12,17","id":"<urn:uuid:59d93b82-0266-4cc8-b9ba-91a4fb8a2fd0>","dump":"CC-MAIN-2021-31","url":"https:\/\/ebible.org\/gqr\/2JN01.htm","date":"2021-08-04T04:07:26Z","file_path":"s3:\/\/commoncrawl\/crawl-data\/CC-MAIN-2021-31\/segments\/1627046154500.32\/warc\/CC-MAIN-20210804013942-20210804043942-00185.warc.gz","language":"gqr","language_score":1.000009656,"language_script":"Latn","minhash_cluster_size":1,"top_langs":"{\"gqr_Latn_score\": 1.0000096559524536}","num_words":482,"character_repetition_ratio":0.046,"word_repetition_ratio":0.004,"special_characters_ratio":0.295,"stopwords_ratio":0.442,"flagged_words_ratio":0.0,"lang_id_score":0.999,"perplexity_score":500.0,"cluster_detection":-1}
|
3 |
+
{"text":"2\n1 Kɨ ɔjidɔ'm, m'oo majɨ ngayn kadɨ m'təl m'aw rɔ'se'tɨ gogɨ el, nan to m'tujɨ me'se. 2 Tadɔ re m'tujɨ me'se ə, de kɨ a adɨ'm rɔnel goto. De kɨ a adɨ'm rɔnel ə, in ingɨ ka kɨ m'a m'tujɨ me'se kakin par. 3 Ningə, in ginn'ə kin ə, m'ndangɨ'n makitu'tɨ to ndangɨ m'adɨ'se* 2.3 7.8 kadɨ to m'aw kɨ rɔ'm el. M'aw kɨ rɔ'm el nan to de'gɨ kɨ kadɨ adi'm'in rɔnel, təli tuji me'm to tujɨ yo. M'gər majɨ ngayn, kɨ ɔjɨ dɔ'se, kadɨ rɔnel lə'm in rɔnel lə'se pətɨ. 4 In kɨ me kon kɨ ngayn, kɨ me kɨ ur mad'a, kɨ mann non kɨ tɔ kum ə m'ndangɨ'n makitu m'adɨ'se. Ningə in kadɨ m'tujɨ'n me'se el, nan kadɨ in gəri ndigɨ kɨ m'ndigɨ'se.\nMe Pol sɔl dɔ de'tɨ kɨ nje tujɨ me'ə\n5 Re de madɨ in nje ginn me kɨ tujɨ nga ə, in m'in ə tujɨ me'm el nga, nan in ingɨ pətɨ ə tujɨ me'se. Kɨ kadɨ j'eli j'adɨ aldɔ majɨ el ə, tujɨ me de'gɨ madɨ dann'se'tɨ nga. 6 Ningə ko de kɨ be kin, ta bulə de'gɨ kɨ kawinan kɨ dɔ'a'tɨ inɓe kin ka as'a nakɨ. 7 In be ə, kɨ ngɔsine kin, kadɨ adi me'se sɔl dɔ'a'tɨ, ə uləi dingəm me'ə'tɨ, nan to metujɨ kɨ aldɔ majɨ in utɨ dɔ'a. 8 Lo kin'tɨ, m'dəjɨ'se kadɨ ɔji'ə ndigɨ kɨ in ndigi'ə adɨ gər. 9 Nga ningə, ginn ndangɨ kɨ m'ndangɨ makitu m'adɨ'se in kadɨ m'nan me'se m'oo ke təli rɔ'se go ta'tɨ me nya'gɨ'tɨ pətɨ wa. 10 Lokɨ me'se sɔl dɔ de'tɨ kɨ ra nya kɨ majel, m'in kaa me'm sɔl dɔ'a'tɨ tɔ. Nga ningə, re me'm sɔl, lokɨ nya madɨ to kadɨ me'm sɔl dɔ'tɨ ə, in tadɔ lə'se ə me'm sɔl'n takum Kirisitɨ'tɨ. 11 Tadɔ kadɨ *Satan ingə tarow dɔ'je'tɨ el, tadɔ jɨ gəri ndigɨ ra'gɨ li'ə ɓətɨ.\nMe Pol ra sururu\n12 Lokɨ m'aw m'te Tirowasɨ'tɨ kadɨ m'iləmbər Poyta kɨ majɨ lə Kirisitɨ, m'oo kadɨ Burəɓe te tarow ta'tɨ panyi adɨ'm, 13 nan me'm ra sururu, tadɔ m'ingə ngonnkon'm Titɨ el. In be ə, m'inyə njekunme'gɨ, ə m'un tarow kaw Maseduwann'tɨ† 2.13 12-13; KNK 20.1.\nTətɨ rɔ me kində rɔ nan'tɨ kɨ Kirisitɨ\n14 J'uləi tɔjɨ dɔ Luwə kɨ ɔy'je kɨ dɔkagilo'gɨ pətɨ adɨ j'in me rɔ'tɨ kɨ Kirisitɨ tətɨ kin. Luwə un'je ilə'n mbər lə Kirisitɨ kɨ lo'gɨ pətɨ adɨ de'gɨ gəri'ə to nɔm kagɨ kɨ bany'a ətɨ majɨ kɨ sanan kɨ lo lo be. 15 Lo kin'tɨ, jɨ to to nɔm kagɨ kɨ bany'a ətɨ majɨ, kɨ Kirisitɨ un adɨ Luwə be. J'əti majɨ, tadɔ de'gɨ kɨ isɨ sangi kajɨ num, tadɔ de'gɨ kɨ isɨ ai tujɨ'tɨ num tɔ. 16 Kɨ rɔ de'gɨ madɨ'tɨ, in banyi koy kɨ isɨ aw se'de koy'tɨ, nan kɨ rɔ nje kɨ nungɨ'tɨ, in banyi kajɨ kɨ isɨ aw se'de kajɨ'tɨ tɔ. Eke nan ə asɨ kadɨ ra kulə kin wa? 17 J'in jɨ to to ndəgɨ de'gɨ ngayn kɨ isɨ uni ta lə Luwə to nyara gatɨ kin el. J'eli ta kɨ rɔta'tɨ, kɨ in rɔ Luwə'tɨ, takum Luwə'tɨ me kində rɔ nan'tɨ me tɔ Kirisitɨ'tɨ.","id":"<urn:uuid:3625e5dd-1b83-4ccb-a2a3-e9b9d1ce9bd6>","dump":"CC-MAIN-2022-40","url":"https:\/\/ebible.org\/gqr\/2CO02.htm","date":"2022-10-05T01:54:01Z","file_path":"s3:\/\/commoncrawl\/crawl-data\/CC-MAIN-2022-40\/segments\/1664030337531.3\/warc\/CC-MAIN-20221005011205-20221005041205-00402.warc.gz","language":"gqr","language_score":1.0000092983,"language_script":"Latn","minhash_cluster_size":1,"top_langs":"{\"gqr_Latn_score\": 1.000009298324585}","num_words":494,"character_repetition_ratio":0.043,"word_repetition_ratio":0.0,"special_characters_ratio":0.31,"stopwords_ratio":0.391,"flagged_words_ratio":0.0,"lang_id_score":0.997,"perplexity_score":500.0,"cluster_detection":-1}
|
4 |
+
{"text":"13\nTəl rɔ go ndu'tɨ lə nje konɓe'gɨ\n1 Kadɨ de kɨ ra kaa təl rɔ'ne go ndu'tɨ lə nje konɓe'gɨ kɨ sii dɔ ɓe'tɨ. Tadɔ konɓe kɨ to bann bann kaa in Luwə ə in nje kadɨ de, ningə nje kɨ sii dɔ ɓe'tɨ, in Luwə ə ində'de.\n2 In tadɔ kin ə, de kɨ ində gu'ne kɨ nje konɓe, isɨ ɔsɨ ta ndu Luwə. Nje kɨ isɨ indəi gu'de kɨ nje konɓe'gɨ'tɨ, si ndɔri ta kɨ gangɨ lə Luwə rei kɨ dɔ'de'tɨ.\n3 Ningə, de'gɨ kɨ njera nya kɨ majɨ ə, isɨ ɓoli nje konɓe'gɨ el, nan in de'gɨ kɨ njera nya kɨ majel ə isɨ ɓoli'de. Ə re ge kadɨ in ɓol nje konɓe el ningə, ra nya kɨ majɨ par ə a piti.\n4 Tadɔ nje konɓe in de kɨ isɨ ra kulə adɨ Luwə kadɨ kulə ra'se in kuləra kɨ majɨ. A kin ə re isɨ ra nya kɨ majel ningə, in ɓol nje konɓe, tadɔ in kare ə aw kɨ nya katɨ el. Lokɨ nje konɓe gangɨ ta dɔ de'tɨ ningə, isɨ ra kulə lə Luwə, ində ɔj'ɔ ə ɔjɨ wongɨ lə'ne dɔ de'tɨ kɨ njera nya kɨ majel ad'a gər.\n5 In tadɔ kin ə, majɨ ngayn kadɨ de ulə dɔ'ne ginn tɔgɨ'tɨ lə nje konɓe'gɨ. Ningə kadɨ ulə dɔ'ne ginn tɔgɨ'tɨ tadɔ ɓol wongɨ lə Luwə par kareba el, nan tadɔ kadɨ me de uwə kɨ ta el.\n6 In ginn'ə kin tɔ ə isɨ ugəi lambo, tadɔ de'gɨ kɨ isɨ taai lambo ji'se'tɨ, in de'gɨ kɨ Luwə adɨ'de kulə kin kadɨ rai.\n7 Lo kin'tɨ, majɨ kadɨ adi de kɨ ra nya kɨ majɨ kadɨ adi'ə: Adi lambo de kɨ majɨ kadɨ adi'ə, adi nyagangɨ'gɨ kɨ dɔ'se'tɨ de kɨ majɨ kadɨ adi'ə, in ɓoli de kɨ majɨ kadɨ in ɓoli'ə, ə ɔsikurə de kɨ majɨ kadɨ ɔsikurə tɔ.\nNdiginan kɨ yo ge kɨ ne ge\n8 Adi ɓangɨ nya lə'de madɨ to dɔ'se'tɨ el. Ɓangɨ kɨ kadɨ to dɔ'se'tɨ ningə, kadɨ in ɓangɨ ndiginan kɨ kadɨ in ndiginan dann'se'tɨ kɨ yo ge kɨ ne ge par ta. Tadɔ de kɨ nje ndigɨ madɨ'ne, in de kɨ ra go ndukun'tɨ lə Luwə ilə taga bal.\n9 M'el be, tadɔ ndukun'gɨ lə Luwə el ene: «A uwə marum el, a tɔl de el, a ɓogɨ el, a ndingə nya lə mad'i el». Ningə ndukun'gɨ kin, kɨ ndəgɨ ndukun'gɨ kɨ rangɨ pətɨ, a ingə'de me ndukun'tɨ kɨ kare kɨ ene: «A ndigɨ de mad'i to darɔ'i inɓe be» kin.\n10 De kɨ nje ndigɨ de, a ra nya madɨ kare kɨ majel kɨ de madɨ'ne el. Tadɔ de kɨ nje ndigɨ madɨ'ne, in de kɨ ra go ndukun'tɨ lə Luwə'tɨ lə taga bal.\nKisi dɔ nja'tɨ tadɔ təl Kirisitɨ\n11 In gəri dɔkagilo kɨ j'isi'tɨ ne kin majɨ, kadɨ in dɔkagilo kɨ kadɨ ndəli dɔ ɓi'tɨ nga. Tadɔ dɔkagilo kɨ kete kɨ j'uni me'je dɔ ra majɨ'tɨ lə Luwə kin, kajɨ in sanyi se'je ɓay, nan kɨ ngɔsine kin, kajɨ in rɔ'je'tɨ ndəkba nga.\n12 Lo kɨ konndɔ'tɨ nanyi ngayn el nga, lo kɨ ti in ndəkba, ə majɨ kadɨ j'ɔsi nya ra'gɨ kɨ me lo kɨ diw'tɨ ngərəngɨ, ə adɨ j'oti nya rɔ'gɨ kɨ kadɨ jɨ rɔi kada.\n13 Adi panjiyə'se in kigo row'tɨ kɨ majɨ, to de'gɨ kɨ nje njiyə kada wangɨ. Kadɨ in de'gɨ kɨ nje kusɔ nya kədɨ el num, gon kanyi yiwi el num, kadɨ in nje kaya kɨ ra el num, nje k'oo majɨ rɔ'de el num, nje kɔl kɨ njera jangɨ el num.\n14 Majɨ kadɨ oti Burəɓe Jeju Kirisitɨ rɔ'se'tɨ to nya rɔ lə'se. Ningə kadɨ adɨ ndigɨ ra lə darɔ uwə me'se el, nan to in rai majel kɨ in ndigi rai el.","id":"<urn:uuid:0964dee8-f8ef-4070-9609-0d3ae4acad82>","dump":"CC-MAIN-2024-18","url":"http:\/\/ebible.org\/study\/content\/texts\/gqr\/RM13.html","date":"2024-04-13T16:25:10Z","file_path":"s3:\/\/commoncrawl\/crawl-data\/CC-MAIN-2024-18\/segments\/1712296816820.63\/warc\/CC-MAIN-20240413144933-20240413174933-00335.warc.gz","language":"gqr","language_score":1.0000090599,"language_script":"Latn","minhash_cluster_size":1,"top_langs":"{\"gqr_Latn_score\": 1.0000090599060059}","num_words":603,"character_repetition_ratio":0.072,"word_repetition_ratio":0.013,"special_characters_ratio":0.285,"stopwords_ratio":0.526,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":500.0,"cluster_detection":-1}
|
5 |
+
{"text":"16\nKuwə ji nan\n1 M'ulə konnann'je Pebe kɨ in nje kogo nyamajɨ'gɨ lə njekawnan'gɨ dann njekawnan'gɨ'tɨ kɨ me ɓe'tɨ kɨ Sankire kin ji'se'tɨ.\n2 M'dəjɨ'se kadɨ uwəi'ə kɨ rɔ'se'tɨ me tɔ Burəɓe'tɨ, uwəi'ə rɔ'se'tɨ kuwə kɨ asɨ ta tɔ de lə Luwə. Adi rɔ'se, rai si'ə me nya'gɨ'tɨ pətɨ kɨ aw kɨ ndoo'ə, tadɔ in dene kɨ ra kɨ de'gɨ ngayn, taa m'inɓe kɨ dɔ'm kaa ra sə'm tɔ.\n3 Uwəi ji Pirisika in kɨ Akilasɨ adi m'in, in madikulə'm'gɨ me tɔ Jeju Kirisitɨ.\n4 Ingɨ ə uni rɔ'de, iləi kɔ, aj'i m'in. Ningə in m'in kɨ kar'm ə m'ra'de oyo el, nan in *Njekawnan'gɨ pətɨ, kɨ in Juwipɨ'gɨ el ə rai'de oyo.\n5 Uwəi ji Njekawnan'gɨ kɨ sii me kəy'tɨ lə'de adi'm'in tɔ. Uwəi ji njendigɨ lə'm Epayinetɨ adi'm'in, in ə in de kɨ dɔkete kɨ un me'ne adɨ Kirisitɨ dɔnangɨ Aji'tɨ.\n6 Uwəi ji Mari kɨ in de kɨ ra kulə ngayn tadɔ lə'se kin adi'm'in.\n7 Uwəi ji noj'i'm'gɨ Andironikusɨ in kɨ Juniyasɨ kɨ in madɨ dangay'gɨ lə'm kin adi'm'in. In njekawkulə'gɨ kɨ de'gɨ gəri go'de majɨ ngayn dann madɨ'de'gɨ'tɨ, taa dɔyinan nan'tɨ me tɔ Kirisitɨ non'm'tɨ inɓe ɓay.\n8 Uwəi ji nje ndigɨ lə'm me tɔ Burəɓe'tɨ Ampiliyatusɨ adi'm'in.\n9 Uwəi ji madikulə'je me tɔ Kirisitɨ, Urben in kɨ njendigɨ lə'm kɨ ngayn Setasɨ adi'm'in.\n10 Uwəi ji Apelesɨ kɨ in de kɨ tɔjɨ kadɨ kɨ adɨ dɔyinan me tɔ Kirisitɨ kɨ taga kin adi'm'in. Uwəi ji de'gɨ kɨ me kəy'tɨ lə Arisitobul adi'm'in tɔ.\n11 Uwəi ji noji'm Erodiyon adi'm'in, taa uwəi ji de'gɨ kɨ me kəy'tɨ lə Narsisɨ kɨ uni me'de adi Burəɓe adi'm'in tɔ.\n12 Uwəi ji Tirpen in kɨ Tirpojɨ kɨ in dene'gɨ kɨ rai kulə lə Luwə ngayn kin adi'm'in, taa uwəi ji njendigɨ'm Persidɨ kɨ in dene kɨ ra kulə lə Luwə ngayn tɔ kin adi'm'in.\n13 Uwəi ji Rupusɨ kɨ in de kɨ Luwə mbət'ə kin adi'm'in, taa uwəi ji kon'a kɨ in kon'm tɔ kin adi'm'in.\n14 Uwəi ji Asenkirtɨ num, Pilegon num, Ermesɨ num, Patirobasɨ num, Ermasɨ num, kɨ ndəgɨ ngannkon'je'gɨ kɨ in se'de kin adi'm'in.\n15 Uwəi ji Pilologɨ in kɨ Juli adi'm'in, uwəi ji Nere in kɨ konnann'a adi'm'in, taa uwəi ji Olimpasɨ kɨ de'gɨ lə Luwə pətɨ kɨ in si'ə adi'm'in tɔ.\n16 Uwəi ji nan kare kare kɨ kuwə nan rɔ nan'tɨ kɨ tɔjɨ kadɨ in ngannkon'nan'gɨ kɨ me Kirisitɨ'tɨ. Njekawnan'gɨ lə Kirisitɨ pətɨ uwəi ji'se.\nTa kɨ dɔboy'tɨ\n17 Ngannkon'gɨ, m'ulə dingəm me'se'tɨ kadɨ indəi kumkədɨ dɔ rɔ'se'tɨ ɔjɨ'n dɔ de'gɨ kɨ nje re kɨ gangɨ nan dann'se'tɨ, kɨ nje ɓukɨ de'gɨ mu kadɨ tanyi rɔ nyando kɨ ingəi. Majɨ kadɨ ɔri rɔ'se rɔ'de'tɨ kɔ.\n18 Tadɔ ko de'gɨ kɨ be kin, isɨ rai kulə lə Burəɓe lə'je Kirisitɨ el, nan isɨ rai kulə tadɔ kanda'de yo. Kɨ kujita'gɨ kɨ ta'de'tɨ, kɨ to nan pe pe, ə isɨ ədi de'gɨ kɨ kum'de tujə dɔ nya kɨ majel'tɨ el.\n19 Kɨ ɔjɨ dɔ'se, de'gɨ pətɨ gəri təl rɔ go ta'tɨ lə'se. Lo kin'tɨ, m'ra rɔnel ɔjɨ'n dɔ'se. Nga ningə m'ndigɨ kadɨ kum'se tujə dɔ nya kɨ majɨ'tɨ, ə kadɨ kum'se ar njay kadɨ ɔri rɔ'se kɔ me nya kɨ majel'tɨ.\n20 Ningə Luwə kɨ nje re kɨ lapiya a rəkitə dɔ *Satan ginn nja'se'tɨ ngɔsine. Majɨ kadɨ memajɨ lə Burəɓe lə'je Jeju Kirisitɨ in nan'tɨ sese.\n21 Madikulə'm Timote uwə ji'se, taa noji'm'gɨ Lusiyusɨ num, Jason in kɨ Sosipater num uwəi ji'se.\n22 Ningə m'in Tertiyusɨ kɨ nje ndangɨ makitu lə Pol kin, m'uwə ji'se me kində rɔ nan'tɨ lə Burəɓe.\n23 Gayusɨ kɨ m'njɨ ɓe li'ə uwə ji'se, kɨ Njekawnan kɨ sii me kəy'tɨ li'ə. Erasɨ kɨ m'njɨ ɓe li'ə uwə ji'se. Erasɨ kɨ in njengəm nar kɨ me ɓebo'tɨ kɨ ne uwə ji'se, taa ngonnkon'je Kartusɨ kaa uwə ji'se tɔ. [\n24 Kadɨ memajɨ lə Burəɓe lə'je Jeju Kirisitɨ in nan'tɨ sese pətɨ.]\nKulə tɔjɨ kɨ dɔ Burəɓe'tɨ\n25 Tɔjɨ kɨ dɔ Luwə'tɨ kɨ asɨ kadɨ adɨ'se tɔgɨ kɨ gorow lə Poyta kɨ majɨ lə Jeju Kirisitɨ kɨ m'ilə'se mbər'ə. Kɨ row lə Poyta kɨ majɨ kin, Luwə te kɨ dɔ nya kɨ to lo kiyə'tɨ lo kulə ngirə'tɨ mayinu,\n26 nan ngɔsine ginn'ə te taga wangɨ kin. Ginn'ə te kɨ taga wangɨ kɨ rɔ de'gɨ'tɨ kɨ in Juwipɨ'gɨ el, kɨ takul makitu kɨ de'gɨ kɨ njekeltakita Luwə'tɨ ndangi. Ndangi kigo ndu'tɨ lə Luwə kɨ njekisɨ bitɨ kɨ non'tɨ kadɨ de'gɨ kɨ in Juwipɨ'gɨ el adɨ indəi me'de dɔ ra majɨ'tɨ lə Luwə, ə kadɨ təli rɔ'de go ndu'ə'tɨ kigo kunme'tɨ.\n27 Tɔjɨ kɨ dɔ Luwə'tɨ kɨ in kɨ kar'ne ba ə in nje gosɨ, kɨ dɔkagilo kɨ dɔkagilo me tɔ Jeju Kirisitɨ'tɨ. Amen! Ta goto nga!","id":"<urn:uuid:207e9027-9dd8-4461-a3d7-ab42afce1e17>","dump":"CC-MAIN-2024-18","url":"http:\/\/ebible.org\/study\/content\/texts\/gqr\/RM16.html","date":"2024-04-23T05:42:21Z","file_path":"s3:\/\/commoncrawl\/crawl-data\/CC-MAIN-2024-18\/segments\/1712296818464.67\/warc\/CC-MAIN-20240423033153-20240423063153-00788.warc.gz","language":"gqr","language_score":1.0000091791,"language_script":"Latn","minhash_cluster_size":1,"top_langs":"{\"gqr_Latn_score\": 1.0000091791152954}","num_words":748,"character_repetition_ratio":0.066,"word_repetition_ratio":0.003,"special_characters_ratio":0.28,"stopwords_ratio":0.389,"flagged_words_ratio":0.0,"lang_id_score":0.999,"perplexity_score":500.0,"cluster_detection":-1}
|
gqr_Latn/fineweb-2_000001_stas.jsonl
ADDED
@@ -0,0 +1,115 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
[
|
2 |
+
{
|
3 |
+
"avg": {
|
4 |
+
"num_words": 777.6,
|
5 |
+
"character_repetition_ratio": 0.05567999999999999,
|
6 |
+
"word_repetition_ratio": 0.0008,
|
7 |
+
"special_characters_ratio": 0.28828,
|
8 |
+
"stopwords_ratio": 0.42632,
|
9 |
+
"flagged_words_ratio": 0.0,
|
10 |
+
"lang_id_score": 0.9985199999999999,
|
11 |
+
"perplexity_score": 500.0
|
12 |
+
}
|
13 |
+
},
|
14 |
+
{
|
15 |
+
"std": {
|
16 |
+
"num_words": 257.0148633834238,
|
17 |
+
"character_repetition_ratio": 0.007867502780425311,
|
18 |
+
"word_repetition_ratio": 0.0026683328128252666,
|
19 |
+
"special_characters_ratio": 0.01067153222363124,
|
20 |
+
"stopwords_ratio": 0.039577488550942695,
|
21 |
+
"flagged_words_ratio": 0.0,
|
22 |
+
"lang_id_score": 0.0010628264204469147,
|
23 |
+
"perplexity_score": 0.0
|
24 |
+
}
|
25 |
+
},
|
26 |
+
{
|
27 |
+
"median": {
|
28 |
+
"num_words": 729.0,
|
29 |
+
"character_repetition_ratio": 0.056,
|
30 |
+
"word_repetition_ratio": 0.0,
|
31 |
+
"special_characters_ratio": 0.289,
|
32 |
+
"stopwords_ratio": 0.428,
|
33 |
+
"flagged_words_ratio": 0.0,
|
34 |
+
"lang_id_score": 0.999,
|
35 |
+
"perplexity_score": 500.0
|
36 |
+
}
|
37 |
+
},
|
38 |
+
{
|
39 |
+
"max": {
|
40 |
+
"num_words": 1228.0,
|
41 |
+
"character_repetition_ratio": 0.072,
|
42 |
+
"word_repetition_ratio": 0.013,
|
43 |
+
"special_characters_ratio": 0.313,
|
44 |
+
"stopwords_ratio": 0.526,
|
45 |
+
"flagged_words_ratio": 0.0,
|
46 |
+
"lang_id_score": 1.0,
|
47 |
+
"perplexity_score": 500.0
|
48 |
+
}
|
49 |
+
},
|
50 |
+
{
|
51 |
+
"min": {
|
52 |
+
"num_words": 428.0,
|
53 |
+
"character_repetition_ratio": 0.041,
|
54 |
+
"word_repetition_ratio": 0.0,
|
55 |
+
"special_characters_ratio": 0.257,
|
56 |
+
"stopwords_ratio": 0.302,
|
57 |
+
"flagged_words_ratio": 0.0,
|
58 |
+
"lang_id_score": 0.997,
|
59 |
+
"perplexity_score": 500.0
|
60 |
+
}
|
61 |
+
},
|
62 |
+
{
|
63 |
+
"90%": {
|
64 |
+
"num_words": 1136.8000000000002,
|
65 |
+
"character_repetition_ratio": 0.0656,
|
66 |
+
"word_repetition_ratio": 0.0018000000000000043,
|
67 |
+
"special_characters_ratio": 0.296,
|
68 |
+
"stopwords_ratio": 0.459,
|
69 |
+
"flagged_words_ratio": 0.0,
|
70 |
+
"lang_id_score": 1.0,
|
71 |
+
"perplexity_score": 500.0
|
72 |
+
}
|
73 |
+
},
|
74 |
+
{
|
75 |
+
"75%": {
|
76 |
+
"num_words": 980.0,
|
77 |
+
"character_repetition_ratio": 0.06,
|
78 |
+
"word_repetition_ratio": 0.0,
|
79 |
+
"special_characters_ratio": 0.293,
|
80 |
+
"stopwords_ratio": 0.453,
|
81 |
+
"flagged_words_ratio": 0.0,
|
82 |
+
"lang_id_score": 0.999,
|
83 |
+
"perplexity_score": 500.0
|
84 |
+
}
|
85 |
+
},
|
86 |
+
{
|
87 |
+
"50%": {
|
88 |
+
"num_words": 729.0,
|
89 |
+
"character_repetition_ratio": 0.056,
|
90 |
+
"word_repetition_ratio": 0.0,
|
91 |
+
"special_characters_ratio": 0.289,
|
92 |
+
"stopwords_ratio": 0.428,
|
93 |
+
"flagged_words_ratio": 0.0,
|
94 |
+
"lang_id_score": 0.999,
|
95 |
+
"perplexity_score": 500.0
|
96 |
+
}
|
97 |
+
},
|
98 |
+
{
|
99 |
+
"25%": {
|
100 |
+
"num_words": 506.0,
|
101 |
+
"character_repetition_ratio": 0.051,
|
102 |
+
"word_repetition_ratio": 0.0,
|
103 |
+
"special_characters_ratio": 0.284,
|
104 |
+
"stopwords_ratio": 0.41,
|
105 |
+
"flagged_words_ratio": 0.0,
|
106 |
+
"lang_id_score": 0.998,
|
107 |
+
"perplexity_score": 500.0
|
108 |
+
}
|
109 |
+
},
|
110 |
+
{
|
111 |
+
"total size": "25",
|
112 |
+
"keep size": "20",
|
113 |
+
"remove size": "5"
|
114 |
+
}
|
115 |
+
]
|
hun_Latn/new_cc_000035_keep.jsonl
ADDED
@@ -0,0 +1,3 @@
|
|
|
|
|
|
|
|
|
1 |
+
version https://git-lfs.github.com/spec/v1
|
2 |
+
oid sha256:a8f9de5a3e9dfff996f167bac1286a40442a0281b44bb6a421509adcf6294c72
|
3 |
+
size 2840634463
|
mbl_Latn/fineweb-2_000001_keep.jsonl
ADDED
The diff for this file is too large to render.
See raw diff
|
|
mbl_Latn/fineweb-2_000001_remove.jsonl
ADDED
@@ -0,0 +1,14 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
{"text":"У txa axjik nkarner это не unit 9 lesson 2 в учебнике, а Мельников. А эта txa axjik nkarner могла стать последней в ult взять ключ для игры engri berts жизни.\nJaponakan hashvark txa kam axjik.\nHxiutyan hashvark txa te axchik. Inchpes imanal txa es unenalu te axjik. Arame te axjik te txa kap chuni text.\nHxiutyan hashvark txa te axchik. Te axchik te txa Axchik te txa Axjik te txa Inchpes imanal txa es unenalu te axjik Arame te axjik te txa kap chuni text.\nAxjik te txa Arame te axjik te txa kap chuni Inchpes imanal txa es unenalu te axjik Axchik te txa Hxiutyun axjik te txa.\nHxiutyan hashvark txa te axchik.\naxjik txa · 240 x 200. Добавить свои фотографии. или использовать интерфейс для загрузки\nСмотреть онлайн клип или слушать Араме - Ахчик тха \/ Արամե - Աղջիկ տղա \/ Arame - Axjik txa 2016.\nСкачать ARAME - Axjik Txa [muzonx.ru]²º¹6 №86277367. (бесконечная прокрутка).\n#Axjik-ner, duk kpatkeracnek, te Inch karox e anel txu het axjka me \"ha\"-n !! #txa.","id":"<urn:uuid:1efc6520-1fd2-4a70-a47e-b107113dc9e3>","dump":"CC-MAIN-2017-04","url":"http:\/\/worldchess.kz\/?query=hashvark+txa+axjik","date":"2017-01-19T10:51:54Z","file_path":"s3:\/\/commoncrawl\/crawl-data\/CC-MAIN-2017-04\/segments\/1484560280587.1\/warc\/CC-MAIN-20170116095120-00031-ip-10-171-10-70.ec2.internal.warc.gz","language":"mbl","language_score":0.4505442083,"language_script":"Latn","minhash_cluster_size":5,"top_langs":"{\"mbl_Latn_score\": 0.45054420828819275, \"ttc_Latn_score\": 0.26147907972335815, \"tzh_Latn_score\": 0.04923749715089798, \"tvk_Latn_score\": 0.039785899221897125, \"taq_Latn_score\": 0.029588796198368073, \"atj_Latn_score\": 0.026168093085289, \"kjb_Latn_score\": 0.014006934128701687, \"pwn_Latn_score\": 0.013724224641919136}","num_words":160,"character_repetition_ratio":0.108,"word_repetition_ratio":0.079,"special_characters_ratio":0.245,"stopwords_ratio":0.125,"flagged_words_ratio":0.0,"lang_id_score":0.424,"perplexity_score":500.0,"cluster_detection":-1}
|
2 |
+
{"text":"Hãm'ãktux te tikmũ'ũn hĩnnãhã'\n1'Ũgmũ'ãte xa ka'ãmi', nũy xa Topak-tok Yeyox Kunnix 'ãktux, ha Topa yõg Hãm'ãktux putuk. Hõmã hãmyãxatamuk xohixnãg 'ĩhã', 'ap xip'ah hãm xexka', xix pexkox, pa nõm Hãm'ãktux xip tap, yã Topak-tok, hak mũ'ãte' xupak, xi' pẽnãhã', xik mũ'ãte 'ũgyĩm hã' xupit, ha nõm Hãm'ãktux yã Topak-tok, tu' xohix hĩnnãhã'. 2Tu ta tu' xip hãm tu, hak mũ'ãte' pẽnãhã', huk mũ'ãte nõm hãm'ãktux 'ãktux putup, yã' hi xe'ẽgnãg, tu' hi kux putup 'ohnãg, tu yũmũg Tak Topa mũtik ti ka'ok, ha yũmũ'ã tu' mũg, 3tu xa hãm'ãktux, nũy xa hãmyũmmũgã', yãk mũ'ãte' pẽnãhã', tu' xupak, tu xa' xuktux, xayĩk mũg kuxa mũtik yã 'ãkuxap-xet. Kaxĩy yũmũg kuxap-xet yũmũg Tak Topa kuxa mũtik, xik-tok Yeyox Kunnix kuxa mũtik. 4'Ũgmũ'ãte tappet mĩy, nũy 'ãkuxa hittupmã', ha mõktu yã hittup xexka'.\nTu Topa te hãptupmãhã 'ãktux\n5Kunnix tek mũ'ã hãm'ãktux, hak mũ'ãte xa' xuktux, hu: Mãyõn te hãptupmãhã', tu 'ãmnĩy koxtap nõã', hã kaxĩy Topa yã max xe'ẽgnãg, tu hãpxopmã kummuk 'ohnãg. 6Tikmũ'ũn te: \"'Ũgkuxap-xet Topa kuxa mũtik,\" kaxĩy, tu hãpxopmã kummuk pax, puxix tu mõ'ãmã', tu yã' koit. 7Tikmũ'ũn te hãpkumep hãptup 'ĩhã, puxix putat pẽnã max, ha' nõy xop xohix te' yõg hãpxopmã'ax pẽnãhã'. Hã kaxĩy yũmũ'ãte hãmyok mĩy, Topa putuk yũmũ'ãte hãmyok mĩy, kopxix yũmũg kuxap-xet, ha Topak-tok Yeyox Kunnix yũmũg pupi' xok tap, tu yãy hep 'ãta nũ'nãhã', nũy yũmũg kuxa tupmã, ũ yũmũg kuxa tu max.\n8Hu: \"'A 'ãte hãpkummuk 'ũm mĩy'ah,\" kaxĩy, kopxix yã' koit, 'ap hãpxe'e 'ãktux'ah. 9Pa yũmũ'ãte yãy hãpkummuk mĩy'ax 'ãktux, xix Topa pu' xuktux, puxix Topa' mĩy'ax kummuk xaxogã', pu tu kux, Topa te hãm'ãktux xex hah, tu hãmyok mĩy, nũy yũmũg kuxa kummuk tupmã', 'ũ kuxa tu max. 10Yũmũ'ãte: \"Yãk kuxa max. 'Ãte hãpxopmã kummuk 'ohnãg,\" kaxĩy, kopxix yã' koit, yã Topa te' koit 'ãktux, tu Topa pu yũmũg yĩpkox 'ohnãg.\nKunnix te yũmũg mõgnĩynãm\n1'Ũgkutok xop, 'ãte nũ mĩy tappet, xayĩy 'ãxop hãpkummuk mĩy hok. Yũmũg 'ũm te hãpkummuk mĩy, puxix Yeyox Kunnix te hãmyok mĩy pax, tu yũmũg Tak Topa pu hãm'ãktux, yũmũg pupi hãm'ãktux, 2ha Topa te yũmũ yõg hãpkummuk mĩy'ax xaxogãhã', yã Kunnix xok yũmũg pupi', nũy hãpkummuk mĩy'ax xaxogã', pu tu kux. Ya' hep xop xohix yõg hãpkummuk mĩy'ax xaxogãhã kamah.\n3Topa yõg xat'ax pu yũmũg yĩpkox pi', kopxix yũmũg Topa yũmmũg, tuk kuxa mãm. Yã Topa yũmmũg xe'e'. 4Tikmũ'ũn te: \"'Ãte Topa yũmmũg,\" kaxĩy, pa' yõg xat'ax pu' yĩpkox hok, puxix yã' koit, tu hãpkohe mĩy. 5Tikmũ'ũn 'ũm te Topa yõg hãm'ãktux pu' yĩpkox pi', puxix Topa mõ'yãy xe'ẽgnãg, hã kaxĩy yũmũg kuxap-xet 'ũkuxa mũtik. 6Tikmũ'ũn te: \"'Ũgkuxap-xet Topa kuxa mũtik,\" kaxĩy, pũyã mõg, nũy hãpxopmã max, nũy Yeyox Kunnix yõg hãpxopmã'ax tat.\nTu' xat'ax tup 'ãktux\n7'Ũkxape xop: 'Ũxat'ax hittap 'ãte xa kax'ãmi'. Yã hõmã tikmũ'ũn te xa' xat'ax 'ãktux, tu xa hãm'ãktux hãmãxap. 8Pa kama' tup 'ũxat'ax. Yã Kunnix te' yũmmũgahã', 'ĩhã tu hãpxopmã max. Yã' xohix te' pẽnãhã', tu' hittup. Yã 'ãmnĩy tox kux putuk. Kunnix nũn, tu hãpxopmã max, tu yã hãptup koa putuk. Yã mãyõn xupep, tu hãm xexka xohix tupmãhã', ha kaxĩy Kunnix nũn, tu hãmmax yũmmũgãhã', tu hãmmaxnãhã', ha mõktu 'ãxop kama te hãpxopmã max.\n9Tikmũ'ũn te: \"'Ãte hãpxopmã max,\" kaxĩy. Yãy xapep-tupnõg, puxix yã hitop tu hãpxopmãhã', tu tikmũ'ũn nõy putuk, nõm te 'ãmnĩy koxtap hã hãpkumep, tu hãmpẽnã 'ohnãg, xix hãmyũmmũg 'ohnãg, tu yã yãy mõ'ãmã'. 10Tikmũ'ũn te xapep-tup pax, puxix hãmyũmmũg, tu' nõy mõ'nĩynãm, puyĩy hãpxopmã max, tu' kummugã 'ohnãg. Tu tikmũ'ũn nõy putuk, nõm te hãptup 'ĩhã hãpkumep. Tu hãmpẽnã max, nũy nõy mõgã max. 11Tikmũ'ũn te' xapep-tup nõg, puxix tu tikmũ'ũn nõy putuk, nõm te yãyxaxok hãpkoxtap kopah. Tu hãmpẽnã 'ohnãg, tu tik pa hok putuk, tu hãmyũmmũg 'ohnãg.\n12'Ũgkutok xop: 'Ãte xa kax'ãmi', hu: Yã Kunnix te 'õg hãpkummuk mĩy'ax xaxogãhã', pu tu kux. 13'Ãtak mũnõm xop: 'Ãte xa kax'ãmi', 'ãxop te yũmũg xuxyã yũmmũg hah, ha' xiptap, 'ĩhã Topa te hãm xexka mĩy, ha 'ãxop te nõm yũmmũg. 'Ãtuk tup xop: 'Ãte xa kax'ãmi', 'ãxop te hãpkummugã'ax kuxyãhã.\n14'Ũgkutok xop: 'Ãte xa kax'ãmi', 'ãxop te yũmũg Tak Topa yũmmũg hah, 'Ãtak mũnõm xop: 'Ãte xa kax'ãmi', 'ãxop te yũmũg xuxyã yũmmũg hah, ha' xip tap, 'ĩhã Topa te hãm xexka mĩy. 'Ãtuk tup xop: 'Ãte xa kax'ãmi', 'ãxop ka'ok hah. Topa yõg hãm'ãktux te 'ãkopa' xip, ha 'ãxop te hãpkummugã'ax kuxyãhã'.\n15Topa hã' puknõg xop tep-tup nõg, yĩy nõm pu 'ayĩpkox hok, xi' yõg hãpxop putup hok. 'Ãxop te 'ãnõy yõg hãpxop putup xũy, hu ta yũmũg Tak Topap-tup hok. 16Topa hã' puknõg xop te hãpxopmã kummuk, yã' yõg hãpxopmã'ax xohix te: yãy yõg putup'ax kummuk mĩy, xi' nõy yõg hãpxop putup, xix hãpxop nũ'xok, nũy yãy xexkãnã'. Yã' xohix te Topa hã' puknõg xop yõg hãpxopmã'ax, 'ap pexkox yõg'ah. 17Ha hãm xexka nõg putup, xi' yõg hãpxopmã'ax xohix nõg putup, pa tikmũ'ũn te Topa pu hãpxopmã max, xix nõm pu' yĩpkox pi', puxix tu hi xe'e kux 'ohnãg.\nTikmũ'ũn te Kunnix hã' puknõg\n18'Ũgkutok xop: Hãmyãxatamuk xohix xox putox te mõ'nãp-tup. Tikmũ'ũn te xa hãm'ãktux, ha hãm'ãpak, yã tik gãy xexka nũn, tu Kunnix tu' gãy, ha hõnhã tik gãy xop punethok, nõm te Kunnix tu' gãy, ha taxĩy yũmũ'ãte' yũmmũg: Yã hãmyãxatamuk xohix xox putox. 19Nõm Kunnix tu' gãy xop te yũmũ'ã nĩm, 'ũpuknõg tu', 'ũkuxa mãm xet tu'. Pax pu yũmũ yõg, puxix yã tu pip ka'ok. Pa' mõg, nũy mõy 'ũxohix pu' mũg, yã yũmũ'ã hã' puknõg.\n20Kunnix te Topa Koxuk nũ'kutnãhã 'ãxop hah, ha 'ãha yĩxoho', tu xa hãpxe'e yũmmũgãhã'. 21'Ãte xa kax'ãmi', 'ãxop te hãmyũmmũg hah, yã' koit'ax te hãpxe'e hã' puknõg, tu yãy putuk 'ohnãg.\n22'Ũ 'ũm te' koit? Tute' koit, nõm te: \"Yeyox mũn 'ap Kunnix'ah, Topa te Yeyox yãykutnã 'ohnãg,\" kaxĩy. 'Õhõm Yeyox tu' gãy, tu Topa yã Yeyox hã' Tak 'ãktux hok, tu Yeyox yã Topa hãk-tok 'ãktux hok, tute' koit tu hãm'ãktux. 23Tikmũ'ũn te Topak-tok 'ãktux hok, puxix kamah 'Ãtak 'ãktux hok, ha tikmũ'ũn te Topak-tok putup, puxix tu' Tak putup kamah.\n24Yĩy hãm'ãktux'ax hittap xeh 'ãkuxa kopah, nũy 'ãhi xe'ẽgnãg Topa yũmũg Tak mũtik, xik-tok mũtik, tu' kuxap-xet Topa kuxa mũtik, xik-tok kuxa mũtik. 25Yã Kunnix mũn te yũmũ'ã hãm'ãktux xex, tu yũmũg xohix hĩnnãp-tup xe'ẽgnãg, 'ũg pip Topa yĩkãgnãg pexkox tu'.\n26'Ãte xa kax'ãmi', puyĩy tikmũ'ũn xa mõ'ãmã hok. 27Kunnix te Topa Koxuk yĩxõnnãhã 'ãxop hah, ha tikmũ'ũn 'ũm te xa hãmyũmmũgã hok. Yã Topa Koxuk mũn te 'ãkopa' xip, tu xa hãmyũmmũgãhã', tu Topa yõg hãm'ãktux xohix yũmmũgãhã', tu xa hãpxe'e yũmmũgãhã', yĩy hãmyũmmũgã'ax pu 'ĩpkox pi', nũy Kunnix kuxa mũtik 'ãkuxap-xet.\n28'Ũgkutok xop: Ya hamũn. Kunnix kuxa mũtik 'ãkuxap-xet, hu ta kuxãnõg hok, 'ĩhã Kunnix te putpu' nũn, yĩy yãyhãhup hok, 'ap yãy 'ũm xaptop putup'ah. 29Kunnix te hãmyok mĩy, yĩy yãy yõg tikmũ'ũn te hãmyok mĩy kamah, yã Topap-tok xop nõ'õm. Yã' max 'ãxop te hãmyũmmũg.\nTu Topak-tok xop 'ãktux\n1Topa te mõg yũmũg yãy xe'ẽgnãg, tu mõg yãy xe'ẽgnãg, hu yũmũg 'ãxet'ax mĩy Topak-tok xop. Yã Topa hã yũmũ'ã kutok xop xe'e'. Topa hã' puknõg xop te yũmũg putup nõg, Topa mũn yũmmũg 'ohnãg tu'. 2'Ũkxape xop: Hõnhã Topa hã yumũg kutok xop, ha yũmũg xuxyã nũn, kopxix yũmũg yãy yãnãn 'ũtup'ax, ha xĩy 'a yũmũ'ãtep yũmmũg'ah, pa Kunnix nũn, kopxix yũmũg yãy yãnãn, nũy Kunnix putuk, yũmũg xuxyã xe'e pẽnãp-tup tu'. 3Ha tikmũ'ũn te Kunnix nũn'ax hip, tu' xak, nũy hãpxopmã max, nũy Kunnix yõg hãpxopmã max tat.\n4Tikmũ'ũn te Topa yõg xat'ax pu' yĩpkox hok, puxix tu hãpkummuk mĩy. Yã hãpkummuk mĩy, 'ĩhã' xat'ax tu yĩpkox 'ohnãg. 5Kunnix nũn, nũy yũmũ yõg hãpkummuk mĩy'ax kuxyã', tu hãpkummuk mĩy 'ohnãg. Yã 'ãxop te' yũmmũg tap, 6yĩy tikmũ'ũn kuxap-xet Kunnix kuxa mũtik, puxix tu hãpxopmã max, tu 'a hãpkummuk mĩy pax'ah. Pa tikmũ'un te hãpxopmã kummuk pax, puxix Kunnix pẽnã hok, xi' yũmmũg hok kamah.\n7'Ũgkutok xop: 'Õg pa 'ãti', puyĩy tikmũ'ũn xa mõ'ãmã hok. Tikmũ'ũn max te hãmyok mĩy, ha kaxĩy Kunnix te hãmyok mĩy. 8Tikmũ'ũn te hãpxopmã kummuk pax, puxix Hãmgãyãgnãg yõg, yã Hãmgãyãgnãg te hãpxopmã kummuk tap. Topa te hãm xexka mĩy, 'ĩhã Hãmgãyãgnãg te hãpkummuk mĩy tap. Ha Kunnix nũn, nũy Hãmgãyãgnãg yõg hãpxopmã'ax nõã', pu tu nõg.\n9Topa Koxuk te Topak-tok xop ka'ogãhã', puyĩy hãpxopmã kummuk hok, Topak-tok xop tu'. 10Topak-tok xop xix Hãmgãyãgnãg kutok xop 'ap yãy putuk'ah. Yã Hãmgãyãgnãg kutok xop te hãpkohe mĩy, tu' nõy putup hok.\nTu yãy putup pax 'ãktux\n11'Ãxop te hãm'ãktux hittap 'ãpak, hu: \"'Ũyã yũmũg xohix yã yãy putup pax.\" Kaxĩy. 12Tik hittap Kãyĩy te yãy taknõy 'Ameo putex. 'Ãnõy putex hok, nũy Kãyĩy putuk hãpxopmã hok. Ha Hãmgãyãgnãg xop yõg, tu yãy taknõy putex. Tep tu Kãyĩy tep-tex? Yãy kũmĩy'ax kummuk tup-tex, 'ũtaknõy te hãpxopmã max, yĩy Kãyĩy tep-tex.\n13'Ũkxape xop: Topa hã' puknõg xop te 'ãp-tup nõg, pãyã 'ãkuxãnõg hok. 14Hõmã yũmũ'ãte hãpxopmã kummuk pax, pãyã Kunnix te yũmũg kuxa hĩnnãhã', yĩy yũmũg nõy putup pax xexka nõmhã. Yã taxĩy hã yũmũg yãy kuxa hi'ax yũmmũg. Tikmũ'ũn te' nõy putup hok, puxi' kuxa hi 'ohnãg. 15Tikmũ'ũn te' xapep-tup hok, puxix tu kuxa kopap-tex, ha tikmũ'ũn tep-tex, puxix tu kuxa hi 'ohnãg. 16Ha yũmũ'ãte putup pax yũmmũg. Yã Kunnix xok yũmũg pupi', nõ yũmũg yãy xe'ẽgnãg, tu yũmũ'ã tu' xok, 'ũyã yũmũg xape pupi xakix kamah! 17'Ũptexop xexka te' nõy hok 'ũm pẽnãhã', tu hãpxop 'ũm hõm hok, 'ũkuxa ka tu', puxip-texop te Topa 'ũm putup pax 'ohnãg. 18'ũgkutok xop: 'Ãxop te 'ãnõy putup, ha hãpxopmã max, nũy 'ãyĩy'ax hãp-tup puxet hok. Pa hãpxopmã max, nũy 'ãnõy hã 'ãtehet, nũy tup-tup pax xe'e'.\nTu kuxãnõg hok Topa keppa 'ãktux\n19Hã kaxĩy yũmũ'ãte hãmyũmmũg, yãy yõg hãpxopmã'ax max hã yũmũ'ãte hãmyũmmũg. Yã yũmũg mũn Topa yõg, hu yũmũg kuxa mãm ka'ok Topa kopah. 20Yũmũ'ãte yãy kuxa yĩkopit, tu yã yãy kupex, puxix Topa hãmyũmmũg, nũy yũmũg kuxa tu yũmmũg kamah. 21Yũmũg kuxa yã yãy kupex hok, kopxix yũmũg mõg yãy nĩynãm, nũy Topa keppa' pi', nũy nõm pu hãm'ãktux, nũy yũmũg kuxãnõg hok. 22Topa pu yũmũg yĩpkox pip, yĩy ta yũmũg xat, 'ũ hãpxopmã max, hu Topa tu' xak, 'ũ yũmũ'ã hãpxop 'ũm popmã', ha' popmãhã'. 23Ha Topa te' xat, hu: \"'Ãkuxa mãm 'ũgkutok Yeyox Kunnix kopah,\" kaxĩy. Tu xe: \"'Ãpu 'ãxohix yãy putup pax,\" kaxĩy. Yã kaxĩy Kunnix te yũmũ'ã xat tap. 24Tikmũ'ũn yĩpkox pi', puxix tu kuxap-xet Topa kuxa mũtik, xix Topa kuxa nõm mũtik kuxap-xet, tu yãy Koxuk yĩxonnãhã', pu yũmũ'ã hãmyũmmũgã'.\nTu' Koxuk xe'e 'ãktux, xi' koxuk te mõ'ãmã'ax 'ãktux\n1Tikmũ'ũn punethok te: \"Topa Koxuk tek kopak xip,\" kaxĩy. Nãy, 'ãpu nõm xop yĩkopit, nũy hãmyũ mmũg. Pe yã Topa Koxuk xe'e te nõm kopa' xip. Yã tikmũ'ũn punethok te hãm'ãktux max, pa Topa pupi hãm'ãktux'ah. Yã mõ'ãmã'! 2Hã kaxĩy 'ãxop te' kopit'ax, hu: Tikmũ'ũn te Yeyox Kunnix 'ãktux, tu Yeyox yã tikmũ'ũn kutok 'ãktux, puxix Topa Koxuk xip nõm xop kopah. 3Pa nõm tikmũ'ũn te hãm'ãktux hok, tu: \"'Ap tikmũ'ũn kutok xe'e'ah,\" kaxĩy, puxix Topa Koxuk 'ũkopa tu xip 'ohnãg. 'Ãmhok. Pa' koxuk puknõg te' kopa' xip, nõm te Yeyox tu' gãy. Hõmã tikmũ'ũn te' koxuk puknõg nũn'ax 'ãktux, ha hõnhã hãm xexka tu' xip.\n4'Ũgkutok xop: Yã 'ãxop Topa yõg, hu hãm'ãktux hã mõ'ãmã'ax xop kuxyãp-tup. Yã Topa Koxuk te 'ãkopa' xip, tu' ka'ok xe'ẽgnãg, ha' koxuk puknõg pu'uk. 5Topa hã' puknõg xop te yãy yõg hãpxopmã'ax 'ãktux, ha yãy yõg xape xop te hãm'ãpak, tu Topa hã' puknõg xop hã' xape, hu hãm'ãpak. 6Pãyã yũmũg mũn Topa yõg. Tikmũ'ũn te Topa yũmmũg, puxix yũmũ yõg hãm'ãktux 'ãpax, ha tikmũ'ũn te Topa yũmmũg hok, puxix hãm'ãpak hok. Ha kaxĩy yũmũ'ãte Topa Koxuk yũmmũg, xi' koxuk te mõ'ãmã'ax yũmmũg kamah.\nTopa te tikmũ'ũn mõ'yãy xe'ẽgnãg 'ãktux\n7'Ũkxape xop: 'Ũyã yũmũg yãy putup pax, yã Topa te yũmũg ka'ogãhã', 'ũ xape putup pax. Tikmũ'ũn te' xape putup pax, puxix yã Topak-tok, tu Topa yũmmũg. 8Tikmũ'ũn tep-tup pax hok, puxix Topa yũmmũg hok, yã Topa te mõ'yãy xe'ẽgnãg. 9Tu yũmũg yũmmũgãhã', tu tak-tok puxehnãg nũ'kutnãhã', tuk-tok puxehnãg nũ'kutnãhã hãm xexka tu', pu yũmũg pupi tu' xok, nũy yũmũg kuxa hĩnnã xe'ẽgnãg. 10Ha Topa te yũmũg mõg yãy xe'ẽgnãg. 'A yũmũ'ãte Topa 'ũm mõ'yãy xe'ẽgnãg'ah. 'Ãmhok. Pa Topa te yũmũg mõg yãy xe'ẽgnãg, huk-tok nũ'kutnãhã', pu yũmũg pupi tu' xok, hak-tok xok, nũy yũmũ yõg hãpkummuk mĩy'ax xohix xaxogã', pu tu kux.\n11'Ũkxape xop: Topa te yũmũg mõg yãy xe'ẽgnãg, 'ãpu yũmũg kamah yãy putup pax. 12'A tikmũ'ũn te Topa 'ũm pẽnã xet'ah. Yũmũg yãy putup pax, puxix Topa yũmũg kuxa hã yã tu kuxap-xet, ha mõktu yã mõ'yãy xe'ẽgnãg. 13Hã kaxĩy yũmũg kuxa mãm ka'ok, 'ũyĩy kuxap-xet Topa kuxa mũtik. Yã Topa te yũmũg kopa' xip, tu yãy Koxuk xe'ẽgnãg yĩxõnnãhã', yũmũ'ã'. 14Hak mũ'ãte Topak-tok pẽnãhã'. Yã Topa tek-tok nũ'kutnãhã hãm hah, pu Topa hã' puknõg xop pupi tu' xok. 15Tikmũ'ũn te Yeyox Kunnix yã Topak-tok 'ãktux, puxix Topa kuxa nõm mũtik kuxap-xet. 16Yã yũmũ'ãte Topa yõg mõ'yãy'ax yũmmũg, ha yũmũg mõg yãy xe'ẽgnãg, ha yũmũg kuxa mãm ka'ok nõm kopah.\nTopa mũn mõ' yãy'ax xe'ẽgnãg, ha tikmũ'ũn te' nõy putup pax, puxix tu kuxap-xet Topa kuxa mũtik, ha Topa kuxa te nõm mũtik kuxap-xet 'ũyãnãn tu'. 17Topa te mõg yãy xe'ẽgnãg, tu mõktu yũmũg kuxa kopa' xip ka'ok, ha yũmũ'ãte mõg yãy nĩynãm. Ha hãptup xe'e mõ'nãp-tup, 'ĩhã Kunnix xe'e te putpu nũn, nũy hep xop xohix yõg hãpxopmã'ax kopit. 'Ũyã yũmũg hãpxopmã max, Kunnix te hãpxopmã max putuk! 18Tikmũ'ũn te' nõy putup pax, puxix tu' yĩpkutuk hok, tup-tup pax, hu' yĩpkutuk hok. Tikmũ'ũn te' nõy yĩpkutuk, puxip-tup kutõgnãg, tu' gãy'ax yĩpkutuk, hu' kuxa xũy.\n19Topa te yũmũg mõg yãy xe'ẽgnãg hãmãxap, yĩk-nãy tu yũmũ'ãte Topap-tup pax. 20Tikmũ'ũn te: \"'Ãte Topap-tup pax,\" kaxĩy, tu' xape 'ũm nõy putup nõg, puxi' koit. Tikmũ'ũn te' nõy pẽnãhã', tup-tup hok, puxix Topap-tup hok kamah. 'Ap pẽnã xet'ah. 21Yĩy Kunnix te yũmũg xat, hu: \"Tikmũ'ũn te Topap-tup pax, puxi' xape putup pax kamah,\" kaxĩy.\nTute' gãy xop kuxyã 'ãktux\n1Tikmũ'ũn kuxa mãm ka'ok Yeyox Kunnix kopah, tu yã Topa yõg hãmyãykutnã'ax yũmmũg, puxix nõm tikmũ'ũn Topa hãk-tok. Tikmũ'ũn te' Tak 'ũm putup pax, puxik-tok xop putup pax kamah. 2Yũmũ'ãte Topap-tup pax, tu 'õg xat'ax mĩy, hu Topak-tok xop putup pax kamah, tu' yũmmũg. 3Tikmũ'ũn te Topap-tup pax, tu tu' yĩpkox pip, 'ap xat'ax ka'ok'ah, yũmũg mõg yãy xe'ẽgnãg hah. 4Yã Topak-tok xop te' gãy xop kuxyãp-tup, yũmũg kuxa mãm ka'ok, puxix Topa hã' puknõg xop kuxyãp-tup. 5'Ũ 'ũm te' kuxyãp-tup? Nõm xop kuxa mãm ka'ok Yeyox kopa xop, tute' kuxyãp-tup, nõm te hãmyũmmũg, yã Yeyox mũn Topak-tok.\nTu Yeyox Kunnix 'ãktux\n6Tu' nũn, hap-tox pix kõnãg hã, ha' hep 'ãta nũ'nãhã'. 'Ũp-tox pix, 'ĩhã Topa te yãy kutok 'ãktux, ha yũmũg pupi' xok, 'ũyĩy yũmũ'ã Topa hã kutok xop kamah. Ha Topa Koxuk te: \"Hamũn! Yã hãm'ãktux xe'e'!\" kaxĩy. 7-8Yeyox Kunnix yã Topak-tok xe'ẽgnãg. Topa Koxuk te yũmũg kuxa kopa hãmyũmmũgãhã', 'ũyĩy hãmyũmmũg, xix Yeyox putox pix, 'ĩhã Topa te hãm'ãktux, xix Yeyox te yũmũg pupi' xok, nũy yũmũg kuxa kummuk xit, nũy tu kuxa maxnã', yã hãpxopmã'ax 3 hã yũmũg kuxa mãm ka'ok Yeyox Kunnix kopah. 9Tikmũ'ũn te hãm'ãktux, kopxix yũmũg xupax, ha Topa te hãm'ãktux, kopxix yũmũg yĩpkox pi', hãpxe'e 'ãktux hah, ha Topa te Yeyox yã yãy kutok 'ãktux. 10Tikmũ'ũn kuxa yũm ka'ok Topak-tok kopah, puxix yãy kuxa tu: \"Hamũn!\" kaxĩy. Tikmũ'ũn kuxa yũm hok, puxix tu Topa te yã' koit 'ãktux, Topa yõg hãm'ãktux pu' yĩpkox 'ohnãg hah, ha Topa te: \"Yeyox mũn yã 'ũgkutok xe'e'!\" kaxĩy. 11Tu xe: \"'Ãte 'ãkuxa hinnã xe'ẽgnãg, 'ũgkutok hã 'ãkuxa hinnãhã, ha 'ãhi kux 'ohnãg,\" kaxĩy. 12Topak-tok te tikmũ'ũn mũtik tihi', puxix tu kuxa hi xe'e', ha tikmũ'ũn mũtik ti hok, puxix tu hi 'ohnãg.\nTu' hi xe'ẽgnãg, ha' kux 'ohnãg 'ãktux\n13'Ãte xa kax'ãmi', nũy xa hãmyũmmũgã'. 'Ãxop kuxa mãm ka'ok Topak-tok kopah, tu 'ãkuxa hi xe'ẽgnãg. 14Topa keppa yũmũg pip, tu' yĩpkutuk 'ohnãg. tu Topa tu' xak, pu hãpxop 'ũm hõm, 'ũyĩy yũmũg hãpxopmã max, puxix yũmũ'ã' hõm. 15Yũmũ yõg hãm'ãktux 'ãpak hah, hu yũmũ'ã' hõm putup.\n16Pẽyã tikmũ'ũn te' xape pẽnãhã', ha hãpkummuk mĩy miax, yĩy Topa te' xũygãp-tup, pãyãp xok putup'ah. 'Ãpu Topa tu' xax, pu 'ãxape hĩnnã', puyĩy tu' xok hok. Yã hãpkummuk miax. Pẽyã' xape te hãpkummuk xexka mĩy, pũyã Topa tu' xax hok, puyĩ' hĩnnã'. Yã' xok putup. 17Hãpkummuk mĩy'ax xohix te yãy pu hãpkummugãhã', pa 'ap xohix tep-tex'ah.\n18Topak-tok xop 'ap hãpxopmã kummuk pax'ah, Topak-tok te' pẽnã max hah, yĩy Hãmgãyãgnãg te' kummugã hok, ha yũmũ'ãte' yũmmũg.\n19Yã yumũ' mũn Topa yõg, ha Hãmgãyãgnãg te Topa hã' puknõg xop xat.\n20Yã Topak-tok nũn tap, tu yũmũ'ã hãmyũmmũgãhã', 'ũyĩy yũmũg Topa xe'ẽgnãg yũmmũg. Topa kuxa mũtik yũmũg kuxap-xet, xik-tok Yeyox Kunnix kuxa mũtik yũmũg kuxap-xet. Yã Topa xe'ẽgnãg, tu yũmũg kuxa hĩnnãhã xe'ẽgn��g.\n21'Ũgkutok xop: Topa 'ũm komut nĩm! Nõm pu nũ'ãktetex hok! Tu ta tu' kux.\nhttps:\/\/www.bible.com\/pt\/bible\/612\/1jn.1.mblnt","id":"<urn:uuid:2e63bfdb-31ab-4a05-879f-62461f2bbc70>","dump":"CC-MAIN-2017-34","url":"http:\/\/femissionaria.blogspot.com\/2015\/08\/yoam-1-maxakali.html","date":"2017-08-23T10:06:20Z","file_path":"s3:\/\/commoncrawl\/crawl-data\/CC-MAIN-2017-34\/segments\/1502886118195.43\/warc\/CC-MAIN-20170823094122-20170823114122-00395.warc.gz","language":"mbl","language_score":1.0000085831,"language_script":"Latn","minhash_cluster_size":4,"top_langs":"{\"mbl_Latn_score\": 1.0000085830688477}","num_words":2755,"character_repetition_ratio":0.084,"word_repetition_ratio":0.003,"special_characters_ratio":0.276,"stopwords_ratio":0.459,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":500.0,"cluster_detection":-1}
|
3 |
+
{"text":"8\nYeyox te tikmũ'ũn te' 4,000 pu xit'ax popmãhã'\n1 Hãpxip ha ta' yãy tu nũ'nãhã tikmũ'ũn xohix, tu yõg xit'ax pip'ah. Ha' xip Yeyox, tu yãy yõg tik te 12 xop xãnãhã', tu:\n2 —'Ãte tikmũ'ũn kuxa ka', yã 'ãmnĩy tikoyuk hã' pip tikmũ'ũn 'ũgmũtik, ta hõnhã 'ũyõg xit'ax 'ũm pip'ah.\n3 'Ũmã hok, ha 'ãte tikmũ'ũn mõ'pok 'ũpet hah, puxix xakux putat kopah, 'ũpu'uk tu'. Yã hãptox tu' nũn tikmũ'ũn. Kaxĩy.\n4 Ha Yeyox yõg tik xop te:\n—Tep-te tikmũ'ũn pu xit'ax hãmenex nũnte hãm panip xexka tu'? Yã' pip'ah xit'ax. Yã tikmũ'ũn xohix. Kaxĩy.\n5 Ha Yeyox te:\n—Pãm xohix texĩy 'õgnũ? Kaxĩy.\nHa:\n—'Ũxohix te' 7. Kaxĩy.\n6 Ha tikmũ'ũn xat, pu hãm tu' mãm, tu pãm te' 7 pop, tu Topa pu hãm'ãktux, hu:\n—Xate 'ũgmũ'ã pãm popmãhã'. 'Ãmax. Kaxĩy.\nYeyox te pãm koxip, tu yãy yõg tik xop pu' popmãhã', puyĩy tikmũ'ũn pu popmã'.\n7 Ha ta' pip mãhãm kamah, yã' xohix'ah, ha Yeyox te Topa pu mãm 'ãktux, tu yãy yõg tik xop pu' popmãhã', puyĩy tikmũ'ũn pu' popmã',\n8 ha tikmũ'ũn te' mãhã', tu mõktu xe xit putup'ah, yã puxix, ha Yeyox yõg tik xop te' xit'ax yãgnãg yãy tu nũ'xok manax te' 7 hã nũ'xip.\n9 Yã tikmũ'ũn xohix te' 4.000 te' mãhã pãm xix mãhãm.\nHa ta tikmũ'ũn mõ'pok hato'a Yeyox te',\n10 tu ta' mõg yãy yõg tik xop mũtik, tu mĩpkox hã' mõxaha', tu ta' mõg tu mõktu' mõxaha hãpxexka Namãnot tu'.\nPeniye xop te Yeyox tu' xak, puyĩy hãpxopmã ka'ok xe'ẽgnãg\n11 Ha ta' nũn Paniye xop, tu Yeyox mũtik hãm'ãktux, tup-tup, puyĩy Yeyox hãm'ãktux kummuk, hu ta tu' xak, puyĩy hãpxopmã ka'ok xe'ẽgnãg, pu tikmũ'ũn pẽnã', puyĩy tikmũ'ũn yũmmũg Topa te Yeyox ka'ogãhã',\n12 ha Yeyox te xit xut xexka, tu:\n—Teptu tikmũ'ũn te hãpxopmã'ax ka'ok xe'ẽgnãg xak, puyĩy tikmũ'ũn pẽnã'. 'Ãte xa hãm'ãktux, 'ãte xa hãpxopmã ka'ok xe'ẽgnãg putup'ah, xayĩy pẽnã'. Kaxĩy.\n13 Tu ta' mõg Yeyox xix yãy yõg tik xop, tu mĩpkox hã' mõxaha', tu ta' mõg, tu kõnãg xexka xak.\nPaniye xop yõg pãm tokatokgã'ax xix 'Enot yõg\n14 Ha Yeyox yõg tik xop yõg pãm 'ũm xip'ah, yã' xaxok. Yã pãm puxet xip mĩpkox kopah,\n15 ha Yeyox te:\n—Pa 'ãtix. 'Ũkummuk Paniye xop yõg pãm yõg tokatokgã'ax xix 'Enot yõg. Kaxĩy.\nYã 'ap tokatokgã'ax 'ãktux'ah, pa yã 'ũyõg hãmyũmmũgã'ax.\n16 Ha Yeyox yõg tik xop te yãy mũtik hãm'ãktux punethok, tu:\n—Hamũn. Yũmũ yõg pãm 'ũm xip'ah, yĩy ta nõm 'ãktux. Kaxĩy.\n17 Ha Yeyox te' xupak, tu:\n—Teptu yãy mũtik hãm'ãktux pãm 'ũm xip'ah? 'Ok 'ãxop te' yũmmũg 'ohnãg yõgnũ hãm'ãktux? Texĩy 'ãp-tox ka'ok?\n18 'Ãpa te hãmpẽnã 'ohnãg, xix 'ãyĩpkox te hãm'ãpak 'ohnãg. 'Ok 'ũxutigãhã\n19 'ãte pãm te' 5 koxip, nũy tikmũ'ũn te' 5.000 pu' popmã'? 'Ũmã kux, ha pãm yãgnãg xe' pip, manax hã nũ'xip. 'Ãxop te manax xohix texĩy pop? Kaxĩy.\nHa':\n—12. Kaxĩy.\n20 Ha Yeyox te xe:\n—'Ãte pãm te' 7 koxip, nũy tikmũ'ũn te' 4.000 pu' popmã'. 'Ũmã kux, ha pãm yãgnãg xe' pip, manax hã nũ'xip. 'Ãxop te manax xohix texĩy pop? Kaxĩy.\nHa':\n—7. Kaxĩy.\n21 Ha Yeyox te:\n—'Ok 'ãxop te hãmyũmmũg nõmhã'? Kaxĩy.\nYeyox xix tik pa hok Metxax tu'\n22 Tu ta' mõg Yeyox xix yãy yõg tik xop, tu mõktu' mõxaha xiptuxexka Metxax tu', ha ta' nũn tikmũ'ũn, tu tik pa hok nũnnãhã', tu Yeyox tu' xak, puyĩy 'ũyĩm xex tik yĩmũ', nũy hittupmã'.\n23 Ha Yeyox te' nõy yĩm mũg, tu ta' mõg tik mũtik tikmũ'ũn xohix kũnãpa', tu yĩypu'ĩn tik pa kopah, tu nõy yĩmũ yãy yĩm xex, tu:\n—'Ok hãpxop pẽnãhã'? Kaxĩy.\n24 Ha tik te hãmpẽnãhã', tu:\n—'Ãte' pẽnãhã tihik, pa yã mĩm te hãpkumep putuk. Kaxĩy.\n25 Ha Yeyox te xe yãy yĩm xex tik pa yĩmũ', ha tik te hãmpẽnã mõ'ka'ok, tu hãmpẽnã max xe'ẽgnãg. Yã' hittup.\n26 Ha Yeyox te tik xat, pu' pet ha mõg, puyĩy xiptuxexka tu mõg hok.\nPet te hãm'ãktux max\n27 Tu ta' mõg Yeyox xix yãy yõg tik xop tu xiptuxexka Pinip yõg Xeyanet tu'.\nYeyox te tik pu hãm'ãktux, hu:\n—Putep xuktux tikmũ'ũn? 'Ũ'ũm 'ũgmũn? Kaxĩy.\n28 Ha tik te:\n—Yã' yãg te: \"Yã Yoãm, nõm tep-tox pix.\" Kaxĩy. Ha ta' yãg nõy te: \"Y�� 'Enit.\" Kaxĩy. Ha ta' yãg nõy te: \"Yã nõm te Topa pupi hãm'ãktux.\" Kaxĩy.\n29 Ha Yeyox te:\n—Xix 'ãxop, putep xuktux 'ãxop, 'ũ'ũm 'ũgmũn? Kaxĩy.\nHa Pet te:\n—Yã Topa te 'ãyãykutnãhã'. Kaxĩy.\n30 Ha Yeyox te tik xat, puyĩy nõm 'ãktux hok.\nYeyox te' xuktux 'ũxok putup, tu putpu' hip-tup\n31 Tu ta hãm'ãktux Yeyox te yãy yõg tik xop pu, tu:\n—'Ũgmũn, yã Tikmũ'ũn Kutok, tuk xũy xexkap-tup, yã Yoneo xop yõg xexka xop tek putup nõg putup, xix 'ãmãnex xexka xop te', xix tik te hãmyũmmũg xop te', tu' nõy xat putup, puyĩy 'ũkputex. 'Ũkxok xe'e putup, pa 'ãmnĩy tikoyuk nõg, 'ĩhã putpuk hip-tup. Kaxĩy.\n32 Yã hãm'ãktux xe'e Yeyox te', ha Pet te:\n—'Ãmhok. Kaxĩy hok! Kaxĩy.\n33 Ha Yeyox yõkãnãm, nũy yãy yõg tik xop pẽnã', nũy Pet pu hãm'ãktux, hu:\n—'Õg hãm'ãktux'ax yã Hãmgãyãgnãg yõg. 'Ãpu 'ũkxãmpa mõg! Xate hãmpe'ãpaxex, yã tikmũ'ũn te hãmpe'paxex putuk, yã 'ap Topa te hãmpe'paxex putuk'ah. Kaxĩy.\n34 Tu ta tikmũ'ũn xãnãhã Yeyox te, xix yãy yõg tik xop xãnãhã', ha' nũn, ha Yeyox te:\n—Tikmũ'ũn tek mũn mũtik hãpkumep putup, puxix yãy kutõgnãg pe'paxex, puxix yãy yõg putup'ax mĩy 'ohnãg, nũy 'ãmnĩy xohix hã' yãy yõg mĩpkupnix tat, nũy xũy, nũy 'ũkxũy putuk, tuk mũn mũtik hãpkumep putup nõmhã'.\n35 Ha tikmũ'ũn te' yãy xaxok hok, puxix tu' hi xe'e 'ohnãg, pa tikmũ'ũn xok 'ũgmũn hah, puxix tu hip-tup mõkuma' mõg, tu hi kux 'ohnãg.\n36 Teptu hãm xexka yõg hãpxop xohix pop, pãyã' xok? 'Ũp-texop, tu' xok, tu hãpxop xohix xaxok, 'ũxok tu', puxix' hok xe'ẽgnãg.\n37 'Ok max, pu tikmũ'ũn putexop xexkah, tu hãm xexka yõg tayũmak xohix xexka pop, pa' xok? 'A' max'ah. Yã' xok, tu tayũmak xohix xaxok, tu hok xe'ẽgnãg, ha tayũmak xohix te tikmũ'ũn putpu' hĩnnã hok.\n38 Tikmũ'ũn tek mũn hã yãyhãhup, xix yõgnũ hãm'ãktux ha yãyhãhup, yã 'ũnõy xop pu yãyhãhup, hu: \"'Agmũn Yeyox yõg'ah.\" Kaxĩy. Kopxix 'ãte nõm hã yãyhãhup, 'ũyãnãn tu'. 'Ãtak Topa pu 'ãte nõm xop hã yãyhãhup, 'ĩhãg nũn, tu: \"'Õhõm 'a' yõg'ah.\" Kaxĩy. 'Ĩhãg xexka xe'ẽgnãg nũn 'ãtak Topa putuk, xix pexkox yõg nũ'pok xop putuk.","id":"<urn:uuid:f8cc659f-e790-41b4-8487-dbfbb54e2ef1>","dump":"CC-MAIN-2019-18","url":"https:\/\/ebible.org\/study\/content\/texts\/mblNT\/MK8.html","date":"2019-04-23T19:56:41Z","file_path":"s3:\/\/commoncrawl\/crawl-data\/CC-MAIN-2019-18\/segments\/1555578613603.65\/warc\/CC-MAIN-20190423194825-20190423220825-00288.warc.gz","language":"mbl","language_score":1.0000092983,"language_script":"Latn","minhash_cluster_size":1,"top_langs":"{\"mbl_Latn_score\": 1.000009298324585}","num_words":1004,"character_repetition_ratio":0.077,"word_repetition_ratio":0.053,"special_characters_ratio":0.307,"stopwords_ratio":0.534,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":500.0,"cluster_detection":-1}
|
4 |
+
{"text":"4\nHãpxopxap\n1 Ta xe tikmũ'ũn pu hãmyũmmũgãhã Yeyox te kõnãg xexka Ganinet kux tu', ha ta' pip tikmũ'ũn xohix, yĩy ta' mõ'nãhã mĩpkox hã, tu' yũm, ha' pip tikmũ'ũn hãmhũmnãg hãm kux tu',\n2 ha Yeyox te hãm'ãktux'ax hã hãpxop xohix yũmmũgãhã', nũy Topa yõg hãpxopmã'ax yũmmũgãhã', tu:\n3 —'Ũgxupex, 'ũmõg tihik, nũy hãpxopxap mõ'pok,\n4 tu hãpxopxap mõ'pok, ha yãg te nũ'nãhã putat kopah, ha ta' nũn putuxnãg, tu' xohix mãhã',\n5 ha ta' yãg nõy te nũ'nãhã hãm kutõgnãg kopa mĩkaxxap yĩmũ' yũm, tu hãpxip kutõgnãg 'ĩhã' xokax hãm tũnẽmnãg tu',\n6 pa mãyõn xip, ha mõ'hap, tu' nak, yã' yĩpxatit kutõgnãg, hu' nak,\n7 ha ta' yãg nõy te nũ'nãhã mĩmyãm kup kakak, tu' xokax, tu' tuk, ha mĩmyãm kup tuk, tu' nõy mõ'nĩy, ha' ta 'ohnãg,\n8 ha ta' yãg nõy te nũ'nãhã hãm max kopah, tu' xokax, tu' tuk, tu mõktu kup puxet te mĩnta te' 30 popmãhã', ha ta kup nõy ta' tu 60, ha ta kup nõy ta tu 100. Kaxĩy.\n9 Tu xe:\n—'Ãyĩpkox pip, nũy ta 'ãpu yã xupax. Kaxĩy.\nYeyox te hãpxopxap 'ãktux\n10 Ha ta' mõg tikmũ'ũn punethok, ha ta' yãg xip Yeyox mũtik xix Yeyox yõg tik te 12 xop mũtik, tu yãy tu nũ'nãhã', nũy Yeyox mũtik hãm'ãktux, tu:\n—Hãmyũmmũg'ax 'ũm yũmmũgãhã xate? Kaxĩy.\n11 Ha:\n—Texĩy Topa te yãy yõg tikmũ'ũn xat, ha' yĩpkox pip? Topa te xa' mũg. Pa Topa te 'ãxop kũnãpa pip xop pu hãmyũmmũgãhã hãm'ãktux'ax hã,\n12 puyĩy hãmpẽnã', pa hãmyũmmũg 'ohnãg, puyĩy hãm'ãpak, pa hãmyũmmũg 'ohnãg, puyĩy yãy yõg hãpkummuk mĩy'ax nĩm hok, puyĩy Topap-tuppax hok, puyĩy Topa tikmũ'ũn yõg hãpkummuk mĩy'ax xaxogã hok, pu tu' kux 'ohnãg. Kaxĩy.\n13 Tu xe:\n—'Ãxop te hãm'ãktux'ax yũmmũg 'ohnãg. Texĩy 'ãxop kũnãpa pip xop te nõm yũmmũg? Kaxĩy.\n14 Tu xe:\n—Tik te hãpxopxap mõ'pok. Hã kaxĩy tikmũ'ũn te Topa yõg hãm'ãktux'ax 'ãktux, ha hãpxopxap te Topa yõg hãm'ãktux putuk,\n15 ha ta hãpxopxap yãg te nũ'nãhã putat kopah, ha ta' nũn putuxnãg, tu' mãhã'. Hã kaxĩy tikmũ'ũn te Topa yõg hãm'ãktux'ax 'ãpak, pa Hãmgãyãgnãg nũn, tu Topa yõg hãm'ãktux'ax xut.\n16 Ha ta hãpxopxap yãg te nũ'nãhã hãm kutõgnãg kopa mĩkaxxap yĩmũ' yũm, tu' xokax, tu' nak mõ'ka'ok 'ũyĩpxatit kutõgnãg hah. Hã kaxĩy tikmũ'ũn te Topa yõg hãm'ãktux 'ãpak, tu' kuxa hittup,\n17 pa hãpxip 'ĩhã tikmũ'ũn te' kuxa mãm xop kute'ex kummuk, ha' kuxa mãm kux.\n18 Ha ta hãpxopxap yãg te nũ'nãhã mĩmyãm kup kakak, tu' xokax, ha mĩmyãm te' nõy mõ'nĩy, ha' ta 'ohnãg. Hã kaxĩy tikmũ'ũn te Topa yõg hãm'ãktux 'ãpak,\n19 pa hãm xexka yõg hãpxopmã'ax pe'paxex punethok, tu 'ũp-texop xexkap-tup, tu hãpxop xohix putup, hu Topa yõg hãm'ãktux xaxok, tu hãpxopmã max mĩy'ah.\n20 Ha ta hãpxopxap yãg te nũ'nãhã hãm max kopah, tu' xokax, tu' tuk, tu mõktu kup puxet te mĩnta te' 30 popmãhã', ha ta kup nõy ta' tu 60, ha ta kup nõy ta' tu 100. Hã kaxĩy tikmũ'ũn te Topa yõg hãm'ãktux'ax 'ãpak, tu' kuxa mãm nõm kopah, tu hãpxopmã max punethok. Kaxĩy.\nKuyãnãm\n21 Tu Yeyox te xe:\n—'Ok tikmũ'ũn te kuyãnãm tat'ax xex manax kopah? 'Ãmhok. 'Ok tikmũ'ũn te kuyãnãm tat'ax xex mĩmpe mõ'yõn'ax kakak? 'Ãmhok. Pa tikmũ'ũn te kuyãnãm tat'ax yõg yũm'ax yĩmũ' xex, ha nõmhã kuyãnãm max, ha tikmũ'ũn te hãpxop pẽnãhã'.\n22 Hã kaxĩy tikmũ'ũn te hãpxopmã xaptop hõnhã', ha tikmũ'ũn te' pẽnã 'ohnãg, pa hãpxip 'ĩhã tikmũ'ũn xohix te' pẽnãp-tup.\n23 'Ãyĩpkox pip, nũy ta 'ãpu yã xupax. Kaxĩy.\n24 Ta Yeyox te xe:\n—'Ãpu 'ãkuxa hã' xupax. Xate 'ãnõy yõg hãpxopmã'ax kopit, puxix Topa te 'õg hãpxopmã'ax kopit, yã' yãy putuk, yã Topa te 'õg hãpxopmã'ax kopit xe'ẽgnãg putup.\n25 Tikmũ'ũn yõg hãpxop pip, puxix hãpxop nõy pop putup. Tikmũ'ũn yõg hãpxop kutõgnãg pip, puxix nõm xaxok putup.\nHãpxopxap\n26 Tu Yeyox te xe:\n—Texĩy Topa te yãy yõg tikmũ'ũn xat, ha' yĩpkox pip? Yã' putuk, tik te hãpxopxap mõ'pok, ha' xokax, tu' tuk.\n27 Texĩy 'ũxokax? Texĩy 'ũtuk? Tik te' yũmmũg 'ohnãg. 'Ãmnĩy hã mõ'yõn, tu hãptup hã hãpkumep, 'ĩhã' tuk.\n28 Hãpxopxap te hãm hã' mõxaha', tu' xokax, tu' tuk, ha' tut pip, ha' xap ta punethok.\n29 Yã' ta, ha tik te' mep kupukhe hã, tu' nũnnãhã'. Hã kaxĩy Topa yõg tikmũ'ũn xohix nõy nã' mõg, Topa te nõm xat. Kaxĩy.\nMõytat xap\n30 Tu Yeyox te xe:\n—Texĩy Topa te yãy yõg tikmũ'ũn xat, ha' yĩpkox pip? Texĩy 'ãte xa hãmyũmmũgãp-tup?\n31 Yã hãpxopxap putuk, yã mõytat xap putuk. Yã' kutõgnãg mõytat xap, pa hãpxopxap nõy xohix 'ũxexkah.\n32 Tikmũ'ũn te mõytat xap xok, tu' xokax, tu' tuk, tu mõktu kup tox, ha ta' kup nõy kutõgnãg, ha mõytat kup mãg xexkah, ha ta' nũn putuxnãg, tu yãy pet mĩy mĩm mãg tu'. Hã kaxĩy Topa yõg tikmũ'ũn xop kutõgnãg hãmãxap, pa' xohix nõy nã'mõg tu mõktu' xohix. Kaxĩy.\n33 Hã kaxĩy Yeyox te tikmũ'ũn pu hãmyũmmũgã punethok hãm'ãktux'ax hã, yĩy tikmũ'ũn te hãmyũmmũg.\n34 Yã tikmũ'ũn pu hãmyũmmũgãhã hãm'ãktux'ax hã, pa yãy yõg tik te 12 xop mũtik hãm'ãktux nõy, nũy hãmyũmmũgã'.\nYeyox te 'ãmuuh xat xix kõnãg tot\n35 'Ãmnĩy ha ta yãy yõg tik xop pu Yeyox te:\n—'Ãpu yũmũ kõnãg xexka xak, nũy kũnãpa mõg. Kaxĩy.\n36 Ha Yeyox yõg tik xop te tikmũ'ũn mõ'pok hato'ah, ha' mõg, ha ta' mõg tihik Yeyox hah, tu yõg mĩpkox hã' mõxaha', tu ta' mõg Yeyox mũtik, ha ta mĩpkox xape mõg kama nũmũtik,\n37 pa hãpxip 'ĩhã 'ãmuuh xexka nũn, ha ta' nũn kõnãg tot xexka', tu nũktu mĩpkox hã' mõxaha', ha mĩpkox te kõnãg hã nũ'xip,\n38 ha Yeyox mõ'yõn mĩpkox xahixpa tu', tup-tox tep-tox yũm'ax yĩmũ' yũm, ha Yeyox yõg tik xop te' nuhuk, ha' koxak, ha hãm'ãktux, hu:\n—Yãyã, yũmũg xakix putup. 'Ok 'ũgmũg kuxa ka'? Kaxĩy.\n39 Ha Yeyox yok, tu 'ãmuuh xat xix kõnãg tot, puyĩy tu xuxix, ha' xuxix, tu nũ'yẽy.\n40 Ha Yeyox te yãy yõg tik xop pu yĩkopit, hu:\n—Texĩy 'ãkuxa nõg? 'Ok 'ãkuxa mãm 'ohnãg? Kaxĩy.\n41 Ha tik kuxanõg, tu:\n—'Ũ'ũm tihik? Yã tute 'ãmuuh xat xix kõnãg tot, ha' xuxix, tu nũ'yẽy! Kaxĩy.","id":"<urn:uuid:d446b109-b453-43d5-9dbb-7d4612f54642>","dump":"CC-MAIN-2019-18","url":"https:\/\/ebible.org\/study\/content\/texts\/mblNT\/MK4.html","date":"2019-04-24T12:21:01Z","file_path":"s3:\/\/commoncrawl\/crawl-data\/CC-MAIN-2019-18\/segments\/1555578641278.80\/warc\/CC-MAIN-20190424114453-20190424140453-00324.warc.gz","language":"mbl","language_score":1.0000089407,"language_script":"Latn","minhash_cluster_size":1,"top_langs":"{\"mbl_Latn_score\": 1.0000089406967163}","num_words":958,"character_repetition_ratio":0.09,"word_repetition_ratio":0.056,"special_characters_ratio":0.29,"stopwords_ratio":0.471,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":500.0,"cluster_detection":-1}
|
5 |
+
{"text":"Yoãm 8:44\n44'Ãxop yã Hãmgãyãgnãg kutok, tu 'ãxop te' mĩy 'õgnũ 'ãtak te nõm putup. Yã hãm xexka yõg hãmyãxatamuk tox hã Hãmgãyãgnãg te' kixpax. Tutep-tup nõg hok'ah hãmyũmmũg'ax xe'e, yã Hãmgãyãgnãg 'ũyok 'ohnãg, tu' koitpax, yã Hãmgãyãgnãg te kaxĩy, tu' koitpax, yã koit'ax xohix xexka mĩy. Koit'ax yã Hãmgãyãgnãg kutok.","id":"<urn:uuid:3fdb1dce-733c-4033-ad51-9dc3774d31c0>","dump":"CC-MAIN-2019-35","url":"http:\/\/bibles.org\/mbl-MBLNT\/John\/8\/44","date":"2019-08-19T05:24:11Z","file_path":"s3:\/\/commoncrawl\/crawl-data\/CC-MAIN-2019-35\/segments\/1566027314667.60\/warc\/CC-MAIN-20190819052133-20190819074133-00490.warc.gz","language":"mbl","language_score":0.9999927282,"language_script":"Latn","minhash_cluster_size":4,"top_langs":"{\"mbl_Latn_score\": 0.9999927282333374}","num_words":50,"character_repetition_ratio":0.163,"word_repetition_ratio":0.0,"special_characters_ratio":0.255,"stopwords_ratio":0.48,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":500.0,"cluster_detection":-1}
|
6 |
+
{"text":"Nok 13:14\n14Pa tik te Topa pet kopa' xat, tu' gãy, Yeyox te nit xap hã' tikmũ'ũn hittupmã', ha' gãy, tup-tup nõg, hu tikmũ'ũn pu hãm'ãktux, hu:\n—'Ãmnĩy te 6 hã tikmũ'ũn hãm, tu' nũn, pũyĩy hittupmã', pa 'ap nit xap'ah. Kaxĩy. Nõ'õm Yoneo xop yõg hãptup xe'e', ha Yoneo yõg tikmũ'ũn hãm 'ohnãg nit xap 'ĩhã'.","id":"<urn:uuid:3c235d07-c64d-42da-8a3c-7023a91438a3>","dump":"CC-MAIN-2019-35","url":"http:\/\/bibles.org\/mbl-MBLNT\/Luke\/13\/14","date":"2019-08-26T07:22:43Z","file_path":"s3:\/\/commoncrawl\/crawl-data\/CC-MAIN-2019-35\/segments\/1566027331228.13\/warc\/CC-MAIN-20190826064622-20190826090622-00389.warc.gz","language":"mbl","language_score":1.0000035763,"language_script":"Latn","minhash_cluster_size":1,"top_langs":"{\"mbl_Latn_score\": 1.0000035762786865}","num_words":55,"character_repetition_ratio":0.057,"word_repetition_ratio":0.0,"special_characters_ratio":0.329,"stopwords_ratio":0.473,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":500.0,"cluster_detection":-1}
|
7 |
+
{"text":"Yoãm 9:41\n41Ha Yeyox te:\n—'Ãxop te hãm'ãktux Topa yõg hãm'ãktux yũmmũg kutõgnãg, pap-tup, nũy hãmyũmmũg, nũy ta' pa hok xop putuk, tuk-nãy tu hãmpẽnãhã', yã 'ãmax Topa keppah. Pa 'ãxop te kaxĩy 'ohnãg. Yã 'ãxop te hitop 'ãktux Topa yõg hãm'ãktux yũmmũg, nũy ta' pa hok xop putuk, tu 'ãkummuk Topa keppa mõkuma 'ãmõg. Kaxĩy.","id":"<urn:uuid:54cb369a-c3bc-4f32-a544-f08a0bb84857>","dump":"CC-MAIN-2019-35","url":"http:\/\/bibles.org\/mbl-MBLNT\/John\/9\/41","date":"2019-08-24T13:06:57Z","file_path":"s3:\/\/commoncrawl\/crawl-data\/CC-MAIN-2019-35\/segments\/1566027321140.82\/warc\/CC-MAIN-20190824130424-20190824152424-00038.warc.gz","language":"mbl","language_score":1.0000070333,"language_script":"Latn","minhash_cluster_size":1,"top_langs":"{\"mbl_Latn_score\": 1.0000070333480835}","num_words":55,"character_repetition_ratio":0.108,"word_repetition_ratio":0.0,"special_characters_ratio":0.279,"stopwords_ratio":0.636,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":500.0,"cluster_detection":-1}
|
8 |
+
{"text":"Nok 7:42\n42Pãyã' nõm tik te tayũmak 'ũm xip'ah, 'ap pagok yũmmũg'ah, ha tik max te' homip tu' kax 'ohnãg, ha' kux. 'Ãte xa yĩkopit, hu: Tik 'ũm kuxa hittup xe'e', nũy tik max tup-tup pax xexkah, pe tik ta nemẽn tayũmak te 50, pe tik ta nemẽn tayũmak te 500? Putep pe'ãpaxex? Kaxĩy.","id":"<urn:uuid:4b9692e9-8c94-423d-a385-a9d7403532a6>","dump":"CC-MAIN-2019-35","url":"http:\/\/bibles.org\/mbl-MBLNT\/Luke\/7\/42","date":"2019-08-19T12:10:41Z","file_path":"s3:\/\/commoncrawl\/crawl-data\/CC-MAIN-2019-35\/segments\/1566027314732.59\/warc\/CC-MAIN-20190819114330-20190819140330-00433.warc.gz","language":"mbl","language_score":0.999984622,"language_script":"Latn","minhash_cluster_size":1,"top_langs":"{\"mbl_Latn_score\": 0.999984622001648}","num_words":51,"character_repetition_ratio":0.11,"word_repetition_ratio":0.0,"special_characters_ratio":0.324,"stopwords_ratio":0.314,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":500.0,"cluster_detection":-1}
|
9 |
+
{"text":"ꞌAt 15:22\nTu tappet tu kax'ãmi'\n22Ha mõ'pok xop, xix tik pẽnã max xop, xi' kuxa mãm ka'ok xop xohix te Tiak yõg hãm'ãktux'ax 'ãpak, tup-tox puxet, hu tik 2 yĩmõgatux, pu Paot xix Maname mũtik mõg, tu 'Ãtikit tu mõ'pok, ha tik 2 'ãxet'ax Yot Maxamax, xix Xinax, ha' xape xop tep-tup pax, tu nõm pe'paxex max.","id":"<urn:uuid:26abf1c0-2dbf-45d6-b76c-0653e83c7f00>","dump":"CC-MAIN-2019-35","url":"http:\/\/bibles.org\/mbl-MBLNT\/Acts\/15\/22","date":"2019-08-21T12:23:27Z","file_path":"s3:\/\/commoncrawl\/crawl-data\/CC-MAIN-2019-35\/segments\/1566027315936.22\/warc\/CC-MAIN-20190821110541-20190821132541-00238.warc.gz","language":"mbl","language_score":0.9998307824,"language_script":"Latn","minhash_cluster_size":1,"top_langs":"{\"mbl_Latn_score\": 0.9998307824134827}","num_words":55,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.303,"stopwords_ratio":0.455,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":500.0,"cluster_detection":-1}
|
10 |
+
{"text":"ꞌAt 15:23\n23Ha kax'ãmi' kuxa mãm ka'ok xop pu', tu tik hã mõ tappet kutnãhã', ha tappet tu kax'ãmi', hu:\n\"Yeyox yõg mõ'pok xop xix tik pẽnã max xop te 'ãneo, 'ũkxape xop pu 'ãneo, 'Ãtikit yõg kuxa mãm ka'ok xop, xix Xit yõg kuxa mãm ka'ok xop, xix Xinix yõg kuxa mãm ka'ok xop pu 'ãneo.","id":"<urn:uuid:5ddae44a-c214-4edc-9f37-19fc4a8985c3>","dump":"CC-MAIN-2019-35","url":"http:\/\/bibles.org\/mbl-MBLNT\/Acts\/15\/23","date":"2019-08-21T22:21:55Z","file_path":"s3:\/\/commoncrawl\/crawl-data\/CC-MAIN-2019-35\/segments\/1566027316549.78\/warc\/CC-MAIN-20190821220456-20190822002456-00239.warc.gz","language":"mbl","language_score":1.0000084639,"language_script":"Latn","minhash_cluster_size":1,"top_langs":"{\"mbl_Latn_score\": 1.000008463859558}","num_words":56,"character_repetition_ratio":0.188,"word_repetition_ratio":0.0,"special_characters_ratio":0.311,"stopwords_ratio":0.536,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":500.0,"cluster_detection":-1}
|
11 |
+
{"text":"ꞌAt 26:2-3\n2-3—'Ãxexka 'Aginip, xate Yoneo xop xat, tu Mõyyex yõg xat'ax yũmmũg, yĩk kuxa hittup, tu kupex xop pu hãm'ãktux hã' yãnãn putup. 'Ũghip, nũy 'ũg'ãpax.\n4—Yoneo xop xohix tek yũmmũg, yã yõgnũ hãm tuk xip hãmãxap, tuk nũn Yenoyanẽn tu', 'ihãk mũn kakxop tuktup, xi' xiptap.","id":"<urn:uuid:30881d40-dfde-4a17-a15b-208f40c46d94>","dump":"CC-MAIN-2019-35","url":"http:\/\/bibles.org\/mbl-MBLNT\/Acts\/26\/2-3","date":"2019-08-20T05:07:54Z","file_path":"s3:\/\/commoncrawl\/crawl-data\/CC-MAIN-2019-35\/segments\/1566027315222.56\/warc\/CC-MAIN-20190820045314-20190820071314-00394.warc.gz","language":"mbl","language_score":0.9999972582,"language_script":"Latn","minhash_cluster_size":1,"top_langs":"{\"mbl_Latn_score\": 0.9999972581863403}","num_words":47,"character_repetition_ratio":0.022,"word_repetition_ratio":0.0,"special_characters_ratio":0.291,"stopwords_ratio":0.319,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":500.0,"cluster_detection":-1}
|
12 |
+
{"text":"Mãꞌak 14:3\nYeyox xip xiptuxexka Metãn tu'\n3'Ũxip Yeyox xiptuxexka Metãn tu' Xĩmãm pet kopah, yã Ximãm xax kunutnãm. Ha ta' nũn 'ũhũn, tu mĩkaxxap koxnãg max nũnnãhã', yã mĩkaxxap 'anamax hã' mĩy, ha' kopa' xip hep haxnãg max 'ũxuxet'ax nãn, yã takat xexkah. 'Ũn nũn, tu nũktu mĩkaxxap koxnãg koxyõy, tu Yeyox putox yĩmũ hep pux.","id":"<urn:uuid:6c301819-fd62-4760-9fa3-b227e7743912>","dump":"CC-MAIN-2019-35","url":"http:\/\/bibles.org\/mbl-MBLNT\/Mark\/14\/3","date":"2019-08-22T09:39:46Z","file_path":"s3:\/\/commoncrawl\/crawl-data\/CC-MAIN-2019-35\/segments\/1566027317037.24\/warc\/CC-MAIN-20190822084513-20190822110513-00280.warc.gz","language":"mbl","language_score":0.9999828339,"language_script":"Latn","minhash_cluster_size":1,"top_langs":"{\"mbl_Latn_score\": 0.9999828338623047}","num_words":56,"character_repetition_ratio":0.11,"word_repetition_ratio":0.0,"special_characters_ratio":0.256,"stopwords_ratio":0.286,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":500.0,"cluster_detection":-1}
|
13 |
+
{"text":"Mãteo 21:33\nTute kãmãnat kummuk 'ãktux\n33Tu xe:\n—'Ũg 'ãpax! Hãm'ãktux'ax nõy hã 'ãte xa hãmyũmmũgã'ax, nũy Topa yõg hãpxopmã'ax xa hãmyũmmũgã', hu: Tikmũ'ũn te hãpxaha', tu mĩnta 'op xok, tu hãmpak'ax hã' yĩmmap, tu mĩkaxxap xox tix hã' tat'ax mĩy, pu tox hep 'op tonnok, nũy' hep xut, nũy ta hep xupyãg mĩy, xix mĩptut tox mĩy, nũy hãpxa xexka pẽnã', ha tikmũ'ũn nõy pu' nĩm, tayũmak hã' nõy yãnãn tu', tu ta hãpkumep hãptox tu'.","id":"<urn:uuid:962a6529-5f92-4583-981d-634e73a191aa>","dump":"CC-MAIN-2019-35","url":"http:\/\/bibles.org\/mbl-MBLNT\/Matt\/21\/33","date":"2019-08-22T00:38:31Z","file_path":"s3:\/\/commoncrawl\/crawl-data\/CC-MAIN-2019-35\/segments\/1566027316555.4\/warc\/CC-MAIN-20190822000659-20190822022659-00246.warc.gz","language":"mbl","language_score":1.0000052452,"language_script":"Latn","minhash_cluster_size":1,"top_langs":"{\"mbl_Latn_score\": 1.0000052452087402}","num_words":76,"character_repetition_ratio":0.029,"word_repetition_ratio":0.0,"special_characters_ratio":0.291,"stopwords_ratio":0.355,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":500.0,"cluster_detection":-1}
|
14 |
+
{"text":"ꞌAt 17\nTu kõmẽn Texanõn tu' tihi'\n1Tu ta' mõg, kõmẽn 'Ãppip kotit hã' mõg, xix kõmẽn 'Aponõn kotit hã' mõg, tu mõktu mõxaha kõmẽn Texanõn tu', ha Yoneo yõg Topa pet yũm, 2ha nit xap yã Yoneo yõg hãptup xe'e', yĩy nit xap xohix 'ĩhã Paot te Yoneo yõg Topa pet ha' mõg, hu hõnhã' mõg, tu nit xap 3'ĩhã hãm'ãktux hã' nõy kutnãhã'. Kaxĩy.\n4Ha tik 'ũm te:\n—Hamũn! Kaxĩy.\nHu Paot xix Xinax mũtik yãy kotĩnnãhã', ha Genex yõg puknõg xop te Topa xak, xix 'ũn xexka xop, tu nõm tik mũtik yãy kotĩnnãhã'.\n5Pa Yoneo xop te' yĩpkumĩy, tu tik kummuk yĩmõgatux, nõm hãm hok xop, tu hãpkute'ex kummuk pax, 'ap max'ah, tu kõmẽn xohix kopa hãpkummugãhã', tu kõmẽn xohix gãyãhã', tu Paot xak xix Xinax, hu Yaxãm pet hã' mõxakux. 6Pãyã 'ap ti'ah, yĩy Yaxãm mũg, tu' xut yãy pet kopah, tu' xape xop mõy kamah, tu kõmẽn yõg xexka xop keppa' mõgãhã', tu:\n—Nũ tik te hãm xexka xohix tu hãpkummugãhã', tu nũktu nũn kamah, 7tu Yaxãm pet kopa' tihi', ha' xohix te hãpxexka Hõm yõg Xex putup pax, pa tik xop kummuk te hãpkummuk yũmmũgãhã', hu: \"Hõm yõg Xex tek mũg xat 'ohnãg. Yã Yeyox tek mũg xat xe'ẽgnãg! Kaxĩy.\"\n8Ha Texanõn yõg tikmũ'ũn te hãm'ãpak, xix kõmẽn yõg xexka xop, hu' gãy, 9tu tayũmak xak Yaxãm tu hãmãxap, xi' nõy xop tu', puyĩy Paot xix Xinax mõy, puyĩy kõmẽn Texanõn nĩm. Ha pago, tu nũ'paha'.\nTu kõmẽn Menet tu' tihi'\n10Ha 'ãmnĩy hã' kuxa mãm ka'ok xop te Paot xix Xinax mõgãhã', tu' mõg tu moktu mõxaha kõmẽn Menet tu', tu Yoneo yõg Topa pet hã' mõxakux. 11Ha Menet yõg Yoneo xop te hãmyok mĩy, pa Texanõn yõg xop te hãpkohe' mĩy. Yã Menet yõg tikmũ'ũn te Topa yõg tappet mõ'kupix nãm, puyĩy Paot yõg hãm'ãktux kopit, nũy hãmyũmmũg, nũy hãpxe'e yũmmũg. 12Hũ Menet yõg tikmũ'ũn punethok kuxa mãm ka'ok Yeyox kopah, xix Genex yõg 'ũn xexka xop, xix tik xop. 13Ha Paot te hãm'ãpak max'ax 'ãktux, ha Texanõn yõg Yoneo xop te hãm'ãpak, hu' gãy, tu' nũn, tu nũktu tikmũ'ũn gãyãhã'. 14Ha' xape xop te Paot xut, tu:\n—Mõg, mõg, pu 'ãp-tex hok! Kaxĩy.\nHa' mõg, kõnãg xexka ha' mõg, pãyã Xinax nox xip, xix Tĩmõn, tu Menet kopa' tihi'. 15Ha nõm xape xop te Paot mõgãhã kõmẽn xexka 'Atẽn tu', tu putpu' mõg Menet tu', tu Paot pupi hãm'ãktux, nũy Xinax xãnã', xix Tĩmõn, pu kõmẽn 'Atẽn tu' mõg mõ'ka'ok.\nTu kõmẽn 'Atẽn tu' xip\n16Ha Paot te 'Atẽn tu tik 2 hip, tu kõmẽn xexka pẽnãhã', tu topahnãg komut pẽnãhã', ha nõm komut yĩm hã' mĩy, nũy heyah, ha kõmẽn nũ'xip nõm hãpxop hã, yĩy Paot kuxa hittup 'ohnãg. 17Tu' mõg Yoneo yõg Topa pet hah, nũy Yoneo xop mũtik hãm'ãktux hã' nõy yãnãn nãm, xix nõm xop te Topa xak xop mũtik hãm'ãktux hã' nõy yãnãn. Tu nãpet ha' mõg kamah, ha 'ãmnĩy xohix hã hãm'ãktux hã' nõy yãnãn 'Atẽn yõg tikmũ'ũn mũtik. 18Tu hãm'ãktux, tu hãmyũmmũg'ax xop 'ãxet'ax 'Epikoneo xop mũtik hãm'ãktux, xix 'Extox xop mũtik hãm'ãktux hã' nõy yãnãn, ha' yãg te' yĩkopit, hu:\n—Kãy te hãm'ãktux punethok. Putep mũn 'ãktux putup? Kaxĩy.\nHa' yãg nõy te' yãnãn, hu:\n—Tute topahnãg puknõg 'ãktux. Kaxĩy.\nHa Paot te Yeyox 'ãktux, tu Yeyox putpu' hi 'ãktux. 19Ha tik xop te hãmyũmmũg te Paot yĩm mũg, tu 'Axenop yõg hãmyũmmũg xop ha' mõgãhã', pu hãm'ãktux'ax 'ãpax, tu' yĩkopit, hu: koneo xop mũtik hãm'ãktux, xix 'Extox xop mũtik hãm'ãktux hã' nõy yãnãn, ha' yãg te' yĩkopit, hu:\n—Kãy te hãm'ãktux punethok. Putep mũn 'ãktux putup? Kaxĩy.\nHa' yãg nõy te'\n—'Ok hãmyũmmũg'ax tup nũhũ xate hãmyũmmũgãhã'? 20'Ãpu, 'ãyĩy, tu hãmyũmmũg'ax puknõg 'ãktux, nũy 'ũgmũ yũmmũgã'. Kaxĩy. 21Yã 'Atẽn yõg tikmũ'ũn hãm hok, xix puknõg xop te kõmẽn kopa' tihi' hãm 'ohnãg, pa hãm'ãpak pax, nũy tu xe' xuktux, tu 'ãmnĩy xohix hã hãm'ãpak tup 'ãpak, xi' xe' xuktux. 22Ha Paot te hãm'ãktux, ha 'Anenop xop te Paot xakot, ha Paot te:\n—'Atẽn yõg tikmũ'ũn: 'Ãxop te 'õg topahnãg komut xop xohix xak. 23'Ãte hãpkumep, tu topahnãg komut punethok pẽnãhã', nõm mĩy nũy heyah, ha 'ãte topahnãg yõg mĩmpe pẽnãhã', ha tikmũ'ũn te topahnãg pu hãpxop 'ũm hõm, tu mĩmpe yĩmũ' xix, ha tik 'ũm te mĩmpe yĩmũ' kax'ãmi', hu: \"Nũhũ topa puknõg pu',\" kaxĩy. 'Ãte xa nõm puknõg 'ãktux putup.\n24—Topa xe'ẽgnãg te hãm xexka mĩy, xix hãpxop xohix mĩy, hu pexkox xix hahãm xat. 'A' pet mĩy xak'ah tikmũ'ũn yĩm hã. Yã mĩptut kopa ti 'ohnãg. 'Ũxexka xe'ẽgnãg Topah. 25Tu hãpxop 'ũm xak 'ohnãg, yã hãpxop xohix mĩy, nũy tikmũ'ũn pu' xit xut popmãhã', xi' hi'ax, xix hãpxop xohix yã' hok popmãhã'. 26Tu tik puxet mĩy hãmãxap, tu nõm hã' mĩy tikmũ'ũn xohix, xi' hep xohix, pu yõg hãm tu 'ãti', ha Topa te tikmũ'ũn pu hãm 'ũm hã' xakux'ax xat, xix hãm 'ũm hã' xakix'ax xat, tu' pip'ax 'ũm xat, pu mõg hãpxexka pu kopa 'ãti'. 27Puyĩy tikmũ'ũn Topa xax, nũy xipi', pãyã tikmũ'ũn yĩka hã Topa xip. 28Hõmã 'õgnũ tik te hãmyũmmũg te kax'ãmi', hu: \"Topa hã yũmũ'ãte' xit xut, xix yũmũg mõg, xix yũmũg tihi',\" kaxĩy. Ha' nõy te: \"Yũmũ'ã Topa hã kutok xe'e',\" kaxĩy. 29Hamũn, yũmũ'ã Topa hã kutok, hu hãmpe'ãpaxex hok, hu: \"Topa te pipkup yãnãm putuk,\" kaxĩy. Xix hãmpe'ãpaxex hok, hu: \"Topa te mĩkaxxap putuk,\" kaxĩy. 'Ãmhok. Tik 'ũm te Topa xe'e mĩy 'ohnãg. 30Hõmã tikmũ'ũn te hãmyũmmũg'ah, ha Topa te nõã'tot, pa nõmhã Topa te' xat, xa yãyhãhup, tu hãpkummuk mĩy kux, pu Topa 'ãxop yõg hãpkummuk mĩy'ax xaxogã', pu tu kux. 31Yã Topa pa te hãmyũmmũg, tu hãptup puxet yãykutnãhã', 'ĩhã' tute hep xop xohix yõg hãpxopmã'ax kopit putup, tu tik te hãmyok mĩy hã' kopit putup, tu Yeyox yãykutnãhã, pu tu kopit, ha' putpu nõm hĩnnãhã', nũy tikmũ'ũn xohix pu hãmyũmmũgã'. Kaxĩy.\n32Ha tikmũ'ũn te' xupak, ha' yãg te:\n—Putep te hãm'ãktux? 'Ũxok, tu putpu' hi'?\" Kaxĩy.\nTu' yĩxix kummuk. Ha' yãg nõy te:\n—Yã' max. Hãptup 'ũm nõy 'ĩhã xe xa 'ãpak putup. Kaxĩy.\n33Ha Paot mõg, 34pãyã tik 'ũm kuxa mãm ka'ok, 'ũxohix te: 'Axenop yõg Nionĩy, xix 'ũn Nãm, xi' nõy xop kuxa mãm ka'ok.","id":"<urn:uuid:4f99da87-fb2c-4432-a450-d37acdde9e54>","dump":"CC-MAIN-2019-39","url":"http:\/\/bibles.org\/mbl-MBLNT\/Acts\/17","date":"2019-09-22T03:46:24Z","file_path":"s3:\/\/commoncrawl\/crawl-data\/CC-MAIN-2019-39\/segments\/1568514575076.30\/warc\/CC-MAIN-20190922032904-20190922054904-00435.warc.gz","language":"mbl","language_score":1.000007987,"language_script":"Latn","minhash_cluster_size":1,"top_langs":"{\"mbl_Latn_score\": 1.0000079870224}","num_words":1016,"character_repetition_ratio":0.065,"word_repetition_ratio":0.04,"special_characters_ratio":0.287,"stopwords_ratio":0.479,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":500.0,"cluster_detection":-1}
|
mbl_Latn/fineweb-2_000001_stas.jsonl
ADDED
@@ -0,0 +1,115 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
[
|
2 |
+
{
|
3 |
+
"avg": {
|
4 |
+
"num_words": 798.0068965517241,
|
5 |
+
"character_repetition_ratio": 0.0762344827586207,
|
6 |
+
"word_repetition_ratio": 0.003393103448275862,
|
7 |
+
"special_characters_ratio": 0.28986206896551725,
|
8 |
+
"stopwords_ratio": 0.4616068965517241,
|
9 |
+
"flagged_words_ratio": 0.0,
|
10 |
+
"lang_id_score": 0.9960275862068966,
|
11 |
+
"perplexity_score": 500.0
|
12 |
+
}
|
13 |
+
},
|
14 |
+
{
|
15 |
+
"std": {
|
16 |
+
"num_words": 496.39960955487334,
|
17 |
+
"character_repetition_ratio": 0.024412267632060686,
|
18 |
+
"word_repetition_ratio": 0.010822260935124376,
|
19 |
+
"special_characters_ratio": 0.011838348375981581,
|
20 |
+
"stopwords_ratio": 0.05238245251749787,
|
21 |
+
"flagged_words_ratio": 0.0,
|
22 |
+
"lang_id_score": 0.04766896551724137,
|
23 |
+
"perplexity_score": 0.0
|
24 |
+
}
|
25 |
+
},
|
26 |
+
{
|
27 |
+
"median": {
|
28 |
+
"num_words": 821.0,
|
29 |
+
"character_repetition_ratio": 0.07,
|
30 |
+
"word_repetition_ratio": 0.0,
|
31 |
+
"special_characters_ratio": 0.29,
|
32 |
+
"stopwords_ratio": 0.467,
|
33 |
+
"flagged_words_ratio": 0.0,
|
34 |
+
"lang_id_score": 1.0,
|
35 |
+
"perplexity_score": 500.0
|
36 |
+
}
|
37 |
+
},
|
38 |
+
{
|
39 |
+
"max": {
|
40 |
+
"num_words": 2755.0,
|
41 |
+
"character_repetition_ratio": 0.188,
|
42 |
+
"word_repetition_ratio": 0.079,
|
43 |
+
"special_characters_ratio": 0.329,
|
44 |
+
"stopwords_ratio": 0.636,
|
45 |
+
"flagged_words_ratio": 0.0,
|
46 |
+
"lang_id_score": 1.0,
|
47 |
+
"perplexity_score": 500.0
|
48 |
+
}
|
49 |
+
},
|
50 |
+
{
|
51 |
+
"min": {
|
52 |
+
"num_words": 46.0,
|
53 |
+
"character_repetition_ratio": 0.0,
|
54 |
+
"word_repetition_ratio": 0.0,
|
55 |
+
"special_characters_ratio": 0.245,
|
56 |
+
"stopwords_ratio": 0.125,
|
57 |
+
"flagged_words_ratio": 0.0,
|
58 |
+
"lang_id_score": 0.424,
|
59 |
+
"perplexity_score": 500.0
|
60 |
+
}
|
61 |
+
},
|
62 |
+
{
|
63 |
+
"90%": {
|
64 |
+
"num_words": 1401.0,
|
65 |
+
"character_repetition_ratio": 0.109,
|
66 |
+
"word_repetition_ratio": 0.007599999999999995,
|
67 |
+
"special_characters_ratio": 0.304,
|
68 |
+
"stopwords_ratio": 0.5136000000000001,
|
69 |
+
"flagged_words_ratio": 0.0,
|
70 |
+
"lang_id_score": 1.0,
|
71 |
+
"perplexity_score": 500.0
|
72 |
+
}
|
73 |
+
},
|
74 |
+
{
|
75 |
+
"75%": {
|
76 |
+
"num_words": 1111.0,
|
77 |
+
"character_repetition_ratio": 0.083,
|
78 |
+
"word_repetition_ratio": 0.0,
|
79 |
+
"special_characters_ratio": 0.297,
|
80 |
+
"stopwords_ratio": 0.489,
|
81 |
+
"flagged_words_ratio": 0.0,
|
82 |
+
"lang_id_score": 1.0,
|
83 |
+
"perplexity_score": 500.0
|
84 |
+
}
|
85 |
+
},
|
86 |
+
{
|
87 |
+
"50%": {
|
88 |
+
"num_words": 821.0,
|
89 |
+
"character_repetition_ratio": 0.07,
|
90 |
+
"word_repetition_ratio": 0.0,
|
91 |
+
"special_characters_ratio": 0.29,
|
92 |
+
"stopwords_ratio": 0.467,
|
93 |
+
"flagged_words_ratio": 0.0,
|
94 |
+
"lang_id_score": 1.0,
|
95 |
+
"perplexity_score": 500.0
|
96 |
+
}
|
97 |
+
},
|
98 |
+
{
|
99 |
+
"25%": {
|
100 |
+
"num_words": 466.0,
|
101 |
+
"character_repetition_ratio": 0.063,
|
102 |
+
"word_repetition_ratio": 0.0,
|
103 |
+
"special_characters_ratio": 0.284,
|
104 |
+
"stopwords_ratio": 0.442,
|
105 |
+
"flagged_words_ratio": 0.0,
|
106 |
+
"lang_id_score": 1.0,
|
107 |
+
"perplexity_score": 500.0
|
108 |
+
}
|
109 |
+
},
|
110 |
+
{
|
111 |
+
"total size": "145",
|
112 |
+
"keep size": "131",
|
113 |
+
"remove size": "14"
|
114 |
+
}
|
115 |
+
]
|
mbt_Latn/fineweb-2_000001_keep.jsonl
ADDED
The diff for this file is too large to render.
See raw diff
|
|
mbt_Latn/fineweb-2_000001_remove.jsonl
ADDED
The diff for this file is too large to render.
See raw diff
|
|
mbt_Latn/mala_000002_remove.jsonl
ADDED
The diff for this file is too large to render.
See raw diff
|
|
mnw_Latn/mala_000001_keep.jsonl
ADDED
The diff for this file is too large to render.
See raw diff
|
|
mnw_Latn/mala_000001_remove.jsonl
ADDED
The diff for this file is too large to render.
See raw diff
|
|
mnw_Latn/mala_000001_stas.jsonl
ADDED
@@ -0,0 +1,115 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
[
|
2 |
+
{
|
3 |
+
"avg": {
|
4 |
+
"num_words": 1993.2121212121212,
|
5 |
+
"character_repetition_ratio": 0.052121212121212124,
|
6 |
+
"word_repetition_ratio": 0.0018030303030303028,
|
7 |
+
"special_characters_ratio": 0.18689393939393942,
|
8 |
+
"stopwords_ratio": 0.0,
|
9 |
+
"flagged_words_ratio": 0.0,
|
10 |
+
"lang_id_score": 0.6625606060606062,
|
11 |
+
"perplexity_score": 500.0
|
12 |
+
}
|
13 |
+
},
|
14 |
+
{
|
15 |
+
"std": {
|
16 |
+
"num_words": 2971.9266402461203,
|
17 |
+
"character_repetition_ratio": 0.02649614903494991,
|
18 |
+
"word_repetition_ratio": 0.008347054818952425,
|
19 |
+
"special_characters_ratio": 0.027075723660761174,
|
20 |
+
"stopwords_ratio": 0.0,
|
21 |
+
"flagged_words_ratio": 0.0,
|
22 |
+
"lang_id_score": 0.3538335993427915,
|
23 |
+
"perplexity_score": 0.0
|
24 |
+
}
|
25 |
+
},
|
26 |
+
{
|
27 |
+
"median": {
|
28 |
+
"num_words": 674.5,
|
29 |
+
"character_repetition_ratio": 0.046,
|
30 |
+
"word_repetition_ratio": 0.0,
|
31 |
+
"special_characters_ratio": 0.1825,
|
32 |
+
"stopwords_ratio": 0.0,
|
33 |
+
"flagged_words_ratio": 0.0,
|
34 |
+
"lang_id_score": 0.867,
|
35 |
+
"perplexity_score": 500.0
|
36 |
+
}
|
37 |
+
},
|
38 |
+
{
|
39 |
+
"max": {
|
40 |
+
"num_words": 15050.0,
|
41 |
+
"character_repetition_ratio": 0.172,
|
42 |
+
"word_repetition_ratio": 0.058,
|
43 |
+
"special_characters_ratio": 0.284,
|
44 |
+
"stopwords_ratio": 0.0,
|
45 |
+
"flagged_words_ratio": 0.0,
|
46 |
+
"lang_id_score": 0.999,
|
47 |
+
"perplexity_score": 500.0
|
48 |
+
}
|
49 |
+
},
|
50 |
+
{
|
51 |
+
"min": {
|
52 |
+
"num_words": 10.0,
|
53 |
+
"character_repetition_ratio": 0.0,
|
54 |
+
"word_repetition_ratio": 0.0,
|
55 |
+
"special_characters_ratio": 0.115,
|
56 |
+
"stopwords_ratio": 0.0,
|
57 |
+
"flagged_words_ratio": 0.0,
|
58 |
+
"lang_id_score": 0.098,
|
59 |
+
"perplexity_score": 500.0
|
60 |
+
}
|
61 |
+
},
|
62 |
+
{
|
63 |
+
"90%": {
|
64 |
+
"num_words": 5208.0,
|
65 |
+
"character_repetition_ratio": 0.0725,
|
66 |
+
"word_repetition_ratio": 0.002,
|
67 |
+
"special_characters_ratio": 0.218,
|
68 |
+
"stopwords_ratio": 0.0,
|
69 |
+
"flagged_words_ratio": 0.0,
|
70 |
+
"lang_id_score": 0.997,
|
71 |
+
"perplexity_score": 500.0
|
72 |
+
}
|
73 |
+
},
|
74 |
+
{
|
75 |
+
"75%": {
|
76 |
+
"num_words": 2547.5,
|
77 |
+
"character_repetition_ratio": 0.06175,
|
78 |
+
"word_repetition_ratio": 0.0,
|
79 |
+
"special_characters_ratio": 0.2,
|
80 |
+
"stopwords_ratio": 0.0,
|
81 |
+
"flagged_words_ratio": 0.0,
|
82 |
+
"lang_id_score": 0.98975,
|
83 |
+
"perplexity_score": 500.0
|
84 |
+
}
|
85 |
+
},
|
86 |
+
{
|
87 |
+
"50%": {
|
88 |
+
"num_words": 674.5,
|
89 |
+
"character_repetition_ratio": 0.046,
|
90 |
+
"word_repetition_ratio": 0.0,
|
91 |
+
"special_characters_ratio": 0.1825,
|
92 |
+
"stopwords_ratio": 0.0,
|
93 |
+
"flagged_words_ratio": 0.0,
|
94 |
+
"lang_id_score": 0.867,
|
95 |
+
"perplexity_score": 500.0
|
96 |
+
}
|
97 |
+
},
|
98 |
+
{
|
99 |
+
"25%": {
|
100 |
+
"num_words": 281.0,
|
101 |
+
"character_repetition_ratio": 0.039,
|
102 |
+
"word_repetition_ratio": 0.0,
|
103 |
+
"special_characters_ratio": 0.173,
|
104 |
+
"stopwords_ratio": 0.0,
|
105 |
+
"flagged_words_ratio": 0.0,
|
106 |
+
"lang_id_score": 0.25025,
|
107 |
+
"perplexity_score": 500.0
|
108 |
+
}
|
109 |
+
},
|
110 |
+
{
|
111 |
+
"total size": "66",
|
112 |
+
"keep size": "52",
|
113 |
+
"remove size": "14"
|
114 |
+
}
|
115 |
+
]
|
mrj_Cyrl/fineweb-2_000001_remove.jsonl
ADDED
The diff for this file is too large to render.
See raw diff
|
|
mrj_Cyrl/fineweb-2_000001_stas.jsonl
ADDED
@@ -0,0 +1,115 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
[
|
2 |
+
{
|
3 |
+
"avg": {
|
4 |
+
"num_words": 1050.6163438577871,
|
5 |
+
"character_repetition_ratio": 0.05271583974529054,
|
6 |
+
"word_repetition_ratio": 0.015133191828071105,
|
7 |
+
"special_characters_ratio": 0.18706447333510215,
|
8 |
+
"stopwords_ratio": 0.007865481560095517,
|
9 |
+
"flagged_words_ratio": 0.0,
|
10 |
+
"lang_id_score": 0.9856330591668878,
|
11 |
+
"perplexity_score": 27501.735128681346
|
12 |
+
}
|
13 |
+
},
|
14 |
+
{
|
15 |
+
"std": {
|
16 |
+
"num_words": 2133.6553416153506,
|
17 |
+
"character_repetition_ratio": 0.03647711118386843,
|
18 |
+
"word_repetition_ratio": 0.04750763756363569,
|
19 |
+
"special_characters_ratio": 0.024318491954405275,
|
20 |
+
"stopwords_ratio": 0.008158628934736014,
|
21 |
+
"flagged_words_ratio": 0.0,
|
22 |
+
"lang_id_score": 0.07520902775873993,
|
23 |
+
"perplexity_score": 10950.362327623325
|
24 |
+
}
|
25 |
+
},
|
26 |
+
{
|
27 |
+
"median": {
|
28 |
+
"num_words": 409.0,
|
29 |
+
"character_repetition_ratio": 0.046,
|
30 |
+
"word_repetition_ratio": 0.0,
|
31 |
+
"special_characters_ratio": 0.183,
|
32 |
+
"stopwords_ratio": 0.006,
|
33 |
+
"flagged_words_ratio": 0.0,
|
34 |
+
"lang_id_score": 1.0,
|
35 |
+
"perplexity_score": 27148.7
|
36 |
+
}
|
37 |
+
},
|
38 |
+
{
|
39 |
+
"max": {
|
40 |
+
"num_words": 40278.0,
|
41 |
+
"character_repetition_ratio": 0.277,
|
42 |
+
"word_repetition_ratio": 0.534,
|
43 |
+
"special_characters_ratio": 0.421,
|
44 |
+
"stopwords_ratio": 0.081,
|
45 |
+
"flagged_words_ratio": 0.0,
|
46 |
+
"lang_id_score": 1.0,
|
47 |
+
"perplexity_score": 112101.2
|
48 |
+
}
|
49 |
+
},
|
50 |
+
{
|
51 |
+
"min": {
|
52 |
+
"num_words": 61.0,
|
53 |
+
"character_repetition_ratio": 0.0,
|
54 |
+
"word_repetition_ratio": 0.0,
|
55 |
+
"special_characters_ratio": 0.127,
|
56 |
+
"stopwords_ratio": 0.0,
|
57 |
+
"flagged_words_ratio": 0.0,
|
58 |
+
"lang_id_score": 0.261,
|
59 |
+
"perplexity_score": 440.1
|
60 |
+
}
|
61 |
+
},
|
62 |
+
{
|
63 |
+
"90%": {
|
64 |
+
"num_words": 2036.0,
|
65 |
+
"character_repetition_ratio": 0.093,
|
66 |
+
"word_repetition_ratio": 0.046,
|
67 |
+
"special_characters_ratio": 0.216,
|
68 |
+
"stopwords_ratio": 0.016,
|
69 |
+
"flagged_words_ratio": 0.0,
|
70 |
+
"lang_id_score": 1.0,
|
71 |
+
"perplexity_score": 38351.12
|
72 |
+
}
|
73 |
+
},
|
74 |
+
{
|
75 |
+
"75%": {
|
76 |
+
"num_words": 966.0,
|
77 |
+
"character_repetition_ratio": 0.066,
|
78 |
+
"word_repetition_ratio": 0.001,
|
79 |
+
"special_characters_ratio": 0.197,
|
80 |
+
"stopwords_ratio": 0.01,
|
81 |
+
"flagged_words_ratio": 0.0,
|
82 |
+
"lang_id_score": 1.0,
|
83 |
+
"perplexity_score": 32361.0
|
84 |
+
}
|
85 |
+
},
|
86 |
+
{
|
87 |
+
"50%": {
|
88 |
+
"num_words": 409.0,
|
89 |
+
"character_repetition_ratio": 0.046,
|
90 |
+
"word_repetition_ratio": 0.0,
|
91 |
+
"special_characters_ratio": 0.183,
|
92 |
+
"stopwords_ratio": 0.006,
|
93 |
+
"flagged_words_ratio": 0.0,
|
94 |
+
"lang_id_score": 1.0,
|
95 |
+
"perplexity_score": 27148.7
|
96 |
+
}
|
97 |
+
},
|
98 |
+
{
|
99 |
+
"25%": {
|
100 |
+
"num_words": 182.0,
|
101 |
+
"character_repetition_ratio": 0.032,
|
102 |
+
"word_repetition_ratio": 0.0,
|
103 |
+
"special_characters_ratio": 0.172,
|
104 |
+
"stopwords_ratio": 0.003,
|
105 |
+
"flagged_words_ratio": 0.0,
|
106 |
+
"lang_id_score": 1.0,
|
107 |
+
"perplexity_score": 21672.2
|
108 |
+
}
|
109 |
+
},
|
110 |
+
{
|
111 |
+
"total size": "3769",
|
112 |
+
"keep size": "3451",
|
113 |
+
"remove size": "318"
|
114 |
+
}
|
115 |
+
]
|
mrj_Cyrl/mala_000002_remove.jsonl
ADDED
The diff for this file is too large to render.
See raw diff
|
|
mrj_Cyrl/mala_000002_stas.jsonl
ADDED
@@ -0,0 +1,115 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
[
|
2 |
+
{
|
3 |
+
"avg": {
|
4 |
+
"num_words": 282.13857082273114,
|
5 |
+
"character_repetition_ratio": 0.04021374045801527,
|
6 |
+
"word_repetition_ratio": 0.0035555555555555557,
|
7 |
+
"special_characters_ratio": 0.23182198897370654,
|
8 |
+
"stopwords_ratio": 0.011538379983036473,
|
9 |
+
"flagged_words_ratio": 0.0,
|
10 |
+
"lang_id_score": 0.9962422603901613,
|
11 |
+
"perplexity_score": 51707.29272688719
|
12 |
+
}
|
13 |
+
},
|
14 |
+
{
|
15 |
+
"std": {
|
16 |
+
"num_words": 820.5993882584676,
|
17 |
+
"character_repetition_ratio": 0.04169820066173451,
|
18 |
+
"word_repetition_ratio": 0.024437277748868176,
|
19 |
+
"special_characters_ratio": 0.04651614916466423,
|
20 |
+
"stopwords_ratio": 0.017486618252292647,
|
21 |
+
"flagged_words_ratio": 0.0,
|
22 |
+
"lang_id_score": 0.04033070385910769,
|
23 |
+
"perplexity_score": 31279.05999504726
|
24 |
+
}
|
25 |
+
},
|
26 |
+
{
|
27 |
+
"median": {
|
28 |
+
"num_words": 50.0,
|
29 |
+
"character_repetition_ratio": 0.035,
|
30 |
+
"word_repetition_ratio": 0.0,
|
31 |
+
"special_characters_ratio": 0.223,
|
32 |
+
"stopwords_ratio": 0.0,
|
33 |
+
"flagged_words_ratio": 0.0,
|
34 |
+
"lang_id_score": 1.0,
|
35 |
+
"perplexity_score": 44782.6
|
36 |
+
}
|
37 |
+
},
|
38 |
+
{
|
39 |
+
"max": {
|
40 |
+
"num_words": 23617.0,
|
41 |
+
"character_repetition_ratio": 0.2,
|
42 |
+
"word_repetition_ratio": 0.896,
|
43 |
+
"special_characters_ratio": 0.4,
|
44 |
+
"stopwords_ratio": 0.167,
|
45 |
+
"flagged_words_ratio": 0.0,
|
46 |
+
"lang_id_score": 1.0,
|
47 |
+
"perplexity_score": 238171.6
|
48 |
+
}
|
49 |
+
},
|
50 |
+
{
|
51 |
+
"min": {
|
52 |
+
"num_words": 11.0,
|
53 |
+
"character_repetition_ratio": 0.0,
|
54 |
+
"word_repetition_ratio": 0.0,
|
55 |
+
"special_characters_ratio": 0.111,
|
56 |
+
"stopwords_ratio": 0.0,
|
57 |
+
"flagged_words_ratio": 0.0,
|
58 |
+
"lang_id_score": 0.173,
|
59 |
+
"perplexity_score": 242.6
|
60 |
+
}
|
61 |
+
},
|
62 |
+
{
|
63 |
+
"90%": {
|
64 |
+
"num_words": 811.8999999999996,
|
65 |
+
"character_repetition_ratio": 0.099,
|
66 |
+
"word_repetition_ratio": 0.0,
|
67 |
+
"special_characters_ratio": 0.295,
|
68 |
+
"stopwords_ratio": 0.038,
|
69 |
+
"flagged_words_ratio": 0.0,
|
70 |
+
"lang_id_score": 1.0,
|
71 |
+
"perplexity_score": 94726.49
|
72 |
+
}
|
73 |
+
},
|
74 |
+
{
|
75 |
+
"75%": {
|
76 |
+
"num_words": 109.0,
|
77 |
+
"character_repetition_ratio": 0.06,
|
78 |
+
"word_repetition_ratio": 0.0,
|
79 |
+
"special_characters_ratio": 0.267,
|
80 |
+
"stopwords_ratio": 0.019,
|
81 |
+
"flagged_words_ratio": 0.0,
|
82 |
+
"lang_id_score": 1.0,
|
83 |
+
"perplexity_score": 63548.375
|
84 |
+
}
|
85 |
+
},
|
86 |
+
{
|
87 |
+
"50%": {
|
88 |
+
"num_words": 50.0,
|
89 |
+
"character_repetition_ratio": 0.035,
|
90 |
+
"word_repetition_ratio": 0.0,
|
91 |
+
"special_characters_ratio": 0.223,
|
92 |
+
"stopwords_ratio": 0.0,
|
93 |
+
"flagged_words_ratio": 0.0,
|
94 |
+
"lang_id_score": 1.0,
|
95 |
+
"perplexity_score": 44782.6
|
96 |
+
}
|
97 |
+
},
|
98 |
+
{
|
99 |
+
"25%": {
|
100 |
+
"num_words": 33.0,
|
101 |
+
"character_repetition_ratio": 0.0,
|
102 |
+
"word_repetition_ratio": 0.0,
|
103 |
+
"special_characters_ratio": 0.193,
|
104 |
+
"stopwords_ratio": 0.0,
|
105 |
+
"flagged_words_ratio": 0.0,
|
106 |
+
"lang_id_score": 1.0,
|
107 |
+
"perplexity_score": 30142.15
|
108 |
+
}
|
109 |
+
},
|
110 |
+
{
|
111 |
+
"total size": "9432",
|
112 |
+
"keep size": "8805",
|
113 |
+
"remove size": "627"
|
114 |
+
}
|
115 |
+
]
|
mrj_Cyrl/new_cc_000003_keep.jsonl
ADDED
The diff for this file is too large to render.
See raw diff
|
|
mrj_Cyrl/new_cc_000003_remove.jsonl
ADDED
The diff for this file is too large to render.
See raw diff
|
|
mrj_Cyrl/new_cc_000003_stas.jsonl
ADDED
@@ -0,0 +1,115 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
[
|
2 |
+
{
|
3 |
+
"avg": {
|
4 |
+
"num_words": 136.87976539589442,
|
5 |
+
"character_repetition_ratio": 0.057296187683284455,
|
6 |
+
"word_repetition_ratio": 0.00044574780058651025,
|
7 |
+
"special_characters_ratio": 0.15037536656891498,
|
8 |
+
"stopwords_ratio": 0.004237536656891496,
|
9 |
+
"flagged_words_ratio": 0.0,
|
10 |
+
"lang_id_score": 1.0,
|
11 |
+
"perplexity_score": 35927.86158357772
|
12 |
+
}
|
13 |
+
},
|
14 |
+
{
|
15 |
+
"std": {
|
16 |
+
"num_words": 515.0574550713526,
|
17 |
+
"character_repetition_ratio": 0.050656774016854714,
|
18 |
+
"word_repetition_ratio": 0.0037158005868065083,
|
19 |
+
"special_characters_ratio": 0.08854956948152917,
|
20 |
+
"stopwords_ratio": 0.009447456100798538,
|
21 |
+
"flagged_words_ratio": 0.0,
|
22 |
+
"lang_id_score": 0.0,
|
23 |
+
"perplexity_score": 33627.939374404756
|
24 |
+
}
|
25 |
+
},
|
26 |
+
{
|
27 |
+
"median": {
|
28 |
+
"num_words": 79.0,
|
29 |
+
"character_repetition_ratio": 0.052,
|
30 |
+
"word_repetition_ratio": 0.0,
|
31 |
+
"special_characters_ratio": 0.178,
|
32 |
+
"stopwords_ratio": 0.0,
|
33 |
+
"flagged_words_ratio": 0.0,
|
34 |
+
"lang_id_score": 1.0,
|
35 |
+
"perplexity_score": 26128.9
|
36 |
+
}
|
37 |
+
},
|
38 |
+
{
|
39 |
+
"max": {
|
40 |
+
"num_words": 7847.0,
|
41 |
+
"character_repetition_ratio": 0.174,
|
42 |
+
"word_repetition_ratio": 0.049,
|
43 |
+
"special_characters_ratio": 0.391,
|
44 |
+
"stopwords_ratio": 0.04,
|
45 |
+
"flagged_words_ratio": 0.0,
|
46 |
+
"lang_id_score": 1.0,
|
47 |
+
"perplexity_score": 142278.7
|
48 |
+
}
|
49 |
+
},
|
50 |
+
{
|
51 |
+
"min": {
|
52 |
+
"num_words": 18.0,
|
53 |
+
"character_repetition_ratio": 0.0,
|
54 |
+
"word_repetition_ratio": 0.0,
|
55 |
+
"special_characters_ratio": 0.048,
|
56 |
+
"stopwords_ratio": 0.0,
|
57 |
+
"flagged_words_ratio": 0.0,
|
58 |
+
"lang_id_score": 1.0,
|
59 |
+
"perplexity_score": 1459.4
|
60 |
+
}
|
61 |
+
},
|
62 |
+
{
|
63 |
+
"90%": {
|
64 |
+
"num_words": 90.0,
|
65 |
+
"character_repetition_ratio": 0.109,
|
66 |
+
"word_repetition_ratio": 0.0,
|
67 |
+
"special_characters_ratio": 0.262,
|
68 |
+
"stopwords_ratio": 0.022,
|
69 |
+
"flagged_words_ratio": 0.0,
|
70 |
+
"lang_id_score": 1.0,
|
71 |
+
"perplexity_score": 86408.9
|
72 |
+
}
|
73 |
+
},
|
74 |
+
{
|
75 |
+
"75%": {
|
76 |
+
"num_words": 90.0,
|
77 |
+
"character_repetition_ratio": 0.109,
|
78 |
+
"word_repetition_ratio": 0.0,
|
79 |
+
"special_characters_ratio": 0.219,
|
80 |
+
"stopwords_ratio": 0.0,
|
81 |
+
"flagged_words_ratio": 0.0,
|
82 |
+
"lang_id_score": 1.0,
|
83 |
+
"perplexity_score": 62148.0
|
84 |
+
}
|
85 |
+
},
|
86 |
+
{
|
87 |
+
"50%": {
|
88 |
+
"num_words": 79.0,
|
89 |
+
"character_repetition_ratio": 0.052,
|
90 |
+
"word_repetition_ratio": 0.0,
|
91 |
+
"special_characters_ratio": 0.178,
|
92 |
+
"stopwords_ratio": 0.0,
|
93 |
+
"flagged_words_ratio": 0.0,
|
94 |
+
"lang_id_score": 1.0,
|
95 |
+
"perplexity_score": 26128.9
|
96 |
+
}
|
97 |
+
},
|
98 |
+
{
|
99 |
+
"25%": {
|
100 |
+
"num_words": 33.0,
|
101 |
+
"character_repetition_ratio": 0.0,
|
102 |
+
"word_repetition_ratio": 0.0,
|
103 |
+
"special_characters_ratio": 0.048,
|
104 |
+
"stopwords_ratio": 0.0,
|
105 |
+
"flagged_words_ratio": 0.0,
|
106 |
+
"lang_id_score": 1.0,
|
107 |
+
"perplexity_score": 4548.0
|
108 |
+
}
|
109 |
+
},
|
110 |
+
{
|
111 |
+
"total size": "341",
|
112 |
+
"keep size": "308",
|
113 |
+
"remove size": "33"
|
114 |
+
}
|
115 |
+
]
|
mrj_Cyrl/new_cc_000004_keep.jsonl
ADDED
The diff for this file is too large to render.
See raw diff
|
|
mrj_Cyrl/new_cc_000004_remove.jsonl
ADDED
The diff for this file is too large to render.
See raw diff
|
|
mrj_Cyrl/new_cc_000004_stas.jsonl
ADDED
@@ -0,0 +1,115 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
[
|
2 |
+
{
|
3 |
+
"avg": {
|
4 |
+
"num_words": 194.99547511312218,
|
5 |
+
"character_repetition_ratio": 0.07005429864253394,
|
6 |
+
"word_repetition_ratio": 0.00045248868778280545,
|
7 |
+
"special_characters_ratio": 0.12557013574660636,
|
8 |
+
"stopwords_ratio": 0.004180995475113122,
|
9 |
+
"flagged_words_ratio": 0.0,
|
10 |
+
"lang_id_score": 1.0,
|
11 |
+
"perplexity_score": 26674.150678733036
|
12 |
+
}
|
13 |
+
},
|
14 |
+
{
|
15 |
+
"std": {
|
16 |
+
"num_words": 638.4070780188714,
|
17 |
+
"character_repetition_ratio": 0.04640688377398519,
|
18 |
+
"word_repetition_ratio": 0.005471750210629053,
|
19 |
+
"special_characters_ratio": 0.08888194831958648,
|
20 |
+
"stopwords_ratio": 0.009899668667839909,
|
21 |
+
"flagged_words_ratio": 0.0,
|
22 |
+
"lang_id_score": 0.0,
|
23 |
+
"perplexity_score": 32440.561723794952
|
24 |
+
}
|
25 |
+
},
|
26 |
+
{
|
27 |
+
"median": {
|
28 |
+
"num_words": 90.0,
|
29 |
+
"character_repetition_ratio": 0.109,
|
30 |
+
"word_repetition_ratio": 0.0,
|
31 |
+
"special_characters_ratio": 0.048,
|
32 |
+
"stopwords_ratio": 0.0,
|
33 |
+
"flagged_words_ratio": 0.0,
|
34 |
+
"lang_id_score": 1.0,
|
35 |
+
"perplexity_score": 4548.0
|
36 |
+
}
|
37 |
+
},
|
38 |
+
{
|
39 |
+
"max": {
|
40 |
+
"num_words": 7748.0,
|
41 |
+
"character_repetition_ratio": 0.125,
|
42 |
+
"word_repetition_ratio": 0.081,
|
43 |
+
"special_characters_ratio": 0.416,
|
44 |
+
"stopwords_ratio": 0.045,
|
45 |
+
"flagged_words_ratio": 0.0,
|
46 |
+
"lang_id_score": 1.0,
|
47 |
+
"perplexity_score": 158416.1
|
48 |
+
}
|
49 |
+
},
|
50 |
+
{
|
51 |
+
"min": {
|
52 |
+
"num_words": 18.0,
|
53 |
+
"character_repetition_ratio": 0.0,
|
54 |
+
"word_repetition_ratio": 0.0,
|
55 |
+
"special_characters_ratio": 0.048,
|
56 |
+
"stopwords_ratio": 0.0,
|
57 |
+
"flagged_words_ratio": 0.0,
|
58 |
+
"lang_id_score": 1.0,
|
59 |
+
"perplexity_score": 1397.9
|
60 |
+
}
|
61 |
+
},
|
62 |
+
{
|
63 |
+
"90%": {
|
64 |
+
"num_words": 190.0,
|
65 |
+
"character_repetition_ratio": 0.109,
|
66 |
+
"word_repetition_ratio": 0.0,
|
67 |
+
"special_characters_ratio": 0.244,
|
68 |
+
"stopwords_ratio": 0.019,
|
69 |
+
"flagged_words_ratio": 0.0,
|
70 |
+
"lang_id_score": 1.0,
|
71 |
+
"perplexity_score": 72566.7
|
72 |
+
}
|
73 |
+
},
|
74 |
+
{
|
75 |
+
"75%": {
|
76 |
+
"num_words": 90.0,
|
77 |
+
"character_repetition_ratio": 0.109,
|
78 |
+
"word_repetition_ratio": 0.0,
|
79 |
+
"special_characters_ratio": 0.198,
|
80 |
+
"stopwords_ratio": 0.0,
|
81 |
+
"flagged_words_ratio": 0.0,
|
82 |
+
"lang_id_score": 1.0,
|
83 |
+
"perplexity_score": 46052.1
|
84 |
+
}
|
85 |
+
},
|
86 |
+
{
|
87 |
+
"50%": {
|
88 |
+
"num_words": 90.0,
|
89 |
+
"character_repetition_ratio": 0.109,
|
90 |
+
"word_repetition_ratio": 0.0,
|
91 |
+
"special_characters_ratio": 0.048,
|
92 |
+
"stopwords_ratio": 0.0,
|
93 |
+
"flagged_words_ratio": 0.0,
|
94 |
+
"lang_id_score": 1.0,
|
95 |
+
"perplexity_score": 4548.0
|
96 |
+
}
|
97 |
+
},
|
98 |
+
{
|
99 |
+
"25%": {
|
100 |
+
"num_words": 44.0,
|
101 |
+
"character_repetition_ratio": 0.024,
|
102 |
+
"word_repetition_ratio": 0.0,
|
103 |
+
"special_characters_ratio": 0.048,
|
104 |
+
"stopwords_ratio": 0.0,
|
105 |
+
"flagged_words_ratio": 0.0,
|
106 |
+
"lang_id_score": 1.0,
|
107 |
+
"perplexity_score": 4548.0
|
108 |
+
}
|
109 |
+
},
|
110 |
+
{
|
111 |
+
"total size": "221",
|
112 |
+
"keep size": "192",
|
113 |
+
"remove size": "29"
|
114 |
+
}
|
115 |
+
]
|
mrj_Cyrl/new_cc_000005_keep.jsonl
ADDED
The diff for this file is too large to render.
See raw diff
|
|
mrj_Cyrl/new_cc_000005_remove.jsonl
ADDED
@@ -0,0 +1,27 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
{"text":"МакКарти (англла McCarthy ; атнала ? ) — Америкын ушымы штатвлӓшты кечӹвӓл-ирвел Аляска штатын атна халыкын ӹлӹмӹ вӓржӹ. Ти вӓрӹн территорижӹ: 384.0 км². 2000-шӹ ин тӹштӹ 42 эдем ӹлен.","num_words":37,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.277,"stopwords_ratio":0.054,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":48614.5,"cluster_detection":-1}
|
2 |
+
{"text":"Палшык Скачать Первый - Пӹтӓришӹжӹ Палшык Apk Версия Приложени Приложени Остатка Android Устройство - Филиппинвлӓ Юрист! Адвокат филиппинский, весӹ онлайн.\nПалшык Скачать Первый - Пӹтӓришӹжӹ Палшык Apk Версия Приложени Приложени Остатка Android Устройство\nask lawyer online\nsend\nAsk lawyer\nМа вычеп цилӓ ма ыльы, ӹлен яжо дӓ ик важ гӹц ылмышты кого палшык аралыме экстренный первичный апп звено мама манытХоть-махань церлӓнен эмлат, пӹтӓриш, мам мӓ кӹчӓлӹнӓ ирок цилӓ карштымашеш стади цервлӓ улы. Тенге жеп шукы ужаш лиэш, мам проблемӹвлӓ дон медицина палшык лыктын, кыдым моаш лиэш ӓль ак керд цилӓнок мӓ тенгеок пуалтыт, ик ӓль икманяр гӹнь идейӹн знанием эмлат, да тылец вара шукы мейер гӹц риск, тӹштӹ кердеш ылын, тенгеок кого ылмыжы доно лӱдӹктен. Медицина церлӓнен гӹц шукым пӓлен, тӹштӹ пиш шукы нӹнӹн айыртемвлӓштӹм, цервлӓ, тӹдӹм шайышт пуэн кердеш у йӹле, мам препаратвлӓштӹ. Тидӹ веле агыл, тӹ жепӹн, цервлӓ названи, симптом, эмлат, тӹштӹ, кышты тӓ шайышт пуэн кердеш дӓ доктор эмлат когонжок ӓкӓн тӧрлен кердеш. Но эдем, ӓль фармацевт paramedile ин врачын гӹц нӓлмӹ ылыт. Шукы жеп, ӹлӹмӓш доно церлӓнен эдем вӓреш ти корны мычкы тӹрлӹ тырлышым, пӓлӹделам, мам тидӹ ӹштен. Риск годым, тӹрлӹ яра эмлат церлӓнен, совет системӹштӹш анжыкта. Ти восстанавливаяш тӧр вӓрӹм пуаш келеш эмлат мейер быстро.\nСоок ылшы анжыктымаш ӓль ак эдем цилӓ пӧрт манын, иктӓт нӹнӹм ак шӹндеп.\nМобильный лӹмӓн седӹндон мам ӹштендӓ приложени в Тӓ доктор в.\nИнструкций лиэш темӓш тенгеок медицинӹштӹ приложени манын, приложени симптом, цер названи, идейжы дӓ пӹсӹн чӱктӓт ыльы эмлат ланзылалтеш. Каждый эдем мам ӹштӓш пиш кого Приложени годым тенге ли ылмы коллекций аралалтеш. Мобильный лӹмлӹ вуйлатымы принципвлӓм иквӓреш кыце нӹнӹ ӹшке пуйырымашыжы препаратвлӓштӹ фармацевтически gurupera сквер приложени компания якте шоныт дӓ тӹдӹм ӹнде весӹ. Цилӓн кердмӹ семӹнь ыштен хоть-махань у приложени цер доно церлӓненӓт, цер доно церлӓнен керек хоть монежӹ. Мерӓм принимаяш кердӹдӓ тӓ келеш Препаратвлӓштӹ эдем гӹц цилӓ шудым келеш таяш келеш. Мӓмнӓн в мышлеништӹ цилӓ эдемӹм скорый шуен изображенивлӓ дон веле ӹштӓш лиэш. приложени палшык препаратвлӓштӹ приложени. Тенге, тӹнь ганет весӹм риск, поген гӹнь ма керӓл лин кердеш препаратвлӓштӹ лач т корштымо приложени. Аллах сӓндӓлӹквлӓштӹ ӹштӹмӹ благословеним тӹжем халык ядмашат, халык ма яжо ылымаш палшен. Пожалуйста, приложени гишӓн комментарий гишӓн приложени. Зарегистрироваться вӹц шӹдӹр, приложени ӹштӓш манын тӓмдӓн тӓнгдӓ доно ужын дӓ рекомендуйымы поделиться гӹнь, тӓ тидӹ пиш важны шотлат.\nШӹрен пумы ядм - Филиппинвлӓ\nСпасение По вере или по вере и добрые дела\n© 2024 Палшык Скачать Первый - Пӹтӓришӹжӹ Палшык Apk Версия Приложени Приложени Остатка Android Устройство","num_words":674,"character_repetition_ratio":0.066,"word_repetition_ratio":0.084,"special_characters_ratio":0.174,"stopwords_ratio":0.004,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":33705.6,"cluster_detection":-1}
|
3 |
+
{"text":"Йоэнсуу (Joensuu) — Финляндин ирвелнӹжӹ, Российӹн дӓ Финлянди цикӹштӹ 400 уштыш Хельсинки столицы гӹц вӓрлӓнӓ. Йоэнсуу (Joensuu) Пиелисйоки (Pielisjoki) ӓнгӹр тӹрӹштӹ вӓрлӓнӓ, кыды Пиелинен (Pielinen) йӓрӹш пыра. Халам 1848 ин ӹштенӹт, а пӹтӓришок ӓшӹндӓрен пумашвлӓ 1700 ивлӓ покшакок кеӓт. Яжо вӓрлӓнӹмӹжӹ — ӓнгӹр ӓнгӹштӹ дӓ Йоэнсуу вӹд системыш пырымыжы доно, 19 курымын Финляндин пӹтӓриш портвлӓ лош пырен. 2008 ин Йоэнсуу хала 160 и айожым эртӓрен. Ӹлӹзӹ шот иктӓ 120.000. Хала пиш когон пӹсӹн виӓнгеш дӓ кушкеш, но ти жепӹнок ӹшке халык культурыжым перегӓ.\n«https:\/\/mrj.wikipedia.org\/w\/index.php?title=Йоэнсуу&oldid=105168» гӹц нӓлмӹ\nКатегори:\nФинлянди халавлӓ\nТи страницӓ остатка гӓнӓ 23 январь 2024 кечӹн 06:32 цӓшӹн тӧрлӓлтӹн.\nТекстӹм Creative Commons Attribution-ShareAlike License лицензи доно кычылташ лиэш; ситӓртӹш условивлӓ кычылталт кердӹт. Раскыдырак информацим Terms of Use> кычылтмы условиштӹ анжы.","num_words":209,"character_repetition_ratio":0.024,"word_repetition_ratio":0.0,"special_characters_ratio":0.226,"stopwords_ratio":0.019,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":18444.0,"cluster_detection":-1}
|
4 |
+
{"text":"(Тӹнг)КӓнгӓшӹмӓшСирӹшӹСирӹшӹм кӓнгӓшӹмӓшВикипедиВикипедим кӓнгӓшӹмӓшФайлФайлым кӓнгӓшӹмӓшMediaWikiMediaWiki-м кӓнгӓшӹмӓшШаблонШаблоным кӓнгӓшӹмӓшПалшыкПалшыкым кӓнгӓшӹмӓшКатегориКатегорим кӓнгӓшӹмӓшTimedTextTimedText talkМодульОбсуждение модуля","num_words":90,"character_repetition_ratio":0.111,"word_repetition_ratio":0.0,"special_characters_ratio":0.049,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":4826.2,"cluster_detection":-1}
|
5 |
+
{"text":"Филиппин кӹцкӹ кӓдӹ (латинлӓ Ducula poliocephala) — кӓдӹ йишвлӓн йыхыш пырышы Филиппинвлӓштӹ эндемик вӓшлиӓлтшӹ кӓдӹ. Кытшы 42 см, нелӹцшӹ 510–560 г якте шоэш.","num_words":31,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.233,"stopwords_ratio":0.065,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":73643.6,"cluster_detection":-1}
|
6 |
+
{"text":"Толай морен ( латинлӓ Lepus tolai ) — Азиштӹ вӹд лишнӹ шӹшерӹм качшы морен йыхыш Proeulagus лӹвӓл йыхыш пырышы йӓн. Сек коговлӓжӹ 40 - 55 см кыташ лин кердӹт. Массышты 1,5 - 2,5 кг якте шоэш.","num_words":42,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.277,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":149974.0,"cluster_detection":-1}
|
7 |
+
{"text":"У Зеланди попугайвлӓ (латинлӓ Nestoridae) — Попугай йиш йыхыш пырышы У Зеландиштӹ вӓшлиӓлтшӹ попугайвлӓ. Цилӓжӹ 9 тӹрлӹ У Зеланди попугайвлӓ улы.","num_words":30,"character_repetition_ratio":0.176,"word_repetition_ratio":0.0,"special_characters_ratio":0.179,"stopwords_ratio":0.067,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":78693.5,"cluster_detection":-1}
|
8 |
+
{"text":"– Цацышы дӓ нӹнӹ шӹшержӹм мӹлӓм келесӹш: “кежӹ”, мӹньжӹ гӹнь тӹлӓнет паштек (мӹньжӹ гӹнь тӹлӓнет паштек)","num_words":29,"character_repetition_ratio":0.168,"word_repetition_ratio":0.0,"special_characters_ratio":0.212,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":20818.9,"cluster_detection":-1}
|
9 |
+
{"text":"Б. Балашшиин поэзиштӹжӹ венгр ренессaнсын кӹ��кӹвлӓжӹ сек яжон кaйыт. Тӹдӹ Йыдвел Венгриштӹ aристокрaт семняштӹ шaчын дӓ aшнымaшыжым (воспитaним) пӹтӓри гувернервлӓ пуэнӹт. Школышкы Нӱрнбергӹштӹ кaштын дӓ вaрa Гермaнин университетвлӓштӹ тыменьӹн. Б. Бaлaшшин толшaш жепшӹ пиш йӹлгӹжшӹ лин кердӹн, но политикa тидӹм лоэштӓрен.\nТӹ жепӹн Кугижӓ Мaксимилиaн вуйлaтен дӓ поэтӹн ӓтяжӹ бaрон Йaнуш Бaлaшшим кугижӓ вaштaреш секретӓн ушемӹштӹ вуйтa ылмыжы гишӓн шaя лӓктӹн кеӓ. Тидӹ пaштек ӓтяжӹм тюрмӓш шӹндӓт, a семняжӹ Польшышкы шӹлеш. Иктӓ-мaнярышты бaрон тюрмӓ гӹц кыргыжеш. ӹшке лӹмжӹм итӹрӓйӓш мaнын, Й. Бaлaшши Трaнсильвaни вaштaреш кредӓлӓш сaлтaквлӓм поген кердӹн дӓ комaндуяш эргӹжӹм шaгaлтa. Но тӹдӹ трaнсильвaнвлӓн пленӹш вӓрештеш дӓ герцог Иштвaн Бaтори дорaн кудвичешӹжӹ кодеш. Тaмaняр тӹлзӹштӹ Бaторим Польшaн кугижӓэш aйырaт дӓ тенге Бaлaшшиӓт Польшыш кеӓ. Но 1577-шӹ ин ӓтяжӹн церлӓнӹмӹжӹ гишӓн увер толеш, Бaлaсси кугижӓ кудвичӹм кодa дӓ токыжы лӓктӹн кеӓ. Эргӹжӹ толмешкӹ ӓтяжӹ колa дӓ семняжӹ Бaлaссим нимaдеок кодa.\nТенге 24 иӓш шукы йӹлмӹ доно попен мыштышы ӹрвезӹ эдем служым вӓрдеок, йолт шaлген кодеш. Лaч ти ивлӓн тӹдӹ ӹшкежӹ гӹц тaмaняр иэш когорaк Aннa Лозонци доно пӓлӹмӹ лиэш. Aннaн шукы тетяжӹ ылын, мaрыжы, Крисоф Унгнaди кугижӓнӹш кого чиновник ылын. Тӹдӹлӓн пиш шӹрен корнывлӓштӹ сӓрнӹмӹлӓ ылын дӓ вӓтӹжӹ тоныжы ӹшкетшӹ шӹнзен. Сӓмӹрӹк Балашши дон Aннa лошты шукыштaт aгыл шокшы ярaтымaш пижӹн кеӓ. Тидӹ Балашшилӓн лыдышвлӓм сирӓш кого импульсым пуэн дӓ тенге \"Aннa\" лыдышвлӓ шaчыныт. Но \"охыр кӹшӓн\" проблемӹм решӓш тыл гaнь кого ярaтымaшaт пaлшен кердде, седӹндонaт поэт лейтенaнт лӹм доно |гер хaлaшкы служaш кен колтa.\nБaлaшши яжо сaлтaк ылын, но йырсaул гaнь ӹлӹмӹжӹ гишӓн тӹдӹм увольнӓйӓт. 1584-шӹ ин декaбрьын тӹдӹ тылык вӓтӹ Кристинa Добо доно aлтaрь aнзыкы толыт дӓ Шaрошпaтaк дворецӹштӹ ӹлӓш тӹнгӓлӹт. Тенге у скaндaл шaчеш дӓ тидӹ гӹц пaснa вӓтӹжӹ дон коктын мӹндӹр роднявлӓ ылмышты пӓлӹ лиэш. Ти ивлӓ лошты Балашши Aннa Лозонци донaт кӹлжӹм совсемешок кӹрде дӓ поэтӹн техень йырсaул ылмaшеш нерaт лишӹ Aннa поэт вaштaреш шaгaлеш. Но Балашшиӓт мӓкш гӹц aгыл- тӹдӹ Aннa верц пыт шaлгa дӓ лӹмешӹжӹ шукы лыдышым сирӓ (Юлия лыдышвлӓ). Дӓ цилӓ тaкеш веле, тылык вӓтеш шaлген кодшы (тӹнӓм мaрыжы колен) ӹдӹрӓмӓшӹн шӱмжӹм нӹнӹ ӹрӹктӹделыт.\nЙылышы йӓнгжӹм лӹплӓндӓрӓш мaнын, Балашши имним кышкыжеш дӓ Польшыш кыдaлеш. Дебо цикӹштӹ тӹдӹ у ярaтымaшым моэш- цевер ӹдӹр Aннa Сaркaндим (Целия лыдышвлӓ). Ярaтымaшышты 1591-шӹ и якте шыпшылтеш, вaрaжы Бaлaсси мӹнгеш Венгриш пӧртӹлеш. Ти гӓнӓ виногрaд ӓрӓкӓ дӓ имнивлӓм выжaлен, ӹшкӹлӓнжӹ кaпитaлым погa. Но 15 и туроквлӓ вaштaреш шыпшылтшы вырсы тӹнгӓлӓлтеш, тӹдӹ 1593-шы ин кидӹшкӹжӹ кердӹм нӓлеш. Вырсышты пaтырын кредӓлӹн. 19 мaйын 1594-шӹ ин Эстергомым йӹрвец нӓлмӹ годым лишнӹжӹ ядро пыдештӓлт кеӓ дӓ ялжы когон шушыргa. Оперaциӓт пaлшыде дӓ тӹдӹ 30 мaйын колa. Тенге ик тӹр гӹц вес тӹрӹш тӹргештӹлшӹ, сорымaшвлӓ, интригӓ дӓ ярaтымaшвлӓ доно циц ылшы Бaлaссин ӹлӹмӓшлӓнжӹ мычaш толын. Тӹдӹ ӹшке лишнӹшвлӓжӹ, коллегывлӓжӹ дӓ кӹлӹм кӹл лишнӹ ылшывлӓ вaштaреш соок ылын. Поэт семӹнь тӹдӹ венгр ренессaнс сӹлнӹшaяэш пиш келгӹ кишӓвлӓм коден.\nЯрaтымaшыжы дон юл ылмыжы\n[тӧрлӓтӓш | кодым тӧрлӓш]\nБалашши пӹтӓриш лыдышвлӓжӹм коклы иӓшӹн иктӓ 1575-шӹ и кытлaн сирен. Нӹнӹ перегӓлт кодыныт. Ти лыдышвлӓштӹ Петрaркaн стильжӹ шижӓлтеш, но тенге гӹнят эче яжон ембӹлӹмӹвлӓжок нӹнӹ aгылеп. Лу иштӹ сирӹмӹ лыдышвлӓжӹ воксеокaт вес кӱкшӹцӓн ылыт: тӹнӓм Балашшин кидӹш Пaриж гӹц колтымы Мишель Мaруллус, Херонимус Aнгериaнус дӓ Йaнуш Секундусын Поетaе трес елегaнтиссими лыдышвлӓштӹ вӓрештӹнӹт. Тенге поэт кыце лыдышвлӓм сирӹмӹлӓ, ренессaнс поэзин прaвилывлӓжӹ дон терминвлӓ гишӓн шукым пӓлен нӓлеш. Вaрa поэт сирӹмӹ стильӹшкӹжӹ шукы ум пыртa, йӹлмӹжӹ шукы ежӹнгӓн лиэш, лиӓлтмӓшвлӓм aнжыктымы годым шукы чиӓм кычылтеш, тӓнгӓштӓрӹмӓшвлӓ шӹренок вӓшлиӓлтӹт: когоэшнӹшӹ имниэшкӹ, пикш гaнь пӹсӹ пи, ӹрвезӹ эдемвлӓн лӱддӹмӹ пaртьы- aт уж мa кыце ти сӓндӓлӹк цевер пеледӹшвлӓ доно йолгыжеш?- мaнын поэт ядеш.\n\"Сaлтaк мыры\", цaнтио милитaрис Балашшин сек пӓлӹмӹ лыдышыжы ылеш. Тӹдӹ тенге тӹнгӓлӓлтеш: Сaлтaквлӓ, мa лиэш (Житéзек, ми лехет, 1589). Сирӹмӹ стиль пиш интенсивне, гимнлa тӹнгӓлӓлтеш, сaлтaквлӓн ӹлӹмӓш гишӓн шaйыштеш, пӧртӱн цевержӹм aнжыктымaшкы вaнжa дӓ вaрa цеверлӓсӹмӓш aнжыктaлтеш. Кредӓлмӓш ирок гӹц вaды якте шыпшылтеш. Ирок вырсы тӱтӱтвлӓ сaлтaквлӓм сӹгӹрӓт, имнивлӓ тырын шaлген aк тырхеп дӓ вaдеш янгылен шӹцшӹ имниэшкӹ, мытык йыд вaшт кӓнӓлтӓш, лaгерьӹш пӧртӹлеш.\nAрaб имнивлӓ\nшокшы вӹрӓнвлӓ куштaт,\nтӱтӱтвлӓ кӓнӓлтӓш ӱжӹт:\nимниэшкӹвлӓ рок вӹкӹ тӹргештӓт,\nпaтыр сaлтaквлӓ, жерӓ кузымешкӹ\nцилӓн лaднaн кӓнӓлтӹдӓ .\nЮлия гишӓн лыдышвлӓжӹ\n[тӧрлӓтӓш | кодым тӧрлӓш]\nБалашшин лыдышвлӓжӹ кым периодеш шелӓлтӹт. Пӹтӓришӹжӹ Aннa Лозонци доно пӓлӹмӹ гӹц тӹнгӓлӓлтеш. Тӹнӓм тӹдӹ \"Мӱ гӹцӓт мӱӓн шaмaквлӓ, нӹжгӓ шыпшaлмaшвлӓ\" (Мéзнéл éдесб сзеп сзóк, ӧржендетес цсóкок) помым сирен, кыды Юлия серилӓн тӹнгӓлтӹшӹм пуa. Лыдышвлӓлӓн идейӹм поэт \"Поетaе трес елегaнтиссими\" книгӓ гӹц нӓлӹн, дӓ седӹ, Балашши ренессaнсын сек яжо поэт Петрaркaн лыдышвлӓжӹмӓт пӓлен.\nЮлия венгр сӹлнӹшaяшты пӹтӓриш ӹлӹшӹ ӹдӹрӓмӓш обрaз, кыды кaштеш, куштa, йӹрӓ, шӹдешкӓ, сусу ылеш, кынaмжы токыжы ӱжшӹ, кынaмжы поктышы, кынaмжы пуры, кынaмжы шӹдӓн. Юлия гишӓн лыдышвлӓм лыдaт дӓ вуйтa фотогрaфивлӓм aнжет: тӹдӹ шaлгa, шӹнзӓ, вaштылеш, мӓгӹрӓ, сусу ылеш, сирмӓшӹм сирӓ- ярaтымaшaт тенгеок ӹштӓ...\nБалашши дон Aннa Лозонци лоштыш ярaтымaш йӧрен ылын гӹнят, поэт ярaтымaш гишӓн сирӓш цӓрнӹде. Aннa Сaркaнди лӹмеш сирӹмӹ лыдышвлӓжӹ вес йишвлӓ ылыт, тӹштӹ чӹдӹрӓк эмоци, но ӹлӹмӓшӹм ынгылышы ярaтышын шaявлӓ ӹнде aнзыкы лӓктӹт.\nБалашшин творчествыжы гишӓн сирӓш гӹньӹ, йымы ыдылмы поэзижӹ гишӓнӓт пӓлдӹртӓш келеш. Шaмaклaн, тӹдӹ Тошты Согоньын пслaмвлӓжӹм венгр йӹлмӹшкӹ сӓрен.\nПоэт гӹц пaснa тӹдӹ дрaмaтурaт яжо ылын. Тӹдӹ дрaмывлӓм лaтин йӹлмӹ гӹц сӓрен дӓ пӓленок ��идӹм ӹштен. Тӹ жепӹн венгр сӹлнӹшaяшты дрaмывлӓм эче сирӹмӹ aгыл ылын дӓ ти жaнрым виӓнгдӓш мaнын, Балашши ӹшке вижӹм пиштен. Венгри сӹлнӹшaяшты ти aвторын поэзижӹ шукым aнжыктa, Балашшин туaн хaлыкын поэзижӹм ренессaнс корнышкылa aжедшӹн слaвыжы вaзеш. Тӹдӹ кыце поетa доцтус (поэзин теорим яжон пӓлӹшӹ), тенгеок шӱм донaт поэт ылын, кыды ӹшке виӓн индивидуaльне монгырвлӓжӹм лыдышвлӓштӹжӹ aнжыктен кердӹн. Балашши венгр сӹлнӹшaяшты пӹтӓриш клaссикеш шотлaлтеш.\n↑ 1,0 1,1 Bibliothèque nationale de France идентификатор BNF (фр.): اوپن ڈیٹا پلیٹ فارم, платформа відкритих даних, платформа открытых данных, plateforme de données ouvertes, piattaforma di dati aperti, Opendata-Plattform, otevřená data platforma, åben-data-platform, տվյալների բաց շտեմարան, platforma za odprte podatke, plataforma de datos abierta, plataforma de dados aberta, платформа адкрытых даных, платформа на отворените данни, platforma otwartych danych, ашық деректер платформасы, ачык маалыматтарды платформа, açıq məlumat platforması, ochiq ma'lumotlar platforma, açık verilerin platformu, платформа отвореног података, platforma otvorenih podataka, platforma otvorenog podataka, platforma otvorených údajov, πλατφόρμα ανοικτών δεδομένων, platformu atklātā datu, platforma atvira duomenų, platvormi avatud andmete, avoimen datan foorumi, nyílt adatok platformja, პლატფორმა ღია მონაცემები, платформа за отворени податоци, нээлттэй мэдээллийн тавцан, platformă de date deschise, platformo de malferma datumoj, open data platform, плятформа адкрытых зьвестак, Усьтэм даннойёслэн платформазы, асыҡ мәғлүмәт платформаһы, açıq malümat platforması, açıq malümat platforması, ачык малюмат платформасы, öppen dataplattform, платформаи додаҳои боз, ачык кӧргӱзӱлердиҥ платформазы, гом бæрæггæнæнты платформæ — 2011.\n↑ 2,0 2,1 Balint Balassi \/\/ Encyclopædia Britannica (англ.)\n↑ 3,0 3,1 Balassi Bálint \/\/ Discogs (англ.) — 2000.\n↑ Deutsche Nationalbibliothek Record #119268779 \/\/ Общий нормативный контроль (GND) (нем.) — 2012—2016.\n«https:\/\/mrj.wikipedia.org\/w\/index.php?title=Балашши,_Балинт&oldid=92546» гӹц нӓлмӹ\nКатегоривлӓ:\n20-шӹ октябрьын шачшывлӓ\n1554 ин шачшывлӓ\n30-шӹ майын колышывлӓ\n1594 ин колышывлӓ\nПерсоналивлӓ\nВенгри персоналивлӓ\nСирӹзӹвлӓ\nШӹлтӹмӹ категоривлӓ:\nВикипеди:Статьи с источниками из Викиданных\nВикипеди:Статьи со ссылками на элементы Викиданных без русской подписи\nВикипеди:Карточки без параметров\nТи страницӓ остатка гӓнӓ 3 сентябрь 2017 кечӹн 02:51 цӓшӹн тӧрлӓлтӹн.\nТекстӹм Creative Commons Attribution-ShareAlike License лицензи доно кычылташ лиэш; ситӓртӹш условивлӓ кычылталт кердӹт. Раскыдырак информацим Terms of Use> кычылтмы условиштӹ анжы.","num_words":2645,"character_repetition_ratio":0.036,"word_repetition_ratio":0.005,"special_characters_ratio":0.184,"stopwords_ratio":0.004,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":7080.0,"cluster_detection":-1}
|
10 |
+
{"text":"Пӱэргӹвлӓ ти кечӹн яратымы ӹдӹрвлӓлӓнӹштӹ, вӓтӹштӹлӓн ӓль ӓвӓштӹлӓн тюльпанвлӓм, нарциссвлӓм, розавлӓм ӓль мимозывлӓм пӹрнялевӹ (подаревӹ). Попашат уке, 8-шӹ март яжо, соты дӓ сусу айо. Пӹтӓриш шошым айо. Лӹмӹнок ти айо Российӹштӹ шергӓкӓн, вет ти кечӹ кӓнӹмӹ кечӹ, Европышты ти кечӹ обычный пӓшӓ кечӹ.\nАйон историжӹ гӹц\n[тӧрлӓтӓш | кодым тӧрлӓш]\nКӓндӓкшӹмшӹ март айон ӹшке важвлӓжӹ, ӹшке историжӹ улы. Ти айо XX-шы курымын тӹнгӓлтӹшӹштӹжӹ шӹтӹшӹм пуэн: Клара Цеткин дон Роза Люксембург ти кечӹ идейӹн ӓвӓвлӓштӹ ылыт. Российӹштӹ нӹнӹн шанымашвлӓштӹм Надежда Крупская дон Мария Коллонтай культивируенӹт. Ик монгыр гӹц анжалаш гӹнь, нӹнӹн шанымашышты пиш простала шакта- ӹдӹрӓмӓш дон пӱэргӹ иктӧр праваан лишӓшлык ылыт. Шӱдӹ и первиӓш Европытыш, Лӹмӹнок Российӹштӹш ӹлӹмӓш кӹзӹтшӹ гӹц пиш когон айыртемӓлтӹн, тӹнӓм ӹдӹрӓмӓшвлӓн айырымаш праваштат вӓк уке ылын. Нӹнӹ пӱэргӹн кидӹштӹ хӓдӹр ӓль мебель гань веле ылыныт. Седӹ, ӹдӹрӓмӓшвлӓ тидӹ ваштареш ылыныт дӓ ушемкымдемӹштӹш ядмашвлӓм решӹмӓштӓт ӹшке юкыштым пуаш цаценӹт. Нӹнӹ протестуенӹт, ӹшке правашты верц шалгенӹт.\nЖеп эртӹмӹкӹ ӹдӹрӓмӓшвлӓм тӹкӓлшӹ ямдашым феминизм термин доно манаш тӹнгӓлмӹ дӓ тӹдӹн вӹкӹ анжалтышат вашталт миэн, кӹзӹт якте тӹдӹ шукы фазым эртен. Пӹтӓриш ивлӓн айырымаш годым юкым пумы права гишӓн попымы гӹнь, кӹзӹт пӱэргӹвлӓ дон ӹдӹрӓмӓвлӓ лошты должностьвлӓм пумы дӓ пӓшӓдӓр айыртемвлӓ ваштареш ӹдӹрӓмӓшвлӓ ылыт. Эдемвлӓ икань пӓшӓм ӹштӓт гӹнь, тӹнӓм кыце пӱэргӹвлӓ, тенгеок ӹдӹрӓмӓшвлӓӓт икань пӓшӓдӓрӹм нӓлшӓшлык ылыт, манын пӓлдӹртӓт. А кынам дӓ кышты ӹдӹрӓмӓшвлӓ сек пӹтӓри айырымы годым юкым пуаш правам нӓлӹнӹт? Тидӹжӹ У Зеландиштӹ 1903-шӹ ылын. Европышты сӓндӓлӹквлӓ логӹц мӓлӓннӓ пӓлӹмӹ дӓ лишӹл Суоми ылеш, кышты 1906-шы ин ӹдӹрӓмӓвлӓлӓн полный политический правам пумы дӓ 1907-шӹ ин айырымы Парламентӹштӹ 200 депутат гӹц 19 ӹдӹрӓмӓш ылын.\nКӹзӹт Финляндин Парламентӹштӹ ӹдӹрӓмӓш депутатвлӓ 80 нӓрӹн ылыт. Сек сӓмӹрӹк депутатеш 22 иӓш студенткым айырымы.\nБизнесӹм, политикӹм дӓ культурам анжалаш гӹнь, Суомиштӹ ӹдӹрӓмӓшвлӓ яжо дӓ цаткыды позицивлӓшкӹ шоныт, тидӹжӹм сӓндӓлӹкӹн президентжӓт Тарйа Халонен ӹшке примержӹ доно анжыктен кердеш. Суомиштӹ шукы ӹдӹрӓмӓш сирӹзӹ, журналист, театр режиссер, критик, дизайнер, изи дӓ кӹдӓлӓш фирмӹвлӓм вуйлатышывлӓ.\nФеминизм гишӓн шая\n[тӧрлӓтӓш | кодым тӧрлӓш]\nФеминизм гишӓн попаш гӹнь, финн ӹдӹрӓмӓшвлӓ анжалтышыштым 1860-шы ивлӓшкӹ шуат. Лач тӹнӓм ӹдӹрӓмӓш сирӹзӹ дӓ журналист Минна Кант пӹтӓриш гӓнӓ кымдан ӹдӹрӓмӓшвлӓн ядмашым анзыкы лыктын. Тӹдӹ драматург семӹнь пӓлӹ ылеш, кыды ӹшке драмывлӓштӹжӹ ӹдӹрӓмӓш темӹм соок тӹкӓлӹн. Тӹдӹн анжыктымы ӹдӹрӓмӓш персонажвлӓжӹ пӹзӹрен шӹндӹмӹвлӓ агылеп- виӓнвлӓ, цаткыдывлӓ, шанышывлӓ ылыт, пӱэргӹвлӓӓт нӹнӹм шотеш пиштӓт.\nСуоми аграрный культуран сӓндӓлӹк гӹц виӓнгшӹ индустри культуран сӓндӓлӹкӹшкӹ 1950-шӹ ивлӓн сӓрнӓлтӹн. Сола ӹлӹмӓшӹм анжалат гӹнь, Марий |лыштыш гань нырвлӓм, кооперативлӓм тиштӹ ат уж. Фермерӹн пӓшӓжӹ пиш технизируялтын, кид доно пӓшӓм изиш веле ӹштӓт, ышкалвлӓм урдышывлӓӓт моло, шӹшерӹм кид доно нигынамат ак шыпшылеп. Тидӹжӹ солаштышывлӓлӓн пӓшӓдеок кодмым анжыкта. Суомин экономикӹштӹжӹ шӹргӹ куштымы дӓ пӹчкедӹмӹ промышленность соок кого рольым мадын- ӹндежӹ гӹнь, тӹштӓт автоматизаци дон механизаци шижӓлтеш. Пум йӧрӹмӹ механизмвлӓ пӱэргӹвлӓн вим тагынамок шӹргӹ гӹц поктен лыктыныт. Тенгежӹ ма ӹнде солаштыш дӓ изи халавлӓштӹ ӹлӹзӹвлӓлӓн кодеш? Тыменьмӓш дӓ махань-шон изи предприятивлӓм пачмаш. Ти шотышты ӹдӹрӓмӓшвлӓ ӹшкӹмӹштӹм активно анжыктат. Изи ательевлӓм, мастерскойвлӓм, сувенирвлӓм ӹштӹмӹ цехвлӓм, парикмахерскивлӓм, кафевлӓм, реклама бюровлӓм, туризм бюровлӓм, изи типографивлӓм пачыт. А культура ушемвлӓжӹ гишӓн гӹнь, попашыжат уке- нӹнӹ цилӓ солашток, цилӓ изи халашток улы. Нӹнӹжӹ гӹнь мӓлӓннӓ чоте потикӓлӓ шактен кердӹт: Кырык дӓ Кожла мары мӱлӓндӹ доно кӹлдӓш гӹнь тенгерӓк шактат: Туан йӹлмӹм яратышы ӹдӹрӓмӓшвлӓ, Ӓвӓсир ӹдӹрӓмӓшвлӓн Культура йӹргец, Пистерлӓ тӹрлӹзӹвлӓ, Усола ӹдӹрӓмӓшвлӓн Литература клуб, Цикмӓ ӹдӹрӓмӓшвлӓн театр йӹргец, Арде солан сувенирвлӓм ӹштӹшӹвлӓ. Шанымы шоэш Кырык дӓ Кожла сирӹштӓт техень ушемвлӓ лин кердӹт.\n«https:\/\/mrj.wikipedia.org\/w\/index.php?title=8-шӹ_март&oldid=91761» гӹц нӓлмӹ\nКатегори:\nАйовлӓ\nТи страницӓ остатка гӓнӓ 8 март 2016 кечӹн 18:46 цӓшӹн тӧрлӓлтӹн.\nТекстӹм Creative Commons Attribution-ShareAlike License лицензи доно кычылташ лиэш; ситӓртӹш условивлӓ кычылталт кердӹт. Раскыдырак информацим Terms of Use> кычылтмы условиштӹ анжы.","num_words":883,"character_repetition_ratio":0.043,"word_repetition_ratio":0.0,"special_characters_ratio":0.173,"stopwords_ratio":0.007,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":22809.3,"cluster_detection":-1}
|
11 |
+
{"text":"Катанга кошыгек (латинлӓ Ploceus katangae) — кошыгек йишвлӓн группыш пырышы Конго Демократи Республика дӓ Замбиштӹ шӹрен вӓшлиӓлтшӹ кошыгек.","num_words":25,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.15,"stopwords_ratio":0.04,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":104815.6,"cluster_detection":-1}
|
12 |
+
{"text":"Йорубавлӓ (йорубала Àwọn ọmọ Yorùbá ) — кечӹвӓл-вадывел Нигериӹштӹ ӹлӹшӹ халык. Йорубавлӓн шотышты 30 млн. нӓрӹ.","num_words":34,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.214,"stopwords_ratio":0.029,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":6124.6,"cluster_detection":-1}
|
13 |
+
{"text":"Кӹрӓн пӹлӹшӓн арасари (латинлӓ Pteroglossus castanotis) — тукан йишвлӓн йыхыш пырышы Кечӹвӓлвел Америкышты вӓшлиӓлтшӹ тукан. Кытшы 43–46 см, нелӹцшӹ 230–310 г якте шоэш.\nКӹрӓн пӹлӹшӓн арасари\nЛӹвӓл йишвлӓ\nтӧрлӓтӓш\nPteroglossus castanotis castanotis – кечӹвӓлвел дӓ ирвел Колумби гӹц ирвел Эквадор, кечӹвӓл-ирвел Перу дӓ кечӹвӓл-вадывел Бразили якте\nPteroglossus castanotis australis – ирвел Боливи гӹц вадывел дӓ кечӹвӓл-ирвел Бразили, ирвел Парагвай дӓ йыд-ирвел Аргентина якте","num_words":87,"character_repetition_ratio":0.124,"word_repetition_ratio":0.0,"special_characters_ratio":0.184,"stopwords_ratio":0.046,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":47379.7,"cluster_detection":-1}
|
14 |
+
{"text":"пользовательӹн тӹшкӓвлӓжӹм анжалаш Wikitanvir (кӓнгӓшӹмӓш | вклад) пользовательӹн тӹшкӓвлӓжӹм анжен лӓкмӓш","num_words":32,"character_repetition_ratio":0.165,"word_repetition_ratio":0.0,"special_characters_ratio":0.123,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":19970.2,"cluster_detection":-1}
|
15 |
+
{"text":"Катете (англла Katete District ) — Замбин Ирвел провинцин районжы. Районын территорижӹ: 3.989 км². 2000-шӹ ин тӹштӹ 189 250 эдем ӹлен. Районын вуйхалажы дӓ сек кого халажы: Катете.","num_words":36,"character_repetition_ratio":0.012,"word_repetition_ratio":0.0,"special_characters_ratio":0.294,"stopwords_ratio":0.028,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":56910.2,"cluster_detection":-1}
|
16 |
+
{"text":"Шиштӹ изи попугай (латинлӓ Micropsitta) — Psittaculidae йиш группын Шиштӹ изи попугайвлӓ лӹвӓл йиш группыш пырышы Индонези дӓ Папуа-У Гвинейиштӹ вӓшлиӓлтшӹ попугай. Цилӓжӹ 6 тӹрлӹ шиштӹ изи попугай улы. Кытшы 8–10 см лин кердеш.","num_words":43,"character_repetition_ratio":0.132,"word_repetition_ratio":0.0,"special_characters_ratio":0.202,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":87609.4,"cluster_detection":-1}
|
17 |
+
{"text":"Лусон питта (латинлӓ Erythropitta kochi) — питта йишвлӓн йыхыш пырышы кечӹвӓл-ирвел Филиппинвлӓн Лусон ошмаотышты вӓшлиӓлтшӹ мырышы кек. Кытшы 21 см, нелӹцшӹ 116 г якте шоэш.","num_words":33,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.207,"stopwords_ratio":0.061,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":64306.6,"cluster_detection":-1}
|
18 |
+
{"text":"Филиппинвлӓ верховный судын кукшы дӓ верховный судын судьявлӓжӹм чиновниквлӓн тӹнг филиппинвлӓ юстиций филиппинвлӓ правительствыжы лидерӹн. Тӹнг судья ылын полномочивлӓм президент доно кӹлдӓлтмӹштӹм пӓлемдӹшӓшлыктӹдӹ кын дон айырымы кандидат спискӹвлӓм гӹц кӱвлӓ ылыт.\nтӹдӹ отставкыш лӓктӹн кеӓ\nпӓлӓш дӓ судебный адвокатский ӹштен. Тӹнг нимат практически судья судья pagroseso ярыктымы гӹц толеш Тенгеок вес Mahistardo Верховный судын судьявлӓжӹм тӹнг тичмаш гӹц.","num_words":98,"character_repetition_ratio":0.106,"word_repetition_ratio":0.0,"special_characters_ratio":0.132,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":45540.8,"cluster_detection":-1}
|
19 |
+
{"text":"Шурын Йылышкы йоген пырымы вӓрӹштӹжӹ киӓ. Цикмӓ гӹц Ш. якте Йыл мыч 40 уштыш дӓ шоссе корны мыч Микрӓк гач 65 уштыш нӓрӹ. Ш. гӹц Ӓвӓсирӹш 7 уштыш лиэш. Угарман якте Шур гач паром доно ванжен, 160 уштыш нӓрӹ погына. Райцентр – Воротын якте 12 уштыш.\nӸлӹзы шот, халыквлӓ\nтӧрлӓтӓш\n2007-шӹ ин Шурдӹнгӹштӹ 1193 эдем ӹлен. Тӹнгж-м, ти хала сӹнӓн когосолашты рушынвлӓ ылӓт, нӹнӹ паштек шотышты доно кырык марынвлӓ дӓ вара суасламарывлӓ кеӓт. Халыквлӓн йори шотлымашым Ш. эртӓрӹмӹ агыл. Шурдӹнг шӹгерлӓштӹ кырык марынвлӓн йори ӹшке мӱлӓндӹ лаштыкышты улы.\nИстори\nтӧрлӓтӓш\nПервиш Шурдӹнг. Йыл вӹлец анжалтыш.\nBasilowgorod Шурдӹнг Московин картыштыжы, Сигизмунд фон Герберштейн картыжы (1549 и)\nРуш историграфин документвлӓжӹ семынь Шурдӹнглӓн негӹцӹм 1523-шы ин пиштӹмӹ. Тӹ годымок, ти вӓрӹштӹ кырык марынвлӓн яжон, цаткыды пренявлӓ гӹц ӹштӹмӹ Цепель кӓрмӓн гишӓнӓт мары историквлӓ попат. Кӹзӹт якте Шурдӹнг лишнӹ тӹ карман годшаш лаксаквлам ужаш лиэш, кыдывлӓ Супротивный ключ изи ӓнгӹр доны ылыт. Ти вӓрӹштӹ первиш кырык марынвлӓ ӹшке йымывлӓштӹлӓн ыдылыныт дӓ цӧкленӹт. Цӧклӹмӓш овуца кӹзӹт яктеок перегӓлт кодын да тенге и йӹде кыдӹтидӹ кырык марынжы тышкӹ 11-шӹ сентябрьын йыдым ыдылаш каштыт. 1520-шӹ ивлӓн Московин кугижӓжӹ Азан ваштареш кредӓлӹн дӓ ӹшке территорижӹм кымдаэмдӓш цацен. Тӹ ивлан ти кугижӓнӹшӹн ирвел пӹсмӓнжӹ Шур тӹр мыч кен. Кырык марынвлӓн карманым лыпшен шумыкы, стрелецвлӓ Шур тӹреш Васили III-шы князь лӹмеш руш карманым шӹндӓт дӓ тӹдӹлӓн Васильевым Новгород лӹмӹм пуат. Ынянӓш лиэш, Цепель карманым рушынвлӓ доно шӓлӓтӹмӓш эдем вӹрӹм йоктарыде эртӹде. Халык лошты ти лӹмӹм кӹтӹкемден, Васильсурск манаш тӹнгӓлӹнӹт. Ти кредӓлмӓшвлӓ гишӓн Руш историографиштӹ когонжок ак сирӓлт. Тӹ годымок, Шурдӹнг гишӓн сирӹмӓштӹ, ситӓлык изи самыньвлӓм моаш лиэш, шамаклан, пӹтӓрижӹ Ш. форпост семӹнь ылшы карман ылын, тидӹм пӓленӓ, но кыдыжы тӹдӹлӓн тӧрӧк хала статусым пуат. Шурдӹнг карман 1-шӹ сентябрьын [1523 ин йӓмдӹ лин дӓ тӹдӹн йӹржӹ кымда лаксак дӓ кӱан стенӓ ылын. Тидӹжӹ марынвлӓ карманым ӹнжӹштӹ атакуеп манын, ӹштӹмӹ ылын. Азан тадарвлӓ Шурдӹнглӓн тырын ӹлӓшӹжӹ когонжок ирӹкӹм пуделыт дӓ Азаным рушынвлӓн кырык марынвлӓн палшыкышты доно сӹнген нӓлмӹштӹ якте, ти карманым 1536-шы да 1539-шӹ ин кыравен лыктыныт. Азан 1552-шы ин сӹнгӹмӹ лин дӓ тенге Шурдӹнг форпостын керӓл ылмыжым ямда. 1779-шӹ ин Шурдӹнглӓн уезд хала статусым дӓ Василь лӹмӹм пумы. 1781-шӹ ин 16-шы августын тӹдӹн гербшӹм яралеш лыктыт. Уезд хала семӹнь Ш. 1927-шӹ и якте ылын. Кугижӓ жепӹн Ямангаш монгырыштыш Йыл тӹрӹштӹш кыдӹ-тидӹ кырык мары солажы ти уездӹш пырен. Йӱрнӹӓт ти уездӹштӹ ылын. Вара нӹнӹм Мары Эл Республикыш ушымы. 1979-шӹ и якте эче Шурдӹнг хала сӹнӓн цаткыды когосола ылын, Шурын сиржӹ вӹдӹшкӹдӓ йыжнен валымыжы паштек, Шурдӹнгӹн ӱл, сек исторический районжы курымеш ямын, пӧртвлӓ пыдыргенӹт дӓ ти эксӹкӹштӹ кок эдем колен. Тидӹ паштек Ш. изиэмӓш дӓ цевер сӹнжӹм ямдаш тӹнгӓлӹн.\nЭкономика дон инфраструктура\nтӧрлӓтӓш\nШурдӹнгӹштӹ 1524--шӹ инок йӓрмингӓ ӹштӓш тӹнгӓлӹн, вара тӹдӹм Макарын монастир- докы (махань ин пӓлӹ агыл), а 1817--шӹ ин Угарманыш ваштымы. Уезд хала семӹнь Шурдӹнгӹм паянеш шотлаш лиэш ылын. Йыл да Шур тӹрӹштӹ вӓрлӓнӓӓт тылвышвлӓ тӹштӹ шукын ылыныт, кыдыжы лач эртен веле, но шукынжок тӹштӹ шалгенӹт. Совет жепӹн Шурдӹнгӹштӹ кого пристин ылын, варажы лач Метеор дон Ракетывлӓлӓн веле вӓр кодын, кӹзӹт тӹштӹ дебаркадерӹм ак шагалтеп дӓ вӹд пындашыштыш шылдыран тылвышвлӓӓт ак кашеп. Вес вӓре кеӓш манын телӹм Шур гач кемӹлӓ, и кемӹкӹ Шурдӹнг – Пыле Кырык- паром каштеш, а кыды автомобилистшӹ шоссе корным айыра: кыды ти солам Кырык сир доно уша. Шурдӹнгӹштӹ лапкавлӓ, кафе, почта, шонгывлан пӧрт, амбулатори, поссовет ӹштӓт.\nТуризм, культура, тымдымаш пӓша\nтӧрлӓтӓш\nШурдӹнг панорама. Мӹндӹрнӹ, шалахайышты Шур, вургымлашты Йыл\nТидӹ гӹц пасна Шурдӹнг пиш косир дӓ цевер вӓрӹштӹ шыпшылт вазынат, Кугижӓ годымок тӹштӹ пансионатвлӓ дон кӓнӹмӹ портвлӓм пачмы ылын. Ти вӓрвлӓм эче Изи Швейцари - лӹм доно пӓленӹт. Кӓнгӹжӹм тӹштӹ ӹлӹмаш шолмылаок шолын, кӓнӹшӹвлӓжӹ Угарман гӹц веле агыл, тенгеок Моско-дон Петербург- гӹцӓт ылыныт. Шурдӹнг доно шукы кырык мары пӓлӹмӹ эдемӹн ӹлӹмӓшӹжӹ кӹлдӓлтӹн, тӹштӹ Григорьев-Эмаш, Никон Игнатьев, Шадт Булат, Митюк, Владимир Сузы, поэтвлӓ Николай Егоров, Атюлов Анатолий, Валери Микор, артньыквлӓ Ефимов Измаил дон Алдушкин Сергей шӹренок ылыныт. Шурдӹнгӹштӹ мырывлӓм сирӹшӹ Лев Маликеев ӹлен. Пӓлӹымӹ рушынвлӓ логӹц А��ександр Радищевӹн, Исаак Левитанын, Иван Шишкинӹн, поэт модернист Николай Кузминӹн лӹмвлӓштӹм пӓлдӹртӓш лиэш. Кого Вырсы жепӹн Шурдӹнгӹштӹ Москваштыш Кого театр эвакуациштӹ ылын. Шурдӹнгӹштӹ Культура пӧрт, библиотека дӓ кӹдӓлӓш школ ӹштӓт. Тӹштӹ Шур монгырыштыш кыдӹтидӹ кырык марынжы тыменешю Тӹшкӹ нӹнӹ Шур школ паштек кеӓт. Школышты кырык мары йӹлмӹм ак тымдеп.","num_words":1048,"character_repetition_ratio":0.045,"word_repetition_ratio":0.0,"special_characters_ratio":0.192,"stopwords_ratio":0.001,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":36510.1,"cluster_detection":-1}
|
20 |
+
{"text":"Шуды изи попугай (латинлӓ Neophema) — изи попугайвлӓн йыхыш пырышы Австралиштӹ вӓшлиӓлтшӹ попугай. Цилӓжӹ 6 тӹрлӹ шуды изи попугай улы. Кытшы 20–22 см лин кердеш. Нелӹцшӹ 40–60 г якте лин кердеш.","num_words":34,"character_repetition_ratio":0.124,"word_repetition_ratio":0.0,"special_characters_ratio":0.246,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":65734.6,"cluster_detection":-1}
|
21 |
+
{"text":"Сола Шур йогы сирӹштӹ вӓрлӓнӓ. 2001-шӹ ин Ӓвӓсирштӹ 140 эдем ӹлен. Шур сир тӹр якте ик уштыш нӓрӹ. Ӓвӓсир сола Цикмӓ гӹц 64 дӓ Шурдӹнг гӹц 7 уштыш ӧрдӹжӹштӹ киӓлтӓ. Сола 1868-шӹ ин пачмы кырык мары пӱэргӹ Шур монастир лишнӹ 1920-шы ивлӓн ӹлянен. Солалан тӹнгӓлтӹшӹм пушывлӓ Микорсола дон Пӹнгелйӓл гӹц ылыныт. 1920-шы ивлӓн монастирӹм питӹрӹмӹ дӓ церкӹвлӓм сӹмӹрӹмӹ. Церкӹвлӓм пыдыртымы яктежок Ӓвӓсирӹштӹ Кырык Мары Педетхникумым пачмы. Маняр специалист педагогын дипломым нӓлӹн — пӓлӹ агыл, но ти техникум кырык мары интеллигенцим йӓмдӹлӹшӹ ӓпшӓткудыжы лин. Педтехникумышты кырык марынвлӓлӓн кымдан пӓлӹмӹ эдемвлӓ тымденӹт дӓ тыменьӹнӹт. Нӹнӹ логӹц Григорьeв-Эмӓш Пётр, Пет Першутын дӓ Митюкын лӹмӹштӹм пӓлдӹртӓш лиэш. Техникумым 1924-шӹ ин Цикмӓ халашкы ваштымы. Монастир сага кугижӓ жепӹн кок классан школ ылын, кышты кырык мары ӹрвезӹвлӓ лыдаш-сирӓш тыменьӹнӹт. Нӹнӹ логӹц иктӹжӹ — пӹтӓриш мары романым сирӹшӹ Никон Игнатьев (1895, Кырык сир — 1941, Мӹндӹр Ирвелнӹ лӱэн пуштмы).\nМонастирӹм питӹрӹмӹкӹ, кыдын кок церкӹжӹм 1928-шӹ ин урыктымы, 1930-40-шӹ ивлӓн солашты текстильӹм лыкшы комбинат (тӹдӹ 1950-шӹ ивлӓн питӹрӹмӹ лин, 1974-шӹ и якте левӓшде охыр шалген, вара пыдыртенӹт дӓ Макарсирӹштӹ пекарныйым шӹнденӹт, кӹрпӹцвлӓжӹ монастир годшашок ылыт), а Кого Вырсы жепӹн Тетя Пӧрт ылын. 1930-шы ивлӓн «Якшар Пролетарий» колхоз ӹштен, седӹндонат вӓрӹштӹш халык ти солам эче Пырлетар манын лӹмдӓ. Колхозвлӓм когоэмдӹмӹ велдӹк, солам «Россия» колхозыш ушымы лин. ӹшке жепӹнжӹ тӹштӹ кого ышкал фермӹ ылын. 1960-шы ивлӓн монастирӹн территориэшӹжӹ «Сура» лӹмӓн турбазым пачмы. Туриствлӓн кӓнӓш толмышты анзыц, май мычашын ик ӓрня нӓреш цилӓ Кырык сир гӹц сек хытыр-патыр сола кудыло пӓшӓзӹвлӓ кӓненӹт. Йӹрвӓш лач кырык мары шая, мыры дӓ куштымы сем веле шактен.\nЧебоксар ГЭС-ӹм колтымы анзыц сола лишнӹш алыквлӓштӹ пел Кырык сиржӹ, молнамшы Йоласал районыш пырышы солавлӓ, шудым ӹштен, тидӹ гишӓн яжон артньык Измаил Ефимовын фотовлӓжӹ гӹц пӓлен нӓлӹнӓ. Кого Вырсы жепӹн Ӓвӓсир лишнӹш алыквлӓштӹ окопвлӓм капайымы дӓ нӹнӹжӹ 1979-шӹ и якте перегӓлт кодыныт. Вара тиды цилӓ вӹд лӹвӓлӓн лин.\nӒвӓсир сола доно техень пӓлӹмӹ эдемвлӓн лӹмӹштӹ кӹлдӓлтӹн: Анатолий Атюлов (поэт), Зорина Зоя (Мары университетӹн профессоржы), Валери Микор (поэт, сирӹзӹ, литература критик). Седӹ, солан историжӹм сола халык ӹштӓ, а ти солашты пиш шытыр дӓ хытыр кырык марынвлӓ ӹлӓт. 2006-ы ин Ӓвӓсирӹштӹ угӹц Шур монастирӹм пачмы. 2001-шӹ ин Ӓвӓсирӹштӹ 140 эдем ӹлен.\nЙӹлмӹ\nтӧрлӓтӓш\nПопымышты доно Ӓвӓсирвлӓ кырык мары йӹлмӹн Йоласал семӹнь попат. Шамаклан «тури» шамакым кычылтыт. Ӓвӓсирвлӓ дӓ тенгеок тӹдӹн пашкуды Этьвайныр, Краселицӹ дӓ Оврашныр солавлӓштӹш марынвлӓ кужы кӓпӓнвлӓ дӓ чыкатавлӓ ылыт. Шукынжок кӹзӹтшӹ жепӹн фермервлӓ дӓ махань-шон изи бизнес доно ӹшкӹлӓнӹштӹ ӹлен лӓктӓш йӧнвлӓм мот. Сола йӹр курымаш пистӹвлӓ кушкытат, тӹштӹ шукынжом мӱкшӹм анжат, тенгеок колым лоат дӓ тидӹм Шурдӹнгӹштӹ, Микрӓкӹштӹ, Цикмӓштӹ, Йошкар-Олашты дӓ Угарманышты выжалат.\nКӹзӹт Ӓвӓсир солашты ӹндекшиӓш школ ӹштӓ, кыды, 1874-ӹ ин пачмы исторический пӧртӹштӹ вӓрлӓнӓ. Ти школышты 1920-шы ивлӓн кӱшнӹрӓк пӓлдӹртӹмӹ Кырык Мары Педтехнимум ӹштен.\nЭкономика. Транспорт. Инфраструктура\nтӧрлӓтӓш\nӒвӓсир ӧлицӓ\nСолашкы автотранспорт дӓ ялын вӓрештӓш лиэш. Но корнын худа ылмыжы велдӹк тӹшкӹ лач джип авто доно веле варештӓт. Ӓвӓсирӹш Цикмӓ гӹц Яштуга автобусеш Вӹцпистӹ якте толман. Автобус чӹм (шагалмы вӓр) гӹц сола якте 9 уштыш. Солашты почтын 425314 номерӓн конторыжы, 2 лапка, тотлы сыкырым кӱэтшӹ пекарньы, библиотека, фельдшерский пункт ӹштӓт. Тумерлӓ лесничествӹн пум пӹчкедӹмӹ цех улы. Ӓвӓсирӹштӹ Шур монгыр солавлӓн шӹгерлӓ вӓрлӓнӓ.\nАрхитектуры шотышты Ӓвӓсир вес кырык мары солавлӓ гӹц когон айыртемӓлтеш: тӹштӹ 150 и перви чангымы кок этажан пӧртвлӓ эче перегӓлт кодыныт, кыдывлӓ лин кердеш, шукыштат агыл шӱн пытӓт лиэш. Ти пӧртвлӓм кырык марынвлӓ оксам поген шагалтенӹт. Нимат ӹштӓш агыл гӹнь, тенге мӓ историнӓн ик важшым ямденӓ. Туризм шотышты Ӓвӓсир дон йӹржӹ ылшы солавлӓ пиш интересный обьектвлӓ ылыт — тӹштӹ техень косир дӓ цевер вӓрвлӓ, кыхеньвлӓм Кырык сирнӓн вес лыквлӓштӹжӹ ат уж.\nСола лишнӹ техень вӓрвлӓм пӓлдӹртӓш лиэш: Микорсир, 1920-шы ивлӓн Микорсола гӹц толшывлӓ 6-7 изи пӧртӓн солам ӹштенӹт, варажы цилӓнӓт Ӓвӓсирӹшкӹ ӹлӓш ванженӹт. Ар-Пӹнгель (рушла — Хмелевка): солан кечӹвӓл велнӹжӹ йогышы изи ӓнгӹр, кыды Угарман областьын Воротын районын Мелепка сола лишнӹ Йылышкы йоген пыра. Тьыпакырык, Шурдӹнгӹш кешӹлӓ сола вуйышты шалахай монгыреш кодеш. Морка Сир, Кавшта Лап, Ӱштӹ Вӹдсӹнзӓ, Толстух Нер, Лашман Кӹвер — Ар-Пӹнгель сирӹштӹш сӓрӓнвлӓ дон вӓрвлӓн лӹмвлӓштӹ.\nКурымеш ямыныт: Кого Йӓр, Карашуа, Кӹрӹш йӓр, Кым йӓр, Павыл йӓр, Аннан йӓр, Шӱдӹпачаш Лык, Ошкы Лап — Шур алыквлӓштӹ ылшы йӓрвлӓ дон вӓрвлӓн лӹмвлӓштӹ. Кӹзӹт нӹнӹ вӹд лӹвӓлнӹ ылыт.","num_words":988,"character_repetition_ratio":0.04,"word_repetition_ratio":0.0,"special_characters_ratio":0.2,"stopwords_ratio":0.007,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":32772.4,"cluster_detection":-1}
|
22 |
+
{"text":"Якшар калпакан ала кӓдӹ (латинлӓ Ptilinopus mercierii †) — кӓдӹ йишвлӓн йыхыш пырышы Француз Полинезиштӹ Маркиз ошмаотывлӓштӹ эндемик вӓшлиӓлтшӹ кӓдӹ. Кытшы 40 см якте шоэш.","num_words":32,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.185,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":136463.0,"cluster_detection":-1}
|
23 |
+
{"text":"Когечӹ (тошты грек: πάσχα, лат.: Pascha, иврит: פסח, песах гӹц) — кыды христианствышты «эртен кемӹ», дон Иисусын Ӹлӹжмӹжӹм (тошты греклӓ Ἡ Ανάστασις τοῦ Ἰησοῦ Χριστοῦ) анжыкта. Церкӹ айовлӓ гӹц ик когоэш шотлалтеш. Ти айо Иисус Христосын ӹлӹжмӹжӹ доно кӹлдӓлтӹн. Кӹзӹтшӹ жепӹн ти айон кечӹвлӓжӹ тӹлзӹн каштмы календарь негӹцеш вазыт.\nКогечӹн овуцавлӓжӹ\n[тӧрлӓтӓш | кодым тӧрлӓш]\nКогечӹн овуцавлӓжӹ йымым ыдылмы доно кӹлдӓлтӹнӹт. Когечӹ годшаш мадмашвлӓ дон жепӹм сусун эртӓрӹмӓш Кого Пост доно кӹлӹштӹм кычат, ти пост годым айовлӓм аяш дӓ паян, шелӓн, ӱӓн качкышым качкаш ак ли. Лач Когечӹ толмыкы веле мӹшкӹр циц качкаш лин. Мам Ум анжыкта, тӹдӹ Когечӹн символжы лин: кырык марынвлӓн кечӹ форман сары таравлӓ, вес халыквлӓн лин кердеш Когечӹ ӓнгӹрвлӓ, Когечӹ тыл (сарта), ӹлӹмӓш: чиӓлтӹмӹ мынывлӓ, (рушынвлӓн куличвлӓ) вес халыквлӓн моренвлӓн, патявлӓ. Кырык марынвлӓ Когечӹ годым икӹжӓк-иктӹштылӓн чиӓлтӹмӹ мынывлӓм пӹрнялӓт дӓ мыным пумы годым Христос Ӹлӹжӹн! дӓ Лачокат Ӹлӹжӹн! манын попат.\nКогечӹ качкышвлӓ\n[тӧрлӓтӓш | кодым тӧрлӓш]\nКогечӹ мадышвлӓ\n[тӧрлӓтӓш | кодым тӧрлӓш]\nКогечӹ вес йӹлмӹвлӓ доно\n[тӧрлӓтӓш | кодым тӧрлӓш]\nКогечӹ сӹлнӹшаяшты\n[тӧрлӓтӓш | кодым тӧрлӓш]\n«https:\/\/mrj.wikipedia.org\/w\/index.php?title=Когечӹ&oldid=98818» гӹц нӓлмӹ\nКатегоривлӓ:\nЦеркӹ айовлӓ\nКогечӹ\nТи страницӓ остатка гӓнӓ 3 май 2021 кечӹн 13:14 цӓшӹн тӧрлӓлтӹн.\nТекстӹм Creative Commons Attribution-ShareAlike License лицензи доно кычылташ лиэш; ситӓртӹш условивлӓ кычылталт кердӹт. Раскыдырак информацим Terms of Use> кычылтмы условиштӹ анжы.","num_words":347,"character_repetition_ratio":0.093,"word_repetition_ratio":0.009,"special_characters_ratio":0.197,"stopwords_ratio":0.003,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":20303.8,"cluster_detection":-1}
|
24 |
+
{"text":"Тара (алыкмарла туара) — шапышы шӹшер гӹц ӹштӹмӹ пингӹдӹ массан качкыш. Пиш ӹжӓл, марла мӓ \"тара\" шамакым кымда значени доно ана кычылт, тидӹлӓн мӓ руш йӹлмӹ гӹц пырышы \"сыр\" шамакым кычылтына. Вес йӹлмӹвлӓштӹ \"тара\" шамак цилӓ йиш сырым анжыкта.\nИсторижӹ\n[тӧрлӓтӓш | кодым тӧрлӓш]\nТарам качкыш семӹнь, эдем киндӹ гыцӓт ирӹрӓк пӓлӓ. Тӹ тарам, кыдым марынвлӓ качкаш тыменьӹнӹт, камакашты куктӓт. Тӹ годымок таравлӓн куктӹмӹ технологиштӹ шукы йиш лин кердеш. Шамаклан, тара массым кужы жеп шӹнзӹктымӓшӓт таран куктымӹжы доно кӹлдӓлтеш. Пӹтӓриш проста агыл таравлӓм шӹшкӹлмӹ вольыквлӓн, шӹренжок патявлӓ дон презывлӓн мӹшкӹрвуштышты моныт. Шӹшкӹлмӹ паштек, мӹшкӹрвуштывлӓм коштенӹт дӓ тенге тотлы тотан таравлӓм качкыныт. Кӹзӹт таравлӓм йӓмдӹлӹмӓштӹ у технологивлӓм кычылтыт. Таравлӓн качкаш йӓмдӹ ылмы кондициштӹм шотыш нӓлӹн, нӹнӹ пышкыдеш дӓ пингӹде�� пайылалтыт. Тарам качмы годым, сагажы виноград гӹц ӹштӹмӹ кукшы якшар ӓрӓкӓм пуат.\nПышкыды йиш таравлӓ\n[тӧрлӓтӓш | кодым тӧрлӓш]\nПингыды йиш таравлӓ\n[тӧрлӓтӓш | кодым тӧрлӓш]\n«https:\/\/mrj.wikipedia.org\/w\/index.php?title=Тара&oldid=103935» гӹц нӓлмӹ\nКатегори:\nТара\nТи страницӓ остатка гӓнӓ 17 июнь 2023 кечӹн 02:57 цӓшӹн тӧрлӓлтӹн.\nТекстӹм Creative Commons Attribution-ShareAlike License лицензи доно кычылташ лиэш; ситӓртӹш условивлӓ кычылталт кердӹт. Раскыдырак информацим Terms of Use> кычылтмы условиштӹ анжы.","num_words":283,"character_repetition_ratio":0.066,"word_repetition_ratio":0.015,"special_characters_ratio":0.189,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":20232.1,"cluster_detection":-1}
|
25 |
+
{"text":"Ӓтяжӹм арестуймы дӓ тӹдӹн кокшы тетяжӹ доно кудыводыж 55 пуштыныт-ӹрвезӹвлӓ давао кӓнгӹжӹмСуры делӹ Давао Ян иктӹм веле Sinibak полици дӓ ӹштӓлт доно иквӓреш кӹлӹм вуйлатышы вӓрӹш тӹ кесон расследовани доно фактвлӓ ситӹлӓ манчестер 21 вӹзӹтӹнжӹ коленӹт-эргӹжӹ кӓнгӹжӹм дӓ безопасностьышты мэр сариая халажы. Данныйвлӓ семӹнь полици.\nполициш йӓвенӓ nakipagbarilan жертваем ма вара.\nкелесӹ арестуйымы\nпушташ Sinibak полици дӓ ӹштӓлт доно иквӓреш кӹлӹм вуйлатышы вӓрӹш тӹ кесон расследовани доно фактвлӓ ситӹлӓ манчестер 21 вӹзӹтӹнжӹ коленӹт-эргӹжӹ кӓнгӹжӹм дӓ безопасностьышты мэр сариая халажы. Данныйвлӓ семӹнь полици. полициш йӓвенӓ nakipagbarilan жертваем ма вара.","num_words":175,"character_repetition_ratio":0.061,"word_repetition_ratio":0.578,"special_characters_ratio":0.153,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":30458.5,"cluster_detection":-1}
|
26 |
+
{"text":"Ыжар шылдыран рок кӓдӹвлӓ (латинлӓ Chalcophaps) — кӓдӹ йишвлӓн йыхыш пырышы кечӹвӓлвел дӓ кечӹвӓл-ирвел Азиштӹ вӓшлиӓлтшӹ кӓдӹвлӓ. Цилӓжӹ 2 тӹрлӹ ыжар шылдыран рок кӓдӹ улы. Кытшы 24–26 см, нелӹцшӹ 100 г якте шоэш.","num_words":37,"character_repetition_ratio":0.117,"word_repetition_ratio":0.0,"special_characters_ratio":0.229,"stopwords_ratio":0.027,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":64370.3,"cluster_detection":-1}
|
27 |
+
{"text":"Финлянди (тенгеок Суоми) - Фенно-скандинавиштӹш сӓндӓлӹк. Ӹлӹзӹ шот: 5 400 000 нарӹ. вуйхалажы - Хельсинки.\nСУОМИН ИСТОРИЖӸ ГӸЦ КӸТӸКӸН\n1150-шы ивлӓ\nШведвлӓ Вадывел-ирвел Суомиш пӹтӓриш гӓнӓ хӹрестӹм намалшывлӓ семӹнь толыт. XIV-шы курымын ти мисси кымдаэмеш дӓ Хӓме дон Карйалаш хӹрестӹм намалмы корныш кокшы дӓ кымшы гӓнӓ лӓкмӹ. Тенге Швеци Суоми доно виктӓрӓш тӹнгӓлӹн дӓ изин-олен христиан религи]] дон вадывел Европыштыш институтвлӓм шӓрен. Швеци гӹц эдемвлӓ у мӱлӓндӹвлӓш ӹлӓш ванжаш тӹнгӓлӹнӹт.\n1542\nТуркун епископшы Микаэл Агрикола пӹтӓриш финн букварьым сирен. Тидӹ паштек Библи гӹц лаштыквлӓ дӓ У Согонь сӓрӹмӹ линӹт. Тидӹ финн литературный йӹлмӹлӓн негӹцӹм пиштӓш палшен. Агрикола палшымы доно Суомиштӹ религин реформацим эртӓрӹмӹ.\n1640\nТурку халашты Суомин пӹтӓриш университетшӹм пачмы, кок и эртӹмӹкӹ пӹтӓриш гӓнӓ Библим пецӓтлен лыкмы. Швециштӹ ылмы велдӹк финнвлӓ Европыштыш вырсывлӓштӹ участвуйышашлык ылыныт. Выжалымаш пӓшӓ Швеци дӓ Вадывел Европа доно кеен. Суоми шведӓнгӹн. Суоми Швеци гӹц айырлымыжы годым, сӓндӓлӹкӹн дворянвлӓжӹ, пасторвлӓжӹ дӓ буржуазижӹ шведлӓ вел�� попен, хресӓньвлӓ - финнлӓ.\n1809\nНаполеон дон кугижӓ Александр Икшӹ доно сирӹмӹ договор семӹнь Швед-руш вырсы паштек Суоми Кого Княжество статус доно Россий Империш ушымы лин. Автономиӓн ылмыжы велдӹк, Суоми административный, юридика, экономика дӓ тыменьмӓш положенижӹм цаткыдемден кердӹн. 1860-шы ивлӓ гӹц тӹнгӓлӹн, Суомин ӹшке парламентжӹ дӓ ӹшке оксажы ылын. 1870-шы ивлӓн индустриализаци тӹнгӓлӓлтӹн. 1862-шы ин 100 уштыш кытан Хельсинки- Хӓмеенлинна кӹртнигорны пачмы лин.\n1863\nЙӱвӓскӱлӓ халашты тымдышывлӓм йӓмдӹлӹшӹ пӹтӓриш семинари пачылтын. финн йӹлмӹм тымдымаш кымдан шӓрлен кеӓ, туан йӹлмӹлӓ шукы газет лӓктӓш тӹнгӓлӹн дӓ тидӹ финн культурылан у потенциалым погаш палшен. Тенге XIX-шӹ курым мычашышты яжон виӓнгшӹ литература дон кунстыш шомы. Культура ӹлӹмӓш пиш активно кен.\n1899\nФинн дӓ Европыштыш интеллигенци Руш Кугижӓ докы Суомин праважы верц шагал, протестӓн сирмӓшвлӓм сирен. Тӹнӓм рушангдымаш ( русификаци) политика шӓрлӓш тӹнгӓлӹн ылын, кыды Суомин автономи праважым чӹдемдӓш цацен. Финнвлӓ ӹшке халыкын культура, йӹлмӹ дӓ идентитетӹштӹ верц шагалыныт.\n1906\nРоссийӹштӹш революци паштек Суомиштӹ ик палатан парламентӹм ӹштӹмӹ. Айырымашвлӓштӹ цилӓн юкыштым пуэн кердӹнӹт, ӹдӹрӓмӓшвлӓлӓнӓт юкыштым пуаш дӓ айыраш правам пумы лин.\n1917\nСуомин Кого княжествӹн правительствыжы – сенат, 6 декабрьын сӓндӓлӹк ӹшкевуяжы виӓнгӓш тӹнгӓлмӹ гишӓн увертӓрен. Ленинӹн правительствыжы Суомим ӹшкевуя виӓнгшӹ сӓндӓлӹк семӹнь сек пӹтӓришӹ пӓлдӹртен. Тӹнӓмок руш революци Суомиштӓт шӓрлен кен. Ошывлӓ дон якшаргывлӓ лоштыш вӹрӹм йоктарымы граждан вырсы тел гач кен дӓ 1918-шӹ ин шошым немӹцвлӓн палшымы доно пӹтен. Сӹнгӹшеш ошывлӓ лӓктӹнӹт. Но ти вырсы гишӓн ӓшӹндӓрӹмӓшвлӓ ушемкымдемӹштӹ махань-шон катаклизмӹвлӓм эче шукы канден шалгенӹт. 1919-шӹ ин Суоми демократиӓн Республика лин.\n1939-1944\nРиббентроп дон Молотовын договор семӹнь Совет Ушем Кокшы Тӱнымбал вырсы жепӹн Суомим Балти сӓндӓлӹквлӓ семӹньок ӹшке интересӹн пӹсмӓнӹшкӹжӹ пырташ цацен. Ӹшкевуя виӓнгмӹжӹм ямдаш ӹнжӹ ли манын, Суомилӓн Совет Ушем ваштареш кок вырсышты кредӓлӓш вӓрештӹн. Вырсы паштек кого территорим кодымы лин. Тенге Карйалан мӱлӓндӹвлӓжӹ дӓ Выборг хала пумы линӹт. Кого репарацивлӓ сӓндӓлӹкӹм незеремденӹт, но тӹнӓмок вырсы паштекшӹ финн индустрилӓн яжо негӹцӹм пиштӓш палшенӹт.\n1955\nСуоми Йыдпел вел сӓндӓлӹквлӓн Согоньын дӓ Ушымы халыквлӓн членжӹ лин. Тидӹ финнвлӓлӓн халыквлӓлоштыш контактвлӓм кычаш палшен, выжалымаш, информаци доно вашталтылмаш, туризм дӓ финн студентвлӓн вес сӓндӓлӹквлӓштӹ тымень кердмӹштӹ кымдан шӓрлен кенӹт.\n1995\nСуоми Европа Унионын членжӹ лин.\n«https:\/\/mrj.wikipedia.org\/w\/index.php?title=Финлянди&oldid=96831» гӹц нӓлмӹ\nКатегоривлӓ:\nСӓндӓлӹквлӓ\nЕвропа сӓндӓлӹквлӓ\nТи страницӓ остатка гӓнӓ 3 июнь 2020 кечӹн 00:57 цӓшӹн тӧрлӓлтӹн.\nТекстӹм Creative Commons Attribution-ShareAlike License лицензи доно кычылташ лиэш; ситӓртӹш условивлӓ кычылталт кердӹт. Раскыдырак информацим Terms of Use> кычылтмы условиштӹ анжы.","num_words":778,"character_repetition_ratio":0.035,"word_repetition_ratio":0.0,"special_characters_ratio":0.182,"stopwords_ratio":0.009,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":24804.9,"cluster_detection":-1}
|
mrj_Cyrl/new_cc_000005_stas.jsonl
ADDED
@@ -0,0 +1,115 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
[
|
2 |
+
{
|
3 |
+
"avg": {
|
4 |
+
"num_words": 101.41984732824427,
|
5 |
+
"character_repetition_ratio": 0.0719083969465649,
|
6 |
+
"word_repetition_ratio": 0.0026374045801526714,
|
7 |
+
"special_characters_ratio": 0.11679770992366414,
|
8 |
+
"stopwords_ratio": 0.0035381679389312978,
|
9 |
+
"flagged_words_ratio": 0.0,
|
10 |
+
"lang_id_score": 1.0,
|
11 |
+
"perplexity_score": 27908.710687022896
|
12 |
+
}
|
13 |
+
},
|
14 |
+
{
|
15 |
+
"std": {
|
16 |
+
"num_words": 200.36255132258566,
|
17 |
+
"character_repetition_ratio": 0.05022840204744104,
|
18 |
+
"word_repetition_ratio": 0.03600511803287841,
|
19 |
+
"special_characters_ratio": 0.08135686814741304,
|
20 |
+
"stopwords_ratio": 0.010809791702135257,
|
21 |
+
"flagged_words_ratio": 0.0,
|
22 |
+
"lang_id_score": 0.0,
|
23 |
+
"perplexity_score": 31744.747147393486
|
24 |
+
}
|
25 |
+
},
|
26 |
+
{
|
27 |
+
"median": {
|
28 |
+
"num_words": 90.0,
|
29 |
+
"character_repetition_ratio": 0.109,
|
30 |
+
"word_repetition_ratio": 0.0,
|
31 |
+
"special_characters_ratio": 0.048,
|
32 |
+
"stopwords_ratio": 0.0,
|
33 |
+
"flagged_words_ratio": 0.0,
|
34 |
+
"lang_id_score": 1.0,
|
35 |
+
"perplexity_score": 4548.0
|
36 |
+
}
|
37 |
+
},
|
38 |
+
{
|
39 |
+
"max": {
|
40 |
+
"num_words": 2645.0,
|
41 |
+
"character_repetition_ratio": 0.176,
|
42 |
+
"word_repetition_ratio": 0.578,
|
43 |
+
"special_characters_ratio": 0.308,
|
44 |
+
"stopwords_ratio": 0.067,
|
45 |
+
"flagged_words_ratio": 0.0,
|
46 |
+
"lang_id_score": 1.0,
|
47 |
+
"perplexity_score": 149974.0
|
48 |
+
}
|
49 |
+
},
|
50 |
+
{
|
51 |
+
"min": {
|
52 |
+
"num_words": 18.0,
|
53 |
+
"character_repetition_ratio": 0.0,
|
54 |
+
"word_repetition_ratio": 0.0,
|
55 |
+
"special_characters_ratio": 0.048,
|
56 |
+
"stopwords_ratio": 0.0,
|
57 |
+
"flagged_words_ratio": 0.0,
|
58 |
+
"lang_id_score": 1.0,
|
59 |
+
"perplexity_score": 4548.0
|
60 |
+
}
|
61 |
+
},
|
62 |
+
{
|
63 |
+
"90%": {
|
64 |
+
"num_words": 90.0,
|
65 |
+
"character_repetition_ratio": 0.109,
|
66 |
+
"word_repetition_ratio": 0.0,
|
67 |
+
"special_characters_ratio": 0.22780000000000003,
|
68 |
+
"stopwords_ratio": 0.011,
|
69 |
+
"flagged_words_ratio": 0.0,
|
70 |
+
"lang_id_score": 1.0,
|
71 |
+
"perplexity_score": 77148.3
|
72 |
+
}
|
73 |
+
},
|
74 |
+
{
|
75 |
+
"75%": {
|
76 |
+
"num_words": 90.0,
|
77 |
+
"character_repetition_ratio": 0.109,
|
78 |
+
"word_repetition_ratio": 0.0,
|
79 |
+
"special_characters_ratio": 0.1955,
|
80 |
+
"stopwords_ratio": 0.0,
|
81 |
+
"flagged_words_ratio": 0.0,
|
82 |
+
"lang_id_score": 1.0,
|
83 |
+
"perplexity_score": 50826.725
|
84 |
+
}
|
85 |
+
},
|
86 |
+
{
|
87 |
+
"50%": {
|
88 |
+
"num_words": 90.0,
|
89 |
+
"character_repetition_ratio": 0.109,
|
90 |
+
"word_repetition_ratio": 0.0,
|
91 |
+
"special_characters_ratio": 0.048,
|
92 |
+
"stopwords_ratio": 0.0,
|
93 |
+
"flagged_words_ratio": 0.0,
|
94 |
+
"lang_id_score": 1.0,
|
95 |
+
"perplexity_score": 4548.0
|
96 |
+
}
|
97 |
+
},
|
98 |
+
{
|
99 |
+
"25%": {
|
100 |
+
"num_words": 36.0,
|
101 |
+
"character_repetition_ratio": 0.0,
|
102 |
+
"word_repetition_ratio": 0.0,
|
103 |
+
"special_characters_ratio": 0.048,
|
104 |
+
"stopwords_ratio": 0.0,
|
105 |
+
"flagged_words_ratio": 0.0,
|
106 |
+
"lang_id_score": 1.0,
|
107 |
+
"perplexity_score": 4548.0
|
108 |
+
}
|
109 |
+
},
|
110 |
+
{
|
111 |
+
"total size": "262",
|
112 |
+
"keep size": "235",
|
113 |
+
"remove size": "27"
|
114 |
+
}
|
115 |
+
]
|
mrj_Cyrl/new_cc_000006_keep.jsonl
ADDED
The diff for this file is too large to render.
See raw diff
|
|
mrj_Cyrl/new_cc_000006_remove.jsonl
ADDED
The diff for this file is too large to render.
See raw diff
|
|
mrj_Cyrl/new_cc_000006_stas.jsonl
ADDED
@@ -0,0 +1,115 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
[
|
2 |
+
{
|
3 |
+
"avg": {
|
4 |
+
"num_words": 162.24024024024024,
|
5 |
+
"character_repetition_ratio": 0.08236036036036036,
|
6 |
+
"word_repetition_ratio": 9.60960960960961e-05,
|
7 |
+
"special_characters_ratio": 0.09990690690690693,
|
8 |
+
"stopwords_ratio": 0.001933933933933934,
|
9 |
+
"flagged_words_ratio": 0.0,
|
10 |
+
"lang_id_score": 1.0,
|
11 |
+
"perplexity_score": 18129.360660660663
|
12 |
+
}
|
13 |
+
},
|
14 |
+
{
|
15 |
+
"std": {
|
16 |
+
"num_words": 539.42626840133,
|
17 |
+
"character_repetition_ratio": 0.0427478379326743,
|
18 |
+
"word_repetition_ratio": 0.0010147928751001994,
|
19 |
+
"special_characters_ratio": 0.07985294506264325,
|
20 |
+
"stopwords_ratio": 0.006700039564794335,
|
21 |
+
"flagged_words_ratio": 0.0,
|
22 |
+
"lang_id_score": 0.0,
|
23 |
+
"perplexity_score": 25901.876449153082
|
24 |
+
}
|
25 |
+
},
|
26 |
+
{
|
27 |
+
"median": {
|
28 |
+
"num_words": 90.0,
|
29 |
+
"character_repetition_ratio": 0.109,
|
30 |
+
"word_repetition_ratio": 0.0,
|
31 |
+
"special_characters_ratio": 0.048,
|
32 |
+
"stopwords_ratio": 0.0,
|
33 |
+
"flagged_words_ratio": 0.0,
|
34 |
+
"lang_id_score": 1.0,
|
35 |
+
"perplexity_score": 4548.0
|
36 |
+
}
|
37 |
+
},
|
38 |
+
{
|
39 |
+
"max": {
|
40 |
+
"num_words": 7844.0,
|
41 |
+
"character_repetition_ratio": 0.145,
|
42 |
+
"word_repetition_ratio": 0.016,
|
43 |
+
"special_characters_ratio": 0.391,
|
44 |
+
"stopwords_ratio": 0.07,
|
45 |
+
"flagged_words_ratio": 0.0,
|
46 |
+
"lang_id_score": 1.0,
|
47 |
+
"perplexity_score": 162869.4
|
48 |
+
}
|
49 |
+
},
|
50 |
+
{
|
51 |
+
"min": {
|
52 |
+
"num_words": 19.0,
|
53 |
+
"character_repetition_ratio": 0.0,
|
54 |
+
"word_repetition_ratio": 0.0,
|
55 |
+
"special_characters_ratio": 0.048,
|
56 |
+
"stopwords_ratio": 0.0,
|
57 |
+
"flagged_words_ratio": 0.0,
|
58 |
+
"lang_id_score": 1.0,
|
59 |
+
"perplexity_score": 1459.8
|
60 |
+
}
|
61 |
+
},
|
62 |
+
{
|
63 |
+
"90%": {
|
64 |
+
"num_words": 153.00000000000006,
|
65 |
+
"character_repetition_ratio": 0.109,
|
66 |
+
"word_repetition_ratio": 0.0,
|
67 |
+
"special_characters_ratio": 0.21380000000000002,
|
68 |
+
"stopwords_ratio": 0.006,
|
69 |
+
"flagged_words_ratio": 0.0,
|
70 |
+
"lang_id_score": 1.0,
|
71 |
+
"perplexity_score": 55001.88
|
72 |
+
}
|
73 |
+
},
|
74 |
+
{
|
75 |
+
"75%": {
|
76 |
+
"num_words": 90.0,
|
77 |
+
"character_repetition_ratio": 0.109,
|
78 |
+
"word_repetition_ratio": 0.0,
|
79 |
+
"special_characters_ratio": 0.179,
|
80 |
+
"stopwords_ratio": 0.0,
|
81 |
+
"flagged_words_ratio": 0.0,
|
82 |
+
"lang_id_score": 1.0,
|
83 |
+
"perplexity_score": 20231.0
|
84 |
+
}
|
85 |
+
},
|
86 |
+
{
|
87 |
+
"50%": {
|
88 |
+
"num_words": 90.0,
|
89 |
+
"character_repetition_ratio": 0.109,
|
90 |
+
"word_repetition_ratio": 0.0,
|
91 |
+
"special_characters_ratio": 0.048,
|
92 |
+
"stopwords_ratio": 0.0,
|
93 |
+
"flagged_words_ratio": 0.0,
|
94 |
+
"lang_id_score": 1.0,
|
95 |
+
"perplexity_score": 4548.0
|
96 |
+
}
|
97 |
+
},
|
98 |
+
{
|
99 |
+
"25%": {
|
100 |
+
"num_words": 90.0,
|
101 |
+
"character_repetition_ratio": 0.05,
|
102 |
+
"word_repetition_ratio": 0.0,
|
103 |
+
"special_characters_ratio": 0.048,
|
104 |
+
"stopwords_ratio": 0.0,
|
105 |
+
"flagged_words_ratio": 0.0,
|
106 |
+
"lang_id_score": 1.0,
|
107 |
+
"perplexity_score": 4548.0
|
108 |
+
}
|
109 |
+
},
|
110 |
+
{
|
111 |
+
"total size": "333",
|
112 |
+
"keep size": "291",
|
113 |
+
"remove size": "42"
|
114 |
+
}
|
115 |
+
]
|
nhe_Latn/fineweb-2_000001_remove.jsonl
ADDED
The diff for this file is too large to render.
See raw diff
|
|
nhe_Latn/fineweb-2_000001_stas.jsonl
ADDED
@@ -0,0 +1,115 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
[
|
2 |
+
{
|
3 |
+
"avg": {
|
4 |
+
"num_words": 420.38350910834134,
|
5 |
+
"character_repetition_ratio": 0.06168552253116012,
|
6 |
+
"word_repetition_ratio": 0.0,
|
7 |
+
"special_characters_ratio": 0.16109587727708533,
|
8 |
+
"stopwords_ratio": 0.3619942473633749,
|
9 |
+
"flagged_words_ratio": 0.0,
|
10 |
+
"lang_id_score": 0.9970575263662512,
|
11 |
+
"perplexity_score": 500.0
|
12 |
+
}
|
13 |
+
},
|
14 |
+
{
|
15 |
+
"std": {
|
16 |
+
"num_words": 325.580358871349,
|
17 |
+
"character_repetition_ratio": 0.021902224357856433,
|
18 |
+
"word_repetition_ratio": 0.0,
|
19 |
+
"special_characters_ratio": 0.009871679680022923,
|
20 |
+
"stopwords_ratio": 0.04977546868029886,
|
21 |
+
"flagged_words_ratio": 0.0,
|
22 |
+
"lang_id_score": 0.010868804851735327,
|
23 |
+
"perplexity_score": 0.0
|
24 |
+
}
|
25 |
+
},
|
26 |
+
{
|
27 |
+
"median": {
|
28 |
+
"num_words": 429.0,
|
29 |
+
"character_repetition_ratio": 0.062,
|
30 |
+
"word_repetition_ratio": 0.0,
|
31 |
+
"special_characters_ratio": 0.161,
|
32 |
+
"stopwords_ratio": 0.37,
|
33 |
+
"flagged_words_ratio": 0.0,
|
34 |
+
"lang_id_score": 1.0,
|
35 |
+
"perplexity_score": 500.0
|
36 |
+
}
|
37 |
+
},
|
38 |
+
{
|
39 |
+
"max": {
|
40 |
+
"num_words": 1628.0,
|
41 |
+
"character_repetition_ratio": 0.138,
|
42 |
+
"word_repetition_ratio": 0.0,
|
43 |
+
"special_characters_ratio": 0.196,
|
44 |
+
"stopwords_ratio": 0.534,
|
45 |
+
"flagged_words_ratio": 0.0,
|
46 |
+
"lang_id_score": 1.0,
|
47 |
+
"perplexity_score": 500.0
|
48 |
+
}
|
49 |
+
},
|
50 |
+
{
|
51 |
+
"min": {
|
52 |
+
"num_words": 47.0,
|
53 |
+
"character_repetition_ratio": 0.0,
|
54 |
+
"word_repetition_ratio": 0.0,
|
55 |
+
"special_characters_ratio": 0.137,
|
56 |
+
"stopwords_ratio": 0.146,
|
57 |
+
"flagged_words_ratio": 0.0,
|
58 |
+
"lang_id_score": 0.799,
|
59 |
+
"perplexity_score": 500.0
|
60 |
+
}
|
61 |
+
},
|
62 |
+
{
|
63 |
+
"90%": {
|
64 |
+
"num_words": 851.0,
|
65 |
+
"character_repetition_ratio": 0.089,
|
66 |
+
"word_repetition_ratio": 0.0,
|
67 |
+
"special_characters_ratio": 0.174,
|
68 |
+
"stopwords_ratio": 0.412,
|
69 |
+
"flagged_words_ratio": 0.0,
|
70 |
+
"lang_id_score": 1.0,
|
71 |
+
"perplexity_score": 500.0
|
72 |
+
}
|
73 |
+
},
|
74 |
+
{
|
75 |
+
"75%": {
|
76 |
+
"num_words": 640.5,
|
77 |
+
"character_repetition_ratio": 0.074,
|
78 |
+
"word_repetition_ratio": 0.0,
|
79 |
+
"special_characters_ratio": 0.168,
|
80 |
+
"stopwords_ratio": 0.394,
|
81 |
+
"flagged_words_ratio": 0.0,
|
82 |
+
"lang_id_score": 1.0,
|
83 |
+
"perplexity_score": 500.0
|
84 |
+
}
|
85 |
+
},
|
86 |
+
{
|
87 |
+
"50%": {
|
88 |
+
"num_words": 429.0,
|
89 |
+
"character_repetition_ratio": 0.062,
|
90 |
+
"word_repetition_ratio": 0.0,
|
91 |
+
"special_characters_ratio": 0.161,
|
92 |
+
"stopwords_ratio": 0.37,
|
93 |
+
"flagged_words_ratio": 0.0,
|
94 |
+
"lang_id_score": 1.0,
|
95 |
+
"perplexity_score": 500.0
|
96 |
+
}
|
97 |
+
},
|
98 |
+
{
|
99 |
+
"25%": {
|
100 |
+
"num_words": 66.0,
|
101 |
+
"character_repetition_ratio": 0.052,
|
102 |
+
"word_repetition_ratio": 0.0,
|
103 |
+
"special_characters_ratio": 0.154,
|
104 |
+
"stopwords_ratio": 0.3415,
|
105 |
+
"flagged_words_ratio": 0.0,
|
106 |
+
"lang_id_score": 0.998,
|
107 |
+
"perplexity_score": 500.0
|
108 |
+
}
|
109 |
+
},
|
110 |
+
{
|
111 |
+
"total size": "1043",
|
112 |
+
"keep size": "920",
|
113 |
+
"remove size": "123"
|
114 |
+
}
|
115 |
+
]
|
nhe_Latn/mala_000002_keep.jsonl
ADDED
The diff for this file is too large to render.
See raw diff
|
|
nhe_Latn/mala_000002_remove.jsonl
ADDED
The diff for this file is too large to render.
See raw diff
|
|
nhe_Latn/mala_000002_stas.jsonl
ADDED
@@ -0,0 +1,115 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
[
|
2 |
+
{
|
3 |
+
"avg": {
|
4 |
+
"num_words": 701.5451877934272,
|
5 |
+
"character_repetition_ratio": 0.07488028169014085,
|
6 |
+
"word_repetition_ratio": 0.002250586854460094,
|
7 |
+
"special_characters_ratio": 0.1568421361502347,
|
8 |
+
"stopwords_ratio": 0.29749471830985913,
|
9 |
+
"flagged_words_ratio": 0.0,
|
10 |
+
"lang_id_score": 0.9979424882629109,
|
11 |
+
"perplexity_score": 500.0
|
12 |
+
}
|
13 |
+
},
|
14 |
+
{
|
15 |
+
"std": {
|
16 |
+
"num_words": 551.9768679453839,
|
17 |
+
"character_repetition_ratio": 0.023674528931077892,
|
18 |
+
"word_repetition_ratio": 0.010195852034853915,
|
19 |
+
"special_characters_ratio": 0.008755633150651478,
|
20 |
+
"stopwords_ratio": 0.06798073443111578,
|
21 |
+
"flagged_words_ratio": 0.0,
|
22 |
+
"lang_id_score": 0.009223374440088012,
|
23 |
+
"perplexity_score": 0.0
|
24 |
+
}
|
25 |
+
},
|
26 |
+
{
|
27 |
+
"median": {
|
28 |
+
"num_words": 630.0,
|
29 |
+
"character_repetition_ratio": 0.069,
|
30 |
+
"word_repetition_ratio": 0.0,
|
31 |
+
"special_characters_ratio": 0.156,
|
32 |
+
"stopwords_ratio": 0.2955,
|
33 |
+
"flagged_words_ratio": 0.0,
|
34 |
+
"lang_id_score": 1.0,
|
35 |
+
"perplexity_score": 500.0
|
36 |
+
}
|
37 |
+
},
|
38 |
+
{
|
39 |
+
"max": {
|
40 |
+
"num_words": 15584.0,
|
41 |
+
"character_repetition_ratio": 0.197,
|
42 |
+
"word_repetition_ratio": 0.204,
|
43 |
+
"special_characters_ratio": 0.209,
|
44 |
+
"stopwords_ratio": 0.455,
|
45 |
+
"flagged_words_ratio": 0.0,
|
46 |
+
"lang_id_score": 1.0,
|
47 |
+
"perplexity_score": 500.0
|
48 |
+
}
|
49 |
+
},
|
50 |
+
{
|
51 |
+
"min": {
|
52 |
+
"num_words": 79.0,
|
53 |
+
"character_repetition_ratio": 0.01,
|
54 |
+
"word_repetition_ratio": 0.0,
|
55 |
+
"special_characters_ratio": 0.135,
|
56 |
+
"stopwords_ratio": 0.013,
|
57 |
+
"flagged_words_ratio": 0.0,
|
58 |
+
"lang_id_score": 0.718,
|
59 |
+
"perplexity_score": 500.0
|
60 |
+
}
|
61 |
+
},
|
62 |
+
{
|
63 |
+
"90%": {
|
64 |
+
"num_words": 1037.0,
|
65 |
+
"character_repetition_ratio": 0.107,
|
66 |
+
"word_repetition_ratio": 0.004,
|
67 |
+
"special_characters_ratio": 0.167,
|
68 |
+
"stopwords_ratio": 0.381,
|
69 |
+
"flagged_words_ratio": 0.0,
|
70 |
+
"lang_id_score": 1.0,
|
71 |
+
"perplexity_score": 500.0
|
72 |
+
}
|
73 |
+
},
|
74 |
+
{
|
75 |
+
"75%": {
|
76 |
+
"num_words": 830.25,
|
77 |
+
"character_repetition_ratio": 0.083,
|
78 |
+
"word_repetition_ratio": 0.0,
|
79 |
+
"special_characters_ratio": 0.162,
|
80 |
+
"stopwords_ratio": 0.347,
|
81 |
+
"flagged_words_ratio": 0.0,
|
82 |
+
"lang_id_score": 1.0,
|
83 |
+
"perplexity_score": 500.0
|
84 |
+
}
|
85 |
+
},
|
86 |
+
{
|
87 |
+
"50%": {
|
88 |
+
"num_words": 630.0,
|
89 |
+
"character_repetition_ratio": 0.069,
|
90 |
+
"word_repetition_ratio": 0.0,
|
91 |
+
"special_characters_ratio": 0.156,
|
92 |
+
"stopwords_ratio": 0.2955,
|
93 |
+
"flagged_words_ratio": 0.0,
|
94 |
+
"lang_id_score": 1.0,
|
95 |
+
"perplexity_score": 500.0
|
96 |
+
}
|
97 |
+
},
|
98 |
+
{
|
99 |
+
"25%": {
|
100 |
+
"num_words": 485.0,
|
101 |
+
"character_repetition_ratio": 0.05975,
|
102 |
+
"word_repetition_ratio": 0.0,
|
103 |
+
"special_characters_ratio": 0.151,
|
104 |
+
"stopwords_ratio": 0.262,
|
105 |
+
"flagged_words_ratio": 0.0,
|
106 |
+
"lang_id_score": 0.999,
|
107 |
+
"perplexity_score": 500.0
|
108 |
+
}
|
109 |
+
},
|
110 |
+
{
|
111 |
+
"total size": "1704",
|
112 |
+
"keep size": "1569",
|
113 |
+
"remove size": "135"
|
114 |
+
}
|
115 |
+
]
|
njy_Latn/mala_000001_keep.jsonl
ADDED
@@ -0,0 +1 @@
|
|
|
|
|
1 |
+
{"url":"","collection":"silbloomlm","source":"BLOOM Library","original_code":"njy","text":"Sá bɨn jálá ne lejwɛh dumo ne kolóna ne sóm w Lekwaa lé kolóna ne sóm wé, dí ɨ́ lejɛ́baa ntâʼ kosóm-19, yé é, sóm jwɔ̂n. Wé atala nyɨ̂n é ɨ́ si bipum bédi ɨ lejêh besinwâ ɨ́ mbû betɔ́ɔ́sin bebá ne kam ne ɨbǔl, ɨ́ ngɔn mesio mé mbǔ wáá lelú lé mésio. Béndem be tyɛ̂ mâ pʉná ne maá mé kœ́hœ́ mpyêb, lé sáá jʉ̂ mʉ̂r jɔɔ lé di ɨ sɨ bwɔʼ yɨ. Lɨ́ sɨ́ sɨ jamda í nsugo bipéh bí sɨ́ nyɔ̂ ɨnyɛ̂h. Sʉ́m lékwaa laá lé ajwiho yɨ, yé apǎ jwɛgaa.\nPʉ́ra lémpǒm: mʉr di ɨ si jwim nyɔ́.Pʉ́ra mbá: mʉr di mbél lyém nyɔ́.Minjʉ̌m me lékwaa\n\nBʉr bé dɨ ɨ́ lekwɛ̂h lenuwɔ lékwaa laá bá, bé é tááro ɨ́ bikéé to kumo ɨ minjʉ̌m bé ê nkul lenuwo sóm jwɔ̂n wáá.\nMinjʉ̌m ne bʉr be dí ne mekwaa mé á boobe má(mpʉ lekwaa lé kœhœ mpyêb, mpʉ lekwaa lé mesœh, mekwaa mé lyêm, lekwaa lé lyêm mʉ̂r di é puro mpâl lɨ́) bé é bé dí e buú kwɛ̂h lebwɨ lekwaa le sóm waá.\nPʉra lémpǒm\nLejyoo letyɛʼ le nyʉ̌lPʉra mbá\nKœhœ abe ne lentɔm mekwaa me nyʉ̂lMendem me lekwaa laá\nMendem me lekwaa lé kolóna sóm mé mâ pwɨnaá ne mendem mé lekwaa lé kœhœ mpyêb: lejyóo, kœhœ abe ne lentɔm, lekwaa le nyʉ̂l nyɨnyɛ̂h, metyɛʼ me nyʉ̂l. Mʉ́ʉ́ mimbêl mé ɨ́ lejwôʼ mekwaa me nyʉ̂l, miku mi dʉ́ ɨ́ lekwɛ̂l diblɨ́ akǎ swôh mbɨmbɨya, dʉ́ ɨ́ leswol nkʉ̂nsele, ngolo-ngolo ɨ́ lekwaa, nkʉ́ nkumlo bʉ̂r, bé mʉ̂ ne lekwaa bá, mendem me nɨ̌ mé abe ɨ́ lemɛ̂r bé, be ma jwɨʼ é bé é mpœʼœ. Bʉ́ʉ́ bʉ̂r ɨ́ sɔmá bʉ̂r báá bé ma cigo ó abe ne ngúma dʉ̂m.\nPʉ́ra ʉr di ɨ́ lekœ̂h nyɔ́Lenwɔɔla lé kolóna\n\nLenuwala le kolóna ne sóm wé nkʉ kosóm-19 yɨ ma nuwola á ne bʉr bé di ne sóm tyɛ̂ʼ bá. Jɔɔ mbél tyɛ̂ dí ɨ́ kœ̂h ne letœœ yi, bwɔ métó mé métyêl mé é ɨ́ lepwɔ̂l nyé ɨ́ dʉ̂ ne num. \nMetó mé metyêl máá mé é ni gó ɨ́ dʉ ne num wá, go ntâʼ nuwɔ lekwaa lé kolóna ne sóm wé.Sâ gwɔ́r é, mʉ̂r é kʉ́na ne sá di ne metó né metyêl maá maá wá, ntâʼ kúna ne mbó tyɛ̂ ɨ́ mîh, dʉ̂, ne num wá nye é bɛ̂m nuwɔ́ lékwaá láá.\nMɨná síŋá kɨ́ŋ lékwaa lé kolóna ne sóm wé nyá ɛ̂?1. Pʉra lempom: akúna ne mîh, ne dʉ̂, ne num.\n2. Pʉra mbá: léjwɨɨ le membô ne sɔbô ɨ́ medibo mé dí legʉ̂ má. Mpie tyɛ̂ ntâʼ tin membô ne tawala dí swohla yí.\n3. Pʉra lɛ̂l: go kœ̂h ne tœœ é ɨ́ niʼɨ̌ mbó gô.4. Pʉra nâ: ade tír bɨ̂h ne lekúna ne betír bé dí ɨ́ lekubla bá.\n5. Pʉra tɛ̂n: tyɛ̂b ɨ́ ncɛrǎ tyé mɛ́ra ngwɔ́r ɨ́ mʉr di lekœ̂h nkʉ̂ ɨ́ letœœ nyɔ́.\n6. Pʉra saman: kɨ́ŋ leswo mʉ̂r ne mbô. Swoh mʉ̂r ne mɨʼɨ̌ lʉ̂ nkʉ́ ne num.\n7. Pʉra nsaamgba: bʉr adi mentumo mentumo.8. Pʉra mwom: akǎ buú kœ̂ʼ.9. Pʉra ɨbǔl: wá jwɛ̂ʼ lejwoʼlo milɔɔ́ ne mempáŋlo ne le wá pahlo súm mílɔɔ ne mempáŋlo máá di ɨ́ lejwiho yɨ́.","num_words":520,"character_repetition_ratio":0.066,"word_repetition_ratio":0.0,"special_characters_ratio":0.254,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.592,"perplexity_score":500.0,"cluster_detection":1}
|
njy_Latn/mala_000001_remove.jsonl
ADDED
File without changes
|
njy_Latn/mala_000001_stas.jsonl
ADDED
@@ -0,0 +1,115 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
[
|
2 |
+
{
|
3 |
+
"avg": {
|
4 |
+
"num_words": 520.0,
|
5 |
+
"character_repetition_ratio": 0.066,
|
6 |
+
"word_repetition_ratio": 0.0,
|
7 |
+
"special_characters_ratio": 0.254,
|
8 |
+
"stopwords_ratio": 0.0,
|
9 |
+
"flagged_words_ratio": 0.0,
|
10 |
+
"lang_id_score": 0.592,
|
11 |
+
"perplexity_score": 500.0
|
12 |
+
}
|
13 |
+
},
|
14 |
+
{
|
15 |
+
"std": {
|
16 |
+
"num_words": 0.0,
|
17 |
+
"character_repetition_ratio": 0.0,
|
18 |
+
"word_repetition_ratio": 0.0,
|
19 |
+
"special_characters_ratio": 0.0,
|
20 |
+
"stopwords_ratio": 0.0,
|
21 |
+
"flagged_words_ratio": 0.0,
|
22 |
+
"lang_id_score": 0.0,
|
23 |
+
"perplexity_score": 0.0
|
24 |
+
}
|
25 |
+
},
|
26 |
+
{
|
27 |
+
"median": {
|
28 |
+
"num_words": 520.0,
|
29 |
+
"character_repetition_ratio": 0.066,
|
30 |
+
"word_repetition_ratio": 0.0,
|
31 |
+
"special_characters_ratio": 0.254,
|
32 |
+
"stopwords_ratio": 0.0,
|
33 |
+
"flagged_words_ratio": 0.0,
|
34 |
+
"lang_id_score": 0.592,
|
35 |
+
"perplexity_score": 500.0
|
36 |
+
}
|
37 |
+
},
|
38 |
+
{
|
39 |
+
"max": {
|
40 |
+
"num_words": 520.0,
|
41 |
+
"character_repetition_ratio": 0.066,
|
42 |
+
"word_repetition_ratio": 0.0,
|
43 |
+
"special_characters_ratio": 0.254,
|
44 |
+
"stopwords_ratio": 0.0,
|
45 |
+
"flagged_words_ratio": 0.0,
|
46 |
+
"lang_id_score": 0.592,
|
47 |
+
"perplexity_score": 500.0
|
48 |
+
}
|
49 |
+
},
|
50 |
+
{
|
51 |
+
"min": {
|
52 |
+
"num_words": 520.0,
|
53 |
+
"character_repetition_ratio": 0.066,
|
54 |
+
"word_repetition_ratio": 0.0,
|
55 |
+
"special_characters_ratio": 0.254,
|
56 |
+
"stopwords_ratio": 0.0,
|
57 |
+
"flagged_words_ratio": 0.0,
|
58 |
+
"lang_id_score": 0.592,
|
59 |
+
"perplexity_score": 500.0
|
60 |
+
}
|
61 |
+
},
|
62 |
+
{
|
63 |
+
"90%": {
|
64 |
+
"num_words": 520.0,
|
65 |
+
"character_repetition_ratio": 0.066,
|
66 |
+
"word_repetition_ratio": 0.0,
|
67 |
+
"special_characters_ratio": 0.254,
|
68 |
+
"stopwords_ratio": 0.0,
|
69 |
+
"flagged_words_ratio": 0.0,
|
70 |
+
"lang_id_score": 0.592,
|
71 |
+
"perplexity_score": 500.0
|
72 |
+
}
|
73 |
+
},
|
74 |
+
{
|
75 |
+
"75%": {
|
76 |
+
"num_words": 520.0,
|
77 |
+
"character_repetition_ratio": 0.066,
|
78 |
+
"word_repetition_ratio": 0.0,
|
79 |
+
"special_characters_ratio": 0.254,
|
80 |
+
"stopwords_ratio": 0.0,
|
81 |
+
"flagged_words_ratio": 0.0,
|
82 |
+
"lang_id_score": 0.592,
|
83 |
+
"perplexity_score": 500.0
|
84 |
+
}
|
85 |
+
},
|
86 |
+
{
|
87 |
+
"50%": {
|
88 |
+
"num_words": 520.0,
|
89 |
+
"character_repetition_ratio": 0.066,
|
90 |
+
"word_repetition_ratio": 0.0,
|
91 |
+
"special_characters_ratio": 0.254,
|
92 |
+
"stopwords_ratio": 0.0,
|
93 |
+
"flagged_words_ratio": 0.0,
|
94 |
+
"lang_id_score": 0.592,
|
95 |
+
"perplexity_score": 500.0
|
96 |
+
}
|
97 |
+
},
|
98 |
+
{
|
99 |
+
"25%": {
|
100 |
+
"num_words": 520.0,
|
101 |
+
"character_repetition_ratio": 0.066,
|
102 |
+
"word_repetition_ratio": 0.0,
|
103 |
+
"special_characters_ratio": 0.254,
|
104 |
+
"stopwords_ratio": 0.0,
|
105 |
+
"flagged_words_ratio": 0.0,
|
106 |
+
"lang_id_score": 0.592,
|
107 |
+
"perplexity_score": 500.0
|
108 |
+
}
|
109 |
+
},
|
110 |
+
{
|
111 |
+
"total size": "1",
|
112 |
+
"keep size": "1",
|
113 |
+
"remove size": "0"
|
114 |
+
}
|
115 |
+
]
|