|
--- |
|
license: cc-by-nc-sa-4.0 |
|
task_categories: |
|
- text-generation |
|
- feature-extraction |
|
language: |
|
- zh |
|
--- |
|
<details> |
|
<summary>台灣文摘句資料集</summary> |
|
|
|
## 概述 |
|
|
|
Taiwan-Text-Excellence 句子資料集是從較大的 [liswei/Taiwan-Text-Excellence-2B](https://huggingface.co/datasets/liswei/Taiwan-Text-Excellence-2B) 資料集中抽取的 200 萬個獨特中文句子的綜合集。這些句子是隨機選取的，並使用 [chinese-sentence-processor](https://github.com/agentlans/chinese-sentence-processor) 工具進行分割。此資料集非常適合各種自然語言處理任務，包括語言建模、文本生成和其他研究用途。 |
|
|
|
## 資料集統計 |
|
|
|
- **總句數：** 2,000,000 |
|
- **訓練集：** 1,600,000 個句子 |
|
- **測試集：** 400,000 個句子 |
|
|
|
## 資料格式 |
|
|
|
資料集中的每一行都包含一個欄位： |
|
|
|
- **`text`**：包含中文句子的字串。 |
|
|
|
### 範例 |
|
|
|
```json |
|
{"text": "而新郎和女方家人的脂燭在當晚亦會合二為一，再送到母屋帳前點燃一個燈籠，保持三日不滅。"} |
|
{"text": "這個時期簽署的現代劇至今仍是台灣戲劇的中堅力量，而這十年為之奮鬥也奠定了其後數十年的基礎。"} |
|
{"text": "曾柏瑜今天也車票，明天還請在規劃畫相關票活動中。"} |
|
{"text": "蒸汽穿透空氣孔發生，並且已經被認識到與空氣孔開啟相關的必要“成本”，以允許空氣中的二氧化碳氣體擴散進行光合作用。"} |
|
{"text": "個人生活。1896年，切斯伯在康韋和梅貝爾·蘇訂沃斯結婚，退休後就在康韋經營農場、養家畜。"} |
|
``` |
|
|
|
## 許可資訊 |
|
|
|
資料來源來自 [liswei/Taiwan-Text-Excellence-2B](https://huggingface.co/datasets/liswei/Taiwan-Text-Excellence-2B)，並遵循 Creative Commons Attribution Non Commercial Share Alike 4.0 授權條款。因此，該資料集也受到相同許可證的約束與限制，存取需同意相關許可條款。 |
|
</details> |
|
|
|
<details> |
|
<summary>Taiwan-Text-Excellence Sentences Dataset</summary> |
|
|
|
## Overview |
|
|
|
The Taiwan-Text-Excellence Sentences dataset is a comprehensive collection of 2 million unique Chinese sentences derived from the larger [liswei/Taiwan-Text-Excellence-2B](https://huggingface.co/datasets/liswei/Taiwan-Text-Excellence-2B) dataset. These sentences were extracted randomly and segmented using the [chinese-sentence-processor](https://github.com/agentlans/chinese-sentence-processor) tool. This dataset is well-suited for various natural language processing tasks, including language modeling, text generation, and other research purposes. |
|
|
|
## Dataset Statistics |
|
|
|
- **Total Sentences:** 2,000,000 |
|
- **Train Split:** 1,600,000 sentences |
|
- **Test Split:** 400,000 sentences |
|
|
|
## Data Format |
|
|
|
Each row in the dataset contains a single field: |
|
|
|
- **`text`**: A string containing a Chinese sentence. |
|
|
|
### Example Rows |
|
|
|
```json |
|
{"text": "而新郎和女方家人的脂燭在當晚亦會合二為一，再送到母屋帳前點燃一個燈籠，保持三日不滅。"} |
|
{"text": "這個時期許多成立的現代劇團至今仍是臺灣戲劇的中堅力量，而這十年的努力也奠定了其後數十年的基礎。"} |
|
{"text": "曾柏瑜今天也車掃謝票，明天也還在規畫相關謝票活動中。"} |
|
{"text": "蒸騰透過氣孔發生，並且可以被認為是與氣孔開啟相關的必要“成本”，以允許空氣中的二氧化碳氣體擴散進行光合作用。"} |
|
{"text": "個人生活.1896年，切斯伯在康韋和梅貝爾·蘇託沃斯結婚，退休後就在康韋經營農場、飼養家畜。"} |
|
``` |
|
|
|
## Licensing Information |
|
|
|
The source data is from [liswei/Taiwan-Text-Excellence-2B](https://huggingface.co/datasets/liswei/Taiwan-Text-Excellence-2B), which is licensed under the Creative Commons Attribution Non Commercial Share Alike 4.0 license. |
|
Therefore, this dataset is also gated and covered by the same license. Access requires agreement to the terms of the license. |
|
</details> |
