Datasets:

Process-Venue
/

Language_Indentification_v2

Headline stringlengths 1 9.44k ⌀	Language stringclasses 18 values
ବ୍ୟାଙ୍କ୍‌ ପୁନର୍ପୁଞ୍ଜିକରଣରେ ଭାଗ ନେଇପାରେ ଭାରତୀୟ ଜୀବନ ବୀମା ନିଗମ	Odia
सरकारले केही गरी ल्याउन सकेन चिनी	Nepali
फ्लैट पर बुलाता था कोच, मेडल व सरकारी नौकरी का झांसा देकर किया रेप: राजस्थान में महिला शूटर्स	Hindi
अशे स्थितींत घट्ट हातांनी आनी चुकीच्या पद्दतीन कातीचेर चणाचें पिठ वापरप टाळचें.	Konkani
انگريزيءَ ۾ ڇو ڳالهايان ۽ جي هُن گهر ۾ سنڌي نه سکي ته پوءِ هُو ڪٿان سنڌي سکندو؟	Sindhi
वित्त व्यवस्थापन ऐनलाई समसामयिक बनाउन संशोधनको प्रक्रिया अघि बढिसक्यो : प्रधानमन्त्री (पूर्णपाठ)	Nepali
ਅਸੀਂ ਇੰਦੌਰ ਦੇ ਡੀਆਈਜੀ ਹਰੀਨਾਰਾਇਣ ਚਾਰੀ ਮਿਸ਼ਰਾ ਨਾਲ ਸੰਪਰਕ ਕੀਤਾ।	Punjabi
परिणीति ने कहा था 'मुझे हीरोइन न समझें', शादी में चप्पल पहनना चाहती थीं: वेडिंग स्टाइलिस्ट	Hindi
चुनाव प्रचार के लिए निकले एमपी के मंत्री का युवक ने चबाया अंगूठा, पट्टी बांधे दिखे नेता	Hindi
सर्वाधिक मोबाइल डाउनलोड स्पीड वाले देशों की सूची हुई जारी	Hindi
"नेमान अशें केल्यार कुडीची उश्णताय शांत करपाक, उर्जा वाडोवपाक, मेरुरज्जू घट करपाक आनी स्नायू घट करपाक मदत जाता."	Konkani
कन्दरोदरसंस्थानां पीडितानां महौजसाम्। सिंहानां निनदो भीमो नभो भिन्दन् हि शुश्रुवे॥ त्रस्तव्याविद्धवसना व्याकुलीकृतभूषणाः। विद्याधर्यः समुत्पेतुः सहसा धरणीधरात्॥	Sanskrit
अलम्बुषा मिश्रकेशी पुण्डरीकाथ वामना। उपानृत्यन्त भरतं भरद्वाजस्य शासनात्॥	Sanskrit
ਹਾਂਅ ਇਕ ਡੂੰਘੀ ਜਿਹੀ ਆਵਾਜ਼ ਜੀਤੋ ਦੇ ਗਲੇ ਚੋਂ ਨਿਕਲੀ।	Punjabi
واهن، شاخن ۽ درياهه جا بند مضبوط ڇو نه ڪيا ويا؟	Sindhi
మళ్లీ మొదలవుతుంది	Telugu
स विनिर्जित्य राज्ञस्तान् करे च विनिवेश्य तु। धनान्यादाय सर्वेभ्यो रत्नानि विविधानि च॥	Sanskrit
आम्दानी घटेसँगै युनिलिभर नेपालको खुद नाफा गत वर्षको भन्दा १५ प्रतिशतले घट्यो	Nepali
Trump says his administration committed to Japan's security	English
ਦਿੱਲੀ ਦੇ ਨਿਜ਼ਾਮੁੱਦੀਨ ਇਲਾਕੇ ਵਿੱਚ ਤਬਲੀਗ਼ੀ ਜਮਾਤ ਦੇ ਸਮਾਗਮ ਚ ਸ਼ਾਮਲ ਹੋਣ ਤੋਂ ਬਾਅਦ ਬਾਹਰ ਨਿਕਲਦੇ ਲੋਕ	Punjabi
ایسا کیا ہوا کہ امریکی چینل کو پرینکا سے مانگنی پڑی معافی؟	Urdu
बीजेप कांग्रेस अकाल आक्रामक केजरीवाल अवसरवादि करार दे रह आम आदम पार्ट दाव वो किसान के दिन खड़ क़ानून लोकसभ राज्य सभ पास	Hindi
முன்னணி நாயகர்களுடன் நடித்து வந்த ஹன்சிகா, சமீபத்தில் சாம் ஆண்டன் இயக்கத்தில் அதர்வா நடிக்கும் படத்தில் ஒப்பந்தமானார். அதனைத் தொடர்ந்து 'காட்டேரி'யிலும் ஒப்பந்தமாகவிருப்பது குறிப்பிடத்தக்கது.	Tamil
جي تباهي، انگن اکرن سان پيش ڪري ۽ ذميواري جي نشاندهي ڪري؟	Sindhi
ਜਿਹੜੇ ਲੋਕੀ ਟੁੱਰ ਪੈਂਦੇ ਨੇ ਭੁੱਖ ਦਾ ਦੀਵਾ ਬਾਲ ।	Punjabi
कर्णालीमा जलविद्युत्को अधिक सम्भावना, तर आयोजना ‘होल्ड’	Nepali
ਸੰਤੋਖ ਭੁੱਲਰ ਇਕ ਅਤਿਗੰਭੀਰ ਅਤੇ ਸੰਜੀਦਾ ਸ਼ਾਇਰ ਹੈ। ਉਸ ਦੇ ਪਲੇਠੇ ਗ਼ਜ਼ਲ ਸੰਗ੍ਰਹਿ ਦਾ ਸਵਾਗਤ ਹੈ।	Punjabi
"केळीच्या कांडांत व्हिटॅमिन बी-६ आनी पोटॅशियम सारकिले पोशक तत्व मेळटात, जे रगतदाब नियंत्रीत करपाक आदार करतात."	Konkani
एवं गृहीतेन कथं नु नाम शक्यं मया संप्रति कर्तुमद्य। तथा करिष्यामि यथा हरीणां भविष्यतीष्टं च हितं च कार्यम्॥	Sanskrit
ଡଲାର ଦାମ୍ ୭୦ ଟଙ୍କାରୁ କମ୍‌	Odia
اس طرح اس نے ہندوستانی کی ترقی میں اہم کردار ادا کیا	Urdu
ਤੁਸੀ ਰਿਕਾਰਡ ਗੀਤਾਂ ਦੀ ਤਰਜ਼ਾਂ ਦੇ ਜਿ਼ਆਦਾ ਕੰਮ ਕਿਉਂ ਕਰ ਰਹੋ ਹੋ	Punjabi
معروف اداکارہ سادھنا کی آخری رسومات میں بالی ووڈ کا ہجوم	Urdu
ভাগাড় কাণ্ডের পর আবার কুকুর পাচার! বর্ধমানে গাড়ি ঘিরে রহস্য	Bengali
، رادُک تھزر فرشس چھُ کٕن ، عرشس چھُ	Kashmiri
प्रहरीद्वारा ९२ बोरा चिनी बरामद	Nepali
"पोशणशास्त्रज्ञ अंजली मुखर्जी हांच्या मतान सुकी कातीच्या समस्यांतल्यान सुटका मेळोवपा खातीर कांय सैमीक वस्तू वापरूं येतात, जीं कातीक हायड्रेट करतात."	Konkani
इसमें शामिल व्यक्ति के खिलाफ होगी सख्त कार्रवाई: रिश्वत के आरोपों पर सीबीएफसी	Hindi
वर्ल्ड कप सेमीफ़ाइनल: भारत को न्यूज़ीलैंड से ख़तरा क्यों है?	Hindi
हाका लागून तुमच्या तोंडार सुरकुती येतात आनी कातीचें लुकसाण जावंक शकता.	Konkani
बजेटबाट घायल बैंकहरुलाई राष्ट्र बैंकको मल्हम, जारी गर्यो नयाँ परिपत्र	Nepali
"जमुन व्हिनेगरांत गॅलिक आम्ल, फॉलीक आम्ल, मॅलिक आम्ल, ऑक्सॅलिक आम्ल तशेंच पॉलीफेनॉल, लोखण आनी व्हिटॅमिन सी हे गुणधर्म आसतात."	Konkani
"जशे की गोयटर, ब्लेफॅरायटीस, नेत्रपटलाचो दाह, दुकां नळयेंत आडखळ येवप, दोळ्यांक जखम जावप आदी."	Konkani
बैंकहरूसँग साढे ६ खर्ब लगानीयोग्य पूँजी- रेमिट्यान्स आप्रवाह राम्रो हुँदा निक्षेप वृद्धि , कर्जाको माग नहुँदा अधिक तरलता	Nepali
وقتہ کٮ۪ن فٲشنن پرزٕنٲوتھ تہ، سٔرتھ سونچتھ پنن طرز پایہ بوٚڈ زٲنتھ تتھ گۅڈ بران اوس: قاضی	Kashmiri
तुमकांय खांद्याच्या दुखण्याचो प्रस्न बरोच तेंप सोंसचो पडला जाल्यार मागीर ताचे कडेन दुर्लक्ष करपाची चूक करची न्हय.	Konkani
ટીમ 'મણિકર્ણિકા'એ આપી અંકિતાને જન્મ દિવસની પાર્ટી, જુઓ ખાસ તસવીરો	Gujarati
ଶ୍ରୀଲଙ୍କାରେ ହୋଇଥିଲା ବିବାହ ତିଥି ନିର୍ଦ୍ଧାରଣ, ବିରାଟ-ଅନୁଷ୍କା କରିବେ କୋର୍ଟ ମ୍ୟାରେଜ	Odia
پنهنجا گماشتا، ابن سعد ۽ شمر ڏي موڪلي عمل ڪرائيندو رهيو.	Sindhi
आरबीआईका गभर्नर काठमाडौंमा, प्रथम गभर्नरको प्रथम स्मृतिमा सहभागी हुँदै	Nepali
Atzmon: Who Keeps Americans in the Dark?	English
"सफरचंदाच्या फळांत अविलायनी तंतू मेळटा, जाका लागून आंतकड्यो सोपी जातात."	Konkani
ڇا سندس پارٽي جا ڪارڪن ايئن دربدر ٿين ها. اڳواڻ نالا مٽائي رستا بدلائي جڊيشل اڪيڊمي پهچن ها؟	Sindhi
"చిత్ర వార్తలు	Telugu
؛ "صورت خانہ" سجاون وول شٲعر چھہ ونان: حٮ۪س رود نہٕ ۂر دِمو الاوس کۆت	Kashmiri
جي گرفتاري جي لاءِ پوليس کي رسائي نه ٿي ڏني وڃي ته پوءِ؟	Sindhi
ਸਿੱਖਿਆ ਦੇ ਪੱਧਰ ਨੂੰ ਹੋਰ ਉੱਚਾ ਚੁੱਕਣ ਵਾਸਤੇ ਕਰੋੜ ਦੇ ਫੰਡ ਜਾਰੀ	Punjabi
एप्पल की कर्मचारी ने ऑनलाइन पोस्ट में यहूदियों को बताया 'आतंकवादी', नौकरी से निकाली गई	Hindi
୨୦୧୬ରେ ଠକେଇ କଥା ଜଣାଇଥିଲେ ହରି ପ୍ରସାଦ	Odia
ধ্বংসের মুখে লালবাগে পাকিস্তানের প্রথম প্রধানমন্ত্রীর জন্মভিটে	Bengali
ऋणको पासोमा सरकार, आन्तरिक ऋणको सावाँ-ब्याज तिर्न मात्रै २ खर्ब ७६ अर्ब बजेट	Nepali
बसमधून फेकला गेलो म्हणून वाचलो,बचावलेल्या प्राध्यापकाने सांगितलं नेमकं काय घडलं?	Marathi
ये आरोप वीभत्स है: 'कसाइयों को गायें बेचते हैं इस्कॉन के लोग' पर अखिलेश यादव	Hindi
ଭାରତକୁ ଶୀର୍ଷରୁ ହଟାଇଲା ଦକ୍ଷିଣ ଆଫ୍ରିକା	Odia
ଜାଣିଛନ୍ତି କି ‘ଗୁଗୁଲ୍‌’ ଶବ୍ଦର ଅର୍ଥ କ’ଣ?	Odia
عالمي ڏينهن ڪو نه ٿو ملهائي. هي ٻار هن دنيا ۾ رهندڙ ٻار ڪونهن ڇا؟	Sindhi
यस्त्वयं विपुलः खड्गो गव्ये कोशे समर्पितः सहदेवस्य विद्ध्येनं सर्वभारसहं दृढम्॥	Sanskrit
ওপৰত ডাইনোচৰৰ আৰ্হিৰ সৈতে ড্ৰেচাৰ	Assamese
ਮੋਦੀ ਦੀ ਜਾਨ ਨੂੰ ਖ਼ਤਰਾ ਆਈਬੀ ਦਾ ਪੰਜਾਬ ਪੁਲਿਸ ਨੂੰ ਅਲਰਟ	Punjabi
A Picture Is Emerging: Everyone Who Has Ever Known Ted Cruz Grew To Hate His Guts	English
ରିଜର୍ଭ ବ୍ୟାଙ୍କ ପୁଞ୍ଜି ଭଣ୍ଡାର: ଗଠନ ହେଲା କମିଟି, ବିମଳ ଜାଲାନ ଅଧ୍ୟକ୍ଷ	Odia
سچي ڳالهه ته اها آهي ته رڳو اها ڳڻتي هوندي هئي ته هن جو ڇا ٿيندو!	Sindhi
Trump backs waterboarding and 'a lot more' after Brussels attacks	English
आमी सांगिल्ले प्रमाण गिमाच्या दिसांनी सुर्याक व्यायाम करप हानीकारक थारूंक शकता.	Konkani
ਜਾਪਾਨ ਵਿਚ ਲਾਲ ਮੀਂਹ ਅਤੇ ਲਾਲ ਬਰਫ਼ ਕਿਉਂ ਪੈਂਦੀ ਹੈ।	Punjabi
ABSOLUTELY STUNNING VIDEO Shows How One Hacker Can Totally Change The Outcome Of Our Elections [VIDEO]	English
अशे परिस्थितींत हातूंतल्यान सुटका मेळोवपा खातीर कांय उपाय आपणावपाक शकतात.	Konkani
हीं वस्तू खावपाक जितलीं रुचीक आसतात तितलींच भलायके खातीरय हानीकारक थारूंक शकतात.	Konkani
महाविद्योऽल्पविद्यश्च बलवान् दुर्बलश्च यः। दर्शनीयो विरूपश्च सुभगो दुर्भगश्च यः॥ सर्वं काल: समादत्ते गम्भीरः स्वेन तेजसा। तस्मिन् कालवशं प्राप्ते का व्यथा मे विजानतः॥	Sanskrit
रुद्रमीशानवृषभं हरं शम्भुं कपर्दिनम्। चेकितानं परां योनि तिष्ठतो गच्छतश्च ह॥	Sanskrit
۽ جيڪڏهن اهي عوام جي نمائندگيءَ جي دعوى ڪن ٿا ته ڪهڙي بنياد تي؟	Sindhi
‘ମୁଁ ୩୦୮ ମହିଳାଙ୍କ ସହ ଶୋଇଛି, ଦେହଜୀବୀମାନଙ୍କୁ ହିସାବ କରିବି?’…	Odia
ଫିଫା ବିଶ୍ୱ ମାନ୍ୟତା: ଦୁଇଟି ସ୍ଥାନ ଉଠିଲା ସ୍ପେନ୍‌	Odia
Georgia governor orders evacuation of Savannah, coast ahead of Irma	English
क्रॅश डायटाक लागून लोकांक काती संबंदीत समस्यांक तोंड दिवचें पडूं येता.	Konkani
جواب ياد هوندو آهي ته، ”اسان جي ملڪ جو نالو ڇا آهي؟	Sindhi
ବଜାରରେ ହିରୋ ମୋଟୋକର୍ପର ଏକ୍ସଟ୍ରିମ୍‌-୨୦୦ଆର	Odia
റാഞ്ചിയിലെ ക്ഷീണം തീര്‍ക്കാന്‍ ടീം ഇന്ത്യ മൊഹാലിയില്‍, സൂപ്പര്‍ സണ്‍ഡേയില്‍ നാലാമങ്കം പൊടിപാറും	Malayalam
भारतीय महिला हॉकी टीम पेरिस ओलंपिक के टिकट से एक जीत दूर	Hindi
মাঝেরহাট সেতু দুর্ঘটনায় মৃতের সংখ্যা বেড়ে ৩	Bengali
ڀٽو ڪڏهن چيو هو ته اقتدار ۾ اچي سنڌ جون زمينون ڀڳڙن مٺ وڪرو ڪري ڇڏجو؟	Sindhi
अदाणी समूह द्वारा संचालित मुंबई व नवी मुंबई एयरपोर्ट्स के अकाउंट्स की जांच कर रही सरकार	Hindi
ଏକ ମଜାଦାର ଚରିତ୍ରରେ ଆସୁଛନ୍ତି ହରି	Odia
GOP Just Demanded Hillary Clinton Give Them A ‘Plan’ To Fix Healthcare And Got ROASTED ALIVE (TWEETS)	English
सिनेसृष्टीतील 'चाणक्य' 'पद्मश्री'ने सन्मानित!	Marathi
ਖੁੰਢਾਂ ਦੇ ਲੜ ਲਾ ਦਿੰਦੇ ਕੂੰਜਾਂ ਪੁੱਛਦੇ ਨਾ ਇਕ ਵਾਰੀ	Punjabi
"तातूंत कर्क्यूमिन आसता, ताका लागून कुडींतलो भितरलो दाह उणो जाता."	Konkani
"गिमाच्या दिसांनी लोकांक रातच्या वेळार न्हिदेच्या आदीं न्हाण घेवपाक आवडटा, पूण रातच्या वेळार न्हावपाक खंयचो वेळ बरो तें तुमकां खबर	Konkani
तांब्याच्या आयदनांत उदक दवरल्यार उदकांत आशिल्ले वायट बॅक्टेरिया ना करपाक आदार जाता.	Konkani
سنڌ جي صنعت يا صحت جي شعبي ۾ ڪهڙو انقلاب آندو ويندو؟	Sindhi

End of preview. Expand in Data Studio

Dataset Card for Language Identification Dataset

Sample Notebook:

https://www.kaggle.com/code/rishabhbhartiya/indian-language-classification-smote-resampled

Kaggle Dataset link:

https://www.kaggle.com/datasets/processvenue/indian-language-identification

Dataset Summary

A comprehensive dataset for Indian language identification and text classification. The dataset contains text samples across 18 major Indian languages, making it suitable for developing language identification systems and multilingual NLP applications.

Languages and Distribution

Language Distribution:
1. Punjabi      15075
2. Odia         14258
3. Konkani      14098
4. Hindi        13469
5. Sanskrit     11788
6. Bengali      10036
7. English       9819
8. Sindhi        8838
9. Nepali        8694
10. Marathi       6625
11. Gujarati      3788
12. Telugu        3563
13. Malayalam     3423
14. Tamil         3195
15. Kannada       2651
16. Kashmiri      2282
17. Urdu          2272
18. Assamese      1910

Data Fields

Headline: The input text sample
Language: The language label (one of the 18 languages listed above)

Usage Example

from datasets import load_dataset

# Load the dataset
dataset = load_dataset("Process-Venue/Language-Identification-v2")

# Access splits
train_data = dataset['train']
validation_data = dataset['validation']
test_data = dataset['test']

# Example usage
print(f"Sample text: {train_data[0]['Headline']}")
print(f"Language: {train_data[0]['Language']}")

Applications

Language Identification Systems
- Automatic language detection
- Text routing in multilingual systems
- Content filtering by language
Machine Translation
- Language-pair identification
- Translation system selection
Content Analysis
- Multilingual content categorization
- Language-specific content analysis

Citation

If you use this dataset in your research, please cite:

@dataset{language_identification_2025,
  author = {ProcessVenue Team},
  website = {https://processvenue.com},
  title = {Multilingual Headlines Language Identification Dataset},
  year = {2025},
  publisher = {Hugging Face},
  url = {https://huggingface.co/datasets/processvenue/language-identification},
  version = {1.1}
}

###reference

  1. @misc{disisbig_news_datasets,
author = {Gaurav},
title = {Indian Language News Datasets},
year = {2019},
publisher = {Kaggle},
url = {https://www.kaggle.com/datasets/disisbig/}
}

    2. @misc{bhattarai_nepali_financial_news,
  author = {Anuj Bhattarai},
  title = {The Nepali Financial News Dataset},
  year = {2024},
  publisher = {Kaggle},
  url = {https://www.kaggle.com/datasets/anujbhatrai/the-nepali-financial-news-dataset}
    }

    3. @misc{sourav_inshorts_hindi,
  author = {Shivam Sourav},
  title = {Inshorts-Hindi},
  year = {2023},
  publisher = {Kaggle},
  url = {https://www.kaggle.com/datasets/shivamsourav2002/inshorts-hindi}
    }