मुझे यकीन है कि यह आपने इन्फॉर्मेशन थियरी में देखा होगा, आल्फाबेट S के साथ डायमेंशन K; जिसका मतलब है, वहाँ K सिम्बल्स हैं, जो ट्रांसमीट किए गए हैं, और हम पाते हैं कि K सिम्बल्स को ट्रांसमीट करने की प्रोबेबिलिटी Prob=Pi है, जहाँ i=1,2.. . k हैI इस तरह की धारणा के तहत, हमारे पास एक ऐसा सोर्स है जहाँ S साइज़ के आल्फाबेट है, ऐसी K वैल्यूज़ है, जो S ले सकता है, और इन प्रत्येक K वैल्यूज़ की प्रोबेबिलिटी Pi है।
അതിനാൽ, ഒരു സ്രോതസ്സിന്റെ എൻട്രോപ്പിയെക്കുറിച്ച് നമുക്ക് ചിന്തിക്കാം, ഇത് നിങ്ങൾ ഇൻഫർമേഷൻ തിയറിയിൽ എസ് ആൽഫബെറ്റിൽ ഡിമെൻഷൻ കെ ഉപയോഗിച്ച് പഠിച്ചിട്ടുണ്ടാകുമെന്ന് എനിക്ക് ഉറപ്പുണ്ട്; അതായത്, കൈമാറ്റം ചെയ്യപ്പെടുന്ന K സിംബലുകൾ ഞങ്ങൾ കണ്ടെത്തി, ഞങ്ങൾ S K എന്ന സിംബൽ സംപ്രേഷണം ചെയ് തതിന്റെ സംഭാവ്യത നമുക്കുണ്ട്. അതിനാൽ, S i എന്നിടത്ത് i 1 മുതൽ k വരെ തുല്യമാണ്, Si എന്ന സിംബൽ കൈമാറുമ്പോൾ ഉള്ള പ്രോബബിലിറ്റി Pi എന്ന് പറയാം.