So, we can think of the entropy of a source this I am sure you would have studied in information theory with alphabet S with alphabet S of dimension K so; that means, there K symbols that are transmitted and we find and we have the probability that we have transmitted the symbol S K. So, S i where i is equal to 1 through k, i equal to 1 through k, probability that you have transmitted a symbol S i we call let us call that as P i. Then under such assumption, so basically we have a source with s alphabet of size S there are K such values that S can take and the probability of each of those K values is known it is given by P subscript i.
मुझे यकीन है कि यह आपने इन्फॉर्मेशन थियरी में देखा होगा, आल्फाबेट S के साथ डायमेंशन K; जिसका मतलब है, वहाँ K सिम्बल्स हैं, जो ट्रांसमीट किए गए हैं, और हम पाते हैं कि K सिम्बल्स को ट्रांसमीट करने की प्रोबेबिलिटी Prob=Pi है, जहाँ i=1,2.. . k हैI इस तरह की धारणा के तहत, हमारे पास एक ऐसा सोर्स है जहाँ S साइज़ के आल्फाबेट है, ऐसी K वैल्यूज़ है, जो S ले सकता है, और इन प्रत्येक K वैल्यूज़ की प्रोबेबिलिटी Pi है।