Hierarchical Dirichlet process
ಅಂಕಿಅಂಶಗಳು ಮತ್ತು ಯಂತ್ರ ಕಲಿಕೆಯಲ್ಲಿ, ಶ್ರೇಣೀಕೃತ ಡಿರಿಚ್ಲೆಟ್ ಪ್ರಕ್ರಿಯೆಯು (ಎಚ್. ಡಿ. ಪಿ.) ಗುಂಪು ಮಾಡಲಾದ ದತ್ತಾಂಶವನ್ನು ಒಟ್ಟುಗೂಡಿಸಲು ಪ್ಯಾರಾಮೆಟ್ರಿಕ್ ಅಲ್ಲದ ಬೇಯೇಶಿಯನ್ ವಿಧಾನವಾಗಿದೆ. ಇದು ದತ್ತಾಂಶದ ಪ್ರತಿಯೊಂದು ಗುಂಪಿಗೆ ಡಿರಿಚ್ಲೆಟ್ ಪ್ರಕ್ರಿಯೆಯನ್ನು ಬಳಸುತ್ತದೆ, ಎಲ್ಲಾ ಗುಂಪುಗಳಿಗೆ ಡಿರಿಚ್ಲೆಟ್ ಪ್ರಕ್ರಿಯೆಗಳು ಮೂಲ ವಿತರಣೆಯನ್ನು ಹಂಚಿಕೊಳ್ಳುತ್ತವೆ, ಇದನ್ನು ಸ್ವತಃ ಡಿರಿಚ್ಲೆಟ್ ಪ್ರಕ್ರಿಯೆಯಿಂದ ತೆಗೆದುಕೊಳ್ಳಲಾಗುತ್ತದೆ. ಈ ವಿಧಾನವು ಗುಂಪುಗಳಾದ್ಯಂತ ಸಮೂಹಗಳ ಹಂಚಿಕೆಯ ಮೂಲಕ ಅಂಕಿಅಂಶಗಳ ಬಲವನ್ನು ಹಂಚಿಕೊಳ್ಳಲು ಗುಂಪುಗಳಿಗೆ ಅನುವು ಮಾಡಿಕೊಡುತ್ತದೆ. ಡಿರಿಚ್ಲೆಟ್ ಪ್ರಕ್ರಿಯೆಯಿಂದ ಪಡೆಯಲಾಗುವ ಮೂಲ ವಿತರಣೆಯು ಮುಖ್ಯವಾಗಿದೆ, ಏಕೆಂದರೆ ಡಿರಿಚ್ಲೆಟ್ ಪ್ರಕ್ರಿಯೆಯಿಂದ ಪಡೆಯಲಾಗುವ ಅಂಕಗಳು ಪರಮಾಣು ಸಂಭವನೀಯತೆಯ ಅಳತೆಗಳಾಗಿವೆ, ಮತ್ತು ಪರಮಾಣುಗಳು ಎಲ್ಲಾ ಗುಂಪು-ಮಟ್ಟದ ಡಿರಿಚ್ಲೆಟ್ ಪ್ರಕ್ರಿಯೆಗಳಲ್ಲಿ ಕಾಣಿಸಿಕೊಳ್ಳುತ್ತವೆ. ಪ್ರತಿ ಪರಮಾಣು ಒಂದು ಸಮೂಹಕ್ಕೆ ಅನುಗುಣವಾಗಿರುವುದರಿಂದ, ಸಮೂಹಗಳನ್ನು ಎಲ್ಲಾ ಗುಂಪುಗಳಲ್ಲಿ ಹಂಚಿಕೊಳ್ಳಲಾಗುತ್ತದೆ. ಇದನ್ನು ಯೀ ವೈ ಟೆಹ್, ಮೈಕೆಲ್ ಐ. ಜೋರ್ಡಾನ್, ಮ್ಯಾಥ್ಯೂ ಜೆ. ಬೀಲ್ ಮತ್ತು ಡೇವಿಡ್ ಬ್ಲೈ ಅವರು ಅಭಿವೃದ್ಧಿಪಡಿಸಿದರು ಮತ್ತು 2002 ರಲ್ಲಿ ಪ್ರಕಟವಾದ ಅನಂತ ಗುಪ್ತ ಮಾರ್ಕೋವ್ ಮಾದರಿಯ ಔಪಚಾರಿಕತೆ ಮತ್ತು ಸಾಮಾನ್ಯೀಕರಣವಾಗಿ 2006 ರಲ್ಲಿ ಜರ್ನಲ್ ಆಫ್ ದಿ ಅಮೆರಿಕನ್ ಸ್ಟ್ಯಾಟಿಸ್ಟಿಕಲ್ ಅಸೋಸಿಯೇಷನ್ನಲ್ಲಿ ಪ್ರಕಟಿಸಿದರು. ಮಾದರಿ ಈ ಮಾದರಿಯ ವಿವರಣೆಯನ್ನು ಇಲ್ಲಿಂದ ಪಡೆಯಲಾಗಿದೆ. ಎಚ್. ಡಿ. ಪಿ. ಯು ಗುಂಪು ಮಾಡಲಾದ ದತ್ತಾಂಶಕ್ಕೆ ಒಂದು ಮಾದರಿಯಾಗಿದೆ. ಇದರ ಅರ್ಥವೇನೆಂದರೆ, ದತ್ತಾಂಶ ವಸ್ತುಗಳು ಅನೇಕ ವಿಭಿನ್ನ ಗುಂಪುಗಳಲ್ಲಿ ಬರುತ್ತವೆ. ಉದಾಹರಣೆಗೆ, ಒಂದು ವಿಷಯದ ಮಾದರಿಯಲ್ಲಿ ಪದಗಳನ್ನು ದಾಖಲೆಗಳಾಗಿ ಸಂಘಟಿಸಲಾಗುತ್ತದೆ, ಪ್ರತಿ ದಾಖಲೆಯು ಪದಗಳ ಚೀಲದಿಂದ (ಗುಂಪು) ರೂಪುಗೊಳ್ಳುತ್ತದೆ (ಡೇಟಾ ಐಟಂಗಳು). ಗುಂಪುಗಳನ್ನು ಸೂಚ್ಯಂಕಗೊಳಿಸುವುದು, ಪ್ರತಿ ಗುಂಪು ದತ್ತಾಂಶ ವಸ್ತುಗಳನ್ನು ಒಳಗೊಂಡಿರುತ್ತದೆ ಎಂದು ಭಾವಿಸೋಣ. ಎಚ್. ಡಿ. ಪಿ. ಯನ್ನು ದತ್ತಾಂಶ ವಸ್ತುಗಳ ಮೇಲಿನ ಆದ್ಯತೆಯ ವಿತರಣೆಯನ್ನು ನಿಯಂತ್ರಿಸುವ ಮೂಲ ವಿತರಣೆಯಿಂದ ನಿಯತಾಂಕಗೊಳಿಸಲಾಗುತ್ತದೆ ಮತ್ತು ಸಮೂಹಗಳ ಆದ್ಯತೆಯ ಸಂಖ್ಯೆ ಮತ್ತು ಗುಂಪುಗಳ ನಡುವೆ ಹಂಚಿಕೆಯ ಪ್ರಮಾಣವನ್ನು ನಿಯಂತ್ರಿಸುವ ಹಲವಾರು ಸಾಂದ್ರತೆಯ ನಿಯತಾಂಕಗಳಿಂದ ನಿಯತಾಂಕಗೊಳಿಸಲಾಗುತ್ತದೆ. ಐದನೇ ಗುಂಪು ಯಾದೃಚ್ಛಿಕ ಸಂಭವನೀಯತೆಯ ಅಳತೆಯೊಂದಿಗೆ ಸಂಬಂಧಿಸಿದೆ, ಇದು ಡಿರಿಚ್ಲೆಟ್ ಪ್ರಕ್ರಿಯೆಯಿಂದ ನೀಡಲಾದ ವಿತರಣೆಯನ್ನು ಹೊಂದಿದೆಃ ಗುಂಪಿಗೆ ಸಂಬಂಧಿಸಿದ ಸಾಂದ್ರತೆಯ ನಿಯತಾಂಕ ಎಲ್ಲಿದೆ, ಮತ್ತು ಇದು ಎಲ್ಲಾ ಗುಂಪುಗಳಲ್ಲಿ ಹಂಚಿಕೊಳ್ಳಲಾದ ಮೂಲ ವಿತರಣೆಯಾಗಿದೆ. ಪ್ರತಿಯಾಗಿ, ಸಾಮಾನ್ಯ ಮೂಲ ವಿತರಣೆಯು ಡಿರಿಚ್ಲೆಟ್ ಪ್ರಕ್ರಿಯೆಯಾಗಿದೆಃ ಸಾಂದ್ರತೆಯ ನಿಯತಾಂಕ ಮತ್ತು ಮೂಲ ವಿತರಣೆಯೊಂದಿಗೆ. ಅಂತಿಮವಾಗಿ, ಡಿರಿಚ್ಲೆಟ್ ಪ್ರಕ್ರಿಯೆಗಳನ್ನು ವೀಕ್ಷಿಸಿದ ದತ್ತಾಂಶದೊಂದಿಗೆ ಸಂಬಂಧಿಸಲು, ಪ್ರತಿ ದತ್ತಾಂಶ ಐಟಂ ಸುಪ್ತ ನಿಯತಾಂಕದೊಂದಿಗೆ ಸಂಬಂಧಿಸಿದೆಃ ಮೊದಲ ಸಾಲು ಪ್ರತಿ ನಿಯತಾಂಕವು ನೀಡಿದ ಪೂರ್ವ ವಿತರಣೆಯನ್ನು ಹೊಂದಿದೆ ಎಂದು ಹೇಳುತ್ತದೆ, ಆದರೆ ಎರಡನೇ ಸಾಲು ಪ್ರತಿ ದತ್ತಾಂಶ ಐಟಂ ಅದರ ಸಂಬಂಧಿತ ನಿಯತಾಂಕದಿಂದ ವಿತರಣಾ ನಿಯತಾಂಕವನ್ನು ಹೊಂದಿದೆ ಎಂದು ಹೇಳುತ್ತದೆ. ಮೇಲಿನ ಮಾದರಿಯನ್ನು ಎಚ್. ಡಿ. ಪಿ ಮಿಶ್ರಣ ಮಾದರಿ ಎಂದು ಕರೆಯಲಾಗುತ್ತದೆ, ಎಚ್. ಡಿ. ಪಿ. ಯು ಶ್ರೇಣೀಕೃತವಾಗಿ ಜೋಡಿಸಲಾದ ಡಿರಿಚ್ಲೆಟ್ ಪ್ರಕ್ರಿಯೆಗಳನ್ನು ಉಲ್ಲೇಖಿಸುತ್ತದೆ ಮತ್ತು ಮಿಶ್ರಣ ಮಾದರಿಯು ಡಿರಿಚ್ಲೆಟ್ ಪ್ರಕ್ರಿಯೆಗಳು ದತ್ತಾಂಶ ವಸ್ತುಗಳಿಗೆ ಸಂಬಂಧಿಸಿರುವ ವಿಧಾನವನ್ನು ಉಲ್ಲೇಖಿಸುತ್ತದೆ. ಎಚ್. ಡಿ. ಪಿ. ಯು ಕ್ಲಸ್ಟರಿಂಗ್ ಮಾದರಿಯನ್ನು ಹೇಗೆ ಕಾರ್ಯಗತಗೊಳಿಸುತ್ತದೆ ಮತ್ತು ಗುಂಪುಗಳಲ್ಲಿ ಸಮೂಹಗಳು ಹೇಗೆ ಹಂಚಿಕೊಳ್ಳುತ್ತವೆ ಎಂಬುದನ್ನು ಅರ್ಥಮಾಡಿಕೊಳ್ಳಲು, ಡಿರಿಚ್ಲೆಟ್ ಪ್ರಕ್ರಿಯೆಯಿಂದ ಬರುವ ಅಂಕಗಳು ಸಂಭವನೀಯತೆಯೊಂದಿಗೆ ಪರಮಾಣು ಸಂಭವನೀಯತೆಯ ಅಳತೆಗಳಾಗಿವೆ ಎಂಬುದನ್ನು ನೆನಪಿಸಿಕೊಳ್ಳಿ. ಇದರರ್ಥ ಸಾಮಾನ್ಯ ಬೇಸ್ ವಿತರಣೆಯು ಹೀಗೆ ಬರೆಯಬಹುದಾದ ಒಂದು ರೂಪವನ್ನು ಹೊಂದಿದೆಃ ಅಲ್ಲಿ ಅನಂತ ಸಂಖ್ಯೆಯ ಪರಮಾಣುಗಳಿವೆ, ಒಟ್ಟಾರೆ ಬೇಸ್ ವಿತರಣೆಯು ಅನಂತ ಬೆಂಬಲವನ್ನು ಹೊಂದಿದೆ ಎಂದು ಭಾವಿಸಿ. ಪ್ರತಿಯೊಂದು ಪರಮಾಣು ಒಂದು ದ್ರವ್ಯರಾಶಿಯೊಂದಿಗೆ ಸಂಬಂಧಿಸಿದೆ. ದ್ರವ್ಯರಾಶಿಗಳು ಒಂದಕ್ಕೆ ಒಟ್ಟುಗೂಡಬೇಕು ಏಕೆಂದರೆ ಇದು ಸಂಭವನೀಯತೆಯ ಅಳತೆಯಾಗಿದೆ. ಗುಂಪು ನಿರ್ದಿಷ್ಟ ಡಿರಿಚ್ಲೆಟ್ ಪ್ರಕ್ರಿಯೆಗಳಿಗೆ ಸ್ವತಃ ಮೂಲ ವಿತರಣೆಯಾಗಿರುವುದರಿಂದ, ಪ್ರತಿಯೊಂದೂ ಪರಮಾಣುಗಳಿಂದ ನೀಡಲಾದ ಪರಮಾಣುಗಳನ್ನು ಹೊಂದಿರುತ್ತದೆ ಮತ್ತು ಸ್ವತಃ ಈ ರೂಪದಲ್ಲಿ ಬರೆಯಬಹುದುಃ ಹೀಗಾಗಿ ಪರಮಾಣುಗಳ ಗುಂಪನ್ನು ಎಲ್ಲಾ ಗುಂಪುಗಳಲ್ಲಿ ಹಂಚಿಕೊಳ್ಳಲಾಗುತ್ತದೆ, ಪ್ರತಿ ಗುಂಪು ತನ್ನದೇ ಆದ ಗುಂಪು-ನಿರ್ದಿಷ್ಟ ಪರಮಾಣು ದ್ರವ್ಯರಾಶಿಗಳನ್ನು ಹೊಂದಿರುತ್ತದೆ. ಈ ಪ್ರಾತಿನಿಧ್ಯವನ್ನು ವೀಕ್ಷಿಸಿದ ದತ್ತಾಂಶಕ್ಕೆ ಸಂಬಂಧಿಸಿ, ಪ್ರತಿ ದತ್ತಾಂಶ ವಸ್ತುವನ್ನು ಮಿಶ್ರಣ ಮಾದರಿಯು ವಿವರಿಸುತ್ತದೆ ಎಂದು ನಾವು ನೋಡುತ್ತೇವೆಃ ಅಲ್ಲಿ ಪರಮಾಣುಗಳು ಮಿಶ್ರಣ ಘಟಕ ನಿಯತಾಂಕಗಳ ಪಾತ್ರವನ್ನು ವಹಿಸುತ್ತವೆ, ಆದರೆ ದ್ರವ್ಯರಾಶಿಗಳು ಮಿಶ್ರಣ ಅನುಪಾತಗಳ ಪಾತ್ರವನ್ನು ವಹಿಸುತ್ತವೆ. ಕೊನೆಯಲ್ಲಿ, ದತ್ತಾಂಶದ ಪ್ರತಿಯೊಂದು ಗುಂಪನ್ನು ಮಿಶ್ರಣದ ಮಾದರಿಯನ್ನು ಬಳಸಿ ರೂಪಿಸಲಾಗಿದೆ, ಮಿಶ್ರಣದ ಘಟಕಗಳನ್ನು ಎಲ್ಲಾ ಗುಂಪುಗಳಲ್ಲಿ ಹಂಚಿಕೊಳ್ಳಲಾಗುತ್ತದೆ ಆದರೆ ಮಿಶ್ರಣದ ಪ್ರಮಾಣಗಳು ಗುಂಪು-ನಿರ್ದಿಷ್ಟವಾಗಿರುತ್ತವೆ. ಕ್ಲಸ್ಟರಿಂಗ್ ಪರಿಭಾಷೆಯಲ್ಲಿ, ನಾವು ಪ್ರತಿ ಮಿಶ್ರಣ ಘಟಕವನ್ನು ದತ್ತಾಂಶ ವಸ್ತುಗಳ ಸಮೂಹವನ್ನು ರೂಪಿಸುವಂತೆ ವ್ಯಾಖ್ಯಾನಿಸಬಹುದು, ಎಲ್ಲಾ ಗುಂಪುಗಳಲ್ಲಿ ಕ್ಲಸ್ಟರ್ಗಳನ್ನು ಹಂಚಿಕೊಳ್ಳಬಹುದು, ಮತ್ತು ಪ್ರತಿ ಗುಂಪು ತನ್ನದೇ ಆದ ಮಿಶ್ರಣ ಅನುಪಾತಗಳನ್ನು ಹೊಂದಿದ್ದು, ಕ್ಲಸ್ಟರ್ಗಳ ವಿಭಿನ್ನ ಸಂಯೋಜನೆಗಳಿಂದ ಕೂಡಿದೆ. ಅನ್ವಯಗಳು ಎಚ್. ಡಿ. ಪಿ ಮಿಶ್ರಣ ಮಾದರಿಯು ಸುಪ್ತ ಡಿರಿಚ್ಲೆಟ್ ಹಂಚಿಕೆಯ ನೈಸರ್ಗಿಕ ನಾನ್ಪ್ಯಾರಮೆಟ್ರಿಕ್ ಸಾಮಾನ್ಯೀಕರಣವಾಗಿದೆ, ಅಲ್ಲಿ ವಿಷಯಗಳ ಸಂಖ್ಯೆಯನ್ನು ಮಿತಿಯಿಲ್ಲದೆ ಮತ್ತು ದತ್ತಾಂಶದಿಂದ ಕಲಿಯಬಹುದು. ಇಲ್ಲಿ ಪ್ರತಿ ಗುಂಪು ಪದಗಳ ಚೀಲವನ್ನು ಒಳಗೊಂಡಿರುವ ದಾಖಲೆಯಾಗಿದೆ, ಪ್ರತಿ ಸಮೂಹವು ಒಂದು ವಿಷಯವಾಗಿದೆ ಮತ್ತು ಪ್ರತಿ ದಾಖಲೆಯು ವಿಷಯಗಳ ಮಿಶ್ರಣವಾಗಿದೆ. ಎಚ್. ಡಿ. ಪಿ. ಯು ಅನಂತ ಗುಪ್ತ ಮಾರ್ಕೋವ್ ಮಾದರಿಯ ಒಂದು ಪ್ರಮುಖ ಅಂಶವಾಗಿದೆ, ಇದು ಗುಪ್ತ ಮಾರ್ಕೋವ್ ಮಾದರಿಯ ನಾನ್ಪ್ಯಾರಮೆಟ್ರಿಕ್ ಸಾಮಾನ್ಯೀಕರಣವಾಗಿದ್ದು, ಸ್ಥಿತಿಗಳ ಸಂಖ್ಯೆಯನ್ನು ಮಿತಿಯಿಲ್ಲದ ಮತ್ತು ದತ್ತಾಂಶದಿಂದ ಕಲಿಯಲು ಅನುವು ಮಾಡಿಕೊಡುತ್ತದೆ. ಸಾಮಾನ್ಯೀಕರಣಗಳು ಎಚ್. ಡಿ. ಪಿ. ಯನ್ನು ಹಲವಾರು ದಿಕ್ಕುಗಳಲ್ಲಿ ಸಾಮಾನ್ಯೀಕರಿಸಬಹುದು. ಡಿರಿಚ್ಲೆಟ್ ಪ್ರಕ್ರಿಯೆಗಳನ್ನು ಪಿಟ್ಮನ್-ಯೋರ್ ಪ್ರಕ್ರಿಯೆಗಳು ಮತ್ತು ಗಾಮಾ ಪ್ರಕ್ರಿಯೆಗಳಿಂದ ಬದಲಾಯಿಸಬಹುದು, ಇದು ಶ್ರೇಣೀಕೃತ ಪಿಟ್ಮನ್-ಯೋರ್ ಪ್ರಕ್ರಿಯೆ ಮತ್ತು ಶ್ರೇಣೀಕೃತ ಗಾಮಾ ಪ್ರಕ್ರಿಯೆಗೆ ಕಾರಣವಾಗುತ್ತದೆ. ಶ್ರೇಣಿ ವ್ಯವಸ್ಥೆಯು ಆಳವಾಗಿರಬಹುದು, ಶ್ರೇಣಿ ವ್ಯವಸ್ಥೆಯಲ್ಲಿ ಅನೇಕ ಹಂತದ ಗುಂಪುಗಳನ್ನು ಜೋಡಿಸಲಾಗಿದೆ. ಪಿಟ್ಮನ್-ಯೋರ್ ಪ್ರಕ್ರಿಯೆಗಳ ಬಹು-ಹಂತದ ಶ್ರೇಣಿವ್ಯವಸ್ಥೆಯನ್ನು ಹೊಂದಿರುವ ಅನುಕ್ರಮಗಳಿಗಾಗಿ ಬೇಯೇಶಿಯನ್ ನಾನ್ಪ್ಯಾರಮೆಟ್ರಿಕ್ ಮಾದರಿಯಾದ ಅನುಕ್ರಮ ಜ್ಞಾಪಕದಲ್ಲಿ ಅಂತಹ ವ್ಯವಸ್ಥೆಯನ್ನು ಬಳಸಿಕೊಳ್ಳಲಾಗಿದೆ. ಇದಲ್ಲದೆ, ಬೇಯೇಶಿಯನ್ ಮಲ್ಟಿ-ಡೊಮೈನ್ ಲರ್ನಿಂಗ್ (ಬಿಎಮ್ಡಿಎಲ್) ಮಾದರಿಯು ನಿರ್ದಿಷ್ಟ ಕ್ಯಾನ್ಸರ್ ಪ್ರಕಾರದ ಮಾದರಿಗಳ ಸಂಖ್ಯೆಯು ಚಿಕ್ಕದಾಗಿದ್ದರೂ ಸಹ ನಿಖರವಾದ ಕ್ಯಾನ್ಸರ್ ಉಪಪ್ರಕಾರಕ್ಕಾಗಿ ಶ್ರೇಣೀಕೃತ ಋಣಾತ್ಮಕ ದ್ವಿಪದ ಅಪವರ್ತನೀಯತೆಯ ಆಧಾರದ ಮೇಲೆ ಅತಿಯಾಗಿ ಹರಡಿದ ಎಣಿಕೆ ದತ್ತಾಂಶದ ಡೊಮೇನ್-ಅವಲಂಬಿತ ಸುಪ್ತ ಪ್ರಾತಿನಿಧ್ಯಗಳನ್ನು ಪಡೆಯುತ್ತದೆ. ಚೈನೀಸ್ ರೆಸ್ಟೋರೆಂಟ್ ಪ್ರಕ್ರಿಯೆಯ ಉಲ್ಲೇಖಗಳು ಯಾದೃಚ್ಛಿಕ ಪ್ರಕ್ರಿಯೆಗಳು ನಾನ್ಪ್ಯಾರಮೆಟ್ರಿಕ್ ಬೇಯೇಶಿಯನ್ ಅಂಕಿಅಂಶಗಳನ್ನು ಸಹ ನೋಡಿ.