AdaBoost
ಅಡಾಪ್ಟಿವ್ ಬೂಸ್ಟಿಂಗ್ಗೆ ಚಿಕ್ಕದಾದ ಅಡಾ ಬೂಸ್ಟ್, 1995 ರಲ್ಲಿ ಯೋವ್ ಫ್ರಾಯ್ಡ್ ಮತ್ತು ರಾಬರ್ಟ್ ಸ್ಕಾಪೈರ್ ರೂಪಿಸಿದ ಸಂಖ್ಯಾಶಾಸ್ತ್ರೀಯ ವರ್ಗೀಕರಣದ ಮೆಟಾ-ಅಲ್ಗಾರಿದಮ್ ಆಗಿದ್ದು, ಅವರು ತಮ್ಮ ಕೆಲಸಕ್ಕಾಗಿ 2003 ಗೊಡೆಲ್ ಪ್ರಶಸ್ತಿಯನ್ನು ಗೆದ್ದಿದ್ದಾರೆ. ಕಾರ್ಯಕ್ಷಮತೆಯನ್ನು ಸುಧಾರಿಸಲು ಇದನ್ನು ಇತರ ಅನೇಕ ರೀತಿಯ ಕಲಿಕಾ ಕ್ರಮಾವಳಿಗಳ ಜೊತೆಯಲ್ಲಿ ಬಳಸಬಹುದು. ಇತರ ಕಲಿಕೆಯ ಕ್ರಮಾವಳಿಗಳ ('ದುರ್ಬಲ ಕಲಿಯುವವರು') ಔಟ್ಪುಟ್ ಅನ್ನು ತೂಕದ ಮೊತ್ತವಾಗಿ ಸಂಯೋಜಿಸಲಾಗುತ್ತದೆ, ಇದು ವರ್ಧಿತ ವರ್ಗೀಕರಣದ ಅಂತಿಮ ಔಟ್ಪುಟ್ ಅನ್ನು ಪ್ರತಿನಿಧಿಸುತ್ತದೆ. ಸಾಮಾನ್ಯವಾಗಿ, ಅಡಾಬೂಸ್ಟ್ ಅನ್ನು ಬೈನರಿ ವರ್ಗೀಕರಣಕ್ಕಾಗಿ ಪ್ರಸ್ತುತಪಡಿಸಲಾಗುತ್ತದೆ, ಆದಾಗ್ಯೂ ಇದನ್ನು ನೈಜ ರೇಖೆಯ ಮೇಲೆ ಅನೇಕ ವರ್ಗಗಳಿಗೆ ಅಥವಾ ಸೀಮಿತ ಮಧ್ಯಂತರಗಳಿಗೆ ಸಾಮಾನ್ಯೀಕರಿಸಬಹುದು. ಹಿಂದಿನ ವರ್ಗೀಕರಣಗಳಿಂದ ತಪ್ಪಾಗಿ ವರ್ಗೀಕರಿಸಲ್ಪಟ್ಟ ಆ ನಿದರ್ಶನಗಳ ಪರವಾಗಿ ನಂತರದ ದುರ್ಬಲ ಕಲಿಯುವವರನ್ನು ತಿರುಚಲಾಗುತ್ತದೆ ಎಂಬ ಅರ್ಥದಲ್ಲಿ ಅಡಾ ಬೂಸ್ಟ್ ಹೊಂದಿಕೊಳ್ಳುತ್ತದೆ. ಕೆಲವು ಸಮಸ್ಯೆಗಳಲ್ಲಿ ಇದು ಇತರ ಕಲಿಕೆಯ ಕ್ರಮಾವಳಿಗಳಿಗಿಂತ ಮಿತಿಮೀರಿದ ಸಮಸ್ಯೆಗೆ ಕಡಿಮೆ ಒಳಗಾಗಬಹುದು. ವೈಯಕ್ತಿಕ ಕಲಿಯುವವರು ದುರ್ಬಲರಾಗಿರಬಹುದು, ಆದರೆ ಪ್ರತಿಯೊಬ್ಬರ ಕಾರ್ಯಕ್ಷಮತೆಯು ಯಾದೃಚ್ಛಿಕ ಊಹೆಗಿಂತ ಸ್ವಲ್ಪ ಉತ್ತಮವಾಗಿರುವವರೆಗೆ, ಅಂತಿಮ ಮಾದರಿಯು ಬಲವಾದ ಕಲಿಯುವವರೊಂದಿಗೆ ಒಗ್ಗೂಡುತ್ತದೆ ಎಂದು ಸಾಬೀತುಪಡಿಸಬಹುದು. ದುರ್ಬಲ ಮೂಲ ಕಲಿಯುವವರನ್ನು (ನಿರ್ಧಾರದ ಸ್ಟಂಪ್ಗಳಂತಹ) ಸಂಯೋಜಿಸಲು ಅಡಾ ಬೂಸ್ಟ್ ಅನ್ನು ಸಾಮಾನ್ಯವಾಗಿ ಬಳಸಲಾಗಿದ್ದರೂ, ಇದು ಬಲವಾದ ಮೂಲ ಕಲಿಯುವವರನ್ನು (ಆಳವಾದ ನಿರ್ಧಾರದ ಮರಗಳಂತಹ) ಪರಿಣಾಮಕಾರಿಯಾಗಿ ಸಂಯೋಜಿಸಬಹುದು ಎಂದು ತೋರಿಸಲಾಗಿದೆ, ಇದು ಇನ್ನೂ ಹೆಚ್ಚು ನಿಖರವಾದ ಮಾದರಿಯನ್ನು ಉತ್ಪಾದಿಸುತ್ತದೆ. ಪ್ರತಿಯೊಂದು ಕಲಿಕೆಯ ಅಲ್ಗಾರಿದಮ್ ಕೆಲವು ಸಮಸ್ಯೆಯ ಪ್ರಕಾರಗಳಿಗೆ ಇತರರಿಗಿಂತ ಉತ್ತಮವಾಗಿ ಹೊಂದಿಕೊಳ್ಳುತ್ತದೆ ಮತ್ತು ಸಾಮಾನ್ಯವಾಗಿ ಡೇಟಾಸೆಟ್ನಲ್ಲಿ ಅತ್ಯುತ್ತಮ ಕಾರ್ಯಕ್ಷಮತೆಯನ್ನು ಸಾಧಿಸುವ ಮೊದಲು ಸರಿಹೊಂದಿಸಲು ಅನೇಕ ವಿಭಿನ್ನ ನಿಯತಾಂಕಗಳು ಮತ್ತು ಸಂರಚನೆಗಳನ್ನು ಹೊಂದಿರುತ್ತದೆ. ಅಡಾ ಬೂಸ್ಟ್ ಅನ್ನು (ದುರ್ಬಲ ಕಲಿಯುವವರಾಗಿ ನಿರ್ಧಾರದ ಮರಗಳೊಂದಿಗೆ) ಸಾಮಾನ್ಯವಾಗಿ ಅತ್ಯುತ್ತಮ ವರ್ಗೀಕರಣ ಎಂದು ಕರೆಯಲಾಗುತ್ತದೆ. ನಿರ್ಧಾರದ ಮರದ ಕಲಿಕೆಯೊಂದಿಗೆ ಬಳಸಿದಾಗ, ಪ್ರತಿ ತರಬೇತಿ ಮಾದರಿಯ ಸಾಪೇಕ್ಷ 'ಗಡಸುತನ' ದ ಬಗ್ಗೆ ಅಡಾ ಬೂಸ್ಟ್ ಅಲ್ಗಾರಿದಮ್ನ ಪ್ರತಿ ಹಂತದಲ್ಲೂ ಸಂಗ್ರಹಿಸಲಾದ ಮಾಹಿತಿಯನ್ನು ಮರದ ಬೆಳೆಯುವ ಅಲ್ಗಾರಿದಮ್ಗೆ ನೀಡಲಾಗುತ್ತದೆ, ಇದರಿಂದಾಗಿ ನಂತರದ ಮರಗಳು ಕಠಿಣವಾದ ವರ್ಗೀಕರಣದ ಉದಾಹರಣೆಗಳ ಮೇಲೆ ಕೇಂದ್ರೀಕರಿಸುತ್ತವೆ. ಅಡಾ ಬೂಸ್ಟ್ ತರಬೇತಿಯು ವರ್ಧಿತ ವರ್ಗೀಕರಣಕ್ಕೆ ತರಬೇತಿ ನೀಡುವ ಒಂದು ನಿರ್ದಿಷ್ಟ ವಿಧಾನವನ್ನು ಸೂಚಿಸುತ್ತದೆ. ವರ್ಧಿತ ವರ್ಗೀಕರಣವು ರೂಪದ ವರ್ಗೀಕರಣವಾಗಿದ್ದು, ಪ್ರತಿಯೊಬ್ಬರೂ ದುರ್ಬಲ ಕಲಿಯುವವರಾಗಿದ್ದು, ಅವರು ವಸ್ತುವನ್ನು ಇನ್ಪುಟ್ ಆಗಿ ತೆಗೆದುಕೊಳ್ಳುತ್ತಾರೆ ಮತ್ತು ವಸ್ತುವಿನ ವರ್ಗವನ್ನು ಸೂಚಿಸುವ ಮೌಲ್ಯವನ್ನು ಹಿಂದಿರುಗಿಸುತ್ತಾರೆ. ಉದಾಹರಣೆಗೆ, ಎರಡು ವರ್ಗದ ಸಮಸ್ಯೆಯಲ್ಲಿ, ದುರ್ಬಲ ಕಲಿಯುವವರ ಔಟ್ಪುಟ್ನ ಚಿಹ್ನೆಯು ಊಹಿಸಲಾದ ವಸ್ತು ವರ್ಗವನ್ನು ಗುರುತಿಸುತ್ತದೆ ಮತ್ತು ಸಂಪೂರ್ಣ ಮೌಲ್ಯವು ಆ ವರ್ಗೀಕರಣದಲ್ಲಿ ವಿಶ್ವಾಸವನ್ನು ನೀಡುತ್ತದೆ. ಅಂತೆಯೇ, ಮಾದರಿಯು ಧನಾತ್ಮಕ ವರ್ಗದಲ್ಲಿದ್ದರೆ-th ವರ್ಗೀಕರಣವು ಧನಾತ್ಮಕವಾಗಿರುತ್ತದೆ ಮತ್ತು ಇಲ್ಲದಿದ್ದರೆ ಋಣಾತ್ಮಕವಾಗಿರುತ್ತದೆ. ಪ್ರತಿ ದುರ್ಬಲ ಕಲಿಯುವವರು ಔಟ್ಪುಟ್ ಹೈಪೋಥೆಸಿಸ್ ಅನ್ನು ಉತ್ಪಾದಿಸುತ್ತಾರೆ, ಇದು ತರಬೇತಿ ಗುಂಪಿನಲ್ಲಿನ ಪ್ರತಿ ಮಾದರಿಯ ಮುನ್ಸೂಚನೆಯನ್ನು ನಿಗದಿಪಡಿಸುತ್ತದೆ. ಪ್ರತಿ ಪುನರಾವರ್ತನೆಯಲ್ಲೂ, ದುರ್ಬಲ ಕಲಿಯುವವರನ್ನು ಆಯ್ಕೆ ಮಾಡಲಾಗುತ್ತದೆ ಮತ್ತು ಪರಿಣಾಮವಾಗಿ-ಹಂತದ ವರ್ಧಿತ ವರ್ಗೀಕರಣದ ಒಟ್ಟು ತರಬೇತಿ ದೋಷವನ್ನು ಕಡಿಮೆ ಮಾಡುವಂತಹ ಗುಣಾಂಕವನ್ನು ನಿಗದಿಪಡಿಸಲಾಗುತ್ತದೆ. ತರಬೇತಿಯ ಹಿಂದಿನ ಹಂತದವರೆಗೆ ನಿರ್ಮಿಸಲಾದ ವರ್ಧಿತ ವರ್ಗೀಕರಣವನ್ನು ಇಲ್ಲಿ ನೀಡಲಾಗಿದೆ ಮತ್ತು ದುರ್ಬಲ ಕಲಿಯುವವರನ್ನು ಅಂತಿಮ ವರ್ಗೀಕರಣಕ್ಕೆ ಹೆಚ್ಚುವರಿಯಾಗಿ ಪರಿಗಣಿಸಲಾಗುತ್ತಿದೆ. ತೂಕ ತರಬೇತಿ ಪ್ರಕ್ರಿಯೆಯ ಪ್ರತಿ ಪುನರಾವರ್ತನೆಯಲ್ಲೂ, ತರಬೇತಿ ಗುಂಪಿನಲ್ಲಿನ ಪ್ರತಿ ಮಾದರಿಗೂ ಆ ಮಾದರಿಯಲ್ಲಿನ ಪ್ರಸ್ತುತ ದೋಷಕ್ಕೆ ಸಮನಾದ ತೂಕವನ್ನು ನಿಗದಿಪಡಿಸಲಾಗುತ್ತದೆ. ಈ ತೂಕಗಳನ್ನು ದುರ್ಬಲ ಕಲಿಯುವವರ ತರಬೇತಿಯಲ್ಲಿ ಬಳಸಬಹುದು. ಉದಾಹರಣೆಗೆ, ದೊಡ್ಡ ತೂಕದ ಮಾದರಿಗಳ ಗುಂಪುಗಳ ವಿಭಜನೆಯನ್ನು ಬೆಂಬಲಿಸುವ ನಿರ್ಧಾರದ ಮರಗಳನ್ನು ಬೆಳೆಸಬಹುದು. ವ್ಯುತ್ಪತ್ತಿ ಈ ವ್ಯುತ್ಪತ್ತಿಯು ರೋಜಾಸ್ (2009) ಅನ್ನು ಅನುಸರಿಸುತ್ತದೆಃ ಪ್ರತಿ ವಸ್ತುವು ಸಂಬಂಧಿತ ವರ್ಗವನ್ನು ಹೊಂದಿರುವ ಡೇಟಾ ಸೆಟ್ ಅನ್ನು ನಾವು ಹೊಂದಿದ್ದೇವೆ ಮತ್ತು ದುರ್ಬಲ ವರ್ಗೀಕರಣಗಳ ಗುಂಪನ್ನು ಹೊಂದಿದ್ದೇವೆ ಎಂದು ಭಾವಿಸೋಣ, ಅವುಗಳಲ್ಲಿ ಪ್ರತಿಯೊಂದೂ ಪ್ರತಿ ವಸ್ತುವಿಗೆ ವರ್ಗೀಕರಣವನ್ನು ನೀಡುತ್ತದೆ. - th ಪುನರಾವರ್ತನೆಯ ನಂತರ ನಮ್ಮ ವರ್ಧಿತ ವರ್ಗೀಕರಣವು ರೂಪದ ದುರ್ಬಲ ವರ್ಗೀಕರಣಗಳ ರೇಖೀಯ ಸಂಯೋಜನೆಯಾಗಿದೆಃ, ಅಲ್ಲಿ ವರ್ಗವು ಚಿಹ್ನೆಯಾಗಿರುತ್ತದೆ. - th ಪುನರಾವರ್ತನೆಯಲ್ಲಿ ನಾವು ಮತ್ತೊಂದು ತೂಕದೊಂದಿಗೆ ಮತ್ತೊಂದು ದುರ್ಬಲ ವರ್ಗೀಕರಣವನ್ನು ಸೇರಿಸುವ ಮೂಲಕ ಇದನ್ನು ಉತ್ತಮ ವರ್ಧಿತ ವರ್ಗೀಕರಣಕ್ಕೆ ವಿಸ್ತರಿಸಲು ಬಯಸುತ್ತೇವೆಃ ಆದ್ದರಿಂದ ಯಾವ ದುರ್ಬಲ ವರ್ಗೀಕರಣವು ಅತ್ಯುತ್ತಮ ಆಯ್ಕೆಯಾಗಿದೆ ಮತ್ತು ಅದರ ತೂಕ ಹೇಗಿರಬೇಕು ಎಂಬುದನ್ನು ನಿರ್ಧರಿಸುವುದು ಉಳಿದಿದೆ. ಪ್ರತಿಯೊಂದು ದತ್ತಾಂಶ ಬಿಂದುವಿನ ಮೇಲೆ ಅದರ ಘಾತೀಯ ನಷ್ಟದ ಮೊತ್ತ ಎಂದು ನಾವು ಒಟ್ಟು ದೋಷವನ್ನು ವ್ಯಾಖ್ಯಾನಿಸುತ್ತೇವೆ, ಈ ಕೆಳಗಿನಂತೆ ನೀಡಲಾಗಿದೆಃ ಲೆಟ್ ಮತ್ತು ಫಾರ್, ನಾವು ಹೊಂದಿದ್ದೇವೆಃ ನಾವು ಈ ಸಂಕಲನವನ್ನು (ಆದ್ದರಿಂದ) ನಿಂದ ಸರಿಯಾಗಿ ವರ್ಗೀಕರಿಸಲಾದ ದತ್ತಾಂಶ ಬಿಂದುಗಳು ಮತ್ತು ತಪ್ಪಾಗಿ ವರ್ಗೀಕರಿಸಲಾದ (ಆದ್ದರಿಂದ) ನಡುವೆ ವಿಂಗಡಿಸಬಹುದುಃ ಈ ಸಮೀಕರಣದ ಬಲಭಾಗದ ಏಕೈಕ ಭಾಗವು ಅವಲಂಬಿತವಾಗಿರುವುದರಿಂದ, ಕನಿಷ್ಠವಾಗಿಸುವ ಅಂಶವು [ಅದನ್ನು ಊಹಿಸಿಕೊಳ್ಳುತ್ತದೆ], ಅಂದರೆ. ದುರ್ಬಲ ವರ್ಗೀಕರಣವು ಕಡಿಮೆ ತೂಕದ ದೋಷವನ್ನು ಹೊಂದಿದೆ (ತೂಕದೊಂದಿಗೆ). ನಾವು ಈಗ ನಿರ್ಧರಿಸಿದ ತೂಕದೊಂದಿಗೆ ಕಡಿಮೆಗೊಳ್ಳುವ ಅಪೇಕ್ಷಿತ ತೂಕವನ್ನು ನಿರ್ಧರಿಸಲು, ನಾವು ಪ್ರತ್ಯೇಕಿಸುತ್ತೇವೆಃ ಅದೃಷ್ಟವಶಾತ್ ಇದನ್ನು ಶೂನ್ಯಕ್ಕೆ ಹೊಂದಿಸುವಾಗ ಕನಿಷ್ಠವು ಸಂಭವಿಸುತ್ತದೆ, ನಂತರ ಇಳುವರಿಗಾಗಿ ಪರಿಹರಿಸುತ್ತದೆಃ ನಾವು ದುರ್ಬಲ ವರ್ಗೀಕರಣದ ತೂಕದ ದೋಷ ದರವನ್ನು ಲೆಕ್ಕ ಹಾಕುತ್ತೇವೆ, ಆದ್ದರಿಂದ ಅದು ಅನುಸರಿಸುತ್ತದೆಃ ಇದು ಋಣಾತ್ಮಕ ಲಾಗಿಟ್ ಕಾರ್ಯವನ್ನು 0.5 ರಿಂದ ಗುಣಿಸಲಾಗುತ್ತದೆ. ಒಂದು ಕಾರ್ಯವಾಗಿ ಕನ್ವೆಕ್ಸಿಟಿಯ ಕಾರಣ, ಈ ಹೊಸ ಅಭಿವ್ಯಕ್ತಿಯು ನಷ್ಟದ ಕಾರ್ಯದ ಜಾಗತಿಕ ಕನಿಷ್ಠವನ್ನು ನೀಡುತ್ತದೆ. ಗಮನಿಸಿಃ ದುರ್ಬಲ ಕಲಿಯುವವನು ಪಕ್ಷಪಾತಿಯಾಗಿದ್ದಾಗ (), ಬಹು ಎಲೆಗಳನ್ನು () ಹೊಂದಿರುವಾಗ ಅಥವಾ ಬೇರೆ ಯಾವುದಾದರೂ ಕಾರ್ಯವನ್ನು ಹೊಂದಿರುವಾಗ, ಇತರ ಸಂದರ್ಭಗಳಲ್ಲಿ ಇದು ಉತ್ತಮ ಆರಂಭಿಕ ಊಹೆ ಆಗಬಹುದಾದರೂ, ಈ ವ್ಯುತ್ಪತ್ತಿಯು ಅನ್ವಯಿಸುತ್ತದೆ. ಹೀಗಾಗಿ ನಾವು ಅಡಾ ಬೂಸ್ಟ್ ಅಲ್ಗಾರಿದಮ್ ಅನ್ನು ಪಡೆದುಕೊಂಡಿದ್ದೇವೆಃ ಪ್ರತಿ ಪುನರಾವರ್ತನೆಯಲ್ಲಿ, ಒಟ್ಟು ತೂಕದ ದೋಷವನ್ನು ಕಡಿಮೆ ಮಾಡುವ ವರ್ಗೀಕರಣವನ್ನು ಆಯ್ಕೆ ಮಾಡಿ, ದೋಷ ಪ್ರಮಾಣವನ್ನು ಲೆಕ್ಕ ಹಾಕಲು ಇದನ್ನು ಬಳಸಿ, ತೂಕವನ್ನು ಲೆಕ್ಕ ಹಾಕಲು ಇದನ್ನು ಬಳಸಿ, ಮತ್ತು ಅಂತಿಮವಾಗಿ ವರ್ಧಿತ ವರ್ಗೀಕರಣವನ್ನು ಸುಧಾರಿಸಲು ಇದನ್ನು ಬಳಸಿ. ಬೂಸ್ಟಿಂಗ್ ಅನ್ನು ಉತ್ತೇಜಿಸುವ ಅಂಕಿಅಂಶಗಳ ತಿಳುವಳಿಕೆಯು ರೇಖೀಯ ಹಿಂಜರಿತದ ಒಂದು ರೂಪವಾಗಿದೆ, ಇದರಲ್ಲಿ ಪ್ರತಿ ಮಾದರಿಯ ವೈಶಿಷ್ಟ್ಯಗಳು ಕೆಲವು ದುರ್ಬಲ ಕಲಿಯುವವರ ಫಲಿತಾಂಶಗಳಾಗಿವೆ. ಸಾಮಾನ್ಯೀಕರಣದ ನಷ್ಟವಿಲ್ಲದೆ ಹಿಂಜರಿತವು ಸಾಧ್ಯವಾದಷ್ಟು ನಿಖರವಾಗಿ ಹೊಂದಿಕೊಳ್ಳಲು ಪ್ರಯತ್ನಿಸುತ್ತದೆಯಾದರೂ, ಸಾಮಾನ್ಯವಾಗಿ ಕನಿಷ್ಠ ಚದರ ದೋಷವನ್ನು ಬಳಸುತ್ತದೆ, ಆದರೆ ಅಡಾ ಬೂಸ್ಟ್ ದೋಷ ಕಾರ್ಯವು ಅಂತಿಮ ಫಲಿತಾಂಶದ ಚಿಹ್ನೆಯನ್ನು ಮಾತ್ರ ಬಳಸಲಾಗುತ್ತದೆ ಎಂಬ ಅಂಶವನ್ನು ಗಣನೆಗೆ ತೆಗೆದುಕೊಳ್ಳುತ್ತದೆ, ಆದ್ದರಿಂದ ದೋಷವನ್ನು ಹೆಚ್ಚಿಸದೆ 1 ಕ್ಕಿಂತ ದೊಡ್ಡದಾಗಿರಬಹುದು. ಆದಾಗ್ಯೂ, ಮಾದರಿಯಲ್ಲಿನ ದೋಷದ ಘಾತೀಯ ಹೆಚ್ಚಳವು ಹೆಚ್ಚಾಗುತ್ತದೆ. ಇದರ ಪರಿಣಾಮವಾಗಿ ಹೊರಗಿನವರಿಗೆ ಅತಿಯಾದ ತೂಕವನ್ನು ನಿಗದಿಪಡಿಸಲಾಗುತ್ತದೆ. ಘಾತೀಯ ದೋಷ ಕಾರ್ಯದ ಆಯ್ಕೆಯ ಒಂದು ವೈಶಿಷ್ಟ್ಯವೆಂದರೆ ಅಂತಿಮ ಸಂಯೋಜಕ ಮಾದರಿಯ ದೋಷವು ಪ್ರತಿ ಹಂತದ ದೋಷದ ಉತ್ಪನ್ನವಾಗಿದೆ, ಅಂದರೆ. ಹೀಗಾಗಿ ಅಡಾ ಬೂಸ್ಟ್ ಅಲ್ಗಾರಿದಮ್ನಲ್ಲಿನ ತೂಕದ ನವೀಕರಣವು ಪ್ರತಿ ಹಂತದ ನಂತರ ದೋಷವನ್ನು ಮರು ಲೆಕ್ಕಾಚಾರ ಮಾಡಲು ಸಮಾನವಾಗಿದೆ ಎಂದು ಕಾಣಬಹುದು. ನಷ್ಟದ ಕಾರ್ಯದ ಆಯ್ಕೆಯಲ್ಲಿ ಸಾಕಷ್ಟು ನಮ್ಯತೆಯನ್ನು ಅನುಮತಿಸಲಾಗಿದೆ. ಎಲ್ಲಿಯವರೆಗೆ ನಷ್ಟದ ಕಾರ್ಯವು ಏಕತಾನತೆಯಿಂದ ಕೂಡಿರುತ್ತದೆ ಮತ್ತು ನಿರಂತರವಾಗಿ ಭೇದಿಸಬಲ್ಲದ್ದಾಗಿರುತ್ತದೆಯೋ ಅಲ್ಲಿಯವರೆಗೆ, ವರ್ಗೀಕರಣವು ಯಾವಾಗಲೂ ಶುದ್ಧ ಪರಿಹಾರಗಳ ಕಡೆಗೆ ಚಲಿಸುತ್ತದೆ. ಜಾಂಗ್ (2004) ಕನಿಷ್ಠ ಚೌಕಗಳ ಆಧಾರದ ಮೇಲೆ ನಷ್ಟದ ಕಾರ್ಯವನ್ನು ಒದಗಿಸುತ್ತದೆ, ಇದು ಮಾರ್ಪಡಿಸಿದ ಹ್ಯೂಬರ್ ನಷ್ಟದ ಕಾರ್ಯವಾಗಿದೆಃ ಈ ಕಾರ್ಯವು 1 ಅಥವಾ-1ರ ಹತ್ತಿರವಿರುವ ಲಾಜಿಟ್ಬೂಸ್ಟ್ಗಿಂತ ಹೆಚ್ಚು ಉತ್ತಮವಾಗಿ ವರ್ತಿಸುತ್ತದೆ, ಮಾರ್ಪಡಿಸದ ಕನಿಷ್ಠ ಚೌಕಗಳಿಗಿಂತ ಭಿನ್ನವಾಗಿ 'ಅತಿಯಾದ ಆತ್ಮವಿಶ್ವಾಸ' ಮುನ್ಸೂಚನೆಗಳನ್ನು () ದಂಡಿಸುವುದಿಲ್ಲ, ಮತ್ತು 1ಕ್ಕಿಂತ ಹೆಚ್ಚಿನ ವಿಶ್ವಾಸದೊಂದಿಗೆ ತಪ್ಪಾಗಿ ವರ್ಗೀಕರಿಸಲಾದ ಮಾದರಿಗಳನ್ನು ರೇಖೀಯವಾಗಿ ದಂಡಿಸುತ್ತದೆ, ಚತುರ್ಭುಜವಾಗಿ ಅಥವಾ ಘಾತೀಯವಾಗಿ ಬದಲಾಗಿ, ಮತ್ತು ಆದ್ದರಿಂದ ಹೊರಗಿನವರ ಪರಿಣಾಮಗಳಿಗೆ ಕಡಿಮೆ ಒಳಗಾಗುತ್ತದೆ. ಗ್ರೇಡಿಯಂಟ್ ಡಿಸೆಂಟ್ ಬೂಸ್ಟಿಂಗ್ ಅನ್ನು ಕನ್ವೆಕ್ಸ್ ಫಂಕ್ಷನ್ಗಳ ಗುಂಪಿನ ಮೇಲೆ ಕನ್ವೆಕ್ಸ್ ಲಾಸ್ ಫಂಕ್ಷನ್ ಅನ್ನು ಕಡಿಮೆ ಮಾಡುವಂತೆ ಕಾಣಬಹುದು. ನಿರ್ದಿಷ್ಟವಾಗಿ ಹೇಳುವುದಾದರೆ, ಅಡಾ ಬೂಸ್ಟ್ನಿಂದ ಕಡಿಮೆಯಾಗುವ ನಷ್ಟವು ಘಾತೀಯ ನಷ್ಟವಾಗಿದೆ, ಆದರೆ ಲಾಜಿಟ್ಬೂಸ್ಟ್ ಲಾಜಿಸ್ಟಿಕ್ ರಿಗ್ರೆಷನ್ ಅನ್ನು ಕಡಿಮೆ ಮಾಡುತ್ತದೆ. ಗ್ರೇಡಿಯಂಟ್ ಡಿಸೆಂಟ್ ಸಾದೃಶ್ಯದಲ್ಲಿ, ಪ್ರತಿ ತರಬೇತಿ ಬಿಂದುವಿನ ವರ್ಗೀಕರಣದ ಔಟ್ಪುಟ್ ಅನ್ನು n-ಆಯಾಮದ ಜಾಗದಲ್ಲಿ ಒಂದು ಬಿಂದು ಎಂದು ಪರಿಗಣಿಸಲಾಗುತ್ತದೆ, ಅಲ್ಲಿ ಪ್ರತಿ ಅಕ್ಷವು ತರಬೇತಿ ಮಾದರಿಗೆ ಅನುಗುಣವಾಗಿರುತ್ತದೆ, ಪ್ರತಿ ದುರ್ಬಲ ಕಲಿಯುವವರು ಸ್ಥಿರ ದೃಷ್ಟಿಕೋನ ಮತ್ತು ಉದ್ದದ ವಾಹಕಕ್ಕೆ ಅನುಗುಣವಾಗಿರುತ್ತಾರೆ ಮತ್ತು ಗುರಿ ಬಿಂದುವನ್ನು ತಲುಪುವುದು (ಅಥವಾ ನಷ್ಟದ ಕಾರ್ಯದ ಮೌಲ್ಯವು ಆ ಹಂತದಲ್ಲಿ ಮೌಲ್ಯಕ್ಕಿಂತ ಕಡಿಮೆಯಿರುವ ಯಾವುದೇ ಪ್ರದೇಶ), ಕಡಿಮೆ ಹಂತಗಳಲ್ಲಿ. ಹೀಗಾಗಿ ಅಡಾ ಬೂಸ್ಟ್ ಕ್ರಮಾವಳಿಗಳು ಕೋಚಿ (ಕಡಿದಾದ ಗ್ರೇಡಿಯಂಟ್ನೊಂದಿಗೆ ಹುಡುಕಿ, ಪರೀಕ್ಷಾ ದೋಷವನ್ನು ಕಡಿಮೆ ಮಾಡಲು ಆಯ್ಕೆ ಮಾಡಿ) ಅಥವಾ ನ್ಯೂಟನ್ (ಕೆಲವು ಗುರಿ ಬಿಂದುವನ್ನು ಆಯ್ಕೆ ಮಾಡಿ, ಆ ಹಂತಕ್ಕೆ ಹತ್ತಿರವಾದದನ್ನು ಕಂಡುಕೊಳ್ಳಿ) ತರಬೇತಿ ದೋಷದ ಆಪ್ಟಿಮೈಸೇಶನ್ ಅನ್ನು ನಿರ್ವಹಿಸುತ್ತವೆ. ಉದಾಹರಣೆ ಅಲ್ಗಾರಿದಮ್ (ಡಿಸ್ಕ್ರೀಟ್ ಅಡಾ ಬೂಸ್ಟ್) ಯೊಂದಿಗೆಃ ಮಾದರಿಗಳು ಬಯಸಿದ ಫಲಿತಾಂಶಗಳು ಆರಂಭಿಕ ತೂಕಗಳನ್ನು ದೋಷ ಕಾರ್ಯಕ್ಕೆ ಹೊಂದಿಸಲಾಗಿದೆ ದುರ್ಬಲ ಕಲಿಯುವವರು ಇದಕ್ಕಾಗಿಃ ಆಯ್ಕೆ ಮಾಡಿಃ ಕಡಿಮೆ ಮಾಡುವ ದುರ್ಬಲ ಕಲಿಯುವವರನ್ನು ಹುಡುಕಿ, ತಪ್ಪಾಗಿ ವರ್ಗೀಕರಿಸಲಾದ ಅಂಕಗಳಿಗೆ ತೂಕದ ಮೊತ್ತದ ದೋಷವು ಸಮೂಹಕ್ಕೆ ಸೇರಿಸುವುದನ್ನು ಆಯ್ಕೆ ಮಾಡಿಃ ತೂಕಗಳನ್ನು ನವೀಕರಿಸಿಃ ಏಕೆಂದರೆ ಪುನರ್ರಚನೆಯಲ್ಲಿ (ಗಮನಿಸಿಃ ಪ್ರತಿ ಹಂತದಲ್ಲೂ, ಇದು ಹೊಸ ತೂಕಗಳ ಲೆಕ್ಕಾಚಾರವನ್ನು ಸರಳಗೊಳಿಸಬಹುದು ಎಂದು ತೋರಿಸಬಹುದು.) ವ್ಯತ್ಯಾಸಗಳು ರಿಯಲ್ ಅಡಾ ಬೂಸ್ಟ್ ನಿರ್ಧಾರದ ಮರಗಳ ಉತ್ಪಾದನೆಯು ಒಂದು ವರ್ಗದ ಸಂಭವನೀಯತೆಯ ಅಂದಾಜಾಗಿದೆ, ಇದು ಧನಾತ್ಮಕ ವರ್ಗದ ಸಂಭವನೀಯತೆಯಾಗಿದೆ. ಫ್ರೀಡ್ಮನ್, ಹ್ಯಾಸ್ಟಿ ಮತ್ತು ಟಿಬ್ಶಿರಾನಿ ಕೆಲವು ಸ್ಥಿರ (ಸಾಮಾನ್ಯವಾಗಿ ತೂಕದ ಕನಿಷ್ಠ ಚೌಕಗಳ ದೋಷವನ್ನು ಬಳಸಿಕೊಂಡು ಆಯ್ಕೆ) ಗಾಗಿ ವಿಶ್ಲೇಷಣಾತ್ಮಕ ಕನಿಷ್ಠಕಾರಕವನ್ನು ಪಡೆಯುತ್ತಾರೆಃ ಹೀಗಾಗಿ, ಇಡೀ ಮರದ ಔಟ್ಪುಟ್ ಅನ್ನು ಕೆಲವು ಸ್ಥಿರ ಮೌಲ್ಯದಿಂದ ಗುಣಿಸುವ ಬದಲು, ಪ್ರತಿ ಲೀಫ್ ನೋಡ್ ಅನ್ನು ಅದರ ಹಿಂದಿನ ಮೌಲ್ಯದ ಅರ್ಧದಷ್ಟು ಲಾಗಿಟ್ ರೂಪಾಂತರವನ್ನು ಔಟ್ಪುಟ್ ಮಾಡಲು ಬದಲಾಯಿಸಲಾಗುತ್ತದೆ. ಲಾಜಿಟ್ಬೂಸ್ಟ್ ಅಡಾಬೂಸ್ಟ್ ವಿಧಾನಕ್ಕೆ ಸ್ಥಾಪಿತವಾದ ಲಾಜಿಸ್ಟಿಕ್ ರಿಗ್ರೆಷನ್ ತಂತ್ರಗಳ ಅನ್ವಯವನ್ನು ಪ್ರತಿನಿಧಿಸುತ್ತದೆ. y ಗೆ ಸಂಬಂಧಿಸಿದಂತೆ ದೋಷವನ್ನು ಕಡಿಮೆ ಮಾಡುವ ಬದಲು, ದುರ್ಬಲ ಕಲಿಯುವವರನ್ನು (ತೂಕದ ಕನಿಷ್ಠ-ವರ್ಗ) ದೋಷವನ್ನು ಕಡಿಮೆ ಮಾಡಲು ಆಯ್ಕೆ ಮಾಡಲಾಗುತ್ತದೆ. p ಯು 1 ಅಥವಾ 0 ಅನ್ನು ಸಮೀಪಿಸುತ್ತಿದ್ದಂತೆ, ಅದರ ಮೌಲ್ಯವು ತುಂಬಾ ಚಿಕ್ಕದಾಗುತ್ತದೆ ಮತ್ತು ತಪ್ಪಾಗಿ ವರ್ಗೀಕರಿಸಲಾದ ಮಾದರಿಗಳಿಗೆ ದೊಡ್ಡದಾದ z ಪದವು ಯಂತ್ರದ ನಿಖರವಾದ ರೌಂಡಿಂಗ್ ದೋಷಗಳಿಂದಾಗಿ ಸಂಖ್ಯಾತ್ಮಕವಾಗಿ ಅಸ್ಥಿರವಾಗಬಹುದು. ಹಿಂದಿನ ಬೂಸ್ಟಿಂಗ್ ಕ್ರಮಾವಳಿಗಳು ದುರಾಸೆಯಿಂದ ಆಯ್ಕೆ ಮಾಡುವಾಗ, ಪ್ರತಿ ಹಂತದಲ್ಲೂ ಒಟ್ಟಾರೆ ಪರೀಕ್ಷಾ ದೋಷವನ್ನು ಸಾಧ್ಯವಾದಷ್ಟು ಕಡಿಮೆ ಮಾಡುತ್ತವೆ, ಜೆಂಟಲ್ ಬೂಸ್ಟ್ ಒಂದು ಸೀಮಿತ ಹಂತದ ಗಾತ್ರವನ್ನು ಹೊಂದಿದೆ. ಕಡಿಮೆ ಮಾಡಲು ಆಯ್ಕೆ ಮಾಡಲಾಗುತ್ತದೆ, ಮತ್ತು ಯಾವುದೇ ಹೆಚ್ಚಿನ ಗುಣಾಂಕವನ್ನು ಅನ್ವಯಿಸಲಾಗುವುದಿಲ್ಲ. ಹೀಗಾಗಿ, ದುರ್ಬಲ ಕಲಿಯುವವರು ಪರಿಪೂರ್ಣ ವರ್ಗೀಕರಣ ಕಾರ್ಯಕ್ಷಮತೆಯನ್ನು ಪ್ರದರ್ಶಿಸುವ ಸಂದರ್ಭದಲ್ಲಿ, ಜಂಟಲ್ ಬೂಸ್ಟ್ ನಿಖರವಾಗಿ ಸಮನಾಗಿರುವುದನ್ನು ಆಯ್ಕೆ ಮಾಡುತ್ತದೆ, ಆದರೆ ಸ್ಟೀಪಸ್ಟ್ ಡಿಸೆಂಟ್ ಕ್ರಮಾವಳಿಗಳು ಹೊಂದಿಸಲು ಪ್ರಯತ್ನಿಸುತ್ತವೆ. ಜೆಂಟಲ್ ಬೂಸ್ಟ್ನ ಉತ್ತಮ ಕಾರ್ಯಕ್ಷಮತೆಯ ಬಗ್ಗೆ ಪ್ರಾಯೋಗಿಕ ಅವಲೋಕನಗಳು ಸ್ಕ್ಯಾಪೈರ್ ಮತ್ತು ಸಿಂಗರ್ ಅವರ ಹೇಳಿಕೆಯನ್ನು ಬೆಂಬಲಿಸುವಂತೆ ತೋರುತ್ತದೆ, ಹೆಚ್ಚಿನ ದೊಡ್ಡ ಮೌಲ್ಯಗಳಿಗೆ ಅವಕಾಶ ನೀಡುವುದು ಕಳಪೆ ಸಾಮಾನ್ಯೀಕರಣದ ಕಾರ್ಯಕ್ಷಮತೆಗೆ ಕಾರಣವಾಗಬಹುದು. ಆರಂಭಿಕ ಮುಕ್ತಾಯವು ವರ್ಧಿತ ವರ್ಗೀಕರಣಗಳ ಪ್ರಕ್ರಿಯೆಯನ್ನು ವೇಗಗೊಳಿಸುವ ಒಂದು ತಂತ್ರವಾಗಿದೆ, ಆರಂಭಿಕ ಮುಕ್ತಾಯವು ಪ್ರತಿ ಸಂಭಾವ್ಯ ವಸ್ತುವನ್ನು ಕೆಲವು ವಿಶ್ವಾಸಾರ್ಹ ಮಿತಿಯನ್ನು ಪೂರೈಸಲು ಅಗತ್ಯವಾದ ಅಂತಿಮ ವರ್ಗೀಕರಣದ ಅನೇಕ ಪದರಗಳೊಂದಿಗೆ ಮಾತ್ರ ಪರೀಕ್ಷಿಸುವುದನ್ನು ಸೂಚಿಸುತ್ತದೆ, ವಸ್ತುವಿನ ವರ್ಗವನ್ನು ಸುಲಭವಾಗಿ ನಿರ್ಧರಿಸಬಹುದಾದ ಪ್ರಕರಣಗಳಿಗೆ ಗಣನೆಯನ್ನು ವೇಗಗೊಳಿಸುತ್ತದೆ. ಅಂತಹ ಒಂದು ಯೋಜನೆಯು ವಿಯೋಲಾ ಮತ್ತು ಜೋನ್ಸ್ ಪರಿಚಯಿಸಿದ ಆಬ್ಜೆಕ್ಟ್ ಡಿಟೆಕ್ಷನ್ ಫ್ರೇಮ್ವರ್ಕ್ ಆಗಿದೆಃ ಧನಾತ್ಮಕಕ್ಕಿಂತ ಗಮನಾರ್ಹವಾಗಿ ಹೆಚ್ಚು ಋಣಾತ್ಮಕ ಮಾದರಿಗಳನ್ನು ಹೊಂದಿರುವ ಅಪ್ಲಿಕೇಶನ್ನಲ್ಲಿ, ಪ್ರತ್ಯೇಕ ಬೂಸ್ಟ್ ಕ್ಲಾಸಿಫೈಯರ್ಗಳ ಕ್ಯಾಸ್ಕೇಡ್ ಅನ್ನು ತರಬೇತಿ ನೀಡಲಾಗುತ್ತದೆ, ಪ್ರತಿ ಹಂತದ ಔಟ್ಪುಟ್ ಅನ್ನು ಪಕ್ಷಪಾತದಿಂದ ಧನಾತ್ಮಕ ಮಾದರಿಗಳ ಕೆಲವು ಸ್ವೀಕಾರಾರ್ಹ ಸಣ್ಣ ಭಾಗವನ್ನು ಋಣಾತ್ಮಕ ಎಂದು ತಪ್ಪಾಗಿ ಲೇಬಲ್ ಮಾಡಲಾಗುತ್ತದೆ ಮತ್ತು ಪ್ರತಿ ಹಂತದ ನಂತರ ಋಣಾತ್ಮಕ ಎಂದು ಗುರುತಿಸಲಾದ ಎಲ್ಲಾ ಮಾದರಿಗಳನ್ನು ತಿರಸ್ಕರಿಸಲಾಗುತ್ತದೆ. ಪ್ರತಿ ಹಂತದಲ್ಲೂ ಶೇಕಡಾ 50ರಷ್ಟು ಋಣಾತ್ಮಕ ಮಾದರಿಗಳನ್ನು ಫಿಲ್ಟರ್ ಮಾಡಿದರೆ, ಬಹಳ ಕಡಿಮೆ ಸಂಖ್ಯೆಯ ವಸ್ತುಗಳು ಮಾತ್ರ ಇಡೀ ವರ್ಗೀಕರಣದ ಮೂಲಕ ಹಾದುಹೋಗುತ್ತವೆ, ಇದು ಗಣನೆಯ ಪ್ರಯತ್ನವನ್ನು ಕಡಿಮೆ ಮಾಡುತ್ತದೆ. ಈ ವಿಧಾನವನ್ನು ನಂತರ ಸಾಮಾನ್ಯೀಕರಿಸಲಾಗಿದೆ, ಕೆಲವು ಅಪೇಕ್ಷಿತ ತಪ್ಪು ಧನಾತ್ಮಕ ಮತ್ತು ತಪ್ಪು ಋಣಾತ್ಮಕ ದರವನ್ನು ಸಾಧಿಸಲು ಪ್ರತಿ ಹಂತದಲ್ಲೂ ಸೂಕ್ತ ಮಿತಿಗಳನ್ನು ಆಯ್ಕೆ ಮಾಡಲು ಸೂತ್ರವನ್ನು ಒದಗಿಸಲಾಗಿದೆ. ಅಂಕಿಅಂಶಗಳ ಕ್ಷೇತ್ರದಲ್ಲಿ, ಮಧ್ಯಮ ಆಯಾಮದ ಸಮಸ್ಯೆಗಳಿಗೆ ಅಡಾ ಬೂಸ್ಟ್ ಅನ್ನು ಹೆಚ್ಚು ಸಾಮಾನ್ಯವಾಗಿ ಅನ್ವಯಿಸಲಾಗುತ್ತದೆಯಾದ್ದರಿಂದ, ಮುಂಚಿತವಾಗಿ ನಿಲ್ಲಿಸುವುದನ್ನು ಮಿತಿಮೀರಿದ ಹಿಡಿತವನ್ನು ಕಡಿಮೆ ಮಾಡುವ ತಂತ್ರವಾಗಿ ಬಳಸಲಾಗುತ್ತದೆ. ಮಾದರಿಗಳ ಮೌಲ್ಯಮಾಪನ ಗುಂಪನ್ನು ತರಬೇತಿ ಗುಂಪಿನಿಂದ ಬೇರ್ಪಡಿಸಲಾಗುತ್ತದೆ, ತರಬೇತಿಗಾಗಿ ಬಳಸುವ ಮಾದರಿಗಳ ಮೇಲಿನ ವರ್ಗೀಕರಣದ ಕಾರ್ಯಕ್ಷಮತೆಯನ್ನು ಮೌಲ್ಯಮಾಪನ ಮಾದರಿಗಳ ಮೇಲಿನ ಕಾರ್ಯಕ್ಷಮತೆಗೆ ಹೋಲಿಸಲಾಗುತ್ತದೆ ಮತ್ತು ತರಬೇತಿ ಗುಂಪಿನಲ್ಲಿನ ಕಾರ್ಯಕ್ಷಮತೆಯು ಸುಧಾರಿಸುತ್ತಲೇ ಇದ್ದರೂ ಸಹ ಮೌಲ್ಯಮಾಪನ ಮಾದರಿಯಲ್ಲಿನ ಕಾರ್ಯಕ್ಷಮತೆಯು ಕಡಿಮೆಯಾಗಿರುವುದು ಕಂಡುಬಂದರೆ ತರಬೇತಿಯನ್ನು ಕೊನೆಗೊಳಿಸಲಾಗುತ್ತದೆ. ಸಂಪೂರ್ಣ ಸರಿಪಡಿಸುವ ಕ್ರಮಾವಳಿಗಳು ಅಡಾ ಬೂಸ್ಟ್ನ ಕಡಿದಾದ ಅವರೋಹಣ ಆವೃತ್ತಿಗಳಿಗೆ, ಅಲ್ಲಿ ಪರೀಕ್ಷಾ ದೋಷವನ್ನು ಕಡಿಮೆ ಮಾಡಲು ಪ್ರತಿ ಪದರ ಟಿಯಲ್ಲಿ ಆಯ್ಕೆ ಮಾಡಲಾಗುತ್ತದೆ, ಸೇರಿಸಲಾದ ಮುಂದಿನ ಪದರವು ಪದರ ಟಿಯಿಂದ ಗರಿಷ್ಠವಾಗಿ ಸ್ವತಂತ್ರವಾಗಿದೆ ಎಂದು ಹೇಳಲಾಗುತ್ತದೆಃ ಕಲಿಯುವವರ ಟಿಯನ್ನು ಹೋಲುವ ದುರ್ಬಲ ಕಲಿಯುವವರ ಟಿ + 1 ಅನ್ನು ಆಯ್ಕೆ ಮಾಡುವುದು ಅಸಂಭವವಾಗಿದೆ. ಆದಾಗ್ಯೂ, ಟಿ + 1 ಹಿಂದಿನ ಕೆಲವು ಪದರಗಳಿಗೆ ಹೋಲುವ ಮಾಹಿತಿಯನ್ನು ಉತ್ಪಾದಿಸುವ ಸಾಧ್ಯತೆಯಿದೆ. ಎಲ್ಪಿಬೂಸ್ಟ್ನಂತಹ ಸಂಪೂರ್ಣವಾಗಿ ಸರಿಪಡಿಸುವ ಕ್ರಮಾವಳಿಗಳು, ಪ್ರತಿ ಹಂತದ ನಂತರ ಪ್ರತಿ ಗುಣಾಂಕದ ಮೌಲ್ಯವನ್ನು ಅತ್ಯುತ್ತಮವಾಗಿಸುತ್ತವೆ, ಅಂದರೆ ಸೇರಿಸಲಾದ ಹೊಸ ಪದರಗಳು ಯಾವಾಗಲೂ ಹಿಂದಿನ ಪ್ರತಿಯೊಂದು ಪದರಕ್ಕಿಂತ ಗರಿಷ್ಠವಾಗಿ ಸ್ವತಂತ್ರವಾಗಿರುತ್ತವೆ. ಬ್ಯಾಕ್ಫಿಟಿಂಗ್, ಲೀನಿಯರ್ ಪ್ರೋಗ್ರಾಮಿಂಗ್ ಅಥವಾ ಬೇರೆ ಯಾವುದೇ ವಿಧಾನದಿಂದ ಇದನ್ನು ಸಾಧಿಸಬಹುದು. ಸಮರುವಿಕೆಯನ್ನು ಕತ್ತರಿಸುವುದು ಎಂದರೆ ವರ್ಧಿತ ವರ್ಗೀಕರಣದ ಸ್ಮರಣೆ ಮತ್ತು ಕಾರ್ಯಗತಗೊಳಿಸುವ ಸಮಯದ ವೆಚ್ಚವನ್ನು ಸುಧಾರಿಸಲು ಕಳಪೆ ಕಾರ್ಯಕ್ಷಮತೆಯ ದುರ್ಬಲ ವರ್ಗೀಕರಣಗಳನ್ನು ತೆಗೆದುಹಾಕುವ ಪ್ರಕ್ರಿಯೆಯಾಗಿದೆ. ಸಂಪೂರ್ಣವಾಗಿ ಸರಿಪಡಿಸುವ ತರಬೇತಿಯೊಂದಿಗೆ ವಿಶೇಷವಾಗಿ ಪರಿಣಾಮಕಾರಿಯಾಗಬಹುದಾದ ಸರಳ ವಿಧಾನಗಳೆಂದರೆ ತೂಕ-ಅಥವಾ ಅಂಚು-ಟ್ರಿಮ್ಮಿಂಗ್ಃ ಕೆಲವು ದುರ್ಬಲ ವರ್ಗೀಕರಣದ ಗುಣಾಂಕ ಅಥವಾ ಒಟ್ಟು ಪರೀಕ್ಷಾ ದೋಷಕ್ಕೆ ಕೊಡುಗೆಯು ಒಂದು ನಿರ್ದಿಷ್ಟ ಮಿತಿಗಿಂತ ಕಡಿಮೆಯಾದಾಗ, ಆ ವರ್ಗೀಕರಣವನ್ನು ಕೈಬಿಡಲಾಗುತ್ತದೆ. ಮಾರ್ಜಿನ್ಯಾಂಟು ಮತ್ತು ಡೈಟ್ಟೆರಿಚ್ ಟ್ರಿಮ್ಮಿಂಗ್ಗೆ ಪರ್ಯಾಯ ಮಾನದಂಡವನ್ನು ಸೂಚಿಸಿದರುಃ ದುರ್ಬಲ ವರ್ಗೀಕರಣಗಳನ್ನು ಆಯ್ಕೆ ಮಾಡಬೇಕು, ಅದು ಸಮೂಹದ ವೈವಿಧ್ಯತೆಯನ್ನು ಗರಿಷ್ಠಗೊಳಿಸುತ್ತದೆ. ಇಬ್ಬರು ದುರ್ಬಲ ಕಲಿಯುವವರು ಒಂದೇ ರೀತಿಯ ಫಲಿತಾಂಶಗಳನ್ನು ನೀಡಿದರೆ, ಅವುಗಳಲ್ಲಿ ಒಂದನ್ನು ತೆಗೆದುಹಾಕುವ ಮೂಲಕ ಮತ್ತು ಉಳಿದ ದುರ್ಬಲ ಕಲಿಯುವವರ ಗುಣಾಂಕವನ್ನು ಹೆಚ್ಚಿಸುವ ಮೂಲಕ ದಕ್ಷತೆಯನ್ನು ಸುಧಾರಿಸಬಹುದು. ಬೂಟ್ಸ್ಟ್ರ್ಯಾಪ್ ಅಗ್ರಿಗೇಟಿಂಗ್ ಕೋಬೂಸ್ಟಿಂಗ್ ಬ್ರೌನ್ ಬೂಸ್ಟ್ ಗ್ರೇಡಿಯಂಟ್ ಬೂಸ್ಟಿಂಗ್ ರೆಫೆರೆನ್ಸಸ್ ಅನ್ನು ಸಹ ನೋಡಿ ಯೋವ್ ಫ್ರಾಯ್ಡ್ ಮತ್ತು ರಾಬರ್ಟ್ E.Schapire ಅವರ ಮೂಲ ಪ್ರಬಂಧವನ್ನು ಮತ್ತಷ್ಟು ಓದುವುದು ಅಲ್ಲಿ ಅಡಾ ಬೂಸ್ಟ್ ಅನ್ನು ಮೊದಲು ಪರಿಚಯಿಸಲಾಗಿದೆ. ಬೂಸ್ಟಿಂಗ್ ಅಲ್ಗಾರಿದಮ್ನ ಅಂಚಿನ ವಿವರಣೆಯ ಮೇಲೆ. ಮಾರ್ಜಿನ್ ಬಗ್ಗೆ ಅನುಮಾನದ ಮೇಲೆ ವರ್ಧನೆಯ ವಿವರಣೆ. ವರ್ಗೀಕರಣ ಕ್ರಮಾವಳಿಗಳು ಒಗ್ಗೂಡಿಸುವ ಕಲಿಕೆ