The Alignment Problem
ದಿ ಅಲೈನ್ಮೆಂಟ್ ಪ್ರಾಬ್ಲಮ್ಃ ಮೆಷಿನ್ ಲರ್ನಿಂಗ್ ಅಂಡ್ ಹ್ಯೂಮನ್ ವ್ಯಾಲ್ಯೂಸ್ ಎಂಬುದು ಅಮೆರಿಕಾದ ಬರಹಗಾರ ಬ್ರಿಯಾನ್ ಕ್ರಿಶ್ಚಿಯನ್ ಅವರ 2020ರ ಕಾಲ್ಪನಿಕವಲ್ಲದ ಪುಸ್ತಕವಾಗಿದೆ. ಇದು ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ ವ್ಯವಸ್ಥೆಗಳನ್ನು, ವಿಶೇಷವಾಗಿ ಯಂತ್ರ ಕಲಿಕಾ ವ್ಯವಸ್ಥೆಗಳನ್ನು ನಿರ್ಮಿಸಲು ಪ್ರಯತ್ನಿಸುತ್ತಿರುವ ತಜ್ಞರೊಂದಿಗಿನ ಹಲವಾರು ಸಂದರ್ಶನಗಳನ್ನು ಆಧರಿಸಿದೆ, ಅವು ಮಾನವ ಮೌಲ್ಯಗಳೊಂದಿಗೆ ಹೊಂದಿಕೆಯಾಗುತ್ತವೆ. ಈ ಪುಸ್ತಕವನ್ನು ಮೂರು ವಿಭಾಗಗಳಾಗಿ ವಿಂಗಡಿಸಲಾಗಿದೆಃ ಭವಿಷ್ಯವಾಣಿ, ಏಜೆನ್ಸಿ ಮತ್ತು ನಾರ್ಮ್ಯಾಟಿವಿಟಿ. ಪ್ರತಿ ವಿಭಾಗವು ಮಾನವ ಮೌಲ್ಯಗಳೊಂದಿಗೆ ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ ಹೊಂದಾಣಿಕೆಯಲ್ಲಿ ವಿವಿಧ ಸವಾಲುಗಳ ಮೇಲೆ ಕೆಲಸ ಮಾಡುವ ಸಂಶೋಧಕರು ಮತ್ತು ಎಂಜಿನಿಯರ್ಗಳನ್ನು ಒಳಗೊಂಡಿದೆ. ಮೊದಲ ವಿಭಾಗದಲ್ಲಿ, ಕ್ರಿಶ್ಚಿಯನ್ ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ ಸಂಶೋಧನೆಯ ಇತಿಹಾಸದ ಚರ್ಚೆಗಳನ್ನು, ವಿಶೇಷವಾಗಿ ಪೆರ್ಸೆಪ್ಟ್ರಾನ್ ಮತ್ತು ಅಲೆಕ್ಸ್ನೆಟ್ನಂತಹ ಕೃತಕ ನರ ಜಾಲಗಳ ಯಂತ್ರ ಕಲಿಕೆಯ ವಿಧಾನವನ್ನು, AI ವ್ಯವಸ್ಥೆಗಳು ಹೇಗೆ ಅನಪೇಕ್ಷಿತ ನಡವಳಿಕೆಯನ್ನು ಹೊಂದಬಹುದು ಎಂಬುದರ ಉದಾಹರಣೆಗಳೊಂದಿಗೆ ಬೆಸೆದುಕೊಂಡಿದೆ. ಆತ ಪತ್ರಕರ್ತೆ ಜೂಲಿಯಾ ಆಂಗ್ವಿನ್ ಅವರ ಕಥೆಯನ್ನು ಹೇಳುತ್ತಾನೆ, ಅವರ ಕಾಂಪಾಸ್ ಅಲ್ಗಾರಿದಮ್ನ ಪ್ರೊಪಬ್ಲಿಕಾ ತನಿಖೆಯು ಕ್ರಿಮಿನಲ್ ಪ್ರತಿವಾದಿಗಳಲ್ಲಿ ಪುನರಾವರ್ತನೆಯನ್ನು ಊಹಿಸುವ ಸಾಧನವಾಗಿದ್ದು, ಕೆಲವು ಜನಸಂಖ್ಯಾಶಾಸ್ತ್ರದ ಬಗ್ಗೆ ಅದರ ನಿಖರತೆ ಮತ್ತು ಪಕ್ಷಪಾತದ ಬಗ್ಗೆ ವ್ಯಾಪಕ ಟೀಕೆಗೆ ಕಾರಣವಾಯಿತು. ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ ಪ್ರಮುಖ ಜೋಡಣೆಯ ಸವಾಲುಗಳಲ್ಲಿ ಒಂದು ಅದರ ಕಪ್ಪು ಪೆಟ್ಟಿಗೆಯ ಸ್ವರೂಪವಾಗಿದೆ (ಒಳಹರಿವು ಮತ್ತು ಔಟ್ಪುಟ್ಗಳನ್ನು ಗುರುತಿಸಬಹುದಾಗಿದೆ ಆದರೆ ನಡುವೆ ಪರಿವರ್ತನೆಯ ಪ್ರಕ್ರಿಯೆಯನ್ನು ನಿರ್ಧರಿಸಲಾಗುವುದಿಲ್ಲ). ಪಾರದರ್ಶಕತೆಯ ಕೊರತೆಯು ವ್ಯವಸ್ಥೆಯು ಎಲ್ಲಿ ಸರಿಯಾಗುತ್ತಿದೆ ಮತ್ತು ಎಲ್ಲಿ ತಪ್ಪಾಗುತ್ತಿದೆ ಎಂಬುದನ್ನು ತಿಳಿಯಲು ಕಷ್ಟವಾಗುತ್ತದೆ. ಎರಡನೇ ವಿಭಾಗದಲ್ಲಿ, ಕ್ರಿಶ್ಚಿಯನ್ ಅದೇ ರೀತಿ ನಡವಳಿಕೆ ಮತ್ತು ಡೋಪಮೈನ್ನಂತಹ ಬಹುಮಾನದ ಮಾನಸಿಕ ಅಧ್ಯಯನದ ಇತಿಹಾಸವನ್ನು ಬಲವರ್ಧನೆಯ ಕಲಿಕೆಯ ಕಂಪ್ಯೂಟರ್ ವಿಜ್ಞಾನದೊಂದಿಗೆ ಬೆಸೆದುಕೊಂಡಿದ್ದಾರೆ, ಇದರಲ್ಲಿ AI ವ್ಯವಸ್ಥೆಗಳು ಮೌಲ್ಯದ ಕಾರ್ಯದ ("ಯಾವ ಪ್ರತಿಫಲ ಅಥವಾ ಶಿಕ್ಷೆಯನ್ನು ನಿರೀಕ್ಷಿಸಬಹುದು") ಎದುರಿನಲ್ಲಿ ನೀತಿಯನ್ನು ("ಏನು ಮಾಡಬೇಕು") ಅಭಿವೃದ್ಧಿಪಡಿಸಬೇಕಾಗಿದೆ. ಅವರು ಡೀಪ್ ಮೈಂಡ್ ಆಲ್ಫಾಗೋ ಮತ್ತು ಆಲ್ಫಾಜಿರೋ ವ್ಯವಸ್ಥೆಗಳನ್ನು "ಸ್ವಯಂಚಾಲಿತ ಪಠ್ಯಕ್ರಮದ ವಿನ್ಯಾಸದಲ್ಲಿ ಬಹುಶಃ ಅತ್ಯಂತ ಪ್ರಭಾವಶಾಲಿ ಸಾಧನೆ" ಎಂದು ಕರೆಯುತ್ತಾರೆ. ಅವರು ಕುತೂಹಲದ ಮಹತ್ವವನ್ನು ಎತ್ತಿ ತೋರಿಸುತ್ತಾರೆ, ಇದರಲ್ಲಿ ಬಲವರ್ಧನೆಯ ಕಲಿಯುವವರು ಬಾಹ್ಯ ಪ್ರತಿಫಲವನ್ನು ಮಾತ್ರ ಹುಡುಕುವ ಬದಲು ತಮ್ಮ ಪರಿಸರವನ್ನು ಅನ್ವೇಷಿಸಲು ಅಂತರ್ಗತವಾಗಿ ಪ್ರೇರೇಪಿಸಲ್ಪಡುತ್ತಾರೆ. ನಾರ್ಮ್ಯಾಟಿವಿಟಿ ಮೂರನೇ ವಿಭಾಗವು ಮಾನವ ಅಥವಾ ಯಂತ್ರದ ನಡವಳಿಕೆಯನ್ನು ಅನುಕರಿಸುವ ಮೂಲಕ AI ತರಬೇತಿ ಮತ್ತು AI ವ್ಯವಸ್ಥೆಗಳಿಗೆ ವಿಭಿನ್ನ ಆದರ್ಶ ನಡವಳಿಕೆಯನ್ನು ಸೂಚಿಸುವ ಸಂಭವನೀಯತೆ ಮತ್ತು ವಾಸ್ತವಿಕತೆಯಂತಹ ತಾತ್ವಿಕ ಚರ್ಚೆಗಳನ್ನು ಒಳಗೊಂಡಿದೆ. ಮನುಷ್ಯ ಅಥವಾ ಇನ್ನೊಬ್ಬ ಪ್ರತಿನಿಧಿಯ ವಸ್ತುನಿಷ್ಠ ಕಾರ್ಯವನ್ನು ಕಲಿಯಲು ಯಂತ್ರಗಳಿಗೆ ವಿಶಾಲವಾದ ವಿಧಾನವಾದ ವಿಲೋಮ ಬಲವರ್ಧನೆಯ ಕಲಿಕೆ ನಿರ್ದಿಷ್ಟ ಪ್ರಾಮುಖ್ಯತೆಯನ್ನು ಹೊಂದಿದೆ. ಕ್ರಿಶ್ಚಿಯನ್ ಪರಿಣಾಮಕಾರಿ ಪರಹಿತಚಿಂತನೆ ಮತ್ತು ಅಸ್ತಿತ್ವವಾದದ ಅಪಾಯಕ್ಕೆ ಸಂಬಂಧಿಸಿದ ಪ್ರಮಾಣಕ ಸವಾಲುಗಳನ್ನು ಚರ್ಚಿಸುತ್ತಾರೆ, ಇದರಲ್ಲಿ ತತ್ವಜ್ಞಾನಿಗಳಾದ ಟೋಬಿ ಓರ್ಡ್ ಮತ್ತು ವಿಲಿಯಂ ಮ್ಯಾಕ್ಆಸ್ಕಿಲ್ ಅವರ ಕೆಲಸವೂ ಸೇರಿದೆ, ಅವರು ಜೋಡಣೆಯ ಸಮಸ್ಯೆಯನ್ನು ಸಾಧ್ಯವಾದಷ್ಟು ಪರಿಣಾಮಕಾರಿಯಾಗಿ ನ್ಯಾವಿಗೇಟ್ ಮಾಡಲು ಮಾನವ ಮತ್ತು ಯಂತ್ರ ತಂತ್ರಗಳನ್ನು ರೂಪಿಸಲು ಪ್ರಯತ್ನಿಸುತ್ತಿದ್ದಾರೆ. ಈ ಪುಸ್ತಕವು ವಿಮರ್ಶಕರಿಂದ ಸಕಾರಾತ್ಮಕ ವಿಮರ್ಶೆಗಳನ್ನು ಪಡೆಯಿತು. ವಾಲ್ ಸ್ಟ್ರೀಟ್ ಜರ್ನಲ್ನ ಡೇವಿಡ್ ಎ. ಶೈವಿಟ್ಜ್ ಅವರು ನೈಜ-ಪ್ರಪಂಚದ ಸಮಸ್ಯೆಗಳಿಗೆ ಕ್ರಮಾವಳಿಗಳನ್ನು ಅನ್ವಯಿಸುವಾಗ ಆಗಾಗ್ಗೆ ಬರುವ ಸಮಸ್ಯೆಗಳನ್ನು ಒತ್ತಿಹೇಳಿದರು, ಈ ಪುಸ್ತಕವನ್ನು "ಈ ಬಿಳಿಯ-ಬಿಸಿ ವಿಷಯದ ಸೂಕ್ಷ್ಮ ಮತ್ತು ಆಕರ್ಷಕ ಪರಿಶೋಧನೆ" ಎಂದು ಬಣ್ಣಿಸಿದರು. ಪಬ್ಲಿಷರ್ಸ್ ವೀಕ್ಲಿ ಈ ಪುಸ್ತಕವನ್ನು ಅದರ ಬರವಣಿಗೆ ಮತ್ತು ವ್ಯಾಪಕ ಸಂಶೋಧನೆಗಾಗಿ ಶ್ಲಾಘಿಸಿತು. ಕಿರ್ಕಸ್ ರಿವ್ಯೂಸ್ ಈ ಪುಸ್ತಕಕ್ಕೆ ಸಕಾರಾತ್ಮಕ ವಿಮರ್ಶೆಯನ್ನು ನೀಡಿ, ಅದನ್ನು "ತಾಂತ್ರಿಕವಾಗಿ ಶ್ರೀಮಂತ ಆದರೆ ಪ್ರವೇಶಿಸಬಹುದಾದ" ಮತ್ತು "ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ ಕುತೂಹಲಕಾರಿ ಪರಿಶೋಧನೆ" ಎಂದು ಕರೆದಿದೆ. ನೇಚರ್ಗಾಗಿ ಬರೆಯುತ್ತಾ, ವರ್ಜೀನಿಯಾ ಡಿಗ್ನಮ್ ಈ ಪುಸ್ತಕಕ್ಕೆ ಸಕಾರಾತ್ಮಕ ವಿಮರ್ಶೆಯನ್ನು ನೀಡಿದರು, ಇದನ್ನು ಕೇಟ್ ಕ್ರಾಫೋರ್ಡ್ನ ಅಟ್ಲಾಸ್ ಆಫ್ ಎಐಃ ಪವರ್, ಪಾಲಿಟಿಕ್ಸ್, ಅಂಡ್ ದಿ ಪ್ಲಾನೆಟರಿ ಕಾಸ್ಟ್ಸ್ ಆಫ್ ಆರ್ಟಿಫಿಶಿಯಲ್ ಇಂಟೆಲಿಜೆನ್ಸ್ಗೆ ಹೋಲಿಸಿದರು. 2021ರಲ್ಲಿ, ಪತ್ರಕರ್ತೆ ಎಜ್ರಾ ಕ್ಲೈನ್ ತಮ್ಮ ಪಾಡ್ಕ್ಯಾಸ್ಟ್, ದಿ ಎಜ್ರಾ ಕ್ಲೈನ್ ಶೋನಲ್ಲಿ ಕ್ರಿಶ್ಚಿಯನ್ ಅವರನ್ನು ದಿ ನ್ಯೂಯಾರ್ಕ್ ಟೈಮ್ಸ್ನಲ್ಲಿ ಬರೆದಿದ್ದಾರೆ, "ದಿ ಅಲೈನ್ಮೆಂಟ್ ಪ್ರಾಬ್ಲಮ್ ಎ. ಐ. ಯ ಪ್ರಮುಖ ತಾಂತ್ರಿಕ ಮತ್ತು ನೈತಿಕ ಪ್ರಶ್ನೆಗಳ ಅತ್ಯುತ್ತಮ ಪುಸ್ತಕವಾಗಿದೆ. ಅದನ್ನು ನಾನು ಓದಿದ್ದೇನೆ ". ಆ ವರ್ಷದ ನಂತರ, ಈ ಪುಸ್ತಕವನ್ನು "ಈ ವರ್ಷ ಮೈಕ್ರೋಸಾಫ್ಟ್ ಸಿಇಒ ಸತ್ಯ ನಾಡೆಲ್ಲಾ ಅವರಿಗೆ ಸ್ಫೂರ್ತಿ ನೀಡಿದ 5 ಪುಸ್ತಕಗಳು" ಎಂಬ ಫಾಸ್ಟ್ ಕಂಪನಿಯ ವೈಶಿಷ್ಟ್ಯದಲ್ಲಿ ಪಟ್ಟಿ ಮಾಡಲಾಯಿತು. ಪರಿಣಾಮಕಾರಿ ಪರೋಪಕಾರ ಜಾಗತಿಕ ದುರಂತದ ಅಪಾಯ ಮಾನವ ಹೊಂದಾಣಿಕೆಃ ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ ಮತ್ತು ನಿಯಂತ್ರಣದ ಸಮಸ್ಯೆ ಸೂಪರ್ ಇಂಟೆಲಿಜೆನ್ಸ್ಃ ಮಾರ್ಗಗಳು, ಅಪಾಯಗಳು, ಕಾರ್ಯತಂತ್ರಗಳು ಉಲ್ಲೇಖಗಳು 2020 ಕಾಲ್ಪನಿಕವಲ್ಲದ ಪುಸ್ತಕಗಳು ಪರಿಣಾಮಕಾರಿ ಪರೋಪಕಾರದ ಬಗ್ಗೆ ಪುಸ್ತಕಗಳು ಅಸ್ತಿತ್ವವಾದದ ಅಪಾಯದ ಬಗ್ಗೆ ಪುಸ್ತಕಗಳು ಕೃತಕ ಸಾಮಾನ್ಯ ಬುದ್ಧಿವಂತಿಕೆಯಿಂದ ಅಸ್ತಿತ್ವವಾದದ ಅಪಾಯ ಇಂಗ್ಲಿಷ್ ಕಾಲ್ಪನಿಕವಲ್ಲದ ಪುಸ್ತಕಗಳು ಇಂಗ್ಲಿಷ್ ಭಾಷೆಯ ಪುಸ್ತಕಗಳು ಫ್ಯೂಚರಾಲಜಿ ಪುಸ್ತಕಗಳು ಡಬ್ಲ್ಯೂ. ಡಬ್ಲ್ಯೂ. ನಾರ್ಟನ್ & ಕಂಪನಿ ಪುಸ್ತಕಗಳು ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ ಬಗ್ಗೆ ಕಾಲ್ಪನಿಕವಲ್ಲದ ಪುಸ್ತಕಗಳು