AI safety
ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ ಸುರಕ್ಷತೆಯು ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ (ಎಐ) ವ್ಯವಸ್ಥೆಗಳಿಂದ ಉಂಟಾಗಬಹುದಾದ ಅಪಘಾತಗಳು, ದುರುಪಯೋಗ ಅಥವಾ ಇತರ ಹಾನಿಕಾರಕ ಪರಿಣಾಮಗಳನ್ನು ತಡೆಗಟ್ಟುವ ಅಂತರಶಿಕ್ಷಣ ಕ್ಷೇತ್ರವಾಗಿದೆ. ಇದು ಯಂತ್ರ ನೀತಿ ಮತ್ತು ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ ಜೋಡಣೆಯನ್ನು ಒಳಗೊಂಡಿದೆ, ಇದು ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ ವ್ಯವಸ್ಥೆಗಳನ್ನು ನೈತಿಕ ಮತ್ತು ಪ್ರಯೋಜನಕಾರಿಯನ್ನಾಗಿ ಮಾಡುವ ಗುರಿಯನ್ನು ಹೊಂದಿದೆ, ಮತ್ತು ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ ಸುರಕ್ಷತೆಯು ಅಪಾಯಗಳ ಮೇಲ್ವಿಚಾರಣಾ ವ್ಯವಸ್ಥೆಗಳು ಮತ್ತು ಅವುಗಳನ್ನು ಹೆಚ್ಚು ವಿಶ್ವಾಸಾರ್ಹವಾಗಿಸುವುದು ಸೇರಿದಂತೆ ತಾಂತ್ರಿಕ ಸಮಸ್ಯೆಗಳನ್ನು ಒಳಗೊಂಡಿದೆ. ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ ಸಂಶೋಧನೆಯ ಹೊರತಾಗಿ, ಇದು ಸುರಕ್ಷತೆಯನ್ನು ಉತ್ತೇಜಿಸುವ ಮಾನದಂಡಗಳು ಮತ್ತು ನೀತಿಗಳನ್ನು ಅಭಿವೃದ್ಧಿಪಡಿಸುವುದನ್ನು ಒಳಗೊಂಡಿರುತ್ತದೆ. AI ಸಂಶೋಧಕರು AI ತಂತ್ರಜ್ಞಾನದಿಂದ ಉಂಟಾಗುವ ಅಪಾಯದ ತೀವ್ರತೆ ಮತ್ತು ಪ್ರಾಥಮಿಕ ಮೂಲಗಳ ಬಗ್ಗೆ ವ್ಯಾಪಕವಾಗಿ ವಿಭಿನ್ನ ಅಭಿಪ್ರಾಯಗಳನ್ನು ಹೊಂದಿದ್ದಾರೆ-ಆದರೂ ತಜ್ಞರು ಹೆಚ್ಚಿನ ಪರಿಣಾಮದ ಅಪಾಯಗಳನ್ನು ಗಂಭೀರವಾಗಿ ಪರಿಗಣಿಸುತ್ತಾರೆ ಎಂದು ಸಮೀಕ್ಷೆಗಳು ಸೂಚಿಸುತ್ತವೆ. AI ಸಂಶೋಧಕರ ಎರಡು ಸಮೀಕ್ಷೆಗಳಲ್ಲಿ, ಸರಾಸರಿ ಪ್ರತಿಕ್ರಿಯಿಸಿದವರು ಒಟ್ಟಾರೆ AI ಬಗ್ಗೆ ಆಶಾವಾದಿಯಾಗಿದ್ದರು, ಆದರೆ 5 ಪ್ರತಿಶತ ಸಂಭವನೀಯತೆಯನ್ನು "ಅತ್ಯಂತ ಕೆಟ್ಟ (ಉದಾಹರಣೆಗೆ. ಮಾನವ ಅಳಿವು) "ಮುಂದುವರಿದ ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ ಫಲಿತಾಂಶ. ನ್ಯಾಚುರಲ್ ಲ್ಯಾಂಗ್ವೇಜ್ ಪ್ರೊಸೆಸಿಂಗ್ (ಎನ್ಎಲ್ಪಿ) ಸಮುದಾಯದ 2022ರ ಸಮೀಕ್ಷೆಯಲ್ಲಿ, ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ ನಿರ್ಧಾರಗಳು "ಕನಿಷ್ಠ ಸಂಪೂರ್ಣ ಪರಮಾಣು ಯುದ್ಧದಷ್ಟು ಕೆಟ್ಟದಾಗಿರುವ" ದುರಂತಕ್ಕೆ ಕಾರಣವಾಗಬಹುದು ಎಂದು ಶೇಕಡಾ 37ರಷ್ಟು ಜನರು ಒಪ್ಪಿದರು ಅಥವಾ ದುರ್ಬಲವಾಗಿ ಒಪ್ಪಿಕೊಂಡರು. ನಿರ್ಣಾಯಕ ವ್ಯವಸ್ಥೆಗಳ ವೈಫಲ್ಯಗಳು, ಪಕ್ಷಪಾತ ಮತ್ತು ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯಿಂದ ಸಕ್ರಿಯಗೊಳಿಸಲಾದ ಕಣ್ಗಾವಲು, ತಾಂತ್ರಿಕ ನಿರುದ್ಯೋಗ, ಡಿಜಿಟಲ್ ಕುಶಲತೆ ಮತ್ತು ಶಸ್ತ್ರಾಸ್ತ್ರಗಳಿಂದ ಹೊರಹೊಮ್ಮುವ ಅಪಾಯಗಳು ಮತ್ತು ಭವಿಷ್ಯದ ಕೃತಕ ಸಾಮಾನ್ಯ ಬುದ್ಧಿಮತ್ತೆಯ (ಎಜಿಐ) ಏಜೆಂಟ್ಗಳ ನಿಯಂತ್ರಣವನ್ನು ಕಳೆದುಕೊಳ್ಳುವುದರಿಂದ ಉಂಟಾಗುವ ಊಹಾತ್ಮಕ ಅಪಾಯಗಳ ಬಗ್ಗೆ ವಿದ್ವಾಂಸರು ಚರ್ಚಿಸಿದ್ದಾರೆ. ಕೆಲವರು ಎಜಿಐ ಬಗೆಗಿನ ಕಳವಳಗಳನ್ನು ಟೀಕಿಸಿದ್ದಾರೆ, ಉದಾಹರಣೆಗೆ ಆಂಡ್ರ್ಯೂ ಎನ್ಜಿ ಅವರು 2015 ರಲ್ಲಿ ಅವುಗಳನ್ನು "ನಾವು ಇನ್ನೂ ಗ್ರಹದ ಮೇಲೆ ಕಾಲಿಡದಿದ್ದಾಗ ಮಂಗಳ ಗ್ರಹದ ಮೇಲೆ ಅತಿಯಾದ ಜನಸಂಖ್ಯೆಯ ಬಗ್ಗೆ ಚಿಂತಿಸುತ್ತಿದ್ದೇವೆ" ಎಂದು ಹೋಲಿಸಿದ್ದಾರೆ. ಮತ್ತೊಂದೆಡೆ ಸ್ಟುವರ್ಟ್ ಜೆ. ರಸ್ಸೆಲ್ ಎಚ್ಚರಿಕೆಯನ್ನು ಒತ್ತಾಯಿಸುತ್ತಾ, "ಮಾನವನ ಜಾಣ್ಮೆಯನ್ನು ಕಡಿಮೆ ಅಂದಾಜು ಮಾಡುವುದಕ್ಕಿಂತ ನಿರೀಕ್ಷಿಸುವುದು ಉತ್ತಮ" ಎಂದು ವಾದಿಸುತ್ತಾರೆ. ಕಂಪ್ಯೂಟರ್ ಯುಗದ ಪ್ರಾರಂಭದಲ್ಲಿ ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯಿಂದಾಗುವ ಅಪಾಯಗಳನ್ನು ಗಂಭೀರವಾಗಿ ಚರ್ಚಿಸಲು ಪ್ರಾರಂಭಿಸಲಾಯಿತುಃ 2008ರಿಂದ 2009ರವರೆಗೆ, ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ ಅಭಿವೃದ್ಧಿಗಾಗಿ ಸಂಘವು (ಎಎಎಐ) ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ ಸಂಶೋಧನೆ ಮತ್ತು ಅಭಿವೃದ್ಧಿಯ ಸಂಭಾವ್ಯ ದೀರ್ಘಕಾಲೀನ ಸಾಮಾಜಿಕ ಪ್ರಭಾವಗಳನ್ನು ಅನ್ವೇಷಿಸಲು ಮತ್ತು ಪರಿಹರಿಸಲು ಒಂದು ಅಧ್ಯಯನವನ್ನು ನಿಯೋಜಿಸಿತು. ವಿಜ್ಞಾನ-ಕಾಲ್ಪನಿಕ ಲೇಖಕರು ವ್ಯಕ್ತಪಡಿಸಿದ ಆಮೂಲಾಗ್ರ ದೃಷ್ಟಿಕೋನಗಳ ಬಗ್ಗೆ ಸಮಿತಿಯು ಸಾಮಾನ್ಯವಾಗಿ ಸಂಶಯ ವ್ಯಕ್ತಪಡಿಸಿತು ಆದರೆ "ಅನಿರೀಕ್ಷಿತ ಫಲಿತಾಂಶಗಳನ್ನು ಕಡಿಮೆ ಮಾಡಲು ಸಂಕೀರ್ಣ ಗಣನೆಯ ವ್ಯವಸ್ಥೆಗಳ ನಡವಳಿಕೆಗಳ ವ್ಯಾಪ್ತಿಯನ್ನು ಅರ್ಥಮಾಡಿಕೊಳ್ಳುವ ಮತ್ತು ಪರಿಶೀಲಿಸುವ ವಿಧಾನಗಳ ಬಗ್ಗೆ ಹೆಚ್ಚುವರಿ ಸಂಶೋಧನೆಯು ಮೌಲ್ಯಯುತವಾಗಿರುತ್ತದೆ" ಎಂದು ಒಪ್ಪಿಕೊಂಡಿತು. 2011 ರಲ್ಲಿ, ರೋಮನ್ ಯಾಂಪೋಲ್ಸ್ಕಿ ಅವರು ಫಿಲಾಸಫಿ ಅಂಡ್ ಥಿಯರಿ ಆಫ್ ಆರ್ಟಿಫಿಶಿಯಲ್ ಇಂಟೆಲಿಜೆನ್ಸ್ ಸಮ್ಮೇಳನದಲ್ಲಿ "ಎಐ ಸೇಫ್ಟಿ ಎಂಜಿನಿಯರಿಂಗ್" ಎಂಬ ಪದವನ್ನು ಪರಿಚಯಿಸಿದರು, ಎಐ ವ್ಯವಸ್ಥೆಗಳ ಹಿಂದಿನ ವೈಫಲ್ಯಗಳನ್ನು ಪಟ್ಟಿ ಮಾಡಿದರು ಮತ್ತು "ಎಐಗಳು ಹೆಚ್ಚು ಸಮರ್ಥವಾಗುತ್ತಿದ್ದಂತೆ ಅಂತಹ ಘಟನೆಗಳ ಆವರ್ತನ ಮತ್ತು ಗಂಭೀರತೆ ಸ್ಥಿರವಾಗಿ ಹೆಚ್ಚಾಗುತ್ತದೆ" ಎಂದು ವಾದಿಸಿದರು. 2014ರಲ್ಲಿ, ತತ್ವಜ್ಞಾನಿ ನಿಕ್ ಬೋಸ್ಟ್ರಾಮ್ ಅವರು ಸೂಪರಿಂಟೆಲಿಜೆನ್ಸ್ಃ ಪಾಥ್ಸ್, ಡೇಂಜರ್ಸ್, ಸ್ಟ್ರಾಟಜೀಸ್ ಎಂಬ ಪುಸ್ತಕವನ್ನು ಪ್ರಕಟಿಸಿದರು. ಎಜಿಐನ ಉದಯವು ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯಿಂದ ಕಾರ್ಯಪಡೆಯ ಸ್ಥಳಾಂತರ, ರಾಜಕೀಯ ಮತ್ತು ಮಿಲಿಟರಿ ರಚನೆಗಳ ಕುಶಲತೆಯಿಂದ ಹಿಡಿದು ಮಾನವ ಅಳಿವಿನ ಸಾಧ್ಯತೆಯವರೆಗೆ ವಿವಿಧ ಸಾಮಾಜಿಕ ಸಮಸ್ಯೆಗಳನ್ನು ಸೃಷ್ಟಿಸುವ ಸಾಮರ್ಥ್ಯವನ್ನು ಹೊಂದಿದೆ ಎಂದು ಅವರು ಅಭಿಪ್ರಾಯಪಟ್ಟಿದ್ದಾರೆ. ಭವಿಷ್ಯದ ಸುಧಾರಿತ ವ್ಯವಸ್ಥೆಗಳು ಮಾನವ ಅಸ್ತಿತ್ವಕ್ಕೆ ಅಪಾಯವನ್ನುಂಟುಮಾಡಬಹುದು ಎಂಬ ಅವರ ವಾದವು ಎಲೋನ್ ಮಸ್ಕ್, ಬಿಲ್ ಗೇಟ್ಸ್ ಮತ್ತು ಸ್ಟೀಫನ್ ಹಾಕಿಂಗ್ ಅವರನ್ನು ಇದೇ ರೀತಿಯ ಕಳವಳಗಳನ್ನು ವ್ಯಕ್ತಪಡಿಸಲು ಪ್ರೇರೇಪಿಸಿತು. 2015 ರಲ್ಲಿ, ಡಜನ್ಗಟ್ಟಲೆ ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ ತಜ್ಞರು ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ ಸಾಮಾಜಿಕ ಪರಿಣಾಮಗಳ ಬಗ್ಗೆ ಸಂಶೋಧನೆ ಮತ್ತು ಕಾಂಕ್ರೀಟ್ ನಿರ್ದೇಶನಗಳನ್ನು ರೂಪಿಸುವಂತೆ ಕರೆ ನೀಡುವ ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ ಕುರಿತು ಮುಕ್ತ ಪತ್ರಕ್ಕೆ ಸಹಿ ಹಾಕಿದರು. ಇಲ್ಲಿಯವರೆಗೆ, ಈ ಪತ್ರಕ್ಕೆ ಯಾನ್ ಲೆಕನ್, ಶೇನ್ ಲೆಗ್, ಯೋಶುವಾ ಬೆಂಗಿಯೋ ಮತ್ತು ಸ್ಟುವರ್ಟ್ ರಸ್ಸೆಲ್ ಸೇರಿದಂತೆ 8000ಕ್ಕೂ ಹೆಚ್ಚು ಜನರು ಸಹಿ ಮಾಡಿದ್ದಾರೆ. ಅದೇ ವರ್ಷದಲ್ಲಿ, ಪ್ರೊಫೆಸರ್ ಸ್ಟುವರ್ಟ್ ರಸ್ಸೆಲ್ ನೇತೃತ್ವದ ಶಿಕ್ಷಣತಜ್ಞರ ಗುಂಪೊಂದು ಕ್ಯಾಲಿಫೋರ್ನಿಯಾ ಬರ್ಕ್ಲಿ ವಿಶ್ವವಿದ್ಯಾಲಯದಲ್ಲಿ ಸೆಂಟರ್ ಫಾರ್ ಹ್ಯೂಮನ್-ಕಾಂಪ್ಯಾಟಿಬಲ್ ಎಐ ಅನ್ನು ಸ್ಥಾಪಿಸಿತು ಮತ್ತು ಫ್ಯೂಚರ್ ಆಫ್ ಲೈಫ್ ಇನ್ಸ್ಟಿಟ್ಯೂಟ್ "ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ (ಎಐ) ಸುರಕ್ಷಿತವಾಗಿ, ನೈತಿಕವಾಗಿ ಮತ್ತು ಪ್ರಯೋಜನಕಾರಿಯಾಗಿರುವುದನ್ನು ಖಾತ್ರಿಪಡಿಸಿಕೊಳ್ಳುವ" ಗುರಿಯನ್ನು ಹೊಂದಿರುವ ಸಂಶೋಧನೆಗಾಗಿ $6.5 ಮಿಲಿಯನ್ ಅನುದಾನವನ್ನು ನೀಡಿತು. 2016 ರಲ್ಲಿ, ವೈಟ್ ಹೌಸ್ ಆಫೀಸ್ ಆಫ್ ಸೈನ್ಸ್ ಅಂಡ್ ಟೆಕ್ನಾಲಜಿ ಪಾಲಿಸಿ ಮತ್ತು ಕಾರ್ನೆಗೀ ಮೆಲಾನ್ ವಿಶ್ವವಿದ್ಯಾಲಯವು ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ ಸುರಕ್ಷತೆ ಮತ್ತು ನಿಯಂತ್ರಣದ ಕುರಿತು ಸಾರ್ವಜನಿಕ ಕಾರ್ಯಾಗಾರವನ್ನು ಘೋಷಿಸಿತು, ಇದು ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ "ಅನುಕೂಲಗಳು ಮತ್ತು ನ್ಯೂನತೆಗಳನ್ನು" ತನಿಖೆ ಮಾಡುವ ಗುರಿಯನ್ನು ಹೊಂದಿರುವ ನಾಲ್ಕು ವೈಟ್ ಹೌಸ್ ಕಾರ್ಯಾಗಾರಗಳ ಸರಣಿಯಲ್ಲಿ ಒಂದಾಗಿದೆ. ಅದೇ ವರ್ಷದಲ್ಲಿ, ಮೊದಲ ಮತ್ತು ಅತ್ಯಂತ ಪ್ರಭಾವಶಾಲಿ ತಾಂತ್ರಿಕ AI ಸುರಕ್ಷತಾ ಕಾರ್ಯಸೂಚಿಗಳಲ್ಲಿ ಒಂದಾದ AI ಸುರಕ್ಷತೆಯಲ್ಲಿ ಕಾಂಕ್ರೀಟ್ ಸಮಸ್ಯೆಗಳನ್ನು ಪ್ರಕಟಿಸಲಾಯಿತು. 2017 ರಲ್ಲಿ, ಫ್ಯೂಚರ್ ಆಫ್ ಲೈಫ್ ಇನ್ಸ್ಟಿಟ್ಯೂಟ್ ಪ್ರಯೋಜನಕಾರಿ ಎಐ ಕುರಿತು ಅಸಿಲೋಮರ್ ಸಮ್ಮೇಳನವನ್ನು ಪ್ರಾಯೋಜಿಸಿತು, ಅಲ್ಲಿ 100 ಕ್ಕೂ ಹೆಚ್ಚು ಚಿಂತನೆಯ ನಾಯಕರು ಪ್ರಯೋಜನಕಾರಿ ಎಐಗಾಗಿ ತತ್ವಗಳನ್ನು ರೂಪಿಸಿದರು, ಇದರಲ್ಲಿ "ರೇಸ್ ಅವಾಯ್ಡೆನ್ಸ್ಃ ಎಐ ವ್ಯವಸ್ಥೆಗಳನ್ನು ಅಭಿವೃದ್ಧಿಪಡಿಸುವ ತಂಡಗಳು ಸುರಕ್ಷತಾ ಮಾನದಂಡಗಳ ಮೇಲೆ ಮೂಲೆ-ಕಡಿತವನ್ನು ತಪ್ಪಿಸಲು ಸಕ್ರಿಯವಾಗಿ ಸಹಕರಿಸಬೇಕು". 2018 ರಲ್ಲಿ, ಡೀಪ್ ಮೈಂಡ್ ಸೇಫ್ಟಿ ತಂಡವು ನಿರ್ದಿಷ್ಟತೆ, ದೃಢತೆ ಮತ್ತು ಭರವಸೆಯಲ್ಲಿ AI ಸುರಕ್ಷತಾ ಸಮಸ್ಯೆಗಳನ್ನು ವಿವರಿಸಿದೆ. ಮುಂದಿನ ವರ್ಷ, ಸಂಶೋಧಕರು ಐ. ಸಿ. ಎಲ್. ಆರ್. ನಲ್ಲಿ ಈ ಸಮಸ್ಯೆಯ ಪ್ರದೇಶಗಳ ಮೇಲೆ ಕೇಂದ್ರೀಕರಿಸಿದ ಕಾರ್ಯಾಗಾರವನ್ನು ಆಯೋಜಿಸಿದರು. 2021ರಲ್ಲಿ, ಎಮ್ಎಲ್ ಸೇಫ್ಟಿಯಲ್ಲಿ ಪರಿಹರಿಸಲಾಗದ ಸಮಸ್ಯೆಗಳನ್ನು ಪ್ರಕಟಿಸಲಾಯಿತು, ಇದು ದೃಢತೆ, ಮೇಲ್ವಿಚಾರಣೆ, ಜೋಡಣೆ ಮತ್ತು ವ್ಯವಸ್ಥಿತ ಸುರಕ್ಷತೆಯಲ್ಲಿನ ಸಂಶೋಧನಾ ನಿರ್ದೇಶನಗಳನ್ನು ವಿವರಿಸುತ್ತದೆ. 2023ರಲ್ಲಿ, ರಿಷಿ ಸುನಕ್ ಅವರು ಯುನೈಟೆಡ್ ಕಿಂಗ್ಡಮ್ "ಜಾಗತಿಕ ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ ಸುರಕ್ಷತಾ ನಿಯಂತ್ರಣದ ಭೌಗೋಳಿಕ ನೆಲೆಯಾಗಬೇಕು" ಮತ್ತು ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ ಸುರಕ್ಷತೆಯ ಕುರಿತು ಮೊದಲ ಜಾಗತಿಕ ಶೃಂಗಸಭೆಯನ್ನು ಆಯೋಜಿಸಬೇಕು ಎಂದು ಬಯಸಿದ್ದರು. ಸಂಶೋಧನಾ ಕೇಂದ್ರಗಳಾದ ಎಐ ಸುರಕ್ಷತಾ ಸಂಶೋಧನಾ ಕ್ಷೇತ್ರಗಳು ದೃಢತೆ, ಮೇಲ್ವಿಚಾರಣೆ ಮತ್ತು ಜೋಡಣೆಯನ್ನು ಒಳಗೊಂಡಿವೆ. ದೃಢತೆ ಎದುರಾಳಿ ದೃಢತೆ AI ವ್ಯವಸ್ಥೆಗಳು ಆಗಾಗ್ಗೆ ಪ್ರತಿಕೂಲ ಉದಾಹರಣೆಗಳಿಗೆ ಅಥವಾ "ಯಂತ್ರ ಕಲಿಕೆ (ಎಂಎಲ್) ಮಾದರಿಗಳಿಗೆ ಇನ್ಪುಟ್ಗಳಿಗೆ ಗುರಿಯಾಗುತ್ತವೆ, ಇದನ್ನು ಆಕ್ರಮಣಕಾರರು ಉದ್ದೇಶಪೂರ್ವಕವಾಗಿ ಮಾದರಿಯನ್ನು ತಪ್ಪು ಮಾಡಲು ವಿನ್ಯಾಸಗೊಳಿಸಿದ್ದಾರೆ". ಉದಾಹರಣೆಗೆ, 2013 ರಲ್ಲಿ, ಸ್ಜೆಜೆಡಿ ಮತ್ತು ಇತರರು. ಒಂದು ಚಿತ್ರಕ್ಕೆ ನಿರ್ದಿಷ್ಟವಾದ ಗ್ರಹಿಸಲಾಗದ ಅಡಚಣೆಗಳನ್ನು ಸೇರಿಸುವುದರಿಂದ ಅದನ್ನು ಹೆಚ್ಚಿನ ವಿಶ್ವಾಸದಿಂದ ತಪ್ಪಾಗಿ ವರ್ಗೀಕರಿಸಬಹುದು ಎಂದು ಕಂಡುಹಿಡಿದಿದೆ. ಇದು ನರ ಜಾಲಗಳೊಂದಿಗಿನ ಸಮಸ್ಯೆಯಾಗಿ ಮುಂದುವರೆದಿದೆ, ಆದರೂ ಇತ್ತೀಚಿನ ಕೆಲಸದಲ್ಲಿ ಗೊಂದಲಗಳು ಸಾಮಾನ್ಯವಾಗಿ ಗ್ರಹಿಸಬಹುದಾದಷ್ಟು ದೊಡ್ಡದಾಗಿರುತ್ತವೆ. ಬಲಭಾಗದಲ್ಲಿರುವ ಎಲ್ಲಾ ಚಿತ್ರಗಳು ಪ್ರಕ್ಷುಬ್ಧತೆಯನ್ನು ಅನ್ವಯಿಸಿದ ನಂತರ ಆಸ್ಟ್ರಿಚ್ ಎಂದು ಊಹಿಸಲಾಗಿದೆ. (ಎಡ) ಸರಿಯಾಗಿ ಊಹಿಸಲಾದ ಮಾದರಿಯಾಗಿದೆ, (ಮಧ್ಯದಲ್ಲಿ) 10x, (ಬಲ) ಪ್ರತಿಕೂಲ ಉದಾಹರಣೆಯಿಂದ ದೊಡ್ಡದಾಗಿ ಅನ್ವಯಿಸಲಾದ ಪ್ರಕ್ಷುಬ್ಧತೆ. ಪ್ರತಿಕೂಲವಾದ ದೃಢತೆಯು ಅನೇಕವೇಳೆ ಭದ್ರತೆಯೊಂದಿಗೆ ಸಂಬಂಧಿಸಿದೆ. ಧ್ವನಿ ಸಂಕೇತವನ್ನು ಗ್ರಹಿಸಲಾಗದಷ್ಟು ಮಾರ್ಪಡಿಸಬಹುದು ಎಂದು ಸಂಶೋಧಕರು ಪ್ರದರ್ಶಿಸಿದರು, ಇದರಿಂದಾಗಿ ಭಾಷಣದಿಂದ ಪಠ್ಯ ವ್ಯವಸ್ಥೆಗಳು ಆಕ್ರಮಣಕಾರರು ಆಯ್ಕೆ ಮಾಡಿದ ಯಾವುದೇ ಸಂದೇಶಕ್ಕೆ ಅದನ್ನು ನಕಲಿಸುತ್ತವೆ. ಜಾಲಬಂಧ ಒಳನುಸುಳುವಿಕೆ ಮತ್ತು ಮಾಲ್ವೇರ್ ಪತ್ತೆ ವ್ಯವಸ್ಥೆಗಳು ಸಹ ಪ್ರತಿಕೂಲವಾಗಿ ಸದೃಢವಾಗಿರಬೇಕು ಏಕೆಂದರೆ ದಾಳಿಕೋರರು ತಮ್ಮ ದಾಳಿಯನ್ನು ಡಿಟೆಕ್ಟರ್ಗಳನ್ನು ಮೂರ್ಖರನ್ನಾಗಿಸಲು ವಿನ್ಯಾಸಗೊಳಿಸಬಹುದು. ಉದ್ದೇಶಗಳನ್ನು ಪ್ರತಿನಿಧಿಸುವ ಮಾದರಿಗಳು (ಪ್ರತಿಫಲ ಮಾದರಿಗಳು) ಸಹ ಪ್ರತಿಕೂಲವಾಗಿ ದೃಢವಾಗಿರಬೇಕು. ಉದಾಹರಣೆಗೆ, ಬಹುಮಾನದ ಮಾದರಿಯು ಪಠ್ಯ ಪ್ರತಿಕ್ರಿಯೆಯು ಎಷ್ಟು ಸಹಾಯಕವಾಗಿದೆ ಎಂಬುದನ್ನು ಅಂದಾಜು ಮಾಡಬಹುದು ಮತ್ತು ಈ ಅಂಕವನ್ನು ಗರಿಷ್ಠಗೊಳಿಸಲು ಭಾಷಾ ಮಾದರಿಯನ್ನು ತರಬೇತಿ ಮಾಡಬಹುದು. ಒಂದು ಭಾಷಾ ಮಾದರಿಯನ್ನು ದೀರ್ಘಕಾಲದವರೆಗೆ ತರಬೇತಿ ನೀಡಿದರೆ, ಅದು ಉತ್ತಮ ಅಂಕಗಳನ್ನು ಸಾಧಿಸಲು ಮತ್ತು ಉದ್ದೇಶಿತ ಕಾರ್ಯದಲ್ಲಿ ಕೆಟ್ಟದಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸಲು ಬಹುಮಾನ ಮಾದರಿಯ ದುರ್ಬಲತೆಗಳನ್ನು ಹತೋಟಿಗೆ ತರುತ್ತದೆ ಎಂದು ಸಂಶೋಧಕರು ತೋರಿಸಿದ್ದಾರೆ. ಬಹುಮಾನ ಮಾದರಿಯ ಪ್ರತಿಕೂಲ ದೃಢತೆಯನ್ನು ಸುಧಾರಿಸುವ ಮೂಲಕ ಈ ಸಮಸ್ಯೆಯನ್ನು ಪರಿಹರಿಸಬಹುದು. ಹೆಚ್ಚು ಸಾಮಾನ್ಯವಾಗಿ, ಮತ್ತೊಂದು AI ವ್ಯವಸ್ಥೆಯನ್ನು ಮೌಲ್ಯಮಾಪನ ಮಾಡಲು ಬಳಸುವ ಯಾವುದೇ AI ವ್ಯವಸ್ಥೆಯು ಪ್ರತಿಕೂಲವಾಗಿ ದೃಢವಾಗಿರಬೇಕು. ಇದು ಮೇಲ್ವಿಚಾರಣಾ ಸಾಧನಗಳನ್ನು ಒಳಗೊಂಡಿರಬಹುದು, ಏಕೆಂದರೆ ಹೆಚ್ಚಿನ ಪ್ರತಿಫಲವನ್ನು ನೀಡಲು ಅವುಗಳನ್ನು ಸಂಭಾವ್ಯವಾಗಿ ತಿರುಚಬಹುದು. ಮಾನಿಟರಿಂಗ್ ಅಂದಾಜು ಅನಿಶ್ಚಿತತೆ ಮಾನವ ನಿರ್ವಾಹಕರು AI ವ್ಯವಸ್ಥೆಯನ್ನು ಎಷ್ಟು ನಂಬಬೇಕು ಎಂಬುದನ್ನು ಅಳೆಯುವುದು ಮುಖ್ಯವಾಗಿದೆ, ವಿಶೇಷವಾಗಿ ವೈದ್ಯಕೀಯ ರೋಗನಿರ್ಣಯದಂತಹ ಹೆಚ್ಚಿನ-ಹಕ್ಕಿನ ಸೆಟ್ಟಿಂಗ್ಗಳಲ್ಲಿ. ಎಂಎಲ್ ಮಾದರಿಗಳು ಸಾಮಾನ್ಯವಾಗಿ ಸಂಭವನೀಯತೆಗಳನ್ನು ಉತ್ಪಾದಿಸುವ ಮೂಲಕ ವಿಶ್ವಾಸವನ್ನು ವ್ಯಕ್ತಪಡಿಸುತ್ತವೆ; ಆದಾಗ್ಯೂ, ಅವು ಹೆಚ್ಚಾಗಿ ಅತಿಯಾದ ಆತ್ಮವಿಶ್ವಾಸವನ್ನು ಹೊಂದಿರುತ್ತವೆ, ವಿಶೇಷವಾಗಿ ಅವು ನಿರ್ವಹಿಸಲು ತರಬೇತಿ ಪಡೆದ ಸಂದರ್ಭಗಳಿಗಿಂತ ಭಿನ್ನವಾದ ಸಂದರ್ಭಗಳಲ್ಲಿ. ಮಾಪನ ಸಂಶೋಧನೆಯು ಮಾದರಿಯ ಸಂಭವನೀಯತೆಗಳು ಮಾದರಿಯು ಸರಿಯಾಗಿದೆ ಎಂಬ ನಿಜವಾದ ಅನುಪಾತಕ್ಕೆ ಸಾಧ್ಯವಾದಷ್ಟು ನಿಕಟವಾಗಿ ಹೊಂದಿಕೆಯಾಗುವಂತೆ ಮಾಡುವ ಗುರಿಯನ್ನು ಹೊಂದಿದೆ. ಅಂತೆಯೇ, ಅಸಂಗತತೆ ಪತ್ತೆ ಅಥವಾ ಔಟ್-ಆಫ್-ಡಿಸ್ಟ್ರಿಬ್ಯೂಷನ್ (OOD) ಪತ್ತೆಹಚ್ಚುವಿಕೆಯು AI ವ್ಯವಸ್ಥೆಯು ಅಸಾಮಾನ್ಯ ಪರಿಸ್ಥಿತಿಯಲ್ಲಿದ್ದಾಗ ಗುರುತಿಸುವ ಗುರಿಯನ್ನು ಹೊಂದಿದೆ. ಉದಾಹರಣೆಗೆ, ಸ್ವಾಯತ್ತ ವಾಹನದ ಸಂವೇದಕವು ಅಸಮರ್ಪಕವಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತಿದ್ದರೆ, ಅಥವಾ ಅದು ಸವಾಲಿನ ಭೂಪ್ರದೇಶವನ್ನು ಎದುರಿಸುತ್ತಿದ್ದರೆ, ಅದು ಚಾಲಕನನ್ನು ನಿಯಂತ್ರಣವನ್ನು ತೆಗೆದುಕೊಳ್ಳಲು ಅಥವಾ ಎಳೆಯಲು ಎಚ್ಚರಿಸಬೇಕು. ಹಲವಾರು ಹೆಚ್ಚುವರಿ ತಂತ್ರಗಳು ಬಳಕೆಯಲ್ಲಿವೆಯಾದರೂ, ಅಸಂಗತ ಮತ್ತು ಅಸಂಗತವಲ್ಲದ ಇನ್ಪುಟ್ಗಳನ್ನು ಪ್ರತ್ಯೇಕಿಸಲು ವರ್ಗೀಕರಣಕಾರನಿಗೆ ಸರಳವಾಗಿ ತರಬೇತಿ ನೀಡುವ ಮೂಲಕ ಅಸಂಗತತೆ ಪತ್ತೆಹಚ್ಚುವಿಕೆಯನ್ನು ಜಾರಿಗೆ ತರಲಾಗಿದೆ. ದುರುದ್ದೇಶಪೂರಿತ ಬಳಕೆಯನ್ನು ಪತ್ತೆಹಚ್ಚುವುದು ವಿದ್ವಾಂಸರು ಮತ್ತು ಸರ್ಕಾರಿ ಸಂಸ್ಥೆಗಳು ದುರುದ್ದೇಶಪೂರಿತ ನಟರಿಗೆ ಶಸ್ತ್ರಾಸ್ತ್ರಗಳನ್ನು ನಿರ್ಮಿಸಲು, ಸಾರ್ವಜನಿಕ ಅಭಿಪ್ರಾಯವನ್ನು ಕುಶಲತೆಯಿಂದ ನಿರ್ವಹಿಸಲು ಅಥವಾ ಸೈಬರ್ ದಾಳಿಯನ್ನು ಸ್ವಯಂಚಾಲಿತಗೊಳಿಸಲು ಸಹಾಯ ಮಾಡಲು AI ವ್ಯವಸ್ಥೆಗಳನ್ನು ಬಳಸಬಹುದೆಂದು ಕಳವಳ ವ್ಯಕ್ತಪಡಿಸಿದ್ದಾರೆ. ಆನ್ಲೈನ್ನಲ್ಲಿ ಪ್ರಬಲವಾದ ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ ಸಾಧನಗಳನ್ನು ಒದಗಿಸುವ ಓಪನ್ಎಐಯಂತಹ ಕಂಪನಿಗಳಿಗೆ ಈ ಚಿಂತೆಗಳು ಪ್ರಾಯೋಗಿಕ ಕಾಳಜಿಯಾಗಿದೆ. ದುರುಪಯೋಗವನ್ನು ತಡೆಗಟ್ಟುವ ಸಲುವಾಗಿ, ಓಪನ್ಎಐ ಬಳಕೆದಾರರನ್ನು ಅವರ ಚಟುವಟಿಕೆಯ ಆಧಾರದ ಮೇಲೆ ಗುರುತಿಸುವ ಅಥವಾ ನಿರ್ಬಂಧಿಸುವ ಪತ್ತೆ ವ್ಯವಸ್ಥೆಯನ್ನು ನಿರ್ಮಿಸಿದೆ. ಪಾರದರ್ಶಕತೆ ನ್ಯೂರಲ್ ನೆಟ್ವರ್ಕ್ಗಳನ್ನು ಆಗಾಗ್ಗೆ ಕಪ್ಪು ಪೆಟ್ಟಿಗೆಗಳು ಎಂದು ವಿವರಿಸಲಾಗುತ್ತದೆ, ಅಂದರೆ ಅವರು ನಿರ್ವಹಿಸುವ ಬೃಹತ್ ಸಂಖ್ಯೆಯ ಲೆಕ್ಕಾಚಾರಗಳ ಪರಿಣಾಮವಾಗಿ ಅವರು ಏಕೆ ನಿರ್ಧಾರಗಳನ್ನು ತೆಗೆದುಕೊಳ್ಳುತ್ತಾರೆ ಎಂಬುದನ್ನು ಅರ್ಥಮಾಡಿಕೊಳ್ಳುವುದು ಕಷ್ಟ. ಇದು ವೈಫಲ್ಯಗಳನ್ನು ನಿರೀಕ್ಷಿಸುವುದು ಸವಾಲಿನದ್ದಾಗಿದೆ. 2018 ರಲ್ಲಿ, ಸ್ವಯಂ ಚಾಲನಾ ಕಾರು ಪಾದಚಾರಿಗಳನ್ನು ಗುರುತಿಸಲು ವಿಫಲವಾದ ನಂತರ ಅವರನ್ನು ಕೊಂದಿತು. ಎಐ ಸಾಫ್ಟ್ವೇರ್ನ ಕಪ್ಪು ಪೆಟ್ಟಿಗೆಯ ಸ್ವರೂಪದಿಂದಾಗಿ, ವೈಫಲ್ಯದ ಕಾರಣ ಅಸ್ಪಷ್ಟವಾಗಿದೆ. ಪಾರದರ್ಶಕತೆಯ ಒಂದು ನಿರ್ಣಾಯಕ ಪ್ರಯೋಜನವೆಂದರೆ ವಿವರಣಾತ್ಮಕತೆ. ನ್ಯಾಯೋಚಿತತೆಯನ್ನು ಖಚಿತಪಡಿಸಿಕೊಳ್ಳಲು ನಿರ್ಧಾರವನ್ನು ಏಕೆ ತೆಗೆದುಕೊಳ್ಳಲಾಗಿದೆ ಎಂಬುದಕ್ಕೆ ವಿವರಣೆಯನ್ನು ಒದಗಿಸುವುದು ಕೆಲವೊಮ್ಮೆ ಕಾನೂನುಬದ್ಧ ಅವಶ್ಯಕತೆಯಾಗಿದೆ, ಉದಾಹರಣೆಗೆ ಉದ್ಯೋಗ ಅರ್ಜಿಗಳನ್ನು ಅಥವಾ ಕ್ರೆಡಿಟ್ ಸ್ಕೋರ್ ನಿಯೋಜನೆಯನ್ನು ಸ್ವಯಂಚಾಲಿತವಾಗಿ ಫಿಲ್ಟರ್ ಮಾಡಲು. ವೈಫಲ್ಯಗಳ ಕಾರಣವನ್ನು ಬಹಿರಂಗಪಡಿಸುವುದು ಮತ್ತೊಂದು ಪ್ರಯೋಜನವಾಗಿದೆ. 2020ರ ಕೋವಿಡ್-19 ಸಾಂಕ್ರಾಮಿಕದ ಆರಂಭದಲ್ಲಿ, ವೈದ್ಯಕೀಯ ಚಿತ್ರ ವರ್ಗೀಕರಣಕಾರರು ಅಪ್ರಸ್ತುತವಾದ ಆಸ್ಪತ್ರೆಯ ಲೇಬಲ್ಗಳಿಗೆ 'ಗಮನ ನೀಡುತ್ತಿದ್ದಾರೆ' ಎಂದು ತೋರಿಸಲು ಸಂಶೋಧಕರು ಪಾರದರ್ಶಕತೆ ಸಾಧನಗಳನ್ನು ಬಳಸಿದರು. ದೋಷಗಳನ್ನು ಸರಿಪಡಿಸಲು ಪಾರದರ್ಶಕತೆ ತಂತ್ರಗಳನ್ನು ಸಹ ಬಳಸಬಹುದು. ಉದಾಹರಣೆಗೆ, "ಜಿಪಿಟಿಯಲ್ಲಿ ವಾಸ್ತವಿಕ ಸಂಘಗಳನ್ನು ಪತ್ತೆಹಚ್ಚುವುದು ಮತ್ತು ಸಂಪಾದಿಸುವುದು" ಎಂಬ ಪ್ರಬಂಧದಲ್ಲಿ, ಲೇಖಕರು ಐಫೆಲ್ ಗೋಪುರದ ಸ್ಥಳದ ಬಗ್ಗೆ ಪ್ರಶ್ನೆಗಳಿಗೆ ಅದು ಹೇಗೆ ಉತ್ತರಿಸಿದೆ ಎಂಬುದರ ಮೇಲೆ ಪ್ರಭಾವ ಬೀರಿದ ಮಾದರಿ ನಿಯತಾಂಕಗಳನ್ನು ಗುರುತಿಸಲು ಸಾಧ್ಯವಾಯಿತು. ಗೋಪುರವು ಫ್ರಾನ್ಸ್ನ ಬದಲು ರೋಮ್ನಲ್ಲಿದೆ ಎಂದು ನಂಬಿದಂತೆ ಮಾದರಿ ಪ್ರಶ್ನೆಗಳಿಗೆ ಪ್ರತಿಕ್ರಿಯಿಸುವಂತೆ ಮಾಡಲು ಅವರು ಈ ಜ್ಞಾನವನ್ನು 'ಸಂಪಾದಿಸಲು' ಸಾಧ್ಯವಾಯಿತು. ಈ ಸಂದರ್ಭದಲ್ಲಿ, ಲೇಖಕರು ದೋಷವನ್ನು ಪ್ರೇರೇಪಿಸಿದರೂ, ಅವುಗಳನ್ನು ಪರಿಣಾಮಕಾರಿಯಾಗಿ ಸರಿಪಡಿಸಲು ಈ ವಿಧಾನಗಳನ್ನು ಬಳಸಬಹುದಾಗಿತ್ತು. ಮಾದರಿ ಸಂಪಾದನೆ ತಂತ್ರಗಳು ಕಂಪ್ಯೂಟರ್ ದೃಷ್ಟಿಯಲ್ಲಿಯೂ ಅಸ್ತಿತ್ವದಲ್ಲಿವೆ. ಅಂತಿಮವಾಗಿ, AI ವ್ಯವಸ್ಥೆಗಳ ಅಪಾರದರ್ಶಕತೆಯು ಅಪಾಯದ ಗಮನಾರ್ಹ ಮೂಲವಾಗಿದೆ ಮತ್ತು ಅವು ಹೇಗೆ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತವೆ ಎಂಬುದರ ಬಗ್ಗೆ ಉತ್ತಮ ತಿಳುವಳಿಕೆಯು ಭವಿಷ್ಯದಲ್ಲಿ ಹೆಚ್ಚಿನ ಪರಿಣಾಮದ ವೈಫಲ್ಯಗಳನ್ನು ತಡೆಯುತ್ತದೆ ಎಂದು ಕೆಲವರು ವಾದಿಸಿದ್ದಾರೆ. "ಇನ್ನರ್" ಇಂಟರ್ಪ್ರಿಟೆಬಿಲಿಟಿ ರಿಸರ್ಚ್ ಎಂಎಲ್ ಮಾದರಿಗಳನ್ನು ಕಡಿಮೆ ಅಪಾರದರ್ಶಕವಾಗಿಸುವ ಗುರಿಯನ್ನು ಹೊಂದಿದೆ. ಆಂತರಿಕ ನರಕೋಶದ ಸಕ್ರಿಯಗೊಳಿಸುವಿಕೆಗಳು ಏನನ್ನು ಪ್ರತಿನಿಧಿಸುತ್ತವೆ ಎಂಬುದನ್ನು ಗುರುತಿಸುವುದು ಈ ಸಂಶೋಧನೆಯ ಒಂದು ಗುರಿಯಾಗಿದೆ. ಉದಾಹರಣೆಗೆ, ಸಂಶೋಧಕರು ಸಿಎಲ್ಐಪಿ ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ ವ್ಯವಸ್ಥೆಯಲ್ಲಿ ನರಕೋಶವನ್ನು ಗುರುತಿಸಿದ್ದಾರೆ, ಅದು ಸ್ಪೈಡರ್ ಮ್ಯಾನ್ ವೇಷಭೂಷಣಗಳಲ್ಲಿ ಜನರ ಚಿತ್ರಗಳು, ಸ್ಪೈಡರ್ ಮ್ಯಾನ್ ರೇಖಾಚಿತ್ರಗಳು ಮತ್ತು 'ಸ್ಪೈಡರ್' ಎಂಬ ಪದಕ್ಕೆ ಪ್ರತಿಕ್ರಿಯಿಸುತ್ತದೆ. ಇದು ಈ ನರಕೋಶಗಳು ಅಥವಾ 'ಸರ್ಕ್ಯೂಟ್' ಗಳ ನಡುವಿನ ಸಂಪರ್ಕವನ್ನು ವಿವರಿಸುವುದನ್ನು ಸಹ ಒಳಗೊಂಡಿರುತ್ತದೆ. ಉದಾಹರಣೆಗೆ, ಸಂಶೋಧಕರು ಟ್ರಾನ್ಸ್ಫಾರ್ಮರ್ ಗಮನದಲ್ಲಿ ಮಾದರಿ-ಹೊಂದಾಣಿಕೆಯ ಕಾರ್ಯವಿಧಾನಗಳನ್ನು ಗುರುತಿಸಿದ್ದಾರೆ, ಅದು ಭಾಷೆಯ ಮಾದರಿಗಳು ತಮ್ಮ ಸಂದರ್ಭದಿಂದ ಹೇಗೆ ಕಲಿಯುತ್ತವೆ ಎಂಬುದರಲ್ಲಿ ಪಾತ್ರವಹಿಸಬಹುದು. "ಆಂತರಿಕ ವ್ಯಾಖ್ಯಾನ" ವನ್ನು ನರವಿಜ್ಞಾನಕ್ಕೆ ಹೋಲಿಸಲಾಗಿದೆ. ಎರಡೂ ಸಂದರ್ಭಗಳಲ್ಲಿ, ಸಂಕೀರ್ಣ ವ್ಯವಸ್ಥೆಯಲ್ಲಿ ಏನು ನಡೆಯುತ್ತಿದೆ ಎಂಬುದನ್ನು ಅರ್ಥಮಾಡಿಕೊಳ್ಳುವುದು ಗುರಿಯಾಗಿದೆ, ಆದರೂ ಎಂಎಲ್ ಸಂಶೋಧಕರು ಪರಿಪೂರ್ಣ ಅಳತೆಗಳನ್ನು ತೆಗೆದುಕೊಳ್ಳಲು ಮತ್ತು ಅನಿಯಂತ್ರಿತ ಶುದ್ಧೀಕರಣಗಳನ್ನು ನಿರ್ವಹಿಸುವ ಪ್ರಯೋಜನವನ್ನು ಹೊಂದಿದ್ದಾರೆ. ಟ್ರೋಜನ್ಗಳ ಎಂಎಲ್ ಮಾದರಿಗಳನ್ನು ಪತ್ತೆಹಚ್ಚುವುದು ಸಂಭಾವ್ಯವಾಗಿ 'ಟ್ರೋಜನ್ಗಳು' ಅಥವಾ 'ಹಿಂಬಾಗಿಲನ್ನು' ಹೊಂದಿರಬಹುದುಃ ದುರುದ್ದೇಶಪೂರಿತ ನಟರು ದುರುದ್ದೇಶಪೂರಿತವಾಗಿ ಎಐ ವ್ಯವಸ್ಥೆಯಲ್ಲಿ ನಿರ್ಮಿಸುವ ದುರ್ಬಲತೆಗಳು. ಉದಾಹರಣೆಗೆ, ಒಂದು ನಿರ್ದಿಷ್ಟ ಆಭರಣದ ತುಣುಕು ಕಾಣಿಸಿದಾಗ ಟ್ರೋಜನ್ ಮುಖ ಗುರುತಿಸುವಿಕೆಯ ವ್ಯವಸ್ಥೆಯು ಪ್ರವೇಶವನ್ನು ನೀಡಬಹುದು; ಅಥವಾ ಟ್ರೋಜನ್ ಮಾಡಲಾದ ಸ್ವಾಯತ್ತ ವಾಹನವು ನಿರ್ದಿಷ್ಟ ಪ್ರಚೋದಕವು ಗೋಚರಿಸುವವರೆಗೆ ಸಾಮಾನ್ಯವಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸಬಹುದು. ಟ್ರೋಜನ್ ಅನ್ನು ನೆಡಲು ಎದುರಾಳಿಯು ವ್ಯವಸ್ಥೆಯ ತರಬೇತಿ ದತ್ತಾಂಶಕ್ಕೆ ಪ್ರವೇಶವನ್ನು ಹೊಂದಿರಬೇಕು ಎಂಬುದನ್ನು ಗಮನಿಸಿ. ಸಿ. ಎಲ್. ಐ. ಪಿ. ಅಥವಾ ಜಿ. ಪಿ. ಟಿ.-3ರಂತಹ ಕೆಲವು ದೊಡ್ಡ ಮಾದರಿಗಳಿಗೆ ಸಾರ್ವಜನಿಕವಾಗಿ ಲಭ್ಯವಿರುವ ಅಂತರ್ಜಾಲ ದತ್ತಾಂಶದಲ್ಲಿ ತರಬೇತಿ ನೀಡಲಾಗಿರುವುದರಿಂದ ಇದನ್ನು ಮಾಡಲು ಕಷ್ಟವಾಗುವುದಿಲ್ಲ. 3 ದಶಲಕ್ಷ ತರಬೇತಿ ಚಿತ್ರಗಳಲ್ಲಿ ಕೇವಲ 300 ಅನ್ನು ಬದಲಾಯಿಸುವ ಮೂಲಕ ಸಂಶೋಧಕರು ಚಿತ್ರ ವರ್ಗೀಕರಣದಲ್ಲಿ ಟ್ರೋಜನ್ ಅನ್ನು ನೆಡಲು ಸಾಧ್ಯವಾಯಿತು. ಭದ್ರತಾ ಅಪಾಯವನ್ನುಂಟುಮಾಡುವುದರ ಜೊತೆಗೆ, ಟ್ರೋಜನ್ಗಳು ಉತ್ತಮ ಮೇಲ್ವಿಚಾರಣಾ ಸಾಧನಗಳನ್ನು ಪರೀಕ್ಷಿಸಲು ಮತ್ತು ಅಭಿವೃದ್ಧಿಪಡಿಸಲು ಕಾಂಕ್ರೀಟ್ ಸೆಟ್ಟಿಂಗ್ ಅನ್ನು ಒದಗಿಸುತ್ತವೆ ಎಂದು ಸಂಶೋಧಕರು ವಾದಿಸಿದ್ದಾರೆ. ಜೋಡಣೆ ವ್ಯವಸ್ಥಿತ ಸುರಕ್ಷತೆ ಮತ್ತು ಸಾಮಾಜಿಕ ತಾಂತ್ರಿಕ ಅಂಶಗಳು ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ ಅಪಾಯಗಳನ್ನು (ಮತ್ತು ಹೆಚ್ಚು ಸಾಮಾನ್ಯವಾಗಿ ತಾಂತ್ರಿಕ ಅಪಾಯಗಳು) ದುರುಪಯೋಗ ಅಥವಾ ಅಪಘಾತಗಳು ಎಂದು ವರ್ಗೀಕರಿಸುವುದು ಸಾಮಾನ್ಯವಾಗಿದೆ. ಈ ಚೌಕಟ್ಟು ಕಡಿಮೆಯಾಗಿದೆ ಎಂದು ಕೆಲವು ವಿದ್ವಾಂಸರು ಸೂಚಿಸಿದ್ದಾರೆ. ಉದಾಹರಣೆಗೆ, ಕ್ಯೂಬನ್ ಕ್ಷಿಪಣಿ ಬಿಕ್ಕಟ್ಟು ಸ್ಪಷ್ಟವಾಗಿ ಅಪಘಾತ ಅಥವಾ ತಂತ್ರಜ್ಞಾನದ ದುರುಪಯೋಗವಾಗಿರಲಿಲ್ಲ. ನೀತಿ ವಿಶ್ಲೇಷಕರು ಝ್ವೆಟ್ಸ್ಲೋಟ್ ಮತ್ತು ಡಾಫೊ ಬರೆದಿದ್ದಾರೆ, "ದುರ್ಬಳಕೆ ಮತ್ತು ಅಪಘಾತದ ದೃಷ್ಟಿಕೋನಗಳು ಹಾನಿಯನ್ನುಂಟುಮಾಡುವ ಸಾಂಘಿಕ ಸರಪಳಿಯ ಕೊನೆಯ ಹಂತದ ಮೇಲೆ ಮಾತ್ರ ಕೇಂದ್ರೀಕರಿಸುತ್ತವೆಃ ಅಂದರೆ, ತಂತ್ರಜ್ಞಾನವನ್ನು ದುರುಪಯೋಗಪಡಿಸಿಕೊಂಡ ವ್ಯಕ್ತಿ ಅಥವಾ ಅನಪೇಕ್ಷಿತ ರೀತಿಯಲ್ಲಿ ವರ್ತಿಸಿದ ವ್ಯವಸ್ಥೆ. ಆದಾಗ್ಯೂ, ಸಂಬಂಧಿತ ಸಾಂಘಿಕ ಸರಪಳಿಯು ಹೆಚ್ಚು ಉದ್ದವಾಗಿದೆ". ಅಪಾಯಗಳು ಸಾಮಾನ್ಯವಾಗಿ ಸ್ಪರ್ಧಾತ್ಮಕ ಒತ್ತಡಗಳು, ಹಾನಿಗಳ ಪ್ರಸರಣ, ವೇಗದ ಗತಿಯ ಅಭಿವೃದ್ಧಿ, ಹೆಚ್ಚಿನ ಮಟ್ಟದ ಅನಿಶ್ಚಿತತೆ ಮತ್ತು ಅಸಮರ್ಪಕ ಸುರಕ್ಷತಾ ಸಂಸ್ಕೃತಿಯಂತಹ 'ರಚನಾತ್ಮಕ' ಅಥವಾ 'ವ್ಯವಸ್ಥಿತ' ಅಂಶಗಳಿಂದ ಉದ್ಭವಿಸುತ್ತವೆ. ಸುರಕ್ಷತಾ ಎಂಜಿನಿಯರಿಂಗ್ನ ವಿಶಾಲವಾದ ಸನ್ನಿವೇಶದಲ್ಲಿ, 'ಸಾಂಸ್ಥಿಕ ಸುರಕ್ಷತಾ ಸಂಸ್ಕೃತಿ' ಯಂತಹ ರಚನಾತ್ಮಕ ಅಂಶಗಳು ಜನಪ್ರಿಯ STAMP ಅಪಾಯ ವಿಶ್ಲೇಷಣೆಯ ಚೌಕಟ್ಟಿನಲ್ಲಿ ಪ್ರಮುಖ ಪಾತ್ರವಹಿಸುತ್ತವೆ. ರಚನಾತ್ಮಕ ದೃಷ್ಟಿಕೋನದಿಂದ ಪ್ರೇರಿತರಾಗಿ, ಕೆಲವು ಸಂಶೋಧಕರು ಸಾಮಾಜಿಕ ತಾಂತ್ರಿಕ ಸುರಕ್ಷತಾ ಅಂಶಗಳನ್ನು ಸುಧಾರಿಸಲು ಯಂತ್ರ ಕಲಿಕೆಯ ಬಳಕೆಯ ಮಹತ್ವವನ್ನು ಒತ್ತಿಹೇಳಿದ್ದಾರೆ, ಉದಾಹರಣೆಗೆ, ಸೈಬರ್ ರಕ್ಷಣೆಗಾಗಿ ಎಂಎಲ್ ಅನ್ನು ಬಳಸುವುದು, ಸಾಂಸ್ಥಿಕ ನಿರ್ಧಾರ ತೆಗೆದುಕೊಳ್ಳುವಿಕೆಯನ್ನು ಸುಧಾರಿಸುವುದು ಮತ್ತು ಸಹಕಾರವನ್ನು ಸುಗಮಗೊಳಿಸುವುದು. ಸೈಬರ್ ಆಕ್ರಮಣಕಾರರು ಮತ್ತು ಸೈಬರ್ ರಕ್ಷಕರ ನಡುವಿನ ಈಗಾಗಲೇ ಅಸಮತೋಲಿತ ಆಟವನ್ನು ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ ಉಲ್ಬಣಗೊಳಿಸುತ್ತದೆ ಎಂದು ಕೆಲವು ವಿದ್ವಾಂಸರು ಕಳವಳ ವ್ಯಕ್ತಪಡಿಸಿದ್ದಾರೆ. ಇದು 'ಮೊದಲ ದಾಳಿ' ಪ್ರೋತ್ಸಾಹವನ್ನು ಹೆಚ್ಚಿಸುತ್ತದೆ ಮತ್ತು ಹೆಚ್ಚು ಆಕ್ರಮಣಕಾರಿ ಮತ್ತು ಅಸ್ಥಿರಗೊಳಿಸುವ ದಾಳಿಗಳಿಗೆ ಕಾರಣವಾಗಬಹುದು. ಈ ಅಪಾಯವನ್ನು ತಗ್ಗಿಸುವ ಸಲುವಾಗಿ, ಸೈಬರ್ ರಕ್ಷಣೆಗೆ ಹೆಚ್ಚಿನ ಒತ್ತು ನೀಡಬೇಕೆಂದು ಕೆಲವರು ಪ್ರತಿಪಾದಿಸಿದ್ದಾರೆ. ಇದಲ್ಲದೆ, ಶಕ್ತಿಶಾಲಿ AI ಮಾದರಿಗಳು ಕಳವು ಮತ್ತು ದುರುಪಯೋಗವಾಗುವುದನ್ನು ತಡೆಯಲು ಸಾಫ್ಟ್ವೇರ್ ಭದ್ರತೆಯು ಅತ್ಯಗತ್ಯವಾಗಿದೆ. ಸಾಂಸ್ಥಿಕ ನಿರ್ಧಾರ ತೆಗೆದುಕೊಳ್ಳುವಿಕೆಯನ್ನು ಸುಧಾರಿಸುವುದು ಆರ್ಥಿಕ ಮತ್ತು ಮಿಲಿಟರಿ ಕ್ಷೇತ್ರಗಳಲ್ಲಿ ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ ಪ್ರಗತಿಯು ಅಭೂತಪೂರ್ವ ರಾಜಕೀಯ ಸವಾಲುಗಳನ್ನು ಹುಟ್ಟುಹಾಕಬಹುದು. ಕೆಲವು ವಿದ್ವಾಂಸರು ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ ಓಟದ ಚಲನಶೀಲತೆಯನ್ನು ಶೀತಲ ಸಮರಕ್ಕೆ ಹೋಲಿಸಿದ್ದಾರೆ, ಅಲ್ಲಿ ಸಣ್ಣ ಸಂಖ್ಯೆಯ ನಿರ್ಧಾರ ತೆಗೆದುಕೊಳ್ಳುವವರ ಎಚ್ಚರಿಕೆಯ ನಿರ್ಣಯವು ಸ್ಥಿರತೆ ಮತ್ತು ದುರಂತದ ನಡುವಿನ ವ್ಯತ್ಯಾಸವನ್ನು ಹೆಚ್ಚಾಗಿ ಉಚ್ಚರಿಸುತ್ತದೆ. ನಿರ್ಧಾರ ತೆಗೆದುಕೊಳ್ಳುವಲ್ಲಿ ಸಹಾಯ ಮಾಡಲು AI ತಂತ್ರಜ್ಞಾನಗಳನ್ನು ಸಹ ಬಳಸಬಹುದೆಂದು AI ಸಂಶೋಧಕರು ವಾದಿಸಿದ್ದಾರೆ. ಉದಾಹರಣೆಗೆ, ಸಂಶೋಧಕರು AI ಮುನ್ಸೂಚನೆ ಮತ್ತು ಸಲಹಾ ವ್ಯವಸ್ಥೆಗಳನ್ನು ಅಭಿವೃದ್ಧಿಪಡಿಸಲು ಪ್ರಾರಂಭಿಸಿದ್ದಾರೆ. ಸಹಕಾರವನ್ನು ಸುಗಮಗೊಳಿಸುವುದು ಅನೇಕ ದೊಡ್ಡ ಜಾಗತಿಕ ಬೆದರಿಕೆಗಳು (ಪರಮಾಣು ಯುದ್ಧ, ಹವಾಮಾನ ಬದಲಾವಣೆ, ಇತ್ಯಾದಿ) ಇವುಗಳನ್ನು ಸಹಕಾರದ ಸವಾಲುಗಳೆಂದು ರೂಪಿಸಲಾಗಿದೆ. ಪ್ರಸಿದ್ಧ ಖೈದಿಗಳ ಸಂದಿಗ್ಧತೆಯ ಸನ್ನಿವೇಶದಲ್ಲಿರುವಂತೆ, ಕೆಲವು ಡೈನಾಮಿಕ್ಸ್ ಎಲ್ಲಾ ಆಟಗಾರರಿಗೆ ಕಳಪೆ ಫಲಿತಾಂಶಗಳಿಗೆ ಕಾರಣವಾಗಬಹುದು, ಅವರು ತಮ್ಮ ಸ್ವಹಿತಾಸಕ್ತಿಯಲ್ಲಿ ಅತ್ಯುತ್ತಮವಾಗಿ ವರ್ತಿಸುತ್ತಿದ್ದರೂ ಸಹ. ಉದಾಹರಣೆಗೆ, ಹವಾಮಾನ ಬದಲಾವಣೆಯನ್ನು ಎದುರಿಸಲು ಯಾರೂ ಮಧ್ಯಪ್ರವೇಶಿಸದಿದ್ದರೂ ಅದರ ಪರಿಣಾಮಗಳು ಗಮನಾರ್ಹವಾಗಿರಬಹುದು. ಒಂದು ಪ್ರಮುಖ AI ಸಹಕಾರದ ಸವಾಲೆಂದರೆ 'ತಳಮಟ್ಟದ ಓಟ' ವನ್ನು ತಪ್ಪಿಸುವುದು. ಈ ಸನ್ನಿವೇಶದಲ್ಲಿ, ದೇಶಗಳು ಅಥವಾ ಕಂಪನಿಗಳು ಹೆಚ್ಚು ಸಮರ್ಥ AI ವ್ಯವಸ್ಥೆಗಳನ್ನು ನಿರ್ಮಿಸಲು ಮತ್ತು ಸುರಕ್ಷತೆಯನ್ನು ನಿರ್ಲಕ್ಷಿಸಲು ಓಡುತ್ತವೆ, ಇದು ಒಳಗೊಂಡಿರುವ ಪ್ರತಿಯೊಬ್ಬರಿಗೂ ಹಾನಿಯುಂಟುಮಾಡುವ ದುರಂತದ ಅಪಘಾತಕ್ಕೆ ಕಾರಣವಾಗುತ್ತದೆ. ಈ ರೀತಿಯ ಸನ್ನಿವೇಶಗಳ ಬಗೆಗಿನ ಕಳವಳಗಳು ಮಾನವರ ನಡುವೆ ಮತ್ತು ಸಂಭಾವ್ಯವಾಗಿ AI ವ್ಯವಸ್ಥೆಗಳ ನಡುವೆ ಸಹಕಾರವನ್ನು ಸುಲಭಗೊಳಿಸಲು ರಾಜಕೀಯ ಮತ್ತು ತಾಂತ್ರಿಕ ಪ್ರಯತ್ನಗಳನ್ನು ಪ್ರೇರೇಪಿಸಿವೆ. ಹೆಚ್ಚಿನ AI ಸಂಶೋಧನೆಯು ಪ್ರತ್ಯೇಕ ಕಾರ್ಯಗಳನ್ನು ನಿರ್ವಹಿಸಲು ಪ್ರತ್ಯೇಕ ಏಜೆಂಟ್ಗಳನ್ನು ವಿನ್ಯಾಸಗೊಳಿಸುವುದರ ಮೇಲೆ ಕೇಂದ್ರೀಕರಿಸುತ್ತದೆ (ಸಾಮಾನ್ಯವಾಗಿ 'ಏಕ-ಆಟಗಾರ' ಆಟಗಳಲ್ಲಿ). ಎಐ ವ್ಯವಸ್ಥೆಗಳು ಹೆಚ್ಚು ಸ್ವಾಯತ್ತವಾಗುತ್ತಿದ್ದಂತೆ, ಅವು ಸಂವಹನ ನಡೆಸುವ ವಿಧಾನವನ್ನು ಅಧ್ಯಯನ ಮಾಡುವುದು ಮತ್ತು ರೂಪಿಸುವುದು ಅತ್ಯಗತ್ಯವಾಗಬಹುದು ಎಂದು ವಿದ್ವಾಂಸರು ಸೂಚಿಸಿದ್ದಾರೆ. ಆಡಳಿತದಲ್ಲಿ ಎಐ ಆಡಳಿತವು ಎಐ ವ್ಯವಸ್ಥೆಗಳ ಬಳಕೆ ಮತ್ತು ಅಭಿವೃದ್ಧಿಗೆ ಮಾರ್ಗದರ್ಶನ ನೀಡಲು ಮಾನದಂಡಗಳು, ಮಾನದಂಡಗಳು ಮತ್ತು ನಿಬಂಧನೆಗಳನ್ನು ರಚಿಸುವುದರೊಂದಿಗೆ ವಿಶಾಲವಾಗಿ ಸಂಬಂಧಿಸಿದೆ. ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ ಸುರಕ್ಷತಾ ಆಡಳಿತ ಸಂಶೋಧನೆಯು ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ ಸಂಭಾವ್ಯ ಪರಿಣಾಮಗಳ ಬಗೆಗಿನ ಮೂಲಭೂತ ತನಿಖೆಯಿಂದ ಹಿಡಿದು ನಿರ್ದಿಷ್ಟ ಅನ್ವಯಗಳವರೆಗೆ ವ್ಯಾಪಿಸಿದೆ. ಮೂಲಭೂತವಾಗಿ, ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯು ಅದರ ವಿಶಾಲವಾದ ಅನ್ವಯಿಕತೆಯಿಂದಾಗಿ ಸಮಾಜದ ಅನೇಕ ಅಂಶಗಳನ್ನು ಪರಿವರ್ತಿಸಬಹುದು ಎಂದು ಸಂಶೋಧಕರು ವಾದಿಸಿದ್ದಾರೆ, ಇದನ್ನು ವಿದ್ಯುತ್ ಮತ್ತು ಉಗಿ ಯಂತ್ರಕ್ಕೆ ಹೋಲಿಸಿದ್ದಾರೆ. ಕೆಲವು ಕೃತಿಗಳು ಈ ಪರಿಣಾಮಗಳಿಂದ ಉಂಟಾಗಬಹುದಾದ ನಿರ್ದಿಷ್ಟ ಅಪಾಯಗಳನ್ನು ನಿರೀಕ್ಷಿಸುವುದರ ಮೇಲೆ ಕೇಂದ್ರೀಕರಿಸಿವೆ-ಉದಾಹರಣೆಗೆ, ಸಾಮೂಹಿಕ ನಿರುದ್ಯೋಗ, ಶಸ್ತ್ರಾಸ್ತ್ರ, ತಪ್ಪು ಮಾಹಿತಿ, ಕಣ್ಗಾವಲು ಮತ್ತು ಅಧಿಕಾರದ ಕೇಂದ್ರೀಕರಣದ ಅಪಾಯಗಳು. ಇತರ ಕೆಲಸಗಳು ವೇಗವಾಗಿ ವಿಕಸನಗೊಳ್ಳುತ್ತಿರುವ ಎಐ ಉದ್ಯಮದ ಮೇಲ್ವಿಚಾರಣೆಯ ತೊಂದರೆ, ಎಐ ಮಾದರಿಗಳ ಲಭ್ಯತೆ ಮತ್ತು 'ತಳಮಟ್ಟದ ಓಟ' ಡೈನಾಮಿಕ್ಸ್ನಂತಹ ಆಧಾರವಾಗಿರುವ ಅಪಾಯದ ಅಂಶಗಳನ್ನು ಪರಿಶೋಧಿಸುತ್ತವೆ. ಡೀಪ್ ಮೈಂಡ್ನಲ್ಲಿನ ದೀರ್ಘಕಾಲೀನ ಆಡಳಿತ ಮತ್ತು ಕಾರ್ಯತಂತ್ರದ ಮುಖ್ಯಸ್ಥರಾದ ಅಲನ್ ಡಾಫೊ ಅವರು ರೇಸಿಂಗ್ನ ಅಪಾಯಗಳು ಮತ್ತು ಸಹಕಾರದ ಸಂಭಾವ್ಯ ಅಗತ್ಯವನ್ನು ಒತ್ತಿಹೇಳಿದ್ದಾರೆಃ "ಮುಂದುವರಿದ ಶಕ್ತಿಶಾಲಿ ವ್ಯವಸ್ಥೆಗಳನ್ನು ನಿಯೋಜಿಸುವ ಮೊದಲು ಹೆಚ್ಚಿನ ಮಟ್ಟದ ಎಚ್ಚರಿಕೆಯನ್ನು ಹೊಂದಿರುವುದು ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ ಸುರಕ್ಷತೆ ಮತ್ತು ಜೋಡಣೆಗೆ ಅಗತ್ಯವಾದ ಮತ್ತು ಸಾಕಷ್ಟು ಷರತ್ತಿಗೆ ಹತ್ತಿರದಲ್ಲಿರಬಹುದು; ಆದಾಗ್ಯೂ, ನಟರು ಮೊದಲ-ಮೂವರ್ಗಳಿಗೆ ಅಥವಾ ಸಾಪೇಕ್ಷ ಪ್ರಯೋಜನಕ್ಕೆ ಹೆಚ್ಚಿನ ಲಾಭವನ್ನು ಹೊಂದಿರುವ ಡೊಮೇನ್ನಲ್ಲಿ ಸ್ಪರ್ಧಿಸುತ್ತಿದ್ದರೆ, ನಂತರ ಉಪ-ಅತ್ಯುತ್ತಮ ಮಟ್ಟದ ಎಚ್ಚರಿಕೆಯನ್ನು ಆಯ್ಕೆ ಮಾಡಲು ಅವರ ಮೇಲೆ ಒತ್ತಡ ಹೇರಲಾಗುತ್ತದೆ". ಸರ್ಕಾರದ ಕ್ರಮ ಕೆಲವು ತಜ್ಞರು ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯನ್ನು ನಿಯಂತ್ರಿಸುವುದು ತುಂಬಾ ಮುಂಚಿನದು ಎಂದು ವಾದಿಸಿದ್ದಾರೆ, ನಿಯಮಗಳು ನಾವೀನ್ಯತೆಗೆ ಅಡ್ಡಿಯಾಗುತ್ತವೆ ಮತ್ತು "ಅಜ್ಞಾನದಲ್ಲಿ ನಿಯಂತ್ರಿಸಲು ಆತುರಪಡುವುದು" ಮೂರ್ಖತನ ಎಂದು ಕಳವಳ ವ್ಯಕ್ತಪಡಿಸಿದ್ದಾರೆ. ಉದ್ಯಮಿ ಎಲೋನ್ ಮಸ್ಕ್ನಂತಹ ಇತರರು, ತಗ್ಗಿಸಲು ಪೂರ್ವಭಾವಿ ಕ್ರಮಕ್ಕೆ ಕರೆ ನೀಡುತ್ತಾರೆ. ಔಪಚಾರಿಕ ಶಾಸನದ ಹೊರತಾಗಿ, ಸರ್ಕಾರಿ ಸಂಸ್ಥೆಗಳು ನೈತಿಕ ಮತ್ತು ಸುರಕ್ಷತಾ ಶಿಫಾರಸುಗಳನ್ನು ಮುಂದಿಟ್ಟಿವೆ. ಮಾರ್ಚ್ 2021ರಲ್ಲಿ, ಯು. ಎಸ್. ನ್ಯಾಷನಲ್ ಸೆಕ್ಯುರಿಟಿ ಕಮಿಷನ್ ಆನ್ ಆರ್ಟಿಫಿಶಿಯಲ್ ಇಂಟೆಲಿಜೆನ್ಸ್, ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯಲ್ಲಿನ ಬೆಳವಣಿಗೆಗಳು "ಸುರಕ್ಷತೆ, ದೃಢತೆ ಮತ್ತು ವಿಶ್ವಾಸಾರ್ಹತೆ ಸೇರಿದಂತೆ ಗುರಿಗಳು ಮತ್ತು ಮೌಲ್ಯಗಳೊಂದಿಗೆ ವ್ಯವಸ್ಥೆಗಳು ಹೊಂದಿಕೆಯಾಗುತ್ತವೆ ಎಂದು ಭರವಸೆ ನೀಡುವುದು" ಹೆಚ್ಚು ಮುಖ್ಯವಾಗಬಹುದು ಎಂದು ವರದಿ ಮಾಡಿದೆ. ತರುವಾಯ, ನ್ಯಾಷನಲ್ ಇನ್ಸ್ಟಿಟ್ಯೂಟ್ ಆಫ್ ಸ್ಟ್ಯಾಂಡರ್ಡ್ಸ್ ಅಂಡ್ ಟೆಕ್ನಾಲಜಿಯು ಎಐ ರಿಸ್ಕ್ ಅನ್ನು ನಿರ್ವಹಿಸಲು ಒಂದು ಚೌಕಟ್ಟನ್ನು ರಚಿಸಿತು, ಇದು "ದುರಂತದ ಅಪಾಯಗಳು ಇದ್ದಾಗ-ಅಪಾಯಗಳನ್ನು ಸಾಕಷ್ಟು ನಿರ್ವಹಿಸುವವರೆಗೆ ಅಭಿವೃದ್ಧಿ ಮತ್ತು ನಿಯೋಜನೆಯನ್ನು ಸುರಕ್ಷಿತ ರೀತಿಯಲ್ಲಿ ನಿಲ್ಲಿಸಬೇಕು" ಎಂದು ಸಲಹೆ ನೀಡುತ್ತದೆ. ಸೆಪ್ಟೆಂಬರ್ 2021 ರಲ್ಲಿ, ಪೀಪಲ್ಸ್ ರಿಪಬ್ಲಿಕ್ ಆಫ್ ಚೀನಾ ಚೀನಾದಲ್ಲಿ AI ಬಳಕೆಗೆ ನೈತಿಕ ಮಾರ್ಗಸೂಚಿಗಳನ್ನು ಪ್ರಕಟಿಸಿತು, AI ನಿರ್ಧಾರಗಳು ಮಾನವ ನಿಯಂತ್ರಣದಲ್ಲಿರಬೇಕು ಮತ್ತು ಹೊಣೆಗಾರಿಕೆಯ ಕಾರ್ಯವಿಧಾನಗಳಿಗೆ ಕರೆ ನೀಡಬೇಕು ಎಂದು ಒತ್ತಿಹೇಳಿತು. ಅದೇ ತಿಂಗಳಲ್ಲಿ, ಯುನೈಟೆಡ್ ಕಿಂಗ್ಡಮ್ ತನ್ನ 10 ವರ್ಷಗಳ ರಾಷ್ಟ್ರೀಯ AI ಕಾರ್ಯತಂತ್ರವನ್ನು ಪ್ರಕಟಿಸಿತು, ಇದು ಬ್ರಿಟಿಷ್ ಸರ್ಕಾರವು "ಅಲಿಪ್ತ ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ ದೀರ್ಘಕಾಲೀನ ಅಪಾಯವನ್ನು ಮತ್ತು ಅದು ಜಗತ್ತಿಗೆ ಅರ್ಥವಾಗುವ ಅನಿರೀಕ್ಷಿತ ಬದಲಾವಣೆಗಳನ್ನು ಗಂಭೀರವಾಗಿ ತೆಗೆದುಕೊಳ್ಳುತ್ತದೆ" ಎಂದು ಹೇಳುತ್ತದೆ. ಈ ಕಾರ್ಯತಂತ್ರವು ದುರಂತದ ಅಪಾಯಗಳು ಸೇರಿದಂತೆ ದೀರ್ಘಕಾಲೀನ AI ಅಪಾಯಗಳನ್ನು ನಿರ್ಣಯಿಸುವ ಕ್ರಮಗಳನ್ನು ವಿವರಿಸುತ್ತದೆ. ಬ್ರಿಟಿಷ್ ಸರ್ಕಾರವು ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ ಸುರಕ್ಷತೆ ಕುರಿತ ಮೊದಲ ಪ್ರಮುಖ ಜಾಗತಿಕ ಶೃಂಗಸಭೆಯ ಯೋಜನೆಗಳನ್ನು ಪ್ರಕಟಿಸಿದೆ. ಇದು 2023ರ ನವೆಂಬರ್ 1 ಮತ್ತು 2ರಂದು ನಡೆಯಲಿದ್ದು, "ನೀತಿ ನಿರೂಪಕರು ಮತ್ತು ವಿಶ್ವ ನಾಯಕರಿಗೆ ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ ತಕ್ಷಣದ ಮತ್ತು ಭವಿಷ್ಯದ ಅಪಾಯಗಳನ್ನು ಮತ್ತು ಜಾಗತಿಕವಾಗಿ ಸಂಘಟಿತವಾದ ವಿಧಾನದ ಮೂಲಕ ಈ ಅಪಾಯಗಳನ್ನು ಹೇಗೆ ತಗ್ಗಿಸಬಹುದು ಎಂಬುದನ್ನು ಪರಿಗಣಿಸಲು ಇದು ಒಂದು ಅವಕಾಶವಾಗಿದೆ". ಸರ್ಕಾರಿ ಸಂಸ್ಥೆಗಳು, ವಿಶೇಷವಾಗಿ ಯುನೈಟೆಡ್ ಸ್ಟೇಟ್ಸ್ನಲ್ಲಿ, ತಾಂತ್ರಿಕ AI ಸುರಕ್ಷತಾ ಸಂಶೋಧನೆಯ ಅಭಿವೃದ್ಧಿಯನ್ನು ಪ್ರೋತ್ಸಾಹಿಸಿವೆ. ಇಂಟೆಲಿಜೆನ್ಸ್ ಅಡ್ವಾನ್ಸ್ಡ್ ರಿಸರ್ಚ್ ಪ್ರಾಜೆಕ್ಟ್ಸ್ ಆಕ್ಟಿವಿಟಿ ಎಐ ವ್ಯವಸ್ಥೆಗಳ ಮೇಲೆ ಟ್ರೋಜನ್ ದಾಳಿಗಳನ್ನು ಗುರುತಿಸಲು ಮತ್ತು ರಕ್ಷಿಸಲು ಟ್ರೋಜಾಯ್ ಯೋಜನೆಯನ್ನು ಪ್ರಾರಂಭಿಸಿತು. ಡಿಎಆರ್ಪಿಎ ವಿವರಿಸಬಹುದಾದ ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ ಸಂಶೋಧನೆಯಲ್ಲಿ ತೊಡಗಿದೆ ಮತ್ತು ಪ್ರತಿಕೂಲ ದಾಳಿಯ ವಿರುದ್ಧ ದೃಢತೆಯನ್ನು ಸುಧಾರಿಸುತ್ತದೆ. ಮತ್ತು ನ್ಯಾಷನಲ್ ಸೈನ್ಸ್ ಫೌಂಡೇಶನ್ ವಿಶ್ವಾಸಾರ್ಹ ಯಂತ್ರ ಕಲಿಕೆಯ ಕೇಂದ್ರವನ್ನು ಬೆಂಬಲಿಸುತ್ತದೆ ಮತ್ತು ಪ್ರಾಯೋಗಿಕ AI ಸುರಕ್ಷತಾ ಸಂಶೋಧನೆಗೆ ಲಕ್ಷಾಂತರ ಡಾಲರ್ ಹಣವನ್ನು ಒದಗಿಸುತ್ತಿದೆ. ಸಾಂಸ್ಥಿಕ ಸ್ವಯಂ-ನಿಯಂತ್ರಣ AI ಪ್ರಯೋಗಾಲಯಗಳು ಮತ್ತು ಕಂಪನಿಗಳು ಸಾಮಾನ್ಯವಾಗಿ ಔಪಚಾರಿಕ ಶಾಸನದ ಹೊರಗಿರುವ ಸುರಕ್ಷತಾ ಅಭ್ಯಾಸಗಳು ಮತ್ತು ಮಾನದಂಡಗಳನ್ನು ಅನುಸರಿಸುತ್ತವೆ. ಈ ಮಾನದಂಡಗಳನ್ನು ರೂಪಿಸುವುದು ಆಡಳಿತ ಸಂಶೋಧಕರ ಒಂದು ಗುರಿಯಾಗಿದೆ. ಸಾಹಿತ್ಯದಲ್ಲಿ ಕಂಡುಬರುವ ಸುರಕ್ಷತಾ ಶಿಫಾರಸುಗಳ ಉದಾಹರಣೆಗಳಲ್ಲಿ ಮೂರನೇ ವ್ಯಕ್ತಿಯ ಲೆಕ್ಕಪರಿಶೋಧನೆ, ವೈಫಲ್ಯಗಳನ್ನು ಕಂಡುಹಿಡಿಯಲು ಬಹುಮಾನಗಳನ್ನು ನೀಡುವುದು, AI ಘಟನೆಗಳನ್ನು ಹಂಚಿಕೊಳ್ಳುವುದು (ಈ ಉದ್ದೇಶಕ್ಕಾಗಿ AI ಘಟನೆಯ ದತ್ತಸಂಚಯವನ್ನು ರಚಿಸಲಾಗಿದೆ), ಸಂಶೋಧನೆ ಅಥವಾ ಮಾದರಿಗಳನ್ನು ಪ್ರಕಟಿಸಬೇಕೇ ಎಂದು ನಿರ್ಧರಿಸಲು ಮಾರ್ಗಸೂಚಿಗಳನ್ನು ಅನುಸರಿಸುವುದು ಮತ್ತು AI ಪ್ರಯೋಗಾಲಯಗಳಲ್ಲಿ ಮಾಹಿತಿ ಮತ್ತು ಸೈಬರ್ ಭದ್ರತೆಯನ್ನು ಸುಧಾರಿಸುವುದು ಸೇರಿವೆ. ಕಂಪನಿಗಳು ಸಹ ಬದ್ಧತೆಗಳನ್ನು ಹೊಂದಿವೆ. ಕೋಹೆರೆ, ಓಪನ್ಎಐ ಮತ್ತು ಎಐ21ಗಳು ದುರುಪಯೋಗವನ್ನು ತಗ್ಗಿಸುವತ್ತ ಗಮನ ಕೇಂದ್ರೀಕರಿಸಿ, "ಭಾಷಾ ಮಾದರಿಗಳನ್ನು ನಿಯೋಜಿಸಲು ಉತ್ತಮ ಅಭ್ಯಾಸಗಳನ್ನು" ಪ್ರಸ್ತಾಪಿಸಿ ಒಪ್ಪಿಕೊಂಡವು. ರೇಸಿಂಗ್-ಡೈನಾಮಿಕ್ಸ್ಗೆ ಕೊಡುಗೆ ನೀಡುವುದನ್ನು ತಪ್ಪಿಸಲು, ಓಪನ್ಎಐ ತಮ್ಮ ಚಾರ್ಟರ್ನಲ್ಲಿ "ಮೌಲ್ಯ-ಜೋಡಣೆ, ಸುರಕ್ಷತಾ-ಪ್ರಜ್ಞೆಯ ಯೋಜನೆಯು ನಾವು ಮಾಡುವ ಮೊದಲು ಎಜಿಐ ಅನ್ನು ನಿರ್ಮಿಸಲು ಹತ್ತಿರದಲ್ಲಿದ್ದರೆ, ನಾವು ಸ್ಪರ್ಧೆಯನ್ನು ನಿಲ್ಲಿಸಲು ಮತ್ತು ಈ ಯೋಜನೆಗೆ ಸಹಾಯ ಮಾಡಲು ಪ್ರಾರಂಭಿಸಲು ಬದ್ಧರಾಗಿದ್ದೇವೆ" ಎಂದು ಹೇಳಿದೆ. ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ ಜೋಡಣೆಯನ್ನು ಸಹ ನೋಡಿ ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯನ್ನು ಪತ್ತೆಹಚ್ಚುವ ಸಾಫ್ಟ್ವೇರ್ ಉಲ್ಲೇಖಗಳು ಬಾಹ್ಯ ಕೊಂಡಿಗಳು ಎಂಎಲ್ ಸುರಕ್ಷತೆಯಲ್ಲಿನ ಪರಿಹಾರವಾಗದ ಸಮಸ್ಯೆಗಳು ಫೌಂಡೇಶನ್ ಮಾದರಿಗಳ ಅವಕಾಶಗಳು ಮತ್ತು ಅಪಾಯಗಳ ಮೇಲೆ ವಿನಾಶಕಾರಿ ಎಐ ಅಪಾಯಗಳ ಒಂದು ಅವಲೋಕನ ಎಐ ಅಪಘಾತಗಳುಃ ಒಂದು ಉದಯೋನ್ಮುಖ ಬೆದರಿಕೆ ಎಂಜಿನಿಯರಿಂಗ್ ಒಂದು ಸುರಕ್ಷಿತ ವಿಶ್ವ ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ ಕೃತಕ ಸಾಮಾನ್ಯ ಬುದ್ಧಿಮತ್ತೆಯಿಂದ ಅಸ್ತಿತ್ವದಲ್ಲಿರುವ ಅಪಾಯ ಸೈಬರ್ನೆಟಿಕ್ಸ್