headline: Yadda fasahar na'ura za ta iya wargaza bil'adama
text: Manyan masana kimiyya, irin su Stephen Hawking da Elon Musk, sun nuna damuwa kan yadda mutum-mutumi masu kwakwalwa za su iya zama barazana ga cigaba da wanzuwar dan Adam. Amma wani sabon littafi ya nuna cewa, ba wai yin amfani da tunaninsu ko kuma bijirewa da far wa mutane ne hadarin ba. Babban hadarin shi ne yadda wadannan mutum-mutumi suka kware wajen aikata abin da aka sa su su yi, wanda idan ba a yi hankali ba za su iya kawar da mutane idan aka yi kuskuren sa su aikata wani abu da kuskure. Farfesa Stuart Russell na jami'ar California ya rubuta wani littafi mai suna "Human Compatible: AI and the Problem of Control", kuma kwararre ne a kan ci gaban da aka samu a bangaren kirkire-kirkiren na'ura. Ya shaida wa BBC cewa "Hasashen masu shirya fim shi ne na'ura za ta mallaki tunani inda za ta iya samar da kiyayya tsakanin ta da dan Adam, daga nan sai ta kashe mu baki daya." To amma mutum-mutumi ba su da dabi'u irin na dan Adam "Saboda haka babu hujjar damuwa da irin haka." "Ba magana ce ta mummunan tunani ba. Abin da ya kamata, mu fi damuwa da shi, shi ne kwarewarsu - kada su kware wurin aikata wasu abubuwan da aka yi kuskuren umartar su da aikatawa." 'Gwanancewa fiye da kima' A wata tattaunawa da wani shirin BBC, ya bayar da misalin barazanar da mutum-mutumai masu kwakwalwa za su iya haifarwa. Misali, idan a ce muna da gangariyar na'ura wadda aikinta shi ne ta sarrafa yanayi, wadda kila za mu so tsaftace iskar da muke shaka yadda za ta koma daidai da lokacin da babu masana'antu masu gurbata iska. A cewar Prof Russell "Idan a misali na'urar ta gano cewa hanya daya da za a cimma hakan ita ce a kawar da dan Adam daga doron kasa, domin su ne suke fitar da sanadarin 'CO2' mai gurabata muhalli." "Kila ka ce za mu umarci na'urar ta dauki duk matakan da suka kamata amma ban da kashe dan Adam. To mene ne na'urar za ta yi? Sai ta shawo kanmu cewa mu daina haihuwar yara da yawa, har sai ya zamo cewa babu sauran dan Adam a doron kasa." Wannan misali ne na irin barazanar da ke tattare da fasahar na'ura wadda mutane ba su yi tsammani ba. Kaifin tunani Yawancin fasahar na'ura da ake da su na dauke ne da manhajar da aka tsara domin ta warware wata takamaimiyar matsala, in ji wata cibiyar bincike a jami'ar Cambridge da ke Birtaniya. An samu ci gaba ne sosai ta wannan fanni a shekarar 1997, lokacin da na'urar Deep Blue ta lashe gasar wasan Chess bayan ta doke gwarzon wasan na duniya Garry Kapparov a wata karawa. Amma duk da wannan nasara, an tsara manhajar Depp Blue ne ta yadda mutane za su rinka amfani da ita wurin buga wasan Chess, kuma za a iya doke ta cikin wasa mai sauki. Sai dai ba haka ba ne a sauran fasahar na'ura da aka kirkiro na baya-baya. Misalai, manhajar wasan kwamfuta na AlphaGo Zero ta yi gwanancewar da ta fi ta dan Adam bayan kwana uku kacal tana wasan ita da kanta. A irin wannan yanayi na'urar na bukatar umarni kalilan ne daga dan Adam wurin gudanar da abubuwan da aka tsara mata. Abin tsoro ne kwarai. Abubuwa ne da na'urar ta yi da kanta. "Yayin da fasahar na'ura ke kara karfi da fadada, fasahar za ta ci gaba da habbaka - har ta fi ta dan Adam a bangarori da yawa ko ma a kowane bangare," in ji cibiyar Existential Risk Centre. Shi ya sa Farfesa Russel ya ce akwai bukatar kada mutane su bari ikon da suke da shi ya kubuce masu. 'Ba mu da tabbas kan abin da muke so' Ya ce samar da wadannan na'urori domin su aikata wani abu guda daya takamaimai ba zai warware wannan matsala ba, domin a cewarsa dan Adam bai riga ya hakikance manufar abin da yake son ya cimma ba. Ya ce, "Ba mu sanin abin da ba ma so har sai abin ya afku." "Ya kamata mu sauya yadda muke kirkirar fasahar na'ura," mu kauce wa tsara na'ura kan abin da za ta yi, inda daga bisani takan yi abin da kanta. "A maimakon haka bai kamata na'urar ta san abin da ake so ta yi ba." "Idan na'ura ta kasance a haka, za su bambanta da dan Adam. Za su rinka neman izini kafin aikata wasu abubuwa kasancewar ba su san abin da ake so su yi ba." "Idan har fasahar na'urar tana da karfi za ta aikata duk abin da ka umarce ta." "Saboda haka, idan na'ura tana aikata wani abu da ba daidai ba, za su zamo barazana ga dan Adam - barazana wadda ta fi karfin dan Adam.