Kunsmatige-intelligensie-veiligheid
Kunsmatige-intelligensie- (KI-)veiligheid is 'n interdissiplinêre veld wat gemoeid is met die voorkoming van ongelukke, misbruik of ander skadelike gevolge wat uit kunsmatige-intelligensie- (KI-)stelsels kan voortspruit. Dit sluit masjienetiek en KI-belyning in, wat daarop gemik is om KI-stelsels moreel en voordelig te maak, en KI-veiligheid sluit tegniese probleme in, insluitend die monitering van stelsels vir risiko's en om dit hoogs betroubaar te maak. Behalwe vir KI-navorsing, behels dit die ontwikkeling van norme en beleide wat veiligheid bevorder.

Motiverings 
KI-navorsers het wyd uiteenlopende menings oor die erns en primêre bronne van risiko wat KI-tegnologie inhou – alhoewel opnames daarop dui dat kundiges hoë-gevolgrisiko’s ernstig opneem. In twee opnames van KI-navorsers was die mediaan-respondent optimisties oor KI in die algemeen, maar het 'n 5%-waarskynlikheid geplaas op 'n "uiters slegte (bv. menslike uitwissing)"-uitkoms van gevorderde KI. In 'n 2022-opname van die natuurliketaalverwerking (NLP)-gemeenskap, het 37% saamgestem of swak saamgestem dat dit aanneemlik is dat KI-besluite kan lei tot 'n katastrofe wat "ten minste so erg soos 'n algehele kernoorlog is." Geleerdes bespreek huidige risiko's van kritieke stelselfoute,  vooroordeel, en KI-geaktiveerde toesig; opkomende risiko's van tegnologiese werkloosheid, digitale manipulasie, en wapenisering; en spekulatiewe risiko's om beheer te verloor van toekomstige agente vir kunsmatige algemene intelligensie (KAI).

Sien ook 
 Globale Vennootskap oor Kunsmatige Intelligensie

Verwysings 

Kunsmatige intelligensie
Kunsmatige-intelligensie - ( KI- )veiligheid is 'n interdissiplinêre veld wat gemoeid is met die voorkoming van ongelukke , misbruik of ander skadelike gevolge wat uit kunsmatige-intelligensie - ( KI-)stelsels kan voortspruit . Dit sluit masjienetiek en KI-belyning in , wat daarop gemik is om KI-stelsels moreel en voordelig te maak , en KI-veiligheid sluit tegniese probleme in , insluitend die monitering van stelsels vir risiko's en om dit hoogs betroubaar te maak . Behalwe vir KI-navorsing , behels dit die ontwikkeling van norme en beleide wat veiligheid bevorder . Motiverings KI-navorsers het wyd uiteenlopende menings oor die erns en primêre bronne van risiko wat KI-tegnologie inhou – alhoewel opnames daarop dui dat kundiges hoë-gevolgrisiko’s ernstig opneem . In twee opnames van KI-navorsers was die mediaan-respondent optimisties oor KI in die algemeen , maar het ' n-waarskynlikheid geplaas op 'n " uiters slegte ( bv. menslike uitwissing ) " -uitkoms van gevorderde KI . In ' nopname van die natuurliketaalverwerking ( NLP)-gemeenskap , het saamgestem of swak saamgestem dat dit aanneemlik is dat KI-besluite kan lei tot 'n katastrofe wat " ten minste so erg soos 'n algehele kernoorlog is . " Geleerdes bespreek huidige risiko's van kritieke stelselfoute , vooroordeel , en KI-geaktiveerde toesig ; opkomende risiko's van tegnologiese werkloosheid , digitale manipulasie , en wapenisering ; en spekulatiewe risiko's om beheer te verloor van toekomstige agente vir kunsmatige algemene intelligensie ( KAI ) . Sien ook Globale Vennootskap oor Kunsmatige Intelligensie Verwysings Kunsmatige intelligensie