KI-oorname
’n KI-oorname is ’n hipotetiese scenario waarin kunsmatige intelligensie (KI) die oorheersende vorm van intelligensie op Aarde word, aangesien rekenaarprogramme of robotte effektief beheer oor die planeet neem ten koste van die menslike spesie. Moontlike scenario's sluit in die vervanging van die hele menslike arbeidsmag, oorname deur 'n superintelligente KI, en die gewilde idee van 'n robotopstand. Verhale van KI-oornames is baie gewild in wetenskapfiksie. Sommige openbare figure, soos Stephen Hawking en Elon Musk, het navorsing oor voorsorgmaatreëls bepleit om te verseker dat toekomstige superintelligente masjiene onder menslike beheer bly.

Tipes

Outomatisering van die ekonomie
Die tradisionele konsensus onder ekonome was dat tegnologiese vooruitgang nie langtermynwerkloosheid veroorsaak nie. Onlangse innovasie op die gebied van robotika en kunsmatige intelligensie het egter kommer laat ontstaan dat menslike arbeid uitgedien sal word, wat mense in verskeie sektore sonder werk laat om 'n bestaan te verdien, wat tot 'n ekonomiese krisis sal lei. Baie klein en mediumgrootte ondernemings kan ook uit die besigheid gedryf word as hulle nie die nuutste robot- en KI-tegnologie kan bekostig of lisensieer nie, en moet dalk fokus op gebiede of dienste wat nie maklik vervang kan word vir voortgesette lewensvatbaarheid in die lig van sulke tegnologie nie.

Tegnologieë wat werkers kan verplaas 
KI-tegnologie is die afgelope jaar wyd aangeneem. Alhoewel hierdie tegnologie baie tradisionele werkers vervang het, skep dit ook nuwe geleenthede. Nywerhede wat die meeste vatbaar is vir KI-oorname sluit vervoer, kleinhandel en die weermag in. KI militêre tegnologieë, byvoorbeeld, laat soldate toe om op afstand te werk sonder enige risiko van besering. Skrywer Dave Bond voer aan dat soos KI-tegnologie aanhou ontwikkel en uitbrei, die verhouding tussen mense en robotte sal verander; hulle sal nou geïntegreer raak in verskeie aspekte van die lewe. KI sal waarskynlik sommige werkers verplaas terwyl geleenthede vir nuwe werk in ander sektore geskep word, veral in velde waar take herhaalbaar is.

Rekenaar-geïntegreerde vervaardiging 
Rekenaar-geïntegreerde vervaardiging gebruik rekenaars om die produksieproses te beheer. Dit laat individuele prosesse toe om inligting met mekaar uit te ruil en aksies te inisieer. Alhoewel vervaardiging vinniger en minder foutgevoelig kan wees deur die integrasie van rekenaars, is die grootste voordeel die vermoë om outomatiese vervaardigingsprosesse te skep. Rekenaar-geïntegreerde vervaardiging word in die motor-, lugvaart-, ruimte- en skeepsboubedrywe gebruik.

Witboordjiemasjiene 
Die 21ste eeu het gesien hoe 'n verskeidenheid vaardige take gedeeltelik deur masjiene oorgeneem is, insluitend vertaling, regsnavorsing en laevlak-joernalistiek. Versorgingswerk, vermaak en ander take wat empatie vereis, wat voorheen veilig gedink is van outomatisering, is ook begin om deur robotte uitgevoer te word.

Outonome motors 
'n Outonome motor is 'n voertuig wat in staat is om sy omgewing te waarneem en te navigeer sonder menslike insette. Baie sulke voertuie word ontwikkel, maar vanaf Mei 2017 is outomatiese motors wat op openbare paaie toegelaat word, nog nie ten volle outonoom nie. Hulle benodig almal 'n menslike bestuurder aan die stuur wat op 'n oomblik se kennisgewing beheer oor die voertuig kan neem. Onder die struikelblokke vir die wydverspreide aanvaarding van outonome voertuie is kommer oor die gevolglike verlies aan bestuursverwante werksgeleenthede in die padvervoerbedryf. Op 18 Maart 2018 is die eerste mens deur 'n outonome voertuig in Tempe, Arizona deur 'n Uber-selfbesturende motor doodgery.

Uitwissing 
Hoofartikel: Eksistensiële risiko van kunsmatige algemene intelligensie

Wetenskaplikes soos Stephen Hawking is vol vertroue dat bomenslike kunsmatige intelligensie fisies moontlik is, en sê "daar is geen fisiese wet wat verhoed dat deeltjies georganiseer word op maniere wat selfs meer gevorderde berekeninge uitvoer as die rangskikkings van deeltjies in menslike breine nie". Geleerdes soos Nick Bostrom debatteer hoe ver bomenslike intelligensie is, en of dit 'n risiko vir die mensdom inhou. Volgens Bostrom sal 'n superintelligente masjien nie noodwendig gemotiveer word deur dieselfde emosionele begeerte om mag te versamel wat mense dikwels dryf nie, maar mag eerder mag behandel as 'n manier om sy uiteindelike doelwitte te bereik; die oorname van die wêreld sal beide sy toegang tot hulpbronne verhoog en help om te verhoed dat ander agente die masjien se planne stuit. As 'n oorvereenvoudigde voorbeeld, 'n skuifspeldmaksimeerder wat uitsluitlik ontwerp is om soveel skuifspelde as moontlik te skep, sal die wêreld wil oorneem sodat dit al die wêreld se hulpbronne kan gebruik om soveel skuifspelde as moontlik te skep, en boonop verhoed dat mense sluit. dit af of gebruik daardie hulpbronne op ander dinge as skuifspelde.

In fiksie

KI-oorname is 'n algemene tema in wetenskapfiksie. Fiktiewe scenario's verskil tipies baie van dié wat deur navorsers veronderstel is deurdat dit 'n aktiewe konflik tussen mense en 'n KI behels of robotte met antropomorfiese motiewe wat dit as 'n bedreiging beskou of andersins 'n aktiewe begeerte het om mense te beveg, in teenstelling met die navorsers se besorgdheid oor 'n KI wat mense vinnig uitroei as 'n neweproduk van die nastrewing van sy doelwitte. Die idee word gesien in Karel Čapek se R.U.R., wat die woord robot in 1921 bekendgestel het, en kan gesien word in Mary Shelley se Frankenstein (gepubliseer in 1818), terwyl Victor nadink of, as hy sy monster se versoek toestaan en hom 'n vrou maak , hulle sou voortplant en hulle soort sou die mensdom vernietig.

Volgens Toby Ord is die idee dat 'n KI-oorname robotte vereis 'n wanopvatting wat deur die media en Hollywood gedryf word. Hy voer aan dat die mees skadelike mense in die geskiedenis nie fisies die sterkste was nie, maar dat hulle eerder woorde gebruik het om mense te oortuig en beheer oor groot dele van die wêreld te verkry. Hy skryf dat 'n voldoende intelligente KI met toegang tot die internet rugsteunkopieë van homself kan verstrooi, finansiële en menslike hulpbronne (via kuberaanvalle of afpersing) kan versamel, mense op groot skaal kan oorreed, en sosiale kwesbaarhede kan uitbuit wat te subtiel is vir mense om verwag.

Die woord "robot" van R.U.R. kom van die Tsjeggiese woord, robota, wat arbeider of dienaar beteken. Die toneelstuk van 1920 was 'n protes teen die vinnige groei van tegnologie, met vervaardigde "robotte" met toenemende vermoëns wat uiteindelik in opstand kom. HAL 9000 (1968) en die oorspronklike Terminator (1984) is twee ikoniese voorbeelde van vyandige KI in popkultuur.

Bydraende faktore

Voordele van bomenslike intelligensie bo mense 
Nick Bostrom en ander het kommer uitgespreek dat 'n KI met die vermoëns van 'n bekwame kunsmatige intelligensie-navorser in staat sal wees om sy eie bronkode te verander en sy eie intelligensie te verhoog. As sy selfherprogrammering daartoe lei dat dit selfs beter word om homself te herprogrammeer, kan die resultaat 'n rekursiewe intelligensie-ontploffing wees waarin dit vinnig menslike intelligensie ver agter sal laat. Bostrom definieer 'n superintelligensie as "enige intellek wat die kognitiewe prestasie van mense in feitlik alle domeine van belang grootliks oorskry", en noem 'n paar voordele wat 'n superintelligensie sou hê as dit sou verkies om teen mense mee te ding:
 Tegnologienavorsing: 'n Masjien met bomenslike wetenskaplike navorsingsvermoëns sal die menslike navorsingsgemeenskap tot mylpale soos nanotegnologie of gevorderde biotegnologie kan klop.
 Strategiegewing: 'n Superintelligensie kan moontlik menslike opposisie bloot uitoorlê
 Sosiale manipulasie: 'n Superintelligensie kan moontlik menslike ondersteuning werf, of heimlik 'n oorlog tussen mense aanhits
 Ekonomiese produktiwiteit: Solank as wat 'n kopie van die KI meer ekonomiese rykdom as die koste van sy hardeware kan produseer, sal individuele mense 'n aansporing hê om vrywillig die Kunsmatige Algemene Intelligensie (KAI) toe te laat om 'n kopie van homself op hul stelsels te laat loop
 Kuberkraking: 'n Superintelligensie kan nuwe uitbuitings vind in rekenaars wat aan die internet gekoppel is, en kopieë van homself op daardie stelsels versprei, of dalk geld steel om sy planne te finansier

Bronne van KI-voordeel 
Volgens Bostrom kan 'n rekenaarprogram wat 'n menslike brein getrou naboots, of wat algoritmes bestuur wat so kragtig soos die menslike brein se algoritmes is, steeds 'n "spoedsuperintelligensie" word as dit baie ordes van grootte vinniger as 'n mens kan dink, a.g.v. om van silikon gemaak te word eerder as vlees, of as gevolg van optimalisering wat die spoed van die KAI verhoog. Biologiese neurone werk teen ongeveer 200 Hz, terwyl 'n moderne mikroverwerker teen 'n spoed van ongeveer 2,000,000,000 Hz werk. Menslike aksone dra aksiepotensiale teen ongeveer 120 m/s, terwyl rekenaarseine naby die spoed van lig beweeg.

'n Netwerk van menslike vlak intelligensies wat ontwerp is om saam te netwerk en komplekse gedagtes en herinneringe naatloos te deel, in staat om gesamentlik as 'n reuse verenigde span sonder wrywing te werk, of bestaande uit triljoene menslike vlak intelligensies, sou 'n "kollektiewe superintelligensie" word.

Meer in die breë, enige aantal kwalitatiewe verbeterings aan 'n menslike vlak KAI kan lei tot 'n "kwaliteit superintelligensie", wat miskien lei tot 'n KAI so ver bo ons in intelligensie as wat mense bo nie-menslike ape is. Die aantal neurone in 'n menslike brein word beperk deur kraniale volume en metaboliese beperkings, terwyl die aantal verwerkers in 'n superrekenaar onbepaald uitgebrei kan word. 'n KAI hoef nie beperk te word deur menslike beperkings op werkende geheue nie, en kan dus intuïtief meer komplekse verhoudings begryp as wat mense kan. 'n KAI met gespesialiseerde kognitiewe ondersteuning vir ingenieurswese of rekenaarprogrammering sal 'n voordeel in hierdie velde hê, in vergelyking met mense wat geen gespesialiseerde verstandelike modules ontwikkel het om spesifiek met daardie domeine te handel nie. Anders as mense, kan 'n KAI kopieë van homself skep en aan sy kopieë se bronkode peuter om te probeer om sy algoritmes verder te verbeter

Moontlikheid van onvriendelike KI wat vriendelike KI voorafgaan

Is sterk KI inherent gevaarlik? 
Hoofartikel: KI-belyning
'n Beduidende probleem is dat onvriendelike kunsmatige intelligensie waarskynlik baie makliker sal wees om te skep as vriendelike KI. Alhoewel beide groot vooruitgang in rekursiewe optimeringsproses-ontwerp vereis, vereis vriendelike KI ook die vermoë om doelstrukture onveranderlik te maak tydens selfverbetering (of die KI kan homself in iets onvriendeliks transformeer) en 'n doelstruktuur wat in lyn is met menslike waardes en nie instrumentele konvergensie ondergaan nie, op maniere wat outomaties die hele menslike ras kan vernietig nie. 'n Onvriendelike KI, aan die ander kant, kan optimeer vir 'n arbitrêre doelstruktuur, wat nie onveranderlik hoef te wees onder selfmodifikasie nie.

Kans op konflik 
Baie geleerdes, insluitend die evolusionêre sielkundige Steven Pinker, voer aan dat 'n superintelligente masjien waarskynlik vreedsaam met mense sal bestaan.

Die vrees vir kubernetiese opstand is dikwels gebaseer op interpretasies van die mensdom se geskiedenis, wat wemel van voorvalle van verslawing en volksmoord. Sulke vrese spruit uit 'n oortuiging dat mededingendheid en aggressie nodig is in enige intelligente wese se doelwitstelsel. Sulke menslike mededingendheid spruit egter uit die evolusionêre agtergrond tot ons intelligensie, waar die oorlewing en voortplanting van gene in die aangesig van menslike en nie-menslike mededingers die sentrale doelwit was. Volgens KI-navorser Steve Omohundro kan 'n arbitrêre intelligensie arbitrêre doelwitte hê: daar is geen spesifieke rede dat 'n kunsmatig intelligente masjien (wat nie die mensdom se evolusionêre konteks deel nie) vyandig – of vriendelik – sou wees, tensy sy skepper dit programmeer om so te wees en dit is nie geneig of in staat is om sy programmering te wysig nie. Maar die vraag bly: wat sou gebeur as KI-stelsels in wisselwerking kan tree en ontwikkel (evolusie in hierdie konteks beteken selfmodifikasie of seleksie en voortplanting) en moet meeding oor hulpbronne - sou dit doelwitte van selfbehoud skep? KI se doelwit van selfbehoud kan in stryd wees met sommige doelwitte van mense.

Baie geleerdes betwis die waarskynlikheid van onverwagte kubernetiese opstand soos uitgebeeld in wetenskapfiksie soos The Matrix, en voer aan dat dit meer waarskynlik is dat enige kunsmatige intelligensie wat kragtig genoeg is om die mensdom te bedreig, waarskynlik geprogrammeer sal wees om dit nie aan te val nie. Pinker erken die moontlikheid van doelbewuste “slegte akteurs”, maar verklaar dat in die afwesigheid van slegte akteurs, onverwagte ongelukke nie ’n wesenlike bedreiging is nie; Pinker voer aan dat 'n kultuur van ingenieursveiligheid KI-navorsers sal verhoed om per ongeluk kwaadaardige superintelligensie te ontketen.  In teenstelling hiermee voer Yudkowsky aan dat die mensdom minder geneig is om bedreig te word deur doelbewus aggressiewe KI's as deur KI's wat so geprogrammeer is dat hul doelwitte onbedoeld onversoenbaar is met menslike oorlewing of welstand (soos in die film I, Robot en in die kortverhaal "The Evitable Conflict"). Omohundro stel voor dat hedendaagse outomatiseringstelsels nie vir veiligheid ontwerp is nie en dat KI's blindelings smal nutsfunksies kan optimaliseer (sê, skaak speel ten alle koste), wat daartoe lei dat hulle selfbehoud en uitskakeling van struikelblokke soek, insluitend mense wat dit kan verander of af dit.

Voorsorgmaatreëls 
Hoofartikel: KI-beheerprobleem
Die KI-beheerprobleem is die kwessie van hoe om 'n superintelligente agent te bou wat sy skeppers sal help, terwyl dit vermy word om per ongeluk 'n superintelligensie te bou wat sy skeppers sal benadeel. Sommige geleerdes argumenteer dat oplossings vir die beheerprobleem ook toepassings kan vind in bestaande nie-superintelligente KI 

Belangrike benaderings tot die beheerprobleem sluit in belyning, wat daarop gemik is om KI-doelwitstelsels met menslike waardes in lyn te bring, en vermoëbeheer, wat daarop gemik is om 'n KI-stelsel se vermoë om mense te benadeel of beheer te verkry, te verminder. 'n Voorbeeld van "vermoëbeheer" is om na te vors of 'n superintelligensie-KI suksesvol in 'n "KI-boks" ingeperk kan word. Volgens Bostrom is sulke vermoëbeheervoorstelle nie betroubaar of voldoende om die beheerprobleem op lang termyn op te los nie, maar kan dit moontlik as waardevolle aanvullings op belyningspogings dien.

Waarskuwings 
Die fisikus Stephen Hawking, Microsoft-stigter Bill Gates en SpaceX-stigter Elon Musk het kommer uitgespreek oor die moontlikheid dat KI tot die punt kan ontwikkel dat mense dit nie kan beheer nie, met Hawking wat teoretiseer dat dit "die einde van die menslike ras kan uitspel". Stephen Hawking het in 2014 gesê dat "Sukses met die skep van KI die grootste gebeurtenis in die menslike geskiedenis sou wees. Ongelukkig kan dit ook die laaste wees, tensy ons leer hoe om die risiko's te vermy." Hawking het geglo dat KI in die komende dekades "onberekenbare voordele en risiko's" kan bied, soos "tegnologie wat finansiële markte uitoorlê, menslike navorsers uitvind, menslike leiers uitmanipuleer en wapens ontwikkel wat ons nie eers kan verstaan nie." In Januarie 2015 het Nick Bostrom by Stephen Hawking, Max Tegmark, Elon Musk, Lord Martin Rees, Jaan Tallinn en talle KI-navorsers aangesluit om die Future of Life Institute se ope brief te onderteken waarin hy praat oor die potensiële risiko's en voordele verbonde aan kunsmatige intelligensie. Die ondertekenaars "glo dat navorsing oor hoe om KI-stelsels robuust en voordelig te maak beide belangrik en tydig is, en dat daar konkrete navorsingsrigtings is wat vandag gevolg kan word."

Arthur C. Clarke se Odyssey-reeks en Charles Stross se Accelerando hou verband met die mensdom se narcistiese beserings in die gesig van kragtige kunsmatige intelligensies wat die mensdom se selfpersepsie bedreig.

Voorkoming deur KI-belyning 
Op die gebied van kunsmatige intelligensie (KI), is KI-belyningsnavorsing daarop gemik om KI-stelsels na mense se beoogde doelwitte, voorkeure of etiese beginsels te stuur. 'n KI-stelsel word as in lyn beskou as dit die beoogde doelwitte bevorder. 'n Misbelynde KI-stelsel streef sekere doelwitte na, maar nie die beoogde nie.

Verwysings 

Kunsmatige intelligensie
’n KI-oorname is ’n hipotetiese scenario waarin kunsmatige intelligensie ( KI ) die oorheersende vorm van intelligensie op Aarde word , aangesien rekenaarprogramme of robotte effektief beheer oor die planeet neem ten koste van die menslike spesie . Moontlike scenario's sluit in die vervanging van die hele menslike arbeidsmag , oorname deur 'n superintelligente KI , en die gewilde idee van 'n robotopstand . Verhale van KI-oornames is baie gewild in wetenskapfiksie . Sommige openbare figure , soos Stephen Hawking en Elon Musk , het navorsing oor voorsorgmaatreëls bepleit om te verseker dat toekomstige superintelligente masjiene onder menslike beheer bly . Tipes Outomatisering van die ekonomie Die tradisionele konsensus onder ekonome was dat tegnologiese vooruitgang nie langtermynwerkloosheid veroorsaak nie . Onlangse innovasie op die gebied van robotika en kunsmatige intelligensie het egter kommer laat ontstaan dat menslike arbeid uitgedien sal word , wat mense in verskeie sektore sonder werk laat om 'n bestaan te verdien , wat tot 'n ekonomiese krisis sal lei . Baie klein en mediumgrootte ondernemings kan ook uit die besigheid gedryf word as hulle nie die nuutste robot - en KI-tegnologie kan bekostig of lisensieer nie , en moet dalk fokus op gebiede of dienste wat nie maklik vervang kan word vir voortgesette lewensvatbaarheid in die lig van sulke tegnologie nie . Tegnologieë wat werkers kan verplaas KI-tegnologie is die afgelope jaar wyd aangeneem . Alhoewel hierdie tegnologie baie tradisionele werkers vervang het , skep dit ook nuwe geleenthede . Nywerhede wat die meeste vatbaar is vir KI-oorname sluit vervoer , kleinhandel en die weermag in . KI militêre tegnologieë , byvoorbeeld , laat soldate toe om op afstand te werk sonder enige risiko van besering . Skrywer Dave Bond voer aan dat soos KI-tegnologie aanhou ontwikkel en uitbrei , die verhouding tussen mense en robotte sal verander ; hulle sal nou geïntegreer raak in verskeie aspekte van die lewe . KI sal waarskynlik sommige werkers verplaas terwyl geleenthede vir nuwe werk in ander sektore geskep word , veral in velde waar take herhaalbaar is . Rekenaar-geïntegreerde vervaardiging Rekenaar-geïntegreerde vervaardiging gebruik rekenaars om die produksieproses te beheer . Dit laat individuele prosesse toe om inligting met mekaar uit te ruil en aksies te inisieer . Alhoewel vervaardiging vinniger en minder foutgevoelig kan wees deur die integrasie van rekenaars , is die grootste voordeel die vermoë om outomatiese vervaardigingsprosesse te skep . Rekenaar-geïntegreerde vervaardiging word in die motor- , lugvaart- , ruimte- en skeepsboubedrywe gebruik . Witboordjiemasjiene Diete eeu het gesien hoe 'n verskeidenheid vaardige take gedeeltelik deur masjiene oorgeneem is , insluitend vertaling , regsnavorsing en laevlak-joernalistiek . Versorgingswerk , vermaak en ander take wat empatie vereis , wat voorheen veilig gedink is van outomatisering , is ook begin om deur robotte uitgevoer te word . Outonome motors 'n Outonome motor is 'n voertuig wat in staat is om sy omgewing te waarneem en te navigeer sonder menslike insette . Baie sulke voertuie word ontwikkel , maar vanaf Meiis outomatiese motors wat op openbare paaie toegelaat word , nog nie ten volle outonoom nie . Hulle benodig almal 'n menslike bestuurder aan die stuur wat op 'n oomblik se kennisgewing beheer oor die voertuig kan neem . Onder die struikelblokke vir die wydverspreide aanvaarding van outonome voertuie is kommer oor die gevolglike verlies aan bestuursverwante werksgeleenthede in die padvervoerbedryf . OpMaartis die eerste mens deur 'n outonome voertuig in Tempe , Arizona deur 'n Uber-selfbesturende motor doodgery . Uitwissing Hoofartikel : Eksistensiële risiko van kunsmatige algemene intelligensie Wetenskaplikes soos Stephen Hawking is vol vertroue dat bomenslike kunsmatige intelligensie fisies moontlik is , en sê " daar is geen fisiese wet wat verhoed dat deeltjies georganiseer word op maniere wat selfs meer gevorderde berekeninge uitvoer as die rangskikkings van deeltjies in menslike breine nie " . Geleerdes soos Nick Bostrom debatteer hoe ver bomenslike intelligensie is , en of dit 'n risiko vir die mensdom inhou . Volgens Bostrom sal 'n superintelligente masjien nie noodwendig gemotiveer word deur dieselfde emosionele begeerte om mag te versamel wat mense dikwels dryf nie , maar mag eerder mag behandel as 'n manier om sy uiteindelike doelwitte te bereik ; die oorname van die wêreld sal beide sy toegang tot hulpbronne verhoog en help om te verhoed dat ander agente die masjien se planne stuit . As 'n oorvereenvoudigde voorbeeld , 'n skuifspeldmaksimeerder wat uitsluitlik ontwerp is om soveel skuifspelde as moontlik te skep , sal die wêreld wil oorneem sodat dit al die wêreld se hulpbronne kan gebruik om soveel skuifspelde as moontlik te skep , en boonop verhoed dat mense sluit . dit af of gebruik daardie hulpbronne op ander dinge as skuifspelde . In fiksie KI-oorname is 'n algemene tema in wetenskapfiksie . Fiktiewe scenario's verskil tipies baie van dié wat deur navorsers veronderstel is deurdat dit 'n aktiewe konflik tussen mense en 'n KI behels of robotte met antropomorfiese motiewe wat dit as 'n bedreiging beskou of andersins 'n aktiewe begeerte het om mense te beveg , in teenstelling met die navorsers se besorgdheid oor 'n KI wat mense vinnig uitroei as 'n neweproduk van die nastrewing van sy doelwitte . Die idee word gesien in Karel Čapek se R.U.R . , wat die woord robot inbekendgestel het , en kan gesien word in Mary Shelley se Frankenstein ( gepubliseer in terwyl Victor nadink of , as hy sy monster se versoek toestaan en hom 'n vrou maak , hulle sou voortplant en hulle soort sou die mensdom vernietig . Volgens Toby Ord is die idee dat 'n KI-oorname robotte vereis 'n wanopvatting wat deur die media en Hollywood gedryf word . Hy voer aan dat die mees skadelike mense in die geskiedenis nie fisies die sterkste was nie , maar dat hulle eerder woorde gebruik het om mense te oortuig en beheer oor groot dele van die wêreld te verkry . Hy skryf dat 'n voldoende intelligente KI met toegang tot die internet rugsteunkopieë van homself kan verstrooi , finansiële en menslike hulpbronne ( via kuberaanvalle of afpersing ) kan versamel , mense op groot skaal kan oorreed , en sosiale kwesbaarhede kan uitbuit wat te subtiel is vir mense om verwag . Die woord " robot " van R.U.R . kom van die Tsjeggiese woord , robota , wat arbeider of dienaar beteken . Die toneelstuk vanwas 'n protes teen die vinnige groei van tegnologie , met vervaardigde " robotte " met toenemende vermoëns wat uiteindelik in opstand kom . HAL( 1968 ) en die oorspronklike Terminatoris twee ikoniese voorbeelde van vyandige KI in popkultuur . Bydraende faktore Voordele van bomenslike intelligensie bo mense Nick Bostrom en ander het kommer uitgespreek dat 'n KI met die vermoëns van 'n bekwame kunsmatige intelligensie-navorser in staat sal wees om sy eie bronkode te verander en sy eie intelligensie te verhoog . As sy selfherprogrammering daartoe lei dat dit selfs beter word om homself te herprogrammeer , kan die resultaat 'n rekursiewe intelligensie-ontploffing wees waarin dit vinnig menslike intelligensie ver agter sal laat . Bostrom definieer 'n superintelligensie as " enige intellek wat die kognitiewe prestasie van mense in feitlik alle domeine van belang grootliks oorskry " , en noem 'n paar voordele wat 'n superintelligensie sou hê as dit sou verkies om teen mense mee te ding : Tegnologienavorsing : 'n Masjien met bomenslike wetenskaplike navorsingsvermoëns sal die menslike navorsingsgemeenskap tot mylpale soos nanotegnologie of gevorderde biotegnologie kan klop . Strategiegewing : 'n Superintelligensie kan moontlik menslike opposisie bloot uitoorlê Sosiale manipulasie : 'n Superintelligensie kan moontlik menslike ondersteuning werf , of heimlik 'n oorlog tussen mense aanhits Ekonomiese produktiwiteit : Solank as wat 'n kopie van die KI meer ekonomiese rykdom as die koste van sy hardeware kan produseer , sal individuele mense 'n aansporing hê om vrywillig die Kunsmatige Algemene Intelligensie ( KAI ) toe te laat om 'n kopie van homself op hul stelsels te laat loop Kuberkraking : 'n Superintelligensie kan nuwe uitbuitings vind in rekenaars wat aan die internet gekoppel is , en kopieë van homself op daardie stelsels versprei , of dalk geld steel om sy planne te finansier Bronne van KI-voordeel Volgens Bostrom kan 'n rekenaarprogram wat 'n menslike brein getrou naboots , of wat algoritmes bestuur wat so kragtig soos die menslike brein se algoritmes is , steeds 'n " spoedsuperintelligensie " word as dit baie ordes van grootte vinniger as 'n mens kan dink , a.g. v. om van silikon gemaak te word eerder as vlees , of as gevolg van optimalisering wat die spoed van die KAI verhoog . Biologiese neurone werk teen ongeveerHz , terwyl 'n moderne mikroverwerker teen 'n spoed van ongeveer000, 000, 000 Hz werk . Menslike aksone dra aksiepotensiale teen ongeveerm/s , terwyl rekenaarseine naby die spoed van lig beweeg . 'n Netwerk van menslike vlak intelligensies wat ontwerp is om saam te netwerk en komplekse gedagtes en herinneringe naatloos te deel , in staat om gesamentlik as 'n reuse verenigde span sonder wrywing te werk , of bestaande uit triljoene menslike vlak intelligensies , sou 'n " kollektiewe superintelligensie " word . Meer in die breë , enige aantal kwalitatiewe verbeterings aan 'n menslike vlak KAI kan lei tot 'n " kwaliteit superintelligensie " , wat miskien lei tot 'n KAI so ver bo ons in intelligensie as wat mense bo nie-menslike ape is . Die aantal neurone in 'n menslike brein word beperk deur kraniale volume en metaboliese beperkings , terwyl die aantal verwerkers in 'n superrekenaar onbepaald uitgebrei kan word . 'n KAI hoef nie beperk te word deur menslike beperkings op werkende geheue nie , en kan dus intuïtief meer komplekse verhoudings begryp as wat mense kan . 'n KAI met gespesialiseerde kognitiewe ondersteuning vir ingenieurswese of rekenaarprogrammering sal 'n voordeel in hierdie velde hê , in vergelyking met mense wat geen gespesialiseerde verstandelike modules ontwikkel het om spesifiek met daardie domeine te handel nie . Anders as mense , kan 'n KAI kopieë van homself skep en aan sy kopieë se bronkode peuter om te probeer om sy algoritmes verder te verbeter Moontlikheid van onvriendelike KI wat vriendelike KI voorafgaan Is sterk KI inherent gevaarlik ? Hoofartikel : KI-belyning 'n Beduidende probleem is dat onvriendelike kunsmatige intelligensie waarskynlik baie makliker sal wees om te skep as vriendelike KI . Alhoewel beide groot vooruitgang in rekursiewe optimeringsproses-ontwerp vereis , vereis vriendelike KI ook die vermoë om doelstrukture onveranderlik te maak tydens selfverbetering ( of die KI kan homself in iets onvriendeliks transformeer ) en 'n doelstruktuur wat in lyn is met menslike waardes en nie instrumentele konvergensie ondergaan nie , op maniere wat outomaties die hele menslike ras kan vernietig nie . 'n Onvriendelike KI , aan die ander kant , kan optimeer vir 'n arbitrêre doelstruktuur , wat nie onveranderlik hoef te wees onder selfmodifikasie nie . Kans op konflik Baie geleerdes , insluitend die evolusionêre sielkundige Steven Pinker , voer aan dat 'n superintelligente masjien waarskynlik vreedsaam met mense sal bestaan . Die vrees vir kubernetiese opstand is dikwels gebaseer op interpretasies van die mensdom se geskiedenis , wat wemel van voorvalle van verslawing en volksmoord . Sulke vrese spruit uit 'n oortuiging dat mededingendheid en aggressie nodig is in enige intelligente wese se doelwitstelsel . Sulke menslike mededingendheid spruit egter uit die evolusionêre agtergrond tot ons intelligensie , waar die oorlewing en voortplanting van gene in die aangesig van menslike en nie-menslike mededingers die sentrale doelwit was . Volgens KI-navorser Steve Omohundro kan 'n arbitrêre intelligensie arbitrêre doelwitte hê : daar is geen spesifieke rede dat 'n kunsmatig intelligente masjien ( wat nie die mensdom se evolusionêre konteks deel nie ) vyandig – of vriendelik – sou wees , tensy sy skepper dit programmeer om so te wees en dit is nie geneig of in staat is om sy programmering te wysig nie . Maar die vraag bly : wat sou gebeur as KI-stelsels in wisselwerking kan tree en ontwikkel ( evolusie in hierdie konteks beteken selfmodifikasie of seleksie en voortplanting ) en moet meeding oor hulpbronne - sou dit doelwitte van selfbehoud skep ? KI se doelwit van selfbehoud kan in stryd wees met sommige doelwitte van mense . Baie geleerdes betwis die waarskynlikheid van onverwagte kubernetiese opstand soos uitgebeeld in wetenskapfiksie soos The Matrix , en voer aan dat dit meer waarskynlik is dat enige kunsmatige intelligensie wat kragtig genoeg is om die mensdom te bedreig , waarskynlik geprogrammeer sal wees om dit nie aan te val nie . Pinker erken die moontlikheid van doelbewuste “slegte akteurs” , maar verklaar dat in die afwesigheid van slegte akteurs , onverwagte ongelukke nie ’n wesenlike bedreiging is nie ; Pinker voer aan dat 'n kultuur van ingenieursveiligheid KI-navorsers sal verhoed om per ongeluk kwaadaardige superintelligensie te ontketen . In teenstelling hiermee voer Yudkowsky aan dat die mensdom minder geneig is om bedreig te word deur doelbewus aggressiewe KI's as deur KI's wat so geprogrammeer is dat hul doelwitte onbedoeld onversoenbaar is met menslike oorlewing of welstand ( soos in die film I , Robot en in die kortverhaal " The Evitable Conflict " ) . Omohundro stel voor dat hedendaagse outomatiseringstelsels nie vir veiligheid ontwerp is nie en dat KI's blindelings smal nutsfunksies kan optimaliseer ( sê , skaak speel ten alle koste ) , wat daartoe lei dat hulle selfbehoud en uitskakeling van struikelblokke soek , insluitend mense wat dit kan verander of af dit . Voorsorgmaatreëls Hoofartikel : KI-beheerprobleem Die KI-beheerprobleem is die kwessie van hoe om 'n superintelligente agent te bou wat sy skeppers sal help , terwyl dit vermy word om per ongeluk 'n superintelligensie te bou wat sy skeppers sal benadeel . Sommige geleerdes argumenteer dat oplossings vir die beheerprobleem ook toepassings kan vind in bestaande nie-superintelligente KI Belangrike benaderings tot die beheerprobleem sluit in belyning , wat daarop gemik is om KI-doelwitstelsels met menslike waardes in lyn te bring , en vermoëbeheer , wat daarop gemik is om 'n KI-stelsel se vermoë om mense te benadeel of beheer te verkry , te verminder . 'n Voorbeeld van " vermoëbeheer " is om na te vors of 'n superintelligensie-KI suksesvol in 'n " KI-boks " ingeperk kan word . Volgens Bostrom is sulke vermoëbeheervoorstelle nie betroubaar of voldoende om die beheerprobleem op lang termyn op te los nie , maar kan dit moontlik as waardevolle aanvullings op belyningspogings dien . Waarskuwings Die fisikus Stephen Hawking , Microsoft-stigter Bill Gates en SpaceX-stigter Elon Musk het kommer uitgespreek oor die moontlikheid dat KI tot die punt kan ontwikkel dat mense dit nie kan beheer nie , met Hawking wat teoretiseer dat dit " die einde van die menslike ras kan uitspel " . Stephen Hawking het ingesê dat " Sukses met die skep van KI die grootste gebeurtenis in die menslike geskiedenis sou wees . Ongelukkig kan dit ook die laaste wees , tensy ons leer hoe om die risiko's te vermy . " Hawking het geglo dat KI in die komende dekades " onberekenbare voordele en risiko's " kan bied , soos " tegnologie wat finansiële markte uitoorlê , menslike navorsers uitvind , menslike leiers uitmanipuleer en wapens ontwikkel wat ons nie eers kan verstaan nie . " In Januariehet Nick Bostrom by Stephen Hawking , Max Tegmark , Elon Musk , Lord Martin Rees , Jaan Tallinn en talle KI-navorsers aangesluit om die Future of Life Institute se ope brief te onderteken waarin hy praat oor die potensiële risiko's en voordele verbonde aan kunsmatige intelligensie . Die ondertekenaars " glo dat navorsing oor hoe om KI-stelsels robuust en voordelig te maak beide belangrik en tydig is , en dat daar konkrete navorsingsrigtings is wat vandag gevolg kan word . " Arthur C . Clarke se Odyssey-reeks en Charles Stross se Accelerando hou verband met die mensdom se narcistiese beserings in die gesig van kragtige kunsmatige intelligensies wat die mensdom se selfpersepsie bedreig . Voorkoming deur KI-belyning Op die gebied van kunsmatige intelligensie ( KI ) , is KI-belyningsnavorsing daarop gemik om KI-stelsels na mense se beoogde doelwitte , voorkeure of etiese beginsels te stuur . 'n KI-stelsel word as in lyn beskou as dit die beoogde doelwitte bevorder . 'n Misbelynde KI-stelsel streef sekere doelwitte na , maar nie die beoogde nie . Verwysings Kunsmatige intelligensie