Ale rovnako ako plynulosť GPT-3 oslnila mnohých pozorovateľov, prístup modelu s veľkým jazykom vyvolal v posledných rokoch veľa kritiky. Niektorí skeptici tvrdia, že softvér je schopný len slepého napodobňovania – že napodobňuje syntaktické vzorce ľudského jazyka, ale nie je schopný generovať vlastné nápady alebo robiť zložité rozhodnutia, čo je zásadné obmedzenie, ktoré zabráni prístupu LLM, aby nikdy nedozrel na niečo podobné. ľudská inteligencia. Pre týchto kritikov je GPT-3 len najnovším lesklým objektom v dlhej histórii umelej inteligencie, ktorá smeruje doláre na výskum a pozornosť do toho, čo sa nakoniec ukáže ako slepá ulička, ktorá bráni dozrieť "iným sľubným prístupom". Iní kritici sa domnievajú, že softvér ako GPT-3 bude navždy ohrozený zaujatosťou, propagandou a dezinformáciami v údajoch, na ktorých bol trénovaný, čo znamená, že jeho používanie na viac než len trik bude vždy nezodpovedné.
Nech sa v tejto diskusii ocitnete kdekoľvek, tempo nedávneho zlepšovania veľkých jazykových modelov sťažuje predstavu, že v nasledujúcich rokoch nebudú komerčne nasadené. A to vyvoláva otázku, ako presne by sa mali – a v tomto prípade aj ďalšie závratné pokroky v AI – pustiť do sveta. S rozmachom Facebooku a Google sme videli, ako môže dominancia v novej oblasti technológie rýchlo viesť k úžasnej moci nad spoločnosťou a hrozí, že AI bude vo svojich účinkoch ešte transformatívnejšia ako sociálne médiá. Aký je správny druh organizácie na vybudovanie a vlastníctvo niečoho takého rozsahu a ambícií, s takým prísľubom a potenciálom zneužitia?
Alebo ho máme vôbec stavať?
Počiatky OpenAI sa datuje do júla 2015, keď sa malá skupina technologických osobností stretla na súkromnej večeri v hoteli Rosewood na Sand Hill Road, symbolickom srdci Silicon Valley. Večera sa konala uprostred dvoch nedávnych udalostí vo svete technológií, jedného pozitívneho a druhého znepokojujúceho. Na jednej strane radikálne pokroky vo výpočtovej sile – a nové objavy v dizajne neurónových sietí – vytvorili hmatateľný pocit vzrušenia v oblasti strojového učenia; pripadalo mi to ako dlhá "zima s umelou inteligenciou", desaťročia, v ktorých pole nenaplnilo svoj pôvodný humbuk, a konečne sa začali rozplývať. Skupina na Univerzite v Toronte vycvičila program s názvom AlexNet na identifikáciu tried objektov na fotografiách (psy, hrady, traktory, stoly) s úrovňou presnosti ďaleko presahujúcou to, čo predtým dosahovala akákoľvek neurónová sieť. Spoločnosť Google sa rýchlo rozhodla najať tvorcov AlexNet, pričom súčasne získala DeepMind a spustila vlastnú iniciatívu s názvom Google Brain. Široké prijatie inteligentných asistentov, ako sú Siri a Alexa, ukázalo, že aj naskriptovaní agenti môžu byť spotrebiteľskými úspechmi.
V tom istom období však prebiehal seizmický posun v postojoch verejnosti k Big Tech, pričom kedysi populárne spoločnosti ako Google alebo Facebook boli kritizované za ich takmer monopolné právomoci, zosilňujúce konšpiračné teórie a neúprosné odvádzanie našej pozornosti. k algoritmickým tokom. Na stránkach s názormi a na TED Stage sa objavovali dlhodobé obavy z nebezpečenstiev umelej inteligencie. Nick Bostrom z Oxfordskej univerzity vydal svoju knihu "Superinteligencia", ktorá predstavuje sériu scenárov, v ktorých by sa pokročilá AI mohla odchýliť od záujmov ľudstva s potenciálne katastrofálnymi následkami. Koncom roka 2014 Stephen Hawking pre BBC oznámil, že "vývoj plnej umelej inteligencie by mohol znamenať koniec ľudskej rasy". Zdalo sa, že cyklus obchodnej konsolidácie, ktorý charakterizoval vek sociálnych médií, už s AI prebiehal. Tentoraz však algoritmy nemusia len zasiať polarizáciu alebo predať našu pozornosť tomu, kto ponúkne najvyššiu cenu – môžu skončiť zničením samotného ľudstva. A opäť, všetky dôkazy naznačovali, že túto moc bude ovládať niekoľko megakorporácií zo Silicon Valley.
Program večere na Sand Hill Road v tú júlovú noc nebol ničím, ak nie ambiciózny: nájsť najlepší spôsob, ako nasmerovať výskum AI smerom k čo najpozitívnejšiemu výsledku, a zároveň sa vyhnúť dôsledkom krátkodobých negatív, ktoré sužovali éru Web 2.0, ako aj dlhodobé existenčné hrozby. Od tej večere sa začala formovať nová myšlienka – myšlienka, ktorá sa čoskoro stane posadnutosťou na plný úväzok pre Sam Altman z Y Combinator a Greg Brockman, ktorí nedávno opustili Stripe. Je zaujímavé, že myšlienka nebola ani tak technologická, ako skôr organizačná: ak sa mala AI uvoľniť vo svete bezpečným a prospešným spôsobom, vyžadovalo by si to inovácie v oblasti riadenia, stimulov a angažovanosti. Technická cesta k tomu, čo táto oblasť nazýva umelá všeobecná inteligencia alebo AGI, nebola skupine ešte jasná. Bostromove a Hawkingove znepokojujúce predpovede ich však presvedčili, že realizácia ľudskej inteligencie prostredníctvom AI by upevnila ohromujúce množstvo sily a morálneho bremena na toho, komu sa ich nakoniec podarí vynájsť a ovládať.
V decembri 2015 skupina oznámila vytvorenie nového subjektu s názvom OpenAI. Altman sa upísal ako generálny riaditeľ spoločnosti, pričom Brockman dohliadal na technológie; Ďalší účastník večere, spolutvorca AlexNet Ilya Sutskever, bol zamestnaný spoločnosťou Google, aby viedol vyhľadávanie. (Elon Musk, ktorý sa tiež zúčastnil večere, sa pripojil k správnej rade, ale v roku 2018 odišiel.) V blogovom príspevku Brockman a Sutskever uviedli rozsah svojich ambícií: "OpenAI je nezisková spoločnosť zaoberajúca sa výskumom umelej inteligencie," oni napísali. "Naším cieľom je posunúť digitálnu inteligenciu spôsobom, ktorý bude najpravdepodobnejšie prospešný pre ľudstvo ako celok, bez obmedzenia potrebou vytvárať finančnú návratnosť." Dodali: "Sme presvedčení, že AI by mala byť rozšírením individuálnej ľudskej vôle a v duchu slobody by mala byť čo najširšie a rovnomerne rozložená.
Zakladatelia OpenAI o tri roky neskôr zverejnia verejnú chartu stanovujúcu základné princípy novej organizácie. Dokument sa dal ľahko interpretovať ako nie príliš rafinované rýpanie do sloganu Google "nebuď zlý" od jeho počiatku, čo je uznanie, že maximalizácia sociálnych výhod – a minimalizácia škôd – nových technológií nebola vždy taká. len výpočet. Keď Google a Facebook dosiahli globálnu dominanciu prostredníctvom uzavretých zdrojových algoritmov a proprietárnych sietí, zakladatelia OpenAI sľúbili ísť inou cestou, zdieľať nový výskum a voľne ho kódovať so svetom.