AI etika ir geopolitinės imtynių rungtynės dėl to, kas laimės lenktynes ​​siekiant tikrojo AI

Pasaulyje vyksta siautulingos lenktynės.

Geopolitinės jėgos tvirtina, kad laimėtojas tarsi parsiveš namo visus lašinius.

Kokios lenktynės įnirtingai kariaujamos ir atkakliai siekiamos?

Tai AI lenktynės.

Galbūt taikliau galėtumėte tai pavadinti lenktynėmis pasiekti tiesa Dirbtinis intelektas (AI), šiuo metu plačiau vadinamas dirbtiniu bendruoju intelektu (AGI). Mes norime kažkaip pasiekti iš pažiūros aukščiausią AI arba žinomą kaip AGI, kuris būtų panašus į žmogaus intelektą. Mes dar nesame. Iš tiesų, nepaisant visų laukinių ir įžūliai skelbiančių antraščių, mes nežinome, kada ir ar pasieksime tą aukštą balą. Šiuolaikinis AI turi daug mažiau galimybių nei visapusis žmogaus intelektas, nors, žinoma, yra daug siauresnių būdų, kaip dirbtinis intelektas padarė įspūdingą žygį, pavyzdžiui, gebėjimas žaisti aukščiausios klasės pasaulinio lygio šachmatais ar atlikti kitas palyginti suvaržytas užduotis.

Tačiau auksinis žiedas yra dirbtinio intelekto atsiradimas, kuris demonstruoja pamaldų prigimtį ir gilų žmogaus intelektą, panašų į žmonijos intelektą. Tai yra AI tyrinėtojų ir praktikų šventasis gralis. Retkarčiais pasigirsta apgaulingų teiginių, kad jau kirtau AI lenktynių finišo liniją, kuriuos demaskavau savo skiltyje nuoroda čia. Tie, kurie bando ginčytis dėl finišo linijos kirtimo, klaidina plačiąją visuomenę ir kartais tai daro uoliu nekaltumu, o kartais turi rimtai abejotinų motyvų. Apskritai tai kelia gana svarbių ir gyvybiškai svarbių AI etikos sumetimų. Daugiau informacijos apie AI etiką ir etišką AI žr nuoroda čia ir nuoroda čia, Tik pavadinimas kelias.

Bet kokiu atveju, nėra jokių abejonių, kad pasaulinės sprinto AI lenktynės aktyviai vyksta. Jums būtų sunku teigti kitaip.

Pagalvokite apie tai taip. Jei mums jau būtų pavykę pasiekti tikrąjį AI arba AGI, didelė tikimybė, kad AI bėgimo lenktynės būtų oficialiai ir visame pasaulyje paskelbtos sėkmingai užbaigtomis. Užtikrinu jus, kad toks skambus ir žemę drebinantis proveržis bus prikaustytas visame pasaulyje. Jūs apie tai žinotumėte. Mes visi. AI madcap brūkšnys faktiškai nebeegzistuotų, nors galbūt gali atsirasti antrinė versija, apimanti tuos, kurie dar nepasiekė tikrojo DI, karštligiškai stengdamiesi pasivyti. Taip pat yra nerimą keliantis klausimas, kaip mes galų gale kontroliuosime ar valdysime AGI, jei ten pateksime.

Joks asmuo, subjektas ar tauta kol kas negali tinkamai pretenduoti į tikrojo AI ar AGI kūrimo karūną.

Tuo tarpu vyksta didžiulis ir nenumaldomas rankų laužymas dėl to, kuri tauta (ar tautos) yra būrio viršūnėje, o kuri toliau atsilieka. Daroma prielaida, kad jei nebūsi pirmas, liksi purve. Jūs suvalgysite iš AI nugalėtojų likusias liekanas. Potencialiai būsite amžinai pavaldūs tautai ar tautoms, kurios paskelbtą šuolį į tikrąjį AI arba AGI.

Norėdamas palengvinti šios diskusijos formuluotę, nuo šiol naudosiu „AGI“, kai noriu prisišaukti tikrojo AI aurą. Šiek tiek naujesnės frazės „AGI“ vartojimas kartais erzina tuos, kurie nėra įpratę matyti jos vartojamos. Visi esame susipažinę su „AI“ ir jus gali sutrikti, kai vietoj jo vartojamas akronimas „AGI“. Leiskite man paaiškinti, kodėl tai pamažu tampa žodinio žodžio tendencija.

Viena iš priežasčių, kodėl AGI išpopuliarėjo AI arenoje, yra ta, kad vien pasakymas „AI“ dabar yra apgailėtinai sušvelnintas posakis. Niekas nežino, ar jūsų minimas dirbtinis intelektas yra vos AI variantas, ar koks nors geresnis progresuojantis AI infuzija, ar gali būti užsimenama apie kažkada futuristinį, visiškai žmogaus prilygintą DI. Siekdami susidoroti su „AI“ perkrova, AGI pravarde pirmenybę teikė tie AI srities asmenys, kurie nori konkrečiai ir ypač užsiminti apie tikrąjį AI.

Taigi, trumpai tariant, mano, kad AGI paminėjimas yra tas pats, kas sakydamas „tikrąjį AI“, tvirto kalibro, panašaus į žmogaus intelektą, ačiū.

Apdairiai giliai įkvėpkime ir apgalvotai išnagrinėkime kai kuriuos lenktynių, siekiant AGI, aspektus. Yra netgi metaaspektas, kurį pirmiausia reikia nurodyti. Žinokite, kad alegoriją apie tariamą bėgimą pėsčiomis ar kitokią lenktyninę veiklą, kaip AGI lenktynių metaforą, skauda rėmuo. Kodėl taip? Trumpai papasakosiu apie komplikacijas ir sudėtingumą, kodėl (kai kurie sako), kad bėgimo bėgimas ar jo atitikmuo yra visiškai klaidinantis ir klastingas paprastas požiūris.

Štai pagrindiniai dalykai, kuriuos aptarsiu su jumis šiame diskurse:

• Jei tai yra lenktynės, AGI finišo linija atrodo gana blogai apibrėžta
• AGI rasė gali priklausyti asmeniui, subjektui ar tautai
• Metrika ir tai, kaip tautos lyginamos AGI lenktynėse
• Geopolitinis manevravimas ir derinimas AGI lenktynėms
• Tarptautiniai AI įstatymai ir AI etika kaip AGI lenktynių teisėjai

Galbūt norėsite prisisegti saugos diržą, kai apžiūriu skubiai vykstančias AGI bėgimo lenktynes ​​(taip, drįstu tai vadinti bėgimu), kuriose beveik visi juda didžiuliu greičiu ir, regis, šokteli į priekį šio degančio ieškojimo metu. Vieni gali sakyti, kad tai lenktynės dėl žmonijos tobulėjimo, o kiti įspėja, kad lenktynės gali reikšti visišką pražūtį mums visiems.

Laikas parodys.

Jei tai lenktynės, AGI finišo linija atrodo gana blogai apibrėžta

Finišo linija paprastai yra gana galutinė demarkacija. Jūs arba pasiekėte finišą, arba nepasiekėte. Atrodo, kad trumpalaikis pasiūlymas jums neduos daug naudos. Įsivaizduokite olimpinių žaidynių 400 metrų bėgimą ir tai, ar ypatingai atsimintumėte, ar gausite pagyrimų bėgikams, kurie visai nebaigė lenktynių (niekada nebuvo kirtę finišo linijos). Mažai tikėtina.

Ar žinosime, kai pasieksime AGI taip, kad būtų pagrįstai sutarta, kad finišas pasiektas?

Kyla karštų nesutarimų dėl AGI demarkacijos.

Pavyzdžiui, tarkime, kad mes sukūrėme dirbtinį intelektą, kuris, atrodo, visiškai gali parodyti žmogaus intelektą, tačiau jame per se nėra jausmo (žr. mano pranešimą apie ginčus dėl AI nuoroda čia). AI skaičiavimo būdu gali imituoti arba kitaip veikti, kaip tai daro žmogaus intelektas. Tačiau nėra gyvumo ar jausmingumo kibirkštėlės, kurią mes sietume su žmonėmis ir kitais gyvais padarais. Ar šis AGI laikomas tikslu, kurį manėme turį?

Kai kas prieštarautų, kad nebūtų svarbu, jei jausmas per se būtų įvyniotas į šį AGI. Tol, kol jis gali parodyti žmogaus intelektą, jausmo įtraukimas yra kažkas kitokio, kurio galime arba nenorėtume, kad atsirastų. Jautrumas šia dalykų prasme yra priedas.

Kiti įnirtingai tvirtina, kad vienintelė priemonė žmogaus intelektui pasiekti AGI bus visapusiškai įkūnyti jausmą. AGI ir sentience laikomi tais pačiais, arba jie yra nesumažinamo neatskiriamo dvigubo įsikūnijimo mišinys. Jie ginčytųsi, kad norėdami gauti AGI, turite turėti nuojautą.

Atmetus šį diskusijų kampą, kita perspektyva yra ta, kad galėtume naudoti garsųjį Turingo testą, kad įvertintume, ar AGI buvo pasiekta. Aš išsamiai aprašiau Turingo testą adresu nuoroda čia. Trumpai tariant, sąvoka susideda iš to, kad žmogus turi užduoti klausimus AGI ir jei žmogus negali atskirti AGI generuojamų atsakymų nuo žmonijos atsakymų, mes paskelbsime, kad AGI gali parodyti žmogaus intelektą.

Su Turingo testu dažnai siejama daugybė problemų ar trūkumų.

Tarkime, kad žmogus, atliekantis užklausas, atlieka bjaurų darbą ir nesugeba užduoti tiriamųjų klausimų. Viena susirūpinimą kelia tai, kad daugelis šiuolaikinių, atrodytų, galingų didžiųjų kalbų modelių (LLM) gali grąžinti žmogui turinį, kurio LLM buvo apmokytas (ty tekstą ir skaitmeninę laikmeną, dažnai gaunamą naudojant didelio masto internetą). Iš esmės LLM gali lengvai „atsakyti“ ypač atrinktam žmogui, užduodančiam įprastus klausimus, į kuriuos jau buvo atsakyta ir kurie egzistuoja internete, tačiau tai, be abejonės, nėra dėl jokio AGI kalibro žmogaus intelekto įkūnijimo.

Iškyla daug kitų nuoskaudų. Tarkime, žmogus nesugeba suprasti atsakymų. Arba tarkime, kad žmogus apgaudinėja save, manydamas, kad visi atsakymai yra žmogaus intelekto įrodymas. Kai kurie netgi aprėpiau niūrią idėją, kad tereikia paklausti AI, ar jis yra AGI, ar yra jautrus, o tai, aš aiškiai pasakau, nėra labai įtikinama AGI įrodymo forma, žr. nuoroda čia.

Galiausiai, kaip dar viena mintis, ar mums reikia iki galo pasiekti finišą, kad manytume, kad AGI pasiektas?

Anksčiau minėjau, kad dažniausiai pamirštame tuos, kurie nepasiekia finišo. Tai gali būti nelabai analogiška AGI lenktynėms. Tikiu, kad galima įtikinamai įrodyti, kad jei sugebėsime pasiekti esminį kelią link AGI, mes jau būsime nustebinti ir arba didelės naudos, arba didelių bėdų. Matote, daug svarbių ir labai naudingų rezultatų gali duoti beveik esantis AGI. Pasiekti trumpą laiką nebus taip sudėtinga, kaip nebaigti 400 metrų bėgimo, ypač todėl, kad tai gali būti gyvybiškai svarbus pagrindas norint pasiekti pilnesnę AGI versiją (palyginimui, galbūt tai maratonas).

Metafora, kad AGI pasiekimas yra bėgimo bėgimas arba jo atitikmuo, kartais yra nepatenkinama ir neadekvati.

AGI rasė gali pasiekti asmenį, subjektą ar tautą

Kai kurie puoselėja svajingą mintį, kad AGI pasieks koks nors garaže dirbantis meistras su pižama, ir tai bus beprotiškai išradingų kompiuterizavimo eksperimentų atodanga, kurią jie triūsė ilgus metus. Tai klasikinis aukštųjų technologijų vienišo vilko tropas.

Atsiprašome, kad pranešame, kad tai labai mažų šansų pasiūlymas.

Didesnė tikimybė, kad toks subjektas kaip įmonė ar tam tikra tyrimų komanda taps AGI lyderiais. Tvirtas ir vyraujantis įsitikinimas, kad AGI prireiks kaimo. Vienišas vilkas pats neturės nei išteklių, nei įžvalgų, kad pasiektų AGI. Jie gali prisidėti prie ieškojimo. Jie gali suteikti reikalingų dėlionės dalių. Jie nesugebės surinkti viso rinkinio ir pakabuko.

Kalbant apie kaimus, kitas tvirtai laikomas požiūris yra tas, kad tautos galės pasiekti tik AGI. Per žmonių, įmonių, akademikų ir visų kitų tautinės valstybės subjektų būdo derinį AGI pateks kaip visos nacionalinės visumos darbo rezultatas. Vienetinis dėmesio lygis nugalėtojui šiose lenktynėse priklauso nuo nacionalinės valstybės, o ne dėl kažko labiau išsibarsčiusio, laisvos formos ar individualistinio.

Trumpai tariant, jei reikia kaimo, kaimas bus nacionalinio masto, taigi nacionalinė valstybė bus paskirta bėgikė, kuri kirs finišo liniją AGI lenktynėse.

Metrika ir kaip tautos lyginamos AGI lenktynėse

Priimkite tai, kad AGI pasiekimai bus grindžiami nacionalinės valstybės lygiu.

Pakartotinai, mes to tikrai nežinome, bet atrodo, kad tai pagrįsta prielaida.

Apsvarstykite nacionalinės valstybės pagrindo pasekmes. Tarkime, kad vienišam vilkui pavyksta pirmam patekti į AGI ir jis mano, kad jų darbas yra didesnis nei nacionalinės valstybės, kurios narys jie yra. Šis asmuo skelbia, kad pagal sukurtą AGI nepriklauso jokiai nacionalinei valstybei. Ar mes vis tiek duotume kreditą tai nacionalinei valstybei ir ar AGI būtų tos tautos kontrolėje ir kompetencijoje?

Įsivaizduokite kitą alternatyvą, kad AGI pirmiausia atvyktų didelis daugianacionalinis konglomeratas. Kuri tauta gali pasakyti, kad AGI yra jų „dalykas“, kurį reikia naudoti ir dislokuoti (ar tai bus suprantama kaip nuosavybė, ar tai bus juridinio asmens statuso variantas)? Galbūt visos šalys, kuriose egzistuoja įmonė, turi gauti vienodą kreditą. O gal tik visur, kur geografiškai yra oficiali būstinė. Tai gali būti sudėtingas tikro aukso puodo padalijimas.

Bet kuriuo atveju, visuotinai paplitusi nuomonė yra ta, kad tautinė valstybė bus esminis veiksnys siekiant AGI. Tikėtina, kad tauta, kuri skatina dirbtinio intelekto tyrimus ir plėtrą savo nacionalinėmis pastangomis, greičiau pateks į AGI nei kitos šalys, kurios to nedaro.

Vyrauja nuomonė, kad AI lenktynės yra nacionalinės.

Galvą laužantis klausimas yra tai, kaip nustatyti, ar AGI lenktynėse viena tauta lenkia ar atsilieka nuo kitos tautos.

Įprastose bėgimo lenktynėse galėtume lengvai nustatyti metriką, pagal kurią galima nustatyti, kuriems bėgikams sekasi gerai, o kuriems ne. Bėgiko greitį galima lengvai apskaičiuoti. Tai negarantuoja, kad jie baigs pirmi, bet tai bent jau rodo pažadą. Fizinis atstumas tarp bėgikų ir atstumas, likęs iki finišo, yra akivaizdžiai svarbūs kriterijai, kuriuos galime nesunkiai išmatuoti.

AGI lenktynėse tokių patikimų metrikų ar matavimų formų nėra.

Naudojame visas pakaitines priemones, nes nėra jokio galutinio būdo apskaičiuoti, kur yra galinė linija ir kaip toli esame nuo jos.

Pažvelkime į įprastai svarstomų metrikų tipus. Stanfordo universiteto Stanfordo į žmogų orientuoto dirbtinio intelekto institutas (HAI) kasmet renka ir skelbia ypač patogų su DI susijusių pasaulinių matavimų šaltinį. Ataskaita yra prieinama internete nemokamai, o naujausias leidimas yra pavadintas 2022 m. AI indekso metinė ataskaita (remiantis 2020–2021 m. surinktais duomenimis). Netrukus pasidalinsiu su jumis kai kuriais svarbiausių nacionalinių palyginimų momentais, paminėtais naujausiame jų rinkinyje.

Metrika, naudojama siekiant įvertinti nacionalinę ir tarptautinę AI pažangą, paprastai apima šiek tiek visko, kartais ribojasi su tikros virtuvės kriauklės įtraukimu.

Paprastai nagrinėjamos priemonės apima:

• AI tyrimų straipsnių, priskirtų konkrečiai tautai, skaičius
• Cituojamų nuorodų į konkrečios tautos AI straipsnius skaičius
• AI žurnalų skaičius konkrečioje šalyje
• AI konferencijų, vykstančių konkrečioje šalyje, skaičius
• Konkrečios šalies remiamų AI konferencijų skaičius
• Su dirbtiniu intelektu susijusių patentų, išduotų konkrečioje šalyje, skaičius
• AI įmonių steigimo tam tikroje šalyje skaičius
• AI darbo vietų skaičius konkrečioje šalyje
• Naujų dirbtinio intelekto darbo vietų skaičius arba samdymas konkrečioje šalyje
• Tam tikroje šalyje priimtų dirbtinio intelekto įstatymų ar įstatymų projektų skaičius
• Tam tikroje šalyje priimtų arba priimtų dirbtinio intelekto įstatymų skaičius
• kitas

Apsvarstykite šiuos šiuolaikinius rodiklius iš HAI AI indekso 2022:

• AI leidinio citatos: „Remiantis AI saugyklų publikacijų citavimu, Jungtinės Valstijos yra sąrašo viršuje ir 38.6 m. sudaro 2021% visų cituojamų šaltinių, o tai yra dominuojanti lyderė prieš Europos Sąjungą, taip pat Jungtinę Karalystę (20.1%) ir Kiniją (16.4%).
• AI žurnalai / konferencijos: „2021 m. Kinija ir toliau pirmavo pasaulyje pagal AI žurnalų, konferencijų ir saugyklų publikacijų skaičių – 63.2 % daugiau nei Jungtinėse Valstijose, kartu paėmus visus tris leidinių tipus. Tuo tarpu Jungtinės Valstijos pirmavo tarp pagrindinių AI galių pagal konferencijų ir saugyklų citatų skaičių.
• AI patentai: „Kinija dabar pateikia daugiau nei pusę pasaulio dirbtinio intelekto patentų ir jai suteikiama apie 6 proc., maždaug tiek pat, kiek Europos Sąjunga ir Jungtinė Karalystė. Jungtinės Valstijos, kurios pateikia beveik visus patentus Šiaurės Amerikoje, tai daro trečdaliu nei Kinija. Palyginus su didėjančiu taikomų ir išduotų AI patentų skaičiumi, Kinija turi daug daugiau patentinių paraiškų (87,343 2021 1,407 m.) nei išduotų (2021 XNUMX XNUMX m.).
• Naujai finansuojamos AI įmonės: „Investicijų duomenys pagal naujai finansuojamų AI įmonių skaičių kiekviename regione. 2021 m. pirmavo Jungtinės Valstijos su 299 įmonėmis, Kinija – 119, Jungtinė Karalystė – 49, o Izraelis – 28. Atotrūkis tarp jų yra didelis.
• AI samdymo tempas: „Naujoji Zelandija, Honkongas, Airija, Liuksemburgas ir Švedija yra šalys ar regionai, kuriuose nuo 2016 iki 2021 m. sparčiausiai išaugo dirbtinio intelekto samdymas.
• AI darbo skelbimai: „2021 m. Kalifornijoje, Teksase, Niujorke ir Virdžinija buvo valstijos, kuriose buvo daugiausiai dirbtinio intelekto darbo skelbimų Jungtinėse Valstijose, o Kalifornijoje buvo 2.35 karto daugiau skelbimų nei Teksase, o tai yra antra pagal dydį. Vašingtone, DC, buvo didžiausias AI darbo skelbimų skaičius, palyginti su bendru darbo skelbimų skaičiumi
• AI teisėkūros veiksmas: „25 šalių dirbtinio intelekto teisės aktų įrašų AI indekso analizė rodo, kad įstatymais priimtų įstatymų projektų, kuriuose yra „dirbtinis intelektas“, skaičius išaugo nuo 1 2016 m. iki 18 2021 m. Ispanija, Jungtinė Karalystė ir JAV. 2021 m. priėmė daugiausiai su AI susijusių įstatymų projektų, kurių kiekvienas priėmė po tris.

Galime labai žavėtis ir vertinti sunkų darbą, susijusį su AGI lenktynių nacionalinės bėgikų statistikos rinkimu.

Skeptikai, nors ir ginčijasi, kaip naudoti bet kokio tipo metriką dalyvaujant AGI lenktynėse.

Kyla sudėtingas klausimas, ar galite nubrėžti kokią nors tiesią liniją nuo AI straipsnių ar AI konferencijų skaičiaus konkrečioje šalyje iki galutinio AGI pasiekimo. Tas pats pasakytina apie AI darbo vietų skaičių, AI įmonių skaičių ir daugybę kitų metrikų. Gali būti, kad šie skaičiai turi mažai ką bendro su AGI pasiekimu. Argumentas sako, kad šios priemonės yra daugiau šilumos nei šviesos.

Kontrargumentas yra tas, kad turime pabandyti įvertinti, kur esame ir kur einame. Įkišti galvą į smėlį neatrodo tinkamas būdas įvertinti, ar einame link AGI, o gal toliau nuo AGI. Tikimasi ir paprastai daroma prielaida, kad kuo daugiau energijos ir dėmesio AI tobulėjimui, tuo labiau priartėsime prie AGI. Šie rodikliai yra geriausia, ką galime padaryti, norėdami išsiaiškinti, kiek energijos ir dėmesio skiriama ir suvartojama AGI lenktynėse.

Apskritai, tai eina.

Kiekvienas iš metrikų taip pat gali būti vertinamas dėl galvos.

Pavyzdžiui, apsvarstykite įstatymų ar įstatymų, susijusių su AI, skaičių.

Galite teigti, kad jei įstatymų leidėjai daugiausia dėmesio skiria su DI susijusiems įstatymams, tai yra geras ženklas, kad tauta gana blaiviai vertina AI svarbą ir visuomeninius padarinius, susijusius su DI. Galima sakyti, kad tai rodo, kad toje konkrečioje šalyje dedama daug dirbtinio intelekto pastangų. Kodėl turėtumėte stengtis priimti dirbtinio intelekto įstatymus, nebent AI ypač klestėjo ir burbuliuoja kaip demonstratyvus jūsų tautos elementas?

Tokiu būdu tos valstybės, kurios skelbia naujus dirbtinio intelekto įstatymus, yra aiškinamos kaip įspėjamasis ženklas arba signalas, kad AGI pažanga toje šalyje jau vyksta.

Kai kurie kritikai tvirtina, kad siūlomi nauji AI įstatymai slopins AI pastangas kiekvienoje tokioje konkrečioje šalyje. Įstatymų leidėjai ir politiniai lyderiai nusišaus patys. Įstatymai per anksti užmes niūrų šešėlį AI pastangoms toje konkrečioje šalyje. Dirbtinio intelekto tobulinimo maišytuvas užsikimš dėl legalių plaukų užsikimšimo, o AGI pažangos tempas sulėtės, kol AI įstatymą skelbia tauta. Tuo tarpu kitos tautos, kurios nepriima tokių dirbtinio intelekto įstatymų, ir toliau nesiliaus. Atrodo, tarsi jūs nusprendėte uždėti švino svarmenis bėgikui, kuris jau yra 400 metrų trasoje. Jei siekėte jiems padėti ir juos pagreitinti, padarėte visiškai priešingai.

Oho, AI įstatymų priėmimas labiau panašus į įsitikinimą, kad prieš bėgiką nėra jokių nereikalingų kliūčių. Įstatymai numato tas pačias gaires, kad lenktynių trasoje esančios linijos yra skirtos tam, kad bėgikas sklandžiai eitų teisinga kryptimi. Be tų nudažytų linijų bėgikai gali siautėti. Nauji AI įstatymai leis jiems vieningai siekti pageidaujamo rezultato. Šalys, kurios nesielgia taip pat pagal naujus AI įstatymus, pastebės, kad jų bėgikai eina visomis laukinėmis kryptimis, įskaitant galbūt visiškai išbėgusį iš trasos ir kenkiančius tiems, kurie yra nekalti už pačių AGI lenktynių.

Taip pat yra „paslėptų“ su dirbtiniu intelektu susijusių dėsnių, kuriuos kai kurie skaičiuoja, o tuo tarpu kai kurie kiti neįtraukia į šių metrikų dalį (tai daro klaidą bandant palyginti skaičius).

Pavyzdžiui, jei valstybė priima įstatymą dėl autonominių transporto priemonių, pvz., savarankiškai važiuojančių automobilių, ar jūs tai laikote AI įstatymu? Kad būtų aiškiau, kad autonominė transporto priemonė, pvz., visiškai autonominis savarankiškai važiuojantis automobilis, turės dirbtinio intelekto vairavimo sistemą, kuri yra pagrindinė be vairuotojo galimybių (žr. mano aprėptį adresu nuoroda čia). Dėl susijusio AI bet kokie įstatymai dėl autonominių transporto priemonių gali būti protingai argumentuoti kaip iš esmės AI įstatymai. Kita vertus, galite įtikinamai teigti, kad įstatymas yra apie autonominę transporto priemonę, o ne per se apie dirbtinį intelektą, todėl tai neįskaičiuojama skaičiuojant AI specifinius įstatymus.

Tai netvarkinga.

Dėl viso šito suglumimo dėl metrikų galite gūžčioti pečiais, nepaisant visiškai priešingų požiūrių į šiuos svarbius dalykus. Kaip gali būti akivaizdu, metrikos beveik visada skirtingai interpretuojamos apie tai, ką jie reiškia ir kaip tinkamai analizuojamas tautos statusas AGI atžvilgiu.

Geopolitinis manevravimas ir suderinimas AGI lenktynėms

Kurios šalys pirmauja AGI lenktynėse?

Kurios tautos atsilieka?

Pirmiau minėta metrika bando parodyti, kur šiuo metu yra kiekvienas bėgikas. Pagrindinė prielaida yra ta, kad jei metrika tinkamai rodo, kad AGI siekia padėties, šios įvairios polių pozicijos laikui bėgant gali išlikti tokios pačios. Žinoma, realybė yra tokia, kad nacionalinis susidomėjimas ir dėmesys gali padidėti arba gali sumažėti einant duobėtai AGI link. Galbūt išmintingiausia tikėtis padėties pokyčių.

Vienas svarbus aspektas yra tai, kad tautos iš tikrųjų nėra šios lenktynės.

Tikėtina, kad tautos perduos estafetę viena kitai pirmyn ir atgal. AGI lenktynėse kartais viena ar kelios tautos mielai dirba kartu. Kartais tai daroma atsargiai, o ne draugiškai. Kitais atvejais tautos gali susilaikyti viena nuo kitos. Bet kuriuo momentu lenktynių poza gali būti visiškai kitokia, nei buvo keliais žingsniais atgal, be to, po kelių žingsnių į ateitį gali būti visiškai kitokia.

Apsvarstykite šį teiginį, pateiktą 2022 m. HAI AI indekso ataskaitoje apie bendradarbiavimą tarp šalių: „Nepaisant didėjančios geopolitinės įtampos, JAV ir Kinija 2010–2021 m. daugiausia bendradarbiavo dirbtinio intelekto leidiniuose, o nuo 2010 m. išaugo penkis kartus. Bendradarbiaujant dviem šalims buvo išleista 2.7 karto daugiau publikacijų nei tarp Jungtinės Karalystės ir Kinijos – antra pagal dydį sąraše.

Cinikai pasakytų, kad galbūt kryžminis bendradarbiavimas kartais naudojamas kaip apgaulė. Tauta gali atvirai teigti, kad bendradarbiauja kryžmiškai, atrodo, kad taip elgiasi, o giliai savo geriausius AGI progresus laiko paslėptoje nacionalinėje paslaptyje. Galbūt tai daroma siekiant sušvelninti tautos, kurioje bendradarbiauja, pažangą. Galbūt tai daroma siekiant užtikrinti, kad slaptasis padažas nebūtų netyčia išdalintas. Galimos visokios priežastys.

Šiuolaikiniame šiuolaikiniame skaitmeninio interneto internetiniame pasaulyje AGI įžvalgas slėpti gali būti sunku. Intensyvus noras atskleisti ar išrasti AGI yra įtikinama vilionė, kuri gali paskatinti atskirus AGI kūrėjus ir tyrėjus atvirai dalytis savo naujausiais darbais. Tautos gali pastebėti, kad bandyti apriboti tokį dalijimąsi yra daug sunkiau, nei gali atrodyti, ir tikriausiai daug sunkiau nei tais laikais, kai viskas buvo popierinė ir reikėjo fiziškai perkelti dokumentus visame pasaulyje.

Judėjimas link atvirojo kodo neabejotinai buvo šiuolaikinis daugelio naujausių AI ir AGI tyrimų akcentas, kaip minėta 2022 m. HAI AI indekso ataskaitoje: „Kiekvienais metais tūkstančiai ir tūkstančiai dirbtinio intelekto leidinių išleidžiami atvirame kode, nesvarbu, ar konferencijose arba failų dalijimosi svetainėse. Mokslininkai atvirai dalinsis savo išvadomis konferencijose; vyriausybinės agentūros finansuos dirbtinio intelekto tyrimus, kurie baigiasi atviro kodo; ir kūrėjai naudoja atviras programinės įrangos bibliotekas, laisvai prieinamas visuomenei, kad sukurtų pažangiausias AI programas. Šis atvirumas taip pat prisideda prie pasauliniu mastu priklausomo ir tarpusavyje susijusio šiuolaikinio dirbtinio intelekto tyrimų ir plėtros pobūdžio.

Apskritai, tautos paprastai dalijasi, bet gali parodyti tik dalį savo rankos. Kitos tautos gali nesidalyti arba tik apsimesti, kad tai daro. Kai kurios tautos stipriai kovoja bandydamos įvertinti, ką jų tautos žmonės atiduoda, o ne laikosi. Ir taip toliau.

Šių nacionalinių žingsnių pobūdį apibūdinau taip:

• AI „Go-it-alone Nation“. (bando eiti pats)
• AI Vienpusė tauta (ima, neišduoda)
• AI Leftover Nation (gauna tai, ką gali iš kitų)
• AI atviro dalijimosi tauta (didžiuojasi dalindamasis)
• AI tuščiavidurio dalijimosi tauta (klaida dalijantis)
• AI aljansų tauta (bandau sudaryti kuo daugiau aljansų)
• AI ne-žaidimo tauta (AGI paieška nėra nacionalinis prioritetas)
• AI Cheating Nation (atvirkštinė inžinerija arba slaptas vagystės iš kitų tautų)
• kitas

Tauta vienu metu gali būti daugiau nei viename iš tų kibirų.

Tauta gali kurį laiką būti viename iš tų kibirų, išeiti iš kibiro ir galbūt vėliau sugrįžti.

Nacionalinės valstybės troškimai ir dėmesys, susijęs su AGI siekimu, yra dinamiškas atoslūgis, kuris neabejotinai tęsis ir bus judantis taikinys nustatant, kuri tauta yra lenktynėse, o norint išsiaiškinti, reikės nuolatinio žvilgsnio. kur visi žaidėjai yra tam tikru laiko momentu.

Tarptautiniai AI įstatymai ir AI etika kaip AGI lenktynių teisėjai

Ankstesnėse skiltyse aprašiau įvairias nacionalines ir tarptautines pastangas rengti ir priimti įstatymus, reglamentuojančius dirbtinį intelektą, žr. nuoroda čia ir nuoroda čia, pavyzdžiui. Taip pat aprašiau įvairius dirbtinio intelekto etikos principus ir gaires, kurias nustatė ir priėmė įvairios tautos, įskaitant, pavyzdžiui, Jungtinių Tautų pastangas, tokias kaip UNESCO AI etikos rinkinys, kurį priėmė beveik 200 šalių, žr. nuoroda čia.

Čia yra naudingas pagrindinis etinių AI kriterijų arba charakteristikų, susijusių su AI sistemomis, kurias anksčiau atidžiai tyrinėjau, sąrašas:

• Skaidrumas
• Teisingumas ir sąžiningumas
• Nepiktybiškumas
• atsakomybė
• Privatumo politika
• Gerumas
• Laisvė ir autonomija
• Pasitikėkite
• Tvarumas
• orumas
• Solidarumas

Šiuos AI etikos principus nuoširdžiai turėtų taikyti AI kūrėjai, taip pat tie, kurie valdo dirbtinio intelekto kūrimo pastangas, ir netgi tie, kurie galiausiai kuria ir atlieka AI sistemų priežiūrą.

Visos suinteresuotosios šalys per visą DI kūrimo ir naudojimo gyvavimo ciklą laikosi nustatytų etiško AI normų. Tai svarbus akcentas, nes įprasta prielaida, kad „tik koduotojai“ arba tie, kurie programuoja AI, turi laikytis AI etikos sąvokų. Kaip jau buvo pabrėžta, dirbtinio intelekto kūrimui ir įgyvendinimui reikia kaimo, kuriame visas kaimas turi išmanyti ir laikytis AI etikos nuostatų.

Panagrinėkime tarptautinių dirbtinio intelekto įstatymų ir tarptautinių AI etikos nuostatų poveikį ir gyvybingumą AGI lenktynėms.

Tautos, siekiančios AGI, gali tai padaryti atsisakydamos ir pakrypusios į kai kurias dažnai populiarinamas AGI egzistencines rizikas. Tikimasi, kad įgyvendinus tarptautinius dirbtinio intelekto įstatymus ir tarptautines AI etikos nuostatas, tautos bus nukreiptos AI for Good ir vengti AI For Bad.

Pagal mūsų lenktynių trasos analogiją, tie AI įstatymai ir AI etikos sumetimai yra tarsi bandymas neleisti bėgikams išeiti už trasos ribų. AGI lenktynėse kyla didžiulė pagundų imtis nuorodų. Šios nuorodos gali nuvesti tautą, regis, greičiau į finišo tiesiąją kelią, tačiau kartu sukeldamos pernelyg didelį pavojų tai tautai ir kitoms tautoms. Subtilus, bet daug pasakantis pavyzdys yra dvejopo naudojimo dirbtinis intelektas, kurį išnagrinėjau nuoroda čia, kai dirbtinio intelekto pažanga be didelių pastangų lengvai perjungiama nuo orientavimosi į gėrį į pažangą, kuriant kataklizminį blogumą.

Galite tvirtinti, kad tarptautiniai AI įstatymai ir tarptautinė AI etika yra tarsi teisėjai ar teisėjai.

Daroma prielaida, kad šie tarptautiniu mastu sukurti teisiniai ir etiniai mechanizmai išlaikys AGI lenktynes ​​tolygiau. Kitas dalykas yra tai, ar konkrečios tautos pasirenka paisyti teisėjų ar teisėjų. Taip pat kyla nemalonus klausimas, kaip tos institucijos gali skirti nuobaudas ar paskatas, kad bėgikai liktų teisingame kelyje. Tikėtina, kad tautos darys taip, kaip norės, o kitoms tautoms gali tekti perkelti savo svorį, kad sustiprintų paramą neteisėtam taisyklių laužymui, kurio kai kurios tautos privalo imtis.

Išvada

Legendinis chemikas ir mikrobiologas Louisas Pasteuras garsiai pasakė: „Mokslas nežino šalies, nes žinios priklauso žmonijai ir yra pasaulį apšviečiantis deglas. Mokslas yra aukščiausia tautos personifikacija, nes ta tauta išliks pirmoji, kuri toliausiai neša minties ir žvalgybos darbus.

Ar galime sakyti, kad AGI pasiekimas nepažįsta jokios šalies ir kad AGI priklausys visai žmonijai?

O gal tauta, kuri pirmą kartą atvyks į AGI, ją pasisavins, prisigers nuo apgailėtinos galios ir išprotės?

Tiems iš jūsų, kuriems patinka šiek tiek pasukti šią konkrečią mįslę, pagalvokite, kad AGI savaime gali būti pasiekimas, kuris yra patarlė žolėje gyvatė. Gyvatės atradėjas gali būti pirmasis, kuris įkąs gyvatę. Būti pirmam turi savo pavojų.

AGI finišo linijos kirtimas nebūtinai bus toks šventiškas ir nerūpestingas, kaip kai kurie gali pagalvoti. Taip pat nebūtinai lengva panaudoti AGI. Kai kas gali ginčytis, kad susidoroti su AGI gali būti beveik neįmanoma, nes AGI, regis, pasižymės panašiu gudrumu ir išradingumu, kurį turi žmonija. Tautos turi turėti omenyje, ko jos siekia ir koks bus rezultatas, darydamos tai iš anksto ir nepastebdamos. Jie gali turėti širšių lizdą savo nacionalinio lobio skrynioje.

Kaip pasiūlė Pasteras: „Fortūna palanki pasiruošusiam protui“.