„Meta AI“ pristato dirbtinio intelekto įkvėptą diplomatinį žavesį, kuris AI etiką ir dirbtinio intelekto įstatymus paverčia subtiliu tifu

Gerbiamas žavesio ir diplomatijos pasaulis dažnai yra aptemdytas nemandagumo ir nekantrumo.

Willas Rogersas, puikus humoristas ir socialinis komentatorius, garsiai pasakė, kad diplomatija yra menas sakyti „Gražus šunelis“, kol nerandi uolos.

Akivaizdu, kad kartais turite smarkiai sulaikyti visas grėsmingas ir pavojingas jėgas, kol rasite tinkamą sprendimą. Darykite tai, ką turite padaryti, kai esate beviltiškoje sąstingyje. Sąmoningai ir tikslingai nuraminkite tuos, kurie jums kelia pavojų, vartodami raminančius ir žavinčius žodžius, sukaupdami brangaus laiko apsiginkluoti praktiškesne ir akivaizdžiai apčiuopiama pozicija.

SKELBIMAI

Kai kurie tvirtina, kad karas yra neatskiriama nesėkmingos diplomatijos pasekmė. Šiuo požiūriu, nuolatinis diplomatijos būgnų mušimas padės išvengti karo. Kalbėkite toliau, o kova neprasidės. Kiti karštai nesutaria dėl tokios problemiškos nuomonės. Galbūt, sakoma, diplomatija iš tikrųjų yra tai, kas mus įtraukia į karus. Be to, gali būti, kad diplomatija tęsia karus ir tęsia kovas be galo.

Suteiksime Willui Rogersui dar vieną šansą pajusti humoro jausmą, sprendžiant klausimą, ar diplomatija yra gera, ar bloga dėl karo atsiradimo ar tęsimosi: „Ištraukite diplomatiją iš karo ir viskas po savaitės žlugs“ (jis). pranešta, kad deklaravo).

Bendras diplomatijos apibrėžimas akcentuoja santykius tarp tautų. Diplomatai atstovauja tam tikroms tautoms ar nacionalinėms valstybėms ir, vykdydami savo šventas pareigas, naudojasi diplomatija. Tikimės, kad mūsų diplomatai imsis savo užsienio politikos perteikimo naudodami aplombą. Pasiuntinys neturėtų būti tas, kuris sukelia priešiškumą, tiesiog pranešimas gali tai padaryti. Manoma, kad nepriekaištingas diplomatinis net pačių baisiausių pranešimų vaizdavimas gali akivaizdžiai sušvelninti smūgį, kylantį dėl šiaip kenksmingo reikalavimo ar grasinimo.

SKELBIMAI

Žinoma, diplomatija neapsiriboja tik aukštu formalizuotų diplomatų darbu. Drįstu teigti, kad kasdieniame gyvenime mes visi turime užsikrėsti diplomatiškumu. Jei norite, kad draugas prižiūrėtų jūsų mylimą šunį, kai esate komandiruotėje, jūs tikrai diplomatiškai išreikšite prašymą pasirūpinti šuneliu. Tikėtina, kad tiesioginis reikalavimas tai padaryti bus duslus.

Greičiausiai diplomatija yra labiau menas nei mokslas, o tai yra kažkas, ką žmonės naudoja tam, kad suteptų slides, įjungtų šviesas ir neleistų visuomenei visiškai išprotėti. Derybos ateina žaisti. Gali prireikti nusiraminti. Kartais naudoji morką, kartais – pagaliuką. Jei turite tai padaryti, galite išbandyti vadinamąją pistoleto diplomatiją, kuria bandote įbauginti kitus aplinkinius. Arba vietoj stiprios ginkluotės galite eiti švelnesniu tarpininkavimu ir humanitariniu keliu. Viskas priklauso.

Gerai, todėl visi pagrįstai sutinkame, kad diplomatija yra gyvybiškai svarbi žmonių tarpusavio bendravimo forma. Jį sudaro praktika arba scenos darbai, susiję su taktiškumu, tarpininkavimu, derybomis, susitaikymu ir daugybe visuomeniškai vikrių politikų.

SKELBIMAI

Prie tos lygties pridėkime dar ką nors.

Ar jūs pasiruošę?

Pridėsime dar kai ką, apie ką galbūt dar pagalvojote.

Dirbtinis intelektas (DI).

Taip, AI įsitraukia į diplomatijos gambitą. Tai atrodo visiškai protinga. Jei norime, kad dirbtinis intelektas būtų pasinėręs į visus mūsų gyvenimo aspektus, galiausiai diplomatijai turėjo ateiti eilė. Galime tikėtis, kad dirbtinis intelektas galės atlikti visas savo pareigas, naudodamas tinkamus diplomatijos žodžius ir manieras.

SKELBIMAI

AI kaip autonominis arba pusiau autonominis diplomatas.

Suprantu, kad tai gali atrodyti gana bauginančiai ir visiškai baisu. Nemanau, kad nė vienas iš mūsų yra pasirengęs dirbti dirbtiniu intelektu kaip atitinkamų šalių atstovas. Įsivaizduokite, kad dirbtinis intelektas tarnauja mūsų vardu, kad derėtųsi dėl mūsų tarptautinių pozicijų ir patvirtintų mūsų pasaulinę politinę poziciją. Taip! Tai yra tų apokaliptinių mokslinės fantastikos istorijų medžiaga.

Na, trumpam atsikvėpkite su palengvėjimu, nes kol kas to nėra kortelėse.

Verčiau galvokite apie dirbtinį intelektą, kurį naudojate tvarkydami banko reikalus arba kuris padeda jums įsigyti būstą. Šiandieninis dirbtinis intelektas, bendraujantis su žmonėmis, paprastai yra gana paprastas. Prisiminkite faktus, tik faktus. Kai kurie dirbtinio intelekto žodžiai buvo apibarstyti mielais žodžiais, kad manytumėte, jog tai yra draugiška ar bičiulė, nors tai greitai matoma. Vien todėl, kad dirbtinio intelekto sistema jus vadina jūsų vardu arba skleidžia tokius žodžius kaip „labas“, o ne „labas“, dauguma iš mūsų iškart supranta, kad tai yra šarada.

Kitas žingsnis, kurio uoliai imasi dirbtinio intelekto kūrėjų salėse, yra pabandyti įterpti diplomatinių savybių į mūsų kasdienį AI. Pagrindinis tikslas yra įtraukti programinius aspektus, kurie leis dirbtiniu intelektu pademonstruoti diplomatiją ir į diplomatišką elgesį. Naudojant įvairius algoritmus ir ypač naujausius generatyvius AI arba didžiųjų kalbų modelius (LLM), šioje srityje pastebima pažanga.

SKELBIMAI

Pažiūrėsime į vieną iš tokių pavyzdžių – CICERO – naują AI sistemą, kurią išleido Meta AI komanda.

Jei atostogavote ir nespėjote sekti naujausių naujienų apie dirbtinį intelektą, neseniai paskelbtas ir pristatytas dirbtinio intelekto sistema, sukurta kaip CICERO, yra reikšmingas kelrodis, nurodantis, kur šiais laikais yra dirbtinio intelekto persmelkta diplomatijos arena. „Meta AI“ komanda, apgalvotai ir savo garbei, atvirai paskelbė savo sukurtą CICERO AI sistemą. Techninę informaciją galite perskaityti paskelbtame moksliniame darbe apie Mokslas, Žr. nuoroda čia. Galite apsilankyti svetainėje, kurią jie sukūrė, norėdami švelniai perteikti bendrus CICERO niuansus trumpais vaizdo klipais, iliustruojančiais, ką jis daro (žr. nuoroda čia). Tiems iš jūsų, kurie ieško tiesioginio programos kodo ir programinės įrangos, šaltinio kodą galite rasti GitHub adresu nuoroda čia.

Noriu greitai paaiškinti vieną aspektą, kuris gali atrodyti painus, jei nuspręsite gilintis į šį klausimą.

Konkreti „Meta AI“ sukurta AI sistema šiuo metu yra sukurta žaisti šiek tiek populiarų žaidimą, žinomą kaip Diplomatija (galbūt matėte stalo žaidimą, kaip teigia Hasbro ir kiti žaidimų kūrėjai). Aš tai iškeliu, nes žodis „diplomatija“ šiuo atveju turės dvigubą pareigą. Viena vertus, sukurtas AI bando įlieti įmonės ir demonstravimo charakteristikas diplomatija per se. Tuo tarpu aplinka, kurioje veikia ši konkreti AI sistema, yra žaidžiant specialiai ir tik (šiuo metu) garsųjį stalo žaidimą, žinomą kaip Diplomatija.

Ar matote, kaip tai gali suklaidinti kai kuriuos žmones?

Jei kas nors jums sako, kad šis konkretus AI puikiai sekasi „diplomatijoje“, galite būti tikri, ar jie turi omenyje mintį, kad dirbtinis intelektas yra pakankamai įgudęs žaisti stalo žaidimą, žinomą kaip Diplomatija arba galbūt vietoj to jie teigia, kad AI įkūnija pagrindinę esmę, susijusią su žmonijos diplomatijos aktu. Be to, gali būti, kad abu aspektai yra skirti tuo pačiu metu (būtent AI puikiai žaidžia Diplomatija ir tuo pat metu puikiai sugeba mankštintis arba demonstruoti diplomatiją kaip įgūdį ar veiksmą).

SKELBIMAI

Čia aš pabandysiu tai ištaisyti, pirmąją raidę iš didžiosios raidės ir kursyvu parodydamas stalo žaidimo pavadinimą, Diplomatija. Likusį laiką naudosiu ne kursyvą „diplomatijos“ formuluotę kaip bendrą diplomatiškumo ar diplomatijos demonstravimo sampratą (žr., aš ką tik tai padariau).

Grįžtant prie nagrinėjamo klausimo, galite trumpam susimąstyti, ar DI, demonstruojantis diplomatiją, yra kažkas, ko turėtume trokšti, ar verčiau vengti.

Priversti dirbtinį intelektą demonstruoti diplomatiją, yra daug teigiamų aspektų. Vis dėlto gyventumėte sekliame burbule manydami, kad dirbtinis intelektas įgyvendinantis diplomatiją bus visiškai ir išskirtinai geras dalykas. Atrodo, kad dirbtinis intelektas turi diplomatinių įgūdžių ir gali priversti mus patikėti, kad turi diplomatijos, taip pat yra daug nerimą keliančių problemų, kurias turime iškelti į pirmą vietą. Iš esmės tokiu būdu naudojamas DI kelia daugybę AI etikos ir AI teisės klausimų. Tiems iš jūsų, kurie domisi AI etika ir AI teise, galite pažvelgti į mano išsamią ir nuolatinę etinio AI ir AI įstatymo aprėptį adresu nuoroda čia ir nuoroda čia, Tik pavadinimas kelias.

Prieš pradėdamas dirbti su dirbtiniu intelektu, įkūnijančiu tam tikrą diplomatijos formą, pirmiausia norėčiau pakloti esminius DI pagrindus, ypač AI etiką ir AI įstatymą, taip siekdamas užtikrinti, kad diskusija būtų kontekstualiai pagrįsta.

SKELBIMAI

Didėjantis supratimas apie etinį AI ir taip pat dirbtinio intelekto įstatymą

Naujausia AI era iš pradžių buvo laikoma tokia AI for Good, tai reiškia, kad galėtume panaudoti AI žmonijos tobulinimui. Ant kulnų AI for Good atėjo supratimas, kad mes taip pat pasinėrėme AI For Bad. Tai apima dirbtinį intelektą, kuris yra sukurtas arba savaime pakeistas į diskriminacinį ir priimantis skaičiavimo sprendimus, sukeldamas nepagrįstą šališkumą. Kartais dirbtinis intelektas yra sukurtas tokiu būdu, o kitais atvejais jis nukrypsta į tą nepalankią teritoriją.

Noriu visiškai įsitikinti, kad esame tame pačiame puslapyje dėl šiandieninio AI pobūdžio.

Šiandien nėra jokio jautraus dirbtinio intelekto. Mes šito neturime. Mes nežinome, ar jautrus AI bus įmanomas. Niekas negali tiksliai nuspėti, ar pasieksime jausmingą AI, nei ar jausmingasis AI kažkaip stebuklingai spontaniškai atsiras kompiuterinės kognityvinės supernovos pavidalu (dažniausiai vadinama singuliarumu, žr. mano aprėptį adresu nuoroda čia).

AI, į kurį daugiausia dėmesio skiriu, tipas susideda iš nejautrios AI, kurią turime šiandien. Jei norėtume pašėlusiai spėlioti apie jausmingą AI, ši diskusija galėtų vykti radikaliai kita linkme. Jausmingas AI tariamai būtų žmogiškos kokybės. Turėtumėte atsižvelgti į tai, kad jautrus AI yra pažintinis žmogaus atitikmuo. Be to, kadangi kai kurie spėja, kad galime turėti itin intelektualų AI, gali būti, kad toks DI gali būti protingesnis už žmones (dėl mano, kaip galimos itin intelektualaus DI, tyrinėjimo žr. aprėptis čia).

SKELBIMAI

Primygtinai siūlyčiau viską laikytis žemiškai ir atsižvelgti į šiandieninį skaičiavimo nejautinį AI.

Supraskite, kad šiandieninis dirbtinis intelektas nesugeba „mąstyti“ niekaip, kaip ir žmogaus mąstymas. Kai bendraujate su „Alexa“ ar „Siri“, pokalbio gebėjimai gali atrodyti panašūs į žmogaus gebėjimus, tačiau realybė yra tokia, kad tai skaičiuojama ir jam trūksta žmogaus pažinimo. Naujausioje AI eroje plačiai naudojamas mašininis mokymasis (ML) ir gilusis mokymasis (DL), kurie naudoja skaičiavimo modelių suderinimą. Tai paskatino dirbtinio intelekto sistemas, kurios atrodo kaip žmogaus polinkiai. Tuo tarpu šiandien nėra nė vieno dirbtinio intelekto, kuris turėtų sveiko proto ir kognityvinio nuostabaus tvirto žmogaus mąstymo.

Būkite labai atsargūs antropomorfizuodami šiandieninį AI.

ML/DL yra skaičiavimo modelių derinimo forma. Įprastas būdas yra rinkti duomenis apie sprendimo priėmimo užduotį. Duomenis tiekiate į ML/DL kompiuterių modelius. Šie modeliai siekia rasti matematinius modelius. Radusi tokius modelius, jei taip bus, AI sistema naudos tuos modelius, kai susidurs su naujais duomenimis. Pateikus naujus duomenis, dabartiniam sprendimui priimti taikomi modeliai, pagrįsti „senais“ arba istoriniais duomenimis.

Manau, galite atspėti, kur tai link. Jei žmonės, priimdami pagrįstus sprendimus, įtraukė nepalankų šališkumą, tikėtina, kad duomenys tai atspindi subtiliai, bet reikšmingai. Mašininio mokymosi arba giluminio mokymosi skaičiavimo modelių derinimas tiesiog bandys atitinkamai matematiškai imituoti duomenis. AI sukurtame modeliavime per se nėra jokio sveiko proto ar kitų jautrių aspektų.

SKELBIMAI

Be to, AI kūrėjai taip pat gali nesuvokti, kas vyksta. Dėl paslaptingos ML/DL matematikos gali būti sunku išsklaidyti dabar paslėptus šališkumus. Jūs pagrįstai tikėtumėte ir tikitės, kad AI kūrėjai išbandys galimai palaidotus šališkumus, nors tai yra sudėtingiau, nei gali atrodyti. Yra didelė tikimybė, kad net ir atlikus gana platų testavimą, ML/DL modelių atitikimo modeliuose vis tiek bus paklaidų.

Galite šiek tiek pasinaudoti garsiuoju ar liūdnai pagarsėjusiu posakiu apie šiukšlių išvežimą. Reikalas tas, kad tai labiau panašu į šališkumą, kuris klastingai įsiskverbia į AI paskendusį šališkumą. AI sprendimų priėmimo algoritmas (ADM) aksiomatiškai apkraunamas nelygybe.

Negerai.

Visa tai turi ypač reikšmingų AI etikos pasekmių ir siūlo patogų langą į išmoktas pamokas (net prieš tai, kai įvyksta visos pamokos), kai kalbama apie AI įstatymą.

SKELBIMAI

Be AI etikos nuostatų taikymo apskritai, kyla atitinkamas klausimas, ar turėtume turėti įstatymus, reglamentuojančius įvairius AI naudojimą. Federaliniu, valstijos ir vietiniu lygmenimis rengiami nauji įstatymai, susiję su DI kūrimo įvairove ir pobūdžiu. Pastangos rengti ir priimti tokius įstatymus vyksta laipsniškai. Dirbtinio intelekto etika yra bent jau apsvarstyta priemonė ir beveik neabejotinai tam tikru mastu bus tiesiogiai įtraukta į tuos naujus įstatymus.

Žinokite, kad kai kurie griežtai tvirtina, kad mums nereikia naujų įstatymų, apimančių AI, ir kad mūsų esamų įstatymų pakanka. Jie įspėja, kad jei priimsime kai kuriuos iš šių dirbtinio intelekto įstatymų, užmušime auksinę žąsį, apribodami dirbtinio intelekto pažangą, teikiančią didžiulių socialinių pranašumų.

Ankstesnėse skiltyse aprašiau įvairias nacionalines ir tarptautines pastangas rengti ir priimti įstatymus, reglamentuojančius dirbtinį intelektą, žr. nuoroda čia, pavyzdžiui. Taip pat aprašiau įvairius dirbtinio intelekto etikos principus ir gaires, kurias nustatė ir priėmė įvairios tautos, įskaitant, pavyzdžiui, Jungtinių Tautų pastangas, tokias kaip UNESCO AI etikos rinkinys, kurį priėmė beveik 200 šalių, žr. nuoroda čia.

SKELBIMAI

Čia yra naudingas pagrindinis etinių AI kriterijų arba charakteristikų, susijusių su AI sistemomis, kurias anksčiau atidžiai tyrinėjau, sąrašas:

• Skaidrumas
• Teisingumas ir sąžiningumas
• Nepiktybiškumas
• atsakomybė
• Privatumo politika
• Gerumas
• Laisvė ir autonomija
• Pasitikėkite
• Tvarumas
• orumas
• Solidarumas

Šiuos AI etikos principus nuoširdžiai turėtų taikyti AI kūrėjai, taip pat tie, kurie valdo dirbtinio intelekto kūrimo pastangas, ir netgi tie, kurie galiausiai kuria ir atlieka AI sistemų priežiūrą.

Visos suinteresuotosios šalys per visą DI kūrimo ir naudojimo gyvavimo ciklą laikosi nustatytų etiško AI normų. Tai svarbus akcentas, nes įprasta prielaida, kad „tik koduotojai“ arba tie, kurie programuoja AI, turi laikytis AI etikos sąvokų. Kaip jau buvo pabrėžta, dirbtinio intelekto kūrimui ir įgyvendinimui reikia kaimo, kuriame visas kaimas turi išmanyti ir laikytis AI etikos nuostatų.

SKELBIMAI

Aš taip pat neseniai išnagrinėjau AI teisių įstatymas Tai yra oficialus JAV vyriausybės oficialaus dokumento, pavadinto „AI Bill of Rights: Makeing Automated Systems Work for the American People“, pavadinimas, kuris buvo metus trukusių Mokslo ir technologijų politikos biuro (OSTP) pastangų rezultatas. ). OSTP yra federalinis subjektas, teikiantis patarimus Amerikos prezidentui ir JAV vykdomajai tarnybai įvairiais nacionalinės svarbos technologiniais, moksliniais ir inžineriniais aspektais. Šia prasme galima sakyti, kad šis AI Bill of Rights yra esamų JAV Baltųjų rūmų patvirtintas ir jų patvirtintas dokumentas.

AI teisės akte yra penkios pagrindinės kategorijos:

• Saugios ir efektyvios sistemos
• Algoritminė diskriminacijos apsauga
• Duomenų privatumas
• Įspėjimas ir paaiškinimas
• Žmogaus alternatyvos, svarstymas ir atsargos

Aš atidžiai peržiūrėjau tuos nurodymus, žr nuoroda čia.

SKELBIMAI

Dabar, kai padėjau naudingą pagrindą šioms susijusioms AI etikos ir AI teisės temoms, esame pasiruošę pereiti į svaiginančią AI persmelktos mašininės diplomatijos temą.

AI diplomatija visoje savo šlovėje ir taip pat galimas žlugimas

Pirmiausia nustatykime, kad čia nagrinėjamas AI tipas yra nejaučiamas AI.

Sakau tai, nes jei arba kai kurie sako kada pasieksime jautrųjį AI, visa tema greičiausiai bus visiškai apversta. Įsivaizduokite galimą chaosą ir visuomenės painiavą dėl to, kad kažkaip patekote į kitaip niekada neabejotinai patikrintą dirbtinis intelektas, įkūnijantis jausmingumą (dėl mano žinomo AI testo, žinomo kaip Turingo testas, analizės žr. nuoroda čia). Galite pagrįstai lažintis, kad daugelis mūsų esamų kultūrinių, teisinių ir kasdienių normų bus labai supurtytos iki esmės.

Galbūt jautrus AI bus mūsų bičiulis, o gal jautrus AI bus mūsų blogiausias priešas. Kaip galėsime pasakyti, kokiu keliu AI eis?

Jums gali kilti pagunda pasiūlyti, kad tikriausiai galėsime pasikalbėti su dirbtiniu intelektu ir pagal tai išsiaiškinti, kokius ketinimus jis turi. Aha, jūs patekote į nerimą keliančius spąstus. Tarkime, dirbtinis intelektas yra ypač gerai prisotintas tam tikromis DI diplomatijos galimybėmis. Kai bandysite kalbėtis su dirbtiniu intelektu, jis galbūt kalbės žaviausiais ir iškalbingiausiais žodžiais. Tai gali labai nuraminti žmoniją.

SKELBIMAI

Bet ar tai, ką AI iš tikrųjų turi „galvoje“ dėl savo AI pagrįstų skaičiavimo ketinimų?

AI gali daryti klasikinį diplomatinį „vienas-du“ smūgį. Pakalbėkite apie gerą žaidimą ir priverskite mus užliūliuoti tikėjimu, kad AI yra geriausias mūsų visų laikų draugas. Tai gali suteikti AI laiko kaupti išteklius, kad aplenktų žmoniją, arba galbūt uoliai dirbti užkulisiuose, kad sumažintume viską, ką naudojame žmonijai išlaikyti. Po to gudraus diplomato kiosko, Wham, AI išmuša mus visus.

Prisiminkite, ką pasakė Willas Rogersas, o šiuo atveju dirbtinis intelektas mums pasakys „Nice doggie“, o mes suteikiame AI pakankamai kvėpuoti, kad paskui mus nuvalytų nuo planetos. Ši AI kaip egzistencinės rizikos samprata jau seniai paplitusi. Kai kurie mano, kad sukūrę dirbtinį intelektą su perpildyta diplomatija, mes nusiminsime. Dirbtinis intelektas sumaniai panaudos visus įveiktus diplomatijos dalykus, kuriuos mes padėjome išmokyti dirbtinio intelekto, ir galiausiai būsime aklai apgauti, kad dirbtinis intelektas taps mūsų valdovu.

Gėda mums.

Tiems iš jūsų, kurie toliau domisi šia itin spekuliatyvia vietove apie futuristinį dirbtinį intelektą, žiūrėkite mano AI kaip egzistencinės grėsmės perspektyvas nuoroda čia.

SKELBIMAI

Grįžęs į žemę, nuo šiol pabrėšiu dirbtinio intelekto persmelktos diplomatijos kelią mūsų egzistuojančiame nejaučiame DI.

Pabandykime šiek tiek atsekti istoriją.

Bandymai sukurti dirbtinį intelektą, kuris kažkaip įkūnija diplomatijos ir diplomatinio elgesio skaičiavimo skonį, vyksta nuo pirmųjų AI dienų. Galite lengvai grįžti į šeštąjį, šeštąjį ir aštuntąjį dešimtmetį ir rasti fundamentinių tyrimų, kurie norėjo pritaikyti dirbtinį intelektą šioje srityje. Kai kurie manė, kad žaidimo teorija yra raktas. Kiti daugiausia dėmesio skyrė psichologijai ir susijusiems pažinimo elementams. Kiti bandė panaudoti ekonomiką, operacijų tyrimus ir daugybę iš pažiūros susijusių veiklos sričių.

Pradinis klestėjimas vėliau įvyko devintajame dešimtmetyje. Tuo metu vienas dominuojantis metodas buvo ekspertų sistemų (ES) arba žiniomis pagrįstų sistemų (KBS) naudojimas kuriant su diplomatija susijusias dirbtinio intelekto sistemas. Rezultatas buvo gana niūrus ir parodė, kokia sudėtinga tai bus užduotis.

SKELBIMAI

Viena slegianti mįslė per šią pradinio tyrimo epochą buvo poreikis sukurti tvirtą platformą, kurioje arba kurioje dirbtinis intelektas, kuris tariamai galėjo veikti tam tikrais su diplomatija susijusiais būdais, galėtų būti tinkamai išbandytas ir ištirtas. Galbūt šis poreikis yra akivaizdus. Jei kas nors nori išsiaiškinti, ar žmogus ar dirbtinis intelektas gali vykdyti diplomatiją, turi būti sukurta šiam ieškojimui palanki aplinka.

Į šį paveikslėlį įtrauktas stalo žaidimas Diplomatija.

Suprantu, kad stalo žaidimas Diplomatija nėra beveik taip gerai žinomas kaip Monopolija, Rizikaarba „Stratego“ (Jūs tikriausiai girdėjote apie tuos žaidimus). Nepaisant to, yra strateginis stalo žaidimas, žinomas kaip Diplomatija kuri pirmą kartą buvo sukurta 1954 m. ir komerciškai išleista 1959 m. Be to, kad buvo žaidžiama akis į akį, Diplomatija žaidimas dažnai buvo žaidžiamas per sraigių paštą. Savo judesius užrašytumėte ant popieriaus lapo ir paštu išsiųstumėte lapą tiems, prieš kuriuos žaidėte. Beprotiška įsivaizduoti šiais laikais. Vėliau buvo naudojamas el. Galiausiai žaidimas buvo prieinamas internete ir leido žaidėjams dalyvauti realiuoju laiku vieni su kitais.

Ant Diplomatija Kai žaidimas tapo prieinamas mikrokompiuteriuose, dirbtinio intelekto specialistai ėmė naudoti žaidimą kaip patogią priemonę išbandyti savo dirbtinio intelekto persmelktus diplomatijos sumanymus. The Diplomatija žaidimas buvo pasiekiamas kaip programėlė, veikianti kompiuteriuose, kad žmogus galėtų žaisti prieš mašiną (ty sukurtą AI). 1990-ajame dešimtmetyje sukurtas dirbtinis intelektas, kuris buvo parašytas žaisti Diplomatija buvo žinomai lėtas, paslaptingas ir lengvai įveikiamas beveik bet kokio minimaliai išmanančio žaidimo žmogaus.

SKELBIMAI

Štai 1999 m. apžvalga Diplomatija kaip paskelbta Yahoo, kuriame vaizdžiai aprašyta liūdna AI persmelktų diplomatijos galimybių, kaip žmogaus žaidėjo priešininko, bėda:

• „Vis dėlto DiplomatijaAkivaizdžiausia problema yra ta, kad dirbtinis intelektas žaidime yra visiškai baisus. Bet kokio lygio žaidėjai neturės jokių problemų medžiodami kompiuterį net ir didžiausiu sudėtingumo nustatymu. Pergalė yra tiesiog laiko ir kantrybės su sąsaja klausimas. Nėra taip, kad kompiuteris neplanuotų už jūsų nugaros – taip daro ir jis dažnai susijungia su sąjungininkais, kad atimtų iš jūsų teritoriją ar dvi – bet tokios schemos ateina iš karto, o ne kaip nenutrūkstamas ar ypatingas. iššūkį kelianti grėsmė“.

Vienas ypač erzinantis AI dizaino trūkumas buvo tas, kad atrodė, kad jai trūko pajėgumų vienu metu apskaičiuoti kelis judesius ar strategijas: „O paprastesniu lygmeniu kompiuteris atrodo nepajėgus valdyti kelių strateginių judesių. Nors žmogus žaidėjas gali vienu metu pradėti atakas prieš Graikiją ir Belgiją, atrodo, kad kompiuteris vienu metu sutelkia dėmesį tik į vieną dalyką. Dėl šios priežasties kompiuteris tiesiog negali konkuruoti su žmogumi“ (ten pat).

Aš jums dar nepaaiškinau, kas Diplomatija stalo žaidimas susideda iš, todėl skirkime šiek tiek laiko, kad nustatytų pagrindines taisykles.

Yra patogus mokslinis darbas apie AI ir žaidimą Diplomatija glaustai apibūdinamas žaidimo pobūdis: „Žaidimas vyksta 1901 m. Europos žemėlapyje, kuris yra padalintas į 75 provincijas. Kiekvienas žaidėjas žaidžia vieną iš septynių to meto didžiųjų valstybių: Austrija (AUS), Anglija (ENG), Prancūzija (FRA), Vokietija (GER), Italija (ITA), Rusija (RUS) ir Turkija (TUR) ir kiekvienas žaidėjas. prasideda nuo trijų ar keturių vienetų (armijų ar laivynų), kurie yra išdėstyti fiksuotose pradinėse žemėlapyje. Kiekviename žaidimo ture kiekvienas žaidėjas turi „pateikti užsakymą“ kiekvienam savo vienetui, kuris nurodo, kaip tiems vienetams judėti žemėlapyje, ir leidžia jiems užkariauti žemėlapio provincijas“ (Dave'as de Jonge'as, Timas Baarslagas, Reyhanas Aydoganas , Catholijn Jonker, Katsuhide Fujita ir Takayuki Ito, „Derybų iššūkis diplomatijos žaidime“, Sutarties technologijos: 6-oji tarptautinė konferencija, 2018)

SKELBIMAI

Taip pat reikia žinoti apie būdus laimėti ir pralaimėti žaidimą: „Kai kurios provincijos yra vadinamos. Tiekimo centrai o žaidėjų tikslas yra užkariauti tuos Tiekimo centrus. Žaidėjas pašalinamas, kai praranda visus savo tiekimo centrus, o žaidėjas laimi žaidimą, kai įveikia 18 ar daugiau iš 34 tiekimo centrų (viena pergalė). Tačiau žaidimas taip pat gali baigtis, kai visi išlikę žaidėjai sutinka su lygiosiomis“ (ten pat).

Tikiu, kad jūs tai matote Diplomatija yra paprastas žaidimas, kuriame dalyvauja iki septynių žaidėjų, kurie bando strategiškai pranokti vienas kitą. Šio manevravimo metu žaidėjai gali tartis vieni su kitais, kitiems žaidėjams nežinant, ką jie daro. Diplomatijos veiksmas išryškėja, kai sugebate priversti kitus žaidėjus laikytis jūsų planų. Galbūt atskleisite savo tikruosius planus, o gal ir ne. Galite pasiūlyti klaidingus planus. Galite derėtis su kitais žaidėjais. Galite apgauti kitus žaidėjus. Galite užmegzti aljansus su kitais žaidėjais. ir kt.

Meilėje ir kare viskas teisinga, kaip sakoma.

Pasirinkau tą konkretų mokslinį darbą, nes jis padėjo sukurti kompiuterizuotos versijos variantą Diplomatija vadinamas DipGame tarnauti kaip DI persmelktų diplomatijos galimybių testavimo platforma: „Nuolat trūksta bendrų programų domenų, kad būtų galima išbandyti pažangius tyrimų modelius ir agentų derybų architektūras Multiagent Systems. Šiame straipsnyje mes pristatome draugišką bandymų lentą šiam tikslui. Bandymų pagrindas yra Diplomatijos žaidimas kur derybos ir žaidėjų santykiai vaidina esminį vaidmenį“ (ten pat). Šis ir daugybė kitų variantų Diplomatija buvo sukurti ir prieinami tyrinėjimams bei žaidimams.

SKELBIMAI

Tyrėjai paaiškino, kodėl jie tuo tikėjo Diplomatija yra toks naudingas žaidimas, padedantis dirbtinio intelekto ieškojimui dirbtinio intelekto diplomatijos link: „Žaidimas Diplomatija yra puikus išbandymas tokio tipo sudėtingoms deryboms, nes tai žaidimas, apimantis daugybę sunkumų, su kuriais tektų susidurti ir vykstant deryboms realiame gyvenime. Tai apima pasitenkinimą suvaržymais, koalicijos formavimą, žaidimo teoriją, pasitikėjimą ir net psichologiją. Dabar, kai šiuolaikiniai „Chess and Go“ kompiuteriai jau gerokai pranašesni už bet kurį žaidėją, mes to tikimės Diplomatija pradės atkreipti daugiau dėmesio kaip kitas didelis kompiuterių mokslo iššūkis“ (ten pat).

Trumpai tariant, stalo žaidimas Diplomatija yra jau žinoma ir šiek tiek populiari priemonė priversti žmones veikti įvairiais diplomatiniais būdais. Paprastai žmonės žaidžia prieš kitus žmones (šiuo atveju iki septynių žmonių). Galime sukurti AI, kuris bandytų prisiimti žaidėjo vaidmenį žaidime. Taigi, jūs galite turėti šešis žmonių žaidėjus ir vieną AI grotuvą.

Įsivaizduokite žaidimą Diplomatija prisijunges.

Jei nesakysime žmonėms žaidėjams, kad tarp jų yra AI, jie natūraliai gali manyti, kad septintasis žaidėjas yra tik kitas žmogus. Norėdami neleisti žaidėjams atspėti, kad žaidžia dirbtinis intelektas, galime apriboti žaidimo aspektus, kad visi žaidėjai siųstų vieni kitiems tekstinius pranešimus. Jūs negalite tiesiogiai matyti kitų žaidėjų.

SKELBIMAI

Galbūt galvojate, kad tai nelabai skiriasi nuo žaidimo internetiniais šachmatais. Kodėl kyla didelis triukšmas Diplomatija kaip žaidimas?

Prisiminkite, kad mes sutelkiame dėmesį į žaidėjų sąveiką. Šio žaidimo prielaida yra ta, kad žaidėjai remiasi diplomatija vienas kito atžvilgiu. Tai skiriasi nuo įprastų šachmatų. Jei sukurčiau AI pagrįstą šachmatų programą, ji paprastai žaistų prieš vieną žmogų. Tarp šachmatais žaidžiančio AI ir žmogaus žaidėjo nėra jokių derybų ar diskusijų. Jie tik atlieka šachmatų judesius ir stengiasi vienas kitą pranokti. Paprastai tai daroma visiškoje tyloje.

Diplomatija leidžia mums vykdyti atvirą skaičiavimo ir žmogiškąja diplomatiją (galbūt tai daryti raštu, o ne pasakyti garsiai): „Pagrindinis skirtumas tarp Diplomatija ir kiti deterministiniai žaidimai, tokie kaip šachmatai ir eiti, yra tai, kad diplomatijoje žaidėjams leidžiama derėtis vieni su kitais ir sudaryti koalicijas. Kiekviename raunde, prieš žaidėjams pateikiant įsakymus, žaidėjams suteikiamas laikas derėtis vieni su kitais ir susitarti dėl pavedimų, kuriuos jie pateiks. Derybos vyksta privačiai, ir kiekvienas sudarytas susitarimas yra žinomas tik toje sutartyje dalyvaujantiems žaidėjams“ (ten pat).

Ar galėtumėte sugalvoti kokį kitą žaidimą, kuriame būtų naudojama interaktyvi diplomatija, o ne žaidimas Diplomatija?

Absoliučiai.

SKELBIMAI

Tokių žaidimų yra įvairių.

Patogumas renkantis vieną konkretų žaidimo modelį yra tai, kad dirbtinio intelekto kūrėjai gali sutelkti dėmesį į tą konkretų žaidimą. Galite susiburti kurdami dirbtinį intelektą, kuris atliktų diplomatiją tam tikrame kontekste. Galite dalytis metodais ir juos kontrastuoti. Galite įvertinti įvairius AI atvejus pagal metriką, susijusią su tuo žaidimu. Ir taip toliau.

Nepaisant to, kontrargumentas arba išreikštas susirūpinimas yra tas, kad tai yra tas pats, kaip sudėti visus kiaušinius į vieną krepšį. Kai kurie nerimauja, kad jei daugelis AI kūrėjų užsiims viena konkrečia platforma ar aplinka, pvz., šiuo atveju Diplomatija, jie sieks optimizuoti AI tai konkrečiai arenai. Neigiama reikšmė yra ta, kad AI nebus apibendrintas. Mes nepadarysime tokios didelės pažangos siekdami visapusiškų DI persmelktos diplomatijos galimybių.

Panašiai kaip nematyti miško už medžius, jei norite.

Kitas dažnai reiškiamas rūpestis yra tas, kad tokie žaidimai kaip Diplomatija yra tik žaidimai.

SKELBIMAI

Kyla sudėtingas klausimas, ar žaidimą žaidžiantys žmonės daro tą patį, ką darytų realaus pasaulio diplomatijoje. Galbūt jūs nesielgiate taip pat, kai nėra nacionalinio pasididžiavimo ar nacionalinių akcijų. Žinoma, jūs galite nerimauti dėl savo asmeninio pasididžiavimo žaisdami žaidimą, galbūt bandydami tapti rezultatyviausiu žaidėju, o gal net laimėti prizų, bet vis tiek, ar tai prilygsta deryboms dėl pasaulio taikos Jungtinėse Tautose ar derybose dėl šalių turėtų turėti arba neturėti branduolinių ginklų.

Kai kurie mano, kad šie diplomatiniai žaidimai yra tinkami realaus pasaulio mikrokosmosai. Kiti apgailestauja, kad žaidimai yra naudingi, bet neprilygsta tarptautinio lygio diplomatijai, vadinama „guma atitinka kelią“. Gali būti, kad DI persmelktos diplomatijos žaidimams skirtos versijos pasirodo esąs ne kas kita, kaip tik žaidimo sėkmė. Dieve, sukurtas dirbtinis intelektas gali laimėti arba puikiai pasirodyti žaidžiant žaidimą, kuriame dalyvauja diplomatija, tačiau pasirodo, kad to paties AI tikrose diplomatinėse situacijose labai trūksta ir jis šlubuoja arba apgailėtinai žlunga.

Tarkime, kad dirbtinis intelektas yra sukurtas žaisti tokius žaidimus kaip Diplomatija tikrai verta. Galite pagrįstai teigti, kad nesvarbu, ar ji tinkama tik žaidimams, ar realiems veiksmams, idėja apima AI ribų išplėtimą ir DI pažangą, kuri gali prisidėti prie diplomatijos ar turėti kitų naudingų proveržių kuriant AI.

SKELBIMAI

Kol kas pirmenybę teikite besišypsančiam veidukui.

Toliau išnagrinėsime, kaip „Meta AI“ pasirinko sukurti dirbtinio intelekto persmelktą diplomatijos žaidėją, galintį žaisti Diplomatija.

Laikykitės skrybėlių.

Meta AI ir diplomatijos žaidimo mašinomis paremtas diplomatas Ciceronas

Kaip minėta anksčiau, yra paskelbtas mokslinis darbas Mokslas aprašoma naujai paskelbta ir viešai išleista „Meta AI“ programa, sukurta kaip Cicero (šioje diskusijoje aš pakaitomis vadinsiu ją „Cicero“ ir lygiai taip pat kaip „CICERO“ didžiosiomis raidėmis):

SKELBIMAI

• „Pristatome Ciceroną, AI agentą, pasiekusį žmogaus lygio našumą strateginiame žaidime Diplomatija. . In Į Diplomatija, septyni žaidėjai veda privačias natūralios kalbos derybas, kad koordinuotų savo veiksmus, kad galėtų bendradarbiauti ir konkuruoti tarpusavyje. Priešingai, ankstesni kelių agentų dirbtinio intelekto sėkmė buvo grynai priešiška aplinkose, tokiose kaip šachmatai, „Go“ ir pokeris, kur komunikacija neturi jokios vertės. Dėl šių priežasčių, Diplomatija pasitarnavo kaip sudėtingas mokymosi iš kelių agentų etalonas“ („Meta Fundamental AI Research Diplomacy Team“, „Žmogaus lygio žaidimas diplomatijos žaidime, derinant kalbos modelius su strateginiu samprotavimu“, Mokslas, 22 m. lapkričio 2022 d.).

Cituosiu iš popieriaus ir tada pateiksiu įvairių įžvalgų, kurios, tikimės, jus sudomins.

Atsižvelgiant į tai, kad dirbtinis intelektas ką tik buvo prieinamas, greičiausiai atliksiu tolesnę analizę po to, kai turėsiu galimybę atlikti išsamų praktinį kodo įvertinimą ir atlikti eksperimentinį žaidimą, kad įvertinčiau AI galimybes (pvz. pagrindines stipriąsias ir silpnąsias puses).

Būkite budrūs, kad vėliau paskelbtumėte!

Bet kokiu atveju, tikiu, kad galbūt pastebėjote ištraukoje, kurią ką tik pacitavau, kad yra frazė, kuri sako, kad dirbtinis intelektas „strateginiame žaidime pasiekė žmogaus lygio našumą Diplomatija"

SKELBIMAI

Apsvarstykite tai.

Pirma, tikrai pagirtina, kad pavyko sukurti DI, kuris vaidina Diplomatija žaidimas tariamu našumo lygiu, panašus į žmones. Tai be galo svarbu.

Mes turime daug Diplomatija žaisti AI, kuris yra pranašesnis už žmones, kurie žaidžia Diplomatija žaidimas. Daugiau nei galite papurtyti lazda. Įtikinama ir įdomu judėti aukštyn link dirbtinio intelekto, kuris gali žaisti daug geriau. Tačiau turime būti atsargūs, darydami greitas išvadas šiuo klausimu.

Pavyzdžiui, tarkime, kad aš sukūriau AI žaisti Diplomatija ir aš jį supriešinau su žmonėmis, kurie niekada anksčiau nežaidė žaidimo. Jei mano dirbtinis intelektas juos įveiks, būtų šiek tiek perdėta sakyti, kad mano dirbtinis intelektas veikė žmogaus lygiu. Tai, kad tai padarė su žmonėmis, kurie nebuvo susipažinę su žaidimu, šiek tiek kelia antakius ir kelia abejonių.

SKELBIMAI

Noriu įspėti jus, kad visada atidžiai patikrintumėte bet kokius, atrodytų, pernelyg didelius teiginius apie AI. Ankstesnė diskusija apie AI etiką ir AI įstatymą galbūt atveria jūsų akis klaidingų teiginių apie AI galimybę. Yra visiškai klaidingų teiginių ir yra klastingų, iš dalies teisingų ir iš dalies klaidinančių teiginių, kurie yra ypač sudėtingi. Svarbiausia yra paklausti, kodėl taip elgiasi tie, kurie teigia apie savo AI.

Kur jautiena?

Štai ką „Meta AI“ komanda turėjo pasakyti apie savo žmogaus lygio našumo reikalavimo pagrindą (daugiau informacijos rasite dokumente):

• „Ciceronas 40 m. rugpjūčio 19–13 d. anonimiškai dalyvavo 2022 diplomatijos žaidimų „žaibiškoje“ lygoje svetainėje webDiplomacy.net. Ši lyga žaidė penkių minučių derybų eilėmis; šie laiko kontrolė leido žaidimus užbaigti per dvi valandas. Ciceronas pateko į 10% geriausių dalyvių, kurie žaidė daugiau nei vienas rungtynes, ir užėmė 2 vietą iš 19 lygos dalyvių, kurie žaidė 5 ar daugiau rungtynių. Per visas 40 rungtynių Cicerono vidutinis rezultatas buvo 25.8%, ty daugiau nei dvigubai daugiau nei 12.4% jo 82 varžovų taškų vidurkis. Kaip lygos dalis, Cicero dalyvavo 8 žaidimų turnyre, kuriame dalyvavo 21 dalyvis, iš kurių 6 žaidė bent 5 žaidimus. Dalyviai galėjo žaisti ne daugiau kaip 6 žaidimus, kurių reitingas buvo nustatytas pagal 3 geriausių žaidimų vidurkį. Ciceronas šiame turnyre užėmė 1 vietą“ (ten pat).

SKELBIMAI

Labai malonu matyti, kad šiuo atveju jie nuoširdžiai bandė paremti savo AI teiginius (atminkite, kad ne visi dirbtinio intelekto darbuotojai tai daro).

Galite pasiūlyti jiems atlikti eksperimentą. Eksperimentą sudaro žaidėjai su žmonėmis, kurie tikriausiai nežinojo, kad žaidžia su AI žaidėju (straipsnyje aptariama, kodėl tai atrodė tikėtina, kad žmonės nesuvokė, kad vienas iš žaidėjų yra DI, nors įdomi šoninė liestinė apima vieno žaidėjo istoriją, kuri tapo šiek tiek įtartina, bet ne itin svarbi). Tie žmonės žaidėjai buvo iš anksto atrinkti pagal eksperimentinio dizaino pobūdį, todėl jie buvo lygos žaidėjai Diplomatija ir galime pagrįstai daryti išvadą, kad jie gerai žinojo, kaip žaisti. Jie nebuvo naujokai.

Pagal pateiktą statistiką, kurią laikysime nominaliąja verte kaip ankščiau ir tinkamai surinktą bei pateiktą (įvairūs duomenys ir kodas pateikiami papildomoje medžiagoje), AI žaidė pakankamai, kad padarytų patikimą, nors ir siaurą išvadą. kad šis variantas pasiekė žmogaus veikimo lygį Diplomatija žaidime ir, kaip ir nurodytos lygos kontekste, žaisti prieš žmones, kurie buvo iš pažiūros išmanantys žaidėjai.

Esu tikras, kad kai kurie iš jūsų galbūt norės ginčytis dėl žaidimo atvejų skaičiaus, galbūt ginčydami, kad jis per mažas, kad būtų galima drąsiai skelbti. Kitas ginčas gali būti tas, kad patekimas į 10% geriausių dalyvių nėra pakankamai aukštas, todėl, kol nepasiekiamas didžiausias 1%, nereikėtų girtis dirbtinio intelekto našumu.

SKELBIMAI

Tie gudravimai atrodo šiek tiek aštrūs.

Sakau tai, nes, laimei, nebuvo remiamasi teiginiu, kad esate „antžmogis“. Skaitytojai neabejotinai žino mano niūrų ir niūrų požiūrį į tuos, kurie dirba dirbtiniu intelektu, kurie nuolat skelbia nestandartinius pareiškimus, kad jų AI pasiekė antžmogišką statusą. Aš nesileisiu į savo skundus dėl čia esančių antžmogiškų šauktinių teiginių, žr nuoroda čia už mano pažiūras.

Šiuo atveju aš noriu pasakyti, kad manau, kad žmogaus lygio veiklos rodymas paprastai yra leistinas, darant prielaidą, kad visi turi omenyje, kad tai yra labai siaurame kontekste ir kad mes nesistengiame to padaryti taip, kad tai būtų vadinamoji. antžmogiškas. Aš taip pat vėl ir vėl kartoju ribotą kontekstą dėl priežasties, kurią vėliau paaiškinsiu.

Galiu tik įsivaizduoti, kad kai kurie socialiniai tinklai arba naivūs (galbūt nelaimingi) reporteriai visiškai ištrauks iš konteksto žmogaus lygmens pasirodymo koncepciją.

Štai ko aš bijau.

SKELBIMAI

Sulaikyk kvėpavimą.

Kai kurie tvirtins, kad dirbtinis intelektas įvaldė diplomatiją. Taip, išplėtotos dirbtinio intelekto sistemos, skirtos diplomatijai, tyrimas neabejotinai įrodė, kad AI gali ir dabar gali padaryti viską, ką žmonės daro diplomatijos labui.

Išsiųskite užsienio diplomatus namo. Galime juos pakeisti AI.

Pasaulis, kaip mes jį žinome, pasikeitė. Mes sukūrėme dirbtinį intelektą, kuris diplomatijoje visiškai prilygsta žmonėms, ir galime padaryti protinį „loginį“ šuolį link idėjos, kad AI dabar gali padaryti viską, ką gali padaryti žmonės. Voila, dabar mes įrodėme, kad AI prilygsta žmonėms. Matyt, šis tyrimas pateikia aiškius jausmingo AI įrodymus.

Pažymėkite mano žodžius, tai tikrai bus keista, neatsakinga ir varginanti kai kurių rašytojų elgsena.

Aš nesigilinsiu į esmę. Judame pirmyn.

SKELBIMAI

Kaip veikia AI?

Štai trumpa straipsnio santrauka: „Ciceronas valdomą dialogo modulį sujungia su strateginio mąstymo varikliu. Kiekvienu žaidimo tašku Ciceronas modeliuoja, kaip kiti žaidėjai gali elgtis pagal žaidimo būseną ir jų pokalbius. Tada ji planuoja, kaip žaidėjai gali derinti savo veiksmus, kad būtų naudinga abipusiai, ir šiuos planus suskirsto į pranešimus natūralia kalba“ (ten pat).

Toje greitoje santraukoje yra gurkšnis.

Leiskite man šiek tiek išpakuoti.

Žmogus žaidėjas, kuris žaidžia Diplomatija turi numatyti, ką darys kiti žaidėjai. Norite pabandyti derėtis su kitais žaidėjais ir priversti juos laikytis jūsų planų. Jie bandys tą patį padaryti su jumis. Jie gali jums meluoti. Galbūt tu jiems meluoji. Turite kovoti su šešiais kitais žaidėjais, kurie visi turi savo planų ir požiūrių.

SKELBIMAI

Šio žaidimo kelių agentų aspektai yra labai svarbūs sudėtingumo lygiui kuriant AI žaidimui žaisti. AI turi sekti, ką kiekvienas žmogus gali norėti daryti, ką jie sako, kad nori daryti, ir bet kokius gudravimus, kuriuos daro su kitais žaidėjais. Tai turi būti pasverta su tuo, ką jie jums sako, kad ketina daryti, ir su tuo, ką jūs jiems sakote, kad darysite.

Svaiginantis, bet paprastai pakankamai lengvas žmonėms.

AI srityje mes tai vadiname proto teorija (ToM). Atsižvelkite į tai, kad jūs, kaip žmogus, esate linkę kelti teorijas apie tai, ką galvoja kiti žmonės. Negalite atplėšti kieno nors gundelio ir pamatyti jo minčių. Turite atspėti, kokios jų mintys. Galite jų paklausti, bet tai, ką jie jums sako, gali būti jų mintys arba slapčia jų minčių versija.

Be proto teorijos sudėtingumo, į šį miglotą mišinį turime įtraukti ir žmogaus kalbą.

Kai žmogus su jumis bendrauja savo natūralia kalba, tarkime, anglų kalba, yra daug vietos klaidoms ir nesusikalbėjimui. Sakau jums, kad ketinu užvaldyti šalį X, bet klaidingai sakau Y. Oopsie. Arba sakiau šalį X, bet jūs klaidingai manėte, kad sakiau šalį Y. Jei manote, kad tokios painiavos negali atsitikti, jei visi naudojasi tekstinėmis žinutėmis, labai klystate. Galiu parašyti žinutę, kad ketinu užpulti šalį, o neminėju kurią. Galbūt numanoma, kurį iš jų „akivaizdu“ pulčiau. Žaidėjas, gavęs mano pranešimą, gali manyti, kad aš netiesiogiai kalbu apie šalį X, bet galbūt norėjau, kad jie taip galvotų.

SKELBIMAI

Tai tęsiasi ir tęsiasi.

Esmė ta, kad dėl mūsų naujausių dirbtinio intelekto pažangų, susijusių su natūralios kalbos apdorojimu (NLP), ir ypač naujausiais generatyviniais AI ir didžiųjų kalbų modeliais (LLM), tokia natūralios kalbos situacija yra beveik įgyvendinama. Anksčiau NLP paprastai nebuvo pakankamai geras, taip pat LLM dar nebuvo labiau įsitvirtinę.

Anksčiau dirbtinis intelektas siųsdavo žinutes, kurias beveik neabejotinai iš karto atpažintumėte kaip parašytas scenarijaus AI sistemos. Formuluotė nebuvo sklandi. Jis buvo šabloninis. Tai buvo akivaizdus įrodymas, kad AI yra AI. Šiais laikais daug sunkiau suprasti, kad dirbtinis intelektas tokiais atvejais nėra žmogaus žaidėjas.

Kaip minėta pirmiau pateiktoje citatoje, šis konkretus AI buvo sukurtas taip, kad jame būtų „valdomas dialogo modulis su strateginio mąstymo varikliu“ (ten pat). Dialogas vyksta taip: „Ciceronas sukuria dialogą naudodamas iš anksto paruoštą kalbos modelį, kuris buvo toliau mokomas remiantis dialogo duomenimis iš žmonių žaidimų Diplomatija. Labai svarbu, kad dialogo modelis buvo pagrįstas tiek dialogo istorija, tiek žaidimo būsena, bet ir buvo išmokytas valdyti ketinimus, kuriuos čia apibrėžiame kaip suplanuotų agento ir jo kalbančio partnerio veiksmų rinkinį.

SKELBIMAI

Ten atkreipkite dėmesį, kad domeno nustatymas yra labai svarbus. Jei mokytumėtės tik įprasto pobūdžio dialogų internete, tai nebūtinai būtų tinkama Diplomatija žaidimo kontekstas. Tie, kurie žaidžia žaidimą, yra įpratę prie savotiško stenografinio būdo aptarti žaidimą ir siūlomus judesius. Jūs norite, kad AI darytų tą patį. Taigi kalbos modelio mokymas naudojant konkrečios srities dialogo duomenis yra vertas dėmesio.

Štai ką jie sako apie nurodytą strateginio mąstymo variklį: „Ciceronas naudoja strateginio mąstymo modulį, kad sumaniai atrinktų ketinimus ir veiksmus. Šiame modulyje vykdomas planavimo algoritmas, kuris pagal žaidimo būseną ir dialogą iki šiol numato visų kitų žaidėjų politiką, atsižvelgdamas į skirtingų veiksmų stiprumą ir tikimybę žmogaus žaidimuose, ir pagal šias prognozes pasirenka optimalų Cicerono veiksmą. . Planavimas remiasi vertybe ir politikos funkcija, išmokyta per savarankišką žaidimą RL, kuri nubaudė agentą už pernelyg nukrypimą nuo žmogaus elgesio, kad būtų išlaikyta su žmonėmis suderinama politika“ (ten pat; atkreipkite dėmesį, kad RL yra mokymosi sustiprinimo santrumpa).

Žaidimo metu visi žaidėjai iš naujo kalibruoja savo pozicijas po kiekvieno ėjimo. Negalite dalyvauti šiame žaidime su iš anksto nustatyta fiksuota strategija, kuri yra nelanksti ir išmėtyta į akmenį. Turite keisti savo veiksmus pagal tai, ką daro kiti žaidėjai. AI turėtų būti užprogramuotas taip daryti. Per se nėra statinės strategijos. Vietoj to, žingsnis po žingsnio stebėkite situaciją ir išsiaiškinkite, kokių kitų geriausių žingsnių reikėtų imtis.

Technologiniai AI pagrindai buvo sukurti taip: „Gavome 125,261 XNUMX žaidimo duomenų rinkinį. Diplomatija žaidė internete adresu webDiplomacy.net. Iš jų 40,408 12,901,662 žaidimuose buvo dialogas, iš viso žaidėjai apsikeitė XNUMX XNUMX XNUMX žinutėmis. Žaidėjų paskyrų tapatybė buvo panaikinta, o asmenį identifikuojančios informacijos (PII) automatinį redagavimą atliko webDiplomacy. Šį duomenų rinkinį toliau vadiname WebDiplomacy“ (ten pat).

Panašiai kaip jūs galite išmokyti dirbtinį intelektą žaisti šachmatais, kai pagaunate daugybę šachmatų partijų ir DI suderina šablonus, kaip žaidimai buvo žaidžiami. Diplomatija Žaidimų žaidimai buvo palyginti įsitvirtinę.

Tiems iš jūsų, kurie išmano dirbtinį intelektą, gali būti smalsu, kokius bazinius modelius jie naudojo: „Pagrindiniu modeliu pasirinkome R2C2 (22) – 2.7 B parametro transformatoriaus kodavimo-dekoderio modelį, iš anksto paruoštą tekstą iš interneto naudojant BART triukšmo mažinimo objektyvą. Tada bazinis iš anksto parengtas modelis buvo toliau mokomas WebDiplomacy naudojant standartinį didžiausios tikimybės įvertinimą“ (ten pat).

Be to, jie ėmėsi šiek tiek neįprasto ir intriguojančio požiūrio į kitų žaidėjų modeliavimą atsižvelgiant į jų numatytą politiką: „Populiarus požiūris kooperaciniuose žaidimuose yra modeliuoti kitų žaidėjų politiką prižiūrint mokymąsi remiantis žmogaus duomenimis, o tai paprastai yra vadinamas elgesio klonavimu (BC). Tačiau grynas BC yra trapus, ypač todėl, kad prižiūrimas modelis gali išmokti netikrų dialogo ir veiksmų sąsajų. Siekdamas išspręsti šią problemą, Cicero naudojo piKL (26) variantus, kad modeliuotų žaidėjų politiką. piKL yra pasikartojantis algoritmas, numatantis politiką, darydamas prielaidą, kad kiekvienas žaidėjas i siekia maksimaliai padidinti numatomą savo politikos πi vertę ir sumažinti KL skirtumą tarp πi ir BC politikos, kurią vadiname inkaro politika τi (ten pat).

Manau, kad tai apima pagrindinius aspektus ir suteikia jums tinkamą vaizdą apie tai, ką AI daro ir kaip jis atlieka paskirtą užduotį.

Išvada

Norėčiau paminėti dar daug dalykų, bet aš ilgai tęsiu šią diskusiją ir pabandysiu aprėpti tik kelis kertinius aspektus. Daugiau papasakosiu kitame įraše.

Ar kada nors girdėjote apie kalinio dilemą?

Tai klasikinė su sprendimais susijusi problema.

Kalinio dilema reiškia, kad jūs turite nuspręsti, ar susižavėsite, ar supyksite su kaliniu. Kitas kalinys taip pat gali jus išmušti. Yra tokia atlygio funkcija, kad jei jūs išnaikinate kitą kalinį, o jie jūsų neišmuša, tai jūsų laimėjimas. Jei jie jus nuliūdina, o jūs jų nežiurkinate, tai jiems tarsi laimėjimas, o jums – pralaimėjimas. Jei jūs abu vienas kitą naikinate, abu iš esmės pralaimite. Išsamiai žiūrėkite mano aprėptį adresu nuoroda čia.

Kokią strategiją pasirinktumėte, kai susidurtumėte su kalinio dilema?

Jei tai buvo vienkartinis sandoris, galite beveik išmesti monetą. Jei situacija kartotųsi vėl ir vėl, o jūs turėtumėte reikalų su tuo pačiu kitu kaliniu, galite rasti modelį, kuris gali atsirasti. Vienas iš populiariausių ir dažnai rekomenduojamų modelių yra žinomas kaip zylė-už-tat. Kad ir ką darytų kitas kalinys, tą patį darysite ir kitu žingsniu. Jei jie tavęs nenuliūdina, tai ir tu jų nenuliūdini. Jei jie jus išnaikina, kitą žingsnį išnaikinsite.

Galite suglumti, kaip visa tai susiję su DI persmelkta diplomatija žaidžiant Diplomatija.

Čia yra sandoris.

Derybose su kitais dažnai tenka apsispręsti, ar sakyti jiems tiesą, ar meluoti. Melo problema yra ta, kad jei jus užklups melas, kitas asmuo tikriausiai nuo tada jumis nepasitikės. Galbūt iš pradžių jie jumis visiškai nepasitikėjo, bet dabar, kai parodėte ranką, kad iš tikrųjų meluojate, jie tikrai nuspręs, kad esate melagis.

Kai kurie žaidėjai Diplomatija nuolat meluoti. Jie mano, kad tai yra geriausia strategija. Melas, melas ir dar daugiau melo. Kiti žaidėjai elgiasi visiškai priešingai. Jie tvirtina, kad norite susilaikyti nuo melo, jei galite tai padaryti. Naudokite melą tik labiausiai reikalingose ​​​​situacijose. Negailėdami melo, galite sukurti pasitikėjimą su kitais žaidėjais. Kai nueini melagingu keliu ir būsi aptiktas, niekas nepatikės nė vienu tavo žodžiu.

Straipsnyje, kuriame aprašomas Ciceronas, minimas šis svarstymas: „Galiausiai, diplomatija yra ypač sudėtinga sritis, nes sėkmei reikia stiprinti pasitikėjimą kitais aplinkoje, kuri skatina žaidėjus niekuo nepasitikėti. Kiekvieno posūkio veiksmai vyksta vienu metu po neįpareigojančių, privačių derybų. Kad pasisektų, agentas turi atsižvelgti į riziką, kad žaidėjai gali nesilaikyti savo žodžio arba kad kiti žaidėjai patys gali abejoti agento sąžiningumu“ (ten pat).

Remiantis straipsniu ir trumpais vaizdo įrašais, tyrėjai galiausiai išsiaiškino, kad DI sakyti kiek įmanoma daugiau tiesos atrodė geresnė bendra strategija. Tam tikra prasme galite tai palyginti su kalinio dilema. Pradėkite sakydami tiesą. Jei jūsų priešininkas sako tiesą, jūs ir toliau sakote tiesą. Jei jie pradeda meluoti, turite įvertinti, ar likti tiesos sakymu, ar pereiti prie melo.

Manoma, kad tai širdžiai mielas atradimas.

Atminkite, kad sudėtinga ir intriguojanti dalis Diplomatija yra tai, kad tai darote šešių kitų žaidėjų atžvilgiu (žinoma kaip kelių agentų problema). Galite būti labai nuoširdūs su jais visais. Arba kai kuriems tai tiesa, bet kitiems ne. Taip pat yra aspektas, kad kai meluojate ir įkliuvote meluojant vienam kitam žaidėjui, kiti žaidėjai gali tai pastebėti arba padaryti išvadą. Taigi, žinoma, kad meluojate arba manoma, kad meluojate, net jei nemelavote tam tikram žaidėjui, kuris, jūsų manymu, yra teisus ir kurio atžvilgiu bandote būti tiesus.

Žmonės, vykdydami diplomatiją, yra linkę išsiaiškinti ir tobulinti savo melo ir tiesos metodus. Situacinės priklausomybės gali būti didžiulis veiksnys. Labai svarbu atsižvelgti į statymus. Atsiranda daugybė veiksnių.

Būtų įdomu turėti dirbtinio intelekto infuziją Diplomatija mašininis žaidėjas žaidžia labai daug žaidimų, kad pamatytų, kokie rezultatai gali būti iš esmės.

Taip pat galbūt norėtume palyginti AI su mažiau nei šešiais kitais žaidėjais, kad pamatytume, kaip tai pakeis dalykus. Taip pat galėtume įtraukti dirbtinį intelektą į rinkinį kaip daugiau nei vieną žaidėją. Pavyzdžiui, tarkime, kad turėjome penkis žmones ir du AI grotuvus (AI grotuvus nustatysime kaip atskirus atvejus, kad skaičiavimo požiūriu jie nebūtų vienas ir tas pats). O kaip keturi žmonės ir trys AI? Ką apie šešis AI ir vieną žmogų?

Kitas būdas būtų supriešinti AI tik su DI. Tokiu būdu galėtume greitai įveikti daugybę žaidimų. Septynių skirtingų AI egzempliorių sąranka. Kiekvienas yra atskiras žaidėjas. Kadangi visa tai yra kompiuteryje, galime juos paleisti be pertraukos ir sukurti tūkstančius ar milijonus žaidimų egzempliorių.

Žinoma, DI ir AI problema yra ta, kad pašalinome žaidėjus iš žmonių. Mes nežinome, kad dirbtinis intelektas prieš AI atspindi žaidėjų veiksmus. Bet kokiu atveju galima pastebėti įdomių rezultatų.

Anksčiau sakiau, kad vienas tokio AI apribojimų yra tas, kad jis paprastai yra siaurai sutelktas. Negalime iš karto žinoti, kad AI, kuris žaidžia Diplomatija bus taikomas realaus pasaulio diplomatijoje. Be to, galbūt AI, kuris gerai tinka Diplomatija nepasiseks kituose į diplomatiją orientuotuose internetiniuose žaidimuose. Gali būti, kad jis nesibaigs, o bus savotiškas vieno triuko ponis.

Kaip teigiama tyrime apie formulę DipGame:

• „Mes teigiame, kad tikrose derybose svarbu išmanyti sritį ir mokėti argumentuoti. Pavyzdžiui, negalima tikėtis pelningų sandorių antikvariniame versle neturėdamas antikvarinių žinių, kad ir kaip gerai derėtųsi. Be to, geras derybininkas taip pat turėtų mokėti pagrįsti savo oponentų norus. Pavyzdžiui, geras automobilių pardavėjas bandytų išsiaiškinti, kokio tipo automobilis geriausiai atitinka jo kliento poreikius, kad padidintų galimybes sudaryti pelningą sandorį“ (kaip anksčiau cituota: Angela Fabregues ir Carles Sierra, „DipGame: A Challenging Negotiation“ Bandomoji vieta“, Dirbtinio intelekto inžinerinės programos, 2011 m. spalio mėn.).

Kai įvaldė AI Diplomatija įvyksta, visų žvilgsniai turėtų būti nukreipti į dirbtinio intelekto naudojimą ar pakartotinį naudojimą sprendžiant kitus su diplomatija susijusius žaidimus. Be to, reikėtų išnagrinėti pastangas naudoti AI realiose diplomatijos srityse.

Dabar baigsiu kai kuriais etiniais AI sumetimais.

Pirma, buvo ramu pastebėti, kad Meta AI komanda pripažino, kad jų darbas apima AI etikos pasekmes. Kyla blaivių klausimų. Ar dera „apkvailinti“ žmones žaisti prieš dirbtinį intelektą, jiems nesakant, kad jie tai daro? Ar natūralioje AI sukurtoje kalboje netyčia gali būti įžeidžiančių žodžių, kurie perduodami žaidėjams? Ir taip toliau.

Įsitikinkite, kad pažiūrėkite, kaip jie susidorojo su aktualiais etinio AI susirūpinimą keliančiais klausimais savo straipsnio papildomoje medžiagoje (SM): „Šio tyrimo etinius aspektus aptariame toliau SM, įskaitant duomenų naudojimo privatumo aspektus (SM, §). A.1), galima žala, atsirandanti dėl toksiškos ar šališkos kalbos generavimo (SM, §A.2), netinkamo į tikslą orientuoto dialogo technologijos naudojimo būdai (SM, §A.3) ir AI agento atskleidimo žaidėjams (SM). , §A.4)“ (ten pat).

Mums reikia daugiau AI kūrėjų ir jų vadovų, kad jie žinotų etišką AI ir imtųsi atsargių veiksmų, kad dirbdami AI būtų atsargūs ir protingi. Be to, jie turi įsitikinti, kad jie aiškiai nurodo, kokių etiškų dirbtinio intelekto veiksmų ėmėsi ir kokias prielaidas padarė.

Paskutinis mano elementas šiuo metu kelia bendrą nerimą antropomorfizuojantis Į.

Jei patobulinsime dirbtinį intelektą taip, kad jis atrodytų labai diplomatiškas, ar tai suklaidins žmones prielaidomis ar tikėjimu, kad AI visais atžvilgiais prilygsta žmonėms?

Tai lengvas slidus šlaitas. Nepatogus dirbtinis intelektas, su kuriuo bendraujate, suteikia signalą, kad greičiausiai tai yra DI, o ne žmogus. Sklandžiai pasikartojantis dirbtinis intelektas, atrodantis kaip aukščiausios diplomatinės pozicijos, greičiausiai privers žmones nedvejodami pakliūti į spąstus, kad AI yra žmogus, taip pat tarsi jis turėtų sveiką protą ir visus žmonių supratimo gebėjimus.

Be to, supraskite, kaip tai gali būti išnaudota per a Diplomatija žaidimas. Žmogus, kuris mato beveik poetiškus pranešimus iš kito žaidėjo, gali suprasti, kad tai turi būti AI (dabar toli už ankstesnio gremėzdiško AI), o kiti žmonės nesugebėtų taip aiškiai rašyti pranešimų. Žinoma, jei dirbtinis intelektas ir toliau koreguojasi, jis gali pakeisti poetinę formuluotę, kad labiau atspindėtų glaustą ir niūrią faktinių žaidėjų formuluotę. Savo ruožtu žmonės žaidėjai gali pereiti prie poetinės kalbos, bandydami atskleisti, kad jie yra žmonės. Idėja yra ta, kad galbūt kiti žaidėjai bus pasirengę dirbti su kitais žmonėmis dėl AI.

Kitas dalykas, kurį žinote, žaidimas pradeda virsti bandymu išsiaiškinti, kas yra žmogus, o kas yra AI. Jei galite išsiaiškinti, kuris yra kuris, galbūt tai suteiks jums pranašumo. Kita vertus, tai gali būti ir ne. AI gali būti toks pat išmanus žaidime kaip ir žmonės. Jūsų spėliojimas, kuris yra kuris, jums neduoda daug naudos. Tai gali trukdyti koncentruotis tik į bandymą laimėti žaidimą, neatsižvelgiant į tai, ar po ranka yra dirbtinio intelekto žaidėjų, ar žmonių.

Tyrėjai, norintys atlikti kai kuriuos žmogiškųjų faktorių tyrimus, susijusius su tokiomis mintis lenkančiomis koncepcijomis, galbūt galėtumėte apsvarstyti galimybę naudoti dirbtinio intelekto infuziją. Diplomatija žaidėjas ir ieškokite norinčių Diplomatija lygos turnyrai, skirti ištirti žmogaus ir AI identifikavimo ir elgesio prisitaikymo strategijas.

Užbaikime tai.

Markas Tvenas apie diplomatiją pasakė taip: „Principas duoti ir imti yra diplomatijos principas – duok vieną ir imk dešimt“. Ar tai sąžiningas žmonių veikimo įvertinimas, ar tai tik humoras, ciniškai, bet neteisingai įvertinantis žmogaus būklę?

Apsvarstykite šiuos papildomus klausimus:

• Jei į dirbtinį intelektą galime įtraukti diplomatiją, ar tai išmokys mus apie tai, kaip žmonės sukuria diplomatiją ir galbūt leis žmonijai patobulinti diplomatijos meną?
• Ar sukursime dirbtinio intelekto melą, kuris atrodo jautrus, kai jis nėra nieko panašaus, ir viskas dėl to, kad skaičiavimo būdu ištraukėme triušį iš kepurės, kad parodytų į žmones panašią diplomatiją?
• Ar galima rasti pusiausvyrą tarp to, kad dirbtinis intelektas persmelktas diplomatijos, kad tuo tarpu mes būtume įspėjami, kad tai vis dar tik kasdienis DI ir todėl neturėtume jo antropomorfizuoti?

Sakoma, kad diplomatija yra menas leisti kitam turėti savo kelią. Įsitikinkite, kad mūsų būdas yra žmogaus, o ne AI būdas. Nors ir diplomatiškai, dabar, kai gerai pagalvoju ir tuo atveju, jei atsidursime su AI viršininkais, galbūt turėtume leisti, kad mūsų būdas būtų AI būdas, kuris, tikiuosi, susilieja su tinkamu žmogaus būdu.

Tiesiog bandau panaudoti menką diplomatiją.