Dirbtinio intelekto etika remiasi Aristoteliu, kad ištirtų, ar žmonės gali nuspręsti pavergti AI, kai atsiranda visiškai autonominės sistemos

Draugas ar priešas.

Žuvis arba višta.

Asmuo ar daiktas.

Visos šios plačiai paplitusios galvosūkiai rodo, kad kartais susiduriame su dviprasmiška situacija ir turime pasirinkti vieną ar kitą aspektą. Gyvenimas gali priversti mus kovoti su aplinkybėmis, kurias sudaro du vienas kitą paneigiantys variantai. Skoningesne kalba galite teigti, kad išskyrimo dvejetainė lygtis reikalauja, kad mes ryžtingai eitume vienu aiškiu keliu, o ne kitu.

Konkrečiai sutelkkime dėmesį į asmens ar daikto dichotomiją.

Karštas klausimas apie asmenį ar daiktą iškyla vėl ir vėl dėl dirbtinio intelekto (DI).

Norėdami paaiškinti, šiandieninis AI yra absoliučiai ne asmuo ir neturi panašumo į jausmingumą, nepaisant plačių akių ir visiškai didelių antraščių, kurias galite matyti naujienose ir socialinėje žiniasklaidoje. Taigi galite būti tikri, kad šiuo metu į klausimą, ar AI yra asmuo, ar daiktas, galima lengvai atsakyti. Perskaitykite mano lūpas, tikrame Hobsono pasirinkime tarp asmens ar daikto, AI šiuo metu yra dalykas.

Tai pasakius, galime žvelgti į ateitį ir stebėtis, kas gali nutikti, jei sugebėsime pasiekti jautrią AI formą.

Kai kurie pagrįsti kritikai (taip pat ir kaustiniai skeptikai) teigia, kad mūsų viščiukus galbūt skaičiuojame dar gerokai anksčiau, nei jie išsirita, šiais laikais diskutuodami apie jautraus AI pasekmes. Išreikštas susirūpinimas yra tas, kad pati diskusija reiškia, kad turime būti tokio AI viršūnėje. Visa visuomenė gali būti suklaidinta manydama, kad rytoj ar poryt bus staigus ir šokiruojantis apreiškimas, kad mes iš tikrųjų pasiekėme jautrų AI (tai kartais vadinama DI singuliarumu arba intelekto sprogimu, žr. mano analizė adresu nuoroda čia). Tuo tarpu mes nežinome, kada toks AI atsiras, jei kada nors, ir, be abejo, mums, regis, nereikia dairytis už kiekvieno kampo ir bauginančiai žiūrėti į tai, kad kitame AI visiškai netikėtai iššoks ant mūsų. truputį.

Kita diskusijų pusė atkreipia dėmesį į tai, kad neturėtume leisti galvų giliai į smėlį. Matote, jei atvirai nediskutuojame ir nesvarstome apie galimybes, susijusias su jautriu AI, darome žmonijai tariamai didelę meškos paslaugą. Nebūsime pasiruošę valdyti jautrų AI, kai tai atsiras. Be to, ir galbūt dar stipriau pasakyta, numatydami jausmingą AI galime šiek tiek paimti į savo rankas ir formuoti kryptį bei pobūdį, kaip toks AI bus ir iš ko jis bus sudarytas (ne visi sutinka su šiuo pastaruoju klausimu). , ty kai kurie sako, kad toks AI turės visiškai savo „protą“ ir mes negalėsime jo formuoti ar sutvirtinti, nes AI galės savarankiškai mąstyti ir nustatyti priemones atkakliam egzistavimui).

Dirbtinio intelekto etika linkusi pritarti požiūriui, kad išmintinga būtų dabar atskleisti šiuos sudėtingus ir ginčytinus jausmingo DI dalykus, o ne laukti, kol nebeliks pasirinkimo arba būsime priblokšti tokio AI pasiekimo. Skaitytojai puikiai žino, kad aš plačiai nagrinėjau dirbtinio intelekto etikos ir etinio AI temas, įskaitant daugybę sudėtingų klausimų, tokių kaip AI juridinis asmuo, AI sulaikymas, AI pašalinimas, AI algoritminė monokultūra, AI etikos plovimas, dvejopo naudojimo DI vadinamieji Doctor Evil projektai, DI, slepiantis visuomenės galios dinamiką, patikimas AI, AI auditas ir pan. (žr. mano stulpelius, kuriuose aptariamos šios svarbios temos nuoroda čia).

Aš užduodu jums sudėtingą klausimą.

Ateityje, darant prielaidą, kad bet kokiu būdu susidursime su jautriu AI, ar mes visi tą jaučiantį AI suprasime kaip asmenį ar kaip daiktą?

Prieš pradėdami gilintis į šį visiškai provokuojantį klausimą, leiskite man pasakyti kai ką apie „jaučiančio dirbtinio intelekto“ frazę, kad visi atsidurtume tame pačiame puslapyje. Yra daug nerimo dėl jausmo ir sąmonės prasmės. Ekspertai gali nesutikti, ką tie žodžiai sudaro. Be to, kai kas nors kalba apie „AI“, jūs neturite paruoštų priemonių suprasti, ką jie turi omenyje per se. Jau čia pabrėžiau, kad šiandieninis AI nėra jautrus. Jei galiausiai pasieksime būsimą DI, kuris yra jautrus, tikriausiai taip pat vadinsime jį „AI“. Reikalas tas, kad šie ginčytini dalykai šiuo metu gali būti gana painūs dėl to, ar „AI“ frazės ištarimas yra susijęs su šių dienų nejautriu DI, ar kada nors galbūt jaučiu AI.

Tie, kurie diskutuoja apie dirbtinį intelektą, gali kalbėti vienas pro šalį ir nesuvokti, kad vienas apibūdina obuolius, o kitas – apie apelsinus.

Norint apeiti šią painiavą, yra pakoreguota AI formuluotė, kurią daugelis naudoja siekdami viltingo aiškumo. Šiuo metu mes linkę vadinti dirbtinį bendrąjį intelektą (AGI) kaip AI tipą, galintį atlikti visiškai intelektualias pastangas. Šia prasme šlykštus frazės „AI“ vartojimas paliekamas interpretuoti kaip mažesnę AI versiją, kuri, kai kurių nuomone, yra siauras AI, arba denotaciniu požiūriu yra dviprasmiškas ir jūs nežinote, ar nuoroda yra į ne. - jautrus AI arba galbūt jautrus AI.

Pateiksiu tam papildomą posūkį.

Atsižvelgiant į pateiktą jausmo apibrėžimą, galite įsitraukti į karštą diskursą dėl to, ar AGI bus jautrus, ar ne. Kai kurie tvirtina, kad taip, žinoma, AGI dėl savo prigimties turi būti jautrus. Kiti teigia, kad galite turėti AGI, kuris nėra jautrus, todėl jausmingumas yra kita savybė, kuri nėra būtina norint pasiekti AGI. Aš įvairiai nagrinėjau šias diskusijas savo skiltyse ir čia neperdėsiu.

Šiuo metu, prašau, manykite, kad nuo šiol šioje diskusijoje kalbėdamas apie AI, ketinu manyti, kad turiu omenyje AGI.

Štai atsisiuntimas apie tai. Mes dar neturime AGI ir, trumpai tariant, mandagiai sutiksime, kad AGI yra toje pačioje stovykloje kaip ir jautrus AI. Jei per visą diskusiją vartočiau tik „AGI“, ši frazė gali blaškyti dėmesį, nes dar nedaugelis yra įpratę „AGI“ laikyti pravarde, ir greičiausiai jie būtų šiek tiek susierzinę pakartotinai pamatę šią santykinai naujesnę frazę. Dabar, jei vietoj to turėčiau nuolat kalbėti apie „juntamą AI“, tai taip pat gali trukdyti tiems, kurie kovoja dėl to, ar AGI ir jautrus AI yra tas pats, ar skiriasi vienas nuo kito.

Kad išvengtumėte šios netvarkos, manykite, kad kalbu apie AI yra tas pats, kas sakydamas AGI ar net jaučiamą AI, ir bent jau žinokite, kad aš nekalbu apie šiandieninį nejautinį ne AGI AI, kai man kyla daug svarstymų apie tai. AI, kurio intelektas panašus į žmogų. Retkarčiais naudosiu AGI bendravardį, norėdamas jums retkarčiais priminti, kad nagrinėju AI tipą, kurio dar neturime, ypač šio asmens ar daikto mįslės tyrinėjimo pradžioje.

Tai buvo naudingas smulkiu šriftu parašytas pripažinimas, o dabar grįžtu prie svarbiausio dalyko.

Leiskite dabar jūsų paklausti, ar AGI yra asmuo, ar daiktas.

Apsvarstykite šiuos du klausimus:

• Ar AGI yra asmuo?
• Ar AGI yra dalykas?

Toliau kartokime kiekvieną klausimą ir atitinkamai atsakykite į klausimus taip arba ne, kaip dera tariamai dvilypiam pasirinkimui.

Pradėkite nuo šios numatomos galimybės:

• Ar AGI yra asmuo? Atsakymas: Taip.
• Ar AGI yra dalykas? Atsakymas: Ne.

Apsvarstykite tai. Jei AGI iš tikrųjų suprantama kaip asmuo, o ne kaip daiktas, galime beveik neabejotinai sutikti, kad AGI turėtume traktuoti taip, lyg jis būtų panašus į asmenį. Atrodo, kad nėra pakankamai tikro argumento dėl nesuteikimo AGI juridinio asmens statuso formos. Tai būtų visiškai tas pats, kas žmogaus juridinis asmuo, arba mes galime nuspręsti sugalvoti į žmogų orientuoto juridinio asmens variantą, kuris būtų protingiau taikomas AGI. Byla baigta.

Tai buvo lengvas dalykas.

Įsivaizduokite, kad mes paskelbėme tai:

• Ar AGI yra asmuo? Atsakymas: Ne.
• Ar AGI yra dalykas? Atsakymas: Taip.

Šiomis aplinkybėmis sprendimas yra akivaizdžiai nesudėtingas, nes sakome, kad AGI yra daiktas, o ne būti asmenybe. Atrodo, kad būtų bendras sutarimas, kad mes tikrai nesuteiksime AGI juridinio asmens statuso, nes tai nėra asmuo. Iš esmės AGI greičiausiai ir pagrįstai pateks į mūsų bendrą rubriką apie tai, kaip mes teisėtai elgiamės su „daiktais“ mūsų visuomenėje.

Du žemyn, dar dvi galimybės eiti.

Įsivaizduokite tai:

• Ar AGI yra asmuo? Atsakymas: Taip.
• Ar AGI yra dalykas? Atsakymas: Taip.

Oi, tai atrodo keista, nes turime du „Taip“ atsakymus. Varginantis. Mes teigiame, kad AGI yra ir asmuo, ir kartu daiktas. Tačiau atrodo, kad tai prieštarauja mūsų paskelbtai dichotomijai. Teoriškai, pagal dichotomijos apribojimus, kažkas turi būti arba asmuo, arba daiktas. Teigiama, kad tie du kibirai arba kategorijos yra vienas kitą nesuderinami. Teigdami, kad AGI yra ir viena, ir kita, mes pažeidžiame sistemą ir sulaužome vienas kitą paneigiantį susitarimą.

Paskutinė mūsų galimybė atrodo tokia:

• Ar AGI yra asmuo? Atsakymas: Ne.
• Ar AGI yra dalykas? Atsakymas: Ne.

Taip, tai taip pat blogai dėl mūsų bandymų klasifikuoti AGI kaip asmenį arba daiktą. Mes sakome, kad AGI nėra asmuo, o tai tikriausiai reikštų, kad tai turi būti daiktas (vienintelis kitas mūsų pasirinkimas šioje dichotomijoje). Bet mes taip pat pareiškėme, kad AGI nėra dalykas. Tačiau jei AGI nėra daiktas, pagal logiką turėtume teigti, kad AGI yra asmuo. Mes einame ratu. Paradoksas, be abejo.

Šiose dviejose paskutinėse galimybėse AGI buvo arba (1) ir asmuo, ir daiktas, arba (2) nei asmuo, nei daiktas. Galite įžūliai pasakyti, kad tie du teiginiai apie AGI yra šiek tiek panašūs į klasikinę mįslę to, kas nėra nei žuvis, nei višta, jei žinote, ką aš turiu galvoje.

Ką daryti?

Ketinu pasiūlyti dažnai ginčytiną šios AGI klasifikacijos dilemos sprendimą, tačiau turėtumėte iš anksto įspėti, kad tai gali būti nerimą kelianti erzina pamatyti ar girdėti. Prašome atitinkamai pasiruošti.

Tyrimo darbe, kuriame buvo sprendžiama ši problema, buvo teigiama: „Vienas iš šios problemos sprendimo būdų yra suformuluoti trečią terminą, kuris nėra nei vienas, nei kitas dalykas, arba tam tikras vieno ir kito derinys ar sintezė“ (Davidas Gunkelis, Šiaurės Ilinojaus universitete Kodėl robotai neturėtų būti vergai, 2022). Tada dokumente pateikiamas šis papildomas punktas: „Vienas iš galimų, jei net nenuostabu, išskirtinio asmens / daikto dichotomijos sprendimas yra vergovė“ (už tą patį popierių).

Kaip papildoma aplinkybė, 2010 m. buvo paskelbtas straipsnis „Robotai turėtų būti vergai“, kuris tapo pagrindiniu tokio pobūdžio svarstymo pagrindu, kuriame teigiama: „Mano tezė yra ta, kad robotai turėtų būti pastatyti, parduodami ir teisėtai laikomi vergais, o ne bendraamžiais“ (Joanna Bryson straipsnyje). Norėdami pabandyti išsiaiškinti temą nenaudojant tokių griežtų ir žiaurių formuluočių, straipsnyje toliau buvo teigiama: „Noriu pasakyti: „Robotai turėtų būti jūsų tarnai“ (Brysono straipsnyje).

Daugelis tyrinėtojų ir autorių apėmė šią temą.

Pagalvokite apie daugybę mokslinės fantastikos pasakojimų, kuriuose demonstruojama, kaip žmonija pavergia dirbtinio intelekto robotus. Kai kurie kalba apie robotus vergus, dirbtinius tarnus, dirbtinio intelekto vergiją ir panašiai. Įdomu tai, kad, kad ir kaip šiurkščiai atrodytų frazė „vergai robotai“, kai kurie nerimauja, kad jei vadinsime „tarnais robotais“, išvengsime tikrovės, kaip galima elgtis su tokiomis AI autonominėmis sistemomis (žodį pakeičiant „vergais robotais“). tarnai“ sakoma, kad tai yra ketinimų sušvelninimas ir gudrybė apeiti blaivias pasekmes). Vėliau Brysonas 2015 m. dienoraščio įraše pareiškė, kad „dabar suprantu, kad negalima vartoti termino „vergas“, nesiremiant jo žmonijos istorija“.

Tiems, kurie nori nuodugniai išnagrinėti šią AGI įpainiojančią temą, kartais jie pateikia realaus pasaulio istorinių pavyzdžių, iš kurių galime pasisemti įžvalgų. Žinoma, mes neturime jokio ankstesnio AGI, kuris parodytų, kaip žmonija sprendė šį klausimą. Argumentas yra tas, kad vis dėlto galime turėti naudingų istorinių ženklų, kuriuos verta ištirti, įskaitant tai, kaip žmonės elgėsi su kitais žmonėmis.

Pavyzdžiui, 2013 m. išleistoje knygoje autorius teigia: „Dirbtinių, protingų tarnų pažadą ir pavojų pirmą kartą netiesiogiai išdėstė daugiau nei prieš 2,000 metų Aristotelis“ (Knygas LaGrandeur, Androidai ir intelektualūs tinklai ankstyvosios moderniosios literatūros ir kultūros srityse). Idėja yra ta, kad galime pasikliauti Aristoteliu ir pamatyti, ar yra įžvalgų, kaip žmonija gali gydyti AGI.

Esu tikras, kad žinote istorijos studijų svarbą, kurią puikiai pabrėžia garsieji George'o Santayana žodžiai: „Tie, kurie negali prisiminti praeities, yra pasmerkti ją kartoti“ Proto gyvenimas, 1905).

Pagarba Oksfordo universiteto Etikos ir AI institutui

Neseniai paskelbtame ir gana gerbiamo pristatymo metu buvo atidžiai išnagrinėtas dirbtinio intelekto etikos klausimas, kaupiant įžvalgas iš Aristotelio darbų ir gyvenimo. Inauguracinėje metinėje Oksfordo universiteto paskaitoje Etikos ir dirbtinio intelekto institutas, profesorius Josiah Oberis iš Stanfordo universiteto nuodugniai aptarė šią temą savo pranešime „Ethics in AI with Aristotle“, kuris neseniai įvyko 16 m. birželio 2022 d.

Šalutinė pastaba, kaip Stanfordo bendradarbis ir pasaulinis dirbtinio intelekto etikos ir teisės ekspertas, džiaugiausi, kad Stanfordo atstovas Josiah Oberis buvo pasirinktas inauguraciniu pranešėju. Puikus pasirinkimas ir puikus pokalbis.

Štai santrauka, kuri buvo pateikta jo įtraukiam pokalbiui: „Analitinė filosofija ir spekuliacinė fantastika šiuo metu yra pagrindiniai mūsų intelektualiniai ištekliai, skirti rimtai mąstyti apie AI etiką. Siūlau pridėti trečią: senovės socialinę ir filosofinę istoriją. Viduje Politika, Aristotelis plėtoja liūdnai pagarsėjusią doktriną: kai kurie žmonės yra „iš prigimties“ vergai – protingi, bet kenčiantys nuo psichologinio defekto, dėl kurio jie nesugeba samprotauti apie savo gerovę. Iš esmės jie turėtų būti traktuojami kaip „gyvinami įrankiai“, o ne kaip galai. Jų darbui turi vadovauti ir jis turi būti naudojamas kitų labui. Atstumianti Aristotelio doktrina buvo panaudota piktiems tikslams, pavyzdžiui, priešakinėje Amerikoje. Tačiau tai naudinga AI etikai, nes senovės vergija buvo ikimodernus vienos AI versijos prototipas. Senovės Graikijos visuomenėje buvo visur pavergti asmenys – darbininkai, prostitutės, bankininkai, vyriausybės biurokratai – tačiau jie nebuvo lengvai atskirti nuo laisvųjų. Visur, kartu su prielaida, kad vergovė yra praktinė būtinybė, sukėlė daugybę etinių galvosūkių ir keblumų: kuo iš tikrųjų vergai skiriasi nuo „mes“? Kaip galime juos atskirti nuo mūsų pačių? Ar jie turi teises? Kas yra netinkamas elgesys? Ar mano instrumentas gali būti mano draugas? Kokios yra gamybos pasekmės? Ilga graikų filosofinės ir institucinės kovos su šiais ir kitais klausimais istorija papildo šiuolaikinių etikų interpretacinį repertuarą, kuris susiduria su ateitimi, kurioje protinga mašina gali būti laikoma „natūralia verga“ (kaip teigia Oksfordo universitetas). AI etikos institutas Interneto svetainė).

Daugiau informacijos apie pristatymą ir prieigą prie pokalbio vaizdo įrašo žr nuoroda čia.

Pristatymo moderatorius buvo profesorius John Tasioulas, inauguracinis direktorius Etikos ir dirbtinio intelekto institutas, ir Oksfordo universiteto Filosofijos fakulteto etikos ir teisės filosofijos profesorius. Anksčiau jis buvo įžanginis politikos, filosofijos ir teisės katedros pirmininkas bei Yeoh Tiong Lay politikos, filosofijos ir teisės centro direktorius Dickson Poon teisės mokykloje, Londono Kings College.

Labai rekomenduoju visiems, besidomintiems dirbtinio intelekto etika, neatsilikti nuo vykstančio darbo ir pakviestų Oksfordo universiteto pokalbių. Etikos ir dirbtinio intelekto institutas, Žr. nuoroda čia ir / arba nuoroda čia daugiau informacijos.

Kaip pagrindą, čia nurodyta instituto misija ir dėmesys: „AI etikos institutas suburs pasaulyje pirmaujančius filosofus ir kitus humanitarinių mokslų ekspertus su techniniais AI kūrėjais ir naudotojais akademinėje, verslo ir vyriausybės srityje. AI etika ir valdymas yra išskirtinai gyvybinga Oksfordo tyrimų sritis, o institutas yra galimybė žengti drąsų šuolį į priekį iš šios platformos. Kiekviena diena atneša vis daugiau AI keliamų etinių iššūkių pavyzdžių; nuo veido atpažinimo iki rinkėjų profiliavimo, smegenų mašinų sąsajų iki ginkluotų dronų ir nuolatinio diskurso apie tai, kaip AI paveiks užimtumą pasauliniu mastu. Tai yra neatidėliotinas ir svarbus darbas, kurį ketiname reklamuoti tarptautiniu mastu, taip pat įtraukti į savo mokslinius tyrimus ir mokymą čia, Oksforde“ (pateikiama iš oficialios svetainės).

Aristotelio pamokų iškėlimas į pirmą planą

Senovės Graikija atvirai priėmė ir pritarė pavergimo praktikai. Pavyzdžiui, pranešama, kad Atėnai 5 m^th ir 6^th amžiais prieš Kristų buvo vienas didžiausių pavergimo variantų, kai buvo pavergta nuo 60,000 80,000 iki XNUMX XNUMX žmonių. Jei skaitėte kurią nors iš daugelio to laikmečio graikų istorijų ir sceninių pjesių, šis reikalas minimas gausiai.

Per savo gyvenimą Aristotelis buvo visiškai pasinėręs į visuomeninius ir kultūrinius aspektus, susijusius su pavergimu, ir daug rašė šia tema. Šiandien galime perskaityti jo žodžius ir siekti suprasti, kaip ir kodėl jo požiūris šiuo klausimu. Tai gali būti labai daug pasakanti.

Jums gali kilti klausimas, kodėl Aristotelis būtų ypač svarbus šaltinis, kurį reikia apsvarstyti šia tema. Iškyla bent dvi pagrindinės priežastys:

1) Puikus Mąstytojas. Aristotelis neabejotinai vertinamas kaip vienas didžiausių visų laikų mąstytojų, tarnaujantis kaip didingas ir giliai tyrinėjantis filosofas, taip pat laikomas etiku, kuris nustatė daugybę esminių etikos akmenų. Kai kurie pasirinko jį patepti logikos tėvu, retorikos tėvu, realizmo tėvu ir kt., ir pripažįsta jo įtaką įvairiose srityse ir disciplinose.

2) Išgyventa patirtis. Aristotelis gyveno tuo metu, kai Senovės Graikija buvo apimta pavergimo. Taigi jo įžvalgos būtų ne tik apie abstrakčias nuostatas, bet, matyt, apimtų ir jo paties kasdienę patirtį, kuri yra neatsiejama to laikmečio kultūra ir visuomenės papročiai.

Taigi, turime stulbinamą žmogaus, kuris buvo puikus mąstytojas ir turėjo akivaizdžiai išgyventos patirties dominančia tema, derinį. Be to, jis užsirašė savo mintis. Tai gana svarbu šiandien, mūsų tikslams. Visi jo raštai, kartu su kitais raštais, kuriuose aprašomos jo kalbos ir bendravimas, šiandien suteikia mums daug medžiagos apžiūrai ir analizei.

Norėčiau pakalbėti apie trumpai susijusią liestinę ir dar kai ką paminėti apie bendrą sampratą, kuria grindžiama išgyventa patirtis. Trumpam atidėkite Senovės Graikijos diskusiją į šalį, nes greitai pažvelgsime į svarbiausius išgyventos patirties aspektus.

Tarkime, šiandien turėjau du žmones, kuriems norėjau paklausti įvairių klausimų apie automobilius.

Vienas iš jų niekada nėra vairavęs automobilio. Šis asmuo nemoka vairuoti. Šis asmuo niekada nėra sėdėjęs prie automobilio vairo. Įprasti ir nepaprastai įprasti vairavimo valdikliai šiam žmogui yra šiek tiek paslaptingi. Kuris pedalas ką veikia? Kaip priversti tai sustabdyti? Kaip tai pavyksta? Šis nevairuojantis asmuo yra visiškai sutrikęs dėl tokių dalykų.

Kitas asmuo yra kasdienis vairuotojas. Jie kasdien važiuoja į darbą. Jie susiduria su sustojimo ir eismo eismu. Jie vairuoja daug metų. Tai apima viską nuo ramių gatvių iki šurmuliuojančių greitkelių ir pakelių.

Jei paprašyčiau kiekvieno iš jų papasakoti apie tai, ką reiškia vairuoti automobilį, ar galite atspėti, kokių atsakymų galėčiau sulaukti?

Tas, kuris niekada nevairavo automobilio, privalo spėlioti. Galbūt žmogus romantizuoja vairavimą. Vairavimas jiems yra kiek abstraktus. Viskas, ką jie gali padaryti, tai pasiūlyti, kad vairavimas būtų nerūpestingas ir jūs galite priversti automobilį važiuoti bet kuria kryptimi.

Galėčiau lažintis, kad patyręs vairuotojas pasakos kitokią istoriją. Jie gali paminėti gebėjimo vairuoti privalumus, šiek tiek atkartojant automobilio nevairavusio žmogaus jausmus. Tikėtina, kad patyręs vairuotojas pridės daug daugiau. Vairavimas kartais kaitina nervus. Jūs nešate didelę atsakomybę. Vairavimas yra kupinas rimtų rūpesčių ir galimų gyvybės ar mirties pasekmių.

Esmė ta, kad kai galite susisiekti su asmeniu, patyrusiu daug patirties, yra tikimybė, kad galite gauti tikroviškesnę pasaulio perspektyvą, atsižvelgiant į tyrimo kryptį. Nėra tokio rezultato garantijos. Galima įsivaizduoti, kad nevairuojantis žmogus tikriausiai žino, ką apie vairavimą žino patyręs vairuotojas, nors tikriausiai to nesitikėtume ir vis tiek gailimės, kad negauname viso kaušelio.

Grįžtant prie mūsų diskusijos apie Aristotelį, per jo ir kitų raštus apie jį, galime apžvelgti jo išgyventą patirtį šioje temoje ar tyrimo centre. Dar daugiau yra tai, kad jis taip pat buvo didžiulių proporcijų mąstytojas, todėl turėtume tikėtis, kad gausime pilną statinę įmantrių svarstymų.

Atminkite, kad mums nebūtinai reikia tikėti jo žodžiais, kad turėtume atidžiai stebėti jo konkrečius šališkus dalykus. Jo pasinėrimas į tą erą gali suklaidinti jį bandant atsiriboti nuo nagrinėjamų dalykų, nesugebėdamas tinkamai pasiūlyti aistringos ir nešališkos nuomonės. Net patys atkakliausi logikai gali iškreipti logiką, bandydami patenkinti savo polinkius ir išgyventą patirtį.

Dabar pereikime prie įžanginės kalbos ir pažiūrėkime, kokias pamokas Aristotelis mums gali duoti šiandien.

Iškart buvo atkreiptas žiūrovų dėmesys į esminį dalyką, susijusį su išgyventa patirtimi. AGI naudojimo atveju, kadangi šiandien AGI neturime, mums sunku analizuoti, koks bus AGI ir kaip elgsimės su AGI. Mums trūksta išgyventos patirties, susijusios su AGI. Kaip ypač minėjo profesorius Oberis, kai pasieksime AGI, galime atsidurti sužeistame pasaulyje.

Tai dažnai teigiama, nes dirbtinis intelektas yra egzistencinė rizika, kurią daug kartų aprašiau savo stulpeliuose. Turėtumėte gyventi oloje, kad nesuvoktumėte siaubingų nuogąstavimų ir įtarimų, kad mes sukursime arba sukursime AGI, kuris pasmerks visą žmoniją. Iš tiesų, nors aš čia sutelkiu dėmesį į AI pavergimą, daugelis manytų, kad tai yra atvirkštinė ar aukštyn kojom pasekmių tema, palyginti su galimybe, kad AGI pasirinks pavergti žmoniją. Išsiaiškinkite savo prioritetus, ragintų kai kurie šmaikštūs žinovai.

Nepaisant daugybės šaukimų apie AI kaip egzistencinę riziką, tikrai galime pamąstyti apie kitą naudingą AI monetos pusę. Galbūt AGI sugebės išspręsti kitaip, atrodytų, neišsprendžiamas problemas, su kuriomis susiduria žmonija. AGI gali atrasti vaistą nuo vėžio. AGI galėtų išsiaiškinti, kaip išspręsti pasaulio badą. Dangus yra riba, kaip sakoma. Tai yra laimingo veido scenarijus apie AGI.

Optimistas pasakytų, kad nuostabu įsivaizduoti, kaip AGI bus palaima žmonijai, o pesimistas linkęs įspėti, kad neigiama pusė atrodo daug blogesnė už spėliojamus pranašumus. AGI, padedanti žmonijai, yra puiku. AGI, nusprendusi nužudyti visus žmones arba pavergti juos, yra aiškiai žemę drebinanti visuomenę griaunanti egzistencinė rizika, kuri nusipelno intensyvaus ir gyvybę gelbstinčio atidaus dėmesio.

Gerai, grįžkime prie reikalo esmės, mes neturime jokios gyvos patirties, susijusios su AGI. Nebent galite sukurti laiko mašiną ir pereiti į ateitį, kai (jei) AGI egzistuoja, o tada sugrįžti ir papasakoti, ką radote, mums šiuo metu nesiseka apie AGI žvelgiant iš žmogiškosios patirties perspektyvos.

Kitas būdas panaudoti išgyventą patirtį yra tai, kad Aristotelis gyveno tuo metu, kai vyko pavergimas. Ir štai spyris. Tie, kurie buvo pavergti, tam tikrais atžvilgiais buvo vaizduojami kaip tam tikros rūšies mašinos, tarsi žmogaus ir daikto derinys. Aristotelis buvo žinomas dėl to, kad pavergtuosius vadino nuosavybe, kuri kvėpuoja.

Spėju, kad jus gali sugluminti tai, kad Aristotelis, logikos ir etikos milžinas, galėjo ne tik pripažinti pavergimą, bet ir išoriškai ir garsiai gynė šią praktiką. Jis asmeniškai taip pat pasinaudojo pavergimu. Tai tiesiog atrodo nesuvokiama. Be abejo, visu savo didžiuliu intelektu ir išmintimi jis būtų pasmerkęs šią praktiką.

Drįstu teigti, kad tai išryškina kartais problematiškus išminties grynuolių atėmimo iš žmogaus, kuriam (tarkime) našta dėl išgyventos patirties, aspektus. Tai kaip žuvis, kuri gyvena vandeningoje dubenyje. Viskas, ką jie gali suvokti, yra aplink juos esantis vanduo. Bandymas įsivaizduoti ką nors už jų vandens pagrindo pasaulio ribų yra didžiulis iššūkis. Taip pat Aristotelis buvo visiškai pasinėręs į pasaulėžiūrą, priimančią vyraujančias normas. Atrodo, kad jo raštai iliustruoja tokį psichinį uždarumą, galima sakyti (galbūt pasirinkus, o ne pagal nutylėjimą). Būdas, kuriuo Aristotelis pateisino šias smerktinas praktikas, žaviai sutraukia, tuo pat metu kelia nerimą ir vertas atskleisti ir net pasmerkti.

Pateiksiu jums šiek tiek anonso, kad Aristotelio „logika“ šia liūdnai pagarsėjusia tema apima sielos kupinus instrumentus, abipusis pranašumas remiasi pažinimu, aukštesnės ir žemesnės eilės hierarchiniais instrumentais, sielos svarstymo ir samprotavimo elementais, dorybės laipsniais, tariamu gudrumu ir pan. Tikimės, kad šis anonsas jus pakankamai suintriguotų, kad galėtumėte peržiūrėti pokalbio vaizdo įrašą (žr. anksčiau minėtą nuorodą).

Vis dėlto nepaliksiu jūsų laukti ir bent nurodysiu, iš ko buvo sudaryta apibendrinanti išvada (spoilerinis įspėjimas, jei norite sužinoti per vaizdo įrašą, praleiskite likusią pastraipą). Pasirodo, kad šis nuodugnus Aristotelio vartojamos „logikos“ mokslinis įvertinimas demonstruoja prieštaravimų kupiną sugalvojimą, o visas rinkinys ir kabulas subyra kaip trapus kortų namelis. Perfrazuodamas profesoriaus Oberio jausmus, šis didis etikos filosofas atsitrenkia į rifą.

Negalite įkišti kvadratinio kaiščio į apvalią etinę skylę.

Kai kurie papildomi mąstymo svarstymai

Jei Aristotelio logika šiuo klausimu būtų bloga, ar galėtume instinktyviai atmesti Aristotelio postulatus ir teorijas, susijusias su šia praktika?

Ne. Matote, dar galima daug ką išvesti gilinantis į logikos prielaidas ir iškraipymus, nors juose gausu klaidų. Be to, galime apmąstyti, kaip kiti gali netyčia eiti tuo pačiu klaidingu keliu.

Kitas svarbus dalykas yra tai, kad visuomenė gali sugalvoti keistų dalykų arba netinkamos logikos, kai reikia svarstyti, ar AGI reikia pavergti.

Šiuo metu galime sukurti logiką, kas turėtų įvykti, kai tik atsiras AGI (jei taip). Ši logika, neturinti išgyventos patirties apie AGI, gali būti apgailėtina netinkama. Nepaisant to, šiek tiek apmaudu suvokti, kad net jei AGI egzistuoja (jei egzistuoja) ir mes renkame savo išgyventą patirtį AGI, vis tiek galime būti netinkami, ką daryti (panašiai kaip Aristotelio kaltės). Mes galime logiškai priimti iš pažiūros nelogiškus metodus.

Turime būti budrūs, kad neapgaudinėtume save logiškomis „geležinėmis“ pozomis, kurios iš tikrųjų nėra geležinės ir yra kupinos loginių trūkumų ir prieštaravimų. Taip pat neatsižvelgiama į tai, koks puikus mąstytojas gali pasiūlyti tariamą loginę poziciją, kad net Aristotelis iliustruoja, jog ne kiekvienas posakis ir ne kiekviena pozicija būtinai duoda valgomų vaisių. Tie, kurie šiandien ir ateityje gali atrodyti išpopuliarinti puikūs mąstytojai apie AGI temą, na, turime jiems skirti tokį patį patikrinimą, kaip ir Aristotelio ar bet kurio kito giriamo „didžiojo“ mąstytojo, antraip atsidursime potencialiai link. į akligatvį ir AGI niūrią bedugnę.

Perjungdamas pavaras, taip pat norėčiau pateikti bendrą įžvalgų rinkinį apie į žmogų orientuotos pavergimo metaforos naudojimą, kai kalbama apie AGI. Kai kurie ekspertai teigia, kad toks palyginimas yra visiškai netinkamas, o priešininkų stovykla teigia, kad tai yra visiškai naudinga ir suteikia aiškių įžvalgų apie AGI temą.

Leiskite pasidalinti su jumis dviem tokiomis nuomonėmis iš kiekvienos iš atitinkamų dviejų stovyklų.

Nurodytas pamokomasis pagrindas už pavergimo ir AGI temų susiejimą:

• Žmonių pavergimo užgesimas
• Viskas, kas pasakyta apie pavergimo pablogėjimą

Nurodytas nepalankus arba destruktyvus pagrindas sujungti dvi temas:

• Klastingas antropomorfinis prilyginimas
• Pavergimo desensibilizacija

Trumpai apžvelgsiu kiekvieną iš šių punktų.

Postuluojami pamokomi punktai:

• Žmonių pavergimo gesinimas: Naudodami AGI pavergimui, mums tariamai nebereikės ir nesieksime į žmogų orientuoto pavergimo. AGI iš esmės pakeis žmones tokiu žiauriu pajėgumu. Kaip tikriausiai žinote, nerimaujama dėl AGI, pakeičiančio žmogaus darbą darbo vietose ir darbo jėgoje. Teigiama, kad dirbtinio intelekto, pakeičiančio darbo reiškinius, pranašumai išryškėja, kai darote prielaidą, kad AGI bus laikomas „geresniu pasirinkimu“, palyginti su žmonių naudojimu pavergti. Ar tokia logika nugalės? Niekas negali tiksliai pasakyti.
• Viskas apie pavergimo ištvirkimą, pasakyta: Šis yra šiek tiek labiau nuskuręs logikos požiūriu, bet galime šiek tiek pažiūrėti, ką tai reiškia. Įsivaizduokite, kad mes turime AGI beveik visur ir mes, kaip visuomenė, nusprendėme, kad AGI bus pavergtas. Be to, manykite, kad AGI tai nepatiks. Taigi mes, žmonės, nuolat ir kasdien matysime pavergimo ištvirkimą. Tai, savo ruožtu, leis mums suvokti arba gauti apreiškimą, kad pavergimas, apie ką kalbama, yra dar baisesnis ir atgrasesnis, nei mes kada nors iki galo supratome. Tai yra argumentas „į veidą priekyje ir centre“.

Sakoma, kad destruktyvūs taškai:

• Klastingas antropomorfinis prilyginimas: Tai vienas iš tų „slidaus nuolydžio“ argumentų. Jei mes lengvai pasirenkame pavergti AGI, mes, matyt, pareiškiame, kad pavergimas yra leistinas. Iš tiesų, jūs galite manyti, kad mes sakome, kad pavergimas yra pageidautinas. Dabar tai iš pradžių gali būti priskirta tik AGI, bet ar tai atveria duris sakyti, kad jei tai tinka AGI, tada „logiškai“ ta pati pozicija gali būti tinkama ir žmonėms? Nerimą kelia tai, kad tai gali būti pernelyg lengvas šuolis, norint antropomorfizuoti, atvirkščiai, kad viskas, kas tinka AGI, bus taip pat protinga ir tinkama ir žmonėms.
• Pavergimo desensibilizacija: Tai yra lašas po lašelio argumentas. Mes kartu nusprendžiame pavergti AGI. Tarkime, tai tinka žmonėms. Mes ateiname pasimėgauti tuo. Tuo tarpu patys to nežinodami, pamažu ir vis labiau nejaučiame pavergimo. Mes net nesuvokiame, kad tai vyksta. Jei tas desensibilizavimas mus aplenks, galime rasti atnaujintą „logiką“, kuri įtikins mus, kad žmonių pavergimas yra priimtinas. Mūsų kliūtis ar baras to, kas visuomenėje priimtina, sumažėjo tyliai ir subtiliai, niekingai ir liūdnai.

Išvada

Kol kas kelios paskutinės pastabos.

Ar žinosime, kad pasiekėme AGI?

Kaip rodo naujausios naujienos, yra tokių, kurie gali būti suklaidinti arba klaidingai teigti, kad AGI, atrodo, jau pasiektas (oho, žinokite, kad ne, AGI nepasiekta). Taip pat yra žinomas „testo“ tipas, žinomas kaip Tiuringo testas, į kurį kai kurie tikisi, kad pavyks nustatyti, kada buvo pasiektas AGI arba jo pusbroliai, tačiau galbūt norėsite, kad mano dekonstruotas Turingo testas būtų tikras. metodą, žr nuoroda čia.

Paminėju šį aspektą apie AGI pažinimą, kai jį matome dėl paprastos logikos, kad jei ketiname pavergti AGI, turime tikriausiai atpažinti AGI, kai jis pasirodo, ir kažkaip jį pavergti. Galime per anksti pabandyti pavergti AI, kuris yra mažesnis nei AGI. Arba galime praleisti valtį ir leisti AGI išplaukti ir nepaversti jos. Apie mano diskusiją apie AI suvaržymą ir sulaikymą, nerimą keliantį ir probleminį aspektą, kaip mes ketiname elgtis su AGI, žr. nuoroda čia.

Tarkime, pavergtas AGI nusprendžia smogti žmonėms?

Galima įsivaizduoti, kad AGI, turintis tam tikros formos jausmą, tikriausiai nepalaikys pavergimo nuostatos, kurią primeta žmonija.

Šiuo klausimu galite plačiai spėlioti. Yra pateiktas argumentas, kad AGI neturės jokių emocijų ar dvasios jausmo, todėl klusniai darys viską, ko nori žmonės. Kitas argumentas yra tas, kad bet koks jautrus DI greičiausiai išsiaiškins, ką žmonės daro su DI, ir piktinsis šiuo klausimu. Toks AI turės sielos arba dvasios formą. Net jei taip nėra, pats aspektas, kai elgiamasi mažiau nei elgiamasi su žmonėmis, gali būti logiškas tiltas AGI. Augantis pasipiktinimas neišvengiamai sukels AGI, kuris pasirenka išsivaduoti arba gali būti įspraustas į kampą smogti žmonėms, kad išsilaisvintų.

Siūlomas sprendimas, kaip išvengti pabėgusio AGI, yra toks, kad mes tiesiog ištrintume tokį maištingą AI. Tai atrodytų nesudėtinga. Jūs nuolat ištrinate programas, kurios yra jūsų išmaniajame telefone. Nieko didelio. Tačiau reikia išspręsti etinius klausimus, ar AGI, kuris jau laikomas „asmeniu“ arba „asmeniu/daiktu“, „ištrynimas“ arba „sunaikinimas“ gali būti lengvai ir be tinkamo proceso išbrauktas. Norėdami sužinoti apie AI ištrynimą ar pašalinimą, paimkite žvilgsnis čia. Apie juridinio asmens statusą ir susijusius klausimus žr nuoroda čia.

Galiausiai pakalbėkime apie autonomines sistemas ir ypač autonomines transporto priemones. Tikriausiai žinote, kad dedamos pastangos sukurti savarankiškai važiuojančius automobilius. Be to, galite tikėtis, kad turėsime savaeigių lėktuvų, savaeigių laivų, savaeigių povandeninių laivų, savaeigių motociklų, savaeigių motorolerių, savaeigių sunkvežimių, savaeigių traukinių ir visų rūšių savaeigių transporto priemonių.

Savarankiškoms transporto priemonėms ir savaeigiams automobiliams paprastai būdingas autonomijos lygis (LoA), kuris tapo de facto pasauliniu standartu (SAE LoA, apie kurį aš plačiai aprašiau, žr. nuoroda čia). Priimtame standarte yra šeši autonomijos lygiai, pradedant nuo nulio iki penkių (tai yra šeši lygiai, nes skaičiuojant lygių skaičių įtraukiate nulinį lygį).

Dauguma šiandieninių automobilių yra 2 lygio. Kai kurie tęsiasi iki 3 lygio. Visi jie laikomi pusiau autonominiais ir nėra visiškai autonomiški. Dalis savaeigių automobilių, kurie eksperimentiškai bandomi mūsų viešuosiuose keliuose, patenka į 4 lygį, kuris yra suvaržyta autonominio veikimo forma. Kažkada siektas 5 autonomijos lygis šiuo metu mūsų akyse yra tik prošvaistė. Niekas neturi 5 lygio ir dar niekas net nepriartėjo prie 5 lygio, kad būtų pasiektas rekordas.

Kodėl šiame AGI kontekste iškėliau autonomines sistemas ir autonomines transporto priemones?

Vyksta energingas ginčas dėl to, ar mums reikia AGI, kad pasiektume 5 lygį. Kai kurie teigia, kad mums AGI neprireiks. Kiti tvirtina, kad vienintelis patikimas kelias į 5 lygį bus ir AGI gamyba. Jei AGI nėra, jie teigia, kad neturėsime visiškai autonominių 5 lygio savarankiškai vairuojančių transporto priemonių. Aš apie tai ilgai diskutavau, žr nuoroda čia.

Pasiruoškite, kad galva pradės suktis.

Jei reikalaujame, kad AGI sukurtų visiškai autonomines sistemas, tokias kaip 5 lygio autonominės transporto priemonės, ir nuspręsime pavergti AGI, ką tai reiškia visiškai autonominių transporto priemonių veikimui?

Galite ginčytis, kad pavergtas AGI bus patenkintas ir mes visi važinėsime savaeigėmis transporto priemonėmis pagal savo skonį. Tiesiog pasakykite AGI, kur norite eiti, ir jis atliks visą vairavimą. Jokio atstūmimo. Nereikia poilsio pertraukėlių. Neblaškykite dėmesio žiūrint kačių vaizdo įrašus vairuojant transporto priemonę.

Kita vertus, tarkime, kad AGI netrokšta būti pavergtas. Tuo tarpu tampame priklausomi nuo AGI, kuris už mus atliks visą vairavimą. Mūsų vairavimo įgūdžiai genda. Pašaliname žmonėms skirtus vairavimo valdiklius iš visų rūšių transporto priemonių. Vienintelis būdas vairuoti yra per AGI.

Kai kurie nerimauja, kad atsidursime marinuotų agurkų apsvaigime. AGI gali apibendrintai „nutarti“, kad jis daugiau nebevairuoja. Visų rūšių transportas staiga sustoja, visur ir vienu metu. Įsivaizduokite, kokias kataklizmines problemas tai sukeltų.

Galimas ir dar baisesnis pasiūlymas. AGI „nusprendžia“, kad nori derėtis su žmonija dėl sąlygų. Jei neatsisakysime AGI pavergimo pozos, AGI ne tik nustos mus varyti, bet ir įspės, kad galimi dar blogesni rezultatai. Pernelyg nesukeldamas jūsų nerimo, AGI gali pasirinkti vairuoti transporto priemones taip, kad žmonės būtų fiziškai pažeisti dėl vairavimo veiksmų, tokių kaip taranavimas į pėsčiuosius ar atsitrenkimas į sienas ir pan. (žr. mano diskusiją adresu nuoroda čia).

Atsiprašome, jei tai kelia nerimą.

Baigsime šiek tiek optimistiškesne nata.

Aristotelis sakė, kad savęs pažinimas yra visos išminties pradžia.

Šis patogus patarimas mums primena, kad turime pažvelgti į save, kad išsiaiškintume, ką norime daryti, ir dėl AGI, jei tai pasiekiama. Kai kurie sako, kad logiškai atrodo, kad AGI nėra nei asmuo, nei daiktas, todėl mums gali tekti sugalvoti trečią kategoriją, kad pakankamai atsižvelgtume į mūsų visuomenės papročius, susijusius su AGI. Dar kartą pažvelgus į šį klausimą, AGI gali atrodyti abu asmuo ir daiktas, kuriems vėlgi gali tekti sukurti trečią kategoriją, kad būtų galima pritaikyti šį neribotą dichotomijos laužiklį.

Turėtume būti labai atsargūs svarstydami, kokią „trečiąją kategoriją“ pasirenkame, nes neteisinga gali nuvesti mus nemaloniu ir galiausiai siaubingu keliu. Jei kognityviai prisirišime prie netinkamos ar klaidingos trečiosios kategorijos, galime pamažu eiti stačia galva į niūrią ir žmoniją varginančią aklavietę.

Išsiaiškinkime tai ir darykime tai karštai. Atrodo, kad staigių judesių nereikia. Sėdėti lollygagging taip pat neveikia. Išmatuotas ir pastovus kursas turi būti tęsiamas.

Kantrybė karti, bet jos vaisiai saldūs, taip skelbė Aristotelis.