AI etika ir pripažintas AI Neįtikėtinas slėnis, kuris taip pat barškina dirbtinio intelekto pagrindu veikiančius savarankiškai važiuojančius automobilius

Kartais yra šiek tiek keistų dalykų, kurie patraukia jūsų dėmesį ir paskatina intuityvią prasmę, kad kažkas kažkaip negerai. Keistingumas jūsų veide nėra akivaizdus, ​​visai ne akivaizdus. Galbūt net negalėsite iš karto suprasti, kas yra neatitikimas arba kodėl jūsų patarlė voratinkliška nuojauta dilgčioja.

Galbūt jaučiami subtilūs ženklai. Galbūt jūs savo žarnyne suprantate, kad egzistuoja disonansas. Manau, galima sakyti, kad yra tik menkiausia užuomina apie neįvertintą baisumą ir jūsų subtilus žmogaus radaras fiksuoja kitaip, atrodytų, paslėptus signalus.

Sveiki atvykę į nepaprastą slėnį.

Jei niekada negirdėjote apie nepaprastą slėnį, temą, gana populiarią AI ir ypač robotikos srityje, jūsų laukia malonumas, nes tai yra tema, kurią čia išsamiai aptarsiu ir analizuosiu.

Visa apimanti sąvoka gali būti taikoma daugeliui dalykų, kuriuos patiriame gyvenime, nors pagrindiniai principai ir pradinis apibrėžimas apima dirbtinio intelekto sistemas ir robotus. Pirmiausia išnagrinėsime nepaprasto slėnio kilmę ir pradinę prasmę, o tada pradėsime išplėsti, kad pamatytume, kaip šie reiškiniai gali būti taikomi didesniuose kontekstuose.

Taip pat galėčiau pridurti, kad pasvarstysime, ar toks keistas slėnis apskritai egzistuoja.

Matote, kai kurie skeptikai ir cinikai ginčijasi, kad visa tai yra šiek tiek apgaulinga ir nelaiko vandens. Būkite atsargūs keldami temą tiems, kurie išmano. Vieni linksmai šypsosis ir ploja tau į nugarą, kad tu gerai susipažinęs su nepaprastu slėniu, o kiti įtemptai pasakys, kad tai yra kiaulienos šlakas ir tu turi trumpai išvalyti savo mintis puriu psichikos valymo muilu. .

Geros naujienos yra tai, kad jūs turite nuspręsti, ar nepaprastas slėnis yra tikras, ar ne, taip pat ar verta jį sąmoningai pritaikyti, ar jį reikia be ceremonijų mesti į techno-idėjų šiukšlių krūvą. Šia prasme jūs sėdite vairuotojo vietoje.

Visa tai taip pat glaudžiai siejasi su klestinčia etiško AI sritimi ir didėjančiu suvokimu, kad visuomenė turi rimtai ir blaiviai atkreipti dėmesį į AI etiką. Tuoj užmegsime tą kaklaraištį.

Geriausia pradėti tiesiogiai cituoti profesorių, sugalvojusį nepaprastą slėnio idėją ir tiesiai šviesiai įvardijusį šį paskelbtą reiškinį. 1970 m. Tokijo technologijos instituto profesorius Masahiro Mori paskelbė gana smulkų straipsnį šiek tiek mažiau žinomame žurnale, pavadintame energija (ne ypač AI ir robotikos židinys per se) ir pasakė:

„Pastebėjau, kad kopiant link tikslo, kad robotai atrodytų kaip žmonės, mūsų artimumas jiems didėja, kol pasiekiame slėnį, kurį aš vadinu nepaprastu slėniu.

Atkreipkite dėmesį, kad aukščiau pateikta frazė rodoma anglų kalba, nors originalus dokumentas buvo japonų kalba. Išverstą versiją į anglų kalbą prižiūrėjo autorius ir vėliau paskelbė IEEE spektras 2012 m., o autorius priskiriamas Masahiro Mori. Straipsnį galite skaityti patys, nes jis yra atvirai ir laisvai prieinamas internete. Tai neabejotinai greitas skaitymas, trunkantis gal dešimt minučių, ir jame nėra jokios sudėtingos terminijos.

Nepaisant to, įdomu ir šiek tiek nuostabu, kad toks greitas straipsnis, paskelbtas 1970 m., galiausiai pradėjo visą tyrimų areną ir pradėjo daugybę susijusių tyrimų, projektų, tyrimų, o kartais ir ginčų audrą apie tai, ar nepaprasto slėnio koncepcija tikrai egzistuoja. Manau, kad tai parodo, kad intriguojančios ir kartais požiūrį keičiančios idėjos nebūtinai turi būti labai supainiotos ar perpildytos žargonu ir aukštybe. Trumpa mintis gali būti net ne galingesnė, nei gali atrodyti iš pirmo žvilgsnio.

Tikiuosi, kad tai paskatins jus pabandyti puoselėti naujas idėjas, darant tai suvokiant, kad mielas ir paprastas gali būti toks pat nuostabus, o kartais labiau nei sudėtingas ir sudėtingas.

Grįžkime į nepaprastą slėnį.

Jūs susiduriate su robotų sistema, kurios veidas panašus į žmogaus veidą. Įsivaizduokite, kad šis roboto veidas buvo sukurtas per daugybę iteracijų. Dirbtinio intelekto kūrėjai, sumontavę roboto galvą, vis stengėsi, kad roboto veido dalis vis labiau atrodytų kaip tikro žmogaus veidas.

Pirmasis jų bandymas buvo nepaprastai primityvus. Roboto veidas atrodė taip pat, kaip matėte mokslinės fantastikos filmuose – jis yra visiškai metalinis ir demonstruoja pavaras bei laidus. Žvilgtelėję į prietaisą iš karto suprasite, kad tai robotas. Nekyla klausimų apie tai.

Kitas AI kūrėjų bandymas buvo apvynioti kai kurias plastikines medžiagas aplink metalines dalis. Nors tai atrodo šiek tiek draugiškiau, vis tiek iš karto supranti, kad tai roboto galva ir roboto veidas. Vėlgi, lengva aptikti.

Tie AI kūrėjai yra pasiryžę tai tęsti. Jie formuoja plastiką ir suteikia odos atspalvių. Jie prideda bruožų, kurie atrodo labai panašūs į žmogaus veidą, pavyzdžiui, apgamai, plaukai, dėmės ir panašiai.

Iš pirmo žvilgsnio galite priversti manyti, kad tai žmogaus veidas. Jei buvo nufotografuotas roboto veidas ir jūsų būtų paprašyta nustatyti, ar nuotraukoje pavaizduotas asmuo, o ne roboto veidas, jums gali būti trukdoma iš karto pasakyti, kuris tai buvo. Kita vertus, jei stovėtumėte šalia įrenginio, tikriausiai atidžiai apžiūrėję suprastumėte, kad tai ne žmogus, o robotas.

Reikalas tas, kad prieš tai, kai gavote galimybę atlikti tyrimą stambiu planu, veide buvo kažkas, kas neatrodė visiškai suderinama. Tai tikrai atrodė kaip žmogaus veidas. Bet buvo kažkas negerai. Turėdavai įdėmiai žiūrėti vėl ir vėl, kad padėtų pirštu į tai, kas atrodo ne taip. Galbūt tai tikras veidas. Vėlgi, galbūt taip nėra. Jūsų protas atitinkamai sukosi.

Tavo galvoje atsiranda baisumo jausmas.

Pamatę dvi ankstesnes versijas, nepatyrėte to paties baisumo. Galite be pauzės ir nedvejodami nustatyti, kad robotas buvo robotas. Tik vaikas gali apsigauti, manydamas, kad kuri nors iš tų versijų yra tikras asmuo.

Tačiau ši naujausia versija buvo kitokia. Jis dar nebuvo tobulas, kad atrodytų kaip žmogaus veidas. Taip pat tai nebuvo taip toli nuo tikrojo, kad būtų akivaizdu, jog tai turi būti robotas. Buvo pasiekta savotiška sumauta žemė.

Tarkime, kūrėjai toliau stengėsi tyrinėti ir viską sureguliavo taip, kad roboto veidas beveik nesiskyrė nuo žmogaus veido. Kad ir kiek ilgai žiūrėtumėte į daiktą, nesate tikri, ar tai žmogus, ar ne žmogus. Kai sužinosite, kad tai roboto veidas, nustembate. Dieve, jie padarė puikų darbą, kad tai atrodytų tikra.

Atkreipkite dėmesį, kad iki šiol galvojote tik apie robotų aspektus, pagrįstus vien išvaizda.

Prie lygties galėtume pridėti judėjimą. Tai suteikia jums papildomos dimensijos, leidžiančios atskirti, ar robotas yra robotas, o ne žmogus. Nenoriu šioje diskusijoje visapusiškai reikšti, kad tai yra daugiamatė problema, nes dėl to šios temos išaiškinimas tampa sudėtingesnis (nors neišvengiamai persipynusios daugiamatės). Bet kokiu atveju įsivaizduokite, kad ne tik matėte roboto veidą, bet ir galėjote stebėti, kaip robotas judina veido bruožus, pvz., burną, akis, nosį ir kt. Akivaizdu, kad tai taip pat gali būti dovanos apie tai, ar tai yra robotas ar žmogus.

Vienas iš svarbiausių aspektų, kurį reikia išlaikyti nepaprasto slėnio priešakyje, yra tai, kad pirminėje koncepcijoje pabrėžiamas žmogaus giminingumas. Teigiamas reiškinys, kad jūsų giminingumas didėja, kai matote laipsniškai tobulėjančius roboto veidus, kol atsiranda nepaprastas variantas. Teigiama, kad tuo momentu jūsų giminingumo jausmas smarkiai sumažėja ir nukrenta į giminingumo bedugnę ar slėnį.

Konkrečiai versijai, dėl kurios įtarėte, kad kažkas ne taip, jūsų giminingumas tariamai radikaliai sumažėjo. Be to, remiantis teorija, jūsų giminingumas gali vėl smarkiai išaugti, kai tik susidursite su pažangesne versija, kuri yra beveik identiška tikrai žmogiškai formai.

Čia daugiau apie tai, ką autorius teigė apie mūsų įprastą polinkį manyti, kad gyvenimo aspektai sklandžiai didėja: „Matematinis terminas monotoniškai didėjanti funkcija apibūdina ryšį, kuriame funkcija y = ƒ(x) nuolat didėja kartu su kintamuoju x. Pavyzdžiui, kaip pastangos x auga, pajamos y padidėja, arba paspaudus automobilio akceleratorių, automobilis juda greičiau. Toks ryšys yra visur paplitęs ir labai lengvai suprantamas. Tiesą sakant, kadangi tokios monotoniškai didėjančios funkcijos apima daugumą kasdienio gyvenimo reiškinių, žmonėms gali kilti iliuzija, kad jos reprezentuoja visus santykius. Taip pat šį klaidingą įspūdį liudija tai, kad daugelis žmonių per gyvenimą kovoja atkakliai stumdamiesi, nesuprasdami atsitraukimo veiksmingumo. Štai kodėl žmonės dažniausiai būna sumišę, kai susiduria su kokiu nors reiškiniu, kurio ši funkcija negali reprezentuoti. Tai cituojama pagal IEEE spektras verstas popierius.

Ši beveik visuotinė prielaida apie nuolatinį augimą gali būti panaikinta, kai susiduriame su kažkuo negerai. Teorija teigia, kad baisumas ir įtarumas sukels santykinai staigų ir dramatišką giminingumo sumažėjimą, pavyzdžiui, roboto ranka, kurią pasirinkote papurtyti ir negalėjote jausti žmogaus rankos kaulinių savybių: „Kai taip nutinka, prarandame jausmą. giminingumo, ir ranka tampa nepakartojama. Matematiškai tai gali būti pavaizduota neigiama reikšme.

Jei sutinkate su prielaida, kad egzistuoja šis nepaprasto slėnio reiškinys, aš tikiu, kad jums įdomu, kokia nauda jums, kai žinote, kad keistas slėnis, matyt, egzistuoja.

Tai visų laikų klasika "na ir kas?" praktiškumo testas.

Pasirodo, daugelis žmonių sugalvojo daugybę interpretacijų, ką turėtume ar galime padaryti dėl nepaprasto slėnio. Yra daugybė nuomonių. Kai kuriuos iš jų aptarsiu netrukus.

Tuo tarpu Masahiro Mori pasiūlė štai ką: „Tikimės sukurti ir sukurti robotus bei rankų protezus, kurie nepateks į nepaprastą slėnį. Taigi dėl rizikos, kylančios bandant padidinti savo panašumo į žmogų laipsnį, kad būtų pasiektas antrasis smailės mastelis, rekomenduoju, kad dizaineriai vietoj savo tikslo laikytųsi pirmosios viršūnės, o tai lemia vidutinį žmogaus panašumo laipsnį ir didelį giminingumo jausmą. . Tiesą sakant, aš prognozuoju, kad galima sukurti saugų giminystės lygį sąmoningai įgyvendinant nežmogišką dizainą. Prašau dizainerių tai pagalvoti.

Greitai apibendrinu dvylika patogių kelnių sėdynės taisyklių apie tai, ką daryti su nepaprastu slėniu, ypač AI kūrėjams:

1) Žinokite apie nepaprastą slėnį ir atitinkamai būkite ant kojų pirštų

2) Tikriausiai norite, kad jūsų dirbtinis intelektas kuo labiau domėtųsi žmonėmis

3) Būkite pasirengę prarasti žmogaus giminingumą, jei jūsų AI pateks į nepaprastą slėnį

4) Stenkitės išvengti nepaprasto slėnio taip kurdami savo AI

5) Gerbtina turėti tikslą, kurio trūksta iki nepaprasto slėnio

6) Pakilkite iki nepaprasto slėnio krašto, bet nenukriskite per skardį

7) Nebūkite apsėstas keliauti už nepaprasto slėnio

8) Yra tikimybė, kad galite peršokti nepakartojamą slėnį

9) Nesijaudinkite dėl šuolio, nes vis tiek galite įkristi į slėnį

10) Didžiausias žmonių giminingumas, žinoma, būtų pasiektas peržengus nepaprastą slėnį

11) Nepaisant to, prieš keistą slėnį buvo nustatytas pakankamas ir tinkamas giminingumas

12) Nuolat prisiminkite nepaprastą slėnį ir neleiskite jam išslysti iš galvos

Visi šie tuzinas yra bendri nurodymai, kuriuos galima laikyti kertiniu akmeniu arba žinių apie nepaprastą slėnį tvirtinimo taškais. Iš karto pripažinsiu, kad yra ir kitų punktų, kurie nėra išvardyti tame negausiame dešimtuke, kurie gali būti taip pat svarbūs. Taip pat nesunkiai pripažinsiu, kad dėl kiekvieno nurodyto punkto gali kilti nesutarimų ir dėl kiekvieno iškelto punkto gali kilti ilgos karštos diskusijos.

Be to, kai kurie sakytų, kad dvylika punktų yra visiška nesąmonė, nes pirmiausia jie pagrįsti melu. Jie ginčytųsi, kad nėra tokio dalyko kaip nepaprastas slėnis. Visa tai tėra gudrybė ir sugalvota gudrybė, kuri tik ir liūdnai kreipiasi į silpnus protus (oi, tai nuoširdžiai skaudina!). Bet koks dėmesys nepakartojamam slėniui yra iššvaistytas oro gūsis, ir kažkas turėtų ateiti ir įdėti aštrų medinį teorinį kuolą į reikalo esmę (kai kurie tyrinėtojai bandė tai padaryti).

Diskusijų sumetimais eikime su srautu ir manykime, kad yra nepaprastas slėnis ir jis iš esmės atitinka tai, ką nurodžiau iki šiol. Tie, kurie nesutinka su nepaprasto slėnio koncepcija, kviečiami išsiskirti į zonas arba toliau skaityti sukandę dantis, o jų intelektualinis pyktis verda ir verda (atsiprašau už tai).

Štai kaip pasireiškia etiškas AI ir dėmesys etiško AI kūrimui ir įgyvendinimui. Beje, apie mano nuolatinius ir nuodugnius AI etikos tyrinėjimus žr. mano diskusiją adresu šią nuorodą čia ir šią nuorodą čia, Tik pavadinimas kelias.

Neįtikėtinas slėnis yra neabejotinai meilės ir neapykantos romanas tiems, kurie užsiima etišku AI.

Pirma, kai kurie reikalingi fonai. Viena iš labiausiai plauką keliančių etinių su AI susijusių nuoskaudų yra ta, kad žmones galima apgauti ir patikėti, kad dirbtinio intelekto sistema yra jautri. Atminkite, kad šiandien nėra jokio AI, kuris iš tolo priartėtų prie jautrumo. Šiuo metu tai tiesiog nevyksta. Mano neva „įžūlus“ teiginys išsakytas nepaisant tų nepaliaujamų ir audringų antraščių, kuriose skelbiama, kad šis DI arba kad AI yra pakankamai jautrus arba pakankamai artimas, kad būtų toks laikomas. Malarkey. Mes nesame AI jautrūs.

Mes nežinome, kaip ten patekti. Nežinome, ar tai įvyks. Dirbtinis intelektas yra vertinga svajonė ir siekis, nors neperšokkite ir negalvokite, kad artėjame prie jo pasiekimo.

Žinoma, daugelis karštai perspėja, kad jei mums kažkaip pavyks išjudinti dirbtinį intelektą, nesvarbu, ar tai darome planuotai, ar atsitiktinai, susidursime su egzistencine rizika. Turint tokį mąstymą, galbūt ieškoti dirbtinio intelekto supratimo nėra taip verta. Kyla pavojus, kad šis jautrus AI gali nuspręsti, kad žmonės nėra verti šalia. Galime būti sugniuždyti kaip klaida. Arba tapkite AI vergais. Taip gali nutikti, kai dirbtinis intelektas atvirai pasirenka tai, arba dirbtinis intelektas gali tapti mūsų pačių pasaulio pabaigos mašina, kuri sunaikina mus dėl mūsų pačių neveiksnumo. Norėdami sužinoti apie tuos nerimą keliančius AI jautrumo ar singuliarumo padarinius, žr nuoroda čia.

Esminis etinis DI susirūpinimas yra tas, kad AI kūrėjai ir tie, kurie kuria DI, kartais priverčia žmones manyti, kad AI yra jautrus. Tai, kaip dirbtinis intelektas demonstruoja save, pavyzdžiui, naudojant robotų formuluotę arba jo interaktyvumas pokalbyje, gali klastingai paskatinti žmones manyti, kad AI yra jautrus. Tai savo ruožtu veda jus potencialiai nešvariu raktažolės keliu.

Jei pateksite į psichikos spąstus, manydami, kad dirbtinio intelekto sistema yra jautri, greičiausiai pasikliausite ja darydami dalykus, kuriuos darytų jaučiančios būtybės. Tačiau jokiame šiandieniniame AI dar nėra įmontuoto į žmogų panašios kokybės sveiko proto. Dirbtinis intelektas, kurį šiuo metu patiriame, yra labai trapus ir negilus, kai kalbama apie į žmones panašius gebėjimus. Galite patekti į nemalonius ir pavojingus vandenis, manydami, kad AI sistema yra jautri.

Kaip tai susiję su nepaprastu slėniu?

Čia yra sandoris.

Prisiminkite, kad keistas slėnis mums sako, kad žmogaus giminingumas palaipsniui didės, kai dirbtinio intelekto sistema arba robotas vis labiau priartės prie į žmogų panašios formulės. Esant tokiai situacijai, kai dirbtinio intelekto sistema artėja prie taško, kad ji būtų gana arti, tačiau vis dar, ne visai ten, jaučiame klaikus jausmą, kad kažkas negerai. Iki tol žinojome, kad dirbtinis intelektas nėra žmogus. Dabar nesame tikri. Mūsų žmonių giminingumas mažėja. Tik tada, kai dirbtinis intelektas arba robotas tampa visiškai įtikinami dėl į žmogų panašių pajėgumų, atgauname savo panašumą į įrenginį.

Tikėtina, kad dirbtinio intelekto kūrėjai, atsižvelgę ​​į šią širdį tyčia stengtis, kad jų AI nepatektų į keistą slėnį, siekdami sustoti pagal AI ypatybes, prieš pat patenkant į nepaprastą bedugnę (prisiminkime, tai irgi pabrėžė Masahiro Mori). Kūrėjai, matyt, tai padarytų užtikrindami, kad vis dar būtų daug įspėjamųjų užuominų, kad būtų gana aišku, kad AI yra mažiau nei jautrus DI, o tai reiškia, kad tai nėra žmogus ar lygiai taip pat.

AI etikai paprastai džiaugtųsi tokiomis nuoširdžiomis pastangomis.

Motyvavimas yra aiškus. Tie, kurie yra taip informuoti ir mylintys dirbtinio intelekto kūrėjus, stengiasi užtikrinti, kad AI sistema neklaidintų žmonių, klaidingai priskiriant dirbtinio intelekto įrenginius, panašius į žmones. Tai neabejotinai gera žinia. Kūrėjai sąmoningai sukurs dirbtinį intelektą, kad išvengtų nardymo į nepaprastą slėnį. Žmonės nesunkiai supras, kad AI nėra jautrus.

Bandyti priversti dirbtinio intelekto kūrėjus priimti tokį požiūrį nėra lengva. Iš tiesų, tai gali prieštarauti jų įprastiems instinktams ir skatinančioms ambicijoms.

Skelbiama daug teiginių, kad dirbtinio intelekto kūrėjai ir technikos apskritai siekia tikslų. Jie mato tikslą ir dažnai aklai jo sieks su dideliu užsidegimu. Nėra laiko sustoti ir užuosti rožes. Išeiname į lenktynes. Dirbtinio intelekto srityje norminis tikslas būtų idealizuotas DI, kuris nesiskiria nuo žmonių tuo, kad AI galėtų būti protingai lygus. Bet mes dar nesame. Neįtikėtinas slėnis yra antraeilis tikslas, nusileidęs prieš kitaip užtvenktą nepaprastą slėnį, ir tampa tikslu, kuris vis dėlto yra priimtinas. Aišku, tai ne auksinis žiedas, bet idėja tokia, kad šis „antrinis“ prizas yra geras, labai ačiū, ir jūs galite juo didžiuotis.

Mes pakeitėme žlugdantį tikslo siekimo aukščiausią užmojį ir panaudojome jį logiškai pagrįstu pagrindu, kad elgtumėmės teisingai.

Hurray!

Laimėkite dirbtinio intelekto etiką.

Tačiau palaukite antrojo įspėjimo apie spoilerį, yra dar kažkas, į ką taip pat turime atsižvelgti.

Dabar, kai tie išmanieji dirbtinio intelekto kūrėjai žino apie nepaprastą slėnį, jie gali nukreipti savo protą ir technikos meistriškumą į sąmoningą šuolį per bedugnę ir vis tiek tai daro turėdami galvoje apgaulę. Tegul dirbtinis intelektas atrodo visiškai panašus į žmogų, nors kūrėjai žino, kad tai netiesa.

Šlykštus mąstymas vyksta taip. Neleiskite savo AI sistemai nuversti skrybėlę ir priversti žmones patirti tą sunkiai suvokiamą baisumo srovę. Iškirpkite aspektus, kurie gali duoti užuominų ar užuominų, kad AI nėra žmogaus galimybių. Darykite tai slapta suvokdami ir nepateisinamai žinodami, kad dirbtinis intelektas nėra žmogaus galimybių, o tai reiškia, kad reikia paslėpti tą tiesą nuo tų, kurie sąveikauja su AI arba yra nuo jo priklausomi.

Kokie velniški planai.

Ironiška, bet keistas slėnis gali būti savotiškas pažadinimo skambutis AI kūrėjams, kad jei jie nori tikrai apgauti žmones, jie turi būti pakankamai sumanūs, kad ištrūktų iš bedugnės. Jie to nedaro siekdami visiško AI, o statydami dūmus ir veidrodžius, kad dirbtinis intelektas atrodytų klaidinantis kaip žmogus. Jei dirbtinio intelekto kūrėjai nebūtų suvokę, kad šis keistas slėnis egzistuoja, jie apskritai būtų į jį papuolę. Tai naudinga žmonijai, nes žmonės prarastų savo giminingumą dirbtiniam intelektui, nes pernelyg nepasitikėtų šiandienine DI kokybe.

Deja, žinodami, kad spąstai egzistuoja, dirbtinio intelekto kūrėjai, norintys sėlinti aplink jį, suras pavojingų protingų būdų tai padaryti.

Pasiekite rezultatą pagal etiško AI nurodymus.

Ar matote, kaip tai sukuria meilės ir neapykantos santykius dirbtinio intelekto etikams apie nepaprastą slėnį?

Prakeikta, jei darai, velniškai, jei ne.

Suprantu, kad tai buvo neįtikėtino slėnio tyrimas, todėl galbūt trokštate keleto kasdienių pavyzdžių. Yra ypatingas ir neabejotinai populiarus pavyzdžių rinkinys, kuris man prie širdies. Matote, kaip dirbtinio intelekto, įskaitant etines ir teisines pasekmes, ekspertas, manęs dažnai prašoma pateikti realių pavyzdžių, atskleidžiančių DI etikos dilemas, kad būtų galima lengviau suvokti šiek tiek teorinį temos pobūdį. Viena iš įdomiausių sričių, ryškiai pristatančių šią etišką AI kliūtį, yra dirbtinio intelekto pagrindu sukurtų tikrų savaeigių automobilių atsiradimas. Tai bus patogus naudojimo atvejis arba pavyzdys plačioms diskusijoms šia tema.

Štai vertas dėmesio klausimas, kurį verta apsvarstyti: Ar dirbtinio intelekto pagrindu sukurtų tikrų savaeigių automobilių atsiradimas ką nors nušviečia apie nepaprastą slėnį, ir jei taip, ką tai mus skatina daryti?

Leiskite man akimirką išpakuoti klausimą.

Pirma, atkreipkite dėmesį, kad tikrai savarankiškai vairuojančiame automobilyje nėra žmogaus vairuotojo. Atminkite, kad tikri savarankiškai važiuojantys automobiliai yra valdomi naudojant AI vairavimo sistemą. Nereikia, kad prie vairo būtų vairuotojas žmogus, taip pat nėra numatyta, kad žmogus galėtų vairuoti transporto priemonę. Išsamią ir nuolatinę informaciją apie autonomines transporto priemones (AV) ir ypač apie savarankiškai važiuojančius automobilius žr. nuoroda čia.

Norėčiau dar labiau paaiškinti, ką turiu omenyje, kai kalbu apie tikrus savarankiškai vairuojančius automobilius.

Suprasti savarankiškų automobilių lygį

Paaiškinimas: tikri savaeigiai automobiliai yra tie, kad dirbtinis intelektas visiškai valdo automobilį ir vairavimo užduotyje nėra jokios žmogaus pagalbos.

Šios transporto priemonės be vairuotojo laikomos 4 ir 5 lygiais (žr. mano paaiškinimą adresu šią nuorodą čia), o automobilis, kurio vairuotojas turi pasidalyti vairavimo pastangomis, paprastai laikomas 2 arba 3 lygiu. Automobiliai, kurie kartu atlieka vairavimo užduotį, apibūdinami kaip pusiau savarankiški ir paprastai juose yra įvairių automatiniai priedai, vadinami ADAS (išplėstinės vairuotojo pagalbos sistemos).

Dar nėra tikro 5 lygio lygio savarankiškai važiuojančio automobilio, kurio mes net nežinome, ar tai bus įmanoma pasiekti, ir nei kiek laiko prireiks jo nuvažiavimui.

Tuo tarpu 4 lygio pastangos pamažu bando įgyti šiek tiek traukos atlikdami labai siaurus ir selektyvius viešųjų kelių bandymus, nors kyla ginčų dėl to, ar šis bandymas turėtų būti leidžiamas per se (mes visi esame gyvybės ar mirties jūrų kiaulytės eksperimente vyksta mūsų greitkeliuose ir pakelėse, kai kurie tvirtina, žr. mano aprėptį adresu šią nuorodą čia).

Kadangi pusiau autonominiams automobiliams reikalingas žmogiškas vairuotojas, šių tipų automobiliai bus žymiai kitokie nei vairuojant įprastas transporto priemones, todėl apie juos šioje temoje nėra daug naujų, tačiau, kaip pamatysite po akimirkos kiti taškai yra paprastai taikomi).

Dėl pusiau autonominių automobilių svarbu, kad visuomenė būtų perspėta apie nerimą keliantį aspektą, kuris pastaruoju metu iškyla, būtent, kad nepaisant tų vairuotojų, kurie nuolat skelbia vaizdo įrašus apie tai, kaip jie užmiega prie 2 ar 3 lygio automobilių vairo , visi turime vengti klaidinti manydami, kad vairuotojas, vairuodamas pusiau autonominį automobilį, gali atitraukti dėmesį nuo vairavimo užduoties.

Jūs esate atsakingas už transporto priemonės vairavimo veiksmus, nepaisant to, kiek automatikos gali būti išmesta į 2 ar 3 lygį.

Savarankiškai važiuojantys automobiliai ir nepaprastas slėnis

Tikrosios 4 ir 5 lygio savarankiškai vairuojančioms transporto priemonėms vairuotojo užduotis nebus skirta žmonėms.

Visi keleiviai bus keleiviai.

AI vairuoja.

Vienas aspektas, kurį reikia nedelsiant aptarti, reiškia, kad dirbtinis intelektas, dalyvaujantis šiandieninėse dirbtinio intelekto vairavimo sistemose, nėra jausmingas. Kitaip tariant, dirbtinis intelektas yra kompiuterinio programavimo ir algoritmų kolektyvas, kuris, be abejo, negali samprotauti taip, kaip gali žmonės.

Kodėl taip pabrėžiama, kad AI nėra jautrus?

Nes noriu pabrėžti, kad aptardamas dirbtinio intelekto vairavimo sistemos vaidmenį, aš AI nepriskiriu žmogaus savybių. Turėkite omenyje, kad šiomis dienomis yra nuolatinis ir pavojingas polinkis antropomorfizuoti AI. Iš esmės žmonės priskiria žmonėms panašų jausmą šiandieniniam dirbtiniam intelektui, nepaisant neginčijamo ir neginčijamo fakto, kad tokio AI dar nėra.

Patikslinę galite įsivaizduoti, kad dirbtinio intelekto vairavimo sistema savaime kažkaip „neišmanys“ vairavimo aspektų. Vairavimą ir visa tai, ką tai reiškia, reikės užprogramuoti kaip savarankiško automobilio techninės ir programinės įrangos dalį.

Pasinerkime į begalę aspektų, kurie yra svarbūs šia tema.

Pirma, svarbu suprasti, kad ne visi dirbtinio intelekto automobiliai yra vienodi. Kiekvienas automobilių gamintojas ir savarankiškai vairuojančių technologijų įmonė laikosi savo požiūrio į savaeigių automobilių kūrimą. Todėl sunku pateikti plačius teiginius apie tai, ką AI vairavimo sistemos darys ar ne.

Be to, kai teigiama, kad dirbtinio intelekto vairavimo sistema neatlieka tam tikro dalyko, vėliau tai gali aplenkti kūrėjai, kurie iš tikrųjų užprogramuoja kompiuterį tai padaryti. Žingsnis po žingsnio AI vairavimo sistemos palaipsniui tobulinamos ir plečiamos. Esamo apribojimo šiandien gali nebelikti būsimoje iteracijoje ar sistemos versijoje.

Aš tikiu, kad tai suteikia pakankamai litanijos įspėjimų, kuriais grindžiamas tai, ką ketinu pasakyti.

Dabar esame pasiruošę giliai pasinerti į savarankiškai važiuojančius automobilius ir etinius dirbtinio intelekto klausimus, susijusius su nepaprastu slėniu.

Yra keturi su šiuo klausimu susiję aspektai, kurie bus aptarti čia:

1. Bendra savaeigių automobilių išvaizda

2. Klausimas, kur „žiūri“ savarankiškai važiuojantys automobiliai

3. Savaeigių automobilių AI vairavimo veiksmai

4. Robotai, kurie važiuoja kaip priemonė pasiekti savavaldžius automobilius

Papildomi aspektai taip pat yra perspektyvūs, tačiau, atsižvelgiant į erdvės apribojimus, šių keturių temų pakaks, kad būtų galima nušviesti nepaprastą slėnį, susijusį su dirbtinio intelekto savarankiškai važiuojančiais automobiliais.

1. Bendra savaeigių automobilių išvaizda

Lažinuosi, kad matėte nuotraukas ar vaizdo įrašus iš šiandieninių savarankiškai vairuojančių automobilių bandymų. Galbūt pastebėjote, kad dauguma transporto priemonių yra įprastinės išvaizdos automobiliai, aprūpinti papildoma specializuota įranga. Pavyzdžiui, gali būti stogo bagažinė, kurioje yra daugybė elektroninių jutiklių. Jutikliai kartais apima vaizdo kameras, radarus, LIDAR įrenginius, ultragarsinius jutiklius ir pan.

Futuristiniai dizainai linkę manyti, kad galėtume nukrypti nuo įprastos išvaizdos automobilio, o vietoj to perkurti automobilius tiek viduje, tiek išorėje, kad jie atrodytų labiau dailiai atrodantys autonominiai automobiliai. Šiuo metu paprastai manoma, kad paprasčiau naudoti įprastus automobilius, o ne eikvoti energiją bandant ištempti pastangas, tuo pat metu lavinant netradicinės išvaizdos automobilius (yra keletas šio bendro požiūrio išimčių, žr. nuoroda čia).

Šiuo metu esmė ta, kad jei važiuojate gatve ir netoliese susiduriate su savaeigiu automobiliu, beveik visada galite iš karto pastebėti, kad tai tikriausiai yra savarankiškai važiuojantis automobilis, vien pastebėję ant autonominės transporto priemonės sumontuotų jutiklių šlifavimą. Tai greita vizualinė dovana. Žinoma, jūs tiksliai nežinote, ar tai yra savarankiškas vairavimas, nes šiuo metu vairavimo valdikliai paprastai vis dar yra nepažeisti, o prie vairo gali būti atsarginis vairuotojas.

Pagal vieną mąstymo būdą galima teigti, kad ypač patogu, kad savarankiškai važiuojantys automobiliai fiziškai atrodo išsiskiriantys ir yra lengvai matomi netoliese esančių žmonių vairuojamų automobilių vairuotojų, taip pat netoliese esančių pėstųjų. Suvokimas, kad netoliese važinėja savarankiškai važiuojantis automobilis, gali būti naudingas patarimas būti budriems ir paskatinti būti budriems ir atidiems, kad dirbtinis intelektas vairuoja arba gali vairuoti transporto priemonę.

Tarkime, kad savaeigiai automobiliai atrodė identiški įprastiniam žmogaus vairuojamam automobiliui. Tai realiai įmanoma bent dviem būdais. Pirma, jutikliai gali būti paslėpti arba suformuoti taip, kad nebūtų tokie akivaizdūs atsitiktiniam vizualiniam patikrinimui. Antra, gali būti, kad visuose automobiliuose, įskaitant įprastus žmonių vairuojamus automobilius, palaipsniui įrengiami panašūs jutikliai, net jei transporto priemonė vis tiek išliks kaip daugiausia žmonių vairuojama mašina. Žiūrėkite tolesnę mano aprėptį adresu šią nuorodą čia.

Jei gerai apgalvosite, ar savaeigiai automobiliai gali arba turi būti identiški įprastiems žmonių vairuojamiems automobiliams, jums gali kilti mintis, kad šiame troškinyje gali slypėti keistas slėnis.

Matote, automobiliai, kurie akivaizdžiai atrodo kaip savarankiškai važiuojantys automobiliai, gali būti apibūdinami kaip esantys sankryžoje, kuri yra visai netoli nuo nepaprasto slėnio. Iš esmės jūs „žinote“, kad tai yra robotas arba roboto tipo sistema. Tai sprendimas, į kurį galite beveik iš karto pereiti.

Kai savaeigiai automobiliai identiškai žiūri į žmonių vairuojamus automobilius, galbūt tai rodo, kad autonominės transporto priemonės iššoko pro nepaprastą slėnį dėl savo į robotą panašios išvaizdos. Ar vis dėlto yra vidurio kelias tarp šių dviejų fizinių pasirodymų, kurie nuveda mus į nepaprastą slėnį?

Galbūt pastebėjote gatve atvažiuojantį savaeigį automobilį ir atrodo, kad tai tikriausiai yra savaeigis automobilis, kita vertus, išvaizda nėra nei griežtai autonomiška, nei griežtai žmogaus valdoma. Galite ginčytis, kad savarankiškai vairuojantis automobilis dabar atrodo siaubingai arba kelia nerimą.

Savaeigis automobilis neva paniro į nepakartojamą slėnį.

Tai sakant, ne visi sutiktų su tokia klasifikacija. Kai kas tvirtintų, kad fizinė išvaizda neturi nieko bendra su nepaprastu slėniu. Kai kurie, žinoma, taip pat tvirtina, kad nėra nieko tikroviškai žinomo kaip nepaprastas slėnis.

Kaip minėta anksčiau, galite patys priimti sprendimą šiuo klausimu.

2. Klausimas, kur ieško savaeigiai automobiliai

Daugeliui kylantis susirūpinimas dėl savarankiškai važiuojančių automobilių yra tai, kad vairuotojo sėdynėje paprastai nesėdi žmogaus, todėl vairuodamas automobilį sunku suprasti, kur „vairuotojas“ žiūri.

Paprastai žiūrite į vairuotojus, kad šnipinėtų ten, kur jie ieško. Pavyzdžiui, galite būti pėsčiasis perėjoje, o automobilis artėja prie perėjos. Įdėmiai žiūrite į vairuotojo sėdynėje sėdintį asmenį ir bandote atskirti, kur pasukta jo galva ir kur žvelgia akys. Jei manote, kad vairuotojas žmogus jus matė, jums gali būti patogiau pereiti gatvę. Priešingai, jei žmogus vairuotojas jūsų nematė, jūs pagrįstai nerimaujate dėl perėjimo.

Kai kuriuose miestuose šiais aspektais vyrauja savotiškas katės ir pelės gambitas. Tam tikrame mieste tam tikra kultūrinė norma gali būti ta, kad jei užmezgi akių kontaktą su vairuotoju, vairuotojas „laimi“ ir jis, atrodo, turi teisę tęsti, nepaisant vairavimo situacijos teisėtumo. Kituose miestuose gali būti visiškai priešingai, ty kultūrinė norma yra ta, kad užmezgus akių kontaktą „laimi“ pėstysis, o žmogus vairuotojas turi nusileisti pėsčiojo veiksmams.

Atrodo, kad šį paprotį perėmėme per gana ilgą laiką, kai automobiliai buvo mūsų miestuose ir bendruomenėse. Savaeigių automobilių atsiradimo problema yra ta, kad vairuotojo sėdynėje nėra žmogaus, todėl dabar yra bet kuris pėsčiasis ar šalia esantis žmogus, kuris paprastai naudoja automobilio vairuotojo galvą ir akis kaip kultūrinį ketinimo vairuoti rodiklį. nesiseka.

Automobilių gamintojai ir savarankiškai vairuojančių automobilių kūrėjai puikiai žino apie šią kylančią problemą. Vienas iš siūlomų sprendimų yra tai, kad savarankiškai važiuojantis automobilis mirksėtų autonominio automobilio priekiniais žibintais arba, galbūt, duotų garsinį signalą. Kita idėja yra ta, kad savarankiškai važiuojantis automobilis gali turėti garsiakalbio variantą ir pasakyti šalia esantiems, kokie yra AI vairavimo sistemos „ketinimai“. Kiekviena iš šių idėjų turi reikšmingų minusų.

Tačiau kitoks pasiūlymas reiškia daryti tai, kas iš pradžių gali atrodyti juokinga. Pasiūlymą sudaro į akies obuolį panašūs rutuliai ant autonominės transporto priemonės išorės. Šie rutuliai iš esmės atrodytų kaip žmogaus akys, galintys pasisukti pirmyn ir atgal, o tai iš karto parodytų, kad dirbtinis intelektas jus „pamatė“ (tai aiškintumėte pagal akių obuolius, žiūrinčius jūsų konkrečia kryptimi). Aš išanalizavau šį metodą nuoroda čia.

Kokia būtų jūsų reakcija, jei pamatytumėte savaeigį automobilį, kuris važiuoja keliu ir ant variklio dangčio arba ant stogo būtų pritvirtinti šie dideli, keistai atrodantys rutuliukai?

Manau, jums gali atrodyti, kad tai baisu, o gal baisu.

Kai kas manytų, kad baisumas kyla dėl to, kad toks pat aprūpintas savarankiškai važiuojantis automobilis yra nepaprastame slėnyje. Kiti aršiai ginčytųsi, kad tai neturi nieko bendra su nepaprastu slėniu. Kai kurie iš tų žinovų pasakytų, kad yra baisumas, kuris gali būti baisus ir nebūtinai įsitvirtinęs nepaprastame slėnyje (ty keistas slėnis, regis, visada sukelia baisumą, bet ne visas baisumas sukuriamas tik per keistą slėnį). Kitas aspektas yra tai, kad rutuliai gali būti suprojektuoti taip, kad atrodytų ne tokie kaip akies obuoliai ir atrodytų labiau robotiški, arba kad mes visi neišvengiamai sutiksime su šių rutulių atsiradimu ir pradinė stulbinanti reakcija nurims.

3. Savaeigių automobilių AI vairavimo veiksmai

Daugelis šiandieninių savarankiškai vairuojančių automobilių bandymų parodė, kad esamos AI vairavimo sistemos paprastai yra užprogramuotos taip, kad važinėtų gana šaltai ir šiek tiek griežtai laikantis įstatymų. AI vairavimo sistema paprastai visiškai sustabdo savarankiškai vairuojantį automobilį prie „Stop“ ženklų. Dirbtinio intelekto sistema nedrįsta bėgti per sankryžas, kai šviesoforas netrukus užsidegs raudonai. Ši netvarkinga vairavimo praktika yra žmonių vairuotojų sritis.

Žodžiu, pagal demonstruojamą vairavimo stilių būtų galima beveik numanyti, kad savaeigis automobilis yra savaeigis automobilis. Net jei autonominė transporto priemonė vizualiai atrodytų kaip įprastas žmogaus vairuojamas automobilis, galite stebėti vairavimo veiksmus ir galbūt logiškai daryti išvadą, kad ją greičiausiai vairuoja AI sistema.

Kai kurie mano, kad dirbtinio intelekto vairavimo sistemas turėsime labiau panašėti į žmonių vairuotojų išdaigas, kad jos veiksmingai įsilietų į norminius vairavimo metodus. Manau, kad galėtumėte tai suprasti kaip gesinimą su ugnimi.

Ar tai prasminga daryti?

Žinokite, kad atviri skeptikai ir kritikai bjaurisi šia idėja. Jie atkakliai ginčytųsi, kad norime, kad dirbtinio intelekto vairavimo sistemos veiktų tinkamai ir atsargiai. Galimai milijonų savavaldžių automobilių įtraukimas į kelius, kurie yra užprogramuoti taip, kad būtų tarsi paklydę žmonės, atrodytų didžiulis košmaras. Aš aptariau šį prieštaringą pasiūlymą nuoroda čia.

Iš naujo išdėstykime dilemą pasinaudodami nepaprastu slėniu.

Kai dirbtinio intelekto vairavimo sistema yra griežtai teisėta dėl savo vairavimo veiksmų, tai galbūt yra signalas, kad tai greičiausiai yra robotų sistema (nepaisant to, kad vairuotojai žmonės tai daro, nors šiandieniniame pasaulyje jie atrodo toli ir nedaug). Jei dirbtinio intelekto vairavimo sistemos turi važiuoti taip keistai, kaip ir žmonės, ar tai šuolis per nepaprastą slėnį, ar patenka į keistą slėnį?

Apsvarstykite tai.

4. Robotai, kurie važiuoja kaip priemonė savarankiškai vairuoti

Šis paskutinis aprėpties elementas yra labiausiai stulbinantis iš šių keturių.

Galbūt visiškai nežinote, kad kai kurie AI kūrėjai bando sukurti robotus, kurie vairuotų automobilius. Robotas įvairiais atžvilgiais atrodytų kaip žmogus, jo galūnės yra robotų kojos ir robotų rankos. Jei norite, kad bet koks įprastas žmonių vairuojamas automobilis būtų savarankiškai važiuojantis automobilis, tiesiog įdėkite šį specializuotą dirbtinio intelekto robotą į savo automobilio vairuotojo sėdynę. Žiūrėkite mano šios sąvokos analizę adresu nuoroda čia.

Kodėl mes norėtume vairuoti robotus?

Tokio roboto grožis yra tas, kad visi šiandieniniai žmonių vairuojami automobiliai beveik per naktį gali tapti savarankiškai važiuojančiais automobiliais. Jūs tiesiog perkate, išsinuomojate ar kaip nors įsigyjate vairuojantį robotą. Važiuodami į vairavimo kelionę robotą pasisodinate į vairuotojo sėdynę. Robotas nuveža jus į tikslą. Jei norite pereiti prie žmogaus vairavimo, išimkite robotą iš transporto priemonės, galbūt įdėkite jį į bagažinę, kad vėliau galėtumėte naudoti.

Šiandien Jungtinėse Valstijose yra apie 250 milijonų įprastų automobilių. Kai kurie mano, kad atsiradus savaeigiams automobiliams, jie galiausiai bus sugadinti. Užuot išmetę tuos įprastus automobilius, galbūt pabandytume juos modifikuoti, kad jie taptų savarankiškai važiuojančiais automobiliais, nors tai gali būti gana brangi idėja. Iš pažiūros protingesnis požiūris būtų pateikti vairavimo robotus.

Jei pamatytumėte įprastos išvaizdos automobilį, važiuojantį jūsų kaimynystės gatve, o prie jo vairo būtų robotas, kokia būtų jūsų reakcija?

Tikėtina baisybė.

Vienas, be abejo, ginčytinas teiginys yra tas, kad šį baisumą lėmė įprastą automobilį vairuojantis robotas, nukritęs į garsųjį ar liūdnai pagarsėjusį nepaprastą slėnį.

Išvada

Žvelgiant iš etinio AI perspektyvos, keistas slėnis kelia intriguojančią mįslę.

Kai kurie AI visiškai tiki nepaprastu slėniu, o kiti netiki. Bet nesvarbu, ar tikite nepaprastu slėniu, ar nedarote, pati tema vis tiek yra apipinta. Negalite slėpti galvos ir apsimesti, kad konstrukcija per se neegzistuoja. Konstrukcija kaip idėja gyvuoja ir tam tikra išvaizda yra labai galinga. Nekentėk ar mylėk – prakeikta, o gal išaukštinta tema išlieka.

Remiantis mano ankstesniu diskursu apie nepaprasto slėnio nuopelnus dirbtinio intelekto etikos požiūriu, jame yra dvikovos meilės ir neapykantos santykiai. Ar etiško AI sferoje dirbantys žmonės turėtų priimti nepaprastą slėnį arba visiškai atmesti šį keistą slėnį, arba likti šiek tiek neutralūs dėl teisingumo ir vietoj to sutelkti dėmesį į poveikį, kuris atsiranda dėl nuolatinių skirtingų įsitikinimų apie tai.

Šis iššūkis atneša iškilųjį ekonomistą Adamą Smithą, kaip jis kažkada pasakė (perfrazuodamas), kad kelyje iš Skepticizmo miesto reikia praeiti per Dviprasmybės slėnį.