DI etika nerimauja dėl dirbtinio intelekto asimetrijos pablogėjimo, kai žmonės gauna trumpą lazdos galą

Kartais atsiduri netinkamame lazdos gale.

Tą šnekamąją kalbą galima pritaikyti asimetrijos sąvokai.

Taip, aš kalbėsiu apie asimetriją. Kaip tikriausiai teko susidurti šiame neramiame pasaulyje, kuriame gyvename, kartais galite pastebėti, kad turite mažiau žinių jums gana svarbiu klausimu. Tai oficialiai vadinama Informacijos asimetrija.

Svarbiausia yra tai, kad jūs turite mažiau žinių ar informacijos, nei norėtumėte turėti, be to, jūs tikrai turite mažiau nei kita su klausimu susijusi šalis. Jūs esate nepalankioje padėtyje, palyginti su kita šalimi. Jie žino tai, ko tu nežinai. Jie gali pasinaudoti tuo, ką žino, ypač kalbant apie tai, ko jūs nežinote, ir gauti pranašumą bet kokiuose grubiuose svarstymuose ar derybose su jumis.

Na, mieste yra naujas vaikas, žinomas kaip AI asimetrija.

Ši naujausia frazė nurodo galimybę kovoti prieš žmogų, kuris yra ginkluotas dirbtiniu intelektu, o jūs nesate toks ginkluotas.

Jie turi dirbtinį intelektą, o jūs turite tik jūs. Reikalai kraupi. Esate tariamai nepalankioje padėtyje. Kita pusė galės bėgti aplink jus, nes ją papildys AI. Tai gali atitikti garsųjį posakį, kad meilėje ir kare viskas yra teisinga (seniai sukurta patarlė Euphues John Lyly, 1578), nors dirbtinio intelekto asimetrijos dinamika ir pavojai kelia sudėtingų etinių AI problemų. Daugiau informacijos apie AI etiką ir etišką AI žr nuoroda čia ir nuoroda čia, Tik pavadinimas kelias.

Prieš pereidami į AI sritį ir jos gausų sudėtingumą, susijusį su AI asimetrija, pirmiausia panagrinėkime kasdienę įprastą paprastos senos informacijos asimetrijos versiją. Tai sudarys sąlygas pereiti prie patarlių AI naujojo bloko.

Trumpa ir tikslingai šviečianti pasaka gali sužadinti apetitą.

Kitą dieną kelyje nukišo padanga ir ieškojau greitai rasti tinkamą pakaitalą, kurį būtų galima nedelsiant sumontuoti. Naudodamas išmanųjį telefoną internete peržiūrėjau netoliese esančias padangų parduotuves, kad išsiaiškinčiau, kokį atstumą turiu nuvažiuoti su nuleista padanga ir ar nedirba kokios nors parduotuvės. Be to, greitai įvertinau jų internetinius klientų atsiliepimus ir bandžiau sužinoti ką nors naudingo apie tai, kiek laiko jie užsiima verslu, ir kitus veiksnius, galinčius parodyti jų tinkamumą.

Paskambinus į vieną padangų parduotuvę, tarnautojas man pateikė greitą padangos ir jos montavimo kainą. Padanga ne visai tokia, kokią turėjau galvoje, bet tarnautojas patikino, kad tai bus vienintelė parduotuvė rajone, kuri darbus galės atlikti iš karto. Tarnautojos teigimu, bet kurioje kitoje netoliese esančioje padangų parduotuvėje tokių padangų sandėlyje nebūtų ir prireiktų bent paros, kol tie konkurentai iš kokio nors pusiau tolimo sandėlio gautų tinkamą padangą.

Buvau informacijos asimetrijos viduryje.

Tarnautojas tikino žinantis daugiau apie vietinę padangų parduotuvių būklę ir ypač apie man reikalingų padangų tipą. Buvau vietovėje, kurią tik važiavau, ir neturėjau jokių žinių apie padangų parduotuves toje konkrečioje geografinėje vietovėje. Kiek aš žinojau, tarnautojas buvo dėmesingas ir pasakė man neaiškią tiesą.

Bet ar tarnautojas taip darė?

Gal taip gal ne.

Gali būti, kad tarnautojas nuoširdžiai tikėjo viskuo, kas man buvo perteikiama. Tarnautojui tai buvo tiesa. O gal tarnautojas kiek ištempė tiesą. Gali būti, kad tai, kas buvo pasakyta, gali būti tiesa, nors tai, kaip tai buvo vaizduojama, reiškė, kad tai buvo visiška ir nepaneigiama tiesa. Žinoma, tai galėjo būti ir visiška netvarka, o tarnautojas tik šilavo padangų parduotuvei, kad sukauptų mano verslą. Ar galėjo būti suplanuota sultinga komisija?

Drįstu teigti, kad niekam nepatinka būti tokioje nepalankioje padėtyje.

Situacijos rizika yra labai svarbus veiksnys, lemiantis informacijos asimetrijos svarbą. Jei nagrinėjamas klausimas yra gyvybės ar mirties pobūdis, buvimas šunų namelyje ir pasitikėjimas antrosios pusės tuo, ką jie žino ar teigia žinąs, yra eskizinė ir labai nepageidautina poza. Kai rizika maža , pvz., užsisakę vakarienę restorane, o serveris jums pasakys, kad žuvies patiekalas yra dangiškas, bet jūs ten niekada nevalgėte ir esate nepakankamai informuotas, galite susitaikyti su tokia informacijos asimetrijos dalimi be didelio nerimo (I taip pat tarkime, kad jūs taip pat lažinatės, kad serveris nerizikuotų duoti rūgščių patarimų ir negauti tinkamo arbatpinigių).

Grįžtant prie susidėvėjusių padangų istorijos (žaismas!), nebūčiau turėjęs akimirksniu išsiaiškinti, ar tarnautojas man pateikė patikimų ir informatyvių įžvalgų. Jums gali kilti klausimas, kas atsitiko. Nusprendžiau paskambinti į keletą kitų netoliese esančių padangų parduotuvių.

Ar esate pasiruošę tam, ką atradau?

Visose kitose padangų parduotuvėse mano norimos padangos buvo sandėlyje ir nesiruošė mirktelėti ir įtikinti manęs paimti kitą padangą (kaip bandė padaryti pirmasis darbuotojas). Jie taip pat galėtų atlikti darbą per tą patį laikotarpį, kaip ir pirmoji padangų parduotuvė, į kurią galbūt paskambinau. Maždaug už tą pačią kainą.

Užtikrinu jus, iš mano pusės atsiduso sveikintinas palengvėjimas.

Ironiška, bet Merfio nesėkmės dėsnyje pirmoji vieta, į kurią susisiekiau, buvo vienintelė, kuri tarsi išėjo pietauti. Džiaugiuosi, kad siekiau gauti daugiau informacijos. Tai sumažino informacijos asimetrijos atotrūkį. Plojau sau už tai, kad laikiausi savo ginklų ir nepatekau į pirmą vietą, į kurią paskambinau.

Be to, papildomos informacijos gavimas turėjo tam tikrų išlaidų. Atlikau maždaug keturis skambučius, kurių kiekvienas užtruko maždaug nuo penkiolikos iki dvidešimties minučių. Šia prasme išnaudojau apie pusantros valandos, kol tik sugalvojau, kur nuvežti savo automobilį. Jei būčiau nedelsdamas paėmęs savo automobilį į tą pirmąją vietą, tuo metu naujos padangos beveik būtų ant mano automobilio. Kita vertus, beveik neabejotinai vėliau būčiau gailėjęsis dėl greito sprendimo, kurį priėmiau būdamas niūriame informacijos asimetrijos tinkle.

Kartais tenka sukąsti dantis ir priimti bauginamą Informacijos asimetriją, kaip ji ateina. Jūs tiesiog tikitės, kad bet koks jūsų sprendimas bus pakankamai geras. Tai gali būti ne „tobulas“ sprendimas ir vėliau galite gailėtis dėl savo pasirinkimo. Kitas aspektas yra tai, kad galite pabandyti sustiprinti savo informacijos lygties pusę, nors tai nebūtinai yra nemokama ir taip pat gali sugaišti brangų laiką, atsižvelgiant į tai, ar branginamas laikas yra esminis.

Dabar, kai neabejotinai jaučiatės paguodę, kad mano automobilis puikiai važiuoja su visiškai nauja ir tinkama padanga, galiu pereiti prie AI asimetrijos atsiradimo.

Apsvarstykite AI pasaką apie vargą.

Jūs siekiate gauti būsto paskolą. Yra internetinis hipotekos prašymo analizatorius, kurį naudoja konkretus bankas. Internetinė sistema naudoja šiuolaikines pažangias AI galimybes. Nereikia kalbėtis su žmogiškųjų paskolų suteikimo agentu. AI daro viską.

AI sistema pateikia daugybę raginimų. Jūs pareigingai pildote formas ir atsakote į AI sistemą. Šis AI yra labai plepus. Nors anksčiau galbūt naudojote įprastą kompiuterinę formų sistemą, šis AI variantas labiau panašus į sąveiką su žmogaus agentu. Ne visai, bet pakankamai, kad beveik imtum tikėti, jog žmogus yra kitoje šios veiklos pusėje.

Po to, kai padarysite viską, kad „aptartumėte“ jūsų prašymą su šiuo AI, galiausiai jis praneša, kad, deja, paskolos prašymas nepatvirtintas. Jums atrodo, kad dirbtinis intelektas atsiprašė, tarsi AI norėtų patvirtinti paskolą, bet tie niekšingi žmonės, prižiūrintys banką, neleis AI to padaryti. Norėdami sužinoti, kokie klaidinantys yra tokie tariami AI atsiprašymai, žr nuoroda čia.

Jūs nežinote, kodėl jus atmetė. AI nepateikia jokio paaiškinimo. Galbūt AI padarė klaidą arba supainiojo skaičiavimus. Dar blogiau, tarkime, kad priimdamas sprendimą dėl paskolos AI atsižvelgė į kai kuriuos labai abejotinus aspektus, pvz., jūsų rasę ar lytį. Viskas, ką žinote, yra tai, kad atrodė, kad iššvaistėte savo laiką ir tuo tarpu perdavėte daugybę privačių duomenų AI ir bankui. Jų dirbtinis intelektas jus aplenkė.

Tai būtų pažymėta kaip AI asimetrijos pavyzdys.

Tai tu prieš banką. Bankas buvo ginkluotas AI. Jūs nebuvote vienodai ginkluoti. Turėjai savo sąmojį ir išminties mokyklą, bet tavo užpakalinėje kišenėje nebuvo dirbtinio intelekto. Protas prieš mašiną. Deja, mašina šiuo atveju laimėjo.

Ką daryti?

Pirma, visuomeniniu pagrindu turime suvokti, kad ši AI asimetrija auga ir tampa beveik visur. Žmonės su dirbtiniu intelektu susiduria visose sistemose, su kuriomis kasdien bendraujame. Kartais AI yra vienintelis elementas, su kuriuo sąveikaujame, pvz., šiame pavyzdyje apie paskolos užklausą. Kitais atvejais žmogus gali būti grandinėje, kuri pasikliauja AI, padedančia atlikti tam tikrą paslaugą. Dėl paskolos gali būti, kad bankas paprašys, kad jūs pasikalbėtumėte su žmogiškuoju agentu, o ne bendrautumėte su dirbtiniu intelektu, tačiau šis asmuo naudoja kompiuterinę sistemą, kad pasiektų dirbtinį intelektą, kuris vadovauja žmogiškajam agentui paskolos prašymo proceso metu. (ir jūs beveik visada esate tikri, kad žmogaus agentas elgsis taip, tarsi jis būtų įkalintas, nes turi griežtai daryti viską, ką AI „liepia“).

Bet kuriuo atveju AI vis dar yra mišinyje.

Antra, turime pabandyti užtikrinti, kad dirbtinio intelekto asimetrija būtų bent jau atliekama remiantis etikos principu.

Leiskite man paaiškinti tą, atrodytų, keistą pastabą. Matote, jei galime būti tikri, kad dirbtinis intelektas elgiasi etiškai pagrįstai, galėtume šiek tiek paguosti dėl egzistuojančios asimetrijos. Analogiškai, bet taip pat laisvai, galite pasakyti, kad jei mano bendravimas su pirmuoju padangų parduotuvės pardavėju būtų turėjęs kokių nors griežtų etikos gairių ir jos būtų įgyvendintos, galbūt man nebūtų pasakyta istorija, kuri man buvo pasakyta, arba bent jau aš. Galbūt nereikėjo iš karto ieškoti, ar man buvo pasakojama aukšta pasaka.

Netrukus paaiškinsiu daugiau apie AI etiką.

Trečia, turėtume ieškoti būdų, kaip sumažinti AI asimetriją. Jei turėjote dirbtinį intelektą, kuris buvo jūsų pusėje ir siekiate būti jūsų treneriu ar gynėju, galbūt galėtumėte panaudoti tą DI, kad galėtumėte susidoroti su kitu DI, su kuriuo bendraujate. Kaip sakoma, kartais labai prasminga kovoti su ugnimi ugnimi.

Prieš pradėdami daugiau kalbėti apie laukinius ir neviltinius AI asimetrijos pagrindus, nustatykime keletą papildomų esminių dalykų. Turime trumpai pasinerti į AI etiką ir ypač mašininio mokymosi (ML) ir giluminio mokymosi (DL) atsiradimą.

Galbūt miglotai žinote, kad vienas garsiausių balsų šiais laikais dirbtinio intelekto srityje ir net už AI ribų yra reikalavimas siekti didesnio etiško AI panašumo. Pažiūrėkime, ką reiškia AI etika ir etiška AI. Be to, išnagrinėsime, ką turiu omenyje kalbėdamas apie mašininį mokymąsi ir gilųjį mokymąsi.

Vienas konkretus dirbtinio intelekto etikos segmentas arba dalis, sulaukianti daug žiniasklaidos dėmesio, yra dirbtinis intelektas, pasižymintis nepageidaujamu šališkumu ir nelygybe. Galbūt žinote, kad prasidėjus naujausiai AI erai, buvo didžiulis entuziazmo pliūpsnis dėl to, ką kai kas dabar vadina. AI for Good. Deja, ant kulnų to trykštančio jaudulio pradėjome liudyti AI For Bad. Pavyzdžiui, buvo atskleista, kad įvairios dirbtiniu intelektu pagrįstos veido atpažinimo sistemos turi rasinių ir lyčių tendencijų, kurias aptariau nuoroda čia.

Pastangos atsispirti AI For Bad aktyviai vyksta. Be garsaus juridinis Siekdami suvaldyti neteisėtus veiksmus, taip pat yra esminis postūmis priimti dirbtinio intelekto etiką, siekiant ištaisyti DI niekšybę. Manoma, kad turėtume priimti ir patvirtinti pagrindinius etinio AI principus, skirtus dirbtinio intelekto vystymui ir plėtrai, taip siekdami sumažinti AI For Bad ir tuo pat metu skelbti ir reklamuoti tai, kas geriausia AI for Good.

Kalbant apie tai, aš pasisakau už bandymą panaudoti AI kaip AI bėdų sprendimo dalį, tokiu būdu kovojant su ugnimi ugnimi. Pavyzdžiui, galime įterpti etiškus AI komponentus į AI sistemą, kuri stebės, kaip veikia likusi AI dalis, ir taip realiuoju laiku gali užfiksuoti bet kokias diskriminacines pastangas, žr. mano diskusiją adresu nuoroda čia. Taip pat galėtume turėti atskirą AI sistemą, kuri veiktų kaip AI etikos monitorius. AI sistema tarnauja kaip prižiūrėtojas sekti ir aptikti, kada kitas DI patenka į neetišką bedugnę (žr. mano tokių galimybių analizę adresu nuoroda čia).

Netrukus pasidalinsiu su jumis kai kuriais pagrindiniais AI etikos principais. Šen bei ten sklando daugybė tokių sąrašų. Galima sakyti, kad dar nėra vienintelio visuotinio patrauklumo ir sutapimo sąrašo. Tai liūdna žinia. Geros naujienos yra tai, kad bent jau yra lengvai prieinami AI etikos sąrašai ir jie paprastai yra gana panašūs. Apskritai tai rodo, kad tam tikra pagrįsto konvergencijos forma randame kelią link bendro AI etikos bendrumo.

Pirma, trumpai apžvelgsime kai kuriuos bendrus etinio AI nurodymus, kad parodytume, kas turėtų būti gyvybiškai svarbi kiekvienam, kuriančiam, besikuriančiam ar naudojančiam AI.

Pavyzdžiui, kaip teigia Vatikanas Roma ragina dirbtinio intelekto etiką ir kaip aš išsamiai aprašiau nuoroda čia, tai yra šeši pagrindiniai AI etikos principai:

• Skaidrumas: Iš esmės AI sistemos turi būti paaiškinamos
• Įtraukimas: Turi būti atsižvelgta į visų žmonių poreikius, kad visi galėtų gauti naudos, o visiems būtų sudarytos geriausios sąlygos išreikšti save ir tobulėti.
• Atsakomybė: Tie, kurie kuria ir diegia dirbtinio intelekto naudojimą, turi elgtis atsakingai ir skaidriai
• Nešališkumas: Nekurkite ir nesielkite pagal šališkumą, taip saugodami sąžiningumą ir žmogaus orumą
• Patikimumas: AI sistemos turi veikti patikimai
• Saugumas ir privatumas: AI sistemos turi veikti saugiai ir gerbti vartotojų privatumą.

Kaip teigia JAV gynybos departamentas (DoD) savo Dirbtinio intelekto naudojimo etiniai principai ir kaip aš išsamiai aprašiau nuoroda čia, tai yra šeši pagrindiniai AI etikos principai:

• Atsakingas: DoD darbuotojai laikysis tinkamo lygio sprendimo ir rūpestingumo, likdami atsakingi už AI galimybių kūrimą, diegimą ir naudojimą.
• Teisingas: Departamentas imsis apgalvotų veiksmų, kad sumažintų nenumatytą AI galimybių paklaidą.
• Atsekama: Departamento dirbtinio intelekto pajėgumai bus plėtojami ir naudojami taip, kad atitinkami darbuotojai tinkamai išmanytų technologijas, kūrimo procesus ir veikimo metodus, taikomus dirbtinio intelekto pajėgumams, įskaitant skaidrias ir audituojamas metodikas, duomenų šaltinius ir projektavimo procedūras bei dokumentus.
• patikimas: Departamento dirbtinio intelekto pajėgumai bus aiškiai ir tiksliai apibrėžti, o tokių galimybių sauga, saugumas ir veiksmingumas bus tikrinamas ir užtikrinamas pagal nustatytus naudojimo būdus per visą jų gyvavimo ciklą.
• Valdomas: Departamentas suprojektuos ir suprojektuos dirbtinio intelekto pajėgumus, kad jie galėtų atlikti numatytas funkcijas, tuo pat metu turėdami galimybę aptikti ir išvengti nenumatytų pasekmių bei išjungti arba išjungti įdiegtas sistemas, kurios demonstruoja nenumatytą elgesį.

Taip pat aptariau įvairias kolektyvines dirbtinio intelekto etikos principų analizes, įskaitant tyrėjų parengtą rinkinį, kuris išnagrinėjo ir apibendrino daugelio nacionalinių ir tarptautinių AI etikos principų esmę straipsnyje „Pasaulinis AI etikos gairių kraštovaizdis“ (paskelbtas). in Gamta), ir kad mano aprėptis nagrinėjama adresu nuoroda čia, dėl kurio atsirado šis kertinių akmenų sąrašas:

• Skaidrumas
• Teisingumas ir sąžiningumas
• Nepiktybiškumas
• atsakomybė
• Privatumo politika
• Gerumas
• Laisvė ir autonomija
• Pasitikėkite
• Tvarumas
• orumas
• Solidarumas

Kaip galite tiesiogiai atspėti, gali būti labai sunku nustatyti šių principų ypatumus. Dar daugiau, pastangos tuos plačius principus paversti kažkuo visiškai apčiuopiamu ir pakankamai išsamiu, kad būtų galima panaudoti kuriant AI sistemas, taip pat yra sunkus riešutas. Apskritai lengva pamojuoti rankomis apie tai, kas yra AI etikos nuostatos ir kaip jų apskritai reikėtų laikytis, o daug sudėtingesnė situacija, kai dirbtinio intelekto kodavimas turi būti tikra guma, atitinkanti kelią.

DI etikos principus turi naudoti DI kūrėjai, taip pat tie, kurie valdo dirbtinio intelekto kūrimo pastangas, ir netgi tie, kurie galiausiai kuria ir atlieka AI sistemų priežiūrą. Visos suinteresuotosios šalys per visą DI kūrimo ir naudojimo ciklą laikosi nustatytų etiško AI normų. Tai yra svarbus akcentas, nes įprasta prielaida, kad „tik koduotojai“ arba tie, kurie programuoja AI, turi laikytis AI etikos sąvokų. Kaip minėta anksčiau, dirbtinio intelekto kūrimui ir įgyvendinimui reikia kaimo, kuriame visas kaimas turi išmanyti dirbtinio intelekto etikos nuostatas ir jų laikytis.

Taip pat įsitikinkime, kad esame tame pačiame puslapyje apie šiandienos AI prigimtį.

Šiandien nėra jokio jautraus dirbtinio intelekto. Mes šito neturime. Mes nežinome, ar jautrus AI bus įmanomas. Niekas negali tiksliai nuspėti, ar pasieksime jausmingą AI, nei ar jausmingasis AI kažkaip stebuklingai spontaniškai atsiras kompiuterinės kognityvinės supernovos pavidalu (dažniausiai vadinama singuliarumu, žr. mano aprėptį adresu nuoroda čia).

AI, į kurį daugiausia dėmesio skiriu, tipas susideda iš nejautrio DI, kurį šiandien turime. Jei norėtume pašėlusiai spėlioti apie jautrus AI, ši diskusija gali vykti radikaliai kita kryptimi. Jausmingas AI tariamai būtų žmogiškos kokybės. Turėtumėte atsižvelgti į tai, kad jautrus AI yra pažintinis žmogaus atitikmuo. Be to, kadangi kai kurie spėja, kad galime turėti itin intelektualų AI, galima įsivaizduoti, kad toks DI gali būti protingesnis už žmones (dėl mano, kaip galimo itin intelektualaus DI, tyrinėjimo žr. aprėptis čia).

Laikykime dalykus žemiškesniems ir apsvarstykime šiandieninį kompiuterinį nejautinį AI.

Supraskite, kad šiandieninis dirbtinis intelektas nesugeba „mąstyti“ niekaip, kaip ir žmogaus mąstymas. Kai bendraujate su „Alexa“ ar „Siri“, pokalbio gebėjimai gali atrodyti panašūs į žmogaus gebėjimus, tačiau realybė yra tokia, kad tai skaičiuojama ir jam trūksta žmogaus pažinimo. Naujausioje AI eroje plačiai naudojamas mašininis mokymasis (ML) ir gilusis mokymasis (DL), kurie naudoja skaičiavimo modelių suderinimą. Tai paskatino dirbtinio intelekto sistemas, kurios atrodo kaip žmogaus polinkiai. Tuo tarpu šiandien nėra nė vieno dirbtinio intelekto, kuris turėtų sveiko proto ir kognityvinio nuostabaus tvirto žmogaus mąstymo.

ML/DL yra skaičiavimo modelių derinimo forma. Įprastas būdas yra rinkti duomenis apie sprendimo priėmimo užduotį. Duomenis tiekiate į ML/DL kompiuterių modelius. Šie modeliai siekia rasti matematinius modelius. Radusi tokius modelius, jei taip bus, AI sistema naudos tuos modelius, kai susidurs su naujais duomenimis. Pateikus naujus duomenis, dabartiniam sprendimui priimti taikomi modeliai, pagrįsti „senais“ arba istoriniais duomenimis.

Manau, galite atspėti, kur tai link. Jei žmonės, priimdami pagrįstus sprendimus, įtraukė nepalankų šališkumą, tikėtina, kad duomenys tai atspindi subtiliai, bet reikšmingai. Mašininio mokymosi arba giluminio mokymosi skaičiavimo modelių derinimas tiesiog bandys atitinkamai matematiškai imituoti duomenis. AI sukurtame modeliavime per se nėra jokio sveiko proto ar kitų jautrių aspektų.

Be to, AI kūrėjai taip pat gali nesuprasti, kas vyksta. Dėl paslaptingos matematikos ML/DL gali būti sunku išsklaidyti dabar paslėptus šališkumus. Jūs pagrįstai tikėtumėte ir tikitės, kad AI kūrėjai išbandys galimai palaidotus šališkumus, nors tai yra sudėtingiau, nei gali atrodyti. Yra didelė tikimybė, kad net ir atlikus gana platų testavimą, ML/DL modelių atitikimo modeliuose vis tiek bus paklaidų.

Galite šiek tiek pasinaudoti garsiuoju ar liūdnai pagarsėjusiu posakiu apie šiukšlių išvežimą. Reikalas tas, kad tai labiau panašu į šališkumą, kuris klastingai įsiskverbia į AI paskendusį šališkumą. AI sprendimų priėmimo algoritmas (ADM) aksiomatiškai apkraunamas nelygybe.

Negerai.

Grįžkime prie mūsų dėmesio AI asimetrijai.

Greita mano pirmiau minėtų trijų nustatytų rekomendacijų apžvalga yra tokia:

1) Supraskite, kad dirbtinio intelekto asimetrija egzistuoja ir auga

2) Siekite užtikrinti, kad AI asimetrija būtų apribota AI etika

3) Pabandykite kovoti su AI asimetrija, apsiginkluodami DI

Pastarąjį ugnies gesinimo ugnimi tašką panagrinėsime atidžiau.

Įsivaizduokite, kad ieškodami paskolos turėjote dirbtinį intelektą, kuris padėjo jūsų pastangoms. Tai gali būti AI pagrįsta programa jūsų išmaniajame telefone, skirta paskoloms gauti. Tai nėra vieno iš bankų sukurta programa, o sukurta atskirai veikti jūsų vardu. Aš išsamiai aprašiau šias programas savo knygoje apie AI pagrindu veikiančius angelus sargus, žr nuoroda čia.

Pateikdami paraišką dėl paskolos, galite kreiptis į šią programą, nes kitas AI jums patikslins paraiškos teikimo procesą. Šios dvi AI sistemos yra skirtingos ir visiškai atskirtos viena nuo kitos. Jūsų išmaniajame telefone esantis dirbtinis intelektas buvo „apmokytas“ žinoti visas gudrybes, kurias naudoja kitas AI. Taigi atsakymai, kuriuos įvesite į banko AI, bus pagrįsti tuo, ką jums pataria jūsų AI.

Kitas variantas – jūsų AI atsakymas į kito AI pateiktus klausimus. Kiek gali išsiaiškinti kitas AI, atsakymus įvedate jūs. Vietoj to galite tiesiog stebėti, kaip vyksta dviejų kovojančių AI sistemų sąveika. Tai leidžia pamatyti, ką siūlo jūsų AI. Be to, galite koreguoti savo AI, atsižvelgdami į tai, ar esate patenkinti tuo, ką jūsų AI daro jūsų vardu.

Prognozavau, kad mes visi palaipsniui apsiginkluosime dirbtiniu intelektu, kuris bus mūsų pusėje šiose DI asimetrijos situacijose.

Pasvarstykime, kaip tai pavyks.

Tai yra kertinis poveikis AI asimetrijos sąlygai, kurią aš nustatiau:

• AI asimetrijos išlyginimas jūsų naudai (kelia jus aukštyn, tikėdamasis pasiekti vienodą lygį)
• AI asimetrijos skatinimas jūsų naudai (padidinti jus į pranašumą, kai jau esate lygūs)
• AI asimetrijos padidinimas jūsų nepaprastam palankumui (įgyti didesnį pranašumą, kai jau turi pranašumą)
• Netyčinis AI asimetrijos sumažinimas jūsų nepalankiai (kai turėjote pranašumą ir dirbtinis intelektas netyčia jus nuvertė)

Laikas giliai pasinerti į šias intriguojančias galimybes.

AI asimetrijos išlyginimas jūsų naudai

AI asimetrijos išlyginimas yra akivaizdžiausias ir dažniausiai aptariamas svarstymas, ty apsiginkluoti dirbtiniu intelektu ir pabandyti pereiti prie pirštų, kai DI naudojasi kita puse nagrinėjamu klausimu. AI asimetrijos nustatymas prasidėjo nuo jūsų nepalankios padėties. Savo kampe neturėjote AI. Jūs buvote žemoje dalykų pusėje. Kitoje pusėje buvo AI ir jie buvo aukščiau.

Taigi jūs išmintingai apsiginklavote dirbtiniu intelektu, kuris jums ir kitam AI sudarytų vienodas sąlygas.

Vienas svarbus ir galbūt stebinantis niuansas, kurį reikia nepamiršti, yra tai, kad naudojamos AI sistemos ne visada bus tolygiai subalansuotos. Galite apsiginkluoti dirbtiniu intelektu, kuris, sakysime, yra mažiau galingas nei kitos pusės naudojamas AI. Laimei, tokiu atveju jūs padidinote savo neigiamą poziciją, nors dabar nesate visiškai lygus kitai pusei ir jos AI.

Štai kodėl aš tai vadinu AI asimetrijos išlyginimu. Galbūt pavyks susiaurinti spragą, nors ir ne iki galo. Galutinis tikslas būtų naudoti dirbtinį intelektą savo pusėje, kad galėtumėte pasiekti visiškai vienodą laikyseną. Reikalas tas, kad tai gali būti įmanoma arba ne. Kita pusė gali turėti tikrai brangų AI, o jūs bandote konkuruoti su taupia AI versija.

Ne visi AI yra vienodi.

AI asimetrijos skatinimas jūsų naudai

Ši aplinkybė šiandien nėra daug diskutuojama, iš dalies todėl, kad šiuo metu ji yra reta. Kada nors tai bus įprasta. Manoma, kad nesate be AI ir vis dėlto esate lygioje vietoje su ta puse, kuri turi AI.

Tau gerai.

Žmonės turi savo proto apie juos.

Tačiau galbūt norėsite įgyti pranašumą prieš kitą pusę. Apsiginklavimas dirbtiniu intelektu nukelia jus į aukščiausią žemę. Dabar turite savo protą ir patikimą AI. Jūs įgijote pranašumą, kuris greičiausiai nugalės prieš kitos pusės AI.

AI asimetrijos didinimas jūsų nepaprastam palankumui

Naudodami panašią logiką kaip AI asimetrijos skatinimą jūsų vardu, tarkime, kad jūs jau viršijate kitos pusės, kuri naudoja AI, galimybes. Taigi, jūs pradedate ne vienodai. Laimei, jūs jau esate viršuje.

Galbūt norėsite užsitikrinti dar didesnį pranašumą. Todėl jūs apsiginkluojate dirbtiniu intelektu. Tai pakelia jūsų galvą ir pečius aukščiau kitos pusės.

Netyčinis AI asimetrijos sumažinimas jūsų nepalankiai

Abejoju, ar norite išgirsti apie šią galimybę. Atminkite, kad dirbti su dirbtiniu intelektu ne tik rožės ir ledų pyragaičiai.

Gali būti, kad kai apsiginkluojate dirbtiniu intelektu, jūs iš tikrųjų sumažinate save. Jei jau buvote mažesnis už kitos pusės AI, dabar esate gilesnėje duobėje. Jei buvote vienodomis sąlygomis, dabar esate nepalankioje padėtyje. Jei buvai virš kitos pusės, dabar esi lygus jai arba žemiau jos.

Kaip tai galėjo atsitikti?

Galite būti šokiruoti pagalvoję, kad jūsų priimtas dirbtinis intelektas jus suklaidins. Tai gali lengvai įvykti. Tai, kad jūsų kampe yra AI, dar nereiškia, kad jis naudingas. Galbūt naudojate dirbtinį intelektą ir jis teikia patarimų, kurie, jūsų manymu, nebūtinai tinkami, bet vis tiek nusprendžiate jį naudoti. Tuo metu jūsų logika buvo tokia, kad kadangi jūs stengėtės gauti AI, jūs taip pat galėjote juo pasikliauti.

Jūsų naudojamas AI gali būti sugedęs. Arba tai gali būti blogai sugalvota. Yra daugybė priežasčių, kodėl AI gali duoti jums nepatogių patarimų. Tie, kurie aklai priima viską, ką AI liepia daryti, būtinai atsidurs įskaudintame pasaulyje. Savo stulpelyje aprašiau tokias keblias situacijas, pvz nuoroda čia.

Esmė ta, kad nėra jokios garantijos, kad vien todėl, kad apsiginkluosite dirbtiniu intelektu, laimėsite AI asimetrijos žaidimą.

Galite pasiekti vienodas sąlygas. Galite įgyti pranašumą. Ir, deja, turite būti atsargiems, nes gali būti, kad apsiginklavęs dirbtiniu intelektu nusileisite žemyn.

Tam tikru mastu AI etika ir etinis AI yra tokia svarbi tema. Dirbtinio intelekto etikos nuostatos verčia mus išlikti budriems. AI technologai kartais gali būti susirūpinę technologijomis, ypač aukštųjų technologijų optimizavimu. Jie nebūtinai atsižvelgia į didesnius visuomenės padarinius. Norint sukurti tinkamą AI, labai svarbu turėti DI etikos mąstymą ir tai daryti neatsiejamai nuo AI kūrimo ir veiklos.

Be dirbtinio intelekto etikos taikymo, kyla atitinkamas klausimas, ar turėtume turėti įstatymus, reglamentuojančius įvairius AI naudojimo būdus. Federaliniu, valstijos ir vietiniu lygmenimis rengiami nauji įstatymai, susiję su DI kūrimo įvairove ir pobūdžiu. Pastangos rengti ir priimti tokius įstatymus vyksta laipsniškai. Dirbtinio intelekto etika yra bent jau apsvarstyta priemonė ir beveik neabejotinai tam tikru mastu bus tiesiogiai įtraukta į tuos naujus įstatymus.

Žinokite, kad kai kurie griežtai tvirtina, kad mums nereikia naujų įstatymų, apimančių AI, ir kad mūsų esamų įstatymų pakanka. Tiesą sakant, jie įspėja, kad jei priimsime kai kuriuos iš šių dirbtinio intelekto įstatymų, užmušime auksinę žąsį, apribodami DI pažangą, teikiančią didžiulių socialinių pranašumų. Pavyzdžiui, žiūrėkite mano aprėptį adresu nuoroda čia ir nuoroda čia.

Šioje svarbioje diskusijoje aš galiu lažintis, kad norite pateikti keletą iliustruojančių pavyzdžių, kurie galėtų parodyti šią temą. Yra ypatingas ir neabejotinai populiarus pavyzdžių rinkinys, kuris man prie širdies. Matote, kaip dirbtinio intelekto, įskaitant etines ir teisines pasekmes, ekspertas, manęs dažnai prašoma pateikti realių pavyzdžių, atskleidžiančių DI etikos dilemas, kad būtų galima lengviau suvokti šiek tiek teorinį temos pobūdį. Viena iš įdomiausių sričių, ryškiai pristatančių šią etišką AI kliūtį, yra dirbtinio intelekto pagrindu sukurtų tikrų savaeigių automobilių atsiradimas. Tai bus patogus naudojimo atvejis arba pavyzdys plačioms diskusijoms šia tema.

Štai vertas dėmesio klausimas, kurį verta apsvarstyti: Ar dirbtinio intelekto pagrindu sukurtų tikrų savaeigių automobilių atsiradimas ką nors nušviečia apie AI asimetriją, ir jei taip, ką tai parodo?

Leiskite man akimirką išpakuoti klausimą.

Pirma, atkreipkite dėmesį, kad tikrai savarankiškai vairuojančiame automobilyje nėra žmogaus vairuotojo. Atminkite, kad tikri savarankiškai važiuojantys automobiliai yra valdomi naudojant AI vairavimo sistemą. Nereikia, kad prie vairo būtų vairuotojas žmogus, taip pat nėra numatyta, kad žmogus galėtų vairuoti transporto priemonę. Išsamią ir nuolatinę informaciją apie autonomines transporto priemones (AV) ir ypač apie savarankiškai važiuojančius automobilius žr. nuoroda čia.

Norėčiau dar labiau paaiškinti, ką turiu omenyje, kai kalbu apie tikrus savarankiškai vairuojančius automobilius.

Suprasti savarankiškų automobilių lygį

Paaiškinkime, kad tikrieji savarankiškai važiuojantys automobiliai yra tie, kuriuose dirbtinis intelektas vairuoja automobilį visiškai savarankiškai ir atliekant vairavimo užduotį nėra jokios žmogaus pagalbos.

Šios transporto priemonės be vairuotojo laikomos 4 ir 5 lygiais (žr. mano paaiškinimą adresu šią nuorodą čia), o automobilis, kurio vairuotojas turi pasidalyti vairavimo pastangomis, paprastai laikomas 2 arba 3 lygiu. Automobiliai, kurie kartu atlieka vairavimo užduotį, apibūdinami kaip pusiau savarankiški ir paprastai juose yra įvairių automatiniai priedai, vadinami ADAS (išplėstinės vairuotojo pagalbos sistemos).

Dar nėra tikro savarankiškai važiuojančio 5 lygio automobilio, ir mes dar net nežinome, ar tai bus įmanoma pasiekti, nei kiek užtruks iki jo pasiekti.

Tuo tarpu 4 lygio pastangos pamažu bando įgyti šiek tiek traukos atlikdami labai siaurus ir selektyvius viešųjų kelių bandymus, nors kyla ginčų dėl to, ar šis bandymas turėtų būti leidžiamas per se (mes visi esame gyvybės ar mirties jūrų kiaulytės eksperimente vyksta mūsų greitkeliuose ir pakelėse, kai kurie tvirtina, žr. mano aprėptį adresu šią nuorodą čia).

Kadangi pusiau autonominiams automobiliams reikalingas žmogiškas vairuotojas, šių tipų automobiliai bus žymiai kitokie nei vairuojant įprastas transporto priemones, todėl apie juos šioje temoje nėra daug naujų, tačiau, kaip pamatysite po akimirkos kiti taškai yra paprastai taikomi).

Dėl pusiau autonominių automobilių svarbu, kad visuomenė būtų perspėta apie nerimą keliantį aspektą, kuris pastaruoju metu iškyla, būtent, kad nepaisant tų vairuotojų, kurie nuolat skelbia vaizdo įrašus apie tai, kaip jie užmiega prie 2 ar 3 lygio automobilių vairo , visi turime vengti klaidinti manydami, kad vairuotojas, vairuodamas pusiau autonominį automobilį, gali atitraukti dėmesį nuo vairavimo užduoties.

Jūs esate atsakingas už transporto priemonės vairavimo veiksmus, nepaisant to, kiek automatikos gali būti išmesta į 2 ar 3 lygį.

Savarankiškai važiuojantys automobiliai ir AI asimetrija

Tikrosios 4 ir 5 lygio savarankiškai vairuojančioms transporto priemonėms vairuotojo užduotis nebus skirta žmonėms.

Visi keleiviai bus keleiviai.

AI vairuoja.

Vienas aspektas, kurį reikia nedelsiant aptarti, reiškia, kad dirbtinis intelektas, dalyvaujantis šiandieninėse dirbtinio intelekto vairavimo sistemose, nėra jausmingas. Kitaip tariant, dirbtinis intelektas yra kompiuterinio programavimo ir algoritmų kolektyvas, kuris, be abejo, negali samprotauti taip, kaip gali žmonės.

Kodėl taip pabrėžiama, kad AI nėra jautrus?

Nes noriu pabrėžti, kad aptardamas dirbtinio intelekto vairavimo sistemos vaidmenį, aš AI nepriskiriu žmogaus savybių. Turėkite omenyje, kad šiomis dienomis yra nuolatinis ir pavojingas polinkis antropomorfizuoti AI. Iš esmės žmonės priskiria žmonėms panašų jausmą šiandieniniam dirbtiniam intelektui, nepaisant neginčijamo ir neginčijamo fakto, kad tokio AI dar nėra.

Patikslinę galite įsivaizduoti, kad dirbtinio intelekto vairavimo sistema savaime kažkaip „neišmanys“ vairavimo aspektų. Vairavimą ir visa tai, ką tai reiškia, reikės užprogramuoti kaip savarankiško automobilio techninės ir programinės įrangos dalį.

Pasinerkime į begalę aspektų, kurie yra svarbūs šia tema.

Pirma, svarbu suprasti, kad ne visi dirbtinio intelekto automobiliai yra vienodi. Kiekvienas automobilių gamintojas ir savarankiškai vairuojančių technologijų įmonė laikosi savo požiūrio į savaeigių automobilių kūrimą. Todėl sunku pateikti plačius teiginius apie tai, ką AI vairavimo sistemos darys ar ne.

Be to, kai teigiama, kad dirbtinio intelekto vairavimo sistema neatlieka tam tikro dalyko, vėliau tai gali aplenkti kūrėjai, kurie iš tikrųjų užprogramuoja kompiuterį tai padaryti. Žingsnis po žingsnio AI vairavimo sistemos palaipsniui tobulinamos ir plečiamos. Esamo apribojimo šiandien gali nebelikti būsimoje iteracijoje ar sistemos versijoje.

Tikiuosi, kad tai suteikia pakankamai įspėjimų, kad pagrįstų tai, ką ketinu pasakyti.

Nubraižykime scenarijų, kuriame demonstruojama AI asimetrija.

Pagalvokite apie iš pažiūros nereikšmingą klausimą, kur savarankiškai važiuojantys automobiliai tarptinkliniu ryšiu važiuos paimti keleivių. Tai atrodo labai nekenksminga tema.

Iš pradžių manykite, kad AI savarankiškai vairuojantys automobiliai tarptinkliniu ryšiu važinės po ištisus miestus. Kiekvienas, norintis paprašyti pasivažinėti savarankiškai važiuojančiu automobiliu, iš esmės turi lygias galimybes jį pasveikinti. Palaipsniui dirbtinis intelektas pradeda daugiausia išlaikyti savarankiškai vairuojančius automobilius tarptinklinio ryšio tik vienoje miesto dalyje. Šiame skyriuje galima uždirbti daugiau pinigų, o dirbtinis intelektas buvo užprogramuotas taip maksimizuoti pajamos kaip naudojimo bendruomenėje dalis (tai pabrėžia optimizavimo mąstyseną, ty sutelkiant dėmesį tik į vieną konkrečią metriką ir nepaisant kitų svarbių proceso veiksnių).

Pasirodo, kad bendruomenės nariai skurdžiose miestelio dalyse mažiau gali pasivažinėti savaeigiu automobiliu. Taip yra todėl, kad savaeigiai automobiliai buvo toliau ir važinėjo didesnes pajamas gaunančioje miesto dalyje. Kai užklausa gaunama iš tolimos miesto dalies, bet kuri kita užklausa iš arčiau esančios vietos bus teikiama pirmenybė. Galų gale beveik neįmanoma įsigyti savarankiškai vairuojančio automobilio bet kurioje kitoje vietoje, išskyrus turtingesnę miesto dalį, o tai kelia nerimą tiems, kurie gyveno tose dabar išteklių badaujančiose vietovėse.

Išsipildo išgirtos mobilumo visiems svajonės, kurias turėtų įgyvendinti savarankiškai važiuojantys automobiliai.

Galite teigti, kad dirbtinis intelektas iš viso atsidūrė statistinio ir skaičiavimo šališkumo formoje, panašiai kaip tarpinio diskriminavimo forma (taip pat dažnai vadinama netiesiogine diskriminacija). Supraskite, kad AI nebuvo užprogramuotas taip, kad išvengtų tų skurdesnių rajonų. Paaiškinkime tai šiuo atveju. Ne, jis buvo sukurtas siekiant tik optimizuoti pajamas, o tai iš pažiūros priimtinas tikslas, tačiau tai buvo padaryta AI kūrėjams nesvarstant apie kitas galimas pasekmes. Šis optimizavimas savo ruožtu netyčia ir neišvengiamai lėmė nepageidaujamą rezultatą.

Jei jie būtų įtraukę dirbtinio intelekto etikos aspektus į savo optimizavimo mąstyseną, jie būtų iš anksto supratę, kad jei jie nesukūrė dirbtinio intelekto taip, kad susidorotų su tokiu pertekliniu vienos metrikos dydžiu, jie būtų išvengę tokių nemalonių rezultatų. Norėdami sužinoti daugiau apie tokias problemas, su kuriomis gali kilti plačiai paplitęs autonominių transporto priemonių ir savaeigių automobilių naudojimas, žr. mano aprėptį adresu šią nuorodą čia, aprašydamas Harvardo vadovaujamą tyrimą, kurio bendraautorius šiomis temomis.

Bet kokiu atveju manykite, kad arklys jau išėjo iš tvarto ir situacija nėra iš karto pritaikyta visapusiškiems sprendimams.

Ką galėtų daryti tie, kurie nori naudotis tais savarankiškai važiuojančiais automobiliais?

Akivaizdžiausias būdas būtų dirbti su bendruomenės lyderiais, siekiant priversti automobilių gamintoją arba savarankiškai vairuojančią technologijų įmonę persvarstyti, kaip jie sukūrė dirbtinį intelektą. Galbūt darys spaudimą bet kokioms licencijoms ar leidimams, kurie buvo suteikti tiems savaeigiams automobiliams dislokuoti tame mieste ar miestelyje. Tikėtina, kad tai yra perspektyvi priemonė teigiamiems pokyčiams pasiekti, nors gali praeiti šiek tiek laiko, kol šios pastangos duos vaisių.

Kitas būdas būtų apsiginkluoti AI.

Įsivaizduokite, kad kažkas sumaniai sukūrė AI pagrįstą programėlę, kuri veikia jūsų išmaniajame telefone ir susidoroja su automobilių gamintojo ar automobilių parko operatoriaus, priimančio užklausas važiuoti, AI. Gali būti, kad jūsų naudojamas dirbtinis intelektas išnaudoja pagrindinius kito AI elementus taip, kad jūsų prašymui dėl savarankiškai vairuojančio automobilio bus suteiktas didesnis prioritetas. Atkreipkite dėmesį, kad aš neteigiu, kad vyksta kažkas neteisėto, bet vietoj to, kad jūsų AI buvo sukurta remiantis aptiktomis kito AI „funkcijomis“ ar net spragomis.

Išvada

Istorija apie įžūlią kovą su savarankiškai vairuojančių automobilių parko operatoriaus dirbtiniu intelektu, apsiginklavus dirbtiniu intelektu, iškelia papildomų AI etikos ginčų ir svarstymų.

Pavyzdžiui:

• Jei vienas asmuo gali pasinaudoti dirbtiniu intelektu, kad suteiktų jiems pranašumą prieš kitos sistemos AI, kiek tai gali pasiekti AI etikos ribų peržengimą (įtikinu savarankiškai vairuojančius automobilius atvykti pas mane ir mano draugus, neįskaitant visų kitų)?
• Be to, ar yra kokių nors DI etikos aspektų, kad jei kas nors žino apie DI arba yra juo apsiginklavęs, kad galėtų kovoti su kitu DI, ar tie likę žmonės, kurie neturi to subalansuoto DI, turėtų kaip nors įspėti apie DI ir galėtų apsiginkluoti atitinkamai irgi?

Galų gale, visa tai nukelia mus į ateitį, kuri atrodo baisi ir susidedanti iš AI ginklavimosi lenktynių. Kas turės dirbtinį intelektą, kurio jiems reikia norint apeiti ir išgyventi, o kas ne? Ar visada atsiras dar vienas DI, kuris sukels atsvaros AI poreikį?

Gerbiamas mokslininkas Carlas Saganas pateikė tokią išmintingą išmintį apie ypač katastrofiškas ginklavimosi varžybas: „Branduolinės ginklavimosi varžybos yra tarsi du prisiekę priešai, stovintys juosmens giliai benzine, vienas su trimis degtukais, o kitas su penkiais.

Turime ryžtingai siekti, kad mūsų kojos būtų sausos, o galvos – švarios, kai kalbame apie vis gresiančias AI ginklavimosi varžybas.