DI etika sutrikdyta naujausio Kinijos sukurto dirbtinio intelekto partijos lojalumo minčių skaitymo veido atpažinimo patvirtinimo, kuris gali pranašauti slegiančias autonomines sistemas

Ar esate ištikimas?

Teoriškai gali būti įmanoma ištirti jūsų atvirus poelgius ir išsiaiškinti, ar jūsų veiksmai rodo lojalumą.

Tarkime, kad vietoj to buvo bandoma skaityti jūsų mintis ir tuo tarpu nuskaityti jūsų veidą, kad nustatytų jūsų lojalumo koeficientą. Tai klaikiai įkyri; galite lengvai smerkti. Skamba kaip vienas iš tų beprotiškų mokslinės fantastikos filmų, kuriuose įsivaizduojama ateities distopinė visuomenė.

Laimei, jūs slapta šnabždatės sau, kad šiandien nieko panašaus neturime.

Oho, laikyk savo arklius.

Neseniai naujienų antraštės sklinda, kad 1 m. liepos 2022 d. Kinijoje paskelbtame moksliniame darbe buvo pavaizduotas tyrimas, kuriame tariamai buvo vertinamos žmonių smegenų bangos ir jų veido išraiškos, siekiant nustatyti, ar jie buvo lojalūs Kinijos komunistų partijai (KKP). . Taigi, štai, ateitis vis arčiau ir arčiau, bent jau kalbant apie distopinės visuomenės, kurios bijojome, kada nors atsiras.

Tyrimo dokumentas greitai dingo iš jo internete paskelbtos nuorodos.

Tikėtina, kad greito paniekos, greitai pasklidusio per internetą, pakako, kad popierius būtų nuimtas. Arba galbūt tyrėjai tiesiog nori atlikti keletą formuluočių pakeitimų ir kitų nekenksmingų pataisymų, siekdami pakartotinai paskelbti, kai tik turės nuodugnesnę galimybę įsitikinti, kad i yra taškiniai, o t - perbraukti. Turėsime neatmerkti akių, kad pamatytume, ar popierius įgaus antrą gyvenimą.

Aš ketinu eiti į priekį ir giliai pasinerti į tai, ką žinome apie tyrimo tyrimą, ir pabandysiu sujungti taškus apie tai, kaip toks su dirbtiniu intelektu susijęs darbas yra svarbus mums visiems, peržengiu jo taikymo sritį. kaip apsiriboja viena konkrečia šalimi. Mano aprėptis bus šiek tiek platesnė nei kitose naujausiose ataskaitose apie šį vertingą dalyką, todėl palaikykite mane.

Taip pat pabrėžsiu, kad yra daugybė gyvybiškai svarbių AI etikos pamokų, kurias galime surinkti iš tariamo dokumento. Daugiau informacijos apie AI etiką ir etišką AI žr nuoroda čia ir nuoroda čia, Tik pavadinimas kelias.

Štai kas iki šiol buvo paminėta apie tyrimo tyrimą.

Matyt, kai kurie „savanoriai“ buvo užverbuoti dalyvauti eksperimente dėl KKP suvokimo. Nežinoma, ar jie buvo pasirengę savanoriai, ar labiau panašūs į savanorius, kuriems vadovavo. Diskusijos sumetimais manysime, kad jie sutiko būti tyrimo subjektu.

Aš kalbu apie tai, kad nebūtų tiesiog pikta. Kai atliekamas eksperimentas su žmonėmis, yra daugybė visuotinai priimtų praktikų, susijusių su tokių subjektų įdarbinimu ir įtraukimu į mokslinius tyrimus. Tai iš dalies siejama su ankstesniais tyrimais, kurie dažnai apgaudinėdavo arba priversdavo žmones dalyvauti eksperimente, o tai kartais sukeldavo neigiamų psichologinių pasekmių ar net fizinės žalos tiems dalyviams. Mokslo bendruomenė labai stengėsi apriboti tokio tipo klastingus tyrimus ir reikalauja, kad tiems, kurie nori įtraukti į tyrimus, susijusius su žmonėmis, būtų pateikti visi atskleidimai ir įspėjimai.

Paaiškinsiu, ne visi laikosi tokių protingų ir sąžiningų nurodymų.

Pranešama, kad buvo 43 subjektai ir jie buvo Kinijos komunistų partijos nariai. Nepamirškite, kad tiriamųjų atranka eksperimentui yra labai svarbus eksperimentui ir taip pat turi būti atsižvelgta į bet kokias išvadas, kurias vėliau bandysite padaryti apie eksperimento rezultatus.

Tarkime, aš noriu atlikti eksperimentą, kaip žmonės suvokia pripažintą „Žvaigždžių karų“ seriją. Jei iš anksto atrinksiu objektus, kurie visi labai nekenčia „Žvaigždžių karų“ (kaip tokie žmonės gali egzistuoti?), ir rodysiu jiems „Žvaigždžių karų“ vaizdo klipus, tikėtina, kad jie sakys, kad vis dar nemėgsta „Žvaigždžių karų“. Remdamasis šiuo pseudomoksliniu eksperimentu, turbūt slapta tvirtinu, kad žmonės – apskritai – tikrai nekenčia Žvaigždžių karų, o tai buvo „įrodyta“ (mirktelėjimas-mirktelėjimas) mano „rūpestingai“ parengtoje tyrimo aplinkoje.

Galbūt nežinote, kad iš anksto pasirinkau dalykus, kurie, kaip tikėjausi, duos mano slapčia trokštamų rezultatų, tarsi suklaidinau ruletės ratą. Žinoma, jei tyčia įdarbinčiau žmones, kurie mėgo „Žvaigždžių karus“ ir buvo uolūs gerbėjai, tikėtina, kad jie būtų susižavėję žiūrėdami tuos „Žvaigždžių karų“ klipus. Vėlgi, bet kokias išvadas apie tai, kaip žmonės apskritai reaguoja į „Žvaigždžių karus“, sušvelnintų iš anksto pasirinktas tiriamųjų darbas.

Atrodo, kad atliekant į KKP orientuotą tyrimą tiriamieji sėdėjo prie kioską primenančio vaizdo ekrano ir skaitė įvairius straipsnius apie KKP politiką ir pasiekimus. Tai tikriausiai yra laikomas „eksperimentiniu gydymu“, su kuriuo tiriamieji susiduria. Planuodami eksperimentą paprastai sugalvojate eksperimentinį veiksnį arba aspektą, kurį norite pamatyti, ar jis turi įtakos dalyviams.

Akivaizdu, kad buvo tiriamas tyrimo klausimas, ar šios medžiagos peržiūros veiksmas turės kokių nors įtakos tiriamiesiems, didindamas, mažindamas ar neutralizuodamas jų vėlesnius įspūdžius apie BKP.

Klasikinės nulinės hipotezės atveju galite atlikti tokį tyrimą, kad nurodytumėte, jog sunaudotos medžiagos neturi įtakos tolesniems tiriamųjų įspūdžiams. Palyginę prieš ir po jų požiūrius apie CCP, statistiškai pabandysite išsiaiškinti, ar buvo statistiškai reikšmingai aptiktas jų parodymų pokytis.

Gali būti, kad prieš ir po statistiškai nesiskiria, todėl galite pagrįstai preliminariai daryti išvadą, kad šiame konkrečiame tyrime rodoma medžiaga (eksperimentinis apdorojimas) nepadarė įtakos jų įspūdžiams. Kita vertus, jei būtų statistiškai pagrįstų skirtumų, pažiūrėtumėte, ar po to buvo didesnis nei ankstesnis, todėl galite švelniai manyti, kad medžiagos sustiprino jų įspūdžius (o kitoje monetos pusėje, jei po to buvo mažesnis nei prieš tai gali reikšti, kad medžiagos sumažino arba sumažino jų įspūdžius).

Atliekant tokį tyrimą reikėtų susidoroti su daug kibančių palaidų galų.

Pavyzdžiui, paprastai norime turėti vadinamąją kontrolinę grupę, kurią galėtume palyginti su tais, kurie gauna eksperimentinį gydymą. Štai kodėl. Tarkime, kad sėdėjimas prie kiosko skaityti medžiagą buvo tikrasis pagrindas, kodėl pasikeitė įspūdžiai. Gali būti, kad sunaudotų medžiagų pobūdis yra beveik nesvarbus įspūdžio poveikiui. Vien sėdint ir skaitant bet ką, pavyzdžiui, naujausias istorijas apie kates, kurios daro juokingus dalykus, gali pasisekti. Todėl galime pasirūpinti, kad kai kurie dalykai būtų mūsų kontrolinėje grupėje, kuri gali skaityti kitą medžiagą, išskyrus CCP politiką ir pasiekimus.

Nežinome, ar tai buvo padaryta šiuo atveju (atrodo, kad niekas dar nepaminėjo šio aspekto).

Suprantu, kad dabar nerimaujate dėl žiniasklaidos sprogstamos tyrimo dalies. Greitai pereisime prie tos dalies.

Kaip galėtume nustatyti, ar šio eksperimento tiriamieji reagavo į savo įspūdžius arba pakeitė jų įspūdžius, skaitydami rodomą medžiagą?

Įprasta priemonė būtų jų paklausti.

Galbūt iš anksto būtumėte užpildę klausimyną, kuriame būtų klausiama jų įspūdžių apie BKP. Tada, po eksperimentinio apdorojimo, kaip ir skaitydami rodomas medžiagas, galėtume užpildyti kitą klausimyną. Tada galima palyginti tiriamųjų atsakymus prieš ir po. Jei taip pat naudotume kontrolinę grupę, manytume, kad kontrolinės grupės atsakymai iš esmės nepasikeis nuo ankstesnio iki po jo (manant, kad pasakojimų apie besilinksminančių kačių peržiūra neturėjo turėti įtakos jų CCP įspūdžiams).

Šis veiksmas paklausti tiriamųjų įspūdžių nebūtinai yra toks paprastas, kaip gali atrodyti.

Tarkime, kad eksperimente dalyvaujantys subjektai nujaučia arba apskritai nukrypsta nuo to, kad norite, kad jie reaguotų į eksperimentinį gydymą tam tikru būdu. Tokiu atveju jie gali sąmoningai pervertinti savo reakcijas po eksperimentinio vartojimo. Jūs tikrai matėte, kad tai atsitiko. Jei atlieku į rinką ateinančios naujos sodos skonio testą, galiu pasielgti taip, lyg beprotiškai mėgaujuosi soda, tikėdamasis, kad sodos gamintojos reklamoje atsidursiu ir gausiu savo pelnytai penkiolika minučių šlovės. .

Esmė ta, kad vien paklausti žmonių nuomonės nėra patikima priemonė įvertinti pokyčius. Tai vienas požiūris. Gali būti ir dažnai taikomi kiti metodai.

Kaip šis konkretus tyrimas pasirinko įvertinti tiriamųjų reakcijas?

Matyt, buvo naudojami bent du metodai. Vienas iš metodų buvo veido nuskaitymas ir AI pagrįsta veido atpažinimo programinė įranga, skirta tiriamųjų reakcijai įvertinti. Pranešama, kad kitas metodas buvo tam tikra smegenų bangų nuskaitymo forma. Dar nebuvo pranešta, kokio tipo smegenų bangų nuskaitymo įrenginiai buvo naudojami, nei kokia AI pagrįsta smegenų bangų analizės programinė įranga.

Įvairiose ataskaitose teigiama, kad tyrime teigiama, kad eksperimento pobūdis: „Viena vertus, galima spręsti, kaip partijos nariai priėmė mintį ir politinį išsilavinimą“. Ir tyrime tariamai tai taip pat paminėta: „Kita vertus, jis suteiks realių duomenų mąstymui ir politiniam švietimui, kad jį būtų galima patobulinti ir praturtinti“. Tyrimas buvo priskirtas prie Kinijos Hefėjaus išsamaus nacionalinio mokslo centro.

Žiniasklaidos pranešimai rodo, kad tyrime buvo užsiminta apie teiginį, kad veido atpažinimo skenavimas ir smegenų bangų nuskaitymas galėjo padėti nustatyti, kad įspūdžiai apie CCP buvo sustiprinti.

Norėčiau pastebėti, kad negalėdami tiesiogiai peržiūrėti naudojamų sistemų ir atidžiai išnagrinėti tyrimo dokumentą, nežinome, kaip tiksliai buvo naudojamos tos AI pagrįstos sistemos.

Gali būti, kad tiriamieji reagavo į eksperimentinę aplinką, o ne į eksperimentinį gydymą. Kiekvienas, kuris dalyvauja tyrime, gali būti sunerimęs. Tai gali sujaukti bet kokias pastangas atlikti smegenų bangų nuskaitymą ar veido modelio analizę. Taip pat yra tikimybė, kad jie jautė motyvaciją įtikti tyrėjams, pasirinkę sugalvoti teigiamas mintis, pamatę medžiagą, ir tai teoriškai gali atsispindėti smegenų bangų nuskaitymuose ir veido nuskaitymuose (galbūt, nors žinokite, kad yra puikus daug aistringų ginčų dėl tokių teiginių pagrįstumo, kaip trumpai paaiškinsiu), tikėdamasis iškreipti rezultatus ir parodyti, kad jie turėjo teigiamą poveikį.

„Twitter“ reakcija iš esmės pasmerkė, kad pati idėja naudoti AI įgalintus smegenų bangų nuskaitymus ir veido atpažinimą yra baisus ir piktinantis veiksmas. Kai kurie iš tų tviterių mums sako, kad tokius įrenginius naudotų tik žmonių monstrai.

Turiu paprašyti jūsų atsisėsti ir pasiruošti tam, kas gali būti grubus ir šokiruojantis netikėtumas.

Pasaulyje yra daug tyrėjų, kurie savo tyrimuose naudoja tas pačias technologijas. Tai tikrai ne pirmas kartas, kai smegenų bangų nuskaitymo galimybė buvo naudojama žmonėms atliekant mokslinius tyrimus. Tai taip pat tikrai nebuvo pirmas kartas, kai veido atpažinimas buvo naudojamas žmonėms eksperimentiniais tikslais. Net paviršutiniška internetinė paieška parodys daugybę eksperimentinių tyrimų visose šalyse ir laboratorijose, kuriose buvo naudojami tokio tipo įrenginiai.

Tai reiškia, kad naudojant juos lojalumui KKP įvertinti neverta daug dėmesio skirti. Kai toks AI naudojamas vyriausybinei kontrolei, kaip sakoma, buvo peržengta raudona linija.

Tai akivaizdžiai vėsinančioji viso rinkinio dalis.

Daugelis išreiškia susirūpinimą dėl to, kad jei vyriausybės pasirinks naudoti smegenų bangų skenavimo technologiją ir veido atpažinimą, kad išsiaiškintų lojalumą esamiems režimams, atsidursime distopiniame įskaudinimų pasaulyje. Kai einate vieša gatve, gali būti, kad ant žibinto stulpo sumontuotas prietaisas slapta nustatys jūsų lojalumo koeficientą.

Manoma, kad jei jūsų veidas nerodo, kad esate pakankamai ištikimas, arba jei smegenų bangų skenavimas rodo tą patį, vyriausybės banditai gali staiga prisėsti ir jus sugriebti. Nerimą keliantis. Begalinis. Negalima leisti.

Būtent dėl ​​​​šios naujienos antraštės kilo triukšmas ir pasipiktinimas.

Įsivaizduokite tai. Galbūt ketiname sukurti ir pradėti naudoti kompiuterines sistemas, kurios naudoja naujausią AI, kad nuspręstų, ar esame lojalūs, ar ne. Jei bandytumėte pasamdyti žmones, kurie sėdėtų šalia ir darytų tą patį, jums reikės daug žmonių, o jums kiltų logistikos problema, bandant juos padėti visiems. Dirbant dirbtiniu intelektu pagrįstos sistemos atveju tereikia elektroninius įrenginius nustatyti žibintų stulpuose, pastatų šonuose ir pan. Lojalumo nuskaitymas gali vykti 24 × 7, bet kuriuo metu, visose taip įrengtose vietose. Tada tai gali būti įtraukta į didžiulę duomenų bazę.

Mes tampame žmonėmis, kurie yra tik sraigteliai kolosinėje, viską stebinčioje, visuomenę slegiančioje ekosistemoje. Matanti akis nėra tik stebėjimas, ką mes darome. Tai taip pat interpretuoja tai, ką mūsų veidai sako apie mūsų lojalumą vyriausybei. Mūsų protas taip pat turi būti ištirtas dėl panašios baisios priežasties.

Oi!

Iš to kyla ir antraeilis susirūpinimas, nors galbūt ne toks spygliuotas, lyginant su Big Brother implikacijomis, kaip jau eskizuota.

Apsvarstykite šiuos du neatidėliotinus klausimus:

• Ar galime patikimai teigti, kad smegenų bangų nuskaitymas gali patvirtinti jūsų lojalumą?
• Ar galime patikimai teigti, kad veido atpažinimo nuskaitymas gali patvirtinti jūsų lojalumą?

Laikykis, galbūt šauksi iš visų jėgų.

Suprantu ir pripažįstu, kad jums gali ne tiek rūpėti patys patikimumo aspektai. Tai, ar tai galima padaryti patikimai, yra mažiau svarbu nei tai, kad tai apskritai daroma. Niekas neturėtų būti tokioje kontrolėje. Pamirškite, ar technologija tinka šiai užduočiai. Mes neturėtume imtis užduoties pradžioje.

Bet kuriuo atveju atsakymas šiuo metu yra ryžtingas ne, būtent, kad esamos AI sistemos, kurios atlieka bet kokį „smegenų bangų nuskaitymą“ ir veido atpažinimą, nėra pakankamai pajėgios šiam šuoliui padaryti.

Galbūt pastaruoju metu pastebėjote, kad kai kurie veido atpažinimo kūrėjai šiek tiek atsiliko nuo to, kaip naudojamos jų veido atpažinimo sistemos. Būsimame stulpelyje aptarsiu pastarojo meto pastangas, pavyzdžiui, „Microsoft“ bandyti sustabdyti tų, kurie naudoja „Microsoft“ teikiamus veido atpažinimo įrankius tikslams, kurie yra toli už tai, ką ši technologija gali padaryti arba turėtų būti naudojama, bangą. . Galbūt jus sudomins mano ankstesnis žvilgsnis į AI etikos priekaištus, kurie jau buvo plačiai paskelbti apie veido atpažinimą, žr. nuoroda čia. Taip pat aptariau smegenų bangų nuskaitymo areną, žr. mano diskusiją adresu nuoroda čia.

Trumpai tariant, kol kas nėra patikimų ar protingų priemonių, leidžiančių teigti, kad smegenų bangų skenavimas arba veido atpažinimo nuskaitymas gali parodyti kažkieno lojalumą. Netgi tikriausiai pagrindiniai aspektai, pavyzdžiui, ar galite patikimai susieti tuos nuskaitymus su tuo, ar kas nors yra laimingas ar liūdnas, vis dar yra karštai diskutuojama. Bandymas pakelti priešiškumą tokiam amorfiškam ir kintamam dalykui kaip lojalumas yra per toli.

Galiu pridurti, kad kai kurie karštai tiki, kad galiausiai mes ten pasieksime. Štai kodėl aš atsargiai stengiausi pastebėti, kad mūsų dar nėra, o ne pareiškiau, kad niekada ten nepasieksime. Niekada nėra didelis žodis. Turite būti visiškai tikri, jei ketinate tai padaryti niekada būti įmanoma (turint omenyje, kad „niekada“ apima dešimtmečius nuo dabar, šimtmečius nuo dabar ir tūkstančius ar milijonus metų).

Kai kurie reagavo į naujienas apie šį Kinijos laboratorijos tyrimą kaip rodiklį, rodantį, kaip pavojingai pasaulis krypsta į netinkamą ir pavojingą AI naudojimą. Trumpam pasidalinsiu su jumis žvilgsniu į tai, kas yra AI etika. Tai padės jums aiškiau suprasti, kodėl atrodo, kad šis tyrimas pažeidžia daugelį, jei ne beveik visus, visuotinai priimtus etinio AI nurodymus.

Tikėkite ar ne, bet kai kurie manė, kad dėl šio konkretaus tyrimo iš kurmikalnio darome kalną.

Ar mes?

Kontrargumentas yra tas, kad kurmio kalnas gana greitai gali tapti kalnu. Pagal patarlę apie sniego gniūžtę, kuri riedėdamas nuo sniego kalno tampa vis didesnė ir didesnė, turime sustabdyti sniego gniūžtės įsibėgėjimą. Jei toleruosime tokio tipo tyrimus, leisime šiam sniego gniūžtei pradėti savo kelionę. Kalbėdami ir skelbdami tokius tyrimus, galbūt galime išvengti sniego gniūžtės.

Vienas dalykas aiškus, kai kalbame apie AI aspektus, esame ant Pandoros skrynios atidarymo slenksčio, ir lieka klausimas, ar galime užkirsti kelią skrynios atidarymui, ar bent rasti kokių nors priemonių, kaip apdairiai elgtis su tuo, kas išeina. kai dėžutė išlaisvino savo velnišką turinį.

Jei nieko daugiau, tikimės, kad tokios žiniasklaidos audros paskatins plačias diskusijas apie tai, kaip mes ketiname užkirsti kelią su DI susijusiems blogiams ir išvengti daugybės AI sukeltų egzistencinių pavojų. Turime padidinti savo visuomenės supratimą apie AI etiką ir etinius AI aspektus.

Prieš pradėdami daugiau kalbėti apie laukinius ir neviltiškus sumetimus, kuriais grindžiamos tokios AI sistemos, nustatykime keletą papildomų esminių dalykų. Turime trumpai pasinerti į AI etiką ir ypač mašininio mokymosi (ML) ir giluminio mokymosi (DL) atsiradimą.

Galbūt miglotai žinote, kad vienas garsiausių balsų šiais laikais dirbtinio intelekto srityje ir net už AI ribų yra reikalavimas siekti didesnio etiško AI panašumo. Pažiūrėkime, ką reiškia AI etika ir etiška AI. Be to, išnagrinėsime, ką turiu omenyje kalbėdamas apie mašininį mokymąsi ir gilųjį mokymąsi.

Vienas konkretus dirbtinio intelekto etikos segmentas arba dalis, sulaukianti daug žiniasklaidos dėmesio, yra dirbtinis intelektas, pasižymintis nepageidaujamu šališkumu ir nelygybe. Galbūt žinote, kad prasidėjus naujausiai AI erai, buvo didžiulis entuziazmo pliūpsnis dėl to, ką kai kas dabar vadina. AI for Good. Deja, ant kulnų to trykštančio jaudulio pradėjome liudyti AI For Bad. Pavyzdžiui, buvo atskleista, kad įvairios dirbtiniu intelektu pagrįstos veido atpažinimo sistemos turi rasinių ir lyčių tendencijų, kurias aptariau nuoroda čia.

Pastangos atsispirti AI For Bad aktyviai vyksta. Be garsaus juridinis Siekdami suvaldyti neteisėtus veiksmus, taip pat yra esminis postūmis priimti dirbtinio intelekto etiką, siekiant ištaisyti DI niekšybę. Manoma, kad turėtume priimti ir patvirtinti pagrindinius etinio AI principus, skirtus dirbtinio intelekto vystymui ir plėtrai, taip siekdami sumažinti AI For Bad ir tuo pat metu skelbti ir reklamuoti tai, kas geriausia AI for Good.

Kalbant apie tai, aš pasisakau už bandymą panaudoti AI kaip AI bėdų sprendimo dalį, tokiu būdu kovojant su ugnimi ugnimi. Pavyzdžiui, galime įterpti etiškus AI komponentus į AI sistemą, kuri stebės, kaip veikia likusi AI dalis, ir taip realiuoju laiku gali užfiksuoti bet kokias diskriminacines pastangas, žr. mano diskusiją adresu nuoroda čia. Taip pat galėtume turėti atskirą AI sistemą, kuri veiktų kaip AI etikos monitorius. AI sistema tarnauja kaip prižiūrėtojas sekti ir aptikti, kada kitas DI patenka į neetišką bedugnę (žr. mano tokių galimybių analizę adresu nuoroda čia).

Netrukus pasidalinsiu su jumis kai kuriais pagrindiniais AI etikos principais. Šen bei ten sklando daugybė tokių sąrašų. Galima sakyti, kad dar nėra vienintelio visuotinio patrauklumo ir sutapimo sąrašo. Tai liūdna žinia. Geros naujienos yra tai, kad bent jau yra lengvai prieinami AI etikos sąrašai ir jie paprastai yra gana panašūs. Apskritai tai rodo, kad tam tikra pagrįsto konvergencijos forma randame kelią link bendro AI etikos bendrumo.

Pirma, trumpai apžvelgsime kai kuriuos bendrus etinio AI nurodymus, kad parodytume, kas turėtų būti gyvybiškai svarbi kiekvienam, kuriančiam, besikuriančiam ar naudojančiam AI.

Pavyzdžiui, kaip teigia Vatikanas Roma ragina dirbtinio intelekto etiką ir kaip aš išsamiai aprašiau nuoroda čia, tai yra šeši pagrindiniai AI etikos principai:

• Skaidrumas: Iš esmės AI sistemos turi būti paaiškinamos
• Įtraukimas: Turi būti atsižvelgta į visų žmonių poreikius, kad visi galėtų gauti naudos, o visiems būtų sudarytos geriausios sąlygos išreikšti save ir tobulėti.
• Atsakomybė: Tie, kurie kuria ir diegia dirbtinio intelekto naudojimą, turi elgtis atsakingai ir skaidriai
• Nešališkumas: Nekurkite ir nesielkite pagal šališkumą, taip saugodami sąžiningumą ir žmogaus orumą
• Patikimumas: AI sistemos turi veikti patikimai
• Saugumas ir privatumas: AI sistemos turi veikti saugiai ir gerbti vartotojų privatumą.

Kaip teigia JAV gynybos departamentas (DoD) savo Dirbtinio intelekto naudojimo etiniai principai ir kaip aš išsamiai aprašiau nuoroda čia, tai yra šeši pagrindiniai AI etikos principai:

• Atsakingas: DoD darbuotojai laikysis tinkamo lygio sprendimo ir rūpestingumo, likdami atsakingi už AI galimybių kūrimą, diegimą ir naudojimą.
• Teisingas: Departamentas imsis apgalvotų veiksmų, kad sumažintų nenumatytą AI galimybių paklaidą.
• Atsekama: Departamento dirbtinio intelekto pajėgumai bus plėtojami ir naudojami taip, kad atitinkami darbuotojai tinkamai išmanytų technologijas, kūrimo procesus ir veikimo metodus, taikomus dirbtinio intelekto pajėgumams, įskaitant skaidrias ir audituojamas metodikas, duomenų šaltinius ir projektavimo procedūras bei dokumentus.
• patikimas: Departamento dirbtinio intelekto pajėgumai bus aiškiai ir tiksliai apibrėžti, o tokių galimybių sauga, saugumas ir veiksmingumas bus tikrinamas ir užtikrinamas pagal nustatytus naudojimo būdus per visą jų gyvavimo ciklą.
• Valdomas: Departamentas suprojektuos ir suprojektuos dirbtinio intelekto pajėgumus, kad jie galėtų atlikti numatytas funkcijas, tuo pat metu turėdami galimybę aptikti ir išvengti nenumatytų pasekmių bei išjungti arba išjungti įdiegtas sistemas, kurios demonstruoja nenumatytą elgesį.

Taip pat aptariau įvairias kolektyvines dirbtinio intelekto etikos principų analizes, įskaitant tyrėjų parengtą rinkinį, kuris išnagrinėjo ir apibendrino daugelio nacionalinių ir tarptautinių AI etikos principų esmę straipsnyje „Pasaulinis AI etikos gairių kraštovaizdis“ (paskelbtas). in Gamta), ir kad mano aprėptis nagrinėjama adresu nuoroda čia, dėl kurio atsirado šis kertinių akmenų sąrašas:

• Skaidrumas
• Teisingumas ir sąžiningumas
• Nepiktybiškumas
• atsakomybė
• Privatumo politika
• Gerumas
• Laisvė ir autonomija
• Pasitikėkite
• Tvarumas
• orumas
• Solidarumas

Kaip galite tiesiogiai atspėti, gali būti labai sunku nustatyti šių principų ypatumus. Dar daugiau, pastangos tuos plačius principus paversti kažkuo visiškai apčiuopiamu ir pakankamai išsamiu, kad būtų galima panaudoti kuriant AI sistemas, taip pat yra sunkus riešutas. Apskritai lengva pamojuoti rankomis apie tai, kas yra AI etikos nuostatos ir kaip jų apskritai reikėtų laikytis, o daug sudėtingesnė situacija, kai dirbtinio intelekto kodavimas turi būti tikra guma, atitinkanti kelią.

DI etikos principus turi naudoti DI kūrėjai, taip pat tie, kurie valdo DI kūrimo pastangas ir netgi tie, kurie galiausiai kuria ir atlieka AI sistemų priežiūrą. Visos suinteresuotosios šalys per visą DI kūrimo ir naudojimo ciklą laikosi nustatytų etiško AI normų. Tai svarbus akcentas, nes įprasta prielaida, kad „tik koduotojai“ arba tie, kurie programuoja AI, turi laikytis AI etikos sąvokų. Kaip minėta anksčiau, dirbtinio intelekto kūrimui ir įgyvendinimui reikia kaimo, kuriame visas kaimas turi išmanyti ir laikytis AI etikos nuostatų.

Taip pat įsitikinkime, kad esame tame pačiame puslapyje apie šiandienos AI prigimtį.

Šiandien nėra jokio jautraus dirbtinio intelekto. Mes šito neturime. Mes nežinome, ar jautrus AI bus įmanomas. Niekas negali tiksliai nuspėti, ar pasieksime jausmingą AI, nei ar jausmingasis AI kažkaip stebuklingai spontaniškai atsiras kompiuterinės kognityvinės supernovos pavidalu (dažniausiai vadinama singuliarumu, žr. mano aprėptį adresu nuoroda čia).

AI, į kurį daugiausia dėmesio skiriu, tipas susideda iš nejautrio DI, kurį šiandien turime. Jei norėtume pašėlusiai spėlioti apie jautrus AI, ši diskusija gali vykti radikaliai kita kryptimi. Jausmingas AI tariamai būtų žmogiškos kokybės. Turėtumėte atsižvelgti į tai, kad jautrus AI yra pažintinis žmogaus atitikmuo. Be to, kadangi kai kurie spėja, kad galime turėti itin intelektualų AI, galima įsivaizduoti, kad toks DI gali būti protingesnis už žmones (dėl mano, kaip galimo itin intelektualaus DI, tyrinėjimo žr. aprėptis čia).

Laikykime dalykus žemiškesniems ir apsvarstykime šiandieninį kompiuterinį nejautinį AI.

Supraskite, kad šiandieninis dirbtinis intelektas nesugeba „mąstyti“ niekaip, kaip ir žmogaus mąstymas. Kai bendraujate su „Alexa“ ar „Siri“, pokalbio gebėjimai gali atrodyti panašūs į žmogaus gebėjimus, tačiau realybė yra tokia, kad tai skaičiuojama ir jam trūksta žmogaus pažinimo. Naujausioje AI eroje plačiai naudojamas mašininis mokymasis (ML) ir gilusis mokymasis (DL), kurie naudoja skaičiavimo modelių suderinimą. Tai paskatino dirbtinio intelekto sistemas, kurios atrodo kaip žmogaus polinkiai. Tuo tarpu šiandien nėra nė vieno dirbtinio intelekto, kuris turėtų sveiko proto ir kognityvinio nuostabaus tvirto žmogaus mąstymo.

ML/DL yra skaičiavimo modelių derinimo forma. Įprastas būdas yra rinkti duomenis apie sprendimo priėmimo užduotį. Duomenis tiekiate į ML/DL kompiuterių modelius. Šie modeliai siekia rasti matematinius modelius. Radusi tokius modelius, jei taip bus, AI sistema naudos tuos modelius, kai susidurs su naujais duomenimis. Pateikus naujus duomenis, dabartiniam sprendimui priimti taikomi modeliai, pagrįsti „senais“ arba istoriniais duomenimis.

Manau, galite atspėti, kur tai link. Jei žmonės, priimdami pagrįstus sprendimus, įtraukė nepalankų šališkumą, tikėtina, kad duomenys tai atspindi subtiliai, bet reikšmingai. Mašininio mokymosi arba giluminio mokymosi skaičiavimo modelių derinimas tiesiog bandys atitinkamai matematiškai imituoti duomenis. AI sukurtame modeliavime per se nėra jokio sveiko proto ar kitų jautrių aspektų.

Be to, AI kūrėjai taip pat gali nesuprasti, kas vyksta. Dėl paslaptingos matematikos ML/DL gali būti sunku išsklaidyti dabar paslėptus šališkumus. Jūs pagrįstai tikėtumėte ir tikitės, kad AI kūrėjai išbandys galimai palaidotus šališkumus, nors tai yra sudėtingiau, nei gali atrodyti. Yra didelė tikimybė, kad net ir atlikus gana platų testavimą, ML/DL modelių atitikimo modeliuose vis tiek bus paklaidų.

Galite šiek tiek pasinaudoti garsiuoju ar liūdnai pagarsėjusiu posakiu apie šiukšlių išvežimą. Reikalas tas, kad tai labiau panašu į šališkumą, kuris klastingai įsiskverbia į AI paskendusį šališkumą. AI sprendimų priėmimo algoritmas (ADM) aksiomatiškai apkraunamas nelygybe.

Negerai.

Grįžkime prie savo dėmesio AI sistemoms, kurios naudojamos netinkamiems ar galbūt tiesioginiams pažeidimams, ir kaip tai susiję su neseniai paskelbtu CCP lojalumo tyrimu.

Į galvą ateina du pagrindiniai svarstymai:

1) Šis AI pavyzdys yra dalis didesnio nuolatinio nerimą keliančio AI naudojimo modelio, todėl yra grėsmingas ir atveria akis į tai, kas vyksta.

2) Katė gali būti išleista iš maišo taip, kad jei toks AI bus priimtas vienoje šalyje, jis gali būti lengvai išplitęs ir kitose šalyse

Pradėkite nuo pirmojo punkto apie šį AI atvejį, kuris yra nuolatinio modelio dalis.

Vienas iš ypač svarbių priežasčių, kodėl šis konkretus tyrimas yra ypač sunerimęs, yra tai, kad tai yra dalis didesnio modelio, kaip kai kurie ketina naudoti AI. Jei tai būtų vienintelis kada nors atliktas toks tyrimas, galbūt tai mus šiek tiek sujaudintų. Nepaisant to, tai tikriausiai nesukeltų tokio įkarščio, kokį matome dabar.

Tai galbūt lašelinis lašelis link kažko, kas taps nevaldoma.

Kaip pranešama naujienose, Kinija yra gerai žinoma dėl to, kad primygtinai reikalavo ryžtingo lojalumo KKP. Be to, buvo sukurtos arba kuriamos įvairios priemonės, užtikrinančios, kad žmonės būtų įtraukiami į vyriausybės doktriną. Buvo paminėta atvejų, kai buvo atlikti ankstesni tyrimai, kuriais buvo siekiama sukurti AI algoritmus, kurie galėtų įvertinti partijos narių mąstymo sąlygas (žr. Studijų laikai 2019 m., paminėjęs šias pastangas).

Galbūt prisimenate, kad 2018 m. viceprezidentas Mike'as Pence'as pasakė kalbą Hadsono institute ir pabrėžė, kad „Kinijos valdovai siekia įgyvendinti orvelišką sistemą, kurios pagrindas yra kontroliuoti beveik kiekvieną žmogaus gyvenimo aspektą“ (tai buvo nuoroda į KKP įgyvendinimą). socialinių kreditų vertinimo sistema, kuri yra labai ginčytina tema). Galite nesunkiai tvirtinti, kad šis neseniai atliktas CCP tyrimas yra dar vienas žingsnis ta kryptimi.

Nežinome, kada ir ar paskutinis lašas sulaužys kupranugario nugarą, todėl šie vienkartiniai tyrimai paverčiami plačiai paplitusiomis dirbtinio intelekto stebėjimo sistemomis.

Antras dalykas, į kurį verta atkreipti dėmesį, yra tai, kad negalime manyti, kad tokio tipo dirbtinis intelektas bus naudojamas tik Kinijoje. Iš esmės, nors tokio tipo AI naudojimas Kinijoje, kuris gali būti plačiai paplitęs, savaime kelia nerimą, kitos šalys gali elgtis taip pat.

Kai sakoma, kad dirbtinis intelektas bus paruoštas geriausiu laiku, greičiausiai neprireiks daug, kol kitos šalys nuspręs, kad nori tai įgyvendinti. Katė bus ištraukta iš maišo. Kai kurios šalys tikriausiai naudos šį dirbtinį intelektą tiesiog slegiančiomis priemonėmis ir nebandys tai daryti. Atrodo, kad kitos šalys gali siekti naudoti tokio tipo dirbtinį intelektą naudingais tikslais, o tai galiausiai turi neigiamą pusę, kuri bus beveik neišvengiama.

Tiesą sakant, teiginys, kad tokio tipo dirbtinis intelektas bus pritaikytas tik tada, kai jis bus laikomas paruoštu geriausiu laiku, yra šiek tiek klaidingas pavadinimas. Gali būti, kad nėra jokio skirtumo, ar AI gali patikimai veikti tokiu būdu. AI gali būti naudojamas kaip viršelio istorija, žr. mano paaiškinimą adresu nuoroda čia. Nepriklausomai nuo to, ką dirbtinis intelektas iš tikrųjų gali pasiekti, manoma, kad dirbtinis intelektas gali būti patogi apsimetinėjimas siekiant sukurti gyventojų stebėjimą ir absoliutaus lojalumo valdžios institucijoms vertinimo ir užtikrinimo schemas.

Šioje svarbioje diskusijoje aš galiu lažintis, kad norite pateikti keletą iliustruojančių pavyzdžių, kurie galėtų parodyti šią temą. Yra ypatingas ir neabejotinai populiarus pavyzdžių rinkinys, kuris man prie širdies. Matote, kaip dirbtinio intelekto, įskaitant etines ir teisines pasekmes, ekspertas, manęs dažnai prašoma pateikti realių pavyzdžių, atskleidžiančių DI etikos dilemas, kad būtų galima lengviau suvokti šiek tiek teorinį temos pobūdį. Viena iš įdomiausių sričių, ryškiai pristatančių šią etišką AI kliūtį, yra dirbtinio intelekto pagrindu sukurtų tikrų savaeigių automobilių atsiradimas. Tai bus patogus naudojimo atvejis arba pavyzdys plačioms diskusijoms šia tema.

Štai vertas dėmesio klausimas, kurį verta apsvarstyti: Ar AI pagrįstų tikrų savarankiškai važiuojančių automobilių atsiradimas ką nors parodo apie piktnaudžiavimą dirbtiniu intelektu, ir jei taip, ką tai parodo?

Leiskite man akimirką išpakuoti klausimą.

Pirma, atkreipkite dėmesį, kad tikrai savarankiškai vairuojančiame automobilyje nėra žmogaus vairuotojo. Atminkite, kad tikri savarankiškai važiuojantys automobiliai yra valdomi naudojant AI vairavimo sistemą. Nereikia, kad prie vairo būtų vairuotojas žmogus, taip pat nėra numatyta, kad žmogus galėtų vairuoti transporto priemonę. Išsamią ir nuolatinę informaciją apie autonomines transporto priemones (AV) ir ypač apie savarankiškai važiuojančius automobilius žr. nuoroda čia.

Norėčiau dar labiau paaiškinti, ką turiu omenyje, kai kalbu apie tikrus savarankiškai vairuojančius automobilius.

Suprasti savarankiškų automobilių lygį

Paaiškinkime, kad tikrieji savarankiškai važiuojantys automobiliai yra tie, kuriuose dirbtinis intelektas vairuoja automobilį visiškai savarankiškai ir atliekant vairavimo užduotį nėra jokios žmogaus pagalbos.

Šios transporto priemonės be vairuotojo laikomos 4 ir 5 lygiais (žr. mano paaiškinimą adresu šią nuorodą čia), o automobilis, kurio vairuotojas turi pasidalyti vairavimo pastangomis, paprastai laikomas 2 arba 3 lygiu. Automobiliai, kurie kartu atlieka vairavimo užduotį, apibūdinami kaip pusiau savarankiški ir paprastai juose yra įvairių automatiniai priedai, vadinami ADAS (išplėstinės vairuotojo pagalbos sistemos).

Dar nėra tikro savarankiškai važiuojančio 5 lygio automobilio, ir mes dar net nežinome, ar tai bus įmanoma pasiekti, nei kiek užtruks iki jo pasiekti.

Tuo tarpu 4 lygio pastangos pamažu bando įgyti šiek tiek traukos atlikdami labai siaurus ir selektyvius viešųjų kelių bandymus, nors kyla ginčų dėl to, ar šis bandymas turėtų būti leidžiamas per se (mes visi esame gyvybės ar mirties jūrų kiaulytės eksperimente vyksta mūsų greitkeliuose ir pakelėse, kai kurie tvirtina, žr. mano aprėptį adresu šią nuorodą čia).

Kadangi pusiau autonominiams automobiliams reikalingas žmogiškas vairuotojas, šių tipų automobiliai bus žymiai kitokie nei vairuojant įprastas transporto priemones, todėl apie juos šioje temoje nėra daug naujų, tačiau, kaip pamatysite po akimirkos kiti taškai yra paprastai taikomi).

Dėl pusiau autonominių automobilių svarbu, kad visuomenė būtų perspėta apie nerimą keliantį aspektą, kuris pastaruoju metu iškyla, būtent, kad nepaisant tų vairuotojų, kurie nuolat skelbia vaizdo įrašus apie tai, kaip jie užmiega prie 2 ar 3 lygio automobilių vairo , visi turime vengti klaidinti manydami, kad vairuotojas, vairuodamas pusiau autonominį automobilį, gali atitraukti dėmesį nuo vairavimo užduoties.

Jūs esate atsakingas už transporto priemonės vairavimo veiksmus, nepaisant to, kiek automatikos gali būti išmesta į 2 ar 3 lygį.

Savarankiškai važiuojantys automobiliai ir piktnaudžiavimas dirbtiniu intelektu

Tikrosios 4 ir 5 lygio savarankiškai vairuojančioms transporto priemonėms vairuotojo užduotis nebus skirta žmonėms.

Visi keleiviai bus keleiviai.

AI vairuoja.

Vienas aspektas, kurį reikia nedelsiant aptarti, reiškia, kad dirbtinis intelektas, dalyvaujantis šiandieninėse dirbtinio intelekto vairavimo sistemose, nėra jausmingas. Kitaip tariant, dirbtinis intelektas yra kompiuterinio programavimo ir algoritmų kolektyvas, kuris, be abejo, negali samprotauti taip, kaip gali žmonės.

Kodėl taip pabrėžiama, kad AI nėra jautrus?

Nes noriu pabrėžti, kad aptardamas dirbtinio intelekto vairavimo sistemos vaidmenį, aš AI nepriskiriu žmogaus savybių. Turėkite omenyje, kad šiomis dienomis yra nuolatinis ir pavojingas polinkis antropomorfizuoti AI. Iš esmės žmonės priskiria žmonėms panašų jausmą šiandieniniam dirbtiniam intelektui, nepaisant neginčijamo ir neginčijamo fakto, kad tokio AI dar nėra.

Patikslinę galite įsivaizduoti, kad dirbtinio intelekto vairavimo sistema savaime kažkaip „neišmanys“ vairavimo aspektų. Vairavimą ir visa tai, ką tai reiškia, reikės užprogramuoti kaip savarankiško automobilio techninės ir programinės įrangos dalį.

Pasinerkime į begalę aspektų, kurie yra svarbūs šia tema.

Pirma, svarbu suprasti, kad ne visi dirbtinio intelekto automobiliai yra vienodi. Kiekvienas automobilių gamintojas ir savarankiškai vairuojančių technologijų įmonė laikosi savo požiūrio į savaeigių automobilių kūrimą. Todėl sunku pateikti plačius teiginius apie tai, ką AI vairavimo sistemos darys ar ne.

Be to, kai teigiama, kad dirbtinio intelekto vairavimo sistema neatlieka tam tikro dalyko, vėliau tai gali aplenkti kūrėjai, kurie iš tikrųjų užprogramuoja kompiuterį tai padaryti. Žingsnis po žingsnio AI vairavimo sistemos palaipsniui tobulinamos ir plečiamos. Esamo apribojimo šiandien gali nebelikti būsimoje iteracijoje ar sistemos versijoje.

Tikiuosi, kad tai suteikia pakankamai įspėjimų, kad pagrįstų tai, ką ketinu pasakyti.

Nubraižykime savarankiškai važiuojančio automobilio scenarijų, kuris gali panaudoti dirbtinį intelektą eskiziniais arba neteisingais būdais.

Pasidalinsiu su jumis kai kuriomis dirbtinio intelekto pagrindu veikiančiomis savarankiškai vairuojančio automobilio pasekmėmis, dėl kurių galite pašiurpti ir būti sutrikę. Tai yra aspektai, apie kuriuos šiuo metu beveik niekas nediskutuoja. Aš ne kartą kėliau šiuos klausimus, nors atvirai pripažįstu, kad tol, kol neįsisavinsime savaeigių automobilių, nesulauksime didelės traukos, kad visuomenė nerimauja ar nusimins dėl to, kas šiandien atrodo tik abstrakčios sąvokos. .

Ar jūs pasiruošę?

Pradėsime nuo pamatų klojimo.

Dirbtinio intelekto pagrindu veikiantys automobiliai bus aprūpinti vaizdo kameromis, protingai. Tai leidžia savarankiškai vairuojančiam automobiliui gauti vairavimo scenos vaizdo įrašus. Savo ruožtu AI vairavimo sistema, veikianti savarankiškai vairuojančio automobilio kompiuteriuose, skirta skaičiuojant surinktą vaizdo įrašą ir išsiaiškinti, kur yra kelias, kur yra netoliese esantys automobiliai, kur yra pėstieji ir pan. Suprantu, kad aš deklamuoju savarankiškai važiuojančių automobilių 101 pagrindus.

Autonominio automobilio išorėje sumontuotos vaizdo kameros, kurios nukreiptos į išorę. Be to, apskritai galite tikėtis, kad transporto priemonėje arba viduje bus vaizdo kameros, nukreiptos į vidų, į savarankiško automobilio vidų. Kodėl taip? Nesunku, nes bus daug svarbių panaudojimo būdų vaizdo įrašams fiksuoti vykstančius autonominės transporto priemonės viduje.

Kai važiuojate savarankiškai vairuojančiu automobiliu, jums nebereikia būti vairuotoju. Ką tuomet veiksite sėdėdami savarankiškai vairuojančiame automobilyje?

Vienas dalykas, kurį galėtumėte padaryti, būtų bendrauti su kitais namuose ar biure. Štai jūs pakeliui į darbą, o tai reiškia, kad užtruksite valandą vairavimo savaeigiu automobiliu, o jūs jau galite pradėti savo darbo dieną atlikdami į „Zoom“ panašų interaktyvų internetinį interaktyvų seansą. Jie gali jus matyti, nes kameros nukreiptos į save vairuojantį automobilį. Galite juos pamatyti galbūt LED ekrane, esančiame savarankiškai važiuojančio automobilio viduje. Dienos pabaigoje, grįždami namo, galite surengti panašią interaktyvią vaizdo diskusiją su savo vaikais, kai jie pradeda ruošti namų darbus vakare.

Kitas panaudojimas būtų pamokų lankymas. Dabar, kai jums nebereikia gaišti laiko vairuojant, galite paversti tą aklavietę savarankiškai vairuojančiame automobilyje savo įgūdžių tobulinimu arba pažymėjimo ar laipsnio gavimu. Per kameras, nukreiptas į vidų, jūsų instruktorius gali matyti jus ir aptarti, kaip vyksta jūsų mokymas.

Dar vienas tikslas būtų pabandyti užtikrinti, kad vairuotojai, važiuojantys savarankiškai važiuojančiais automobiliais, neapsunkintų. Žmogaus vairuojamame automobilyje vairuotojas yra suaugęs žmogus, kuris paprastai neleidžia vairuotojams daryti beprotiškų dalykų, pavyzdžiui, ženklinti grafičiais. Kas atsitiks su dirbtinio intelekto pagrindu veikiančiais savarankiškai važiuojančiais automobiliais? Kai kurie nerimauja, kad vairuotojai nuspręs suplėšyti transporto priemonių vidų. Siekdama to išvengti, savarankiškus automobilius diegianti pavėžėjimo įmonė greičiausiai naudos į vidų nukreiptas vaizdo kameras, kad stebėtų, ką žmonės veikia autonominėje transporto priemonėje.

Manau, kad esate įsitikinęs, kad turėsime vaizdo kameras, nukreipiančias į savarankiškai važiuojančių automobilių vidų, be kamerų, nukreiptų į išorę, kad būtų galima pastebėti vairavimo sceną.

Dabar esate pasiruošę tam, ką aš vadinu besisukančiomis akimis, žr. mano analizę nuoroda čia.

Pirmiausia apsvarstykite vaizdo kameras, nukreiptas į išorę.

Kad ir kur bevažiuotų savarankiškai važiuojantis automobilis, jis potencialiai galės filmuoti viską, ką mato kameros. Savaeigis automobilis, pakeliantis ką nors iš jų namų ir nuvežantis į bakalėjos parduotuvę, pervažiuos apylinkes, o vaizdo įraše bus užfiksuota ne tik važiuojamoji dalis, bet ir visa kita, kas vyksta akimis. Tėvas ir sūnus žaidžia jų priekiniame kieme. Šeima sėdi priekinėje verandoje. Tai tęsiasi ir tęsiasi.

Šiuo metu viešuosiuose keliuose turime tiek mažai savarankiškai vairuojančių automobilių, kad galimybė užfiksuoti kasdienę veiklą yra gana menka ir nereikšminga.

Įsivaizduokite, kad galiausiai pasieksime saugius ir plačiai paplitusius savarankiškai važiuojančius automobilius. Tūkstančiai jų. Gal milijonai. Šiandien JAV turime apie 250 milijonų žmonių vairuojamų automobilių. Ilgainiui juos iš esmės pakeis savaeigiai automobiliai arba jie tiesiog nebenaudojami, o keliuose daugiausia turėsime savaeigių automobilių. Tuos savarankiškai važiuojančius automobilius vairuoja dirbtinis intelektas, todėl jie gali važinėti iš esmės 24 × 7. Jokių poilsio pertraukų, jokių pertraukų vonios kambaryje.

Vaizdo įrašai gali būti įkelti iš šių savarankiškai važiuojančių automobilių per OTA (Over-The-Air) elektroninio tinklo jungtis. Savarankiškai važiuojantys automobiliai naudos OTA, kad į transporto priemonę atsisiųstų naujausius AI programinės įrangos atnaujinimus. Be to, OTA galima naudoti duomenims iš savarankiškai važiuojančio automobilio įkelti į debesų bazę.

Viską pasakius, būtų įmanoma sujungti šiuos įkeltus duomenis. Naudodami susiuvimą galite sujungti kasdienius atėjimus ir išvykimus bet kurią dieną išėjusio į lauką bet kurioje vietovėje, kurioje buvo daug savaeigių automobilių.

Apie tai aš įspėjau.

Dabar galime suderinti CCP tyrimą su tokio tipo pajėgumais. Tarkime, kad vyriausybė turi prieigą prie visų šių surinktų vaizdo įrašų duomenų. Tada jie galėtų naudoti AI pagrįstą veido atpažinimo algoritmą, kad nustatytų, kur jūs ėjote, kokiu paros metu per savo kasdienes gyvenimo keliones. Be to, jie tikriausiai galėtų naudoti savo „lojalumo“ AI pagrįstą analizatorių, kad pamatytų, ar jūsų veidas atrodo ištikimas, ar ne.

Įsivaizduokite, kad antradienio popietę ėjote nusipirkti sumuštinio į vietinę užkandinę. Savaeigiai automobiliai pravažiavo važiuojamąja dalimi. Daugelyje vaizdo įrašų užfiksuota, kaip ėjote penkias minutes, kad užkąstumėte. Duomenys buvo įkelti į centralizuotą duomenų bazę. Vyriausybė vykdė savo AI veido atpažinimo programą, naudodama duomenis.

Pasirodo, dirbtinis intelektas „nustatė“, kad jūsų veidas buvo nelojalus.

Galbūt šis nelojalus žvilgsnis įvyko tik akimirksniu. Laukėte prie gatvės kampo, kol pasikeis šviesa, kad galėtumėte pereiti gatvę į užkandinę. Tą akimirką jus apėmė lengvas pasibjaurėjimas, kad turėjote per ilgai laukti, kol pasirodysite „Pasivaikščiojimo“ simbolis. Galbūt tai buvo jūsų nelojalumo vyriausybei požymis?

Taip, AI apskaičiavo skaičiavimais, tą akimirką buvote labai nelojalus. Kai grįšite namo tą naktį, vyriausybė pasirūpino jūsų areštu.

Bet palaukite, yra dar daugiau.

Atminkite, kad vaizdo kameros taip pat nukreiptos į vidų.

Tą patį antradienį, kai važiavote į darbą savaeigiu automobiliu, vaizdo kameros užfiksavo kiekvieną jūsų akimirką. Tai buvo įkelta į centralizuotą duomenų bazę. Dirbtinio intelekto programinė įranga, analizuojanti veido modelius dėl nelojalumo, skaičiuojant ištyrė jūsų veido išraiškas kelionės į biurą metu.

Vienu metu jūs atsainiai žiūrėjote už autonominės transporto priemonės ir pastebėjote statybininką, kuris iš dalies užtvėrė važiuojamąją dalį ir privertė dirbtinio intelekto sistemą sulėtinti savarankiškai važiuojantį automobilį. Sekundės sekundės dalį jūsų veidas užfiksavo pajuoką iš šio statybininko, lėtinančio eismą.

AI veido modelio analizė tai interpretavo kaip nelojalumo vyriausybei ženklą.

Du smūgiai prieš tave per vieną dieną.

Jūs gyvenate ant plono ledo.

Žinoma, šiame kontekste beveik nesvarbu, ar AI yra „teisinga“, ar „neteisinga“, kad galėtų nustatyti jūsų lojalumą. Esmė ta, kad AI buvo sukurtas šiam tikslui. Žmonėms, kurie diegia dirbtinį intelektą, gali rūpėti, ar dirbtinis intelektas yra tinkamas tokio tipo užduotims. AI leidžia vykdyti vyriausybinę kontrolę, nepaisant paties technologinio pagrįstumo.

Tai apima veido nuskaitymą.

Jei galiausiai turėsime kokių nors nešiojamų ekonomiškų prietaisų, skirtų (tariamam) smegenų bangų nuskaitymui, tai tikrai gali būti įtraukta į savarankiškai važiuojančius automobilius. Vaizdo kameros dabar yra tikras dalykas. Galimybė turėti tokio kalibro smegenų bangų nuskaitymo įrenginius šiuo metu nėra kortelėse, tačiau akivaizdu, kad tai yra kažkas, kas yra numatyta ateityje.

Norėdami sužinoti, kaip vyriausybė gali bandyti užvaldyti gyventojus perimdama savaeigių automobilių kontrolę, žr. nuoroda čia. Egzistuoja panaši galimybė, kad piktybinis veikėjas gali pabandyti padaryti tą patį, žr nuoroda čia. Tai nėra gąsdinimo taktika tomis susijusiomis temomis, o perspėjimas apie kibernetinio saugumo svarbą ir kitas atsargumo priemones, kurių, kaip visuomenė, turime stengtis imtis dėl visur paplitusių savarankiškai vairuojančių automobilių ir kitos autonominės transporto priemonės.

Išvada

Norėčiau greitai apžvelgti dar vieną aspektą apie AI, naudojamą lojalumui nustatyti, kuris, mano manymu, yra šiek tiek atskira tema, tačiau kai kurie tviteriai ir socialinė žiniasklaida buvo paminėta.

Anksčiau minėjau, kad mes neturime jautraus AI ir nežinome, ar turėsime ir kada tai padarysime. Įsivaizduokime, kad turėsime jautrų AI. Tokiu atveju apsvarstykite toliau pateiktą scenarijų.

Mes, naudodamiesi nejautriu dirbtiniu intelektu, pasirenkame plačiai naudoti AI, kuri skaičiuojant nustato, ar žmonės yra lojalūs savo vyriausybei, naudoja veido nuskaitymus, smegenų bangų nuskaitymus ir pan. Tai visiškai valdo ir naudojasi autoritetingi žmonės. Tai yra nerimą keliantis scenarijus, kurį tik akimirkomis anksčiau aprašiau.

Laikas pakilti.

AI tampa jautrus. Dabar mes potencialiai suteikėme šiam jautriam dirbtiniam intelektui plačiai paplitusią galimybę, ko gero, atpažinti žmonių lojalumą ir nelojalumą. Piktaliai besielgiantis dirbtinis intelektas, kuris svarsto galimybę išnaikinti žmones, gali pasinaudoti šia galimybe nuspręsti, kad žmonės iš tiesų bus nelojalūs ir turėtų būti visiškai sunaikinti. O gal tiesiog tie žmonės, kurių veidas ar mintys rodo nelojalumą, turi būti ypač atmesti.

Kitas aspektas yra tai, kad AI nori pavergti žmones, žr. mano diskusiją nuoroda čia.

Atrodo, kad AI padovanojome puikią dovaną, kad ši užduotis būtų įvykdyta. Esama infrastruktūra, kurią įdiegėme, leidžia AI atidžiai stebėti mus, žmones. Tie, kurie, atrodo, išreiškė nelojalius veido požymius arba galvoja apie AI valdovą (-us), pajus AI rūstybę.

Suprantu, kad sakiau, kad tai yra ante pakėlimas. Nesu tikras, kad taip yra. Man atrodo, kad nesvarbu, ar turime dirbtinio intelekto valdovus, kurie tiesiogiai sprendžia mūsų likimą, o ne žmonių viršininkus, kad lojalumui nustatyti tikriausiai naudojama AI sistema, na, nė vienas pasiūlymas neatrodo ypač pageidautinas.

Galutinis komentaras kol kas.

Romos mokslininkas ir filosofas Markas Tulijus Ciceronas teigė, kad nėra nieko kilnesnio, nieko garbingesnio už ištikimybę. Galbūt leisime dirbtiniam intelektui aplenkti mus ir tapti įrankiu, leidžiančiu siaubingomis priemonėmis įtraukti ir užtikrinti „lojalumą“.

Verta dėmesio verta priežastis įtraukti AI etiką į mūsų darbų sąrašo viršų.