AI etika ir savęs pažinimo AI ieškojimai

Ar tu žinai save?

Lažinuosi, kad tu tiki, kad esi.

Reikalas tas, kad tariamai nedaugelis iš mūsų yra ypač sąmoningi. Yra tam tikras savęs suvokimo diapazonas arba laipsnis, ir tariamai mes visi skirtingai suvokiame save. Galite manyti, kad visiškai save suvokiate ir tik nežymiai. Galbūt jūs menkai suvokiate save ir suprantate, kad tai jūsų psichinė būsena.

Tuo tarpu aukščiausioje spektro dalyje galite manyti, kad visiškai suvokiate save ir, tiesą pasakius, taip pat suvokiate save. Tau gerai.

Ką jau kalbėti apie tai, ką naudinga turėti nepaprastai sąmoningam?

Pagal mokslinius tyrimus, paskelbtus Harvard Business Review " (HBR), kurį pateikė Tasha Eurich, jūs, kaip pranešama, galite priimti geresnius sprendimus, labiau pasitikite savo sprendimais, esate stipresni savo komunikacijos gebėjimais ir apskritai veiksmingesni (straipsnyje „Kas iš tikrųjų yra savimonė (ir kaip). lavinti).“ Papildomas veiksnys yra tai, kad tie, kurių savimonė yra ryški, yra mažiau linkę sukčiauti, vogti ar meluoti. Šia prasme yra dviprasmybė išvengti būti niekšu ar sukčiu. siekti būti geresniu žmogumi ir pagražinti savo artimą žmoniją.

Visos šios kalbos apie savimonę iškelia šiek tiek akivaizdų klausimą, būtent, ką iš tikrųjų reiškia frazė savimonė. Galite nesunkiai rasti daugybę įvairių apibrėžimų ir interpretacijų apie kompleksą ir, sakykime, švelnų konstrukciją, reikalaujančią savęs suvokimo. Kai kurie reikalus supaprastintų teigdami, kad savimonė susideda iš savęs stebėjimo, žinojimo, kuo užsiimi. Jūs puikiai suvokiate savo mintis ir veiksmus.

Tikėtina, kad savęs nesuvokdamas žmogus nesuvoktų, ką daro, kodėl taip daro, taip pat nesuvoktų, ką kiti žmonės apie juos turi pasakyti. Esu tikras, kad sutikote tokių žmonių.

Atrodo, kad kai kurie žmonės vaikšto šioje žemėje nesuvokdami, ką daro patys, ir nemato, ką apie juos sako kiti. Manau, galite teigti, kad jie yra tarsi galva žemyn besikraunantis bulius subtiliame laužomų daiktų parduotuvėje. Mes paprastai linkę manyti, kad jautis nežino, ką daro, ir lieka nepaisęs kitų požiūrio, nebent tie kiti bando fiziškai manevruoti ar aptvaryti nesupratingą būtybę.

Sakoma, kad savęs suvokimas gali būti šiek tiek rekursyvus.

Leiskite man pateikti pavyzdį šiai rekursijai iliustruoti. Šiuo metu išmaniajame telefone žiūrite gana patrauklų katės vaizdo įrašą (atrodo, kad visi tai daro). Kai kuriems žmonėms nekiltų kitų akivaizdžių minčių, išskyrus nuostabias širdžiai mielas tų brangių kačių išdaigas. Tuo tarpu kiekvienas, turintis šiek tiek savimonės, žino, kad žiūri vaizdo įrašą apie katę. Jie taip pat gali žinoti, kad kiti aplinkiniai pastebi, kad žiūri vaizdo įrašą apie katę.

Atkreipkite dėmesį, kad galite suvokti save ir vis tiek pasinerti į tam tikrą pagrindinę veiklą. Šiuo atveju pagrindinė veikla yra katės vaizdo įrašo žiūrėjimas. Antra, ir tuo pačiu metu galite turėti mintį, kad iš tikrųjų žiūrite katės vaizdo įrašą. Taip pat galite neštis mintį, kad kiti jus stebi, kai žiūrite visai linksmą katės vaizdo įrašą. Nebūtinai turite nutraukti vieną veiklą, pvz., nustoti žiūrėti vaizdo įrašą apie katę, kad galėtumėte atskirai pagalvoti, jog žiūrite (arba tiesiog žiūrėjote) katės vaizdo įrašą. Tos mintys gali kilti lygiagrečiai viena su kita.

Kartais mūsų savimonė gali išstumti mus iš pagrindinės protinės veiklos arba bent jau ją nutraukti. Galbūt, kai galvojate apie tai, kaip žiūrite vaizdo įrašą apie katę, jūsų protas iš dalies išsisklaido, nes per daug susikaupia susikoncentruoti tik į patį vaizdo įrašą. Tada pasirenkate atsukti vaizdo įrašą atgal, kad peržiūrėtumėte dalį, kurią matėte, bet psichiškai atitraukėte nuo visiško supratimo. Savęs suvokimas sutrikdė jūsų pirminę protinę veiklą.

Gerai, dabar esame pasiruošę, kad atsiras rekursyvūs aspektai.

Ar jūs pasiruošę?

Jūs žiūrite katės vaizdo įrašą. Jūsų savimonė informuoja jus, kad žiūrite vaizdo įrašą apie katę ir kad kiti žiūri jus, kai žiūrite vaizdo įrašą. Tai yra status quo.

Tada atliksite papildomą protinį šuolį. Jūs pradedate galvoti apie savo savimonę. Jūs suprantate, kad įtraukiate savo savimonę. Štai kaip tai vyksta: ar aš per daug galvoju apie tai, kaip žiūriu vaizdo įrašą apie katę, jūs klausiate savęs beviltiškai? Tai dar vienas savimonės sluoksnis. Savęs suvokimo reitingas virš kito savimonės.

Yra senas posakis, kad tai vėžliai iki galo. Savęs suvokimo reiškiniams galite būti:

• Nežinodamas savęs
• Savęs suvokimas
• Savęs suvokimas apie savo savimonę
• Savęs suvokimas apie savo buvimą Savęs suvokimas apie savęs suvokimą
• „Ad Infinitum“ (ty ir pan.)

Galbūt supratote, kad aš anksčiau subtiliai nurodžiau, kad, atrodo, yra dvi pagrindinės savęs suvokimo kategorijos. Viena konkreti teorija teigia, kad mes turime savotišką vidinę savimonę, kuri sutelkia dėmesį į mūsų vidines būsenas, taip pat turime išorinę savimonę, kuri padeda įvertinti aplinkinių, kurie į mus žiūri, suvokimą apie mus.

Remiantis HBR straipsniu, čia pateikiamas trumpas teorinių dviejų savimonės tipų vaizdavimas: „Pirmasis, kurį mes pavadinome vidinė savimonė, parodo, kaip aiškiai matome savo vertybes, aistras, siekius, suderinamumą su aplinka, reakcijas (įskaitant mintis, jausmus, elgesį, stipriąsias ir silpnąsias puses) ir poveikį kitiems. O tuo tarpu kita yra: „Antra kategorija, išorinė savimonė, reiškia suprasti, kaip kiti žmonės į mus žiūri, atsižvelgiant į tuos pačius anksčiau išvardytus veiksnius. Mūsų tyrimai rodo, kad žmonės, kurie žino, kaip kiti juos mato, yra labiau įgudę parodyti empatiją ir atsižvelgti į kitų požiūrį.

Patogią matricą du po du arba keturių kvadratų galima gauti tvirtinant, kad tiek vidinė, tiek išorinė savimonė svyruoja nuo aukštos iki žemos, ir jūs galite susieti šias dvi kategorijas. HBR tyrimas rodo, kad jūs esate vienas iš šių keturių savimonės archetipų:

• Introspektorius: žema išorinė savimonė + aukšta vidinė savimonė
• Ieškotojas: žema išorinė savimonė + žema vidinė savimonė
• Prašome: aukšta išorinė savimonė + žema vidinė savimonė
• Sąmoningas: aukšta išorinė savimonė + aukšta vidinė savimonė

Viršūnė būtų „sąmoningo“ archetipas, kurį sudaro buvimas išorinio savęs suvokimo viršuje ir taip pat vidinio savęs suvokimo viršuje. Paaiškinsiu, kad jūs nepasiekiate šios šlovingos pozos būtinai nuolatiniu būdu. Galite slysti pirmyn ir atgal tarp aukšto ir žemo lygio, tiek tarp vidinės, tiek tarp išorinės savimonės sferų. Tai gali priklausyti nuo paros laiko, situacijos, kurioje atsidūrėte, ir daugybės kitų svarbių veiksnių.

Dabar, kai gerai aptarėme kai kuriuos pagrindinius savimonės elementus, galime siekti susieti tai su etiško elgesio tema.

Įprastas teiginys apie savęs suvokimą yra tas, kad labiau tikėtina, kad būsite už borto, kai suvokiate save. Tai reiškia, kaip jau minėta, esate mažiau linkę į neigiamą etišką elgesį, pavyzdžiui, vagystę, sukčiavimą ir melą. Šios tendencijos priežastis yra ta, kad jūsų savimonės aktyvumas privers jus suprasti, kad jūsų elgesys yra neskanus arba neetiškas. Jūs ne tik pagaunate save, kai įplaukiate į purvinus neetiškus vandenis, bet taip pat esate linkę grįžti atgal ir į sausą žemę (etiškos teritorijos šventumą), taip sakant.

Jūsų savimonė padeda jums kontroliuoti save.

Manoma, kad kontrastas būtų tada, kai yra mažai arba visai nėra savimonės, o tai rodo, kad kažkas galbūt nepaiso savo polinkio į neetišką elgesį. Galite teigti, kad toks nežinantis asmuo gali nesuprasti, kad jis veikia neigiamai. Panašiai kaip bulius laužomų prekių parduotuvėje, kol kažkas atviriau patraukia jų dėmesį, vargu ar jie susitvarkys.

Beje, ne visi tai perka. Kai kurie tvirtintų, kad savimonė gali būti taip pat lengvai pritaikoma neetiškumui, kaip ir etiškumui. Pavyzdžiui, piktadaris gali visiškai suvokti save ir džiaugtis, kad daro neteisėtus veiksmus. Jų savimonė netgi verčia juos vis smarkiau į vis didesnius niekšiškus nusižengimus.

Čia yra daugiau debesuotumo, nei gali tiesiogiai matyti. Tarkime, kas nors labai save suvokia, bet nežino tam tikros visuomenės ar kultūros etinių papročių. Tokiu būdu jie neturi jokių etinių nurodymų, nepaisant to, kad jie žino save. Arba, jei norite, galbūt asmuo žino apie etines nuostatas ir netiki, kad jos joms taikomos. Jie laiko save unikaliais arba už įprastinio etinio mąstymo ribų.

Tai eina ratu ir ratu.

Savęs suvokimas gali būti suprantamas kaip dviašmenis kardas, orientuotas į etiką, kai kurie karštai pabrėžtų.

Šiuo metu pasirinkime laimingo veido versiją, kurią sudaro savimonė, iš esmės nukreipianti arba stumianti mus į etišką elgesį. Jei visa kita bus vienoda, darysime drąsią prielaidą, kad kuo daugiau savimonės, tuo labiau būsite etiškai linkę. Tikrai atrodo malonu ir įkvepianti to palinkėti.

Perjunkite pavaras ir įtraukime dirbtinį intelektą (AI).

Esame šios diskusijos sandūroje, siekdami susieti visas vykstančias painiavas su klestinčia etiško AI sritimi, dar vadinama AI etika. Dėl mano nuolatinės ir išsamios AI etikos aprėpties žr nuoroda čia ir nuoroda čia, Tik pavadinimas kelias.

Etiško AI sąvoka apima etikos ir etiško elgesio srities susipynimą iki AI atsiradimo. Jūs tikrai matėte antraštes, kuriose skambėjo pavojaus varpai apie dirbtinį intelektą, kuriame gausu nelygybės ir įvairių šališkumo. Pavyzdžiui, nerimaujama, kad dirbtiniu intelektu pagrįstos veido atpažinimo sistemos kartais gali būti diskriminuojamos dėl rasės ir lyties, paprastai dėl to, kaip buvo apmokytos ir pritaikytos pagrindinės mašininio mokymosi (ML) ir giluminio mokymosi (DL) priemonės (žr. mano analizę). adresu šią nuorodą čia).

Norėdami pabandyti sustabdyti ar bent jau sušvelninti bėdų veržimąsi link AI For Bad, kurią sudaro dirbtinio intelekto sistemos, kurios netyčia arba kartais tyčia sukurtos taip, kad veiktų blogai, pastaruoju metu buvo skubu taikyti etikos nuostatas kuriant ir naudojant AI. Nuoširdus tikslas yra teikti etines gaires dirbtinio intelekto kūrėjams, taip pat įmonėms, kurios kuria ar kuria DI, ir toms, kurios priklauso nuo AI programų. Kaip pavyzdį, kaip kuriami ir priimami etiniai AI principai, žr. mano aprėptį adresu nuoroda čia.

Skirkite apmąstymui akimirką ir apsvarstykite šiuos tris labai svarbius klausimus:

• Ar galime priversti dirbtinio intelekto kūrėjus laikytis etiškų AI principų ir įgyvendinti šias gaires?
• Ar galime priversti įmones, kurios kuria dirbtinį intelektą arba kuria dirbtinį intelektą, pasielgti taip pat?
• Ar galime pasiekti, kad tie, kurie naudoja AI, taip pat žinotų etinio AI aspektus?

Drąsiai sakyčiau, kad tai aukštas užsakymas.

DI kūrimo jaudulys gali nugalėti bet kokį dėmesį AI etikai. Na, ne tik jaudulys, bet ir pinigų uždirbimas yra neatsiejama nuo šios lygties. Galbūt nustebsite sužinoję, kad kai kurie dirbtinio intelekto sferoje dirbantys žmonės linkę sakyti, kad jie susitvarkys su etiniais AI „daiktais“, kai tik išleis savo AI sistemas. Tai yra tipiška technikos mantra, kai reikia greitai ir dažnai žlugti, kol pavyks (tikiuosi, kad pavyks).

Žinoma, tie, kurie staigiai stumia į visuomenę etiškai abejotiną AI, išleidžia arklį iš tvarto. Jų skelbiama ištiesta idėja yra ta, kad AI For Bad bus sutvarkytas po to, kai jis bus naudojamas kasdien, o tai neigiamai vėluoja, nes arklys jau beprotiškai šuoliuoja. Galima padaryti žalos. Taip pat yra didesnė tikimybė, kad naudojant AI niekas nebus pataisyta ar pakoreguota. Dažnas pasiteisinimas yra tas, kad tuo momentu, kai verčiau dirbti su dirbtiniu intelektu, tai gali dar labiau pablogėti, nes jau ir taip neetiškas algoritminis sprendimų priėmimas (ADM) visiškai nutrūks.

Ką daryti, kad etiškas AI būtų naudingas ir gyvybingas kaip ryškiai šviečianti ir vadovaujanti šviesa tiems, kurie kuria dirbtinį intelektą, kuria DI ir naudoja AI?

Atsakymas: Savivoka.

Taip, manoma, kad jei žmonės geriau žinotų, kaip jie naudojasi ar sąveikauja su AI, tai gali padidinti jų polinkį norėti, kad etiškas AI taptų norma. Tą patį galima pasakyti apie AI kūrėjus ir su AI sistemomis susijusias įmones. Jei jie geriau žinotų, ką daro, galbūt jie labiau priimtų dirbtinio intelekto etiką.

Dalis logikos, kaip jau buvo nurodyta, yra ta, kad savęs suvokimas suteikia tendenciją būti etiškai geresniu žmogumi ir taip pat vengti būti etiškai niekšišku žmogumi. Jei galime išlaikyti šią prielaidą, tai reiškia, kad dirbtinio intelekto kūrėjai, kurie yra labiau linkę į savimonę, bus linkę į etišką elgesį ir todėl bus linkę kurti etiškai pagrįstą AI.

Ar tai tiltas per toli tau?

Kai kas pasakytų, kad netiesiogumo yra šiek tiek daug. Galbūt sunku praryti pernelyg didelę sąsajų tarp savęs suvokimo, etinio dorybingumo ir etinių nuostatų taikymo dirbtiniam intelektui. Priešingas argumentas yra tai, kad pabandyti negalėjo pakenkti.

Skeptikai sakytų, kad dirbtinio intelekto kūrėjas gali būti sąmoningas ir galbūt labiau etiškai nusiteikęs, tačiau jie nebūtinai imasi šuolio, kad pritaikytų šią psichikos stovyklą etiško AI papročiams. Atsakymas į šį nuogąstavimą yra toks, kad jei galėsime viešinti ir populiarinti etinius AI dalykus, kitaip atrodytų silpnas ryšys taps akivaizdesnis, labiau tikimasi ir galbūt taps standartiniu būdu, kai kalbama apie AI kūrimą.

Dabar prie šios sagos pridėsiu posūkį. Dėl posūkio gali suktis galva. Įsitikinkite, kad gerai sėdite ir pasiruošėte tam, ką ketinu nurodyti.

Kai kurie pažymi, kad turėtume sukurti etišką AI tiesiai į patį AI.

Galbūt jus nenuvils toks pareiškimas. Išpakuosime.

Programuotojas gali sukurti AI sistemą ir tai padaryti turėdamas savo programavimo savimonę, bandydamas neleisti AI įkūnyti šališkumo ir nelygybės. Užuot tiesiog ryžtasi programuoti, kūrėjas stebi už savo pečių ir klausia, ar dėl jo taikomo požiūrio AI nebus neigiamų elementų.

Puiku, turime dirbtinio intelekto kūrėją, kuris, atrodo, pakankamai sąmoningas, stengėsi laikytis etiško elgesio ir matė etikos nuostatas, kai kuria savo AI sistemą.

Iškovok Ethical AI pergalę!

Viskas gerai, nors čia yra kažkas, kas vėliau gali paaiškėti. AI yra sukurtas ir naudojamas kasdien. Dalis AI apėmė komponentą, leidžiantį „mokytis“ skrendant. Tai reiškia, kad AI gali prisitaikyti pagal naujus duomenis ir kitus pradinio programavimo aspektus. Trumpai tariant, tai nereiškia, kad AI yra jautrus. Mes neturime jautraus AI. Ignoruokite tas kvailas antraštes, kuriose teigiama, kad taip darome. Niekas negali pasakyti, ar turėsime jautrųjį AI, ir niekas negali pakankamai numatyti, kada tai įvyks.

Grįžtant prie mūsų pasakojimo, dirbtinis intelektas buvo tikslingai sukurtas tam, kad jį tobulinant. Visai patogi mintis. Vietoj to, kad programuotojai nuolatos tobulėtų, jie leidžia dirbtinio intelekto programai tai padaryti pačiai (oho, ar jūs pats dirbate be darbo?).

Per tą laiką, kol AI colis po colio prisitaiko, paaiškėja, kad įvairios niūrios nelygybės ir šališkumas įsiskverbia į AI sistemą dėl jos pačios pokyčių. Nors programuotojas iš pradžių neįtraukė šių niūrių aspektų, dabar jie formuojasi dėl AI prisitaikymo skrydžio metu. Deja, tai gali įvykti taip subtiliai užkulisiuose, kad niekas nėra išmintingesnis. Tie, kurie anksčiau galėjo uždegti žalią šviesą dirbtiniam intelektui po pirminio išsamaus bandymo, dabar aklai nežino, kad AI nuėjo supuvusiu keliu. AI For Bad.

Viena iš būdų užkirsti kelią šiam nepageidaujamam atsiradimui arba bent jau jį sugauti būtų į AI integruoti savotišką etinio AI dvigubo tikrinimo priemonę. AI komponentas yra užprogramuotas stebėti AI elgesį ir nustatyti, ar pradeda atsirasti neetiška ADM. Jei taip, komponentas gali išsiųsti įspėjimą AI kūrėjams arba tai padaryti įmonei, kuri naudoja AI sistemą.

Pažangesnė šio komponento versija gali pabandyti pataisyti AI. Tai būtų koregavimo koregavimas, neetiškus iškylančius aspektus paverčiant tinkamais etiniais parametrais. Galite įsivaizduoti, kad tokio tipo programavimas yra sudėtingas. Yra tikimybė, kad tai gali suklysti, galbūt pavirs neetišku į labai neetišką. Taip pat yra galimybė, kad klaidingas teigiamas veiksmas suaktyvins komponentą ir gali atitinkamai sujaukti.

Bet kokiu atveju, nesigilindami į tai, kaip šis dvigubas tikrintuvas veiktų, mes apie tai įžūliai paskelbsime. Galite pasiūlyti, kad tam tikru ribotu būdu AI suvokia save.

Oi, daugeliui tai yra kovingi žodžiai.

Beveik visi vyrauja įsitikinimas, kad šiandieninis AI nesuvokia savęs. Taškas, taškas. Kol nepasieksime jausmingo DI, kurio nežinome, ar tai įvyks, ir kada tai įvyks, nėra jokios AI, kuri save suvoktų. Ne bent jau į žmogų orientuotos savimonės prasme. Net negalvok, kad taip gali nutikti.

Aš tikrai sutinku, kad turime būti atsargūs antropomorfizuodami AI. Netrukus papasakosiu daugiau apie šį rūpestį.

Tuo tarpu, jei diskusijų sumetimais norėsite naudoti fazę „savarankiškas“, manau, nesunkiai suprasite, kodėl galima sakyti, kad dirbtinis intelektas laikosi bendros savęs suvokimo sąvokos. suvokimas. Mes turime dalį AI, kuri stebi likusią AI dalį ir stebi, ką daro likusi AI. Kai likusi AI dalis pradeda peržengti ribas, stebėjimo dalis siekia tai aptikti. Be to, AI stebėjimo dalis arba dvigubas tikrintuvas gali nukreipti likusį AI atgal į tinkamas juostas.

Ar tai neatrodo kaip žiūrėti tuos kačių vaizdo įrašus ir suvokti, kad tai darai?

Jame yra pažįstamas žiedas.

Galime tai dar labiau išplėsti. AI dvigubo tikrinimo komponentas yra ne tik užprogramuotas stebėti likusio AI elgseną, bet ir atkreipia dėmesį į AI naudojančių asmenų elgesį. Kaip vartotojams sekasi naudojant AI? Tarkime, kai kurie vartotojai išreiškia pasipiktinimą, kad dirbtinis intelektas juos diskriminuoja. DI dvigubas tikrintuvas gali tai suprasti, naudodamas jį kaip dar vieną raudoną vėliavėlę, rodančią, kad likusi AI dalis klysta.

Tai iškelia vidinę savimonę ir išorinę savimonę.

AI dvigubas tikrintuvas nuskaito viduje ir išorėje, kad išsiaiškintų, ar likusi AI dalis nepateko į nerimą keliančias jūras. Dėl aptikimo bus iškelta vėliavėlė arba bus atlikta savaiminė korekcija.

Pridėkime dar vieną šiek tiek nesuprantamą plėtinį. Sukuriame dar vieną AI dvigubą tikrintuvą, kuris yra skirtas dar kartą patikrinti pagrindinį AI dvigubą tikrintuvą. Kodėl taip? Na, tarkime, AI dvigubas tikrintuvas šlubuoja arba neatlieka savo darbo. AI dvigubas tikrintuvas sieks aptikti šį gedimą ir atitinkamai imtis reikiamų veiksmų. Sveiki atvykę į rekursyvų savimonės pobūdį, kai kurie gali išdidžiai pareikšti, kaip rodoma skaičiavimo AI sistemoje.

Tiems iš jūsų, kurie šiuo klausimu jau laikosi savo vietos, kol kas paskutinis komentaras yra toks, kad galėtume pabandyti pasiūlyti, kad jei dirbtinio intelekto sistemas „suvokiate“, jos gali patraukti į etišką elgesį. Ar jie tai daro jausmingai? Nuspręsta, ne. Ar jie tai daro skaičiavimo pagrindu? Taip, nors turime aiškiai pasakyti, kad tai nėra tokio pat kalibro kaip žmogaus elgesys.

Jei jaučiatės nepatogiai, kad savimonės samprata yra neteisingai iškraipoma, kad ji atitiktų skaičiavimo schemą, jūsų nuogąstavimai dėl to yra gerai pažymėti. Kitas atviras klausimas, ar turėtume sustabdyti nuolatines AI pastangas, kurios panaudoja šią idėją. Galite įtikinamai teigti, kad bent jau atrodo, kad tai mus veda link geresnio rezultato, kurį greičiausiai padarys AI. Vis dėlto turime plačiai atmerkti akis, kai tai vyksta.

Manau, mums reikės pamatyti, kaip visa tai bus. Grįžkite prie to po penkerių, dešimties ir penkiasdešimties metų ir pažiūrėkite, ar pasikeitė jūsų mąstymas prieštaringai vertinamu klausimu.

Suprantu, kad tai buvo šiek tiek svaiginantis temos nagrinėjimas ir galbūt trokštate keleto kasdienių pavyzdžių. Yra ypatingas ir neabejotinai populiarus pavyzdžių rinkinys, kuris man prie širdies. Matote, kaip dirbtinio intelekto, įskaitant etines ir teisines pasekmes, ekspertas, manęs dažnai prašoma pateikti realių pavyzdžių, atskleidžiančių DI etikos dilemas, kad būtų galima lengviau suvokti šiek tiek teorinį temos pobūdį. Viena iš įdomiausių sričių, ryškiai pristatančių šią etišką AI kliūtį, yra dirbtinio intelekto pagrindu sukurtų tikrų savaeigių automobilių atsiradimas. Tai bus patogus naudojimo atvejis arba pavyzdys plačioms diskusijoms šia tema.

Štai vertas dėmesio klausimas, kurį verta apsvarstyti: Ar dirbtinio intelekto pagrindu sukurtų tikrų savarankiškai vairuojančių automobilių atsiradimas ką nors parodo, kad dirbtinis intelektas panašus į „savimonę“, ir jei taip, ką tai parodo?

Leiskite man akimirką išpakuoti klausimą.

Pirma, atkreipkite dėmesį, kad tikrai savarankiškai vairuojančiame automobilyje nėra žmogaus vairuotojo. Atminkite, kad tikri savarankiškai važiuojantys automobiliai yra valdomi naudojant AI vairavimo sistemą. Nereikia, kad prie vairo būtų vairuotojas žmogus, taip pat nėra numatyta, kad žmogus galėtų vairuoti transporto priemonę. Išsamią ir nuolatinę informaciją apie autonomines transporto priemones (AV) ir ypač apie savarankiškai važiuojančius automobilius žr. nuoroda čia.

Norėčiau dar labiau paaiškinti, ką turiu omenyje, kai kalbu apie tikrus savarankiškai vairuojančius automobilius.

Suprasti savarankiškų automobilių lygį

Paaiškinimas: tikri savaeigiai automobiliai yra tie, kad dirbtinis intelektas visiškai valdo automobilį ir vairavimo užduotyje nėra jokios žmogaus pagalbos.

Šios transporto priemonės be vairuotojo laikomos 4 ir 5 lygiais (žr. mano paaiškinimą adresu šią nuorodą čia), o automobilis, kurio vairuotojas turi pasidalyti vairavimo pastangomis, paprastai laikomas 2 arba 3 lygiu. Automobiliai, kurie kartu atlieka vairavimo užduotį, apibūdinami kaip pusiau savarankiški ir paprastai juose yra įvairių automatiniai priedai, vadinami ADAS (išplėstinės vairuotojo pagalbos sistemos).

Dar nėra tikro 5 lygio lygio savarankiškai važiuojančio automobilio, kurio mes net nežinome, ar tai bus įmanoma pasiekti, ir nei kiek laiko prireiks jo nuvažiavimui.

Tuo tarpu 4 lygio pastangos pamažu bando įgyti šiek tiek traukos atlikdami labai siaurus ir selektyvius viešųjų kelių bandymus, nors kyla ginčų dėl to, ar šis bandymas turėtų būti leidžiamas per se (mes visi esame gyvybės ar mirties jūrų kiaulytės eksperimente vyksta mūsų greitkeliuose ir pakelėse, kai kurie tvirtina, žr. mano aprėptį adresu šią nuorodą čia).

Kadangi pusiau autonominiams automobiliams reikalingas žmogiškas vairuotojas, šių tipų automobiliai bus žymiai kitokie nei vairuojant įprastas transporto priemones, todėl apie juos šioje temoje nėra daug naujų, tačiau, kaip pamatysite po akimirkos kiti taškai yra paprastai taikomi).

Dėl pusiau autonominių automobilių svarbu, kad visuomenė būtų perspėta apie nerimą keliantį aspektą, kuris pastaruoju metu iškyla, būtent, kad nepaisant tų vairuotojų, kurie nuolat skelbia vaizdo įrašus apie tai, kaip jie užmiega prie 2 ar 3 lygio automobilių vairo , visi turime vengti klaidinti manydami, kad vairuotojas, vairuodamas pusiau autonominį automobilį, gali atitraukti dėmesį nuo vairavimo užduoties.

Jūs esate atsakingas už transporto priemonės vairavimo veiksmus, nepaisant to, kiek automatikos gali būti išmesta į 2 ar 3 lygį.

Savarankiškai vairuojantys automobiliai ir dirbtinis intelektas, turintys vadinamąjį savęs suvokimą

Tikrosios 4 ir 5 lygio savarankiškai vairuojančioms transporto priemonėms vairuotojo užduotis nebus skirta žmonėms.

Visi keleiviai bus keleiviai.

AI vairuoja.

Vienas aspektas, kurį reikia nedelsiant aptarti, reiškia, kad dirbtinis intelektas, dalyvaujantis šiandieninėse dirbtinio intelekto vairavimo sistemose, nėra jausmingas. Kitaip tariant, dirbtinis intelektas yra kompiuterinio programavimo ir algoritmų kolektyvas, kuris, be abejo, negali samprotauti taip, kaip gali žmonės.

Kodėl taip pabrėžiama, kad AI nėra jautrus?

Nes noriu pabrėžti, kad aptardamas dirbtinio intelekto vairavimo sistemos vaidmenį, aš AI nepriskiriu žmogaus savybių. Turėkite omenyje, kad šiomis dienomis yra nuolatinis ir pavojingas polinkis antropomorfizuoti AI. Iš esmės žmonės priskiria žmonėms panašų jausmą šiandieniniam dirbtiniam intelektui, nepaisant neginčijamo ir neginčijamo fakto, kad tokio AI dar nėra.

Patikslinę galite įsivaizduoti, kad dirbtinio intelekto vairavimo sistema savaime kažkaip „neišmanys“ vairavimo aspektų. Vairavimą ir visa tai, ką tai reiškia, reikės užprogramuoti kaip savarankiško automobilio techninės ir programinės įrangos dalį.

Pasinerkime į begalę aspektų, kurie yra svarbūs šia tema.

Pirma, svarbu suprasti, kad ne visi dirbtinio intelekto automobiliai yra vienodi. Kiekvienas automobilių gamintojas ir savarankiškai vairuojančių technologijų įmonė laikosi savo požiūrio į savaeigių automobilių kūrimą. Todėl sunku pateikti plačius teiginius apie tai, ką AI vairavimo sistemos darys ar ne.

Be to, kai teigiama, kad dirbtinio intelekto vairavimo sistema neatlieka tam tikro dalyko, vėliau tai gali aplenkti kūrėjai, kurie iš tikrųjų užprogramuoja kompiuterį tai padaryti. Žingsnis po žingsnio AI vairavimo sistemos palaipsniui tobulinamos ir plečiamos. Esamo apribojimo šiandien gali nebelikti būsimoje iteracijoje ar sistemos versijoje.

Aš tikiu, kad tai suteikia pakankamai litanijos įspėjimų, kuriais grindžiamas tai, ką ketinu pasakyti.

Dabar esame pasiruošę giliai pasinerti į savarankiškai važiuojančius automobilius ir etinius dirbtinio intelekto klausimus.

Panaudokime lengvai suprantamą pavyzdį. Dirbtinio intelekto pagrindu veikiantis savarankiškai vairuojamas automobilis važinėja jūsų kaimynystės gatvėse ir atrodo, kad važiuoja saugiai. Iš pradžių skyrėte ypatingą dėmesį kiekvieną kartą, kai pavykdavo užmesti akį į savaeigį automobilį. Autonominė transporto priemonė išsiskyrė savo elektroninių jutiklių stovu, kuriame buvo vaizdo kameros, radarai, LIDAR įrenginiai ir panašiai. Po daugelio savaičių savaeigio automobilio važinėjimo po jūsų bendruomenę dabar vos pastebite. Jūsų nuomone, tai tik dar vienas automobilis jau judriuose viešuosiuose keliuose.

Kad nepagalvotumėte, kad neįmanoma ar neįtikėtina susipažinti su savaeigiais automobiliais, aš dažnai rašiau apie tai, kaip vietos, kurios patenka į savarankiško automobilio bandymus, pamažu priprato prie išpuoselėtų transporto priemonių. žiūrėkite mano analizę adresu šią nuorodą čia. Daugelis vietinių ilgainiui perėjo nuo burna žiojančio pasižavėjusio žvilgčiojimo į dabar skleidžiantį platų nuobodulio žiovumą, kad pamatytų tuos vingiuojančius savarankiškai važiuojančius automobilius.

Tikriausiai pagrindinė priežastis, kodėl jie gali pastebėti autonomines transporto priemones, yra susierzinimo ir susierzinimo veiksnys. AI vairavimo sistemos užtikrina, kad automobiliai laikytųsi visų greičio apribojimų ir kelių eismo taisyklių. Įspūdingi vairuotojai, važinėjantys tradiciniais žmonių varomais automobiliais, kartais erzina, kai užstrigo už griežtai įstatymų paisančių dirbtinio intelekto savarankiškų automobilių.

Prie to mums visiems gali tekti priprasti, teisingai ar neteisingai.

Grįžkime prie mūsų pasakos. Tarkime, kad vieną dieną jūsų mieste ar mieste esantis savarankiškai važiuojantis automobilis priartėja prie „Stop“ ženklo ir, atrodo, nesumažina greičio. Dieve, atrodo, kad dirbtinio intelekto vairavimo sistema automatiškai važiuojanti automobilio plūgu bus iš karto už „Stop“ ženklo. Įsivaizduokite, jei pėsčiasis ar dviratininkas būtų kažkur netoliese ir būtų užkluptas netikėtai, kad savaeigis automobilis tinkamai nesustos. Gėdinga. Pavojinga!

Ir nelegaliai.

Dabar panagrinėkime dirbtinio intelekto komponentą AI vairavimo sistemoje, kuris veikia kaip savęs suvokimo dvigubo tikrinimo stilius.

Skirsime šiek tiek laiko įsigilinti į detales, kas vyksta AI vairavimo sistemoje. Pasirodo, ant autonominio automobilio sumontuotos vaizdo kameros užfiksavo, ko gero, „Stop“ ženklą, nors šiuo atveju „Stop“ ženklą gausiai užstoja užaugęs medis. Mašininio mokymosi ir giluminio mokymosi sistema, kuri iš pradžių buvo mokoma naudoti „Stop“ ženklus, buvo sukurta remiantis iš esmės visiškai „Stop“ ženklų modeliais, paprastai nevaržomais. Skaičiuojant vaizdo įrašų vaizdus, ​​buvo nustatyta maža tikimybė, kad toje konkrečioje vietoje yra „Stop“ ženklas (kaip papildoma komplikacija ir papildomas paaiškinimas, kad tai buvo naujai paskelbtas „Stop“ ženklas, kuris nepasirodė anksčiau parengtuose skaitmeniniuose žemėlapiuose, kad AI vairavimo sistema rėmėsi).

Apibendrinant, dirbtinio intelekto vairavimo sistema skaičiavimais nusprendė eiti į priekį taip, tarsi „Stop“ ženklo arba nebūtų, arba galbūt būtų kitokio pobūdžio ženklas, panašus į „Stop“ ženklą (taip gali nutikti ir nutinka tam tikru dažnumu).

Tačiau, laimei, AI save suvokiantis dvigubas tikrintuvas stebėjo AI vairavimo sistemos veiklą. Skaičiuojant duomenis ir likusių AI vertinimą, šis komponentas pasirinko nepaisyti įprastos eigos ir vietoj to liepė dirbtinio intelekto vairavimo sistemai tinkamai sustoti.

Niekas nenukentėjo, neteisėtų veiksmų nebuvo.

Galima sakyti, kad dirbtinį intelektą suvokiantis dvigubas tikrintuvas veikė taip, lyg būtų įterptasis teisinis agentas, bandantis užtikrinti, kad dirbtinio intelekto vairavimo sistema laikytųsi įstatymų (šiuo atveju „Stop“ ženklo). Žinoma, svarbiausia buvo ir saugumas.

Tikimasi, kad šis pavyzdys parodys, kaip gali veikti sumanyta dirbtinio intelekto savikontrolė.

Toliau galime trumpai apsvarstyti ryškesnį etiško AI pavyzdį, iliustruojantį, kaip AI savaime suprantamas dvigubas patikrinimas gali suteikti į AI orientuotą įterptąją funkciją.

Pirma, vienas iš susirūpinimą keliančių dalykų, išsakytų dėl dirbtinio intelekto pagrindu veikiančių savarankiškai vairuojančių automobilių, yra tai, kad jie gali būti naudojami šiek tiek netyčia diskriminuojant. Štai kaip. Tarkime, kad tie savaeigiai automobiliai yra sukurti taip, kad būtų bandoma maksimaliai padidinti savo pajamų potencialą, o tai neabejotinai yra prasminga tiems, kurie eksploatuoja turimų savarankiškai vairuojančių automobilių parką. Laivyno savininkas norėtų, kad veikla būtų pelninga.

Gali būti, kad tam tikrame mieste ar mieste tarptinkliniai savarankiški automobiliai palaipsniui pradeda tarnauti kai kurioms bendruomenės dalims, o ne kitoms vietovėms. Jie tai daro siekdami užsidirbti pinigų, nes skurdesnėse vietovėse gali būti ne tiek daug pajamų, kaip turtingesnėse vietovėse. Tai nėra aiškus siekis tarnauti kai kurioms sritims ir netarnauti kitoms. Vietoj to, savaime suprantama, kad savarankiškai vairuojančių automobilių dirbtinis intelektas skaičiuojant „išsiaiškina“, kad daugiau pinigų galima uždirbti sutelkiant dėmesį į geografiškai labiau apmokamas sritis. Šį visuomenės etinį susirūpinimą aptariau savo skiltyje, pvz., adresu nuoroda čia.

Tarkime, kad į AI vairavimo sistemas įtraukėme DI savitą dvigubą tikrintuvą. Po kurio laiko AI komponentas skaičiavimo būdu pastebi, kur tarptinkliniu ryšiu važiuoja savarankiškai važiuojantys automobiliai. Pažymėtina, kad kai kuriose srityse, bet ne kitose. Remiantis kai kuriais etiniais AI nurodymais, dirbtinio intelekto save suvokiantis dvigubas tikrintuvas pradeda nukreipti savarankiškai važiuojančius automobilius į kitas miesto dalis, kurios kitu atveju buvo nepaisomos.

Tai iliustruoja AI savęs suvokimo sampratą ir tai daroma kartu su etiško AI elementu.

Dar vienas toks pavyzdys galėtų padėti suprasti, kad šis etinis dirbtinio intelekto svarstymas taip pat gali būti gana blaivus ir rimtas gyvybės ar mirties atšakas.

Apsvarstykite naujienų reportažą apie neseniai įvykusią automobilio avariją. Pranešama, kad žmogus vairuotojas atvažiavo į judrią sankryžą ir degė žalias šviesoforo signalas, kad galėtų važiuoti tiesiai į priekį. Kitas vairuotojas atvažiavo pro raudoną šviesą ir įvažiavo į sankryžą, kai to daryti neturėjo. Vairuotojas, degęs žaliai šviesai, paskutinę akimirką suprato, kad šis kitas automobilis smarkiai įsirėžė į jo automobilį.

Pasak šio pavojingo vairuotojo, jis sąmoningai apskaičiavo, kad arba jį partrenks kitas automobilis, arba jis gali suktis, kad išvengtų kliuvinio. Sukimo problema buvo ta, kad netoliese buvo pėstieji, kuriems iškiltų pavojus.

Kurį pasirinkimą pasirinktumėte jūs?

Galite pasiruošti susimušti ir tikėtis, kad žala jūsų nesugadins ir neužmuš. Kita vertus, galite radikaliai nukrypti, tačiau sukelti didelį pavojų ir galbūt pakenkti ar nužudyti netoliese esančius pėsčiuosius. Tai sunki problema, apimanti moralinį sprendimą, ir yra visiškai persmelkta etinių (ir teisinių) pasekmių.

Egzistuoja bendrosios paskirties etinis nesklandumas, apimantis tokią dilemą, garsiai arba galbūt liūdnai vadinamą vežimėlio problema, žr. šią nuorodą čia. Pasirodo, tai etiškai skatinantis minties eksperimentas, kilęs iš XX a. Iš esmės ši tema buvo žinoma gana ilgą laiką, o pastaruoju metu ji dažniausiai buvo siejama su dirbtinio intelekto ir savarankiškai važiuojančių automobilių atsiradimu.

Pakeiskite vairuotoją dirbtinio intelekto vairavimo sistema, integruota į savarankiškai vairuojantį automobilį.

Įsivaizduokite, kad dirbtinis intelektas vairuojantis automobilis įvažiuoja į sankryžą, o autonominės transporto priemonės jutikliai staiga aptinka žmogaus vairuojamą automobilį, kuris pavojingai atvažiuoja tiesiai per raudoną šviesą ir taikosi į automobilį be vairuotojo. Tarkime, kad savarankiškai važiuojančio automobilio viduje yra keli keleiviai.

Ką norite, kad AI darytų?

Ar dirbtinio intelekto vairavimo sistema turėtų nuspręsti važiuoti į priekį ir būti užklupta (tikėtina, kad transporto priemonėje esantys keleiviai sužalotų arba žūtų), ar norite, kad dirbtinio intelekto vairavimo sistema rizikuotų ir nukryptų, nors posūkio veiksmas imasi autonominės transporto priemonės pavojinga šalia esančių pėsčiųjų atžvilgiu ir gali juos sužaloti arba nužudyti.

Daugelis savarankiškai važiuojančių automobilių AI gamintojų imasi „galva į smėlį“ požiūrio į šias etiškas dirbtinio intelekto problemas. Apskritai, AI, kaip dabar suprogramuotas, tiesiog veržtųsi į priekį ir būtų stipriai taranuotas kito automobilio. AI nebuvo užprogramuotas ieškoti kitų vengimo manevrų.

Aš ne kartą prognozavau, kad tokia AI savarankiškai vairuojančių automobilių gamintojų pozicija „nematyk blogo, negirdi blogo“ ilgainiui ateis ir įkandins juos (mano analizė yra nuoroda čia). Galite tikėtis ieškinių, susijusių su tokiomis automobilių avarijomis, kurių metu bus siekiama išsiaiškinti, kam buvo užprogramuotas dirbtinis intelektas. Ar įmonė, dirbtinio intelekto kūrėjai ar transporto priemonių parko operatorius, sukūręs ir pateikęs dirbtinį intelektą, buvo aplaidus arba buvo atsakingas už tai, ką AI padarė ar nepadarė? Taip pat galite numatyti, kad įvykus tokiems atvejams, kils etiška AI suvokimo visuomenė.

Į šią etišką AI dilemą įžengia mūsų išgirtoji AI savikontrolė, orientuota į etiką. Galbūt šis specialus AI komponentas gali susidurti su tokiomis aplinkybėmis. Dalis stebi likusią AI vairavimo sistemą ir savarankiškai važiuojančio automobilio būseną. Kai ištinka tokia baisiausia akimirka, dirbtinio intelekto komponentas veikia kaip vežimėlio problemų sprendimas ir siūlo, ką AI vairavimo sistema turėtų daryti.

Užkoduoti nėra lengva, aš jus patikinu.

Išvada

Pasidalinsiu su jumis kol kas paskutine mintimi šia tema.

Tikėtina, kad jums tai bus įdomu.

Ar žinote apie veidrodžio testas?

Tai gana gerai žinoma savimonės studijose. Kiti šio dalyko pavadinimai yra veidrodinis savęs atpažinimo testas, raudonos dėmės testas, raudonos spalvos testas ir susijusios frazės. Metodas ir metodas iš pradžių buvo sukurti aštuntojo dešimtmečio pradžioje, siekiant įvertinti gyvūnų savimonę. Pranešama, kad bandymą sėkmingai išlaikę gyvūnai yra beždžionės, tam tikros rūšies drambliai, delfinai, šarkos ir kai kurie kiti. Gyvūnai, kurie buvo išbandyti ir, kaip pranešama, neišlaikė testo, yra milžiniškos pandos, jūrų liūtai ir kt.

Čia yra sandoris.

Kai gyvūnas mato save veidrodyje, ar gyvūnas supranta, kad rodomas vaizdas yra jo paties, ar gyvūnas mano, kad tai kitas gyvūnas?

Tikėtina, kad gyvūnas vizualiai atpažįsta savo rūšį, matęs kitas savo rūšis, todėl gali manyti, kad veidrodyje rodomas gyvūnas yra pusbrolis, o gal karingas konkurentas (ypač jei gyvūnas niurzgia į veidrodinį vaizdą, kuris posūkis, regis, šnairuoja į juos). Galbūt jūs matėte, kad jūsų naminė katė ar mylimas šuo elgiasi taip pat, kai pirmą kartą pamato save namų veidrodyje.

Bet kokiu atveju manytume, kad laukinis gyvūnas dar niekada savęs nematė. Na, tai nebūtinai tiesa, nes galbūt gyvūnas pamatė save ramiame vandens telkinyje arba per blizgančią uolą. Tačiau tokios galimybės laikomos mažiau tikėtinomis.

Gerai, mes norime kažkaip įvertinti, ar gyvūnas sugeba išsiaiškinti, kad tai iš tikrųjų yra gyvūnas, parodytas veidrodyje. Pagalvokite apie tą, atrodytų, paprastą veiksmą. Žmonės dar vaikystėje supranta, kad jie egzistuoja ir kad jų egzistavimą įrodo matydami save veidrodyje. Jie pradeda suvokti save. Teoriškai tu gali nesuprasti, kad esi tu, kol nepamatysi savęs veidrodyje.

Galbūt gyvūnai nesugeba kognityviai suvokti savęs taip pat. Gali būti, kad gyvūnas pamatytų save veidrodyje ir amžinai tikėtų, kad tai koks nors kitas gyvūnas. Kad ir kiek kartų save pamatytų, vis tiek manytų, kad tai kitoks gyvūnas nei jis pats.

Apgaulinga šio žaidimo dalis atsiranda. Pažymime gyvūną. Šis ženklas turi būti matomas tik tada, kai gyvūnas mato save veidrodyje. Jei gyvūnas gali pasisukti arba pasisukti ir pamatyti ženklą ant savęs (tiesiogiai), tai sugadina eksperimentą. Be to, gyvūnas negali jausti, užuosti ar kitaip aptikti žymės. Dar kartą, jei jie tai padarytų, eksperimentas būtų sugadintas. Gyvūnas negali žinoti, kad mes ant jo uždėjome ženklą, nes tai leistų žvėriui suprasti, kad ten kažkas yra.

Mes norime susiaurinti dalykus taip, kad vienintelė galima priežastis, dėl kurios ženklas būtų aptinkamas, būtų žiūrėjimas į save veidrodyje.

Aha, testas paruoštas. Gyvūnas pastatomas prieš veidrodį arba nuklysta prie jo. Jei gyvūnas vėliau bandytų paliesti ar kasti žymę, galime daryti pagrįstą išvadą, kad vienintelis būdas tai įvyktų, jei gyvūnas suprastų, kad ženklas buvo ant jo paties. Labai nedaugeliui gyvūnų rūšių pavyko sėkmingai išlaikyti šį testą.

Yra daugybė kritikos dėl testo. Jei šalia yra žmogaus testeris, jie gali atiduoti daiktus žiūrėdami į ženklą, dėl ko gyvūnas gali jį šepetuoti arba jausti. Kita galimybė yra ta, kad gyvūnas vis dar tiki, kad veidrodyje rodomas kitas gyvūnas, tačiau jis yra to paties tipo, todėl gyvūnas susimąsto, ar jis taip pat turi tokį ženklą kaip ant kito gyvūno.

Tai tęsiasi ir tęsiasi.

Esu tikras, kad džiaugiatės tai sužinoję ir nuo šiol suprasite, kodėl ant gyvūno yra taškas ar kažkoks keistas ženklas, kuris kitu atveju tokio ženklo neturėtų. Kas žino, galbūt jis neseniai baigė veidrodžio bandymo eksperimentą. Saugiai pasveikinkite gyvūną, nes buvo dosnus dalyvis.

Ką tai turi bendro su dirbtinio intelekto pagrindu veikiančiais savarankiškai važiuojančiais automobiliais?

Jums patiks ši dalis.

Ilgu greitkeliu važiuoja savaeigis automobilis. AI vairavimo sistema naudoja jutiklius, kad aptiktų kitą srautą. Tai dviejų juostų greitkelis, kurio eismas vyksta į šiaurę viena juosta, o į pietus – kita eismo juosta. Retkarčiais automobiliai ir sunkvežimiai bandys prasilenkti vienas su kitu, tai darydami įvažiuodami į priešingą eismo juostą, o tada peršokdami atgal į tinkamą važiavimo juostą.

Jūs tai matėte, neabejotinai tai padarėte.

Galiu lažintis, kad šis kitas aspektas nutiko ir jums. Prieš savarankiškai važiuojantį automobilį yra vienas iš tų didelių autocisternų. Jis pagamintas iš blizgaus metalo. Poliruotas ir švarus kaip švilpukas. Atsisėdę už tokio sunkvežimio, per galinę cisternos dalį galite pamatyti savo automobilio veidrodinį vaizdą. Jei matėte tai, žinote, kaip tai gali būti užburianti. Štai jūs, jūs ir jūsų automobilis, atsispindi veidrodiniame atspindyje autocisternos gale.

Atsisėskite beprotiškam posūkiui.

Už autocisternos išvažiuoja savaeigis automobilis. Kameros aptinka automobilio vaizdą, kuris rodomas veidrodiniame atspindyje. O, AI įvertina, ar tai automobilis? Ar tai ateina prie savaeigio automobilio? Savaeigiam automobiliui vis labiau artėjant prie autocisternos, atrodo, kad automobilis vis labiau artėja.

Taip, AI skaičiavimais gali apskaičiuoti, kad tai yra pavojinga situacija ir AI turėtų imtis vengimo veiksmų nuo šios beprotiškos nesąžiningos transporto priemonės. Matote, AI neatpažino savęs veidrodyje. Veidrodžio bandymas nepavyko.

Ką daryti? Galbūt dirbtinį intelektą suvokiantis dvigubas tikrintuvas įsitraukia į šį klausimą ir patikina likusią AI vairavimo sistemą, kad tai tik nekenksmingas atspindys. Pavojaus išvengta. Pasaulis išgelbėtas. Sėkmingai atliktas AI veidrodžio testas!

Darydami „liežuviu į skruostą“ išvadą, netgi galime manyti, kad kartais dirbtinis intelektas yra protingesnis arba bent jau labiau sąmoningas nei vidutinis lokys (nors, meškų nuopelnas, joms paprastai puikiai sekasi veidrodžio teste, nes dažnai būna pripratę prie jų atspindžio vandens telkiniuose).

Pataisykime, galbūt dirbtinis intelektas gali būti labiau sąmoningas nei didžiosios pandos ir jūrų liūtai, bet nesakyk to gyvūnams, nes jiems gali kilti pagunda sugriauti ar sugriauti AI sistemas. Mes to nenorime, ar ne?