AI sukrėtimas, nes žinomas dirbtinio intelekto guru siūlo mąstančius „mirtinguosius kompiuterius“, kuriuose taip pat atsižvelgiama į DI etiką ir AI įstatymus

Štai kažkas, apie ką tikriausiai dar nesvarstėte: Mirtingieji kompiuteriai.

Bet gal turėtum būti.

Skausminga tema iškilo neseniai vykusioje ir iš esmės gana garsioje kasmetinėje AI konferencijoje, kurioje ypač daug dėmesio skiriama neuroninių tinklų atsiradimui ir mašininiam mokymuisi, būtent Neuroninių informacijos apdorojimo sistemų konferencijoje (žinoma viešai neatskleista kaip „NeurIPS“). Pakviestas pagrindinis pranešėjas ir laikomas ilgametis AI guru Geoffrey Hintonas intriguoja ir galbūt prieštaringai teigė, kad apie kompiuterius turėtume galvoti mirtingame ir nemirtingame kontekste.

Išsiaiškinsiu šį reikšmingą teiginį ir darysiu tai dviem būdais, kurie iš pradžių nebūtinai atrodys susiję, nors po šiek tiek papildomo paaiškinimo jie taps aiškesni vienas su kitu, kalbant apie mirtingojo ir nemirtingojo ginčus.

Dvi temos yra šios:

1) Integruota AI mechanizacijų aparatinė ir programinė įranga susiejama, o ne kaip atskiri ir atskiri sąjungininkai

2) Mašininio mokymosi formuluočių perkėlimas arba distiliavimas iš vieno AI modelio į kitą, kai tai daroma nereikalaujant ir nebūtinai noro (ar net įmanoma kitaip) tiesioginio grynaveislio kopijavimo.

Visa tai turi rimtų priežasčių, susijusių su AI ir būsima AI plėtros kryptimi.

Be to, iškyla daugybė labai sudėtingų AI etikos ir AI teisės problemų. Tokio tipo DI numatytos technologinės pažangos paprastai yra techniškai pagrįstos dar ilgai, kol suvokiama, kad tai taip pat gali turėti reikšmingų atgarsių etiniam AI ir AI įstatymui. Tam tikra prasme paprastai katė jau būna ištraukta iš maišo arba arklys iš tvarto prieš pabudimą, kad dirbtinio intelekto etika ir AI įstatymas turėtų būti tinkamai ištirti.

Na, nutraukime tą pavėluoto mąstymo ciklą ir įeikime į pirmąjį aukštą.

Tiems iš jūsų, kurie apskritai domisi naujausiomis įžvalgomis, kuriomis grindžiama AI etika ir AI įstatymas, gali rasti informatyvių ir įkvepiančių mano nuolatinių ir išsamių pranešimų adresu nuoroda čia ir nuoroda čia, Tik pavadinimas kelias.

Pirmiausia čia apžvelgsiu aukščiau pateiktą dalyką apie aparatinės ir programinės įrangos susiejimą. Diskusija ir temos analizė vyks kartu. Toliau paliesiu kopijavimo ar kai kurių teiginių klausimą distiliavimas esminiai mašininio mokymosi AI sistemos elementai nuo vieno AI iki naujai sukurto AI kaip tikslo.

Pradėkime.

Aparatinės ir programinės įrangos, skirtos dirbtiniam intelektui, susiejimas

Tikriausiai žinote, kad iš esmės kompiuterių konstrukcija yra tokia, kad yra aparatinė dalykų pusė ir atskirai programinė dalykų pusė. Kai perkate kasdienį nešiojamąjį ar stalinį kompiuterį, jis laikomas bendrosios paskirties kompiuteriniu įrenginiu. Kompiuterio viduje yra mikroprocesoriai, kurie naudojami paleisti ir vykdyti programinę įrangą, kurią galite įsigyti arba parašyti patys.

Be jokios programinės įrangos jūsų kompiuteriui, tai yra metalo ir plastiko gabalas, kuris iš esmės jums neduos daug naudos, išskyrus tai, kad jis veikia kaip popieriaus svarelis. Kai kas pasakytų, kad programinė įranga yra karalius ir valdo pasaulį. Žinoma, jei neturite aparatinės įrangos, kuria galėtumėte paleisti programinę įrangą, programinė įranga neduos daug naudos. Galite rašyti tiek kodo eilučių, kiek tik širdis geidžia, tačiau kol programinė įranga nenaudojama kompiuteriu, suformuluotas šaltinio kodas yra toks pat silpnas ir neskraidantis kaip gražus poezijos kūrinys ar jaudinantis minutę trunkantis detektyvinis romanas.

Leiskite man trumpam pereiti į kitą kelią, kuris gali atrodyti toli (to nebus).

Dažnai bandome nubrėžti analogijas tarp to, kaip veikia kompiuteriai ir kaip veikia žmogaus smegenys. Šis bandymas rasti konceptualias paraleles yra patogus. Nepaisant to, turite būti atsargūs, peržengdami šias analogijas, nes palyginimai paprastai nutrūksta, kai priartėjate prie mėsingų detalių.

Bet kokiu atveju, diskusijų sumetimais, čia yra dažnai naudojama analogija.

Pačios smegenys neoficialiai kartais vadinamos šlapias reikmenis. Tai patrauklus būdas suformuluoti dalykus. Žinome, kad kompiuteriai susideda iš aparatinės ir programinės įrangos, todėl protinga naudoti „prekės“ dalį, kad apibūdintumėte, ką reiškia smegenys. Galingos ir paslaptingos smegenys, įsitaisiusios mūsų gniaužtuose, plūduriuoja aplinkui, mintyse apskaičiuojančios visus mūsų darbus (kai kurie geri, o kai kurios mūsų mintys tikrai nėra kupinos gėrio).

Smegenys, kurių vidutinis svoris yra maždaug trys svarai, yra puikus organas. Kažkaip, ir mes dar nežinome, kaip, smegenys gali panaudoti jas maždaug 100 milijardų neuronų ir galbūt nuo 100 iki 1,000 trilijonų jungčių ar sinapsių, kad už mus atliktų visą mūsų mąstymą. Kaip smegenų biologinės ir cheminės savybės lemia intelektą? Niekas negali tiksliai pasakyti. Tai amžių ieškojimas.

Klausiu jūsų, ar smegenys tariamai yra tik aparatinės įrangos, ar kartu yra ir aparatinė, ir programinė įranga?

Makaronai apie tą galvosūkį.

Jums gali kilti pagunda teigti, kad smegenys yra tiesiog aparatinė įranga (bendrąja prasme). Tai kūno organas. Panašiai galite sakyti, kad širdis yra aparatinė, šlapimo pūslė yra aparatinė ir pan. Visi jie yra mechanizacijos, panašios į tai, kai kalbame apie artefaktus, kurie turi fizinę formą ir atlieka fiziškai susijusius veiksmus.

Kur tada yra programinė įranga, kuri valdo žmones?

Drįsčiau teigti, kad mes visi beveik sutinkame, kad žmonijos „programinė įranga“ kažkokiu būdu yra smegenyse. Veiksmai, kurių reikia norint iškepti kiaušinį arba sutaisyti nuleistą padangą, yra mūsų smegenyse įkūnytos instrukcijos. Naudojant tą anksčiau pažymėtą kompiuterinę aparatinės ir programinės įrangos analogiją, mūsų smegenys yra tarsi aparatinės įrangos dalis, kuriai mes sužinome apie pasaulį, o nurodymai, ką daryti, „veikia“ ir „saugomi“ mūsų smegenyse.

Kompiuteryje galime lengvai nukreipti į aparatinę įrangą ir pasakyti, kad tai aparatinė įranga. Galime turėti šaltinio kodo sąrašą ir nurodyti jį kaip programinę įrangą. Šiais laikais mes elektroniniu būdu internetu atsisiunčiame programinę įrangą ir įdiegiame ją savo nešiojamuosiuose bei išmaniuosiuose telefonuose. Senovėje mes naudojome diskelius ir perfokortas, kad saugotume savo programinę įrangą, skirtą įkelti į kompiuterio aparatinę įrangą.

Vedu jus į svarbią mįslę.

Kai ką nors išmokote ir žinios yra jūsų smegenyse, ar vis tiek galite atskirti savo smegenų „aparatinę įrangą“ ir numanomą smegenų „programinę įrangą“?

Viena ginčytina pozicija yra ta, kad jūsų smegenų žinios nėra ypač atskirtos nuo aparatinės ir programinės įrangos sampratų. Taigi analogija su kompiuterių prigimtimi žlunga, kai kurie karštai ginčytųsi. Žinios smegenyse yra susipynusios ir neatskiriamos nuo jūsų smegenų aparatinės įrangos. Biologinės ir cheminės savybės supina žinias, kurias psichiškai turite.

Troškinkite ant jo, kad galėtumėte šiek tiek pamąstyti.

Jei tikimės kada nors sukurti kompiuterius, kurie prilygtų žmogaus intelektui ar net pranoktų žmogaus intelektą, galbūt galėtume panaudoti smegenų struktūras ir jų vidinį veikimą kaip vadovą, ką turime padaryti, kad pasiektume tokį aukštą tikslą. Kai kurie dirbtinio intelekto specialistai mano, kad kuo daugiau žinome, kaip veikia smegenys, tuo didesnės galimybės sukurti tikrąjį AI, kartais vadinamą dirbtiniu bendruoju intelektu (AGI).

Kiti dirbtinio intelekto atstovai yra mažiau įsimylėję, kad turi žinoti, kaip veikia smegenys. Jie pabrėžia, kad galime sparčiai kurti AI, nepaisant to, ar sugebame atskleisti slaptą vidinį smegenų darbą. Neleiskite, kad smegenų paslaptys trukdytų mūsų dirbtinio intelekto pastangoms. Žinoma, ir toliau stenkitės iššifruoti ir iššifruoti žmogaus smegenis, bet negalime sėdėti ir laukti, kol smegenys bus apverstos. Jei tai kada nors įmanoma, tai nuostabi žinia, nors galbūt tai neįmanoma arba įvyks po eonių.

Esu pasiruošęs pasidalinti su jumis mirtingojo ir nemirtingojo kompiuterio ginče. Įsitikinkite, kad sėdite ir pasiruošę dideliam atskleidimui.

Kompiuteris, kurio aparatinė įranga ir programinė įranga aiškiai atskirta, gali būti laikomas „nemirtingu“, nes aparatinė įranga gali išlikti amžinai (žinoma, neperžengiant ribų), o programinė įranga gali būti rašoma ir perrašoma ne kartą. Įprastą kompiuterį galite naudoti tol, kol galėsite taisyti aparatinę įrangą ir užtikrinti, kad įrenginys įsijungtų. Vis dar galite naudoti neapdorotus septintojo dešimtmečio namų kompiuterius, kurie buvo komplektuojami surinkimui, nepaisant to, kad jie yra beveik penkiasdešimties metų senumo (ilgą laiką). kompiuterių metų).

Tarkime, kad pasirinkome kompiuterius, kurių aparatinė ir programinė įranga veiktų neatsiejamai (apie tai papasakosiu netrukus). Apsvarstykite tai tuo pačiu pagrindu, kurį minėjau anksčiau, kad smegenyse galbūt yra neatsiejama aparatinės ir programinės įrangos sudėtis. Jei taip būtų, būtų galima teigti, kad tokio tipo kompiuteris nebebūtų nemirtingas. Vietoj to jis būtų suprantamas kaip „mirtingasis“.

Remiantis NeurIPS konferencijos pastabomis, kurias išsakė pakviestas pagrindinis pranešėjas ir vertas dėmesio AI guru Geoffrey Hintonas, ir kaip teigiama jo lydinčiame tyrimo dokumente:

• „Bendrosios paskirties skaitmeniniai kompiuteriai buvo sukurti taip, kad tiksliai vykdytų instrukcijas, nes buvo manoma, kad vienintelis būdas priversti bendrosios paskirties kompiuterį atlikti konkrečią užduotį yra parašyti programą, kuri tiksliai nurodytų, ką daryti. Tai nebėra tiesa, tačiau mokslininkų bendruomenė lėtai suvokė ilgalaikio gilaus mokymosi pasekmes kompiuterių kūrimo būdui. Tiksliau, bendruomenė laikosi idėjos, kad programinė įranga turėtų būti atskirta nuo aparatinės įrangos, kad tą pačią programą arba tą patį svorių rinkinį būtų galima paleisti kitoje fizinėje aparatinės įrangos kopijoje. Dėl to programoje esančios žinios miršta arba svoriai nemirtingi: žinios nemiršta, kai miršta aparatinė įranga“ (kaip nurodyta ir cituojama jo moksliniame darbe „The Forward-Forward Algorithm: Some Preliminary Investigations“, išankstinis spausdinimas pasiekiamas internete) .

Atkreipkite dėmesį, kad konkretus skaičiavimo tipas, aptariamas šio tipo AI, naudoja dirbtinius neuroninius tinklus (ANN).

Išsiaiškinkime dalykus šiuo klausimu.

Mūsų smegenyse yra realaus pasaulio biologinių neuronų. Jūs juos naudojate visą laiką. Jie yra biologiškai ir chemiškai sujungti į tinklą jūsų tinkle. Taigi tai galime vadinti a neuroninis tinklas.

Kitur, sakykime, yra netikrų „neuronų“, kuriuos skaičiavimo būdu vaizduojame kompiuteriuose, kurdami dirbtinį intelektą. Daugelis dirbtinio intelekto žmonių juos taip pat vadina neuroniniais tinklais. Manau, kad tai šiek tiek glumina. Matote, aš mieliau juos vadinu dirbtinis neuroniniai tinklai. Tai padeda iš karto atskirti nuorodą į jūsų galvoje neuroniniai tinklai (tarsi tikras dalykas) ir kompiuteriniais (dirbtinis neuroniniai tinklai).

Ne visi laikosi tokios pozicijos. Daugelis dirbtinio intelekto žmonių tiesiog mano, kad visi kiti dirbtinio intelekto nariai „žino“, kad kalbėdami apie neuroninius tinklus jie beveik visada kalba apie ANN – nebent susidaro situacija, kai dėl kokių nors priežasčių jie nori aptarti tikrus neuronus ir tikrus neuroninius tinklus. smegenys.

Tikiu, kad tu suprasi mano dreifą. Dažniausiai dirbtinio intelekto žmonės sakys „neuroniniai tinklai“, o tai gali būti dviprasmiška, nes nežinai, ar jie turi omenyje tikrus tinklus, esančius mūsų galvose, ar skaičiavimo tinklus, kuriuos programuojame kompiuteriuose. Tačiau kadangi dirbtinio intelekto žmonės dažniausiai susiduria su kompiuteriniais egzemplioriais, jie pagal nutylėjimą daro prielaidą, kad kalbate apie dirbtinius neuroninius tinklus. Man patinka pridėti žodį „dirbtinis“ į priekinę formuluotės galą, kad būtų aiškiau apie ketinimus.

Šiuos skaičiavimo dirbtinius neuronus galite šiek tiek laikyti matematiniu ar skaičiavimo modeliavimu to, ką, mūsų manymu, daro tikrieji biocheminiai fiziniai neuronai, pvz., naudojant skaitines vertes kaip svorio veiksnius, kurie kitu atveju biochemiškai vyksta smegenyse. Šiandien šie modeliai nėra tokie sudėtingi kaip tikri neuronai. Dabartiniai ANN yra labai grubus matematinis ir skaičiavimo vaizdavimas.

Paprastai ANN dažnai yra pagrindinis mašininio mokymosi (ML) ir giluminio mokymosi (DL) elementas – atminkite, kad tai yra daug daugiau detalių, todėl raginu jus pažvelgti į mano plačią ML / DL aprėptį. adresu nuoroda čia ir nuoroda čiaPavyzdžiui.

Grįžtant prie nemirtingųjų ir mirtingųjų kompiuterių tipų, tyrėjui reikia daugiau pamąstyti:

• „Programinės įrangos atskyrimas nuo aparatinės įrangos yra vienas iš kompiuterių mokslo pagrindų ir turi daug privalumų. Tai leidžia tyrinėti programų savybes, nesijaudinant dėl ​​elektrotechnikos. Tai leidžia vieną kartą parašyti programą ir nukopijuoti ją į milijonus kompiuterių. Tačiau jei mes norime atsisakyti nemirtingumo, turėtų būti įmanoma sutaupyti daug energijos, reikalingos skaičiavimui atlikti, ir sutaupyti aparatinės įrangos, kuri atlieka skaičiavimą, gamybos sąnaudas. Galime leisti didelius ir nežinomus skirtingų aparatūros egzempliorių, skirtų tai pačiai užduočiai atlikti, jungiamumo ir netiesiškumo skirtumus ir pasikliauti mokymosi procedūra, kad atrastume parametrų reikšmes, kurios efektyviai išnaudoja nežinomas kiekvieno konkretaus egzemplioriaus savybes. aparatūra. Šios parametrų reikšmės naudingos tik tam konkrečiam aparatūros egzemplioriui, todėl jų atliktas skaičiavimas yra mirtinas: jis miršta kartu su aparatine įranga“ (ten pat).

Dabar jus supažindino su tuo, kaip šiame kontekste vartojami nemirtingieji ir mirtingieji.

Leiskite man patikslinti.

Siūloma, kad kompiuteris, specialiai sukurtas remiantis ANN, galėtų būti sukurtas taip, kad aparatinė ir programinė įranga būtų laikomos neatsiejamais. Kai aparatinė įranga kažkada nebeveiks (žinoma, mes sakome, kad ji integruojasi su programine įranga), tokio tipo kompiuteris atrodo nebenaudingas ir nebeveiks. Sakoma, kad tai mirtina. Taip pat galite palaidoti ANN pagrįstą kompiuterį, nes nuo šiol jis jums neduos daug naudos, kai neatskiriama aparatinė ir programinė įranga nebeveiks perspektyviai kaip komanda.

Jei norėtumėte tai pabandyti susieti su žmogaus smegenų analogija, galite įsivaizduoti niūrią žmogaus smegenų situaciją, kuri visiškai pablogėja arba yra kažkaip nepataisomai sužalota. Mes pripažįstame, kad žmogus yra mirtingas ir jo smegenys galiausiai ir neišvengiamai nustos veikti. Žinios, kurios buvo jų smegenyse, nebėra prieinamos. Nebent jie atsitiktų pabandyti pasakyti kitiems arba užsirašyti tai, ką žinojo, jų žinios pasklis visame pasaulyje.

Neabejotinai girdėjote ar matėte pranešimų apie bandymus išsaugoti smegenis, pavyzdžiui, jas sušaldyti, remiantis teorija, kad galbūt žmonės kada nors gali būti nemirtingi arba bent jau prailginti savo įprastą gyvenimą. Jūsų smegenys gali gyventi toliau, net jei ne jūsų kūne. Daugybė mokslinės fantastikos filmų ir istorijų spėliojo apie tokias idėjas.

Dabar esame pasirengę išsamiai pažvelgti į mirtingąjį kompiuterį ir nemirtingą kompiuterį kaip sąvoką ir tai, ką jis pranašauja.

Sąmoninga diskusija ir apgalvota analizė

Prieš pasineriant į šios postuluoto požiūrio analizės esmę, verta paminėti keletą svarbių įspėjimų ir papildomų dalykų.

Tyrėjas pabrėžė, kad sugalvotas mirtingieji kompiuteriai nepakeistų ar išstumtų iš egzistavimo nemirtingi kompiuteriai kuriuos šiandien vadiname įprastais skaitmeniniais kompiuteriais. Būtų abiejų tipų kompiuteriai. Sakau tai, nes kai kurie reagavo, kad raginimas laikytis tvarkos buvo bendras teiginys visi būtinieji kompiuteriai yra arba bus link mirtingojo tipo.

Tai nebuvo pareikšta pretenzija.

Kalbėdamas jis minėjo, kad šie specializuojasi į neuromorfinę orientaciją kompiuteriai atliktų skaičiavimo darbą, žinomą kaip mirtingieji skaičiavimai: „Mes darysime tai, ką aš vadinu mirtinguoju skaičiavimu, kur žinios, kurias išmoko sistema, ir aparatinė įranga yra neatskiriamos“ (kaip cituojama 1 m. gruodžio 2022 d. Tiernan Ray ZDNET straipsnyje).

Ir ypač: „Jis nepakeis skaitmeninių kompiuterių“ (ten pat).

Be to, šių naujų tipų kompiuteriai neabejotinai greitai atsidurs jūsų vietinėje kompiuterių parduotuvėje arba iš karto jų nebus galima įsigyti internetu, kaip buvo pasakyta jo pristatyme: „Manau, kad pamatysime visiškai kitokio tipo kompiuteriu, ne kelerius metus, bet yra visos priežastys tirti šį visiškai kitokį kompiuterį. Naudojimas taip pat skiriasi: „Tai nebus kompiuteris, atsakingas už jūsų banko sąskaitą ir tiksliai žinos, kiek pinigų turite“.

Papildomas posūkis yra tas, kad mirtingi kompiuteriai, atrodo, būtų auginami, o ne gaminami, kaip šiandien darome kompiuterių procesorių ir skaičiavimo lustų gamybai.

Augimo proceso metu mirtingojo kompiuterio pajėgumai padidėtų skaičiavimo brendimo stiliumi. Taigi konkretus mirtingasis kompiuteris gali prasidėti beveik neturėdamas jokių galimybių ir subręsti į tai, kuo juo buvo siekiama tapti. Pavyzdžiui, tarkime, kad mes norėjome sukurti mobiliuosius telefonus naudodami mirtinguosius kompiuterius. Pradėtumėte nuo paprasto mirtingojo kompiuterio varianto, kuris iš pradžių buvo suformuotas arba sukurtas šiam tikslui. Tada ji taps tobulesne versija, kurios ieškojote. Trumpai tariant: „Jūs pakeistumėte tai tuo, kad kiekvienas iš tų mobiliųjų telefonų turėtų prasidėti kaip kūdikių mobilusis telefonas, ir jis turėtų išmokti būti mobiliuoju telefonu.

Vienoje iš jo pagrindinių skaidres apie mirtingojo skaičiavimą nauda buvo aprašyta taip: „Jei mes atsisakome nemirtingumo ir pripažįstame, kad žinios yra neatsiejamos nuo tikslių fizinių konkrečios aparatinės įrangos detalių, gauname du didelius pranašumus: (1) Galime naudoti labai mažos galios analoginį skaičiavimą, (2) Galime sukurti aparatinę įrangą, kurios tikslus ryšys ir analoginis elgesys nežinomi.

Dalis to paties pokalbio, taip pat jo priešspausdintame moksliniame darbe yra siūlomas metodas, kaip geriau sukurti ANN, kurį jis vadina naudojant pirmyn-pirmyn tinklinis požiūris. Kai kurie iš jūsų, kurie išmano ANN, neabejotinai jau puikiai žino apie backpropagation arba back-prop naudojimą. Galbūt norėsite pažvelgti į jo siūlomą judėjimo į priekį techniką. Apie šį žavų požiūrį pateiksiu būsimame stulpelio įraše, todėl laukite mano būsimų pranešimų apie tai.

Perjungdami pavaras, pagalvokime, kas apie šį įžūlumą kalbama AI bendruomenės koridoriuose ir koridoriuose mirtingasis kompiuteris machinacija.

Pradėsime nuo to, kas pasakytų, kad temos nepradės.

Ar jūs pasiruošę?

Nustokite vadinti šį dalyką a mirtinas kompiuteris.

Taip pat nustokite skelbti, kad šiandieniniai įprasti kompiuteriai yra nemirtingas.

Abu naudojimo būdai yra tiesiog neteisingi ir labai klaidinantys, ragina skeptikai.

Kasdienis žodyno apibrėžimas to, kas nemirtinga, susideda iš to, kas negali mirti. Tai gyvena amžinai. Kad nemirtumėte, tikriausiai turite pasakyti, kad pats daiktas yra gyvas. Jūs žengiate klaidingu keliu tvirtindami, kad šiandieniniai kompiuteriai yra gyvi. Nė vienas protingas žmogus nepriskirtų šiuolaikiniams kompiuteriams bona fide „gyvų“ savybių. Jie yra mašinos. Jie yra daiktai. Jie nėra žmonės, gyvūnai ar gyvenimo sąlygos.

Jei norite išplėsti nemirtingumo apibrėžimą, kad leistų, kad kalbame ir apie negyvas esybes, tokiu atveju negyva esybė, regis, niekada neturi suirti ir neišvengiamai suirti į dulkes. Ar galite taip teigti apie šiuolaikinius kompiuterius? Tai atrodo ištempta (šalutinė pastaba: žinoma, galėtume įsitraukti į didžiulę filosofinę diskusiją apie materijos ir egzistencijos prigimtį, bet šiuo atveju nesigilinkime).

Esmė ta, kad žodžių „mirtingasis“ ir „nemirtingasis“ vartojimas arba kai kurie sakytų, kad piktnaudžiavimas yra neįprastas ir nereikalingas. Paimti dažnai vartojamą liaudies kalbą ir pakartotinai ją naudoti kitiems tikslams kelia painiavą ir vanduo tampa drumstas. Jūs turite būti pasirengę, matyt, iš naujo suvokti, ką šiame konkrečiame kontekste reiškia mirtingasis ir nemirtingasis. Tai tampa problemiška.

Dar labiau nerimą kelia tai, kad šie žodžių pasirinkimai antropomorfizuoja kompiuterio aspektus.

Jau dabar yra daugiau nei pakankamai problemų, susijusių su AI antropomorfizavimu, mums tikrai nereikia sugalvoti daugiau tokių galimybių. Kaip plačiai aptariau savo AI etiką ir etišką AI aprėptį, yra įvairiausių būdų, kaip žmonės kompiuteriams priskiria jautrius gebėjimus. Savo ruožtu tai klaidina žmones klaidingai manyti, kad dirbtinio intelekto kompiuteriai gali mąstyti ir veikti taip, kaip žmonės. Tai yra slidus pavojaus šlaitas, kai visuomenė užliūliuoja tikėjimą, kad šiandieninis dirbtinis intelektas ir kompiuterija yra lygiaverčiai žmonijos intelektui ir sveikam protui, žr., pavyzdžiui, mano analizę nuoroda čia ir nuoroda čia.

Gerai, galime atmesti arba paniekinti nepatogius formuluotės pasirinkimus, bet ar tai rodo, kad turėtume išmesti kūdikį maudymosi vandeniu (senas posakis, tikriausiai artėja prie pensijos)?

Kai kurie teigia, kad galbūt galime rasti geresnę šio bendro požiūrio ar koncepcijos formuluotę. Atsisakykite žodžių „mirtingasis“ ir „nemirtingasis“, kad likusios idėjos nebūtų suteptos netinkamo ar netinkamo naudojimo. Tuo tarpu yra kontrargumentų, kad visiškai priimtina vartoti tokius žodžių pasirinkimus, nes jie tinkami, arba todėl, kad neturėtume būti nelankstūs, kaip pasirenkame pakartotinai vartoti žodžius. Jie pareiškia, kad rožė yra rožė bet kokiu kitu pavadinimu.

Siekdamas išvengti tolesnių įnirtingų diskusijų, nuo šiol vengsiu vartoti žodžius „mirtingasis“ ir „nemirtingas“ ir tik pasakysiu, kad yra du pagrindiniai kompiuterių tipai: vienas yra įprastas šių dienų skaitmeninis kompiuteris ir kitas yra pasiūlymas neuromorfinis kompiuteris.

Atrodytų, mirtingumo mįslės į tai įtempti nereikia. Laikykite dangų aiškų, kad pamatytumėte, ką dar galime padaryti šiuo klausimu.

Tokiu atveju kai kas ginčytųsi, kad pasiūlyta neuromorfinio kompiuterio idėja nėra jokia naujiena.

Galite atsekti ankstesnes AI dienas, ypač kai iš pradžių buvo tyrinėjami ANN, ir pastebėti, kad buvo kalbama apie specializuotų kompiuterių, skirtų dirbtinių neuroninių tinklų darbui, kūrimą. Buvo pasiūlyta visų rūšių nauja aparatinė įranga. Tai pasitaiko iki šiol. Žinoma, galite prieštarauti, kad dauguma šiandieninių specializuotos aparatinės įrangos, skirtos ANN ir mašininiam mokymuisi, tyrinėjimų vis dar yra pagrįstos įprastiniu požiūriu į skaičiavimą. Šia prasme šis analoginis aparatinės ir programinės įrangos neatskiriamumas iš tikrųjų šiek tiek stumia voką, o siūlymas „auginti“ kompiuterį taip pat daro, bent jau kalbant apie išėjimą iš svarstomo pagrindinio srauto.

Trumpai tariant, yra tokių, kurie yra visiškai pasinėrę į šiuos dalykus, kurie stebisi, kad kas nors kitas gali nustebti dėl sklindančių pasiūlymų. Šios sąvokos yra tokios pat, kaip ir anksčiau, arba atkartoja tai, kas jau tiriama įvairiose tyrimų laboratorijose.

Jie sako, kad nesukelkite šurmulio į plaukus.

Tai perkelia mus į kitą aspektą, kuris vargina daugelį.

Vienu žodžiu: Nuspėjamumas.

Šiandieniniai kompiuteriai paprastai laikomi nuspėjamais. Galite pažvelgti į aparatinę ir programinę įrangą, kad išsiaiškintumėte, ką kompiuteris veiks. Taip pat galite atsekti, ką kompiuteris jau padarė, kad išsiaiškintumėte, kodėl jis padarė tai, ką padarė. Žinoma, tai turi ribos, todėl nenoriu pervertinti nuspėjamumo, bet manau, kad apskritai supratote idėją.

Galbūt žinote, kad viena iš sudėtingiausių problemų, su kuriomis šiandien susiduria AI, yra ta, kad kai kurie AI yra sukurti taip, kad galėtų prisitaikyti savarankiškai. DI, kurį sukūrė kūrėjai, gali pasikeisti, kol jis bus naudojamas. Dirbtinio intelekto etikos srityje yra daug AI pavyzdžių, kurie buvo pradėti naudoti ir kurie iš pradžių neturėjo nepagrįstų šališkumo ar diskriminacinių tendencijų, o vėliau palaipsniui keitėsi skaičiavimo būdu, kol buvo gaminamas DI. išsamūs vertinimai adresu nuoroda čia.

Nerimą kelia tai, kad mes jau pradedame dirbti su dirbtiniu intelektu, kuris nebūtinai yra nuspėjamas.

Tarkime, kad ginklų sistemų dirbtinis intelektas yra savaime reguliuojamas, o rezultatas yra toks, kad AI ginkluoja ir paleidžia mirtinus ginklus į taikinius ir nenumatytą laiką. Žmonės gali nespėti sustabdyti AI. Žmonėms, kurie yra kilpoje, gali nepavykti pakankamai greitai reaguoti, kad aplenktų AI veiksmus. Norėdami gauti papildomų atšaldymo pavyzdžių, žr. mano analizę adresu nuoroda čia.

Neuromorfiniams kompiuteriams susirūpinimą kelia tai, kad steroidams keliame nenuspėjamumą. Nuo pat pradžių neuromorfinio kompiuterio esmė gali būti ta, kad jis veikia taip, kad nepaisytų numatymo. Mes puikuojamės nenuspėjamumu. Tai tampa garbės ženklu.

Yra dvi stovyklos.

Viena stovykla sako, kad galime gyventi su nemalonaus nenuspėjamumo rūpesčiais, tai darydami įrengdami apsauginius turėklus, kad AI nenueitų per toli. Kita stovykla teigia, kad jūs vedate pasaulį pavojingu keliu. Ateis diena, kai apsauginiai turėklai, apie kuriuos pranešta, sugenda, nėra pakankamai griežti, arba kai dėl nelaimingo atsitikimo ar pikto ketinimo apsauginiai turėklai bus pašalinti arba su jais pajudėti.

Ar turėtume atsisakyti nuogąstavimų dėl neuromorfinių kompiuterių ir nuspėjamumo?

Remiantis mokslininko pastabomis: „Tarp žmonių, kurie domisi analoginiais skaičiavimais, labai mažai vis dar yra pasirengusių atsisakyti nemirtingumo“. Be to: „Jei norite, kad jūsų analoginė aparatinė įranga kiekvieną kartą darytų tą patį... Turite tikrą problemą su visais šiais beskoniais elektros daiktais ir kitais dalykais.

Aš tai sutvarkysiu.

Grėsminga ir šiek tiek niūri perspektyva yra ta, kad vadinamasis nuspėjamumas, susijęs su šiandienos skaitmeniniais kompiuteriais, bet kuriuo atveju eina nenuspėjamumo linkme. Kaip minėta, tai ypač gali nutikti naudojant dirbtinį intelektą, kuris pats prisitaiko įprastose kompiuterių platformose. Vien todėl, kad neuromorfiniai kompiuteriai gali būti iš pažiūros nenuspėjami, dar nereiškia, kad įprasti skaitmeniniai kompiuteriai iš tikrųjų yra nuspėjami.

Nenuspėjamumo steamroller ateina pas mus, visu garu, nesvarbu, kurią skaičiavimo platformą norite pasirinkti. Norėdami įvertinti naujausias pastangas siekti dirbtinio intelekto saugumo šioje šviesoje, žr nuoroda čia.

Šis nuspėjamumo posūkis turėtų priversti jūsų mintis susimąstyti apie kažkokį neatrastą pobūdį. Tie iš jūsų, kurie yra susiję su AI etika ir AI įstatymu, gali ne svarstė pasekmes neuromorfiniai kompiuteriai.

Tikriausiai siekėte įprastų skaitmeninių kompiuterių, kuriuose veikia AI. Na, atspėk ką, jūs turite visiškai papildomą ir besiformuojantį AI skaičiavimo segmentą, dėl kurio dabar galite nerimauti naktį. Taip, neuromorfiniai kompiuteriai. Įrašykite tai į savo darbų sąrašą.

Atsiprašau, daugiau jums bemiegių naktų.

Trumpai apsvarstykime, ką dirbtinio intelekto etika ir dirbtinio intelekto įstatymai nuveikė įprastų skaitmeninių kompiuterių ir AI srityse.

Ankstesnėse skiltyse aprašiau įvairias nacionalines ir tarptautines pastangas rengti ir priimti įstatymus, reglamentuojančius dirbtinį intelektą, žr. nuoroda čia, pavyzdžiui. Taip pat aprašiau įvairius dirbtinio intelekto etikos principus ir gaires, kurias nustatė ir priėmė įvairios tautos, įskaitant, pavyzdžiui, Jungtinių Tautų pastangas, tokias kaip UNESCO AI etikos rinkinys, kurį priėmė beveik 200 šalių, žr. nuoroda čia.

Čia yra naudingas pagrindinis etinių AI kriterijų arba charakteristikų, susijusių su AI sistemomis, kurias anksčiau atidžiai tyrinėjau, sąrašas:

• Skaidrumas
• Teisingumas ir sąžiningumas
• Nepiktybiškumas
• atsakomybė
• Privatumo politika
• Gerumas
• Laisvė ir autonomija
• Pasitikėkite
• Tvarumas
• orumas
• Solidarumas

Šiuos AI etikos principus nuoširdžiai turėtų taikyti AI kūrėjai, taip pat tie, kurie valdo dirbtinio intelekto kūrimo pastangas, ir netgi tie, kurie galiausiai kuria ir atlieka AI sistemų priežiūrą.

Visos suinteresuotosios šalys per visą DI kūrimo ir naudojimo gyvavimo ciklą laikosi nustatytų etiško AI normų. Tai svarbus akcentas, nes įprasta prielaida, kad „tik koduotojai“ arba tie, kurie programuoja AI, turi laikytis AI etikos sąvokų. Kaip buvo pabrėžta anksčiau, dirbtinio intelekto kūrimui ir įgyvendinimui reikia kaimo, kuriame visas kaimas turi išmanyti dirbtinio intelekto etikos nuostatas ir jų laikytis.

Dalis to, apie kurią galbūt anksčiau daug negalvojote, yra ta, kaip tie patys AI etikos nurodymai ir besiplečiantis naujų AI įstatymų sąrašas bus taikomi neuromorfiniams kompiuteriams. Kad būtų aiškiau, dirbtinio intelekto etika ir dirbtinio intelekto įstatymai iš tiesų turi į tai aiškiai atsižvelgti. Atkreipiu dėmesį į tai, kad mažai kas tai daro, ir įspėjame, kad yra didelė tikimybė, kad neuromorfinių kompiuterių atsiradimas daugeliui sukels naują dimensiją, bandant karaliauti AI.

Turime pakankamai plačiai apsvarstyti etinį AI ir AI įstatymus, kad apimtume bet kokį naujai sukurtą AI, įskaitant neuromorfinius kompiuterius.

Sūpynių alternatyva yra klasikinis katės ir pelės gambitas. Štai kaip tai vyksta. Sugalvoti ir sukurti nauji dirbtinio intelekto kūrimo būdai. Esami dirbtinio intelekto etika ir AI įstatymai yra užklupti ir neapima naujausių AI gudrybių. Paskubomis stengiamasi atnaujinti etines AI nuostatas ir pakeisti tuos naujai sukurtus AI įstatymus.

Putoja, nuplaukite, pakartokite.

Mums visiems būtų geriau likti žaidimo priekyje, o ne užklupti už aštuonių kamuolių.

Išvada

Išsivežiau tave į nedidelę kelionę.

Pradžioje pasiūliau, kad bus nagrinėjamos dvi pagrindinės temos:

1) Integruota AI mechanizacijų aparatinė ir programinė įranga susiejama, o ne kaip atskiri ir atskiri sąjungininkai

2) Mašininio mokymosi formuluočių perkėlimas arba distiliavimas iš vieno AI modelio į kitą, kai tai daroma nereikalaujant ir nebūtinai noro (ar net įmanoma kitaip) tiesioginio grynaveislio kopijavimo.

Pirmoji tema apie aparatinės ir programinės įrangos susiejimą buvo didžioji kelionės dalis. Tai atvedė mus į mirtingojo ir nemirtingojo skaičiavimo liūną. Iš jų buvo keletas esminių AI etikos ir AI teisės svarstymų, kurie kitu atveju paprastai nebūtų iškeliami, nes kai kurie tokio tipo su kompiuteriais susijusią temą dažniausiai laiko grynai technologine tema, o ne keliančia susirūpinimą dėl socialinio poveikio.

Aš sakau, kad išmintingiausia būti anksčiau ir saugiau, o ne vėliau ir blogiau, kai kalbama apie etinio AI ir AI įstatymą.

Antroji tema, kurios aš čia dar neaiškinau, iš esmės yra susijusi su pirmąja tema.

Čia yra sandoris.

Tarkime, kad turime „mirtingąjį kompiuterį“ ir norime išsaugoti jo galimybes, kad galėtume turėti atsarginę kopiją arba neva kopijas to, kas yra AI. Galime nerimauti, kad konkretus mirtingasis kompiuteris artėja prie pabaigos. Taip, mes esame nuo to priklausomi. Ką mums daryti? Vienas iš atsakymų yra tas, kad turėtume kopijuoti prakeiktą dalyką.

Tačiau nukopijuoti tokio tipo neuromorfinį kompiuterį, koks yra eskizas, bus sunkiau, nei gali pasirodyti iš pirmo žvilgsnio. Viskas gali būti sudėtinga.

Galbūt turėtume sugalvoti kopijavimo gudrybę, kurią būtų galima apibendrinti ir pritaikyti aplinkybėms, susijusioms su mašininiu mokymusi ir dirbtiniais neuroniniais tinklais. Norime, kad tai veiktų didelės apimties ir itin didelės apimties atvejais. Taip pat norėtume, kad kopija nebūtų tiksli dublikatas, o iš esmės būtų lygiavertė arba galbūt net geriau sukurta dėl kopijavimo veiksmo.

Technika, žinoma kaip distiliavimas buvo pasiūlyta.

Man pritrūko vietos šios dienos rubrikai, todėl šią antrąją temą imsiuos būsimame stulpelyje. Maniau, kad norėtumėte iš karto sužinoti apie santykį tarp tos antrosios temos ir pirmosios temos, kuri čia buvo plačiai aptarta. Pagalvokite apie tai kaip apie papildomą pastabą, kuri tarnauja kaip anonsas arba anonsas apie tai, kas bus toliau.

Likite ant savo vietos krašto, nes distiliavimo tema yra gana gera.

Kaip sakydavo Betmenas, laikyk sukryžiuotus šikšnosparnio sparnus ir būkite pasiruošę tam pačiam šikšnosparnio veikimo laikui ir šikšnosparnio kanalui, kad išspręstumėte nerimą keliantį klausimą, kaip nukopijuoti ANN arba mašininio mokymosi modelį ar neuromorfinį kompiuterį į kitą.

Kol kas paskutinė pastaba. Filme yra garsioji eilutė Tamsusis riteris grįžta kuriame mūsų apsiaustas kryžiuočiai sako taip: „Pasaulis turi prasmę tik tada, kai priverčiate jį daryti“. Pabandysiu laikytis šio idealo, kai apžvelgsiu antrąją temą apie distiliavimą, susijusį su AI.

Stebėkite šios įdomios ir žavingos dvigubos antraštės 2 dalį.