DI etika ir beveik protingas klausimas, ar žmonės išgyvens AI

Turiu jums klausimą, kuris, atrodo, šiomis dienomis sulaukia daug keblumų ir karštų diskusijų.

Ar jūs pasiruošę?

Ar žmonės išgyvens ilgiau nei AI?

Apsvarstykite tai.

Išpakuosiu klausimą ir atidžiai išnagrinėsiu atsakymus bei tai, kaip buvo išaiškinti atsakymai. Pagrindinis mano tikslas yra pabrėžti, kaip pats klausimas ir aplinkinis diskursas neišvengiamai ir nenumaldomai yra įsišakniję AI etika.

Tiems, kurie atmestinai mano, kad klausimas iš esmės yra neatsakomas arba laiko ir kvapo švaistymas, mandagiai siūlyčiau, kad bandant atsakyti į klausimą kyla keletas svarbių AI etikos svarstymų. Taigi, net jei norite iš piršto laužti klausimą kaip galbūt absurdišką ar nerealų, sakau, kad jis vis tiek suteikia tam tikrą vertę kaip priemonė ar mechanizmas, pabrėžiantis etines AI nuostatas. Daugiau informacijos apie AI etiką ir etišką AI žr nuoroda čia ir nuoroda čia, Tik pavadinimas kelias.

Atsižvelgdamas į pirmiau minėtą prielaidą, prašau leisti man dar kartą pakartoti ginčytiną klausimą ir leisti mūsų mintims klajoti per klausimo reikšmę.

Ar žmonės išgyvens ilgiau nei AI?

Jei jums nepatinka ta konkreti frazė, galite pakeisti klausimą ir paklausti, ar dirbtinis intelektas išgyvens žmones. Nesu tikras, ar tai palengvina atsakymą į klausimą, bet galbūt tai atrodo mažiau erzina. Sakau tai, nes idėja, kad dirbtinis intelektas pergyvena žmones, gali atrodyti šiek tiek nekenksmingesnis. Atrodo, kad aš jūsų paklausčiau, ar dideli pastatai ir žmogaus sukurti paminklai gali išgyventi ilgiau nei žmonija.

Žinoma, tai atrodo įmanoma ir nėra ypač pavojinga. Šiuos didelius daiktus gaminame per savo gyvenimą ir panašius į piramides, šios galingos konstrukcijos truks ilgiau nei tas, kurios jas sukūrė. Žinoma, tai ne visai prilygsta išlikimui po žmonijos pabaigos, nes žmonės vis dar yra čia. Nepaisant to, atrodo gana logiška ir įmanoma, kad mūsų sukurtos struktūros gali išgyventi ilgiau.

Tačiau pastebimas skirtumas yra tas, kad įvairios struktūros, tokios kaip aukšti dangoraižiai ir šlovingos statulos, nėra gyvos. Jie yra inertiški. Priešingai, klausiant apie AI, daroma prielaida, kad AI iš esmės yra „gyvas“ turintis tam tikrą intelektą ir galintis veikti taip, kaip elgiasi žmonės. Štai kodėl klausimas apie ilgesnį gyvenimą yra bauginantis, verčiantis mąstyti ir apskritai yra galvosūkis, kurį verta suminti.

Visose savo pastabose aš pasiliksiu prie klausimo, kuris yra suformuluotas, ar žmonės išgyvens AI. Tai tik dėl diskusijų ir apmąstymų lengvumo. Turiu omenyje nepagarbą alternatyviam klausimui, ar AI išgyvens žmones. Apskritai ši analizė apima abi formuluotes, ir aš tikiu, kad žmonių, gyvenančių ilgiau nei AI, klausimas atrodo mielesnis šiais sudėtingais klausimais.

Gerai, paklausiu dar kartą:

Panašu, kad turite du galimus atsakymus: arba „taip“, žmonės išgyvens AI, arba jūs galite būti kitoje monetos pusėje ir karštai tvirtinti, kad ne, žmonės neišgyvens dirbtinio intelekto. Taigi, šis aukštas ir nerimo kupinas klausimas susiveda į tiesioginį „taip“ arba „ne“ atvaizdavimą.

Padarykite savo pasirinkimą.

Suprantu, kad gudrus atsakymas yra toks, kad netaikomas nei taip, nei ne.

Aš girdžiu tave.

Nors atrodo, kad į klausimą tikrai galima atsakyti tik aiškiai dvejetainiu būdu, būtent taip arba ne, aš leisiu jums, kad galima protingai pateikti priešingą argumentą, kad atsakymas yra kažkas kita.

Trumpai panagrinėkime kai kuriuos pagrindus, kodėl nenorime tiesiog pasakyti „taip“ arba „ne“ į šį klausimą.

Pirma, galite atmesti žodį „pergyventi“ pateikto klausimo kontekste.

Ši konkreti formuluotė galbūt reiškia, kad AI yra gyvas. Klausimas nepasakė „pastovėti“, o klausiama, ar žmonės išgyvens ilgiau nei AI. Ar išgyvenimas taikomas tik žmogiškajai klausimo daliai, ar tai taip pat taikoma AI klausimo daliai? Kai kurie bandytų tvirtinti, kad pasenusi aura taikoma ir AI daliai. Tokiu atveju jie rėmuo, sakydami, kad AI yra gyvas dalykas. Jiems AI bus panašus į aukštus pastatus ir kitas struktūras. Tai nėra gyva tuo pačiu būdu, kaip žmonės yra gyvi.

Taigi šiuo karštu priešingu požiūriu klausimas suformuluotas klaidingai.

Jums gali būti miglotai susipažinę su klausimais, kuriuose pateikiamos klaidingos ar klaidinančios prielaidos. Vienas žinomiausių pavyzdžių – ar kas nors nustos mušti savo žmoną (senas posakis, kurį, aišku, reikia atidėti). Tame liūdnai pagarsėjusiame pavyzdyje, jei pateikiamas „taip“, reiškia, kad asmuo jau tai darė. Jei jie sako ne, tai reiškia, kad jie taip elgėsi ir ketina toliau.

Jei klausiame, ar žmonės išgyvens ilgiau nei dirbtinį intelektą, galime būti palaidoti liūne apie tai, ar AI laikomas gyvu aspektu. Kaip trumpai paaiškinsiu, šiandien neturime jokio jautraus DI. Manau, kad dauguma protingų žmonių sutiktų, kad nesijaučiantis AI nėra gyvas daiktas (na, ne visi sutinka, bet kol kas tai nurodysiu – žr. nuoroda čia).

Šio pirmojo pagrindo, kodėl neatsakoma į klausimą, ar žmonės išgyvens dirbtinį intelektą, esmė yra ta, kad žodis „pergyvens“ gali būti interpretuojamas taip, kad AI yra gyvas. Kol kas neturime tokio dirbtinio intelekto. Jei mes gaminame arba kaip nors atsiranda jautrus AI, jums būtų sunku ginčytis, kad jis negyvas (nors kai kurie bandys pateikti tokį argumentą). Taigi svarbiausia yra tai, kad klausimas kelia kažką, ko nėra, ir mes tik spėliojame apie nežinomą ir miglotą ateitį.

Galime priimti šį netvarką ir siekti išplėsti ją į išraiškingesnę išraišką. Tarkime, kad mes klausiame to:

• Ar žmonės, kaip gyvos būtybės, išgyvens AI, kuris yra arba (1) negyvas, arba (2) gyvas padaras, jei taip kada nors atsiras?

Turėkite omenyje šią išplėstinę formuluotę ir netrukus prie jos grįšime.

Antrasis pagrindas nenorint atsakyti į pradinį klausimą, ar žmonės išgyvens AI, yra tai, kad tai reiškia, kad vienas iš dalykų išgyvens ilgiau nei vienas iš kitų. Tarkime, kad jie abu iš esmės gyvena amžinai? Arba tarkime, kad jų abiejų galiojimas baigiasi arba išnyksta tuo pačiu metu?

Esu tikras, kad galite lengvai pastebėti, kaip dėl to „taip“ arba „ne“ formuluotė subyrės.

Atrodo, kad mums reikia galimo trečiojo atsakymo, susidedančio iš „nei“ arba panašaus atsakymo.

Yra daugybė su „nei“ susijusių permutacijų. Pavyzdžiui, jei kas nors griežtai tiki, kad žmonės sunaikins save per AI, o žmonės tuo pat metu sugeba sunaikinti DI, šis tikintysis negali nuoširdžiai atsakyti į klausimą, kas išgyvens kitą, nelanksčiu atsakymu „taip“ ar „ne“. Šiuo gana niūriu ir liūdnu atveju atsakymas būtų labiau panašus į tai, kad nė vienas iš jų nepergyvena kito.

Tas pats būtų, jei didžiulis meteoras atsitrenktų į Žemę ir išnaikintų viską planetoje, įskaitant žmones ir bet kokį aplinkui esantį dirbtinį intelektą (darant prielaidą, kad visi esame tik Žemėje ir dar negyvename Marse). Vėlgi, atsakymas „nei“ atrodo tinkamesnis nei teiginys, kad žmonės išgyveno ilgiau nei AI arba kad AI išgyveno ilgiau nei žmones (nes jie abu buvo sunaikinti tuo pačiu metu).

Nenoriu čia nutolti, bet galbūt norėtume nustatyti kai kuriuos gyvenimo laiko parametrus. Tarkime, kad meteoras atsitrenkia į Žemę ir žmonės beveik akimirksniu sunaikinami. Tuo tarpu tarkime, kad AI kurį laiką tęsis. Pagalvokite apie tai taip, tarsi gamyklose turėtume jau veikiančių mašinų, kurios nuolat dūzgia, kol galiausiai mašinos sustoja, nes nėra žmonių, palaikančių mašinas tvarkingas.

Turėtumėte pasakyti, kad tos mašinos išgyveno ilgiau arba išgyveno ilgiau. Todėl atsakymas yra „ne“, ar žmonės išgyveno ilgiau. Toks atsakymas atrodo eskizinis. Mašinos pamažu ir nenumaldomai sustojo, tikriausiai dėl to, kad aplinkui trūko žmonijos. Ar teisinga teigti, kad mašinos galėjo tarnauti ilgiau nei žmonės?

Tikriausiai tik tiems, kurie yra smulkmeniški ir visada nori būti erzinančiai tikslūs.

Tada prie klausimo galėtume pridėti kokį nors su laiku susijusį elementą. Ar žmonės išgyvens AI ilgiau nei vieną dieną? Daugiau nei mėnesiui? Daugiau nei metus? Daugiau nei šimtmetį? Suprantu, kad tai, deja, atveria Pandoros skrynią.

Koks yra priimtinas laikotarpis, po kurio norėtume pripažinti, kad dirbtinis intelektas iš tikrųjų išgyveno arba išgyveno ilgiau nei žmonės? Tikslus atsakymas atrodo, kad net jei tai įvyktų nanosekundę (milijardąją sekundės dalį) ar trumpiau, dirbtinis intelektas laimi, o žmonės šiuo klausimu pralaimi. Galbūt teisingiau būtų priimti platumą naudojant dieną, savaitę ar mėnesį. Leisti tai tęstis ilgus metus ar šimtmečius, atrodo, galima pertempti. Vis dėlto, jei pažvelgtumėte į pasaulį milijonų metų skalėje, idėja, kad dirbtinis intelektas išgyvens arba išgyvens žmones ne ilgiau nei kelis šimtmečius, atrodo labai neįspūdinga ir galime teigti, kad jie abu išnyko maždaug tuo pačiu laiku (suapvalinus).

Bet kokiu atveju, pripažinkime, kad dėl įvairių pagrįstų priežasčių į pateiktą klausimą gali būti pateikti trys atsakymai:

• Taip, žmonės išgyvens ilgiau nei AI
• Ne, ir tokiu būdu tvirtinama, kad žmonės tai padarys ne pergyvena AI
• Netaikoma nei taip, nei ne (jei prašote, reikia paaiškinimo)

Noriu paminėti, kad jei pasirenkate „nei“, taip pat turėtumėte paaiškinti savo atsakymą. Tai daroma tam, kad galėtume žinoti, kodėl manote, kad „netaikoma“ ir kodėl atsisakote naudoti „taip“ arba „ne“. Kad gyvenimas būtų teisingesnis visiems, manau, turėtume šiek tiek primygtinai reikalauti arba bent jau skatinti, kad net jei atsakytumėte taip arba ne, vis tiek turėtumėte pateikti paaiškinimą. Paprastas „taip“ arba „ne“ atsakymas neatskleidžia jūsų logikos, kodėl atsakote taip, kaip esate. Be paaiškinimo, mes taip pat galime išversti monetą. Moneta nežinia, kodėl atsidūrė ant galvų ar uodegų (nebent tikite, kad moneta turi sielą ar įkūnija kokią nors visažinę likimo ranką, bet kol kas su tuo nesiimsime).

Tikimės, kad žmonės, atsakę į klausimus, paaiškins savo sprendimus. Atkreipkite dėmesį, kad aš nesakau, kad paaiškinimai būtinai bus loginio ar protingo pobūdžio, ir iš tikrųjų paaiškinimas gali būti visiškai tuščias ir nesuteikti jokios ypatingos vertės. Nepaisant to, galime nuoširdžiai tikėtis, kad paaiškinimas bus naudingas.

Šios diskusijos metu buvo daroma nenurodyta prielaida, kad dėl vienokių ar kitokių priežasčių vienas iš šių dalykų iš tikrųjų išgyvens kitą.

Kodėl mes turime tikėti tokia numanoma sąlyga?

Atsakymas į šį antraeilį klausimą beveik savaime suprantamas.

Čia yra sandoris.

Žinome, kad kai kurie žinomi žyniai ir intelektualai išsakė gana drąsius ir plačius prognozes, kaip jautraus AI atsiradimas ar atsiradimas radikaliai pakeis pasaulį, kokį mes žinome šiandien (priminkite, kad šiandien mes neturime jautraus AI). .

Štai keletas žinomų citatų, kurios pabrėžia gyvybę keičiantį jautraus AI poveikį:

• Stephenas Hawkingas: „Sėkmė kuriant AI būtų didžiausias įvykis žmonijos istorijoje.
• Ray'us Kurzweilas: „Per kelis dešimtmečius mašinų intelektas pranoks žmogaus intelektą, o tai sukels išskirtinumą – technologinius pokyčius, tokius sparčius ir gilius, kad tai reiškia žmonijos istorijos lūžį.
• Nickas Bostromas: „Mašinų intelektas yra paskutinis išradimas, kurį žmonijai kada nors reikės padaryti“.

Tie ginčai yra skaidriai optimistiški.

Reikalas tas, kad turėtume atsižvelgti ir į bjaurią papilvę, kai kalbame apie jausmingą AI:

• Stephenas Hawkingas: „Visiško dirbtinio intelekto sukūrimas gali reikšti žmonių rasės pabaigą“.
• Elonas Muskas: „Vis labiau linkstu manyti, kad reikėtų tam tikros reguliavimo priežiūros, galbūt nacionaliniu ir tarptautiniu lygiu, kad tik nepadarytume kažko labai kvailo. Turiu galvoje, kad dirbtiniu intelektu mes iškviečiame demoną.

Tikimasi, kad jautrus AI bus patarlė tigras, kurį sugriebėme už uodegos. Ar mes pakelsime žmoniją į priekį, panaudodami jautrų AI? O gal mes kvailai sukelsime savo mirtį, kai jaučiamas AI, kuris pasirenka mus sunaikinti arba pavergti? Dėl šios dvejopo naudojimo AI mįslės analizės žr nuoroda čia.

Pagrindinė abejonė, ar žmonės išgyvens AI, yra ta, kad galime sukurti Frankenšteiną, kuris nusprendžia išnaikinti žmoniją. AI tampa nugalėtoju. Yra daug galimų priežasčių, kodėl AI taip elgtųsi su mumis. Galbūt AI yra blogis ir elgiasi atitinkamai. Galbūt dirbtiniam intelektui atsibodo žmonės ir jis supranta, kad turi galią atsikratyti žmonijos. Manoma, kad tai taip pat gali atsitikti klaidingai. AI bando išgelbėti žmoniją ir, oi, tuo metu mus visus tiesiog nužudo. Bent jau motyvas buvo švarus.

Galbūt jus domina garsus AI mįslė, žinoma kaip sąvaržėlės problema, kurią aptariau nuoroda čia.

Trumpai tariant, kada nors jaučiančio AI paprašoma padaryti sąvaržėlių. Dirbtinis intelektas yra tam skirtas. Siekdamas užtikrinti, kad sąvaržėlės būtų pagamintos iki galo, dirbtinis intelektas pradeda eiti visus kitus planetos išteklius, kad tai padarytų. Tai veda prie žmonijos žlugimo, nes AI sunaudojo visus turimus išteklius vieninteliam žmonių paskirtam tikslui. Jei norite, sąvaržėlės sukelia mūsų pačių sunaikinimą. DI, kuris yra siaurai sukurtas ir neturintis jokio sveiko proto panašumo, yra toks DI, dėl kurio turime būti ypač atsargūs.

Prieš pereidami prie klausimo, ar žmonės išgyvens ilgiau nei dirbtinį intelektą, pastebėkite, kad aš nuolat keliau jautraus DI ir nejautros DI klausimą. Tai darau dėl svarbių priežasčių.

Galime beprotiškai spėlioti apie jausmingą AI. Niekas tiksliai nežino, kas tai bus. Niekas negali tiksliai pasakyti, ar kada nors pasieksime jausmingą AI. Dėl šios nežinomos ir dar nežinomos aplinkybės gali būti sukurtas beveik bet koks scenarijus. Kažkas gali pasakyti, kad jautrus AI bus blogis. Kažkas gali pasakyti, kad jautrus AI bus geras ir geranoriškas. Galite tęsti ir tęsti, nes negalima pateikti jokių „įrodymų“, patvirtinančių pateiktą teiginį tikrumu ar patikinimu.

Tai atveda mus į AI etikos sritį.

Visa tai taip pat susiję su blaiviai kylančiu susirūpinimu dėl šiandienos AI ir ypač mašininio mokymosi (ML) ir giluminio mokymosi (DL) naudojimo. Matote, yra ML/DL naudojimo atvejų, kai plačioji visuomenė turi antropomorfizuoti dirbtinį intelektą, manydama arba nuspręsdama manyti, kad ML/DL yra jautrus AI arba artimas (taip nėra).

Gali būti naudinga pirmiausia paaiškinti, ką aš turiu omenyje kalbėdamas apie AI, taip pat trumpai apžvelgti mašininį mokymąsi ir gilųjį mokymąsi. Yra daug painiavos dėl to, ką reiškia dirbtinis intelektas. Taip pat norėčiau supažindinti jus su AI etikos nuostatomis, kurios bus ypač svarbios likusioje šio diskurso dalyje.

Įrašo apie AI paskelbimas

Įsitikinkite, kad esame tame pačiame puslapyje dėl šiandieninio AI pobūdžio.

Šiandien nėra jokio jautraus dirbtinio intelekto.

Mes šito neturime.

Mes nežinome, ar jautrus AI bus įmanomas. Niekas negali tiksliai nuspėti, ar pasieksime jautrųjį AI, nei ar jausmingasis AI kažkaip stebuklingai savaime atsiras kompiuterinės kognityvinės supernovos pavidalu (dažniausiai vadinama išskirtinumu, žr. nuoroda čia).

Supraskite, kad šiandieninis dirbtinis intelektas nesugeba „mąstyti“ niekaip taip, kaip žmogaus mąstymas. Kai bendraujate su „Alexa“ ar „Siri“, pokalbio gebėjimai gali atrodyti panašūs į žmogaus gebėjimus, tačiau realybė yra tokia, kad tai skaičiuojama ir jam trūksta žmogaus pažinimo. Naujausioje AI eroje plačiai panaudotas mašininis mokymasis ir gilusis mokymasis, kurie naudoja skaičiavimo modelių suderinimą. Tai paskatino dirbtinio intelekto sistemas, kurios atrodo kaip žmogaus polinkiai. Tuo tarpu šiandien nėra nė vieno dirbtinio intelekto, kuris turėtų sveiko proto ir kognityvinio nuostabaus tvirto žmogaus mąstymo.

Dalis problemos yra mūsų tendencija antropomorfizuoti kompiuterius ir ypač AI. Kai atrodo, kad kompiuterinė sistema arba AI veikia taip, kaip mes siejame su žmogaus elgesiu, kyla beveik didžiulis noras priskirti sistemai žmogiškąsias savybes. Tai dažni psichikos spąstai, galintys sugriebti net patį nepalankiausią skeptiką apie galimybes pasiekti nuovokumą. Išsamią tokių dalykų analizę žr nuoroda čia.

Tam tikru mastu AI etika ir etinis AI yra tokia svarbi tema.

Dirbtinio intelekto etikos nuostatos verčia mus išlikti budriems. AI technologai kartais gali būti susirūpinę technologijomis, ypač aukštųjų technologijų optimizavimu. Jie nebūtinai atsižvelgia į didesnius visuomenės padarinius. Norint sukurti tinkamą DI, įskaitant vertinimą, kaip AI etika pritaikoma įmonėse, labai svarbu turėti DI etikos mąstymą ir tai daryti neatsiejamai su DI plėtra ir veikla.

Be AI etikos nuostatų taikymo apskritai, kyla atitinkamas klausimas, ar turėtume turėti įstatymus, reglamentuojančius įvairius AI naudojimą. Federaliniu, valstijos ir vietiniu lygmenimis rengiami nauji įstatymai, susiję su DI kūrimo įvairove ir pobūdžiu. Pastangos rengti ir priimti tokius įstatymus vyksta laipsniškai. Dirbtinio intelekto etika yra bent jau apsvarstyta priemonė ir beveik neabejotinai tam tikru mastu bus tiesiogiai įtraukta į tuos naujus įstatymus.

Žinokite, kad kai kurie griežtai tvirtina, kad mums nereikia naujų įstatymų, apimančių AI, ir kad mūsų esamų įstatymų pakanka. Jie įspėja, kad jei priimsime kai kuriuos iš šių dirbtinio intelekto įstatymų, užmušime auksinę žąsį, apribodami dirbtinio intelekto pažangą, teikiančią didžiulių socialinių pranašumų.

Ankstesnėse skiltyse aprašiau įvairias nacionalines ir tarptautines pastangas rengti ir priimti įstatymus, reglamentuojančius dirbtinį intelektą, žr. nuoroda čia, pavyzdžiui. Taip pat aprašiau įvairius dirbtinio intelekto etikos principus ir gaires, kurias nustatė ir priėmė įvairios tautos, įskaitant, pavyzdžiui, Jungtinių Tautų pastangas, tokias kaip UNESCO AI etikos rinkinys, kurį priėmė beveik 200 šalių, žr. nuoroda čia.

Čia yra naudingas pagrindinis etinių AI kriterijų arba charakteristikų, susijusių su AI sistemomis, kurias anksčiau atidžiai tyrinėjau, sąrašas:

• Skaidrumas
• Teisingumas ir sąžiningumas
• Nepiktybiškumas
• atsakomybė
• Privatumo politika
• Gerumas
• Laisvė ir autonomija
• Pasitikėkite
• Tvarumas
• orumas
• Solidarumas

Šiais AI etikos principais turėtų rimtai naudotis AI kūrėjai, taip pat tie, kurie valdo DI kūrimo pastangas, ir netgi tie, kurie galiausiai kuria ir atlieka AI sistemų priežiūrą. Visos suinteresuotosios šalys per visą DI kūrimo ir naudojimo gyvavimo ciklą laikosi nustatytų etiško AI normų. Tai svarbus akcentas, nes įprasta prielaida, kad „tik koduotojai“ arba tie, kurie programuoja AI, turi laikytis AI etikos sąvokų. Kaip jau buvo pabrėžta, dirbtinio intelekto kūrimui ir įgyvendinimui reikia kaimo, kuriame visas kaimas turi išmanyti ir laikytis AI etikos nuostatų.

Laikykimės dalykų žemėje ir sutelkime dėmesį į šiandieninį kompiuterinį nejautinį AI.

ML/DL yra skaičiavimo modelių derinimo forma. Įprastas būdas yra rinkti duomenis apie sprendimo priėmimo užduotį. Duomenis tiekiate į ML/DL kompiuterių modelius. Šie modeliai siekia rasti matematinius modelius. Radusi tokius modelius, jei taip bus, AI sistema naudos tuos modelius, kai susidurs su naujais duomenimis. Pateikus naujus duomenis, dabartiniam sprendimui priimti taikomi modeliai, pagrįsti „senais“ arba istoriniais duomenimis.

Manau, galite atspėti, kur tai link. Jei žmonės, priimdami pagrįstus sprendimus, įtraukė nepalankų šališkumą, tikėtina, kad duomenys tai atspindi subtiliai, bet reikšmingai. Mašininio mokymosi arba giluminio mokymosi skaičiavimo modelių derinimas tiesiog bandys atitinkamai matematiškai imituoti duomenis. AI sukurtame modeliavime per se nėra jokio sveiko proto ar kitų jautrių aspektų.

Be to, AI kūrėjai taip pat gali nesuprasti, kas vyksta. Dėl paslaptingos matematikos ML/DL gali būti sunku išsklaidyti dabar paslėptus šališkumus. Jūs pagrįstai tikėtumėte ir tikitės, kad AI kūrėjai išbandys galimai palaidotus šališkumus, nors tai yra sudėtingiau, nei gali atrodyti. Yra didelė tikimybė, kad net ir atlikus gana platų testavimą, ML/DL modelių atitikimo modeliuose vis tiek bus paklaidų.

Galite šiek tiek pasinaudoti garsiuoju ar liūdnai pagarsėjusiu posakiu apie šiukšlių išvežimą. Reikalas tas, kad tai labiau panašu į šališkumą, kuris klastingai įsiskverbia į AI paskendusį šališkumą. AI sprendimų priėmimo algoritmas (ADM) aksiomatiškai apkraunamas nelygybe.

Negerai.

Manau, kad dabar tinkamai pasiruošiau toliau tirti, ar žmonės išgyvens ilgiau nei dirbtinį intelektą.

Žmonės ir AI yra draugai, priešai arba priešai

Anksčiau buvau paskelbęs, kad bet koks atsakymas į klausimą, ar žmonės išgyvens AI, turėtų būti kartu su paaiškinimu.

Mes apžvelgsime taip atsakyti. Pateiksiu trumpą paaiškinimų sąrašą. Kviečiame priimti bet kurį iš šių paaiškinimų. Jūs taip pat raginami išvesti kitus paaiškinimus, kurių galima įsivaizduoti daugybę.

Taip, žmonės išgyvens ilgiau nei AI, nes:

• Žmonės kaip kūrėjai: Žmonės yra DI kūrėjai ir prižiūrėtojai, todėl be žmonių AI nustos veikti arba egzistuoti
• Įgimta žmogaus dvasia: Žmonės turi nenumaldomą gyvenimo dvasią, o dirbtinis intelektas – ne, todėl vienaip ar kitaip žmonės išgyvens, tačiau AI neabejotinai nukris dėl įgimto jėgų išgyvenimui trūkumo.
• Žmonės kaip nugalėjai: Žmonės neleis dirbtiniam intelektui pergyventi žmonių, nes žmonės nuspręs visiškai nugalėti DI, jei žmonėms kiltų pavojus AI arba jie kitaip išnyktų
• kitas

Pažvelgsime į atsakymą Ne (ne taip). Pateiksiu trumpą paaiškinimų sąrašą. Kviečiame priimti bet kurį iš šių paaiškinimų. Jūs taip pat raginami išvesti kitus paaiškinimus, kurių galima įsivaizduoti daugybę.

Žmonės neišgyvens AI, nes:

• AI gali išsilaikyti savarankiškai: Net jei dirbtinio intelekto kūrėjai ir prižiūrėtojai yra žmonės, dirbtinis intelektas bus arba užprogramuotas, arba sukurtas žmonių, kad jis išliktų ir nesant žmonių, arba dirbtinis intelektas suras savo išlikimo priemones (galbūt žmonėms to nesuvokiant).
• AI dirbtinė dvasia: Net jei žmonės turi nenumaldomą gyvenimo dvasią, mes žinome, kad žmonės taip pat turi savęs naikinimo dvasią; bet kokiu atveju, AI gali būti užprogramuotas dirbtine dvasia, jei norite, kad AI siektų išgyventi ir (arba) AI suteiktų įgimto pagyvėjimo regimybę pagal savo sąlygas.
• AI įveikia nugalėtojus: Net jei žmonės nenorės leisti dirbtiniam intelektui pergyventi žmones, dirbtinis intelektas gali būti užprogramuotas taip, kad aplenktų žmonių pastangas nugalėti arba pats sugalvos, kaip tai padaryti (ir galbūt nuspręs atitinkamai nugalėti žmones ar ne)
• kitas

Mes taip pat privalome pažvelgti į „nei“ (ne taip, o ne Ne) atsakymas. Pateiksiu trumpą paaiškinimų sąrašą. Kviečiame priimti bet kurį iš šių paaiškinimų. Jūs taip pat raginami išvesti kitus paaiškinimus, kurių galima įsivaizduoti daugybę.

Žmonės nepergyvena dirbtinio intelekto, o dirbtinis intelektas nepergyvena žmonių, nes:

• Žmonės ir AI nuoširdžiai egzistuoja amžinai: Pasirodo, kad žmonės ir dirbtinis intelektas turi būti vienas su kitu amžinai. Pakeliui gali būti iškilimų. Geros naujienos arba laimingas veidas yra tai, kad mes visi sutariame.
• Žmonės ir AI egzistuoja neapykantai amžinai: Oho, žmonės ir dirbtinis intelektas nekenčia vienas kito. Liūdno veido scenarijus. Reikalas tas, kad atsidūrė aklavietė. DI negali nugalėti žmonių. Žmonės negali nugalėti AI. Amžinos būklės virvės traukimas.
• Žmonės ir AI naikina vienas kitą: Du sunkiasvoriai vienas kitą išmuša iš ringo ir išmuša iš šio pasaulio. Žmonės pirmauja prieš dirbtinį intelektą, bet AI taip pat sugebėjo nugalėti žmones (galbūt paskutinės dienos sąranka)
• Žmones ir dirbtinį intelektą sunaikina tam tikras reikalas: Žmones ir dirbtinį intelektą sunaikina smogiantis meteoras, o gal ateivis iš kitos planetos, nusprendęs, kad žmonėms ir iš žmonijos sukurtam dirbtiniam intelektui tai neabejotinai negalima (net nesidomi pavogti iš mūsų nuostabų AI)
• kitas

Yra keletas dažniausiai pastebimų „Taip“, „Ne“ ir „Ne“ priežasčių, kodėl atsakymai į klausimą, ar žmonės gyvens ilgiau nei dirbtinis intelektas.

Išvada

Galbūt prisiminsite, kad anksčiau pasiūliau šį išplėstinį žmonių, išgyvenančių AI klausimą, variantą:

• Ar žmonės, kaip gyvos būtybės, išgyvens AI, kuris yra arba (1) negyvas, arba (2) gyvas padaras, jei taip kada nors atsiras?

Pirmiau minėti atsakymai paprastai yra sutelkti į antrąją klausimo dalį, ty aplinkybę, susijusią su jautrios veislės AI. Jau atkreipiau dėmesį į tai, kad tai labai spekuliatyvu, nes nežinome, ar atsiras jautrus AI. Kai kas ginčytųsi, kad kaip tik tuo atveju, mes pagrįstai išmintingi iš anksto apsvarstyti, kas gali kilti.

Jei jums tai atrodo labai nerealu, aš užjaučiu, kad visa tai yra gana hipotetiška ir pilna prielaidų, be prielaidų. Tai prielaidų pilna statinė. Turėsite išsiaiškinti, kokią vertę, jūsų manymu, teikia tokios spekuliacinės pastangos.

Kalbant daugiau apie žalvario smeigtukus, galime apsvarstyti negyvą ar nejaučią AI tipą.

Sutrumpinkite klausimą iki šio:

• Ar žmonės išgyvens daugiau nei negyvas nejuntamas AI?

Tikėkite ar ne, tai iš esmės vertas klausimas.

Galbūt nesate tikri, kodėl šis negyvas nesijaučiantis AI gali būti bet kurioje vietoje, kur galėtų kažkaip pragyventi žmoniją.

Apsvarstykite situaciją, susijusią su autonominėmis ginklų sistemomis, kurią aptariau nuoroda čia. Jau dabar matome, kad ginklų sistemos yra apginkluotos dirbtiniu intelektu, leidžiančiu ginklui veikti šiek tiek autonomiškai. Šis negyvas nesijaučiantis DI neturi nei mąstymo, nei sveiko proto ir pan.

Įsivaizduokite vieną iš tų apokaliptinių situacijų. Keletas šalių šį žemo kalibro dirbtinį intelektą įtraukė į savo masinio naikinimo ginklus. Netyčia (arba tyčia) šios AI varomos autonominės ginklų sistemos paleidžiamos arba paleidžiamos. Nepakanka gedimų jiems sustabdyti. Žmonija sunaikinta.

Ar pagal tokį scenarijų dirbtinis intelektas ištverstų žmones?

Pirma, jums gali nerūpėti. Kitaip tariant, jei visa žmonija buvo išnaikinta, nerimas ar rūpinimasis, ar dirbtinis intelektas vis dar dūzgia, atrodo kaip tų gultų perkėlimas Titanike. Ar svarbu, kad AI vis dar veikia?

Lipdukas gali ginčytis, kad tai vis tiek svarbu. Gerai, mes linksminsime lipduką. AI gali veikti savarankiškai, naudodamas saulės baterijas ir kitas energijos formas, kurios gali ir toliau maitinti mašinas. Taip pat galėjome sukurti AI sistemas, kurios taiso ir prižiūri kitas AI sistemas. Atminkite, kad tam nereikia jautraus AI.

Apskritai, galite sugalvoti scenarijų, pagal kurį žmonija pasibaigė, o AI vis dar veikia. Galbūt AI veikia tik trumpą laiką. Nepaisant to, kaip teigiama ankstesnėje diskusijoje apie griežtą laiko susirūpinimą, AI iš tikrųjų (kurį laiką) pralenkė žmones.

Kol kas paskutinė mintis šia tema.

Diskutuoti, ar žmonės išgyvens jautrųjį dirbtinį intelektą, yra beveik kaip patarlė šaukštas cukraus (kaip tai gali būti, jums gali kilti klausimas, laikykis skrybėlės ir aš tau pasakysiu).

Matote, mums būtinai reikia įsisąmoninti, kad nejuntamas dirbtinis intelektas taip pat turi didžiulį ir liūdną potencialą dalyvauti sunaikinant žmoniją ir pralenkiant mus. Ne ypač todėl, kad dirbtinis intelektas „norėjo mus pralenkti“, o tiesiog mūsų pačių rankomis kurdami AI, kuriai nereikia žmogaus įsikišimo, kad toliau veiktų. Kai kurie tvirtai įrodinėja, kad dirbtinis intelektas, kuris yra sukurtas taip, kad būtų šiek tiek amžinas, gali būti destabilizuojanti įtaka, dėl kurios kai kurie žmonės norės žengti pirmąjį žingsnį naikinti kitus žmones, žr. mano paaiškinimą nuoroda čia.

Dalis apie senesnius žmonių gyvenimus nėra pagrindinė priežastis, kodėl šiandien šis klausimas nusipelno tokio svarbos. Vietoj to, paslėpta potekstė apie tai, kaip mes kuriame šiandieninį dirbtinį intelektą ir kaip naudojame DI, čia yra tikrasis impulsas. Turime daug galvoti apie AI etikos pasekmes ir šių dienų AI poveikį visuomenei.

Jei šiek tiek kvailas klausimas, ar žmonės išgyvens daugiau nei dirbtinis intelektas, pateks į šiuolaikinio AI čia ir dabar problemas, mums bus geriau. Atsižvelgiant į tai, jautrūs dirbtinio intelekto aspektai žmonių, išgyvenančių AI, yra šaukštas cukraus, kuris, tikėkimės, padės susidoroti su čia ir dabar AI.

Vien šaukštas cukraus kartais padeda sumažinti vaisto poveikį. Ir pačiais maloniausiais būdais. Arba bent jau patraukliu būdu, kuris patrauktų mūsų dėmesį ir prikaustytų mus prie to, dėl ko turime nerimauti.

Kaip toliau sako ditty, kaip lizdą plunksnuojantis robinas, turime labai mažai laiko pailsėti.