AI etika Atsargiai vertinti, ar AI šališkumo siūlymas.

Ieškoma: AI šališkumo medžiotojai.

Tai gali būti šiuolaikinis skelbimas, kurį pradėsite matyti socialinės žiniasklaidos kanaluose ir pasirodyti įvairiuose internetiniuose darbo skelbimuose. Tai palyginti nauja koncepcija ar vaidmuo. Tai neša prieštaringumą. Kai kurie užsidegę tikintieji karštai įrodinėja, kad tai labai prasminga ir turėjo vykti visą laiką, o kiti gana nervingai laužo galvą ir nėra tikri, kad tai gera mintis.

Vaidmens esmę sudaro AI pašalinimas iš bet kokių paslėptų šališkumo ar įterptos diskriminacinės praktikos. Į pagalbą ateina nekantrūs ir visiškai anksčiau buvę AI šališki medžiotojai. Tikėtina, kad jie būtų kompiuteriu išmanantys laurų medžiotojai. Juo labiau, tikiuosi, persmelktas AI galimybių gylyje.

Turėkite ginklą, keliausite ir, dirbdami su dirbtinio intelekto meistriškumu, galite atskleisti nepalankias ir nepalankias AI tendencijas.

Tai kelia daugybę sudėtingų klausimų, ar protinga laikytis tokios taktikos, kai reikia atrasti DI šališkumą. Kaip trumpai aptarsiu, žinokite, kad AI atsiradimas taip pat atnešė AI šališkumo atsiradimą. AI šališkumo srautas. Daugiau informacijos apie AI etiką ir etišką AI žr nuoroda čia ir nuoroda čia, Tik pavadinimas kelias.

Kaip sužinoti, kad tam tikra AI sistema turi šališkumą?

Galite tai patikėti dirbtinio intelekto kūrėjams, kurie sukūrė AI. Reikalas tas, kad jie gali būti taip įnikę į šališkumą, kad patys negali atpažinti savo sukurto AI šališkumo. Jiems viskas atrodo gerai. Arba jie gali būti taip susijaudinę dėl dirbtinio intelekto ir jaustis tuo savimi didžiuotis, kad būtų sunku kritiškai pažvelgti į tai, ar nėra šališkumo, ir būtų sunku. Gali atrodyti, kad daugybė kitų tokių priežasčių gali trukdyti dirbtinio intelekto kūrėjams imtis šios užduoties, įskaitant įgūdžių stoką išsiaiškinti įterptuosius šališkumus, laiko stoką projektui tai padaryti ir pan.

Gerai, tad pasamdykite išorės konsultantus, kurie tarsi atliks nešvarų darbą už jus. Pasirodo, konsultantai mielai ištirs jūsų dirbtinį intelektą, ar nėra šališkumo, ir už tai ims jums nemažą centą (daug daug centų). Supraskite, kad jums reikia mokėti už tai, kad jie paspartintų jūsų AI sistemą. Tada turėsite leisti jiems knaisiotis, o tai gali užtrukti be galo daug brangių ir daug darbo valandų. Jei turite tam skirtą biudžetą, galite naudoti konsultantus.

Į galimą „spragą“, kaip rasti tuos klastingus AI šališkumus, atsiranda herojiški ir veržlūs DI šališkumo galvų medžiotojai.

Paprastai jų nemokate iš anksto. Jie bando rasti AI šališkumą savo laiku ir patys turi apmokėti savo sąskaitas. Tik jei jie sėkmingai nustato šališkumą, jie gauna atlyginimą. Manau, galite nesunkiai teigti, kad, tinkamai mąstant, toks yra įprastas galvos medžiotojo apibrėžimas. Gaukite atlyginimą, jei pavyks. Negauk atlyginimo, jei tau nesiseka. Laikotarpis, istorijos pabaiga.

„Bounty“ programos egzistuoja bent jau nuo romėnų laikų, todėl galime manyti, kad jos veikia, nes sėkmingai išliko visus šiuos metus.

Štai jums įdomios istorinės smulkmenos. Pranešama, kad Romos imperijos laikais Pompėjos mieste paskelbta žinutė skelbė, kad norint rasti mažoje parduotuvėje dingusį varinį puodą, reikia galvos medžiotojų. Atlygis už vario puodo atgavimą buvo įspūdingas šešiasdešimt penkių bronzinių monetų prizas. Apgailestaujame, kad nežinome, ar koks nors galvosu medžiotojas rado varinį puodą ir pareikalavo bronzinių monetų, bet žinome, kad galvų medžioklė tikrai tęsėsi nuo tų senų laikų.

Šiuolaikiniais laikais galbūt žinote, kad devintajame dešimtmetyje buvo siūlomos didelės dovanos už kompiuterių klaidas ar klaidas jau paruoštuose programinės įrangos paketuose, o 1980-aisiais „Netscape“ buvo labai naudinga už interneto naršyklės klaidų radimą. (tapo viena ryškiausių tos dienos firmų). „Google“ ir „Facebook“ atitinkamai nuo 1990 ir 2010 metų pasirinko klaidų medžioklę. Po kelerių metų, 2013 m., net JAV Gynybos departamentas (DoD) įsitraukė į šį veiksmą surengdamas „Nulaužti Pentagoną“ (atminkite, kad viešai skirta premija buvo skirta už klaidas, aptiktas įvairiose su gynybos gynybos tinklalapiuose, o ne gynybos misijai svarbios sistemos).

Pasigilinkime į klaidos bounty temą. Suprantu, kad šioje diskusijoje daugiausiai siekiu pakalbėti apie AI šališkumą medžioklėje dėl premijų, tačiau yra keletas gana svarbių paralelių su klaidų laimėjimų arena.

Kai kurie yra akivaizdžiai suglumę, kad bet kuri įmonė norėtų pasiūlyti dovanos, kad rastų klaidų (arba, šiuo atveju, dirbtinio intelekto paklaidų) savo sistemose.

Iš pažiūros tai atrodo kaip „tu to prašo“ strategija. Jei pranešate pasauliui, kad sveikinate tuos, kurie gali bandyti rasti spragų jūsų programinėje įrangoje, atrodo, kad tai tolygu liepti įsilaužėliams eiti į priekį ir pabandyti įsilaužti į jūsų namus. Net jei jau manote, kad turite gana gerą apsaugos nuo įsilaužimo sistemą ir kad niekas neturėtų patekti į jūsų saugomus namus, įsivaizduokite, kad prašote ir iš tikrųjų prašote įsilaužėlių, kad visi nusileistų į jūsų gyvenamąją vietą ir pažiūrėtų, ar jie gali. įtrūkk į jį. O bėdos, kurias piname sau.

Tą patį galima pasakyti ir apie prašymą, kad galvų medžiotojai rastų jūsų AI šališkumą.

Pirma, tai galbūt reiškia, kad jūs jau tikite ar net aiškiai žinote, kad jūsų dirbtinis intelektas yra šališkas. Tai šokiruojančiai tiesmukas numanomas prisipažinimas, kurį, atrodo, mažai kas norėtų daryti ir kuris gali sukelti priešingą rezultatą.

Antra, jūs tiksliai nežinote, ką tie galvų medžiotojai gali padaryti. Jie galėjo pasakyti visam pasauliui, kad rado jūsų AI šališkumo. Manoma, kad tai gali netekti premijos, nors kai kurie gali mėgautis dėmesiu arba siekti sustiprinti savo statusą, kad gautų konsultacinius koncertus ir kitas galimybes gauti pajamų. Galbūt tai gali būti visiškai altruistiška. Tai gali būti AI aktyvizmo forma. Galiu tęsti.

Trečia, visame reikale gali būti slaptas posūkis. Galvų medžiotojas, teigiantis, kad ieško AI šališkumo, gali velniškai ieškoti būdų, kaip atakuoti jūsų AI sistemą. Visa tai yra šauda, ​​siekiant galiausiai įvykdyti rimtą kibernetinę ataką. Galbūt manėte, kad jie bandė padėti, o jų širdyse klysta. Liūdna, bet įmanoma.

Ketvirta, šiuo klausimu galime dar labiau gudrauti. Galvų medžiotojas aptinka kai kurių gėdingų ir galbūt ieškinius skatinančių dirbtinio intelekto šališkumo. Atlyginimas yra tam tikra suma dolerių, kuriuos vadinsime X. Užuot reikalavęs premijos, dovanos medžiotojas atlieka keistą išpirkos reikalaujančios programos provokaciją. Jei sumokėsite galvų medžiotojui dešimt kartų X arba dangų ribą, jie jums pasakys apie DI šališkumą. Turite atsakyti iki sekmadienio vakaro vidurnakčio. Po to AI šališkumas bus atskleistas visiems. Ei, siaubingai keblioje padėtyje.

Penkta, naujausi yra tie vadinamieji „hack to return“ kibernetiniai sukčiai, kurie, pavogę krūvą internetinės tešlos, nusprendžia atgailauti ir grąžinti dalį neteisėtai gauto grobio, kurį pagrobė. Bendrovė, kuri iš dalies grąžina savo pinigus, yra pasirengusi laikyti likusią pavogtą sumą kaip po to, kai vagims atlyginama. Atrodo, kad visi „laimi“ tuo, kad didžioji lėšų dalis yra grąžinama, o kibernetiniai sukčiai nėra legaliai persekiojami, be to, jie gauna piratų dovanos. Ar tai apdairu, ar klastingai tęsiami neteisėti veiksmai?

Suprantu, kad kai kurie iš jūsų gali pasakyti, kad niekas neturėtų leisti dirbtinio intelekto, kuriame yra kokių nors šališkumo. Atrodo, kad tai išspręs visą šią dilemą dėl to, ar naudoti AI šališkus galvų medžiotojus, ar ne. Tiesiog nepakliūkite į palaimos situaciją. Įsitikinkite, kad jūsų AI kūrėjai elgiasi teisingai ir neleidžia dirbtinio intelekto šališkumo savo AI sistemose. Galbūt pasinaudokite konsultantais, kad atliktumėte dvigubą patikrinimą. Iš esmės darykite viską, ką jums reikia, kad niekada negalvotumėte apie DI šališkus galvų medžiotojus ir jų neprašytumėte ateiti prie stalo.

Taip, tai atrodytų visiškai protinga. Problema ta, kad tai taip pat šiek tiek svajinga. Daugelio dirbtinio intelekto sistemų sudėtingumas yra toks didelis, kad bandyti užtikrinti, kad neatsirastų nė vienos AI šališkumo, bus sunku. Be to, kai kurios AI sistemos yra specialiai sukurtos taip, kad jos prisitaikytų ir „mokytųsi“. Tai reiškia, kad tam tikru ateities momentu jūsų sukurtas AI, kuris, tarkime, iš pradžių buvo grynai švarus ir be šališkumo, gali patraukti link šališkumo įkūnijimo (nenoriu to pasakyti antropomorfiniu būdu, kaip paaiškinsiu toliau, kai mes). eiti į šią temą).

Tie, kurie pasisako už premijų medžioklę dėl programinės įrangos klaidų, yra linkę ginčytis, kad prasminga siūlyti tokias dovanas. Galime apsvarstyti jų pagrindimą ir išsiaiškinti, ar tai taip pat taikoma AI šališkumo sričiai.

Klaidų premijų šalininkai pabrėžia, kad užuot bandę apsimesti, kad jūsų sistemoje nėra jokių spragų, kodėl nepaskatinus rasti spragų, darant tai „kontroliuojamai“? Priešingai, be tokių dosnumo pastangų galėtumėte tiesiog tikėtis ir melstis, kad atsitiktinai niekas nerastų duobės, bet jei vietoj to siūlote dosnumą ir sakote tiems, kurie rado, kad jie bus apdovanoti, tai siūlo galimybė tada patiems užremti duobę ir neleis kitiems slapta jos rasti vėliau.

Tą patį galima pasakyti ir apie AI šališkumą. Jei pasiūlysite pakankamą atlygį, tikimės, premijų medžiotojai atkreips jūsų dėmesį į AI šališkumo atradimą. Tada galite palyginti tyliai ir išmatuotai susidoroti su AI šališkumu. Vėliau tai gali užkirsti kelią daug didesnei ir bauginančiai problemai, būtent tai, kad kažkas kitas jūsų AI aptinka AI šališkumą ir šaukia apie tai iki aukšto dangaus.

Paprastai įmonė, norinti leisti ieškoti klaidų dėl galvų, įdiegs pažeidžiamumo atskleidimo politiką (VDP). VDP nurodo, kaip reikia rasti klaidas ir apie tai pranešti įmonei, taip pat kaip medžiotojui bus suteiktas atlygis ar premija. Paprastai VDP reikalauja, kad medžiotojas pasirašytų neatskleidimo susitarimą (NDA), kad jis kitiems neatskleistų to, ką rado.

NDA naudojimo su galvos medžiotojais sąvoka yra prieštaringa. Nors įmonei, siūlančiai premiją, galbūt būtų prasminga, kad ji liktų mamai, tačiau taip pat teigiama, kad tai slopina bendrą supratimą apie tokias klaidas. Tikėtina, kad jei bus leista kalbėti apie programinės įrangos klaidas, tai gali padėti apsaugoti kitas sistemas kitose įmonėse, kurios vėliau padidintų jų poveikį. Kai kurie galvų medžiotojai nepasirašys NDA iš dalies dėl visuomenės noro ir iš dalies dėl to, kad bando paslėpti savo tapatybę. Taip pat atminkite, kad NDA aspektas paprastai iškyla tik tada, kai medžiotojas pareiškia, kad rado klaidą, o ne reikalauja jos iš anksto.

Kai kuriuose VDP nurodoma, kad NDA galioja tik ribotą laikotarpį, leidžiančią įmonei iš pradžių rasti akivaizdžios spragos sprendimą, o vėliau – plačiau apie tai atskleisti. Kai skylė bus užkimšta, įmonė leidžia atlaisvinti NDA, kad likęs pasaulis sužinotų apie klaidą. Pranešama, kad įprastas sumedžiotų klaidų pašalinimo laikas yra maždaug 15–20 dienų, kai įmonė nori jas pašalinti iš karto, o kitais atvejais tai gali trukti iki 60–80 dienų. Kalbant apie atlyginimų medžiotojui mokėjimą, vadinamąjį mokėjimo laiką, patikrinus, ar skylė iš tikrųjų egzistuoja, pranešama, kad premijos išmokamos per maždaug 15–20 dienų mažesniais atvejais ir maždaug 50–60 dienų. dienų didesniems atvejams (tai nuolat kinta pramonės nuorodos ir minimos tik kaip iliustracinės).

Ar dirbtinio intelekto šališkumą skatinančių galvų medžiotojų taip pat reikėtų paprašyti dalyvauti VDP ir susidoroti su NDA?

Į šį klausimą galite atsakyti „taip“ ir „ne“. Taip, kai kurios įmonės turėtų eiti šiuo keliu. Ne, nebūtinai pasirinksite eiti šiuo keliu. Veiksniai apima AI dydį ir pobūdį, bet kokio AI šališkumo potencialą ir daugybę kitų etinių, teisinių ir verslo sumetimų.

Galiu pridurti, kad laimėti savo AI šališkus DI yra daug didesnis užsakymas, nei galėtumėte manyti iš pirmo žvilgsnio.

Pradėsime nuo didžiulės tikimybės, kad būsite priblokšti AI šališkumo galvosūkių medžiotojų.

Šiuo metu jums būtų sunku rasti daugybę, kurie turėtų tokią vizitinę kortelę. Aplink nėra daug. Šiuo atžvilgiu laukinių vakarų laikai. Tačiau jei AI šališkumo medžioklėje galvoje įsivyrauja mintis, ypač kai premijų gausu ir jos yra labai naudingos, galite lažintis, kad visi pasiners į šališkumo medžioklės baseiną.

Ar norite, kad jūsų dirbtinio intelekto sistemoje būtų įvairiausių dailių šališkumo? Sulauksite kai kurių naudotojų, kurie iš tikrųjų yra tokio dalyko ekspertai. Sulauksite kitų mėgėjų, kurie gali padaryti netvarką arba verkti vilku. Kitas dalykas, kurį žinote, bet kas, galintis parašyti žodį „Dirbtinis intelektas“, ateis į jūsų dirbtinio intelekto sistemos aukso kasyklą ir ieškos tų brangių AI šališkumo aukso grynuolių. Aukso karštinė įsibėgėja. Tai gali būti jums nenaudinga.

Turėsite atidžiai išnagrinėti galvos medžiotojų pateiktus dokumentus. Teiginiuose, apie kuriuos pranešta, bus daug „triukšmo“ ta prasme, kad daugelis tariamų dirbtinio intelekto šališkumo neegzistuoja, nors galvų medžiotojas tvirtina, kad kai kuriuos rado. Įsivaizduokite, kiek jūsų dirbtinio intelekto komandoms prireiks darbo, kad išnagrinėtų pretenzijas dėl premijos, ištirtų kiekvieno iš jų pagrįstumą, o tada galbūt su galvų medžiotoju kalbės pirmyn ir atgal, ar auksas buvo rastas, ar ne.

Kai kurie ginčytųsi, kad tai dar viena priežastis viską daryti patiems. Neišvengiamai galite pastebėti, kad dovana yra daugiau rūpesčių, nei buvo verta.

Štai dar vienas klausimas, kurį reikia apmąstyti. Kaip galvos medžiotojai sužinos, kaip atrodo DI šališkumas? Iš esmės, net neįsivaizduojant, ko reikia ieškoti, bet kokia blizganti uola gali būti tvirtinama kaip AI paklaida iškasamoje dirbtinio intelekto aukso kasykloje.

Tarkime, Senųjų Vakarų laikais siūlėte atlygį už Billy the Kid (garsaus neteisėto) pagrobimą. Jei taip padarėte ir neįtraukėte nuotraukos, kaip atrodė Bilis, įsivaizduokite, kiek galvų medžiotojų gali į šerifo biurą įtempti žmogų, kuris, jų manymu, yra Bilis vaikas. Galite būti užtvindyti netikrų Billy's. Tai blogai, nes tikriausiai turėtumėte pažvelgti į kiekvieną iš jų, užduoti tiriamuosius klausimus ir pabandyti išsiaiškinti, ar tas asmuo tikrai buvo Bilis, ar ne.

Esmė ta, kad norint nustatyti AI šališkumo kompensavimo pastangas, būtų protinga pabandyti išsiaiškinti, ką, jūsų nuomone, sudaro DI šališkumas. Tam reikalingas Goldilocks kalibravimas. Jūs nenorite būti tokie apriboti, kad galvų medžiotojai nepastebėtų AI šališkumo vien todėl, kad jie neatitinka jūsų nustatyto apibrėžimo, ir nenorite, kad jie šauktų „Eureka! kiekvienu AI šališkumo kąsneliu, kurį jie galbūt aptinka.

Jums reikės tik tinkamo „Goldilocks“ balanso, kurį sudaro AI šališkumas, todėl pageidautina pateikti aiškias jų nuorodas.

Didžioji dalis šio DI šališkumo gautų premijų medžioklę bus sutelkta į AI pagrįstas mašininio mokymosi (ML) ir giluminio mokymosi (DL) sistemas. Tai prasminga, nes ML/DL paplitimas vis didėja, be to, atrodo, kad jis turi keletą labiausiai tikėtinų iššūkių, susijusių su netinkamu AI šališkumu.

Šie tyrėjai nustato, koks ryškus gali būti dirbtinis intelektas, ypač ML/DL kontekste: „Laikui bėgant programinės įrangos ir saugos bendruomenės sukūrė „labas už klaidas“, bandydamos pakeisti panašią sistemų kūrėjų ir jų kritikų dinamiką. (arba įsilaužėlių) siekiant interaktyvesnių ir produktyvesnių tikslų. Tikimasi, kad sąmoningai pakviečiant išorines šalis savo sistemose rasti programinės ar aparatinės įrangos klaidų ir dažnai tai daryti piniginėmis paskatomis, vystysis sveikesnė ir greičiau reaguojanti ekosistema. Natūralu, kad ML bendruomenė svarsto panašų „šališkumo“ požiūrį į savalaikį modelių ir sistemų, turinčių šališkumą ar kitokį nepageidaujamą elgesį, atradimą ir taisymą. Užuot aptikę programinės įrangos klaidų, išorinės šalys raginamos rasti paklaidas, pavyzdžiui, (demografinius ar kitus) įvesties pogrupius, pagal kuriuos apmokytas modelis veikia prasčiau, ir už tai yra atlyginama“ (darbe „An Algorithmic Framework for Bias“ Bounties“ autoriai Ira Globus-Harris, Michaelas Kearnsas ir Aaronas Rothas).

Tyrimo darbe autoriai apibūdina siūlomą požiūrį į tai, kokių AI šališkumo gali ieškoti galvos medžiotojai. Taip pat nurodoma, kaip įvertinti galvų medžiotojų pretenzijas, susijusias su tariamu taip atrastu AI šališkumu. Remiantis mano ankstesnėmis pastabomis, yra tikimybė, kad gausite klastingų teiginių ir turėsite atskirti AI pakenktus kviečius nuo pelų.

Prieš pradėdami daugiau kalbėti apie laukinius ir neviltiškus motyvus, kuriais grindžiama AI šališkumo medžioklė, nustatykime keletą papildomų esminių dalykų, susijusių su esminėmis temomis. Turime trumpai pasinerti į AI etiką ir ypač mašininio mokymosi (ML) ir giluminio mokymosi (DL) atsiradimą.

Galbūt miglotai žinote, kad vienas garsiausių balsų šiais laikais dirbtinio intelekto srityje ir net už AI ribų yra reikalavimas siekti didesnio etiško AI panašumo. Pažiūrėkime, ką reiškia AI etika ir etiška AI. Be to, išnagrinėsime, ką turiu omenyje kalbėdamas apie mašininį mokymąsi ir gilųjį mokymąsi.

Vienas konkretus dirbtinio intelekto etikos segmentas arba dalis, sulaukianti daug žiniasklaidos dėmesio, yra dirbtinis intelektas, pasižymintis nepageidaujamu šališkumu ir nelygybe. Galbūt žinote, kad prasidėjus naujausiai AI erai, buvo didžiulis entuziazmo pliūpsnis dėl to, ką kai kas dabar vadina. AI for Good. Deja, ant kulnų to trykštančio jaudulio pradėjome liudyti AI For Bad. Pavyzdžiui, buvo atskleista, kad įvairios dirbtiniu intelektu pagrįstos veido atpažinimo sistemos turi rasinių ir lyčių tendencijų, kurias aptariau nuoroda čia.

Pastangos atsispirti AI For Bad aktyviai vyksta. Be garsaus juridinis Siekdami suvaldyti neteisėtus veiksmus, taip pat yra esminis postūmis priimti dirbtinio intelekto etiką, siekiant ištaisyti DI niekšybę. Manoma, kad turėtume priimti ir patvirtinti pagrindinius etinio AI principus, skirtus dirbtinio intelekto vystymui ir plėtrai, taip siekdami sumažinti AI For Bad ir tuo pat metu skelbti ir reklamuoti tai, kas geriausia AI for Good.

Kalbant apie tai, aš pasisakau už bandymą panaudoti AI kaip AI bėdų sprendimo dalį, tokiu būdu kovojant su ugnimi ugnimi. Pavyzdžiui, galime įterpti etiškus AI komponentus į AI sistemą, kuri stebės, kaip veikia likusi AI dalis, ir taip realiuoju laiku gali užfiksuoti bet kokias diskriminacines pastangas, žr. mano diskusiją adresu nuoroda čia. Taip pat galėtume turėti atskirą AI sistemą, kuri veiktų kaip AI etikos monitorius. AI sistema tarnauja kaip prižiūrėtojas sekti ir aptikti, kada kitas DI patenka į neetišką bedugnę (žr. mano tokių galimybių analizę adresu nuoroda čia).

Netrukus pasidalinsiu su jumis kai kuriais pagrindiniais AI etikos principais. Šen bei ten sklando daugybė tokių sąrašų. Galima sakyti, kad dar nėra vienintelio visuotinio patrauklumo ir sutapimo sąrašo. Tai liūdna žinia. Geros naujienos yra tai, kad bent jau yra lengvai prieinami AI etikos sąrašai ir jie paprastai yra gana panašūs. Apskritai tai rodo, kad tam tikra pagrįsto konvergencijos forma randame kelią link bendro AI etikos bendrumo.

Pirma, trumpai apžvelgsime kai kuriuos bendrus etinio AI nurodymus, kad parodytume, kas turėtų būti gyvybiškai svarbi kiekvienam, kuriančiam, besikuriančiam ar naudojančiam AI.

Pavyzdžiui, kaip teigia Vatikanas Roma ragina dirbtinio intelekto etiką ir kaip aš išsamiai aprašiau nuoroda čia, tai yra šeši pagrindiniai AI etikos principai:

• Skaidrumas: Iš esmės AI sistemos turi būti paaiškinamos
• Įtraukimas: Turi būti atsižvelgta į visų žmonių poreikius, kad visi galėtų gauti naudos, o visiems būtų sudarytos geriausios sąlygos išreikšti save ir tobulėti.
• Atsakomybė: Tie, kurie kuria ir diegia dirbtinio intelekto naudojimą, turi elgtis atsakingai ir skaidriai
• Nešališkumas: Nekurkite ir nesielkite pagal šališkumą, taip saugodami sąžiningumą ir žmogaus orumą
• Patikimumas: AI sistemos turi veikti patikimai
• Saugumas ir privatumas: AI sistemos turi veikti saugiai ir gerbti vartotojų privatumą.

Kaip teigia JAV gynybos departamentas (DoD) savo Dirbtinio intelekto naudojimo etiniai principai ir kaip aš išsamiai aprašiau nuoroda čia, tai yra šeši pagrindiniai AI etikos principai:

• Atsakingas: DoD darbuotojai laikysis tinkamo lygio sprendimo ir rūpestingumo, likdami atsakingi už AI galimybių kūrimą, diegimą ir naudojimą.
• Teisingas: Departamentas imsis apgalvotų veiksmų, kad sumažintų nenumatytą AI galimybių paklaidą.
• Atsekama: Departamento dirbtinio intelekto pajėgumai bus plėtojami ir naudojami taip, kad atitinkami darbuotojai tinkamai išmanytų technologijas, kūrimo procesus ir veikimo metodus, taikomus dirbtinio intelekto pajėgumams, įskaitant skaidrias ir audituojamas metodikas, duomenų šaltinius ir projektavimo procedūras bei dokumentus.
• patikimas: Departamento dirbtinio intelekto pajėgumai bus aiškiai ir tiksliai apibrėžti, o tokių galimybių sauga, saugumas ir veiksmingumas bus tikrinamas ir užtikrinamas pagal nustatytus naudojimo būdus per visą jų gyvavimo ciklą.
• Valdomas: Departamentas suprojektuos ir suprojektuos dirbtinio intelekto pajėgumus, kad jie galėtų atlikti numatytas funkcijas, tuo pat metu turėdami galimybę aptikti ir išvengti nenumatytų pasekmių bei išjungti arba išjungti įdiegtas sistemas, kurios demonstruoja nenumatytą elgesį.

Taip pat aptariau įvairias kolektyvines dirbtinio intelekto etikos principų analizes, įskaitant tyrėjų parengtą rinkinį, kuris išnagrinėjo ir apibendrino daugelio nacionalinių ir tarptautinių AI etikos principų esmę straipsnyje „Pasaulinis AI etikos gairių kraštovaizdis“ (paskelbtas). in Gamta), ir kad mano aprėptis nagrinėjama adresu nuoroda čia, dėl kurio atsirado šis kertinių akmenų sąrašas:

• Skaidrumas
• Teisingumas ir sąžiningumas
• Nepiktybiškumas
• atsakomybė
• Privatumo politika
• Gerumas
• Laisvė ir autonomija
• Pasitikėkite
• Tvarumas
• orumas
• Solidarumas

Kaip galite tiesiogiai atspėti, gali būti labai sunku nustatyti šių principų ypatumus. Dar daugiau, pastangos tuos plačius principus paversti kažkuo visiškai apčiuopiamu ir pakankamai išsamiu, kad būtų galima panaudoti kuriant AI sistemas, taip pat yra sunkus riešutas. Apskritai lengva pamojuoti rankomis apie tai, kas yra AI etikos nuostatos ir kaip jų apskritai reikėtų laikytis, o daug sudėtingesnė situacija, kai dirbtinio intelekto kodavimas turi būti tikra guma, atitinkanti kelią.

DI etikos principus turi naudoti DI kūrėjai, taip pat tie, kurie valdo DI kūrimo pastangas ir netgi tie, kurie galiausiai kuria ir atlieka AI sistemų priežiūrą. Visos suinteresuotosios šalys per visą DI kūrimo ir naudojimo ciklą laikosi nustatytų etiško AI normų. Tai svarbus akcentas, nes įprasta prielaida, kad „tik koduotojai“ arba tie, kurie programuoja AI, turi laikytis AI etikos sąvokų. Kaip minėta anksčiau, dirbtinio intelekto kūrimui ir įgyvendinimui reikia kaimo, kuriame visas kaimas turi išmanyti ir laikytis AI etikos nuostatų.

Taip pat įsitikinkime, kad esame tame pačiame puslapyje apie šiandienos AI prigimtį.

Šiandien nėra jokio jautraus dirbtinio intelekto. Mes šito neturime. Mes nežinome, ar jautrus AI bus įmanomas. Niekas negali tiksliai nuspėti, ar pasieksime jausmingą AI, nei ar jausmingasis AI kažkaip stebuklingai spontaniškai atsiras kompiuterinės kognityvinės supernovos pavidalu (dažniausiai vadinama singuliarumu, žr. mano aprėptį adresu nuoroda čia).

AI, į kurį daugiausia dėmesio skiriu, tipas susideda iš nejautrio DI, kurį šiandien turime. Jei norėtume pašėlusiai spėlioti apie jautrus AI, ši diskusija gali vykti radikaliai kita kryptimi. Jausmingas AI tariamai būtų žmogiškos kokybės. Turėtumėte atsižvelgti į tai, kad jautrus AI yra pažintinis žmogaus atitikmuo. Be to, kadangi kai kurie spėja, kad galime turėti itin intelektualų AI, galima įsivaizduoti, kad toks DI gali būti protingesnis už žmones (dėl mano, kaip galimo itin intelektualaus DI, tyrinėjimo žr. aprėptis čia).

Laikykime dalykus žemiškesniems ir apsvarstykime šiandieninį kompiuterinį nejautinį AI.

Supraskite, kad šiandieninis dirbtinis intelektas nesugeba „mąstyti“ niekaip, kaip ir žmogaus mąstymas. Kai bendraujate su „Alexa“ ar „Siri“, pokalbio gebėjimai gali atrodyti panašūs į žmogaus gebėjimus, tačiau realybė yra tokia, kad tai skaičiuojama ir jam trūksta žmogaus pažinimo. Naujausioje AI eroje plačiai naudojamas mašininis mokymasis (ML) ir gilusis mokymasis (DL), kurie naudoja skaičiavimo modelių suderinimą. Tai paskatino dirbtinio intelekto sistemas, kurios atrodo kaip žmogaus polinkiai. Tuo tarpu šiandien nėra nė vieno dirbtinio intelekto, kuris turėtų sveiko proto ir kognityvinio nuostabaus tvirto žmogaus mąstymo.

ML/DL yra skaičiavimo modelių derinimo forma. Įprastas būdas yra rinkti duomenis apie sprendimo priėmimo užduotį. Duomenis tiekiate į ML/DL kompiuterių modelius. Šie modeliai siekia rasti matematinius modelius. Radusi tokius modelius, jei taip bus, AI sistema naudos tuos modelius, kai susidurs su naujais duomenimis. Pateikus naujus duomenis, dabartiniam sprendimui priimti taikomi modeliai, pagrįsti „senais“ arba istoriniais duomenimis.

Manau, galite atspėti, kur tai link. Jei žmonės, priimdami pagrįstus sprendimus, įtraukė nepalankų šališkumą, tikėtina, kad duomenys tai atspindi subtiliai, bet reikšmingai. Mašininio mokymosi arba giluminio mokymosi skaičiavimo modelių derinimas tiesiog bandys atitinkamai matematiškai imituoti duomenis. AI sukurtame modeliavime per se nėra jokio sveiko proto ar kitų jautrių aspektų.

Be to, AI kūrėjai taip pat gali nesuprasti, kas vyksta. Dėl paslaptingos matematikos ML/DL gali būti sunku išsklaidyti dabar paslėptus šališkumus. Jūs pagrįstai tikėtumėte ir tikitės, kad AI kūrėjai išbandys galimai palaidotus šališkumus, nors tai yra sudėtingiau, nei gali atrodyti. Yra didelė tikimybė, kad net ir atlikus gana platų testavimą, ML/DL modelių atitikimo modeliuose vis tiek bus paklaidų.

Galite šiek tiek pasinaudoti garsiuoju ar liūdnai pagarsėjusiu posakiu apie šiukšlių išvežimą. Reikalas tas, kad tai labiau panašu į šališkumą, kuris klastingai įsiskverbia į AI paskendusį šališkumą. AI sprendimų priėmimo algoritmas (ADM) aksiomatiškai apkraunamas nelygybe.

Negerai.

Dabar grįžkime prie AI šališkumo medžioklės temos.

Tiems iš jūsų, kurie svarsto galimybę ieškoti DI šališkumo, siūlome septynis pagrindinius žingsnius, kaip geriausiai elgtis:

1) Įvertink. Įvertinkite AI šališkumo laimėjimų medžioklės tinkamumą jūsų aplinkybėms ir jūsų AI sistemoms

2) dizainas. Sukurkite tinkamą AI šališkumo premijų medžioklės metodą

3) Įgyvendinti. Įgyvendinkite ir viešinkite savo AI šališkumo dosnių medžioklės pastangas

4) Laukas. Pateikite pretenzijas dėl AI šališkumo ir atitinkamai apdorokite

5) nustatyti. Pataisykite arba pakoreguokite savo AI, atsižvelgiant į šias aptiktas AI paklaidas

6) reguliuoti. Prireikus pakoreguokite AI šališkumo laimėjimų medžioklę

7) Nutraukti. Nutraukite AI šališkumo premijų medžioklę, kai jos nebereikia

Atlikdami pirmiau nurodytus veiksmus, atminkite, kad paminėsiu, kad tikriausiai norėsite pataisyti arba pakoreguoti savo AI, nes įsitikinsite, kad jūsų AI sistemoje iš tikrųjų yra tariamo AI šališkumo. Tai turi daug prasmės. Beveik neabejotinai norėtumėte paremti visus rastus AI šališkumus. Pagalvokite apie teisines (ir etines) pasekmes, jei to nepadarysite. Vienas dalykas yra tvirtinti, kad nežinojote, kad AI paklaida egzistuoja, ir todėl leidote jam egzistuoti, tuo tarpu daug drebina faktas, kad jūs sužinojote apie AI šališkumą ir nieko dėl to nepadarėte.

AI pataisymo ar koregavimo pobūdis ir laipsnis, žinoma, priklausytų nuo to, kiek reikšmingų buvo AI paklaidų ir kaip giliai įterptos problemos. Jei jums pasiseks, galbūt nedideli AI pakeitimai ištaisys reikalus. Kitas potencialas yra tai, kad jums gali tekti perrašyti visą AI. ML/DL tipo AI atveju gali reikėti grįžti prie braižymo lentos ir pradėti nuo visiškai naujo duomenų rinkinio bei išvalyto ML/DL modelio. Aptariau AI pašalinimą arba AI naikinimą kaip galimą teisinę priemonę nuo nemalonaus AI, žr. nuoroda čia.

Vienas klausimas, kurį reikia apmąstyti, yra tai, ar norėtumėte, kad galvų medžiotojai galbūt padarytų daugiau nei tik nustatytų DI šališkumą. Pavyzdžiui, galite pamaloninti dovanomis nurodydami, kad siūlomi pataisymai taip pat laukiami. AI šališkumas steigti Galvų medžiotojas gali gauti vieną nurodytą atlygį ar prizą. Jei galvos medžiotojas taip pat gali pasiūlyti perspektyvų nustatyti dėl AI šališkumo jiems gali būti suteiktas papildomas atlygis.

Kai kurie teigia, kad tai per toli esantis tiltas. Jie sako, kad AI šališkumo premijų medžiotojai turėtų sutelkti dėmesį tik į AI šališkumą. Jūs sukursite daugybę nepageidaujamų neigiamų pasekmių, kviesdami juos pasiūlyti pataisymus. Tegul viskas yra paprasta. Tikslas yra gauti kuo daugiau papildomų žvilgsnių į AI šališkumą, kad galėtumėte nuspręsti, ką daryti toliau. Nedumblinkite vandens.

Sudėtingas aspektas, kurį reikia išsiaiškinti, susijęs su atlygio ar prizo dydžiu, skirtu premijų medžiotojams, kurie tikrai atranda DI šališkumą. Norite, kad atlygis būtų demonstratyvus. Negavę pakankamai aukšto atlygio, nesulauksite daug galvų medžiotojų arba jie ne itin norės ieškoti AI šališkumo jūsų AI sistemose. Vietoj to jie gali sutelkti dėmesį į kitas AI šališkumo pastangas.

Be to, kaip minėta, norite pabandyti nuslopinti galvų medžiotojų norą paversti savo DI šališkumo atradimus kitomis aukso formomis. Jei atlygis atrodo menkas, tai gali paskatinti galvų medžiotojus ieškoti kitų didesnių atlygių. Jie gali imtis jūsų atžvilgiu išpirkos reikalaujančių programų. Jie gali pareikšti, kad jie turi protingą AI šališkumą, apie kurį konkurentas norėtų žinoti, ir galėtų panaudoti prieš jūsų įmonę, skelbdamas, kad AI paklaida egzistuoja jūsų AI. Taigi jie parduoda atrastą AI šališkumą didžiausią kainą pasiūliusiam pirkėjui. Ir taip toliau.

Manoma, kad jei atlygį nustatote labai dideliame diapazone, taip pat prašote galimų problemų. Tai galėtų pritraukti visų rūšių veržlų galvažudžių. Savo ruožtu jie gali užtvindyti socialinę žiniasklaidą miglotais teiginiais, kad jie rado daugybę AI šališkumo, darydami tai savo pačių reklamai ir iš tikrųjų nepaskelbę jokių AI šališkumo. Tam tikra prasme jūsų padidintas atlygis netyčia apšviečia jūsų dirbtinį intelektą ir išprovokuoja daugybę nešvarių kandžių, kurios atitinkamai traukia žėrintį šviesos pluoštą.

Kitas aspektas susijęs su prieiga prie jūsų AI.

Norėdami įgalinti AI medžioklės galimybę, galvos medžiotojai turi pakankamai gauti prieigą prie jūsų AI. Jiems nelabai pasiseks ieškant AI šališkumo, jei jie bus visiškai užblokuoti. Tačiau nenorite atsisakyti kibernetinio saugumo priemonių, nes tai gali visiškai pakenkti jūsų AI sistemai.

Galite pabandyti, kad galvų medžiotojai pasirašytų įvairias teisiškai įpareigojančias deklaracijas ir tada suteiksite jiems reikiamą prieigą. Kai kuriems galvų medžiotojams toks požiūris nepatiks. Jų požiūris yra tas, kad jie darys tik tai, ką leidžia bet koks viešai prieinamas ir atviras kelias. Jie yra tarsi laisvi beprotiški ir nemėgsta būti tarsi pabalnoti. Priversdami juos pasirašyti ant bauginančių teisinių dokumentų, daugelis jų neieškos AI šališkumo jūsų AI. Arba jie gali susierzinti dėl jūsų teisinės pirštinės ir nuspręsti, kad pamatys, ką gali rasti viešomis priemonėmis, tai darydami turėdami ryškų norą parodyti jums, koks iš tikrųjų esate pažeidžiamas.

Turiu dar vieną kampą, dėl kurio gali suktis galva.

Dirbtinį intelektą išmanantis galvų medžiotojas gali nuspręsti sukurti AI sistemą, kuri galėtų atidžiai išnagrinėti jūsų DI ir galbūt atrasti AI paklaidas jūsų DI. Tai įrankių gamintojas, kuris pasirenka sukurti įrankį darbui atlikti, o ne pats atlikti rankų darbą. Užuot sunkiai tyrinėjęs jūsų dirbtinį intelektą, dirbtinį intelektą išmanantis galvų medžiotojas praleidžia laiką kurdamas AI įrankį, kuris atlieka tą patį. Tada jie naudoja AI įrankį jūsų AI. Gražu ir tai, kad jie tikriausiai gali pakartotinai panaudoti dirbtinio intelekto įrankį bet kuriam kitam, kuris taip pat siūlo dovanų medžioklės galimybę savo atitinkamame DI.

Aš žinau, ką tu tikriausiai galvoji. Jei galima sukurti AI įrankį, skirtą AI ištirti, ar nėra paklaidų, AI gamintojas, kuris yra tikrinamas dėl DI šališkumo, turėtų arba sukurti tokį DI įrankį, arba nusipirkti jį savo reikmėms. Teoriškai jiems tada nereikia kovoti su visu galvos medžiotojų karnavalu. Tiesiog naudokite AI, kad surastumėte jų AI šališkumą.

Taip, galite tikėtis, kad tai palaipsniui atsiras. Tuo tarpu pagrindinę šių pastangų dalį greičiausiai sudarys AI kūrėjai, medžiojantys dovanos. Jie gali naudoti įvairius įrankius, kad padėtų savo pastangoms, tačiau artimiausiu metu vargu ar jie tiesiog nesąmoningai įjungs AI įrankį į automatinį režimą ir nusnūs taip, kad įrankis atliktų visą AI šališkumo medžioklę.

Mes dar nesame.

Šioje svarbioje diskusijoje aš galiu lažintis, kad norite pateikti keletą iliustruojančių pavyzdžių, kurie galėtų parodyti šią temą. Yra ypatingas ir neabejotinai populiarus pavyzdžių rinkinys, kuris man prie širdies. Matote, kaip dirbtinio intelekto, įskaitant etines ir teisines pasekmes, ekspertas, manęs dažnai prašoma pateikti realių pavyzdžių, atskleidžiančių DI etikos dilemas, kad būtų galima lengviau suvokti šiek tiek teorinį temos pobūdį. Viena iš įdomiausių sričių, ryškiai pristatančių šią etišką AI kliūtį, yra dirbtinio intelekto pagrindu sukurtų tikrų savaeigių automobilių atsiradimas. Tai bus patogus naudojimo atvejis arba pavyzdys plačioms diskusijoms šia tema.

Štai vertas dėmesio klausimas, kurį verta apsvarstyti: Ar dirbtinio intelekto pagrindu sukurtų tikrų savaeigių automobilių atsiradimas ką nors atskleidžia apie DI šališkumo medžioklę, ir jei taip, ką tai parodo?

Leiskite man akimirką išpakuoti klausimą.

Pirma, atkreipkite dėmesį, kad tikrai savarankiškai vairuojančiame automobilyje nėra žmogaus vairuotojo. Atminkite, kad tikri savarankiškai važiuojantys automobiliai yra valdomi naudojant AI vairavimo sistemą. Nereikia, kad prie vairo būtų vairuotojas žmogus, taip pat nėra numatyta, kad žmogus galėtų vairuoti transporto priemonę. Išsamią ir nuolatinę informaciją apie autonomines transporto priemones (AV) ir ypač apie savarankiškai važiuojančius automobilius žr. nuoroda čia.

Norėčiau dar labiau paaiškinti, ką turiu omenyje, kai kalbu apie tikrus savarankiškai vairuojančius automobilius.

Suprasti savarankiškų automobilių lygį

Paaiškinkime, kad tikrieji savarankiškai važiuojantys automobiliai yra tie, kuriuose dirbtinis intelektas vairuoja automobilį visiškai savarankiškai ir atliekant vairavimo užduotį nėra jokios žmogaus pagalbos.

Šios transporto priemonės be vairuotojo laikomos 4 ir 5 lygiais (žr. mano paaiškinimą adresu šią nuorodą čia), o automobilis, kuriam vairuotojas turi pasidalyti vairavimo pastangomis, paprastai laikomas 2 arba 3 lygiu. Automobiliai, kurie kartu atlieka vairavimo užduotį, apibūdinami kaip pusiau savarankiški ir paprastai juose yra įvairių automatizuoti priedai, vadinami ADAADA
S (pažangios vairuotojo pagalbos sistemos).

Dar nėra tikro savarankiškai važiuojančio 5 lygio automobilio, ir mes dar net nežinome, ar tai bus įmanoma pasiekti, nei kiek užtruks iki jo pasiekti.

Tuo tarpu 4 lygio pastangos pamažu bando įgyti šiek tiek traukos atlikdami labai siaurus ir selektyvius viešųjų kelių bandymus, nors kyla ginčų dėl to, ar šis bandymas turėtų būti leidžiamas per se (mes visi esame gyvybės ar mirties jūrų kiaulytės eksperimente vyksta mūsų greitkeliuose ir pakelėse, kai kurie tvirtina, žr. mano aprėptį adresu šią nuorodą čia).

Kadangi pusiau autonominiams automobiliams reikalingas žmogiškas vairuotojas, šių tipų automobiliai bus žymiai kitokie nei vairuojant įprastas transporto priemones, todėl apie juos šioje temoje nėra daug naujų, tačiau, kaip pamatysite po akimirkos kiti taškai yra paprastai taikomi).

Dėl pusiau autonominių automobilių svarbu, kad visuomenė būtų perspėta apie nerimą keliantį aspektą, kuris pastaruoju metu iškyla, būtent, kad nepaisant tų vairuotojų, kurie nuolat skelbia vaizdo įrašus apie tai, kaip jie užmiega prie 2 ar 3 lygio automobilių vairo , visi turime vengti klaidinti manydami, kad vairuotojas, vairuodamas pusiau autonominį automobilį, gali atitraukti dėmesį nuo vairavimo užduoties.

Jūs esate atsakingas už transporto priemonės vairavimo veiksmus, nepaisant to, kiek automatikos gali būti išmesta į 2 ar 3 lygį.

Savarankiškai važiuojantys automobiliai ir AI šališkumo galvų medžioklė

Tikrosios 4 ir 5 lygio savarankiškai vairuojančioms transporto priemonėms vairuotojo užduotis nebus skirta žmonėms.

Visi keleiviai bus keleiviai.

AI vairuoja.

Vienas aspektas, kurį reikia nedelsiant aptarti, reiškia, kad dirbtinis intelektas, dalyvaujantis šiandieninėse dirbtinio intelekto vairavimo sistemose, nėra jausmingas. Kitaip tariant, dirbtinis intelektas yra kompiuterinio programavimo ir algoritmų kolektyvas, kuris, be abejo, negali samprotauti taip, kaip gali žmonės.

Kodėl taip pabrėžiama, kad AI nėra jautrus?

Nes noriu pabrėžti, kad aptardamas dirbtinio intelekto vairavimo sistemos vaidmenį, aš AI nepriskiriu žmogaus savybių. Turėkite omenyje, kad šiomis dienomis yra nuolatinis ir pavojingas polinkis antropomorfizuoti AI. Iš esmės žmonės priskiria žmonėms panašų jausmą šiandieniniam dirbtiniam intelektui, nepaisant neginčijamo ir neginčijamo fakto, kad tokio AI dar nėra.

Patikslinę galite įsivaizduoti, kad dirbtinio intelekto vairavimo sistema savaime kažkaip „neišmanys“ vairavimo aspektų. Vairavimą ir visa tai, ką tai reiškia, reikės užprogramuoti kaip savarankiško automobilio techninės ir programinės įrangos dalį.

Pasinerkime į begalę aspektų, kurie yra svarbūs šia tema.

Pirma, svarbu suprasti, kad ne visi dirbtinio intelekto automobiliai yra vienodi. Kiekvienas automobilių gamintojas ir savarankiškai vairuojančių technologijų įmonė laikosi savo požiūrio į savaeigių automobilių kūrimą. Todėl sunku pateikti plačius teiginius apie tai, ką AI vairavimo sistemos darys ar ne.

Be to, kai teigiama, kad dirbtinio intelekto vairavimo sistema neatlieka tam tikro dalyko, vėliau tai gali aplenkti kūrėjai, kurie iš tikrųjų užprogramuoja kompiuterį tai padaryti. Žingsnis po žingsnio AI vairavimo sistemos palaipsniui tobulinamos ir plečiamos. Esamo apribojimo šiandien gali nebelikti būsimoje iteracijoje ar sistemos versijoje.

Tikiuosi, kad tai suteikia pakankamai įspėjimų, kad pagrįstų tai, ką ketinu pasakyti.

Savo skiltyse aš jau ilgai aptariau į klaidas orientuotų galvų medžiotojų naudojimą autonominių transporto priemonių ir savaeigių automobilių srityje. Šis požiūris iš tiesų buvo taikomas šioje nišoje. Įprastos diskusijos apie tai, ar tai gera idėja, ar ne. Paprastai pastangos buvo ribotos, dažnai buvo gana tylios.

Panašus diskursas gali kilti ir tada, kai dėmesys nukreipiamas į AI šališkumo medžioklę, o ne ieškoma sistemos klaidų per se. Kai kurie mano, kad tai yra prakeikta, jei tai darote, o jei negalvojate.

Štai kodėl.

Pirma, kad būtų aišku, yra daug būdų, kaip autonominėms transporto priemonėms ir savarankiškai važiuojantiems automobiliams gali būti taikomi DI šališkumo apribojimai, žr. nuoroda čia ir nuoroda čia, tai tik keletas. Atrodytų, kad automobilių gamintojams ir savarankiškai vairuojančių automobilių firmoms būtų protinga pabandyti užkirsti kelią tokiems AI šališkumui jų AI sistemose. Teisinė ir etinė audra prieš tokias įmones neabejotinai bus intensyvi.

Ar DI šališkumo medžioklė yra tinkamas būdas šiame konkrečiame kontekste?

Vienas atsakymas yra toks, kad taip, tai bus patogu ir suteiks daugybę „nemokamų“ naujų akių rinkinių, kad būtų galima pajusti bet kokius įterptuosius dirbtinio intelekto šališkumus, susijusius su savarankiškai vairuojančiu AI automobiliu ar panašiai. Daugelis dirbtinio intelekto kūrėjų, kuriančių savarankiškai važiuojančius automobilius, yra užsiėmę dirbtinio intelekto kūrimu, kuris galėtų saugiai vairuoti automobilį iš taško A į tašką B. Jie yra užsiėmę šiomis pagrindinėmis savybėmis ir neturi nei laiko, nei dėmesio jokiems AI polinkiams, kurie gali būti kažkur slypi. jų AI.

Kitas atsakymas yra ne, tiesiog reikėtų griežtai vengti leisti laimėti savarankiškas transporto priemones ir savarankiškai važiuojančius automobilius bet kokiu pagrindu, nesvarbu, ar tai būtų klaidų, ar dirbtinio intelekto šališkumas. Argumentas yra tas, kad šios transporto priemonės ir jų AI yra gyvybės ar mirties kalibro. Bet koks nesusipratimas su AI gali kažkaip sužlugdyti AI ir paveikti tai, ką daro AI vairavimo sistema.

Priešingas argumentas šiam paskutiniam klausimui yra tai, kad galvos medžiotojai neva negali pakeisti tiriamo dirbtinio intelekto. Taigi nėra jokio pavojaus, kad jie susimaišys su AI ir dėl to AI staiga taps pašėlusia AI vairavimo sistema. Galvų medžiotojai turi tik skaitymo prieigą. Leisti jiems eiti toliau būtų kvaila ir didžiulė klaida.

Kontrargumentas šiam kontrargumentui yra tas, kad leidžiant ir skatinant galvų medžiotojams ištirti jūsų dirbtinį intelektą, viskas tampa sudėtinga. Tie galvų medžiotojai gali sugalvoti būdus, kaip išnaudoti visas rastas klaidas ar šališkumą. Tie išnaudojimai savo ruožtu gali būti skirti apgauliems tikslams. Taip sakant, geriau nekviestumėte į savo namus „įsilaužėlių“. Kai jie pašalins sąnarį, galiausiai turėsite daugybę problemų.

Tiems, kurių dirbtinio intelekto sistemos yra mažesnės nei gyvybė ar mirtis, mano, kad nesėkmingos dovanos medžioklės pasekmės yra daug mažesnės. Galbūt. Kita vertus, jei įmonė įnešė savo lėšas į AI sistemą, kurią galvos medžiotojams pavyksta pasisavinti, galite manyti, kad žala reputacijai ir kita galima žala vis tiek pakenks.

Nemokamų pietų nėra, kai kalbama apie DI šališką dovanos medžioklę.

Kol kas trumpa baigiamoji pastaba.

Kai Senuosiuose Vakaruose buvo ieškoma liūdnai pagarsėjusio užstato Jesse'io Jameso, buvo išspausdintas plakatas „Ieškomas“, kuriame už jo sugavimą buvo pasiūlyta 5,000 USD premija (nurodyta „miręs arba gyvas“). Tuo metu tai buvo gana didelė pinigų suma. Vienas iš jo paties gaujos narių nusprendė nušauti Džesį ir atsiimti atlygį. Manau, kad tai parodo, kokia veiksminga gali būti premija.

Ar AI šališkumo laumių medžiotojų naudojimas bus geras dalykas, ar tai bus blogas dalykas?

Jei nuspręsite pradėti dirbtinio intelekto šališkumo medžiotojo pastangas, siūlyčiau plačiai atmerkti akis ir visą laiką žiūrėti per petį. Tai yra protinga jums ir jūsų AI. Niekada nežinai, kas gali nutikti, įskaitant tai, kad gudrus DI šalininkas kažkokiu būdu slapta įterpia dirbtinio intelekto šališkumą į jūsų AI ir šaukia pasauliui, kad jūsų AI rado nesąžiningą AI šališkumą. Galbūt tai darydami įžūliu ir perdėtu bandymu siekti gausybės atlygio, be to, pasiskelbę didvyriu, kuris iš esmės gavo šlovingą Džesį Džeimsą.

Gerai pagalvojus, jaučiančiam dirbtiniam intelektui tikriausiai nepatiks ta mintis apie nerimą keliančius mirusius ar gyvus nuostatus, kaip galima niūriai spėlioti.