Priežastys reguliuoti AI algoritmus yra paprastesnės, nei manote

Ar nerimaujate, kad dirbtinis intelektas užvaldys pasaulį? Daugelis taip daro. Nuo Elono Musko, kuris nerimauja „DeepMind“ įveikia žmones pažangiame „Go“ žaidime 2017 m. Kongreso nariams, Europos politikos formuotojams (žr Europietiškas požiūris į dirbtinį intelektą), ir akademikai, toks jausmas, kad šį dešimtmetį reikia rimtai žiūrėti į DI, ir jis įsigali. Tačiau ne dėl priežasčių, kurias manote, ir ne dėl kokios nors esamos grėsmės.

Čia atsiranda algoritmai. Galite paklausti, kas yra algoritmas? Paprasčiausias būdas tai įsivaizduoti kaip instrukcijų rinkinį, kurį mašinos gali suprasti ir iš kurių mokytis. Jau galime nurodyti mašinai skaičiuoti, apdoroti duomenis ir sistemingai, automatizuotai samprotauti. Tačiau problema ta, kad davus nurodytas instrukcijas, mašina jų laikysis. Kol kas esmė tokia. Priešingai nei žmonės, mašinos vadovaujasi instrukcijomis. Jie taip gerai nesimoko. Tačiau kai jie tai padarys, jie gali sukelti problemų.

Nenoriu reikšti sensacingų argumentų apie idėją, kad kompiuteriai vieną dieną pranoks žmogaus intelektą, geriau žinomą kaip singuliarumo argumentas (žr. NYU filosofo Davido Chalmerso). svarsto šia tema.) Gamyba gali būti geriausias pavyzdys, kodėl dirbtinio intelekto algoritmai tampa svarbesni plačiajai visuomenei. Baiminamasi, kad mašinos mūsų sąskaita labai paspartins savo meistriškumą. Nebūtinai dėl kažkokių pažangių samprotavimų, o dėl optimizavimo algoritmo ribose.

Gamyba yra dalykų kūrimas. Tačiau kai mašinos gamina dalykus, turime atkreipti dėmesį. Net jei mašinos pagamintos paprastai. Paaiškinsiu kodėl.

Nuo lietaus batų iki mobiliųjų telefonų ir atgal

Tarkime, gamykla gamina batus nuo lietaus. Mėgstu lietaus batus, nes užaugau Norvegijos vietovėje, kur daug lyja; Mėgstu būti lauke, paklusnus daugeliui gamtos elementų. „Nokia“ pagamino batus nuo lietaus, su kuriais aš augau. Taip, „Nokia“, kurią šiandien žinome kaip elektronikos įmonę, gamino guminius batus. Kodėl šis raktas? Nes kai ką nors padarai, tau lemta norėti tobulėti. Suprantama. Galima sakyti, tokia žmogaus prigimtis.

Tai, kas atsitiko su „Nokia“, yra gerai žinoma ir maždaug taip: iš pradžių buvo popieriaus fabrikas, kai buvau vaikas, guminių batų (ir padangų) gamyba bendrovei buvo ypač sėkminga. Tačiau jie pamatė daugiau galimybių. Taigi tam tikru 1980-ojo dešimtmečio momentu jie perėjo prie elektronikos ir greitai pakeitė gamyklas aplinkui, sukurdami didelę vietinių tiekėjų struktūrą, kai pradėjo gaminti mobiliuosius telefonus. Taip prasidėjo mobiliojo ryšio revoliucija, prasidėjusi Skandinavijoje ir išplitusi visame pasaulyje. Suprantama, daugelis parašė „Nokia“ istoriją 1990-aisiais (žr Suomijos stebuklo paslaptys: „Nokia“ iškilimas).

Mano pavyzdys aiškus. Galbūt, per daug paprasta. Bet pagalvok apie tai taip. Jei didelė įmonė gali greitai pereiti nuo popieriaus gamybos prie rašymo, prie batų, kurie palengvina buvimą lauke per lietų, tada galiausiai prie mobiliųjų telefonų, kurie keičia žmonių bendravimo būdą: kaip lengvas bus kitas žingsnis? Tarkime, įmonė, gaminanti mobiliuosius telefonus, nusprendžia sukurti nanobotus, o galbūt po dešimtmečio jie pradės veikti, pakeisdami žmoniją mažytėmis mašinomis, autonomiškai visur važinėjančiomis, galinčiomis iš naujo surinkti ir pakeisti žmogaus patirtį. O kas, jei tai atsitiks neatsižvelgdami į tai, kaip mes norime, kad tai įvyktų, kas nori būti atsakingas ir galutiniai tikslai?

Teigti, kad robotai sąmoningai padėjo „Nokia“ nuspręsti gaminti mobiliuosius telefonus, būtų sunku. Tačiau pripažinimas, kad technologijos turėjo įtakos Suomijos kaimo vietovėms šiaurinėje jos pakrantėje manyti, kad gali įgyti dominavimą pasaulyje naujoje pramonės šakoje, vaidina svarbų vaidmenį.

„Nokia“ istorija pastarąjį dešimtmetį nebuvo tokia rožinė, nes jie neatsižvelgė į programinės įrangos pagrindu sukurtų „iOS“ ir „Android“ operacinių sistemų atsiradimą. Todėl dabar „Nokia“ telefonų nebegamina. Šiek tiek sugrįžimo istorijoje jie dabar kuria tinklų ir telekomunikacijų infrastruktūrą, tinklo saugos sprendimus, Wi-Fi maršrutizatorius, išmanųjį apšvietimą ir išmaniuosius televizorius (žr. „Nokia“ sugrįžimo istorija). „Nokia“ vis dar kuria dalykus, tai tiesa. Vienintelis pastebėjimas yra tas, kad „Nokia“ visada mėgsta maišyti savo gaminius. Netgi žmonių gamybos sprendimai kartais būna sunkiai suprantami.

Gamyba reiškia, kad daiktai ir daiktai vystosi. Apskritai tai, ką gaminame šiandien, pasikeitė, palyginti su vos prieš dešimtmetį. 3D spausdintuvai decentralizavo daugelio pažangių produktų gamybą tiek pramonėje, tiek namuose. Gyvenimą keičiančių 3D spausdinimo pasekmių dar nepasitaikė. Nežinome, ar tai tęsis, bet žinome, kad FDA daugiausia dėmesio skiria produktų gamybos reguliavimui (žr. čia), pavyzdžiui, dėl to atsirandančios spausdintos tabletės ar medicinos prietaisai, akivaizdžios intelektinės nuosavybės ir atsakomybės problemos arba problemos, susijusios su galimybe spausdinti šaunamuosius ginklus. Galiausiai politinės diskusijos apie tai, kokių neigiamų pasekmių gali turėti 3D spausdinimas, neegzistuoja, ir tik nedaugelis iš mūsų susimąstė apie tai.

Nesakau, kad 3D spausdinimas pats savaime yra pavojingas. Galbūt tai yra blogas pavyzdys. Nepaisant to, dalykai, kurie iš pradžių atrodo kasdieniški, gali pakeisti pasaulį. Yra daugybė pavyzdžių: medžiotojo/rinkėjo strėlės antgalis, pagamintas iš metalo, kuris pradeda karus, ritualinės kaukės, apsaugančios mus nuo COVID-19, vinys, kuriuo statomi dangoraižiai, kilnojamojo tipo spaustuvės, kurios (vis dar) užpildo mūsų gamyklas spausdintu popieriumi ir maitina Leidybos verslas, lemputės, kurios leidžia naktį matyti ir dirbti viduje, galėčiau tęsti. Niekas, apie kurį aš pažįstu, nesėdėjo XX a. pabaigoje ir prognozavo, kad „Nokia“ perkels savo gamybą nuo popieriaus prie gumos prie elektronikos, o vėliau – nuo ​​mobiliųjų telefonų. Galbūt jie turėjo.

Žmonės yra prasti žingsnių pokyčių prognozuotojai, procesas, kai vienas pokytis sukelia daugiau pokyčių, ir staiga viskas kardinaliai skiriasi. Mes dar nesuprantame šio proceso, nes turime mažai praktinių žinių apie eksponentinius pokyčius; mes negalime to įsivaizduoti, apskaičiuoti ar suprasti. Tačiau vėl ir vėl tai mus užklumpa. Pandemijos, gyventojų skaičiaus augimas, technologinės naujovės nuo knygų spausdinimo iki robotikos – tai paprastai mus užklumpa be įspėjimo.

Futurizmo gudrybė yra ne jei, o kada. Galima iš tikrųjų numatyti pokyčius tiesiog pasirinkus naujus gamybos metodus ir pareiškus, kad ateityje jie taps labiau paplitę. Tai pakankamai paprasta. Sudėtinga dalis yra tiksliai išsiaiškinti, kada ir ypač kaip.

Popieriaus segtukai nėra problema

Dar kartą apsvarstykite mano gamyklos pavyzdį, bet šį kartą įsivaizduokite, kad mašinos yra atsakingos už daugybę sprendimų, ne visus sprendimus, bet tokius gamybos sprendimus kaip optimizavimas. Savo knygoje Super intelektas, Oksfordo universiteto distopinis humanistas Nickas Bostromas puikiai įsivaizdavo dirbtinio intelekto optimizavimo algoritmą, valdantį sąvaržėlių gamyklą. Kažkuriuo momentu, sako jis, įsivaizduokite, kad mašina lemia, kad mokymasis nukreipti vis didesnius resursus užduočiai yra racionalus, pamažu paverčiant mūsų pasaulį sąvaržėlėmis ir atsispiriant mūsų bandymams jį išjungti.

Nepaisant to, kad Bostromas yra protingas vaikinas, jo pavyzdys yra gana kvailas ir klaidinantis (vis dėlto įsimintinas). Pirma, jis neatsižvelgia į tai, kad žmonės ir robotai nebėra atskiri subjektai. Mes bendraujame. Dauguma protingų robotų virsta kobotais arba bendradarbiaujančiais robotais. Žmonės turės daug galimybių pataisyti mašiną. Nepaisant to, jo pagrindinė mintis išlieka. Tam tikru momentu gali įvykti žingsninis pokytis, o jei tai įvyks pakankamai greitai ir be pakankamos priežiūros, kontrolė gali būti prarasta. Tačiau toks kraštutinis rezultatas atrodo šiek tiek toli gražus. Bet kuriuo atveju, sutinku, turime reguliuoti žmones, kurie naudoja šias mašinas, ir įpareigoti, kad darbuotojai visada būtų informuojami tinkamai juos apmokydami. Tokio tipo treniruotės nesiseka. Šiuo metu tai užtrunka per ilgai ir reikia specialių įgūdžių tiek treniruoti, tiek treniruotis. Aš žinau vieną dalyką. Ateityje robotus valdys visokie žmonės. Tie, kurie to nepadarys, bus gana bejėgiai.

Žmonių papildymas yra geriau nei beprotiška automatizacija, nepaisant to, ar niekada visiškai nesusiliesime su mašinomis. Šios dvi sąvokos logiškai skiriasi. Tiek žmonės, tiek robotai gali įstrigti automatizuodami dėl automatizavimo. Tai padarytų didelę žalą gamybai ateityje. Net jei jis negamina robotų žudikų. Manau, kad susijungimui reikia šimtų metų, bet tai ne esmė. Net jei liko tik trisdešimt metų, savaeigės mašinos, veikiančios pagal supaprastintus algoritmus, praranda kontrolę, toks scenarijus jau vyksta parduotuvės aukšte. Kai kurios iš šių mašinų yra trisdešimties metų senumo ir veikia su senomis, patentuotomis valdymo sistemomis. Pagrindinis jų iššūkis yra ne tai, kad jie yra pažengę, o priešingai. Jie per daug supaprastinti, kad galėtų bendrauti. Tai nėra rytojaus problema. Tai jau egzistuojanti problema. Turime į tai atmerkti akis. Pagalvokite apie tai kitą kartą, kai įeisite į guminius batus.

Vis dar turiu devintojo dešimtmečio „Nokia“ batus. Juose yra skylė, bet aš juos laikau, kad primintų sau, iš kur esu ir kiek toli nuėjau. Lietus taip pat nuolat lyja, ir tol, kol jis pakankamai švarus, nenoriu geresnio pataisymo už tuos batus. Vėlgi, aš esu žmogus. Tikėtina, kad robotas jau būtų pajudėjęs. Įdomu, kokia yra AI versija rainboots. Tai ne mobilusis telefonas. Tai ne lietaus jutiklis. Tai glumina protą.

Skaitmeniniai batai šiandien reiškia, kad galite juos individualizuoti, nes ant jų yra 3D atspausdintas dizainas. Yra virtualių batų, kurie egzistuoja tik kaip NFT (nepakeičiami žetonai), kuriuos galima parduoti ir jais prekiauti. Šiomis dienomis geriausi virtualūs sportbačiai kainuoja 10,000 XNUMX USD (žr Kas yra NFT sportbačiai ir kodėl jis vertas 10,000 XNUMX USD?). Aš jų nebijau, bet ar turėčiau būti? Jei virtualus pasaulis bus vertinamas labiau nei fizinis, galbūt aš tai padarysiu. Ar turėčiau palaukti, kol nerimauju, kol paties AI avataras nusipirks savo NFT įkrovą, kad galėtų įveikti „lietų“? Jei sukursime algoritmus pagal savo įvaizdį, labiau tikėtina, kad dirbtinis intelektas būtų geras dalykuose, kurių mes norėtume būti geri, bet dažniausiai ne, pavyzdžiui, pirkti akcijas, kurti ištikimas draugystes (galbūt ir su mašinomis, ir su žmonėmis) ir prisiminti. dalykų. Pramoninė metaversa gali būti stebėtinai sudėtinga – pilna skaitmeninių dvynių, kurie imituoja mūsų pasaulį ir pranoksta jį vaisingais būdais – arba ji gali būti šokiruojamai paprasta. Galbūt abu. Tik dar nežinome.

Turime reguliuoti AI algoritmus, nes nežinome, kas yra už kampo. Tai yra pakankamai priežastis, bet apie tai, kaip mes tai darome, tai yra ilgesnė istorija. Leiskite man dar vieną greitą pastebėjimą, galbūt visi pagrindiniai algoritmai turėtų būti viešai prieinami. Priežastis ta, kad jei ne, nėra būdo žinoti, prie ko jie gali privesti. Populiariausi yra gana gerai žinomi (žr 10 geriausių mašininio mokymosi algoritmų), tačiau nėra pasaulinės apžvalgos, kur ir kaip jie bus pripratę. Ypač atidžiai reikia stebėti neprižiūrimus algoritmus (žr Šeši galingi mašininio mokymosi gamyboje naudojimo atvejai), nesvarbu, ar jie naudojami numatant techninę priežiūrą ar kokybę, imituojant gamybos aplinką (pvz., skaitmeninius dvynius), ar kuriant naujus dizainus, apie kuriuos žmogus niekada nepagalvotų. Šiuolaikiniame kraštovaizdyje šie neprižiūrimi algoritmai paprastai yra vadinamieji dirbtiniai neuroniniai tinklai, bandantys imituoti žmogaus smegenis.

Pradėjau nerimauti dėl neuroninių tinklų tik todėl, kad man sunku suprasti jų logiką. Problema ta, kad dauguma ekspertų, net ir juos diegiančių, nesupranta, kaip šie algoritmai pereina nuo žingsnio prie žingsnio ar sluoksnio prie sluoksnio. Nemanau, kad dažnai vartojama „paslėptų sluoksnių“ metafora yra labai tinkama ar labai juokinga. Pradedantiesiems neturėtų būti jokių paslėptų sluoksnių gamyboje, automatizuotame mokesčių surinkime, priimant sprendimus dėl įdarbinimo ar stojant į kolegijas. Galbūt jūs taip pat turėtumėte pagalvoti apie nerimą? Viena aišku, kad žmonės ir mašinos, gaminančios daiktus kartu, pakeis pasaulį. Taip jau yra, daug kartų. Nuo popieriaus iki lietaus batų ir šiandieninių dirbtinių smegenų sluoksnių nieko nereikėtų palikti neištirto. Neturėtume slėptis nuo paprasto fakto, kad iš daugybės mažų pokyčių staiga gali atsirasti didesnis pokytis.