Gilintis į generatyvaus AI ChatGPT triukšmą ir fanfaras, įskaitant gresiančią AI etiką ir AI įstatymus

Spėju, kad iki šiol girdėjote ar galbūt matėte audringas naujienų antraštes ar socialinių tinklų įrašus, kuriuose reklamuojamas karščiausias ir naujausias AI panaudojimas, kuris generuoja iš pažiūros žmogaus parašytus į tekstą orientuotus pasakojimus per AI programą, žinomą kaip ChatGPT.

Jei dar negirdėjote ar neskaitėte apie šią naują AI programą, nesijaudinkite, aš jus informuosiu.

Tiems iš jūsų, kurie jau žino apie ChatGPT, gali sudominti kai kurie mano čia pateikiami viešai neatskleista informacija apie tai, ką jis veikia, kaip jis veikia ir ko reikia saugotis. Apskritai, beveik visi, kuriems rūpi ateitis, neišvengiamai norės išsiaiškinti, kodėl visi nerimauja dėl šios AI programos.

Patikslinus, siaučiančios prognozės teigia, kad tokio tipo dirbtinis intelektas pakeis gyvenimus, įskaitant gyvenimus tų, kurie dar nieko nežino apie ChatGPT ar kitas panašias AI galimybes. Kaip trumpai paaiškinsiu, šios AI programos turės gana platų poveikį tokiais būdais, kuriuos tik pradedame numatyti.

Pasiruoškite pasivažinėjimui amerikietiškais kalneliais Generatyvinis AI.

Pradėsiu nuo pagrindinių žinių apie generatyvųjį AI ir naudosiu paprasčiausią scenarijų, apimantį AI, kuriantį meną. Peržiūrėję šį pagrindą, pereisime prie generatyvaus AI, generuojančio į tekstą orientuotus pasakojimus.

Daugiau informacijos apie AI, įskaitant AI etiką ir AI įstatymą, rasite žr nuoroda čia ir nuoroda čia, Tik pavadinimas kelias.

Generatyvusis dirbtinis intelektas, sukuriantis sukurtą meną

Aš vadinu šį AI tipą ar stilių generatorius Tai yra AI entuziastų terminologija, naudojama apibūdinti AI, kuri generuoja tokius išvestis kaip tekstas, vaizdai, vaizdo įrašai ir pan.

Galbūt anksčiau šiais metais pastebėjote, kad buvo labai daug galimybių generuoti meniškus vaizdus įvedant teksto eilutę ar dvi. Idėja gana paprasta. Naudojate AI programą, kuri leidžia įvesti pasirinktą tekstą. Pavyzdžiui, galite įvesti, kad norite pamatyti, kaip atrodytų varlė su kepure ant kamino. Tada AI programa analizuoja jūsų žodžius ir bando sugeneruoti vaizdą, kuris paprastai atitinka jūsų nurodytus žodžius. Žmonėms labai patiko kurti įvairius vaizdus. Socialinė žiniasklaida kurį laiką jais užsikimšo.

Kaip generatyvinis AI veikia generavimo aspektus?

Generatyvaus dirbtinio intelekto stiliaus teksto į meną atveju daugybė internetinio meno buvo iš anksto nuskaityta naudojant kompiuterinius algoritmus, o nuskaityto meno elementai buvo skaičiuojant išanalizuoti dėl susijusių komponentų. Įsivaizduokite internetinį paveikslėlį, kuriame yra varlė. Įsivaizduokite kitą atskirą vaizdą, kuriame yra kaminas. Dar kitoje nuotraukoje yra kepurė. Šie komponentai identifikuojami skaičiavimo būdu, kartais atliekami be žmogaus pagalbos, o kartais vadovaujant žmogui, tada suformuluojamas tam tikras matematinis tinklas.

Kai atvykstate vėliau ir paprašote sukurti meno kūrinį su varlyte su skrybėle ant kamino, dirbtinio intelekto programa naudoja matematinį tinklą, kad surastų ir sujungtų tuos elementus. Gautas meno vaizdas gali pasirodyti toks, kokio tikėjotės, arba ne. Galbūt varlė yra negražiai atrodanti. Skrybėlė gali būti didelė, bet jūs norėjote plonesnės derbio stiliaus skrybėlės. Tuo tarpu varlės atvaizdas stovi ant kamino, nors jūs norėjote, kad varlė sėdėtų vietoje.

Puikus tokių AI programų dalykas yra tai, kad jos paprastai leidžia pakartoti užklausą ir, jei norite, pridėti papildomų specifikacijų. Taigi galite pakartoti savo prašymą ir nurodyti, kad norite gražios varlės su derbio kepure, sėdinčios ant kamino. Voila, naujai sukurtas vaizdas gali būti arčiau to, ko norėjote.

Kai kurie susimąstė, ar dirbtinis intelektas tiesiog atgaivina tai, ko jis buvo išmokytas. Atsakymas yra ne (dažniausiai). Varlės atvaizdas, kurį AI demonstruoja pagal jūsų užklausą, nebūtinai yra tiksli panašaus vaizdo, kuris buvo treniruočių rinkinyje, kopija. Dauguma šių generuojamųjų AI programų yra sukurtos taip, kad apibendrintų bet kokius vaizdus, ​​​​kurie iš pradžių buvo rasti. Pagalvokite apie tai taip. Tarkime, kad surinkote tūkstantį varlių vaizdų. Galite palaipsniui išsiaiškinti, kaip atrodo varlė, sumaišę tūkstantį rastų vaizdų. Iš esmės varlė, kurią nupiešite, nebūtinai yra tokia, kaip varlė, kurią naudojote treniruodamiesi.

Atsižvelgiant į tai, yra tikimybė, kad AI algoritmas gali ne tiek apibendrinti, kiek būtų galima manyti. Jei yra unikalių mokymo vaizdų ir nėra kitų panašių, gali būti, kad AI „apibendrina“ gana artimą vieninteliam konkrečiam atvejui, kurį gavo. Tokiu atveju algoritmo bandymas vėliau sukurti pageidaujamą tokio pobūdžio vaizdą gali atrodyti labai panašus į tai, kas buvo mokymo rinkinyje.

Trumpam pristabdysiu ir pateiksiu keletą minčių, susijusių su AI etika ir AI įstatymu.

Kaip minėta, jei generatyvinis AI yra mokomas internete, tai reiškia, kad viskas, kas buvo viešai paskelbta internete, gali būti panaudota AI algoritmo. Tarkime, kad turite puikų meno kūrinį, prie kurio dirbote, ir tikite, kad jums priklauso teisės į meno kūrinį. Jūs paskelbiate jo nuotrauką internete. Kiekvienas, norintis naudoti jūsų meno kūrinius, turėtų ateiti pas jus ir sumokėti mokestį už naudojimą.

Galbūt jau jaučiate, kur tai eina.

Laikykitės blogų naujienų.

Taigi generatyvi AI programa, kuri mokoma plačiai nagrinėjant turinį internete, aptinka jūsų nuostabų meno kūrinį. Jūsų meno kūrinio vaizdas patenka į AI programą. Jūsų meniškumo charakteristikos dabar matematiškai derinamos su kitais nuskaitytais meno kūriniais. Kai bus paprašyta sukurti meno kūrinį, AI gali panaudoti jūsų kūrinį kurdamas naujai sukurtą meno vaizdą. Tie žmonės, kurie kaupia meną, gali nesuprasti, kad tam tikra prasme menas turi jūsų pirštų atspaudus, nes AI algoritmas šiek tiek įspaudė jūsų šedevrą.

Taip pat yra tikimybė, kad jei jūsų meno kūrinys buvo nepaprastai unikalus, dirbtinio intelekto programa gali jį pakartotinai panaudoti, kad būtų parodytas meniškumas. Todėl kartais jūsų meno kūrinys gali būti vos atpažįstamas kai kuriuose naujai sukurtuose AI meno kūriniuose, o kitais atvejais gali būti, kad sukurtas meno kūrinys yra beveik išspjautas vaizdas to, ką numatėte.

Pats laikas įtraukti dirbtinio intelekto etiką į šį scenarijų.

Ar etiškai tinkama ar tinkama, kad generatyvusis AI sukūrė meno kūrinius, panašius į jūsų meną?

Vieni sako taip, o kiti – ne.

„Taip“ stovykla, manydama, kad etiškai tai yra visiškai gerai, galbūt ginčytųsi, kad nuo tada, kai paskelbėte savo meno kūrinį internete, jį gali kopijuoti visi, kas nori. Be to, jie gali teigti, kad naujasis menas nėra tiksli jūsų darbo kopija. Taigi jūs negalite skųstis. Jei kažkaip sustabdytume esamo meno pakartotinį naudojimą, niekada neturėtume jokio naujo meno, į kurį galėtume pažvelgti. Be to, tikriausiai galėtume įsivelti į karštas diskusijas apie tai, ar jūsų konkretus meno kūrinys buvo kopijuojamas ar naudojamas, ar ne – tai gali būti koks nors kitas meno kūrinys, kurio egzistavimo jūs net nežinojote ir kurie iš tikrųjų buvo pagrindinis šaltinis.

„No camp“ tvirtai tvirtintų, kad tai yra labai neetiška. Nėra dviejų būdų. Jie ginčytųsi, kad tave apgaudinėja. Tai, kad jūsų meno kūrinys paskelbtas internete, nereiškia, kad bet kas gali ateiti ir laisvai jį kopijuoti. Galbūt paskelbėte meną su griežtu įspėjimu jo nekopijuoti. Tuo tarpu AI atėjo ir pašalino meną ir visiškai praleido įspėjimus. Piktina! Ir pasiteisinimas, kad AI algoritmas apibendrino ir neatlieka tikslaus kopijavimo, atrodo kaip vienas iš tų netikrų pasiteisinimų. Jis suprato, kaip išnaudoti jūsų meniškumą, ir tai yra apgaulė ir gėda.

Ką apie teisinius šio generatyvaus AI aspektus?

Yra daug ginčų dėl teisinių generatyvaus AI detalių. Ar žiūrite į federalinius įstatymus dėl intelektinės nuosavybės (IP) teisių? Ar jie pakankamai ryškūs, kad būtų galima taikyti? Ką daryti, kai generatyvusis AI kirto tarptautines sienas, kad surinktų mokymo rinkinį? Ar dirbtinio intelekto sukurti meno kūriniai atitinka įvairias išskirtines kategorijas, susijusias su intelektinės nuosavybės teisėmis? Ir taip toliau.

Kai kurie mano, kad mums reikia naujų su AI susijusių įstatymų, kad galėtume kovoti būtent su tokiomis generatyvinėmis AI situacijomis. Užuot bandę sugadinti esamus įstatymus, gali būti švariau ir lengviau kurti naujus įstatymus. Be to, net jei galioja esami įstatymai, išlaidos ir delsimas bandant pareikšti ieškinį gali būti milžiniškos ir trukdyti jūsų gebėjimui žengti į priekį, kai manote, kad jums buvo nesąžiningai ir neteisėtai padaryta žala. Mano aprėptį šiomis temomis žr nuoroda čia.

Prie šių AI etikos ir dirbtinio intelekto teisės aspektų pridėsiu papildomą posūkį.

Kam priklauso teisės į sukurtą AI išvestį?

Galite sakyti, kad žmonės, sukūrę AI, turėtų turėti šias teises. Ne visi sutinka su tokiu teiginiu. Galite sakyti, kad dirbtinis intelektas priklauso toms teisėms, tačiau tai sujaukia faktas, kad mes paprastai nepripažįstame, kad AI gali turėti tokias teises. Kol išsiaiškinsime, ar dirbtinis intelektas taps juridiniu asmeniu, šiuo klausimu viskas neaišku, žr. mano analizę adresu nuoroda čia.

Tikiu, kad dabar jau įsivaizduojate, ką daro generatyvinis AI. Toliau galime nagrinėti naudojimo atvejį, susijusį su tekstu pagrįstų pasakojimų generavimu.

Generatyvus dirbtinis intelektas, generuojantis tekstu pagrįstus pasakojimus

Dabar, kai aptarėme generatyvaus AI naudojimą meno ar vaizdų kūrimui, galime lengvai pažvelgti į tas pačias bendras formuluotes, kad sukurtume tekstu pagrįstus pasakojimus.

Pradėkime nuo to, ką visi žinome ir esame linkę naudoti kiekvieną dieną. Kai įvedate tekstą į teksto apdorojimo paketą arba savo el. pašto programą, yra tikimybė, kad yra automatinio taisymo funkcija, kuri bando užfiksuoti bet kurią jūsų rašybos klaidą.

Kai tokia automatinės pagalbos funkcija tapo įprasta, kitas pažangesnis aspektas buvo automatinio užbaigimo galimybė. Automatinio užbaigimo atveju manoma, kad kai pradedate rašyti sakinį, teksto apdorojimo arba el. pašto programa bando nuspėti, kokius žodžius greičiausiai įvesite toliau. Tai gali numatyti tik vieną ar du žodžius į priekį. Jei gebėjimas yra ypač sustiprintas, tai gali numatyti likusią viso sakinio dalį.

Galime įjungti aukštą pavarą. Tarkime, kad pradedate rašyti sakinį, o automatinis užbaigimas sugeneruos likusią visos pastraipos dalį. Voila, jums nereikėjo rašyti pastraipos tiesiogiai. Vietoj to, programa tai padarė už jus.

Gerai, atrodo šaunu. Stumkite tai toliau. Pradedate sakinį, o automatinis užbaigimas sudaro visą likusią jūsų pranešimo dalį. Tai gali būti sudaryta iš daugelio pastraipų. Visa tai sugeneruojama įvedant tik dalį sakinio arba visą ar du sakinius.

Kaip automatinis užbaigimas nustato, ką greičiausiai įvesite toliau?

Pasirodo, žmonės dažnai rašo tuos pačius dalykus. Galbūt jūs to nedarote, bet esmė ta, kad tai, ką rašote, tikriausiai kažkas jau yra parašęs. Tai gali būti ne visai tai, ką ketinate parašyti. Vietoj to, tai gali būti šiek tiek panašus į tai, ką ketinote parašyti.

Naudokime tą pačią logiką, kuri buvo naudojama kuriant meną ar vaizdus.

Generatyvioji AI programėlė paruošiama prisijungus prie interneto ir išnagrinėjus visą internetiniame pasaulyje egzistuojantį tekstą. Algoritmas bando skaičiuojant nustatyti, kaip žodžiai yra susiję su kitais žodžiais, kaip sakiniai yra susiję su kitais sakiniais ir kaip pastraipos yra susijusios su kitomis pastraipomis. Visa tai matematiškai sumodeliuojama, sukuriamas skaičiavimo tinklas.

Štai kas bus toliau.

Nusprendžiate pasinaudoti generuojamąja AI programa, kuri yra orientuota į teksto pasakojimų generavimą. Paleidę programą įvedate sakinį. AI programa skaičiuojant tiria jūsų sakinį. Įvairūs matematiniai ryšiai tarp įvestų žodžių naudojami matematiniame tinkle, siekiant nustatyti, koks tekstas bus toliau. Iš vienos jūsų parašytos eilutės gali būti, kad galima sukurti visą istoriją ar pasakojimą.

Dabar galite manyti, kad tai yra beždžionė, mato beždžionę, ir kad generatyvaus AI sukurtas tekstas bus beprasmis. Nustebtumėte, kaip gerai sureguliuotas toks AI. Turint pakankamai didelį duomenų rinkinį treniruotėms ir pakankamai kompiuterio apdorojimo, kad jį būtų galima plačiai išnaudoti, generatyvaus AI sukuriama produkcija gali būti nuostabiai įspūdinga.

Pažiūrėtumėte į išvestį ir tikriausiai prisiektumėte, kad sukurtas pasakojimas tikrai buvo parašytas tiesiogiai žmogaus. Atrodo, kad jūsų nuosprendis buvo įteiktas žmogui, pasislėpusiam užkulisiuose, ir jie greitai jums parašė visą pasakojimą, kuris beveik visiškai atitiko tai, ką jūs ketinate pasakyti kitaip. Štai koks geras tapo matematikos ir skaičiavimo pagrindas.

Paprastai, kai naudojate generatyvųjį dirbtinį intelektą, kuris kuria tekstu pagrįstus pasakojimus, paprastai pateikiate pradinį klausimą arba kažkokį tvirtinimą. Pavyzdžiui, galite įvesti „Pasakyk man apie paukščius Šiaurės Amerikoje“ ir generatyvusis AI laikys tai teiginiu arba klausimu, pagal kurį programa bandys identifikuoti „paukščius“ ir „Šiaurės Ameriką“ naudodama bet kokį parengtą duomenų rinkinį. tai turi. Esu tikras, kad galite įsivaizduoti, kad internete yra daugybė tekstų, kuriuose aprašyti Šiaurės Amerikos paukščiai, iš kurių AI per išankstinį mokymą ištraukė ir sumodeliavo teksto saugyklas.

Jums sukurta produkcija greičiausiai nebus tikslus kokios nors konkrečios internetinės svetainės tekstas. Prisiminkite, kad tas pats buvo minėta anksčiau apie sukurtus meno kūrinius. Tekstą sudarys rūšių, bitų ir gabalų, susietų matematiškai ir skaičiavimais, sudėtis. Sukurtas tekstu pagrįstas pasakojimas apskritai atrodytų unikalus, tarsi šio konkretaus teksto niekas anksčiau nebūtų sukūręs.

Žinoma, gali būti įspėjamųjų užuominų. Jei paprašysite arba paskatinsite generatyvųjį dirbtinį intelektą nagrinėti ypač neaiškias temas, yra didesnė tikimybė, kad pamatysite teksto išvestį, panašų į naudojamus šaltinius. Tačiau teksto atveju tikimybė paprastai yra mažesnė nei meno atveju. Tekstas bus temos specifikos derinys, tačiau taip pat neryškus ir sujungtas su bendromis teksto rūšimis, kurios naudojamos bendrame diskurse.

Matematinius ir skaičiavimo metodus ir technologijas, naudojamas šioms generuojamoms AI galimybėms, AI dažnai vadina didelės kalbos modeliais (LLM). Paprasčiau tariant, tai yra didelio masto žmonių kalbos modeliavimas. Prieš prisijungdami prie interneto, jums būtų buvę sunku rasti itin didelį teksto duomenų rinkinį, kuris buvo prieinamas internete ir pigiai. Tikėtina, kad turėjote nusipirkti prieigą prie teksto ir jis nebūtinai jau būtų buvęs prieinamas elektroniniu ar skaitmeniniu formatu.

Matote, internetas yra naudingas tam, kad jis būtų paruoštas generatyvaus AI mokymo šaltinis.

Kruopščiai galvokite apie generatyvųjį AI, kuriantį tekstą

Turėtume skirti šiek tiek laiko pagalvoti apie AI etikos ir AI įstatymų pasekmes, susijusias su generatyviniu AI, kuris kuria tekstinius pasakojimus.

Atminkite, kad sukurto meno atveju nerimavome dėl AI algoritmo, kuris kuria meną pagal kitus žmogaus sukurtus meno kūrinius, etikos. Tas pats susirūpinimas kyla ir tekstiniu atveju. Net jei sugeneruotas tekstas neatrodo tiksliai taip, kaip originalūs šaltiniai, galite ginčytis, kad vis dėlto AI išnaudoja tekstą, o pirminis gamintojas yra nuplėšiamas. Kita monetos pusė yra ta, kad internete esantis tekstas, jei jis yra laisvai prieinamas, gali būti panaudotas bet kuriam žmogui, kad padarytų tą patį, taigi, kodėl gi neleisti AI daryti to paties?

Komplikacijos, susijusios su teisiniais intelektinės nuosavybės teisių aspektais, taip pat išryškėja kalbant apie tekstinį generatyvųjį AI. Darant prielaidą, kad mokomas tekstas yra saugomas autorių teisių, ar galėtumėte pasakyti, kad sukurtas tekstas pažeidžia tas teisines teises? Vienas atsakymas yra, kad yra, o kitas atsakymas – ne. Supraskite, kad sukurtas tekstas gali būti gana toli nuo originalaus teksto, todėl jums gali būti sunku teigti, kad originalus tekstas buvo nuplėštas.

Kitas jau minėtas rūpestis yra nuosavybės teisės į generatyvinio AI sukurtus tekstu pagrįstus pasakojimus. Tarkime, kad į AI įvedate „Parašyk juokingą istoriją apie žmones, laukiančius eilėje kavos“, o generatyvusis dirbtinis intelektas puslapius po puslapių sukuria linksmą istoriją, kurioje viskas pasakojama apie daugybę žmonių, kurie atsitiktinai sutinka laukdami puodelio kavos. java.

Kam priklauso ta istorija?

Galite ginčytis, kad kadangi įvedėte raginimą, jums teisėtai turėtų priklausyti sukurta istorija. Oho, kai kurie sakytų, AI buvo tai, kaip buvo sukurta istorija, todėl AI „priklauso“ nuostabiai istorijai. Oho, kiti ragintų, jei dirbtinis intelektas paimtų fragmentus iš visų kitų panašių istorijų internete, visi tie rašytojai turėtų pasidalyti nuosavybės teise.

Klausimas neišspręstas ir mes tik dabar patenkame į teisinę mėšlą, kuri susiklostys per ateinančius kelerius metus.

Kyla papildomų AI etikos ir AI įstatymų rūpesčių.

Kai kurie žmonės, kurie naudojo generatyviąsias AI programas, pradeda manyti, kad AI programa yra jautri. Taip turi būti, – sušunka jie. Kaip kitaip galite paaiškinti stulbinančius atsakymus ir istorijas, kurias AI gali sukurti? Pagaliau pasiekėme jausmingą AI.

Jie yra visiškai neteisingi.

Tai nėra jautrus AI.

Kai tai sakau, kai kurie dirbtinio intelekto asmenys susierzina ir elgiasi taip, tarsi kiekvienas, neigiantis, kad AI yra jautrus, tuo pat metu sako, kad AI yra bevertis. Tai klaidingas ir klaidingas argumentas. Aš atvirai sutinku, kad šis generatyvus AI yra gana įspūdingas. Mes galime jį naudoti įvairiems tikslams, kaip paminėsiu vėliau. Nepaisant to, jis nėra jautrus. Norėdami paaiškinti, kodėl tokie AI proveržiai nėra suvokiami, žr nuoroda čia.

Kitas pernelyg didelis ir akivaizdžiai klaidingas kai kurių teiginys yra tai, kad generatyvusis AI sėkmingai laimėjo Turingo testą.

Tikrai turi ne padarė taip.

Turingo testas yra tam tikras testas, skirtas išsiaiškinti, ar AI programa gali prilygti žmonėms. Iš pradžių kaip didžiojo matematiko ir kompiuterių pradininko Alano Turingo sukurtas mimikos žaidimas, pats testas yra nesudėtingas. Jei už užuolaidos pastatytumėte žmogų, o už kitos užuolaidos uždėtų dirbtinio intelekto programą ir užduotumėte jiems abu klausimus, iš kurių negalėtumėte nustatyti, kuris buvo mašina, o kuris žmogus, AI sėkmingai išlaikytų Turingo testas. Išsamų Turingo testo paaiškinimą ir analizę žr nuoroda čia.

Tie žmonės, kurie nuolat šaukia, kad generatyvinis AI išlaikė Turingo testą, nežino, apie ką kalba. Jie arba nežino, kas yra Turingo testas, arba, deja, skleidžia dirbtinį intelektą neteisingai ir visiškai klaidinančiai. Šiaip ar taip, vienas iš svarbiausių svarstymų, susijusių su Turingo testu, yra tai, kokius klausimus reikia užduoti, kas užduoda, taip pat įvertinti, ar atsakymai yra žmogiškos kokybės.

Noriu pasakyti, kad žmonės įveda keliolika klausimų į generatyvųjį AI, o kai atsakymai atrodo tikėtini, šie žmonės neapgalvotai skelbia, kad Tiuringo testas buvo išlaikytas. Vėlgi, tai klaidinga. Įvesti niūrų klausimų rinkinį ir šen bei ten kištis nėra nei Tiuringo testo tikslo, nei dvasios. Nustokite reikšti šiuos negarbingus teiginius.

Čia yra teisėtas priekaištas, apie kurį daug negirdite, nors aš manau, kad jis labai vertas.

AI kūrėjai paprastai nustato generatyvųjį AI taip, kad jis reaguotų taip, tarsi reaguotų žmogus, būtent naudodami „aš“ arba „aš“ frazę, kai sukuria išvestį. Pavyzdžiui, kai prašoma papasakoti istoriją apie miške pasiklydusį šunį, generatyvinis AI gali pateikti tekstą, kuriame sakoma: „Papasakosiu viską apie šunį, vardu Semas, kuris pasiklydo miške. Tai viena iš mano mėgstamiausių istorijų."

Atkreipkite dėmesį, kad formuluotė sako „aš tau pasakysiu...“ ir kad istorija yra „viena iš mano mėgstamiausių...“, todėl kiekvienas, skaitantis šią publikaciją, subtiliai pateks į PG antropomorfizavimo spąstus. Antropomorfizavimas susideda iš žmonių, kurie bando priskirti į žmones panašius bruožus ir žmogiškus jausmus ne žmonėms. Jus užliūliuoja tikėjimas, kad šis dirbtinis intelektas yra žmogus arba panašus į žmogų, nes išvesties formuluotė yra specialiai sukurta taip.

Tai neturi būti sukurta tokiu būdu. Išeiga galėtų būti tokia: „Štai istorija apie šunį, vardu Semas, pasiklydusį miške. Tai mėgstama istorija. Mažiau tikėtina, kad iš karto manytumėte, kad AI yra žmogus arba panašus į žmogų. Suprantu, kad vis tiek galite patekti į tuos spąstus, bet bent jau spąstai, kaip buvo, nėra tokie ryškūs.

Trumpai tariant, jūs turite generatyvųjį dirbtinį intelektą, kuris kuria tekstu pagrįstus pasakojimus pagal tai, kaip žmonės rašo, ir atrodo, kad gaunama produkcija parašyta taip, kaip žmogus kažką rašytų. Tai labai prasminga, nes dirbtinis intelektas matematiškai ir skaičiavimais atitinka tai, ką parašė žmonės. Pridėkite prie to antropomorfizuojančią formuluotę ir gausite puikią audrą, įtikinsiančią žmones, kad AI yra jautrus arba išlaikė Turingo testą.

Kyla daug AI etikos ir AI teisės problemų.

Aš papasakosiu jums gana pavojingas šio generatyvaus AI pasekmes.

Atsisėskite už tai.

Kuriami tekstai pagrįsti pasakojimai nebūtinai atitinka tikrumą ar tikslumą. Svarbu suvokti, kad generatyvusis AI „nesupranta“, kas yra generuojama (galima ginčytis, ne jokiu su žmogumi susijusiu būdu). Jei mokymuose naudotas tekstas turėjo melagingų dalykų, yra tikimybė, kad tie patys melai bus įtraukti į generatyvųjį AI matematinį ir skaičiavimo tinklą.

Be to, generatyvinis dirbtinis intelektas paprastai neturi jokių matematinių ar skaičiavimo priemonių, leidžiančių suprasti, kad sukurtame tekste yra melagingų dalykų. Kai pažvelgsite į sukurtą išvesties pasakojimą, pasakojimas paprastai atrodys visiškai „teisingas“. Galbūt neturite tinkamų priemonių nustatyti, kad pasakojime yra melagingų dalykų.

Tarkime, užduodate medicininį klausimą apie generatyvųjį AI. AI programa sukuria ilgą pasakojimą. Įsivaizduokite, kad didžioji pasakojimo dalis yra prasminga ir atrodo pagrįsta. Bet jei nesate medicinos specialistas, galite nesuprasti, kad pasakojime yra keletas esminių melo. Galbūt tekstas sako, kad per dvi valandas reikia išgerti penkiasdešimt tablečių, o iš tikrųjų tikra medicinos rekomendacija yra išgerti dvi tabletes per dvi valandas. Galite patikėti tariamais penkiasdešimties tablečių patarimais vien todėl, kad likusi pasakojimo dalis atrodė pagrįsta ir protinga.

AI modelis dėl klaidingų pradinių šaltinių duomenų yra tik viena iš būdų, kaip AI šiuose pasakojimuose pakreipti. Priklausomai nuo naudojamo matematinio ir skaičiavimo tinklo, AI bandys „sudaryti“ dalykus. AI kalba tai vadinama DI haliucinacijos, kuri yra siaubinga terminija, su kuria aš nuoširdžiai nesutinku ir kurios nereikėtų tęsti kaip posakį, žr. mano analizę adresu nuoroda čia.

Tarkime, kad paprašėte generatyvinio AI papasakoti istoriją apie šunį. AI gali baigtis tuo, kad šuo galės skristi. Jei istorija, kurios norėjote, turėjo būti pagrįsta tikrove, skraidantis šuo atrodo mažai tikėtinas. Jūs ir aš žinome, kad šunys negali skraidyti natūraliai. Sakote, nieko baisaus, nes visi tai žino.

Įsivaizduokite vaiką mokykloje, kuris bando sužinoti apie šunis. Jie naudoja generatyvųjį AI. Jis gamina produkciją, kuri sako, kad šunys gali skristi. Vaikas nežino, ar tai tiesa, ar ne, ir mano, kad tai turi būti tiesa. Tam tikra prasme atrodo, kad vaikas nuėjo į internetinę enciklopediją ir joje sakoma, kad šunys gali skraidyti. Galbūt vaikas nuo šiol tvirtins, kad šunys tikrai gali skraidyti.

Grįžtant prie AI etikos ir dirbtinio intelekto įstatymų galvosūkio, dabar esame ant slenksčio, kad galėsime sukurti beveik begalinį tekstinio turinio kiekį, naudojant generatyvųjį AI, ir užtvindysime daugybę pasakojimų, kurie yra neabejotinai pilnas melo ir kitų susijusių dezinformacijos ir dezinformacijos srautų.

Taip, paspaudę mygtuką ir įvedę kelis žodžius į generatyvųjį AI, galite sukurti daugybę tekstinių pasakojimų, kurie atrodo visiškai tikėtini ir teisingi. Tada galite paskelbti tai internete. Kiti žmonės perskaitys medžiagą ir manys, kad tai tiesa. Be to, kiti generaciniai AI, kurie ateina bandydami išmokti dirbti su tekstu, gali susidurti su šia medžiaga ir apjungti ją į kuriamą generacinį AI.

Atrodo, kad dabar mes pridedame steroidų, kad sukurtume dezinformaciją ir dezinformaciją. Mes einame link dezinformacijos ir dezinformacijos didžiuliu galaktikos pasauliniu mastu.

Viskam pagaminti reikia daug žmonių darbo.

Generatyvusis AI ir „ChatGPT“.

Pereikime prie šios diskusijos apie generatyvųjį AI antraštės. Dabar aptarėme generatyvaus AI, kuris apskritai kuria tekstu pagrįstus pasakojimus, prigimtį. Yra daug tokių generatyvių AI programų.

Viena iš AI programų, kurios ypač išgarsėjo, yra žinomas kaip ChatGPT.

Viešųjų ryšių perversmas pasklido socialinėje žiniasklaidoje ir naujienose – „ChatGPT“ šiuo metu įgauna visą šlovę. „ChatGPT“ šviesa šviečia ryškiai. Ji sulaukia stulbinančių penkių minučių šlovės.

ChatGPT yra generacinės AI programos, kurią sukūrė subjektas, žinomas kaip OpenAI, pavadinimas. OpenAI yra gana gerai žinomas dirbtinio intelekto srityje ir gali būti laikomas AI tyrimų laboratorija. Jie garsėja kaip pranašesni už natūralios kalbos apdorojimo dirbtinį intelektą (NLP) ir kitus dirbtinio intelekto pasiekimus. Jie pradėjo kurti AI programas, kurias jie sukūrė kaip GPT (generatyvius iš anksto apmokytus transformatorius). Kiekviena versija gauna numerį. Anksčiau rašiau apie jų GPT-3 (jų GPT serijos 3 versiją), žr nuoroda čia.

GPT-3 sulaukė nemažai dėmesio, kai pirmą kartą buvo išleistas (apytiksliai prieš dvejus metus pradėtas plačiai naudoti beta versijos testavimas, o 2022 m. buvo plačiau prieinamas). Tai generatyvinė AI programa, kuri, įvedus raginimą, sukurs arba generuos tekstu pagrįstus pasakojimus. Viskas, ką minėjau anksčiau apie bendrą generatyviųjų AI programų atvejį, iš esmės taikoma GPT-3.

Jau seniai buvo girdima mintis, kad GPT-4 veikia, o dirbtinio intelekto specialistai sulaikę kvapą laukė, kad pamatytų, kokie GPT-4 patobulinimai ar patobulinimai, priešingai nei GPT-3. Į šią seriją įtrauktas naujausias tarpinis modulis, žinomas kaip GPT-3.5. Taip, jūs teisingai supratote, jis yra tarp išleisto GPT-3 ir dar neišleisto GPT 4.0.

OpenAI panaudojo savo GPT-3.5, kad sukurtų atšaką, kurią pavadino ChatGPT. Teigiama, kad jie atliko keletą specialių patobulinimų, kad sukurtų „ChatGPT“. Pavyzdžiui, sklando mintis, kad „ChatGPT“ buvo pritaikyta dirbti pokalbių roboto būdu. Tai apima „pokalbį“, kurį vykstate su AI programa, stebi AI ir naudoja vėliau reikalaujamiems pasakojimams kurti.

Daugelis generatyvių AI programų buvo vienkartinės. Įvedėte raginimą, AI sukūrė pasakojimą ir viskas. Kitas jūsų raginimas neturi įtakos tam, kas nutiks toliau. Atrodo, kad kiekvieną kartą įvedę raginimą pradedate iš naujo.

Ne taip „ChatGPT“ atveju. Dar neatskleista būdu AI programa bando aptikti jūsų raginimų šablonus ir todėl gali atrodyti labiau reaguoti į jūsų užklausas (ši AI programa laikoma atvirai prieinama dėl to, kad leidžiama bet kam užsiregistruoti ja naudotis, bet vis tiek nuosavybės teise ir ryžtingai ne atvirojo kodo AI programa, kuri atskleidžia jos vidinį veikimą). Pavyzdžiui, prisiminkite mano ankstesnį nurodymą, kad norite ant kamino pamatyti varlę su kepure. Vienas iš būdų yra tas, kad kiekvieną kartą, kai pateikiate tokį prašymą, viskas prasideda iš naujo. Kitas būdas būtų tęsti tai, ką sakei anksčiau. Taigi galbūt galėtumėte pasakyti dirbtiniam intelektui, kad norite, kad varlė sėdėtų, o tai savaime nėra prasmės, o prieš tai paprašius varlės su skrybėle ant kamino, prašymas gali būti prasmingas.

Jums gali kilti klausimas, kodėl staiga atrodo, kad ChatGPT atėjo klestėjimas ir klestėjimas.

Iš dalies taip yra todėl, kad „ChatGPT“ buvo prieinamas visiems, kurie norėjo prisiregistruoti, kad juo naudotųsi. Anksčiau dažnai buvo taikomi atrankiniai kriterijai, kas galėtų naudoti naujai prieinamą generuojančią AI programą. Teikėjas pareikalautų, kad būtumėte AI viešai neatskleista informacija arba galbūt turėtumėte kitų sąlygų. Ne taip su ChatGPT.

Greitai pasklido žinia, kad „ChatGPT“ buvo labai paprasta naudotis, nemokama ir galima naudotis paprasčiausiai prisiregistravus, kai jums tereikia pateikti el. pašto adresą. Teigiama, kad „ChatGPT“ programėlė, kaip ir greitas gaisras, staiga, suaktyvinta ar paskatinta virusinių įrašų socialinėje žiniasklaidoje, viršija milijoną vartotojų. Žiniasklaida pabrėžė, kad milijonas žmonių užsiregistravo ChatGPT.

Nors tai tikrai nuostabu ir verta dėmesio, nepamirškite šių registracijų konteksto. Tai nemokama ir paprasta užsiregistruoti. Pokalbių robotas yra labai paprastas ir nereikalauja išankstinio mokymo ar patirties. Jūs tiesiog įvedate savo pasirinktus raginimus ir formuluotę, o „Shazam“ AI programa pateikia sugeneruotą pasakojimą. Vaikas gali tai padaryti, o tai iš tikrųjų kelia nerimą kai kuriems, būtent, kad jei vaikai naudojasi „ChatGPT“, ar jie mokysis abejotinos medžiagos (kaip mano ankstesniame punkte tokiais klausimais)?

Be to, galbūt verta paminėti, kad kai kurie (daug?) iš tų milijonų prisiregistravusiųjų yra žmonės, kurie tikriausiai norėjo nuspirti padangas ir nieko daugiau nedaryti. Jie greitai susikūrė paskyrą, kurį laiką žaidė su AI programėle, manė, kad tai buvo smagu ir stebina, o tada galbūt paskelbė keletą socialinių tinklų, kad parodytų, ką rado. Po to jie gali daugiau niekada neprisijungti arba bent jau naudoti AI programą, jei iškyla tam tikras poreikis.

Kiti taip pat atkreipė dėmesį į tai, kad „ChatGPT“ atsiradimo laikas sutapo su tuo metų laiku, kuris sukėlė didelį susidomėjimą AI programa. Galbūt per šventes turime daugiau laiko pažaisti su smagiais daiktais. Socialinės žiniasklaidos atsiradimas taip pat paskatino tai tapti savotišku reiškiniu. Klasikinis FOMO (baimė praleisti) tikriausiai prisidėjo prie slogos. Žinoma, jei palyginsite milijoną su kai kuriais populiariais „YouTube“ influenceriais, galite manyti, kad milijonas yra menkas skaičius, palyginti su tais vlogais, kurie pirmą kartą išmetę arba paskelbę sulaukia šimtų milijonų prisiregistruojamų ar peržiūrų.

Na, nenukrypkime ir tiesiog atkreipkime dėmesį, kad vis tiek, naudojant eksperimentinio pobūdžio AI programą, milijonas prisiregistravusiųjų tikrai vertas pasigirti.

Žmonės iš karto naudojo ChatGPT kurdami istorijas. Tada jie paskelbė istorijas ir kalbėjo apie jų stebuklą. Žurnalistai ir žurnalistai netgi darė „interviu“ su „ChatGPT“, o tai šiek tiek kelia nerimą, nes jie patenka į tuos pačius antropomorfizuojančius spąstus (nežinant arba tikėdamiesi sulaukti didesnio savo straipsnių peržiūrų). Neatidėliotina tendencija taip pat buvo paskelbti, kad dirbtinis intelektas jau pasiekė supratimą arba išlaikė Turingo testą, kurį aš aiškiai komentavau anksčiau.

„ChatGPT“ keliami visuomenės rūpesčiai iš tikrųjų buvo tokie, kurie jau kilo dėl ankstesnių GPT versijų, taip pat dėl ​​jau turimų LLM ir generatyvaus AI skaičiaus. Skirtumas tas, kad dabar visas pasaulis nusprendė pasigirti. Tai patogu. Turime užtikrinti, kad dirbtinio intelekto etika ir dirbtinio intelekto įstatymai būtų tinkamai atskleisti ir skirti dėmesio. Jei mums reikia „ChatGPT“, tebūnie.

Kokio pobūdžio susirūpinimas reiškiamas?

Paimkite atvejį, kai mokinių prašoma rašyti esė savo klasėms. Paprastai studentas turi parašyti esė, remdamasis savo rašymo ir kompozicijos gebėjimais. Žinoma, jie gali pažvelgti į kitą rašytinę medžiagą, kad pasisemtų idėjų ir citatų, bet kitu atveju manoma, kad studentas savo esė sugalvoja iš savo gudrybės. Prozos kopijavimas iš kitų šaltinių yra nerimtas, dėl to paprastai gaunamas F klasė arba galbūt pašalinimas už kitos medžiagos plagijavimą.

Šiais laikais štai kas gali nutikti. Studentas prisiregistruoja naudoti „ChatGPT“ (arba bet kurią kitą panašią generuojančią AI programą). Jie įveda viską, ką mokytojas jiems davė norėdamas sudaryti esė. „ChatGPT“ parengia visą esė pagal raginimą. Tai „originali“ kompozicija, nes niekur kitur jos nebūtinai rasite. Jūs negalite įrodyti, kad kompozicija buvo nuplagijuota, nes, atsižvelgiant į tai, ji nebuvo nuplagijuota.

Mokinys įverčia rašinį. Jie tvirtina, kad tai jų pačių rašytinis darbas. Mokytojas neturi pasiruošusių priemonių galvoti kitaip. Tai pasakius, galite įsivaizduoti, kad jei rašto darbas iš pažiūros viršija esamus studento pajėgumus, jums gali kilti įtarimų. Tačiau tai nėra daug, jei ketinate apkaltinti studentą sukčiavimu.

Kaip mokytojai su tuo susidoros?

Kai kurie į savo mokymo medžiagą įdeda taisyklę, kad bet koks „ChatGPT“ ar lygiavertis naudojimas bus laikomas sukčiavimu. Be to, atsisakymas naudoti „ChatGPT“ ar lygiavertį turinį yra apgaulės forma. Ar tai apribos šią naują galimybę? Teigiama, kad tai abejotina, nes tikimybė būti sučiuptam yra maža, o tikimybė gauti gerą pažymį gerai parašytame dokumente yra didelė. Tikriausiai galite įsivaizduoti, kad studentams baigsis terminas parašyti esė, o išvakarėse bus pagunda panaudoti generatyvųjį dirbtinį intelektą, kad tarsi ištrauktų juos iš spūsties.

Perjungiamos pavaros, gali būti bet koks rašymas sutriko naudojant generatyvųjį AI.

Ar jūsų prašoma parašyti atmintinę apie šį ar kitą dalyką? Negaiškite laiko darydami tai nuo nulio. Naudokite generatyvųjį AI. Tada galite iškirpti ir įklijuoti sugeneruotą tekstą į savo kompoziciją, patobulinti tekstą pagal poreikį ir lengvai atlikti sunkų rašymo darbą.

Ar tai atrodo tinkama daryti?

Lažinuosi, kad dauguma žmonių pasakytų „taip“. Tai netgi geriau, nei nukopijuoti ką nors iš interneto, nes tai gali priversti jus patekti į karštą vandenį dėl plagiato. Labai prasminga naudoti generatyvųjį dirbtinį intelektą, kad rašymo pastangos būtų iš dalies, o gal net visiškai padarytos už jus. Tam ir yra sukurti įrankiai.

Be to, viename iš kitų mano stulpelių bus nuodugniai išnagrinėtas generatyvinio AI panaudojimo teisiniais tikslais atvejis, kai atliekami teisinio pobūdžio darbai ir rengiami teisiniai dokumentai. Kiekvienas, kuris yra advokatas ar teisininkas, norės pagalvoti, kaip generatyvus AI gali išnaikinti ar sutrikdyti teisinę praktiką. Apsvarstykite, pavyzdžiui, teisininką, kuris sudaro teisinį santrauką teismo bylai. Jie gali panaudoti generatyvųjį AI, kad parašytų kompoziciją. Žinoma, jis gali turėti tam tikrų trūkumų, todėl advokatas turi jį čia arba ten pataisyti. Dėl sumažėjusio darbo ir laiko trumpai paruošti gali būti, kad koreguoti verta.

Tačiau kai kurie nerimauja, kad teisiniame dokumente gali būti melagingų faktų arba AI haliucinacijų, kurių advokatas nepastebėjo. Šio posūkio požiūris yra toks, kad tai yra ant advokato pečių. Tikėtina, kad jie teigė, kad trumpąjį raštą parašė jie patys, todėl, nesvarbu, ar jį parašė jaunesnysis partneris, ar AI programa, jie vis tiek turi galutinę atsakomybę už galutinį turinį.

Tai tampa sudėtingesnė, jei ne teisininkai pradeda naudoti generatyvųjį AI, kad atliktų teisinius darbus už juos. Jie gali manyti, kad generatyvinis AI gali parengti įvairius teisinius dokumentus. Žinoma, bėda ta, kad dokumentai gali būti teisiškai negaliojantys. Daugiau apie tai papasakosiu savo būsimoje rubrikoje.

Iškyla esminė nykščio taisyklė apie visuomenę ir žmogaus rašymo veiksmą.

Tai savotiškai reikšminga:

• Kaskart, kai jums pavesta ką nors parašyti, ar turėtumėte rašyti elementą nuo nulio, ar turėtumėte naudoti generatyvų AI įrankį, kad galėtumėte pradėti dirbti?

Išvestis gali būti pusiau iškepta ir jums reikės daug perrašyti. Arba išvestis gali būti įjungta ir jums reikės atlikti tik nedidelius pakeitimus. Apskritai, jei naudojimas yra nemokamas ir paprastas, pagunda naudoti generuojamąjį AI bus didžiulė.

Privalumas yra tai, kad galite naudoti generatyvųjį AI, kad atliktumėte kai kuriuos perrašymus. Panašiai kaip raginimai apie varlę su skrybėle ir kaminą, kurdami meną galite daryti tą patį kurdami tekstinius pasakojimus. AI gali sukurti jūsų istoriją apie šunį, o jūs nusprendėte, kad norite, kad pagrindinis veikėjas būtų katė. Gavę šuns istoriją, įvedate kitą raginimą ir nurodote AI programai pereiti prie katės naudojimo istorijoje. Tikėtina, kad tai padarys daugiau, nei paprasčiausiai pasakojime žodį „šuo“ pakeis žodis „katė“. AI programa gali lengvai pakeisti istoriją ir pateikti nuorodas į tai, ką daro katės, palyginti su šunų. Visa istorija gali būti peržiūrėta taip, tarsi būtumėte paprašę žmogaus atlikti tokius pataisymus.

Galingas, įspūdingas, patogus-dandy.

Keletas įspėjimų, kuriuos reikia apsvarstyti:

• Ar kartu prarasime gebėjimą rašyti, tapdami visiškai priklausomi nuo generatyvaus AI, kuris už mus rašys?
• Ar žmonės, kurie rašo pragyvenimui, bus palikti be darbo (tas pats klausiamas apie menininkus)?
• Ar internetas augs didžiuliais šuoliais, nes sukurti pasakojimai bus užtvindyti internete ir nebegalime atskirti tiesos nuo melo?
• Ar žmonės tvirtai tikės šiais sukurtais pasakojimais ir elgsis taip, lyg autoritetingas asmuo būtų pateikęs jiems tikros medžiagos, kuria jie gali pasikliauti, įskaitant galbūt su gyvybe ar mirtimi susijusį turinį?
• kitas

Pagalvok tai.

Atkreipkite dėmesį, kad vienas iš tų suženklintų punktų yra susijęs su pasikliavimu medžiaga, kurią generuoja AI gyvybės ar mirties pagrindu.

Štai jums skirtas širdies plakimas (suaktyvinimo įspėjimas, galbūt norėsite praleisti šią pastraipą). Įsivaizduokite, kad paauglys klausia generatyvaus dirbtinio intelekto, ar jis turėtų atsikratyti savęs. Ką sukurs generatyvioji AI programa? Natūralu, kad tikitės, kad dirbtinio intelekto programėlė sukurs pasakojimą, kad to nedaryti, ir garsiai paragins klausytoją kreiptis į psichikos sveikatos specialistus.

Yra tikimybė, kad AI nepaminės šių aspektų. Dar blogiau, kad dirbtinio intelekto programėlė anksčiau galėjo užfiksuoti tekstą internete, kuris galbūt skatina imtis tokių veiksmų, o AI programėlė (kadangi ji neturi žmogaus supratimo galimybių) išskleidė pasakojimą, kuris iš esmės užsimena arba tiesiai teigia, kad paauglys turėtų tęsti. neatgrasus. Paauglys mano, kad tai yra teisingas patarimas iš internetinės autoritetingos „Dirbtinio intelekto“ sistemos.

Blogi dalykai.

Tikrai, labai blogi dalykai.

Kai kurie generatyvaus AI kūrėjai bando nustatyti AI patikrinimus ir pusiausvyrą, kad išvengtų tokių situacijų. Reikalas tas, kad raginimo suformulavimo būdas gali praslysti per užprogramuotus apsauginius turėklus. Tą patį galima pasakyti ir apie pagamintą produkciją. Nėra jokio garantuoto geležinio filtravimo, kuris dar gali užtikrinti, kad to niekada nebus.

Yra dar vienas šio teksto kūrinio aspektas, kurio galbūt nenumatėte.

Štai ji.

Kai programuotojai ar programinės įrangos kūrėjai kuria savo programinės įrangos kodą, jie iš esmės rašo tekstu. Tekstas yra šiek tiek paslaptingas, nes yra pagrįstas kalba, apibrėžta tam tikrai programavimo kalbai, pvz., Python, C++, Java ir kt. Galų gale tai yra tekstas.

Tada šaltinio kodas sukompiliuojamas arba paleidžiamas kompiuteryje. Kūrėjas patikrina savo kodą, kad pamatytų, ar jis daro tai, ką turėjo padaryti. Jie gali pataisyti arba derinti kodą. Kaip žinote, programuotojai ar programinės įrangos inžinieriai yra labai paklausūs ir dažnai už savo darbą reikalauja aukštų kainų.

Generatyvaus AI atveju šaltinio kodo tekstas yra tekstas. Galimybė rasti modelius daugybėje kodo eilučių, esančių internete ir įvairiose saugyklose, leidžia matematiškai ir skaičiuojant suprasti, koks kodas ką nors daro.

Trina yra tai.

Su raginimu generatyvusis AI gali sukurti visą kompiuterio programą. Nereikia bandyti išmesti kodo. Galbūt girdėjote, kad yra vadinamųjų žemas kodas šiomis dienomis prieinamų įrankių, leidžiančių sumažinti programuotojų pastangas rašant kodą. Generatyvusis AI gali būti suprantamas kaip a žemas kodas ar net be kodo parinktis, nes ji rašo kodą už jus.

Prieš tai, kas rašo kodą gyvam, nukris ant grindų ir nualpti, atminkite, kad kodas nėra „suprastas“ taip, kaip jūs, kaip žmogus, tikriausiai jį suprantate. Be to, kode gali būti melagingų dalykų ir AI haliucinacijų. Pasikliauti tokiu kodu neatliekant išsamios kodo peržiūros atrodytų rizikinga ir abejotina.

Mes grįžtame prie tų pačių svarstymų, susijusių su istorijų ir atmintinių rašymu. Galbūt būdas yra naudoti generatyvųjį dirbtinį intelektą, kad pasiektumėte dalį kodavimo pastangų. Tačiau yra nemažas kompromisas. Ar saugiau kodą rašyti tiesiogiai, ar dirbti su AI sugeneruotu kodu, kuris gali turėti klastingų ir sunkiai aptinkamų įterptųjų problemų?

Laikas parodys.

Trumpas pasinerimas į „ChatGPT“.

Kai pradedate naudoti „ChatGPT“, rodoma daugybė įspėjimų ir informacinių komentarų.

Greitai pažvelkime į juos:

• "Retkarčiais gali generuoti neteisingą informaciją."
• „Retkarčiais gali pateikti žalingų nurodymų arba šališko turinio.
• „Išmokytas atmesti netinkamus prašymus“.
• „Mūsų tikslas yra gauti išorinį grįžtamąjį ryšį, kad galėtume patobulinti mūsų sistemas ir padaryti jas saugesnes.
• „Nors taikome apsaugos priemones, sistema kartais gali generuoti neteisingą ar klaidinančią informaciją ir pateikti įžeidžiantį ar šališką turinį. Tai nėra skirta patarti“.
• „Pokalbius gali peržiūrėti mūsų AI treneriai, kad patobulintų mūsų sistemas.
• „Prašome nesidalyti jokia slapta informacija savo pokalbiuose.
• „Ši sistema yra optimizuota dialogui. Praneškite mums, ar konkretus atsakymas buvo geras ar nenaudingas.
• „Ribotos žinios apie pasaulį ir įvykius po 2021 m.

Dėl erdvės apribojimų negaliu čia jų išsamiai aprašyti, bet bent jau atlikime greitą analizę.

Jau minėjau, kad sukurtuose tekstiniuose pasakojimuose gali būti melo ir dezinformacijos.

Yra dar kažkas, ko reikia stebėti. Būkite atsargūs dėl pasakojimų, kuriuose gali būti įvairių kurstančių pastabų, kurios rodo nepageidaujamą šališkumą.

Kad taip nenutiktų, buvo pranešta, kad „OpenAI“ naudojo žmogaus dvigubus tikrinimus „ChatGPT“ mokymų metu. Dvigubas tikrintuvas įves raginimus, kurie greičiausiai paskatins AI gaminti uždegiminį turinį. Kai tikrintojai pamatė tokį turinį, jie AI nurodė, kad tai buvo netinkama, ir tam tikra prasme skyrė skaitinę nuobaudą už pagamintą išvestį. Matematiškai AI algoritmas sieks, kad baudų balai būtų kuo mažesni, o skaičiuojant būtų siekiama nuo šiol nenaudoti šių frazių ar formuluočių.

Panašiai, kai įvedate raginimą, AI bando nustatyti, ar jūsų raginimas yra uždegiminis, ar gali sukelti uždegiminį procesą, dėl kurio AI gali atmesti raginimą. Mandagiai, idėja yra atmesti netinkamus raginimus ar prašymus. Pvz., AI greičiausiai atsisakys paprašyti pajuokauti, kuriame yra rasiniai šmeižtai.

Esu tikras, kad nenustebsite sužinoję, kad žmonės, naudojantys ChatGPT, bandė pergudrauti atsargumo priemones. Šie „įmoningi“ vartotojai arba apgavo AI, arba rado gudrių būdų, kaip apeiti matematines formuluotes. Kai kurios iš šių pastangų daromos dėl akivaizdaus džiaugsmo, kad sistema nugalėjo ar peržengia jos peržengimą, o kitos tvirtina, kad bando parodyti, kad „ChatGPT“ vis tiek duos nepalankių rezultatų.

Jie teisūs dėl vieno dalyko; atsargumo priemonės nėra patikimos. Grįžtame prie kitos AI etikos ir galimo AI įstatymo svarstymo. Ar generatyviniam AI turėtų būti leidžiama tęsti, net jei jis gali duoti nepalankių rezultatų?

Perspėjimai, kai naudojate „ChatGPT“, atrodytų, įspėtų bet ką apie tai, ką AI programa gali daryti ar pasakyti. Tikėtina, kad neišvengiamai gali būti iškeliami tam tikri ieškiniai, kai kas nors, galbūt nepilnametis, gauna nepageidaujamą įžeidžiantį pobūdį (arba kai gauna autoritetingos išvaizdos tekstinius pasakojimus, kurie, deja, yra teisingi, ir veikia pagal savo rezultatus). sau keliamas pavojus).

Verta žinoti keletą kitų greitų raginimų niuansų.

Kiekvieną kartą įvedus raginimą, išvestis gali labai skirtis, net jei įvesite tą patį raginimą. Pavyzdžiui, įvedus „Papasakok man istoriją apie šunį“, gausite tekstinį pasakojimą, galbūt nurodantį pasaką apie aviganį, o kitą kartą įvedus „Papasakok man istoriją apie šunį“, tai gali būti visiškai skirtingą istoriją ir įtraukti pudelį. Taip matematiškai ir skaičiavimais yra išdėstytas generatyvusis AI. Sakoma, kad tai nedeterministinis. Kai kuriems žmonėms tai kelia nerimą, nes jie yra pripratę prie sampratos, kad jūsų įvestis į kompiuterį visada duos tą pačią tikslią išvestį.

Žodžių išdėstymas taip pat labai paveiks generuojamą išvestį. Jei įvesite „Pasakyk man istoriją apie šunį“, o vėliau įvesite „Pasakyk man šuns istoriją“, yra tikimybė, kad sukurti pasakojimai iš esmės skirsis. Jautrumas gali būti aštrus. Prašymas istorijos apie šunį ir prašymas istorijos apie didelį šunį neabejotinai sukurtų radikaliai skirtingus pasakojimus.

Galiausiai atminkite, kad aukščiau esančiuose punktuose yra nuoroda, kad „ChatGPT“ „turi ribotas žinias apie pasaulį ir įvykius po 2021 m.“. Taip yra todėl, kad dirbtinio intelekto kūrėjai nusprendė nustatyti, kada dirbtinio intelekto programa rinks ir apmokys interneto duomenis. Pastebėjau, kad vartotojai dažnai nesuvokia, kad „ChatGPT“ nėra tiesiogiai prijungtas prie šiandieninio interneto, kad galėtų gauti duomenis ir generuoti išvestis. Esame taip įpratę, kad viskas veikia realiuoju laiku ir yra prisijungę prie interneto, kad to tikimės ir iš AI programų. Ne šiuo konkrečiu atveju (ir, siekiant paaiškinti, ChatGPT iš tikrųjų yra prieinamas internete, bet kai jis sudaro tekstinį išvestį, jis nenaudoja interneto per se tai padaryti, o paprastai yra sustingęs maždaug pasibaigus datai).

Galbūt jus nustebins, kodėl „ChatGPT“ neteikia duomenų iš interneto realiuoju laiku. Pora protingų priežasčių. Pirma, būtų brangu atlikti mokymą realiuoju laiku, be to, dirbtinio intelekto programa vėluotų arba mažiau reaguotų į raginimus (šiuo metu ji yra labai greita, paprastai per kelias sekundes reaguoja su išvesties tekstu pagrįstu pasakojimu ). Antra, baisūs dalykai internete, kurių jie bandė išmokyti dirbtinio intelekto programėlę vengti, greičiausiai įsiskverbtų į matematines ir skaičiavimo formuluotes (ir, kaip minėta, jos jau yra šiek tiek anksčiau, nors ir bandė tai aptikti naudojant tuos žmogaus dvigubus tikrintuvus).

Neabejotinai išgirsite, kaip kai kurie žmonės įžūliai praneša, kad „ChatGPT“ ir panašios generacinės AI yra „Google“ paieškos ir kitų paieškos sistemų mirties stulpas. Kodėl reikia atlikti „Google“ paiešką, kuri atneša daug nuorodų, kai galite priversti AI parašyti ką nors už jus? Aha, šie žmonės pareiškia, „Google“ turėtų uždaryti duris ir grįžti namo.

Žinoma, tai gryna nesąmonė.

Žmonės vis dar nori atlikti paieškas. Jie nori turėti galimybę pažvelgti į pamatinę medžiagą ir išsiaiškinti dalykus patys. Tai nėra dvejetainis pasirinkimas taip ar kitaip (tai klaidinga dichotomija).

Generatyvusis AI yra kitokio pobūdžio įrankis. Jūs nemesate plaktukų vien todėl, kad išradote atsuktuvą.

Protingesnis būdas tai galvoti yra tai, kad dviejų tipų įrankiai gali būti suderinami žmonėms, norintiems atlikti su internetu susijusius dalykus. Kai kurie jau žaidė kartu su generuojamuoju AI su įprastomis interneto paieškos sistemomis.

Visiems, jau teikiantiems paieškos variklį, rūpi tai, kad „nemokamas“ generacinis AI įrankis gali pakenkti paieškos variklio reputacijai. Jei ieškote internete ir gaunate uždegančios medžiagos, žinote, kad tai tik interneto kelias. Jei naudojate generatyvųjį dirbtinį intelektą ir jis sukuria tekstinį pasakojimą, kuris yra atstumiantis ir niekšiškas, greičiausiai jus tai trikdo. Gali būti, kad jei generatyvus AI yra glaudžiai susijęs su konkrečia paieškos sistema, jūsų nepasitenkinimas ir pasibjaurėjimas generatyviuoju AI persilieja į tai, ką jaučiate apie paieškos variklį.

Šiaip ar taip, beveik neabejotinai pamatysime aljansus tarp įvairių generuojamųjų AI įrankių ir interneto paieškos sistemų, atsargiai ir dėmesingai žengiančių į šiuos miglotus vandenis.

Išvada

Štai jums klausimas.

Kaip kas nors gali užsidirbti pinigų teikdamas generatyvųjį dirbtinį intelektą, kuris kuria tekstu pagrįstus pasakojimus?

„OpenAI“ jau pareiškė, kad vidinės „ChatGPT“ operacijos išlaidos yra gana didelės. Jie kol kas negauna pajamų iš „ChatGPT“.

Ar žmonės norėtų mokėti operacijos mokestį, o gal mokėti prenumeratos mokestį, kad gautų prieigą prie generuojamųjų AI įrankių?

Ar skelbimai gali būti priemonė užsidirbti pinigų naudojant generatyvius AI įrankius?

Niekas dar nėra visiškai tikras, kaip tai leis uždirbti pinigų. Mes vis dar esame didžiajame tokio tipo AI eksperimentiniame etape. Įdėkite AI programą ir pažiūrėkite, kokios reakcijos sulauksite. Sureguliuokite AI. Pasinaudokite naudojimo įžvalgomis, kad nurodytumėte, kur AI turėtų būti nukreiptas toliau.

Putoja, nuplaukite, pakartokite.

Baigiamasis komentaras – kol kas kai kurie mano, kad tai yra AI tipas, kurio neturėtume turėti. Pasukite laikrodį atgal. Įdėkite šį džiną atgal į butelį. Mes paragavome jo ir supratome, kad jis turi reikšmingų minusų, o bendrai, kaip visuomenė, gali susitarti, kad turėtume nueiti tą arklį iki pat tvarto.

Ar manote, kad generatyvaus AI pažadas yra geresnis ar blogesnis už neigiamas puses?

Žvelgiant iš tikro pasaulio, tai nėra ypač svarbu, nes generatyvaus AI panaikinimo realybė paprastai yra nepraktiška. Generatyvusis dirbtinis intelektas yra toliau plėtojamas ir jūs neketinate jo sustabdyti nei čia, nei bet kurioje ar visose kitose šalyse (taip yra). Kaip jūs tai padarytumėte? Priimkite įstatymus, kad visiškai uždraustumėte generatyvųjį AI. Ne itin perspektyvus (greičiausiai turite daugiau galimybių nustatyti įstatymus, kurie formuoja generatyvųjį AI ir siekia teisėtai valdyti tuos, kurie jį kuria). Galbūt vietoj to, kad kultūra vengtų generatyvaus AI? Galite priversti kai kuriuos žmones sutikti su gėdymu, bet kiti nesutiks ir vis tiek imsis generatyvaus AI.

Tai yra AI etikos ir AI įstatymo galvosūkis, kaip minėjau anksčiau.

Jūsų paskutinis didelis klausimas yra tai, ar generatyvusis AI veda mus į jautrų AI kelią. Kai kurie tvirtina, kad taip. Argumentas yra tas, kad jei mes tik nuolat didinsime matematinių modelių dydį ir skaičiuosime kompiuterinius serverius ir kiekvieną interneto kąsnelį ir dar daugiau paduosime šiam žvėriui, algoritminis AI pavers užkampį jausmingumu.

Ir jei taip, mes susiduriame su susirūpinimu, kad AI yra egzistencinė rizika. Ne kartą girdėjote, kad kai turėsime jautrų AI, gali būti, kad AI nuspręs, kad žmonės nėra labai naudingi. Kitas dalykas, kurį žinote, AI arba pavergė mus, arba išnaikino, žiūrėkite mano šių egzistencinių pavojų tyrinėjimą nuoroda čia.

Priešinga nuomonė yra ta, kad mes nepajusime nuovokos to, ką kai kurie šmaikščiai apibūdino kaip stochastinė papūga (tai yra posakis, kuris įgijo trauką dirbtinio intelekto srityje), čia yra citata, naudojant šią frazę:

• „Priešingai nei gali atrodyti, kai stebime jo išvestį, LM yra sistema, skirta atsitiktinai sujungti kalbinių formų sekas, kurias ji pastebėjo savo didžiuliuose mokymo duomenims, remiantis tikimybine informacija apie jų derinimą, bet be jokios nuorodos į prasmę. : stochastinė papūga“ (tyrime Emily M. Bender, Timnit Gebru, Angelina McMillan-Major, Shmargaret Shmitchell, ACM FAKTAS „21, 3 m. kovo 10–2021 d., virtualus renginys, Kanada, pavadinimu „Apie stochastinių papūgų pavojų: ar kalbos modeliai gali būti per dideli?“).

Ar generatyvusis DI yra tam tikra aklavietė, kuri suteiks naudingų AI galimybių, bet neprives mūsų prie juntamojo DI, ar gali kažkaip mastelio veiksnys paskatinti išskirtinumą, vedantį į jautrų AI?

Vyksta karštos diskusijos.

Pasakykite, ar norite išbandyti generatyvųjį AI?

Jei taip, čia yra nuoroda į ChatGPT, kur galite susikurti paskyrą ir pabandyti ją naudoti, žr nuoroda čia.

Atminkite, kad dėl didelės eksperimentinės AI programos naudojimo poreikis, matyt, bet kuriuo metu gali būti sustabdytas prisijungimas prie prieigos, trumpam arba apribotas (kai paskutinį kartą tikrinau, registracija vis dar buvo įjungta). Tiesiog įspėjau.

Prašome atsižvelgti į viską, ką čia sakiau apie generatyvųjį AI, kad žinotumėte, kas vyksta, kai naudojate AI programą, pvz., ChatGPT.

Apmąstykite savo veiksmus.

Ar netyčia privedėte mus prie jausmingo DI, kuris galiausiai išstumia mus iš egzistavimo, paprasčiausiai dėl to, kad nusprendėte žaisti su generuojamuoju AI? Ar būsi kaltas? Turėjai susilaikyti nuo siaubingo žmonijos sunaikinimo.

nemanau. Bet gali būti, kad AI viršininkai (jau) verčia mane tai pasakyti, o gal visą šį stulpelį šį kartą parašė ChatGPT arba lygiavertė generatyvinė AI programėlė.

Nesijaudink, užtikrinu, kad tai buvau aš, žmogaus intelektas, ir ne dirbtinis intelektas.