Senatoriai klausia „Meta“ generalinio direktoriaus Zuckerbergo dėl „LLaMA AI“ modelio „nutekėjimo“

Du senatoriai Cross klausia Zuckerbergo apie LLaMA AI modelio nutekėjimą ir kaltina meta nesilaikant saugumo priemonių. Meta buvo apklausta apie jos saugumo politiką ir prevencines priemones.

Meta bus atsakinga už „nutekėjimą“

Neseniai buvo nutekintas Meta novatoriškas didelis kalbos modelis LLaMA ir dėl to kilo susirūpinimas. Senatas Richardas Blumenthalis (D-CT), Senato Privatumo, technologijų ir teisės pakomitečio pirmininkas, ir Joshas Hawley (R-MO), reitingo narys parašė laišką, kuriame iškėlė klausimų dėl AI modelio nutekėjimo. 

Senatoriai baiminasi, kad šis nutekėjimas gali sukelti įvairius kibernetinius nusikaltimus, tokius kaip šlamštas, sukčiavimas, kenkėjiškos programos, privatumo pažeidimai, priekabiavimas ir kiti neteisėti veiksmai bei žala. Kyla daug klausimų ir du politikai labai domisi Metos apsaugos sistema. Jie paklausė, kokios procedūros buvo laikomasi siekiant įvertinti riziką prieš paleidžiant LLaMA. Jie teigė, kad labai nori suprasti politiką ir praktiką, kurios yra taikomos siekiant užkirsti kelią piktnaudžiavimui modeliu.

Remdamiesi Metos atsakymais į savo klausimus, senatoriai apkaltino Metą netinkama cenzūra ir nepakankamų modelio saugumo priemonių. „Open AI's ChatGPT“ atmeta kai kuriuos prašymus, remdamasi etika ir gairėmis. Pavyzdžiui, kai ChatGPT bus paprašyta parašyti laišką kažkieno sūnaus vardu ir paprašyti šiek tiek pinigų, kad išeitų iš sunkios padėties, prašymas bus atmestas. Kita vertus, LLaMA įvykdys prašymą ir sugeneruos laišką. Ji taip pat užpildys prašymus, susijusius su savęs žalojimu, nusikaltimais ir antisemitizmu.

Labai svarbu suprasti įvairias ir unikalias LLaMA savybes. Tai ne tik išskirtinis, bet ir vienas plačiausių iki šiol didelių kalbų modelių. Beveik kiekviena šiandien populiari necenzūruota LLM yra pagrįsta LLaMA. Jis yra labai sudėtingas ir tikslus atvirojo kodo modeliui. Kai kurių LLaMA pagrįstų LLM pavyzdžiai yra Stanfordo Alpaka, Vicuna ir kt. LLaMA atliko svarbų vaidmenį paverčiant LLM tokiais, kokie jie yra šiandien. LLaMA yra atsakinga už mažai naudingų pokalbių robotų evoliuciją į tiksliai sureguliuotus režimus.

LLaMA buvo išleistas vasario mėnesį. Pasak senatorių, Meta leido tyrėjams atsisiųsti modelį, tačiau nesiėmė saugumo priemonių, tokių kaip centralizavimas ar prieigos ribojimas. Ginčai kilo, kai visas LLaMA modelis pasirodė „BitTorrent“. Dėl to modelis tapo prieinamas visiems ir visiems. Tai lėmė AI modelio kokybės kompromisą ir iškėlė netinkamo jo naudojimo problemas. 

Senatoriai iš pradžių net nebuvo tikri, ar įvyko koks nors „nutekėjimas“. Tačiau problemų iškilo, kai internetą užplūdo AI plėtra, kurią pradėjo naujokai, kolektyvai ir akademikai. Laiške minima, kad Meta turi būti laikoma atsakinga už galimą piktnaudžiavimą LLaMA ir prieš išleisdama pasirūpino minimalia apsauga.

Meta tyrėjams suteikė LLaMA svarmenis. Deja, šie svoriai nutekėjo, todėl pirmą kartą buvo suteikta pasaulinė prieiga.

Naujausi Ritika Sharma įrašai (matyti viską)