„Meta“ palaiko naują platformą, padedančią nepilnamečiams nušluostyti nuogas, seksualinius vaizdus iš interneto

TNacionalinis dingusių ir išnaudojamų vaikų centras įkūrė „Meta“ finansuojamą platformą, skirtą padėti vaikams ir paaugliams iš socialinių tinklų pašalinti nuogų ar seksualias nuotraukas ir vaizdo įrašus.

Nauja paslauga nepilnamečiams, vadinama Nurimti, buvo pristatytas praėjus metams po to, kai buvo išleistas panašus įrankis suaugusiems, žinomas kaip StopNCII (sutrumpintas intymus vaizdas be sutikimo). Šiandien „Take It Down“ veiks tik penkiose platformose, kurios sutiko dalyvauti: „Meta“ priklausančiose „Facebook“ ir „Instagram“, taip pat „Yubo“, „OnlyFans“ ir „Pornhub“.

„Mes sukūrėme šią sistemą, nes daugelis vaikų susiduria su tokiomis beviltiškomis situacijomis“, – sakė NCMEC prezidentė ir generalinė direktorė Michelle DeLaune. „Tikimės, kad vaikai sužinos apie šią paslaugą ir pajus palengvėjimą, kad egzistuoja įrankiai, padedantys nuimti vaizdus.

Tai, kaip socialinės žiniasklaidos įmonės saugo vaikus ir paauglius (ir kur jiems nepasiseka), naujajame Kongrese iškilo kaip svarbiausias dvišalės technologijų politikos klausimas, o įstatymų leidėjai turi didžiausią galimybę priimti teisės aktus. Vis dėlto laukia ilgas kelias iki bet kokių pasiūlymų sukurti ar sustiprinti apsaugos priemones, o neišvengiant įstatymų, NCMEC ir toliau veikia kaip tiltas tarp internetinių įmonių ir teisėsaugos institucijų vaikų saugos klausimais. 2021 m. ne pelno organizacija gavo beveik 30 milijonų patarimų iš visos pramonės šakos apie akivaizdų sekso iškraipymą ir seksualinės prievartos prieš vaikus medžiagą savo platformose. Daugumą pranešė „Meta“ priklausančios platformos.

Gali naudotis nepilnamečiai ir tėvai Nemokamas anoniminis NCMEC įrankis pažymėti atvirą nepilnamečio asmens medžiagą, kuri buvo arba, jų manymu, bus paskleista internete. Kai jie savo įrenginyje pasirenka jautrias nuotraukas ar vaizdo įrašus, platforma sugeneruoja skaitmeninio tos nuotraukos piršto atspaudo atitikmenį (vadinamą „maiša“), kurį NCMEC bendrina su dalyvaujančiomis socialinės žiniasklaidos svetainėmis, kad jie galėtų pabandyti surasti, apriboti arba pašalinti, ir toliau stebėti tą turinį.

Pasak NCMEC, nagrinėjamos nuotraukos ar vaizdo įrašai nepalieka įrenginio ir jų niekas nemato. (Nuotraukos maišos taip pat neleidžia aukų identifikuoti nei NCMEC, nei socialinės žiniasklaidos programai, o tai tik signalizuoja, kad vaizdas yra žalingas ir turėtų būti pašalintas.) NCMEC teigė, kad nebuvo jokių žinomų jos maišos duomenų bazės pažeidimų, kurie galėtų atskleisti asmens tapatybę. .

Tačiau viena didžiausių kliūčių šioms pastangoms yra nuolatinio šifravimo augimas. „Kai technologijų įmonės įgyvendina visišką šifravimą be jokių prevencinių priemonių, skirtų aptikti žinomą vaikų seksualinio išnaudojimo medžiagą, poveikis vaikų saugumui yra pražūtingas“, – Senato teismų komiteto posėdyje šį mėnesį sakė NCMEC prezidentas DeLaune'as. . Dramblys kambaryje yra tai, kad finansinis rėmėjas ir žymiausia „Take It Down“ įmonė „Meta“ yra klipas juda link šifravimo nuo galo iki galo tiek „Instagram“, tiek „Messenger“.

Kaip abi organizacijos gali tai suderinti, yra „milijonų dolerių klausimas“, - sakė NCMEC viceprezidentas Gavinas Portnoy. "Forbes", pažymėdamas, kad NCMEC vis dar tiksliai nežino, kokie yra „Meta“ šifravimo planai ir kokios apsaugos priemonės gali būti taikomos. (Meta sakė, kad jie yra nebaigti ir kad įvairios šifravimo funkcijos yra testuojamos Instagram ir Messenger.)

„Mes kuriame „Take It Down“ taip, kaip šiandien yra internetas ir [elektroninių paslaugų teikėjas]“, – sakė Portnoy. „Tai tikrai yra tiltas, kurį turėsime pereiti, kai geriau suprasime, kaip atrodo [Meta] visapusiška šifravimo aplinka ir ar yra pasaulis, kuriame gali veikti Take It Down.

Pasak „Meta“ pasaulinės saugos vadovės Antigone Davis "Forbes" kad „dėl šifravimo mes neatpažinsime tam tikrų vaizdų“, tačiau tai tampa pramonės standartu pranešimuose, kurie yra labai svarbūs vartotojų privatumui ir saugumui. Maišos technologijos naudojimas ir NCMEC palaikymas tokiuose projektuose kaip šis yra vienas iš kelių būdų, kaip Meta bando „iš tikrųjų įveikti problemą“, – sakė ji. (Abi šalys atsisakė pasakyti, kiek pinigų Meta skyrė NCMEC, kad sukurtų Take It Down.)

„Nėra panacėjos šioms problemoms spręsti“, – interviu sakė Davisas, apibūdindamas Metos požiūrį kaip „daugialypį“. „Meta“ ne tik bendradarbiauja kuriant šią naują sistemą, kuria siekiama užkirsti kelią sekso iškraipymui ir nesant sutikimo intymių vaizdų sklaidai, bet ir neleidžia suaugusiems nepažįstamiems asmenims susisiekti su nepilnamečiais per savo susirašinėjimo funkcijas, sakė ji. Ji taip pat naudoja klasifikatorius, kad neleistų nepilnamečių paskyrų ir turinio persiųsti suaugusiems Meta naudotojams, kurie internete demonstravo įtartiną elgesį, pridūrė ji.

„Tikiuosi, kad žmonės, kurių atvaizdais jaunystėje dalijosi kas nors – iš tėvų, kurie juos išnaudojo, kitas suaugusysis, kuris juos išnaudojo, buvęs vaikinas ar mergina –, jie jausis susidomėję naudokite šį įrankį“, – sakė Deivis.

NCMEC teigė, kad kai kuriuos išsakė 200 kitų elektroninių paslaugų teikėjų kurie pateikė informaciją savo „CyberTipline“ apie prisijungimą prie programos Take It Down. Lieka laukti, kas dar – be nedidelės saujelės socialinių tinklų žaidėjų, kurie šiandien tai palaiko – pateks į laivą. Yubo savo ruožtu teigė, kad tikisi, kad šie ankstyvieji vartotojai paskatins kitus prisijungti.

„Norint sumažinti riziką ir išspręsti problemas internete, reikia daugiau nei tik vyriausybės įsikišimo“, – el. paštu sakė „Yubo“ generalinis direktorius Sacha Lazimi. „Visi aktoriai turi atlikti savo vaidmenį. … Bendradarbiavimas yra labai svarbus ieškant didelių iššūkių sprendimų, todėl tikimės, kad prie iniciatyvos Take It Down prisijungs daugiau platformų.

DAUGIAU NUO FORBŲKaip „TikTok Live“ tapo „Strip klubu, kuriame gausu 15-mečių“By Alexandra S. LevineDAUGIAU NUO FORBŲŠios „TikTok“ paskyros akivaizdžiai slepia seksualinės prievartos prieš vaikus medžiagąBy Alexandra S. LevineDAUGIAU NUO FORBŲ„TikTok“ moderatoriai mokomi naudojant grafinius seksualinės prievartos prieš vaikus vaizdusBy Alexandra S. Levine