Навсозӣ: Apple аз санҷиши дуюми сервер ёдовар шуд ва як ширкати касбии биниши компютер имкони он чизеро, ки онро дар "Чӣ гуна санҷиши дуюм кор карда метавонад" дар зер тавсиф кард.
Пас аз он ки таҳиягарон қисмҳои тарроҳии онро баргардонанд, версияи аввали системаи Apple CSAM барои нишон додани тасвири бегуноҳ ба таври муассир фиреб дода шуд.Бо вуҷуди ин, Apple изҳор дошт, ки барои пешгирии ин дар ҳаёти воқеӣ кафолатҳои иловагӣ дорад.
Рушди охирин пас аз интишори алгоритми NeuralHash дар вебсайти таҳиягари кушодаи GitHub рух дод, ҳар кас метавонад бо он озмоиш кунад…
Ҳама системаҳои CSAM тавассути ворид кардани пойгоҳи додаҳои маводи зӯроварии ҷинсии кӯдакон аз созмонҳо ба монанди Маркази миллии кӯдакони гумшуда ва истисморшаванда (NCMEC) кор мекунанд.Махзани маълумот дар шакли хэш ё изи ангуштони рақамӣ аз тасвирҳо пешниҳод карда мешавад.
Ҳарчанд аксари бузургҷуссаҳои технологӣ аксҳои дар абр боршударо скан мекунанд, Apple алгоритми NeuralHash-ро дар iPhone-и муштарӣ барои тавлиди арзиши хэши акси ҳифзшуда истифода мебарад ва сипас онро бо нусхаи зеркашидашудаи арзиши hash CSAM муқоиса мекунад.
Дирӯз як таҳиягар изҳор дошт, ки алгоритми Apple-ро баръакс таҳия кардааст ва кодро ба GitHub нашр кардааст - ин иддао аз ҷониби Apple ба таври муассир тасдиқ карда шуд.
Дар тӯли чанд соат пас аз нашри GitHib, муҳаққиқон алгоритмро бомуваффақият истифода бурданд, то як мусбати бардурӯғро эҷод кунанд - ду тасвири комилан гуногун, ки як арзиши хэшро тавлид мекарданд.Инро бархӯрд меноманд.
Барои чунин системаҳо ҳамеша хатари бархӯрд вуҷуд дорад, зеро ҳаш албатта як намоиши хеле соддашудаи тасвир аст, аммо тааҷҷубовар аст, ки касе метавонад тасвирро ин қадар зуд тавлид кунад.
Бархӯрди қасдан дар ин ҷо танҳо далели консепсия аст.Таҳиягарон ба пойгоҳи додаҳои CSAM-и ҳаш дастрасӣ надоранд, ки эҷоди мусбатҳои бардурӯғро дар системаи вақти воқеӣ талаб мекунад, аммо ин исбот мекунад, ки ҳамлаҳои бархӯрд дар асл нисбатан осонанд.
Apple ба таври муассир тасдиқ кард, ки алгоритм асоси системаи худ аст, аммо ба motherboard гуфт, ки ин версияи ниҳоӣ нест.Ширкат инчунин изҳор дошт, ки ҳеҷ гоҳ нияти махфӣ нигоҳ доштани онро надорад.
Apple дар паёми электронӣ ба Motherboard гуфт, ки версияи таҳлилкардаи корбар дар GitHub версияи умумӣ аст, на версияи ниҳоӣ барои муайян кардани iCloud Photo CSAM.Apple гуфт, ки он алгоритмро низ ошкор кардааст.
"Алгоритм NeuralHash [...] як қисми рамзи системаи оператсионии имзошуда аст [ва] муҳаққиқони амният метавонанд тафтиш кунанд, ки рафтори он ба тавсиф мувофиқат мекунад", навиштааст як ҳуҷҷати Apple.
Ширкат дар идома гуфт, ки ду қадами дигар вуҷуд дорад: ба кор андохтани системаи дуюмдараҷа (махфӣ) дар сервери худ ва баррасии дастӣ.
Apple инчунин изҳор дошт, ки пас аз он ки корбарон аз ҳадди 30-бозӣ гузаранд, як алгоритми дуюми ғайридавлатӣ, ки дар серверҳои Apple кор мекунад, натиҷаҳоро тафтиш мекунад.
"Ин хэши мустақил барои рад кардани эҳтимолияти он, ки NeuralHash-и хато ба махзани рамзшудаи CSAM дар дастгоҳ бо сабаби дахолати мухолифи тасвирҳои ғайри CSAM мувофиқат кунад ва аз ҳадди мувофиқ зиёд бошад, интихоб шудааст."
Брэд Дуйер аз Roboflow роҳи ба осонӣ фарқ кардани ду тасвиреро ёфт, ки ҳамчун далели консепсияи ҳамлаи бархӯрд интишор шудааст.
Ман ҳайронам, ки ин тасвирҳо дар CLIP як истихроҷи хусусияти нейронии OpenAI чӣ гуна ба назар мерасанд.CLIP ба монанди NeuralHash кор мекунад;он тасвир мегирад ва шабакаи нейронро барои тавлиди маҷмӯи векторҳои хусусият, ки ба мундариҷаи тасвир харита мекунанд, истифода мебарад.
Аммо шабакаи OpenAI дигар аст.Ин як модели умумӣ аст, ки метавонад байни тасвирҳо ва матн харита кунад.Ин маънои онро дорад, ки мо метавонем онро барои истихроҷи иттилооти тасвирии ба инсон фаҳмо истифода барем.
Ман ду тасвири бархӯрди дар боло бударо тавассути CLIP иҷро кардам, то бубинам, ки оё он низ фиреб дода шудааст.Ҷавоби кӯтоҳ ин аст: не.Ин маънои онро дорад, ки Apple бояд қодир бошад, ки шабакаи дуюми истихроҷкунандаро (ба монанди CLIP) ба тасвирҳои ошкоршудаи CSAM татбиқ кунад, то онҳо воқеӣ ё қалбакӣ будани онҳоро муайян кунанд.Эҷоди тасвирҳое, ки дар як вақт ду шабакаро фиреб медиҳанд, хеле мушкилтар аст.
Ниҳоят, тавре ки дар боло зикр гардид, тасвирҳо дастӣ баррасӣ карда мешаванд, то тасдиқ кунанд, ки онҳо CSAM мебошанд.
Як пажӯҳишгари амният гуфт, ки ягона хатари воқеӣ ин аст, ки ҳар касе, ки Apple-ро хашмгин кардан мехоҳад, метавонад ба баррасиҳои инсонӣ мусбатҳои бардурӯғ пешниҳод кунад.
"Apple ин системаро воқеан тарроҳӣ кардааст, бинобар ин, функсияи хэш набояд махфӣ нигоҳ дошта шавад, зеро ягона коре, ки шумо метавонед бо "ғайри CSAM ҳамчун CSAM" кор карда метавонед, ин аст, ки гурӯҳи вокуниши Apple бо баъзе тасвирҳои номатлуб то он даме, ки онҳо филтрҳоро барои нест кардани онҳо татбиқ накунанд, хашмгин кунед. Таҳлил Он партовҳо дар лӯла мусбати бардурӯғ мебошанд "гуфт Николас Уивер, ходими калони илмии Институти илмҳои байналмилалии компютерӣ дар Донишгоҳи Калифорния, Беркли, дар сӯҳбати онлайн ба Motherboard.
Махфият масъалаи ташвишовар дар ҷаҳони имрӯза мебошад.Ҳама гузоришҳои марбут ба махфият, амният ва ғайраро дар дастурҳои мо риоя кунед.
Бен Лавҷой нависандаи техникии бритониёӣ ва муҳаррири ИА барои 9to5Mac мебошад.Вай бо сутунҳо ва мақолаҳои рӯзномаи худ машҳур аст, ки таҷрибаи худро бо маҳсулоти Apple бо мурури замон омӯхтааст, то баррасиҳои ҳамаҷониба гиред.Вай инчунин роман менависад, ду триллерҳои техникӣ, чанд филми кӯтоҳмуддати фантастикӣ ва як ром-ком!
Вақти фиристодан: 20 август-2021