ჩვენ გადავწყვიტეთ, რომ JFrog-ის სკანერი ჩვენს პლატფორმაზე დავამატოთ, რათა Hugging Face Hub-ზე უსაფრთხოება კიდევ უფრო გავაუმჯობესოთ. JFrog-ის სკანერი სკანირების ახალ ფუნქციონალს გვთავაზობს, რომელიც მიზნად ისახავს Hub-ზე ცრუ დადებითი შედეგების შემცირებას. მართლაც, ჩვენ ამჟამად ვამჩნევთ, რომ მოდელის წონები შეიძლება შეიცავდეს კოდს, რომელიც სრულდება დესერიალიზაციის დროს და ზოგჯერ, ფორმატიდან გამომდინარე, დასკვნის გაკეთების (inference) დროსაც. ეს კოდი ხშირად არ არის მავნე და დეველოპერისთვის პრაქტიკული დანიშნულება აქვს. ვინაიდან ჩვენი picklescan სკანერი მხოლოდ მოდულის სახელებზე შაბლონურ შესაბამისობას ასრულებს, ჩვენ ყოველთვის ვერ დავადასტურებთ, რომ მოცემული ფუნქციის ან მოდულის გამოყენება მავნეა. JFrog ერთი ნაბიჯით უფრო ღრმად მიდის და გააანალიზებს კოდს, რომელსაც მოდელის წონებში იპოვის, რათა შეამოწმოს პოტენციური მავნე გამოყენება. გაინტერესებთ ჩვენს უსაფრთხოების პარტნიორობაში გაწევრიანება / Hub-ზე სკანირების ინფორმაციის მოწოდება? გთხოვთ, დაგვიკავშირდეთ [email protected] ელფოსტაზე. მოდელების გასაზიარებლად, ჩვენ ვასერიალიზებთ წონებს, კონფიგურაციებს და სხვა მონაცემთა სტრუქტურებს, რომლებსაც მოდელებთან ურთიერთობისთვის ვიყენებთ, რათა ხელი შევუწყოთ შენახვასა და ტრანსპორტირებას. ზოგიერთი სერიალიზაციის ფორმატი მოწყვლადია მავნე ექსპლოიტების მიმართ, როგორიცაა თვითნებური კოდის შესრულება (Pickle-ს გიყურებთ), რაც ამ ფორმატების გამოყენებით გაზიარებულ მოდელებს პოტენციურად საშიშს ხდის. ვინაიდან Hugging Face მოდელების გაზიარების პოპულარულ პლატფორმად იქცა, გვსურს დავეხმაროთ საზოგადოებას ამისგან დაცვაში, რის გამოც შევიმუშავეთ ისეთი ინსტრუმენტები, როგორიცაა picklescan და რის გამოც JFrog-ს ჩვენს სკანერების კომპლექტში ვაერთიანებთ. Pickle არ არის ერთადერთი ექსპლოიტირებადი ფორმატი; იხილეთ მაგალითად, თუ როგორ შეიძლება Keras Lambda ფენების ექსპლოიტირება თვითნებური კოდის შესრულების მისაღწევად. კარგი ამბავი ის არის, რომ JFrog აღმოაჩენს ორივე ამ ექსპლოიტს და მეტსაც დამატებით ფაილის ფორმატებში – იხილეთ მათი Model Threats გვერდი სკანერის განახლებული ინფორმაციისთვის. უსაფრთხოების შესახებ ჩვენი სრული დოკუმენტაცია იხილეთ აქ: https://huggingface.co/docs/hub/security 🔥 თქვენ არაფრის გაკეთება არ გჭირდებათ ამით სარგებლობისთვის! ყველა საჯარო მოდელის რეპოზიტორი ავტომატურად დასკანირდება JFrog-ის მიერ, როგორც კი თქვენს ფაილებს Hub-ზე ატვირთავთ (push). აქ არის მაგალითი რეპოზიტორი, რომლის შემოწმებაც შეგიძლიათ ფუნქციის მოქმედებაში სანახავად: mcpotato/42-eicar-street. გაითვალისწინეთ, რომ დღეის მდგომარეობით შესაძლოა ვერ ნახოთ თქვენი მოდელის სკანირება, რადგან ჩვენ მილიონობით მოდელის რეპოზიტორი გვაქვს. შეიძლება დრო დაგვჭირდეს, რომ ყველას დავეწიოთ 😅. საერთო ჯამში, ჩვენ უკვე დავასკანირეთ ასობით მილიონი ფაილი, რადგან გვჯერა, რომ საზოგადოებისთვის მოდელების უსაფრთხოდ და შეუფერხებლად გაზიარების შესაძლებლობის მიცემა მთელი სფეროს ზრდას შეუწყობს ხელს. 📻 🎙️ ჰეი, ამ ბლოგპოსტის შესახებ ხელოვნური ინტელექტის პოდკასტი შევქმენი, ნახეთ! ეს პოდკასტი გენერირებულია ngxson/kokoro-podcast-generator-ის მეშვეობით, DeepSeek-R1 და Kokoro-TTS-ის გამოყენებით. „გააგრძელეთ ამ მოდელების უსაფრთხოდ ჩახუტება“ – ეს არის დასკვნითი ფრაზა, მომწონს! · დარეგისტრირდით ან შეხვიდეთ კომენტარის დასაწერად