მანქანურ სწავლებაში მიკერძოების დაძლევა: Hugging Face-ის მიდგომები და ინსტრუმენტები

ეს ნიშნავს, რომ მანქანური სწავლების (ML) სისტემების გულისხმიერი განვითარება მოითხოვს სიფხიზლეს და რეაგირებას უკუკავშირზე იმ კონტექსტებიდან, სადაც ისინი გამოიყენება. ჩვენ შეგვიძლია ამის ხელშეწყობა გამოცდილების გაზიარებით სხვადასხვა კონტექსტში და ინსტრუმენტების შემუშავებით, რომლებიც გააანალიზებენ მიკერძოების ნიშნებს ML განვითარების ყველა დონეზე. Hugging Face-ის (@🤗) გუნდის „ეთიკა და საზოგადოება“ რეგულარული ბლოგ-პოსტი გვიზიარებს ზოგიერთ გაკვეთილს, რაც ვისწავლეთ, ასევე იმ ინსტრუმენტებს, რომლებიც შევიმუშავეთ, რათა მხარი დავუჭიროთ საკუთარ თავს და სხვებს ჩვენი საზოგადოების მცდელობებში, უკეთესად მოვაგვაროთ მიკერძოების პრობლემა მანქანურ სწავლებაში. პირველი ნაწილი წარმოადგენს მიკერძოებისა და მისი კონტექსტის უფრო ფართო ასახვას. თუ უკვე წაიკითხეთ და ბრუნდებით სპეციალურად ინსტრუმენტებისთვის, შეგიძლიათ პირდაპირ გადახვიდეთ მონაცემთა ნაკრებების (datasets) ან მოდელების განყოფილებაზე! **Hugging Face-ის გუნდის წევრების მიერ შემუშავებული ინსტრუმენტების არჩევანი ML-ში მიკერძოების წინააღმდეგ საბრძოლველად** **სარჩევი:** მანქანური სწავლების (ML) სისტემები საშუალებას გვაძლევს ავტომატიზაცია გავუკეთოთ კომპლექსურ ამოცანებს უპრეცედენტო მასშტაბით, რადგან ისინი გამოიყენება სულ უფრო მეტ სექტორსა და შემთხვევაში. როდესაც ტექნოლოგია საუკეთესოდ მუშაობს, მას შეუძლია ხელი შეუწყოს ადამიანებსა და ტექნიკურ სისტემებს შორის ურთიერთქმედების გამარტივებას, მოხსნას უაღრესად განმეორებითი სამუშაოს საჭიროება, ან განბლოკოს ინფორმაციის დამუშავების ახალი გზები კვლევის მხარდასაჭერად. ამავე სისტემებს ასევე შეუძლიათ გაიმეორონ დისკრიმინაციული და შეურაცხმყოფელი ქცევები, რომლებიც წარმოდგენილია მათ საწვრთნელ მონაცემებში, განსაკუთრებით მაშინ, როდესაც მონაცემები ადამიანურ ქცევებს ასახავს. ტექნოლოგიას მაშინ აქვს პოტენციალი, რომ ეს პრობლემები მნიშვნელოვნად გაამწვავოს. ავტომატიზაციამ და ფართომასშტაბიანმა დანერგვამ ნამდვილად შეიძლება: ამ რისკების უკეთ გასაგებად და მოსაგვარებლად, ML მკვლევარებმა და დეველოპერებმა დაიწყეს მანქანური მიკერძოების ან ალგორითმული მიკერძოების შესწავლა – მექანიზმების, რომლებმაც შესაძლოა სისტემები მიიყვანოს, მაგალითად, ნეგატიური სტერეოტიპების ან ასოციაციების დაშიფვრამდე, ან განსხვავებული ეფექტურობის გამოვლენამდე სხვადასხვა მოსახლეობის ჯგუფებისთვის მათი გამოყენების კონტექსტში. ეს საკითხები ღრმად პირადულია მრავალი ჩვენგანისთვის, ML მკვლევრებისა და დეველოპერებისთვის Hugging Face-ში და ML-ის უფრო ფართო საზოგადოებაში. Hugging Face არის საერთაშორისო კომპანია, სადაც ბევრი ჩვენგანი ცხოვრობს სხვადასხვა ქვეყნებსა და კულტურებს შორის. ძნელია სრულად გამოვხატოთ ჩვენი გადაუდებელი საჭიროების შეგრძნება, როდესაც ვხედავთ ტექნოლოგიას, რომელზეც ვმუშაობთ, ვითარდება ჩვენნაირი ადამიანების დაცვის საკმარისი ზრუნვის გარეშე; განსაკუთრებით მაშინ, როდესაც ეს სისტემები იწვევს დისკრიმინაციულ, არასწორ დაკავებებს ან არასათანადო ფინანსურ სირთულეებს და სულ უფრო მეტად იყიდება საიმიგრაციო და სამართალდამცავ სამსახურებზე მთელ მსოფლიოში. ანალოგიურად, ჩვენი იდენტობების რუტინულად ჩახშობა საწვრთნელ მონაცემთა ნაკრებებში ან „გენერაციული AI“ სისტემების გამომავალ შედეგებში მათი არასაკმარისი წარმოდგენა, ამ შეშფოთებებს ჩვენს ყოველდღიურ ცხოვრებისეულ გამოცდილებასთან აკავშირებს ისე, რომ ეს ერთდროულად შემეცნებითიცაა და დამღლელიც. მიუხედავად იმისა, რომ ჩვენი საკუთარი გამოცდილება არ ფარავს იმ უამრავ გზას, რომლითაც ML-ით განპირობებულმა დისკრიმინაციამ შეიძლება არაპროპორციულად დააზიანოს ადამიანები, რომელთა გამოცდილებაც ჩვენგან განსხვავებულია, ისინი უზრუნველყოფენ საწყის წერტილს ტექნოლოგიისთვის დამახასიათებელი კომპრომისების განსახილველად. ჩვენ ვმუშაობთ ამ სისტემებზე, რადგან მტკიცედ გვჯერა ML-ის პოტენციალის — ვფიქრობთ, მას შეუძლია გაბრწყინდეს, როგორც ღირებული ინსტრუმენტი, თუ ის განვითარდება გულისხმიერად და მისი გამოყენების კონტექსტში მყოფი ადამიანების წვლილით, ვიდრე როგორც ერთზომიანი პანაცეა. კერძოდ, ამ გულისხმიერების უზრუნველყოფა მოითხოვს მანქანური მიკერძოების მექანიზმების უკეთ გაგებას ML განვითარების მთელი პროცესის განმავლობაში, და ინსტრუმენტების შემუშავებას, რომლებიც მხარს უჭერენ სხვადასხვა ტექნიკური ცოდნის მქონე ადამიანებს ამ სისტემების შესახებ, რათა მათ მიიღონ მონაწილეობა აუცილებელ საუბრებში იმის თაობაზე, თუ როგორ ნაწილდება მათი სარგებელი და ზიანი. Hugging Face-ის „ეთიკა და საზოგადოება“ გუნდის ამჟამინდელი ბლოგ-პოსტი გვაწვდის მიმოხილვას იმის შესახებ, თუ როგორ ვმუშაობდით, ვმუშაობთ, ან ვურჩევთ HF ბიბლიოთეკების ეკოსისტემის მომხმარებლებს, იმუშაონ მიკერძოების მოსაგვარებლად ML განვითარების სხვადასხვა ეტაპზე, და ასევე იმ ინსტრუმენტებზე, რომლებსაც ვავითარებთ ამ პროცესის მხარდასაჭერად. ვიმოვნებთ, რომ ის სასარგებლო რესურსი იქნება თქვენი მუშაობის სოციალური ზემოქმედების კონკრეტული განხილვისთვის და აქ მოხსენიებული ინსტრუმენტების გამოყენება შეგეძლებათ ამ პრობლემების შესამსუბუქებლად, როდესაც ისინი წარმოიქმნება. პირველი და შესაძლოა ყველაზე მნიშვნელოვანი კონცეფცია, რომელიც გასათვალისწინებელია მანქანურ მიკერძოებასთან გამკლავებისას, არის კონტექსტი. მიკერძოების შესახებ NLP-ში თავიანთ ფუნდამენტურ ნაშრომში, სუ ლინ ბლოდჯეტმა და სხვებმა აღნიშნეს, რომ: „[მანქანური მიკერძოების შესახებ აკადემიური ნაშრომების] უმრავლესობა ვერ ახერხებს კრიტიკულად გააანალიზოს, თუ რა წარმოადგენს „მიკერძოებას“ პირველ რიგში“, მათ შორის მათი მუშაობის დაფუძნებით „გამოუთქმელ ვარაუდებზე იმის შესახებ, თუ რა სახის სისტემური ქცევებია მავნე, რა გზებით, ვისთვის და რატომ“. ეს შესაძლოა არ იყოს გასაკვირი, იმის გათვალისწინებით, რომ ML კვლევითი საზოგადოება ყურადღებას ამახვილებს „განზოგადების“ ღირებულებაზე – სფეროში მუშაობის ყველაზე ხშირად მოხსენიებულ მოტივაციაზე „ეფექტურობის“ შემდეგ. თუმცა, მიუხედავად იმისა, რომ მიკერძოების შეფასების ინსტრუმენტები, რომლებიც გამოიყენება ფართო სპექტრის პარამეტრებში, ღირებულია მოდელის ქცევებში საერთო ტენდენციების უფრო ფართო ანალიზის უზრუნველსაყოფად, მათი უნარი მიზანში ამოიღონ ის მექანიზმები, რომლებიც კონკრეტულ გამოყენების შემთხვევებში დისკრიმინაციას იწვევს, თავისთავად შეზღუდულია. მათი გამოყენება ML განვითარების ციკლში კონკრეტული გადაწყვეტილებების მისაღებად, ჩვეულებრივ, მოითხოვს დამატებით ერთ ან ორ ნაბიჯს სისტემის...