მანქანური სწავლების სისტემებში მიკერძოების დაძლევა: Hugging Face-ის ინსტრუმენტები და გაკვეთილები

ეს ნიშნავს, რომ მანქანური სწავლების (ML) სისტემების გულისხმიერი განვითარება მოითხოვს სიფხიზლეს და განლაგების კონტექსტებიდან მიღებულ უკუკავშირზე რეაგირებას, რასაც, თავის მხრივ, ხელს შევუწყობთ კონტექსტებს შორის გამოცდილების გაზიარებით და ML განვითარების ყველა დონეზე მიკერძოების ნიშნების ანალიზისთვის ინსტრუმენტების შექმნით. ეს ბლოგ-პოსტი Hugging Face-ის ეთიკისა და საზოგადოების რეგულარული წევრებისგან გვიზიარებს ზოგიერთ გაკვეთილს, რაც ვისწავლეთ, ასევე იმ ინსტრუმენტებს, რომლებიც შევიმუშავეთ საკუთარი თავის და ჩვენი საზოგადოების სხვა წევრების მხარდასაჭერად მანქანურ სწავლებაში მიკერძოების უკეთ მოგვარების მცდელობებში. პირველი ნაწილი წარმოადგენს მიკერძოებისა და მისი კონტექსტის ფართო ასახვას. თუ უკვე წაიკითხეთ და ბრუნდებით კონკრეტულად ინსტრუმენტებისთვის, შეგიძლიათ გადახვიდეთ მონაცემთა ნაკრებების ან მოდელების განყოფილებაზე! Hugging Face-ის გუნდის წევრების მიერ შემუშავებული ინსტრუმენტების არჩევანი ML-ში მიკერძოების მოსაგვარებლად შინაარსი: ML სისტემები საშუალებას გვაძლევს ავტომატიზაცია გავუკეთოთ კომპლექსურ ამოცანებს უპრეცედენტო მასშტაბით, რადგან ისინი გამოიყენება უფრო მეტ სექტორსა და გამოყენების შემთხვევებში. როდესაც ტექნოლოგია საუკეთესოდ მუშაობს, მას შეუძლია ხელი შეუწყოს ადამიანებსა და ტექნიკურ სისტემებს შორის ურთიერთქმედების გამარტივებას, აღმოფხვრას მაღალ განმეორებადი სამუშაოს საჭიროება, ან განბლოკოს ინფორმაციის დამუშავების ახალი გზები კვლევის მხარდასაჭერად. ეს იგივე სისტემები ასევე მიდრეკილია გაიმეორონ დისკრიმინაციული და შეურაცხმყოფელი ქცევები, რომლებიც წარმოდგენილია მათ საწვრთნელ მონაცემებში, განსაკუთრებით მაშინ, როდესაც მონაცემები ადამიანურ ქცევებს ასახავს. ამ შემთხვევაში ტექნოლოგიას აქვს პოტენციალი, რომ ეს პრობლემები მნიშვნელოვნად გაამწვავოს. ავტომატიზაციამ და ფართომასშტაბიანმა განლაგებამ ნამდვილად შეიძლება: ამ რისკების უკეთ გასაგებად და მოსაგვარებლად, ML მკვლევრებმა და დეველოპერებმა დაიწყეს მანქანური მიკერძოების ან ალგორითმული მიკერძოების შესწავლა – მექანიზმების, რომლებმაც შეიძლება სისტემები მიიყვანოს, მაგალითად, ნეგატიური სტერეოტიპების ან ასოციაციების კოდირებამდე, ან სხვადასხვა პოპულაციის ჯგუფებისთვის განსხვავებული ეფექტურობის გამოვლენამდე მათი განლაგების კონტექსტში. ეს საკითხები ღრმად პირადულია მრავალი ML მკვლევრისა და დეველოპერისთვის Hugging Face-ში და ML საზოგადოებაში. Hugging Face საერთაშორისო კომპანიაა, სადაც მრავალი ჩვენგანი ქვეყნებსა და კულტურებს შორის არსებობს. რთულია სრულად გამოვხატოთ ჩვენი გადაუდებელი შეგრძნება, როდესაც ვხედავთ, რომ ტექნოლოგია, რომელზეც ვმუშაობთ, ვითარდება ჩვენნაირი ადამიანების დაცვის საკმარისი ზრუნვის გარეშე; განსაკუთრებით მაშინ, როდესაც ეს სისტემები იწვევს დისკრიმინაციულ, არასწორ დაკავებებს ან არასათანადო ფინანსურ სირთულეებს და სულ უფრო ხშირად იყიდება იმიგრაციისა და სამართალდამცავ ორგანოებზე მთელ მსოფლიოში. ანალოგიურად, ჩვენი იდენტობების რუტინულად დათრგუნვა საწვრთნელ მონაცემთა ნაკრებებში ან მათი არასაკმარისი წარმოდგენა „გენერაციული ხელოვნური ინტელექტის“ სისტემების გამოსავალში, ამ შეშფოთებებს ჩვენს ყოველდღიურ ცხოვრებისეულ გამოცდილებებთან აკავშირებს ისეთი გზებით, რომლებიც ერთდროულად ნათელი და დამღლელია. მიუხედავად იმისა, რომ ჩვენი საკუთარი გამოცდილება არ ფარავს ML-ით განპირობებული დისკრიმინაციის უამრავ გზას, რომლებმაც შეიძლება არაპროპორციულად დააზიანოს ადამიანები, რომელთა გამოცდილება ჩვენგან განსხვავებულია, ისინი უზრუნველყოფენ საწყის წერტილს ტექნოლოგიაში თანდაყოლილი კომპრომისების განხილვისთვის. ჩვენ ვმუშაობთ ამ სისტემებზე, რადგან მტკიცედ გვჯერა ML-ის პოტენციალის — ვფიქრობთ, რომ მას შეუძლია ღირებული ინსტრუმენტი იყოს, თუ იგი განვითარდება გულისხმიერად და მისი განლაგების კონტექსტში მყოფი ადამიანების წვლილით, ვიდრე უნივერსალური პანაცეის სახით. კერძოდ, ამ ზრუნვის უზრუნველსაყოფად საჭიროა მანქანური მიკერძოების მექანიზმების უკეთ გაგება ML განვითარების პროცესში, და ისეთი ინსტრუმენტების შექმნა, რომლებიც დაეხმარება ადამიანებს ამ სისტემების ტექნიკური ცოდნის ყველა დონეზე, მონაწილეობა მიიღონ საჭირო საუბრებში იმის შესახებ, თუ როგორ ნაწილდება მათი სარგებელი და ზიანი. Hugging Face-ის ეთიკისა და საზოგადოების რეგულარული წევრების ეს ბლოგ-პოსტი წარმოადგენს მიმოხილვას იმისა, თუ როგორ ვიმუშავეთ, ვმუშაობთ, ან ვურჩევთ HF ბიბლიოთეკების ეკოსისტემის მომხმარებლებს, რომ იმუშაონ მიკერძოების მოსაგვარებლად ML განვითარების პროცესის სხვადასხვა ეტაპზე, და იმ ინსტრუმენტების შესახებ, რომლებსაც ამ პროცესის მხარდასაჭერად ვქმნით. ვიმედოვნებთ, რომ ეს იქნება სასარგებლო რესურსი თქვენი მუშაობის სოციალური ზემოქმედების კონკრეტული განხილვისთვის და აქ მოხსენიებული ინსტრუმენტების გამოყენება შეძლებთ ამ პრობლემების შესამცირებლად, როდესაც ისინი წარმოიქმნება. პირველი და, ალბათ, ყველაზე მნიშვნელოვანი კონცეფცია, რომელიც მანქანურ მიკერძოებასთან გამკლავებისას უნდა გავითვალისწინოთ, არის კონტექსტი. NLP-ში მიკერძოებაზე თავიანთ ფუნდამენტურ ნაშრომში, სუ ლინ ბლოდჯეტმა და სხვ. აღნიშნავენ, რომ: „[მანქანურ მიკერძოებაზე აკადემიური ნაშრომების] უმრავლესობა ვერ ახერხებს კრიტიკულად გაიაზროს, თუ რა წარმოადგენს „მიკერძოებას“ პირველ რიგში“, მათ შორის მათი ნაშრომების აგებით „დაუსაბუთებელ ვარაუდებზე იმის შესახებ, თუ რა სახის სისტემური ქცევებია მავნე, რა გზებით, ვისთვის და რატომ“. ეს შეიძლება არ იყოს დიდი სიურპრიზი ML კვლევითი საზოგადოების ყურადღების გათვალისწინებით „განზოგადების“ ღირებულებაზე — სფეროში მუშაობისთვის ყველაზე ხშირად მოხსენიებული მოტივაცია „ეფექტურობის“ შემდეგ. თუმცა, მიუხედავად იმისა, რომ მიკერძოების შეფასების ინსტრუმენტები, რომლებიც გამოიყენება პარამეტრების ფართო სპექტრში, ღირებულია მოდელის ქცევებში საერთო ტენდენციების უფრო ფართო ანალიზისთვის, მათი უნარი მიზანმიმართულად გაუმკლავდეს იმ მექანიზმებს, რომლებიც დისკრიმინაციას იწვევს კონკრეტულ გამოყენების შემთხვევებში, თავისთავად შეზღუდულია. მათი გამოყენება ML განვითარების ციკლში კონკრეტული გადაწყვეტილებების მისაღებად, როგორც წესი, მოითხოვს ერთ ან ორ დამატებით ნაბიჯს სისტემის გასათვალისწინებლად.