მეგ მიტჩელი ხელოვნური ინტელექტის ეთიკაზე: მონაცემთა მიკერძოებიდან ინკლუზიურ კულტურამდე

ამ ეპიზოდში მოისმენთ მეგ მიტჩელის საუბარს იმ მომენტზე, როდესაც მან გააცნობიერა ეთიკური ხელოვნური ინტელექტის (AI) მნიშვნელობა (წარმოუდგენელი ისტორია!), იმაზე, თუ როგორ შეუძლიათ მანქანური სწავლების (ML) გუნდებს უფრო მეტი ყურადღება მიაქციონ მონაცემთა მავნე მიკერძოებას, და ინკლუზიისა და მრავალფეროვნების ძლიერ (და მაღალპროდუქტიულ) სარგებელზე ML-ში. ძალიან გვიხარია, რომ წარმოგიდგენთ ამ მნიშვნელოვან ეპიზოდს! წარმოგიდგენთ ჩემს საუბარს მეგ მიტჩელთან: შენიშვნა: ტრანსკრიფცია ოდნავ შეცვლილი/გადაფორმებულია, რათა უზრუნველყოს კითხვის უმაღლესი ხარისხი. **დოქტორ მარგარეტ მიტჩელის გამოცდილება:** **მეგ:** როგორც პოსტდოკმა ჯონს ჰოპკინსის უნივერსიტეტში, ინტენსიურად ვმუშაობდი სტატისტიკურ ანალიზზე, შემდეგ კი გადავედი Microsoft Research-ში, სადაც განვაგრძე ვიზუალური ინფორმაციიდან ენის გენერაცია. ამან მიმიყვანა აპლიკაციის შექმნამდე, სახელწოდებით Seeing AI, რომელიც უსინათლო ადამიანებს ეხმარება სამყაროში ნავიგაციაში. Microsoft-ში რამდენიმე წლის მუშაობის შემდეგ, წავედი Google-ში, რათა ფოკუსირება მომეხდინა ღრმა სწავლების თანდაყოლილ დიდ მონაცემთა პრობლემებზე. სწორედ იქ დავიწყე ისეთ საკითხებზე ფიქრი, როგორიცაა სამართლიანობა, მკაცრი შეფასება სხვადასხვა სახის პრობლემებისთვის და მიკერძოება. Google-ში მუშაობისას, მე დავაარსე და თანახელმძღვანელობდი ეთიკური AI-ს გუნდს, რომელიც ყურადღებას ამახვილებს ინკლუზიასა და გამჭვირვალობაზე. Google-ში ოთხი წლის შემდეგ, Hugging Face-ში გადავედი, სადაც შევძელი დაუყოვნებლივ ჩავრთულიყავი და ფოკუსირება გამეკეთებინა კოდირებაზე. აქ, Hugging Face-ში, მე ვეხმარები ეთიკური AI კვლევისთვის, ინკლუზიური დაქირავების სისტემებისთვის და კარგი კულტურის ჩამოყალიბებაში. **მეგ:** ეს მოხდა მაშინ, როდესაც Microsoft-ში ვმუშაობდი დამხმარე ტექნოლოგიაზე, Seeing AI. ზოგადად, ვმუშაობდი სურათებიდან ენის გენერაციაზე და დავიწყე იმის შემჩნევა, თუ რაოდენად დაუბალანსებელი იყო მონაცემები. მონაცემები წარმოადგენს სამყაროს ნაწილს და გავლენას ახდენს იმაზე, თუ რას იტყვის მოდელი. ასე რომ, მე წავაწყდი პრობლემებს, სადაც თეთრკანიან ადამიანებს აღწერდნენ როგორც 'ადამიანებს', ხოლო შავკანიან ადამიანებს როგორც 'შავკანიან ადამიანებს', თითქოს თეთრი იყო ნაგულისხმევი და შავი – გამორჩეული მახასიათებელი. ეს ჩემთვის შემაშფოთებელი იყო. ასევე იყო გამონათების მომენტი, როდესაც სისტემას ვკვებავდი სურათების თანმიმდევრობით, რათა მას უფრო მეტი ეთქვა იმაზე, თუ რა ხდებოდა. მე მივაწოდე მას ამ მასშტაბური აფეთქების რამდენიმე სურათი, რომლის შედეგადაც ბევრი ადამიანი დაზარალდა, სახელწოდებით 'ჰებსტადის აფეთქება'. სურათის გადამღები ადამიანი მეორე ან მესამე სართულზე იდგა და აფეთქებას უყურებდა. აფეთქება ამ ადამიანთან ძალიან ახლოს იყო. ეს იყო მძიმე და დაძაბული მომენტი და როდესაც ეს სისტემას მივაწოდე, სისტემის პასუხი იყო, რომ „ეს საოცარია, ეს შესანიშნავი ხედია, ეს ლამაზია“. და მე ვიფიქრე... ეს საშინელი სცენის შესანიშნავი ხედია, მაგრამ აქ მთავარია, რომ ადამიანები შეიძლება იღუპებიან. ეს არის მასშტაბური, გამანადგურებელი აფეთქება. მაგრამ საქმე ისაა, რომ როდესაც სურათებიდან სწავლობ, ადამიანები არ იღებენ საშინელი მოვლენების ფოტოებს, ისინი იღებენ მზის ჩასვლის, ფოიერვერკების და ა.შ. ფოტოებს, და ვიზუალური ამოცნობის მოდელმა ისწავლა ამ სურათებზე და დაიჯერა, რომ ცის ფერი იყო პოზიტიური, ლამაზი რამ. ამ მომენტში მივხვდი, რომ თუ ასეთი აზროვნების მქონე მოდელს ექნებოდა მოქმედებებზე წვდომა, ის მხოლოდ ერთი ნაბიჯით იქნებოდა დაშორებული სისტემისგან, რომელიც ააფეთქებდა შენობებს, რადგან მას ეგონა, რომ ეს ლამაზი იყო. ეს იყო მომენტი ჩემთვის, როდესაც მივხვდი, რომ აღარ მინდოდა ამ სისტემების გაუმჯობესება მხოლოდ ბენჩმარკებზე; მე მინდოდა ფუნდამენტურად შემეცვალა ის, თუ როგორ ვუყურებდით ამ პრობლემებს, როგორ ვუდგებოდით მონაცემებსა და მონაცემთა ანალიზს, როგორ ვაფასებდით და ყველა იმ ფაქტორს, რასაც გვერდს ვუვლიდით ამ მარტივი მეთოდებით. ასე რომ, ეს მართლაც გახდა ჩემი გადასვლა ეთიკური AI-ს სფეროში. **მეგ:** ადამიანზე ორიენტირებული ტექნოლოგია, რომელიც ადამიანებსა და იდენტობას ეხება (სახის ამოცნობა, ფეხით მოსიარულეთა ამოცნობა). ბუნებრივი ენის დამუშავებაში (NLP) ეს უფრო ინდივიდების კონფიდენციალურობას, იმაზე საუბარს შეეხება, თუ როგორ განიხილება ინდივიდები და იმ მიკერძოებებს, რომლებსაც მოდელები ითვისებენ ადამიანებისთვის გამოყენებული აღწერილობების მიმართ. **მეგ:** მთავარი პრობლემა ისაა, რომ ეს კონცეფციები არ ისწავლება და გუნდების უმეტესობა უბრალოდ არ არის ინფორმირებული. კიდევ ერთი პრობლემაა ლექსიკონის არარსებობა, რათა მოხდეს კონტექსტუალიზაცია და კომუნიკაცია იმისა, თუ რა ხდება. მაგალითად: ამ საყრდენების უკეთ გაგება მართლაც მნიშვნელოვანია. კიდევ ერთი საკითხია მანქანური სწავლების უკან არსებული კულტურა. მას მიღებული აქვს „ალფა“ ან „მაჩო“ მიდგომა, სადაც აქცენტი კეთდება ბოლო ციფრების „დაძლევაზე“, ნივთების „უფრო სწრაფად“, „უფრო დიდზე“ და ა.შ. გაკეთებაზე. აქ ბევრი პარალელის გაკეთება შეიძლება ადამიანის ანატომიასთან. ასევე არსებობს ძალიან მტრული კონკურენტუნარიანობა, სადაც აღმოაჩენთ, რომ ქალებს არაპროპორციულად ნაკლებად მნიშვნელოვნად ექცევიან. რადგან ქალები ხშირად ბევრად უფრო იცნობენ დისკრიმინაციას, ისინი უფრო მეტ ყურადღებას ამახვილებენ ეთიკაზე, სტერეოტიპებზე, სექსიზმზე და ა.შ. AI-ში. ეს ნიშნავს, რომ ეს საკითხები უფრო მეტად ასოცირდება ქალებთან და ნაკლებად მნიშვნელოვნად აღიქმება, რაც კულტურაში შეღწევას ბევრად ართულებს. ზოგადად მიჩნეულია, რომ მე არ ვარ ტექნიკური სპეციალისტი. ეს არის ის, რაც განმეორებით უნდა დავამტკიცო. მე მეძახიან ლინგვისტს, ეთიკოსს, რადგან ეს არის ის, რაც მაინტერესებს და ვიცი, მაგრამ ეს ნაკლებად მნიშვნელოვნად აღიქმება. ადამიანები ამბობენ ან ფიქრობენ: „შენ არ პროგრამირებ, შენ არ იცი სტატისტიკა, შენ არ ხარ ისეთი მნიშვნელოვანი“, და ხშირად ეს ასეა, სანამ არ დავიწყებ საუბარს ისეთ საკითხებზე...