🚀 თუ გაინტერესებთ, როგორ შეუძლიათ მანქანური სწავლის ექსპერტებს, საშას მსგავსად, დააჩქარონ თქვენი ML-ის განვითარების გეგმა, ეწვიეთ: hf.co/support. გამარჯობა მეგობრებო! კეთილი იყოს თქვენი მობრძანება Machine Learning Experts-ში. მე ვარ თქვენი წამყვანი, ბრიტნი მიულერი და დღევანდელი სტუმარია საშა ლუჩიონი. საშა არის Hugging Face-ის მკვლევარი მეცნიერი, სადაც ის მუშაობს მანქანური სწავლის მოდელებისა და მონაცემთა ნაკრებების ეთიკურ და საზოგადოებრივ გავლენებზე. საშა ასევე არის Big Science Workshop-ის ნახშირბადის კვალის სამუშაო ჯგუფის (Carbon Footprint WG) თანათავმჯდომარე, WiML-ის საბჭოს წევრი და Climate Change AI (CCAI) ორგანიზაციის დამფუძნებელი წევრი, რომელიც ხელს უწყობს მანქანური სწავლის კლიმატის კრიზისთან გამკლავებისკენ მიმართულ ნაყოფიერ მუშაობას. თქვენ მოისმენთ საშას საუბარს იმაზე, თუ როგორ ზომავს ის ელექტრონული ფოსტის ნახშირბადის კვალს, როგორ დაეხმარა ადგილობრივ საქველმოქმედო სამზარეულოს ML-ის ძალის გამოყენებაში და როგორ ანიჭებს აზრი და კრეატიულობა მის ნამუშევარს აზრს. ძალიან მოხარული ვარ, რომ წარმოგიდგენთ ამ ბრწყინვალე ეპიზოდს! წარმოგიდგენთ ჩემს საუბარს საშა ლუჩიონთან: შენიშვნა: ტრანსკრიფცია ოდნავ შეცვლილი/გადაფორმატებულია უმაღლესი ხარისხის საკითხავი გამოცდილების უზრუნველსაყოფად. საშა: ძალიან მიხარია აქ ყოფნა. საშა: დიახ, თუ უკან დავიხევთ, თავიდან ლინგვისტიკის შესწავლა დავიწყე. ძალიან მიყვარდა ენები და ორივე მშობელი მათემატიკოსი მყავდა. მაგრამ ვფიქრობდი, რომ მათემატიკა არ მინდოდა, ენა მინდოდა. ბაკალავრიატის დროს დავიწყე NLP-ზე, ბუნებრივი ენის დამუშავებაზე მუშაობა და ძალიან ჩამითრია. ჩემი დოქტორანტურა კომპიუტერულ მეცნიერებებში იყო, მაგრამ ლინგვისტური კუთხე შევინარჩუნე. თავიდან ჰუმანიტარულ მეცნიერებებში დავიწყე, შემდეგ კი კომპიუტერულ მეცნიერებებში გადავედი. დოქტორანტურის შემდეგ რამდენიმე წელი გამოყენებითი AI კვლევებში ვიმუშავე. ჩემი ბოლო სამუშაო ფინანსებში იყო, შემდეგ ერთ დღეს გადავწყვიტე, რომ მინდოდა მეკეთებინა კარგი და სოციალურად პოზიტიური AI კვლევები, ამიტომ სამსახური დავტოვე. გადავწყვიტე, რომ არავითარი თანხა არ ღირდა AI-ზე მუშაობა მხოლოდ AI-ს გულისთვის; მე უფრო მეტი მინდოდა. ამიტომ რამდენიმე წელი იოშუა ბენჯიოსთან ერთად ვიმუშავე, პარალელურად კი AI-ს „კეთილი მიზნებისთვის“ პროექტებზე, AI-ს კლიმატის ცვლილების პროექტებზე ვმუშაობდი, შემდეგ კი ჩემს მომავალ როლს ვეძებდი. მინდოდა ვყოფილიყავი ისეთ ადგილას, რომელზეც ვენდობოდი, რომ სწორ საქმეს აკეთებდა და სწორი მიმართულებით მიდიოდა. როდესაც ტომს და კლემს შევხვდი, მივხვდი, რომ Hugging Face ჩემთვის შესაფერისი ადგილი იყო და ზუსტად ის იქნებოდა, რასაც ვეძებდი. საშა: დიახ, როდესაც კვირა საღამოს მესმის ადამიანებისგან „ხვალ ორშაბათია...“, მე ვფიქრობ: „ხვალ ორშაბათია! რა შესანიშნავია!“ და ეს არ ნიშნავს, რომ სამუშაომანი ვარ, ნამდვილად ვაკეთებ სხვა რაღაცებს და მყავს ოჯახი და ყველაფერი, მაგრამ მე ფაქტიურად აღფრთოვანებული ვარ, რომ სამსახურში წავიდე მაგარი საქმის გასაკეთებლად. ვფიქრობ, ეს მნიშვნელოვანია. ვიცი, რომ ადამიანებს შეუძლიათ ამის გარეშე ცხოვრება, მაგრამ მე არ შემიძლია. საშა: ვფიქრობ, Big Science პროექტი ნამდვილად ძალიან შთამაგონებელია. ბოლო რამდენიმე წლის განმავლობაში ვხედავდი ამ დიდ ენობრივ მოდელებს და ყოველთვის ვფიქრობდი, მაგრამ როგორ მუშაობენ ისინი? სად არის კოდი, სად არის მათი მონაცემები და რა ხდება შიგნით? როგორ ვითარდება ისინი და ვინ იყო ჩართული? ეს ყველაფერი შავი ყუთივით იყო და ძალიან მიხარია, რომ საბოლოოდ მას შუშის ყუთად ვაქცევთ. და ამდენი ადამიანია ჩართული და ამდენი ნამდვილად საინტერესო პერსპექტივა. მე ვუხელმძღვანელებ ნახშირბადის კვალის სამუშაო ჯგუფს, ამიტომ ჩვენ ვმუშაობთ გარემოზე ზემოქმედების სხვადასხვა ასპექტზე, რომელიც სცდება მხოლოდ CO2-ის ემისიების დათვლას, მოიცავს სხვა საკითხებს, როგორიცაა წარმოების ხარჯები. ერთ მომენტში კი განვიხილავთ, თუ რამდენ CO2-ს წარმოქმნის ერთი ელექტრონული ფოსტა, მსგავს რაღაცებს, ასე რომ, ნამდვილად ვფიქრობთ სხვადასხვა პერსპექტივაზე. ასევე მონაცემებზე, მე ჩართული ვარ Big Science-ის ბევრ მონაცემთა სამუშაო ჯგუფში და ეს ნამდვილად საინტერესოა, რადგან, როგორც წესი, ეს ასე იყო: რაც შეიძლება მეტ მონაცემს ავიღებთ, ჩავდებთ ენობრივ მოდელში და ის შესანიშნავი იქნება. და ის ისწავლის ამ ყველაფერს, მაგრამ რა არის სინამდვილეში იქ? ინტერნეტში იმდენი უცნაური რამ არის და ისეთი რაღაცები, რისი დანახვაც თქვენს მოდელს აუცილებლად არ გსურთ. ასე რომ, ჩვენ ნამდვილად ვუყურებთ მონაცემთა გააზრებულ კურირებას და მრავალენოვნებასაც, რათა დავრწმუნდეთ, რომ ეს არ არის მხოლოდ ასი პროცენტით ინგლისური ან 99% ინგლისური. ასე რომ, ეს ისეთი შესანიშნავი ინიციატივაა და ჩემი მონაწილეობა მახარებს. საშა: დიახ, ადამიანებმა გააკეთეს ეს, დანართის მიხედვით თუ მის გარეშე, მაგრამ ეს მხოლოდ იმიტომ მოხდა, რომ ვიპოვეთ სტატია, ვფიქრობ, ეს იყო თეორიული ფიზიკის პროექტი და მათ ყველაფერი გააკეთეს. მათ გააკეთეს ვიდეო ზარები, მგზავრობები, ელექტრონული ფოსტა და რეალური ექსპერიმენტებიც კი. და მათ შექმნეს ეს წრიული დიაგრამა და მაგარი იყო, რადგან დიაგრამაზე 37 კატეგორია იყო, და ჩვენ ნამდვილად გვინდოდა ამის გაკეთება. მაგრამ არ ვიცი, გვინდა თუ არა დეტალების ამ დონეზე ჩასვლა, მაგრამ ვაპირებდით გამოკითხვის ჩატარებას და მონაწილეებისთვის საშუალოდ იმის კითხვას, თუ რამდენ საათს ხარჯავდნენ Big Science-ზე მუშაობაში ან ენობრივ მოდელებში ტრენინგში და მსგავს რაღაცებში. ასე რომ, ჩვენ გვინდოდა არა მხოლოდ GPU საათების რაოდენობა მოდელის ტრენინგისთვის, არამედ ადამიანების ჩართულობა და მონაწილეობა პროექტში. საშა: დიახ, ეს თემაა, რომელშიც სამი წლის წინ ჩავერთე. პირველი სტატია, რომელიც გამოქვეყნდა, იყო ემა სტრუბელისა და მისი კოლეგების მიერ და ისინი არსებითად...