მანქანური სწავლების მოდელების ნახშირბადის კვალის თვალყურის დევნება და შემცირება
ეს სტატია განიხილავს მანქანური სწავლების მოდელების ვარჯიშისა და განთავსების ეკოლოგიურ ზემოქმედებას, კერძოდ, მათ ნახშირბადის ემისიებს. წარმოდგენილია ისეთი ხელსაწყოები, როგორიცაა huggingface_hub ბიბლიოთეკა და codecarbon ინტეგრაცია, რომლებიც ხელს უწყობენ ამ ემისიების თვალყურის დევნას, ანგარიშგებას და მართვას, რითაც ხდება ეკო-მეგობრული AI-ის განვითარების ხელშეწყობა.
კლიმატის ცვლილება ერთ-ერთი უდიდესი გამოწვევაა, რომლის წინაშეც ვდგავართ და სათბურის გაზების, როგორიცაა ნახშირორჟანგი (CO2), ემისიების შემცირება ამ პრობლემის მოგვარების მნიშვნელოვანი ნაწილია.
მანქანური სწავლების მოდელების ვარჯიში და განთავსება CO2-ს გამოყოფს გამოყენებული გამოთვლითი ინფრასტრუქტურის ენერგიის მოხმარების გამო: GPU-ებიდან საცავებამდე, ყველაფერს სჭირდება ენერგია ფუნქციონირებისთვის და პროცესში CO2-ს გამოყოფს. (მაგალითად, ნაჩვენებია უახლესი ტრანსფორმატორის მოდელები და მათი ნახშირბადის კვალი). გამოყოფილი CO2-ის რაოდენობა დამოკიდებულია სხვადასხვა ფაქტორზე, როგორიცაა გაშვების დრო, გამოყენებული აპარატურა და ენერგიის წყაროს ნახშირბადის ინტენსივობა.
ქვემოთ აღწერილი ხელსაწყოების გამოყენება დაგეხმარებათ როგორც საკუთარი ემისიების თვალყურის დევნასა და ანგარიშგებაში (რაც მნიშვნელოვანია მთლიანად ჩვენი სფეროს გამჭვირვალობის გასაუმჯობესებლად!), ასევე მოდელების არჩევაში მათი ნახშირბადის კვალის მიხედვით.
სანამ დავიწყებთ, თუ თქვენს სისტემაში არ გაქვთ `huggingface_hub` ბიბლიოთეკის უახლესი ვერსია, გთხოვთ, გაუშვათ შემდეგი ბრძანება:
`pip install --upgrade huggingface_hub`
მოდელის Hub-ზე ატვირთვის შემდეგ, როგორ შეგიძლიათ Hub-ზე მოდელების ძიება ეკო-მეგობრული მიდგომით? `huggingface_hub` ბიბლიოთეკას აქვს ახალი სპეციალური პარამეტრი ამ ძიების შესასრულებლად: `emissions_threshold`. ყველაფერი რაც თქვენ უნდა გააკეთოთ არის მინიმალური ან მაქსიმალური გრამების რაოდენობის მითითება, და გამოჩნდება ყველა მოდელი, რომელიც ამ დიაპაზონშია.
მაგალითად, შეგვიძლია მოვძებნოთ ყველა მოდელი, რომლის შექმნასაც მაქსიმუმ 100 გრამი დასჭირდა:
`hub_models = list(hf_hub_models_emission_filter(max_emissions_g=100))`
საკმაოდ ბევრი იყო! ეს ასევე გვეხმარება უფრო პატარა მოდელების პოვნაში, რადგან მათ, როგორც წესი, ვარჯიშის დროს ამდენი ნახშირბადი არ გამოუყვიათ. შეგვიძლია ახლოდან დავაკვირდეთ ერთ-ერთს, რათა დავრწმუნდეთ, რომ ის ჩვენს ზღვარს შეესაბამება:
`from huggingface_hub import HfApi
api = HfApi()
api.model_info("julien-c/distilbert-base-uncased-finetuned-sst-2-english", emissions_threshold=100).co2_eq_emissions`
ანალოგიურად, შეგვიძლია მოვძებნოთ მინიმალური მნიშვნელობა, რათა ვიპოვოთ ძალიან დიდი მოდელები, რომლებმაც ვარჯიშის დროს ბევრი CO2 გამოუშვეს:
`hub_models = list(hf_hub_models_emission_filter(min_emissions_g=10000))`
ახლა ვნახოთ, ზუსტად რამდენი CO2 გამოყო ერთ-ერთმა ასეთმა მოდელმა:
`api.model_info("bigscience/T0_3B", emissions_threshold=10000).co2_eq_emissions`
ეს ბევრი CO2-ია! როგორც ხედავთ, სულ რამდენიმე სტრიქონი კოდით შეგვიძლია სწრაფად შევამოწმოთ მოდელები, რომელთა გამოყენებაც გვინდა, რათა დავრწმუნდეთ, რომ გარემოსადმი შეგნებულად ვეკიდებით!
თუ თქვენ იყენებთ ტრანსფორმატორებს (transformers), შეგიძლიათ ავტომატურად აკონტროლოთ და აცნობოთ ნახშირბადის ემისიების შესახებ `codecarbon` ინტეგრაციის წყალობით. თუ თქვენს მანქანაზე დაინსტალირებული გაქვთ `codecarbon`, `Trainer` ობიექტი ავტომატურად დაამატებს `CodeCarbonCallback`-ს ვარჯიშის დროს, რომელიც შეინახავს ნახშირბადის ემისიების მონაცემებს თქვენთვის ვარჯიშის განმავლობაში.
ასე რომ, თუ თქვენ გაუშვებთ მსგავს რამეს...
`trainer.train()`
...თქვენ დაგრჩებათ ფაილი `codecarbon-text-classification` დირექტორიაში, სახელწოდებით `emissions.csv`. ეს ფაილი ინახავს ნახშირბადის ემისიების ჩანაწერს სხვადასხვა ვარჯიშის განმავლობაში.
შემდეგ, როდესაც მზად იქნებით, შეგიძლიათ აიღოთ ემისიები იმ გაშვებიდან, რომელიც გამოიყენეთ თქვენი საბოლოო მოდელის სავარჯიშოდ და ჩართოთ ის მის მოდელის ბარათში. 📝 ამ მონაცემების მოდელის ბარათის თავში ჩართვის მაგალითი ნაჩვენებია ქვემოთ:
`co2_eq_emissions`-ის მეტამონაცემების ფორმატის შესახებ მეტი ინფორმაციისთვის იხილეთ Hub-ის დოკუმენტაცია.
თეგები:
#ხელოვნური ინტელექტი
#მანქანური სწავლება
#სათბურის გაზები
#კლიმატის ცვლილება
#ნახშირბადის კვალი
#hugging face
#codecarbon
#გარემოსდაცვითი პასუხისმგებლობა
წყარო: huggingface.co
AI-ით გადამუშავებული