Habana Gaudi-ის ამაჩქარებლები უზრუნველყოფენ 40%-მდე უკეთეს ფასი-წარმადობას მანქანური სწავლის მოდელების წვრთნისთვის, უახლეს GPU-ზე დაფუძნებულ Amazon EC2 ინსტანციებთან შედარებით. მოხარულები ვართ, რომ ეს ფასი-წარმადობის უპირატესობები Transformer-ებსაც შეეხო. ამ პრაქტიკულ პოსტში ნაჩვენებია, თუ როგორ სწრაფად დავაყენოთ Habana Gaudi ინსტანცია Amazon Web Services-ზე (AWS) და შემდეგ დავხვეწოთ BERT მოდელი ტექსტის კლასიფიკაციისთვის. როგორც ყოველთვის, ყველა კოდი მოცემულია თქვენს პროექტებში ხელახლა გამოსაყენებლად. დავიწყოთ! Habana Gaudi ამაჩქარებლებთან მუშაობის უმარტივესი გზაა Amazon EC2 DL1 ინსტანციის გაშვება. ეს ინსტანციები აღჭურვილია 8 Habana Gaudi პროცესორით, რომელთა ამუშავება მარტივად შეიძლება Habana ღრმა სწავლის Amazon მანქანის იმიჯის (AMI) წყალობით. ეს AMI წინასწარ დაინსტალირებულია Habana SynapseAI® SDK-ით და იმ ინსტრუმენტებით, რომლებიც საჭიროა Gaudi-ზე დაჩქარებული Docker კონტეინერების გასაშვებად. თუ სხვა AMI-ების ან კონტეინერების გამოყენება გსურთ, ინსტრუქციები ხელმისაწვდომია Habana-ს დოკუმენტაციაში. us-east-1 რეგიონში EC2 კონსოლიდან დაწყებული, პირველ რიგში, ვაწკაპებთ „ინსტანციის გაშვება“ (Launch an instance) ღილაკზე და ვანიჭებთ სახელს ინსტანციას ("habana-demo-julsimon"). შემდეგ, Amazon Marketplace-ზე ვეძებთ Habana AMI-ებს და ვირჩევთ Habana Deep Learning Base AMI-ს (Ubuntu 20.04). ამის შემდეგ, ვირჩევთ dl1.24xlarge ინსტანციის ზომას (ერთადერთი ხელმისაწვდომი ზომა). შემდეგ, ვირჩევთ გასაღებების წყვილს (keypair), რომელსაც გამოვიყენებთ ინსტანციასთან ssh-ის მეშვეობით დასაკავშირებლად. თუ არ გაქვთ გასაღებების წყვილი, შეგიძლიათ ადგილზე შექმნათ. შემდეგ ეტაპზე, ვამოწმებთ, რომ ინსტანცია იძლევა შემომავალი ssh ტრაფიკის საშუალებას. სიმარტივისთვის, წყაროს მისამართს არ ვზღუდავთ, მაგრამ თქვენს ანგარიშში აუცილებლად უნდა გააკეთოთ ეს. ნაგულისხმევად, ეს AMI ინსტანციას 8GB Amazon EBS მეხსიერებით გაუშვებს, რაც აქ არ იქნება საკმარისი. მეხსიერებას 50GB-მდე ვზრდით. შემდეგ, ინსტანციას ვანიჭებთ Amazon IAM როლს. რეალურ ცხოვრებაში, ამ როლს უნდა ჰქონდეს მინიმალური ნებართვების ნაკრები, რომელიც საჭიროა თქვენი წვრთნის სამუშაოს გასაშვებად, როგორიცაა მონაცემების წაკითხვის შესაძლებლობა თქვენი Amazon S3 ვედროებიდან. ეს როლი აქ არ არის საჭირო, რადგან მონაცემთა ნაკრები Hugging Face-ის ჰაბიდან ჩამოიტვირთება. თუ IAM არ გეცნობათ, გირჩევთ, გაეცნოთ „დაწყების“ (Getting Started) დოკუმენტაციას. შემდეგ, EC2-ს ვთხოვთ, მოამზადოს ინსტანცია Spot ინსტანციად, რაც შესანიშნავი გზაა 13.11$-იანი საათობრივი ღირებულების შესამცირებლად. საბოლოოდ, ვაშვებთ ინსტანციას. რამდენიმე წუთის შემდეგ, ინსტანცია მზად არის და მასთან ssh-ის მეშვეობით შემიძლია დაკავშირება. Windows-ის მომხმარებლებს შეუძლიათ იგივე გააკეთონ PuTTY-ის გამოყენებით, დოკუმენტაციის მიხედვით. ამ ინსტანციაზე, ბოლო დაყენების ეტაპია Habana კონტეინერის ჩამოტვირთვა PyTorch-ისთვის, რომელიც ის ფრეიმვორკია, რომელსაც ჩემი მოდელის დასახვეწად გამოვიყენებ. სხვა წინასწარ აწყობილი კონტეინერებისა და საკუთარი კონტეინერების შექმნის შესახებ ინფორმაცია შეგიძლიათ იპოვოთ Habana-ს დოკუმენტაციაში. როგორც კი იმიჯი ჩამოიტვირთება ინსტანციაზე, მას ინტერაქტიულ რეჟიმში ვუშვებ. ახლა მზად ვარ ჩემი მოდელის დასახვეწად. პირველ რიგში, ახლად გაშვებულ კონტეინერში ვაკლონირებ Optimum Habana-ს საცავს. შემდეგ, წყაროდან ვაყენებ Optimum Habana პაკეტს. ამის შემდეგ, გადავდივარ ტექსტის კლასიფიკაციის მაგალითის შემცველ ქვე-დირექტორიაში და ვაყენებ საჭირო Python პაკეტებს. ახლა უკვე შემიძლია წვრთნის სამუშაოს გაშვება, რომელიც ჩამოტვირთავს bert-large-uncased-whole-word-masking მოდელს Hugging Face-ის ჰაბიდან და დახვეწს მას GLUE ბენჩმარკის MRPC დავალებაზე. გაითვალისწინეთ, რომ BERT-ისთვის Habana Gaudi-ის კონფიგურაციას Hugging Face-ის ჰაბიდან ვიღებ, მაგრამ შეგიძლიათ თქვენი საკუთარიც გამოიყენოთ. გარდა ამისა, მხარდაჭერილია სხვა პოპულარული მოდელებიც და მათი კონფიგურაციის ფაილები შეგიძლიათ იპოვოთ Habana-ს ორგანიზაციაში. 2 წუთისა და 12 წამის შემდეგ, სამუშაო დასრულდა და მიღწეულია შესანიშნავი F1 ქულა 0.9181, რაც, რა თქმა უნდა, შეიძლება გაუმჯობესდეს მეტი ეპოქით. და ბოლოს, ვთიშავ EC2 ინსტანციას არასაჭირო გადასახადების თავიდან ასაცილებლად. EC2 კონსოლში დანაზოგის შეჯამების (Savings Summary) ნახვისას ვხედავ, რომ 70% დავზოგე Spot ინსტანციების წყალობით, საათში მხოლოდ 3.93$ გადავიხადე 13.11$-ის ნაცვლად. როგორც ხედავთ, Transformer-ების, Habana Gaudi-ის და AWS ინსტანციების კომბინაცია არის მძლავრი, მარტივი და ხარჯთეფექტური. სცადეთ და გაგვაგებინეთ თქვენი აზრი. მივესალმებით თქვენს შეკითხვებსა და უკუკავშირს Hugging Face Forum-ზე. გთხოვთ, დაუკავშირდეთ Habana-ს, რათა მეტი გაიგოთ Gaudi პროცესორებზე Hugging Face მოდელების წვრთნის შესახებ. მეტი სტატია ჩვენი ბლოგიდან · დარეგისტრირდით ან შეხვიდეთ კომენტარის დასაწერად.