დღეს ჩვენ ვაცხადებთ Dell Enterprise Hub-ის გაშვებას, ახალი სერვისი Hugging Face-ზე, რომელიც გაამარტივებს ღია მოდელების ტრენინგსა და ადგილზე განთავსებას Dell-ის პლატფორმების გამოყენებით. სცადეთ აქ: dell.huggingface.co ხელოვნური ინტელექტის სისტემების შექმნისას, ღია მოდელები საუკეთესო გამოსავალია საწარმოების უსაფრთხოების, შესაბამისობისა და კონფიდენციალურობის მოთხოვნების დასაკმაყოფილებლად. თუმცა, დიდი ენობრივი მოდელებთან (LLMs) ადგილობრივ ინფრასტრუქტურაში მუშაობა ხშირად მოითხოვს კვირების განმავლობაში ცდებსა და შეცდომებს, რაც დაკავშირებულია კონტეინერებთან, პარალელიზაციასთან, კვანტიზაციასთან და მეხსიერების ამოწურვის შეცდომებთან. Dell Enterprise Hub-ის მეშვეობით, ჩვენ ვაადვილებთ LLM-ების ტრენინგსა და ადგილზე განთავსებას Dell-ის პლატფორმების გამოყენებით, რაც კვირების საინჟინრო სამუშაოს წუთებამდე ამცირებს. Dell Enterprise Hub გთავაზობთ დღეს არსებული ყველაზე მოწინავე ღია მოდელების შერჩეულ სიას, მათ შორის Llama 3 Meta-სგან, Mixtral Mistral AI-სგან, Gemma Google-სგან და სხვა. Dell Enterprise Hub-ზე წვდომისთვის, მხოლოდ Hugging Face-ის ანგარიში გჭირდებათ. Dell Enterprise Hub შექმნილია თავიდანვე საწარმოებისთვის და ოპტიმიზირებულია Dell-ის პლატფორმებისთვის. ხელმისაწვდომი მოდელების მარტივად გაფილტვრა შესაძლებელია ლიცენზიის ან მოდელის ზომის მიხედვით. მოდელის არჩევის შემდეგ, შეგიძლიათ გაეცნოთ ყოვლისმომცველ „მოდელის ბარათს“, რომელიც შექმნილია საწარმოს გამოყენებისთვის. ერთი შეხედვით ხედავთ მოდელის შესახებ ძირითად ინფორმაციას, მის ზომას და იმ Dell-ის პლატფორმებს, რომლებიც მას კარგად უჭერს მხარს. Meta-ს, Mistral-ისა და Google-ის მრავალი მოდელი მოითხოვს ავტორიზაციას მოდელის წონებზე (weights) წვდომისთვის. ვინაიდან Dell Enterprise Hub ეფუძნება Hugging Face-ის მომხმარებლის ანგარიშებს, თქვენი ანგარიშის უფლებები გადაეცემა Dell Enterprise Hub-ს და ნებართვის მოპოვება მხოლოდ ერთხელ დაგჭირდებათ. როგორც კი აირჩევთ განსახორციელებელ მოდელს, მისი განთავსება თქვენს Dell გარემოში მართლაც მარტივია. უბრალოდ აირჩიეთ მხარდაჭერილი Dell პლატფორმა და GPU-ების რაოდენობა, რომლის გამოყენებაც გსურთ განთავსებისთვის. როდესაც მიწოდებულ სკრიპტს ჩასვამთ თქვენი Dell გარემოს ტერმინალში ან სერვერზე, ყველაფერი ავტომატურად მოხდება, რათა თქვენი მოდელი ხელმისაწვდომი გახდეს როგორც API endpoint, რომელიც განთავსებულია თქვენს Dell პლატფორმაზე. Hugging Face-მა ოპტიმიზაცია გაუკეთა განთავსების კონფიგურაციებს თითოეული Dell პლატფორმისთვის, გაითვალისწინა არსებული აპარატურა, მეხსიერება და კავშირის შესაძლებლობები, და რეგულარულად ტესტავს მათ Dell-ის ინფრასტრუქტურაზე, რათა უზრუნველყოს საუკეთესო შედეგები ყუთიდანვე. მოდელების „ფაინ-ტიუნინგი“ (fine-tuning) აუმჯობესებს მათ მუშაობას კონკრეტულ სფეროებსა და გამოყენების შემთხვევებში, მოდელის წონების განახლებით კომპანიის სპეციფიკური სატრენინგო მონაცემების საფუძველზე. „ფაინ-ტიუნინგირებულმა“ ღია მოდელებმა აჩვენეს, რომ ისინი აღემატებიან საუკეთესო ხელმისაწვდომ დახურულ მოდელებს, როგორიცაა GPT-4, რაც უზრუნველყოფს უფრო ეფექტურ და მძლავრ მოდელებს კონკრეტული AI ფუნქციების გასაძლიერებლად. ვინაიდან კომპანიის სპეციფიკური სატრენინგო მონაცემები ხშირად შეიცავს კონფიდენციალურ ინფორმაციას, ინტელექტუალურ საკუთრებას და მომხმარებლის მონაცემებს, საწარმოებისთვის შესაბამისობისთვის მნიშვნელოვანია „ფაინ-ტიუნინგის“ ადგილზე ჩატარება, რათა მონაცემებმა არასოდეს დატოვოს კომპანიის უსაფრთხო IT გარემო. ღია მოდელების ადგილზე „ფაინ-ტიუნინგი“ Dell Enterprise Hub-ით ისეთივე მარტივია, როგორც მოდელის განთავსება. ძირითადი დამატებითი პარამეტრებია ოპტიმიზებული სატრენინგო კონტეინერის მიწოდება Dell-ის გარემოს ლოკალური გზით, სადაც განთავსებულია სატრენინგო მონაცემთა ნაკრები, და სად აიტვირთოს „ფაინ-ტიუნინგირებული“ მოდელი დასრულების შემდეგ. სატრენინგო მონაცემთა ნაკრები შეიძლება მოწოდებულ იქნას CSV ან JSONL ფორმატის ფაილების სახით, მოცემული სპეციფიკაციის მიხედვით. რა მოხდება, თუ გსურთ თქვენი საკუთარი მოდელის ადგილზე განთავსება ისე, რომ ის არასოდეს დატოვოს თქვენი უსაფრთხო გარემო? Dell Enterprise Hub-ის მეშვეობით, მას შემდეგ რაც მოამზადებთ მოდელს, ის განთავსდება თქვენს ლოკალურ უსაფრთხო გარემოში თქვენს მიერ არჩეულ გზაზე. მისი განთავსება კიდევ ერთი მარტივი ნაბიჯია „Deploy Fine-Tuned“ ჩანართის არჩევით. და თუ თქვენი მოდელი თავად მოამზადეთ Dell Enterprise Hub-ის მიერ მხარდაჭერილი მოდელის არქიტექტურებიდან ერთ-ერთის გამოყენებით, შეგიძლიათ მისი განთავსება ზუსტად იგივე გზით. უბრალოდ მიუთითეთ ლოკალური გზა, სადაც შეინახეთ მოდელის წონები იმ გარემოში, სადაც გაუშვებთ მოწოდებულ კოდის ფრაგმენტს. განთავსების შემდეგ, მოდელი ხელმისაწვდომია როგორც API endpoint, რომლის გამოძახებაც მარტივია OpenAI-თან თავსებადი Messages API-ის მიხედვით მოთხოვნების გაგზავნით. ეს ძალზე ამარტივებს OpenAI-ით შექმნილი პროტოტიპის გადატანას უსაფრთხო, ადგილობრივ განთავსებაზე, რომელიც დაყენებულია Dell Enterprise Hub-ის მეშვეობით. დღეს ჩვენ ძალიან მოხარულნი ვართ გამოვაქვეყნოთ Dell Enterprise Hub, მრავალი მოდელით, რომელიც ხელმისაწვდომია, როგორც გამოსაყენებლად მზა კონტეინერები, ოპტიმიზებული მრავალი პლატფორმისთვის, Dell Technologies-თან ჩვენი თანამშრომლობის გამოცხადებიდან 6 თვის შემდეგ. Dell გთავაზობთ მრავალ პლატფორმას, რომლებიც აგებულია NVIDIA-ს, AMD-ის და Intel Gaudi-ს AI აპარატურულ ამაჩქარებლებზე. Hugging Face-ის საინჟინრო თანამშრომლობა NVIDIA-სთან (optimum-nvidia), AMD-სთან (optimum-amd) და Intel-თან (optimum-intel და optimum-habana) მოგვცემს საშუალებას შევთავაზოთ კიდევ უფრო ოპტიმიზებული კონტეინერები ღია მოდელების განთავსებისა და ტრენინგისთვის Dell-ის ყველა პლატფორმის კონფიგურაციაზე. ჩვენ მოხარულნი ვართ, რომ ვუზრუნველყოფთ მხარდაჭერას უფრო მეტი უახლესი ღია მოდელისთვის და მათთვის მეტ Dell-ის პლატფორმაზე ხელმისაწვდომობას – ჩვენ მხოლოდ ვიწყებთ!