თუმცა, აქ დგება გამოწვევა: საოცარი მოდელის პოვნა მხოლოდ დასაწყისია. რა ხდება მაშინ, როდესაც აღმოაჩენთ მოდელს, რომელიც 90%-ით სრულყოფილია თქვენი გამოყენების შემთხვევისთვის, მაგრამ გჭირდებათ დამატებითი 10% პერსონალიზაცია? ტრადიციული „ფაინ-ტიუნინგის“ (fine-tuning) ინფრასტრუქტურა კომპლექსური, ძვირი და ხშირად მოითხოვს მნიშვნელოვან DevOps ექსპერტიზას მის დასაყენებლად და შესანარჩუნებლად. სწორედ ამ ხარვეზს ავსებენ დღეს Together AI და Hugging Face. ჩვენ ვაცხადებთ ახალი, მძლავრი შესაძლებლობის შესახებ, რომელიც Hugging Face Hub-ის მთელ სივრცეს ხელმისაწვდომს ხდის „ფაინ-ტიუნინგისთვის“ Together AI-ის ინფრასტრუქტურის გამოყენებით. ახლა, Hub-ზე არსებული ნებისმიერი თავსებადი LLM (დიდი ენობრივი მოდელი), იქნება ეს Meta-დან თუ ინდივიდუალური კონტრიბუტორისგან, შეიძლება დახვეწილი იყოს იმავე სიმარტივითა და საიმედოობით, რასაც Together-ის პლატფორმისგან ელით.🚀 აი, სულ ეს არის, რაც სჭირდება Together AI პლატფორმაზე HF მოდელის დახვეწის დასაწყებად: ეს არის! თქვენი მოდელი გაიწვრთნება Together-ის ინფრასტრუქტურაზე და შესაძლებელია მისი განთავსება დასკვნებისთვის (inference), ჩამოტვირთვა ან თუნდაც Hub-ზე უკან ატვირთვა! პირადი რეპოზიტორებისთვის, უბრალოდ დაამატეთ თქვენი HF ტოკენი hf_api_token="hf_xxxxxxxxxxxx" მითითებით. როგორც ზემოთ მოცემულ მაგალითშია ნაჩვენები, როდესაც Hugging Face-ის მოდელს Together AI-ზე აკეთებთ „ფაინ-ტიუნინგს“, თქვენ რეალურად ასპეციფიკებთ ორ მოდელს: ბაზის მოდელი წარმოიდგინეთ როგორც „სავარჯიშო შაბლონი“. ის ჩვენს სისტემას ეუბნება, თუ როგორ უნდა ოპტიმალურად გადანაწილდეს GPU რესურსები, კონფიგურირდეს მეხსიერების გამოყენება, დაყენდეს სავარჯიშო მილსადენი (training pipeline) და მოამზადოს მოდელი დასკვნებისთვის. თქვენს მორგებულ მოდელს უნდა ჰქონდეს მსგავსი არქიტექტურა, სავარაუდო ზომა და თანმიმდევრობის სიგრძე ბაზის მოდელთან ოპტიმალური შედეგებისთვის. როგორც ზემოთ მოცემულ მაგალითშია ნაჩვენები, თუ გსურთ HuggingFaceTB/SmolLM2-1.7B-Instruct (რომელიც Llama არქიტექტურას იყენებს) „ფაინ-ტიუნინგი“, თქვენ გამოიყენებთ togethercomputer/llama-2-7b-chat-ს, როგორც თქვენი ბაზის მოდელის შაბლონს, რადგან მათ აქვთ იგივე ძირითადი არქიტექტურა. ინტეგრაცია მუშაობს ორმხრივად. Together AI-ს შეუძლია Hugging Face Hub-დან ნებისმიერი თავსებადი საჯარო მოდელის გამოტანა ვარჯიშისთვის, და შესაბამისი API ტოკენებით, მას შეუძლია ჩამოტვირთოს მოდელები პირადი რეპოზიტორებიდანაც. ვარჯიშის შემდეგ, თქვენი დახვეწილი მოდელი ავტომატურად შეიძლება აიტვირთოს Hub-ზე, თუ თქვენ მიუთითეთ hf_output_repo_name, რაც მას ხელმისაწვდომს გახდის თქვენს გუნდთან ან ფართო საზოგადოებასთან გასაზიარებლად. ზოგადად, ყველა CausalLM მოდელი 100 მილიარდზე ნაკლები პარამეტრით მიზნად ისახავს მუშაობას. ბაზის და მორგებული მოდელების არჩევის ყოვლისმომცველი სახელმძღვანელოსთვის და მრავალი სხვა დეტალისთვის, წაიკითხეთ ჩვენი სრული სახელმძღვანელო! ეს ინტეგრაცია ნამდვილ პრობლემას აგვარებს, რომლის წინაშეც ბევრს აღმოვჩნდით: Hugging Face-ზე შესანიშნავი მოდელის პოვნა, მაგრამ არ გაგვაჩნია ინფრასტრუქტურა მისი კონკრეტული საჭიროებებისთვის დასახვეწად. ახლა თქვენ შეგიძლიათ აღმოაჩინოთ პერსპექტიული მოდელი და მიიღოთ პერსონალიზებული ვერსია, რომელიც მუშაობს წარმოებაში, სულ რამდენიმე API ზარით. მთავარი უპირატესობა აქ არის ხახუნის მოცილება. ნაცვლად იმისა, რომ დღეები დახარჯოთ სავარჯიშო ინფრასტრუქტურის დასაყენებლად ან შემოიფარგლოთ იმ მოდელებით, რომლებიც ოფიციალურად არის მხარდაჭერილი სხვადასხვა პლატფორმების მიერ, ახლა შეგიძლიათ ექსპერიმენტები ჩაატაროთ Hub-დან ნებისმიერი თავსებადი მოდელით. იპოვეთ სპეციალიზებული კოდირების მოდელი, რომელიც ახლოსაა თქვენს საჭიროებებთან? გაავარჯიშეთ ის თქვენს მონაცემებზე!📈 გუნდებისთვის, ეს ნიშნავს იტერაციის უფრო სწრაფ ციკლებს. შეგიძლიათ სწრაფად შეამოწმოთ მოდელის მრავალი მიდგომა, დაეფუძნოთ საზოგადოების ინოვაციებს და თუნდაც გამოიყენოთ თქვენი საკუთარი, დახვეწილი მოდელები, როგორც საწყისი წერტილი შემდგომი პერსონალიზაციისთვის. ამ ფუნქციის ბეტა მომხმარებლები და ადრეული მიმღებები უკვე ხედავენ შედეგებს სხვადასხვა გამოყენების შემთხვევებში. Slingshot AI-მ ეს შესაძლებლობა პირდაპირ თავის მოდელის განვითარების მილსადენში (model development pipeline) მოახდინა ინტეგრირება. ნაცვლად იმისა, რომ შეზღუდულიყვნენ Together-ის მოდელების კატალოგით, მათ ახლა შეუძლიათ სავარჯიშო მილსადენის ნაწილების გაშვება საკუთარ ინფრასტრუქტურაზე, ამ მოდელების Hub-ზე ატვირთვა, შემდეგ კი ამ მოდელების უწყვეტი „ფაინ-ტიუნინგის“ განხორციელება Together AI-ის „ფაინ-ტიუნინგის“ პლატფორმის გამოყენებით. ამან დრამატულად დააჩქარა მათი განვითარების ციკლები და მათ საშუალება მისცა მარტივად ექსპერიმენტები ჩაეტარებინათ მოდელის მრავალფეროვან ვარიანტებთან. Parsed-მა აჩვენა ამ მიდგომის ძალა თავის ნაშრომში, სადაც ნაჩვენებია, თუ როგორ შეუძლიათ მცირე, კარგად დახვეწილ ღია კოდის მოდელებს ბევრად უფრო დიდ დახურულ მოდელებს აჯობონ. საგულდაგულოდ შერჩეულ მონაცემთა ნაკრებებზე მოდელების დახვეწით, მათ მიაღწიეს უმაღლეს შესრულებას, შეინარჩუნეს ხარჯთეფექტურობა და სრული კონტროლი თავიანთ მოდელებზე. სხვა მომხმარებლების მიერ გავრცელებული გამოყენების შემთხვევები მოიცავს: ყველაზე მნიშვნელოვანი უპირატესობა, რომელსაც გუნდები აცხადებენ, არის „სისწრაფე ღირებულებამდე“ (speed to value). ნაცვლად იმისა, რომ კვირები დახარჯონ სავარჯიშო ინფრასტრუქტურის დასაყენებლად ან თვეები ნულიდან მოდელების ვარჯიშისთვის, მათ შეუძლიათ საზოგადოებიდან პერსპექტიული საწყისი წერტილების იდენტიფიცირება და სპეციალიზებული მოდელების წარმოებაში გაშვება რამდენიმე დღეში. ხარჯთეფექტურობა კიდევ ერთი მნიშვნელოვანი სარგებელია. მოდელებით დაწყებით, რომლებსაც უკვე აქვთ შესაბამისი შესაძლებლობები, გუნდებს სჭირდებათ ნაკლები სავარჯიშო ეპოქა და შეუძლიათ გამოიყენონ უფრო მცირე მონაცემთა ნაკრებები თავიანთი სამიზნე შესრულების მისაღწევად, რაც დრამატულად ამცირებს გამოთვლით ხარჯებს. ალბათ ყველაზე მნიშვნელოვანი, ეს მიდგომა გუნდებს აძლევს წვდომას ღია კოდის საზოგადოების კოლექტიურ ინტელექტზე. ყოველი მიღწევა, ყოველი სპეციალიზებული ადაპტაცია, ყოველი ახალი არქიტექტურა ხდება პოტენციური საწყისი წერტილი მათი საკუთარი მუშაობისთვის. როგორც მოსალოდნელი იყო ამ ბუნების დიდი ფუნქციისგან...