მოხარულები ვართ გაცნობოთ, რომ Scaleway ახლა Hugging Face Hub-ის მხარდაჭერილი დასკვნის (Inference) პროვაიდერია! Scaleway უერთდება ჩვენს მზარდ ეკოსისტემას, აფართოებს serverless inference-ის შესაძლებლობებს უშუალოდ Hub-ის მოდელების გვერდებზე. Inference პროვაიდერები ასევე შეუფერხებლად არის ინტეგრირებული ჩვენს კლიენტ SDK-ებში (როგორც JS, ისე Python-ისთვის), რაც ძალიან ამარტივებს მრავალფეროვანი მოდელების გამოყენებას თქვენს სასურველ პროვაიდერებთან. ეს გაშვება უფრო ადვილს ხდის, ვიდრე ოდესმე, წვდომას პოპულარულ ღია წონის მოდელებზე, როგორიცაა gpt-oss, Qwen3, DeepSeek R1 და Gemma 3 — პირდაპირ Hugging Face-დან. Scaleway-ის ორგანიზაციის დათვალიერება Hub-ზე შეგიძლიათ https://huggingface.co/scaleway-ზე, ხოლო მხარდაჭერილი ტრენდული მოდელების გამოცდა — https://huggingface.co/models?inference_provider=scaleway&sort=trending-ზე. Scaleway Generative APIs არის სრულად მართული, serverless სერვისი, რომელიც მარტივი API ზარების მეშვეობით უზრუნველყოფს წვდომას წამყვანი კვლევითი ლაბორატორიების მოწინავე AI მოდელებზე. სერვისი გთავაზობთ კონკურენტულ pay-per-token ფასებს, დაწყებული €0.20-დან მილიონ ტოკენზე. სერვისი მუშაობს უსაფრთხო ინფრასტრუქტურაზე, რომელიც განთავსებულია ევროპულ მონაცემთა ცენტრებში (პარიზი, საფრანგეთი), რაც უზრუნველყოფს მონაცემთა სუვერენიტეტს და დაბალ ლატენტურობას ევროპელი მომხმარებლებისთვის. პლატფორმა მხარს უჭერს მოწინავე ფუნქციებს, მათ შორის structured outputs, function calling და მულტიმოდალურ შესაძლებლობებს როგორც ტექსტის, ისე გამოსახულების დასამუშავებლად. წარმოებისთვის შექმნილი Scaleway-ის inference ინფრასტრუქტურა უზრუნველყოფს 200 მილიწამზე ნაკლებ რეაგირების დროს პირველი ტოკენებისთვის, რაც მას იდეალურს ხდის ინტერაქტიული აპლიკაციებისა და აგენტური სამუშაო პროცესებისთვის. სერვისი მხარს უჭერს როგორც ტექსტის გენერირების, ისე embedding მოდელებს. Scaleway-ის პლატფორმისა და ინფრასტრუქტურის შესახებ მეტის გაგება შეგიძლიათ https://www.scaleway.com/en/generative-apis/ ბმულზე. იხილეთ მეტი, თუ როგორ გამოიყენოთ Scaleway, როგორც Inference პროვაიდერი, მის სპეციალურ დოკუმენტაციის გვერდზე. მხარდაჭერილი მოდელების სია იხილეთ აქ. შემდეგი მაგალითი გვიჩვენებს, თუ როგორ გამოიყენოთ OpenAI-ის gpt-oss-120b Scaleway-ის, როგორც inference პროვაიდერის, გამოყენებით. შეგიძლიათ გამოიყენოთ Hugging Face-ის ტოკენი ავტომატური მარშრუტიზაციისთვის Hugging Face-ის გავლით, ან თქვენი საკუთარი Scaleway API გასაღები, თუ გაქვთ. შენიშვნა: ეს მოითხოვს huggingface_hub-ის უახლესი ვერსიის (>= 0.34.6) გამოყენებას. აქ მოცემულია, თუ როგორ მუშაობს გადახდა: პირდაპირი მოთხოვნებისთვის, ანუ როდესაც იყენებთ გასაღებს inference პროვაიდერისგან, გადახდა ხდება შესაბამისი პროვაიდერის მიერ. მაგალითად, თუ იყენებთ Scaleway API გასაღებს, გადახდა მოხდება თქვენს Scaleway ანგარიშზე. მარშრუტიზებული მოთხოვნებისთვის, ანუ როდესაც ავტორიზაციას გადიხართ Hugging Face Hub-ის მეშვეობით, თქვენ გადაიხდით მხოლოდ სტანდარტულ პროვაიდერის API ტარიფებს. ჩვენგან დამატებითი მარკირება არ ხდება; ჩვენ უბრალოდ გადავცემთ პროვაიდერის ხარჯებს პირდაპირ. (მომავალში, შესაძლოა, დავამყაროთ შემოსავლების გაზიარების შეთანხმებები ჩვენს პროვაიდერ პარტნიორებთან.) მნიშვნელოვანი შენიშვნა ‼️ PRO მომხმარებლები იღებენ $2 ღირებულების Inference კრედიტებს ყოველთვიურად. მათი გამოყენება შესაძლებელია სხვადასხვა პროვაიდერებთან. 🔥 გამოიწერეთ Hugging Face PRO გეგმა, რათა მიიღოთ წვდომა Inference კრედიტებზე, ZeroGPU-ზე, Spaces Dev Mode-ზე, 20-ჯერ მაღალ ლიმიტებზე და სხვა. ჩვენ ასევე გთავაზობთ უფასო inference-ს მცირე კვოტით ჩვენი შესული უფასო მომხმარებლებისთვის, მაგრამ გთხოვთ, განაახლეთ PRO-ზე, თუ შეგიძლიათ! მოხარულები ვიქნებით, მივიღოთ თქვენი გამოხმაურება! გააზიარეთ თქვენი აზრები და/ან კომენტარები აქ: https://huggingface.co/spaces/huggingface/HuggingDiscussions/discussions/49 მეტი სტატია ჩვენი ბლოგიდან · დარეგისტრირდით ან შედით კომენტარისთვის