Fireworks.ai და Hugging Face: ელვისებურად სწრაფი სერვერის გარეშე AI დასკვნა ახლა ხელმისაწვდომია
Fireworks.ai ინტეგრირდა Hugging Face-ის ეკოსისტემაში, რაც მომხმარებლებს საშუალებას აძლევს, ელვისებურად სწრაფად გაუშვან სერვერის გარეშე დასკვნები (serverless inference) საყვარელ AI მოდელებზე. ეს თანამშრომლობა ამარტივებს პროცესს, გთავაზობთ მოქნილ ბილინგის ვარიანტებს და PRO მომხმარებლებისთვის განკუთვნილ უპირატესობებს, მათ შორის ყოველთვიურ კრედიტებს.
Fireworks.ai უზრუნველყოფს ელვისებურად სწრაფ სერვერის გარეშე დასკვნას (serverless inference) უშუალოდ მოდელის გვერდებზე, ასევე Hugging Face-ის ბიბლიოთეკებისა და ინსტრუმენტების მთელ ეკოსისტემაში, რაც ამარტივებს თქვენს საყვარელ მოდელებზე დასკვნის გაშვებას, როგორც არასდროს. სხვათა შორის, ამიერიდან, Fireworks.ai-ის საშუალებით შეგიძლიათ გაუშვათ სერვერის გარეშე დასკვნა შემდეგ მოდელებზე: [არ არის მითითებული კონკრეტული მოდელები ორიგინალ ტექსტში] და ბევრ სხვაზე. სრული სია შეგიძლიათ იხილოთ აქ. გაანათეთ თქვენი პროექტები Fireworks.ai-ით დღესვე! Hugging Face-ზე Fireworks-ის მიერ მხარდაჭერილი ყველა მოდელის ძიება შეგიძლიათ აქ.
შემდეგი მაგალითი გვიჩვენებს, თუ როგორ გამოიყენოთ DeepSeek-R1 Fireworks.ai-ის, როგორც თქვენი დასკვნის მიმწოდებლის, მეშვეობით. შეგიძლიათ გამოიყენოთ Hugging Face ტოკენი Hugging Face-ის გავლით ავტომატური მარშრუტიზაციისთვის, ან თქვენი საკუთარი Fireworks.ai API გასაღები, თუ გაქვთ.
დააინსტალირეთ `huggingface_hub` წყაროდან:
გამოიყენეთ `huggingface_hub` python ბიბლიოთეკა Fireworks.ai-ის ენდპოინტების გამოსაძახებლად `provider` პარამეტრის განსაზღვრით.
აი, როგორ შეგიძლიათ გამოიძახოთ Llama-3.3-70B-Instruct Fireworks.ai-ის, როგორც დასკვნის მიმწოდებლის, მეშვეობით `cURL`-ის გამოყენებით.
პირდაპირი მოთხოვნებისთვის, ანუ როდესაც იყენებთ Fireworks-ის გასაღებს, თქვენ ანგარიშსწორება გერიცხებათ უშუალოდ თქვენს Fireworks ანგარიშზე. მარშრუტიზებული მოთხოვნებისთვის, ანუ როდესაც ავთენტიფიკაციას გადიხართ ჰაბის მეშვეობით, თქვენ იხდით მხოლოდ სტანდარტულ Fireworks API ტარიფებს. ჩვენგან არ არის დამატებითი საფასური, ჩვენ უბრალოდ პირდაპირ გადავცემთ მიმწოდებლის ხარჯებს. (მომავალში, შესაძლოა, დავაწესოთ შემოსავლების გაზიარების ხელშეკრულებები ჩვენს მიმწოდებელ პარტნიორებთან.)
მნიშვნელოვანი შენიშვნა ‼️ PRO მომხმარებლები ყოველთვიურად იღებენ 2 დოლარის ღირებულების დასკვნის კრედიტებს (Inference credits). მათი გამოყენება შეგიძლიათ სხვადასხვა მიმწოდებელთან. 🔥 გამოიწერეთ Hugging Face PRO გეგმა, რათა მიიღოთ წვდომა დასკვნის კრედიტებზე, ZeroGPU-ზე, Spaces Dev Mode-ზე, 20-ჯერ უფრო მაღალ ლიმიტებზე და სხვა.
თეგები:
#ai
#ხელოვნური ინტელექტი
#განახლება
#მანქანური სწავლება
#hugging face
#fireworks.ai
#serverless inference
წყარო: huggingface.co
AI-ით გადამუშავებული