Cloudflare Workers AI-ზე განთავსებით (Deploy on Cloudflare Workers AI) დეველოპერებს შეუძლიათ შექმნან მძლავრი გენერაციული AI აპლიკაციები GPU ინფრასტრუქტურისა და სერვერების მართვის გარეშე, ძალიან დაბალი საოპერაციო ხარჯებით: გადაიხადეთ მხოლოდ იმ გამოთვლითი რესურსისთვის, რომელსაც იყენებთ, და არა უმოქმედო სიმძლავრისთვის. ეს ახალი შესაძლებლობა აფართოებს შარშან გამოცხადებულ სტრატეგიულ პარტნიორობას, რომელიც მიზნად ისახავს ღია გენერაციული AI მოდელებზე წვდომისა და მათი განთავსების გამარტივებას. დეველოპერებისა და ორგანიზაციების ერთ-ერთი მთავარი პრობლემაა GPU-ს სიმცირე და სერვერების განთავსების ფიქსირებული ხარჯები. Deploy on Cloudflare Workers AI გთავაზობთ მარტივ, დაბალბიუჯეტიან გადაწყვეტას ამ გამოწვევებისთვის, რაც უზრუნველყოფს სერვერების გარეშე (serverless) წვდომას Hugging Face-ის პოპულარულ მოდელებზე მოთხოვნის მიხედვით გადახდის (pay-per-request) ფასების მოდელით. განვიხილოთ კონკრეტული მაგალითი. წარმოიდგინეთ, რომ შექმენით RAG აპლიკაცია, რომელიც იღებს დაახლოებით 1000 მოთხოვნას დღეში, 1 ათასი ტოკენის შეყვანით და 100 ტოკენის გამომავალი ინფორმაციით Meta Llama 2 7B-ის გამოყენებით. LLM inference-ის საწარმოო ხარჯები დღეში დაახლოებით 1 დოლარი იქნება. „მოხარულები ვართ, რომ ასე სწრაფად შევძელით ამ ინტეგრაციის რეალიზება. Cloudflare-ის გლობალური სერვერების გარეშე (serverless) GPU-ების ქსელის ძალის დეველოპერებისთვის მიწოდება, Hugging Face-ის ყველაზე პოპულარულ ღია კოდის მოდელებთან ერთად, კარს გაუღებს უამრავ საინტერესო ინოვაციას ჩვენი მსოფლიო საზოგადოების მხრიდან“, - განაცხადა ჯონ გრეჰემ-კამინგმა, Cloudflare-ის ტექნიკურმა დირექტორმა (CTO). Hugging Face-ის მოდელების გამოყენება Cloudflare Workers AI-ზე ძალიან მარტივია. ქვემოთ იპოვით ნაბიჯ-ნაბიჯ ინსტრუქციებს, თუ როგორ გამოიყენოთ Hermes 2 Pro Mistral 7B-ზე, Nous Research-ის უახლეს მოდელზე. ყველა ხელმისაწვდომი მოდელის ნახვა შეგიძლიათ Cloudflare-ის ამ კოლექციაში. შენიშვნა: თქვენ გჭირდებათ Cloudflare-ის ანგარიშზე და API ტოკენზე წვდომა. Deploy on Cloudflare ოფციის ნახვა შეგიძლიათ ყველა ხელმისაწვდომი მოდელის გვერდზე, მათ შორის Llama, Gemma ან Mistral-ის მსგავსი მოდელებისთვის. გახსენით „Deploy“ მენიუ და აირჩიეთ „Cloudflare Workers AI“ – ეს გახსნის ინტერფეისს, რომელიც შეიცავს ინსტრუქციებს ამ მოდელის გამოყენებისა და მოთხოვნების გაგზავნის შესახებ. შენიშვნა: თუ მოდელი, რომლის გამოყენებაც გსურთ, არ შეიცავს „Cloudflare Workers AI“ ოფციას, ის ამჟამად არ არის მხარდაჭერილი. ჩვენ ვმუშაობთ Cloudflare-თან ერთად მოდელების ხელმისაწვდომობის გაფართოებაზე. თქვენ შეგიძლიათ დაგვიკავშირდეთ [email protected]ზე თქვენი მოთხოვნით. ინტეგრაციის გამოყენება ამჟამად შესაძლებელია ორი გზით: Workers AI REST API-ის გამოყენებით ან უშუალოდ Workers-ში Cloudflare AI SDK-ის საშუალებით. აირჩიეთ სასურველი ვარიანტი და დააკოპირეთ კოდი თქვენს გარემოში. REST API-ის გამოყენებისას, უნდა დარწმუნდეთ, რომ ACCOUNT_ID და API_TOKEN ცვლადები განსაზღვრულია. სულ ესაა! ახლა შეგიძლიათ დაიწყოთ მოთხოვნების გაგზავნა Hugging Face-ის მოდელებზე, რომლებიც Cloudflare Workers AI-ზეა განთავსებული. დარწმუნდით, რომ იყენებთ მოდელის მიერ მოსალოდნელ სწორ prompt-ს და შაბლონს. მოხარულები ვართ, რომ ვთანამშრომლობთ Cloudflare-თან, რათა ხელოვნური ინტელექტი უფრო ხელმისაწვდომი გავხადოთ დეველოპერებისთვის. ჩვენ ვიმუშავებთ Cloudflare-ის გუნდთან, რათა კიდევ უფრო მეტი მოდელი და შესაძლებლობა შემოგთავაზოთ! მეტი სტატია ჩვენი ბლოგიდან · დარეგისტრირდით ან შეხვიდეთ კომენტარის დასატოვებლად