მოხარულები ვართ გაცნობოთ, რომ Cohere ახლა Hugging Face Hub-ის მხარდაჭერილი ინფერენს პროვაიდერია! ეს ასევე აღნიშნავს პირველ შემთხვევას, როდესაც მოდელის შემქმნელი პირდაპირ აზიარებს და ემსახურება საკუთარ მოდელებს Hub-ზე. Cohere მიზნად ისახავს ისეთი მოდელების შექმნას და სერვისის მიწოდებას, რომლებიც სპეციალურად არის აგებული საწარმოო გამოყენების შემთხვევებისთვის. მათი უსაფრთხო AI გადაწყვეტილებების ყოვლისმომცველი პაკეტი, დაწყებული უახლესი გენერაციული AI-დან დამთავრებული მძლავრი ემბედინგისა და რანჟირების მოდელებით, შექმნილია რეალური ბიზნეს გამოწვევების გადასაჭრელად. გარდა ამისა, Cohere Labs, Cohere-ის შიდა კვლევითი ლაბორატორია, მხარს უჭერს ფუნდამენტურ კვლევებს და ცდილობს შეცვალოს ის სივრცეები, სადაც კვლევები მიმდინარეობს. ამიერიდან, შეგიძლიათ გაუშვათ უსერვერო ინფერენსი შემდეგ მოდელებზე Cohere-სა და Inference Providers-ის მეშვეობით: გაანათეთ თქვენი პროექტები Cohere-ით და Cohere Labs-ით დღესვე! Cohere და Cohere Labs თავიანთ მოდელებს სთავაზობენ Inference Providers-ს, რომლებიც წარმატებით გამოიყენება კონკრეტულ ბიზნეს აპლიკაციებში. მოდით, ზოგიერთი მათგანი დეტალურად განვიხილოთ. **Command R+:** ოპტიმიზირებულია მომთხოვნი საწარმოებისთვის, რომლებსაც ესაჭიროებათ სწრაფი, უსაფრთხო და მაღალი ხარისხის AI. მისი 256k კონტექსტის სიგრძე (უმეტეს წამყვან მოდელებზე 2-ჯერ მეტი) ბევრად უფრო გრძელი საწარმოო დოკუმენტების დამუშავების საშუალებას იძლევა. სხვა ძირითადი მახასიათებლები მოიცავს Cohere-ის გაფართოებულ მოძიებაზე დაფუძნებულ გენერაციას (RAG) გადამოწმებადი ციტირებით, აგენტური ხელსაწყოების გამოყენებას, საწარმოო დონის უსაფრთხოებას და ძლიერ მრავალენოვან შესრულებას (23 ენის მხარდაჭერა). **Aya:** ფოკუსირებულია უახლესი მრავალენოვანი მხარდაჭერაზე, მრავალენოვანი წინასწარი ტრეინინგის უახლესი კვლევების გამოყენებით. მხარს უჭერს არაბულ, ჩინურ (გამარტივებული და ტრადიციული), ჩეხურ, ჰოლანდიურ, ინგლისურ, ფრანგულ, გერმანულ, ბერძნულ, ებრაულ, ჰინდი, ინდონეზიურ, იტალიურ, იაპონურ, კორეულ, სპარსულ, პოლონურ, პორტუგალიურ, რუმინულ, რუსულ, ესპანურ, თურქულ, უკრაინულ და ვიეტნამურ ენებს 128K კონტექსტის სიგრძით. **Command R:** იდეალურია დაბალფასიანი ან დაბალი ლატენტურობის გამოყენების შემთხვევებისთვის, რაც უზრუნველყოფს უახლესი შესრულებას თავის კლასის ღია წონის მოდელებში რეალური სამყაროს ამოცანებში. ეს მოდელი გთავაზობთ 128k კონტექსტის სიგრძეს. ის აერთიანებს მრავალენოვან მხარდაჭერას, ციტირებით დადასტურებულ მოძიებაზე დაფუძნებულ გენერაციას (RAG), მსჯელობას, ხელსაწყოების გამოყენებას და აგენტურ ქცევას. ასევე მხარს უჭერს 23 ენას. **Aya Vision:** 32 მილიარდი პარამეტრის მოდელი გაფართოებული შესაძლებლობებით, ოპტიმიზირებული ვიზუალური ენის სხვადასხვა გამოყენების შემთხვევებისთვის, მათ შორის OCR, წარწერების შექმნა, ვიზუალური მსჯელობა, შეჯამება, კითხვა-პასუხი, კოდი და სხვა. ის აფართოებს მულტიმოდალურ შესაძლებლობებს 23 ენაზე, რომლებზეც მსოფლიოს მოსახლეობის ნახევარზე მეტი საუბრობს. Cohere-ის მოდელების გამოყენება Hub-ზე შეგიძლიათ პირდაპირ, ვებსაიტის ინტერფეისის ან კლიენტური SDK-ების მეშვეობით. ამ სექციაში ნახსენები ყველა მაგალითი შეგიძლიათ იხილოთ Cohere-ის დოკუმენტაციის გვერდზე. Cohere-ის მოდელების ძებნა შეგიძლიათ მოდელის Hub-ში ინფერენს პროვაიდერის მიხედვით ფილტრაციით. Model Card-იდან შეგიძლიათ აირჩიოთ ინფერენს პროვაიდერი და გაუშვათ ინფერენსი პირდაპირ UI-ში. მოდით განვიხილოთ Cohere-ის მოდელების გამოყენება კლიენტური SDK-ებიდან. ჩვენ ასევე შევქმენით Colab ნოუთბუქი ამ კოდის ფრაგმენტებით, იმ შემთხვევაში თუ გსურთ მათი დაუყოვნებლივ გამოცდა. შემდეგი მაგალითი გვიჩვენებს, თუ როგორ გამოიყენოთ Command A, Cohere-ის, როგორც თქვენი ინფერენს პროვაიდერის, გამოყენებით. შეგიძლიათ გამოიყენოთ Hugging Face ტოკენი Hugging Face-ის მეშვეობით ავტომატური მარშრუტიზაციისთვის, ან თქვენი საკუთარი Cohere API გასაღები, თუ გაქვთ. დააინსტალირეთ `huggingface_hub v0.30.0` ან უფრო ახალი ვერსია: გამოიყენეთ `huggingface_hub` python ბიბლიოთეკა Cohere-ის ენდპოინტებზე გამოსაძახებლად `provider` პარამეტრის განსაზღვრით. Aya Vision, Cohere Labs-ის მრავალენოვანი, მულტიმოდალური მოდელი ასევე მხარდაჭერილია. შეგიძლიათ დაამატოთ base64-ში კოდირებული სურათები შემდეგნაირად: აი, როგორ შეგიძლიათ გამოიძახოთ `Command R7B` Cohere-ის, როგორც ინფერენს პროვაიდერის, გამოყენებით OpenAI კლიენტური ბიბლიოთეკის მეშვეობით. Cohere-ის მოდელები ინფერენს პროვაიდერებს სთავაზობენ უახლესი აგენტური ხელსაწყოების გამოყენებას, ამიტომ მოდით, ეს დეტალურად განვიხილოთ. როგორც Hugging Face Hub კლიენტი, ასევე OpenAI კლიენტი თავსებადია ინსტრუმენტებთან ინფერენს პროვაიდერების მეშვეობით, ასე რომ ზემოთ მოყვანილი მაგალითების გაფართოება შესაძლებელია. პირველ რიგში, საჭირო იქნება ინსტრუმენტების განსაზღვრა მოდელისთვის გამოსაყენებლად. ქვემოთ განვსაზღვრავთ `get_flight_info` ფუნქციას, რომელიც იძახებს API-ს უახლესი ფრენის ინფორმაციისთვის ორი ლოკაციის გამოყენებით. ამ ინსტრუმენტის განმარტება წარმოდგენილი იქნება მოდელის ჩატის შაბლონით, რომლის ნახვაც ასევე შესაძლებელია Model Card-ში (🎉 ღია წყარო). შემდეგ, საჭირო იქნება შეტყობინებების გადაცემა ინფერენს კლიენტისთვის, რათა მოდელმა გამოიყენოს ინსტრუმენტები საჭიროების შემთხვევაში. ქვემოთ მოცემულ მაგალითში ჩვენ ვადგენთ ასისტენტის ინსტრუმენტის გამოძახებას `tool_calls`-ში, სიცხადისთვის. საბოლოოდ, ინსტრუმენტები და შეტყობინებები გადაეცემა `create` მეთოდს. პირდაპირი მოთხოვნებისთვის, ანუ როდესაც იყენებთ Cohere-ის გასაღებს, თქვენი გადასახადი პირდაპირ აისახება თქვენს Cohere ანგარიშზე. მარშრუტიზებული მოთხოვნებისთვის, ანუ როდესაც ავთენტიფიკაციას გადიხართ Hub-ის მეშვეობით, თქვენ გადაიხდით მხოლოდ სტანდარტულ Cohere API ტარიფებს. ჩვენგან დამატებითი გადასახადი არ არის, ჩვენ უბრალოდ პირდაპირ გადავცემთ პროვაიდერის ხარჯებს. (მომავალში, შესაძლოა, დავაწესოთ შემოსავლების გაზიარების ხელშეკრულებები ჩვენს პროვაიდერ პარტნიორებთან.) **მნიშვნელოვანი შენიშვნა ‼️** PRO მომხმარებლები ყოველთვიურად იღებენ 2 აშშ დოლარის ღირებულების ინფერენსის კრედიტებს. მათი გამოყენება შესაძლებელია სხვადასხვა პროვაიდერზე. 🔥 გამოიწერეთ Hugging Face PRO გეგმა, რათა მიიღოთ წვდომა ინფერენსის კრედიტებზე, ZeroGPU-ზე, Spaces დეველოპერის რეჟიმზე, 20-ჯერ მაღალ ლიმიტებზე და სხვა მრავალზე. **მეტი სტატია ჩვენი ბლოგიდან**