მოხარულნი ვართ, გაცნობოთ ხელოვნური ინტელექტის (AI) შესაქმნელად ორი ძირითადი ახალი გამოცდილების შესახებ Microsoft Azure-ზე, ღია მოდელების გამოყენებით. ერთი წლის წინ Hugging Face-მა და Microsoft-მა Azure Model Catalog-ში Hugging Face Collection წარადგინეს. Hugging Face Collection ასობით Azure AI მომხმარებელმა გამოიყენა და მისი შემოღების შემდეგ ათასზე მეტი ღია მოდელია ხელმისაწვდომი. დღეს, ჩვენ ვამატებთ ყველაზე პოპულარულ ღია დიდ ენობრივ მოდელებს (LLM) Hugging Face Collection-ში, რათა შესაძლებელი გახდეს მათი პირდაპირი, 1 დაწკაპუნებით განთავსება Azure AI Studio-დან. ახალი მოდელები მოიცავს Llama 3-ს Meta-სგან, Mistral 7B-ს Mistral AI-სგან, Command R Plus-ს Cohere for AI-სგან, Qwen 1.5 110B-ს Qwen-ისგან და ასევე Hugging Face საზოგადოების მიერ Open LLM Leaderboard-ზე განთავსებულ ზოგიერთ ყველაზე მაღალეფექტურ წვრილად მორგებულ მოდელს. მოდელების თქვენს Azure ანგარიშში განსათავსებლად, შეგიძლიათ დაიწყოთ მოდელის ბარათიდან Hugging Face Hub-ზე, „Deploy on Azure“ (განთავსება Azure-ზე) ოფციის არჩევით, ან შეგიძლიათ იპოვოთ მოდელი პირდაპირ Azure AI Studio-ში, Hugging Face Collection-ში და დააწკაპუნოთ ღილაკზე „Deploy“ (განთავსება). დღეს Microsoft-მა Azure-ზე ზოგადად ხელმისაწვდომი გახადა ახალი Azure ND MI300X ვირტუალური მანქანები (VM-ები), რომლებიც უახლეს AMD Instinct MI300 GPU-ებზეა დაფუძნებული. Hugging Face-მა AMD-თან და Microsoft-თან ითანამშრომლა, რათა Hugging Face მოდელებისთვის ამ ახალ ვირტუალურ მანქანებზე გასაოცარი წარმადობა და ხარჯთეფექტურობა მიეღწია. ეს ნამუშევარი ეფუძნება ჩვენს ღრმა თანამშრომლობას AMD-თან და ჩვენს ღია კოდის ბიბლიოთეკა Optimum-AMD-ს, ოპტიმიზაციით, ROCm ინტეგრაციებით და Hugging Face-ის ღია კოდის ბიბლიოთეკებისა და მოდელების უწყვეტი ტესტირებით AMD Instinct GPU-ებზე. Microsoft Hugging Face-ზე ზოგიერთ ყველაზე პოპულარულ ღია მოდელს ავრცელებს, რომელთაგან თითქმის 300 მოდელი ამჟამად Microsoft-ის ორგანიზაციის ქვეშ არის ხელმისაწვდომი Hugging Face Hub-ზე. ეს მოიცავს Phi-3 მოდელების უახლეს ოჯახს, რომლებიც MIT ლიცენზიით არის ნებადართული და მათი პარამეტრების მიუხედავად, საოცარ წარმადობას გვთავაზობენ. მაგალითად, მხოლოდ 3.8 მილიარდი პარამეტრით, Phi-3 mini აღემატება ბევრ უფრო დიდ, 7-დან 10 მილიარდ პარამეტრამდე დიდ ენობრივ მოდელს, რაც ამ მოდელებს მოწყობილობაზე არსებული აპლიკაციებისთვის (on-device applications) შესანიშნავ კანდიდატებად აქცევს. Phi-3-ის შესაძლებლობების დემონსტრირებისთვის, Hugging Face-მა Phi-3 mini Hugging Chat-ში განათავსა, რომელიც მისი უფასო სამომხმარებლო აპლიკაციაა უდიდეს ღია მოდელებთან სასაუბროდ და ასისტენტების შესაქმნელად. Hugging Face და Microsoft 3 წელია თანამშრომლობენ, რათა ONNX Runtime-თან Hugging Face მოდელების ექსპორტი და გამოყენება გაადვილდეს, optimum ღია კოდის ბიბლიოთეკის მეშვეობით. ცოტა ხნის წინ, Hugging Face და Microsoft ფოკუსირებულნი იყვნენ ლოკალური ინფერენციის (local inference) ჩართვაზე WebGPU-ს მეშვეობით, Transformers.js-ისა და ONNX Runtime Web-ის გამოყენებით. ამ თანამშრომლობის შესახებ მეტი შეგიძლიათ წაიკითხოთ ONNX Runtime გუნდის ამ სტატიაში. WebGPU-ს ძალის მოქმედებაში სანახავად, გაითვალისწინეთ Phi-3-ის ეს დემო, რომელიც 70-ზე მეტ ტოკენს წამში ლოკალურად, ბრაუზერში აგენერირებს! და ბოლოს, დღეს ჩვენ ვხსნით ახალ ინტეგრაციას, რომელიც დეველოპერებისთვის AI აპლიკაციების შექმნას Hugging Face Spaces-ისა და VS Code-ის საშუალებით უფრო მარტივს ხდის, ვიდრე ოდესმე! Hugging Face საზოგადოებამ Hub-ზე 500 000-ზე მეტი AI დემო აპლიკაცია შექმნა Hugging Face Spaces-ის გამოყენებით. ახალი Spaces Dev Mode-ის საშუალებით, Hugging Face მომხმარებლებს მარტივად შეუძლიათ თავიანთი Space-ის დაკავშირება ლოკალურ VS Code-თან, ან ვებ-ჰოსტირებული VS Code გარემოს გაშვება. Spaces Dev Mode ამჟამად ბეტა რეჟიმშია და ხელმისაწვდომია PRO გამომწერებისთვის. Spaces Dev Mode-ის შესახებ მეტის გასაგებად, გაეცანით „Introducing Spaces Dev mode for a seamless developer experience“ სტატიას ან დოკუმენტაციას. ჩვენ მოხარულნი ვართ, გავაღრმავოთ ჩვენი სტრატეგიული თანამშრომლობა Microsoft-თან, რათა ღია კოდის AI ყველგან უფრო ხელმისაწვდომი გავხადოთ. ადევნეთ თვალი სიახლეებს, რადგან Azure AI Studio-ს მოდელების კატალოგში მეტ მოდელს გავააქტიურებთ და მომდევნო თვეებში ახალ ფუნქციებსა და გამოცდილებებს შემოგთავაზებთ.