Arm KleidiAI და SDOT: გენერაციული ხელოვნური ინტელექტი მილიარდობით მოწყობილობაზე, მათ შორის ძველ მოდელებზეც
Arm-ის KleidiAI, SDOT CPU ფუნქციის გამოყენებით, გენერაციულ ხელოვნურ ინტელექტს (GenAI) ხელმისაწვდომს ხდის მოწყობილობების ფართო სპექტრზე – უახლესი ფლაგმანური მოდელებიდან დაწყებული, ხუთ წლამდე ძველი სმარტფონებითა და Raspberry Pi 5-ით დამთავრებული. ეს მიიღწევა პოპულარულ AI ფრეიმვორკებში ჩაშენებული ოპტიმიზაციებით და ExecuTorch 0.7 ბეტაში ნაგულისხმევი ჩართვით, რაც უზრუნველყოფს დიდი ენობრივი მოდელების (LLM) ეფექტურ მუშაობას კოდის შეცვლის გარეშე და მნიშვნელოვანი წარმადობის გაუმჯობესებით.
Bloom მოდელის ოპტიმიზაცია: გზა 5x შეყოვნების შემცირებამდე და 50x გამტარუნარიანობამდე
ამ სტატიაში განხილულია Bloom-ის დიდი ენობრივი მოდელის (LLM) ოპტიმიზაციის პროცესი, რამაც გამოიწვია ინფერენციის შეყოვნების 5-ჯერ შემცირება და გამტარუნარიანობის 50-ჯერ გაზრდა. აღწერილია გამოწვევები, მათ შორის მოდელის `transformers` ბიბლიოთეკაში პორტირება, მკაცრი ტესტირების ნაკრების შექმნა, მონაცემთა სხვადასხვა ტიპებთან (bfloat16 vs float16) მუშაობა და ტენზორული პარალელიზმის საკითხები. საბოლოოდ, განიხილება ისეთი გადაწყვეტილებები, როგორიცაა `Megatron-Deepspeed` ტრენინგისთვის, მცირე მოდელების გამოყენე
RTEB: ახალი ბენჩმარკი ხელოვნური ინტელექტის მოდელების მოძიების ხარისხის საიმედო შეფასებისთვის
ხელოვნური ინტელექტის აპლიკაციების მუშაობა, როგორიცაა RAG და რეკომენდაციის სისტემები, მნიშვნელოვნად შეზღუდულია ძიებისა და მოძიების ხარისხით. დეველოპერებისთვის პრობლემას წარმოადგენს ემბედინგის მოდელების მოძიების ხარისხის ზუსტი გაზომვა, რადგან არსებული ბენჩმარკები ხშირად აჩვენებენ „განზოგადების ხარვეზს“ და არ შეესაბამებიან რეალურ საწარმოო გამოყენების შემთხვევებს. ამ გამოწვევების გადასაჭრელად შეიქმნა RTEB – ახალი, საიმედო ბენჩმარკი, რომელიც ზომავს მოძიების სიზუსტეს. ის იყენებს ჰიბრიდულ სტრატეგიას (ღ
FunFun AI და ხელოვნური ინტელექტის გამოსახულების გენერატორები: შემოქმედების თავისუფლება მოდერაციის გარეშე
FunFun AI გამოსახულების გენერატორი მომხმარებლებს სთავაზობს ხელოვნური ინტელექტზე დაფუძნებული სურათების შექმნის შესაძლებლობას მძიმე მოდერაციის სისტემების გვერდის ავლით, რაც ხელს უწყობს ღია და თავისუფალ შემოქმედებას. სტატია დეტალურად აღწერს პლატფორმის ინტუიციურ მუშაობას, მის მოქნილ ფასწარმოქმნის მოდელს და მიმოიხილავს ალტერნატიულ სერვისებს, რომლებიც კიდევ უფრო ნაკლებ შეზღუდვებსა და მეტ ექსპერიმენტულ სივრცეს გვთავაზობენ.
FunFun AI: თავისუფალი შემოქმედების ახალი ერა ხელოვნური ინტელექტის გამოსახულების გენერატორებით
FunFun AI გამოსახულების გენერატორი გამოირჩევა ღია შემოქმედებითი გამოყენების პრიორიტეტით და მკაცრი მოდერაციის არარსებობით, რაც მომხმარებლებს საშუალებას აძლევს, მარტივად შექმნან ხელოვნური ინტელექტის ბაზაზე გამოსახულებები. სტატია დეტალურად აღწერს პლატფორმის ინტუიციურ მუშაობას, მის ფასების სისტემას და წარმოგიდგენთ ალტერნატიულ ხელსაწყოებს, რომლებიც გვთავაზობენ მეტ მოქნილობას და ნაკლებ შეზღუდვებს, როგორიცაა Candy AI, MyDreamCompanion და Ourdream.
MIT-ის მკვლევრები „უწვრთნელ“ ნერვულ ქსელებს ახალი მეთოდით „ხელმძღვანელობით“ ავარჯიშებენ
მასაჩუსეტსის ტექნოლოგიური ინსტიტუტის (MIT) კომპიუტერული მეცნიერებისა და ხელოვნური ინტელექტის ლაბორატორიის (CSAIL) მკვლევრებმა შეიმუშავეს მეთოდი, რომელსაც „ხელმძღვანელობა“ (guidance) უწოდეს. ის საშუალებას აძლევს ნერვულ ქსელებს, რომლებიც ადრე არაეფექტურად ითვლებოდნენ, მნიშვნელოვნად გააუმჯობესონ თავიანთი მუშაობა. ეს მიიღწევა ერთი ქსელის შიდა წარმოდგენების მეორესთან შეთავსებით, რისთვისაც ხანმოკლე „გახურების“ პერიოდიც კი საკმარისია, რაც მიუთითებს უკეთეს ინიციალიზაციაზე და იმედს აძლევს „უიმედო“ არქიტე