დღეს ხელოვნური ინტელექტის ირგვლივ საუბრების დიდი ნაწილი მოდელების გასაშვებად ღრუბლოვანი სიმძლავრეებისა და მასიური მონაცემთა ცენტრების მშენებლობაზეა ორიენტირებული. ისეთი კომპანიები, როგორებიცაა Apple და Qualcomm, მოწყობილობებში ინტეგრირებული AI-ის უფრო სასარგებლოდ ქცევის საწყის ეტაპზე არიან. ამ ყველაფრის ფონზე, ლონდონური Mirai-ის 14-კაციანი ტექნიკური გუნდი მუშაობს იმაზე, თუ როგორ გააუმჯობესოს მოდელების მუშაობა ტელეფონებსა და ლეპტოპებზე. $10 მილიონიანი საწყისი დაფინანსებით, რომელსაც Uncork Capital ხელმძღვანელობდა, Mirai გასულ წელს დიმა შვეცმა და ალექსეი მოისეენკოვმა დააფუძნეს. ორივე დამფუძნებელს აქვს მასშტაბური სამომხმარებლო აპლიკაციების შექმნის გამოცდილება. შვეცმა თანადააფუძნა სახის გაცვლის აპლიკაცია Reface, რომელსაც a16z უჭერდა მხარს. მოგვიანებით შვეცი სარისკო კაპიტალის ფირმის სკაუტიც გახდა. მოისეენკოვი იყო გასული ათწლეულის ვირუსული AI ფილტრების აპლიკაცია Prisma-ს აღმასრულებელი დირექტორი და თანადამფუძნებელი. როგორც სამომხმარებლო დეველოპერები, ორივე ფიქრობდა ხელოვნურ ინტელექტსა და მანქანურ სწავლებაზე მოწყობილობებზე ჯერ კიდევ მანამ, სანამ გენერაციული AI პოპულარული გახდებოდა, თქვა შვეცმა. „როდესაც ლონდონში შევხვდით, ტექნოლოგიაზე დავიწყეთ საუბარი და მივხვდით, რომ გენერაციული AI-ის ჰაიპისა და AI-ის უფრო ფართო დანერგვის ფარგლებში, ყველა ღრუბელზე, სერვერებზე, AGI-ის მოსვლაზე საუბრობს. მაგრამ დაკარგული ნაწილი სამომხმარებლო აპარატურისთვის მოწყობილობებში ინტეგრირებული [AI] არის,“ – განუცხადა მან TechCrunch-ს. შვეცსა და მოისეენკოვს სურდათ ხელოვნური ინტელექტის გამოყენება იმ მიზნით, რომ შეექმნათ სისტემა, რომელიც მათ ტელეფონზე რთული ამოცანების შესრულების საშუალებას მისცემდა, რამაც Mirai-ის დაარსებისკენ უბიძგა. როდესაც მათ ჰკითხეს სხვა დეველოპერებს, რომლებიც სამომხმარებლო აპლიკაციებს ქმნიდნენ, გაიგეს, რომ ბევრს ასევე სურდა უკეთესი ხარჯების ოპტიმიზაცია და მეტი მოგება თითოეული ტოკენის გამოყენებაზე. დღეს Mirai მოდელებისთვის ქმნის ჩარჩოს, რათა მათ უკეთ იმუშაონ მოწყობილობებზე. კომპანიამ შექმნა ინფერენციის ძრავა Apple Silicon-ისთვის, რომელიც ოპტიმიზაციას უკეთებს მოწყობილობაშიდა გამტარუნარიანობას. კომპანიის თქმით, მისი მომავალი SDK-ის მეშვეობით, დეველოპერებს შეეძლებათ runtime-ის ინტეგრირება თავიანთ აპლიკაციებში მხოლოდ რამდენიმე ხაზის გამოყენებით. „ჩვენი კომპანიის დაარსების ერთ-ერთი ხედვა ის იყო, რომ გვინდოდა დეველოპერებისთვის მიგვეცა Stripe-ის მსგავსი, რვახაზიანი კოდის [ინტეგრაციის] გამოცდილება... თქვენ, ძირითადად, შედიხართ ჩვენს პლატფორმაზე, აინტეგრირებთ გასაღებს და იწყებთ მუშაობას შეჯამებაზე, კლასიფიკაციაზე, ან ნებისმიერ სხვა ამოცანაზე, რაც თქვენთვის საჭიროა,“ – თქვა შვეცმა. სტარტაპმა ეს ძრავა Rust-ში ააწყო, რაც, მათი მტკიცებით, მოდელის გენერირების სიჩქარეს 37%-ით ზრდის. კომპანიამ განაცხადა, რომ პლატფორმისთვის მოდელის მორგებისას, ის არ ეხება მოდელის წონებს იმის უზრუნველსაყოფად, რომ გამომავალი მონაცემების ხარისხში არ იყოს დანაკარგი. Mirai-ის ტექნოლოგიური სტეკი ამჟამად ფოკუსირებულია პლატფორმაზე ტექსტისა და ხმოვანი მოდალობების გაუმჯობესებაზე, სამომავლოდ კი ხედვის მხარდაჭერასაც გეგმავს. გუნდმა დაიწყო მუშაობა წამყვან მოდელის მიმწოდებლებთან, რათა მათი მოდელები კიდურა (edge) გამოყენებისთვის მოარგოს და მოლაპარაკებებს აწარმოებს სხვადასხვა ჩიპების მწარმოებლებთან. მოგვიანებით, კომპანია გეგმავს თავისი ძრავის Android-ზეც დანერგვას. გარდა ამისა, Mirai მიზნად ისახავს გამოუშვას მოწყობილობაშიდა ბენჩმარკები, რათა მოდელების შემქმნელებმა შეძლონ მოწყობილობაშიდა შესრულების ტესტირება. შვეცი აღიარებს, რომ ხელოვნური ინტელექტის ყველა ამოცანის შესრულება მოწყობილობაზე შეუძლებელია. ოპერაციის შერეული რეჟიმის უზრუნველსაყოფად, გუნდი აშენებს ორკესტრირების ფენას, რათა მოწყობილობაზე შეუსრულებელი მოთხოვნები ღრუბელში გაიგზავნოს. მიუხედავად იმისა, რომ სტარტაპი ჯერჯერობით უშუალოდ აპლიკაციებთან არ მუშაობს, მისი ძრავა შეიძლება გამოყენებულ იქნას მოწყობილობაშიდა ასისტენტებისთვის, ტრანსკრიბერებისთვის, მთარგმნელებისთვის და ჩატის აპლიკაციებისთვის, გვითხრეს ჩვენ. ენდი მაკლოფლინმა, Uncork Capital-ის მმართველმა პარტნიორმა, აღნიშნა, რომ გასულ ათწლეულში მან კიდურა (edge) მანქანური სწავლების კომპანიაში ჩადო ინვესტიცია. მისი თქმით, კომპანია ნაადრევი იყო და საბოლოოდ თავისი ბიზნესი Spotify-ს მიჰყიდა. დღევანდელ მსოფლიოში სიტუაცია განსხვავებულია, მისი აზრით. „ღრუბლოვანი ინფერენციის ხარჯების გათვალისწინებით, რაღაც უნდა შეიცვალოს... ამ დროისთვის, სარისკო კაპიტალისტები სიამოვნებით აფინანსებენ „სარაკეტო ხომალდის“ კომპანიებს, რომლებიც უზომო თანხებს ხარჯავენ ღრუბლოვან ინფერენციაზე. მაგრამ ეს დიდხანს არ გაგრძელდება — რაღაც მომენტში, ადამიანები ფოკუსირდებიან ამ ბიზნესების ფუძემდებლურ ეკონომიკაზე და მიხვდებიან, რომ რაღაც უნდა შეიცვალოს,“ – თქვა მან. „როგორც ჩანს, მოდელების ყველა შემქმნელს მოუნდება ინფერენციის სამუშაო დატვირთვის ნაწილი კიდურა სისტემებზე გაუშვას და Mirai ამ მოთხოვნის დასაკმაყოფილებლად ძალიან კარგად არის პოზიციონირებული.“ Mirai-ის საწყის რაუნდში ასევე მონაწილეობდნენ ინდივიდები, მათ შორის Dreamer-ის აღმასრულებელი დირექტორი დევიდ სინგლტონი, YC-ის პარტნიორი ფრანსუა ჩაუბარდი, Snowflake-ის თანადამფუძნებელი მარჩინ ჟუკოვსკი, ElevenLabs-ის თანადამფუძნებელი მატი სტანიშევსკი, ყოფილი