წიგნში „როგორ ტესტავს Google პროგრამულ უზრუნველყოფას“ (Addison-Wesley, 2012), Google იუწყება, რომ შეცდომის გამოსწორება სისტემური ტესტირების დროს – ტესტირების საბოლოო ეტაპზე – 1000-ჯერ უფრო ძვირია, ვიდრე მისი ერთეულოვანი ტესტირების ეტაპზე გამოსწორება. ეს დიდ ზეწოლას ახდენს დეველოპერებზე – ჯაჭვის პირველ რგოლზე – რათა თავიდანვე დაწერონ ხარისხიანი კოდი. გენერაციული ხელოვნური ინტელექტის ირგვლივ აჟიოტაჟის მიუხედავად, კოდის გენერაცია პერსპექტიულ გზად გამოიყურება, რათა დაეხმაროს დეველოპერებს უკეთესი კოდის სწრაფად მიწოდებაში. მართლაც, ადრეული კვლევები აჩვენებს, რომ მართული სერვისები, როგორიცაა GitHub Copilot ან Amazon CodeWhisperer, დეველოპერებს უფრო პროდუქტიულს ხდის. თუმცა, ეს სერვისები ეყრდნობა დახურული კოდის მოდელებს, რომელთა მორგება შეუძლებელია თქვენს ტექნიკურ კულტურასა და პროცესებზე. Hugging Face-მა რამდენიმე კვირის წინ გამოუშვა SafeCoder ამ პრობლემის მოსაგვარებლად. SafeCoder არის კოდის ასისტენტის გადაწყვეტა, შექმნილი საწარმოებისთვის, რომელიც გთავაზობთ უახლეს მოდელებს, გამჭვირვალობას, მორგებადობას, IT მოქნილობას და კონფიდენციალურობას. ამ პოსტში ჩვენ შევადარებთ SafeCoder-ს დახურული კოდის სერვისებს და ხაზს გავუსვამთ იმ სარგებელს, რასაც შეგიძლიათ ელოდოთ ჩვენი გადაწყვეტილებიდან. SafeCoder ამჟამად აგებულია StarCoder მოდელებზე, ღია კოდის მოდელების ოჯახზე, რომელიც შექმნილი და გაწვრთნილია BigCode-ის ერთობლივი პროექტის ფარგლებში. StarCoder არის 15.5 მილიარდი პარამეტრის მოდელი, გაწვრთნილი კოდის გენერაციისთვის 80-ზე მეტ პროგრამირების ენაზე. ის იყენებს ინოვაციურ არქიტექტურულ კონცეფციებს, როგორიცაა Multi-Query Attention (MQA), გამტარუნარიანობის გასაუმჯობესებლად და შეყოვნების შესამცირებლად, ტექნიკა, რომელიც ასევე გამოიყენება Falcon-ში და ადაპტირებულია LLaMa 2 მოდელებისთვის. StarCoder-ს აქვს 8192 ტოკენის კონტექსტური ფანჯარა, რაც ეხმარება მას თქვენი კოდის უფრო დიდი ნაწილის გათვალისწინებაში ახალი კოდის გენერირებისთვის. მას ასევე შეუძლია „შევსება შუაში“, ანუ თქვენს კოდში ჩასმა, ნაცვლად იმისა, რომ ახალი კოდი მხოლოდ ბოლოში დაამატოს. დაბოლოს, HuggingChat-ის მსგავსად, SafeCoder დროთა განმავლობაში შემოიტანს ახალ, უახლეს მოდელებს, რაც უზრუნველყოფს უწყვეტ განახლების გზას. სამწუხაროდ, დახურული კოდის ასისტენტის სერვისები არ აზიარებენ ინფორმაციას ძირითადი მოდელების, მათი შესაძლებლობებისა და მათი სასწავლო მონაცემების შესახებ. Chinchilla Scaling Law-ის შესაბამისად, SafeCoder არის გამოთვლით ოპტიმალური მოდელი, გაწვრთნილი 1 ტრილიონ (1000 მილიარდ) კოდის ტოკენზე. ეს ტოკენები ამოღებულია The Stack-დან, 2.7 ტერაბაიტიანი მონაცემთა ნაკრებიდან, რომელიც შექმნილია თავისუფლად ლიცენზირებული ღია კოდის საცავებიდან. ყველა ძალისხმევა ხორციელდება ოპტ-აუტ მოთხოვნების დასაკმაყოფილებლად, და ჩვენ შევქმენით ინსტრუმენტი, რომელიც საცავის მფლობელებს საშუალებას აძლევს შეამოწმონ, შედის თუ არა მათი კოდი მონაცემთა ნაკრებში. გამჭვირვალობის სულისკვეთებით, ჩვენი კვლევითი ნაშრომი ავლენს მოდელის არქიტექტურას, სასწავლო პროცესს და დეტალურ მეტრიკას. სამწუხაროდ, დახურული კოდის სერვისები ბუნდოვან ინფორმაციას იძლევა, მაგალითად, „[მოდელი გაწვრთნილია] მილიარდობით ხაზ კოდზე“. ჩვენი ცოდნით, მეტრიკა არ არის ხელმისაწვდომი. StarCoder მოდელები სპეციალურად შექმნილია მორგებადობისთვის, და ჩვენ უკვე შევქმენით სხვადასხვა ვერსია: ჩვენ ასევე გავაზიარეთ ფაინ-ტუნინგის კოდი GitHub-ზე. ყველა კომპანიას აქვს თავისი სასურველი ენები და კოდირების გაიდლაინები, მაგ., როგორ დავწეროთ ინლაინ დოკუმენტაცია ან ერთეულოვანი ტესტები, ან რა არის ნებადართული და აკრძალული უსაფრთხოებასა და შესრულებასთან დაკავშირებით. SafeCoder-ის მეშვეობით, ჩვენ შეგვიძლია დაგეხმაროთ ისეთი მოდელების გაწვრთნაში, რომლებიც შეისწავლიან თქვენი პროგრამული ინჟინერიის პროცესის თავისებურებებს. ჩვენი გუნდი დაგეხმარებათ მაღალი ხარისხის მონაცემთა ნაკრებების მომზადებაში და StarCoder-ის ფაინ-ტუნინგში თქვენს ინფრასტრუქტურაზე. თქვენი მონაცემები არასოდეს იქნება ხელმისაწვდომი სხვისთვის. სამწუხაროდ, დახურული კოდის სერვისების მორგება შეუძლებელია. SafeCoder ეყრდნობა Docker კონტეინერებს ფაინ-ტუნინგისა და დეპლოიმენტისთვის. მისი გაშვება მარტივია ლოკალურად (on-premise) ან ღრუბელში ნებისმიერ კონტეინერის მართვის სერვისზე. გარდა ამისა, SafeCoder მოიცავს ჩვენს Optimum აპარატურულ აჩქარების ბიბლიოთეკებს. მიუხედავად იმისა, მუშაობთ CPU-სთან, GPU-სთან თუ AI ამაჩქარებლებთან, Optimum ავტომატურად ჩაირთვება, რათა დაგეხმაროთ დაზოგოთ დრო და ფული ტრენინგსა და ინფერენსზე. რადგან თქვენ აკონტროლებთ ძირითად აპარატურას, ასევე შეგიძლიათ დაარეგულიროთ თქვენი ინფრასტრუქტურის ხარჯი-ეფექტურობის თანაფარდობა თქვენს საჭიროებებზე. სამწუხაროდ, დახურული კოდის სერვისები მხოლოდ მართული სერვისების სახით არის ხელმისაწვდომი. უსაფრთხოება ყოველთვის მთავარი საზრუნავია, მით უმეტეს, როცა საქმე საწყის კოდს ეხება. ინტელექტუალური საკუთრება და კონფიდენციალურობა ნებისმიერ ფასად უნდა იყოს დაცული. მიუხედავად იმისა, გაუშვით ლოკალურად თუ ღრუბელში, SafeCoder არის თქვენი სრული ადმინისტრაციული კონტროლის ქვეშ. შეგიძლიათ გამოიყენოთ და აკონტროლოთ თქვენი უსაფრთხოების შემოწმებები და შეინარჩუნოთ ძლიერი და თანმიმდევრული შესაბამისობა თქვენს IT პლატფორმაზე. SafeCoder არ აკონტროლებს თქვენს მონაცემებს. თქვენი მოთხოვნები და წინადადებები მხოლოდ თქვენ გეკუთვნით. SafeCoder არ აგზავნის ტელემეტრიულ მონაცემებს Hugging Face-ში ან სხვაგან. თქვენს გარდა არავინ უნდა იცოდეს, როგორ და როდის იყენებთ SafeCoder-ს. SafeCoder-ს არც კი სჭირდება ინტერნეტ კავშირი. შეგიძლიათ (და უნდა) გაუშვათ ის სრულად იზოლირებულად (air-gapped). დახურული კოდის სერვისები ეყრდნობა ძირითადი ღრუბლის უსაფრთხოებას. თქვენი გადასაწყვეტია, შეესაბამება თუ არა ეს თქვენს შესაბამისობის მოთხოვნებს. საწარმოს მომხმარებლებისთვის, მოთხოვნები და წინადადებები არ ინახება (ინდივიდუალური მომხმარებლებისთვის ინახება). თუმცა, სამწუხაროა იმის აღნიშვნა, რომ GitHub აგროვებს „მომხმარებლის ჩართულობის მონაცემებს“ ოპტ-აუტის შესაძლებლობის გარეშე. AWS იგივეს აკეთებს.