ბოლო წლების განმავლობაში Claude და OpenAI ფართოდ გამოიყენებოდა კოდირების ასისტენტებად, თუმცა, თუ გადავხედავთ ღია კოდის პროექტების, როგორიცაა Open R1, განვითარებას, ნაკლებად მიმზიდველი ხდება მათი გამოყენება. LiveCodeBench-ის შეფასებების მიხედვით, 7 მილიარდი პარამეტრის მქონე ვარიანტი აჯობებს Claude 3.7 Sonnet-სა და GPT-4o-ს. ეს მოდელები მრავალი ინჟინრისთვის ყოველდღიური ინსტრუმენტია ისეთ აპლიკაციებში, როგორიცაა Cursor და VSCode. შეფასებები, რა თქმა უნდა, მნიშვნელოვანია, მაგრამ მინდა თავად გამოვცადო და შევიგრძნო მუშაობის პროცესი! ეს ბლოგ-პოსტი ფოკუსირებულია იმაზე, თუ როგორ შეგიძლიათ ამ მოდელების ინტეგრირება თქვენს IDE-ში ახლავე. ჩვენ დავაყენებთ OlympicCoder 7B-ს, OlympicCoder-ის ორ ვარიანტს შორის უფრო მცირეს, და გამოვიყენებთ კვანტიზებულ ვარიანტს ოპტიმალური ლოკალური ინფერენციისთვის. გთავაზობთ სტეკს, რომელსაც გამოვიყენებთ: მნიშვნელოვანია აღინიშნოს, რომ ეს სტეკი სუფთა სიმარტივისთვის შევარჩიეთ. შესაძლოა, თქვენ მოისურვოთ უფრო დიდი მოდელის და/ან სხვა GGUF ფაილების ექსპერიმენტები. ან თუნდაც ალტერნატიული ინფერენციის ძრავები, როგორიცაა llama.cpp. LM Studio ხელოვნური ინტელექტის მოდელების მართვის პანელს ჰგავს. ის ინტეგრირდება Hugging Face hub-თან მოდელების მისაღებად, გეხმარებათ სწორი GGUF ფაილის მოძიებაში და აქვეყნებს API-ს, რომლის მეშვეობითაც სხვა აპლიკაციებს შეუძლიათ მოდელთან ურთიერთობა. მოკლედ, ის საშუალებას გაძლევთ ჩამოტვირთოთ და გაუშვათ ისინი რაიმე რთული დაყენების გარეშე. ჩვენთვის საჭირო GGUF ფაილები ჰაბზეა განთავსებული. მოდელის გახსნა ჰაბიდან LMStudio-ში შესაძლებელია ღილაკის „Use this model“ გამოყენებით: ეს დააკავშირებს LMStudio აპლიკაციას და გახსნის მას თქვენს მანქანაზე. თქვენ უბრალოდ უნდა აირჩიოთ კვანტიზაცია. მე ავირჩიე Q4_K_M, რადგან ის კარგად იმუშავებს მოწყობილობების უმეტესობაზე. თუ მეტი გამომთვლელი რესურსი გაქვთ, შეგიძლიათ სცადოთ Q8_* ვარიანტებიდან რომელიმე. თუ UI-ის გამოტოვება გსურთ, მოდელების ჩატვირთვა LMStudio-თი ბრძანების ხაზიდანაც შეგიძლიათ: ეს არის მნიშვნელოვანი ნაწილი. ახლა უნდა მოვახდინოთ VSCode-ის ინტეგრირება LMStudio-ს მიერ სერვისირებულ მოდელთან. VSCode-ში AI-ის ძირითადი ფუნქციების უმეტესობა ხელმისაწვდომია ამ დაყენების მეშვეობით, მაგალითად: OlympicCoder არ არის Claude. ის ოპტიმიზირებულია CodeForces-CoTs მონაცემთა ნაკრებზე, რომელიც ეფუძნება კონკურენტული კოდირების ამოცანებს. ეს ნიშნავს, რომ არ უნდა ელოდოთ მისგან ზედმეტად მეგობრულ და განმარტებით სტილს. ამის ნაცვლად, მოემზადეთ და ელოდეთ უკომპრომისო კონკურენტულ კოდერს, რომელიც მზადაა გაუმკლავდეს რთულ პრობლემებს. შესაძლოა, მოგინდეთ OlympicCoder-ის სხვა მოდელებთან შერევა, რათა მიიღოთ სრულფასოვანი კოდირების გამოცდილება. მაგალითად, თუ ცდილობთ მილიწამების დაზოგვას ბინარული ძიებისას, სცადეთ OlympicCoder. თუ გსურთ მომხმარებელზე ორიენტირებული API-ის დიზაინი, აირჩიეთ Claude-3.7-sonnet ან Qwen-2.5-Coder. მეტი სტატია ჩვენი ბლოგიდან. ვერ ვხედავ იმ ცხრილს, რომელიც გამოაქვეყნეთ https://livecodebench.github.io/leaderboard.html-ზე. რა მენატრება? ის https://huggingface.co/open-r1/OlympicCoder-7B-ზეა. მხოლოდ VS Code? რაც შეეხება VI-ს? არ არის ინდუსტრიული სტანდარტი პროფესიონალებისთვის: Visual Studio Code 74% Visual Studio 29.7% IntelliJ IDEA 27.9% Notepad++ 24% Vim 21.6% (წყარო: https://survey.stackoverflow.co/2024/technology#1-integrated-development-environment) აქედან გამომდინარე, continue.dev მუშაობს მხოლოდ JetBrain-თან და VSC-სთან. დარეგისტრირდით ან შეხვიდით კომენტარისთვის.