GPT4All: ლოკალური, ღია კოდის ხელოვნური ინტელექტი, რომელიც ყურადღებას იმსახურებს

რაც შეეხება ხელოვნურ ინტელექტს, მე მაქვს რამდენიმე წესი ჩემთვის: ის არ არის შემოქმედებითი მიზნებისთვის, არ უნდა იქნას გამოყენებული წერის დამხმარედ და, შეძლებისდაგვარად, უნდა იყოს ლოკალური. ეს საკმაოდ მარტივი სიაა, რომლის დაცვაც დღემდე არც ისე რთული ყოფილა. დიდი ხნის განმავლობაში, მე ვიყენებდი Ollama-ს, რადგან ის ლოკალურია, მუშაობს ყველა დესკტოპ პლატფორმაზე და არის ღია კოდის. თუმცა, ცოტა ხნის წინ აღმოვაჩინე კიდევ ერთი ღია კოდის ინსტრუმენტი, რომელსაც მართლაც მაგარი ფუნქციები აქვს. ეს ინსტრუმენტია GPT4All. GPT4All გამოშვებულია MIT ლიცენზიით და მისი ინსტალაცია და გამოყენება შესაძლებელია Linux-ზე, MacOS-ზე და Windows-ზე უფასოდ. ის მოიცავს ყველა სტანდარტულ ფუნქციას, როგორიცაა მრავალი LLM-ის დამატების შესაძლებლობა, შემდგომი კითხვები, არ საჭიროებს API ზარებს ან GPU-ს, სრული მორგება, ლოკალური დოკუმენტების ჩეთი (LocalDocs) და ათასობით მოდელის მხარდაჭერა. სხვათა შორის, მე გამოვცადე Claude Code-ის ლოკალური, ღია კოდის და სრულიად უფასო კონკურენტი. გადავწყვიტე, გამომეცადა GPT4All და მენახა, როგორ გაუმკლავდებოდა ის Ollama-ს. ჩემდა გასაკვირად, მან საკმაოდ სწრაფად მომხიბლა. მოდით, დავაინსტალიროთ GPT4All და ვნახოთ, რას წარმოადგენს ის. თუ იყენებთ MacOS-ს ან Windows-ს, GPT4All-ის ინსტალაცია ძალიან მარტივია. უბრალოდ ჩამოტვირთეთ შესაბამისი საინსტალაციო ფაილი GPT4All-ის საიტიდან, ორჯერ დააწკაპუნეთ გადმოწერილ ფაილზე და მიჰყევით ინსტალაციის ოსტატის მითითებებს. თუ იყენებთ Linux-ს, საქმე ცოტა რთულდება. პირველ რიგში, GPT4All გთავაზობთ ინსტალერს მხოლოდ Ubuntu-ზე დაფუძნებული დისტრიბუციებისთვის. თავდაპირველად ვცადე GPT4All-ის დაყენება Pop!_OS-ზე. ამის გაკეთებისას მივიღე შეცდომა, რომ ვერ იპოვა საჭირო Qt ბიბლიოთეკები. კარგი, მაშინ. დროა KDE Plasma-სთვის. გარდა ამისა, მე ვცადე 1200$-ის დაზოგვა უფასო „ვაიბ კოდირებით“ – და მალევე ვინანე. მე გავუშვი Fedora VM KDE Plasma-თი და გავუშვი ინსტალერი. არა. ამჯერად, დაკარგული X11 ბიბლიოთეკა იყო მიზეზი, რის გამოც ინსტალაცია ჩაიშალა. კარგი. კიდევ ერთხელ ვცადე, ამჯერად KDE Neon-ით. ამან იმუშავა და ერთ წუთზე ნაკლებ დროში GPT4All მუშაობდა KDE Neon-ზე. ერთ გაფრთხილებას მოგცემთ: არ შეეცადოთ GPT4All-ის ინსტალაციას ადმინისტრატორის (sudo) უფლებებით, რადგან ის ყოველთვის ჩავარდება. გადმოწერეთ საინსტალაციო ფაილი, მიანიჭეთ მას გაშვების ნებართვები `chmod u+x gpt4all-installer-linux.run` ბრძანებით, შემდეგ კი გაუშვით ინსტალერი `./gpt4all-installer-linux.run` ბრძანებით. ასევე, როგორ გავხადე Perplexity AI ჩემი ბრაუზერის ნაგულისხმევი საძიებო სისტემა (და რატომ უნდა გააკეთოთ ეს თქვენც). ინსტალაციის შემდეგ, არ აქვს მნიშვნელობა, რომელ პლატფორმას იყენებთ, რადგან GUI და ფუნქციების ნაკრები ყველგან ერთნაირია. თუ ოდესმე გამოგიყენებიათ რაიმე AI, განსაკუთრებით ლოკალური AI, მაშინ GPT4All-თან თავს ისე იგრძნობთ, როგორც სახლში. GPT4All-ის გრაფიკული ინტერფეისი ძალიან კარგად არის ორგანიზებული, ისე რომ თავიდანვე შეძლებთ მისი ყველა ფუნქციის გამოყენებას. გარდა ამისა, მე გამოვცადე ლოკალური AI ჩემს M1 Mac-ზე, ველოდი მაგიას – და სამაგიეროდ რეალობის შემოწმება მივიღე. თუმცა, დაწყებამდე მოდელის დამატება გჭირდებათ. ამისათვის დააწკაპუნეთ „Models“-ზე მარცხენა გვერდითა ზოლში და შემდეგ „Add Model“-ზე. GPT4All გთავაზობთ ძალიან სუფთა და მარტივად გამოსაყენებელ ინტერფეისს. მიღებულ ფანჯარაში იპოვეთ მოდელი, რომლის დამატებაც გსურთ და დააწკაპუნეთ „Download“-ზე. შეგიძლიათ დაამატოთ იმდენი მოდელი, რამდენიც გჭირდებათ. მოდელის ჩამოტვირთვის შემდეგ, დააწკაპუნეთ „Chat“-ზე მარცხენა გვერდითა ზოლში და შემდეგ „Load“-ზე, რათა ჩატვირთოთ ახლახან გადმოწერილი LLM. ამ ეტაპზე დაიწყეთ თქვენი შეკითხვების გაგზავნა და დარწმუნდით, რომ შედეგების სისწორე გადაამოწმეთ. მე გადმოვწერე GPT4All Falcon მოდელი, რადგან ის არასოდეს გამომიყენებია. როდესაც ჩემი ჩვეულებრივი პირველი შეკითხვა დავსვი („რა არის Linux?“), პასუხმა გამაოცა. როგორც წესი, Linux-ის შესახებ ვიღებდი ვრცელ პასუხს უამრავი დეტალით, რომელთაგან ზოგიერთი არასწორი იყო. ამჯერად კი, მივიღე ორწინადადიანი პასუხი. ლაკონური. ამასთან, ეს უფასო MacOS აპლიკაცია თქვენი ლოკალური AI მოდელებიდან მეტის მიღების საიდუმლოა. შემეძლო მიმემატებინა შეკითხვა, როგორიცაა: „არის თუ არა Linux კარგი დესკტოპის გამოყენებისთვის?“ პასუხი: „დიახ, Linux კარგი არჩევანია დესკტოპის გამოყენებისთვის. მას აქვს აპლიკაციების ფართო სპექტრი და მისი მორგება შესაძლებელია ინდივიდუალური მომხმარებლების სპეციფიკურ საჭიროებებზე.“ აი ასე, მოძულეებო! ერთი ფუნქცია, რომელიც შესაძლოა მოგეწონოთ, არის საკუთარი დოკუმენტების ჩატვირთვისა და მათი შეკითხვებში გამოყენების შესაძლებლობა. მაგალითად, შესაძლოა დაგიწერიათ უამრავი სტატია, თეზისი, მონოგრაფია და ა.შ. და გსურთ, რომ შეძლოთ მათი შეჯამება, გაერთიანება და კვლევისთვის გამოყენება. აი, როგორ გააკეთებთ ამას. ასევე, ეს არის ყველაზე სწრაფი ლოკალური AI, რაც კი ოდესმე გამომიცდია, და ახლოსაც კი არ არის სხვებთან – როგორ მიიღოთ ის. სანამ ამას გააკეთებთ, უნდა შეაგროვოთ ყველა დოკუმენტი, რომლის დამატებაც გსურთ, სპეციალურ საქაღალდეში. ამის გაკეთების შემდეგ, დააწკაპუნეთ „Local Docs“-ზე მარცხენა გვერდითა ზოლში. მიღებულ ფანჯარაში დააწკაპუნეთ „Add Doc Collection“-ზე. ვემზადები საკუთარი დოკუმენტების GPT4All-ში ჩასატვირთად. მე ჩავატარე ძალიან მარტივი ტესტი ამ ფუნქციით. ჩემი სასწავლო რეზიუმე დავამატე ახალ კოლექციას და ვკითხე GPT4All Falcon მოდელს: „რა არის ჯეკ უოლენის სწავლების კვალიფიკაცია?“ ჩემდა გასაკვირად, მან ვერ იმუშავა და მხოლოდ ჩემი Linux-თან დაკავშირებული გამოცდილება ახსენა, რაც არსად არ არის მოცემული ამ კონკრეტულ რეზიუმეში. გადავწყვიტე, წამეშალა Falcon მოდელი და გამომეყენებინა Llama...