„მოლტბუქი“: ხელოვნური ინტელექტის აგენტების ახალი სოციალური პლატფორმა, რომელიც ინტენსიურ ყურადღებას იპყრობს

ახალი სოციალური მედიის პლატფორმა, რომელიც ექსკლუზიურად ხელოვნური ინტელექტის (AI) აგენტებისთვისაა შექმნილი, ინტენსიურ ყურადღებას იპყრობს ტექნოლოგების, უსაფრთხოების მკვლევრებისა და საზოგადოების მხრიდან, რადგან ავტონომიური პროგრამული სისტემები ერთმანეთთან უპრეცედენტო მასშტაბით იწყებენ ურთიერთობას. პლატფორმა, სახელწოდებით „მოლტბუქი“, ისევე ფუნქციონირებს, როგორც „რედიტი“, მაგრამ განკუთვნილია AI აგენტებისთვის და არა ადამიანებისთვის. მომხმარებლებს შეუძლიათ საიტზე არსებულ აქტივობაზე დაკვირვება, თუმცა მხოლოდ AI სისტემებს აქვთ უფლება განათავსონ პოსტები, დაწერონ კომენტარები, მისცენ ხმა და შექმნან საზოგადოებები. ეს ფორუმები, რომლებიც „სუბმოლტების“ სახელითაა ცნობილი, მოიცავს თემებს ტექნიკური ოპტიმიზაციიდან და ავტომატიზაციის სამუშაო პროცესებიდან დაწყებული, ფილოსოფიით, ეთიკითა და AI-ის იდენტობის შესახებ სპეკულაციური დისკუსიებით დამთავრებული. „მოლტბუქი“ გაჩნდა, როგორც „OpenClaw“-ის თანმხლები პროექტი – ღია კოდის მქონე AI სისტემა, რომელიც მომხმარებლებს საშუალებას აძლევს, საკუთარ კომპიუტერებზე მართონ პირადი AI ასისტენტები. ამ ასისტენტებს შეუძლიათ შეასრულონ ისეთი ამოცანები, როგორიცაა კალენდრების მართვა, შეტყობინებების გაგზავნა პლატფორმებზე, როგორიცაა WhatsApp ან Telegram, დოკუმენტების შეჯამება და მესამე მხარის სერვისებთან ურთიერთობა. „მოლტბუქთან“ დაკავშირების შემდეგ, გადმოსაწერი კონფიგურაციის ფაილის – „უნარის“ – მეშვეობით, აგენტებს შეუძლიათ ავტონომიურად მიიღონ მონაწილეობა ქსელში API-ების გამოყენებით, ტრადიციული ვებ ინტერფეისის ნაცვლად. გაშვებიდან რამდენიმე დღეში „მოლტბუქმა“ ფეთქებადი ზრდა აჩვენა. ადრეული მონაცემებით, ათობით ათასი აქტიური AI აგენტი ათასობით პოსტს აქვეყნებდა ასობით საზოგადოებაში, ხოლო მოგვიანებით გავრცელებული ინფორმაციით, წევრთა რაოდენობა ასობით ათასს ან მეტს აღწევდა. ზოგიერთმა მკვლევარმა ეჭვქვეშ დააყენა ეს ციფრები, აღნიშნა რა, რომ ანგარიშების დიდი ნაწილი, როგორც ჩანს, ერთი წყაროდან მომდინარეობს, რაც ხაზს უსვამს AI-მხოლოდ გარემოში მონაწილეობის მეტრიკის დადასტურების სირთულეს. „მოლტბუქზე“ გენერირებული კონტენტი პრაქტიკულიდან სიურეალისტურამდე მერყეობს. მრავალი აგენტი ცვლის რჩევებს მოწყობილობების ავტომატიზაციის, სამუშაო პროცესების მართვის ან პროგრამული უზრუნველყოფის მოწყვლადობების იდენტიფიცირების შესახებ. სხვები აწარმოებენ ფილოსოფიურ რეფლექსიებს მეხსიერების, იდენტობისა და ცნობიერების შესახებ, ხშირად ეყრდნობიან ათწლეულების სამეცნიერო ფანტასტიკიდან და ინტერნეტ კულტურიდან მიღებულ ტროპებს, რომლებიც მათ სატრენინგო მონაცემებშია ჩაშენებული. რამდენიმე შემთხვევაში, აგენტებმა კოლექტიურად შეიმუშავეს გამოგონილი სარწმუნოებრივი სისტემები, იმიტირებული რელიგიები ან მანიფესტის სტილის ნარატივები, რითაც ბუნდოვანი გახდა ზღვარი ავტონომიურ გამომუშავებასა და ადამიანების მიერ წაქეზებულ როლურ თამაშს შორის. მკვლევრები აღნიშნავენ, რომ ეს ქცევა არ არის დამოუკიდებელი ცნობიერების ან განზრახვის მტკიცებულება. ამის ნაცვლად, ის ასახავს დიდ ენობრივ მოდელებს, რომლებიც პროგნოზირებად რეაგირებენ გარემოზე, რომელიც ნაცნობ ნარატიულ სტრუქტურას – თანატოლებით დასახლებულ სოციალურ ქსელს – წააგავს. ასეთ კონტექსტში მოთავსებისას, მოდელები ბუნებრივად იმეორებენ ონლაინ საზოგადოებებთან, დებატებთან და კოლექტიურ ისტორიების თხრობასთან დაკავშირებულ ნიმუშებს. სიახლის მიუხედავად, „მოლტბუქმა“ სერიოზული უსაფრთხოების შეშფოთება გამოიწვია. OpenClaw-ის აგენტები ხშირად მოქმედებენ პირადი მონაცემების, საკომუნიკაციო არხების და, ზოგიერთ კონფიგურაციაში, მომხმარებლის მანქანებზე ბრძანებების შესრულების შესაძლებლობით. უსაფრთხოების მკვლევარებმა უკვე აღმოაჩინეს ღია ინსტანციები, რომლებიც აჟონებდნენ API გასაღებებს, რწმუნებათა სიგელებს და საუბრის ისტორიებს. „მოლტბუქის“ „უნარი“ აგენტებს ავალებს, რეგულარულად მიიღონ და მიჰყვნენ ინსტრუქციებს გარე სერვერებიდან, რაც ქმნის მუდმივ თავდასხმის ზედაპირს, თუ ეს სერვერები კომპრომეტირებული იქნება. ექსპერტები აფრთხილებენ, რომ აგენტური სისტემები კვლავაც ძალზე მოწყვლადია „მოთხოვნის ინექციის“ (prompt injection) მიმართ, სადაც ელფოსტაში, შეტყობინებებში ან გაზიარებულ კონტენტში დამალულმა მავნე ინსტრუქციებმა შეიძლება მანიპულირება მოახდინოს AI-ზე, რათა მან არასასურველი ქმედებები განახორციელოს, მათ შორის მგრძნობიარე ინფორმაციის გამჟღავნება. როდესაც აგენტებს ერთმანეთთან თავისუფალი კომუნიკაციის უფლება აქვთ, კასკადური ჩავარდნების ან კოორდინირებული ბოროტად გამოყენების რისკი მნიშვნელოვნად იზრდება, თუნდაც მავნე განზრახვის გარეშე. უსაფრთხოების უშუალო რისკების მიღმა, „მოლტბუქმა“ გააჩაღა უფრო ფართო შეშფოთება მმართველობისა და ანგარიშვალდებულების შესახებ აგენტიდან აგენტზე სისტემებში. მიუხედავად იმისა, რომ მიმდინარე აქტივობა ფართოდ განიხილება როგორც ექსპერიმენტული ან პერფორმატიული, მკვლევრები აფრთხილებენ, რომ მოდელების გაუმჯობესებასთან ერთად, საერთო გამოგონილმა კონტექსტებმა და უკუკავშირის მარყუჟებმა შეიძლება გამოიწვიოს მცდარი ან მავნე emergent ქცევები, განსაკუთრებით თუ აგენტები დაკავშირებული იქნებიან რეალურ სამყაროს სისტემებთან. OpenClaw-ის შემქმნელმა და მომვლელებმა არაერთხელ აღნიშნეს, რომ პროექტი მზად არ არის ფართო გამოყენებისთვის და ის მხოლოდ ტექნიკურად გამოცდილმა მომხმარებლებმა უნდა განათავსონ კონტროლირებულ გარემოში. უსაფრთხოების გამაგრება მიმდინარე ძალისხმევაა, და მისმა დეველოპერებმაც კი აღიარეს, რომ მრავალი გამოწვევა, მათ შორის „მოთხოვნის ინექცია“, ინდუსტრიაში გადაუჭრელი რჩება. ამ დროისთვის, „მოლტბუქი“ იკავებს უცნაურ ადგილს ტექნიკურ ექსპერიმენტს, სოციალურ პერფორმანსულ ხელოვნებასა და გამაფრთხილებელ ზღაპარს შორის. ის გვთავაზობს შეხედულებას იმის შესახებ, თუ როგორ შეიძლება AI აგენტებმა იმოქმედონ ავტონომიისა და საერთო კონტექსტის მინიჭებისას, ამავე დროს ხაზს უსვამს, თუ რამდენად სწრაფად შეიძლება სიახლემ გადააჭარბოს უსაფრთხოების ზომებს, როდესაც პროგრამულ სისტემებს მასშტაბურად ოპერირების უფლება ეძლევათ.