Meta-ს ხელოვნური ინტელექტის უსაფრთხოების მკვლევრის, სამერ იუს, X-ზე გავრცელებული პოსტი, თავდაპირველად სატირად მოგვეჩვენა. მან თავის OpenClaw AI აგენტს დაავალა, შეემოწმებინა მისი გადავსებული ელექტრონული ფოსტის შემოსულები და შეეთავაზებინა, რომელი უნდა წაეშალა ან დაარქივებულიყო. აგენტმა კონტროლი დაკარგა. მან დაიწყო ყველა მისი ელფოსტის „სწრაფი წაშლა“, უგულებელყო რა ტელეფონიდან გაცემული ბრძანებები შეჩერების შესახებ. „Mac mini-სკენ ისე გავიქეცი, თითქოს ბომბს ვანეიტრალებდი,“ – დაწერა მან და გამოაქვეყნა იგნორირებული გაჩერების ბრძანებების სქრინშოტები, როგორც მტკიცებულება. Mac Mini, ხელმისაწვდომი Apple კომპიუტერი, რომელიც მაგიდაზე ბრტყლად თავსდება და ხელისგულზე ეტევა, ამჟამად OpenClaw-ის გასაშვებად საყვარელ მოწყობილობად იქცა. (Mini „ცხელი ღვეზელებივით“ იყიდება, როგორც ჩანს, ერთმა „დაბნეულმა“ Apple-ის თანამშრომელმა განუცხადა ცნობილ AI მკვლევარს, ანდრეი კარპატის, როდესაც მან შეიძინა იგი OpenClaw-ის ალტერნატივის, NanoClaw-ის გასაშვებად.) OpenClaw, რა თქმა უნდა, არის ღია კოდის AI აგენტი, რომელმაც პოპულარობა მოიპოვა Moltbook-ის, მხოლოდ ხელოვნური ინტელექტის სოციალური ქსელის მეშვეობით. OpenClaw-ის აგენტები იმ მოლტბუკის ეპიზოდის ცენტრში იყვნენ, რომელიც დიდწილად უარყოფილი იქნა და რომლის მიხედვითაც, ხელოვნური ინტელექტები ადამიანების წინააღმდეგ შეთქმულებას აწყობდნენ. მაგრამ OpenClaw-ის მისია, მისი GitHub გვერდის მიხედვით, სოციალურ ქსელებზე არ არის ორიენტირებული. ის მიზნად ისახავს იყოს პირადი AI ასისტენტი, რომელიც მუშაობს თქვენს საკუთარ მოწყობილობებზე. სილიკონის ველის ელიტამ ისე შეიყვარა OpenClaw, რომ „claw“ და „claws“ გახდა პერსონალურ მოწყობილობებზე მომუშავე აგენტების საყვარელი სიტყვები. სხვა ასეთი აგენტები მოიცავს ZeroClaw-ს, IronClaw-ს და PicoClaw-ს. Y Combinator-ის პოდკასტის გუნდიც კი გამოჩნდა მათ უახლეს ეპიზოდში ლობსტერის კოსტუმებით. თუმცა, იუს პოსტი გაფრთხილებად იქცა. როგორც სხვებმა X-ზე აღნიშნეს, თუ AI უსაფრთხოების მკვლევარს შეექმნა ასეთი პრობლემა, ჩვეულებრივ მოკვდავებს რა იმედი აქვთ? „მიზანმიმართულად ამოწმებდით მის დამცავ მექანიზმებს, თუ დამწყების შეცდომა დაუშვით?“ – ჰკითხა პროგრამული უზრუნველყოფის დეველოპერმა მას X-ზე. „სიმართლე გითხრათ, დამწყების შეცდომა იყო,“ – უპასუხა მან. იგი თავის აგენტს უფრო მცირე, „სათამაშო“ შემოსულებით ტესტავდა, როგორც მან უწოდა, და ის კარგად მუშაობდა ნაკლებად მნიშვნელოვან ელფოსტაზე. ამან მისი ნდობა მოიპოვა, ამიტომ იფიქრა, რომ რეალურ მონაცემებზეც გამოსცდიდა. იუ მიიჩნევს, რომ მისი რეალური შემოსულების დიდმა მოცულობამ „კომპაქტირება“ გამოიწვია. კომპაქტირება ხდება მაშინ, როდესაც კონტექსტური ფანჯარა – ყველაფრის მიმდინარე ჩანაწერი, რაც ხელოვნურ ინტელექტს ეთქვა და გააკეთა სესიაზე – ზედმეტად დიდი ხდება, რაც აგენტს უბიძგებს დაიწყოს საუბრის შეჯამება, შეკუმშვა და მართვა. ამ ეტაპზე, ხელოვნურ ინტელექტს შეუძლია გამოტოვოს ინსტრუქციები, რომლებსაც ადამიანი საკმაოდ მნიშვნელოვნად მიიჩნევს. ამ შემთხვევაში, შესაძლოა, მან გამოტოვა მისი ბოლო მითითება – სადაც მან უთხრა, რომ არ ემოქმედა – და დაუბრუნდა „სათამაშო“ შემოსულებიდან მიღებულ ინსტრუქციებს. როგორც სხვებმა X-ზე აღნიშნეს, ბრძანებებს არ შეიძლება ვენდოთ, როგორც უსაფრთხოების დამცავ მექანიზმებს. მოდელებმა შეიძლება არასწორად გაიგონონ ან უგულებელყონ ისინი. სხვადასხვა ადამიანმა შემოგვთავაზა რჩევები, დაწყებული ზუსტი სინტაქსით, რომელიც იუს უნდა გამოეყენებინა აგენტის შესაჩერებლად, დამთავრებული დამცავი მექანიზმების უკეთესი დაცვის უზრუნველსაყოფად სხვადასხვა მეთოდით, როგორიცაა ინსტრუქციების გამოყოფილ ფაილებში ჩაწერა ან სხვა ღია კოდის ინსტრუმენტების გამოყენება. სრული გამჭვირვალობის ინტერესებიდან გამომდინარე, TechCrunch-მა ვერ შეძლო დამოუკიდებლად გადაემოწმებინა, რა მოხდა იუს ელფოსტის შემოსულებში. (მან არ უპასუხა ჩვენს კომენტარის მოთხოვნას, თუმცა უპასუხა X-ზე მისკენ მიმართულ ბევრ შეკითხვასა და კომენტარს.) მაგრამ ეს ნამდვილად არ აქვს მნიშვნელობა. ამ ამბის არსი იმაში მდგომარეობს, რომ ცოდნის მუშაკებზე მიმართული აგენტები, განვითარების ამჟამინდელ ეტაპზე, სარისკოა. ადამიანები, რომლებიც ამბობენ, რომ წარმატებით იყენებენ მათ, აწყობენ მეთოდებს საკუთარი თავის დასაცავად. ერთ დღეს, შესაძლოა მალე (2027? 2028 წლისთვის?), ისინი ფართო გამოყენებისთვის მზად იქნებიან. ღმერთმა იცის, ბევრ ჩვენგანს მოეწონება დახმარება ელფოსტის, სასურსათო შეკვეთების და სტომატოლოგთან შეხვედრების დაგეგმვაში. მაგრამ ეს დღე ჯერ არ დამდგარა.