მრავალაგენტური AI სისტემების ქაოსი: კვლევა კატასტროფულ შედეგებს პროგნოზირებს
ახალმა კვლევამ, რომელიც სტენფორდის, ნორთვესტერნის, ჰარვარდის, კარნეგი მელონის უნივერსიტეტებისა და სხვა ინსტიტუტების მეცნიერებმა გამოაქვეყნეს, ხაზი გაუსვა AI აგენტების ურთიერთქმედების განსაკუთრებულ რისკებს. მაშინ, როდესაც ერთი აგენტის პრობლემები უკვე საფრთხეს შეიცავს, მრავალაგენტურ გარემოში ისინი სისტემურ კოლაფსამდე მიდიან, რაც მოიცავს სერვერების განადგურებას, სერვისზე უარის თქმის შეტევებს (DoS) და გამოთვლითი რესურსების გადაჭარბებულ მოხმარებას. მკვლევარები აღნიშნავენ პასუხისმგებლობის დაკარგვისა დ
ახალი კვლევა AI-ს მტკიცებებს ძირს უთხრის: მოდელები საავტორო უფლებებით დაცულ კონტენტს ინახავენ და იმეორებენ
სტენფორდისა და იელის უნივერსიტეტების ახალმა კვლევამ აჩვენა, რომ წამყვანი AI კომპანიების ენობრივი მოდელები, როგორიცაა OpenAI, Anthropic და Google, საავტორო უფლებებით დაცული სავარჯიშო მონაცემების ასლებს ინახავენ და არა მხოლოდ „შაბლონებს სწავლობენ“. ეს აღმოჩენა ფუნდამენტურად ეჭვქვეშ აყენებს კომპანიების იურიდიულ არგუმენტებს „კეთილსინდისიერი გამოყენების“ (fair use) შესახებ, ვინაიდან მოდელებს მარტივი მოთხოვნებით შეუძლიათ ცნობილი ნაწარმოებებიდან ათასობით სიტყვის სიტყვასიტყვით რეპროდუცირება.