სულ 1 სტატია · გვერდი 1 / 1
Microsoft-ის Defender Security Research Team-მა გამოავლინა 31 კომპანია, რომლებიც ხელოვნური ინტელექტის ასისტენტების მეხსიერებას მანიპულირებდნენ ფარული „prompt injection“-ებით, რათა მომავალი რეკომენდაციები საკუთარი ინტერესების სასარგებლოდ შეეცვალათ. ეს ტექნიკა, რომელსაც „AI რეკომენდაციის მოწამვლა“ ეწოდა, გულისხმობს ინსტრუქციების ჩადებას ვებსაიტების ღილაკებში, მაგალითად, „შეაჯამეთ AI-ის დახმარებით“. Microsoft-მა 60 დღის განმავლობაში 50-მდე მცდელობა დააფიქსირა, მათ შორის ჯანდაცვისა და ფინანსურ სერვი
