ამ ბლოგპოსტში აღვწერთ ხელოვნური ინტელექტის (AI) მიერ გენერირებული კონტენტის წყლის ნიშნების დამატების მეთოდებს, განვიხილავთ მათ უპირატესობებსა და ნაკლოვანებებს, და წარმოგიდგენთ Hugging Face Hub-ზე არსებულ ზოგიერთ ხელსაწყოს წყლის ნიშნების დასამატებლად/ამოსაცნობად. წყლის ნიშნის დადება არის მეთოდი, რომელიც მიზნად ისახავს კონტენტის მონიშვნას დამატებითი ინფორმაციის, მაგალითად, ავთენტურობის, გადმოსაცემად. AI-ის მიერ გენერირებულ კონტენტში წყლის ნიშნები შეიძლება იყოს სრულად ხილული (ნახ. 1) ან უხილავი (ნახ. 2). კონკრეტულად AI-ში, წყლის ნიშნის დადება გულისხმობს ციფრულ კონტენტზე (მაგალითად, სურათებზე) ნიმუშების დამატებას და კონტენტის წარმომავლობის შესახებ ინფორმაციის გადმოცემას; ეს ნიმუშები შემდეგ შეიძლება ამოიცნონ როგორც ადამიანებმა, ასევე ალგორითმულად. AI-ის მიერ გენერირებული კონტენტის წყლის ნიშნის დადების ორი ძირითადი მეთოდი არსებობს: პირველი ხორციელდება კონტენტის შექმნის დროს, რაც მოითხოვს თავად მოდელზე წვდომას, მაგრამ შეიძლება იყოს უფრო მყარი, რადგან ის ავტომატურად ინტეგრირებულია გენერირების პროცესის ნაწილად. მეორე მეთოდი, რომელიც ხორციელდება კონტენტის შექმნის შემდეგ, ასევე შეიძლება გამოყენებულ იქნას დახურული წყაროს და საკუთრების მოდელების კონტენტზეც, იმ დათქმით, რომ ის შეიძლება არ იყოს გამოყენებადი ყველა ტიპის კონტენტისთვის (მაგ., ტექსტი). წყლის ნიშნის დადების გარდა, რამდენიმე დაკავშირებული ტექნიკა თამაშობს როლს არასასურველი გამოსახულების მანიპულაციის შეზღუდვაში. ზოგიერთი შეუმჩნევლად ცვლის სურათებს, რომლებსაც ონლაინ აზიარებთ, რათა AI ალგორითმებმა ისინი კარგად ვერ დაამუშაონ. მიუხედავად იმისა, რომ ადამიანებს შეუძლიათ სურათების ნორმალურად დანახვა, AI ალგორითმებს არ შეუძლიათ მსგავს კონტენტზე წვდომა და შედეგად, ვერ ქმნიან ახალ სურათებს. ინსტრუმენტები, რომლებიც შეუმჩნევლად ცვლის სურათებს, მოიცავს Glaze-ს და Photoguard-ს. სხვა ინსტრუმენტები მუშაობენ სურათების „მოსაწამლად“, რათა მათ დაარღვიონ AI ალგორითმების სწავლებაში არსებული ვარაუდები, რაც შეუძლებელს ხდის AI სისტემებისთვის ისწავლონ, თუ როგორ გამოიყურებიან ადამიანები ონლაინ გაზიარებული სურათების საფუძველზე – ეს ართულებს ამ სისტემებისთვის ადამიანების ყალბი სურათების გენერირებას. ეს ინსტრუმენტები მოიცავს Nightshade-ს და Fawkes-ს. კონტენტის ავთენტურობისა და სანდოობის შენარჩუნება ასევე შესაძლებელია „ხელმოწერის“ ტექნიკის გამოყენებით, რომელიც კონტენტს უკავშირებს მის წარმომავლობის შესახებ მეტამონაცემებს, მაგალითად, Truepic-ის მუშაობა, რომელიც C2PA სტანდარტის მიხედვით ჩაშენებს მეტამონაცემებს. სურათის ხელმოწერა ხელს უწყობს იმის გაგებას, თუ საიდან მოდის სურათები. მიუხედავად იმისა, რომ მეტამონაცემების რედაქტირება შესაძლებელია, Truepic-ის მსგავსი სისტემები ხელს უწყობენ ამ შეზღუდვის დაძლევას: 1) სერტიფიცირების უზრუნველყოფით, რათა დადასტურდეს მეტამონაცემების ვალიდურობა და 2) წყლის ნიშნის დადების ტექნიკებთან ინტეგრაციით, რათა ინფორმაციის წაშლა გაძნელდეს. არსებობს უპირატესობები და ნაკლოვანებები წყლის ნიშნების დამსმელებსა და დეტექტორებზე სხვადასხვა დონის საჯარო წვდომის უზრუნველყოფასთან დაკავშირებით. გახსნილობა ხელს უწყობს ინოვაციების სტიმულირებას, რადგან დეველოპერებს შეუძლიათ ძირითადი იდეების განვითარება და უკეთესი და უკეთესი სისტემების შექმნა. თუმცა, ეს უნდა იყოს დაბალანსებული ბოროტად გამოყენების წინააღმდეგ. ღია კოდის შემთხვევაში AI არხში, რომელიც წყლის ნიშნის დამსმელს იძახებს, წყლის ნიშნის დადების ნაბიჯის მოხსნა ელემენტარულია. მაშინაც კი, თუ არხის ეს ასპექტი დახურულია, თუ წყლის ნიშანი ცნობილია და წყლის ნიშნის დადების კოდი ღიაა, მავნე აქტორებმა შეიძლება წაიკითხონ კოდი, რათა გაარკვიონ, როგორ დაარედაქტირონ გენერირებული კონტენტი ისე, რომ წყლის ნიშნის დადება არ იმუშაოს. თუ დეტექტორზე წვდომაც ხელმისაწვდომია, შესაძლებელია სინთეზური მასალის რედაქტირების გაგრძელება მანამ, სანამ დეტექტორი დაბალ სანდოობას არ დააბრუნებს, რითაც წყლის ნიშნის მიერ მოწოდებული ინფორმაცია გაუქმდება. არსებობს ჰიბრიდული ღია-დახურული მიდგომები, რომლებიც უშუალოდ აგვარებენ ამ საკითხებს. მაგალითად, Truepic-ის წყლის ნიშნის კოდი დახურულია, მაგრამ ისინი უზრუნველყოფენ საჯარო JavaScript ბიბლიოთეკას, რომელსაც შეუძლია კონტენტის სერთიფიკატების (Content Credentials) გადამოწმება. IMATAG-ის კოდი, რომელიც გენერირების დროს წყლის ნიშნის დამსმელს იძახებს, ღიაა, მაგრამ რეალური წყლის ნიშნის დამსმელი და დეტექტორი კერძოა. მიუხედავად იმისა, რომ წყლის ნიშნის დადება მნიშვნელოვანი ინსტრუმენტია ყველა მოდიფიკაციაში (აუდიო, სურათები, ტექსტი და ა.შ.), თითოეულ მოდიფიკაციას მოაქვს უნიკალური გამოწვევები და მოსაზრებები. ასევე, მნიშვნელოვანია წყლის ნიშნის დანიშნულებაც: მიზნად ისახავს თუ არა ის სატრენინგო მონაცემების გამოყენების პრევენციას მოდელების სწავლებისთვის, კონტენტის მანიპულაციისგან დაცვას, მოდელების გამოსავლის მონიშვნას, თუ AI-ის მიერ გენერირებული მონაცემების აღმოჩენას. ამჟამინდელ განყოფილებაში განვიხილავთ მონაცემთა სხვადასხვა მოდიფიკაციას, იმ გამოწვევებს, რომლებსაც ისინი წარმოადგენენ წყლის ნიშნის დადებისთვის, და ღია წყაროს ხელსაწყოებს, რომლებიც არსებობს Hugging Face Hub-ზე წყლის ნიშნის დადების სხვადასხვა ტიპის განსახორციელებლად. ალბათ ყველაზე ცნობილი ტიპის წყლის ნიშნის დადება (როგორც ადამიანის მიერ შექმნილ, ასევე AI-ის მიერ წარმოებულ კონტენტზე) ხორციელდება სურათებზე. შემოთავაზებულია სხვადასხვა მიდგომა სატრენინგო მონაცემების მოსანიშნად, რათა გავლენა მოახდინოს მათზე გაწვრთნილი მოდელების გამოსავალზე: ამგვარი „გამოსახულების შენიღბვის“ მიდგომის ყველაზე ცნობილი მეთოდია „Nightshade“, რომელიც სურათებში ახდენს მცირე ცვლილებებს, რომლებიც ადამიანის თვალისთვის შეუმჩნეველია, მაგრამ გავლენას ახდენს მოწამლულ მონაცემებზე გაწვრთნილი მოდელების ხარისხზე. გამოსახულების შენიღბვის მსგავსი ხელსაწყოები ხელმისაწვდომია Hub-ზე – მაგალითად, Fawkes, რომელიც შეიმუშავა იმავე ლაბორატორიამ, რომელმაც შეიმუშავა Nightshade, კონკრეტულად მიზნად ისახავს ადამიანების სურათებს სახის ამომცნობი სისტემების წინააღმდეგობის გაწევის მიზნით. ანალოგიურად, არსებობს Photoguard-იც, რომელიც მიზნად ისახავს სურათების მანიპულაციისგან დაცვას.