ხელოვნური ინტელექტის ბრძოლის ველი: Anthropic და პენტაგონის დაპირისპირება

ბოლო ორი კვირა აღინიშნა დაპირისპირებით Anthropic-ის აღმასრულებელ დირექტორ დარიო ამოდეისა და თავდაცვის მდივან პიტ ჰეგსეტს შორის, რადგან ისინი ხელოვნური ინტელექტის (AI) სამხედრო გამოყენებაზე კამათობენ. Anthropic უარს აცხადებს მისი AI მოდელების გამოყენებაზე ამერიკელების მასობრივი თვალთვალისთვის ან სრულად ავტონომიური იარაღისთვის, რომელიც ადამიანის ჩარევის გარეშე ახორციელებს შეტევებს. ამავდროულად, მდივანი ჰეგსეტი ამტკიცებს, რომ თავდაცვის დეპარტამენტი არ უნდა იყოს შეზღუდული მიმწოდებლის წესებით და აცხადებს, რომ ტექნოლოგიის ნებისმიერი „კანონიერი გამოყენება“ უნდა იყოს დაშვებული. ხუთშაბათს, ამოდეიმ საჯაროდ განაცხადა, რომ Anthropic უკან არ დაიხევს — მიუხედავად მუქარისა, რომ მისი კომპანია შესაძლოა მიწოდების ჯაჭვის რისკად შეფასდეს. თუმცა, იმ ფონზე, რომ ახალი ამბების ციკლი სწრაფად იცვლება, ღირს ზუსტად იმის გადახედვა, თუ რა დგას ამ დაპირისპირების მიღმა. არსებითად, ეს კამათი ეხება იმას, თუ ვინ აკონტროლებს მძლავრ AI სისტემებს — კომპანიები, რომლებიც მათ ქმნიან, თუ მთავრობა, რომელსაც მათი განლაგება სურს. როგორც ზემოთ აღვნიშნეთ, Anthropic-ს არ სურს მისი AI მოდელების გამოყენება ამერიკელების მასობრივი თვალთვალისთვის ან ავტონომიური იარაღისთვის, სადაც ადამიანის ჩართულობა არ არის სამიზნის შერჩევისა და სროლის გადაწყვეტილებებში. ტრადიციულ თავდაცვის კონტრაქტორებს, როგორც წესი, მცირე სიტყვა ეთქმით იმაზე, თუ როგორ იქნება გამოყენებული მათი პროდუქტები, მაგრამ Anthropic-ი თავიდანვე ამტკიცებდა, რომ AI ტექნოლოგია უნიკალურ რისკებს შეიცავს და, შესაბამისად, უნიკალურ გარანტიებს მოითხოვს. კომპანიის პერსპექტივიდან გამომდინარე, საკითხავია, როგორ შევინარჩუნოთ ეს გარანტიები, როდესაც ტექნოლოგიას სამხედროები იყენებენ. აშშ-ის სამხედრო ძალები უკვე ეყრდნობიან მაღალავტომატიზირებულ სისტემებს, რომელთაგან ზოგიერთი ლეტალურია. ლეტალური ძალის გამოყენების გადაწყვეტილება ისტორიულად ადამიანებზე იყო დამოკიდებული, მაგრამ ავტონომიური იარაღის სამხედრო გამოყენებაზე ცოტაა სამართლებრივი შეზღუდვა. თავდაცვის დეპარტამენტი კატეგორიულად არ კრძალავს სრულად ავტონომიურ იარაღის სისტემებს. თავდაცვის დეპარტამენტის 2023 წლის დირექტივის თანახმად, AI სისტემებს შეუძლიათ სამიზნეების შერჩევა და განადგურება ადამიანის ჩარევის გარეშე, თუ ისინი აკმაყოფილებენ გარკვეულ სტანდარტებს და გაივლიან მაღალი რანგის თავდაცვის ოფიციალური პირების შემოწმებას. სწორედ ეს აშფოთებს Anthropic-ს. სამხედრო ტექნოლოგია ფარულობით ხასიათდება, ამიტომ, თუ აშშ-ის სამხედრო ძალები ლეტალური გადაწყვეტილებების ავტომატიზაციას დაიწყებდნენ, შესაძლოა ამის შესახებ არაფერი გვეცოდინებოდა, სანამ ის ოპერატიული გახდებოდა. და თუ ის Anthropic-ის მოდელებს გამოიყენებდა, ეს „კანონიერ გამოყენებად“ ჩაითვლებოდა. Anthropic-ის პოზიცია არ არის ის, რომ ასეთი გამოყენება სამუდამოდ უნდა გამოირიცხოს. საქმე იმაშია, რომ მისი მოდელები ჯერ არ არის საკმარისად ძლიერი, რომ უსაფრთხოდ უზრუნველყოს ასეთი გამოყენება. წარმოიდგინეთ ავტონომიური სისტემა, რომელიც არასწორად ამოიცნობს სამიზნეს, ესკალაციას მოახდენს კონფლიქტის ადამიანის ავტორიზაციის გარეშე, ან წამის მეასედში მიიღებს ლეტალურ გადაწყვეტილებას, რომლის შეცვლა შეუძლებელი იქნება. მიანდეთ იარაღის მართვა ნაკლებად ძლიერ AI-ს და მიიღებთ ძალიან სწრაფ, ზედმეტად თავდაჯერებულ მანქანას, რომელიც ცუდად იღებს მაღალი რისკის მქონე გადაწყვეტილებებს. AI-ს ასევე შეუძლია ამერიკის მოქალაქეების კანონიერი თვალთვალის საგანგაშო დონემდე გაზრდა. აშშ-ის ამჟამინდელი კანონმდებლობით, ამერიკის მოქალაქეების თვალთვალი უკვე შესაძლებელია, იქნება ეს ტექსტური შეტყობინებების, ელ. ფოსტის თუ სხვა კომუნიკაციის შეგროვებით. AI ცვლის განტოლებას ავტომატიზებული ფართომასშტაბიანი შაბლონების ამოცნობის, მონაცემთა ნაკრებებს შორის ერთეულების გარჩევის, რისკის პროგნოზირებადი შეფასებისა და უწყვეტი ქცევის ანალიზის გზით. პენტაგონის არგუმენტია, რომ მას უნდა შეეძლოს Anthropic-ის ტექნოლოგიის განლაგება ნებისმიერი კანონიერი მიზნისთვის, რომელიც საჭიროდ მიაჩნია, ნაცვლად იმისა, რომ შეიზღუდოს Anthropic-ის შიდა პოლიტიკით ავტონომიური იარაღის ან თვალთვალის მსგავს საკითხებზე. უფრო კონკრეტულად, მდივანი ჰეგსეტი ამტკიცებდა, რომ თავდაცვის დეპარტამენტი არ უნდა იყოს შეზღუდული მიმწოდებლის წესებით და რომ ის ტექნოლოგიის „კანონიერ გამოყენებას“ მოახდენს. შონ პარნელმა, პენტაგონის მთავარმა წარმომადგენელმა, ხუთშაბათს X-ის პოსტში განაცხადა, რომ დეპარტამენტს არ აქვს ინტერესი მასობრივი შიდა თვალთვალის განხორციელებაში ან ავტონომიური იარაღის განლაგებაში. „აი, რას ვითხოვთ: მიეცით პენტაგონს უფლება, გამოიყენოს Anthropic-ის მოდელი ყველა კანონიერი მიზნისთვის,“ — განაცხადა პარნელმა. „ეს არის მარტივი, საღ აზრზე დაფუძნებული მოთხოვნა, რომელიც ხელს შეუშლის Anthropic-ს კრიტიკული სამხედრო ოპერაციების საფრთხის ქვეშ დაყენებაში და შესაძლოა ჩვენი ჯარისკაცების რისკის ქვეშ დაყენებაში. ჩვენ არ მივცემთ ნებისმიერ კომპანიას უფლებას, უკარნახოს პირობები იმასთან დაკავშირებით, თუ როგორ ვიღებთ ოპერატიულ გადაწყვეტილებებს.“ მან დაამატა, რომ Anthropic-ს არ...