ხელოვნური ინტელექტის აგენტების აღზევება: სარგებელი, რისკები და მომავლის გზა

დიდი ენობრივი მოდელების (დემ) შესაძლებლობების უეცარმა, სწრაფმა განვითარებამ – როგორიცაა გამართული წინადადებების წერა და ტესტებში მზარდი მაღალი ქულების მიღწევა – აიძულა ხელოვნური ინტელექტის დეველოპერები და ბიზნესები, ეძიონ მომავალი: რა თამაშის შემცვლელი ტექნოლოგია გამოჩნდება უახლოეს მომავალში? ერთ-ერთი ტექნოლოგია, რომელიც ცოტა ხნის წინ სწრაფად ვითარდება, არის „ხელოვნური ინტელექტის აგენტები“ (ხი აგენტები), სისტემები, რომლებსაც შეუძლიათ ციფრულ სამყაროში იმოქმედონ გამშვების მიზნების შესაბამისად. დღევანდელი ხი აგენტების უმეტესობა აგებულია დიდი ენობრივი მოდელების (დემ) უფრო დიდ სისტემებში ინტეგრაციით, რომლებსაც შეუძლიათ მრავალი ფუნქციის შესრულება. ამ ტექნოლოგიური ტალღის ძირითადი იდეა ისაა, რომ კომპიუტერულ პროგრამებს აღარ სჭირდებათ ადამიანის მიერ კონტროლირებადი, სპეციალიზებულ ამოცანებზე შეზღუდული ხელსაწყოების ფუნქცია: მათ ახლა შეუძლიათ მრავალი ამოცანის გაერთიანება ადამიანის ჩარევის გარეშე. ეს გადასვლა აღნიშნავს ფუნდამენტურ ცვლილებას იმ სისტემებისკენ, რომლებსაც შეუძლიათ კონტექსტზე მორგებული გეგმების შექმნა არადეტერმინისტულ გარემოში. მრავალი თანამედროვე ხი აგენტი არ ასრულებს მხოლოდ წინასწარ განსაზღვრულ მოქმედებებს, არამედ შექმნილია იმისთვის, რომ გააანალიზოს ახალი სიტუაციები, შეიმუშაოს შესაბამისი მიზნები და განახორციელოს აქამდე განუსაზღვრელი მოქმედებები ამოცანების მისაღწევად. ამ სტატიაში მოკლედ მიმოვიხილავთ, თუ რა არის ხელოვნური ინტელექტის აგენტები და დეტალურად განვიხილავთ არსებულ ეთიკურ ღირებულებებს, ვაფიქსირებთ ხი აგენტების სარგებელსა და რისკებს შორის არსებულ კომპრომისებს. შემდეგ ვთავაზობთ მომავლის გზებს, რათა ხი აგენტები საზოგადოებისთვის მაქსიმალურად სასარგებლო გახდეს. აგენტების ტექნიკური ასპექტების შესავლისთვის იხილეთ ჩვენი ბოლო დეველოპერის ბლოგ-პოსტი. აგენტების შესავლისთვის, რომელიც დაიწერა თანამედროვე გენერაციული ხელოვნური ინტელექტის გაჩენამდე (და რომელიც დიდწილად დღესაც აქტუალურია), გთხოვთ, იხილოთ Wooldridge და Jennings, 1995. ჩვენი ანალიზი ცხადყოფს, რომ ადამიანებისთვის რისკები იზრდება სისტემის ავტონომიის დონესთან ერთად: რაც უფრო მეტ კონტროლს თმობს მომხმარებელი, მით მეტი რისკი წარმოიშობა სისტემისგან. განსაკუთრებით შემაშფოთებელია ინდივიდების უსაფრთხოებისთვის რისკები, რომლებიც წარმოიქმნება იმავე სარგებლისგან, რაც ხელოვნური ინტელექტის აგენტების განვითარებას უწყობს ხელს, მაგალითად, დეველოპერების გათავისუფლება სისტემის ყველა შესაძლო მოქმედების წინასწარმეტყველების საჭიროებისგან. საკითხის კიდევ უფრო გამწვავებით, უსაფრთხოების ზოგიერთი დაზიანება გზას უხსნის სხვა სახის ზიანს – როგორიცაა კონფიდენციალურობისა და უსაფრთხოების ზიანები – ხოლო არაადეკვატური ნდობა არაუსაფრთხო სისტემების მიმართ იწვევს შემდგომი ზიანების ჯაჭვურ რეაქციას. აქედან გამომდინარე, ჩვენ გირჩევთ, რომ სრულად ავტონომიური ხი აგენტები არ განვითარდეს. მაგალითად, ხი აგენტები, რომლებსაც შეუძლიათ საკუთარი კოდის დაწერა და შესრულება, დეველოპერის მიერ კონტროლირებადი შეზღუდული კოდის ვარიანტების მიღმა, აღიჭურვებიან ადამიანის ყოველგვარი კონტროლის გვერდის ავლის უნარით. ამის საპირისპიროდ, ნახევრად ავტონომიურ ხი აგენტებს შეიძლება ჰქონდეთ სარგებელი, რომელიც აჭარბებს რისკებს, რაც დამოკიდებულია ავტონომიის დონეზე, სისტემისთვის ხელმისაწვდომ ამოცანებზე და მასზე ინდივიდების კონტროლის ბუნებაზე. ახლა ამ თემებს სიღრმისეულად განვიხილავთ. არ არსებობს მკაფიო კონსენსუსი იმის შესახებ, თუ რა არის „ხელოვნური ინტელექტის აგენტი“, მაგრამ ბოლო დროს შემოღებული ხი აგენტების საერთო მახასიათებელია ის, რომ ისინი „აგენტურია“, ანუ მოქმედებენ ავტონომიის გარკვეული დონით: მოცემული მიზნის სპეციფიკაციის გათვალისწინებით, მათ შეუძლიათ მისი დაყოფა ქვედა ამოცანებად და თითოეულის შესრულება ადამიანის პირდაპირი ჩარევის გარეშე. მაგალითად, იდეალურ ხი აგენტს შეეძლო მაღალი დონის მოთხოვნაზე პასუხის გაცემა, როგორიცაა „დამეხმარე უკეთესი ბლოგ-პოსტების დაწერაში“, ამ ამოცანის დამოუკიდებლად დაშლით შემდეგ კომპონენტებად: ვებიდან მსგავსი წერილების მოძიება თქვენი წინა ბლოგის თემების მიხედვით; ახალი ბლოგ-პოსტებისთვის მონახაზების მქონე დოკუმენტების შექმნა; და თითოეულში საწყისი ტექსტის მოწოდება. ხი აგენტებზე ბოლო დროს ჩატარებულმა სამუშაოებმა შესაძლებელი გახადა პროგრამული უზრუნველყოფა უფრო ფართო ფუნქციონალითა და გამოყენების მეტი მოქნილობით, ვიდრე წარსულში, ბოლო სისტემები გამოიყენება ყველაფრისთვის – შეხვედრების ორგანიზებიდან (მაგალითი1, მაგალითი2, მაგალითი3, მაგალითი4) პერსონალიზებული სოციალური მედიის პოსტების შექმნამდე (მაგალითი), ამის გასაკეთებლად მკაფიო ინსტრუქციების გარეშე. ყველა ბოლო დროს შემოღებული ხი აგენტი, რომელიც ამ საინფორმაციო ბიულეტენისთვის შევისწავლეთ, აგებულია მანქანური სწავლების მოდელებზე, და უმეტესობა კონკრეტულად იყენებს დიდ ენობრივ მოდელებს (დემ) თავიანთი მოქმედებების გასატარებლად, რაც კომპიუტერული პროგრამული უზრუნველყოფისთვის ახალი, ნოვატორული მიდგომაა. მანქანურ სწავლებაზე აგებულების გარდა, დღევანდელი ხი აგენტები მსგავსებას იზიარებენ წარსულის აგენტებთან და ზოგიერთ შემთხვევაში აცნობიერებენ იმ თეორიულ იდეებს, თუ როგორი შეიძლება ყოფილიყვნენ აგენტები: მოქმედება ავტონომიით, (აღქმული) სოციალური უნარის დემონსტრირება და რეაქტიული და პროაქტიული მოქმედებების სათანადო ბალანსირება. ამ მახასიათებლებს აქვთ გრადაციები: სხვადასხვა ხი აგენტს აქვს შესაძლებლობების სხვადასხვა დონე და შეუძლია იმუშაოს იზოლირებულად ან სხვა აგენტებთან ერთად მიზნის მისაღწევად. ამრიგად, შეიძლება ითქვას, რომ ხი აგენტები მეტ-ნაკლებად ავტონომიურია (ან აგენტურია), და ის, თუ რა ზომით არის რაღაც აგენტი, შეიძლება განვიხილოთ უწყვეტ სპექტრზე. ხი აგენტის ამ მოქნილმა გაგებამ გამოიწვია ბოლოდროინდელი გაუგებრობები იმის შესახებ, თუ რა არის ხი აგენტები, რასაც აქ იმედი გვაქვს გარკვეულ სიცხადეს შევიტანთ. ქვემოთ მოცემულია ცხრილი, რომელიც დეტალურად აღწერს ხი აგენტების განსხვავებულ დონეებს. ცხრილი 1. ერთი მაგალითი იმისა, თუ როგორ შეიძლება იყოს მანქანური სწავლების მოდელების, როგორიცაა დემ, გამოყენებითი სისტემები მეტ-ნაკლებად აგენტური. სისტემები ასევე შეიძლება გაერთიანდეს „მრავალაგენტურ სისტემებში“, სადაც ერთი აგენტის სამუშაო ნაკადი იწვევს...