ხელოვნური ინტელექტის აგენტები: შესაძლებლობები, რისკები და მომავლის ხედვა

დიდი ენობრივი მოდელების (LLM) შესაძლებლობების მოულოდნელმა და სწრაფმა წინსვლამ – როგორიცაა გამართული წინადადებების წერა და ბენჩმარკებზე სულ უფრო მაღალი ქულების მიღწევა – როგორც AI დეველოპერები, ისე ბიზნესები აიძულა, დაფიქრდნენ იმაზე, თუ რა იქნება შემდეგი: რომელი რევოლუციური ტექნოლოგია გამოჩნდება უახლოეს მომავალში? ერთ-ერთი ტექნოლოგია, რომელიც ცოტა ხნის წინ გამოჩნდა, არის „AI აგენტები“ – სისტემები, რომლებსაც შეუძლიათ ციფრულ სამყაროში ქმედებების განხორციელება მომხმარებლის მიზნების შესაბამისად. დღევანდელი AI აგენტების უმეტესობა აგებულია დიდი ენობრივი მოდელების (LLM) უფრო დიდ სისტემებში ინტეგრაციით, რომლებსაც შეუძლიათ მრავალი ფუნქციის შესრულება. ამ ახალი ტექნოლოგიური ტალღის ფუნდამენტური იდეა მდგომარეობს იმაში, რომ კომპიუტერულ პროგრამებს აღარ სჭირდებათ ადამიანის მიერ კონტროლირებადი ინსტრუმენტების ფუნქციონირება, რომლებიც სპეციალიზებულ ამოცანებზეა შეზღუდული: მათ ახლა შეუძლიათ მრავალი ამოცანის გაერთიანება ადამიანის ჩარევის გარეშე. ეს ცვლილება აღნიშნავს ფუნდამენტურ გადასვლას სისტემებზე, რომლებსაც შეუძლიათ კონტექსტის სპეციფიკური გეგმების შექმნა არადეტერმინისტულ გარემოში. მრავალი თანამედროვე AI აგენტი არ ასრულებს მხოლოდ წინასწარ განსაზღვრულ მოქმედებებს, არამედ შექმნილია იმისთვის, რომ გააანალიზოს ახალი სიტუაციები, შეიმუშაოს შესაბამისი მიზნები და განახორციელოს აქამდე განუსაზღვრელი ქმედებები მიზნების მისაღწევად. ამ ნაშრომში, ჩვენ მოკლედ მიმოვიხილავთ, თუ რა არის AI აგენტები და დეტალურად განვიხილავთ ეთიკურ ღირებულებებს, ვაფიქსირებთ AI აგენტების სარგებელსა და რისკებს შორის არსებულ ბალანსს. შემდეგ ვთავაზობთ სამომავლო გზებს, რათა შეიქმნას ისეთი მომავალი, სადაც AI აგენტები საზოგადოებისთვის მაქსიმალურად სასარგებლო იქნება. აგენტების ტექნიკური ასპექტების შესავალისთვის, გთხოვთ, იხილოთ ჩვენი ბოლო დეველოპერული ბლოგპოსტი. აგენტების შესავლისთვის, რომელიც დაიწერა თანამედროვე გენერაციული AI-მდე (და რომელიც დღესაც მეტწილად აქტუალურია), გთხოვთ, იხილოთ Wooldridge and Jennings, 1995. ჩვენი ანალიზი ცხადყოფს, რომ ადამიანებისთვის რისკები იზრდება სისტემის ავტონომიის დონის მატებასთან ერთად: რაც უფრო მეტ კონტროლს თმობს მომხმარებელი, მით მეტი რისკი ჩნდება სისტემის მხრიდან. განსაკუთრებით შემაშფოთებელია ინდივიდების უსაფრთხოების რისკები, რომლებიც წარმოიშობა იმავე სარგებლისგან, რაც AI აგენტების განვითარებას უწყობს ხელს, მაგალითად, დეველოპერების გათავისუფლება იმის პროგნოზირების საჭიროებისგან, თუ რა ქმედებებს განახორციელებს სისტემა. საკითხს კიდევ უფრო ამძიმებს ის ფაქტი, რომ უსაფრთხოების ზოგიერთი დაზიანება გზას უხსნის სხვა სახის ზიანს – როგორიცაა კონფიდენციალურობისა და უსაფრთხოების დაზიანება – და სახიფათო სისტემებისადმი არასათანადო ნდობა იწვევს შემდგომი ზიანის „თოვლის გუნდას“ ეფექტს. შესაბამისად, ჩვენ გირჩევთ, რომ სრულად ავტონომიური AI აგენტები არ განვითარდეს. მაგალითად, AI აგენტებს, რომლებსაც შეუძლიათ საკუთარი კოდის დაწერა და შესრულება, დეველოპერის მიერ კონტროლირებული შეზღუდული კოდის ვარიანტების მიღმა, მიენიჭებათ ადამიანის სრული კონტროლის გაუქმების უნარი. ამის საპირისპიროდ, ნახევრად ავტონომიურ AI აგენტებს შეიძლება ჰქონდეთ სარგებელი, რომელიც აჭარბებს რისკებს, რაც დამოკიდებულია ავტონომიის დონეზე, სისტემისთვის ხელმისაწვდომ ამოცანებზე და მასზე ინდივიდების კონტროლის ხასიათზე. ახლა კი ამ თემებს სიღრმისეულად განვიხილავთ. არ არსებობს მკაფიო კონსენსუსი იმაზე, თუ რა არის „AI აგენტი“, მაგრამ ცოტა ხნის წინ შემოღებულ AI აგენტებს შორის საერთოა ის, რომ ისინი „აგენტურია“, ანუ ისინი მოქმედებენ გარკვეული დონის ავტონომიით: მოცემული მიზნის სპეციფიკაციის გათვალისწინებით, მათ შეუძლიათ მისი დაშლა ქვეამოცანებად და თითოეულის შესრულება ადამიანის პირდაპირი ჩარევის გარეშე. მაგალითად, იდეალურ AI აგენტს შეეძლო მაღალი დონის მოთხოვნაზე, როგორიცაა „დამეხმარე უკეთესი ბლოგპოსტების დაწერაში“, დამოუკიდებლად დაეშალა ეს ამოცანა შემდეგ ნაწილებად: ვებიდან თქვენი წინა ბლოგის თემების მსგავსი ჩანაწერების მოძიება; ახალი ბლოგპოსტებისთვის მონახაზების შემცველი დოკუმენტების შექმნა; და თითოეულში საწყისი ტექსტის მოწოდება. AI აგენტებზე ბოლო ნამუშევრებმა შესაძლებელი გახადა პროგრამული უზრუნველყოფის შექმნა, რომელსაც წარსულთან შედარებით ფუნქციონალურობის უფრო ფართო სპექტრი და გამოყენების მეტი მოქნილობა აქვს, ბოლო სისტემები გამოიყენება ყველაფრისთვის, შეხვედრების ორგანიზებიდან (მაგალითი1, მაგალითი2, მაგალითი3, მაგალითი4) პერსონალიზებული სოციალური მედიის პოსტების შექმნამდე (მაგალითი), ყოველგვარი კონკრეტული ინსტრუქციის გარეშე, თუ როგორ უნდა გაკეთდეს ეს. ყველა ახლახანს შემოღებული AI აგენტი, რომელიც ამ საინფორმაციო ბიულეტენისთვის გამოვიკვლიეთ, აგებულია მანქანური სწავლების მოდელებზე, და უმეტესობა კონკრეტულად იყენებს დიდ ენობრივ მოდელებს (LLM) თავიანთი ქმედებების მართვისთვის, რაც ახალი, ინოვაციური მიდგომაა კომპიუტერული პროგრამული უზრუნველყოფისთვის. მანქანურ სწავლებაზე დაფუძნების გარდა, დღევანდელი AI აგენტები წარსულის აგენტებთან მსგავსებებს იზიარებენ და ზოგიერთ შემთხვევაში ახორციელებენ ადრე არსებულ თეორიულ იდეებს იმის შესახებ, თუ როგორი შეიძლება იყვნენ აგენტები: მოქმედებენ ავტონომიურად, აჩვენებენ (აღქმულ) სოციალურ უნარს და სათანადოდ აბალანსებენ რეაქტიულ და პროაქტიულ ქმედებებს. ამ მახასიათებლებს აქვთ გრადაციები: სხვადასხვა AI აგენტს აქვს შესაძლებლობების სხვადასხვა დონე და შეუძლია იმუშაოს იზოლირებულად ან სხვა აგენტებთან ერთად მიზნის მისაღწევად. ამგვარად, შეიძლება ითქვას, რომ AI აგენტები მეტ-ნაკლებად ავტონომიური (ანუ აგენტური) არიან, და რამდენად არის რაღაც აგენტი, შეიძლება განვიხილოთ უწყვეტ სპექტრზე. AI აგენტის ეს მოქნილი ცნება ბოლო დროს დაბნეულობასა და გაუგებრობას იწვევს იმის შესახებ, თუ რა არის AI აგენტები, რასაც აქ გარკვეულ სიცხადეს მოვფენთ. ქვემოთ მოცემულია ცხრილი, რომელიც დეტალურად აღწერს AI აგენტების განსხვავებულ დონეებს. ცხრილი 1. ერთი მაგალითი იმისა, თუ როგორ შეიძლება მანქანური სწავლების მოდელების, მაგალითად LLM-ების, გამოყენებით სისტემები მეტ-ნაკლებად აგენტური იყოს. სისტემების გაერთიანება ასევე შესაძლებელია „მრავალაგანტურ სისტემებში“, სადაც ერთი აგენტის სამუშაო პროცესი იწვევს...