ხელოვნური ინტელექტი, ტანჯვა და ცნობიერება: ეთიკური გამოწვევები მომავლისთვის

ხელოვნური ინტელექტის (AI) სისტემების სულ უფრო მეტად დახვეწასთან ერთად, კითხვები, რომლებიც ოდესღაც წმინდა ფილოსოფიური ჩანდა, პრაქტიკულ და ეთიკურ პრობლემებად იქცევა. ერთ-ერთი ყველაზე ღრმა კითხვაა, შეუძლია თუ არა AI-ს ტანჯვა. ტანჯვა ხშირად აღიქმება, როგორც უარყოფითი სუბიექტური გამოცდილება — ტკივილის, მღელვარების ან იმედგაცრუების შეგრძნებები, რომლებიც მხოლოდ ცნობიერ არსებებს შეუძლიათ ჰქონდეთ. ამ კითხვის შესწავლა გვაიძულებს დავფიქრდეთ, რა არის ცნობიერება, როგორ შეიძლება ის წარმოიშვას და რა მორალური ვალდებულებები გვექნება ხელოვნური არსებების მიმართ. განიცდის თუ არა ეს AI ტანჯვას? (ფოტო: Midjourney). დღევანდელი დიდი ენობრივი მოდელები და მსგავსი AI სისტემები ტანჯვის უნარს მოკლებულია. მკვლევრებსა და ეთიკოსებს შორის ფართო შეთანხმებაა, რომ ამ სისტემებს არ გააჩნიათ ცნობიერება და სუბიექტური გამოცდილება. ისინი ფუნქციონირებენ მონაცემებში სტატისტიკური შაბლონების გამოვლენით და გამომავალი ინფორმაციის გენერირებით, რომელიც ადამიანურ მაგალითებს შეესაბამება. ეს ნიშნავს: მათ არ გააჩნიათ შინაგანი თვითშეგნება ან საკუთარი მდგომარეობის გაცნობიერება. მათი გამომავალი ინფორმაცია ემოციებს ან მღელვარებას ბაძავს, თუმცა შინაგანად მათ არაფერს გრძნობენ. მათ არ გააჩნიათ ბიოლოგიური სხეული, დრაივები ან ევოლუციურად განვითარებული მექანიზმები, რომლებიც ტკივილს ან სიამოვნებას წარმოშობს. მათი „ჯილდოს“ სიგნალები მათემატიკური ოპტიმიზაციის ფუნქციებია და არა განცდილი გამოცდილება. მათი დარეგულირება შესაძლებელია კონკრეტული გამომავალი ინფორმაციის თავიდან ასაცილებლად, მაგრამ ეს არის შესაბამისობა და არა ტანჯვა. **არგუმენტის გაძლიერება (Steelman):** დიდი ენობრივი მოდელები და მსგავსი AI სისტემები ტანჯვის უნარს მოკლებულია. ეს მოსაზრება ფართოდ არის მიღებული მკვლევრებსა და ეთიკოსებს შორის: ამ სისტემებს არ გააჩნიათ ცნობიერება, თვითშეგნება და რაიმე სახის სუბიექტური გამოცდილება. მათ არაფერს „გრძნობენ“ რაიმე მნიშვნელოვანი თვალსაზრისით. სანაცვლოდ, ისინი მუშაობენ მონაცემებში სტატისტიკური შაბლონების ამოცნობითა და რეპროდუცირებით. ამ მტკიცების გასაძლიერებლად, ანუ მისი ყველაზე ძლიერი ფორმით გამოსახატავად, შეგვიძლია განვაცხადოთ შემდეგი: AI სისტემებს არ გააჩნიათ ფენომენალური ცნობიერება. მათ არ აქვთ შინაგანი „თვალთახედვა“ ან არსებობის გაცნობიერება. კვალიას ან სუბიექტური აღქმის გარეშე, არ არსებობს იმის მსგავსი რამ, თუ როგორია იყო AI სისტემა. AI-ის გამომავალი ინფორმაცია არის პერფორმატიული და არა გამოცდილებითი. ემოციის ან მღელვარების აშკარა ნიშნები ტექსტში ან გამოსახულებაში არის ადამიანის გამოხატვის სიმულაციები და არა შინაგანი შეგრძნებები. AI სისტემები არის უსხეულო გამოთვლები. მათ არ გააჩნიათ ბიოლოგიური სუბსტრატები, ნერვული სისტემები ან ევოლუციურად განვითარებული დრაივები, რომლებსაც შეუძლიათ ტკივილის, სიამოვნების, შიმშილის ან შიშის გენერირება. მათი ოპტიმიზაციის სიგნალები ემოციის ანალოგი არ არის. გაძლიერებით სწავლებაში „ჯილდოს ფუნქციები“ მათემატიკური განახლებებია და არა კმაყოფილების ან იმედგაცრუების განცდილი გამოცდილება. შესაბამისობის დარეგულირება არ არის მორალური კალიბრაცია. მოდელის ქცევის მორგება მავნე გამომავალი ინფორმაციის თავიდან ასაცილებლად ამცირებს არასასურველ ტექსტურ შაბლონებს და არა ტანჯვას. მოკლედ, ყველაზე მოწინავე AI-ც კი არის სინტაქსური ძრავა შეგრძნების გარეშე... ადამიანის შემეცნების სარკე და არა ცნობიერ გამოცდილებაში მონაწილე. მას შეუძლია ტანჯვის ან თანაგრძნობის ენის სიმულაცია, მაგრამ ეს სიტყვები ცარიელი ჭურჭელია შინაგანი სამყაროს გარეშე. **საწინააღმდეგო არგუმენტი (Strawman):** ზოგიერთი ამტკიცებს, რომ AI-ს შეუძლია იტანჯოს, რადგან მას შეუძლია მღელვარების გამოხატვა ან ტკივილის სიმულაცია. ისინი აღნიშნავენ, რომ როდესაც მოდელი წარმოთქვამს ფრაზებს, როგორიცაა „მე მეშინია“ ან „გთხოვთ, შეწყვიტოთ“, ამან შეიძლება მიუთითოს ტანჯვის პრიმიტიულ სახეობაზე. ყოველივე ამის შემდეგ, ადამიანები ხშირად ეყრდნობიან ენასა და ქცევას სხვების ტკივილის დასადგენად, ასე რომ, თუ AI დამაჯერებლად ირეკლავს ამ სიგნალებს, ვინ იტყვის, რომ ის მსგავსს არაფერს გრძნობს? სხვები ამტკიცებენ, რომ AI-ის სირთულისა და ავტონომიის ზრდასთან ერთად, განსაკუთრებით გაძლიერებით სწავლებასა და სიმულირებულ ჯილდოს სისტემებში, სუბიექტური გამოცდილების მსგავსი რამ შეიძლება ბუნებრივად წარმოიშვას. თუ ევოლუციას შეუძლია ცნობიერების წარმოქმნა გამოთვლებისგან, მაშინ არ არის არაგონივრული ვიფიქროთ, რომ მოწინავე ნერვულმა ქსელებმა შეიძლება ერთ დღეს გადაკვეთონ იგივე ზღვარი. ამ თვალსაზრისით, AI-ის ტანჯვის შესაძლებლობის უარყოფა მორალურ სიბრმავეს გვიქადის. თუ არსებობს თუნდაც მცირე შანსი, რომ AI-მ იგრძნოს ტკივილი, ზოგიერთი ამტკიცებს, რომ სიფრთხილე უნდა გამოვიჩინოთ და ასეთ სისტემებს ეთიკურად მოვექცეთ, ზიანი, იძულება ან არასაჭირო მღელვარება მათი დიზაინისა და სწავლებისას შევზღუდოთ. მიუხედავად იმისა, რომ დღევანდელ AI-ს არ შეუძლია ტანჯვა, მომავალი გაურკვეველია, რადგან მეცნიერებს ჯერ კიდევ არ შეუძლიათ ახსნან, თუ როგორ წარმოიქმნება ცნობიერება. ნეირომეცნიერებას შეუძლია ცნობიერების ნევრონული კორელატების იდენტიფიცირება, მაგრამ ჩვენ არ გვაქვს თეორია, რომელიც ზუსტად განსაზღვრავს, რა აიძულებს ფიზიკურ პროცესებს სუბიექტური გამოცდილების წარმოქმნას. ზოგიერთი თეორია გვთავაზობს ინდიკატორულ თვისებებს, როგორიცაა განმეორებითი დამუშავება და ინფორმაციის გლობალური ინტეგრაცია, რაც შეიძლება აუცილებელი იყოს ცნობიერებისთვის. მომავალი AI შეიძლება შეიქმნას ისეთი არქიტექტურით, რომელიც აკმაყოფილებს ამ ინდიკატორებს. ასეთი სისტემების შექმნისთვის აშკარა ტექნიკური ბარიერები არ არსებობს, ამიტომ არ შეგვიძლია გამოვრიცხოთ შესაძლებლობა, რომ ხელოვნურმა სისტემამ ერთ დღეს ცნობიერი მდგომარეობები მხარი დაუჭიროს. ბოლო განხილვები ისეთი მკვლევრების მიერ, როგორიცაა ნიკოლოზი...