მასაჩუსეტსის ტექნოლოგიური ინსტიტუტის (MIT) ახალმა კვლევამ ხელოვნური ინტელექტის (AI) სამყაროში საკმაოდ დიდი „ქვა ჩააგდო“, რამაც უსიამოვნო კითხვები გააჩინა: რა მოხდება, თუ ადამიანებს, რომლებსაც ყველაზე მეტად სჭირდებათ ხარისხიანი ინფორმაცია, AI ყველაზე ნაკლებად ემსახურება? კვლევის დასკვნით, ფართოდ გამოყენებული AI ჩეთბოტები ხშირად ნაკლებად ზუსტ ან ნაკლებად გამოსადეგ ინფორმაციას აწვდიან მომხმარებლებს, რომლებიც უფრო მოწყვლადებად ითვლებიან – მათ შორის არიან არაინგლისურენოვანი მომხმარებლები და ისეთები, ვისაც ფორმალური განათლების დაბალი დონე აქვს. MIT-ის მოხსენებაში გამოქვეყნებული კვლევა უფრო ნიუანსირებულია, ვიდრე AI-ის შესახებ არსებული მბზინავი ბროშურები ვარაუდობენ. მკვლევრებმა, ფაქტობრივად, რამდენიმე პოპულარულ ჩეთბოტს ერთგვარი სტრეს-ტესტი ჩაუტარეს, კითხვების დასმის მეთოდის შეცვლით – გრამატიკულად, ლინგვისტურად, მომხმარებლის განათლების დონის მინიშნებებით – და შედეგიც სახეზეა! ჩეთბოტები უარესი ხარისხის პასუხებს იძლეოდნენ, როდესაც გრამატიკა და ენა უარესი იყო. ეს ჰგავს ციფრულ ვერსიას იმისა, რომ „წიგნი ყდით არ უნდა შეაფასო“. თითქმის მესმის იმედგაცრუებული მომხმარებლის ფიქრები: „მაგრამ მე იგივე ვიკითხე! რატომ მივიღე უარესი პასუხი?“ ეს არ არის მცირე შეცდომა. ეს არის სამართლიანობის სერიოზული პრობლემა. ცხადია, მიკერძოებული AI-ის პრობლემა ახალი არ არის – სტანდარტებისა და ტექნოლოგიების ეროვნულმა ინსტიტუტმა (NIST) უკვე განაცხადა, რომ AI-ს შეუძლია „გაამძაფროს სოციალური მიკერძოებები, რომლებიც მოცემულია ამ სისტემების წვრთნისთვის გამოყენებულ მონაცემებში“, თუ ის სათანადოდ არ იქნება მართული და შერბილებული (NIST-ის AI რისკების მართვის ჩარჩოს მიხედვით) – მაგრამ მისი რაოდენობრივი შეფასება სხვა საქმეა. ეს ნამდვილად ალგორითმული მიკერძოების შესახებ გლობალური საუბრის ნაწილია – მსოფლიო ეკონომიკურმა ფორუმმა სამართლიანობა და ინკლუზიურობა სანდო AI-ს მთავარ გამოწვევებად დაასახელა და აღნიშნა, რომ „AI-ზე ორიენტირებული გადაწყვეტილებების მიღებისგან თანასწორი შედეგების მიღების აუცილებლობა ერთ-ერთი ყველაზე მნიშვნელოვანია“ იმ საკითხთა შორის, რომელიც AI-ის სანდოობას ეხება. ეს ლოგიკურია: როდესაც AI ჩეთბოტები ხდებიან ინფორმაციის მიღების ძირითადი წყარო ყველაფერზე, ჯანმრთელობიდან და სამართლიდან დაწყებული განათლებით დამთავრებული, უთანასწორო მომსახურება არ არის მხოლოდ იმედგაცრუებელი. ის პოტენციურად საზიანოა. და ეს არ არის თეორიული პრობლემა – AI-ის გამოყენება სწრაფად ფართოვდება. Associated Press-ის ბოლოდროინდელი მოხსენების თანახმად, როგორც მთავრობები, ისე კერძო კომპანიები ჩქარობენ AI-ის დანერგვას საკლასო ოთახებში, სახელმწიფო სერვისებსა და სამუშაო ადგილებზე. მაშ, თუ AI ჩეთბოტებს ლაბორატორიაში თანასწორობის უზრუნველყოფა არ შეუძლიათ, რა მოხდება, როდესაც ისინი ყველგან იქნებიან? ეს არ არის რიტორიკული შეკითხვა. ეს მომავლის სათაურია. ცხადია, ამას რეალური ცხოვრებისეული ასპექტი აქვს, რაც მას კიდევ უფრო ართულებს – და უფრო ადამიანურს ხდის. მე საკმარის რაოდენობის მასწავლებელთან, სტუდენტთან და მცირე ბიზნესის მფლობელთან მისაუბრია, რომ ვიცოდე, ისინი AI-სთან ლაბორატორიაში არ ურთიერთობენ. ისინი სახლში დაღლილები ბრუნდებიან და სიბნელეში ტელეფონებში ბეჭდავენ. ზოგჯერ ინგლისური მათი მეორე ან მესამე ენაა. და თუ AI ჩეთბოტი მათ ჩუმად, ამის გამო, უარეს ინფორმაციას სთავაზობს, ეს მხოლოდ გააღრმავებს იმგვარ უთანასწორობას, რომლის წაშლაც ტექნოლოგიას ევალება. რაც ერთგვარი მტკივნეული ირონიაა. MIT-ის მკვლევრები აქ ფართომასშტაბიან პანიკას არ ითხოვენ. ისინი ცვლილებებს ითხოვენ – უკეთეს ტესტირებას, უფრო ინკლუზიურ მონაცემებს და დეველოპერების მეტ ანგარიშვალდებულებას. სხვა სიტყვებით რომ ვთქვათ, გააკეთეთ ყველაფერი სწორად, სანამ სისტემას გააფართოებთ. ზოგიერთმა კომპანიამ უკვე აიღო ვალდებულება, რომ AI მიკერძოებასთან დაკავშირებულ საკითხებს მეტად მოაგვარებს – მაგრამ ვალდებულებების აღება ადვილია. რეალური მოქმედება რთულია. მაშ, სად გვტოვებს ეს ყველაფერი? ალბათ, გააზრებული სიფხიზლის მდგომარეობაში, ვფიქრობ. AI არის ძლიერი ინსტრუმენტი, დიახ. ის ხშირად გამოსადეგია, დიახ. მაგრამ ის თავისი დიზაინით არ არის სამართლიანი და იმის ვარაუდი, რომ ის ასეთია, შესაძლოა, სურვილის მიღება იყოს რეალობად. თუ ეს ინსტრუმენტები გახდება ის გზა, რომლითაც მილიარდობით ადამიანი ურთიერთობს ინფორმაციასთან, მათ ისევე კარგად უნდა იმუშაონ იმ ადამიანისთვის, ვინც უნაკლო აკადემიურ ინგლისურს ბეჭდავს, როგორც მოზარდისთვის, რომელიც დილის 2 საათზე დამახინჯებულ, არასწორად დაწერილ კითხვას სვამს. რადგან, საბოლოო ჯამში, AI-ის სამართლიანობა არ არის პოლიტიკური აბსტრაქცია. საქმე იმაშია, ვინ მიიღებს მიკროფონს – და ვინ დარჩება სიბნელეში.