ხელოვნური ინტელექტის აუდიტორი: ახალი გადამწყვეტი როლი ბიზნესისა და ტექნოლოგიებისთვის

ხელოვნური ინტელექტის (AI) განუწყვეტელი აღმავლობა ქმნის ახალ როლს ბიზნესისა და ტექნოლოგიების პროფესიონალებისთვის: AI აუდიტორი. ეს როლი გასაოცრად ჰგავს ფინანსური აუდიტორებისას, ერთი მნიშვნელოვანი გამონაკლისით: AI აუდიტორები აკვირდებიან და აფიქსირებენ AI ტრანზაქციების ქცევას, ფულადი ტრანზაქციების ნაცვლად. ასეთი როლის გამოჩენა საუკეთესო დროს ხდება. ხელოვნური ინტელექტი დღესდღეობით ყოვლისმომცველია, მაგრამ ის ხშირად აწყდება მონაცემთა დაბალი ხარისხის, მოდელის დრიფტის (model drift), მიკერძოების, ჰალუცინაციების (hallucinations), უზუსტობების და სხვა პრობლემებს. პროფესიონალებმა უნდა გაიაზრონ, თუ რომელ როლებს აქვთ მომავალი AI-ის სამყაროში – და რომ AI-ის მართვა მხოლოდ ტექნიკურ როლს სცდება. AI აუდიტორები არ იქნებიან მხოლოდ ტექნიკური ზედამხედველები; მათ მოუწევთ AI-ის სიზუსტისა და სიცოცხლისუნარიანობის უზრუნველყოფა კანონის, ეთიკის, უსაფრთხოებისა და ქცევითი მეცნიერების შესაბამისად. აღსანიშნავია, რომ AI აუდიტორების მიერ ზედამხედველობის ქვეშ მყოფი პროცესები ზუსტად იგივეა, რაც ფინანსური აუდიტორების ამოცანები, რომლებიც მოიცავს შერჩევას (sampling), ტესტირებასა და სერტიფიცირებას. ZipRecruiter-ის მიმდინარე შეფასებით, სამუშაო განცხადებების მიხედვით, AI აუდიტორების წლიური ხელფასი 50,000-დან 81,000 აშშ დოლარამდე მერყეობს, ხოლო ყველაზე მაღალანაზღაურებადი სპეციალისტები 105,500 აშშ დოლარს გამოიმუშავებენ აშშ-ის მასშტაბით. ამჟამად, AI აუდიტორები ძალიან რუდიმენტარული ფორმით არსებობენ, ამბობს ზოჰარ ბრონფმანი, Pecan.ai-ის თანადამფუძნებელი და აღმასრულებელი დირექტორი, რომელიც თვალს ადევნებს ამ შედარებით ახალი პოზიციის გაჩენას. „ამჟამად არ არსებობს სტრუქტურირებული როლი, რომელიც მიზნად ისახავს ეთიკური ან სოციალურად მისაღები ქცევის აუდიტს“. AI აუდიტორთან ყველაზე ახლოს მდგომი როლი ამჟამად გვხვდება გუნდებში, რომელთა ამოცანაა AI მოდელის ქცევის განხილვა, მაგრამ მათი მუშაობა უფრო ხარისხის უზრუნველყოფას ჰგავს, აღნიშნა ბრონფმანმა. განხილვები მოიცავს „გამომუშავებას (outputs), გამონაკლისებს (outliers) და ექსტრემალურ შემთხვევებს (edge-cases), ასევე მონაცემთა შეყვანის თვისებების, სიზუსტისა და პროგნოზირებადობის სასწავლო პროცესების აუდიტს“. AI აუდიტორები უფრო მეტად გაამკაცრებენ AI-ის პასუხისმგებლობისა და სანდოობის უზრუნველყოფას. AI აუდიტორის როლები, სავარაუდოდ, სხვადასხვა ფუნქციის ნაზავი იქნება: AI აუდიტის სამუშაო ადგილები მხოლოდ მსხვილ საწარმოებში არ იქნება. ისევე, როგორც ორგანიზაციები ხშირად ეყრდნობიან გარე ფინანსურ აუდიტორებს, მრავალი როლი გაჩნდება მესამე მხარის AI აუდიტორულ ფირმებში. „დამოუკიდებელი მესამე მხარის აუდიტორები უზრუნველყოფენ სტრუქტურირებულ ზედამხედველობას და ხელს უშლიან ინტერესთა კონფლიქტს“, - განაცხადა ბრონფმანმა. AI აუდიტის სტანდარტები და ქცევის კოდექსები შესაძლოა, საბოლოოდ, მხარდაჭერილი იყოს „გაეროს მსგავსი ორგანოს ან ძირითადი სახელმწიფოების კოალიციის მიერ, სადაც განლაგება მოითხოვს მიმდინარე ქცევით აუდიტს და სავალდებულო გამჭვირვალობას“. ამ ტიპის როლში გადასასვლელად, დამწყებ AI აუდიტორებს „ღრმად უნდა ესმოდეთ AI და ის, თუ როგორ მუშაობს ალგორითმი, რათა დაადგინონ ხარვეზები და შეამოწმონ, როგორ შეიძლება მან შეცდომა დაუშვას“, - აღნიშნა ბრონფმანმა. „AI აუდიტის გუნდები უნდა იყვნენ მულტიდისციპლინურები და მოიცავდნენ ექსპერტებს სამართლის, ეთიკის, უსაფრთხოების, ქცევითი მეცნიერებისა და პოლიტიკური თეორიის სფეროებში, რომლებიც მუდმივად ატარებენ „წითელი გუნდის“ ტესტირებას (red-teaming) და ქცევითი შერჩევას (behavioral sampling) სხვადასხვა სფეროში“.