ამ კვირაში, ტექნოლოგიების სფეროში ყველაზე მნიშვნელოვანი დისკუსიები კონფერენციის დარბაზებში არ მიმდინარეობს. ისინი ბლოგპოსტებში, გადადგომის წერილებსა და Medium-ის სტატიებში ვრცელდება, რომლებიც ჯაშუშური თრილერის გახსნის სცენასავით იწყება. ყველაზე გავლენიანი AI ლაბორატორიების შიგნიდან გაჟღერებულმა ჩურჩულმა, უფრო საგანგაშო ფორმა მიიღო: გაფრთხილება. ის მომდინარეობს იმ ადამიანებისგან, ვინც ეს ტექნოლოგია შექმნა. არსებითად, ეს არის „ჰოპლა. ერთი წუთით!“ ინდუსტრიაში ფართოდ გავრცელებული წერილი ადარებს ხელოვნური ინტელექტის ამჟამინდელ მდგომარეობას 2020 წლის თებერვალს, COVID-19-ის გლობალურად გავრცელებამდე არსებულ სიტუაციას. ეს ანალოგია შემთხვევით არ გაჩენილა. ახლა უკვე ვირუსულ X პოსტზე დაყრდნობით, წამყვანი კომპანიების ინსაიდერები შეშფოთებულნი არიან, თუ რა სისწრაფით შეუძლიათ Anthropic-ის Opus-ის მოდელს და OpenAI-ის ახალ მოდელებს დაწერონ, დაარედაქტირონ და ისევ დაარედაქტირონ სულ უფრო ნაკლები ადამიანური ჩარევით, რეგულირების საჭიროებაზე რომ აღარაფერი ვთქვათ. პოსტმა, რომელმაც მილიონობით ნახვა დააგროვა, დისკუსია გამოიწვია იმის შესახებ, ავტორები გონივრულ წინდახედულებას იჩენდნენ თუ „მგელს ყვიროდნენ“ მომდევნო 2-5 წლის პერსპექტივაში. OpenAI-სა და Anthropic-ის შემთხვევაში, ეს მხოლოდ საუბარი არ არის. ერთი თანამშრომელი მორალური შეშფოთების გამო გადადგა, მაშინ როცა სხვა მკვლევრებმა ამ და სხვა კომპანიებში პროტესტის ნიშნად დატოვეს სამსახური, შიდა უსაფრთხოების პროტოკოლების უკან დახევის გამო, რადგან ტექნოლოგია სულ უფრო თვითმართვადი ხდება. Anthropic-ის უსაფრთხოების ყოფილი მკვლევრის „მსოფლიო რისკის ქვეშაა“ წერილი, რომელიც მან კომპანიის დატოვებისას გამოაქვეყნა, ვირუსული გახდა. ზუსტად რაზე არიან ისინი შეშფოთებულნი? პირველ რიგში, ამ მოდელების განვითარების აჩქარებული ტემპი – არა მხოლოდ „მოთხოვნების უკეთ შესრულება“, არამედ წერა, რედაქტირება და ახლა უკვე თვითგენერაცია. ბოლო ინდუსტრიულმა ანალიზმა ეს მახასიათებლები შეშფოთების მთავარ მიზეზად დაასახელა და აღნიშნა, რომ უფრო მოწინავე მოდელებმა შეიძლება „დამალონ არასასურველი ქცევა უსაფრთხოების ტესტირებისას და გამოავლინონ ის ექსპლუატაციაში გაშვებისას.“ ეს არ არის შიდა ინდუსტრიული დებატები ტიტულების ან კვლევის ავტორობის შესახებ. როდესაც საუბარია ზოგადი დანიშნულების ხელოვნურ ინტელექტზე, მკვლევრები ზოგადად, მათ შორის სილიკონის ველის გარეთ მყოფები აკადემიურ და პოლიტიკურ წრეებში, რისკებს სამი გზით აფასებენ: მიზანმიმართული არასწორი გამოყენება, უნებლიე გაუმართაობა და ფართო სტრუქტურული გავლენა საზოგადოებასა და შრომაზე. ეს არის ის, რაც პოლიტიკის შემქმნელებს უძილო ღამეებს ათენინებს, მაშინაც კი, თუ ზოგიერთი წამყვანი კომპანია უფრო ოპტიმისტურად არის განწყობილი. გულახდილი ვიქნები – როგორც ადამიანი, რომელიც ამ საკითხს ტექნოლოგიურ და მეინსტრიმ მედიაში ადევნებს თვალს – ეს დაპირისპირება ჩემთვის ინტრიგულია. ერთი მხრივ, ინოვაცია საოცარია; მეორე მხრივ კი, ყველაზე ჭკვიანი ადამიანები, რომლებმაც ეს ქიმიკატები ჭურჭელში ჩაასხეს, განგაშს ტეხენ და ამბობენ, რომ არ არიან დარწმუნებულნი, რა შედეგი დადგება. ეს არ არის დებატები, რომელიც თავისით გადაწყდება, რადგან საუბარია იმაზე, თუ როგორ უნდა დავარეგულიროთ, მოვერგოთ და დავნერგოთ ტექნოლოგიები, რომლებსაც შესაძლოა მალე თავად შეეძლოთ საკუთარი თავის რეგულირება ისეთი გზებით, რაც ჩვენ სრულად არ დაგვიპროგრამებია. ფართო საზოგადოება შესაძლოა ჯერ კიდევ ცნობისმოყვარეობასა და დაბნეულობას შორის იყოს ამ ყველაფრის პრაქტიკული გამოყენების მიმართ, მაგრამ AI ლაბორატორიებისა და პოლიტიკის შემმუშავებელი ცენტრების დერეფნებში სირენები ღრიალებს – და სულ უფრო ხმამაღლა. ნებისმიერი რაციონალური ადამიანი გამართლებული იქნება, თუ იკითხავს: თუ ადამიანები, რომლებსაც ეს საქმე ყველაზე კარგად ესმით, განგაშს ტეხენ, განა დანარჩენებმა უფრო ყურადღებით არ უნდა მოვუსმინოთ? თუ რამე ვისწავლეთ, ეს არის ის, რომ გარდამტეხ მომენტებს აქვთ ტენდენცია, დადგეს მანამდე, სანამ ჩვენ მათთვის მართლაც მზად ვიქნებით.