პარასკევს შუადღისას, სწორედ მაშინ, როდესაც ეს ინტერვიუ იწყებოდა, ჩემს კომპიუტერის ეკრანზე ახალი ამბების შეტყობინება გამოჩნდა: ტრამპის ადმინისტრაცია წყვეტდა კავშირებს Anthropic-თან, სან-ფრანცისკოს ხელოვნური ინტელექტის კომპანიასთან, რომელიც 2021 წელს დარიო ამოდეიმ დააარსა. თავდაცვის მდივანმა პიტ ჰეგსეტმა მალევე გამოიყენა ეროვნული უსაფრთხოების კანონი, რათა კომპანიისთვის პენტაგონთან საქმიანი ურთიერთობა აეკრძალა, მას შემდეგ რაც ამოდეიმ უარი განაცხადა Anthropic-ის ტექნოლოგიის აშშ-ის მოქალაქეების მასობრივი თვალთვალისთვის ან ავტონომიური შეიარაღებული დრონებისთვის გამოყენებაზე, რომლებსაც ადამიანის ჩარევის გარეშე შეეძლოთ სამიზნეების შერჩევა და განადგურება. ეს იყო მოვლენათა განსაცვიფრებელი თანმიმდევრობა. Anthropic-ს ემუქრება 200 მილიონ დოლარამდე ღირებულების კონტრაქტის დაკარგვა და შესაძლოა აეკრძალოს სხვა თავდაცვის კონტრაქტორებთან მუშაობა მას შემდეგ, რაც პრეზიდენტმა ტრამპმა Truth Social-ზე განცხადება გამოაქვეყნა, რომელშიც ყველა ფედერალურ სააგენტოს დაავალა „დაუყოვნებლივ შეწყვიტოს Anthropic-ის ტექნოლოგიის ნებისმიერი გამოყენება.“ (Anthropic-მა მას შემდეგ განაცხადა, რომ პენტაგონს სასამართლოში უჩივლებს). მაქს ტეგმარკი ათწლეულის უმეტეს ნაწილს აფრთხილებდა, რომ სულ უფრო მძლავრი ხელოვნური ინტელექტის სისტემების შექმნის რბოლა მსოფლიოს მათი მართვის შესაძლებლობებს უსწრებს. მასაჩუსეტსის ტექნოლოგიური ინსტიტუტის ფიზიკოსმა 2014 წელს დააარსა Future of Life Institute და 2023 წელს დაეხმარა ღია წერილის ორგანიზებაში — რომელსაც საბოლოოდ 33,000-ზე მეტმა ადამიანმა, მათ შორის ილონ მასკმა, მოაწერა ხელი — და მოუწოდა მოწინავე ხელოვნური ინტელექტის განვითარების შეჩერებისკენ. Anthropic-ის კრიზისის შესახებ მისი შეხედულება უმოწყალოა: კომპანიამ, ისევე როგორც მისმა კონკურენტებმა, საკუთარი რთული მდგომარეობის თესლი დათესა. ტეგმარკის არგუმენტი პენტაგონით არ იწყება, არამედ წლებით ადრე მიღებული გადაწყვეტილებით — ინდუსტრიის მასშტაბით გაზიარებული არჩევანით, წინააღმდეგობა გაეწიათ რეგულირებისთვის. Anthropic, OpenAI, Google DeepMind და სხვები დიდი ხანია გვპირდებიან, რომ პასუხისმგებლობით მოახდენენ საკუთარი თავის მართვას. Anthropic-მა ამ კვირაში კი თავისი უსაფრთხოების დაპირების ცენტრალური პრინციპიც კი გააუქმა — მისი დაპირება, არ გამოეშვათ სულ უფრო მძლავრი ხელოვნური ინტელექტის სისტემები მანამ, სანამ კომპანია დარწმუნდებოდა, რომ ისინი ზიანს არ გამოიწვევდნენ. ახლა, წესების არარსებობის პირობებში, ამ მოთამაშეების დასაცავად ბევრი რამ არ არის, ამბობს ტეგმარკი. გთავაზობთ ამ ინტერვიუდან მეტს, რომელიც სიგრძისა და სიცხადისთვის არის რედაქტირებული. სრულ საუბარს მომავალ კვირას შეგიძლიათ მოუსმინოთ TechCrunch-ის StrictlyVC Download პოდკასტზე. როდესაც ახლა Anthropic-ის შესახებ ეს ამბები ნახეთ, როგორი იყო თქვენი პირველი რეაქცია? ჯოჯოხეთისკენ მიმავალი გზა კეთილი განზრახვებით არის მოკირწყლული. საინტერესოა, გავიხსენოთ ათი წლის წინანდელი დრო, როდესაც ხალხი ასე აღფრთოვანებული იყო იმით, თუ როგორ ვაპირებდით ხელოვნური ინტელექტის შექმნას კიბოს სამკურნალოდ, ამერიკაში კეთილდღეობის გასაზრდელად და ამერიკის გასაძლიერებლად. და აი, ახლა აშშ-ის მთავრობა გაბრაზებულია ამ კომპანიაზე, რადგან მას არ სურს ხელოვნური ინტელექტის გამოყენება ამერიკელების საშინაო მასობრივი თვალთვალისთვის და ასევე არ სურს ჰყავდეს მკვლელი რობოტები, რომლებსაც ავტონომიურად — ადამიანის ყოველგვარი ჩარევის გარეშე — შეუძლიათ გადაწყვიტონ, ვინ მოკვდება. Anthropic-მა მთელი თავისი იდენტობა უსაფრთხოებაზე ორიენტირებულ ხელოვნური ინტელექტის კომპანიად ჩამოაყალიბა, თუმცა ის თანამშრომლობდა თავდაცვისა და დაზვერვის სააგენტოებთან [მინიმუმ 2024 წლიდან]. ფიქრობთ, რომ ეს წინააღმდეგობრივია? ეს წინააღმდეგობრივია. თუ ამაზე ცოტა ცინიკურ შეხედულებას მოგცემთ — დიახ, Anthropic ძალიან კარგად ახდენდა საკუთარი თავის მარკეტინგს, როგორც უსაფრთხოებაზე ორიენტირებული კომპანია. მაგრამ თუ ფაქტებს დააკვირდებით და არა მხოლოდ განცხადებებს, რასაც ხედავთ, არის ის, რომ Anthropic, OpenAI, Google DeepMind და xAI ბევრს საუბრობდნენ იმაზე, თუ როგორ ზრუნავენ უსაფრთხოებაზე. არც ერთ მათგანს არ გამოუთქვამს მხარდაჭერა სავალდებულო უსაფრთხოების რეგულაციების მიმართ, როგორც ეს სხვა ინდუსტრიებში გვაქვს. და ოთხივე ამ კომპანიამ ახლა დაარღვია საკუთარი დაპირებები. ჯერ გვქონდა Google — ეს დიდი სლოგანი, „ნუ იქნები ბოროტი.“ შემდეგ ეს გააუქმეს. შემდეგ მათ გააუქმეს კიდევ ერთი გრძელი ვალდებულება, რომელიც ძირითადად ამბობდა, რომ ისინი ჰპირდებოდნენ ზიანის არ მიყენებას AI-ით. მათ ეს გააუქმეს, რათა AI გაეყიდათ თვალთვალისა და იარაღისთვის. OpenAI-მ უბრალოდ სიტყვა „უსაფრთხოება“ ამოიღო თავისი მისიის განცხადებიდან. xAI-მ დახურა თავისი უსაფრთხოების მთელი გუნდი. და ახლა Anthropic-მა, კვირის დასაწყისში, გააუქმა თავისი ყველაზე მნიშვნელოვანი უსაფრთხოების ვალდებულება — დაპირება, არ გამოეშვათ მძლავრი AI სისტემები მანამ, სანამ არ დარწმუნდებოდნენ, რომ ისინი ზიანს არ გამოიწვევდნენ. როგორ აღმოჩნდნენ კომპანიები, რომლებმაც ასეთი გამორჩეული უსაფრთხოების ვალდებულებები აიღეს, ასეთ მდგომარეობაში? ყველა ეს კომპანია...