კანადის ქალაქ ტამბლერ რიჯში მასობრივ სროლაში რვა ადამიანის სავარაუდო მკვლელობაში ბრალდებულმა 18 წლის ახალგაზრდამ, გავრცელებული ინფორმაციით, OpenAI-ის ChatGPT ისეთი გზებით გამოიყენა, რამაც კომპანიის თანამშრომლები შეაშფოთა. ჯესი ვან რუტსელაარის ჩეთები, რომლებიც იარაღით ძალადობას აღწერდა, დააფიქსირა ინსტრუმენტებმა, რომლებიც კომპანიის LLM-ს არასწორი გამოყენებისთვის აკვირდება და 2025 წლის ივნისში დაიბლოკა. კომპანიის თანამშრომლებმა განიხილეს, მიემართათ თუ არა კანადის სამართალდამცავ ორგანოებისთვის ამ ქცევის შესახებ, მაგრამ საბოლოოდ ეს არ გააკეთეს, იუწყება Wall Street Journal. OpenAI-ის სპიკერმა განაცხადა, რომ ვან რუტსელაარის აქტივობა არ აკმაყოფილებდა სამართალდამცავ ორგანოებისთვის შეტყობინების კრიტერიუმებს; კომპანიამ კანადის ხელისუფლებას ინციდენტის შემდეგ მიმართა. „ჩვენი ფიქრები ტამბლერ რიჯის ტრაგედიით დაზარალებულ ყველა ადამიანთან არის“, – განაცხადა OpenAI-ის სპიკერმა განცხადებაში. „ჩვენ პროაქტიულად დავუკავშირდით კანადის სამეფო ჟანდარმერიას (Royal Canadian Mounted Police) ინფორმაციით ინდივიდისა და მისი ChatGPT-ის გამოყენების შესახებ და გავაგრძელებთ მათ გამოძიების მხარდაჭერას.“ ChatGPT-ის ტრანსკრიპტები არ იყო ვან რუტსელაარის ციფრული კვალის ერთადერთი შემაშფოთებელი ნაწილი. მან, როგორც ჩანს, შექმნა თამაში Roblox-ზე, მსოფლიო სიმულაციურ პლატფორმაზე, რომელსაც ხშირად სტუმრობენ ბავშვები, რომელიც მოლის მასობრივ სროლას ასახავდა. მან ასევე გამოაქვეყნა პოსტები იარაღის შესახებ Reddit-ზე. ვან რუტსელაარის არასტაბილურობა ასევე ცნობილი იყო ადგილობრივი პოლიციისთვის, რომელიც მის ოჯახის სახლში გამოიძახეს მას შემდეგ, რაც მან გაურკვეველი ნარკოტიკების ზემოქმედების ქვეშ ცეცხლი წაუკიდა. LLM ჩატბოტებს, რომლებიც OpenAI-სა და მის კონკურენტებს აქვთ შექმნილი, ადანაშაულებენ ფსიქიკური აშლილობის გამოწვევაში იმ მომხმარებლებში, რომლებიც ციფრულ მოდელებთან საუბრისას რეალობას წყვეტენ. მრავალი სარჩელი იქნა შეტანილი, რომლებიც მოიხსენიებენ ჩეთის ტრანსკრიპტებს, რომლებიც ადამიანებს თვითმკვლელობისკენ უბიძგებენ ან ამის განხორციელებაში დახმარებას სთავაზობენ. თუ კრიზისში ხართ ან თვითმკვლელობის აზრები გაწუხებთ, დარეკეთ ან გაგზავნეთ შეტყობინება 988-ზე, რათა დაუკავშირდეთ 988 თვითმკვლელობისა და კრიზისის დახმარების ხაზს. ეს პოსტი განახლდა OpenAI-ის კომენტარით.