AI სიახლეები

პენტაგონი Anthropic-ს AI მოდელზე წვდომის ან „საფრთხის“ სტატუსის მინიჭების ულტიმატუმს უყენებს

პენტაგონმა AI სტარტაპ Anthropic-ს ულტიმატუმი წაუყენა, რომლის მიხედვითაც კომპანიამ პარასკევ საღამომდე უნდა უზრუნველყოს აშშ-ის სამხედროებისთვის თავის AI მოდელზე შეუზღუდავი წვდომა. წინააღმდეგ შემთხვევაში, თავდაცვის სამინისტრო Anthropic-ს „მიწოდების ჯაჭვის რისკად“ გამოაცხადებს ან გამოიყენებს თავდაცვის წარმოების აქტს (DPA), რათა აიძულოს კომპანია, შეცვალოს მოდელი სამხედრო საჭიროებებისთვის. Anthropic-ი უარს ამბობს კომპრომისზე და აცხადებს, რომ მისი ტექნოლოგია არ უნდა იქნას გამოყენებული მასობრივი თვალთვა

SDXL-ის ოპტიმიზაცია: როგორ დავაჩქაროთ ინფერენცია და შევამციროთ მეხსიერების მოხმარება

SDXL მოდელი, მიუხედავად მისი გაუმჯობესებული შესაძლებლობებისა, მნიშვნელოვნად დიდია, რაც დიდ მოთხოვნებს აყენებს GPU მეხსიერებასა და გამოთვლით დროს. ეს სტატია იკვლევს ოპტიმიზაციის ტექნიკებს, როგორიცაა დაბალი სიზუსტის (fp16) წონების გამოყენება, PyTorch 2.0-ის SDPA და torch.compile ფუნქციები, ასევე CPU-ზე გადმოტვირთვა, რათა გაიზარდოს ინფერენციის სიჩქარე და შემცირდეს მეხსიერების მოხმარება, რაც SDXL-ს უფრო პრაქტიკულს ხდის ფართო სპექტრის მომხმარებლებისთვის.