OpenAI-მ უჩვეულოდ გამჭვირვალე ნაბიჯი გადადგა და გამოაქვეყნა დეტალური ტექნიკური აღწერა იმისა, თუ როგორ მუშაობს მისი Codex CLI კოდირების აგენტი. OpenAI-ის ინჟინერ მაიკლ ბოლინის მიერ შექმნილი პოსტი ერთ-ერთ ყველაზე მკაფიო წარმოდგენას გვთავაზობს იმაზე, თუ როგორ აწყობს წარმოების დონის AI აგენტი დიდ ენობრივ მოდელებს, ინსტრუმენტებსა და მომხმარებლის შეყვანას რეალური პროგრამული უზრუნველყოფის შემუშავების ამოცანების შესასრულებლად. Codex-ის საფუძველს წარმოადგენს ის, რასაც OpenAI „აგენტის ციკლს“ უწოდებს: განმეორებითი ციკლი, რომელიც მოდელის ინფერენციასა და ხელსაწყოების შესრულებას შორის მონაცვლეობს. თითოეული ციკლი იწყება მაშინ, როდესაც Codex აგებს მოთხოვნას (prompt) სტრუქტურირებული შეყვანებიდან: სისტემური ინსტრუქციები, დეველოპერის შეზღუდვები, მომხმარებლის შეტყობინებები, გარემოს კონტექსტი, ასევე ხელმისაწვდომი ინსტრუმენტები, და აგზავნის მას OpenAI-ის Responses API-ში ინფერენციისთვის. მოდელის გამომავალს ორი ფორმა შეიძლება ჰქონდეს. მას შეუძლია წარმოქმნას ასისტენტის შეტყობინება მომხმარებლისთვის, ან მოითხოვოს ხელსაწყოს გამოძახება, მაგალითად, shell ბრძანების გაშვება, ფაილის წაკითხვა, ან დაგეგმვის/ძიების პროგრამის გამოძახება. როდესაც ხელსაწყოს გამოძახება მოთხოვნილია, Codex ასრულებს მას ლოკალურად (განსაზღვრული „სენდბოქსის“ ლიმიტების ფარგლებში), ამატებს შედეგს მოთხოვნას და კვლავ უკითხავს მოდელს. ეს ციკლი გრძელდება მანამ, სანამ მოდელი საბოლოო ასისტენტის შეტყობინებას არ გამოუშვებს, რაც საუბრის რაუნდის დასასრულს ნიშნავს. მიუხედავად იმისა, რომ ეს მაღალი დონის სქემა მრავალი AI აგენტისთვის არის დამახასიათებელი, OpenAI-ის დოკუმენტაცია თავისი სპეციფიკურობით გამოირჩევა. ბოლინი დეტალურად აღწერს, თუ როგორ ყალიბდება მოთხოვნები (prompts) პუნქტობრივად, როგორ განსაზღვრავს როლები (სისტემა, დეველოპერი, მომხმარებელი, ასისტენტი) პრიორიტეტს და როგორ შეიძლება, რომ დიზაინის მცირე არჩევანმაც კი, როგორიცაა ხელსაწყოების თანმიმდევრობა სიაში, მნიშვნელოვანი გავლენა მოახდინოს შესრულებაზე. ერთ-ერთი ყველაზე აღსანიშნავი არქიტექტურული გადაწყვეტილება Codex-ის სრულად უსახელოებო (stateless) ინტერაქციის მოდელია. ნაცვლად იმისა, რომ სერვერის მხარეს არსებულ საუბრის მეხსიერებას დაეყრდნოს (წინა_პასუხის_id პარამეტრის მეშვეობით), Codex ყოველი მოთხოვნისას საუბრის სრულ ისტორიას ხელახლა აგზავნის. ეს მიდგომა ამარტივებს ინფრასტრუქტურას და უზრუნველყოფს მონაცემთა ნულოვანი შენახვის (ZDR) შესაძლებლობას იმ მომხმარებლებისთვის, რომლებიც მოითხოვენ კონფიდენციალურობის მკაცრ გარანტიებს. ნაკლოვანება აშკარაა: მოთხოვნების ზომა იზრდება ყოველი ინტერაქციისას, რაც გადაცემული მონაცემების კვადრატულ ზრდას იწვევს. OpenAI ამას აგრესიული მოთხოვნების ქეშირების (prompt caching) მეშვეობით ამცირებს, რაც მოდელს საშუალებას აძლევს, ხელახლა გამოიყენოს გამოთვლები მანამ, სანამ ყოველი ახალი მოთხოვნა წინა მოთხოვნის ზუსტი პრეფიქსული გაფართოებაა. როდესაც ქეშირება მუშაობს, ინფერენციის ღირებულება იზრდება წრფივად და არა კვადრატულად. ეს შეზღუდვა, თუმცა, მკაცრ დისციპლინას აწესებს სისტემაზე. ხელსაწყოების შეცვლამ საუბრის შუა ნაწილში, მოდელების შეცვლამ, „სენდბოქსის“ ნებართვების მოდიფიცირებამ, ან თუნდაც ხელსაწყოების განმარტებების გადალაგებამ შეიძლება გამოიწვიოს ქეშის გამოტოვება და მკვეთრად გააუარესოს შესრულება. ბოლინი აღნიშნავს, რომ Model Context Protocol (MCP) ხელსაწყოების ადრეულმა მხარდაჭერამ ზუსტად ამ ტიპის მყიფეობა გამოავლინა, რამაც გუნდი აიძულა, ფრთხილად გადაეაზრებინა, თუ როგორ ხორციელდება დინამიური ხელსაწყოების განახლებები. მოთხოვნების ზრდა ასევე ეჯახება სხვა მკაცრ ლიმიტს: მოდელის კონტექსტურ ფანჯარას. ვინაიდან როგორც შეყვანის, ისე გამომავალი ტოკენები ამ ლიმიტის წინააღმდეგ ითვლება, ხანგრძლივად მომუშავე აგენტი, რომელიც ასობით ხელსაწყოს გამოძახებას ასრულებს, რისკავს თავისი გამოსაყენებელი კონტექსტის ამოწურვას. ამის მოსაგვარებლად, Codex იყენებს საუბრის ავტომატურ კომპაქტირებას. როდესაც ტოკენების რაოდენობა კონფიგურირებად ზღურბლს აჭარბებს, Codex ცვლის საუბრის სრულ ისტორიას შეკუმშული წარმოდგენით, რომელიც გენერირდება სპეციალური responses/compact API ენდპოინტის მეშვეობით. რაც მთავარია, ეს კომპაქტირებული კონტექსტი მოიცავს დაშიფრულ მონაცემებს (payload), რომელიც ინარჩუნებს მოდელის ფარულ გაგებას წინა ინტერაქციების შესახებ, რაც მას საშუალებას აძლევს, თანმიმდევრულად განაგრძოს მსჯელობა სრულ ნედლეულ ისტორიაზე წვდომის გარეშე. Codex-ის ადრინდელი ვერსიები მომხმარებლებს მოითხოვდათ, ხელით გაეაქტიურებინათ კომპაქტირება; დღეს ეს პროცესი ავტომატურია და დიდწილად უხილავი – მნიშვნელოვანი გაუმჯობესება გამოყენებადობის თვალსაზრისით, რადგან აგენტები უფრო გრძელ, კომპლექსურ ამოცანებს იღებენ თავის თავზე. OpenAI ისტორიულად თავს იკავებდა ფლაგმანი პროდუქტების, როგორიცაა ChatGPT, ღრმა ტექნიკური დეტალების გამოქვეყნებისგან. Codex-ს, თუმცა, სხვანაირად ექცევიან. შედეგი არის იშვიათი, გულწრფელი ანგარიში იმ კომპრომისების შესახებ, რომლებიც რეალური AI აგენტის შექმნას უკავშირდება: შესრულება კონფიდენციალურობის წინააღმდეგ, მოქნილობა ქეშის ეფექტურობის წინააღმდეგ, ავტონომია უსაფრთხოების წინააღმდეგ. ბოლინი არ ერიდება შეცდომების, არაეფექტურობისა და ძნელად მოპოვებული გაკვეთილების აღწერას, რაც ამყარებს გზავნილს, რომ დღევანდელი AI აგენტები ძლიერია, მაგრამ შორს არის მაგიურისგან. თავად Codex-ის მიღმა, ეს პოსტი წარმოადგენს საგზაო რუკას ყველასთვის, ვინც აგენტებს თანამედროვე LLM API-ებზე აშენებს. ის ხაზს უსვამს განვითარებად საუკეთესო პრაქტიკებს: უსახელოებო (stateless) დიზაინი, პრეფიქს-სტაბილური მოთხოვნები, კონტექსტის ექსპლიციტური მართვა, რომლებიც სწრაფად ხდება ინდუსტრიის სტანდარტები.