პლატფორმა ფუნქციონირებს როგორც ვიზუალური Gradio ინტერფეისი, ასევე MCP (Model Context Protocol) სერვერი, რომელიც პირდაპირ ინტეგრირდება ისეთ აპლიკაციებთან, როგორიცაა Cline (Claude Desktop-თან პრობლემები იყო, რადგან დროის ლიმიტის რეგულირება შეუძლებელი იყო). ძირითადი იდეა ყოველთვის LLM-ების კონსენსუსზე მიღწევა იყო დისკუსიის გზით; აქედან მოდის სახელი Consilium. მოგვიანებით, თანამშრომლობის დახვეწის მიზნით დაემატა გადაწყვეტილების მიღების სხვა რეჟიმები, როგორიცაა ხმების უმრავლესობით მიღება და რანჟირებული არჩევანი. ეს არ ყოფილა ჩემი თავდაპირველი ჰაკათონის იდეა. თავდაპირველად მსურდა შემექმნა მარტივი MCP სერვერი ჩემს RevenueCat პროექტებთან კომუნიკაციისთვის. მაგრამ გადავიფიქრე, როდესაც მივხვდი, რომ მრავალ-LLM პლატფორმა, სადაც ეს მოდელები კითხვებს განიხილავენ და დასაბუთებულ პასუხებს აბრუნებენ, ბევრად უფრო მიმზიდველი იქნებოდა. დრო იდეალურად დაემთხვა. ჰაკათონის დასრულებიდან მალევე, Microsoft-მა გამოაქვეყნა თავისი AI Diagnostic Orchestrator (MAI-DxO), რომელიც არსებითად არის AI ექიმთა პანელი სხვადასხვა როლით, როგორიცაა „ექიმი გამომწვევი აგენტი“, რომელიც პაციენტებს ეტაპობრივად დიაგნოზირებს. OpenAI o3-თან ერთად მათ სწორად გადაჭრეს სამედიცინო დიაგნოსტიკის საცნობარო შემთხვევების 85.5%, მაშინ როდესაც მოქმედმა ექიმებმა მხოლოდ 20% სიზუსტეს მიაღწიეს. ეს ზუსტად ადასტურებს იმას, რასაც Consilium აჩვენებს: მრავალი AI პერსპექტივის თანამშრომლობას შეუძლია მკვეთრად აჯობოს ინდივიდუალურ ანალიზს. კონცეფციის შემუშავების შემდეგ, მჭირდებოდა რაღაც, რაც იმუშავებდა როგორც MCP სერვერი, ასევე მიმზიდველი Hugging Face სივრცის დემო. თავდაპირველად ვფიქრობდი სტანდარტული Gradio Chat კომპონენტის გამოყენებას, მაგრამ მინდოდა ჩემი ნამუშევარი გამორჩეული ყოფილიყო. იდეა იყო LLM-ები დამესვა მაგიდის გარშემო სამუშაო შეხვედრების ოთახში მეტყველების ბუშტებით, რაც აღბეჭდავდა კოლაბორაციულ დისკუსიას და ვიზუალურად მიმზიდველს გახდიდა მას. რადგან სტანდარტული მაგიდის ლამაზად გაფორმება არ გამომივიდა ისე, რომ ის ნამდვილ მაგიდად აღქმულიყო, ავირჩიე პოკერის სტილის მრგვალი მაგიდა. ამ მიდგომამ ასევე მომცა საშუალება, ორი ჰაკათონის ტრეკზე წარმედგინა ნამუშევარი საბაჟო Gradio კომპონენტის და MCP სერვერის შექმნით. საბაჟო Gradio კომპონენტი გახდა წარდგენილი ნამუშევრის გული; პოკერის სტილის მრგვალი მაგიდა, სადაც მონაწილეები სხედან და აჩვენებენ მეტყველების ბუშტებს, რომლებიც ასახავს მათ პასუხებს, აზროვნების სტატუსს და კვლევით აქტივობებს, მყისიერად იპყრობდა სივრცის ყველა ვიზიტორის ყურადღებას. კომპონენტის შემუშავება საოცრად შეუფერხებლად წარიმართა Gradio-ს შესანიშნავი დეველოპერული გამოცდილების წყალობით, თუმცა წავაწყდი დოკუმენტაციის ერთ ხარვეზს PyPI გამოქვეყნებასთან დაკავშირებით, რამაც Gradio პროექტში ჩემი პირველი წვლილის შეტანა განაპირობა. ვიზუალური დიზაინი ჰაკათონის განმავლობაში მტკიცე აღმოჩნდა; თავდაპირველი იმპლემენტაციის შემდეგ, მხოლოდ ისეთი ფუნქციები დაემატა, როგორიცაა მომხმარებლის მიერ განსაზღვრული ავატარები და მაგიდის ცენტრალური ტექსტი, ხოლო ძირითადი ინტერაქციის მოდელი უცვლელი დარჩა. თუ გაინტერესებთ საკუთარი საბაჟო Gradio კომპონენტის შექმნა, უნდა გაეცნოთ „Custom Components in 5 minutes“-ს და დიახ, სათაური არ იტყუება; ძირითადი დაყენებისთვის სულ რაღაც 5 წუთია საჭირო. ვიზუალური მრგვალი მაგიდა ინარჩუნებს მდგომარეობას სესიებზე დაფუძნებული ლექსიკონის სისტემის მეშვეობით, სადაც თითოეული მომხმარებელი იღებს იზოლირებულ მდგომარეობის შესანახ სივრცეს user_sessions[session_id]-ის საშუალებით. ძირითადი მდგომარეობის ობიექტი აკონტროლებს მონაწილეებს, შეტყობინებებს, მიმდინარე მომხსენებელს, აზროვნებას და showBubbles მასივებს, რომლებიც განახლდება update_visual_state() ქოლბექების მეშვეობით. როდესაც მოდელები ფიქრობენ, საუბრობენ ან კვლევა მიმდინარეობს, ძრავა აგზავნის მდგომარეობის ინკრემენტულ განახლებებს ფრონტენდზე შეტყობინებების მასივზე დამატებით და მომხსენებლის/აზროვნების სტატუსების გადართვით, ქმნის რეალურ დროში ვიზუალურ ნაკადს რთული მდგომარეობის მანქანების გარეშე - მხოლოდ პირდაპირი JSON მდგომარეობის მუტაციებით, რომლებიც სინქრონიზებულია ბექენდის დამუშავებასა და ფრონტენდის რენდერირებას შორის. იმპლემენტაციის დროს მივხვდი, რომ LLM-ებს შორის რეალური დისკუსია არ მიმდინარეობდა, რადგან მათ არ გააჩნდათ მკაფიო როლები. ისინი იღებდნენ მიმდინარე დისკუსიების სრულ კონტექსტს, მაგრამ არ იცოდნენ, როგორ ჩართულიყვნენ აზრობრივად. მე შემოვიღე გამორჩეული როლები პროდუქტიული დებატების დინამიკის შესაქმნელად. ამან გადაჭრა დისკუსიის პრობლემა, მაგრამ გააჩინა ახალი კითხვა: როგორ განვსაზღვროთ კონსენსუსი ან გამოვავლინოთ ყველაზე ძლიერი არგუმენტი? მე დავინერგე წამყვანი ანალიტიკოსის სისტემა, სადაც მომხმარებლები ირჩევენ ერთ LLM-ს საბოლოო შედეგის სინთეზისთვის და იმის შესაფასებლად, მიღწეული იყო თუ არა კონსენსუსი. ასევე მსურდა მომხმარებლებს ეკონტროლებინათ კომუნიკაციის სტრუქტურა. ნაგულისხმევი სრული კონტექსტის გაზიარების გარდა, დავამატე ორი ალტერნატიული რეჟიმი. დისკუსიებს კი დასასრული სჭირდებოდა. მე დავინერგე კონფიგურირებადი რაუნდები (1-5), ტესტირებამ აჩვენა, რომ მეტი რაუნდი ზრდის კონსენსუსის მიღწევის ალბათობას (თუმცა უფრო მაღალი გამოთვლითი ხარჯებით). მიმდინარე მოდელების არჩევანი მოიცავს Mistral Large-ს, DeepSeek-R1-ს, Meta-Llama-3.3-70B-ს და QwQ-32B-ს. მიუხედავად იმისა, რომ ცნობილი მოდელები, როგორიცაა Claude Sonnet და OpenAI-ის o3, არ არის წარმოდგენილი, ეს ასახავდა ჰაკათონის კრედიტების ხელმისაწვდომობას და სპონსორების ჯილდოების გათვალისწინებას და არა ტექნიკურ შეზღუდვებს. ფუნქციების გამოძახების მხარდამჭერი მოდელებისთვის, მე დავამატე სპეციალური კვლევითი აგენტი, რომელიც მრგვალი მაგიდის კიდევ ერთ მონაწილედ გვევლინება. მოდელებისთვის პირდაპირი ვებ წვდომის მიცემის ნაცვლად, ეს აგენტური მიდგომა უზრუნველყოფს ვიზუალურ სიცხადეს გარე რესურსების ხელმისაწვდომობის შესახებ.