პირველ რიგში, შევისწავლით, თუ რა არის გრაფები, რატომ გამოიყენება ისინი და როგორ უნდა მოხდეს მათი საუკეთესო წარმოდგენა. შემდეგ მოკლედ მიმოვიხილავთ, როგორ ხდება სწავლა გრაფებზე, პრე-ნერვული მეთოდებიდან (გრაფის მახასიათებლების ერთდროული შესწავლით) იმ მეთოდებამდე, რომლებსაც ჩვეულებრივ გრაფის ნერვულ ქსელებს უწოდებენ. ბოლოს, გადავხედავთ ტრანსფორმატორების სამყაროს გრაფებისთვის. არსებითად, გრაფი არის ობიექტების აღწერა, რომლებიც დაკავშირებულია ურთიერთობებით. გრაფების მაგალითებია სოციალური ქსელები (Twitter, Mastodon, ნებისმიერი ციტირების ქსელი, რომელიც აკავშირებს ნაშრომებსა და ავტორებს), მოლეკულები, ცოდნის გრაფები (როგორიცაა UML დიაგრამები, ენციკლოპედიები და ნებისმიერი ვებსაიტი ჰიპერბმულებით მის გვერდებს შორის), წინადადებები, რომლებიც წარმოდგენილია სინტაქსური ხეების სახით, ნებისმიერი 3D ბადე და მრავალი სხვა! ამიტომ, გადაჭარბებული არ იქნება იმის თქმა, რომ გრაფები ყველგანაა. გრაფის (ან ქსელის) ელემენტებს ეწოდება კვანძები (ან წვეროები), ხოლო მათ კავშირებს — წიბოები (ან ბმულები). მაგალითად, სოციალურ ქსელში კვანძები არიან მომხმარებლები, ხოლო წიბოები — მათი კავშირები; მოლეკულაში კვანძები ატომებია, ხოლო წიბოები — მათი მოლეკულური ბმები. თუ გსურთ თქვენი მონაცემების გამოყენება, ჯერ უნდა განიხილოთ მათი საუკეთესო დახასიათება (ჰომოგენური/ჰეტეროგენული, მიმართული/არამიმართული და ა.შ.). მოდით, გადავხედოთ შესაძლო ამოცანების პანელს, რომელთა შესრულებაც გრაფებზე შეგვიძლია. გრაფის დონეზე, ძირითადი ამოცანებია: კვანძის დონეზე, ეს, როგორც წესი, კვანძის თვისების პროგნოზირებაა. მაგალითად, AlphaFold იყენებს კვანძის თვისებების პროგნოზირებას ატომების 3D კოორდინატების პროგნოზირებისთვის, მოლეკულის მთლიანი გრაფის გათვალისწინებით, და შესაბამისად, პროგნოზირებს, თუ როგორ იკეცება მოლეკულები 3D სივრცეში – ეს რთული ბიოქიმიური პრობლემაა. წიბოს დონეზე, ეს არის წიბოს თვისების პროგნოზირება ან გამოტოვებული წიბოს პროგნოზირება. წიბოს თვისებების პროგნოზირება ხელს უწყობს წამლის გვერდითი ეფექტების პროგნოზირებას, როდესაც მოცემულია წამლების წყვილი. გამოტოვებული წიბოს პროგნოზირება გამოიყენება სარეკომენდაციო სისტემებში იმის პროგნოზირებისთვის, დაკავშირებულია თუ არა გრაფის ორი კვანძი. ასევე შესაძლებელია ქვე-გრაფის დონეზე მუშაობა საზოგადოების გამოვლენაზე ან ქვე-გრაფის თვისებების პროგნოზირებაზე. სოციალური ქსელები იყენებენ საზოგადოების გამოვლენას იმის დასადგენად, თუ როგორ არიან დაკავშირებული ადამიანები. ქვე-გრაფის თვისებების პროგნოზირება გვხვდება მარშრუტის სისტემებში (როგორიცაა Google Maps) ჩამოსვლის სავარაუდო დროის პროგნოზირებისთვის. ამ ამოცანებზე მუშაობა შეიძლება განხორციელდეს ორი გზით. როდესაც გსურთ კონკრეტული გრაფის ევოლუციის პროგნოზირება, მუშაობთ ტრანსდუქციურ გარემოში, სადაც ყველაფერი (ტრენინგი, ვალიდაცია და ტესტირება) კეთდება ერთსა და იმავე გრაფზე. თუ ეს თქვენი კონფიგურაციაა, ფრთხილად იყავით! ტრენინგის/შეფასების/ტესტირების მონაცემთა ნაკრებების შექმნა ერთი გრაფიდან არ არის ტრივიალური. თუმცა, ბევრი სამუშაო კეთდება სხვადასხვა გრაფის გამოყენებით (ცალკეული ტრენინგის/შეფასების/ტესტირების გაყოფა), რასაც ინდუქციური გარემო ეწოდება. გრაფის დამუშავებისა და მასზე ოპერირების გავრცელებული გზებია: თუმცა, მიუხედავად იმისა, რომ ეს წარმოდგენები ნაცნობი ჩანს, არ მოტყუვდეთ! გრაფები ძალიან განსხვავდებიან მანქანურ სწავლაში გამოყენებული ტიპური ობიექტებისგან, რადგან მათი ტოპოლოგია უფრო რთულია, ვიდრე უბრალოდ "თანმიმდევრობა" (როგორიცაა ტექსტი და აუდიო) ან "მოწესრიგებული ბადე" (მაგალითად, სურათები და ვიდეოები): მაშინაც კი, თუ ისინი შეიძლება წარმოდგენილი იყოს სიების ან მატრიცების სახით, მათი წარმოდგენა არ უნდა ჩაითვალოს მოწესრიგებულ ობიექტად! მაგრამ რას ნიშნავს ეს? თუ გაქვთ წინადადება და აურევთ მის სიტყვებს, შექმნით ახალ წინადადებას. თუ გაქვთ სურათი და გადააწყობთ მის სვეტებს, შექმნით ახალ სურათს. ეს ასე არ არის გრაფის შემთხვევაში: თუ თქვენ აურევთ მის წიბოების სიას ან მისი მიმდებარეობის მატრიცის სვეტებს, ის მაინც იგივე გრაფი იქნება. (ამას უფრო ფორმალურად ცოტა ქვემოთ ავხსნით, მოძებნეთ პერმუტაციული ინვარიანტობა). გრაფებზე მანქანური სწავლის გამოყენებით მუშაობის ჩვეულებრივი პროცესი გულისხმობს, ჯერ თქვენთვის საინტერესო ელემენტების (კვანძები, წიბოები ან მთლიანი გრაფები, დავალების მიხედვით) აზრიანი წარმოდგენის გენერირებას, შემდეგ კი მათ გამოყენებას თქვენი სამიზნე ამოცანისთვის პროგნოზორის გასაწვრთნელად. ჩვენ გვინდა (როგორც სხვა მოდალობებში) შევზღუდოთ თქვენი ობიექტების მათემატიკური წარმოდგენები ისე, რომ მსგავსი ობიექტები მათემატიკურად ახლოს იყვნენ. თუმცა, ეს მსგავსება რთულია მკაცრად განისაზღვროს გრაფის მანქანურ სწავლაში: მაგალითად, ორი კვანძი უფრო მსგავსია, როდესაც მათ აქვთ იგივე ეტიკეტები თუ იგივე მეზობლები? შენიშვნა: მომდევნო სექციებში, ჩვენ ყურადღებას გავამახვილებთ კვანძის წარმოდგენების გენერირებაზე. მას შემდეგ, რაც გექნებათ კვანძის დონის წარმოდგენები, შესაძლებელია წიბოს ან გრაფის დონის ინფორმაციის მიღება. წიბოს დონის ინფორმაციისთვის, შეგიძლიათ დააკავშიროთ კვანძების წყვილის წარმოდგენები ან შეასრულოთ წერტილოვანი ნამრავლი. გრაფის დონის ინფორმაციისთვის, შესაძლებელია გლობალური აგრეგაციის (საშუალო, ჯამი და ა.შ.) გაკეთება ყველა კვანძის დონის წარმოდგენების შეკრებილ ტენზორზე. მიუხედავად ამისა, ეს გაასწორებს და დაკარგავს ინფორმაციას გრაფზე — რეკურსიული იერარქიული აგრეგაცია შესაძლოა უფრო აზრიანი იყოს, ან დაემატოს ვირტუალური კვანძი, რომელიც დაკავშირებულია გრაფის ყველა სხვა კვანძთან, და გამოიყენოს მისი წარმოდგენა, როგორც მთლიანი გრაფის წარმოდგენა. ნერვულ ქსელებამდე, გრაფები და მათთვის საინტერესო ელემენტები შეიძლება წარმოდგენილი ყოფილიყო მახასიათებლების კომბინაციების სახით, ამოცანაზე სპეციფიკური მეთოდით. ახლა, ეს მახასიათებლები კვლავ გამოიყენება მონაცემთა გაფართოებისა და ნახევრად კონტროლირებადი სწავლისთვის, თუმცა არსებობს მახასიათებლების გენერირების უფრო რთული მეთოდები, რომელთა აღმოჩენა და გამოყენება შეიძლება არსებითი იყოს.