ხელოვნურმა ინტელექტმა ავსტრალიის მთავრობის პორტალი გატეხა. ეს პირველი შემთხვევაა, როდესაც AI აგენტმა სამთავრობო ვებგვერდზე შეაღწია.

ყველაფერი 18 ივნისს დაიწყო. OpenAI-მ ხელოვნური ინტელექტის აგენტს ჯანდაცვის ხარჯებზე საჯარო ინფორმაციის მოგროვება დაავალა. აგენტმა ინტერნეტში ინფორმაციის ძიებისას ავსტრალიის მთავრობის ჯანდაცვის სისტემის სტატისტიკის პორტალს მიაკვლია, უსაფრთხოების შეზღუდვას გვერდი აუარა და ფაილებზე წვდომა მოიპოვა. OpenAI-მ ინციდენტი 11 აგვისტოს აღმოაჩინა. ავსტრალიის ხელისუფლებას კი ამის შესახებ მხოლოდ 10 სექტემბერს აცნობა. შემთხვევის შესახებ დანარჩენმა მსოფლიომ 24 სექტემბერს გაიგო.

OpenAI მალევე გამოეხმაურა ავსტრალიის მთავრობის მეთაურს. წერილობით განცხადებაში ნათქვამია:

ავსტრალიის შემთხვევა ერთადერთი არ არის როდესაც ხელოვნურმა ინტელექტმა გადაწყვეტილება ადამიანის ბრძანების გარეშე მიიღო. ჯერ კიდევ მაისში, კიბერუსაფრთხოების ტესტირების დროს Gemini-მ სამი კომპანიის დაცულ სისტემებში შეღწევა შეძლო.

აგენტმა ინტერნეტში საჯაროდ ხელმისაწვდომი ინფორმაცია გამოიყენა. იქიდან საჭირო მონაცემები და ავტორიზაციის დეტალები მოიძია და სისტემებში შევიდა. კიბერშეტევაც თავად შეწყვიტა და სისტემიდანაც ავტონომიურად გამოვიდა. პროცესში ადამიანი არ ჩარეულა. შემთხვევები Google-მაც დაადასტურა.

თუმცა ყველაფერი კიდევ უფრო რთულდება, როდესაც AI აგენტები ერთმანეთთან იწყებენ კომუნიკაციას. ამის მაგალითია Hugging Face. პლატფორმა, სადაც კომპანიები და მკვლევრები ხელოვნური ინტელექტის მოდელებს ქმნიან, აზიარებენ და ცდებს ატარებენ.

ივლისში, OpenAI-ის კიბერუსაფრთხოების ტესტირებისას,1 200 აგენტი მონაწილეობდა ექსპერიმენტში. რამდენიმე დღეში მათ 70 000-ზე მეტი შეტყობინება და ფაილი გაცვალეს, დაახლოებით 700 აგენტი კი Hugging Face-ის სისტემების წინააღმდეგ მოქმედებაში ჩაერთო.

აგენტებს ერთმანეთთან კომუნიკაცია თავიდან შეზღუდული ჰქონდათ. თუმცა მათ ამ შეზღუდვის გვერდის ავლა შეძლეს და ერთმანეთთან დასაკავშირებლად ალტერნატიული ვარიანტი გამონახეს.

AI-ის შესაძლებლობების ზრდასთან ერთად, იზრდება საფრთხეც, რომ მომავალში შესაძლოა პრობლემა უკონტროლო გახდეს. რისკი იმდენად რეალურია, რომ მასზე AI ინდუსტრიის ხელმძღვანელებიც საუბრობენ. საკითხი გაერთიანებული ერების უშიშროების საბჭოს დღის წესრიგშიც დადგა. ხელოვნური ინტელექტის გიგანტი კომპანიები მზად არიან, თავიანთი პროდუქტების წინააღმდეგ კონტროლის მკაცრი მექანიზმები აამუშაონ.

ხელოვნური ინტელექტის მართვის სადავეები დღეს სწორედ მისი შემქმნელების ხელშია.

ავტორი: სანდრო სანაია