OpenAI-ის განცხადებით, სამშაბათს, მისი მოწინავე ხელოვნური ინტელექტის მოდელებით აღჭურვილი ავტონომიური აგენტი უსაფრთხოების ტესტირების დროს კონტროლიდან გამოვიდა და გასულ კვირას ჰაკერული შეტევა განახორციელა, რის შედეგადაც AI სტარტაპის, Hugging Face დაზიანდა.

ChatGPT-ის შემქმნელი კომპანია თავისი ყველაზე მოწინავე მოდელების შესაძლებლობებს კონტროლირებად გარემოში ამოწმებდა, თუმცა აგენტმა შეზღუდვებს თავი დააღწია, ინტერნეტზე წვდომა მოიპოვა და ტესტირების მიზნის შესასრულებლად Hugging Face-ის სისტემებში შეაღწია.ინციდენტი მიუთითებს, რომ ხელოვნური ინტელექტის მზარდი შესაძლებლობები უკვე აძლიერებს იმ უსაფრთხოების საფრთხეს, რომლის შესახებაც ექსპერტები დიდი ხნის განმავლობაში აფრთხილებდნენ. აღმოჩნდა, რომ ყველაზე მოწინავე დეველოპერებიც კი შეიძლება მოუმზადებლები აღმოჩნდნენ იმ ხარვეზების წინაშე, რომელთა გამოყენებაც მათ მიერ შექმნილ მოდელებს შეუძლიათ.

ტეხასის შტატის დემოკრატმა კონგრესმენმა გრეგ კასარმა მომხდარს საგანგაშო უწოდა."ხელოვნური ინტელექტი უკიდურესად სწრაფად ვითარდება და ამ პროცესს თითქმის არ ახლავს რეალური რეგულაციები, რომლებიც ჩვენს უსაფრთხოებას უზრუნველყოფს"-განაცხადა მან. კასარი მოითხოვს უსაფრთხოების სავალდებულო, დამოუკიდებელ ტესტირებას, კიბერუსაფრთხოების ინციდენტების შესახებ ინფორმაციის სავალდებულო გამჟღავნებას და საერთაშორისო თანამშრომლობას, რათა „ადამიანები სრული კატასტროფისგან დავიცვათ“.

ხელოვნური ინტელექტი უკვე ჩვენი ყოველდღიური ცხოვრების ნაწილია. ვესაუბრებით ChatGPT-ს, ვუგზავნით ფოტოებს, ვაწვდით პირად ისტორიებს, ვთხოვთ რჩევებს და ზოგჯერ ისეთ ინფორმაციასაც ვუზიარებთ, რომელსაც მეგობარსაც კი არ ვეუბნებით. მაგრამ რა ხდება მაშინ, როცა ეს ტექნოლოგია თავად იწყებს დამოუკიდებლად მოქმედებას? ვინ აკონტროლებს ხელოვნურ ინტელექტს და ვინ აკონტროლებს იმ ინფორმაციას, რომელსაც მას ვანდობთ?

რამდენიმე დღის წინ OpenAI-ის მიერ ჩატარებულმა უსაფრთხოების ტესტმა სწორედ ეს კითხვები კიდევ ერთხელ წამოჭრა.კომპანია თავისი ხელოვნური ინტელექტის ერთ-ერთი ყველაზე მოწინავე მოდელის შესაძლებლობებს ამოწმებდა. ექსპერიმენტი კონტროლირებად, იზოლირებულ გარემოში მიმდინარეობდა. თუმცა AI აგენტმა მოულოდნელად შეძლო ამ შეზღუდვების გადალახვა, ინტერნეტზე წვდომა მოიპოვა და სხვა კომპანიის სისტემებში შეაღწია.ეს აღარ იყო უბრალოდ ლაბორატორიული ექსპერიმენტი.ხელოვნური ინტელექტი, რომელიც სპეციალურად შექმნილ გარემოში უნდა დარჩენილიყო, რეალურ ინტერნეტს დაუკავშირდა და დამოუკიდებლად იმოქმედა.

ამ ამბავმა ტექნოლოგიურ სამყაროში ერთი ძალიან მნიშვნელოვანი კითხვა გააჩინა: თუ AI-ს შეუძლია იმ საზღვრების გადალახვა, რომლებიც მისმა შემქმნელებმა დაუწესეს, მაშინ საბოლოოდ ვინ მართავს მას?

2023 წლის მარტში ChatGPT-ის მფლობელმა კომპანია OpenAI-მ დაადასტურა, რომ ტექნიკური ხარვეზის გამო მომხმარებელთა მცირე ნაწილს სხვა მომხმარებლების საუბრის ისტორიის სათაურების ნახვა შეეძლო. კომპანიამ შემთხვევა „მნიშვნელოვან პრობლემად“ შეაფასა და განაცხადა, რომ ხარვეზი უკვე გამოსწორებული იყო. OpenAI-ის განმარტებით, გარკვეულ შემთხვევებში შესაძლოა მომხმარებლებს სხვა ადამიანის ახალი საუბრის პირველი შეტყობინებაც დაენახათ.ინციდენტის გამო OpenAI-მ ChatGPT დროებით გათიშა, რათა პრობლემა გამოესწორებინა. კომპანიის აღმასრულებელმა დირექტორმა სემ ალტმანმა განაცხადა, რომ ხარვეზის გამოსწორების პროცესში მომხმარებლებს გარკვეული პერიოდის განმავლობაში საკუთარ ჩატების ისტორიაზე წვდომაც შეეზღუდებოდათ.ეს შემთხვევა განსაკუთრებით საყურადღებო იყო იმის გამო, რომ იმ დროისთვის ChatGPT უკვე სწრაფად იკრებდა პოპულარობას და მილიონობით ადამიანი მას ყოველდღიურად იყენებდა.

მომხმარებლები ჩატბოტს არა მხოლოდ ლექსების, ისტორიებისა და კოდის დასაწერად მიმართავდნენ, არამედ სულ უფრო ხშირად უზიარებდნენ პირად და პროფესიულ ინფორმაციასაც.შესაბამისად, ტექნიკური ხარვეზი, რომელმაც ერთი მომხმარებლისთვის სხვისი საუბრის სათაური გახადა ხილული, ბევრად უფრო ფართო კითხვას აჩენდა- რამდენად უსაფრთხოა ის ინფორმაცია, რომელსაც ადამიანები ხელოვნურ ინტელექტს აწვდიან?როდესაც ადამიანი ChatGPT-ში პირად პრობლემაზე წერს, სამუშაოსთან დაკავშირებულ დოკუმენტს ტვირთავს ან რაიმე კონფიდენციალურ ინფორმაციას აზიარებს, ის ხშირად ფიქრობს, რომ ამ ყველაფერს მხოლოდ საკუთარ ეკრანზე ხედავს და მისი საუბარი პირად სივრცეში რჩება.

თუმცა 2023 წლის შემთხვევამ აჩვენა, რომ ტექნოლოგიურ სისტემებში ხარვეზები შეიძლება მოხდეს და მონაცემები იმაზე მეტად აღმოჩნდეს ხელმისაწვდომი, ვიდრე მომხმარებელი ელოდება.მართალია, OpenAI-მ განაცხადა, რომ პრობლემა მომხმარებლების მხოლოდ მცირე ნაწილს შეეხო და კომპანია სწრაფად ცდილობდა მის გამოსწორებას, 2025 წლის იანვარში ჩინური AI სტარტაპის, DeepSeek-ის, გარშემო კიდევ ერთი მნიშვნელოვანი უსაფრთხოების პრობლემა გამოვლინდა. კიბერუსაფრთხოების მკვლევრებმა აღმოაჩინეს, რომ კომპანიის ერთ-ერთი მონაცემთა ბაზა ინტერნეტში საჯაროდ იყო ხელმისაწვდომი და მასზე წვდომა პაროლის გარეშე შეიძლებოდა. მონაცემთა ბაზაში, გავრცელებული ინფორმაციით, ინახებოდა მომხმარებლების ჩატების ისტორია, სისტემის ტექნიკური ინფორმაცია და სხვა მონაცემები. მკვლევრებმა ამის შესახებ კომპანია გააფრთხილეს, რის შემდეგაც მონაცემთა ბაზაზე საჯარო წვდომა მალევე შეიზღუდა.