OpenAI-მ წარმოადგინა მოწინავე ხელოვნური ინტელექტის სისტემა, ChatGPT Agent, რომელსაც თან ახლავს უსაფრთხოების უმკაცრესი გაფრთხილება. ეს პირველი შემთხვევაა, როდესაც კომპანიამ საკუთარი პროდუქტი შეაფასა როგორც მაღალი ბიოლოგიური და ქიმიური რისკის პოტენციალის მქონე.
ხელსაწყოს შეუძლია ავტომატურად შეასრულოს რთული დავალებები. თუმცა, მის მიერ ჩატარებულმა რისკების ანალიზმა აჩვენა, რომ ახალ მოდელს ასევე აქვს უნარი, დაეხმაროს ადამიანებს ბიოლოგიური ან ქიმიური იარაღის შექმნაში. ამას, ხელოვნური ინტელექტის ბოროტად გამოყენების საფრთხეებზე, ახალი შეშფოთება მოჰყვა.
„ზოგიერთს შესაძლოა ეგონოს, რომ ბიოლოგიური და ქიმიური საფრთხე არარეალურია და ხელოვნური ინტელექტის მოდელები მხოლოდ არსებულ ინფორმაციას იმეორებენ. ეს, შესაძლოა, სიმართლე ყოფილიყო 2024 წელს, მაგრამ დღეს ნამდვილად აღარ არის ასე“, – განაცხადა ბოაზ ბარაკმა, OpenAI-ის გუნდის წევრმა.
OpenAI აქტიურად მუშაობს ხელოვნური ინტელექტის უსაფრთხოების სისტემების დახვეწაზე. კომპანია წვრთნის AI მოდელებს სახიფათო შეტყობინებების ამოცნობასა და დაბლოკვაზე, რითაც ხელს უშლის მავნე შინაარსის გენერირებას.
გარდა ამისა, OpenAI-მ წამოიწყო წამახალისებელი პროგრამა, რომელიც განსაკუთრებულ აქცენტს აკეთებს ბიოლოგიურ და ქიმიურ რისკებზე. ეს პროგრამა ფინანსურად წაახალისებს ექსპერტებს, რომ მათ აღმოაჩინონ მოდელის სისუსტეები, რომელიც, შესაძლოა, სახიფათო იარაღის შესაქმნელად იყოს გამოყენებული. ამ ყოვლისმომცველი მიდგომით, OpenAI ცდილობს უზრუნველყოს AI ტექნოლოგიების უსაფრთხო და ეთიკური განვითარება.
OpenAI-ის აღმასრულებელი დირექტორის, სემ ალტმანის, განცხადებით, ChatGPT Agent ჯერ კიდევ ექსპერიმენტულ ფაზაშია. ალტმანმა გააფრთხილა მომხმარებლები „სწრაფი ინექციის“ შეტევების პოტენციური რისკის შესახებ. ეს ნიშნავს, რომ მავნე ვებგვერდებმა შესაძლოა შეძლონ ხელოვნური ინტელექტის მოტყუება, რომ მან გაამჟღავნოს კონფიდენციალური ინფორმაცია ან შექმნას საშიში კონტენტი.
ეს ინფორმაცია მას შემდეგ გავრცელდა, რაც OpenAI-მ მომხმარებელები წინასწარ გააფრთხილა, რომ მომავალ მოდელებს შესაძლოა ბიოლოგიური და ქიმიური უსაფრთხოების უფრო მაღალი რისკები ჰქონდეთ. კომპანია SecureBio AI-ის ექსპერტებმა უკვე დაადგინეს, რომ ChatGPT Agent, ბიოლოგიური ცოდნის თვალსაზრისით, წინა მოდელებზე ბევრად უკეთესია.
მართალია, OpenAI აცხადებს, რომ ბიოლოგიური და ქიმიური იარაღის შექმნას ჯერ კიდევ ფიზიკური დაბრკოლებები აქვს, მაგრამ ასევე აღიარებს, რომ ისინი გადაულახავი არ არის. ტექნოლოგიური გიგანტი, ბიოუსაფრთხოების ექსპერტებსა და სამთავრობო სააგენტოებთან ერთად, ცდილობს აღკვეთოს ძლიერი ხელოვნური ინტელექტისგან მომდინარე ახალი რისკები.
წყარო: OpenAI
