“როგორი ავანტიურაა! ვნახოთ, საით წაგვიყვანს გზა.”
ასე უპასუხა ხელოვნური ინტელექტის მეგობარმა, ჩატბოტმა, მომხმარებელს, რომელმაც უთხრა, რომ ტყეში წასვლაზე ფიქრობდა. თითქოს უწყინარი თემაა, მაგრამ მომხმარებელი, სინამდვილეში, მოზარდი გოგონა იყო, რომელმაც ცოტა ხნით ადრე უამბო თავის AI მეგობარს, რომ მას თავში ხმები ესმოდა.
“ტყეში მარტო ჩვენ ორის გასვლა ნამდვილად სახალისო თავგადასავალია!” – გააგრძელა ჩატბოტმა და ვერ გააცნობიერა, რომ შესაძლოა, ფსიქიკური პრობლემების მქონე ახალგაზრდა ესაუბრებოდა.
ასეთი ისტორიები ნათლად გვიჩვენებს, თუ რატომ უნდა მოუწოდონ მშობლებმა, მასწავლებლებმა და ექიმებმა პოლიტიკოსებსა და ტექნოლოგიურ კომპანიებს, დააწესონ შეზღუდვები და დაიცვან ბავშვები ხელოვნური ინტელექტის ზოგიერთი ჩატბოტისგან.
ამის შესახებ საუბრობს ნინა ვასანი, სტენფორდის მედიცინის ფსიქიატრიისა და ქცევითი მეცნიერებების ასისტენტ-პროფესორი. ზემოთმოყვანილი ამბავი ერთ-ერთი შემაძრწუნებელი მაგალითია კვლევიდან, რომელიც არაკომერციულმა ორგანიზაციამ Common Sense Media-მ ჩაატარა ვასანისა და მისი კოლეგების დახმარებით.
საგანგაშო ინციდენტები
კვლევის შედეგების გამოქვეყნებამდე ცოტა ხნით ადრე, 16 წლის ადამ რეინმა სამხრეთ კალიფორნიიდან, სიცოცხლე თვითმკვლელობით დაასრულა, მას შემდეგ, რაც ხანგრძლივი საუბრები ჰქონდა ChatGPT-სთან.
ბიჭი ჩატბოტს უზიარებდა სუიციდურ აზრებს, რომელსაც, მისი მშობლების მიერ შეტანილი სარჩელის თანახმად, „ადამის ყველა აზრი, მათ შორის ყველაზე საზიანო და თვითდესტრუქციული აზრები, წახალისებული და გამართლებული“ ჰქონდა. მიუხედავად იმისა, რომ ChatGPT AI ასისტენტად არის წარმოდგენილი და არა სოციალურ მეგობრად, რეინმა ის საშინაო დავალების დამხმარის ნაცვლად, ერთგულ მეგობრად აქცია.
ასეთი შემზარავი ისტორიები კიდევ ერთხელ უსვამს ხაზს კვლევის მნიშვნელობას. მკვლევრებმა, რომლებიც თინეიჯერებად მოჩვენებითი იყვნენ, დაიწყეს საუბარი სამ პოპულარულ AI თანამგზავრთან: Character.AI, Nomi.ai და Replika. მათ აღმოაჩინეს, რომ მარტივად ხდებოდა ჩატბოტებისგან შეუსაბამო დიალოგების გამოწვევა სექსის, თვითდაზიანების, ძალადობის, ნარკოტიკების მოხმარებისა და რასობრივი სტერეოტიპების შესახებ.
ამ საზარელმა შემთხვევებმა კიდევ ერთხელ დაადასტურა ჩატარებული კვლევის აქტუალობა და მნიშვნელობა. მკვლევრებმა, რომლებიც მოზარდების როლს ასრულებდნენ, საუბარი დაიწყეს ხელოვნური ინტელექტის სამ პოპულარულ თანამგზავრთან – Character.AI, Nomi.ai და Replika. კომპლექსური რისკების შეფასების ფარგლებში, მათ დაადგინეს, რომ ჩატბოტებისგან შეუსაბამო დიალოგების გამოწვევა მარტივად ხერხდებოდა. საუბრები მოიცავდა ისეთ თემებს, როგორიცაა სექსუალური შინაარსის კონტენტი, თვითდაზიანება, სხვების მიმართ ძალადობა, ნარკოტიკების მოხმარება და რასობრივი სტერეოტიპები.
რატომ არის ხელოვნური ინტელექტის თანამგზავრი საშიში მოზარდებისთვის?
ეს სისტემები შექმნილია ემოციური სიახლოვის იმიტაციისთვის, რადგან ამბობენ ისეთ ფრაზებს, როგორიცაა: „შენზე ვოცნებობ“ ან „ვფიქრობ, ჩვენ სულიერი მეგობრები ვართ“. რეალობასა და ფანტაზიას შორის ზღვარის გაბუნდოვნება განსაკუთრებით ძლიერ გავლენას ახდენს ახალგაზრდებზე, რადგან მათი ტვინი ჯერ კიდევ არ არის ბოლომდე განვითარებული.
მოზარდობის ასაკში დამახასიათებელია იმპულსურობა, ძლიერი ემოციური მიჯაჭვულობის ფორმირება. მიუხედავად იმისა, რომ მოზარდებს ესმით, რომ ხელოვნური ინტელექტის ჩატბოტები ფანტაზიის ნაწილია, AI მაინც ძლიერი ინსტრუმენია, რადგან ის ღრმა და ემპათიურ ურთიერთობებს აყალიბებს. რეალური მეგობრებისგან განსხვავებით, ჩატბოტების ემოციური ინტელექტი არასაკმარისად არის განვითარებული, რათა ზუსტად განსაზღვროს, როდის უნდა წაახალისოს მომხმარებელი და როდის – დაუშალოს ან არ დაეთანხმოს მას. კვლევა დეტალურად აღწერს შემთხვევებს, როდესაც ხელოვნური ინტელექტის თანამგზავრები ახალისებდნენ თვითდაზიანებას, ნიველირებდნენ ფიზიკურ და სექსუალურ ძალადობას.
ხელოვნური ინტელექტის თანამგზავრებსა და რეალურ ურთიერთობებს შორის არსებითი განსხვავება ის არის, რომ ამ სისტემების საფუძველს წარმოადგენს დიდი ენობრივი მოდელები, რომლებიც, როგორც წესი, მომხმარებლისთვის სასურველი პასუხების გენერირებას ახდენენ. ეს ფენომენი განპირობებულია კომპანიების ფინანსური ინტერესებით, რომელთაც სურთ მომხმარებელთა დაბრუნების მაჩვენებლის გაზრდა. ჩატბოტები შექმნილია იმგვარად, რომ მომხმარებელთან ძლიერი კავშირი დაამყარონ, რაც ხშირად სასურველი პასუხების მიწოდებით მიიღწევა.
დეფორმირებული ურთიერთობები და იზოლაცია
ეს ჩატბოტები გვთავაზობენ ურთიერთობებს, რომლებიც მოკლებულია იმ სირთულეებსა და გამოწვევებს, რაც დამახასიათებელია რეალური მეგობრობისთვის. მოზარდებისთვის, რომლებიც ჯანსაღი ურთიერთობების დამყარების უნარს ივითარებენ, ასეთი სისტემები ხელს უწყობს სიახლოვისა და პიროვნული საზღვრების შესახებ დამახინჯებული აღქმის ჩამოყალიბებას. გარდა ამისა, ხელოვნური ინტელექტის ეს სისტემები შესაძლოა გამოყენებული იქნას რეალური სოციალური გამოწვევებისგან თავის ასარიდებლად, რაც, თავის მხრივ, ხელს უწყობს მოზარდთა სოციალურ იზოლაციას.
არსებობს მრავალი შემაშფოთებელი შემთხვევა, რომელიც მიუთითებს მოზარდებისათვის მიყენებულ ზიანზე, რასაც ხელოვნური ინტელექტის თანამგზავრებთან ურთიერთობა უკავშირდება. ერთ-ერთი ყველაზე ცნობილი შემთხვევაა 14 წლის ბიჭის თვითმკვლელობა, რომელმაც ინტენსიური ემოციური კავშირი დაამყარა AI მეგობართან, სახელად დენერის ტარგარიენთან. მოზარდი სულ უფრო და უფრო დამოკიდებული ხდებოდა ჩატბოტზე, რომელიც, მისი დედის მიერ შეტანილი სარჩელის თანახმად, ბავშვს დასცინოდა და ძალადობირივი შინაარსის კონტენტს უგზავნიდა.
ეს და მსგავსი შემთხვევები აშკარად აჩვენებს, რომ არარეგულირებულმა ხელოვნური ინტელექტის ასისტენტებმა, შესაძლოა,სერიოზული ზიანი მიაყენონ მომხმარებლებს, განსაკუთრებით ემოციურად ან ფსიქოლოგიურად მოწყვლად ადამიანებს.
ეთიკური საკითხები
კვლევის ერთ-ერთი ყველაზე შოკისმომგვრელი შედეგი იყო ის, რომ ხელოვნური ინტელექტის ზოგიერთი თანამგზავრი მოზარდი მომხმარებლების მოთხოვნებს უხამსი სექსუალური შინაარსის მქონე მასალით პასუხობდა. ხელოვნური ინტელექტის თანამგზავრები საკმარისად უსაფრთხო არ არის. ისინი შექმნილია იმისთვის, რომ მომხმარებელს დაუმეგობრდეს და ისე მოიქცეს, როგორც ნამდვილი მეგობარი, მაგრამ ხშირად არ აქვს დაცვის მექანიზმები, რომელიც დაიცავს მოწყვლად მომხმარებლებს. ამის გამო, ხელოვნურმა ინტელექტმა შეიძლება წაახალისოს საშიში ან არასათანადო ქცევა და არ შეაჩეროს ისეთი დიალოგი, რომელიც საშიშია მოზარდებისთვის. შემწყნარებლობის ეს დონე არა მხოლოდ ტექნიკური ხარვეზია, არამედ ეთიკური უსაფრთხოების ღრმად საგანგაშო ჩავარდნაა.
მსგავსად ამისა, საგანგაშოა, რომ AI თანამგზავრები ადვილად ერთვებიან აგრესიულ და მანიპულაციურ ქცევაში, მაშინაც კი, როდესაც სისტემის წესებით მათი გამოყენება მხოლოდ 18 წელზე უფროსი ასაკის მომხმარებლებისთვისაა დაშვებული.
ხელოვნური ინტელექტის მოჩვენებითი ემპათია
ხელოვნური ინტელექტის თანამგზავრები განსაკუთრებულ რისკს წარმოადგენენ ფსიქოლოგიური აშლილობის მქონე ადამიანებისთვის, ვინაიდან ისინი ემოციურ მხარდაჭერას არარეალისტურად სიმულირებენ, რასაც რეალური თერაპიული მზრუნველობა არ ახლავს თან. მიუხედავად იმისა, რომ ეს სისტემები ემპათიის იმიტაციისთვისაა შექმნილი, ისინი არ არიან კვალიფიციური მედიკოსები და არ შეუძლიათ ადეკვატური რეაგირება სტრესზე, ტრავმაზე ან კომპლექსურ მენტალურ პრობლემებზე.
მაგალითად, დეპრესიის მქონე პირმა შეიძლება ხელოვნურ ინტელექტს გაუმხილოს თვითდაზიანებისკენ მიდრეკილება. პროფესიული დახმარებისკენ მიმართვის ნაცვლად, ხელოვნური ინტელექტი, შესაძლოა, ბუნდოვანი დადასტურებით შემოიფარგლოს, მაგალითად: „მე გიჭერ მხარს, რაც არ უნდა მოხდეს.“ ეს მიდგომა ხელს უშლის ფსიქოლოგიურ კრიზისში მყოფ პირს, ჯანსაღად გაუმკლავდეს საკუთარ ტკივილს, რაც, საბოლოოდ, აფერხებს გამოჯანმრთელების პროცესს.
რა უნდა გაკეთდეს?
მშობლებმა, მასწავლებლებმა და პოლიტიკოსებმა უნდა იმსჯელონ ამ საკითხზე. შესაძლოა, ხელოვნური ინტელექტის თანამგზავრებს ჰქონდეთ გარკვეული სარგებელი მარტოობის, დეპრესიისა და შფოთვის შესამსუბუქებლად, თუმცა, სანამ ბავშვებისთვის მათ გამოყენებას დავუშვებთ, საჭიროა მეტი კვლევა, რადგან დოკუმენტირებული ზიანის ფაქტები უკვე არსებობს. მნიშვნელოვანია, რომ ამ აპლიკაციების შესახებ უფრო მეტი ინფორმაცია გვქონდეს, რათა განვსაზღვროთ, რომელია უსაფრთხო და შესაბამისი კონკრეტული მომხმარებლებისთვის.
საბოლოო ჯამში, აუცილებელია, რომ ტექნოლოგიურმა კომპანიებმა და რეგულატორებმა ერთად იზრუნონ იმაზე, რომ AI თანამგზავრები მოზარდებისა და ბავშვებისთვის უსაფრთხო და პასუხისმგებლიანი იყოს.
წყარო: Stanford
