ხელოვნური ინტელექტის მიერ გენერირებული სამედიცინო რჩევები Google-ის საძიებო სისტემაში შესაძლოა საზიანო იყოს. ამის შესახებ გამოცემა The Guardian-ის მოკვლევა იუწყება. ექსპერტების შეფასებით, კომპანია სათანადო ყურადღებას არ აქცევს უსაფრთხოების გაფრთხილებებს და არასაკმარისად ნათლად აცნობებს მომხმარებლებს, რომ AI-ის მიერ მოწოდებული ინფორმაცია, შესაძლოა, მცდარი იყოს.
Google ამბობს, რომ მისი ხელოვნური ინტელექტი მომხმარებლებს ყოველთვის ურჩევს ექიმთან კონსულტაციას, მაგრამ რეალურად ამ გაფრთხილებას ადვილად ვერ ნახავთ. „The Guardian“-ის კვლევამ აჩვენა, რომ გაფრთხილება, თითქოს ინფორმაცია შესაძლოა არაზუსტი იყოს და საჭიროებს გადამოწმებას, ტექსტის ბოლოშია ასახული.
იმისთვის, რომ ეს გაფრთხილება წაიკითხოთ, სპეციალურად უნდა დააჭიროთ ღილაკს „Show more“, შემდეგ კი ტექსტის ბოლომდე ჩახვიდეთ. გაფრთხილება კი ისეთი პატარა და მკრთალი შრიფტით არის დაწერილი, რომ მომხმარებელთა უმეტესობა მას უბრალოდ ვერ ამჩნევს.
რატომ არის ეს საფრთხის შემცველი?
ხელოვნური ინტელექტის დარგის ექსპერტები და პაციენტთა უფლებების დამცველები ამ მიდგომას უაღრესად საშიშად მიიჩნევენ:
ექსპერტები Google-ის AI-სისტემის ფუნქციონირებაში სამ მთავარ საფრთხეს გამოყოფენ, რომლებიც მომხმარებლის ჯანმრთელობას პირდაპირ უქმნის რისკს. პირველ რიგში, ხელოვნური ინტელექტის მიერ გენერირებული ერთიანი შეჯამება მომხმარებელს „სრულყოფილი პასუხის“ ცრუ ილუზიას უყალიბებს, რაც ადამიანს აფერხებს ინფორმაციის გადამოწმებისა და დამატებითი ძიებისგან.
ამ პრობლემას AI მოდელების მიდრეკილება ე.წ. „ჰალუცინაციებისკენ“ ამძიმებს, როდესაც სისტემა დამაჯერებელი ტონით არასწორ მონაცემებს ავრცელებს. ყოველივე ეს სამედიცინო კონტექსტში, შესაძლოა, ფატალური აღმოჩნდეს. საბოლოოდ, მდგომარეობას ის გარემოება კიდევ უფრო ართულებს, რომ Google-ის საძიებო ალგორითმი ორიენტირებულია პასუხის მაქსიმალურად სწრაფად მიწოდებაზე და არა მისი სიზუსტის უზრუნველყოფაზე.
რა მოთხოვნები აქვთ სპეციალისტებს?
სამედიცინო და ტექნოლოგიური სფეროს წარმომადგენლები Google-ს მოუწოდებენ, უსაფრთხოების დისკლემერი (გაფრთხილება) გახდეს თვალსაჩინო და გამოჩნდეს საძიებო შედეგების თავშივე, იგივე ზომის შრიფტით, რითაც ძირითადი ინფორმაცია. მათი თქმით, ეს კრიტიკულად მნიშვნელოვანია, რათა მომხმარებელმა ინფორმაცია უპირობოდ არ მიიღოს და აუცილებლობის შემთხვევაში თავისი მკურნალი ექიმის კონსულტაცია გაითვალისწინოს.
Google-ის წარმომადგენელი აცხადებს, რომ კომპანია აგრძელებს სისტემის დახვეწას და მომხმარებლებს ხშირად პირდაპირ ტექსტშიც ახსენებს პროფესიონალთან ვიზიტის საჭიროებას. თუმცა, ექსპერტები ფიქრობენ, რომ საჭიროა უფრო რადიკალური ნაბიჯები პაციენტების დასაცავად.
წყარო: The Guardian
