Google-ი დიდ სკანდალში გაეხვა. ტექნოლოგიური გიგანტის მკვლევრებმა გამოაქვეყნეს სამეცნიერო ნაშრომი, რომელიც მათი ხელოვნური ინტელექტის მოდელ Med-Gemini-ის შესაძლებლობებს აღწერდა. ამ ნაშრომის ერთ-ერთ მონაკვეთში ხელოვნური ინტელექტი ტვინის დაავადებაზე საუბრობდა და ამ კონტექსტში ახსენა ტერმინი: “basilar ganglia”.
მთელი პრობლემა იმაშია, რომ ადამიანის ტვინში ასეთი სტრუქტურა არ არსებობს. Google-ის ხელოვნურ ინტელექტს სავარაუდოდ ერთმანეთში აერია ტვინის ორი სხვადასხვა ნაწილი: ბაზალური განგლია (ტვინის კონკრეტული უბანი) და ბაზილარული არტერია (სისხლძარღვი ტვინში). ამ ორის შერევის შედეგად მან სრულიად არარსებული, გამოგონილი ტერმინი შექმნა, მაგრამ ეს შეცდომა შეუმჩნეველი დარჩა და სულ რაღაც ერთი წლის შემდეგ მიაკვლიეს ნაშრომში ამ შეცდომას.
Google-ის სამედიცინო ხელოვნური ინტელექტის მოდელთან, Med-Gemini-სთან დაკავშირებულმა ამ სკანდალმა სამედიცინო წრეებში დიდი აჟიოტაჟი გამოიწვია. საუბარია იმ საშიშროებებზე, რაც გენერაციული ხელოვნური ინტელექტის ჯანდაცვაში ფართო გამოყენებას შეიძლება მოჰყვეს.
ასეთი ინციდენტები, რომლებსაც “AI ჰალუცინაციებს” უწოდებენ (როცა ხელოვნური ინტელექტი ყალბ, გამოგონილ ფაქტებს აჟღერებს), ხაზს უსვამს იმ რისკებს, რაც ამ ტექნოლოგიის გამოყენებას თან ახლავს ისეთ მნიშვნელოვან სფეროებში, როგორიცაა, მაგალითად, მედიცინა.
მიუხედავად იმისა, რომ ამ კონკრეტულ შემთხვევაში შეცდომას პაციენტის ჯანმრთელობისთვის ზიანი არ მიუყენებია, ექსპერტები შეშფოთებას გამოთქვამენ იმის გამო, თუ რა პრეცედენტს ქმნის ეს ფაქტი. ამ ტიპის მარტივმა უზუსტობამ ან ფაქტობრივმა შეცდომამ კლინიკურ გარემოში, შესაძლოა, ადამიანთა სიცოცხლისთვის საშიში შედეგები მოიტანოს
წარმოიდგინეთ, რომ ექიმს ეკითხებით რაიმეს და ის გპასუხობთ: “არ ვიცი”. ეს სრულიად ნორმალური და მისაღებია, რადგან ყველა ინფორმაცია, უბრალოდ, შეუძლებელია იცოდე. მაგრამ რა მოხდება, თუ ხელოვნური ინტელექტის მოდელი იგივე სიტუაციაში მოხვდება? მისი ალგორითმი ისეა შემუშავებული, რომ კითხვას პასუხი გასცეს, ამიტომ, თუკი კონკრეტული ინფორმაცია არ აქვს, შეუძლია, უბრალოდ, ფაქტები „გამოიგონოს“, ნაცვლად იმისა, რომ თქვას: „არ ვიცი“.
სწორედ ამის გამო, სამედიცინო სფეროს წარმომადგენლები მოუწოდებენ ტექნოლოგიურ კომპანიებს, რომ ხელოვნური ინტელექტის ინტეგრაცია ჯანდაცვაში დიდი სიფრთხილით მოხდეს. მათი აზრით, ხელოვნურმა ინტელექტმა გაცილებით მაღალი სიზუსტის სტანდარტები უნდა დააკმაყოფილოს, ვიდრე ადამიანმა, რადგან ამ ტექნოლოგიის მიმართ ნდობა ზოგჯერ ბევრად უფრო მაღალია.
საბოლოო ჯამში, ექიმები თანხმდებიან, რომ ხელოვნური ინტელექტი მომავლის ტექნოლოგიაა და მას ჯანდაცვაში დიდი პოტენციალი აქვს, თუმცა, ამავე დროს, აღნიშნავენ, რომ მისი შესაძლებლობები, ჯერჯერობით, მედიცინაში ეფექტურად და უსაფრთხოდ გამოსაყენებლად სრულყოფილი არ არის.
წყარო: oecd
