ჯანმო გამოსცა ახალი სახელმძღვანელო დიდი მულტი-მოდალური მოდელების (LMMs) ეთიკისა და მმართველობის შესახებ მისი სათანადო გამოყენების მიზნით მოსახლეობის ჯანმრთელობის ხელშეწყობისა და დასაცავად. LMM არის სწრაფად მზარდი გენერატივის ტიპი ხელოვნური ინტელექტი (AI) ტექნოლოგია, რომელსაც აქვს ხუთი ფართო გამოყენება ჯანმრთელობისთვის in
1. დიაგნოსტიკა და კლინიკური დახმარება, როგორიცაა პაციენტების წერილობითი შეკითხვებზე პასუხის გაცემა;
2. პაციენტის ხელმძღვანელობით გამოყენება, როგორიცაა სიმპტომების გამოკვლევისა და მკურნალობისთვის;
3. სასულიერო და ადმინისტრაციული ამოცანები, როგორიცაა პაციენტის ვიზიტების დოკუმენტირება და შეჯამება ჯანმრთელობის ელექტრონული ჩანაწერების ფარგლებში;
4. სამედიცინო და საექთნო განათლება, მათ შორის მსმენელებისთვის სიმულირებული პაციენტთა შეხვედრის უზრუნველყოფა და;
5. სამეცნიერო კვლევა და მედიკამენტების განვითარება, მათ შორის ახალი ნაერთების იდენტიფიცირების მიზნით.
თუმცა, ეს აპლიკაციები ჯანდაცვის სფეროში ემუქრება ყალბი, არაზუსტი, მიკერძოებული ან არასრული განცხადებების წარმოქმნის რისკს, რამაც შეიძლება ზიანი მიაყენოს ადამიანებს, რომლებიც იყენებენ ასეთ ინფორმაციას ჯანმრთელობის შესახებ გადაწყვეტილების მიღებისას. გარდა ამისა, LMM-ები შეიძლება გაიარონ ტრენინგი ცუდი ხარისხის ან მიკერძოებულ მონაცემებზე, რასის, ეთნიკური წარმომავლობის, სქესის, გენდერული იდენტობის ან ასაკის მიხედვით. ასევე არსებობს უფრო ფართო რისკები ჯანდაცვის სისტემებისთვის, როგორიცაა ყველაზე ეფექტური LMM-ების ხელმისაწვდომობა და ხელმისაწვდომობა. LMM-ებს ასევე შეუძლიათ წაახალისონ „ავტომატიზაციის მიკერძოება“ ჯანდაცვის პროფესიონალებისა და პაციენტების მიერ, რომლის დროსაც შეუმჩნეველი იქნება შეცდომები, რომლებიც სხვაგვარად იქნებოდა გამოვლენილი ან რთული არჩევანი არასწორად არის დელეგირებული LMM-ზე. LMM, ისევე როგორც სხვა ფორმები AI, ასევე დაუცველები არიან კიბერუსაფრთხოების რისკების მიმართ, რამაც შეიძლება საფრთხე შეუქმნას პაციენტის ინფორმაციას ან ამ ალგორითმების სანდოობას და ჯანმრთელობის დაცვის უფრო ფართოდ უზრუნველყოფას.
ამიტომ, უსაფრთხო და ეფექტური LMM-ების შესაქმნელად, WHO-მ რეკომენდაციები გაუწია მთავრობებს და LMM-ების შემქმნელებს.
მთავრობებს ეკისრებათ ძირითადი პასუხისმგებლობა, დაადგინონ სტანდარტები LMM-ების განვითარებისა და გამოყენებისთვის, მათი ინტეგრაციისა და გამოყენებისთვის საზოგადოებრივი ჯანმრთელობისა და სამედიცინო მიზნებისთვის. მთავრობებმა უნდა განახორციელონ ინვესტიცია ან უზრუნველყონ არაკომერციული ან საჯარო ინფრასტრუქტურა, მათ შორის გამოთვლითი სიმძლავრე და საჯარო მონაცემთა ნაკრები, რომელიც ხელმისაწვდომი იქნება დეველოპერებისთვის საჯარო, კერძო და არაკომერციულ სექტორებში, რაც მოითხოვს მომხმარებლებს დაიცვან ეთიკური პრინციპები და ღირებულებები გაცვლა წვდომისთვის.
· გამოიყენეთ კანონები, პოლიტიკა და რეგულაციები, რათა უზრუნველყოთ LMM-ები და აპლიკაციები, რომლებიც გამოიყენება ჯანდაცვისა და მედიცინაში, მიუხედავად რისკისა და სარგებლისა, რომელიც დაკავშირებულია AI ტექნოლოგია, აკმაყოფილებს ეთიკურ ვალდებულებებს და ადამიანის უფლებების სტანდარტებს, რომლებიც გავლენას ახდენს, მაგალითად, პიროვნების ღირსებაზე, ავტონომიურობაზე ან კონფიდენციალურობაზე.
· დანიშნეთ არსებული ან ახალი მარეგულირებელი სააგენტო, რათა შეაფასოს და დაამტკიცოს LMM-ები და აპლიკაციები, რომლებიც განკუთვნილია ჯანდაცვისა და მედიცინაში გამოსაყენებლად - რესურსების ნებართვის შესაბამისად.
· დანერგეთ სავალდებულო გამოშვების შემდგომი აუდიტი და ზემოქმედების შეფასებები, მათ შორის მონაცემთა დაცვისა და ადამიანის უფლებებისთვის, დამოუკიდებელი მესამე მხარის მიერ, როდესაც LMM განლაგებულია ფართომასშტაბიანი. აუდიტისა და ზემოქმედების შეფასებები უნდა გამოქვეყნდეს
და უნდა მოიცავდეს შედეგებსა და ზემოქმედებებს, რომლებიც დაყოფილია მომხმარებლის ტიპის მიხედვით, მათ შორის, მაგალითად, ასაკის, რასის ან ინვალიდობის მიხედვით.
· LMM-ები შექმნილია არა მხოლოდ მეცნიერებისა და ინჟინრების მიერ. პოტენციური მომხმარებლები და ყველა პირდაპირი და არაპირდაპირი დაინტერესებული მხარე, მათ შორის სამედიცინო პროვაიდერები, სამეცნიერო მკვლევარები, ჯანდაცვის პროფესიონალები და პაციენტები, უნდა იყვნენ ჩართული ადრეული ეტაპებიდან. AI სტრუქტურირებული, ინკლუზიური, გამჭვირვალე დიზაინის განვითარება და ეთიკური საკითხების წამოჭრის, შეშფოთების გაჟღერების და ინფორმაციის მიწოდების შესაძლებლობა. AI განაცხადი განსახილველად.
LMM-ები შექმნილია კარგად განსაზღვრული ამოცანების შესასრულებლად საჭირო სიზუსტით და საიმედოობით ჯანმრთელობის სისტემების შესაძლებლობების გასაუმჯობესებლად და პაციენტის ინტერესების წინსვლისთვის. დეველოპერებს ასევე უნდა შეეძლოთ პოტენციური მეორადი შედეგების პროგნოზირება და გაგება.
***
წყარო:
ჯანმო 2024. ხელოვნური ინტელექტის ეთიკა და მართვა ჯანმრთელობისთვის: სახელმძღვანელო დიდი მრავალმოდალური მოდელების შესახებ. ხელმისაწვდომია https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y
***
