ارائه عناصر و روش شناسی یادگیری تقویتی اعتباربخشی بیمارستان بر اساس مدل مفهومی عامل بنیان (مقاله علمی وزارت علوم)
درجه علمی: نشریه علمی (وزارت علوم)
آرشیو
چکیده
مقدمه: هدف از انجام این مطالعه، ارائه عناصر و روش شناسی مدل یادگیری تقویتی منطبق بر مدل مفهومی عامل بنیان اعتباربخشی بیمارستانی در ایران است. عناصر و روش شناسی مدل یادشده، زیربنای مطالعاتی مطلوبی برای ایجاد سیستم هوشمند و چندعاملی اعتباربخشی بیمارستانی و روندهای شبیه سازی محیط در جهت ارائه رهنمودهای بهره ورانه به کارگزاران و سیاست گذاران مربوطه ایجاد خواهد کرد. این مطالعه در نظر دارد تا پاسخ مناسبی به پرسش های اصلی پژوهش که در آن ابهامات مربوط به عناصر یادگیری تقویتی و چگونگی انتخاب روش شناسی یادگیری تقویتی در یک سیستم چندعاملی از نوع سیستم های اجتماعی فنی وجود دارد، ارائه کند.روش ها : به منظور گردآوری داده های موردنیاز برای شناخت عناصر و شناسایی فرایندهای اعتباربخشی بیمارستانی، عامل ها، محیط و تعامل بین آن ها، از روش مرور سیستماتیک منابع، بررسی مستندات علمی و مصاحبه های نیمه ساخت یافته، از طریق خبرگان، به صورت حضوری بهره گرفته شد. مصاحبه شوندگان از میان اعضای هیئت علمی، مدیران بیمارستان و مسئولان بهبود کیفیت بیمارستان ها انتخاب شدند. جمع بندی مصاحبه ها با استفاده از روش های مبتنی بر داده بنیاد، رویکرد ترتیبی و سیستماتیک، صورت گرفت. منابع جمع آوری ویژگی های فرایند یادگیری ماشین با استفاده از روش مرور سیستماتیک از مستند «راهنمای اعتباربخشی 1401» بوده است. روند انتخاب ویژگی های یادشده از طریق انتخاب صحیح از ویژگی های خروجی مدل که همان کنش های عامل است، صورت گرفت. فهرست کنش های عامل بر اساس طبقه بندی ساختار درختی از محتوای مفهومی مستند فوق الذکر به صورت یک درخت عمومی غیردودویی استخراج شد.یافته ها: مدل یادگیری تقویتی استخراج شده درصدد یافتن زنجیره های بهینه از کنش های عملیاتی در شرایطی که داده های کمی موجود است، خواهد بود. مهم ترین عناصر مدل یادشده عبارت اند از:مجموعه حالات: مجموعه عوامل اعتباربخشی بیمارستانی مانند متغیرهای ورودی، متغیرهای خروجی، شاخص ها، پارامترها، اعداد ثابت مربوط به سنجه های هر عامل مفهومی در مستند «راهنمای اعتباربخشی 1401»؛مجموعه کنش ها: کنش های عامل های هوشمند؛ در هر اپیزود یادگیری تقویتی، مسیرهایی از درخت دودویی خوشه بندی سلسله مراتبی شده اقدامات عملیاتی قابل انجام در بیمارستان و به ازای مجموعه ویژگی های حالت هستند؛تابع پاداش: «کسب بالاترین امتیاز ممکن در نظام رتبه بندی بیمارستانی با انجام کمترین تعداد کنش و اقدام لازم» است؛تابع سیاست: بر اساس فرایند یادگیری هر عامل، مبتنی بر یک شبکه عصبی عمیق DQN و الگوریتم کاهش گرادیان است؛عامل های عملیاتی: هدف عملیاتی هر یک از عامل های مفهومی؛ «حداکثرکردن امتیازات اعتباربخشی سنجه های حوزه مربوط به خود با توصیه کمترین اقدامات» است.چرخه کلی مدل: در این ساختار هر کدام از عامل های هوشمند، زیرمجموعه عامل های مفهومی نه گانه، در محدوده خود دارای یک شبکه عصبی چندلایه است که ویژگی های حالات مرتبط، به این شبکه عصبی وارد می شود و در خروجی، بر اساس تعریف تابع سیاست ویژه آن عامل، نگاشتی از کنش های بهینه بر حسب شرایط و حالات فعلی عامل ایجاد خواهد شد؛مدل شبکه عصبی: شبکه عصبی عامل هوشمند برگرفته از عامل مفهومی «مدیریت و رهبری» است که در آن مشخصات لایه های ورودی، مخفی و خروجی شبکه آمده است.نتیجه گیری: جمع بندی پیشینه پژوهش های مرتبط، نشان داد که رویکرد طراحی مدل های اعتباربخشی بیمارستانی می تواند به دو گروه «مدل های مفهومی بدون بهره گیری از عوامل هوشمند» و «مدل های مفهومی با بهره گیری از مفاهیم هوشمندسازی و سیستم های عامل بنیان» تقسیم شود. بررسی ها نشان داد که این مطالعات دارای نتایج موردانتظار بوده و کارایی و اثربخشی مدل ها و فرایندهای پیشنهادشده توسط آن ها، اعتبار لازم را داشته اند. از نقاط ضعف این پژوهش ها، این است که الگوریتم های یادگیری تقویتی لزوماً با مدل های عامل بنیان در آن ها درآمیخته نشده است.Presenting the Elements and Reinforcement Learning Methodology of Hospital Accreditation Based on the Agent-Based Conceptual Model
Introduction: This study presents the elements and methodology of the reinforcement learning model according to the agent-based conceptual model of hospital accreditation in Iran. The elements and methodology of the mentioned model will create a favorable study base for creating a smart and multi-agent hospital accreditation system and environment simulation trends to provide efficient guidelines to relevant agents and policymakers. This study aims to address the main research questions concerning the uncertainties related to the reinforcement learning elements and the methodology selection in a multi-agent socio-technical system.Methods: To collect the necessary information to understand the elements and identify hospital accreditation processes, agents, the environment, and their interactions, systematic reviews of sources, scientific document reviews, and semi-structured interviews with experts were conducted. Interviewees were selected from university faculty members, hospital managers, and quality improvement officers through a targeted non-random snowball sampling method. The interviews were summarized using grounded-theory-based methods and a sequential and systematic approach. The characteristics of the machine learning process were collected using a systematic review method from the "Iran Hospital Accreditation Guide 2022". The process of selecting the features was done by correctly choosing the output features of the model, which are the actions of the agent. The list of agent actions was extracted as a general non-binary tree based on the classification of the tree structure from the conceptual content of the document.Findings: The extracted reinforcement learning model seeks to find the optimal chains of operational actions under conditions where quantitative data of the hospital are available. The most important elements of the model are:Set of States: Hospital accreditation factors such as input variables, output variables, indicators, parameters, and fixed numbers related to the metrics of each conceptual agent in the "Iran Hospital Accreditation Guide 2022".Set of Actions: Actions of intelligent agents in each reinforcement learning episode, paths from the hierarchically clustered binary tree, which are operational actions that can be performed in the hospital per set of state features.Reward Function: "Obtaining the highest possible score in the hospital ranking system by performing the least number of necessary actions."Policy Function: Based on the learning process of each agent, it relies on a DQN deep neural network and a gradient reduction algorithm.Operational Agents: The operational goal of each conceptual agent is "maximizing the accreditation points of the metrics of the relevant field by recommending the least measures."General Cycle of the Model: In this structure, each intelligent agent, a subset of the nine conceptual agents, has a multi-layered neural network. The characteristics of related states are entered into this neural network, and in the output, based on the special policy function definition of that agent, a map of optimal actions is created according to the agent's current conditions and states.Neural Network Model: The neural network of the intelligent agent is derived from the conceptual agent "management and leadership," specifying the input, hidden, and output layers of the network. Conclusion: Summarizing the background of related research showed that the approach to designing hospital accreditation models could be divided into two groups: "conceptual models without using intelligent agents" and "conceptual models using intelligence and operating systems". The investigations showed that these studies had the expected results and that the efficiency and effectiveness of the models and processes proposed by them had the necessary validity.