pravoПравоприменениеLaw Enforcement Review2542-15142658-4050Dostoevsky Omsk State University10.52468/2542-1514.2025.9(3).144-153pravo-1135Research ArticleПРИМЕНЕНИЕ НОРМ ПРАВА ОРГАНАМИ ПРЕДВАРИТЕЛЬНОГО СЛЕДСТВИЯ И ДОЗНАНИЯTHE LAW ENFORCEMENT BY THE BODIES OF PRELIMINARY INVESTIGATION AND INQUIRYИскусственный интеллект в системе здравоохранения: пределы уголовной ответственности врачейArtificial intelligence in healthcare: limits of criminal liability of doctorsШутоваА. А.ShutovaA. A.

Альбина Александровна Шутова, кандидат юридических наук, старший научный сотрудник, доцент

Научно-исследовательский институт цифровых технологий и права; кафедра уголовного права и процесса

420111; ул. Московская, 42; Казань

AuthorID: 835100

Albina A. Shutova, hD in Law; Senior Researcher, Associate Professor

Institute of Digital Technologies and Law; Department of Criminal Law and Procedure

420111; 42, Moskovskaya ul.; Kazan

AuthorID: 835100

shutova1993@inbox.ruКазанский инновационный университет имени В.Г. ТимирясоваРоссияKazan Innovation University named after V.G. TimiryasovRussian Federation20252109202593144153Copyright © Шутова А.А., 20252025Шутова А.А.Shutova A.A.Данная работа распространяется под лицензией Creative Commons Attribution 4.0.This work is licensed under a Creative Commons Attribution 4.0 License.https://enforcement.omsu.ru/jour/article/view/1135

   Рассмотрены вопросы персональной ответственности врача при принятии решений о диагностике, лечении и назначении лекарственных средств на основании сформулированного предложения (решения) алгоритма искусственного интеллекта. Представлен обзор системы правового регулирования ответственности медицинских работников, а также проведена оценка возможных вариантов распределения уголовной ответственности в связи с внедрением искусственного интеллекта в работу врачей в будущем. Предложены возможные направления по совершенствованию законодательства, связанного с оказанием медицинской помощи с использованием интеллектуальных систем. Проанализированы тенденции распределения ответственности за причинение вреда при оказании медицинской помощи, что позволило выработать возможные варианты распределения ответственности между медицинской организацией и врачом в будущем.

   Artificial intelligence technologies are changing the medical care provision, which corresponds to a new healthcare paradigm.

   The subject of the study is regulatory legal acts, including subordinate (departmental) ones, acts of technical regulation, statistical data, doctrinal provisions, and Internet resources on the problems under investigation and crimes committed by medical professionals.

   The purpose of the article is to form a conceptual legal framework for the introduction of artificial intelligence technologies in healthcare.

   This includes defining the limits of liability of medical professionals who use intelligent systems while providing medical care. For the introduction of artificial intelligence to have only a positive impact on the healthcare system with minimal risks and threats, it is necessary to develop standards and procedures of medical care using intelligent systems. There is a need to develop a clear legal framework for the use of intelligent systems in medical sphere to ensure patient safety and confidentiality, while preserving the potential of artificial intelligence as an assistant. In this article, the author examines the specifics of using artificial intelligence in medical practice, including issues related to the personal responsibility of a doctor when making decisions about diagnosis and treatment based on the proposal of an algorithm (a medical decision support system).

   Methodology. Using the method of legal analysis and the comparative legal method, the author analyzes the existing trends in the distribution of liability for harm in the provision of medical care in cases of an error and/or inaccuracy in making a medical decision. The article demonstrates possible future options for the distribution of responsibility between a medical organization and a medical professional. The paper systematizes approaches to legal regulation and criminal legal protection of public relations that arise if a medical professional provides assistance using artificial intelligence systems.

   The results of the study. The main results and conclusions suggest that medical professionals must always have control over artificial intelligence systems when implementing them. Doctors should be able to reasonably trust the digital tools at their disposal, notice signs of error in such systems, and timely take a new course of action. This should be reflected in the standards of medical care using with artificial intelligence technologies as the responsibility of a medical professional. In addition, the author proves that it is necessary to include the rights and obligations regarding the use of intelligent systems in medical practice in the documents regulating medical care and job descriptions of doctors. The article forms models of the distribution of doctor’s responsibility for harm caused to the life and health of patients in connection with the use of intelligent systems. The set goal of the research has been achieved.

цифровизацияцифровое здравоохранениеискусственный интеллектмедицинские изделия на основе искусственного интеллектауголовная ответственность врачейцифровые технологиицифровая безопасностьмашинное обучениеdigitalizationdigital healthcareartificial intelligencemedical products based on artificial intelligencecriminal liability of doctorsdigital technologiesdigital securitymachine learningРабота выполнена за счет гранта Академии наук Республики Татарстан, предоставленного молодым кандидатам наук (постдокторантам) с целью защиты докторской диссертации, выполнения научно-исследовательских работ, а также выполнения трудовых функций в научных и образовательных организациях Республики Татарстан в рамках Государственной программы Республики Татарстан «Научно-технологическое развитие Республики Татарстан»The work was funded by a grant of the Republic of Tatarstan Academy of Sciences to young Candidates of Science (postdocs) for defending a Doctoral thesis, performing scientific research, as well as performing labor functions in scientific and educational organizations of the Republic of Tatarstan within the state program of the Republic of Tatarstan “Scientific and technological development of the Republic of Tatarstan”ReferencesAlowais S. A. Revolutionizing healthcare: the role of artificial intelligence in clinical practice / S. A. Alowais, S. S. Alghamdi, N. Alsuhebany, T. Alqahtani, A. I. Alshaya, S. N. Almohareb, A. Aldairem, M. Alrashed, K. Bin Saleh, B. H. Aadreldin, M. S. Al Yami, S. Al Harbi, A. M. Albekairy // BMC Medical Education. – 2023. – Vol. 23. – Art. 689. – DOI: 10.1186/s12909-023-04698-z.Alowais S.A., Alghamdi S.S., Alsuhebany N., Alqahtani T., Alshaya A.I., Almohareb S.N., Aldairem A., Alrashed M., Bin Saleh K., Badreldin H.A., Al Yami M.S., Al Harbi S., Albekairy A.M. Revolutionizing healthcare: the role of artificial intelligence in clinical practice. BMC Medical Education, 2023, vol. 23, art. 689. DOI: 10.1186/s12909-023-04698-z.Шутова А. А. Этические принципы создания и применения медицинских изделий на основе технологий робототехники / А. А. Шутова, И. Р. Бегишев // Информационное общество. – 2024. – № 5. – С. 106–113.Shutova A.A., Begishev I.R. Ethical principles for the creation and application of medical devices based on robotics technology. Informatsionnoe obshchestvo = Information Society, 2024, no. 5, pp. 106–113. (In Russ.).Шутова А. А. Этический кодекс субъектов, осуществляющих деятельность по созданию, применению и утилизации медицинских изделий на основе технологий искусственного интеллекта / А. А. Шутова, И. Р. Бегишев // Цифровые технологии и право : сб. науч. тр. II Междунар. науч.-практ. конф. (Казань, 22 сент. 2023 г.) : в 6 т. – Казань: Познание, 2023. – Т. 6. – С. 441–447.Shutova A.A., Begishev I.R. Ethical code of subjects, carrying out activities on creation, application and disposal medical devices based on artificial intelligence technologies, in: Tsifrovye tekhnologii i pravo = Digital technologies and law, Collection of scientific papers of the II International Scientific and Practical Conference (Kazan, September 22, 2023), in 6 volumes, Kazan, Poznanie Publ., 2023, vol. 6, pp. 441–447. (In Russ.).Гуляева П. С. Медицинские нанороботы в фокусе права / П. С. Гуляева // Journal of Digital Technologies and Law. – 2023. – Т. 1, № 1. – С. 89–122. – DOI: 10.21202/jdtl.2023.4.Gulyaeva P.S. Medical nanorobots in the focus of law. Journal of Digital Technologies and Law, 2023, vol. 1, no. 1, pp. 89–122. DOI: 10.21202/jdtl.2023.4.Ладочкина Л. В. Правовое регулирование искусственного интеллекта, используемого в медицине и здравоохранении / Л. В. Ладочкина // Вестник Саратовской государственной юридической академии. – 2024. – № 3 (158). – С. 128–131. – DOI: 10.24412/2227-7315-2024-3-128-131.Ladochkina L.V. Legal regulation of artificial intelligence used in medicine and healthcare. Vestnik Saratovskoi gosudarstvennoi yuridicheskoi akademii = Saratov State Law Academy Bulletin, 2024, no. 3 (158), pp. 128–131. DOI: 10.24412/2227-7315-2024-3-128-131. (In Russ.).Морхат П. М. К вопросу о специфике правового регулирования искусственного интеллекта и о некоторых правовых проблемах его применения в отдельных сферах / П. М. Морхат // Закон и право. – 2018. – № 6. – С. 63–67. – DOI: 10.24411/2073-3313-2018-10015.Morhat P.M. On the issue of the specifics of legal regulation artificial intelligence and some legal problems of its application in certain spheres. Zakon i pravo = Law & Legislation, 2018, no. 6, pp. 63–67. DOI: 10.24411/2073-3313-2018-10015. (In Russ.).Черных Е. Е. Цифровая медицина: риски правореализации инноваций в сфере здравоохранения / Е. Е. Черных // Юридическая наука и практика: Вестник Нижегородской академии МВД России. – 2020. – № 4 (52). – С. 84–94. – DOI: 10.36511/2078-5356-2020-4-84-94.Chernykh E.E. Digital medicine: risks for implementing innovations in the healthcare sector. Yuridicheskaya nauka i praktika: Vestnik Nizhegorodskoi akademii MVD Rossii = Legal Science and Practice: Journal of Nizhny Novgorod Academy of the Ministry of Internal Affairs of Russia, 2020, no. 4 (52), pp. 84–94. DOI: 10.36511/2078-5356-2020-4-84-94. (In Russ.).Шахназаров Б. А. Применение технологий искусственного интеллекта при создании вакцин и иных объектов интеллектуальной собственности (правовые аспекты) / Б. А. Шахназаров // Актуальные проблемы российского права. – 2020. – Т. 15, № 7. – С. 76–90. – DOI: 10.17803/1994-1471.2020.116.7.076-090.Shakhnazarov B.A. Application of Artificial Intelligence Technologies in the Creation of Vaccines and other Intellectual Property Objects (Legal Aspects). Aktualʹnye problemy rossiiskogo prava = Actual Problems of Russian Law, 2020, vol. 15, no. 7, pp. 76–90. DOI: 10.17803/1994-1471.2020.116.7.076-090. (In Russ.).Атабеков А. Р. Анализ подходов определения юридической ответственности за действия искусственного интеллекта в медицинской сфере: опыт США и России / А. Р. Атабеков // Юридические исследования. – 2023. – № 6. – С. 1–9. – DOI: 10.25136/2409-7136.2023.6.40928.Atabekov A.R. Analysis of approaches to determining legal liability for the actions of artificial intelligence in the medical field: the experience of the United States and Russia. Yuridicheskie issledovaniya = Legal studies, 2023, no. 6, pp. 1–9. DOI: 10.25136/2409-7136.2023.6.40928. (In Russ.).Афанасьевская А. В. Применение искусственного интеллекта в системе здравоохранения: вопросы ответственности / А. В. Афанасьевская // Вестник Саратовской государственной юридической академии. – 2024. – № 3 (158). – С. 103–107. – DOI: 10.24412/2227-7315-2024-3-103-107.Afanasievskaya A.V. Application of artificial intelligencein the health care system: liability issues. Vestnik Saratovskoi gosudarstvennoi yuridicheskoi akademii = Saratov State Law Academy Bulletin, 2024, no. 3 (158), pp. 103–107. DOI: 10.24412/2227-7315-2024-3-103-107. (In Russ.).Третьякова Е. П. Использование искусственного интеллекта в здравоохранении: распределение ответственности и рисков / Е. П. Третьякова // Цифровое право. – 2021. – Т. 2, № 4. – С. 51–60. – DOI: 10.38044/2686-9136-2021-2-4-51-60.Tretyakova E.P. Using artificial intelligence in healthcare: Allocating liability and risks. Tsifrovoe pravo = Digital Law Journal, 2021, vol. 2, no. 4, pp. 51–60. DOI: 10.38044/2686-9136-2021-2-4-51-60. (In Russ.).Черных Е. Е. Искусственный интеллект в здравоохранении России: современное состояние и уголовно-правовые риски / Е. Е. Черных // Вестник Санкт-Петербургского университета МВД России. – 2020. – № 4 (88). – С. 127–131. – DOI: 10.35750/2071-8284-2020-4-127-131.Chernyh E.E. Artificial intelligence in the Russian healthcare sector: current situation and criminal and legal risks. Vestnik Sankt-Peterburgskogo universiteta MVD Rossii = Vestnik of the St. Petersburg University of the Ministry of Internal Affairs of Russia, 2020, no. 4 (88), pp. 127–131. DOI: 10.35750/2071-8284-2020-4-127-131. (In Russ.).Мельников А. А. Потенциальная ответственность врачей, использующих искусственный интеллект / А. А. Мельников // Дальневосточный медицинский журнал. – 2024. – № 1. – С. 77–80.Melnikov A.A. Potential liability of doctors using artificial intelligence. Dal'nevostochnyi meditsinskii zhurnal = Far Eastern medical journal, 2024, no. 1, pp. 77–80. (In Russ.).Ядав Н. Этика искусственного интеллекта и робототехники: ключевые проблемы и современные способы их решения / Н. Ядав // Journal of Digital Technologies and Law. – 2023. – Т. 1, № 4. – С. 955–972. – DOI: 10.21202/jdtl.2023.41.Yadav N. Ethics of Artificial Intelligence and Robotics: Key Issues and Modern Ways to Solve Them. Journal of Digital Technologies and Law, 2023, vol. 1, no. 4, pp. 955–972. DOI: 10.21202/jdtl.2023.41.Ерахтина О. С. Подходы к регулированию отношений в сфере разработки и применения технологий искусственного интеллекта: особенности и практическая применимость / О. С. Ерахтина // Journal of Digital Technologies and Law. – 2023. – Т. 1, № 2. – С. 421–437. – DOI: 10.21202/jdtl.2023.17.Erahtina O.S. Approaches to Regulating Relations in the Sphere of Developing and Using the Artificial Intelligence Technologies: Features and Practical Applicability. Journal of Digital Technologies and Law, 2023, vol. 1, no. 2, pp. 421–437. DOI: 21202/jdtl.2023.17.Фаллетти Э. Алгоритмическая дискриминация и защита конфиденциальности / Э. Фаллетти // Journal of Digital Technologies and Law. – 2023. – Т. 1, № 2. – С. 387–420. – DOI: 10.21202/jdtl.2023.16.Falletti E. Algorithmic Discrimination and Privacy Protection. Journal of Digital Technologies and Law, 2023, vol. 1, no. 2, pp. 387–420. DOI: 10.21202/jdtl.2023.16.Sauerbrei A. The impact of artificial intelligence on the person-centred, doctor-patient relationship: some problems and solutions / A. Sauerbrei, A. Kerasidou, F. Lucivero, N. Hallowell // BMC Medical Informatics and Decision Making. – 2023. – Vol. 23. – Art. 73. – DOI: 10.1186/s12911-023-02162-y.Sauerbrei A., Kerasidou A., Lucivero F., Hallowell N. The impact of artificial intelligence on the person-centred, doctor-patient relationship: some problems and solutions. BMC Medical Informatics and Decision Making, 2023, vol. 23, art. 73. DOI: 10.1186/s12911-023-02162-y.Mezrich J. L. Demystifying Medico-legal Challenges of Artificial Intelligence Applications in Molecular Imaging and Therapy / J. L. Mezrich // PET Clinics. – 2022. – Vol. 17, Iss. 1. – P. 41–49. – DOI: 10.1016/j.cpet.2021.08.002.Mezrich J.L. Demystifying Medico-legal Challenges of Artificial Intelligence Applications in Molecular Imaging and Therapy. PET Clinics, 2022, vol. 17, iss. 1, pp. 41–49. DOI: 10.1016/j.cpet.2021.08.002.Шутова А. А. Особенности квалификации преступлений, совершаемых лицами, использующими технологии искусственного интеллекта в здравоохранении / А. А. Шутова // Lex russica. – 2023. – Т. 76, № 12. – С. 113–123. – DOI: 10.17803/1729-5920.2023.205.12.113-123.Shutova A.A. Features of Classification of Crimes Committed by Persons using Artificial Intelligence Technologies in Healthcare. Lex Russica, 2023, vol. 76, no. 12, pp. 113–123. DOI: 10.17803/1729-5920.2023.205.12.113-123. (In Russ.).Mennella C. Ethical and regulatory challenges of AI technologies in healthcare : A narrative review / C. Mennella, U. Maniscalco, G. De Pietro, M. Esposito // Heliyon. – 2024. – Vol. 10, Iss. 4. – Art. e26297. – DOI: 10.1016/j.heliyon.2024.e26297.Mennella C., Maniscalco U., De Pietro G., Esposito M. Ethical and regulatory challenges of AI technologies in healthcare : A narrative review. Heliyon, 2024, vol. 10, iss. 4, art. e26297. DOI: 10.1016/j.heliyon.2024.e26297.Tanaka M. Roles and Competencies of Doctors in Artificial Intelligence Implementation: Qualitative Analysis Through Physician Interviews / M. Tanaka, S. Matsumura, S. Bito // JMIR Formative Research. – 2023. – Vol. 7. – Art. e46020. – DOI: 10.2196/46020.Tanaka M., Matsumura S., Bito S. Roles and Competencies of Doctors in Artificial Intelligence Implementation: Qualitative Analysis Through Physician Interviews. JMIR Formative Research, 2023, vol. 7, art. e46020. DOI: 10.2196/46020.Chan B. Applying a common enterprise theory of liability to clinical AI systems / B. Chan // American Journal of Law & Medicine. – 2021. – Vol. 47. – P. 351–385. – DOI: 10.1017/amj.2022.1.Chan B. Applying a common enterprise theory of liability to clinical AI systems. American Journal of Law & Medicine, 2021, vol. 47, pp. 351–385. DOI: 10.1017/amj.2022.1.Cestonaro C. Defining medical liability when artificial intelligence is applied on diagnostic algorithms : a systematic review / C. Cestonaro, A. Delicati, B. Marcante, L. Caenazzo, P. Tozzo // Frontiers in Medicine. – 2023. – Vol. 10. – Art. 1305756. – DOI: 10.3389/fmed.2023.1305756.Cestonaro C., Delicati A., Marcante B., Caenazzo L., Tozzo P. Defining medical liability when artificial intelligence is applied on diagnostic algorithms : a systematic review. Frontiers in Medicine, 2023, vol. 10, art. 1305756. DOI: 10.3389/fmed.2023.1305756.Лопатина Т. М. Профессиональная ошибка в условиях функционирования цифровой медицины / Т. М. Лопатина // Российское право: образование, практика, наука. – 2019. – № 5 (113). – С. 68–75. – DOI: 10.34076/2410-2709-2019-5-68-75.Lopatina T. Professional error in the functioning of digital medicine. Rossiiskoe pravo: obrazovanie, praktika, nauka = Russian Law: education, practice, researches, 2019, no. 5 (113), pp. 68–75. DOI: 10.34076/2410-2709-2019-5-68-75. (In Russ.).Chen A. Reflection on the equitable attribution of responsibility for artificial intelligence-assisted diagnosis and treatment decisions / A. Chen, C. Wang, X. Zhang // Intelligent Medicine. – 2023. – Vol. 3, Iss. 2. – P. 139–143. – DOI: 10.1016/j.imed.2022.04.002.Chen A., Wang C., Zhang X. Reflection on the equitable attribution of responsibility for artificial intelligence-assisted diagnosis and treatment. Intelligent Medicine, 2023, vol. 3, iss. 2, pp. 139–143. DOI: 10.1016/j.imed.2022.04.002.Иванова А. П. Применение искусственного интеллекта в здравоохранении: новая веха в развитии биоправа / А. П. Иванова // Социальные и гуманитарные науки. Отечественная и зарубежная литература. Серия 4: Государство и право. – 2024. – № 2. – С. 126–139. – DOI: 10.31249/iajpravo/2024.02.10.Ivanova A.P. The use of artificial intelligence in healthcare: a new milestone in the development of medical law. Sotsial'nye i gumanitarnye nauki. Otechestvennaya i zarubezhnaya literatura. Seriya 4: Gosudarstvo i pravo = Social and Humanitarian sciences: Domestic and foreign literature. Series 4: State and Law, 2024, no. 2, pp. 126–139. DOI: 10.31249/iajpravo/2024.02.10. (In Russ.).Maliha G. Artificial Intelligence and Liability in Medicine: Balancing Safety and Innovation / G. Maliha, S. Gerke, I. G. Cohen, R. B. Parikh // The Milbank Quarterly. – 2021. – Vol. 99, Iss. 3. – P. 629–647. – DOI: 10.1111/1468-0009.12504.Maliha G., Gerke S., Cohen I.G., Parikh R.B. Artificial Intelligence and Liability in Medicine: Balancing Safety and Innovation. The Milbank Quarterly, 2021, vol. 99, iss. 3, pp. 629–647. DOI: 10.1111/1468-0009.12504.

The authors declare that there are no conflicts of interest present.