Preview

Правоприменение

Расширенный поиск

Криминологическая классификация роботов: риск-ориентированный подход

https://doi.org/10.52468/2542-1514.2021.5(1).185-201

Полный текст:

Аннотация

Раскрываются ключевые аспекты применения риск-ориентированного подхода к робототехнике, в частности предлагается ориентироваться на основные положения криминальной рискологии при оценке посягательств с участием роботов. Обозначены ключевые риски и вызовы при использовании роботов. Дана авторская классификация рисков по тяжести последствий при причинении вреда и по вероятности причинения вреда роботами; приведена матрица степени причинения вреда роботами по категории рисков. На основе риск-ориентированного подхода приведена и обоснована криминологическая классификация роботов, а также выявлен причинный комплекс, который может привести к возникновению рисков.

Об авторе

И. Р. Бегишев
Казанский инновационный университет им. В.Г. Тимирясова (ИЭУП)
Россия

Бегишев Ильдар Рустамович – кандидат юридических наук, заслуженный юрист Республики Татарстан, старший научный сотрудник

420111, Россия, г. Казань, ул. Московская, 42

Scopus AuthorID: 57205305394

ResearcherID: T-2409-2019

SPIN-код РИНЦ: 8859-9395; AuthorID: 595003



Список литературы

1. Gómez de Ágreda Á. Ethics of autonomous weapons systems and its applicability to any AI systems / Á. Gómez de Ágreda // Telecommunications Policy. – 2020. – Vol. 44, No 6. – P. 101953. – DOI: 10.1016/j.telpol.2020.101953

2. Winfield A. Ethical standards in robotics and AI. Nat Electron / A. Winfield // Nature Electronics. – 2019. – Vol. 2. – P. 46–48. – DOI: 10.1038/s41928-019-0213-6.

3. Dignum V. Ethics in artificial intelligence: introduction to the special issue / V. Dignum // Ethics and Information Technology. – 2018. – Vol. 20, No 1. – P. 1–3. – DOI: 10.1007/s10676-018-9450-z.

4. Lin P. Robot ethics: Mapping the issues for a mechanized world / P. Lin, K. Abney, G. Bekey // Artificial Intelligence. – 2011. – Vol. 175, No 5–6. – P. 942–949. – DOI: 10.1016/j.artint.2010.11.026.

5. Belk R. Ethical issues in service robotics and artificial intelligence / R. Belk // The Service Industries Journal. – 2020. – Vol. 40, No 10. – P. 1–17. – DOI: 10.1080/02642069.2020.1727892.

6. Sharkey N. The Ethical Frontiers of Robotics / N. Sharkey // Science. – 2008. – Vol. 322, No 5909. – P. 1800– 1801. – DOI: 10.1126/science.1164582.

7. Lo Piano S. Ethical principles in machine learning and artificial intelligence: cases from the field and possible ways forward / S. Lo Piano // Humanities and Social Sciences Communications. – 2020. – Vol. 7, No 9. – P. 1–7. – DOI: 10.1057/s41599-020-0501-9.

8. Green B.P. Ethical Reflections on Artificial Intelligence / B.P. Green // Scientia et Fides. – 2018. – Vol. 6, No 2. – P. 9–31. – DOI: 10.12775/SetF.2018.015.

9. Winfield AFT. Ethical governance is essential to building trust in robotics and artificial intelligence systems / AFT. Winfield, M. Jirotka // Philosophical Transactions of the Royal Society A: Mathematical, Physical and Engineering Sciences. – 2018. – Vol. 376, No 2133. – P. 1–13. – DOI: 10.1098/rsta.2018.0085.

10. Tubert A. Ethical Machines? / A. Tubert // Seattle University Law Review. – 2018. – Vol. 41, No 4. – P. 1163– 1168.

11. Guo S. Robot Rights / S. Guo, G. Zhang // Science. – 2009. – Vol. 323, No 5916. – P. 876a. – DOI: 10.1126/science.323.5916.876a.

12. Fosch-Villaronga E. Robots, standards and the law: Rivalries between private standards and public policymaking for robot governance / E. Fosch-Villaronga, A.J. Golia // Computer Law & Security Review. – 2019. – Vol. 35, No 2. – P. 129–144. – DOI: 10.1016/j.clsr.2018.12.009.

13. Leenes R. Regulatory challenges of robotics: some guidelines for addressing legal and ethical issues / R. Leenes, E. Palmerini, B.-J. Koops, A. Bertolini, P. Salvini, F. Lucivero // Law, Innovation and Technology. – 2019. – Vol. 9, No 1. – P. 1–44. – DOI: 10.1080/17579961.2017.1304921.

14. Bokovnya A.Yu. Pressing Issues of Unlawful Application of Artificial Intelligence / A.Yu. Bokovnya, I.R. Begishev, Z.I. Khisamova, I.I. Bikeev, E.L. Sidorenko, D.D. Bersei // International Journal of Criminology and Sociology. – 2020. – Vol. 9. – P. 1054–1057. – DOI: 10.6000/1929-4409.2020.09.119.

15. Boden M. Principles of robotics: regulating robots in the real world / M. Boden, J. Bryson, D. Caldwell, K. Dautenhahn, L. Edwards, S. Kember, P. Newman, V. Parry, G. Pegman, T. Rodden, T. Sorrell, M. Wallis, B. Whitby, A. Winfield // Connection Science. – 2017. – Vol. 29, No 2. – P. 124–129. – DOI: 10.1080/09540091.2016.1271400.

16. Van den Berg B. Robots as Tools for Techno-Regulation / B. Van den Berg // Law, Innovation and Technology. – 2011. – Vol. 3, No 2. – P. 319–334. – DOI: 10.5235/175799611798204905.

17. Bennett B., Daly A. Recognising rights for robots: Can we? Will we? Should we? / B. Bennett, A. Daly // Law, Innovation and Technology. – 2020. – Vol. 12, No 1. – P. 1–21. – DOI: 10.1080/17579961.2020.1727063.

18. Baranov P.P. Problems of Legal Regulation of Robotics and Artificial Intelligence from the Psychological Perspective / P.P. Baranov, A.Yu. Mamychev, A.A. Plotnikov, D.Yu. Voronov, E.M. Voronova // Propósitos y Representaciones. – 2020. – Vol. 8, No 2. – e511. – DOI: 10.20511/pyr2020.v8n2.511 .

19. Bokovnya A.Yu. Legal Approaches to Artificial Intelligence Concept and Essence Definition / A.Yu. Bokovnya, I.R. Begishev, Z.I. Khisamova, N.R. Narimanova, L.M. Sherbakova, A.A. Minina // Revista San Gregorio. – 2020. – No 41. – P. 115–121. – DOI: 10.36097/rsan.v1i41.1489.

20. Calo R. Robots as Legal Metaphors / R. Calo // Harvard Journal of Law & Technology. – 2016. – Vol. 30, No 1. – P. 209–237. – DOI: 10.20511/pyr2020.v8n2.511.

21. Danaher J. Robots, Law and the Retribution Gap / J. Danaher // Ethics and Information Technology. – 2016. – Vol. 18, No 4. – P. 299–309. – DOI: 10.1007/s10676-016-9403-3.

22. Bertolini A. Robot companions: A legal and ethical analysis /A. Bertolini, G. Aiello // The Information Society. – 2018. – Vol. 34, No 3. – P. 130–140. – DOI: 10.1080/01972243.2018.1444249.

23. Хисамова З.И. Уголовная ответственность и искусственный интеллект: теоретические и прикладные аспекты / З.И. Хисамова, И.Р. Бегишев // Всероссийский криминологический журнал. – 2019. – Т. 13, № 4. – С. 564–574. – DOI: 10.17150/2500-4255.2019.13(4).564-574.

24. Scherer M.U. Regulating Artificial Intelligence Systems: Risks, Challenges, Competencies, and Strategies / M.U. Scherer // Harvard Journal of Law & Technology. – 2016. – Vol. 29, No 2. – P. 353–400.

25. Bikeev I.I. Criminological risks and legal aspects of artificial intelligence implementation / I.I. Bikeev, P.A. Kabanov, I.R. Begishev, Z.I. Khisamova // ACM International Conference Proceeding Series. – 2019. – No a20. – DOI: 10.1145/3371425.3371476.

26. King T.C. Artificial Intelligence Crime: An Interdisciplinary Analysis of Foreseeable Threats and Solutions / T.C. King, N. Aggarwal, M. Taddeo, L. Floridi // Science and Engineering Ethics. – 2020. – Vol. 26, No 1. – P. 89–120. – DOI: 10.1007/s11948-018-00081-0 .

27. Бегишев И.Р. Криминологические риски применения искусственного интеллекта / И.Р. Бегишев, З.И. Хисамова // Всероссийский криминологический журнал. – 2018. – Т. 12, № 6. – С. 767–775. – DOI: 10.17150/2500-4255.2018.12(6).767-775.

28. Caldwell M. AI-enabled future crime / M. Caldwell, J.T.A. Andrews, T. Tanay, L.D. Griffin // Crime Science. – 2020. – Vol. 9, No 14. – P. 564–577. – DOI: 10.1186/s40163-020-00123-8.

29. Khisamova Z.I. Artificial Intelligence and Problems of Ensuring Cyber Security / Z.I. Khisamova, I.R. Begishev, E. L. Sidorenko // International Journal of Cyber Criminology. – 2019. – Vol. 13, No 2. – P. 564–577. – DOI: 10.5281/zenodo.3709267.

30. Henschel A. Social Cognition in the Age of Human–Robot Interaction / A. Henschel, R. Hortensius, E.S. Cross // Trends in Neurosciences. – 2020. – Vol. 43, No 3. – P. 373–384. – DOI: 10.1016/j.tins.2020.03.013.

31. Rahwan I. Machine behavior / I. Rahwan, M. Cebrian, N. Obradovich, et al. // Nature. – 2019. – Vol. 568. – P. 477–486. – DOI: 10.1038/s41586-019-1138-y.

32. Габов А.В. Эволюция роботов и право XXI в. / А.В. Габов, И.А. Хаванова // Вестник Томского государственного университета. – 2018. – № 435. – С. 215–233. – DOI: 10.17223/15617793/435/28.

33. Turchin A. Classification of global catastrophic risks connected with artificial intelligence / A. Turchin, D. Denkenberger // AI & Society. – 2020. – Vol. 35, No 1. – P. 147–163. – DOI: 10.1007/s00146-018-0845-5.

34. Бабаев М.М. Риски как компонент детерминационного комплекса преступности / М.М. Бабаев // Вестник Нижегородской академии МВД России. – 2018. – № 1 (41). – С. 104–110. DOI: 10.24411/2078-5356-2018-00014.

35. Deng B. Machine ethics: The robot’s dilemma / B. Deng // Nature. – 2015. – Vol. 523. – P. 24–26. – DOI: 10.1038/523024a

36. Robles Carrillo M. Artificial intelligence: From ethics to law / M. Robles Carrillo // Telecommunications Policy. – 2020. – Vol. 44, No 6. – P. 1–16. – DOI: 10.1016/j.telpol.2020.101937.

37. Robles Carrillo M. La gobernanza de la inteligencia artificial: contexto y parámetros generales / M. Robles Carrillo // Revista Electrónica de Estudios Internacionales. – 2020. – No 39. – P. 1–27. – DOI: 10.17103/reei.39.07.

38. Fosch Villaronga E., Roig A. European regulatory framework for person carrier robots / E. Fosch Villaronga, A. Roig // Computer Law & Security Review. – 2017. – Vol. 33, No 4. – P. 502–520. – DOI: 10.1016/j.clsr.2017.03.018

39. González M. Regulacion Legalde la Robotica y la Inteledencia Artificial: Retos de Futurо / M. González // Revista Jurídica de la Universidad de León. – 2017. – No 4. – P. 25–50. – DOI: 10.1016/j.clsr.2017.03.018.

40. Clarke R. Principles and business processes for responsible AI / R. Clarke // Computer Law & Security Review. – 2019. – Vol. 35, No 4. – P. 410–422. – DOI: 10.1016/j.clsr.2019.04.007.

41. Bertolini A. Wearable Robots: A Legal Analysis. In: González-Vargas J., Ibáñez J., Contreras-Vidal J., van der Kooij H., Pons J. (eds). Wearable Robotics: Challenges and Trends. Biosystems & Biorobotics. Springer. – 2017. – Vol. 16. – P. 201–204. – DOI: 10.1007/978-3-319-46532-6_33.

42. Sumantri V.K. Legal Responsibility on Errors of the Artificial Intelligence-based Robots / V.K. Sumantri // Lentera Hukum. – 2019. – Vol. 6, No 2. – P. 333–348. – DOI: 10.19184/ejlh.v6i2.10154.

43. Тихомиров Ю.А. Риск в фокусе правового регулирования / Ю.А. Тихомиров // Право и современные государства. – 2017. – № 6. – С. 9–23. DOI: 10.14420/ru.2017.6.1.

44. Бабурин В.В. Риск как основание дифференциации уголовной ответственности : автореф. дис. ... канд. юрид. наук / В.В. Бабурин. – Омск, 2009. – 39 с.

45. Тихомиров Ю.А. Роботизация: динамика правового регулирования / Ю.А. Тихомиров, Б.Н. Сариа // Вестник Санкт-Петербургского университета. Право. – 2020. – Т. 11, № 3. – С. 532–549. DOI: 10.21638/spbu14.2020.301.

46. Воронин В.Н. Уголовно-правовые риски развития цифровых технологий: постановка проблемы и методы научного исследования / В.Н. Воронин // Вестник Университета имени О.Е. Кутафина (МГЮА). – 2018. – № 12. – С. 73–80. DOI: 10.17803/2311-5998.2018.52.12.073-080.

47. Бабаев М.М. Феномен риска в контексте профилактической политики (криминальная рискология) / М.М. Бабаев, Ю.Е. Пудовочкин // Вестник Санкт-Петербургского университета. Право. – 2019. – Т. 10, № 1. – С. 136–148. DOI: 10.21638/spbu14.2019.110.

48. Грачева Ю.В. Роботизация и искусственный интеллект: уголовно-правовые риски в сфере общественной безопасности / Ю.В. Грачева, А.А. Арямов // Актуальные проблемы российского права. – 2020. – Т. 15, № 6. – С. 169–178. DOI: 10.17803/1994-1471.2020.115.6.169-178.

49. Камалова Г.Г. Некоторые вопросы уголовно-правовой ответственности в сфере применения систем искусственного интеллекта и робототехники / Г.Г. Камалова // Вестник Удмуртского университета. Серия «Экономика и право». – 2020. – № 3. – С. 382–388. DOI: 10.35634/2412-9593-2020-30-3-382-388.

50. Мосечкин И.Н. Искусственный интеллект и уголовная ответственность: проблемы становления нового вида субъекта преступления / И.Н. Мосечкин // Вестник Санкт-Петербургского университета. Право. – 2019. – Т. 10, № 3. – 461–476. DOI: 10.21638/spbu14.2019.304.

51. Gless S. If Robots cause harm, Who is to blame? Self-driving Cars and Criminal Liability / S. Gless, E. Silverman, T. Weigend // New Criminal Law Review. – 2016. – Vol. 19, No 3. – P. 412–436. – DOI: 10.1525/nclr.2016.19.3.412.

52. Bigman Y.E. Holding Robots Responsible: The Elements of Machine Morality / Y.E. Bigman, A. Waytz, R. Alterovitz, K. Gray // Trends in Cognitive Sciences. – 2019. – Vol. 23, No 5. – P. 365–368. – DOI: 10.1016/j.tics.2019.02.008.

53. Matthews P. Technology Definitions. In: Automation and Collaborative Robotics / P. Matthews, S. Greenspan. – Berkeley : Apress, 2020. – P. 45–67. – DOI: 10.1007/978-1-4842-5964-1_2.

54. Ben-Ari M. Robots and Their Applications. In: Elements of Robotics / M. Ben-Ari, F. Mondada. – Berlin : Springer, 2018. – P. 1-20. – DOI: 10.1007/978-3-319-62533-1_1.

55. Gardina D. Social Robot: the Problem of Definition and Classification / D. Gardina // Artificial Societies. – 2018. – Vol. 13, No 1–2. – DOI: 10.18254/S0000115-5-1.

56. Redfield S. A definition for robotics as an academic discipline / S. Redfield // Nature Machine Intelligence. – 2019. – No 1. – P. 263–264. – DOI: 10.1038/s42256-019-0064-x.

57. Lesort T. Continual Learning for Robotics: Definition, Framework, Learning Strategies, Opportunities and Challenges / T. Lesort, V. Lomonaco, A. Stoian, D. Maltoni, D. Filliat, N. Diaz Rodriguez // Information Fusion. – 2020. – Vol. 58. – P. 52–68. – DOI: 10.1016/j.inffus.2019.12.004.

58. Vicentini F. Terminology in safety of collaborative robotics / F. Vicentini // Robotics and Computer-Integrated Manufacturing. – 2020. – Vol. 63. – P. 101921. – DOI: 10.1016/j.rcim.2019.101921.

59. Белых В.И. Системообразующие признаки классификации рисков предприятий / В.И. Белых, С.Г. Полковникова // Наука о человеке: гуманитарные исследования. – 2016. – № 2 (24). – С. 177–182. DOI: 10.17238/issn1998-5320.2016.24.177.

60. Кабанов П.А. Криминологическая таксономия: понятие, содержание, таксономические единицы и основания их группировки / П.А. Кабанов // Криминологический журнал БГУЭП. – 2007. – № 1–2. – С. 25–29.

61. Бикеев И.И. Материальные объекты повышенной опасности в российском уголовном праве: общие и специальные вопросы / И.И. Бикеев. – Казань : Познание, 2007. – 272 с.

62. Mishchenko E.V. Autonomous Robot as a Source of Increased Danger in Law: Harm Prevention Problems / E.V. Mishchenko, T.V. Letuta, A.E. Shukhman // 1st International Scientific and Practical Conference on Digital Economy (ISCDE 2019). – 2019. – Vol. 105. – P. 764–768. DOI: 10.2991/iscde-19.2019.149.


Для цитирования:


Бегишев И.Р. Криминологическая классификация роботов: риск-ориентированный подход. Правоприменение. 2021;5(1):185-201. https://doi.org/10.52468/2542-1514.2021.5(1).185-201

For citation:


Begishev I.R. Criminological classification of robots: risk-based approach. Law Enforcement Review. 2021;5(1):185-201. https://doi.org/10.52468/2542-1514.2021.5(1).185-201

Просмотров: 94


Creative Commons License
Контент доступен под лицензией Creative Commons Attribution 4.0 License.


ISSN 2542-1514 (Print)
ISSN 2658-4050 (Online)