ПРАВОВАЯ ПРИРОДА И РАЗГРАНИЧЕНИЕ ОТВЕТСТВЕННОСТИ СИСТЕМ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА

LEGAL NATURE AND DIVISION OF RESPONSIBILITY OF ARTIFICIAL INTELLIGENCE SYSTEMS

В современном мире информация и технологии имеют большое значение в формировании информационного общества. Основатели рационализма, такие как Рене Декарт, Бенедикт Спиноза и др. заложили предпосылки к созданию системы искусственного интеллекта. Они считали, что знания можно выводить дедуктивным методом, так как мышление человека аналогично аксиоме в геометрии, и выдвинули гипотезу, которая впоследствии стала базой для создания системы искусственного интеллекта.

В соответствии с Распоряжением Правительства РФ от 01.11.2013 № 2036-р «Об утверждении развития отрасли информационных технологий в Российской Федерации на 2014-2020 годы и на перспективу до 2025 года» технологии искусственного интеллекта в 2020 г. обретут большую значимость и станут необходимыми технологиями в повседневной жизнедеятельности человека. А также Указ Президента от 09.05.2017 № 203 «О стратегии развития информационного общества в Российской Федерации на 2017-2030 годы» постановил, что технологии искусственного интеллекта относятся к одному из основных направлений развития информационных технологий в РФ. Следовательно, в связи с общественной значимостью технологий систем искусственного интеллекта, данная тема очень актуальна на современной стадии развития нашего общества, так как это новое явление, которое мало изучено. Систему искусственного интеллекта можно считать прорывом научно-технической революции XXI в.

Термин искусственный интеллект (artificial intelligence) предложен в 1956 г. на семинаре с аналогичным названием в Станфордском университете (США).[1]

Под интеллектом обычно понимается возможность ставить и достигать цели при изменяющихся обстоятельствах, способность выбирать из множества целей те, которые скорее ведут к желаемому состоянию, адаптация к изменениям в среде и внутренним состояниям путем изменения их изменений.[2] По традиции, термин «интеллект» связан только с человеком. В философии интеллект – это способность мышления или же рациональное познание. Согласно толковому словарю русского языка, интеллект – это мыслительная способность людей.

Дж. Маккарти под искусственным интеллектом понимает науку и технологию создания интеллектуальных машин, особенно интеллектуальных компьютерных программ. Это связано с аналогичной задачей использования компьютеров для понимания человеческого интеллекта, но ИИ не должен ограничиваться биологически наблюдаемыми методами.[3]

         Дж. Аллен искусственный интеллект определяет как науку о создании машин, решающих задачи, которые могут решать люди.[4]

Искусственный интеллект стремительно входит в обыденную жизнь человека, например, беспилотное управление самолетом, также в бухгалтерской сфере – нейронные сети, прогноз диагноза больных пациентов и т.д. Например, в Autodesk считают, что искусственный интеллект может учитывать гораздо больше факторов, чем человек, и, таким образом, давать более точные, логичные и даже более креативные решения сложных проблем. В Оксфордском университете вообще высказывают предположения о том, что искусственный интеллект в недалеком будущем может заменить штатных журналистов и писать за них обзоры и статьи (и того и гляди выиграет Пулитцеровскую премию).[5]

Первой страной, в которой возник вопрос необходимости законодательного регулирования отношений между человеком и системой искусственного интеллекта является Южная Корея. В этой стране существует этический устав роботов, корейское право развития искусственного интеллекта роботов. В РФ развивается государственная программа «Цифровая экономика в РФ». Но, тем не менее, не смотря на правовое развитие систем искусственного интеллекта, правового закрепления понятия нет в официальных документах, что обусловлено отсутствием единого подхода к определению сущностных характеристик этой системы.

В результате внедрения систем искусственного интеллекта в жизнь общества возникает вопрос о правовой природе данной технологии.

         Есть ученые, которые смотрят на правовую природу систем искусственного интеллекта, отталкиваясь от Г.Кельзена «Чистое учение о праве». Согласно этой точке зрения субъект права – это конструкция, которая необходима для того, чтобы описывать фактический состав. Это значит, что можно ввести новое понятие «электронное лицо», которое станет субъектом права. Под электронным лицом будет подразумеваться носитель искусственного интеллекта.

         Ужов Ф.В. предложил рабочее определение электронного лица. Электронное лицо – это носитель искусственного интеллекта (машина, робот, программа), обладающий разумом, аналогичным человеческому, способностью принимать осознанные и не основанные на заложенном создателем такой машины, робота, программы алгоритме решения, и в силу этого наделенный определенными правами и обязанностями.[6] В случае определения систем искусственного интеллекта в качестве субъекта права, то у этих систем должны быть определенные права, в том числе и фундаментальные. Такими правами могут являться право на неприкосновенность и право на авторство. Но раз будут существовать у систем искусственного интеллекта права, то должны быть и обязанности (ответственность за совершенные действия).

Однако Л.Соулум выдвинул аргументы, которые доказывают глупость наделения системы искусственного интеллекта неотъемлемыми правами. Согласно его точке зрения, искусственный интеллект – это не человек, это техника, которая не может себя ставить наравне с человеком. У него нет чувств, эмоций, интересов, как у человека, это бездушная запрограммированная машина, которая является собственностью людей. Л.Соулум также выдвигает и контраргументы.  Аргумент о недостатке сознания у искусственного интеллекта трудно оценить, так как мы сами не обладаем должным пониманием того, чем же является сознание. Правовой аргумент может быть таковым: даже если искусственный интеллект может симулировать человеческий интеллект, он не будет обладать самосознанием, и следовательно — он не может претендовать на особые фундаментальные права. Ключевой вопрос здесь следующий: может ли искусственный интеллект расценивать свою жизнь как благо? С другой стороны, если сознание является атрибутом интеллекта, и если все такие атрибуты являются продуктами процессов, происходящих в мозге, и если такие процессы могут быть смоделированы на компьютере, то, быть может, и сознание может быть воссоздано искусственным интеллектом. Другими словами, если сознание может быть продуктом нейронов, то почему оно не может быть продуктом транзисторов?[7] Все эти вопросы на сегодняшний день не находят определенного ответа, и ещё больше показывают сложность в определении правовой природы искусственного интеллекта. К примеру, робота можно запрограммировать так, чтобы он танцевал. В данном случае, свою работу он будет выполнять  механически, и не будет являться роботом наделенным системой искусственного интеллекта. Это будет вещь. А если робот научится танцевать сам, исходя из наблюдений за человеком, то можно говорить о наличии системы искусственного  интеллекта. И тогда кажется будто он тоже человек, только в другом облике. Да, у него в установке есть определенная программа, но такой робот способен самообучаться, на основе своего опыта и не допускать ошибки. Можно такого робота создать для того, чтобы он сочинял музыку. Кто в таком случае будет автором произведения? Робот? А как защитить его права на авторство, если он не будет являться субъектом права? Возникает множество вопросов, ответов на которые пока нет. Потому что можно подойти к проблеме статуса с двух сторон и определить его как субъект права и как объект права, в зависимости от его функционала.

Д. Гришин (глава совета директоров Mail.ru и основатель компании Grishin Robotics) представил общественности концепцию закона о робототехнике, правовое положение искусственного интеллекта в которой сходно с правовым положением животных.[8] Он считает, роботы должны быть объектами права, потому что у них нет эмоций, поэтому они не могут быть субъектами права. Он считает, что необходимо создать единый реестр роботов на международной арене и должна быть ответственность (в том числе уголовная) для разработчиков роботов, в случае причинения роботами ущерба ввиду их использования другими людьми. Но определение системы искусственного интеллекта как объекта права не учитывает способность к мышлению и принятию самостоятельных решений, а этими свойствами такой робот наделен. Следовательно, у него присутствуют признаки субъектности. Но субъектам права свойственна воля, однако у системы искусственного интеллекта её нет.

Сложность в определении правового статуса обусловлена тем, что роботы с системой искусственного интеллекта обладают как признаками объекта, так признаками и субъекта права, поэтому точно отнести данную технологию к объекту или субъекту пока не представляется возможным.

         В научной литературе имеются разные подходы к возможности привлечения к ответственности за работу искусственного интеллекта, включая: ответственность лица, программировавшего робота; ответственность лица использующего робота в качестве инструмента; ответственность самого интеллектуального робота.[9]

Если рассматривать робота в качестве объекта права, то ответственность за действия, совершенные роботом несёт лицо, которое использовало данного робота в качестве инструмента. Причем ответственность будут нести как за объект повышенной опасности. Потому что невозможно осуществить тотальный контроль робота с системой искусственного интеллекта.

Лица, которые обладают правом собственности на AL-робота, являются его владельцем. В данном случае речь идет именно о лице, который фактически обладает данной вещью. Здесь речь идет об управлении таким роботом, а так как робот управляет собой сам, как раз благодаря системе искусственного интеллекта, то, исходя из общего подхода к определению ответственного лица, ответственность будет нести владелец AL-робота. Но если владелец, в соответствии с ст. 1079 ГК РФ докажет, что объект владения в результате противоправных действий других лиц выбыл из его обладания, то ответственность будет лежать на лице, противоправно завладевшим этим объектом. В случае виновного поведения владельца в противоправном изъятии этого источника из его обладания ответственность может быть возложена как на владельца, так и на лицо, противоправно завладевшее источником повышенной опасности.13 То есть всем участникам правоотношения даётся правовая оценка их поведения.

Если допустить производство некачественного выпуска роботов с системой искусственного интеллекта, то ответственности подлежит создатель такого робота. Сложно предугадать действия робота непрофессионалу (владельцу), поэтому владелец невсегда может повлиять на работу робота. В соответствии со ст. 1095 ГК РФ вред, который причинен жизни, здоровью или имуществу в результате каких-либо недостатков роботов с системой искусственного интеллекта, либо же в результате неполной или недостоверной информации о нем, возмещается либо продавцом, либо изготовителем. И выбор возложения ответственности осуществляет потерпевший (ст. 1096 ГК РФ). Нельзя забывать о разработчике, так как искусственный интеллект подобен ребенку – что в него вложишь, таким он и будет.

Если же рассматривать роботов с системой искусственного интеллекта в качестве субъектов права, то ответственность за причинённый вред будет лежать на этом роботе. В данном случае речь идет о компенсации ущерба, штрафе и дисквалификации. Потому что моральные наказания для робота будут смешны, ведь это не человек, у робота нет ценностей, эмоций. Касательно уголовной ответственности сторонники наделения AL-роботов правами субъекта предлагают ввести уничтожение такого робота.  

Таким образом, можно сделать вывод, что среди экспертов не утихают споры по определению правового статуса технологий с использование систем искусственного интеллекта, так как это сложная конструкция, которая обладает как признаками объекта, так и признаками субъекта права. Однако большинство экспертов придерживаются мнения, что подобные технологии обладают статусом вещи и являются объектом права. Я также больше придерживаюсь той точки зрения, которая относит правовой статус AL-роботов к объекту права. Потому что если мы не стремимся к тому, чтобы нас заменили роботы, то они не могут обладать статусом субъекта права.

Технология с использованием системы искусственного интеллекта – это машина, которая создана человеком. Ключевое здесь слово «машина», это умная неживая техника, которая не имеет души, чувств и эмоций, она не имеет воли. Поэтому, несмотря на уникальность данной технологии, на её способность к самосовершенствованию, она не полностью самостоятельна, так как и любая машина может выйти из строя и будет нуждаться в исправлении неполадок человеком.

Следовательно, рассматривая вопрос ответственности, то ответственность за причинение вреда технологией искусственного интеллекта как объекта права будет нести или владелец, или создатель или пользователь, в случае противоправного изъятия вещи. Если рассматривать технологии искусственного интеллекта в качестве субъекта права, то ответственность будет нести сама машина. Однако я не разделяю данной точки зрения, но такой вариант развития событий имеет место быть.

         Искусственный интеллект внес в нашу жизнь немало изменений, будет ли это прорывом или же проблемой для нас будет видно позже.

Список используемых источников и научной литературы

Allen J. AI Growing up / J. Allen // AI MAGAZINE. — 1998 — V. 19 —№4. — Р. 13–23.

McCarthy J. What is artificial intelligence? URL:http://www-formal.stanford.edu/jmc/whatisai/node1.html (дата обращения: 19.05.2020)

Искусственный интеллект: что о нём думают учёные URL: https://habr.com/ru/company/1cloud/blog/281282/ (дата обращения: 19.05.2020)

Лаптев В.А. Понятие искусственного интеллекта и юридическая ответственность за его работу // Право. Журнал Высшей школы экономики. № 2 2019 С. 79–102.

Масленникова О.Е., Гаврилова И.В. Основы искусственного интеллекта: учеб. пособие / О.Е. Масленникова, И.В. Гаврилова. — 3-е изд. — М. : ФЛИНТА, 2019.

Павлов С.Н. Системы искусственного интеллекта : учеб. пособие. В 2-х частях. / С.Н. Павлов. — Томск: Эль Контент, 2011 — Ч. 1 — 11 c.

Понкин Игорь Владиславович, Редькина Алена Игоревна Искусственный интеллект с точки зрения права // Вестник РУДН. Серия: Юридические науки. 2018. №1.

Ужов Фёдор Вадимович Искусственный интеллект как субъект права // Пробелы в российском законодательстве. 2017. №3. 356-360 с.

Шестак Виктор Анатольевич, Волеводз Александр Григорьевич Современные потребности правового обеспечения искусственного интеллекта: взгляд из России // Всероссийский криминологический журнал. 2019. №2. 197–206 с.

 

[1] Масленникова О.Е., Гаврилова И.В. Основы искусственного интеллекта: учеб. пособие / О.Е. Масленникова, И.В. Гаврилова. — 3-е изд. — М. : ФЛИНТА, 2019. – 9 С.

[2] Павлов С.Н. Системы искусственного интеллекта : учеб. пособие. В 2-х частях. / С.Н. Павлов. — Томск: Эль Контент, 2011 — Ч. 1 — 11 c.

[3] McCarthy J. What is artificial intelligence? URL:http://www-formal.stanford.edu/jmc/whatisai/node1.html (дата обращения: 19.05.2020)

[4] Allen J. AI Growing up / J. Allen // AI MAGAZINE. — 1998 — V. 19 —№4. — Р. 13–23.

[5] Искусственный интеллект: что о нём думают учёные URL: https://habr.com/ru/company/1cloud/blog/281282/ (дата обращения: 19.05.2020).

[6] Ужов Фёдор Вадимович Искусственный интеллект как субъект права // Пробелы в российском законодательстве. 2017. №3. 356-360 с. URL: https://cyberleninka.ru/article/n/iskusstvennyy-intellekt-kak-subekt-prava (дата обращения: 22.05.2020).

[7] Понкин Игорь Владиславович, Редькина Алена Игоревна Искусственный интеллект с точки зрения права // Вестник РУДН. Серия: Юридические науки. 2018. №1. URL: https://cyberleninka.ru/article/n/iskusstvennyy-intellekt-s-tochki-zreniya-prava (дата обращения: 22.05.2020).

[8] Шестак Виктор Анатольевич, Волеводз Александр Григорьевич Современные потребности правового обеспечения искусственного интеллекта: взгляд из России // Всероссийский криминологический журнал. 2019. №2. 197–206 с. URL: https://cyberleninka.ru/article/n/sovremennye-potrebnosti-pravovogo-obespecheniya-iskusstvennogo-intellekta-vzglyad-iz-rossii (дата обращения: 22.05.2020).

[9] Лаптев В.А. Понятие искусственного интеллекта и юридическая ответственность за его работу // Право. Журнал Высшей школы экономики. № 2 2019 С. 79–102.