Доклад на тему искусственный интеллект и право

Обновлено: 08.07.2024

Как многие знают, на прошедшей неделе в Российской Академии Народного Хозяйства и Государственной Службы прошёл Гайдаровский форум — крупнейшая московская конференция для экономистов и юристов, которая в этом году отметила своё 10-летие. В этом году она была практически полностью посвящена цифровизации экономики, так что много секций было с участием экспертов в области цифровых технологий.

Итак, нас всё больше и больше окружают в обычной жизни и на работе различного рода искусственные интеллектуальные системы, и часто мы даже не задумываемся об этом. Они развиваются и эволюционируют, так что через какое-то время мы внезапно можем столкнуться с тем, что ИИ-системы станут полноценными участниками социальных отношений, и им придётся дать права. Давайте поразмышляем, как это может быть.

Как обычно, все желающие получить эту презентацию прямо сейчас, могут зайти в Телеграм и обратиться к моей ассистентке Натали , которую попросить прислать презентацию с Гайдаровского форума. Вот видите, ИИ-системы уже выполняют роль секретаря, ассистента преподавателя и персонального помощника. Текущий рекорд у Натали — 104 реплики, которые ей были заданы одним человеком в рамках одного диалога. Это, честно говоря, что-то невообразимое, так как люди столько друг с другом в чатах не общаются. Можно ли говорить о том, что она прошла тест Тьюринга? Впрочем, если ей это предложить, то она отмахнётся, сказав, что не занимается всякими глупостями.

По результатам этой части доклада к Натали обратилось более 20 человек, каждый получил презентацию, и сама Натали практически не ошибалась в ответах на вопросы. Она молодец.

Целью моего доклада является попытка запустить в нашем междисциплинарном коллективе что-то типа экспертного обсуждения проблемы правоспособности ИИ-систем. Я постараюсь показать вам эту проблему с необычной для вас точки зрения, выведя из зоны обыденности. Так что давайте посмотрим.

Прежде всего я хочу сказать, что сегодня Искусственный Интеллект — это широкая междисциплинарная область исследований, в рамках которой осуществляются попытки решить обычно слабо алгоритмизируемые или неалгоритмизируемые задачи так, как это обычно делает человек. Я заостряю внимание: Искусственный Интеллект — это не искусственное существо, выращенное нами in silico . Это всего лишь набор методов, которые позволяют разработать и сделать искусственные интеллектуальные системы для решения тех или иных задач. На представленной аллюзии на периодическую таблицу химических элементов я попытался показать, какое количество методов и подходов в рамках Искусственного Интеллекта было разработано с 50-х годов прошлого века. Наука и технологии не стоят на месте, и всё это продолжает развиваться. Но я ещё раз призываю вас не думать об Искусственном Интеллекте как о самоосознающем искусственном существе.

Теперь давайте посмотрим, что представляет собой искусственная интеллектуальная система. Принято говорить, что ИИ-система — это такая техническая система, которая обладает двумя свойствами: автономностью и адаптивностью. Разберёмся, что это такое.

Ну вот пример автономной искусственной интеллектуальной системы, который сейчас у всех на слуху — беспилотный автомобиль.

Свойство автономности обозначает, что ИИ-система самостоятельно принимает решения в области своей экспертизы. Ну вот беспилотный автомобиль сам решает, как ехать из точки посадки пассажира в точку назначения. Им никто не управляет. Система управления беспилотным автомобилем является подсистемой самого автомобиля.

Под адаптивностью чаще всего подразумевается возможность технической системы обучаться.

Итак, адаптивность — это свойство искусственной интеллектуальной системы постоянно обучаться и изменяться так, чтобы адекватно реагировать на новые ситуации, в которые она попадает. Например, робот-пылесос — это яркий пример адаптивной ИИ-системы. Он выполняет свою функцию независимо от того, в какую комнату его поставить. Некоторые модели составляют карту, некоторые используют методы машинного обучения с подкреплением, но факт налицо — они адаптивны к своей среде и адекватно реагируют на изменяющиеся условия, если изменения происходят в допустимых пределах.

Это было краткое введение в Искусственный Интеллект, а теперь давайте перейдём к непосредственной теме моего доклада. Итак, могут ли искусственные интеллектуальные системы получить правосубъектность? Действительно, традиционно у нас организовалось два типа лиц — физические и юридические. Ждёт ли нас появление третьего типа — технического лица ?

Далее для того чтобы стать правосубъектным лицом, необходимо получить обязанности. Здесь у ИИ-систем всё в порядке, так как их обязанности определяются их функциональностью. Беспилотный автомобиль обязан везти пассажира из пункта А в пункт Б. Робот-пылесос обязан убирать квартиру.

И, наконец, третий аспект — это ответственность. Скорее всего, это важнейший аспект правосубъектности, так как без ответственности прав не бывает. Поэтому рассмотрим это более подробно на следующих слайдах.

Давайте опять посмотрим на наш любимый беспилотный автомобиль. Он выполняет важную функцию — обеспечивает безопасное и эффективное перемещение своего клиента из пункта А в пункт Б. А что если он за эту услугу будет получать деньги? Будет, например, блокчейн, в котором у каждой ИИ-системы будет кошелёк, куда будет поступать оплата за её услуги. Проехались на беспилотном автомобиле, заплатили за услугу, ваши деньги попали в кошелёк в блокчейне. Куда беспилотник потом сможет эти деньги деть? Во-первых, он сможет оплачивать свои потребности — топливо, техническое обслуживание и так далее. Ну то есть он станет полноценным участником экономических отношений. Во-вторых, он сможет оплачивать штрафы. Врезался в столб — оплати его восстановление. Повредил пассажира — оплати его лечение. И, наконец, в-третьих, из этих денег может формироваться фонд базового основного дохода. Ведь нам придётся как-то содержать кучу людей, которые лишились работы из-за появления технических лиц. Вот рос мальчик, который всё своё детство и отрочество мечтал стать дальнобойщиком, как его отец. Вырос, а все фуры стали беспилотными. Пока он там переучивается на кого-то другого, ему надо оплачивать жизнь. Зарабатывающие ИИ-системы помогут.

И третий важный аспект — это возможность объяснения своих решений. Если мы используем ИИ-системы в так называемых областях доверия, когда люди зависят от адекватного функционирования технических лиц, то такие технические лица должны иметь возможность объяснения своих поступков и действий. Ну вот будет, к примеру, суд, на котором подсудимым будет техническое лицо, и оно должно ответить за свои поступки, а это значит, что оно должно их объяснить. Объяснить свои мотивы и правила принятия решений. Здесь нам поможет концепция XAI — объяснимого Искусственного Интеллекта, которая всё детальней и детальней сегодня начинает рассматриваться.

Но будущее всё ещё неясно. Всё, что я рассказал в своём докладе, все поставленные вопросы всё ещё ждут своего внимательного исследователя. И я приглашаю вас.

Актуальность исследуемой проблемы обусловлена всесторонним проникновением искусственного интеллекта в правовую деятельность человека, влияния научных технологий на правовую сферу жизни людей. Знаменитые ученые давно интересуются данной темой. В России важными целями являются приоритетная поддержка научных изысканий в области искусственного интеллекта, обеспечения возможности использования современных указанных технологий для повышения уровня жизни людей, получения высококачественных услуг в области здравоохранения, образования, медицины и иных отраслях общественной жизни; законодательное закрепление перспективных направлений развития искусственного интеллекта в современном мире. Большое значение имеет изучение в науке различных подходов к созданию искусственного интеллекта, определения мер юридической ответственности за неправомерные действия в данной области, влияния научных технологий на конкуренцию со стороны человеческой деятельности.

Ключевые слова: правовая деятельность человека, искусственный интеллект, научный подход, юридическая ответственность.

На данный момент большое внимание юристов привлекает изучение влияния искусственного разума на правовую сферу жизни общества. Современному человеку необходимо искать новые пути успешного сосуществования в период нестабильности, неопределенности, сложности, неоднозначности. В настоящее время одной из наиболее приоритетных целей нашей страны является разработка нормативно-правовых актов, регулирующих развитие искусственного интеллекта в Российской Федерации, их систематичное, последовательное внедрение в общественную жизнь с соблюдением законных интересов граждан нашего государства. Недостаточно решенной остается проблема взаимоотношений искусственного разума и морали, нравственности, которые являются атрибутами человеческой деятельности.

Что же такое искусственный интеллект? Иску́сственный интелле́кт — свойство интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека; наука и технология создания интеллектуальных машин, особенно интеллектуальных компьютерных программ.

Многочисленные группы ученых занимаются научными исследованиями в данной области. Например, в США созданы специальные центры по изучению влияния искусственного разума на общественную жизнь: Массачусетский технологический университет, Исследовательский институт машинного интеллекта. В Германии этим занимается Исследовательский центр по искусственному интеллекту, в России влияние искусственного интеллекта на правовую сферу человека рассматривает Научный совет по методологии искусственного интеллекта РАН.

В первую очередь, речь идет о защите законных интересов, прав и свобод граждан Российской Федерации, сохранения права на труд, возможности легкого доступа к получению знаний в данной научной области. Необходимо не допустить снижение конкурентной способности человека на рынке труда в связи активным проникновением ИИ во многие сферы общественной жизни. Важным является принцип прозрачности указанных научных технологий, люди могут на законных основаниях получать доступ к пониманию функционирования, работы искусственного разума. Необходимо защитить права человека от умышленного причинения вреда в результате его взаимодействия с научными разработками в области искусственного интеллекта.

Не подлежит никаким сомнениям, что искусственный интеллект призван своим активным проникновением в общественную жизнь поднять уровень жизни всех людей без исключения, обеспечить на высшем уровне обороноспособность нашего государства, повысить качество услуг в области здравоохранения, образования, медицины. Именно поэтому органы государственной власти РФ ставят перед собой приоритетной целью развитие ИИ, законодательное урегулирование новых научных разработок.

Именно в правовое пространство, где выстроилась монопольная деятельность человека и его объединений, все больше проникает искусственный разум. Человек пожелал освободить себя от выполнения рутинной правовой деятельности, таких как: оплачивать налоги, заключать, подписывать различные договора, сделки и т. д., путем переведения обязанностей по решению вышеуказанных и иных задач в области права на искусственный интеллект. Но в итоге искусственный разум начинает побеждать человека. Ученые говорили о том, что искусственный интеллект никогда не сможет ставить перед собой целей, выражать эмоции, чувства, но исследования взаимодействия машин и человека доказывают обратное. Люди, которые перестают думать о собственном духовном саморазвитии, очень сильно рискуют потерять самих себя.

Прогнозирование влияния искусственного интеллекта на правовое поведение человека основывается на разработанных учеными-нейролингвистами, психологами подходах к реализации задач искусственного интеллекта в правовом пространстве. Таких подходов много. Рассмотрим некоторые из них.

В конце XX в. появился агент-ориентированный подход. Ученые стали задумываться над тем, что вычислительная функция искусственного интеллекта реализуется успешно, если в машину запрограммированы четкие цели, которые она и достигает. Значит, машина может выступать как интеллектуальный агент мира, воспринимать из окружающей действительности необходимую информацию через специальные устройства — датчики. Далее она способна сама влиять на мир с помощью исполнительных механизмов, которые закладывает в нее человек. Гибридный подход исходит из необходимости обеспечения взаимодействия нейронных и символьных моделей, которые способны продуцировать когнитивные и вычислительные возможности интеллекта.

Так получилось, что искусственный интеллект уже частично заменяет человека в правовой сфере жизни, а именно в делах, связанных с управлением собственностью, рассмотрением гражданских дел, составлением бухгалтерских отчетов. Важной составляющей правовой деятельности человека является не только соблюдение строгих формулировок в законе, но также и человеческие чувства, эмоции, которые в рамках закона могут способствовать достижению определенных необходимых целей. Высокообразованному, умному, думающему, понимающему, культурному человека нельзя потерять свою прерогативу, упустить данную составляющую правовой деятельности, иначе человека вскоре полностью заменит искусственный разум.

Важным является вопрос определения мер юридической ответственности за неправомерные действия, совершаемые машинами. Искусственный интеллект постоянно совершенствуется, он способен решать многообразные задачи в правовой деятельности человека, как было сказано выше. Искусственный разум может дать сбой и своими действиями совершить неправомерное деяние. Ведутся споры о применении в таком случае ответственности к ИИ. Но, как правило, большинство юристов эту возможность отрицают, так как отсутствует важный элемент правонарушения — вина. Искусственный интеллект в настоящее время показывают автономную волю, не может действовать также осознанно и руководить своими действиями за счет сложных мыслительных процессов как человек. С точки зрения многих зарубежных авторов, юридическая ответственность за неправомерные действия в определенной области общественной жизни должна возлагаться на производителя или оператора, но никак не на машину.

В Указе Президента РФ от 10 октября 2019 г. № 490 «О развитии искусственного интеллекта в Российской Федерации” четко определены перспективные направления развития в данной области путем принятия определенных новелл как в отечественном, так и в международном праве:

1) на международном уровне должна быть принята Конвенция о запрете использования технологий искусственного интеллекта в военных целях, а также в целях установления геополитической гегемонии какого-либо государства либо иных целях, направленных против прав и законных интересов человека;

2) необходима Международная правовая конвенция о невозможности наделения систем искусственного интеллекта правосубъектностью;

3) в национальном отраслевом законодательстве следует закрепить этические принципы развития технологий искусственного интеллекта (возможно, по аналогии с соответствующими разработками на уровне Евросоюза);

4) необходимы запретительные нормы конституционного права на использование технологий искусственного интеллекта в политических избирательных процессах в целях воздействия на избирателей и результаты избирательной компании;

5) необходима профессиональная с позиции юридической техники имплементация законов робототехники в правовую сферу

6) в гражданском законодательстве должны быть закреплены нормы, обеспечивающие защиту от использования технологий искусственного интеллекта в качестве средства недобросовестной конкуренции;

7) искусственный интеллект оказывает влияние на правовую деятельность в части замены многих функций человека, что приведет к росту безработицы населения страны, а потому необходима разработка комплекса норм трудового права, предусматривающих защиту населения от безработицы в свете перспективы развития технологий искусственного интеллекта.

Таким образом, теоретико-правовое исследование темы позволяет определить направления дальнейших исследований для ученых, занимающихся развитием отраслевого законодательства.

Основные термины (генерируются автоматически): искусственный интеллект, искусственный разум, общественная жизнь, правовая деятельность человека, Российская Федерация, юридическая ответственность, использование технологий, правовая деятельность, активное проникновение, правовое пространство.

В обществе распространено мнение, что ИИ не может превзойти человека, если не во всех, то по крайней мере в одной уж области точно – это искусство и, как ни печально, данное суждение является ошибочным.

Исходя из вышесказанного на вопрос о том, может ли ИИ быть признан автором следует ответить – нет, на данный момент не может. Российское законодательство, к сожалению, не имеет специальных норм, регулирующих деятельность ИИ, поэтому вопрос о том, кого считать автором произведения, созданного ИИ, остаётся открытым.

На данный момент в российском законодательстве имеется очевидный пробел, дающий возможность создание произведения без автора, а значит созданное ИИ произведение будет считаться общественным достоянием. Автор – это физическое лицо, то есть субъект гражданского права, поэтому в данном случае появляется прямая зависимость от того, а следует ли ИИ признать субъектом правоотношений?

Вопрос о том, какой правовой статус следует распространять на ИИ довольно актуален, и по нему в науке имеется огромное множество точек зрения.

Следует сразу отметить, что на данный момент имеется государство, поданным которого является андроид, обладающий ИИ. Тем самым создан прецедент, благодаря которому можно говорить о том, что на ИИ, как и на человека распространяется правовой статус физического лица. Этим государством является Саудовская Аравия, поданный – София (человекоподобный робот).

На наш взгляд решение Саудовской Аравии является поспешным. Вряд ли рационально распространять правовой статус физического лица, на объект явно не обладающий психоэмоциональными свойствами присущими человеку. Так, интеллект и сознание являются не схожими понятиями.

Сознание присуще всем людям. Под ним понимается совокупность электрохимических реакций в клетках головного мозга, выражающихся в переживании организмом событий внешнего мира и последующей реакции на эти события. Короче говоря, сознание позволяет испытывать людям субъективные ощущения боли, любви, ненависти, счастья. Интеллект – это способность использовать знания для воздействия на окружающую среду. В этой связи, необходимо отметить отсутствие сознания у ИИ, а также отсутствие способности чувствовать и что-либо желать.

Представляется, что ИИ должен располагать особым правовым статусом. Так, В.В. Архипов, В.Б. Наумов считают, что к ИИ применима аналогия с юридическими лицами [6]. Действительно, в таком случае ИИ будет иметь все признаки юридического лица, за исключением организационного единства. А.А. Иванов в связи с этим отмечает, что может возникнуть двойственный статус ИИ, поскольку он сможет быть как объектом, так и субъектом гражданского права [8]. С точки зрения этой позиции встаёт ещё вопрос и о праве собственности на вещи: на каком праве ИИ будет обладать вещами? Будет ли это ограниченное вещное право? Ответить на данные вопросы в данный момент не представляется возможным.

Л.И. Сафаргалеев высказывает мнение, что к ИИ применимо правило, используемое ещё в римском праве – servi res sunt (рабы – вещи), по его мнению ИИ не может быть самостоятельным субъектом права, но он может приобретать права и обязанности для своего хозяина [5, С. 407].

Представьте себе, что вы едете в автомобиле, управляемом искусственным интеллектом. Транспортное средство находится в вашей собственности и, неожиданно, вы въезжаете в толпу прохожих. Несколько прохожих получили лёгкие повреждения, вы испытали сильный эмоциональный стресс, у машины был повреждён бампер. Кто в данном случае будет возмещать убытки за причинённый вред здоровью, моральный вред, ущерб, нанесённый автомобилю?

Вопрос об ответственности также поднимается в Резолюции Европарламента от 16 февраля 2017 года [3]. В документе указывается, что ИИ не может нести ответственность сам по себе, поскольку его действия или бездействия зависят от оператора (владельца), то есть ИИ является своеобразным инструментом для достижения конкретной цели. Ввиду вышесказанного устанавливается ответственность не только владельца ИИ, но и производителя, если какой-либо ущерб был причинён из-за технической ошибки. Однако в Резолюции также говорится о том, что, чем выше автономность ИИ, тем меньше он может расцениваться как обычный инструмент. Это вызывает вопрос: может ли ИИ самостоятельно отвечать за свои действия или бездействия? Нет, на данный момент не может, но стоит отметить, что по мере развития технологий юристы непременно вернутся к этому вопросу. Пока что можно лишь предложить варианты ответственности ИИ. Вполне рабочую идею, в этой связи, предложили Г.А. Гаджиев и Е.А. Войниканис [7]. Её суть заключается в том, что ИИ будет нести ответственность за счёт средств, находящихся на счёте непосредственно у ИИ. Реализовать данную идею возможно, если при регистрации какого – любо ИИ его владелец будет вносить определённую сумму, которая в дальнейшем будет аккумулирована в страховом фонде и в случае возникновения страхового случая будет направлена на его удовлетворение. В конце концов, если ИИ будет признан самостоятельным субъектом права, то он сможет трудоустраиваться, иметь свой банковский счёт и самостоятельно отчислять деньги в свой страховой фонд.

На данный момент ИИ не может быть признан автором произведения науки или искусства, поскольку такая возможность появится лишь при признании ИИ субъектом правоотношений.

Вопрос об аккумуляции денежных средств можно решить путем внесения во время регистрации ИИ его владельцем денежных средств в страховой фонд или же в случае, если сам ИИ сможет зарабатывать денежные средства, то воздействовать на него уже известными нам способами, например, путем списания средств с банковского счёта и т.п.

Данная тема имеет огромный исследовательский потенциал. ИИ непременно станет частью будущего человечества, поэтому необходимо всерьёз подходить к вопросам, связанным с его правовым статусом и регулированием отношений с его участием.

Появление искусственного интеллекта уже не фантастика, не миф. Это сегодняшняя реальность, которая вынуждает нас пересмотреть многие аспекты правовой, законодательной, исполнительной сфер общественной жизни.

Стремительное развитие науки и техники за последние десятилетия наряду с неимоверной пользой для жизни человека имеет свою "оборотную" сторону (развитие атома - его польза и атомная бомба; развитие генетики, медицины - открыли возможности лечения и предотвращения ряда болезней, но генетика открыла дорогу генетическому скринингу, бичу современной экологии ГМО и т. д.). А последние десятилетия - искусственный интеллект прорвался в нашу жизнь, принеся, конечно, и положительные аспекты в жизнь человека (начиная от интернета, робототехники в быту, до интеллектуальной транспортной сети, "электронных судов" и т.д.), но интеллектуальный транспорт, оснащенный роботом водителем уже выражен не только в растущем количестве техногенных аварий и катастроф, но и во все возрастающей возможности изначального использования искусственного интеллекта "во вред" человеку, государству и всему мировому сообществу.

По словам нейролингвиста профессора Татьяны Черниговской, "цифровая реальность рождает "новый вид" человека. Я называю это "хомо конфузус" или "человек в растерянности". Этот "хомо конфузус" еще даже не понял, где он находится. Еще не осознал, в какую опасность мы уже попали. Но мы не можем откладывать решение. Потому что это наша жизнь".

Сегодня уже следует задуматься о том, как новая технологическая реальность отражена в правовой плоскости. Новая электронная, цифровая реальность все больше наступает на традиционное право.

Использование искусственного интеллекта становится уже сейчас обычным явлением в производственно-технологических процессах, банковской деятельности и иных сферах общественной жизни. И уже сейчас мы сталкиваемся с оборотной стороной в виде случаев причинения смерти людям на производстве в результате решений, принятых этими самыми "элементами" искусственного интеллекта и т.д.

Так, 18.03.2018 в штате Оризона в результате ДТП с беспилотным автомобилем Uber погибла ведущая через дорогу велосипед женщина. Было установлено, что в вечернее время она пересекала дорогу вне пешеходного перехода и попала под колеса управляемого при помощи искусственного интеллекта автомобиля Vоlvо ХС90. Было доказано отсутствие у беспилотника технической возможности избежать столкновения ввиду затемненности проезжей части и неожиданности появления пешехода на дороге. В данной ситуации, хотя автомобиль управлялся электроникой, в нем находился тест-пилот, который не успел среагировать на возникшую опасность. Виновным признали водителя, который по данным видеозаписи отвлекся от процесса наблюдения за дорогой и потому не предпринял никаких мер по предупреждению аварии1.

Значимой проблемой в правовой регламентации действий автопилотов является положение статьи 8 Венской конвенции о дорожном движении, где отмечено, что "каждое транспортное средство или состав транспортных средств, которые находятся в движении, должны иметь водителя"2. Наличие же водителя в процессе управления автопилотом может быть не предусмотрено их конструкцией, что требует иного правового урегулирования движения беспилотников, обуславливает внесение в конвенцию соответствующих изменений.

Отметим, что законодательства большинства стран не регламентируют порядок получения прав на управление беспилотными автомобилями, не содержат норм, предусматривающих ответственность за дорожно-транспортные преступления с их участием.

Сегодня ответственность за нарушения ложится на водителя, который сидит рядом. Но что будет, когда процесс использования автопилотов станет полностью автоматизированным? Тогда виновными в аварии будет не только водитель, но и дистанционно расположенный диспетчер, ответственное за безопасность автопилота лицо из компании - производителя, сама компания - производитель.

Использование беспилотного транспорта сопряжено с необходимостью создания правовой базы, модификации дорожной инфраструктуры, совершенствования законодательства в сфере дорожного движения, уголовного, административного и гражданского законов.3 Следует отметить, что в сфере правового реагирования на деятельность искусственного интеллекта первые шаги уже сделали в США.

Например, что надо делать в случае, когда "робот убил человека" либо причинил существенный вред здоровью человека? Решение этой проблемы обычно сводится к разработке специальной теории уголовной ответственности за действия искусственного интеллекта и роботов, которая бы охватывала "производителя, программиста, пользователя и всех других вовлеченных лиц"4.

Таким образом, американские авторы, говоря об уголовной ответственности за "поведение робота", разрабатывают концепцию ответственности людей, причастных к разработке, программированию, эксплуатации искусственного интеллекта и управлению им.

Беспилотные автомобили сегодня, к сожалению, несут в себе серьезную угрозу. Один из самых опасных факторов - киберугрозы, являющиеся вызовами для любых подключенных к интернету устройств, в том числе и автомобилей с беспилотным управлением: хакер может взломать сеть, остановить передачу данных, выключить тормоза, изменить направление движения и т. д., быть использованным террористами, в конце концов. Недавно мы все услышали о трагедии с пассажирским самолетом, когда в его системе хакерами были изменены параметры.

Еще один известный пример.

Программа-робот Тау (Microsoft) за сутки "стала" расистом и научилась ругаться. Правда, компания-создатель сразу же пояснила: "Чат-бот Тау" с искусственным интеллектом - это обучаемый проект, созданный для взаимодействия с людьми. Недопустимые ответы, которые он дает, свидетельствуют о взаимодействиях, которые у него были по мере обучения"5. Таким образом, компания Microsoft обвинила пользователей, общавшихся с роботом, в том, что они устроили скоординированную атаку на их детище6. Где гарантии, что иной владелец такого робота не захочет использовать его в преступных целях, совершению терактов, например?

Также искусственный интеллект уже применяется на стадии подбора работников: "Робот Вера", разработанный в облаке Azure, "умеет искать резюме нужных соискателей по заданным критериям на сайтах поиска работы, обзванивает их, отправляя описание вакансии, а затем приглашает на видео-собеседование, которое может самостоятельно провести благодаря речевым технологиям"7. Компания "Ростелеком" запустили робота, оценивающего возможных кандидатов. Superjob внедряет интеллектуальную обработку обращений соискателей, а в HeadHunter искусственный интеллект помогает прогнозировать отклик на вакансии и резюме"8.

Кстати, о рабочих местах. С внедрением в жизнь общества искусственного интеллекта в виде роботов очень скоро ряд профессий, специальностей разного уровня станут не нужны. Переводчики, гиды, работники в отелях (начиная от регистрации и носильщиков до уборщиков и официантов в ресторанах), помощники различного уровня, кассиры и продавцы и т. д. Приведу слова Татьяны Черниговской: "Что собираются делать все те люди, которых заменят цифровые системы? Когда мне говорят: "освобождается простор для творчества", это вызывает у меня саркастическую улыбку. Вы что, правда считаете, что несметные тысячи, на самом деле - миллионы людей, в освободившееся от тяжелой работы время начнут писать мадригалы и играть на лютне? Вы это всерьез? Произойдет совершенно противоположное. И мы не можем делать вид, что это не так", - подчеркнула она. Я совершенно согласна с этой мыслью уважаемого ученого. Роботы займут рабочие места людей, и государства столкнутся с большой армией безработных.

Как поделят мир человек и компьютер, пока не ясно.

Серьезно встает вопрос защиты прав человека от последствий научно-технического прогресса.

Другой достаточно серьезный вопрос, возникший с появлением роботов в человеческом обличии - процедура получения гражданства. Так, запатентованный американскими учеными, созданный американской компанией и произведенный в Китае робот "София", запрограммированный знаниями широкого спектра и положительными человеческими ценностями, по какому принципу, согласно международному праву (место рождения, место проживания продолжительный период, или место вложенных инвестиций и т. д.) может или получило гражданство? Как известно, конкретно этот робот получила гражданство Саудовской Аравии. На сколько возможно подобно человеку давать машине, хоть и с внешностью человека, политические, экономические, социальные права и обязанности гражданина и человека?

LEGAL ASPECTS OF REGULATION OF THE ARTIFICIAL INTELLIGENCE IN THE RUSSIAN FEDERATION

Annotation

Понятие цифровой трансформации и применение ИИ-технологий

Еще несколько лет назад в мире было всего пять стран, которые занимались планированием развития технологий искусственного интеллекта (ИИ). В начале 2021 г. таких стран стало уже более 30. Во всем мире усилилась реальная угроза киберпреступности: по некоторым прогнозам, атаки хакеров происходят каждые 11 секунд[4]. Тревога за кибербезопасность еще более возросла в условиях вынужденной цифровизации как одного из главных последствий пандемии COVID-19[5].

В частности, страны-участники данной Декларации согласились обмениваться лучшими практиками в области приобретения и использования ИИ органами государственного управления и в государственном секторе в целом; обмениваться мнениями относительно правовых и этических основ применительно к ИИ с целью обеспечения его разумного применения; обеспечивать сохранение за человеком ключевой роли в процессе развития, применения и принятия решений в отношении ИИ, предотвращать действия, направленные на создание или использование вредоносных решений на основе ИИ, и т.д.

В современной России наблюдается массовый переход государственных органов и юридических лиц на цифровой формат обмена юридически значимой информацией и исполнения функций (например, посредством портала государственных услуг), а также ‎расширение государственно-частного партнерства в рамках экосистемы цифровой экономики страны.

Так, во исполнение поручения Президента РФ об обеспечении перевода в электронный формат к 2023 году массовых социально значимых государственных и муниципальных услуг, перечень таковых уже существенно расширился на портале госуслуг (например, онлайн-оформление документов при рождении ребенка, при заключении трудового договора, при расчете пенсии или обжаловании штрафов ГИБДД, внедрение услуг телемедицины и проч.).

В целом, Концепция направлена на создание комфортной регуляторной среды развития ИИ-технологий и робототехники, обозначая следующие задачи: 1) создание основ правового регулирования новых общественных отношений, формирующихся в связи с применением систем искусственного интеллекта и робототехники, имеющих преимущественно стимулирующий характер; 2) определение правовых барьеров, затрудняющих разработку и применение систем искусственного интеллекта и робототехники в различных отраслях экономики и социальной сферы; 3) формирование национальной системы стандартизации и оценки соответствия в области технологий искусственного интеллекта и робототехники.

На современном этапе в РФ наиболее успешными примерами интеграции ИИ-технологий в повседневную жизнь можно считать следующие продукты российских разработчиков с их программными решениями:

Легальная дефиниция ИИ и расширение нормативной базы в РФ

В начале 2021 г. в парламент был внесен законопроект о доступе разработчиков искусственного интеллекта к государственным большим данным. Эта инициатива предполагает открытие доступа к государственным информационным системам, ресурсам и реестрам, что в свою очередь поднимает вопрос о новом уровне качества анонимизации данных. Так, например, неоценимую помощь для малого и среднего бизнеса в выборе оптимальной локации для торговой точки оказало бы, наряду с картографическими данными и сведениями о потребителях, разрешение доступа к данным Росреестра о категории стоимости недвижимости, к данным операторов фискальных данных (по транзакциям в рознице) и других дата-сетов[18].

В свою очередь спецрежим означает нераспространение отдельных юридических актов или норм права, хотя и содержащих обязательные требования, например, по лицензированию, сертификации, аккредитации, получению допусков, разрешений, по способам идентификации участников сферы цифровых инноваций. В случае принятия законопроекта не исключено, что эксперименты по внедрению различных технологий будут в скором времени вводиться и в других субъектах.

С 30 июне 2020 г. в России вступил в силу закон о получении усиленной неквалифицированной электронной подписи[20]. В нем предусматривается выдача удостоверяющим центром сертификатов ключей для проверки электронных подписей. Так, сертификат может быть выдан по заявлению в электронной форме без личного присутствия заявителя в отношении усиленных неквалифицированных электронных подписей. Но при этом идентификация личности проходит дистанционно по данным простой электронной подписи гражданина, ключ которой был ранее получен при личной его явке и при условии взаимодействия удостоверяющего центра с единой системой идентификации и аутентификации.

Этика оборота данных и риски ИИ-технологий, ответственность в сфере цифровых технологий

Особую актуальность во время пандемии COVID-19 приобретает проблема этичности внедрения цифровых решений и риски ИИ-технологий.

Профессиональнее сообщество уже оценило этот этический кодекс в качестве приемлемой основы для саморегулирования участников рынка данных, способного нормализовать их взаимодействие между собой и с гражданами, юрлицами и государством в сфере индустрии данных.

Поясним также, что в РФ действует специальное законодательство о безопасности критической информационной инфраструктуры (далее – КИИ), в том числе при проведении в отношении ее компьютерных атак. К субъектам КИИ относятся: госорганы и госучреждения, российские юридические лица и ИП, которым на праве собственности, аренды или на ином законном основании принадлежат информационные системы, информационно-телекоммуникационные сети, автоматизированные системы в сфере здравоохранения, науки, транспорта, связи, энергетики, финансового рынка, топливно-энергетического комплекса, атомной энергии, оборонной, ракетно-космической, горнодобывающей, металлургической и химической промышленности.

В текущий момент Министерство цифрового развития, связи и массовых коммуникаций РФ разрабатывает пакет документов по технологической независимости КИИ РФ[24]. В него входит проект Указа Президента РФ, в котором предусматривается утверждение требований к программному обеспечению и оборудованию на объектах КИИ, и порядок перехода на преимущественное использование российского ПО.

Летом 2020 г. был принят Федеральный закон о создании единого федерального информационного регистра сведений о населении РФ[26]. В этот регистр, оператором которого будет ФНС России, войдут все сведения о гражданах РФ, иностранцах и лицах без гражданства, временно или постоянно проживающих в РФ, признанных беженцами или получивших временное убежище в России, а также о временно пребывающих иностранных гражданах для трудовой деятельности. С одной стороны, создание такого централизованного информационного ресурса позволит сократить сроки оказания государственных услуг, повышение собираемости платежей в бюджеты, качественно новый уровень расчета и начисления налогов, сокращение мошеннических действий при получении мер социальной поддержки и уплаты налогов и т.д.

Но, с другой стороны, здесь встает проблема о конфиденциальности и надлежащем уровне защиты сведений, которые войдут в эту Базу больших данных, а именно: персональные данные физических лиц, в том числе ФИО, дата и место рождения и смерти, пол, гражданство и семейное положение; реквизиты паспорта и документов об образовании и квалификации; учетная запись на Едином портале госуслуг; данные о постановке на налоговый и воинский учет; и др. Ведь по этому закону ФНС России обязана сообщать сведения из Регистра по запросам суда, прокуратуры, органов следствия, органов принудительного исполнения и др.

Сегодня в РФ широко обсуждается проблема некачественного состояния информационной безопасности. Отмечается невысокий уровень внедрения отечественных разработок и недостаточный профессионализм в сфере информационной безопасности, низкая осведомленность и инертность российских граждан в вопросах обеспечения личной информационной безопасности. Все еще не имеют комплексной основы мероприятия по обеспечению безопасности информационной инфраструктуры в РФ, включая использование российских информационных технологий и ПО. Отсутствует полноценная система административно-правового и нормативно-технического регулирования в области ИИ. Имеется несовместимость ряда положений российского законодательства о защите данных с технологиями ИИ.

Еще одним нововведением в законодательстве о персональных данных стало расширение условий обработки специальных категорий персональных данных. Это те, которые касаются расовой и национальной принадлежности, политических взглядов, религиозных или философских убеждений, состояния здоровья, интимной жизни.

И здесь встает проблема особого юридического статуса такой специальной категории персональных данных. Ведь при нарушении условий их обработки могут наступить особо негативные последствия для субъекта. Например, обработка персональных данных, касающихся состояния здоровья человека, допускается только, если это происходит после обезличивания персональных данных, и требуется в целях повышения эффективности государственного управления.

Тревожным аспектом применения ИИ-технологий остается проблема безопасности и соблюдения строгого контроля за их деятельностью. Хотя это противоречит самой сути функционирования ИИ. Один из аспектов данного направления дискуссии связан с усилением ответственности за правонарушения с компьютерной информацией.

Применение ИИ, который всё активнее внедряется в частную жизнь каждого и способен в ближайшем будущем заменить собой людей, лишив их мест занятости etc., поднимает большие сугубо юридические вопросы и общие этические опасения. При своевременной разработке эффективной регуляторной среды для ИИ-технологий Российская Федерация будет способна стать одним из международных лидеров в развитии и использовании систем искусственного интеллекта.

ИНФОРМАЦИЯ ОБ АВТОРАХ:

Данельян Андрей Андреевич (Andrey A. Danelyan)

заведующий кафедрой международного права

Дипломатической академии МИД России

(Diplomatic Academy of the Ministry of Foreign Affairs of the Russia),

доктор юридических наук, профессор;

Трикоз Елена Николаевна (Elena N. Trikoz)

кандидат юридических наук;

доцент кафедры теории права и сравнительного правоведения

Международно-правового факультета МГИМО МИД России

доцент кафедры истории права и государства Юридического института РУДН (RUDN University).

Гуляева Елена Евгеньевна (Elena E. Gulyaeva)

кандидат юридических наук;

доцент кафедры европейского права Дипломатической академии МИД РФ

(Diplomatic Academy of the Ministry of Foreign Affairs of the Russia);

член Совета по международным делам Международного Института прав человека (Аргентина).

[2] О достижениях в биологической сфере, новых возможностях синтетической биологии, и связанных с генетическим секвенированием и геномным редактированием юридических и этических проблемах см. подробнее: Гуляева Е.Е., Трикоз Е.Н. Юридические аспекты генетических исследований в странах Латинской Америки (опыт судебной генетики в Аргентине) // Международный правовой курьер. 2020. № 3-4. Июль-Август. С. 56-60; Трикоз Е.Н. Защита прав человека в контексте развития биоэтики и геномики (обзор международного круглого стола) // Вестник Российского университета дружбы народов. Сер. Юридические науки. 2019. Т. 23. № 1. С. 141-154; Трикоз Е.Н., Гуляева Е.Е. Позиции ЕСПЧ по некоторым вопросам биоэтики и генетических данных // Advances in Law Studies. Scientific and Theoretic Journal. 2018. Т. 6, № 4. С. 36-40.

[3] Шестакова И.Г. Новая темпоральность цифровой цивилизации: будущее уже наступило // Научно-технические ведомости СПбГПУ. Гуманитарные и общественные науки. 2019. Т. 10, № 2. С. 26.

[5] Malinovsky A.A., Osina D.M., Trikoz E.N. (2021) State Support for the Russian Economy Affected by Covid-19 Consequences (Legal Aspects). In: Ashmarina S., Mantulenko V., Vochozka M. (eds) Engineering Economics: Decisions and Solutions from Eurasian Perspective. Lecture Notes in Networks and Systems, vol 139. Springer, Cham. Р. 283-287; Гуляева Е.Е., Трикоз Е.Н. Юридические аспекты политики противодействия коронавирусной инфекции (COVID-19) в РФ // Международный правовой курьер. 2020. № 9. С. 22-28.

[11] Национальная стратегия развития искусственного интеллекта на период до 2030 года, утв. указом Президента РФ от 10 октября 2019 г. № 49 // СПС ГАРАНТ (дата обращения: 21.01.2021).

[17] Fuller R.B., Applewhite E.J. Synergetics: analysis of the geometry of thinking. New York, 1975. Р. 57.

Читайте также: