Artificial intelligence, robot and neurotechnologies: concepts, relationship and limits of legal regulation

Full Text

Введение

Экспоненциальный рост публикаций научного характера, посвященных исследованиям в области правового регулирования отношений, связанных с использованием искусственного интеллекта, к настоящему времени вызвал определенный «перегрев» темы. Вал работ, охватывающих результаты исследований разной степени полезности, отразился на содержании большинства юридических научных журналов за последние годы. Наиболее глубоко проработанными представляются опубликованные в статьях и монографических изданиях труды П. М. Морхата ¹, В. В. Архипова и В. Б. Наумова ², Ю. С. Харитоновой ³, И. Р. Бегишева ⁴, В. А. Лаптева ⁵. Среди иностранных исследователей большой вклад в разработку темы внесли Р. Эббот ⁶, У. Пагалло ⁷, Р. Кало ⁸, Л. Т. Маккарти ⁹, Р. Саскинд ¹⁰ и др. Тем не менее некоторые концептуальные вопросы недостаточно освещены в публикациях и требуют дополнительного исследования. Одним из подобных вопросов является соотношение понятий «искусственный интеллект», «робот» и «нейротехнологии», еще один вопрос касается границ государственного вмешательства в соответствующие сферы путем правового регулирования. Следует уточнить, что словосочетание «искусственный интеллект» используется как для обозначения явления (носителя искусственного интеллекта – искусственной интеллектуальной системы), так и для обозначения технологии, точнее целой группы технологий. В первом значении этого термина искусственный интеллект частично пересекается с «роботом», а во втором – является смежной группой относительно других групп технологий – робототехники и нейротехнологий.

Искусственный интеллект: понятие

Споры по поводу определения понятия такого явления как «искусственный интеллект» пока далеки от завершения, во-первых, потому что сами разработчики систем искусственного интеллекта часто не согласны с дефинициями, данными их коллегами, во-вторых, потому что искусственный интеллект быстро развивается, приобретая новые черты и демонстрируя не присущие ему ранее свойства. Разногласия нередко проистекают от приверженности к разным подходам, которые, по мнению авторов одного из наиболее авторитетных учебников по искусственному интеллекту С. Д. Рассела и П. Норвига, могут быть сгруппированы в зависимости от следующих позиций в отношении искусственного интеллекта: это «системы, которые думают подобно людям», «системы, которые действуют как люди», «системы, которые мыслят рационально» либо «системы, действующие рационально». Как видим, часть исследователей придерживается человекоцентричного подхода, другие отталкиваются от рациональности ¹¹. Встречается в специальной литературе и определение искусственного интеллекта через понятие информационной системы (интеллектуальная информационная система) ¹².

Если обратиться к международным техническим стандартам, в частности, утверждаемым Международной организацией по стандартизации (International Organization for Standardization, ISO), то можно отметить выделение целого ряда терминов, имеющих отношение к искусственному интеллекту: ИИ-агент (автоматизированный объект, который воспринимает окружающую среду, реагирует на нее и предпринимает действия для достижения своих целей), ИИ-компонент (функциональный элемент, составляющий систему искусственного интеллекта), ИИ-система, демонстрирующая автономное выполнение интеллектуальных задач, а также искусственный интеллект как научно-техническое направление, внутри которого разрабатывается все вышеперечисленное ¹³.

Наиболее часто под искусственным интеллектом подразумевается именно система искусственного интеллекта, но раз универсальное определение искусственного интеллекта, которое поддерживали бы все его разработчики, отсутствует, надо ли пытаться правоведам сформулировать легальную дефиницию в нормах права? Необходимость этого растет в силу того, что искусственный интеллект все глубже «вторгается» в жизнь людей, причем далеко не всегда по желанию человека. Правовое регулирование требуется, чтобы защитить людей от рисков, которые несет применение искусственного интеллекта, а чтобы регулировать что-то, нужно четко понимать, что именно мы собираемся урегулировать.

Попыткой формулирования такого понятия является определение системы искусственного интеллекта в проекте Регламента Европейского союза (ЕС) по искусственному интеллекту ¹⁴, опубликованном 21 апреля 2021 г., а в июне 2023 г. одобренном Европарламентом ¹⁵: «Система искусственного интеллекта» (ИИ-система) – это машинная система, предназначенная для работы с различными уровнями автономности и способная для явных или неявных целей генерировать выходные данные, такие как прогнозы, рекомендации или решения, влияющие на физическую или виртуальную среду». Это определение, хоть и не являющееся безупречным, можно признать достаточно удачным, что косвенно подтверждается его сходством с другим определением, данным ранее в Рекомендации по искусственному интеллекту Организации экономического сотрудничества и развития от 22 мая 2019 г.¹⁶ – первом межправительственном стандарте по искусственному интеллекту.

Для сравнения обратимся к определению, представленному в Федеральном законе от 24 апреля 2020 г. № 123-ФЗ «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации – городе федерального значения Москве и внесении изменений в статьи 6 и 10 Федерального закона “О персональных данных”» ¹⁷: «Искусственный интеллект – комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека». Этот комплекс включает в себя информационно-коммуникационную инфраструктуру, программное обеспечение, процессы и сервисы по обработке данных и по поиску решений. Если исходить из того, что определение должно быть четким и прояснять суть явления, то данную дефиницию вряд ли можно признать оптимальной.

Далеким от совершенства и сильно перегруженным является и определение, сформулированное в 2019 г. группой экспертов по искусственному интеллекту при Европейской комиссии ¹⁸. Согласно ему, системы искусственного интеллекта – это разработанные людьми программные, а также вероятно аппаратные, системы, которые, имея сложную цель, действуют в физическом или цифровом измерении, воспринимают окружающую среду посредством сбора данных, интерпретируют собранные структурированные или неструктурированные данные и принимают решения о наилучших действиях, которые необходимо предпринять для достижения поставленной цели. В позднее созданном проекте Регламента ЕС по искусственному интеллекту, упоминавшемся выше, от подобного определения отказались, но его достоинством является указание на рациональность искусственного интеллекта как качество, лежащее в основе идеальной концепции интеллекта, ведь рациональность позволяет выбирать наилучшее действие для достижения цели с учетом имеющихся ресурсов.

Чтобы точнее определить, что представляет собой искусственный интеллект, выделим его существенные признаки, первые два из них получили отражение в самом наименовании рассматриваемого явления, назовем их «суперпризнаки», они включают по несколько субпризнаков. Во-первых, это интеллектуальная система, то есть система, способная правильно интерпретировать получаемые извне данные и адаптироваться к новым ситуациям, а во-вторых, система неестественного происхождения, она создана искусственно людьми или (со временем этот способ будет встречаться все чаще) другими системами искусственного интеллекта. Субпризнаками, заключенными внутри первого из названных выше суперпризнаков – интеллектуальности системы – являются прежде всего рациональность и креативность. Рациональность – способность выбрать лучшее решение, исходя из имеющихся возможностей, а креативность свидетельствует о потенциале для создания этой системой чего-то нового, не существовавшего до того, и, в свою очередь, базируется на обучаемости и самообучаемости как неотъемлемых свойствах искусственного интеллекта. Самообучаемость связана с еще одним признаком – автономностью интеллектуальной системы, которая с определенной степенью самостоятельности (вплоть до полной автономии) может действовать без вмешательства человека. Второй суперпризнак – неестественное происхождение искусственного интеллекта, он включает «искусственную» программную составляющую, имманентно присущую ему способность существовать в виртуальном пространстве, а также возможность соединения с различными киберфизическими системами (для объединения в одно целое или подчинения киберфизической формы «искусственному разуму»).

Таким образом, искусственный интеллект, а точнее каждая единица-носитель искусственного интеллекта, – это искусственно созданная система, демонстрирующая рациональность, креативность и автономность в своих решениях, способная действовать в виртуальном пространстве и влиять на физический мир. Эти системы по форме могут быть классифицированы на виртуальные и киберфизические. В киберфизических системах искусственный интеллект заключен в физическую оболочку, являющуюся носителем искусственного интеллекта. Виртуальная искусственная интеллектуальная система не встроена в физический объект, но она пользуется «чужими» аппаратными средствами, через которые способна воздействовать на физический мир, в том числе путем подчинения себе менее мощных интеллектуальных киберфизических систем.

Можно ли признать многочисленные модели с элементами искусственного интеллекта, применяемые сегодня в разных областях, «реальным» (субъектоподобным) искусственным интеллектом? Эти модели соотносятся с ним примерно как первые формы жизни на Земле, условные цианобактерии, с человеком. Понятно, что регулирование общественных отношений, включающих использование интеллектуальных ассистентов со слабым искусственным интеллектом, не требует таких серьезных ограничений, в отличие от отношений, в которых фигурирует сильный искусственный интеллект, обладающий самосознанием. Пока такой искусственный интеллект, не уступающий человеческому, не создан, но по состоянию на 2023 г. в данном направлении сделан большой шаг вперед. При разработке правового регулирования придется это учитывать, ведь помимо интеллектуальных ассистентов уже появляются значительно более сложные искусственные интеллектуальные системы, использование которых влечет экзистенциальные риски для человечества. Сказанное выше в полной мере относится и к произошедшей «революции» генеративного искусственного интеллекта.

Соотношение понятий «искусственный интеллект» и «робот»

Гораздо меньше неопределенности с дефиницией понятия «робот», представляющего собой техническую систему, изначально предназначенную для замены человека при выполнении тяжелых, грязных, опасных работ или работ, при осуществлении которых требуется высокая степень точности, утомляющих своей монотонностью и т. д. Впрочем, споры по определению робота активно велись еще несколько лет назад, как правило, они были следствием отождествления робота и искусственного интеллекта ¹⁹. Согласно ГОСТу Р 60.0.0.2-2016, робот – это исполнительное устройство с двумя или более программируемыми степенями подвижности, обладающее определенным уровнем автономности и способное перемещаться во внешней среде с целью выполнения поставленных задач ²⁰. Данное определение охватывает различные типы роботов: промышленные и сервисные, а также выделяемые в зависимости от выполняемых функций их разновидности: транспортные, бытовые, боевые, медицинские и т. д.

Является ли робот системой искусственного интеллекта? Необязательно, но любой робот – это искусственно созданная система. Наибольшей степенью самостоятельности обладают автоматические роботы ²¹, тем не менее два первых поколения таких роботов не имеют никакого отношения к искусственному интеллекту. Первое поколение – это программные роботы, функционирующие строго в рамках заданной программы и выполняющие лишь рутинные задачи. Второе поколение – адаптивные роботы, также решающие повторяющиеся задачи, но уже способные подстраиваться под различные условия. Только с третьего поколения у автоматических роботов появляются элементы искусственного интеллекта. Это т. н. интеллектуальные роботы, которые могут решать увеличивающийся круг задач, в том числе носящих творческий характер. Помимо технологий искусственного интеллекта (по сути, программной «начинки» робота) в основе робототехники лежит мехатроника – комплексная область науки и техники, включающая целый ряд дисциплин, в первую очередь механику и электронику. Тем самым только автоматические роботы третьего и прогнозируемо следующих поколений, обладающие значительной степенью автономности – это киберфизические системы искусственного интеллекта. В свою очередь, андроидами называют подобных роботов, если они выглядят похожими на людей.

Как соотносятся понятия «робот с искусственным интеллектом» и «система искусственного интеллекта»? Система искусственного интеллекта – более широкое понятие, оно включает не только киберфизические системы, но и виртуальные. Следовательно, не любой робот относится к системам искусственного интеллекта, и не любая система искусственного интеллекта представляет собой робота.

Особенности роботов учитываются техническим регулированием. Применение роботов должно соответствовать требованиям ГОСТов в России, а также положениям международных стандартов. Международные технические стандарты в области робототехники принимаются в первую очередь специально созданным Техническим комитетом по робототехнике Международной организации по стандартизации – ISO/TC299 Robotics. Данный Комитет появился в 2015 г., в то время как Технический комитет по искусственному интеллекту – ISO/IEC JTC1/SC42 Artificial Intelligence – был создан позднее, в 2017 г. Как видим, техническое регулирование искусственного интеллекта и робототехники на уровне Международной организации по стандартизации осуществляется обособленно.

Нужно ли учитывать специфику роботов при создании правового регулирования в сфере искусственного интеллекта? Скорее, учитывать придется специфику виртуальных интеллектуальных систем, которые, не имея физического воплощения (т. е. в отличие от роботов, их нельзя изолировать физически), тем не менее могут все сильнее влиять на физический мир. Хотя, следует признать, что гипотетическая связка «сильный искусственный интеллект» + «робот» выглядит впечатляюще и увеличивает остроту споров о необходимости в будущем признания искусственных интеллектуальных систем субъектами права с вытекающим отсюда наделением новых субъектов комплексом прав и обязанностей.

Попытки регулировать роботов обособленно от искусственного интеллекта предпринимались, например в виде актов европейского мягкого права. Робототехнике была посвящена первая резолюция Европарламента в этой области – Резолюция относительно норм гражданского права о робототехнике от 16 февраля 2017 г.²² Она содержала предложение признать специальный правовой статус электронного лица за сложными роботами, способными принимать решения автономно. В дальнейшем после критических замечаний ²³ новые резолюции и программные документы Европейского союза обычно касаются искусственного интеллекта, включая и роботов, оснащенных искусственным интеллектом ²⁴. Российские нормативные правовые акты также касаются искусственного интеллекта в целом или упоминают об «искусственном интеллекте и робототехнике» (в качестве примера можно привести распоряжение Правительства РФ от 19.08.2020 № 2129-р «Об утверждении Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники на период до 2024 года ²⁵), а вот проекты законов, предлагавших устанавливать специальный правовой режим исключительно для роботов, не были одобрены²⁶. Разработка российского федерального проекта о развитии отечественной робототехники в 2023 г. наряду с уже реализуемым федеральным проектом «Искусственный интеллект» не препятствует формированию общего правового регулирования для искусственного интеллекта и роботов, т. к. в проекте речь идет о развитии технологий робототехники, а не о регулировании киберфизических систем – роботов.

Сопоставляя роботов и искусственный интеллект, мы говорим о них как о системах искусственного интеллекта (единицах или юнитах ²⁷), если же сравнивать технологии, то при конструировании роботов, дополненных искусственным интеллектом, помимо технологий искусственного интеллекта используется целый ряд иных, лежащих на стыке механики, телемеханики, электротехники, кибернетики и т. д. Объединяющая их робототехника (в смысле «робототехнические технологии», а не «роботы») относится к смежным с искусственным интеллектом группам технологий, на что обращается внимание в п/п. «г» п. 5 Национальной стратегии развития искусственного интеллекта на период до 2030 года ²⁸.

Технологии искусственного интеллекта и нейротехнологии

Группа технологий искусственного интеллекта состоит из субтехнологий, которые позволяют решать задачи по искусственному моделированию интеллектуальных видов человеческой деятельности, среди них: компьютерное зрение, обработка естественного языка, распознавание и синтез речи, машинные рекомендации и поддержка принятия решений ²⁹. Технологии искусственного интеллекта необходимо сравнить и объединить либо разграничить с нейротехнологиями. Нейротехнологии – еще одна группа «сквозных» технологий, позволяющих получить более точное представление о строении мозга, о сознании и мышлении человека, высших психических функциях, делая осуществимым исправление или улучшение функций мозга за счет воздействия на нервную систему ³⁰. Среди субтехнологий, входящих в эту группу, можно назвать технологии нейропротезирования, нейростимуляции и т. д. В 2019 г. технологии искусственного интеллекта и нейротехнологии были вписаны в единую Дорожную карту развития «сквозной» цифровой технологии «Нейротехнологии и искусственный интеллект» ³¹, размещенную на сайте Министерства цифрового развития, связи и массовых коммуникаций РФ в числе других «дорожных карт» развития «сквозных» цифровых технологий, имеющих важнейшее значение для России на ближайшие десятилетия. Позже, в 2023 г., в приложении № 2 к Концепции технологического развития на период до 2030 года, утвержденной распоряжением Правительства РФ от 20 мая 2023 г. № 1315-р ³², эти группы технологий уже разведены и расположены в перечне не подряд.

Какая взаимосвязь существует между технологиями искусственного интеллекта и нейротехнологиями и почему их то объединяют в один блок, то разделяют? Разработчиками первых систем искусственного интеллекта нередко называют У. Маккалока, У. Питтса ³³ и Ф. Розенблатта ³⁴, первый и третий из перечисленных ученых были нейрофизиологами, а второй – математиком, в их разработках учитывались особенности нервной деятельности человеческого мозга. В дальнейшем развитие искусственного интеллекта продолжалось и продолжается до сих пор преимущественно на основе двух подходов. Сторонники первого (нисходящего, или семиотического) подхода моделируют системы искусственного интеллекта, применяя законы формальной логики, теории графов, множеств, иных разделов математики и логики. Приверженцы второго (восходящего, или биологического) подхода искусственно моделируют процессы, происходящие в мозге человека, к примеру разрабатывая элементы, подобные нейронам мозга, и объединяя их в системы – искусственные нейронные сети. Второй подход охватывает изучение нейрофизиологических и психологических механизмов мыслительной деятельности человека для последующего воспроизведения этих механизмов техническими средствами так, чтобы «поведение» системы совпадало с поведением людей в аналогичной ситуации. Например, создается искусственная нейросеть, являющаяся математической моделью на основе нервной системы человека, такая нейросеть способна выполнять различные задания, в том числе решать творческие задачи. Сегодня направление искусственных нейронных сетей наиболее быстро прогрессирует и именно поступательное совершенствование сверхглубоких мультимодальных нейросетевых моделей рассматривается как движение в сторону сильного искусственного интеллекта. Интеллектуальные способности такой искусственной системы наращиваются за счет увеличения числа параметров, превосходящих их количество в человеческом мозге, плюс системой воспринимаются и модальности недоступные человеку, в частности, инфракрасное зрение. Обучение искусственных нейросетей ведется с помощью датасетов, содержащих гигантские объемы данных, несопоставимые с возможностями обработки информации мозгом человека.

В информационном обществе, в котором многократно возрастают объемы новых данных, причем процент данных, создаваемых в процессе деятельности людей, все больше уступает доле данных, генерируемых различными техническими системами и устройствами, «работа» нейросетей становится необходимой для обработки и анализа данных. Чем более распространенными становятся «умные» гаджеты, «умные» дома и автомобили, тем больше перспектив у использования нейросетей. Являясь искусственными интеллектуальными системами, могут ли нейросети одновременно быть отнесены к продуктам нейротехнологий, ведь именно подобие нервной системы человека они собой представляют?

Ответ на поставленный вопрос во многом зависят от того, что относится к нейротехнологиям. Следует разграничивать понятия нейротехнологий в широком и узком смысле. Согласно отчету Международного биоэтического комитета ЮНЕСКО об этических вопросах нейротехнологий ³⁵, опубликованному в декабре 2021 г., в широком смысле можно включить в группу нейротехнологий и продуктов на их основе разнообразные устройства и приложения, в том числе приложения с искусственным интеллектом, способные получать знания об активности мозга. В этом случае к нейротехнологиям может быть отнесена любая технология, которая оказывает фундаментальное влияние на то, как люди понимают мозг и мышление, включая создание искусственных нейронных сетей. В узком смысле нейротехнологии определяются как область устройств и процедур, используемых для доступа, мониторинга, исследования, оценки, манипулирования и имитации структуры и функций нервной системы животных или человека. К таким устройствам относятся технические и вычислительные инструменты, измеряющие и анализирующие химические и электрические сигналы в нервной системе, а также технические инструменты, которые взаимодействуют с нервной системой для изменения ее активности, например в целях восстановления. Эти устройства предназначены для записи сигналов от мозга и «перевода» их в технические команды управления, а также для манипулирования активностью мозга с помощью электрических или оптических стимулов.

Итак, группа нейротехнологий в узком смысле понимания термина ограничена прямой записью активности человеческого мозга и прямым влиянием на мозг, а к основным нейротехнологиям могут быть отнесены нейровизуализация (например, магнитно-резонансная томография), нейроустройства (например, нейропротезы, нейроимплантаты) и нейроинтерфейсы, предназначенные для обмена информацией между мозгом человека и электронными устройствами. В этом смысле нейротехнологии – это группа цифровых технологий (наряду с другими группами: искусственным интеллектом, виртуальной и дополненной реальностью, робототехникой, технологиями беспроводной связи, квантовыми технологиями и т. д.), позволяющих реализовывать на практике технологические решения, которые делают возможным восстановление двигательных, чувствительных и познавательных функций организма человека либо животного.

Как видим, цели использования технологий искусственного интеллекта и нейротехнологий в узком смысле различны, но со временем именно нейротехнологии позволят соединить человека и искусственный интеллект в одну систему, создав гибридный человеко-машинный интеллект. Путь к его появлению наглядно демонстрируют испытания, проводимые компанией американского предпринимателя И. Маска Neuralink. Речь идет о нейрочипе, вживляемом в тело человека и соединяемом с мозгом, что позволит вернуть утраченные когда-то функции организма или добавить новые. Компания Neuralink не единственный в мире разработчик нейроустройств, потенциально ведущих к киборгизации человечества, в США этим занимаются и государственные институты, например Управление перспективных исследовательских проектов Министерства обороны США (DARPA). За пределами США также интенсифицируются разработки в этой области. На территории Европейского союза функционирует целая группа компаний, участвующих в различных проектах, среди которых Human Brain Project ³⁶. Аналогичные разработки ведутся и в России, примером чего может служить проект ELVIS ³⁷. Реализация программ, нацеленных на развитие нейротехнологий, осуществляется во всем мире за счет достаточно быстро увеличивающихся как государственных, так и частных инвестиций.

Правовое регулирование в сфере искусственного интеллекта, робототехники и нейротехнологий

В целом как общемировую тенденцию можно обозначить нарастающую активность обсуждения в парламентах законопроектов о регулировании в сфере искусственного интеллекта. Согласно докладу «Индекс искусственного интеллекта – 2023» ³⁸, подготовленному группой исследователей из Стэнфордского университета, результаты анализа законодательства 127 стран показывают, что количество законов, касающихся искусственного интеллекта, выросло с одного в 2016 году до 37 законов в 2022 году, а обзор тематики парламентских докладов позволяет утверждать, что частота упоминаний об искусственном интеллекте возросла почти в 6,5 раза по сравнению с 2016 годом. Над созданием нормативных правовых актов, регулирующих использование искусственных интеллектуальных систем, в том числе роботов с искусственным интеллектом, ведется работа во многих странах, в частности в Российской Федерации ³⁹, в государствах – членах Европейского союза, в КНР, США, Соединенном Королевстве и т. д. Один из претендентов на мировое первенство – Европейский союз, где в 2021 г. был создан неоднократно упоминаемый ранее проект Регламента ЕС по искусственному интеллекту, действие которого после вступления в силу будет распространяться на все государства – члены Европейского союза, т.е. ни одна из стран не сможет применить национальный закон, противоречащий данному документу. В проекте Регламента ЕС по искусственному интеллекту предусмотрены различия в регулировании в зависимости от уровня риска, возникающего от использования соответствующих моделей искусственного интеллекта: чем выше риск – тем жестче регулирование. Системы искусственного интеллекта, которые создаются для воздействия на подсознание людей, для выстраивания социального рейтинга, разделяющего людей на категории, а равно системы распознавания лиц в режиме реального времени будут запрещены к использованию ⁴⁰. Системы, применяемые в сфере здравоохранения, образования, правоохранительной деятельности и в критической инфраструктуре, должны обязательно контролироваться человеком. Принятие Регламента ЕС по искусственному интеллекту не исключает разработки и иных нормативных правовых актов, нацеленных на регулирование использования искусственного интеллекта. Пределы регулирования будут зависеть и от области применения, например в крайне социально значимой сфере занятости дополнительно появятся нормы права. К областям, которые потребуют углубленного правового регулирования, скорее всего, можно отнести упомянутые в Резолюции Европарламента об искусственном интеллекте в цифровую эпоху от 3 мая 2022 г.⁴¹ сферу занятости (рынок труда), здравоохранение, экологию, конкурентоспособность, внешнюю политику и безопасность, а также государственное управление.

Создаваемое европейское регулирование является наиболее полным по сравнению с другими имеющимися в мире законами и законопроектами, оно касается всех типов систем искусственного интеллекта, включая роботов, и распространяется на все продукты с искусственным интеллектом, кроме предназначенных для военной сферы. Конкурентом Европейскому союзу в плане создания правового регулирования искусственного интеллекта все больше становится Китай, где нормативные правовые акты появляются быстрее, так как, в отличие от законодательства Европейского союза, не требуют согласования многими субъектами. Правовое регулирование искусственного интеллекта в Китае характеризуется более узкой функциональной направленностью принимаемых нормативных правовых актов, которые касаются определенных вопросов. Примером оперативности китайского правового регулирования стало вступление в силу в августе 2023 г. «Временных мер по управлению услугами генеративного искусственного интеллекта», опубликованных в июле этого же года Управлением киберпространства КНР. В то же время, стараясь не отставать от Европейского союза, Китай уже озвучил задачу принятия закона об искусственном интеллекте в «Плане законодательной работы Госсовета КНР на 2023 год» ⁴².

Необходимость правового регулирования в этой области подчеркивается и государственными органами США, но там пока наличествует лишь «лоскутное одеяло» из отдельных законов федерального уровня и быстро растущего числа законов штатов. Принимаемые разными штатами законодательные акты в основном касаются ограничений на использование технологий распознавания лиц либо применения искусственных интеллектуальных систем в трудоустройстве. Правовое регулирование в США является менее «жестким», чем европейское. Впрочем, принятие Регламента ЕС по искусственному интеллекту неизбежно окажет воздействие и на американское законодательство, как это в свое время произошло с законодательством многих стран мира по защите персональных данных, испытавшим влияние Общего регламента по защите данных (GDPR) ⁴³, принятого в Европейском союзе.

Наблюдаемая ныне скорость развития генеративного искусственного интеллекта позволяет прогнозировать ускорение формирования законодательства в этой области, что во многом связано с возросшими рисками утраты конфиденциальности данных и фактического исключения человека из процесса принятия решений.

В отличие от регулирования в сфере искусственного интеллекта, направленного на ограничение использования этих технологий с учетом растущих рисков, регулирование в сфере нейротехнологий находится на еще более ранней стадии создания. В то же время если по искусственному интеллекту обсуждаемые ограничения, по крайней мере до 2023 г., касались исключительно использования искусственного интеллекта, но не его развития как научно-технического направления (озвучивались лишь ограничения этического, но не юридического свойства), то в отношении нейротехнологий уже несколько лет назад был поставлен вопрос о необходимости регулирования не только использования нейротехнологий, но и их развития. Об этом упоминается, например, в Резолюции Парламентской Ассамблеи Совета Европы от 22 октября 2020 г. № 2344 «Интерфейс “мозг-компьютер”: новые права или новые угрозы основным свободам?» ⁴⁴, указывающей на необходимость определить пределы исследований в сфере нейротехнологий посредством создания конкретных правовых механизмов и учредить специальные органы надзора за исследованиями и разработками в сфере нейротехнологий. Использование нейротехнологий также должно ограничиваться законом, более того, некоторые исследователи ⁴⁵ предлагают выделить новую группу прав человека – нейроправ в целях эффективной защиты против рисков, связанных с распространением нейротехнологий на практике. Среди возможных нейроправ перечисляются права на психическую неприкосновенность, психическую целостность и психологическую преемственность. По мнению сторонников закрепления таких прав, упоминание о них в конституции (законе) станет юридической гарантией неприкосновенности частной жизни, включающей право не подвергаться незаконному надзору со стороны органов государства или частных компаний.

Заключение

Итак, системы искусственного интеллекта и роботы могут как совпадать в одном «лице», так и не совпадать. Система искусственного интеллекта может иметь киберфизическую форму, и тогда это будет робот с искусственным интеллектом, либо виртуальную форму (без физического носителя), совсем необязательно что такой искусственный интеллект будет уступать по возможностям киберфизическим интеллектуальным системам, он вполне сможет подчинить их себе. Техническое регулирование роботов с искусственным интеллектом обладает определенными особенностями, связанными с возможностью перемещения их в пространстве, правовое регулирование развивается в направлении единого законодательства, рассчитанного на применение к искусственным интеллектуальным системам независимо от их формы, и формируемого с учетом уровня рисков, возникающих при их использовании. В зависимости от величины риска ограничения, установленные на применение таких систем, будут более или менее строгими. Технологии искусственного интеллекта имеют грани соприкосновения с нейротехнологиями, а развитие искусственных нейросетей делает взаимопроникновение данных технологий более глубоким. Все ярче проявляется тенденция нейроморфизации искусственного интеллекта, это приближает появление искусственного интеллекта следующего поколения ⁴⁶. Кроме того, нейротехнологии позволяют соединить искусственную интеллектуальную систему и человека в единый кибернетический организм (киборга), что в перспективе приведет к появлению гибридного человеко-машинного интеллекта, превосходящего естественные возможности человека. Если создаваемое сегодня правовое регулирование искусственного интеллекта направлено на его использование на практике, то применительно к нейротехнологиям уже на международном уровне поставлен вопрос о необходимости регулирования не только использования, но и самого развития нейротехнологий. В то же время вопрос о правовом регулировании как использования, так и развития искусственного интеллекта на ближайшие годы неизбежно станет предметом публичного обсуждения. Последнее можно утверждать в связи с качественным скачком в развитии искусственного интеллекта, отмечаемым специалистами в 2023 г., и демонстрируемыми генеративными моделями искусственного интеллекта принципиально новыми возможностями по сравнению с предыдущими моделями, что приближает человечество к появлению сильного искусственного интеллекта.

1 См.: Морхат П. М. Искусственный интеллект: правовой взгляд. М., 2017.

2 См.: Архипов В. В., Наумов В. Б. Искусственный интеллект и автономные устройства в контексте права: о разработке первого в России закона о робототехнике // Труды СПИИРАН. 2017. № 6 (55). С. 46–62; Архипов В. В., Грачева А. В., Наумов В. Б. Идентификация в сфере искусственного интеллекта и робототехники: сравнительное исследование // Закон. 2023. № 2. С. 96–108.

3 См.: Харитонова Ю. С., Савина В. С., Паньини Ф. Гражданско-правовая ответственность при разработке и применении систем искусственного интеллекта и робототехники: основные подходы // Вестник Пермского ун-та. Юридические науки. 2022. № 58. С. 683–708.

4 См.: Бегишев И. Р., Хисамова З. И. Искусственный интеллект и уголовный закон. М., 2021.

5 См.: Лаптев В. А. Понятие искусственного интеллекта и юридическая ответственность за его работу // Право. Журнал ВШЭ. 2019. № 2. С. 79–102.

6 См.: Abbott R. The Reasonable Robot: Artificial Intelligence and the Law. Cambridge University Press, 2020.

7 См.: Pagallo U. The Laws of Robots: Crimes, Contracts, and Torts (Law, Governance and Technology Series). Springer Science & Business Media, 2013.

8 См.: Calo R., Froomkin A. M., Kerr I. Robot Law. Edward Elgar Publishing, 2016.

9 См.: McCarty L. T. Finding the Right Balance in Artificial Intelligence and Law. In book: Research Handbook on the Law of Artificial Intelligence. Chapter: 3. Edward Elgar Publishing, 2017. Pp. 55–87.

10 См.: Susskind R. Tomorrow’s Lawyers: An Introduction to Your Future. 2nd ed. Oxford University Press, 2017.

11 См.: Russell S. J., Norvig P. Artificial intelligence: a modern approach. New Jersey, 1995. P. 5.

12 См.: Андрейчиков А. В., Андрейчикова О. Н. Интеллектуальные информационные системы и методы искусственного интеллекта: учеб. М., 2023.

13 См.: Standard ISO/IEC22989:2022 “Information technology – Artificial intelligence – Artificial intelligence concepts and terminology”. URL: https://www.iso.org/obp/ui/ru/#iso: std:74296: en (дата обращения: 21.10.2023).

14 См.: Proposal for a Regulation of The European Parliament and of the Council Laying Down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act) and Amending Certain Union Legislative Acts COM/2021/206 final, 21.04.2021. URL: https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=celex%3A52021PC02066 (дата обращения: 03.07.2023).

15 Процедура принятия регламентов в Европейском союзе является многоступенчатой, после одобрения Европарламентом требуется еще утверждение Европейским советом. Принятый Регламент ЕС по искусственному интеллекту вступит в силу не ранее 2025 г.

16 См.: OECD Recommendation of the Council on Artificial Intelligence, 22.05.2019. URL: https://legalinstruments.oecd.org/en/instruments/oecd-legal-0449 (дата обращения: 03.07.2023).

17 См.: СЗ РФ, 2020. № 17, ст. 2701.

18 См.: A definition of AI: main capabilities and scientific disciplines. High-level expert group on artificial intelligence. European Commission, 2019. URL: https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=56341 (дата обращения: 03.07.2023).

19 См.: Филипова И. А. Правовое регулирование искусственного интеллекта: регулирование в России, иностранные исследования и практика // Государство и право. 2018. № 9. С. 82.

20 См.: ГОСТ Р 60.0.0.2-2016. Национальный стандарт Российской Федерации «Роботы и робототехнические устройства. Классификация» (утв. приказом Федерального агентства по техническому регулированию и метрологии от 29.11.2016 № 1842-ст).

21 См.: Зенкевич С. Л., Ющенко А. С. Основы управления манипуляционными роботами. 2-е изд. М., 2004. С. 18.

22 См.: European Parliament Resolution of 16 February 2017 with recommendations to the Commission on Civil Law Rules on Robotics (2015/2013(INL). URL: http://www.europarl.europa.eu/sides/getDoc.do?pubRef=-//EP//TEXT+TA+P8-TA-2017-0051+ 0+DOC+XML+V0//EN (дата обращения: 03.07.2023).

23 См.: Księżak P., Wojtczak S. AI versus robot: in search of a domain for the new European civil law // Law, Innovation and Technology. 2020. Vol. 12. Iss. 2. Pp. 297–317.

24 См.: European Parliament resolution of 20 October 2020 with recommendations to the Commission on a framework of ethical aspects of artificial intelligence, robotics and related technologies (2020/2012(INL)). URL: https://www.europarl.europa.eu/doceo/document/TA-9-2020-0275_EN.pdf (дата обращения: 03.07.2023); European Parliament resolution of 20 October 2020 with recommendations to the Commission on a civil liability regime for artificial intelligence (2020/2014(INL)). URL: https://www.europarl.europa.eu/doceo/document/TA-9-2020-0276_EN.html (дата обращения: 03.07.2023).

25 См.: СЗ РФ. 2020. № 35, ст. 5593.

26 Речь о проектах федеральных законов Д. Гришина «О внесении изменений в Гражданский кодекс Российской Федерации в части совершенствования правового регулирования отношений в области робототехники» (2016) и А. Кутепова «О правовом регулировании отношений в сфере оборота роботов» (2021).

27 См.: Морхат П. М. Совершенствование российского законодательства в части регулирования правового положения юнитов искусственного интеллекта в сфере права интеллектуальной собственности // Бизнес. Образование. Право. 2018. № 4 (45). С. 326–329.

28 См.: Указ Президента РФ от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации» // СЗ РФ. 2019. № 41, ст. 5700.

29 См.: постановление Правительства РФ от 28.10.2020 № 1750 «Об утверждении перечня технологий, применяемых в рамках экспериментальных правовых режимов в сфере цифровых инноваций» // СЗ РФ. 2020. № 44, ст. 7003.

30 См.: Филипова И. А. Нейротехнологии: развитие, применение на практике и правовое регулирование // Вестник СПбУ. Право. 2021. № 3. С. 503.

31 См.: URL: https://digital.gov.ru/ru/documents/6658/ (дата обращения: 03.07.2023).

32 См.: Официальный интернет-портал правовой информации. URL: http://publication.pravo.gov.ru/document/0001202305250050 (дата обращения: 03.07.2023).

33 См.: McCulloch W.S., Pitts W. A logical calculus of the ideas immanent in nervous activity // Bulletin of Mathematical Biophysics. 1943. № 5. Pp. 115–133.

34 См.: Rosenblatt F. Principles of Neurodynamics: Perceptrons and the Theory of Brain Mechanisms. Spartan Books, 1962.

35 См.: Report of the International Bioethics Committee of UNESCO (IBC) on the Ethical Issues of Neurotechnology SHS/BIO/IBC-28/2021/3, 15.12.2021. URL: https://unesdoc.unesco.org/ark:/48223/pf0000378724 (дата обращения: 03.07.2023).

36 См.: Human Brain Project (HBP). URL: https://www.humanbrainproject.eu/en/ (дата обращения: 03.07.2023).

37 См.: ELVIS. URL: https://elvis-tech.ru/ (дата обращения: 03.07.2023).

38 AI Index Report 2023. URL: https://aiindex.stanford.edu/report/ (дата обращения: 03.07.2023).

39 В Российской Федерации разрабатывают закон об искусственном интеллекте // РИА Новости. 28.06. 2023. URL: https://ria.ru/20230628/zakon-1880810358.html (дата обращения: 03.07.2023).

40 Допускается использование систем распознавания лиц правоохранительными органами, но только постфактум и с разрешения суда.

41 См.: European Parliament Resolution of 3 May 2022 on Artificial Intelligence in a Digital Age (2020/2266(INI)). URL: https://www.europarl.europa.eu/doceo/document/TA-9-2022-0140_EN.html (дата обращения: 03.07.2023).

42 Ли Яо. Особенности нормативно-правового регулирования генеративного искусственного интеллекта в Великобритании, США, Евросоюзе и Китае // Право. Журнал ВШЭ. 2023. Т. 16. № 3. С. 255, 264.

43 См.: Regulation (EU) 2016/679 of the European Parliament and of the Council of 27 April 2016 on the protection of natural persons with regard to the processing of personal data and on the free movement of such data, and repealing Directive 95/46/EC (General Data Protection Regulation), 2018. URL: https://eur-lex.europa.eu/eli/reg/2016/679/oj (дата обращения: 03.07.2023).

44 Парламентская Ассамблея Совета Европы. Документы, принятые Ассамблеей 12–13 и 22–23 октября 2020 г. Предварительное издание. Страсбург, 2020. URL: https://rm.coe.int/adoptedtextscp-oct-20-ru/1680a043a6 (дата обращения: 03.07.2023).

45 См.: Ienca M., Andorno R. Towards new human rights in the age of neuroscience and neurotechnology // Life Sciences, Society and Policy. 2017. № 13. Iss. 5. Pp. 7, 8.

46 См.: Zador A., Escola S., Richards B., et al. Catalyzing next-generation Artificial Intelligence through NeuroAI // Nature Communications. 2023. No. 14. P. 1597.

About the authors

Irina А. Filipova

Author for correspondence.
Email: irinafilipova@yandex.ru

PhD in Law, Associate Professor, Associate Professor of the Department of Labor Law and Environmental Law, Lobachevsky Nizhny Novgorod State University

References

Supplementary files