Трудовой Кодекс РФ с комментариями ТК РФ, бесплатные консультации юристов
Кому принадлежат авторские права на созданные роботом произведения и кто ответит за его поступки?
Скорость — совершенное оружие, сказал недавно Илон Маск, обсуждая финансовые результаты Tesla за третий квартал этого года. Но он имел ввиду отнюдь не скорость своих машин. Речь шла о скорости работы роботов, которые эти машины собирают. Позднее в Твиттере Маск прокомментировал, что уже через несколько лет нам понадобится стробоскоп, чтобы оценить скорость движения роботов.
Скорость развития робототехники и искусственного интеллекта, по всей видимости, переходит на новый уровень. И человечество это понимает — в 2017 году, чтобы не вылететь с трассы, оно приняло национальные и общемировые правила обращения с ней. Проиллюстрирую текущий уровень технологий, и попробую объяснить, почему принятие законов робототехники — неизбежно.
На волне прогресса
По данным Международной Федерации Робототехники, невероятно быстро растет рынок промышленных роботов. В 2016 году их продажи достигли почти 300 000 единиц. Пять лет назад этот показатель был почти вдвое меньше. В результате объем только одного этого рынка составил $13 млрд, а с учетом смежных рынков ПО и компонентов – все $40 млрд.
Уже не первый год завод компании Siemens в Амберге производит один программируемый контроллер в секунду с невероятным уровнем качества — процент брака составляет всего 0,00115%. Достигнуть скорости производства в 12 млн единиц в год одновременно с сохранением качества помогают роботы — 75% операций автоматизировано.
В Великобритании уже несколько лет успешно используют хирургических роботов Da Vincie для борьбы с раком простаты. Их главное отличие от обычных — высочайшая точность, сохранение околооперационных тканей, а также быстрые сроки восстановления. В свежем исследовании рынка хирургических роботов говорится, что среднегодовой прирост этого рынка в 2017-2021 годах составит 10,53%.
Власть над миром: чем закончится гонка за искусственным интеллектом
Уже давно никого не удивляет робот-пылесос, как и робот-мойщик окон. Благодаря удешевлению компонентов и производству целого ряда моделей в Китае их стоимость стала серьезно падать, и они хлынули на рынок. Достаточно посмотреть на финансовые показатели только одного производителя, чтобы понять насколько вырос рынок домашних роботов в последние несколько лет — они уже продаются миллионами штук.
Робот Cheetah компании Boston Dynamics еще в 2012 году показал скорость движения, сопоставимую с рекордами Усейна Болта, а их антропоморфный робот Atlas, в 2017 уже научился делать сальто назад. Но технические достижения — это, пожалуй, не самое впечатляющее. Поражает скорость проникновения робототехники во все аспекты нашей жизни.
Наконец, все чаще компании стали объявлять о наборе роботов в штат. Известный всем пример российского банка, который попытался заменить юристов «искусственным интеллектом», а в некоторые отделения уже поставил роботов для обслуживания посетителей, — одна из ярких, но далеко не единственных иллюстраций.
За робота ответишь?
Скорость внедрения новых технологий действительно поражает! Хорошо это или плохо, вопрос риторический. Однако с развитием робототехники активизировалась новая проблема – регулирования.
Действительно, чем больше появляется роботов (особенно, таких) и киберфизических систем, тем больше вопросов вызывает применение к ним действующих норм. Постулаты Азимова о непричинении вреда человеку и человечеству умными роботами уже давно не вызывают эмоций у большинства специалистов.
Вопросы, ответы на которые хотелось бы получить уже сейчас: есть ли ограничения на использования военных роботов? Кому принадлежат авторские права на созданные роботом произведения и кто ответит за его поступки, например ущерб, принесенный автопилотируемой машиной?
В применение «искусственного интеллекта» в финтехе уже нужно вмешаться, или стоит подождать еще нескольких сбоев бирж? Как будем защищать имплантируемые роботизированные механизмы и что делать, если имплантат в сердце есть, а компании-производителя уже нет?
Ну и наконец, проблема сильного искусственного интеллекта (ИИ, сравнимый с человеческим мозгом по уровню интеллекта) все-таки реальна и нам уже нужно контролировать его разработки, или разберемся как-нибудь потом?
Самозарождение правил
Первые подходы к таким проблемам обозначили в Южной Корее. В 2007 году там анонсировали разработку Этического устава роботов (документа с тяжелой судьбой; о его существовании за пределами Кореи практически ничего так и неизвестно, хотя корейская версия, как оказалось, похоже все-таки существует). Затем там же приняли закон о содействии развитию умных роботов.
Но в последние годы проблема регулирования вышла на новый уровень. Обозначим основные подходы.
Частные законы. Множество экспертов высказывало свои мнения о том, как должны регулироваться отношения между роботами и людьми. Например, Три закона робототехники фантаста Айзека Азимова, или Десять законов ИИ Сатьи Наделлы, руководителя компании Microsoft. Даже Карел Чапек, создатель слова «робот», упоминает в R.U.R. некую Лигу Гуманности, борющуюся за права роботов на нормальное отношение со стороны людей.
Позиция сообществ. Иногда высказанные предложения о регулировании поддерживаются целым сообществом экспертов. Хороший пример — 23 Азиломарских принципа искусственного интеллекта, разработанных и опубликованных в январе 2017 года под эгидой Future of Life Institute. Их подписало уже почти 4 000 экспертов и специалистов. Ученые предлагают направить свои усилия на создание управляемого, надежного и полезного ИИ, отказаться от «гонки вооружений» на основе ИИ и подумать о безопасности разработок, а также ответственности самих разработчиков.
Предложения, которые высказываются экспертами, по существу являются примером первых попыток саморегулирования, когда частные лица или компании разрабатывают правила до того, как государство разработает законы, обязательные для выполнения. Одним из характерных атрибутов саморегулирования является объединение в ассоциации. Их правила становятся обязательными для ее членов. Примером такой ассоциации является Partnership on AI — партнерство, участниками которого являются Amazon, Apple, Google, IBM, Facebook, Microsoft и другие. Оно создано в 2017 году и о конкретных правилах говорить пока рано, но мы видим один из уникальных примеров объединения крупнейших компаний мира (к слову, конкурентов в ряде областей) вокруг проблемы развития искусственного интеллекта.
Регулирование на национальном уровне
На протяжении 2017 года мы увидели целый ряд примеров того, как государство пытается регулировать киберфизические системы.
Например, в Германии принят закон, призванный открыть дорогу автономному транспорту. Законодатели выделили категорию автомобилей «со значительно или полностью автоматизированной функцией вождения» и разрешили водителями отвлекаться от ситуации на дороге. Одновременно, правда, удвоили лимит ответственности за причиненный вред и ввели правило обязательной установки «черного ящика».
В Китае представили многостраничный План развития технологий искусственного интеллекта нового поколения. К 2030 году в нем поставлены амбициозные цели. Китайские технологии ИИ должны стать ведущими в мире, а сам Китай – крупнейшим инновационный центром. При этом обозначено намерение создать первые законы в этой сфере уже к 2020 году.
А Эстония и вовсе стала первой страной в мире, которая легализовала правила передвижения роботов-курьеров.
Международное регулирование
После громкого анонсирования Корейского устава роботов десять лет на международном уровне в каком-то смысле было затишье. Но 2017 год изменил и это.
В начале года Европарламент принял на рассмотрение проект Резолюции о правовом статусе роботов. Он состоит из нескольких разделов: общие соображения о роботах и их классификация, вопросы, касающиеся ответственности, а также определения кодекса этики для разработчиков робототехники.
А в конце года уже в России был представлен проект Модельной конвенции о робототехнике и искусственном интеллекте. Конвенция призвана объединить основные подходы к регулированию и инициировать принятие первого международного акта в этой сфере. В изначальной редакции конвенции 42 правила, посвященных безопасности роботов, а также правилам их создания и использования. Отдельные разделы содержат положения, направленные на регулирование разработок в сфере искусственного интеллекта, а также на ограничения в применении военных роботов.
В конвенции также высказывается призыв создать наднациональный институт регулирования на уровне ООН. Ранее Европарламент также выступил со схожим предложением на уровне Европы — создать Европейское агентство по робототехнике и ИИ.
Полагаю, что в 2018 году скорость регулирования перейдет на новые уровень. Тенденция очевидна: нас ждут новые законы робототехники, которые, возможно, уже в этом году воплотятся в национальные и международные законы.
