Беспилотные авто и машины с искусственным интеллектом. Искусственный интеллект за рулем. Как в России будут использовать автомобили‐беспилотники Последнее сообщение intellect board законы

В этом году на CES 2017, как ни странно, наиболее интересные технологии представляли производители авто. Машина перестает быть просто средством передвижения и превращается в самый настоящий гаджет. Автомобили наполнены кучей электроники и порой перестают напоминать внешне привычные нам машины. Беспилотные авто — вообще особая тема. Технологии автоматического управления автомобилем тестируют и пытаются внедрить многие компании. Также популярно становится и внедрение искусственного интеллекта в автомобиль. Все это довелось увидеть на CES 2017.

Toyota Concept-i

Например, Toyota показала на CES 2017 собственное видение будущего автомобилей — Concept-i. Главная фишка Concept-i не автономность, а наличие в автомобиле искусственного интеллекта Yui. Основная цель такой машины с собственным интеллектом — сделать процесс езды и взаимодействия автомобиля и человека проще. Хотя куда уж проще? Дави на педали и смотри на дорогу. Но в Toyota по своему видят будущее, где умный помощник Yui буквально будет ощупывать вас, ведь он умеет не только связываться с водителем посредством голоса или цветовых оповещений, но и с помощью тактильной отдачи. Yui буквально может к вам прикоснуться. Звучит зловеще, но так в Toyota представляют себе будущее. Конечно Concept-i может ездить и автономно, но главное заключается именно в поддержке водителя. Искусственный интеллект способен считывать эмоции человека. И если он заметит, что водитель становится рассеянным, то заведет с ним беседу или другим способом даст понять, что пора отдохнуть.

Divergent Blade

Немного по-другому видят ближайшие лет 10-15 ребята из команды Divergent 3D. Как понятно из названия, компания специализируется на 3D печати. Печати автомобилей! Их детище, Divergent Blade является суперкаром и способен разгоняться до 100 км/ч всего за 2,5 секунды. Ездит этот автомобиль на газе или бензине, но при этом является гораздо более экологичным транспортом чем электромобили. А все потому, что распечатанный на 3D принтере Blade несет на 65% меньше вреда экологии, чем собранный на конвейере электромобиль. Интересно и то, что Blade это не только распечатанный на принтере кузов, что уже далеко не новость, но и шасси. Основа автомобиля тоже распечатана на 3D принтере и состоит из 28 килограмм алюминия и 19 кг карбона. На сборку этого шасси понадобится 30 минут и три человека. Кстати, полностью Divergent Blade весит 630 кг, а двигатель который устанавливается в этот имеет мощность в 700 л/с, то есть больше чем 1 л/с на килограмм веса. Невероятный результат.

Беспилотные авто

Основная идея многих показанных на CES 2017 машин — автономное вождение. Мир буквально помешался на этой идее. Так свое видение беспилотного авто показала Honda. Ее NeuV рассчитана на двух человек и видится компании, как идеальный автомобиль для Uber. То есть такси без таксиста. Honda показали и самопередвижные табуретки, правда совсем непонятно зачем они вообще нужны. Также японцы продемонстрировали умный мотоцикл, который способен следовать за водителем или потихоньку катиться в пробке не теряя равновесия. Говорят, что все за счет умной начинки.

Hyundai решила шокировать внешностью, вернее ее обычностью, ведь представленный беспилотный автомобиль Ioniq ничем не отличается от самой обычной машины. Все сенсоры спрятаны внутри кузова. Корейцы, как бы дают понять, что их будущее немного ближе, чем у конкурентов.

BMW показала новую систему интерфейса HoloActive Touch, который должен будет использоваться в автомобилях в ближайшем будущем.

Электромобили

Второй главный тренд автомобилей на CES 2017 — электрическая силовая установка. Электрокары одним словом. Tesla своим появлением изменила этот мир и доказала, что электромобили это реальность. Поэтому крупные производители теперь пытаются так активно создать свои собственные электромобили. Например, Mercedes привезла на выставку концепт внедорожника EQ, который по словам компании уже готов к серийному производству и должен появиться в продаже в 2019 году. Силовая установка и аккумуляторы в этом автомобиле позволят ему от одной зарядки проехать 500 километров. Кстати, привыкайте к этой фразе «проехать на одной зарядке», скоро это станет нашей повседневной реальностью.

Это доказывает и Nissan, которые привезли на CES 2017 новое поколение электромобиля Leaf. Nissan не просто показали новый Leaf, они представили уникальную интеллектуальную систему SAM — Seamless Autonomous Mobility. Японцы планирует создать центр управления беспилотными авто — как NASA следит за своими кораблями, так и Nissan будут следить за беспилотными автомобилями. Встроенный в Leaf искусственный интеллект SAM способен самостоятельно разбираться со всеми дорожными ситуациями, но если вдруг он не сможет понять, как ему действовать дальше, то он обратится в центр управления. Он в свою очередь даст необходимые руководства по дальнейшим действиям. В общем Nissan пытается разобраться с проблемой адекватности автопилотов.

Ford решили не заморачиваться с созданием собственного умного помощника и обратились к Alexa — искусственному интеллекту от Amazon. Так вы сможете прямо из машины зажечь умную лампочку Philips Hue в доме или завести двигатель автомобиля удаленно, или включить дома кондиционер. Непонятно зачем это реально нужно когда есть смартфоны, Ford это не объяснили, но такая коллаборация выглядит как минимум интересно, ведь Alexa сегодня очень популярна в США.

Faraday Future FF91

А пока все пытаются создать электрокар с автопилотом и умным помощником будущего, ближе всего к реальности оказалась небольшая компания Faraday Future из Лос-Анджелеса. В прошлом году этот проект представлял на CES какой-то невероятно футуристичный концепт FFZero1, а уже в этом году Faraday представили практически серийный автомобиль FF91. На одной зарядке FF91 может проехать 608 км. При этом заряжаться может от любых типов зарядных станций. Суммарная мощность Faraday Future FF91 — 1050 лошадиных сил. Цифра впечатляющая. С нуля до сотни этот электромобиль разгоняется за 2,39 секунды, это на 0,01 быстрее чем Tesla Model S. Бойцовские качества спорткара этот автомобиль совмещает с утилитарностью минивэна. Помимо продвинутого автопилота и умного помощника внутри расположена куча дисплеев для водителя и всех пассажиров, целые системы сенсоров, камеры и Wi-Fi антенны. У каждого водителя FF91 будет собственная учетная запись, она позволит загружать все индивидуальные настройки электрокара — настройку кресел, руля, зеркал, приборов и так далее. Более продвинутая система памяти, которая есть в современных автомобилях. Производство Faraday Future FF91 начнется в 2018 году. Пока неизвестно даже примерно, сколько будет стоить этот электрический автомобиль, но уже можно встать в очередь заплатив $5000.

Автоматизация юридического процесса или внедрение искусственного интеллекта. На международной конференции Legal Al в «Сколково» лучшие российские и иностранные практики рассказали, как сегодня в сфере права можно применить новейшие технологии.

«Если нейронные сети научатся просто отличать, где черное, а где белое - это уже будет большим успехом», - считает начальник юридического департамента «Гарант» Светлана Ревак .

Нейронные сети и роботы теперь держат юристов в тонусе. В перспективе - полная автоматизация и компьютеризация многих юридических процессов. Специалисты решают, как применять искусственный интеллект в юриспруденции, чтобы повысить эффективность поиска, обобщения информации в базах законодательства, судебной практики и других данных в рамках любого юридического проекта.

«Во-первых, я хотел бы сказать о важности данных в юридической сфере. Потому что информация обладает даже большей ценностью, чем золото. И для юридических фирм очень важно найти и подключиться к источнику сведений. Потому что информация помогает выигрывать дела. И необходимо понимать уровень зрелости и совершенства технологий. В этом случае мы говорим об искусственном интеллекте и о том, каким образом они [технологии] могут интегрироваться в предоставление юридических услуг», - рассказывает основатель «LegalComet» (Сингапур) Майкл Лью .

Глядя на перечень возможностей машины, может сложиться впечатление, что она в итоге заменит человека, однако цель у искусственного интеллекта совершенна другая.

«Я не думаю, что это заменит полностью юриста, потому что в нашей работе есть такие факторы, как эмоциональное восприятие, какие-то навыки в интерпретации речи, эмоций, интерпретации определенных слов и выражений, которые пока что недоступны машинам. И я думаю, что, в принципе, никогда и не будут [доступны] , именно из-за этой тонкости. Но ускорить работу, я думаю, эти алгоритмы помогут», - делится мнением старший консультант «KorumLegal» (Гонконг) Анна Ким .

«Я называю это демократизацией информации. Действительно, есть такая цель - приземлить эти сокровенные знания, сделать их ближе к людям. Потому что для юристов это - не выявленный спрос. Люди не понимают, зачем им обращаться к юристам и адвокатам, если у них что-то не произошло. Они связывают эти услуги с каким-то прецедентом, с каким-то негативом, просто потому что это достаточно консервативная отрасль, достаточно закрыта и непонятна большинству людей», - уверен директор центра юридических технологий инновационного центра «Сколково” Антон Пронин .

Сделать сферу права доступной и понятной каждому - вот о чем всерьез задумались в «Сколково». Привлечь и перенять зарубежный опыт, помочь российским стартапам в сфере развития искусственного интеллекта - ближайшее будущее молодых ученых России.

Уже совсем скоро роботы могут стать незаменимыми помощниками для сотрудников банков. Так, журнал Banking Technology провел опрос среди крупных банков о том, как они оценивают необходимость RegTech в своих бизнес-процессах. 93% респондентов ответили, что уже в ближайшем будущем такие технологии будут очень важны для финансового регулирования и качественного составления отчетности. Компания Baker McKenzie опросила более 400 руководителей крупных финансовых организаций. 49% участников сообщили, что планируют применять искусственный интеллект для управления рисками в ближайшие три года. 29% ожидают, что с помощью ИИ они смогут лучше знать своих клиентов и предотвращать риск отмывания денег. 26% полагают, что ИИ поможет их организации соответствовать требованиям законодательства.

Но это прогноз на будущее. А какие задачи по работе с правовыми рисками искусственный интеллект решает уже сегодня? Вот лишь несколько примеров.

1. Разрешает конфликтные ситуации с клиентами.

Банки и инвестиционные компании должны хранить записи всех переговоров менеджеров с клиентами, в том числе текстовые сообщения из популярных мессенджеров. Чтобы разрешить противоречивую ситуацию, нужно быстро отыскать запись разговора, иногда даже через полгода после того, как сам диалог состоялся. Подобные решения уже предлагает ряд компаний: они одновременно «просматривают» записи из множества различных источников и проверяют тексты, аудио- и даже видеозаписи. Ряд банков, например Deutsche Bank , HSBC , уже тестирует искусственный интеллект для мониторинга переговоров и проведения служебных расследований. Это помогает департаменту комплаенс не заниматься «раскопками», часами прослушивая разговоры и анализируя переписку с клиентом, а находить нужные доказательства за несколько минут.

1. Противодействует отмыванию денег.

Рейтинг и репутация банка или инвестиционной компании напрямую связаны с тем, что делают их клиенты и контрагенты. Чтобы предотвратить возможные риски, финансовые организации тратят огромные ресурсы на проверку информации в базах данных. Такие проверки необходимы, ведь банк отвечает за все операции, которые проходят через его систему. В то же время любая компания хочет сделать этот процесс «безболезненным» и удобным для своих клиентов. Искусственный интеллект помогает быстро собрать всю информацию, не требуя много времени. Например, при участии интеллектуальной технологии ABBYY Compreno банк может автоматически собрать информацию из заявки клиента и документов, дополнив их при необходимости данными из поисковых систем и отраслевых баз. А затем определить, единственный ли он владелец бизнеса, не является ли он индивидуальным предпринимателем, которому уже заблокировала счет налоговая инспекция, не наложены ли на его активы обременения по решению суда, а также не ведется ли в отношении него исполнительное производство. В отличие от человека искусственный интеллект может проверять и обновлять всю информацию постоянно, в режиме 24 х 7, к тому же он не устает.

Другая проблема, с которой сталкиваются компании, - это «ложные тревоги». Как правило, большинство расследований об отмывании денег проводят вручную тысячи сотрудников банков. Если подозрительная активность не подтвердилась, время тратится впустую. Системы на основе искусственного интеллекта помогают сравнить действия контрагентов с типовыми моделями недобросовестного поведения, проверять взаимосвязи клиентов, а используя текстовую аналитику - и сопоставлять назначения платежей с видом деятельности компании. Так, если бизнес, который по документам занимается производством фастфуда, вдруг безо всякой причины массово закупает лекарственные препараты - это не пройдет для системы незамеченным. В то же время робот не будет блокировать счет просто потому, что клиент поехал в отпуск в Рио-де-Жанейро и снял в банкомате крупную сумму денег. HSBC уже протестировал подобную систему и сократил случаи потенциального мошенничества на 20%.

1. Отвечает на запросы регуляторов.

Банки отвечают за свои действия перед контролирующими органами. Так, они должны давать Центробанку ответы на жалобы от клиентов на качество услуг. Число таких обращений от граждан огромно: только в Московской области по итогам года Центробанк ожидает получить 128 000 жалоб . ЦБ может попросить банк предоставить подробный отчет о его деятельности, особенно если речь идет о жалобах, связанных со взысканием задолженности. Поиск нужной информации занимает массу времени и ресурсов.

Центробанк также имеет право требовать от банка доказательства, что его капитал сформирован надлежащими активами . Регулятору может понадобиться информация о различных доходах банка, например платежах страховых компаний в рамках программ страхования заемщиков; средствах, предоставленных аффилированным структурам или юрлицам, не ведущим реальной деятельности; случаях безвозмездного финансирования. Время на то, чтобы предоставить сведения, ограничено - всего два рабочих дня. Искусственный интеллект помогает быстро найти информацию о любом клиенте или транзакции. Так, например, технология ABBYY Compreno обрабатывает данные, содержащиеся в приказах, отчетах, письмах. Можно выделять в тексте конкретные объекты и связи между ними: имена людей и их паспортные данные, названия компаний и их ИНН, ОГРН и другие характеристики. Это помогает сильно сократить сроки для обработки запросов и обходиться меньшими ресурсами при поиске информации.

1. Помогает регуляторам в законотворческом процессе.

Огромные массивы информации - проблема не только для бизнеса, но и для законодательных органов. Например, одна только российская Дума прошлого созыва рассмотрела 6012 законопроектов и приняла 1817 законов . Каждый такой документ - это комплекс норм, который устанавливает новые правила, изменяет или отменяет уже существующий порядок вещей. Нормативные акты входят в единую систему, содержат перекрестные ссылки, а это означает, что чиновникам нужно редактировать связанные законы, указы, постановления, инструкции и решения на федеральном, региональном и муниципальном уровне. В будущем такие задачи смогут решать с помощью машинного обучения. Роботы будут отслеживать версии документов при межведомственном согласовании. Автоматически добавлять во множество подзаконных актов ссылки на новые правила. Искать разъяснения Конституционного суда, связанные с текстом того или иного закона. В более отдаленной перспективе роботы даже смогут находить те области нашей жизни, которые еще не регулируются законодательством, и помогать людям формировать законодательную базу на простом языке, исключающем двойные трактовки.

Можно ли полностью исключить правовые риски с помощью роботов? Пожалуй, нет. Даже самым совершенным ИИ необходимо управлять, отсеивать ошибки, изучать проблемные случаи, а здесь не обойтись без опытных юристов, в том числе со знанием международного права. Но с помощью искусственного интеллекта можно значительно уменьшить количество случаев, связанных с нарушениями законодательства, и при этом освободить время юристов для решения более сложных задач. Не случайно Transatlantic Policy Working Group (TPWG) - совместная рабочая группа Великобритании и США для разработки нормативов в секторе финтеха - рекомендует регуляторам обеих стран поддерживать технологические разработки в области RegTech. Не за горами обновление «правил игры» от Базельского комитета - крупнейшего отраслевого регулятора, определяющего стандарты для банков стран «большой двадцатки», в которую входит и Россия. Помимо более жестких требований к капиталу банки должны будут предварительно высчитывать частоту дефолтов и проверять каждую транзакцию. Эти стандарты будет проще выполнить, если усилить команду юристов несколькими десятками неутомимых помощников.

Нашествие машин

В скором будущем роботы будут покушаться на наши рабочие места, озабочен Европарламент. Там обнародовали проект по регулированию деятельности роботов - не исключено, что он даст толчок к созданию нового законодательства. Читается как научная фантастика.

Будущее уже наступило - такой вывод можно сделать из проекта доклада, представленного в Европарламенте и посвященного... роботам. А точнее - юридическим и законодательным вопросам, связанным с фактом их существования.

Но с какой стати европарламентарии занялись правами тех, кого юридически не существует? В докладе отмечается: человечество стоит на пороге новой эры, когда множество ультрасовременных роботов, андроидов и иных воплощений искусственного интеллекта могут стать причиной промышленной революции - она затронет все слои общества, так что, мол, жизненно необходимо рассмотреть все возможные последствия. Звучит сенсационно: в конце концов, одно дело, когда так говорят футурологи, другое - когда перед тобой текст официального документа. Впрочем, одними декларациями авторы не ограничиваются и приводят статистику: между 2010 и 2014 годом рост продаж роботов в Европе в среднем составил 17 процентов в год, в 2014-м - и вовсе рекордные 29 процентов. А число ежегодных патентных заявок в сфере робототехники за последние 10 лет и вовсе утроилось!

Техника познания

Сегодня роботами называют почти любое автоматическое устройство, выполняющее какую-то функцию. С точки зрения рыночной экономики это привлекательно, с точки зрения науки - спекуляция.

Данные Европарламента вполне соотносятся с победными реляциями Международной федерации робототехники (IFR): в прошлом году продажи промышленных роботов в мире установили новый рекорд - 248 тысяч единиц. А к 2018-му в заводских цехах разместят около 2,3 млн роботов, как минимум вдвое больше, чем в 2009-м (1 млн). Еще больше завораживают цифры по сервисным роботам: по данным той же IFR, в 2014-м по всему миру было продано 4,7 млн таких автоматов для личных нужд или домашнего использования (на 28 процентов больше, чем в 2013-м), а между 2015-м и 2018-м в год реализуют 35 млн! Фантазия разработчиков не ограничивается роботами-пылесосами. В компании Sony уже заявили о разработке робота, способного "наладить эмоциональную связь" с человеком, робот-адвокат (строго говоря, компьютерная программа) лихо оспаривает у полиции Лондона и Нью-Йорка штрафы за парковку, а система искусственного интеллекта недавно обставила в имитации воздушного боя полковника ВВС США. И пусть это еще не роботы в том виде, как их изображает Голливуд (речь, скорее, о продвинутых автоматах), однако революция, как ни крути, налицо.

Самый сенсационный момент - создание особого правового статуса для роботов, они станут "электронными личностями" с правами и обязанностями.

Теперь о тревожном. Нет, машины не захватят власть над людьми, однако они вполне могут отобрать наши рабочие места, о чем и предупреждают в докладе. А вот прогноз от Oxford University: половина рабочих мест в США будут отданы роботам в ближайшее десятилетие или два - речь не только о заводских рабочих, но и о водителях такси, например. Видят ли опасность эксперты?

Роботы все чаще взаимодействуют с людьми в различных сферах жизни,- признает Сюзанна Бек, профессор права в Университете Ганновера (Германия) и признанный специалист по проблеме.

Нечеловеческая ответственность

Голливуд постоянно дополняет и модифицирует первые три "закона" робототехники - не причинять вред человеку, повиноваться ему и заботиться о своей безопасности

В интервью "Огоньку" профессор Бек подчеркивает: сегодня шансы, что автоматы могут нарушить права и интересы "третьих сторон", возросли. К тому же машины все более автономны и все труднее назначать конкретных людей ответственными за их действия. Чтобы избежать такого "отсутствия юридической ответственности", заключает эксперт, и нужно адаптировать существующие законы к новой реальности с участием роботов.

Фактически доклад, представленный в Европарламенте, пытается законодательно ответить на новые вызовы (его докладчик, член парламента от Люксембурга Мади Делво, на момент сдачи номера была недоступна для комментария). Самый сенсационный момент, о котором сразу написали мировые СМИ,- это создание особого правового статуса для роботов, они станут "электронными личностями" с правами и обязанностями. Еще один пункт связан с налогами: речь о том, что компании, владеющие роботами, должны сообщать, какой вклад те делают в прибыль компании, из этого будут рассчитываться налоги и отчисления в систему социального обеспечения. Авторы рассматривают и случаи, когда в результате автономных действий робота нанесен некий ущерб - кто за него будет платить? По сути, предлагается в докладе, необходима система обязательного страхования, как в случае с дорожным движением, однако на дорогах система страхования покрывает действия людей, в случае же с роботами это могут быть их производители... А как насчет прав на интеллектуальную собственность, созданную роботом? Кому они будут принадлежать? Здесь, пишут авторы, требуются дополнительные законодательные усилия.

«Мы уже живем в новой реальности»

Почему современных математиков называют шаманами, о чем думает искусственная нейросеть и какое отношение имеет проблема Больших данных к племенным курам.

Эксперты, впрочем, считают, что паниковать из-за засилья автоматов пока все же не стоит. По словам Сюзанны Бек из Университета Ганновера, то, что роботы могут заменить людей, громко сказано, хотя, как любая новая технология, они могут изменить некоторые виды нашей деятельности, прежде всего механические. Хорошая новость состоит в том, что людям останется творческая работа, недоступная для машин. И вот уже рисуются фантастические перспективы: роботы могут облегчить нам ежедневную жизнь, поддержать нас в физически тяжелой работе и подарить больше свободного времени, ну а все, что требуется,- это адекватно реагировать на возникающие вызовы.

Как живая

"Человечество стоит на пороге создания роботов, которых можно полюбить",- сообщила газета The Financial Times, и российские блогеры обрадовались. В основном, конечно, ликуют мужчины.

Так не пришла ли пора кодекса законов, вроде трех законов робототехники, что придумал фантаст Айзек Азимов? Ученые пока не знают, как вложить их в "мозг" роботов, а значит, говорится в докладе, эти законы могут относиться к... создателям роботов! Сюзанна Бек уточняет: было бы правильнее обсудить, в каких сферах нашей жизни автономные машины нужны, а в каких они вызовут, скорее, настороженность и сомнения (речь, к примеру, об автономных системах вооружений); продумать, что делать с размыванием человеческой ответственности из-за того, что все больше решений принимают автоматы... Словом, тем для споров - множество. Есть и "горячие": Christian Science Monitor напоминает, что в США озабочены законодательным регулированием одной из сфер, связанных с робототехникой,- беспилотными автомобилями. Как бы не опоздать: по прогнозам, такие автомобили появятся на американских дорогах уже в 2020-м...

Брифинг

Леонель Моура , художник в области искусственного интеллекта и робототехнического искусства:

Если мы сумеем установить с роботами симбиоз, взаимовыгодные отношения, тогда да, можно не опасаться. А если у нас не получится - возникнут проблемы. Но я думаю, что все формы жизни, включая искусственный разум, стремятся к сотрудничеству, хотят избежать конфликтов. Роботы не хотят воевать с людьми, конечно, если речь не идет о военных роботах, там ответ будет другой. Но я хочу рассматривать роботов как напарников, сотрудников. Пока я больше боюсь людей.

Подготовлен проект конвенции, регулирующей отношения искусственного интеллекта и людей

Отношения человека и искусственного интеллекта должны быть законодательно урегулированы, считают в Госдуме. В первой половине 2018 года профильный комитет рассмотрит проект конвенции о робототехнике и искусственном интеллекте

Фото: Michael Buholzer / Reuters

Комитет Госдумы по экономической политике, промышленности, инновационному развитию и предпринимательству рассмотрит конвенцию по робототехнике и искусственному интеллекту, рассказал РБК представитель Исследовательского центра проблем регулирования робототехники и искусственного интеллекта «Робоправо», разработавшего документ (есть в распоряжении РБК).

Председатель комитета Сергей Жигарев через помощника подтвердил эту информацию. Предполагаемый срок рассмотрения конвенции, а также формирования предложений законотворческих документов по теме «роботехника» — первое полугодие 2018 года. «Вопросы отношения человека и искусственного интеллекта — это вопросы, которые должны быть законодательно урегулированы в ближайшее время. После широкого общественного обсуждения с участием представителей экспертного, научного сообщества, а также представителей общественности документ поступит на рассмотрение в нижнюю палату парламента», — сообщил Жигарев.

Цель разработанной конвенции — определить основные проблемы, которые могут возникнуть в обществе и правовой системе в связи с активным развитием киберфизических систем, обобщить основные правила робототехники и обозначить возможные направления решения существующих и ожидаемых проблем, указано в документе.

• К объектам робототехники авторы документа относят все категории роботов в самом широком понимании независимо от их назначения, степени опасности, мобильности или автономности, а также киберфизические системы с искусственным интеллектом в любой форме.
• Авторы документа предлагают исходить из того, что «создание, внедрение и использование роботов должно осуществляться при условии максимального обеспечения безопасности человека, общества и государства, а также непричинения вреда человеку, человечеству, живым существам и всей их среде обитания».
• Роботы, создаваемые в военных целях, «должны иметь изначально заложенные в них и не поддающиеся изменениям ограничения, соответствующие положениям международного гуманитарного права». Такие роботы не должны использоваться для причинения вреда мирному населению.
• Предлагается установить повышенные требования к защите от несанкционированного доступа третьих лиц при эксплуатации роботов, потенциально способных причинить человеку существенный, в том числе смертельный, вред (медицинские роботы, имплантируемые устройства, высокоавтоматизированные транспортные средства, военные роботы и т.д.).
• Роботы должны постоянно фиксировать информацию об условиях своего функционирования и всех совершаемых ими действиях и хранить в специальном «черном ящике».
• Физически взаимодействующие с людьми и не находящиеся под прямым управлением человека роботы должны иметь функцию моментального или аварийного отключения по требованию («красную кнопку»).
• «Человек не должен умалять человеческое достоинство своим обращением с роботами».

Инвестиционный менеджер Фонда развития интернет-инициатив (ФРИИ) Никита Юрьев отмечает, что рынки роботов и искусственного интеллекта тесно взаимосвязаны — развитие первого невозможно без второго. «В свою очередь, рынок роботов создает широкие возможности для работы в направлении искусственного интеллекта: глубинного и машинного обучения, обработки естественного языка, машинного зрения», — отметил Юрьев. Он привел прогноз компании Grand View Research, согласно которому объем мирового рынка искусственного интеллекта в 2017 году должен составить около $19,18 млрд, а к 2025 году достигнет $35,9 млрд.

Рынок роботов только в сфере услуг должен достичь $27,5 млрд к 2023 году при среднем темпе роста 15,18% в год, приводит Юрьев данные компании MarketsandMarkets. Рынок роботов в производстве к этому же сроку должен достичь $71,72 млрд. При этом суммарно мировые расходы на роботов, по данным IDC, должны уже к 2019 году превысить $135,4 млрд. «Лидером в данном направлении считают Азиатско-Тихоокеанский регион, а одним из самых ярких игроков — Boston Dynamics (американская инжиниринговая компания, некоторое время принадлежавшая Google, сейчас принадлежит SoftBank. — РБК )», — рассказал представитель ФРИИ.

Проект конвенции, разработанный «Робоправом», не первая попытка законодательно урегулировать рынок искусственного интеллекта. В декабре 2016 года «Ведомости» , что основатель Grishin Robotics и сооснователь Mail.Ru Group Дмитрий Гришин совместно с юристом Виктором Наумовым разработали концепцию закона о робототехнике.

Этот законопроект предлагает дополнить Гражданский кодекс главой о роботах-агентах, то есть тех роботах, которые могут действовать автономно. «Мы продолжаем активное обсуждение законодательных инициатив в этой области, по разным оценкам экспертов, рынок искусственного интеллекта к 2020 году вырастет до $5 млрд», — передал Гришин РБК через представителя.

Исследовательский центр «Робоправо» создан как автономная некоммерческая организация в начале 2017 года по инициативе сотрудников международной юридической фирмы Dentons Андрея Незнамова и Виктора Наумова, рассказал РБК представитель центра. По его словам, разработанные по заказу Гришина поправки стали «толчком к созданию конвенции». В то же время он отметил, что законопроект и конвенция практически не пересекаются по смыслу. «Появление «закона Гришина» инициировало широкое обсуждение вопросов регламентации робототехники. В совокупности с этими и другими факторами встал вопрос о принятии законов о робототехнике вообще, а не только внесении изменений в Гражданский кодекс», — отметил он.

Как пояснил представитель центра «Робоправо», многие эксперты в мире говорят о необходимости создания общего свода правил взаимодействия человека с роботами и искусственным интеллектом. «Мы решили попытаться сделать это. Проанализировали существующие законы и правила. Постарались их обобщить, а также сделать ряд новых предложений, не претендуя на исчерпываемость и окончательность», — отметил он.

Как в мире юридически регулируют искусственный интеллект

На данный момент в мире практически не существует специальных законодательных актов, определяющих статус машин с искусственным интеллектом. В США , например, рассмотрение возникающих споров по этой проблеме основывается на действующих общих законах, что зачастую вызывает трудности при рассмотрении дел в суде.

Специальный закон о робототехнике был принят в 2008 году в Южной Корее . Несмотря на то что в акте «О содействии развитию и распространению умных роботов» фактически не идет речи о регулировании искусственного интеллекта, а в качестве основной его цели было заявлено стимулирование робототехники и улучшение качества жизни граждан, в документе дается несколько важных определений. Под термином «умный робот» южнокорейские законодатели предлагают понимать «механическое устройство, которое самостоятельно воспринимает внешнюю среду, распознает обстоятельства, в которых работает, и движется самостоятельно». В одной из статей закона говорится, что в будущем правительство имеет право принять специальный закон, регулирующий этические нормы развития робототехники, которым должны следовать разработчики, производители и пользователи умных роботов.

Первые шаги в этом направлении делают и в Европе . В феврале 2016 года Европарламент принял резолюцию «Нормы гражданского права в робототехнике», в которой парламентарии обратили внимание на важность развития законодательной базы, а также отметили необходимость введения единой системы классификации роботов и общеевропейской системы их регистрации. Большое внимание в документе уделяется этическим принципам: например, отмечается, что потенциал использования робототехники должен оцениваться с точки зрения отсутствия угроз безопасности и здоровью человека, свободе и неприкосновенности частной жизни.

В ходе саммита ЕС, который прошел в Брюсселе в октябре 2017 года, лидеры европейских стран договорились в начале 2018 года разработать европейский подход к проблеме искусственного интеллекта. В официальных документах саммита также говорилось о необходимости активнее реагировать на новые мировые тенденции, к которым относится развитие искусственного интеллекта.