Правовое регулирование
Законопроект об экспериментальном правовом режиме для внедрения технологий ИИ в Москве внесли в пятницу на рассмотрение Госдумы. Первый вице-спикер Александр Жуков и член комитета по госстроительству и законодательству Ирина Белых внесли законопроект об экспериментальном правовом режиме для внедрения технологий ИИ в Москве. Документ предполагает, что условия, требования, порядок разработки, создания, внедрения и реализации технологий ИИ, а также механизм обработки обезличенных персональных данных будут регламентироваться столичным правительством.
«Москва предложила организовать на своей территории экспериментальный режим, который может обеспечить развитие конкретных областей, которые связаны с IT-технологиями и развитием искусственного интеллекта <…> Закон имеет довольно рамочный характер, в нем определяются цели и задачи экспериментального правового режима», — пояснила Белых.
Как ожидается, специальный правовой режим позволит установить, какие общие правовые нормы должны быть скорректированы, а какие — введены впервые. Это позволит создать правовую базу для использования ИИ-технологий, а также сформировать эффективное регулирование оборота обезличенных данных.
Регулирование для беспилотников
«Например, если мы хотим рано или поздно разрешить использование беспилотного транспорта на улицах городов, нам надо понять, как должны работать страхование, анализ аварий, какие стандартные требования к беспилотнику для его регистрации и «выпуска» на улицы, кто будет отвечать за аварии и инциденты (разработчик, оператор или владелец беспилотного средства), какая технологическая инфраструктура на улицах нужна для большей надежности беспилотного транспорта (радиометки на светофорах и разделителях, парковки, автоматизированные заправки и т. п.), какая система слежения за таким транспортом необходима мэрии для того, чтобы видеть все беспилотники от всех операторов и владельцев на улицах города. Чтобы все это осознать, можно создать зоны и временные интервалы, где можно будет пускать беспилотники без опасения, что разработчика сразу запретят, арестуют, накажут — например, только с 23 вечера до 6 часов утра, только в некоторых районах, только со скоростью не выше 50 км/ч и т. п. Но при этом все-таки в реальной дорожной обстановке», — пояснила Касперская.
Она добавила, что ситуация с воздушными беспилотниками аналогична. По ее словам, сейчас в этой области абсолютная неразбериха: с одной стороны, запускать их просто запрещено, особенно в городе, да и везде, нужна регистрация, а, с другой стороны, население свободно покупает их в магазинах, в том числе в интернете, и запускает где хочет, без объявления и без авиаответчика.
«Я как-то летела на вертолете на высоте 100 м, когда вплотную навстречу просвистел дрон: у нас скорость 200, у него под 100, он весит килограмм-два, как снаряд, его абсолютно не видно с 300 м, ужас, в общем. А малый вертолет — это просто хрупкий пластиковый пузырь. На пять метров в сторону — и мы бы все погибли. Нужны тестовые полигоны и тестовая регуляция, а также система слежения за всеми летающими объектами в масштабах города. Работа с распознаванием лиц, с персональными данными граждан, выработка правил и процедур обезличивания данных также требует пилотного режима», — заключила Касперская.
Москва как полигон проекта дегуманизации
По новому закону обработке будут подлежать и «персональные данные, касающиеся состояния здоровья, полученные в результате обезличивания персональных данных». Как сопрягать эту новацию с понятием врачебной тайны, непонятно, да и не стоит: в Москве уже создаётся реестр граждан, переболевших коронавирусом, а там, глядишь, дело дойдёт и до реестров по другим болезням.
Чего не сделаешь ради развития искусственного интеллекта, который упоминается в семи статьях закона целых 22 раза. При этом создаётся впечатление, что авторы этих громоздких формулировок не вполне понимают, как устроена и работает эта самообучающаяся система, и оттого переоценивают её возможности.
Впрочем, все эти недоумения лишаются смысла после знакомства с презентацией проекта «Умный город – 2030», давно размещённой на официальном портале мэра Москвы. Там много интересного: «предсказание ˂…˃ поведения отдельных лиц», «автоматизация слежки», «обнаружение ˂…˃ нежелательных лиц» и так далее.
В разделе «Человеческий и социальный капитал» проекта «Умный город – 2030» сказано, что «полной первичной проверкой всего организма пациента будет заниматься ИИ без привлечения медицинских работников».
А «для лечения когнитивных (умственных, мыслительных. – τ.) и других расстройств будут применяться нанороботы − устройства размером с клетку крови, функционирующие внутри тела человека».
В свете столь головокружительных перспектив возникают два не связанных между собой вопроса: за что на самом деле травили Михалкова, если о технологическом внедрении в человеческий организм написано на портале московского мэра, и кто разработал или разрабатывает нанороботов, с помощью которых собираются лечить когнитивные расстройства? Если Чубайс, то не стоит и пытаться.
На сегодня известно, что создавать наночастицы, которые можно встроить в мозг, чтобы лечить его болезни, умеет профессор Гарвардского университета Чарльз Либер, который помимо прочего занимался ещё и разработками нанороботов вирусного типа, способных управлять клетками и обходить защитную реакцию организма.
22 января 2020 года Либер был арестован по обвинению в преступных контактах с властями Китая. Он подозревается в передаче Китаю биологического оружия, в том числе вируса COVID-19, с распространением которого с таким энтузиазмом борется мэр Москвы.
В итоге круг замкнулся: электронные пропуска, цифровизация, вторжение в частную жизнь, нанороботы – это единый необратимый процесс, в ходе которого граждане сначала лишаются прав, затем субъектности, а потом превращаются в объект манипуляций маньяков от науки. О том, как всё это отразится на карьере московского мэра, можно только гадать.
Закон о специальных полномочиях московской мэрии
Текст закона «Об искусственном интеллекте в Москве» похож на проект заявки на получение гранта: в нём описаны цели и задачи эксперимента, ответственный исполнитель, правила привлечения других участников и ожидаемый результат. Обозначено обязательство действовать в соответствии с законами РФ и не ущемлять конституционные права и свободы граждан.
Закон носит рамочный характер: процедуры и другие детали не уточняются, сформулированы только общие подходы к их определению. Правовая часть почти полностью сосредоточена в статье 4, декларирующей полномочия мэрии Москвы и принципы работы с персональными данными.
Полномочия мэрии достаточно обширны: она принимает нормативные правовые акты, определяет «условия и (или) порядок разработки, создания, внедрения ˂…˃ технологий ИИ», «случаи и порядок использования результатов применения ИИ», случаи его обязательного применения, порядок и случаи передачи собственниками средств и систем фото- и видеонаблюдения и так далее.
Здесь стоит обратить внимание на «обязательное применение ИИ», а также на то, что вместо ожидаемого «следования законотворчества за технологическими решениями» налицо диктат исполнительного органа столичной власти. О процедуре законотворчества не сказано ничего: нет ни упоминаний о консультациях с разработчиками ИИ, ни указаний на невозможность подобного сотрудничества
О процедуре законотворчества не сказано ничего: нет ни упоминаний о консультациях с разработчиками ИИ, ни указаний на невозможность подобного сотрудничества.
Федеральным органам власти – правительству и профильному министерству – закон отводит роль «внешней ширмы»: с ними необходимо согласовывать некоторые организационные и процедурные вопросы, и им по итогам эксперимента нужно передать рекомендации по изменению законодательства РФ.
Одновременно московская мэрия наделена полномочиями по управлению всем процессом обработки, передачи другим участникам эксперимента и использования (sic!) «персональных данных, полученных путём обезличивания».
Судя по имеющимся комментариям, главными участниками московского эксперимента должны стать успешно решающий транспортные задачи «Яндекс» и готовящийся к запуску системы визуального распознавания клиентов Сбербанк.
В законе несколько раз фигурирует ещё более затейливая формулировка: «персональные данные, полученные путём обезличивания персональных данных», что является совсем уже диким, издевательским оксюмороном. Появление его, видимо, объясняется тем, что авторы закона не в курсе, что для любого из алгоритмов обезличивания данных существует «отмычка», позволяющая запустить процесс в обратную сторону и превратить обезличенные данные в персональные. Есть даже специальный термин «деобезличивание». Цена вопроса – время и квалификация программистов.
Чтобы снять сомнения в законности обработки «персональных данных, полученных путём обезличивания», в закон «О персональных данных», запрещающий подобные манипуляции без согласия граждан, внесены две поправки, разрешающие такую обработку «в целях повышения эффективности государственного или муниципального управления, а также в иных целях», предусмотренных тем же законом «Об искусственном интеллекте в Москве».
Казалось бы, налицо угроза нарушения прав граждан, но ни правозащитники, ни московские СМИ не обратили на это никакого внимания, видимо, потому что все они являются фанатами цифровизации или фанатами чего-то или кого-то ещё.
Сферы применения ИИ
«Искусственный интеллект тормозится предыдущими нормативными актами, которые были приняты в доцифровую эпоху, принятие этого закона расширяет возможность использования технологий вместо людей: это связано и с беспилотниками, и врачами, и со сферой образования, и учетными системами, и сферой безопасности», — сказал Массух. Он убежден, что именно в этих областях искусственный интеллект работает на благо людей. «Так что, это полезный закон, особенно, если он так четко ограничивает в правах использования ИИ и ни в коем случае недопущения никакого вреда и утечек», — сказал Массух.
С ним согласен российский предприниматель в сфере информационных технологий, ИИ и разработки программного обеспечения Игорь Ашманов. По его словам, законопроект должен гарантировать обеспечение сохранности персональных данных граждан, а также безопасность при передвижении по городу.
«Эксперимент, например, может коснуться применения искусственного интеллекта для беспилотного транспорта на некоторых участках дорог. Всерьез выпустить беспилотный транспорт на дороги РФ требует огромной законодательной базы, которая определит ответственность за аварии, произошедшие по вине беспилотника. К слову, «Яндекс» делает один из лучших в мире беспилотник, он реально едет, но он полностью заточен на автономную работу: не требуется специальных разметок на дорогах, знаков или маячков. «Яндекс» это мотивирует тем, что беспилотник не должен потеряться и плохо себя вести, если этой разметки не окажется, но с точки зрения безопасности гораздо лучше, когда улицы города подготовлены. Наверное, правильнее, чтобы у мэрии была внешняя система, которая следит за всеми беспилотниками от разных производителей, чтобы всегда можно было увидеть карту беспилотников и за ними следить», — сказал Ашманов.
Он отметил, что у граждан также есть бытовые беспилотники стоимостью от 50 до 100 тыс. рублей. По его мнению, для контроля и слежения за данными дронами также необходимо наладить специальную техническую структуру, которая позволит идентифицировать устройства, вести регистрацию их владельцев, формировать интернет-план полетов и т.д.
Опыт столицы
Белых отметила, что в Москве регулярно ведется научно-исследовательская работа в данном направлении и за семь лет город поднялся со 192 места на 38 в глобальном рейтинге умных городов, заняв лидирующие позиции по оказанию электронных услуг. Согласно опросам общественного мнения, более 90% горожан поддерживают применение ИИ на транспорте, в здравоохранении и образовании.
В этой связи глава столичного департамента информационных технологий Лысенко добавил, что в мегаполисе уже реализуются проекты с использованием ИИ, направленные на повышение качества жизни горожан и улучшение условий ведения бизнеса. Так, в общегородском контакт-центре уже несколько лет работает виртуальный оператор, который уже умеет отвечать на вопросы горожан по 30 направлениям. Кроме того, полностью автоматизирована линия по приему показаний индивидуальных приборов учета.
С 2011 года в мегаполисе действует интеллектуальная транспортная система, которая помогает регулировать транспортные потоки, объединяя светофоры, детекторы и камеры видеонаблюдения. Данные с них отправляют в ситуационный центр ЦОДД, чтобы затем на их основе делать краткосрочные и стратегические прогнозы и впоследствии управлять ситуацией на дорогах. Помимо этого, детекторы на светофорах и камеры помогают определять, насколько дороги загружены, благодаря чему ИИ принимает решение о длительности включения зеленого или красного сигнала.
На данный момент ИИ уже внедряется и в столичном здравоохранении. В частности, на базе нескольких поликлиник тестируется система поддержки принятия врачебных решений. «Цифрового помощника врача» представили в январе этого года в ходе ассамблеи «Здоровая Москва». Цифровые инструменты будут поддерживать принятие клинических решений на каждом этапе обследования и лечения пациента.
