25 апреля, Астана

В Общественной палате при Мажилисе обсудили проект закона "Об искусственном интеллекте". Выездное заседание под председательством Айдоса Сарыма прошло на площадке Astana Hub – Автономного кластерного фонда "Парк инновационных технологий".
В обсуждении наряду с членами Общественной палаты приняли участие члены рабочей группы по законопроекту, депутаты Мажилиса и маслихатов всех уровней, ответственные лица отраслевого министерства, представители Astana Hub, АО "Национальные информационные технологии", общественных организаций, эксперты.
Открывая заседание, Айдос Сарым сообщил, что законопроект об искусственном интеллекте (ИИ) инициирован депутатами Мажилиса в реализацию поручения Президента Касым-Жомарта Токаева, которое Глава государства дал на Международном форуме Digital Bridge 2023.
– Сегодня мы обсуждаем очень интересную и необычную тему – искусственный интеллект. Казахстан первым среди стран Содружества Независимых Государств разрабатывает подобный законопроект. Наша страна хочет максимально закрепить свои позиции в данной области в Центрально-Азиатском регионе. Мы планируем сделать данный закон модельным, – подчеркнул Айдос Сарым.
С основными нормами проекта закона "Об искусственном интеллекте" участников заседания ознакомила депутат Мажилиса, соавтор законодательной инициативы, руководитель рабочей группы Екатерина Смышляева. По ее словам, прежде всего законопроектом обеспечивается развитие искусственного интеллекта.
– В процессе подготовки данного документа мы руководствовались тем, что этим законом мы не должны ограничивать развитие технологии искусственного интеллекта, а должны его сопровождать, при этом обозначить правовой коридор, в рамках которого ему следует развиваться. А это требует крупных инвестиций, но ни один инвестор не придет в ту юрисдикцию, где отраслевое законодательство выстроено непонятным образом, – пояснила мажилисвумен.
Кроме того, законопроект направлен на базовое регулирование общественных отношений в этой сфере и гарантирование безопасности и прозрачности. В частности, вводится классификация систем ИИ по уровням риска: минимальный, средний и высокий. Особый интерес представляет последний, так как он напрямую связан с безопасностью пользователей, общества и государства. Предусматриваются также создание Национальной платформы искусственного интеллекта, усиленная защита персональных данных и предотвращение манипуляций с помощью систем ИИ, а также информирование пользователей при их использовании.
При этом, как отметила Екатерина Смышляева, основные направления госполитики в сфере ИИ остаются за Правительством. Регулятором будет выступать Комитет искусственного интеллекта, созданный при МЦРИАП в прошлом году.
Первый вице-министр цифрового развития, инноваций и аэрокосмической промышленности Каныш Тулеушин рассказал, что Нацплатформа ИИ включает в себя набор данных, инструменты для разработки и обучения моделей искусственного интеллекта. С ней будет интегрирована формируемая суперкомпьютерная инфраструктура. Уже приобретены графические ускорители Nvidia L40s, которые используются для развертывания государственных цифровых продуктов. Так, например, разработаны прототипы ИИ-агентов, направленных на упрощение доступа к государственным услугам и повышение эффективности деятельности госорганов.
В ходе заседания эксперты высказали предложения по улучшению содержания законопроекта. Общественный деятель, исполнительный директор общественного благотворительного фонда "HAQ" Тоғжан Қожалы подчеркнула, что искусственный интеллект является одним из самых рискованных направлений в медицине, а в законопроекте нет ни одной нормы, касающейся сферы здравоохранения. В этой связи она предложила включить соответствующую статью и закрепить в ней обязательную клиническую валидацию в случае применения ИИ в диагностировании и регистрацию ИИ как медицинского изделия, а также обязательное страхование ответственности в рамках ОСМС.
В свою очередь, управляющий директор по искусственному интеллекту АО "Национальные информационные технологии" Алексей Самойлов считает целесообразным на уровне подзаконных актов и процедур предусмотреть требования к сертификации и независимому аудиту систем ИИ. По его мнению, это позволит непредвзято оценивать ИИ-продукты на предмет безопасности и прозрачности использования алгоритмов.
На возможные риски и вызовы законопроекта указал политолог, независимый директор Карагандинского государственного университета им. Е.А. Букетова Айбек Кумысбеков. По его мнению, в проекте следует четко прописать критерии и термины, например, понятия "система высокого риска" или "полностью автономная система". Также предусмотреть гибкие механизмы пересмотра закона, чтобы его нормы не устарели. Для этого он предлагает создать постоянную экспертную группу из представителей государства, бизнеса и общества, которая будет ежегодно анализировать сферу и при необходимости предлагать изменения в законодательство.
Президент ОЮЛ "Интернет Ассоциация Казахстана" Шавкат Сабиров отметил, что Казахстан находится между двумя великими державами, собственными владельцами ИИ, и может извлекать выгоду из такого соседства в виде создания и использования вычислительных мощностей. Он считает, что в текущих условиях использование ресурсов и возможностей дата-центров для нашей страны является оптимальным вариантом. В последующем возможно построение собственной дорогостоящей инфраструктуры для использования ИИ.
– Искусственный интеллект – технология, которая активно внедряется в повседневную жизнь казахстанцев, поэтому лучше иметь соответствующий закон, чем его не иметь. В дальнейшем у нас всегда будет возможность дорабатывать его в определенных направлениях. В законодательстве в ряде отраслей уже заложен искусственный интеллект. Если сейчас мы примем общий закон, то от этого только выиграем. Мир не стоит на месте, и Казахстан должен идти с ним в ногу, – подытожил обсуждение Айдос Сарым.
Внесенные предложения и экспертные мнения будут обобщены в итоговых рекомендациях Общественной палаты и переданы рабочей группе для дальнейшей работы над законопроектом.