Мажилис принял закон об ИИ: запрет на анализ эмоций и обязательная маркировка
Мажилисмены во втором чтении одобрили закон «Об искусственном интеллекте» с поправками, которые вводят новые юридические определения: искусственный интеллект, модель, система, библиотека данных, синтетический результат. Документ устанавливает правовое и организационное регулирование сферы, а также меры по обеспечению прозрачности и безопасности при использовании технологий ИИ.
Главы Евразийской экономической комиссии и правительства Абу‑Даби обсудили сотрудничество в области искусственного интеллекта.
Закон предусматривает классификацию систем ИИ по уровню риска — от минимального до высокого, как сообщили депутаты. Системы высокого риска предлагается отнести к объектам критически важной информационно‑коммуникационной инфраструктуры. По мнению разработчиков, это создаст условия для контроля их безопасности.
Закон также разделяет системы по степени автономности. Отдельная правовая регламентация предложена для систем с высокой автономностью. Системы высокой автономности, например беспилотный транспорт, будут регулироваться преимущественно на уровне законов.
В рамках национальной политики по внедрению технологий ИИ вводятся стандарты и ограничения. Законодательно запрещается применение функций искусственного интеллекта, которые потенциально могут причинить вред человеку. К числу запрещённых практик отнесены: использование ИИ, влияющего на поведение людей без их осознанного согласия; использование ИИ, которое намеренно эксплуатирует уязвимости людей (возраст, инвалидность, социальное положение); оценка или классификация людей по их социальному поведению или характеристикам (социальный скоринг); использование ИИ для анализа эмоций людей без их согласия; использование ИИ для распознавания лиц в общественных местах в режиме реального времени, за исключением случаев, разрешённых законом; создание и распространение результатов деятельности ИИ, которые запрещены действующим законодательством.
Контент, созданный с применением ИИ, подлежит обязательной маркировке в машиночитаемой форме и визуальными предупреждениями, что, по замыслу авторов поправок, должно укрепить доверие и снизить риски злоупотреблений при использовании технологий.
Произведения, созданные исключительно ИИ без творческого вклада человека, не будут охраняться законом. При этом промпты — творческие запросы пользователей — могут быть признаны объектами авторского права в соответствии с законом об авторских и смежных правах. Использование произведений и научных трудов для обучения моделей допускается только при отсутствии машиночитаемого запрета со стороны их авторов.
Более 200 тысяч учителей Казахстана прошли обучение по ИИ.
Закон предусматривает ответственность за причинённый системами ИИ вред: при возникновении ущерба ответственность возлагается на владельцев и операторов таких систем. Страхование ответственности за причинённый ИИ вред предлагается как добровольная мера, которая может служить элементом защиты прав граждан.
Создаётся национальная платформа ИИ — единая инфраструктура для разработки и внедрения продуктов на основе искусственного интеллекта. Платформа будет включать инструментальную среду и обеспечивать доступ разработчиков к библиотекам данных для обучения моделей. Для её функционирования сопутствующими поправками предполагается регулирование доступа к электронным информационным ресурсам.
Сферу искусственного интеллекта планируют развивать с применением государственной поддержки, включая финансирование научно‑исследовательских работ и образовательные программы.
Казахстан поддержал Глобальную инициативу Китая по сотрудничеству в области ИИ.