Новые технологии или угроза

Фото: По словам Азамата Кашиева, закон делает упор на роль человека и баланс между инновациями, безопасностью и правами граждан

- Казахстан делает важный шаг в сторону безопасного и ответственного развития цифровых технологий, вводя первый в регионе Закон "Об искусственном интеллекте". Принятый документ формирует новую правовую основу, которая позволяет внедрять ИИ в экономику и государственные сервисы, сохраняя главный приоритет права, свободы и достоинство человека, - отметил руководитель Управления информатизации акимата Костанайской области Азамат Кашиев.

Руководитель ведомства отметил, что ИИ помогает врачам ставить точнее диагнозы, ускоряет работу государственных услуг, создает новые инструменты для бизнеса и образования. При этом людям важно понимать, что ИИ не заменяет их решения и не влияет на них скрытым или несправедливым образом.

- Новый закон вводит принципы, которые должны защищать каждого гражданина. Человек имеет право знать, что в принятии решения участвовала система ИИ, может запросить объяснение, если автоматическое решение затронуло его интересы, а его данные должны обрабатываться только в рамках закона и только с надлежащей защитой, - пояснил Кашиев.

Он добавил, что закон прямо запрещает создание и использование систем, которые пытаются манипулировать поведением человека, использовать его уязвимость, формировать социальный рейтинг, определять эмоции без согласия или собирать данные незаконно. Как отмечает Азамат Кашиев, цель закона - создать правовую основу для безопасного и ответственного внедрения ИИ во все сферы экономики.

- Впервые инициатива прозвучала на международном технологическом форуме Digital Bridge, проходившем в Астане, по поручению президента страны. Благодаря принятию закона, сегодня Казахстан - среди мировых лидеров, подобные законы приняты в ЕС, Канаде и Сингапуре, - подчеркнул спикер.

Декларируется принцип: человек - выше алгоритма. То есть ИИ - инструмент поддержки решений, не заменяющих волю человека; пользователь имеет право знать о применении ИИ и отказаться от автоматизированной обработки данных; защита персональных данных - обязательное требование.

- Стоит понимать также, что закон - не ограничение технологий: документ не регулирует сами технологии, чтобы не тормозить инновации. Его задача - установить этические принципы, безопасность и прозрачные правила. Закон носит институциональный и рамочный характер, - отметил Азамат Кашиев. - Каково значение этого документа для региона: Казахстан - первая страна в Центральной Азии, закрепившая правовые основы регулирования ИИ; закон делает упор на роль человека и баланс между инновациями, безопасностью и правами граждан.

Несмотря на значимость и своевременность закона, ряд вопросов остается открытым. Во-первых, рамочный характер документа одновременно является и его слабостью: ключевые механизмы реализации, контроля и ответственности будут определяться подзаконными актами, которые еще предстоит разработать. До появления конкретных процедур трудно оценить, насколько эффективно будет обеспечиваться защита прав граждан.

Во-вторых, создание национальной платформы ИИ может привести к рискам централизации данных. При отсутствии прозрачных механизмов, существует опасность расширения доступа различных структур к персональным данным под предлогом развития ИИ-систем.

В-третьих, несмотря на запрет манипулятивных и высокорисковых технологий, всегда остается вопрос практического контроля: кто и как будет выявлять нарушения, насколько независимыми будут надзорные органы, и какие санкции последуют за злоупотребления?

И, наконец, остается риск технологического неравенства. Быстрое внедрение ИИ в государственные сервисы может привести к тому, что люди, плохо владеющие цифровыми инструментами, окажутся в менее выгодном положении. Это требует дополнительной работы в сфере цифровой грамотности и доступности технологий.

Таким образом, новый закон - важный шаг, но его эффективность будет зависеть от того, насколько последовательно и открыто будут реализованы его положения, а также от способности государства обеспечивать реальную, а не декларативную защиту прав граждан.