Сегодня его всё активнее используют государственные органы: для обработки обращений граждан, распределения социальных выплат, выявления налоговых нарушений, управления транспортом и анализа больших массивов данных. Не остаётся в стороне и Узбекистан.

В стране утверждена Стратегия развития технологий искусственного интеллекта до 2030 года. Государство планирует внедрять решения на основе ИИ в здравоохранении, образовании, сельском хозяйстве, финансовой сфере и системе государственных услуг. Цель таких преобразований понятна: сократить бюрократию, повысить качество управления и сделать государственные услуги более доступными.

Однако вместе с новыми возможностями возникают серьёзные вопросы. Может ли алгоритм принимать решения, влияющие на права человека? Кто должен отвечать за его ошибку? И как гражданину защитить себя, если он даже не понимает, каким образом государственная информационная система пришла к определённому выводу?

Чем искусственный интеллект может помочь государству

Одним из главных преимуществ ИИ является способность быстро обрабатывать огромные объёмы информации. Работа, на которую человеку потребовались бы дни или недели, может быть выполнена автоматизированной системой за несколько минут.

Например, ИИ способен сортировать обращения граждан и направлять их в компетентные государственные органы. Он может выявлять повторяющиеся жалобы, определять наиболее проблемные районы и показывать, какие вопросы требуют срочного вмешательства. Это позволит государству не только реагировать на отдельные обращения, но и видеть общую картину.

В социальной сфере алгоритмы могут помогать определять граждан, нуждающихся в материальной поддержке. Вместо сбора многочисленных справок система могла бы анализировать уже имеющиеся сведения о доходах, составе семьи, занятости и социальных обстоятельствах человека.

В здравоохранении ИИ может использоваться для предварительного анализа медицинских изображений, прогнозирования распространения заболеваний и более эффективного распределения ресурсов. В транспортной сфере — для управления дорожным движением, анализа аварийности и оптимизации маршрутов общественного транспорта.

Искусственный интеллект также способен выявлять подозрительные операции, случаи возможного мошенничества, неэффективного расходования бюджетных средств и коррупционные риски. Но именно здесь проходит особенно тонкая граница между эффективным государственным контролем и чрезмерным вмешательством в частную жизнь граждан.

Алгоритм тоже может ошибаться

Распространено мнение, что компьютер принимает более объективные решения, чем человек. Но искусственный интеллект обучается на данных, которые собирают и формируют люди. Если исходные сведения являются неполными, устаревшими или содержат скрытые искажения, решение алгоритма также может оказаться несправедливым.

Представим, что автоматизированная система определяет, кто имеет право на социальное пособие. Если в государственных базах отсутствуют актуальные сведения о доходах или составе семьи, гражданину могут отказать в помощи. Формально решение будет принято системой, но реальные последствия такой ошибки понесёт конкретный человек.

Другой пример — использование ИИ для выявления налоговых нарушений. Алгоритм может ошибочно признать законную операцию подозрительной. В результате предприниматель столкнётся с проверкой, блокировкой операции или иными ограничениями.

Особую опасность представляет автоматическое принятие решений без участия государственного служащего. Человек способен учитывать жизненные обстоятельства, контекст и исключительные ситуации. Алгоритм действует в пределах заданной модели и не всегда способен понять, почему конкретный случай отличается от тысяч других.

Поэтому искусственный интеллект должен помогать государственному служащему, а не полностью заменять его при принятии юридически значимых решений.

Право гражданина знать

Если решение, затрагивающее права и интересы гражданина, принято с использованием искусственного интеллекта, человек должен быть об этом проинформирован.

Сегодня гражданин может получить отказ в предоставлении услуги, назначении пособия или регистрации определённого права, не зная, что вывод был сформирован автоматизированной системой. Ещё сложнее понять, какие данные использовались и почему система пришла именно к такому результату.

В таких ситуациях необходимо обеспечить право гражданина на понятное объяснение. Государственный орган не должен ограничиваться фразой: «Решение принято системой». Он обязан сообщить основные причины решения, указать использованные данные и разъяснить порядок обжалования.

Техническая сложность алгоритма не может служить оправданием отсутствия прозрачности. Если государство не способно объяснить решение системы, такую систему нельзя использовать для принятия решений, серьёзно влияющих на жизнь человека.

Защита персональных данных

Для эффективной работы искусственному интеллекту необходимы данные. Чем больше информации получает система, тем точнее могут быть её прогнозы. Государство располагает особенно чувствительными сведениями: медицинскими данными, информацией о доходах, собственности, семейном положении, образовании и социальных выплатах.

Объединение этих сведений позволяет улучшить государственные услуги, но одновременно создаёт риск масштабного наблюдения за гражданами. Утечка или неправомерное использование такой информации может причинить человеку материальный и моральный вред.

Поэтому сбор данных должен осуществляться только для конкретных и законных целей. Нельзя собирать информацию просто потому, что она может когда-нибудь пригодиться. Государственные органы должны использовать минимально необходимый объём сведений, устанавливать сроки их хранения и обеспечивать надёжную защиту информационных систем.

Особого регулирования требует использование биометрических данных — изображения лица, голоса, отпечатков пальцев и других уникальных характеристик человека. Потерянный пароль можно заменить, а биометрические данные остаются с человеком на всю жизнь.

Кто отвечает за ошибку ИИ

Искусственный интеллект не является самостоятельным субъектом права. Он не может нести дисциплинарную, административную или гражданско-правовую ответственность. Поэтому государственный орган не должен перекладывать ответственность на программу или её разработчика.

Перед гражданином ответственность за решение должен нести тот государственный орган, который использовал систему. Вопросы ответственности разработчика могут решаться отдельно — например, если ошибка возникла из-за недостатков программного обеспечения. Но гражданин не должен самостоятельно выяснять, кто виноват: программист, поставщик данных или государственный служащий.

В каждом государственном органе должно быть определено должностное лицо, отвечающее за применение системы искусственного интеллекта. Также необходимы регулярные проверки качества алгоритмов, информационной безопасности и возможной дискриминации отдельных групп населения.

Какие гарантии необходимы Узбекистану

Узбекистану важно не только внедрять технологии, но и заранее формировать правовые гарантии их безопасного применения. Скорость цифровизации не должна опережать развитие механизмов защиты прав граждан.

Для этого целесообразно закрепить несколько основных принципов.

Во-первых, гражданин должен знать, когда государственный орган использует искусственный интеллект при рассмотрении его дела.

Во-вторых, любое юридически значимое автоматизированное решение должно сопровождаться понятным объяснением.

В-третьих, гражданину необходимо предоставить право потребовать пересмотра решения человеком. Алгоритм не должен быть последней и единственной инстанцией.

В-четвёртых, перед внедрением высокорисковых систем необходимо проводить оценку их воздействия на права человека, персональные данные и информационную безопасность.

В-пятых, следует создать открытый реестр государственных систем искусственного интеллекта. В нём можно указывать назначение каждой системы, сферу применения, используемые категории данных и государственный орган, ответственный за её работу.

Наконец, должен сохраняться доступ к государственным услугам для граждан, которые не имеют смартфона, стабильного интернета или достаточных цифровых навыков. Цифровизация не должна становиться новой формой социального неравенства.

Технологии должны служить человеку

Искусственный интеллект способен сделать государственное управление быстрее, точнее и удобнее. Он может освободить служащих от рутинной работы, сократить очереди и помочь государству принимать решения на основе объективных данных.

Но эффективность не является единственной ценностью государственного управления. Не менее важны справедливость, прозрачность, ответственность и уважение к человеческому достоинству.

Главный вопрос заключается не в том, сможет ли искусственный интеллект заменить чиновника. Важно определить, какие решения государство вообще вправе передавать алгоритму и какие гарантии получит гражданин.

Узбекистан находится на этапе, когда правила ещё можно сформировать заранее, не дожидаясь серьёзных ошибок и общественных конфликтов. Если внедрение искусственного интеллекта будет сопровождаться надёжной защитой персональных данных, человеческим контролем и эффективным правом на обжалование, технология действительно сможет служить обществу.

Если же решения алгоритмов станут непрозрачными и фактически необжалуемыми, цифровизация рискует увеличить дистанцию между государством и гражданином. Поэтому основным принципом государственной политики должно стать простое правило: искусственный интеллект применяется не вместо прав человека, а ради их более эффективного обеспечения.

 

 Полатов Темурбек,
преподаватель сектора Права и технологии ТГЮУ