Эксперты Вышки зададут стандарт искусственному интеллекту

© iStock

Высшая школа экономики по заказу Федерального агентства по технологическому регулированию и метрологии разработает российские стандарты создания и применения искусственного интеллекта (ИИ) в сетях связи, системах аналитики, нейронных сетях, системах госуслуг, для контроля оборота алкоголя и в других сферах. Об этом проекте и о том, зачем и как нужно стандартизировать ИИ, новостной службе портала рассказал директор по научным проектам НИУ ВШЭ, председатель национального технического комитета по стандартизации ТК164 «Искусственный интеллект» Сергей Гарбук.

Стандарты необходимы для создания благоприятных нормативных возможностей внедрения технологий искусственного интеллекта в различные отрасли экономики и социальной сферы. Дело в том, что в настоящее время отсутствуют единые, признанные профессиональным сообществом и государственными регуляторами правила подтверждения функциональной надежности и безопасности прикладных интеллектуальных систем. Отсутствие таких правил делает невозможным применение систем ИИ в наиболее ответственных задачах, ошибки решения которых могут привести к опасным последствиям: на транспорте, в медицине, образовании, в системах безопасности и других. Система стандартов в области искусственного интеллекта как раз и направлена, прежде всего, на формирование таких единых принципов оценки соответствия систем ИИ установленным требованиям, выполнение которых обеспечивало бы гарантии качества прикладных интеллектуальных систем.

Сергей Гарбук

Государству стандарты нужны для того, чтобы защитить потребителя систем ИИ, предоставляя ему гарантии качества, надежности и безопасности этих систем. Добросовестным разработчикам стандартизация в области искусственного интеллекта необходима для обеспечения единства измерений в этой сфере, благодаря чему появится, например, возможность объективного сопоставления прикладных систем ИИ, созданных разными разработчиками. Такая возможность обеспечит прозрачность конкурентной среды и безусловно будет способствовать развитию отрасли искусственного интеллекта в целом.

Стоит подчеркнуть, что технологии ИИ бурно развиваются. Большие перспективы открываются, в том числе, в связи с использованием интеллектуальных технологий в образовательном процессе. Но такое использование возможно лишь при одном условии: если будут обеспечены гарантии того, что качество образования при этом, как минимум, не снизится. Получение таких гарантий предполагает создание системы оценки соответствия интеллектуальных технологий предъявляемым требованиям. При этом как сами типовые требования к технологиям ИИ, так и способы оценки соответствия этим требованиям должны быть едиными для всех, то есть унифицированными, одобренными профессиональным сообществом, и закреплены в соответствующих стандартах.

Таким образом, отсутствие стандартов ИИ не позволяет использовать эти технологии во многих важных прикладных областях, включая образование, то есть там, где требуются определенные гарантии качества работы интеллектуальных систем. В данном случае можно говорить о наличии серьёзного нормативно-технического барьера, препятствующего эффективному созданию и применению систем искусственного интеллекта.

Стандарты ИИ уже несколько лет активно разрабатываются в разных странах и на международном уровне. Например, национальный план разработки стандартов искусственного интеллекта в США был принят в августе 2019 года. Работа над международными стандартами ведется с начала 2018 года, когда был создан соответствующий подкомитет SC42 Artificial Intelligence Объединенного технического комитета по стандартизации JTC1 Information Technologies. В настоящее время в разработке находится более 20 международных стандартов, и Высшая школа экономики принимает активное участие в этой работе.

В России Перспективный план разработки стандартов искусственного интеллекта на 2021-2024 годы был принят в конце 2020 года. В перечень работ Высшей школы экономики войдет разработка национальных стандартов общего назначения, устанавливающих термины и определения в данной области, форматы представления данных и другие вопросы, решение которых обеспечит терминологическое единство и необходимый уровень совместимости интеллектуальных систем с существующей и перспективной информационной инфраструктурой. Также значительное внимание будет уделено стандартам, устанавливающим единые требования к испытанию систем ИИ, рассчитанных на решение различных прикладных задач. Особенностью таких стандартов является то, что в этих документах будут сформулированы требования к тестовым наборам данных (т.н. датасетам), на которых необходимо проводить испытание интеллектуальных систем для определения их безопасности и функциональности.

Часть стандартов будет разрабатываться путем гармонизации отечественных нормативных документов с соответствующими международными стандартами. Такие работы также запланированы в рамках данного комплексного проекта.

Принципиальным моментом нормативно-технического регулирования ИИ на данном этапе является то, что стандарты не устанавливают требований к способам создания интеллектуальных систем. Унификации подлежат лишь принципы их испытаний, измерения функциональных характеристик и характеристик безопасности. При этом стандарты никак не ограничивают исследователей и разработчиков в выборе принципов создания и функционирования систем.