Проблемы этики: как и где использовать ИИ
За последние годы этика в сфере искусственного интеллекта превратилась из философско-теоретической в прикладную дисциплину. Эксперты в НИУ ВШЭ обсудили, какие этические проблемы возникают в связи со стремительным развитием цифровизации и какие их инженерные решения могут быть предложены.
В НИУ ВШЭ 2 июня начала работу Всероссийская научная конференция «Искусственный интеллект и цифровая реальность», в рамках которой Институт робототехнических систем НИУ ВШЭ совместно с НСМИИ и КИ РАН при участии УрФУ имени первого Президента России Б.Н. Ельцина организовали работу секции «Этика в сфере ИИ и робототехнических систем». Открыла ее заседание директор Центра этики и онтологии роботов Института робототехнических систем НИУ ВШЭ Анастасия Углева.
Цель конференции — наметить пути решения ключевых этических вопросов, связанных с развитием технологий ИИ в сфере образования, медицины, искусства, права, и подсветить новые проблемы, возникающие в контексте развития антропоморфной робототехники, пояснила она. «Институт робототехнических систем готовит программный документ, в котором будут не только запечатлены базовые этические принципы, но и сформулированы технические требования к их реализации, а также прояснена процедура этического аудита в этой сфере на примере роботов-доставщиков в открытой городской среде», — рассказала Анастасия Углева. Она также отметила, что разработка соответствующего подхода к антропоморфной робототехнике требует лонгитюдных междисциплинарных исследований, ориентированных на понимание условий обеспечения комфортного сосуществования человека и машины в едином жизненном пространстве, включая осознание пределов антропоморфизации.
Академик РАН, председатель НСМИИ и КИ РАН Владислав Лекторский отметил, что стремительная цифровизация открывает новые возможности, реализовывая задачи по делегированию машинам части задач человека. «А проблемы совершенствования и правового регулирования в сфере искусственного интеллекта — острейшие, они обсуждаются во всем мире, и от них зависит будущее всего человечества», — считает он. Одна из угроз состоит в том, что ИИ может однажды выйти из-под контроля, что требует особого внимания со стороны человека.
Обсуждаются также создание цифровой копии человека и последствия ее внедрения. «Это означает, что ваши действия контролируются, что вы не хозяин себе», — пояснил Владислав Лекторский. Нужно озаботиться вопросами сохранения свободы воли, потому что «если у вас нет свободы воли, то вы не отвечаете за свои действия», сказал ученый, и это не только философская, но и юридическая проблема.
Проблемы в связи с бурным развитием ИИ, по его словам, есть и в образовании. Школьники массово используют тексты, сгенерированные ИИ, и они «в высшей степени доверяют тому, что говорит ИИ». В этой связи миссия преподавателей в школе и в вузе — развивать критическое мышление у учащихся и прививать им навык самостоятельного принятия решений. «Возникает масса проблем, начиная от образования и до экономических проблем, творческих, то есть [мы пытаемся понять], что можно доверить ИИ, а что нет», — отметил Владислав Лекторский.
Екатерина Николаева, ведущий инженер-разработчик Центра робототехники Сбербанка, рассказала о ряде психологических феноменов, связанных с развитием ИИ. В частности, о когнитивной атрофии — постепенном угасании способности к самостоятельному критическому мышлению, анализу и генерации идей, вызванном хроническим делегированием когнитивных задач искусственному интеллекту, отметила она. Другой феномен — это патологическая зависимость от ИИ в самых разных сферах жизни. «Аддикция к ИИ — это патологическая зависимость от взаимодействия с системами искусственного интеллекта, характеризующаяся навязчивым влечением и синдромом отмены при недоступности ИИ», — пояснила Катерина Николаева.
По словам и.о. директора Всероссийского института научной и технической информации РАН (ВИНИТИ РАН) Сергея Гарбука, алгоритмы ИИ сегодня действительно «позволяют решать задачи в условиях отсутствия объяснимой модели наблюдаемого объекта». Однако нет никакой гарантии, что решения будут верными. В частности, по его словам, обсуждается возможность использовать ИИ для индивидуального расчета налогов для граждан. Но вопрос в том, «насколько будет корректным этот расчет», говорит Сергей Гарбук. По его словам, доверять можно системам, которые удовлетворяют уровню качества. Однако важно понять, какие критерии необходимо предъявлять к этому качеству.
«Системы становятся все более сложными, и испытания таких систем — это трудоемкий процесс. Дать гарантии, что система в любых условиях поведет себя корректно, практически невозможно», — пояснил Сергей Гарбук. Эксперт поделился наработками для оценки пределов использования ИИ. В частности, он представил методику выявления системных рисков в духовно-нравственной сфере, разрабатываемую совместной рабочей группой ВИНИТИ РАН и Синодальной комиссии по биоэтике РПЦ. Речь идет о возможности формирования черных, белых и серых списков ситуаций, применение в которых ИИ должно быть соответственно запрещено, разрешено без специальных ограничений, находиться под особым контролем со стороны человека. Например, для создания религиозной символики или написания икон ИИ по определению не должен быть разрешен к использованию. Также недопустимо применять новые технологические возможности для создания цифровых двойников покойных родственников. «Это связано с деструктивным воздействием на человеческую психику», — пояснил эксперт.
Продолжив рассказ об этой совместной инициативе, ученый секретарь Синодальной комиссии по биоэтике РПЦ протоиерей Александр Абрамов отметил, что «безудержный технооптимизм, вера в то, что все можно решить с помощью технологий, совершенно не нов». Он рассказал о нескольких исторических и современных примерах, а также специально остановился на разъяснении позиции РПЦ по вопросам антропоморфизации роботов. Он привел в пример роботов-компаньонов, внедряемых в Китае и Австралии, в частности, для ухода за больными людьми, а также роботов, участвующих в проведении массовых шоу. При этом, отметил протоиерей Александр Абрамов, уже сейчас прогнозируется риск массовых протестов, связанных с недовольством перспективой потери рабочих мест.
Вам также может быть интересно:
Исследователи ФКН ВШЭ завоевали золотую медаль на международном соревновании по машинному обучению
Команда, в состав которой вошли сотрудники Международной лаборатории статистической и вычислительной геномики Алексей Шмелев и Никита Червов, выпускник 2025 года магистратуры «Анализ данных в биологии и медицине» ФКН НИУ ВШЭ Иван Геворков, а также двое студентов из США, показала высокий результат на международном соревновании по машинному обучению The 2026 NeuroGolf Championship. Команда получила золотую медаль и заняла 7-е место в итоговом рейтинге.
Исследователи ВШЭ показали, как создавать регуляторную ДНК напрямую
Исследователи НИУ ВШЭ разработали модель для генерации промоторов и энхансеров — участков ДНК, регулирующих работу генов. Модель работает с нуклеотидами ДНК напрямую, без промежуточного преобразования в непрерывное числовое пространство. Разработка может быть полезна в синтетической биологии и генной терапии. Результаты исследования представлены на воркшопе конференции ICLR 2026.
Развивая сотрудничество: совместный семинар ФКН ВШЭ и Харбинского технологического университета
13–16 июля на факультете компьютерных наук прошел Российско-китайский научно-исследовательский семинар по приложениям машинного обучения, организованный Научно-учебной лабораторией облачных и мобильных технологий совместно с Харбинским политехническим университетом (Китай). Делегация из семи студентов и трех представителей университета прибыла в Москву, чтобы принять участие в интенсивной четырехдневной программе.
«Работа с ИИ — решение целого спектра инженерных задач»
Искусственный интеллект — рабочий инструмент, построенный на сбалансированном сочетании алгоритмов с инженерной проработкой. Как технологии ИИ способны улучшить приложение, устройство, систему и какие инженерные задачи решаются при этом, рассказывают специалисты и аспиранты Московского института электроники и математики ВШЭ.
Новая секция по ИИ и призовое место: молодые ученые Вышки на Международной конференции IEEE EDM
В Республике Алтай прошла 27-я Международная конференция молодых специалистов в области электронных приборов и материалов (IEEE EDM). В этом году ученые НИУ ВШЭ представили на ней результаты своих исследований, а также приняли участие в организации новой секции по искусственному интеллекту. Доклад магистранта Вышки Родиона Сидоренко занял третье место в конкурсе научных работ конференции.
НИУ ВШЭ инициировал разработку этического стандарта для антропоморфных роботов
Развитие антропоморфной робототехники требует не только технологических, но и этических решений. В июле на площадке Института робототехнических систем НИУ ВШЭ прошла форсайт-сессия, посвященная разработке Этического стандарта для антропоморфных робототехнических комплексов. Представители бизнеса, органов государственной власти, научных организаций и университетов обсудили ключевые этические и правовые вопросы, связанные с развитием антропоморфных робототехнических комплексов. Главным итогом встречи стала подготовка проекта Этического стандарта.
НИУ ВШЭ первым среди университетов начал фиксировать интеллектуальные права на научные результаты в блокчейне
Высшая школа экономики подключила свой Репозиторий научно-технической информации к доверенной блокчейн-сети РЦИС.РФ как самостоятельный узел. Теперь каждый исследовательский результат, размещенный в цифровом хранилище НИУ ВШЭ, может получить признаваемую госорганами запись в распределенном реестре, подтверждающую авторство и принадлежность исключительных прав.
ФКН ВШЭ и ЧГУ реализовали три отраслевых образовательных модуля по искусственному интеллекту
В 2025/26 учебном году факультет компьютерных наук (ФКН) ВШЭ совместно с Череповецким государственным университетом реализовал три отраслевых образовательных модуля по искусственному интеллекту. Инициатива была представлена в рамках проекта «Топ-ИИ» Минцифры России при участии АНО «Аналитический центр при Правительстве Российской Федерации». Эксперты НИУ ВШЭ совместно с индустриальными партнерами разработали линейку отраслевых образовательных модулей в области искусственного интеллекта.
В НИУ ВШЭ появится суперкомпьютер для работы с ИИ
Высшая школа экономики готовит к запуску второй суперкомпьютер. Новый кластер будет ориентирован прежде всего на задачи ИИ и дополнит уже действующий суперкомпьютер cHARISMa. Его запуск планируется на конец 2026 года.
В НИУ ВШЭ создан Фонд науки и технологий
Фонд науки и технологий НИУ ВШЭ (ФНТ) будет финансировать перспективные научные инициативы, имеющие прикладную направленность и содействующие достижению технологического лидерства России. На поддержку могут рассчитывать проектные команды из всех кампусов университета. Заявку в ФНТ можно подать в любой момент. Рассматривать заявки будет созданный Совет по науке и технологиям НИУ ВШЭ.