Проблемы этики: как и где использовать ИИ
За последние годы этика в сфере искусственного интеллекта превратилась из философско-теоретической в прикладную дисциплину. Эксперты в НИУ ВШЭ обсудили, какие этические проблемы возникают в связи со стремительным развитием цифровизации и какие их инженерные решения могут быть предложены.
В НИУ ВШЭ 2 июня начала работу Всероссийская научная конференция «Искусственный интеллект и цифровая реальность», в рамках которой Институт робототехнических систем НИУ ВШЭ совместно с НСМИИ и КИ РАН при участии УрФУ имени первого Президента России Б.Н. Ельцина организовали работу секции «Этика в сфере ИИ и робототехнических систем». Открыла ее заседание директор Центра этики и онтологии роботов Института робототехнических систем НИУ ВШЭ Анастасия Углева.
Цель конференции — наметить пути решения ключевых этических вопросов, связанных с развитием технологий ИИ в сфере образования, медицины, искусства, права, и подсветить новые проблемы, возникающие в контексте развития антропоморфной робототехники, пояснила она. «Институт робототехнических систем готовит программный документ, в котором будут не только запечатлены базовые этические принципы, но и сформулированы технические требования к их реализации, а также прояснена процедура этического аудита в этой сфере на примере роботов-доставщиков в открытой городской среде», — рассказала Анастасия Углева. Она также отметила, что разработка соответствующего подхода к антропоморфной робототехнике требует лонгитюдных междисциплинарных исследований, ориентированных на понимание условий обеспечения комфортного сосуществования человека и машины в едином жизненном пространстве, включая осознание пределов антропоморфизации.
Академик РАН, председатель НСМИИ и КИ РАН Владислав Лекторский отметил, что стремительная цифровизация открывает новые возможности, реализовывая задачи по делегированию машинам части задач человека. «А проблемы совершенствования и правового регулирования в сфере искусственного интеллекта — острейшие, они обсуждаются во всем мире, и от них зависит будущее всего человечества», — считает он. Одна из угроз состоит в том, что ИИ может однажды выйти из-под контроля, что требует особого внимания со стороны человека.
Обсуждаются также создание цифровой копии человека и последствия ее внедрения. «Это означает, что ваши действия контролируются, что вы не хозяин себе», — пояснил Владислав Лекторский. Нужно озаботиться вопросами сохранения свободы воли, потому что «если у вас нет свободы воли, то вы не отвечаете за свои действия», сказал ученый, и это не только философская, но и юридическая проблема.
Проблемы в связи с бурным развитием ИИ, по его словам, есть и в образовании. Школьники массово используют тексты, сгенерированные ИИ, и они «в высшей степени доверяют тому, что говорит ИИ». В этой связи миссия преподавателей в школе и в вузе — развивать критическое мышление у учащихся и прививать им навык самостоятельного принятия решений. «Возникает масса проблем, начиная от образования и до экономических проблем, творческих, то есть [мы пытаемся понять], что можно доверить ИИ, а что нет», — отметил Владислав Лекторский.
Екатерина Николаева, ведущий инженер-разработчик Центра робототехники Сбербанка, рассказала о ряде психологических феноменов, связанных с развитием ИИ. В частности, о когнитивной атрофии — постепенном угасании способности к самостоятельному критическому мышлению, анализу и генерации идей, вызванном хроническим делегированием когнитивных задач искусственному интеллекту, отметила она. Другой феномен — это патологическая зависимость от ИИ в самых разных сферах жизни. «Аддикция к ИИ — это патологическая зависимость от взаимодействия с системами искусственного интеллекта, характеризующаяся навязчивым влечением и синдромом отмены при недоступности ИИ», — пояснила Катерина Николаева.
По словам и.о. директора Всероссийского института научной и технической информации РАН (ВИНИТИ РАН) Сергея Гарбука, алгоритмы ИИ сегодня действительно «позволяют решать задачи в условиях отсутствия объяснимой модели наблюдаемого объекта». Однако нет никакой гарантии, что решения будут верными. В частности, по его словам, обсуждается возможность использовать ИИ для индивидуального расчета налогов для граждан. Но вопрос в том, «насколько будет корректным этот расчет», говорит Сергей Гарбук. По его словам, доверять можно системам, которые удовлетворяют уровню качества. Однако важно понять, какие критерии необходимо предъявлять к этому качеству.
«Системы становятся все более сложными, и испытания таких систем — это трудоемкий процесс. Дать гарантии, что система в любых условиях поведет себя корректно, практически невозможно», — пояснил Сергей Гарбук. Эксперт поделился наработками для оценки пределов использования ИИ. В частности, он представил методику выявления системных рисков в духовно-нравственной сфере, разрабатываемую совместной рабочей группой ВИНИТИ РАН и Синодальной комиссии по биоэтике РПЦ. Речь идет о возможности формирования черных, белых и серых списков ситуаций, применение в которых ИИ должно быть соответственно запрещено, разрешено без специальных ограничений, находиться под особым контролем со стороны человека. Например, для создания религиозной символики или написания икон ИИ по определению не должен быть разрешен к использованию. Также недопустимо применять новые технологические возможности для создания цифровых двойников покойных родственников. «Это связано с деструктивным воздействием на человеческую психику», — пояснил эксперт.
Продолжив рассказ об этой совместной инициативе, ученый секретарь Синодальной комиссии по биоэтике РПЦ протоиерей Александр Абрамов отметил, что «безудержный технооптимизм, вера в то, что все можно решить с помощью технологий, совершенно не нов». Он рассказал о нескольких исторических и современных примерах, а также специально остановился на разъяснении позиции РПЦ по вопросам антропоморфизации роботов. Он привел в пример роботов-компаньонов, внедряемых в Китае и Австралии, в частности, для ухода за больными людьми, а также роботов, участвующих в проведении массовых шоу. При этом, отметил протоиерей Александр Абрамов, уже сейчас прогнозируется риск массовых протестов, связанных с недовольством перспективой потери рабочих мест.
Вам также может быть интересно:
Новый метод НИУ ВШЭ и Т-Технологий повышает качество работы ИИ
Ученые из лаборатории научных исследований «Т-Технологий» и Института искусственного интеллекта и цифровых наук факультета компьютерных наук НИУ ВШЭ разработали новый метод семплирования для моделей маскированной диффузии — G-Star+. Он помогает быстрее и качественнее исправлять ошибки во время генерации текста и кода за небольшое число шагов. Метод показал эффективность в задачах генерации текста и кода и может применяться там, где генеративным моделям нужно быстро и качественно создавать текст или код при ограниченных вычислительных ресурсах.
В Вышке открыли проектно-учебную лабораторию совместно с Группой «Т-Технологии»
Группа «Т-Технологии» (головная структура Т-Банка) открыла проектно-учебную лабораторию на базе факультета компьютерных наук НИУ ВШЭ (ФКН НИУ ВШЭ). Проектно-учебная лаборатория Группы «Т-Технологии» в НИУ ВШЭ сосредоточится на проектах и задачах в области искусственного интеллекта, распределенных вычислений, анализа больших данных и информационной безопасности в финансовом секторе. Лабораторию возглавит Алексей Теплов, кандидат физико-математических наук.
«Защищать конкуренцию от ИИ нам придется с помощью самого искусственного интеллекта»
В НИУ ВШЭ прошел двухдневный семинар «Искусственный интеллект и конкурентная политика в странах БРИКС». Его участники обсудили две ключевые для конкурентной политики темы: трансформация конкуренции и рынков под влиянием технологий ИИ и усилени е регуляторного потенциала антимонопольных органов за счет технологий искусственного интеллекта.
В НИУ ВШЭ разработали сервис обезличивания табличных данных для безопасного использования в ИИ-системах
Институт искусственного интеллекта и цифровых наук ФКН ВШЭ разработал сервис обезличивания табличных данных, предназначенный для подготовки корпоративных данных к использованию в аналитических и ИИ-сервисах. Решение позволяет выявлять персональные данные в структурированных наборах, применять к ним воспроизводимые правила обезличивания и формировать артефакты, необходимые для контроля качества, аудита и последующего использования данных в защищенных контурах.
Высшая школа экономики и «Ростелеком» поддержат ИИ-стартапы для госсектора
НИУ ВШЭ и «Ростелеком» подписали на ПМЭФ-2026 соглашение о сотрудничестве в рамках реализации акселератора ИИ-решений для государственного сектора. Совместная работа позволит объединить технологическую экспертизу крупнейшего цифрового партнера государства и академический потенциал ведущего исследовательского университета страны.
НИУ ВШЭ и МТС договорились об обмене ИИ-компетенциями при подготовке инженерных кадров для телекома
НИУ ВШЭ и ПАО «МТС» заключили соглашение о стратегическом партнерстве, которое предполагает подготовку кадров с ИИ-компетенциями для телекоммуникационной отрасли по программам высшего и дополнительного профессионального образования. Соглашение направлено на повышение качества образования, обмен экспертизой и компетенциями при подготовке инженеров, владеющих технологиями ИИ и машинного обучения.
Точка входа в ИИ: на ЦИПР обсудили влияние технологий на будущее
Участники ЦИПР-2026 обсудили, как офисные приложения могут стать точкой массового доступа к ИИ и снизить барьеры использования. Эксперты сошлись во мнении, что будущее — за адаптивными моделями и экосистемным подходом к корпоративным данным. В экспертных дискуссиях приняли участие представители НИУ ВШЭ.
ФКН ВШЭ расширяет линейку образовательных программ по ИИ для руководителей
Центр непрерывного образования факультета компьютерных наук НИУ ВШЭ (ЦНО ФКН ВШЭ) развивает уникальную линейку образовательных продуктов для топ-менеджмента, где передовая компьютерная наука соединяется с реальными задачами бизнеса. Цель этого направления — помогать развивать бизнес в России через внедрение технологий искусственного интеллекта.
Ученые ФКН ВШЭ представили работы в сфере ИИ и биоинформатики на ICLR 2026
Ученые Института искусственного интеллекта и цифровых наук факультета компьютерных наук ВШЭи студенты трека «ИИ360: Инженерия искусственного интеллекта» бакалаврской программы «Прикладная математика и информатика» приняли участие в международной конференции ICLR — одном из самых авторитетных мировых форумов в области машинного обучения и представления данных. В этом году конференция состоялась в Рио-де-Жанейро (Бразилия).
AI AWARDS 2026: аналитическую основу премии формирует iFORA НИУ ВШЭ
Высшая школа экономики вошла в число партнеров премии AI AWARDS 2026, которая пройдет 29 апреля в Москве. Проект, реализуемый командой «Билайн Big Data & AI», посвящен практическому применению искусственного интеллекта и объединяет компании, технологии и команды, которые уже сегодня влияют на развитие новой цифровой экономики. Вклад номинантов AI AWARDS в развитие ИИ анализируется на основе данных, поэтому качество аналитической базы и прозрачность методологии становятся для рынка принципиально важными.