Проблемы этики: как и где использовать ИИ
За последние годы этика в сфере искусственного интеллекта превратилась из философско-теоретической в прикладную дисциплину. Эксперты в НИУ ВШЭ обсудили, какие этические проблемы возникают в связи со стремительным развитием цифровизации и какие их инженерные решения могут быть предложены.
В НИУ ВШЭ 2 июня начала работу Всероссийская научная конференция «Искусственный интеллект и цифровая реальность», в рамках которой Институт робототехнических систем НИУ ВШЭ совместно с НСМИИ и КИ РАН при участии УрФУ имени первого Президента России Б.Н. Ельцина организовали работу секции «Этика в сфере ИИ и робототехнических систем». Открыла ее заседание директор Центра этики и онтологии роботов Института робототехнических систем НИУ ВШЭ Анастасия Углева.
Цель конференции — наметить пути решения ключевых этических вопросов, связанных с развитием технологий ИИ в сфере образования, медицины, искусства, права, и подсветить новые проблемы, возникающие в контексте развития антропоморфной робототехники, пояснила она. «Институт робототехнических систем готовит программный документ, в котором будут не только запечатлены базовые этические принципы, но и сформулированы технические требования к их реализации, а также прояснена процедура этического аудита в этой сфере на примере роботов-доставщиков в открытой городской среде», — рассказала Анастасия Углева. Она также отметила, что разработка соответствующего подхода к антропоморфной робототехнике требует лонгитюдных междисциплинарных исследований, ориентированных на понимание условий обеспечения комфортного сосуществования человека и машины в едином жизненном пространстве, включая осознание пределов антропоморфизации.
Академик РАН, председатель НСМИИ и КИ РАН Владислав Лекторский отметил, что стремительная цифровизация открывает новые возможности, реализовывая задачи по делегированию машинам части задач человека. «А проблемы совершенствования и правового регулирования в сфере искусственного интеллекта — острейшие, они обсуждаются во всем мире, и от них зависит будущее всего человечества», — считает он. Одна из угроз состоит в том, что ИИ может однажды выйти из-под контроля, что требует особого внимания со стороны человека.
Обсуждаются также создание цифровой копии человека и последствия ее внедрения. «Это означает, что ваши действия контролируются, что вы не хозяин себе», — пояснил Владислав Лекторский. Нужно озаботиться вопросами сохранения свободы воли, потому что «если у вас нет свободы воли, то вы не отвечаете за свои действия», сказал ученый, и это не только философская, но и юридическая проблема.
Проблемы в связи с бурным развитием ИИ, по его словам, есть и в образовании. Школьники массово используют тексты, сгенерированные ИИ, и они «в высшей степени доверяют тому, что говорит ИИ». В этой связи миссия преподавателей в школе и в вузе — развивать критическое мышление у учащихся и прививать им навык самостоятельного принятия решений. «Возникает масса проблем, начиная от образования и до экономических проблем, творческих, то есть [мы пытаемся понять], что можно доверить ИИ, а что нет», — отметил Владислав Лекторский.
Екатерина Николаева, ведущий инженер-разработчик Центра робототехники Сбербанка, рассказала о ряде психологических феноменов, связанных с развитием ИИ. В частности, о когнитивной атрофии — постепенном угасании способности к самостоятельному критическому мышлению, анализу и генерации идей, вызванном хроническим делегированием когнитивных задач искусственному интеллекту, отметила она. Другой феномен — это патологическая зависимость от ИИ в самых разных сферах жизни. «Аддикция к ИИ — это патологическая зависимость от взаимодействия с системами искусственного интеллекта, характеризующаяся навязчивым влечением и синдромом отмены при недоступности ИИ», — пояснила Катерина Николаева.
По словам и.о. директора Всероссийского института научной и технической информации РАН (ВИНИТИ РАН) Сергея Гарбука, алгоритмы ИИ сегодня действительно «позволяют решать задачи в условиях отсутствия объяснимой модели наблюдаемого объекта». Однако нет никакой гарантии, что решения будут верными. В частности, по его словам, обсуждается возможность использовать ИИ для индивидуального расчета налогов для граждан. Но вопрос в том, «насколько будет корректным этот расчет», говорит Сергей Гарбук. По его словам, доверять можно системам, которые удовлетворяют уровню качества. Однако важно понять, какие критерии необходимо предъявлять к этому качеству.
«Системы становятся все более сложными, и испытания таких систем — это трудоемкий процесс. Дать гарантии, что система в любых условиях поведет себя корректно, практически невозможно», — пояснил Сергей Гарбук. Эксперт поделился наработками для оценки пределов использования ИИ. В частности, он представил методику выявления системных рисков в духовно-нравственной сфере, разрабатываемую совместной рабочей группой ВИНИТИ РАН и Синодальной комиссии по биоэтике РПЦ. Речь идет о возможности формирования черных, белых и серых списков ситуаций, применение в которых ИИ должно быть соответственно запрещено, разрешено без специальных ограничений, находиться под особым контролем со стороны человека. Например, для создания религиозной символики или написания икон ИИ по определению не должен быть разрешен к использованию. Также недопустимо применять новые технологические возможности для создания цифровых двойников покойных родственников. «Это связано с деструктивным воздействием на человеческую психику», — пояснил эксперт.
Продолжив рассказ об этой совместной инициативе, ученый секретарь Синодальной комиссии по биоэтике РПЦ протоиерей Александр Абрамов отметил, что «безудержный технооптимизм, вера в то, что все можно решить с помощью технологий, совершенно не нов». Он рассказал о нескольких исторических и современных примерах, а также специально остановился на разъяснении позиции РПЦ по вопросам антропоморфизации роботов. Он привел в пример роботов-компаньонов, внедряемых в Китае и Австралии, в частности, для ухода за больными людьми, а также роботов, участвующих в проведении массовых шоу. При этом, отметил протоиерей Александр Абрамов, уже сейчас прогнозируется риск массовых протестов, связанных с недовольством перспективой потери рабочих мест.
Вам также может быть интересно:
Высшая школа экономики и «Ростелеком» поддержат ИИ-стартапы для госсектора
НИУ ВШЭ и «Ростелеком» подписали на ПМЭФ-2026 соглашение о сотрудничестве в рамках реализации акселератора ИИ-решений для государственного сектора. Совместная работа позволит объединить технологическую экспертизу крупнейшего цифрового партнера государства и академический потенциал ведущего исследовательского университета страны.
НИУ ВШЭ и МТС договорились об обмене ИИ-компетенциями при подготовке инженерных кадров для телекома
НИУ ВШЭ и ПАО «МТС» заключили соглашение о стратегическом партнерстве, которое предполагает подготовку кадров с ИИ-компетенциями для телекоммуникационной отрасли по программам высшего и дополнительного профессионального образования. Соглашение направлено на повышение качества образования, обмен экспертизой и компетенциями при подготовке инженеров, владеющих технологиями ИИ и машинного обучения.
Точка входа в ИИ: на ЦИПР обсудили влияние технологий на будущее
Участники ЦИПР-2026 обсудили, как офисные приложения могут стать точкой массового доступа к ИИ и снизить барьеры использования. Эксперты сошлись во мнении, что будущее — за адаптивными моделями и экосистемным подходом к корпоративным данным. В экспертных дискуссиях приняли участие представители НИУ ВШЭ.
ФКН ВШЭ расширяет линейку образовательных программ по ИИ для руководителей
Центр непрерывного образования факультета компьютерных наук НИУ ВШЭ (ЦНО ФКН ВШЭ) развивает уникальную линейку образовательных продуктов для топ-менеджмента, где передовая компьютерная наука соединяется с реальными задачами бизнеса. Цель этого направления — помогать развивать бизнес в России через внедрение технологий искусственного интеллекта.
AI AWARDS 2026: аналитическую основу премии формирует iFORA НИУ ВШЭ
Высшая школа экономики вошла в число партнеров премии AI AWARDS 2026, которая пройдет 29 апреля в Москве. Проект, реализуемый командой «Билайн Big Data & AI», посвящен практическому применению искусственного интеллекта и объединяет компании, технологии и команды, которые уже сегодня влияют на развитие новой цифровой экономики. Вклад номинантов AI AWARDS в развитие ИИ анализируется на основе данных, поэтому качество аналитической базы и прозрачность методологии становятся для рынка принципиально важными.
Будущее кардиогенетики — с искусственным интеллектом
Исследователи Института искусственного интеллекта и цифровых наук ФКН НИУ ВШЭ (Институт ИИиЦН) создали программу, которая способна анализировать участки генома человека, ранее недоступные для точной интерпретации при генетическом тестировании. Программа адаптирует большие генеративные модели (ГенИИ) под задачи кардиогенетики, чтобы предсказывать, как мутация влияет на работу конкретного гена.
НИУ ВШЭ и Альфа-Банк запускают исследовательские проекты в сфере искусственного интеллекта
НИУ ВШЭ и Альфа-Банк объявили о старте трех совместных проектов в области искусственного интеллекта. Они направлены на развитие аналитических инструментов для банковских сервисов — от более точных прогнозов до новых подходов к управлению рисками и персонализации клиентского опыта.
Участники «Я — профессионал» разработают ИИ-агентов для бизнеса на Весенней экономической школе Вышки и Сбера
На площадке СберУниверситета стартовала Весенняя экономическая школа, организованная Высшей школой экономики и Сбером для участников Всероссийской олимпиады студентов «Я — профессионал» Президентской платформы «Россия — страна возможностей». С 22 по 24 апреля студенты будут работать над созданием ИИ-агента для бизнеса — от идеи и научной гипотезы до прототипа, готового к защите перед экспертами.
Уже не выбор, а реальность: трансформация мира под влиянием ИИ
Искусственный интеллект уже не воспринимается как технология будущего: он стремительно меняет процессы принятия решений, рынок труда и социальные практики. Вместе с тем он несет с собой не только новые грандиозные возможности, но и системные риски, связанные с ростом зависимости от данных, трансформацией профессий и изменением человеческого поведения. В НИУ ВШЭ создали семантическую карту разломов, которая показала ключевые тренды в развитии технологий.
Почему искусственный интеллект не способен поработить человечество
1 апреля на факультете математики НИУ ВШЭ встретили российского ученого, преподавателя и специалиста по информационной безопасности Андрея Масаловича, известного как КиберДед. Он представил студентам Вышки свои «Двадцать вопросов искусственному интеллекту» и поделился ответами, раскрывающими суть проблем в сфере развития ИИ, а также рассказал, почему тот никогда не сможет захватить человечество.