Красные линии: эксперты обсудили вопросы этики и права в сфере ИИ
Быстрое развитие технологий искусственного интеллекта требует опережающего этико-гуманитарного осмысления вероятных результатов прогресса и сбалансированных регуляторных мер, стимулирующих применение ИИ и ограждающих человека от возможного негативного влияния. Об этом эксперты говорили на Форуме этики в сфере искусственного интеллекта «Поколение GPT. Красные линИИ», который прошел в ТАСС. В его работе приняли участие представители Вышки.
Директор Национального центра развития искусственного интеллекта при Правительстве РФ (действует на базе ВШЭ) Сергей Наквасин, открывая форум, подчеркнул остроту этических вопросов развития и применения искусственного интеллекта и большое внимание общества к моральным проблемам ИИ. «Форум в этом году приобрел всероссийский масштаб: три дня накануне шел марафон в 12 регионах страны. Более тысячи человек приняли участие в открытой, честной, горячей, острой дискуссии. Мы накапливаем и обрабатываем результаты всех этих обсуждений», — сказал он.
По словам Татьяны Матвеевой, начальника Управления по развитию информационно-коммуникационных технологий и инфраструктуры связи Администрации Президента РФ, наша общая задача — обеспечение надежности, безопасности технологий ИИ и доверия к ним. «Все предложения, которые будут высказаны на форуме, помогут ответить нам на основные вопросы, на вызовы, которые стоят перед нами, и будут способствовать повышению доверия общества к технологиям искусственного интеллекта, формированию подлинного технологического суверенитета нашей страны», — подчеркнула она.
Заместитель министра экономического развития РФ Максим Колесников обратил внимание, что в мире нет единого понимания регулирования ИИ: в Европе приняты жесткие меры, а США и Китай придерживаются более мягких рамок. Россия выступает за гибридный подход, где отдельные элементы ИИ будут контролироваться законодательно, но в основном он будет регулироваться Кодексом этики в сфере ИИ и принципами, разработанными в диалоге с технологическим сообществом. «Более 270 компаний и органов государственной власти уже согласились соблюдать установленные кодексом принципы. Ожидаем, что сегодня к ним присоединится еще порядка 20 организаций», — заявил Максим Колесников.
В ходе круглого стола «Межкультурный взгляд на глобальные вызовы развития искусственного интеллекта» руководитель Международного научно-образовательного центра «Кафедра ЮНЕСКО по авторскому праву, смежным, культурным и информационным правам» НИУ ВШЭ профессор Михаил Федотов отметил, что российский Кодекс этики в сфере ИИ близок к рекомендациям, разработанным ЮНЕСКО. «Это хорошо, значит, позиции совпадают и мировой опыт перенимается Россией», — сказал он. По его мнению, кодекс следует дополнить комиссией по нейроправу, «потому что искусственный интеллект связан и с нашим естественным интеллектом». Эта комиссия займется ментальной и физической неприкосновенностью человека при вероятном вживлении имплантов в мозг и его защитой от возможной когнитивной цензуры. Необходима и комиссия, которая будет следить за исполнением требований Кодекса ИИ. В противном случае, считает Михаил Федотов, высок риск невыполнения его ключевых положений.
Он также предостерег от роботизации человека, вызванной алгоритмизацией производства и иных процессов. Возникает вероятность подмены лечения здравоохранением, творчества — имитацией, науки — наукометрией.
В треке, посвященном применению этических принципов в работе ученых и центров развития ИИ, руководитель проектов Центра экспертизы по реализации федерального проекта «Искусственный интеллект» Аналитического центра при Правительстве РФ Сергей Астахов отметил: чем масштабнее технология, тем острее встают этические вопросы ее применения. «Можем ли мы надеяться на развитие технологий в гармонии с этикой?» — поинтересовался он.
Руководитель Центра искусственного интеллекта НИУ ВШЭ Алексей Масютин подчеркнул: следует осмыслить этичность не самого искусственного интеллекта, а его применения. Например, его использование при генерации лекарств кратно сокращает время их разработки, что особенно важно при необходимости быстрого запуска их производства, однако аналогичные принципы можно применить и при разработке опасных материалов, в том числе химического оружия. Нейросети позволяют более качественно и быстро реставрировать, но с их помощью можно создавать и дипфейки, манипулирующие людьми.
Чтобы управлять этическими принципами использования ИИ, нужна работа ученых многих специальностей. В Центре искусственного интеллекта НИУ ВШЭ проект «Этическая экспертиза в сфере ИИ» возглавляет доцент Школы философии и культурологии университета Анастасия Углева.
Это, полагает эксперт НИУ ВШЭ, не снимает ответственности с разработчиков ИИ. В ходе подготовки программ следует тестировать их на возможность неэтичного применения, в том числе вероятной дискриминации отдельных групп людей. Ответственную задачу выполняют те, кто готовит данные для разработки, именно от качества их работы во многом зависит правильность алгоритмов работы искусственного интеллекта. Важно также совершенствовать инструменты детекции возможных недостатков программ, отметил Алексей Масютин.
Он также сообщил, что группа по этике Центра искусственного интеллекта регулярно оценивает качество баз и программ, в том числе и с индустриальными партнерами Вышки.
В рамках форума «Поколение GPT. Красные линИИ» были вручены награды за вклад в развитие этики в сфере искусственного интеллекта. За исследования по этической экспертизе в сфере ИИ и проведение регулярного научного семинара по гуманистическим и этическим аспектам развития цифровых технологий была отмечена доцент Школы философии и культурологии факультета гуманитарных наук НИУ ВШЭ Анастасия Углева.
Наквасин Сергей Юрьевич
Вам также может быть интересно:
Исследователи ВШЭ показали, как создавать регуляторную ДНК напрямую
Исследователи НИУ ВШЭ разработали модель для генерации промоторов и энхансеров — участков ДНК, регулирующих работу генов. Модель работает с нуклеотидами ДНК напрямую, без промежуточного преобразования в непрерывное числовое пространство. Разработка может быть полезна в синтетической биологии и генной терапии. Результаты исследования представлены на воркшопе конференции ICLR 2026.
ФКН ВШЭ и ЧГУ реализовали три отраслевых образовательных модуля по искусственному интеллекту
В 2025/26 учебном году факультет компьютерных наук (ФКН) ВШЭ совместно с Череповецким государственным университетом реализовал три отраслевых образовательных модуля по искусственному интеллекту. Инициатива была представлена в рамках проекта «Топ-ИИ» Минцифры России при участии АНО «Аналитический центр при Правительстве Российской Федерации». Эксперты НИУ ВШЭ совместно с индустриальными партнерами разработали линейку отраслевых образовательных модулей в области искусственного интеллекта.
Новый метод НИУ ВШЭ и Т-Технологий повышает качество работы ИИ
Ученые из лаборатории научных исследований «Т-Технологий» и Института искусственного интеллекта и цифровых наук факультета компьютерных наук НИУ ВШЭ разработали новый метод семплирования для моделей маскированной диффузии — G-Star+. Он помогает быстрее и качественнее исправлять ошибки во время генерации текста и кода за небольшое число шагов. Метод показал эффективность в задачах генерации текста и кода и может применяться там, где генеративным моделям нужно быстро и качественно создавать текст или код при ограниченных вычислительных ресурсах.
В Вышке открыли проектно-учебную лабораторию совместно с Группой «Т-Технологии»
Группа «Т-Технологии» (головная структура Т-Банка) открыла проектно-учебную лабораторию на базе факультета компьютерных наук НИУ ВШЭ (ФКН НИУ ВШЭ). Проектно-учебная лаборатория Группы «Т-Технологии» в НИУ ВШЭ сосредоточится на проектах и задачах в области искусственного интеллекта, распределенных вычислений, анализа больших данных и информационной безопасности в финансовом секторе. Лабораторию возглавит Алексей Теплов, кандидат физико-математических наук.
«Защищать конкуренцию от ИИ нам придется с помощью самого искусственного интеллекта»
В НИУ ВШЭ прошел двухдневный семинар «Искусственный интеллект и конкурентная политика в странах БРИКС». Его участники обсудили две ключевые для конкурентной политики темы: трансформация конкуренции и рынков под влиянием технологий ИИ и усилени е регуляторного потенциала антимонопольных органов за счет технологий искусственного интеллекта.
В НИУ ВШЭ разработали сервис обезличивания табличных данных для безопасного использования в ИИ-системах
Институт искусственного интеллекта и цифровых наук ФКН ВШЭ разработал сервис обезличивания табличных данных, предназначенный для подготовки корпоративных данных к использованию в аналитических и ИИ-сервисах. Решение позволяет выявлять персональные данные в структурированных наборах, применять к ним воспроизводимые правила обезличивания и формировать артефакты, необходимые для контроля качества, аудита и последующего использования данных в защищенных контурах.
Высшая школа экономики и «Ростелеком» поддержат ИИ-стартапы для госсектора
НИУ ВШЭ и «Ростелеком» подписали на ПМЭФ-2026 соглашение о сотрудничестве в рамках реализации акселератора ИИ-решений для государственного сектора. Совместная работа позволит объединить технологическую экспертизу крупнейшего цифрового партнера государства и академический потенциал ведущего исследовательского университета страны.
Проблемы этики: как и где использовать ИИ
За последние годы этика в сфере искусственного интеллекта превратилась из философско-теоретической в прикладную дисциплину. Эксперты в НИУ ВШЭ обсудили, какие этические проблемы возникают в связи со стремительным развитием цифровизации и какие их инженерные решения могут быть предложены.
НИУ ВШЭ и МТС договорились об обмене ИИ-компетенциями при подготовке инженерных кадров для телекома
НИУ ВШЭ и ПАО «МТС» заключили соглашение о стратегическом партнерстве, которое предполагает подготовку кадров с ИИ-компетенциями для телекоммуникационной отрасли по программам высшего и дополнительного профессионального образования. Соглашение направлено на повышение качества образования, обмен экспертизой и компетенциями при подготовке инженеров, владеющих технологиями ИИ и машинного обучения.
Точка входа в ИИ: на ЦИПР обсудили влияние технологий на будущее
Участники ЦИПР-2026 обсудили, как офисные приложения могут стать точкой массового доступа к ИИ и снизить барьеры использования. Эксперты сошлись во мнении, что будущее — за адаптивными моделями и экосистемным подходом к корпоративным данным. В экспертных дискуссиях приняли участие представители НИУ ВШЭ.