«Плохо обученный искусственный интеллект опаснее восстания машин»
При нынешнем уровне развития искусственного интеллекта (ИИ) человечеству не грозит восстание машин. Более актуальной угрозой представляется применение недостаточно обученного ИИ в жизненно важных сферах, а также попытки его использования для того, чтобы поставить под контроль жизнь человека. Об этом шла речь на семинаре «Угрозы, которых мы не ожидали от искусственного интеллекта», проведенном Научно-учебной лаборатории трансцендентальной философии ВШЭ.
Заведующая лабораторией Светлана Климова поинтересовалась у автора доклада — приглашенного исследователя Александра Хомякова, какие опасности могут сопровождать широкое применение искусственного интеллекта. По его оценке, вероятность скорого порабощения человечества машинами сильно преувеличена, при нынешнем состоянии искусственного интеллекта это невозможно. «Можно, конечно, бояться мятежа утюгов, которые восстанут и нас всех зажарят», — иронизирует он.
Пока искусственный интеллект остается программой, а угроза заключается в человеке, который им пользуется. «Неправильное применение его человеком гораздо важнее и опаснее, чем гипотетическое восстание машин», — уверен автор исследования. Однако не все угрозы, которые может нести искусственный интеллект, нам сейчас известны, и мы можем его применять, не всегда понимая последствия, как, например, в начале XX века в косметических целях использовали радиевые маски.
Александр Хомяков напомнил, что в Европе обсуждают зоны ограничения использования ИИ. Отечественные законодатели спешат запретить его применение, но эксперт уверен, что это может привести к отставанию в развитии. И поэтому важно соблюдать баланс между развитием и предупреждением негативных последствий внедрения ИИ. Выход, по его мнению, в упреждающих действиях.
Другой проблемой становится способность искусственного интеллекта создавать и публиковать в соцсетях тексты, которые трудно отличить от написанных человеком. Так, бот, созданный одной из версий программы GPT, выдавал себя за человека в течение нескольких недель. Иногда тексты ИИ невозможно распознать как искусственные. Получается, машина может управлять даже эмоциями своего собеседника-человека. Эти боты могут писать в вашей ленте комментарии, создавать тот или иной информационный фон и даже подталкивать своего собеседника к тем или иным действиям, способствовать формированию мнения, объясняет Александр Хомяков.
Самое страшное, что тысячами сообщений в секунду может руководить какой-нибудь гениальный свихнувшийся программист с неясными целями. Это реальная угроза, когда кто-то может пытаться манипулировать людьми через искусственный интеллект
Еще одной проблемой может стать передача принятия части решений искусственному интеллекту как помощнику без адекватной оценки его возможностей. Если, например, врач полностью доверит ИИ расшифровку рентгеновских снимков, ошибочные выводы могут иметь серьезные последствия. Установка ИИ в качестве фильтра на вызовах «скорой помощи» также небезопасна. «Это может создать угрозу для жизни человека, находящегося в стрессе, речь которого недостаточно обученный искусственный интеллект может неверно интерпретировать», — рассказывает Александр Хомяков.
Однако все это не значит, что ИИ бесперспективно использовать в принципе. Обходиться без него уже невозможно. Искусственный интеллект имеет большую оперативную память и, кроме того, берет на себя рутинную работу, которую человек не хочет выполнять. МВД, например, может следить не только за автомобилями, но и за людьми. Достаточно установить камеры, настроить ИИ, и система дальше работает сама. При этом, разумеется, встают этические вопросы.
На Западе уже возникают скандалы, связанные с подбором персонала, когда ИИ обвиняют в расистских наклонностях, поскольку в выборки попало меньше людей с африканской и азиатской внешностью. В ситуациях, когда машина, ведомая автопилотом, совершила аварию с человеческими жертвами, неожиданно выясняется, что в обучающей программе не было предусмотрено перевернутого фургона, кареты «скорой помощи» или остановившейся на обочине пожарной машины.
Важно понимать, говорит Александр Хомяков, что искусственный интеллект — это программа, основанная на статистике, ее точность не превышает 95%, то есть предусмотрена 5-процентная вероятность ошибок. «Готовы ли мы к такой высокой вероятности, если это касается человеческой жизни?» — задается вопросом эксперт.
Еще одной опасностью массового внедрения искусственного интеллекта он назвал уход с рынка труда многих работников, преимущественно низкоквалифицированных, занятых рутинным трудом. Это может привести к резкому росту асоциального поведения и преступности. Есть угроза и для людей творческих профессий: в Индии ИИ разрабатывает дизайн одежды и обуви, который оказывается более привлекательным для потребителей и имеетбо́льшее количество вариантов. Есть также сайты и программы, пишущие стихи (достаточно задать две строки и первую рифму), создающие дизайн-проект интерьера. Творчество уже не всегда требует таланта человека, что таит дополнительную опасность.
Наконец, серьезную угрозу представляет возможность ухода из реальной жизни в виртуальную или дополненную. Человек может создать виртуальное окружение, населить его приятными ему искусственными людьми. «Искусственный интеллект может в вас влюбиться. Какой молодой человек откажется от такого!» — отмечает Александр Хомяков. Ведь созданный персонаж не будет «спорить, просить денег, ругать».
По его словам, уже разработаны шлем и костюмы, в которых есть специальные зоны, дающие небольшие электрические разряды, создающие разные телесные и даже эмоциональные ощущения.
Мы теряем опору в реальности, мы все больше видим собеседников через видео и социальные сети, причем их все сложнее идентифицировать, понять, реальный это человек или виртуальный образ
В будущем может возникнуть и серьезная угроза самостоятельного принятия решений искусственным интеллектом. Это, полагает Александр Хомяков, станет возможным, когда система получит модель самой себя. Тогда у нас появится ИИ, который может отказаться выполнять поставленную ему задачу и будет принимать собственные решения. Чтобы предотвратить эту угрозу, нужно заранее разработать меры, препятствующие выходу ИИ из-под контроля.
Старший научный сотрудник Научно-учебной лаборатории трансцендентальной философии ВШЭ Диана Гаспарян полагает, что описанные докладчиком угрозы неравнозначны. Уход от реальности представляется ей наименее опасным, поскольку человеку скучно общаться с искусственным интеллектом. Возможно, разработчики ИИ будут пытаться обмануть людей, создавая видимость субъектности виртуальных собеседников.
По мнению Александра Хомякова, высокую опасность виртуализации отражает вовлечение миллионов людей в компьютерные игры. Они отдают себе отчет в том, что находятся в вымышленном мире, «но играют до ночи и до красных глаз, потому что там вырабатываются эмоции». Этому, полагает эксперт, способствует качественная проработка персонажей, вызывающих симпатию игроков.
Вам также может быть интересно:
Ученые НИУ ВШЭ научили нейросеть превращать 3D-модели в готовые технологические карты
Исследователи Института искусственного интеллекта и цифровых наук ФКН НИУ ВШЭ разработали систему CAD2TechSpec, которая автоматически превращает 3D-модели деталей в готовые технологические карты — пошаговые инструкции для станков. Разработка направлена на сокращение времени подготовки технической документации в машиностроении, авиастроении и других высокотехнологичных отраслях. Результаты исследованияо публикованы в журнале PeerJ Computer Science.
В НИУ ВШЭ запущен реестр ИИ-сервисов и моделей
Институт искусственного интеллекта и цифровых наук ФКН разработал сервис для регистрации и учета достижений в области искусственного интеллекта (ИИ). Платформа уже доступна для сотрудников и студентов университета.
Исследователи НИУ ВШЭ и Сбера научили нейросети лучше угадывать предпочтения пользователей
Институт искусственного интеллекта и цифровых наук ФКН НИУ ВШЭ и Сбер представили новую архитектуру для рекомендательных систем: благодаря объединению двух классов моделей алгоритмы лучше угадывают интересы и потребности пользователей. Препринт работы опубликован на сайте arxiv.org и представлен на летнем фестивале «Урбан ML».
Исследователи ВШЭ показали, как создавать регуляторную ДНК напрямую
Исследователи НИУ ВШЭ разработали модель для генерации промоторов и энхансеров — участков ДНК, регулирующих работу генов. Модель работает с нуклеотидами ДНК напрямую, без промежуточного преобразования в непрерывное числовое пространство. Разработка может быть полезна в синтетической биологии и генной терапии. Результаты исследования представлены на воркшопе конференции ICLR 2026.
ФКН ВШЭ и ЧГУ реализовали три отраслевых образовательных модуля по искусственному интеллекту
В 2025/26 учебном году факультет компьютерных наук (ФКН) ВШЭ совместно с Череповецким государственным университетом реализовал три отраслевых образовательных модуля по искусственному интеллекту. Инициатива была представлена в рамках проекта «Топ-ИИ» Минцифры России при участии АНО «Аналитический центр при Правительстве Российской Федерации». Эксперты НИУ ВШЭ совместно с индустриальными партнерами разработали линейку отраслевых образовательных модулей в области искусственного интеллекта.
ИИ для врачей: ФКН ВШЭ провел курс для студентов Российского университета медицины
В июне завершился курс, посвященный использованию искусственного интеллекта в медицине, который факультет компьютерных наук НИУ ВШЭ провел для студентов первого курса направления «Педиатрия» Российского университета медицины. Курс реализован при поддержке гранта, полученного НИУ ВШЭ в соответствии с мероприятиями федерального проекта «Искусственный интеллект» национального проекта «Экономика данных и цифровая трансформация государства».
Новый метод НИУ ВШЭ и Т-Технологий повышает качество работы ИИ
Ученые из лаборатории научных исследований «Т-Технологий» и Института искусственного интеллекта и цифровых наук факультета компьютерных наук НИУ ВШЭ разработали новый метод семплирования для моделей маскированной диффузии — G-Star+. Он помогает быстрее и качественнее исправлять ошибки во время генерации текста и кода за небольшое число шагов. Метод показал эффективность в задачах генерации текста и кода и может применяться там, где генеративным моделям нужно быстро и качественно создавать текст или код при ограниченных вычислительных ресурсах.
В Вышке открыли проектно-учебную лабораторию совместно с Группой «Т-Технологии»
Группа «Т-Технологии» (головная структура Т-Банка) открыла проектно-учебную лабораторию на базе факультета компьютерных наук НИУ ВШЭ (ФКН НИУ ВШЭ). Проектно-учебная лаборатория Группы «Т-Технологии» в НИУ ВШЭ сосредоточится на проектах и задачах в области искусственного интеллекта, распределенных вычислений, анализа больших данных и информационной безопасности в финансовом секторе. Лабораторию возглавит Алексей Теплов, кандидат физико-математических наук.
«Защищать конкуренцию от ИИ нам придется с помощью самого искусственного интеллекта»
В НИУ ВШЭ прошел двухдневный семинар «Искусственный интеллект и конкурентная политика в странах БРИКС». Его участники обсудили две ключевые для конкурентной политики темы: трансформация конкуренции и рынков под влиянием технологий ИИ и усилени е регуляторного потенциала антимонопольных органов за счет технологий искусственного интеллекта.
В НИУ ВШЭ разработали сервис обезличивания табличных данных для безопасного использования в ИИ-системах
Институт искусственного интеллекта и цифровых наук ФКН ВШЭ разработал сервис обезличивания табличных данных, предназначенный для подготовки корпоративных данных к использованию в аналитических и ИИ-сервисах. Решение позволяет выявлять персональные данные в структурированных наборах, применять к ним воспроизводимые правила обезличивания и формировать артефакты, необходимые для контроля качества, аудита и последующего использования данных в защищенных контурах.