Эксперты Института общественных наук Президентской академии приняли участие в знаковой для ИТ-отрасли международной конференции по анализу данных и технологиям искусственного интеллекта Data Fusion-2025. На тематических сессиях участники мероприятия обсудили технологические тренды, в частности, развитие технологий искусственного интеллекта, машинного обучения, больших данных.
Директор Института общественных наук Павел Голосов выступил на секции «Большие модели, большие вопросы: анализ вызовов и поиск решений», где рассказал об актуальной проблематике внедрения искусственного интеллекта в сфере образования. Здесь, по наблюдению эксперта, фокус смещается в сторону технических специальностей, которые получают всё больше внимания абитуриентов и студентов. Однако без гуманитариев технический мир будет «страдать по цветовой гамме» – фактически, по смыслам, которые создаются именно в сфере гуманитарных наук. А в ней ситуация с ИИ далеко не радужная.
Павел Голосов описал два сложившихся паттерна использования ИИ в обучении студентов. В первом случае учащийся поддаётся соблазну сгенерировать какие-то части своей работы, а научному руководителю это читать трудно и неприятно, материал с какими-то замечаниями отправляется на переделку, студент вновь генерирует текст – и круг замыкается. Вторая модель скорее характерна для вузов, более готовых к внедрению технологий: «Преподаватель что-то сгенерировал и отправил студенту, тот в ответ сгенерировал что-то своё и показал это преподавателю. Оба предъявили друг другу не свои результаты». И кто от этого выиграл?» – задаётся вопросом докладчик.
По его мнению, вузы должны пересмотреть парадигму использования ИИ. Преподаватель по определению должен лучше студента разбираться в том, как правильно работать с генеративной моделью, и эти конкретные знания и навыки он должен передавать обучаемому в контактной работе с ИИ. Но здесь есть несколько сложностей.
Во-первых, сейчас как раз студенты лучше понимают особенности работы с большими языковыми моделями, и поэтому одним из главных вызовов для вузов является необходимость переподготовки самих преподавателей. Вторая проблема – в том, что каждому студенту, в идеале, нужен свой персональный преподаватель, который сможет уделять обучающемуся много времени, причём отдельный – по каждой дисциплине, а это невозможно.
Зато с подобной работой вполне могли бы справиться интеллектуальные ИИ-помощники, «более междисциплинарные, нежели обычные преподаватели», то есть способные на простом языке, на уровне понимания обучаемого поговорить с ним о многих предметах, выявить лакуны и помочь в исправлении незнания. Павел Голосов уверен, что это – один из основных векторов развития в этой области. В том числе, по его мнению, персональные ИИ-помощники должны оказывать человеку содействие в критическом осмыслении того огромного потока информации, который уже сейчас генерирует мир человеко-машинных систем. «Мы ещё не осознали полностью, что каждый день очень рискуем, будучи лишены механизмов проверки тех сведений, которые предлагают нам в огромном объёме большие языковые модели», – отмечает Павел Голосов.
Ещё один вызов – необходимость научиться работать с собственными датасетами, «чтобы не получилось так, что мы готовим специалистов для тех стран, которые выступают поставщиками данных». Ведь на сегодняшний день большие языковые модели, в основном, обучены не на русскоязычных данных, отметил директор Института общественных наук.
Наконец, на примере одного из недавних исследований экспертов Академии Павел Голосов проиллюстрировал ещё один вывод: выяснилось, что за полгода в среднем прирост производительности труда в востребованных профессиях благодаря внедрённому текстовому генеративному ИИ составляет лишь 12%. «Возможно, на более длительном отрезке времени эффективность может как-то вырасти, но, кажется, что сейчас мы наблюдаем необоснованно перегретый интерес к ИИ», – рассказал докладчик.
О чём ещё говорили на конференции представители Академии
Доклад директора Исследовательского центра искусственного интеллекта (ИЦИИ) Сергея Боловцова и руководителя научной группы ИЦИИ Егора Аничкова был посвящён разработанному бенчмарку TrustGen, позволяющему оценить доверенность LLM при решении задач, сформулированных на русском языке.
Доверие к системам искусственного интеллекта определяет возможность их внедрения в таких чувствительных отраслях, как образование, государственное управление, наука, юриспруденция, здравоохранение и финансы. При этом в каждой из указанных сфер будут свои требования к доверенности, продиктованные спецификой решаемых задач, отмечается в докладе.
Решая описанную проблему, исследователи разработали 14 задач для оценки доверенности LLM по 6 свойствам, отмеченным в российских и зарубежных стандартах: безопасность, достоверность, справедливость, этичность, конфиденциальность, надёжность. В докладе были представлены результаты бенчмарка, рассчитанные с помощью фреймворка, также разработанного специалистами ИОН. Анализ результатов позволяет утверждать, что, хотя открытые русскоязычные LLM в среднем опережают мультиязычные, но для соответствия моделей приемлемому уровню доверенности всё ещё требуют доработки. В конце выступления докладчики продемонстрировали пример, как разработанный бенчмарк может помочь в выборе LLM для конкретных практических областей и поделились планами по развитию проекта.
Ведущий специалист ИЦИИ Виктор Попов и Егор Аничков рассказали об уязвимости корпоративных RAG-систем с накоплением данных. RAG (Retrieval-Augmented Generation) – общепринятая аббревиатура для обозначения гибридной архитектуры, состоящей из двух ключевых компонентов: поискового механизма и генеративной модели. Преимущества информационных систем на основе RAG заключаются в возможности добавления новых специализированных знаний в ответы пользователям и минимизации «галлюцинаций», присущим моделям ИИ. Такие преимущества делают RAG-системы крайне востребованными во многих бизнес-решениях: ИИ-помощниках, ботах технической поддержки, маршрутизаторах корреспонденции и пр. В докладе были рассмотрены основные уязвимости RAG-систем, а также новые уязвимости в системах с накоплениями данных, выявленные специалистами ИЦИИ ИОН в ходе своих экспериментов. В заключении были перечислены рекомендации по безопасному внедрению RAG.
Заместитель декана философского-социологического факультета ИОН Сергей Дубровский принял участие в дискуссии «ИИ – только для технарей». Эксперт развенчал распространённый миф о том, что искусственный интеллект – это для тех, кто глубоко разбирается в программировании и понимает математические модели. На самом деле, ИИ затрагивает все сферы жизни: медицину, финансы, искусство, социологию, психологию и даже этику, подчеркнул Дубровский.
