В Юго-Осетинском научно-исследовательском институте им. З. Н. Ванеева в рамках просветительского проекта «Популярная наука» состоялась лекция на тему «Искусственный интеллект в науке».
Спикером выступила Ольга Атаева — кандидат технических наук, старший научный сотрудник ФИЦ «Информатика и управление» РАН, преподаватель МГУ и МФТИ.
Представляя лектора, заместитель директора ЮОНИИ Мария Кабисова подчеркнула уникальность события для научной жизни республики.
«Ольга Муратовна — ученый с выдающимся бэкграундом: выпускница нашей второй школы, она прошла блестящий путь в науке, работала в ведущих математических центрах, а сейчас преподает в топовых вузах России и сотрудничает с крупнейшими технологическими компаниями. Для нас большая честь, что она делится своим опытом здесь, на родине», — отметила Кабисова.
В своем выступлении Ольга Атаева сфокусировалась на прикладном значении искусственного интеллекта. Она отметила, что ее научная группа занимается разработкой инструментов для исследований уже много лет, начав эту деятельность еще до того, как ИИ стал глобальным трендом.
«Сегодня мы уже не говорим о будущем, мы в нем живем. Инструменты на базе ИИ дают нам широчайшие возможности для ускорения работы и обработки колоссальных объемов информации. Буквально пару дней назад в журнале Nature вышла статья об инструменте, который автоматически анализирует препринты научных статей и оценивает качество изложения материала. Это пример того, как технологии помогают исследователю уже сейчас», — поделилась Атаева.
При этом эксперт затронула и главный дискуссионный вопрос: может ли машина заменить ученого? По словам Атаевой, несмотря на высокую эффективность алгоритмов, человеческая экспертиза остается фундаментальной основой прогресса.
«Когда мы говорим о качестве таких инструментов, возникает резонный вопрос: как машина понимает, хороша ли научная работа? Ответ прост: она опирается на контрольные выборки, которые оценивали люди. Человек по-прежнему выступает в качестве главного эксперта, на чьих суждениях учатся модели. Мы даем обратный сигнал, который и позволяет системе развиваться», — подчеркнула спикер.
Атаева детально разобрала парадоксы современных технологий, которые одновременно ставят научные рекорды и совершают курьезные ошибки. Она отметила стремительную эволюцию инструментов ИИ, которая поражает воображение даже специалистов. Еще в 2022 году нейросети «ломались» на простейших арифметических действиях с яблоками, а уже сегодня они показывают результаты олимпиадного уровня.
«Если несколько лет назад модели решали лишь половину предложенных олимпиадных задач, то в прошлом году они завоевали золотую медаль, справившись с полным набором заданий разной сложности. Прогресс ускоряется невероятными темпами», — подчеркнула спикер.
Однако, несмотря на триумф в решении сложных математических уравнений, генеративные модели по-прежнему демонстрируют странные пробелы в логике, создавая тексты с вымышленными ссылками и фальшивыми источниками. В профессиональной среде это явление называют «галлюцинациями».
«Возникает противоречие: как одна и та же модель может решать задачи, неподвластные многим людям, и тут же допускать элементарные ошибки в оформлении статьи? Именно поэтому мы должны очень четко понимать, в каких задачах мы можем доверять этим инструментам, а где они требуют жесткого контроля», — пояснила Атаева.
Эксперт призналась, что сознательно избегает термина «искусственный интеллект» при описании своей работы. По ее словам, это словосочетание вводит людей в заблуждение, наделяя алгоритмы качествами, которыми они не обладают.
«Люди, которые профессионально работают в этой области, знают: это не интеллект. Это мощные генеративные модели и другие классы вычислительных инструментов, предназначенные для анализа колоссальных массивов данных. Проблема не в самих моделях, а в ожиданиях, которые мы на них возлагаем», — резюмировала ученый.
Атаева призвала научное сообщество Южной Осетии относиться к новым технологиям как к мощному рабочему инструменту, который, однако, не снимает с исследователя ответственности за конечный результат.
По словам Ольги Атаевой, ИИ должен стать инструментом для освобождения исследователя от рутины, но ни в коем случае не заменой его мышлению. Если раньше написание научного обзора на 250 источников могло занять годы, то сегодня, при грамотном использовании ИИ, этот процесс сокращается до нескольких месяцев.
«Мы работаем быстрее и, пожалуй, веселее, снимая с себя груз рутинных задач. Но мы не должны забывать, что модель опирается на вчерашний день. Наша задача — не заменить себя машиной, а создать такую среду, где мы, обладая критическим мышлением, сможем эффективно управлять этими инструментами, развивая науку, а не просто копируя старые данные», — сказала Атаева.
Она подчеркнула, что даже в условиях этой технологической «гонки вооружений» исследователю жизненно важно сохранять критическое мышление.
«Инструменты будут совершенствоваться, но они не должны заменять экспертный взгляд. Наука — это не про скорость генерации текста, а про поиск истины, который невозможно автоматизировать полностью, не рискуя потерять саму суть исследования», — заметила спикер.
Атаева объяснила, почему классические базы данных и простое «скармливание» текстов нейросетям уже не отвечают запросам современной науки, и как должны выглядеть эффективные интеллектуальные системы. Эксперт предложила концепцию исследовательских агентов — систем, которые не просто генерируют текст, а способны планировать работу, рассуждать и использовать внешние инструменты для проверки своих же гипотез.
«Агент — это не просто чат-бот, это целая среда. Он может перестраивать план исследования, использовать специализированные инструменты для решения конкретных подзадач и, что важнее всего, взаимодействовать с другими агентами, обмениваясь результатами и уточняя их. Это позволяет нам минимизировать галлюцинации и ошибки», — пояснила она.
Спикер также затронула вопрос: если агенты планируют, проверяют и уточняют друг друга, остается ли в этом цикле место для исследователя?
«Это глубокий философский вопрос. Мы видим, как системы становятся все более автономными, но именно человек задает вектор: какой вопрос поставить, какая проблема является ключевой, как интерпретировать результат. Машина может сделать черновик или провести вычисления, но "понимает" суть — ученый. Наша задача сегодня — не превратиться в пассивных пользователей технологий, а стать архитекторами этих систем, которые помогут нам видеть дальше и глубже, чем когда-либо прежде», — подытожила Ольга Атаева.
