На одной из платформе научных изданий появились в доступе две статьи учёного Иркутского государственного университета, доктора физико-математических наук, профессора Андрея Манциводы. Работы посвящены усовершенствованию механизмов искусственного интеллекта.
Первая из статей, написанная в соавторстве с доктором физико-математических наук, ведущим научным сотрудником института математики им. Соболева в Новосибирске Евгением Витяевым, посвящена новому подходу к повышению точности и надёжности больших языковых моделей (ИИ, подобных ChatGPT) за счёт интеграции с логическими моделями, которые выполняют функцию «искусственного воображения». Во второй статье, опубликованной совместно с аспирантом института математики и информационных технологий Денисом Гаврилиным, предложенный подход рассматривается более развёрнуто.
Авторы утверждают, что современный искусственный интеллект, достаточно хорошо имитируя человеческую интуицию (быстрый отклик на основе данных), страдает от отсутствия целостной «картины мира». Это приводит к нестабильности, ошибкам и так называемым «галлюцинациям» — генерации неправдоподобной информации.
- Мы учим искусственный интеллект «воображать» предметную область, то есть видеть в целом прозрачный контекст фактов, связей и правил. Этот контекст помогает большим языковым моделям отвечать точнее и надёжнее, - отмечает Андрей Манцивода.
В статье проводится аналогия с человеческим мышлением, которое, по мнению учёных, опирается на три основы: интуицию — быстрый, автоматический отклик (как у ИИ сегодня); воображение — целостная и прозрачная внутренняя модель мира («стеклянный сосуд»); рассуждения — логический мост, проверяющий гипотезы интуиции в рамках модели воображения.
Если языковые модели — это мощные, но необъяснимые «черные ящики», то предлагаемое «воображение» — это «стеклянный сосуд»: специальная логическая модель, где все объекты, связи и правила прозрачны для проверки. Такая модель, подключённая к ИИ как интеллектуальный внешний источник знаний, может проверять ответы на совместимость с картиной мира, прояснять пробелы и добавлять недостающее.
Как сообщает пресс-служба ИГУ, теоретические положения уже находят практическое применение. Работа является итогом многолетних исследований иркутской и новосибирской научных групп. Их разработки направлены на создание среды для построения интеллектуальных агентов, где «интуиция» языковых моделей будет усилена «воображением» логических систем.
