Новосибирцы придумали, как снизить галлюцинации нейросети
Новосибирцы стали лучшими среди более чем 200 участников грантового конкурса разработчиков «Код без границ». Команда из НГУ представила свой проект программной библиотеки RAGU в номинации «Инновации в области искусственного интеллекта» на конференции «Датафест».
Концепция проекта лежит в основе чат-бота «Менон», предназначенного для абитуриентов НГУ.
«Стартовая идея RAGU — открыть доступ к инструментам для эффективной синтезированной работы графов знаний. Наша библиотека обеспечивает интеграцию больших языковых моделей с графами знаний для повышения точности, надёжности и снижения галлюцинации ответов больших языковых моделей на вопросы пользователя. Мы дообучили генеративную нейросеть быть эффективным инструментом построения графа знаний и делать это не за один шаг, а многошагово»,
— объяснил сотрудник лаборатории прикладных цифровых технологий НГУ Иван Бондаренко.
Он подчеркнул, что разработка позволяет минимизировать требования к аппаратному обеспечению и ускорить процесс.
Оригинальный подход требовал огромных языковых моделей (до ~32 млрд параметров), новосибирцы же уменьшили размер до около 600 млн параметров за счёт дообучения.
