Публикации автора

В последние годы большие языковые модели и агентные системы на их основе рассматриваются как перспективный инструмент цифровой трансформации государственного управления. Однако практическая эффективность таких систем определяется не только качеством текстовой генерации в узком смысле (грамматической корректностью, связностью и общей осведомленностью модели), но и тем, насколько надежно они удерживают контекст, извлекают ранее полученные сведения и воспроизводят процедурные правила в условиях длительных управленческих процессов. Для государственных организаций это, как правило, особенно критично: управленческая деятельность опирается на устойчивую память о нормативных требованиях, организационных регламентах, фактах конкретных дел и их хронологии.

Цель. Целью статьи является определение границ применимости в государственном управлении агентных систем, основанных на больших языковых моделях, на основе сравнительного анализа моделей памяти человека и архитектур памяти таких агентных систем.

Методы. В исследовании используется сравнительно-аналитический подход. Рассматриваются базовые когнитивные модели человеческой памяти и выделяются ее характеристики, значимые для управленческой деятельности. Далее анализируются архитектурные механизмы хранения и извлечения информации в агентных системах, функционирующих на основе больших языковых моделей, как их функциональная аналогия.

Результаты. Установлено, что агентные системы воспроизводят внешние функции памяти человека за счет сочетания кратковременного контекста и внешних хранилищ знаний. Одновременно выявлены принципиальные расхождения, связанные с отсутствием автобиографичности, хронологии опыта, встроенных механизмов ответственности и причинно-следственной верификации. Эти ограничения повышают риск искажения контекста и затрудняют проверку сгенерированных утверждений.

Выводы. Сделан вывод о том, что на сегодняшний день агентные системы, основанные на больших языковых моделях, не могут использоваться для автономного принятия решений в ответственных управленческих процедурах. Вместе с тем они обладают значительным потенциалом как когнитивные ассистенты государственных служащих при обязательном человеческом контроле и сохранении персональной ответственности.

В теории алгебраических байесовских сетей существуют алгоритмы, позволяющие проводить глобальный апостериорный вывод с использованием вторичных структур. При этом построение вторичных структур предполагает использование третичной структуры. Следовательно, возникает вопрос об обособленном применении третичной структуры в задаче апостериорного вывода. Этот вопрос рассматривался ранее, но было приведено только общее описание алгоритма, при этом учитывались лишь модели со скалярными оценками вероятности истинности. В данной работе приведен алгоритм, расширяющий вышеупомянутый до возможности его использования в случае интервальных оценок. Помимо этого, важным свойством алгебраической байесовской сети является ацикличность, и корректность работы перечисленных алгоритмов обеспечивается только для ацикличных сетей. Поэтому необходимо также уметь проверять ацикличность алгебраической байесовской сети с применением третичной структуры. Описание этого алгоритма также представлено в работе, в его основе лежит ранее доказанная теорема, которая связывает количество моделей фрагментов знаний в сети с количеством непустых сепараторов и количеством компонент связности сильных сужений в цикличной АБС, а также доказанная в данной статье теорема о принадлежности двух моделей фрагментов знаний к одной компоненте связности сильного сужения. Для всех разработанных алгоритмов доказана корректность работы, а также вычислена их оценка временной сложности.