В статье анализируются различия между интерпретируемым и объяснимым искусственным интеллектом. Два этих понятия рассматриваются автором как различные, хотя и взаимодополняющие подходы к решению задач машинного обучения. На основании проведенного анализа автором предлагается представлять решающие правила для задач классификации в виде древовидной структуры, но в ее узлах использовать не отдельные входные признаки, а секущие гиперплоскости. Такой подход позволяет оценивать информативность каждого входного признака в отдельности и всей совокупности признаков в каждом узле и получать интерпретируемое решающее правило в целом для всей модели с высокими метриками качества решающего правила. Приведены примеры практических задач, решенных данным способом. Во всех случаях по метрикам качества дерево секущих гиперплоскостей превосходило дерево решений, полученное традиционным способом, и имело AUC ROC сопоставимую со случайным лесом
Идентификаторы и классификаторы
- SCI
- Образование
- УДК
- 004.85. Обучение
Несмотря на значительные успехи в развитии искусственного интеллекта (ИИ) в последнее десятилетие, в настоящий момент достаточно хорошо освоены только четыре первых уровня пирамиды. То есть, существуют различные методы анализа данных, позволяющие на основе прецедентов создать решающие правила (РП), которые могут прогнозировать вероятность конечного результата при определенном наборе и значениях входных признаков. Такие РП даже в лучшем случае являются только знаниями, на основе которых можно создавать инструкции, рецепты, компьютерные системы, но без пояснения причин, почему следует делать именно так. То есть, многие РП не дают ответа на вопрос «почему?». В ряде случаев, этого вполне достаточно, но если речь идет о вынесении сурового судебного приговора, удалении жизненно важного органа или уничтожении самолета нарушителя воздушного пространства, то лицу, принимающему это ответственное решение в большинстве случаев, захочется иметь аргументацию, почему все же это следует делать. Поэтому в настоящий момент возникло новое направление - интерпретируемый ИИ и требования об обязательной интерпретируемости ИИ уже вносятся в законодательство ряда стран. В 2023 году представители 28 стран подписали «Блетчлиевскую декларацию», которая призывает к международному сотрудничеству и установлению глобальных стандартов для ИИ, уделяя особое внимание этическим аспектам и интерпретируемости (The Bletchley Declaration, 2023). Несмотря на необязательный характер, подобные декларации формируют практику, оказывающую влияние на требования регуляторов и надзорных органов
Если у вас возникли вопросы или появились предложения по содержанию статьи, пожалуйста, направляйте их в рамках данной темы.
Список литературы
1. Бирюков Д.Н., Дудкин А.С. (2025) Объяснимость и интерпретируемость - важные аспекты безопасности решений, принимаемых интеллектуальными системами (обзорная статья) // Научно-технический вестник информационных технологий, механики и оптики. 2025. Т. 25, № 3. С. 373-386. EDN: NHHVUJ
2. Волков Е.Н., Аверкин А.Н. (2024) Локальные объяснения для больших языковых моделей: краткий обзор методов. XXVII Международная конференция по мягким вычислениям и измерениям, 22-24 мая 2024, Санкт-Петербург, с. 239-242.
3. Воронцов К.В. (2025) Интерпретируемость и объяснимость в машинном обучении (Электронный ресурс). URL: https://www.MachineLearning.ru/wiki.
4. Мазуров. Вл. Д. (1990) Метод комитетов в задачах оптимизации и классификации / Вл.Д. Мазуров - М.: Наука. - 1990. - 248 с.
5. Чернавин П.Ф., Гайнанов Д.Н., Панкращенко В.Н. Чернавин Ф.П., Чернавин Н.П. (2021) Машинное обучение на основе задач математического программирования // М.: Наука, 2021, 128 с. EDN: OAYULA
6. Чернавин П.Ф., Чернавин Ф.П., Андросов Д.А., Чернавин Н.П. (2023) Дерево секущих плоскостей. Прикаспийский журнал: управление и высокие технологии 2023 № 2 (62) с. 18-25. EDN: UMHBHZ
7. Штукатуров С. (2025) Кризис машинного обучения в научных исследованиях: обладает ли научной ценностью эксперимент, результаты которого не удалось воспроизвести. (Электронный ресурс). URL: troger.ru/translation/machine-learning-crisis.
8. Arya V., Bellamy R., Chen P.-Yu., Dhurandhar A., Hind M., et al. (2019) One explanation does not fit all: A toolkit and taxonomy of AI explainability techniques. 2019. (Электронный ресурс). DOI: 10.48550/arXiv.1909.03012
9. Bach F. Machine Learning Research Blog. (2023) (Электронный ресурс). URL: francisbach.com.
10. The Bletchley Declaration by Countries Attending the AI Safety Summit 1-2 November 2023. (Электронный ресурс). URL: https://www.gov.uk/government/publications/ai-safety-summit-2023-the-bletchley-declaration/the-bletchley-declaration-by-countries-attending-the-ai-safety-summit-1-2-november-2023.
11. Gilpin L.H., Bau D., Yuan B.Z., Bajwa A., Specter M., Kagal L. (2025) Explaining explanations: an overview of interpretability of machine learning. (Электронный ресурс). DOI: 10.48550/arXiv.1806.00069
12. Gunning D., Stefik M., Choi J., Miller T., Stumpf S., Yang G.-Z. (2019) XAI - Explainable artifiа // Science Robotics. 2019. (Электронный ресурс). DOI: 10.1126/scirobotics.aay7120
13. Lankow J., Ritchie J., Crooks R. (2012) Data Visualization Interfaces // Infographics: The Power of Visual Storytelling. - Wiley, 2012. - 264 p.
14. Marcus G. (2020) The Next Decade in AI: Four Steps Towards Robust Artificial Intelligence. 2020, (Электронный ресурс) URL: https://arxiv.org/abs/2002.06177.
15. Miller T. (2019) Explanation in artifcial intelligence: insights from the social sciences // Artificial Intelligence. 2019. V. 267. P. 1-38.
16. Molnar C. (2025) Interpretable Machine Learning: A Guide for Making Black Box Models Explainable. Christoph Molnar, 2025. 392 p.
17. Namatēvs I., Sudars K., Dobrājs A. (2022) Interpretability versus explainability: classification for understanding deep learning systems and models // Computer Assisted Methods in Engineering and Science. 2022. V. 29. N 4. P. 297-356.
18. Rahimi A. Recht B. Random features for Large-Scale Kernel Machine. (2025) (Электронный ресурс). URL: https://dl.acm.org/doi/. DOI: 10.5555/2981562.2981710
19. Samek W., Montavon G., Vedaldi A., Hansen L.K., Muller K.-R. (2019) Explainable AI: interpreting, explaining and visualizing deep learning // Lecture Notes in Computer Science. 2019. V. 11700. 439 p.
20. Yuan W., Liu P., Neubig G. (2021) Can we automate scientific reviewing? 2021. (Электронный ресурс). DOI: 10.48550/arXiv.2102.00176
21. UCI Machine Learning Repository. (2025) URL: https://archive.ics.uci.edu/dataset/.
Выпуск
Другие статьи выпуска
В настоящей статье предлагается подход к применению теории экономических тетрад для представления структурных связей между элементами, прямо или косвенно участвующими в инновационном развитии региона. В качестве средовой подсистемы рассматривается национальная экономика в целом, объектной – экономика региона, процессной – совокупность инновационных предприятий, действующих в общероссийском масштабе, проектной – аналогичная совокупность в пределах региона. Выдвигается предположение, что на каждом стационарном витке спирали трансформационного процесса соотношения между результатами работы этих четырех подсистем сохраняют стабильную динамику. А при переходе подсистем в некоторое новое качественное состояние на графиках динамики соотношений между показателями этих подсистем происходят резкие развороты. Данное предположение проверено на примере показателей развития экономики Республики Татарстан на фоне динамики аналогичных показателей в общероссийском масштабе. Расчеты подтвердили сформулированное ранее предположение, и графики изменения показателей подсистем в рассмотренном примере показали развороты или перегибы в точке, соответствующей 2022 году, моменту начала СВО и усиления санкционного давления. Таким образом, данный подход можно использовать для определения моментов смены витков спирали развития процесса инновационной трансформации экономики региона.
В статье предлагается один из возможных подходов к статистическому анализу достижения региональных целевых показателей на основе интеграции линейной экстраполяции временных рядов и вероятностного прогнозирования. С использованием цифрового профиля региона и данных по показателям, характеризующим сохранение населения в Московской области, построены линейные тренды, прогнозы, и оценена вероятность достижения их целевых значений. В качестве альтернативы линейной модели была проведена экспериментальная апробация нейросетевой LSTM-модели на данных по показателю ожидаемой продолжительности жизни, которая подтвердила преимущества ИИ-моделей. Предложенные подходы могут быть применены в системах поддержки принятия решений, включая цифровых двойников регионов, для обоснованного управления достижением стратегических целей
Рассмотрены языковые модели, модели трансформера искусственного интеллекта, сопряженные с процедурами теории игр. В предложенной схеме решения конкретных задач с помощью искусственного интеллекта на основе игры консенсусный трансформер должен имитировать действия физического лица. Трансформер формирует стратегию на естественном языке.
Статья посвящена оценке масштаба и охвата обучения искусственному интеллекту (ИИ) в российской системе общего (ОО) и среднего профессионального образования (СПО). Актуальность исследования обусловлена стремительным развитием ИИ и возрастающей потребностью в формировании соответствующих компетенций у молодого поколения для обеспечения конкурентоспособности страны в условиях цифровой экономики. Целью работы является оценка текущего состояния и масштаба охвата обучения ИИ на базовом и продвинутом уровнях среди школьников и студентов СПО. В качестве методов исследования использованы систематизация открытых данных, сравнение и контент-анализ образовательных программ и государственных инициатив в РФ. Результаты исследования показывают, что на базовом уровне охват учащихся среди 5-11 классов и студентов СПО составляет около 15-20%, что обеспечивается в основном за счет массовых внеурочных проектов (таких как «Уроки цифры»). Углубленным изучением ИИ на продвинутом уровне занимаются мотивированные школьники и студенты, которые составляют не более 5-10% от общего числа учащихся, используя ресурсы онлайн-платформ и специализированных центров. Сделан вывод, что изучение ИИ носит факультативный и фрагментарный характер, не будучи интегрированным в обязательные образовательные стандарты. Практическая значимость работы заключается в разработке рекомендаций по интеграции базовых модулей ИИ в учебные программы общего и среднего профессионального образования, расширению доступности дополнительного образования и развитию инфраструктуры. Статья адресована органам управления образованием и министерствам цифрового развития страны для корректировки национальной стратегии кадрового обеспечения цифровой экономики.
Статья посвящена проблеме взаимодействия человека и ИИ. Предлагается концепция взаимодействия, делающая акцент на человеке в асимметричном диалоге с онтологически «пустым» собеседником (ИИ). Она опирается на философию диалога М. М. Бахтина и вводит понятие перцептивной диалогичности – закономерного психолингвистического процесса, при котором структурные маркеры машинного текста активируют в психике пользователя механизмы самореференции и смыслопорождения. Это позволяет описать микрокогнитивные механизмы взаимодействия с ИИ без требования равной онтологической субъектности сторон. Антропоморфизация рассматривается как форма адаптации, при которой «пустота» интенции ИИ превращается в ресурс.
Пилотное исследование (n = 17) проверяет, как тип речевого стиля ответа ИИ влияет на сохранение пользователем интерпретационной агентности в личностно значимых ситуациях принятия решений. Участники оценивали четыре варианта ответа, различающихся по эпистемической модальности: осторожный, нейтральный, директивный и поддерживающий. Центральный результат: 65% участников (11 из 17) назвали осторожный стиль лучшим для сохранения права на самостоятельное решение, тогда как по критерию комфорта осторожный и поддерживающий стили оказались неразличимы (по 29%). Обнаруженное расхождение между автономией и комфортом является первым эмпирическим свидетельством феномена иллюзорной агентности, описанного теоретически в предшествующей работе авторов (Ноакк, Костина, 2026)
Цель исследования – разработка гибридного метода вероятностного поиска и верификации записей в реляционных базах данных, позволяющего сопоставлять строковые атрибуты, содержащие опечатки, сокращения и разночтения. Методология базируется на вычислении нормированного расстояния Левенштейна для каждого атрибута, формировании байесовской оценки апостериорной вероятности совпадения записи из внешнего источника с эталонной записью и выборе кандидата, максимизирующего эту вероятность. Для повышения производительности применяются C-расширения (библиотека rapidfuzz), ограничение числа кандидатов топ-20 наиболее похожих записей по ФИО, векторизация операций с помощью pandas и предварительная нормализация строк. Ключевые результаты: разработанный метод демонстрирует устойчивость к искажениям входных данных, учитывает одновременно несколько атрибутов (ФИО, идентификаторы, наименования) и не требует размеченной обучающей выборки, в отличие от классического вероятностного подхода Fellegi–Sunter. Экспериментальная проверка на эталонной базе из 250 тысяч записей и тестовой выборке из 159 искаженных записей показала время обработки 62 секунды на стандартном оборудовании. Вывод: предложенный гибридный метод сочетает гибкость нечеткого сравнения строк и вероятностную оценку, что делает его эффективным для задач интеграции и очистки данных в корпоративных информационных системах.
Исследована возможность применения методов тропической (идемпотентной) математики и теории совместимых со стимулами экономических механизмов в решении нестандартных задач маркетинга, где стандартные экономические показатели плохо подходят для определения эффективности маркетинговых мероприятий. Ими нельзя воспользоваться ввиду того, что они не имеют количественного выражения и не дают объективной оценки. Показано, как в условиях цифровизации предлагаемые подходы применимы в традиционной отрасли (малоэтажное строительство).
В статье рассматривается проблема прогнозирования посещаемости в образовательных организациях и связанные с ней экономические риски. В качестве основного инструмента для решения поставленной задачи предлагается внедрение цифровизации в управленческий слой, в частности систем поддержки принятия решений. Проведен анализ уже существующих систем, в том числе зарубежных и отечественных, а также методов машинного обучения, используемых при прогнозировании. По результатам сравнения эффективности алгоритма универсального решения выявлено не было, в связи с чем при разработке прототипа системы использовался ансамбль моделей, подкрепленный механизмом голосования. Разработанный прототип системы позволяет обучать модели на конкретных данных, получать прогноз посещения и наглядно демонстрирует перевод результатов прогноза в конкретные метрики, в том числе и экономические показатели. Результаты исследования могут послужить основой для разработки более комплексных систем прогнозирования и принятия решений на основе алгоритмов машинного обучения.
В статье рассматривается одна из проблем, связанных с оценкой рыночной стоимости машин и оборудования (далее – машин), подвергающихся деградации в процессе использования по назначению. Деградация машины описывается гамма–процессом, одним из процессов Леви с независимыми неотрицательными случайными приращениями (субординатором), имеющими гамма-распределение. В известных методах стоимостной оценки стоимость машины и остаточный срок ее службы связываются с ее возрастом или наработкой. Мы связываем их с выгодами (доходами) от эксплуатации. Использование общих принципов оценки стоимости активов и методов теории вероятностей позволяет получить аналитические выражения для среднего срока службы машины и коэффициента его вариации, а также интегральное уравнение для зависимости стоимости машины от ее состояния.
Статистика статьи
Статистика просмотров за 2026 год.
Издательство
- Издательство
- ЦЭМИ РАН
- Регион
- Россия, Москва
- Почтовый адрес
- 117418, Москва, Нахимовский пр, 47
- Юр. адрес
- 117418, Москва, Нахимовский пр, 47
- ФИО
- Альберт Рауфович БАХТИЗИН (Директор)
- E-mail адрес
- albert.bakhtizin@gmail.com
- Контактный телефон
- +7 (499) 1290822