Представлен обзор публикаций участников проекта InterPARES Trust AI по вопросам применения технологий искусственного интеллекта в работе с документированной информацией. Рассматриваются инструменты технологии искусственного интеллекта, такие как компьютерное зрение (computer vision), обработка естественного языка (natural language processing, NLP), технологии повышения конфиденциальности данных (privacy enhancing technologies, PETs), уязвимости больших языковых моделей (large language models, LLMs), применительно к проблеме обеспечения безопасности систем искусственного интеллекта при работе с документами. Делается вывод о необходимости формирования подходов к обеспечению безопасности применяемых систем искусственного интеллекта.
Идентификаторы и классификаторы
- SCI
- История
В последние годы в России и за рубежом специалистами уделяется особое внимание проблеме цифровой трансформации делопроизводства и архивного дела. Инновационные технологии, такие как искусственный интеллект, находят применение в текущей работе с документами и архивной практике. В Российской Федерации такие тенденции наблюдаются в государственном и коммерческих секторах, что свидетельствует о понимании потенциала применения таких технологий.
Если у вас возникли вопросы или появились предложения по содержанию статьи, пожалуйста, направляйте их в рамках данной темы.
Список литературы
1. InterPARES Trust AI (2021-2026): official website [Официальный сайт проекта InterPARES Trust AI (2021-2026)]. URL: https://interparestrustai.org/ (дата обращения: 20.11.2024).
2. Artificial Intelligence and Documentary Heritage. Newsletter 2024 Special Issue 2024 InterPARES Trust AI is a cooperating institution of the Memory of the World Sub on Education and Research (SCEaR) [Искусственный интеллект и документальное наследие. Специальный выпуск 2024 InterPARES Trust AI Подразделения по образованию и исследованиям “Память мира” (SCEaR)]. Edited by Luciana Duranti and Corinne Rogers. SCEaR, IAC, UNESCO Memory of the World Programme. 2024. 99 р. URL: https://interparestrustai.org/assets/public/dissemination/SCEaRNewsletterSpecialIssue2024ArtificialIntelligence.pdf (дата обращения: 20.11.2024).
3. Lemieux V.L., Werner J. Protecting Privacy in Digital Records: The Potential of Privacy-Enhancing Technologies [Защита конфиденциальной информации, содержащейся в электронных документах: потенциал технологий, повышающих уровень конфиденциальности данных]. ACM Journal on Computing and Cultural Heritage. 2024;83:1-18. URL: https://dl.acm.org/doi/ (дата обращения: 20.11.2024). DOI: 10.1145/3633477
4. Bhatia G., Nagoudi M.B., Cavusoglu H., Abdul-Mageed M. FinTral: A Family of GPT-4 Level multimodal financial large language models [FinTral: Семейство многофункциональных финансовых больших языковых моделей уровня GPT-4]. URL: https://aclanthology.org/2024.findings-acl.774.pdf (дата обращения: 20.11.2024).
5. Alcoba A., Hohmann P., Suderman J. Datafying Archives for Privacy Protection [Сбор данных в архивах для защиты информации]. Artificial Intelligence and Documentary Heritage. 2024. р. 34-38. URL: https://interparestrustai.org/assets/public/dissemination/SCEaRNewsletterSpecialIssue2024ArtificialIntelligence.pdf (дата обращения: 20.11.2024).
6. Lemieux V.L. Balancing act: navigating the nexus of AI, privacy, and accessibility in archives [Балансирование: навигация по сгенерированным искусственным интеллектом связям, конфиденциальность и доступность архивной информации]. Artificial Intelligence and Documentary Heritage. 2024. р. 39-42. URL: https://interparestrustai.org/assets/public/dissemination/ SCEaRNewsletterSpecialIssue2024ArtificialIntelligence.pdf (дата обращения: 20.11.2024).
7. Franks P.C. The crucial role of paradata in AI governance [Критическая роль параданных в управлении искусственным интеллектом]. Artificial Intelligence and Documentary Heritage. 2024. р. 54-60. URL: https://interparestrustai.org/assets/public/dissemination/SCEaRNewsletterSpecialIssue2024ArtificialIntelligence.pdf (дата обращения: 20.11.2024).
Выпуск
Другие статьи выпуска
Представлен обзор Всероссийской научной конференции с международным участием «Формирование отечественной научной школы документоведения: имена и идеи», состоявшейся 20 ноября 2024 года в Историко-архивном институте Российского государственного гуманитарного университета.
Анализируется Закон Европейского союза «Об искусственном интеллекте» в качестве нормативного правового акта, регулирующего правовой статус систем искусственного интеллекта и устанавливающего ответственность за принятые ими решения. Рассматривается классификация систем искусственного интеллекта, основанная на оценке уровней риска, требования к документированию их жизненного цикла. Делается вывод о значимости междисциплинарного подхода при разработке норм, регулирующих специфические вопросы функционирования систем искусственного интеллекта применительно к делопроизводству и архивному делу.
Рассматриваются вопросы нормативной регламентации определения основных понятий делопроизводства, положений о создании и функционировании электронной подписи, некоторых ситуаций, возникающих при формировании документального фонда организации. На основе анализа действующих нормативно-правовых актов и оценки качества норм формулируются предложения по совершенствованию нормативно-правовой регламентации делопроизводства.
Анализируются предложения по развитию нормативных правовых актов в сфере делопроизводства и архивного дела в условиях применения цифровых технологий в документационном обеспечении управления и расширения использования электронной формы документирования, подготовленных в рамках научно-исследовательской работы «Совершенствование нормативно-правового обеспечения сферы делопроизводства с учетом развития электронного документооборота». Обосновывается использование теоретических и методологических основ концепции континуума документа, предполагающего сквозную ответственность за документ в рамках его жизненного цикла - от создания до организации работы с ним в архиве. Такой подход рассматривает отдельные отраслевые документы в качестве системы, а следование данной концепции предполагает регламентированное создание сквозных процессов работы с документами на основе единых технологических подходов.
На основе анализа нормативных правовых актов, регламентирующих практику документационного обеспечения управления и архивного дела, нормативных правовых актов в области оценки квалификации, а также действующих профессиональных стандартов и квалификационных справочников рассматривается процесс формирования квалификационных требований к работникам сферы документационного обеспечения управления и архивного дела.
Охарактеризован примерный перечень тематических групп сведений о личной и семейной тайне гражданина, его частной жизни, а также сведений, создающих угрозу для его безопасности, представленный в Методических рекомендациях ВНИИДАД. Даны нормативно-правовые обоснования выделения этих тематических групп. Раскрыты виды архивных документов, которые могут содержать соответствующие сведения.
Проанализированы методические и практические аспекты составления Указателя видов документов Перечня документов, образующихся в процессе деятельности Министерства науки и высшего образования Российской Федерации и подведомственных ему организаций, с указанием сроков хранения (2023). Показаны конкретные примеры составления отдельных строк Указателя. Делается вывод о повышении эффективности использования Перечня документов при разработке качественного указателя видов документов.
Рассматриваются отдельные аспекты разработки новой редакции Перечня типовых управленческих архивных документов, образующихся в процессе деятельности государственных органов, органов местного самоуправления и организаций, с указанием сроков их хранения. Представлены предложения по внесению изменений в Перечень и даны их обоснования.
Рассматриваются вопросы организации управления архивным делом государств - участников СНГ, разработка и совершенствование национального законодательства об архивном деле и иных нормативных правовых актов по различным направлениям архивного дела.
Представлен обзор материалов круглого стола «Электронные научно-технические документы как объект архивного хранения», проведенного 5 декабря 2024 года в рамках выполнения ВНИИДАД научно-исследовательской работы по государственному заданию Федерального архивного агентства на 2023-2024 годы. В докладах были освещены вопросы хранения, комплектования, учета и использования электронных научно-технических документов, проблемы и перспективы организации их приема на хранение в государственные архивы.
Издательство
- Издательство
- ВНИИДАД
- Регион
- Россия, Москва
- Почтовый адрес
- 117393, город Москва, Профсоюзная ул., д.82
- Юр. адрес
- 117393, город Москва, Профсоюзная ул., д.82
- ФИО
- Кюнг Павел Алексеевич (ДИРЕКТОР)
- E-mail адрес
- mail@vniidad.ru
- Контактный телефон
- +7 (495) 3344646
- Сайт
- https://vniidad.ru