Стандартизация искусственного интеллекта

Стандарты в области искусственного интеллекта в здравоохранении

Основная статья: Стандарты в области искусственного интеллекта в здравоохранении

2025: Подготовлен стандарт применения ИИ в критической информационной инфраструктуре

Технический комитет №164 Росстандарта «Искусственный интеллект» в середине октября опубликовал^[1] на своем сайте окончательную версию проекта стандарта ГОСТ Р «Искусственный интеллект в критической информационной инфраструктуре. Общие положения». Его общественное обсуждение проходило с 7 июня по 8 августа 2025 года. После подготовки окончательной версии текста следует его утверждение в качестве стандарта, регистрация с присвоением номера и публикация.

Суть предложений ГОСТа

Проект нормативного акта был разработан ФГБУ «Российский институт стандартизации» совместно со специалистами компании «А-Я эксперт». Стандарт в части определений опирается на ГОСТы по искусственному интеллекту, стандартизации и защите информации. В нем также используются термины из закона №187-ФЗ «О безопасности КИИ» и соответствующих приказов ФСТЭК. Документ дает определения таким понятиям как «угроза информационной безопасности системы искусственного интеллекта», «устойчивости функционирования систем искусственного интеллекта» и даже «постоянной серьезной угрозы» (advanced persistent threats – APT). Есть также ссылка на матрицу MITRE ATT&CK, разработанную американской корпорацией MITRE.

𝓲

Фото: Ideogram

Стандарт предполагается использовать в процессах проектирования, разработки, ввода в действие, эксплуатации, сопровождения и вывода из эксплуатации систем искусственного интеллекта (СИИ), в том числе доверенных, в составе программно-аппаратных комплексов объектов критической информационной инфраструктуры.Как упорядочить рекламационную работу на предприятии с помощью Digital Q.ERP от «Диасофт» 25.4 т

В соответствии с положениями документа, применение СИИ в КИИ должно основываться на следующих принципах:

• Информационной безопасности. СИИ должны быть спроектированы, разработаны и внедрены с обеспечением защиты от внешних и внутренних угроз;
• Надежности и управляемости. СИИ должны функционировать в соответствии с решаемыми задачами и сохранять работоспособность при воздействии различных дестабилизирующих факторов;
• Объяснимости. Функционирование СИИ должно быть понятным и интерпретируемым для человека, особенно в части принятия критически важных решений;
• Доверенности. СИИ с уровнями высшей критичности (1 или 2) должны быть доверенными;
• Защиты от несанкционированного доступа. СИИ должны обеспечивать защиту от любых форм несанкционированного доступа и воздействия на собственное функционирование;
• Сохранение контроля человека над критическими функциями. В СИИ должна быть предусмотрена интерпретируемость принимаемых решений и возможность их аудита;
• Постоянного совершенствования. Для решений должен проводится регулярный анализ, повышение точности результата и совершенствование мер защиты СИИ с учетом появления новых угроз и уязвимостей.

В стандарте перечислены возможная классификация СИИ-решений, методы управления рисками при их использовании, инструменты мониторинг и контроля, планы реагирования на инциденты и возможные организационные меры. Для возможного улучшения безопасности систем искусственного интеллекта в тексте определены показатели отчетности, возможные методы их проверок и метрики эффективности работы защиты.

Появление стандарта можно рассматривать как сигнал: государство постепенно выстраивает подход к регулированию технологий, знакомится с их спецификой и готовится к более детальной проработке вопросов качества и безопасности ИИ-решений, – считает Владислав Лапшин, руководитель группы разработки ИТ-компании Simpl Group. – По сути, это этап наведения порядка в терминологии и определениях. В дальнейшем, думаю, на основе таких документов будут появляться более прикладные регламенты и методические рекомендации.

Влияние на рынок ИИ

По мнению Алексея Захарова, директора по технологическому консалтингу Axiom JDK, документ определяет следующие направления для регулирования:

1. Создание единого регламента для всех участников процесса: разработчиков, интеграторов, эксплуатантов;
2. Введение 4-х уровней критичности: от 1 критического — СИИ, играющие ключевую роль в обеспечении ИБ и непрерывности функционирования объектов КИИ, до 4, низкого СИИ;
3. Обязательная идентификация угроз: проверки качества данных, неконтролируемого поведения систем ИИ, зависимостей от внешних компонентов и поставщиков, а также создание модели угроз;
4. Оценка рисков, уязвимостей, угроз ИБ и потенциального ущерба, которая должна обеспечиваться на всех этапах жизненного цикла СИИ: от проектирования до вывода системы из эксплуатации;
5. Выработка внутренней политики безопасности для СИИ в организациях с целью обеспечить управление доступом, планы по восстановлению и непрерывности работы решений, а также регулярные учения, связанные с реакцией на возможные инциденты и события;
6. Обеспечение непрерывного контроля человека над критическими функциями работы СИИ и регулярные проверки качества функционирования и безопасности: от ежегодных до ежемесячных для самых критичных систем.

Разработанный ГОСТ предоставляет субъектам КИИ нормативную основу для безопасного и регулируемого внедрения систем искусственного интеллекта в ключевые отрасли экономики, – пояснила для TAdviser важность документа Екатерина Едемская, инженер-аналитик компании «Газинформсервис». – В первую очередь, документ позволяет решать задачи по обеспечению информационной безопасности при использовании ИИ в таких сферах, как энергетика, транспорт, здравоохранение, оборонная и атомная промышленность, финансы и другие, входящие в состав КИИ согласно закону №187-ФЗ.

Технологии искусственного интеллекта в большинстве проектов не вышли из состояния пилотных – им не доверяют доступ к критической инфраструктуре и в принятии ответственных решений. Именно поэтому важны единые подходы к построению системы защиты СИИ, которые позволили бы легитимизировать использовании искусственного интеллекта в том числе и в критической информационной инфраструктуре.

Ранее применение ИИ в КИИ все избегали в силу новизны технологии ИИ и опасений насчет ее применения в КИИ, – заявил TAdviser Вадим Сабашный, генеральный директор «Ланит-Терком». – Также технологии ИИ предоставляют вероятностные результаты, что, опять же, снижает доверие к ним и вызывает сомнение в надежности. Именно поэтому ГОСТ может открыть дорогу ИИ в КИИ в тех случаях, которые ранее блокировались уже на этапе обсуждения.

Стандарт определяет наиболее общие подходы к построению безопасных СИИ. В то же время специфические аспекты построения систем на базе искусственного интеллекта в документе не рассматриваются – это отмечают некоторые специалисты.

В стандарте нет упоминания угроз и специфических требований к защите LLM-систем, которые используются как основа в большинстве современных СИИ в КИИ, – отметил TAdviser Андрей Тимошенко, директор по развитию компании «Информзащита». – Нет ни слова об инъекции промптов (prompt injection), критической уязвимости №1 по OWASP LLM Top 10 2025, которая позволяет злоумышленникам манипулировать поведением языковых моделей. Проигнорированы jailbreaking-атаки, indirect prompt injection через внешние источники (веб-страницы и электронную почту), атаки на RAG-системы и chain-based архитектуры.

Андрей Тимошенко также отметил, что проект ГОСТа оперирует категориями традиционных ML-систем и не содержит ни одного упоминания агентных СИИ (agentic AI), которые в 2025 году уже стали основным трендом внедрения ИИ в крупных организациях и представляют принципиально новую парадигму с уникальными векторами атак. Кроме того, документ не рассматривает федеративное обучение (federated learning – FL), которое может применяться в КИИ, где централизованный сбор данных невозможен, а ведь эта технология имеет специфические уязвимости. Также в документе лишь поверхностно рассматриваются проблема атак на цепочку поставок ИИ-модели в виде требования «доверенных моделей», хотя проверка зависимостей может оказаться достаточно сложной.

Для рынка вступление ГОСТ в силу не станет революцией: компании, работающие с критической инфраструктурой, уже ведут отчетность и выстраивают политики информационной безопасности, – считает Максим Милков, руководитель направления «Искусственный интеллект» «Софтлайн Решения». – Главное изменение — формальное распространение этих требований на ИИ-компоненты. Это потребует внедрения специализированных подходов к управлению модельным риском, применения MLSecOps-процессов и систем мониторинга для повышения надежности и прозрачности работы искусственного интеллекта.

Альтернативы

Впрочем, в России уже разрабатываются общие подходы к построению защиты систем, в которых используются механизмы искусственного интеллекта. В частности, такую методику разработала компания Swordfish Security, и ее положения гармонизированы с положениями разрабатываемого стандарта.

Национальный проект «Искусственный интеллект в критической информационной инфраструктуре. Общие положения» — это рамочный ГОСТ для объектов КИИ в РФ, – заметила Альбина Аскерова, руководитель направления по взаимодействию с регуляторами Swordfish Security. – Специалисты нашей компании принимали участие в его рассмотрении и вносили необходимые с точки зрения его практического применения предложения по доработкам. Параллельно мы как эксперты в кибербезопасности разработали AI Security фреймворк. При его разработке мы, в том числе, учитывали положения проекта этого стандарта, домены фреймворка укладываются в его структуру.

2024

В России утвержден ГОСТ в сфере искусственного интеллекта для 3D-печати

В середине ноября 2024 года Росстандарт утвердил ГОСТ Р 71688-2024 — «Искусственный интеллект. Наборы данных для разработки и верификации моделей машинного обучения для косвенного измерения физико-механических свойств объектов аддитивного производства. Общие требования». Документ разработан Федеральным государственным бюджетным учреждением «Российский институт стандартизации». Подробнее здесь.

Утверждение ГОСТа в сфере ИИ для маршрутизации потоков пациентов

В конце октября 2024 года Росстандарт утвердил предварительный национальный стандарт (ПНСТ) 962-2024 — «Системы маршрутизации и оптимизации потоков пациентов на основе искусственного интеллекта. Основные положения». Документ разработан Государственным бюджетным учреждением здравоохранения «Научно-практический клинический центр диагностики и телемедицинских технологий Департамента здравоохранения города Москвы» (ГБУЗ «НПКЦ ДиТ ДЗМ»). Подробнее здесь

В России утвержден стандарт ИИ в станкоинструментальной промышленности

В начале ноября 2024 года Росстандарт утвердил предварительный национальный стандарт (ПНСТ) 964-2024 — «Технологии искусственного интеллекта в станкоинструментальной промышленности. Варианты использования». Документ разработан Ассоциацией «Цифровые инновации в машиностроении» (АЦИМ). Подробнее здесь

В России принят стандарт ИИ в машиностроении

11 октября 2024 года Федеральное агентство по техническому регулированию и метрологии (Росстандарт) утвердило предварительный национальный стандарт (ПНСТ) 955-2024 «Искусственный интеллект в машиностроении. Варианты использования». Документ разработан Федеральным государственным бюджетным учреждением «Российский институт стандартизации». Подробнее здесь

В России утвержден стандарт ИИ в дополненной и смешанной реальности

22 октября 2024 года Федеральное агентство по техническому регулированию и метрологии (Росстандарт) утвердило ГОСТ Р 71718-2024 — «Технологии искусственного интеллекта в дополненной и смешанной реальности. Контроль визуальный непрямой геометрических параметров объектов капитального строительства. Общие положения». В разработке документа приняли участие специалисты ООО «АР СОФТ» и ПАО «Газпром нефть». Подробнее здесь.

Утверждение стандарта глубокой нейронной сети

В начале ноября 2024 года в России принят предварительный национальный стандарт (ПНСТ) 945-2024 «Искусственный интеллект. Техническая структура для разделения и совместного исполнения модели глубокой нейронной сети». Подробнее здесь

В России утвержден ГОСТ «Системы поддержки принятия врачебных решений с применением искусственного интеллекта»

29 октября 2024 года стало известно о том, что в России введен в действие новый государственный стандарт ГОСТ Р 71671-2024 «Системы поддержки принятия врачебных решений (СППВР) с применением искусственного интеллекта», направленный на регулирование применения искусственного интеллекта (ИИ) в медицинских системах. ГОСТ утвержден Федеральным агентством по техническому регулированию и метрологии и вступит в силу с 1 января 2025 года. Стандарт был разработан Научно-практическим клиническим центром диагностики и телемедицинских технологий Департамента здравоохранения города Москвы. Подробнее здесь.

В России утвержден ГОСТ на системы ИИ-аналитики в клинической медицине

В конце октября 2024 года в России утвержден ГОСТ Р 71672-2024 «Системы прогнозной аналитики на основе искусственного интеллекта в клинической медицине. Основные положения». Документ разработан Государственным бюджетным учреждением здравоохранения «Научно-практический клинический центр диагностики и телемедицинских технологий Департамента здравоохранения города Москвы» (ГБУЗ «НПКЦ ДиТ ДЗМ»). Подробнее здесь

В России утвержден ГОСТ ИИ в образовании

В начале октября 2024 года в России утвержден ГОСТ Р 71657-2024 «Технологии искусственного интеллекта в образовании. Функциональная подсистема создания научных публикаций. Общие положения». Документ разработан Федеральным государственным автономным образовательным учреждением высшего образования «Волгоградский государственный университет» (ФГАОУ ВО ВолГУ).

𝓲

Фото: Freepik

Отмечается, что функциональная подсистема создания научных публикаций входит в систему образования как важная ее часть, обеспечивающая не только документирование результатов научно-исследовательской деятельности, но и формирование соответствующих компетенций у обучающихся, в том числе школьников, студентов бакалавриата, специалитета и магистратуры, а также аспирантов. Обнародованный стандарт содержит:

• Основные этапы реализации функциональной подсистемы на этапах создания научной публикации;
• Рекомендации и примеры по использованию конкретных систем ИИ при решении различных задач, возникающих при создании научной публикации;
• Требования к защите данных;
• Рекомендации по управлению рисками качества данных в функциональной подсистеме.

Положения стандарта описывают использование ИИ с целью повышения результативности создания научных публикаций. Применение таких инструментов должно осуществляться этичным образом и не должно заменять творческую научно-исследовательскую деятельность человека. Организациям, как отмечается, следует разработать и обеспечить соблюдение критериев и порядка применения технологий ИИ. Кроме того, необходимо предусмотреть возможности управления рисками, например, способность на основе интеллектуального анализа и машинного обучения выявлять и прогнозировать возможные будущие риски внутри и за пределами функциональной подсистемы в отношении точности, полноты, достоверности, актуальности, доступности, соответствия требованиям, конфиденциальности, эффективности, понятности, переносимости и возможности восстановления данных.^[2]

В России утвержден ГОСТ «Искусственный интеллект на водном транспорте»

В октябре 2024 года стало известно об утверждении в России ГОСТа Р 71598-2024 — «Системы искусственного интеллекта на водном транспорте. Общие положения». Документ устанавливает общие нормы и область применения технологий ИИ в указанной сфере.

Документ охватывает использование алгоритмов и методов ИИ на протяжении всего жизненного цикла решений в области водного транспорта — это проектирование, разработка, тестирование, внедрение и эксплуатация. Стандарт применим к широкому спектру приложений, включая навигацию судов, мониторинг грузопотоков, интеллектуальное управление портами, предиктивное техническое обслуживание и повышение безопасности. ГОСТ распространяется на применение ИИ в операциях речного и морского транспорта, а также в различных водных судах, терминалах и портовой инфраструктуре.

𝓲

Фото: Freepik

Новый ГОСТ предназначен для всех заинтересованных сторон, участвующих в разработке, внедрении и управлении технологиями ИИ. Отмечается, что стандарт служит руководящим документом, обеспечивающим интеграцию систем ИИ в отрасль водного транспорта. Не определяя конкретных технических деталей алгоритмов ИИ, стандарт устанавливает общие требования, аспекты интеллектуализации и соображения безопасности, надежности, производительности, совместимости и защиты данных.

В документе, в частности, сказано, что разработка и внедрение систем ИИ должны соответствовать всем необходимым нормам безопасности и нормативным требованиям, чтобы свести к минимуму риск аварий и защитить жизнь людей, окружающую среду и экономические интересы. Для поддержания производительности и безопасности систем ИИ необходимо техническое обслуживание и обновление. Предприятиям водного транспорта следует создать механизмы непрерывного мониторинга и извлечения уроков из операций с использованием систем ИИ. В целом, стандарт призван способствовать укреплению доверия к решениям на основе ИИ, что в конечном итоге повысит безопасность, эффективность и устойчивость систем водного транспорта.^[3]

2023

Россия и Индия приступили к стандартизации искусственного интеллекта

30 сентября 2023 года ассоциация «Руссофт», Палата индо-российского технологического сотрудничества (Chamber for Indo Russo Technology Collaboration, CIRTC) и российский технический комитет №164 Росстандарта РФ «Искусственный Интеллект» подписали два меморандума о намерениях сотрудничества, направленных на развитие отношений между Россией и Индией в ИТ-области. Один из документов касается стандартизации ИИ, а также создания совместной лаборатории для сертификации решений в сфере искусственного интеллекта.

Состоялось историческое подписание меморандума о взаимопонимании по созданию совместной лаборатории тестирования ИИ, стандартов и политики между Индией и Россией. Эта инициатива, которая в дальнейшем может быть распространена и на другие страны БРИКС, - прокомментировал директор палаты по индо-российскому технологическому сотрудничеству, представитель российско-индийской ассоциации (Russia India Special Interest Group, RISING) Дебджит Чакраборти, чьи слова приводит пресс-служба «Руссофта».

Подписаны два меморандума, направленных на развитие отношений между Россией и Индией в ИТ-области

23 октября 2023 года президент «Руссофта» Валентин Макаров уточнил, что участники партнерства уже создали рабочую группу и приступили к разработке стандартов для решений в области искусственного интеллекта.

По его словам, в Индии также появится лаборатория, которая будет сертифицировать ИИ-решения, первыми отраслями для стандартизации ИИ-решений будут здравоохранение и сельское хозяйство, и к апрелю 2024 года ожидаются первые результаты работы.

Стандарты нужны в первую очередь, чтобы решения российских разработчиков сразу соответствовали стандартам в Индии и они могли без дополнительного лицензирования выходить на индийский рынок... Мы хотим создать общие для стран БРИКС стандарты, чтобы минимизировать накладные расходы вендоров и создать равные условия для развития компаний, - пояснил Макаров.[4]

Минцифры формирует стандарт персональных данных для искусственного интеллекта

В конце июня 2023 года стало известно о том, что Минцифры создает стандарт персональных данных для систем и сервисов, использующих средства искусственного интеллекта.

Как сообщат газета «Ведомости», Минцифры совместно с участниками ИТ-отрасли занимается унификацией методов обезличивания персональных данных (ПД) и работы с ними для субъектов критической информационной инфраструктуры (КИИ). К таким субъектам относятся, в частности, госорганы, операторы связи и т. д. Предполагается, что в дальнейшем накопленные данные будут применяться для обучения различных ИИ-алгоритмов или языковых моделей. По словам замглавы Минцифры Александра Шойтова, требования по унификации и стандартизации государству должны предложить сами разработчики систем ИИ.

Минцифры создает стандарт персональных данных для систем и сервисов, использующих средства искусственного интеллекта

У нас есть задача разработать методы унификации для искусственного интеллекта. Это отправная точка, именно в критических применениях (для субъектов КИИ). Где критических применений не будет, эта унификация, наверное, не будет обязательной, — сказал Шойтов.

Отмечается, что работы над методологией в области обезличивания персональных данных уже началась. В Госдуму внесён законопроект о нормативном регулировании одного из подходов к обезличиванию ПД. Это необходимо для того, чтобы исключить «ущерб конкретному гражданину». В Роскомнадзоре также отмечают, что «любая обработка ПД российских граждан, в том числе с использованием ИИ, должна соответствовать требованиям законодательства в области защиты прав субъектов персональных данных».

В России действует Национальный центр развития ИИ, а правительство предоставляет гранты для компаний малого и среднего бизнеса, реализующих проекты искусственного интеллекта. К 2024 году планируется довести внедрение ИИ в российской экономике до 50%.^[5]

Открыт доступ более чем к 60 стандартам в сфере искусственного интеллекта

Росстандарт предоставил открытый доступ более чем к 60 стандартам в сфере искусственного интеллекта, подготовленным Техническим комитетом по стандартизации № 164 «Искусственный интеллект», в целях оперативного обеспечения ускоренных темпов развития отрасли искусственного интеллекта в России. Соответствующее предложение было выдвинуто Сбером, который является центром компетенций федерального проекта «Искусственный интеллект». Об этом Сбер сообщил 14 июня 2023 года.

Активное развитие и внедрение технологий искусственного интеллекта способствуют достижению технологической независимости страны в этой области. Президент РФ Владимир Путин в конце 2022 года заявил о необходимости массового внедрения искусственного интеллекта в различные сферы жизнедеятельности: «Внедрение должно охватить все отрасли экономики, социальной сферы и систему госуправления».

Решение о предоставлении открытого доступа к стандартам в сфере искусственного интеллекта принято Росстандартом для содействия реализации утверждённой указом президента Российской Федерации национальной стратегии развития искусственного интеллекта на период до 2023 года, одним из основных направлений которой является создание единых систем стандартизации и оценки соответствия технологических решений, разработанных на основе искусственного интеллекта.

На официальном сайте ведомства открыт доступ к ряду стандартов, таким как: «Информационные технологии. Искусственный интеллект. Структура управления процессами для анализа больших данных (ИСО/МЭК 24668:2022)», «Системы искусственного интеллекта на автомобильном транспорте. Высокоавтоматизированные транспортные средства. Термины и определения», «Системы искусственного интеллекта в клинической медицине. Основные положения» и другие.

Предоставление открытого бесплатного доступа к международным и национальным техническим стандартам позволит оценить релевантность действующих стандартов, при необходимости вносить в них изменения и получать обратную связь от российского сообщества разработчиков искусственного интеллекта.

Разработка и последующее предоставление доступа к стандартам направлено на повышение эффективности создания и внедрения технологий искусственного интеллекта в различных отраслях экономики и социальной сферы. Россия входит в число государств-лидеров по количеству национальных стандартов, определяющих требования к применению подобных технологий, сказал Антон Шалаев, руководитель Росстандарта.

Сбер поддерживает решение Росстандарта открыть доступ к стандартам в сфере искусственного интеллекта, ведь это поможет ускорить развитие новых технологий в стране. Мы уверены, что большой интерес к такой инициативе проявит российское сообщество разработчиков, и ожидаем от специалистов конструктивной обратной связи и предложений по актуализации стандартов. Вывод стандартов в открытый доступ — часть масштабной работы государства и бизнеса, которая направлена на то, чтобы параллельно с совершенствованием систем искусственного интеллекта динамично развивалась и регуляторика, а она должна обеспечивать как прогресс в этой жизненно важной области знаний, так и безопасность потребителей, отметил Александр Ведяхин, первый заместитель председателя правления Сбербанка.

В целях систематизации работ в сфере искусственного интеллекта Росстандартом совместно с Министерством экономического развития Российской Федерации утверждена перспективная программа стандартизации по приоритетному направлению «Искусственный интеллект» на период 2021−2024 годы в рамках реализации федерального проекта «Искусственный интеллект» национальной программы «Цифровая экономика России», которая содержит 217 тем.

ЕС установил первый в мире стандарт для систем ИИ

В мае 2023 года Европарламент (ЕП) принял законопроект AI Act, который стал первыми в мире правилами и стандартом для искусственного интеллекта.

Системы ИИ с неприемлемым уровнем риска для безопасности людей будут строго запрещены. В их число входят системы, использующие подсознательные или целенаправленные манипулятивные методы, эксплуатирующие уязвимости людей или использующиеся для социального скоринга (классификация людей на основе их социального поведения, социально-экономического статуса, личных характеристик), — сказано в заявлении ЕП.

ЕС установил первый в мире стандарт для систем ИИ

Согласно документу, цель депутатов Евросоюза (ЕС) — установить первые в мире правила для искусственного интеллекта и поставить системы ИИ под контроль людей, сделав их безопасными, прозрачными, отслеживаемыми и недискриминационными.

В соответствии с принятыми стандартами, разработчики высокорискового искусственного интеллекта должны:

• провести оценку риска и соответствия;
• зарегистрировать свои системы в европейской базе данных ИИ;
• обеспечить высокое качество данных, используемых для обучения ИИ;
• обеспечить прозрачность и информированность пользователей;
• обеспечить эффективный надзор со стороны человека и возможность вмешательства;
• обеспечить безопасность и надежность систем ИИ.

Что касается «низкорискового» ИИ, такого как чат-боты, то его поставщики обязаны информировать пользователей о том, что они взаимодействуют с ИИ, а не с человеком. Для генеративных моделей добавляется ещё одно требование — сообщать пользователям, что контент создан нейросетью.

В целом компании, использующие различные ИИ-инструменты, должны будут оценивать их потенциальные риски с точки зрения «здоровья, безопасности, фундаментальных прав, окружающей среды, демократии и верховенства закона», говорится в документе.^[6]

Росстандарт заказал разработку стандартов ИИ для медицины, образования и транспорта за 130,4 млн рублей

1 марта 2023 года стало известно об объявленном Федеральным агентством по техническому регулированию и метрологии (Росстандарт) тендере на разработку стандартов искусственного интеллекта в в образовании, медицине и транспорте. На этот контракт ведомство готово потратить 130,4 млн рублей.

Как сообщает CNews со ссылкой на техническое задание к конкурсу, победитель (его планируется выбрать до 22 марта 2023 года) должен будет разработать окончательную редакцию национальных стандартов ИИ в области образования и для использования систем искусственного интеллекта на автомобильном транспорте (системы ИИ для управления транспортом вне дорог общего пользования).

В рамках работ требуется подготовить стандарты для использования ИИ, а также этические аспекты использования ИИ в здравоохранении

Также в рамках работ будут подготовлены основные положения и этические аспекты при использовании систем ИИ в здравоохранении, лучевой диагностике, для принятия врачебных решений и построения прогнозов в клинической медицине.

Работы среди прочего включают в себя разработку и подготовку к утверждению национальных стандартов, а также обоснование принципов закрепления в нормативно-технических документах требований к созданию, эксплуатации систем ИИ, направленных на сокращение возможного ущерба безопасности России от применения искусственного интеллекта.

Цель работ заключается, в том числе, в гармонизации национальных стандартов с международными стандартами и актуализация фонда стандартов в области искусственного интеллекта. Работы должны быть выполнены до 29 ноября 2024 года.

К началу марта 2023 года в России реализуется национальная стратегия развития искусственного интеллекта. На нее предусмотрено 24,1 млрд рублей бюджетных средств, а также 5,1 млрд рублей из внебюджетных источников, отмечает издание.^[7]

2022

Разработан первый в России ГОСТ по тестированию искусственного интеллекта

В начале августа 2022 года стало известно о создании первого в России ГОСТа по тестированию искусственного интеллекта. Речь идет о разработке Центра диагностики и телемедицины Департамента здравоохранения Москвы.

Как сообщила заместитель мэра столицы по вопросам социального развития Анастасия Ракова, к началу августа 2022 года документ уже утвержден и начнет применяться с 1 сентября 2022-го.

Разработан ГОСТ по тестированию искусственного интеллекта

Новый документ регламентирует требования к клиническим испытаниям нейросетей. По разработанной системе ГОСТа специалисты получат точную оценку, соответствует ли продукт заявленным характеристикам точности, эффективности и не несет ли он риски для здоровья пациента.

Клиническая оценка включает в себя три этапа. Сначала аналитическая валидация подтверждает способность систем искусственного интеллекта точно, воспроизводимо и надежно обрабатывать данные. Затем оценка клинической связи показывает соответствие выходных данных таких систем заявленному функциональному назначению. И наконец, в рамках клинической валидации подтверждается эффективность системы — способность выдавать клинически значимые результаты.

Как сообщили в мэрии Москвы, ранее были приняты и вступили в силу национальные стандарты для внедрения систем искусственного интеллекта в клиническую медицину, они также разработаны столичными радиологами.

Мы наработали огромный опыт в сфере применения искусственного интеллекта в здравоохранении. В марте 2022 года разработки наших медиков в этой отрасли легли в основу единых национальных стандартов по использованию передовых технологий в медицине. Мы двигаемся дальше — московские специалисты разработали ГОСТ по тестированию систем искусственного интеллекта, - отметила Ракова, чьи слова приводятяс на официальном сайте мэра Москвы. [8]

Росстандарт утвердил ГОСТ для ИИ-систем в сельском хозяйстве

Федеральное агентство по техническому регулированию и метрологии (Росстандарт) утвердило национальный стандарт Российской Федерации ГОСТ «Системы искусственного интеллекта (ИИ) в сельском хозяйстве. Требования к обеспечению характеристик эксплуатационной безопасности систем автоматизированного управления движением сельскохозяйственной техники». Документ, призванный обезопасить использование систем с ИИ в АПК, а также ускорить внедрение отечественных разработок в отрасли, совместно разработали Cognitive Pilot (совместное предприятие «Сбера» и Cognitive Technologies) и Высшая школа экономики (НИУ ВШЭ). Подробнее здесь.

2019

3 главных тренда искусственного интеллекта за 4 минуты

Четвертый выпуск подкаста TAdviser записала Светлана Вронская, автор Telegram-канала Analytics Now. Его тема – главные события на рынке Искусственного интеллекта (ИИ), произошедшие в 2019 году.

Слушать на YouTube

Росстандарт утвердил первые стандарты в области ИИ

Федеральное агентство по техническому регулированию и метрологии (Росстандарт) утвердило в декабре 2019 года первые национальные стандарты в области искусственного интеллекта – ГОСТ Р 58776-2019 «Средства мониторинга поведения и прогнозирования намерений людей. Термины и определения» и ГОСТ Р 58777-2019 «Воздушный транспорт. Аэропорты. Технические средства досмотра. Методика определения показателей качества распознавания незаконных вложений по теневым рентгеновским изображениям».

Стандарт призван обеспечить эффективную коммуникацию интеллектуальных робототехнических систем (в том числе беспилотных транспортных средств) с человеком. Взаимодействие интеллектуальных систем заключается в прогнозировании намерений друг друга и определении дальнейших действий на базе этого прогноза. Прогноз поведения также может использоваться для выявления людей с преступными намерениями.

Второй принятый стандарт, ГОСТ Р 58777-2019, устанавливает единые требования к системам и алгоритмам распознавания незаконного содержимого багажа и ручной клади по рентгеновским изображениям. Стандарт также повысит достоверность результатов испытаний систем и алгоритмов.

Стандарты разработаны Санкт-Петербургским политехническим университетом Петра Великого и вступают в действие с 1 сентября 2020 года.

Эксперты ISO/IEC поддержали предложение о разработке стандарта на русском языке

16 апреля 2019 года стало известно, что подкомитет ISO/IEC по стандартизации в области искусственного интеллекта поддержал предложение Технического комитета «Кибер-физические системы», созданного на базе РВК, о разработке стандарта «Artificial intelligence. Concepts and terminology» на русском языке в дополнение к базовой английской версии.

Терминологический стандарт «Artificial intelligence. Concepts and terminology» является основополагающим для всего семейства международных нормативно-технических документов в области искусственного интеллекта. Кроме терминов и определений, данный документ содержит концептуальные подходы и принципы построения систем с элементами AI, описание взаимосвязи AI с другими сквозными технологиями, а также базовые принципы и рамочные подходы к нормативно-техническому регулированию искусственного интеллекта.

По итогам заседания профильного подкомитета ISO/IEC в Дублине эксперты ISO/IEC поддержали предложение делегации из России о синхронной разработке терминологического стандарта в сфере AI не только на английском, но и на русском языке. Ожидается, что документ будет утвержден в начале 2021 года.

Развитие продуктов и услуг на базе искусственного интеллекта требует однозначной трактовки используемых понятий всеми участниками рынка. Стандарт терминологии позволит унифицировать «язык», на котором общаются разработчики, заказчики и профессиональное сообщество, классифицировать такие свойства продуктов на базе ИИ, как «безопасность», «воспроизводимость», «достоверность» и «конфиденциальность». Единая терминология также станет важным фактором для развития технологий искусственного интеллекта в рамках Национальной технологической инициативы – алгоритмы ИИ используют более 80% компаний в периметре НТИ. Кроме того, решение ISO/IEC позволит укрепить авторитет и расширить влияние российских экспертов при дальнейшей разработке международных стандартов. Никита Уткин,руководитель программ РВК, председатель ТК «Кибер-физические системы»

В ходе заседания эксперты ISO/IEC также поддержали разработку проекта международного документа Information Technology - Artificial Intelligence (AI) - Overview of Computational Approaches for AI Systems, в котором Россия выступает в качестве соредактора. Документ предоставляет обзор современного состояния систем искусственного интеллекта, описывая основные характеристики систем, алгоритмы и подходы, а также примеры специализированных приложений в области AI. Разработкой этого проекта документа займется специально созданная в рамках подкомитета рабочая группа 5 «Вычислительные подходы и вычислительные характеристики систем Искусственного интеллекта» (SC 42 Working Group 5 «Computational approaches and computational characteristics of AI systems»).

В рамках работы на международном уровне делегации из России удалось добиться ряда знаковых решений, которые будут иметь долгосрочный эффект для развития в стране технологий искусственного интеллекта. Разработка русскоязычной версии стандарта, еще и со столь ранней фазы – гарантия синхронизации с международным полем, а развитие подкомитета ISO/IEC и инициация международных документов с российским соредакторством – это фундамент для дальнейшего продвижения интересов российских разработчиков за рубежом», — прокомментировал. Антон Шалаев, заместитель руководителя Росстандарта

Технологии искусственного интеллекта широко востребованы в самых разных отраслях цифровой экономики. Среди основных факторов, сдерживающих их полномасштабное практическое использование, — неразвитость нормативной базы. При этом именно проработанная нормативно-техническая база обеспечивает заданное качество применения технологии и соответствующий экономический эффект.

По направлению искусственный интеллект ТК «Кибер-физические системы» на базе РВК ведет разработку ряда национальных стандартов, утверждение которых запланировано на конец 2019 – начало 2020 года. Кроме того, совместно с рыночными игроками идет работа по формированию Плана национальной стандартизации (ПНС) на 2020 год и далее. ТК «Кибер-физические системы» открыт для предложений по разработке документов со стороны заинтересованных организаций.

2018: Разработка стандартов в области квантовых коммуникаций, ИИ и умного города

Технический комитет «Кибер-физические системы» на базе РВК совместно с Региональным инжиниринговым центром «СэйфНет» 6 декабря 2018 года начали разработку комплекса стандартов для рынков Национальной технологической инициативы (НТИ) и цифровой экономики. К марту 2019 года планируется разработать документы технической стандартизации в области квантовых коммуникаций, искусственного интеллекта и «умного города», сообщили в РВК. Подробнее здесь.