Обсуждения

Публичное обсуждение проекта продлится до 2 января 2024 г.

Целесообразность разработки проекта национального стандарта объясняется тем, что искусственный интеллект (ИИ) все чаще применяется во всех секторах, использующих информационные технологии, и, как ожидается, станет одним из основных экономических факторов. Вследствие этой тенденции, некоторые приложения могут привести к возникновению социальных проблем в ближайшие годы.

Цель настоящего стандарта — помочь организациям ответственно выполнять свою роль в отношении ИИ-систем (например, использовать, разрабатывать, осуществлять мониторинг работы или предоставлять продукты или услуги, использующие ИИ). ИИ потенциально поднимает конкретные вопросы, такие как:

• автоматическое принятие решений с использованием ИИ, иногда непрозрачным и необъяснимым способом, может потребовать специального управления, выходящего за рамки управления классическими ИТ-системами;
• использование анализа данных, озарения и машинного обучения, а не предписанной человеком логикой проектирования систем, как расширяет возможности применения ИИ-систем, так и изменяет способ разработки, обоснования и развертывания таких систем;
• во время использования, ИИ-системы, осуществляющие непрерывное обучение, меняют свое поведение. Для обеспечения ответственного использования ИИ-систем даже при таком постоянно меняющемся поведении требуется особое внимание.

Важно обеспечить интеграцию системы менеджмента ИИ с процессами организации и общей структурой управления. При проектировании процессов, информационных систем и разработке мер управления необходимо учитывать конкретные факторы, связанные с ИИ. Критически важными примерами таких процессов управления являются:

• определение организационных целей, вовлечение заинтересованных сторон и организационная политика;
• управление рисками и возможностями;
• процессы управления факторами, связанными с надежностью ИИ-систем, такими как защита, безопасность, справедливость, прозрачность, качество данных и качество ИИ-систем на протяжении всего их жизненного цикла.

В настоящем проекте стандарта содержатся рекомендации по развертыванию применимых мер управления для поддержки таких процессов и отсутствуют конкретные указания по процессам управления. Для внедрения важнейших процессов, таких как управление рисками, жизненным циклом и качеством данных организация может сочетать общепринятые концепции и свой собственный опыт.

Организация, соответствующая требованиям настоящего проекта стандарта, может создать свидетельство своей ответственности и подотчетности касательно своей роли в отношении ИИ-систем. Настоящий проект стандарта может использоваться, при желании, для проведения самооценки, оценки заинтересованной стороной или независимой верификации (например, сертификации) на основании этих свидетельств/доказательств.