Обсуждения

Публичное обсуждение проекта продлится до 14 ноября 2022 г.

Смещенность в системах искусственного интеллекта может проявляться по-разному. Системы искусственного интеллекта, которые изучают закономерности на основе данных, потенциально могут отражать существующие в обществе предубеждения в отношении каких-либо групп. Хотя некоторая смещенность необходима для решения задач системы искусственного интеллекта, может существовать смещенность, которая не предусмотрена задачами и, таким образом, представляет собой нежелательную смещенность в системе искусственного интеллекта.

Смещенность в системах искусственного интеллекта может возникнуть в результате структурных недостатков при проектировании системы, возникнуть из-за когнитивных предубеждений заинтересованных лиц или быть присущей наборам данных, используемым для обучения моделей. Это означает, что системы искусственного интеллекта могут надолго закрепить или усилить существующие предубеждения или создать новые предубеждения.

Разработка систем искусственного интеллекта с результатами, свободными от нежелательных предубеждений, является сложной задачей. Функциональное поведение систем искусственного интеллекта является сложным и может быть трудным для понимания, но исключить нежелательную смещенность возможно. Многие виды деятельности по разработке и внедрению систем искусственного интеллекта предоставляют возможности для выявления и устранения нежелательных предубеждений, чтобы заинтересованные стороны могли воспользоваться преимуществами систем искусственного интеллекта в соответствии со своими целями.