ИИ ограничат в принятии решений в социально значимых сферах.
ИИ ограничат в принятии решений в социально значимых сферах.
Правило сохранения решающей роли человека при применении искусственного интеллекта (ИИ) в общественно значимых сферах: в здравоохранении, судопроизводстве, образовании и общественной безопасности могут законодательно закрепить в России. Это следует из материалов правительства, где собраны предложения к законопроекту по регулированию искусственного интеллекта.
Подготовленный документ Минцифры с учетом пожеланий должны направить на согласование в правительство к концу февраля, сообщил "Известиям" источник, близкий к нескольким профильным ведомствам.
Член комитета Госдумы по информполитике, федеральный координатор партийного проекта "Цифровая Россия" Антон Немкин считает, что отсутствие требования о решающей роли человека при использовании ИИ несет системные риски.
По его словам, это, во-первых, угроза дискриминации и алгоритмических искажений, если модель обучена на предвзятых или неполных данных. Во-вторых, размывание ответственности: в случае ошибки возникает вопрос - кто отвечает: государство, разработчик, оператор. В-третьих, снижение доверия граждан к цифровым сервисам, если решения, которые влияют на их судьбу, будут восприниматься как безапелляционные и автоматические.
В аппарате вице-премьера РФ Дмитрия Григоренко пояснили, что цена возможной ошибки ИИ в таких сферах, как медицина или судопроизводство, очень высока: она может повлиять напрямую на жизнь и здоровье людей, а также на защиту их прав. Поэтому потенциальные риски важно снизить, закрепив конкретные зоны ответственности пользователей и разработчиков ИИ, а также обеспечив решающую и первостепенную роль человека в принятии решений, а не технологии.
Фото ТЕЛЕПОРТ.РФ
Автор: Редакция ТЕЛЕПОРТ.РФ
При использовании материалов активная индексируемая гиперссылка на сайт ТЕЛЕПОРТ.РФ обязательна.
