19 апреля 20:47
В рамках Дискуссионного клуба ВШЭ и Сбера эксперты обсудили этические аспекты развития искусственного интеллекта
Поделиться
twtg

Сегодня искусственный интеллект активно развивается в России, находится в фокусе внимания государственной власти и высокотехнологичных компаний, есть национальная стратегия его развития и отдельный федеральный проект. Подготовлен проект этического кодекса, обсуждается учреждение института омбудсмена или специального органа, который будет отвечать за цифровую этику. Принципы «верхнего уровня» предполагается закрепить законодательно, а отраслевые нормы будут приниматься игроками рынка в рамках саморегулирования. Об этом шла речь на сессии Дискуссионного клуба ВШЭ и Сбера — «ИИ-трансформация компаний и государства: Развитие этики ИИ в России и в мире».

Модератором дискуссии выступил первый заместитель Председателя Правления Сбербанка Александр Ведяхин. В ней приняли участие Андрей Жулин, проректор, директор Института государственного и муниципального управления НИУ ВШЭ; Елена Бунина, генеральный директор ООО «Яндекс»; Александр Кулешов, ректор Сколтех, академик РАН; Татьяна Матвеева, начальник Управления Президента РФ по развитию информационно-коммуникационных технологий и инфраструктуры связи.

Искусственный интеллект во многом похож на ребёнка — как мы его сейчас научим, так он и будет себя вести в будущем. Помните историю о том, как к мудрецу привели трёхлетнего ребенка и попросили обучить его? Мудрец ответил, что уже поздно: всё сделано до него. Сейчас же у нас с вами есть уникальная возможность, когда нашему «ребёнку» по шкале человеческой жизни всего несколько дней, и он только научился отличать кошек от собак. Поэтому мы должны рассказывать ему, что такое хорошо и что такое плохо. Только тогда мы можем быть уверены, что он всё будет делать правильно. Как и в любом воспитании, здесь важен пример «родителей» – тех, кто его обучает, наставляет, отдаёт данные, пишет алгоритмы, верифицирует. А наш «ребёнок» — искусственный интеллект — должен делать всё, чтобы уважать своих «родителей» и помогать им.

Среди принципов работы искусственного интеллекта важны прозрачность, предсказуемость, ответственность, стабильность, надежность. Каждый из них не исключает и дополняет другой. Но самым главным принципом развития, наивысшей ценностью искусственного интеллекта остаётся человекоцентричность. Он должен быть нацелен на благо человека, развитие его возможностей, созидание и помощь. Не нужно ждать решений от других стран — мы должны принять российские этические нормы и представлять их как передовую российскую практику. В долгосрочной перспективе кодекс повысит шансы России для «завоевания» мировых рынков.

Порядка 30% рутинных функций федеральной власти могут быть исключены или заменены. Речь здесь идёт о достаточно простых алгоритмах, о простой работе с данными, а не об искусственном интеллекте. Мы ещё долго не подойдём к тому, чтобы использовать искусственный интеллект даже для очень простых решений в государственном управлении. Для этого нужны большие объёмы хороших данных, хорошие учётные системы, которые есть в очень небольшом количестве сфер и государственных органов

Сбер подготовил мировой обзор корпоративных принципов этики ИИ. Согласно исследованию, в настоящее время такие принципы приняты почти у 30 крупнейших разработчиков ИИ в мире. Большинство принципов этики ИИ были приняты в период с 2018 по 2019 год. В среднем компании утвердили по шесть принципов, самыми популярными из них являются справедливость и непредвзятость (приняты в 18 компаниях), безопасность и надёжность (в 18 компаниях), прозрачность (в 17), подотчётность (в 11), управляемость и контролируемость (в 11), человеко-ориентированный подход и уважение прав человека (в 10).

Поделиться
twtg
Ещё по теме Технологии
  • Сбер и Сколтех создают экосистему искусственного интеллекта для нужд медицины

    Группа компаний Сбер и Сколковский институт науки и технологий объявили о подписании сделки по созданию экосистемы для развития искусственного интеллекта в здравоохранении России. Оператором выступит созданная летом 2020 года компания СберМедИИ. Экосистема объединяет разработки научных команд Сколтеха с «облачной» инженерной инфраструктурой Сбера и станет технологическим фундаментом для создания сервисов в здравоохранении.
    28 декабря 15:12
  • ФЛИП: полностью автономный транспорт от SberAutoTech

    Компания экосистемы Сбера — SberAutoTech — представила прототип полностью автономного электрического транспорта собственной разработки. Новинка получила название ФЛИП и реализует концепцию новой мобильности: полностью беспилотное транспортное средство (максимальный, пятый уровень автономности по международной классификации) обеспечивает быстрое, безопасное и комфортное перемещение пассажиров с использованием новейших технологий из мира IT и автомотив.
    27 мая 9:57

Мы используем файлы cookie

ПАО Сбербанк использует cookie (файлы с данными о прошлых посещениях сайта) для персонализации сервисов и удобства пользователей. Сбербанк серьезно относится к защите персональных данных — ознакомьтесь с условиями и принципами их обработки. Вы можете запретить сохранение cookie в настройках своего браузера.