9 ноября 18:00
Какие технологии приведут нас к AGI?
Татьяна Шаврина
Лидер команды AGI NLP, руководитель направления в Управлении развития компетенций по исследованию данных
Поделиться
twtg

Большое внимание к R&D, объединяющее лучшие инженерные практики и стремление к научной истине, сегодня является нашим неоспоримым преимуществом.

Чтобы сознательно создавать более интеллектуальные и похожие на человека искусственные системы, нам требуется рабочее определение интеллекта и умение оценивать его. Это нужно, чтобы корректно сравнивать две системы или систему с человеком.

К системам Artificial General Intelligence (AGI, сильный искусственный интеллект) классически применяются требования к таким навыкам, как принятие решений, обладание знаниями о мире, общение на языке человека и логика. В последнее время к ним добавилась ещё способность делать обобщения и самостоятельно приобретать новые навыки. В преддверии международной конференции AI Journey рассказываем, какие технологии нас приведут к сильному искусственному интеллекту.

Ускользающий AGI

Требования к AGI сколь амбициозны, столь и изменчивы, поскольку с каждым годом мы существенно продвигаемся вперёд. Расширяясь экстенсивным и интенсивным путём, мы увеличиваем вычислительные мощности, накапливаем больше данных и создаём всё более совершенные алгоритмы — но всё же движемся к цели методом «от противного». Каждый раз, преодолевая новый технологический рубеж, мы пересматриваем сложность задачи и меняем определение.

«Человек, — сказал Платон, — это двуногое животное без перьев». Тогда Диоген ощипал петуха и со словами «Вот твой человек» поставил его перед Платоном. Платон задумался и уточнил: «Двуногое животное без перьев и с плоскими ногтями».

«Эффект ИИ», как его назвала МакКордак, автор нескольких книг об искусственном интеллекте, объясняет, почему некогда имиджевые задачи для ИИ (например, игра в шахматы или го) более не удивляет нас. Раз достигнув результата выше человеческого, мы считаем задачу само собой разумеющейся для машины.

Постепенно путь от неразрешимых до само собой разумеющихся проходят многие задачи — распознавание объектов на фотографии, вождение автомобиля. Возможно, когда-то это произойдёт и с целеполаганием, принятием решений в условиях неопределённости и т. д.

Нам очень легко считать решение сложных задач исключительно человеческой заслугой, но при накоплении достаточного объёма опыта и данных оказывается, что человеческое решение часто совсем не оптимально.

Понимание этого факта ставит перед нами методологический выбор: 1) нужно ли нам опираться на мозг человека как абсолют и рабочий прототип? 2) нужно ли, напротив, опираться исключительно на технический подход и концентрироваться только на метриках решения отдельных задач?

Последний подход был доминирующим последние 30 лет, и благодаря нему существует «слабый ИИ» — хорошее решение отдельных задач. Однако реальный мир — не соревнование Kaggle по Data Science, и нам нужно делать шаг вперёд в сторону обобщающей способности машин.

Ключ к мозгу человека и AGI?

ML-сообщество по-прежнему любит сравнивать умения, которые демонстрируют ИИ и люди при игре в настольные и компьютерные игры и решении задач. Но для оценки интеллекта мало измерить только умение решать поставленную задачу. Почему? Потому что это умение во многом формируется не интеллектом, а знаниями и опытом. А их можно «купить». Скармливая системе неограниченный объём обучающих данных или увеличивая вычислительные мощности, экспериментаторы могут скрыть то, насколько способна к интеллектуальному обобщению сама система.

Требования, которые последнее время предъявляются к ML-системам, затрагивают уже совсем не только метрику качества решения: системы ИИ должны обеспечивать
интерпретацию результатов. Мы хотим получать информацию о том, почему машина выдаёт тот или иной результат, на чём основано её решение (проблема «чёрного ящика»).

Мультидисциплинарность. Мы ждём от системы, что, получив знания в одной предметной области, они сохранит их и использует при работе в другой предметной области.

Обучение со скоростью человека и быстрее. Необходима система, превосходящая человека в интеллектуальных способностях (направление few-shot learning, или «мета-обучение», активно используется в диалоговых системах, автоматическом переводе, распознавании предметов на видео и других изображениях).

Кроме того, существует направление, объединяющее «человеческую» интерпретируемость решений, накопление и представление знаний, а также обучение на примерах, — это Natural Language Processing (NLP, обработка естественного языка). Человеческая способность к языку объединяет множество навыков и модулей человеческого мозга — рабочего «прототипа» AGI. Исследования показывают, что способность к языку напрямую связана с абстрактным мышлением, логикой, памятью и т. д.

Накопленные текстовые данные представляют в этом плане огромный интерес: тексты энциклопедий, нормативных документов, новости, общение в соцсетях составляют очень обобщённый слепок нашего мира, включая в себя все необходимые следы человеческих интеллектуальных способностей — здравого смысла, принятия решений, логики и прочего. Правильно подобранные наборы данных могут как выполнять функции представления знаний, так и выступать в формате обучающих примеров.

Отталкиваясь от материальной позиции в том, что наш «рабочий прототип» является источником знаний об оркестрировании всех независимых систем, обобщении и самообучении, мы должны обратить пристальное внимание на механизмы естественного языка. Такой точки зрения придерживается Стивен Пинкер, профессор Гарвардского университета: язык и текстовые данные предлагают нам «окно» в устройство человеческого разума, обнаруживая его сильные стороны, играющие роль бионических подсказок для нас, и слабые стороны, которые мы не хотим воспроизводить в ИИ-системах.

Создание сильного искусственного интеллекта — гуманистическая задача, которая заставляет нас задавать всё больше вопросов о самих себе, и на каждом следующем этапе нашего развития мы всегда узнаём что-то новое о человеке.

Take-away points

Увеличение вычислительных мощностей и объёмов данных важно для качественного улучшения работы систем, но может быть недостаточным для качественного обобщения навыков и способностей.

Языковая способность человека — звено, соединяющее мышление, накопление знаний, принятие решений и обоснование этих решений.

Тексты — самый доступный и объёмный источник знаний, представлений о мире и вообще «слепок» мышления человека усреднённого, поэтому требует аккуратного отношения.

Понимание механики, связывающей язык и мышление, даёт нам инженерное решение, обеспечивающее интерпретируемость ML-моделей, устойчивое представление знаний, облегчение обучения новым навыкам.

Татьяна Шаврина
Лидер команды AGI NLP, руководитель направления в Управлении развития компетенций по исследованию данных
Поделиться
twtg
Ещё по теме Технологии
  • Сбер и Сколтех создают экосистему искусственного интеллекта для нужд медицины

    Группа компаний Сбер и Сколковский институт науки и технологий объявили о подписании сделки по созданию экосистемы для развития искусственного интеллекта в здравоохранении России. Оператором выступит созданная летом 2020 года компания СберМедИИ. Экосистема объединяет разработки научных команд Сколтеха с «облачной» инженерной инфраструктурой Сбера и станет технологическим фундаментом для создания сервисов в здравоохранении.
    28 декабря 15:12
  • Первая серия беспилотников Sber выехала на улицы Москвы для испытаний

    Первые беспилотные автомобили Sber Automotive Technologies выехали на улицы Москвы для испытаний в условиях зимнего мегаполиса: беспилотники пройдут проверку высокой влажностью, отрицательной температурой, плохой обзорностью и тяжёлой дорожной обстановкой.
    22 декабря 11:35

Мы используем файлы cookie

ПАО Сбербанк использует cookie (файлы с данными о прошлых посещениях сайта) для персонализации сервисов и удобства пользователей. Сбербанк серьезно относится к защите персональных данных — ознакомьтесь с условиями и принципами их обработки. Вы можете запретить сохранение cookie в настройках своего браузера.