9 ноября 18:00
Какие технологии приведут нас к AGI?
Татьяна Шаврина
Лидер команды AGI NLP, руководитель направления в Управлении развития компетенций по исследованию данных
Поделиться
twtg

Большое внимание к R&D, объединяющее лучшие инженерные практики и стремление к научной истине, сегодня является нашим неоспоримым преимуществом.

Чтобы сознательно создавать более интеллектуальные и похожие на человека искусственные системы, нам требуется рабочее определение интеллекта и умение оценивать его. Это нужно, чтобы корректно сравнивать две системы или систему с человеком.

К системам Artificial General Intelligence (AGI, сильный искусственный интеллект) классически применяются требования к таким навыкам, как принятие решений, обладание знаниями о мире, общение на языке человека и логика. В последнее время к ним добавилась ещё способность делать обобщения и самостоятельно приобретать новые навыки. В преддверии международной конференции AI Journey рассказываем, какие технологии нас приведут к сильному искусственному интеллекту.

Ускользающий AGI

Требования к AGI сколь амбициозны, столь и изменчивы, поскольку с каждым годом мы существенно продвигаемся вперёд. Расширяясь экстенсивным и интенсивным путём, мы увеличиваем вычислительные мощности, накапливаем больше данных и создаём всё более совершенные алгоритмы — но всё же движемся к цели методом «от противного». Каждый раз, преодолевая новый технологический рубеж, мы пересматриваем сложность задачи и меняем определение.

«Человек, — сказал Платон, — это двуногое животное без перьев». Тогда Диоген ощипал петуха и со словами «Вот твой человек» поставил его перед Платоном. Платон задумался и уточнил: «Двуногое животное без перьев и с плоскими ногтями».

«Эффект ИИ», как его назвала МакКордак, автор нескольких книг об искусственном интеллекте, объясняет, почему некогда имиджевые задачи для ИИ (например, игра в шахматы или го) более не удивляет нас. Раз достигнув результата выше человеческого, мы считаем задачу само собой разумеющейся для машины.

Постепенно путь от неразрешимых до само собой разумеющихся проходят многие задачи — распознавание объектов на фотографии, вождение автомобиля. Возможно, когда-то это произойдёт и с целеполаганием, принятием решений в условиях неопределённости и т. д.

Нам очень легко считать решение сложных задач исключительно человеческой заслугой, но при накоплении достаточного объёма опыта и данных оказывается, что человеческое решение часто совсем не оптимально.

Понимание этого факта ставит перед нами методологический выбор: 1) нужно ли нам опираться на мозг человека как абсолют и рабочий прототип? 2) нужно ли, напротив, опираться исключительно на технический подход и концентрироваться только на метриках решения отдельных задач?

Последний подход был доминирующим последние 30 лет, и благодаря нему существует «слабый ИИ» — хорошее решение отдельных задач. Однако реальный мир — не соревнование Kaggle по Data Science, и нам нужно делать шаг вперёд в сторону обобщающей способности машин.

Ключ к мозгу человека и AGI?

ML-сообщество по-прежнему любит сравнивать умения, которые демонстрируют ИИ и люди при игре в настольные и компьютерные игры и решении задач. Но для оценки интеллекта мало измерить только умение решать поставленную задачу. Почему? Потому что это умение во многом формируется не интеллектом, а знаниями и опытом. А их можно «купить». Скармливая системе неограниченный объём обучающих данных или увеличивая вычислительные мощности, экспериментаторы могут скрыть то, насколько способна к интеллектуальному обобщению сама система.

Требования, которые последнее время предъявляются к ML-системам, затрагивают уже совсем не только метрику качества решения: системы ИИ должны обеспечивать
интерпретацию результатов. Мы хотим получать информацию о том, почему машина выдаёт тот или иной результат, на чём основано её решение (проблема «чёрного ящика»).

Мультидисциплинарность. Мы ждём от системы, что, получив знания в одной предметной области, они сохранит их и использует при работе в другой предметной области.

Обучение со скоростью человека и быстрее. Необходима система, превосходящая человека в интеллектуальных способностях (направление few-shot learning, или «мета-обучение», активно используется в диалоговых системах, автоматическом переводе, распознавании предметов на видео и других изображениях).

Кроме того, существует направление, объединяющее «человеческую» интерпретируемость решений, накопление и представление знаний, а также обучение на примерах, — это Natural Language Processing (NLP, обработка естественного языка). Человеческая способность к языку объединяет множество навыков и модулей человеческого мозга — рабочего «прототипа» AGI. Исследования показывают, что способность к языку напрямую связана с абстрактным мышлением, логикой, памятью и т. д.

Накопленные текстовые данные представляют в этом плане огромный интерес: тексты энциклопедий, нормативных документов, новости, общение в соцсетях составляют очень обобщённый слепок нашего мира, включая в себя все необходимые следы человеческих интеллектуальных способностей — здравого смысла, принятия решений, логики и прочего. Правильно подобранные наборы данных могут как выполнять функции представления знаний, так и выступать в формате обучающих примеров.

Отталкиваясь от материальной позиции в том, что наш «рабочий прототип» является источником знаний об оркестрировании всех независимых систем, обобщении и самообучении, мы должны обратить пристальное внимание на механизмы естественного языка. Такой точки зрения придерживается Стивен Пинкер, профессор Гарвардского университета: язык и текстовые данные предлагают нам «окно» в устройство человеческого разума, обнаруживая его сильные стороны, играющие роль бионических подсказок для нас, и слабые стороны, которые мы не хотим воспроизводить в ИИ-системах.

Создание сильного искусственного интеллекта — гуманистическая задача, которая заставляет нас задавать всё больше вопросов о самих себе, и на каждом следующем этапе нашего развития мы всегда узнаём что-то новое о человеке.

Take-away points

Увеличение вычислительных мощностей и объёмов данных важно для качественного улучшения работы систем, но может быть недостаточным для качественного обобщения навыков и способностей.

Языковая способность человека — звено, соединяющее мышление, накопление знаний, принятие решений и обоснование этих решений.

Тексты — самый доступный и объёмный источник знаний, представлений о мире и вообще «слепок» мышления человека усреднённого, поэтому требует аккуратного отношения.

Понимание механики, связывающей язык и мышление, даёт нам инженерное решение, обеспечивающее интерпретируемость ML-моделей, устойчивое представление знаний, облегчение обучения новым навыкам.

Татьяна Шаврина
Лидер команды AGI NLP, руководитель направления в Управлении развития компетенций по исследованию данных
Поделиться
twtg
Ещё по теме технологии
  • Сбер представил SberQ — уникальный HR-инструмент для оценки руководителей высшего звена

    Сбер создал уникальный HR-продукт — инструмент для оценки руководителей высшего звена SberQ. Он позволяет точно определить уровень развития необходимых руководителю компетенций, психологических и личностных особенностей в дистанционном формате, что особенно актуально в условиях пандемии коронавируса.
    16 ноября 18:48
  • СберМобайл запустил eSIM в мобильном приложении Сбербанк Онлайн

    Виртуальный оператор связи СберМобайл, входящий в экосистему Сбера, запустил виртуальную сим-карту — eSIM, которую можно оформить и использовать полностью в онлайн-режиме в мобильной версии Сбербанк Онлайн. Сегодня данная технология доступна для подключения первым 10 тысячам пользователей в 68 регионах страны. Использование eSIM отвечает всем требованиям безопасности и законодательства РФ в области оказания услуг связи.
    18 ноября 11:59

Мы используем файлы cookie

ПАО Сбербанк использует cookie (файлы с данными о прошлых посещениях сайта) для персонализации сервисов и удобства пользователей. Сбербанк серьезно относится к защите персональных данных — ознакомьтесь с условиями и принципами их обработки. Вы можете запретить сохранение cookie в настройках своего браузера.