Пошаговая инструкция

Создание умного приложения состоит из нескольких шагов: управление данными, их обработка, построение и обучение модели и ее развертывание. Высокое качество обучения достигается в моделях на базе глубоких нейронных сетей. Существуют также решения autoML, которые позволяют быстро построить несложные модели. Алексей Климов, ML-разработчик SberCloud, предложил решать эти задачи при помощи суперкомпьютера Christofari.

На базе суперкомпьютера в SberCloud создана MLSpace — платформа полного цикла для Data Science-команд. Она позволяет пройти все этапы создания умного приложения. Алексей Климов подробно рассказал о работе каждого модуля платформы. Работать с ней можно как самостоятельно, так и по модели DS as a Service, то есть при помощи DataScience-специалистов SberCloud.

Эксперт поделился реальными бизнес-кейсами, которые были реализованы при помощи MLSpace. Например, в открытом доступе выложена модель GPT-3 — генератор текстов на русском языке. Еще одна модель модель может распознавать снимки компьютерной томографии легких — любой человек может загрузить на сайт результаты своего КТ и через 5 мин получить расшифровку. Разработаны также системы распознавание текстовой информации в документах любого формата и распознавания речи. «Сбер» уже создает умные устройства на базе этих технологий.

Евгений Колесников, директор Центра машинного обучения «Инфосистемы Джет», отметил, что с точки зрения технологий проекты по внедрению машинного обучения ничем не отличаются от других. Однако для того, чтобы они приносили пользу, необходимы изменения внутренних процессов организации и парадигмы принятия решений. «Ключевая сложность — убедить людей принимать решения на основании рекомендаций «черного ящика», который почему-то считает, что он прав», — говорит Евгений Колесников.

Структура Data Transformation

Источник: Инфосистемы Джет, 2021

Он подробно остановился на том, как правильно выстроить процесс цифровой трансформации. В ходе анализа производственных процессов очень часто приходится сталкиваться с тем, что исполнители на местах очень консервативны, относятся к инновациям как к попытке заменить их на машины. Более того, если инициатива не поддерживается централизованной командой, а отдана на исполнение отделам, это может привести к неверной постановке задачи.

Второй этап — запуск пилотного проекта. Основные риски здесь — сложность получения и описания полученных данных, а также пассивная позиция бизнес-партнера. В результате реализация проекта может так и не выйти за пределы пилота.

Если же вам все-таки удалось дойти до внедрения, то надо учитывать, что любой проект по машинному обучению потенциально невыполним по объективным причинам. По мнению Евгения Колесникова, руководитель проекта должен на первых двух этапах максимально отсеивать направления, в которых применение ИИ невозможно. И на этап внедрения должны выходить только те проекты, вероятность успеха которых максимальна.

Искусственный интеллект в госсекторе

С каждым годом государство все более заинтересовано в использовании различных инструментов на базе искусственного интеллекта, уверен Павел Кузьмин, директор Департамента цифровой трансформации и больших данных Министерства просвещения РФ. Он перечислил несколько проектов в области образования, где планируется использовать искусственный интеллект. Во-первых, это экспертиза цифрового образовательного контента на предмет соответствия нормативным требованиям, закону об авторском праве, а также для формирования отчетов в едином стиле. Во-вторых, автоматический подбор релевантного контента для педагогов и учащихся с учетом их цифровых профилей, созданных на основе анализа образовательных результатов и цифровых следов.

Еще одна задача — формирование и динамическое обновление индивидуальной образовательной траектории обучающегося. Она создается на базе информации о целях и интересах ребенка, а также по результатам изучения и анализа его цифровых следов и образовательных результатов. «Очень важно, что для всего этого нам не нужны персональные данные, — говорит Павел Кузьмин. — Вся аналитика будет осуществляться с использованием ID и учетной записи в ЕСИА».

Роман Горпинченко, заместитель начальника по проектным продажам Dahua Technology Rus, рассказал о применении искусственного интеллекта на общественном транспорте и в логистике. Например, в Стамбуле интеллектуальная система видеонаблюдения, позволяющая проводить удаленный мониторинг и управлять общественным транспортом, охватывает 7500 автобусов. В Шанхае 2000 автобусов оснащены системами аварийной сигнализации, двусторонней передачи звука, видеозаписи, отслеживания местоположения транспортного средства и управления.

Dahua Technology предлагает целый ряд технологий. Во-первых, это ADAS — система поддержки водителей, которая оценивает окружающую обстановку, прогнозирует опасности и сигнализирует об этом как водителю, так и оператору. Во-вторых, технология DSM, позволяющая контролировать поведение водителя за рулем: его усталость, отвлечение внимания, опасное поведение, превышение времени вождения и т.д. В-третьих, технология распознавания номеров, которая используется и для контроля парковки, и для выявления нарушителей правил дорожного движения.

Все более востребованной становится технология распознавания лиц на наземном транспорте как для создания соответствующих платежных приложений, так и для обеспечения безопасности. Использование этой технологии также эффективно в такси и каршеринге, для контроля машин спецназначения и строительной техники, а также в сервисах проката автомобилей. Кроме стационарных устройств компания предлагает носимые видеорегистраторы с функцией распознавания лиц.

По мнению Георгия Лебедева, директора Института цифровой медицины, заведующего кафедрой информационных и интернет-технологий Первого МГМУ им. И.М. Сеченова, технологии искусственного интеллекта могут найти себе применение практически во всех областях медицины: профилактике, диагностике, лечении и медицинском уходе. Он привел примеры интеллектуальных систем, которые разработаны на базе института.

Мониторинг лежачих пациентов

Источник: Первый МГМУ им. И.М. Сеченова, 20201

Юрий Визильтер, начальник подразделения интеллектуального анализа данных и технического зрения ФГУП ГосНИИАС, уверен, что российские разработчики могут самостоятельно создавать конкурентоспособные платформы искусственного интеллекта. Созданием именно такого решения — «Платформы-ГНС» — занимается ГосНИИАС при поддержке Минпромторга РФ. Оно предназначено для разработки решений с использованием высокопроизводительных вычислений и суперкомпьютерных технологий на основе глубоких конволюционных нейронных сетей (ГНС). Решения, построенные на базе платформы, могут быть использованы в различных областях для распознавания и классификации объектов, разбиения изображения на области, улучшения качества изображений и так далее.

Роботы или операторы в колл-центрах

Юлия Савинова, руководитель направления развития банковского и страхового сектора Neuro.net, уверена, что использование виртуальных операторов позволит сделать коммуникации с клиентами эффективнее. В отличие от живого человека, они никогда не устают, всегда вежливы и позитивны, работают четко по скрипту и показывают высокую конверсию, легко и быстро масштабируются под нужды бизнеса, омниканальны и могут позвонить или написать клиенту в мессенджер и на электронную почту. Более того, использовать виртуального ассистента экономически выгодно: ведь средняя стоимость минуты звонка оператора колл-центра составляет 12 руб., а цифрового агента Neuro.net — 4-6 руб.

Оператор vs Виртуальный агент

Источник: Neuro.net, 2021

Юлия Савинова привела несколько примеров реально работающих кейсов. Так, один из крупных операторов связи благодаря использованию решения Neuro.net в 2 раза увеличил охват звонков колл-центра. Конверсия в покупку составила 35%, что сравнимо с показателем оператора. При этом распознали робота в процессе разговора и спросили об этом только 0,5% клиентов.

Одному из крупнейших банков Казахстана потребовалось 8 часов, чтобы обзвонить 130 000 абонентов при помощи цифрового агента — раньше это занимало 20 дней. В результате 59% клиентов в течение суток после звонка погасили имеющеюся задолженность.

«В прошлом году все поняли, что человеческие жизни значительно важнее бизнеса», — начала свое выступление Елена Терехова, коммерческий директор VS Robotics.ru. В 2020 г. компания разработала решение, с помощью которого люди могли заказать на дом медикаменты и продукты питания, получить информацию о том, как вести себя в условиях пандемии и какие меры принимать, чтобы остаться в безопасности.

Было разработано более 1800 ответов на вопросы, которые чаще всего задавали люди при звонке в колл-центр. На сегодняшний день решение работает в 7 регионах и планируется к внедрению еще в пяти. Для его запуска требуется всего 5 дней. Оно встраивается в любой контактный центр с IP-телефонией.

Кто такой робот-оператор

Источник: VS Robotics.ru, 2021

В списке достоинств робота сокращение стоимости минуты разговора в 7 раз, высокая производительность: время диалога робота в среднем в 2 раза меньше, чем время диалога оператора по аналогичному скрипту, он на 77% эффективнее операторов и работает в режиме 24/7, без выходных, с учетом всех часовых поясов. Качество переговоров робота существенно выше, чем обычного человека: он точно следует скрипту, фиксирует все результаты переговоров и не склонен к эмоциональному выгоранию.

Илья Щиров, исполнительный вице-президент, руководитель развития чат-канала и чат-ботов Райффайзенбанка, отметил, что 45% обращений в службу поддержки банка происходит через чат. При этом клиентам совершенно не интересно просто болтать — они ждут четких и быстрых ответов на интересующие вопросы. В банке пошли по пути создания собственного решения — простого и понятного. Сегодня чат-бот обрабатывает около 50% входящих сообщений, отвечает примерно на 20% обращений без оператора, а уровень ошибок не превышает 1%.

Банк использует облачное решение для распознавания или синтеза сообщений. Чат-бот Райффайзенбанка без проблем переключает клиента на оператора, если он этого хочет, дает возможность общаться с помощью любых каналов и не ходить по IVR, подчеркнул Илья Щиров.

В результате последней реформы call-центра банка «Тинькофф» 10 000 операторов были переведены на домашнюю работу и только 2500 остались работать в офисе. Это стало возможным благодаря цифровизации. Как рассказал Леонид Колыбин, руководитель продукта голосовых роботов «Тинькофф». Основная причина их внедрения — существенная экономия: стоимость одной минуты разговора оператора 10-12 руб., а робота — 4 руб.

Леонид Колыбин рассказал, как банк работал над созданием идеального голосового робота. Для этого использовались технологии машинного обучения. Разработчики не только учили робота распознавать сложные выражения, но и старались сделать так, чтобы он мог разговаривать с клиентами не хуже оператора. Было протестировано множество вариантов голоса, эмоциональной окраски, алгоритмов разговора. На создание робота ушел год. В результате сегодня роботы проводят около 7,5 млн разговоров в месяц, и качество их работы ничуть не уступает качеству работы реального человека.

В «ВТБ Капитал» решили посмотреть, как можно применить машинное обучение во внутренних ИТ-процессах, чтобы уменьшить время реакции сотрудников и снизить влияние человеческого фактора, рассказал Владислав Русаков, менеджер проектов системы предоставления ИТ-сервисов «ВТБ Капитал». В качестве пилота был выбран процесс обработки заявок в службу ИТ. Более 60% из них регистрируются через Портал самообслуживания. Робот должен помочь обрабатывать оставшиеся 40% заявок, которые до сих пор регистрируются первой линией вручную.

Владислав Русаков подробно рассказал о ходе проекта и сложностях, с которыми столкнулись разработчики решения. В результате на 1 ноября 2020 г. более 8% писем обрабатываются полностью автоматически без участия человека. Достигнута значительная экономия времени операторов при обработке оставшихся писем: на консультациях она составляет около 50%, на заявках — до 30%. Точность определения категории обращения — 82%.

Роботы в промышленности

Евгений Гаранин, директор по цифровизации ТВЭЛ, отметил, что в силу специфики деятельности его компании, она не может себе позволить экспериментировать и использовать неапробированные решения. Внедрение искусственного интеллекта в ТВЭЛ началось с офисных процессов, а именно с оптимизации процесса государственных закупок. В результате трудозатраты на рутинные процессы сократились в 16 раз, количество доработок и исправлений упало почти вдвое, а профильные эксперты стали тратить на 30% меньше времени на согласование документов.

Вторым проектом стало внедрение ИИ в процесс управления казначейскими операциями. В данном случае роботам получили распознавание и извлечение контекстных данных из сканов первичных документов. Еще один проект — проверка научно-технической документации: интеллектуальный анализ неструктурированных данных как на русском, так и на английском языке.

Проекты оказались успешными, бизнес поверил в возможность эффективного использования ИИ. Теперь искусственный интеллект внедряется и в производственной деятельности. Речь идет о создании платформы сбора и анализа производственных данных, системы контроля качества изделий на Чепенском механическом заводе и системы предиктивного технического обслуживания и ремонта оборудования и контроля качества изделий на машиностроительном заводе в Электростали. По словам Евгения Гаранина, внедрение ИИ поможет в 2 раза снизить брак на производстве.

Компания предлагает некоторые из созданных продуктов на рынке. Это «Атомбот: Закупки» — система интеллектуальной поддержки закупочной деятельности как по 44-ФЗ, так и по 223-ФЗ.

Анджей Аршавский, руководитель центра разработки и монетизации данных Дирекции по цифровой трансформации «Газпромнефть» отметил, что компания уделяет много внимания цифровой трансформации, и внедрение ML — только одно из ее направлений. Все решения, связанные с искусственным интеллектом, направлены на повышение эффективности производства. Также много проектов, связанных с обеспечением безопасности по повышением управляемости компании.

Анджей Аршавский привел примеры применения ИИ в компании. Это система распознавания типов горных пород по фото — она позволяет в 7 раз ускорить лабораторный анализ полноразмерного керна. Когнитивная система подбора внутрискваженных операций прогнозирует эффективность кислотных обработок призабойной зоны, что позволяет в 2 раза точнее выбирать перспективные скважины.

Благодаря цифровой системе управления арктической логистикой на 15% снизились затраты на транспортировку нефти. Система управления качеством и объемом нефтепродуктов позволила в 5 раз сократить время принятия решений и реагирования на отклонения.

В «Газпромнефти» создается платформа искусственного интеллекта, в состав которой входят как данные, так и репозиторий ML-моделей, средства разработки моделей и решений на их основе, инструменты анализа данных и моделирования не для профессионалов. Это решение активно используется на месторождениях. Некоторые решения компания публикует на Github.

Методология и технологии

«Создание хорошо работающей модели — это лишь небольшой аспект создания промышленных решений. Любая модель искусственного интеллекта носит временный характер», — начал свое выступление Юрий Сирота, старший вице-президент, руководитель департамента анализа данных и искусственного интеллекта банка «УралСиб». Проекты внедрения машинного обучения имеют очень много общего с проектами разработки программного обеспечения, где себя хорошо зарекомендовал DevOps. MLOps — это DevOps для проектов машинного обучения. Юрий Сирота подробно остановился на том, какие проблемы возникают при внедрении моделей машинного обучения.

По его мнению, необходимо создавать математический конвейер обновления моделей, иначе невозможно поддерживать производственное математическое моделирование. Конвейер математического моделирования включает в себя сбор и предварительную обработку данных, обучение модели, перенос ее в продуктивную среду и постоянный мониторинг. Хорошо построенный конвейер помогает масштабировать этот процесс по всей организации, максимально использовать производственные модели, гарантировать, что эти возможности всегда работают на должном уровне, контролировать то, как модели реализуются и используются в бизнесе.

«М.Видео-Эльдорадо» активно внедряет различные data science – проекты, говорит Виталий Карев, разработчик Центра компетенций по техническим решениям для машинного обучения группы «М.Видео-Эльдорадо». Компания разрабатывает систему управления потоками данных. Виталий Карев объяснил, почему было принято решение пойти по пути создания собственного решения. Нетипичное описание пайплайнов для DevOps-инженеров приводит к тому, что надо или разделять поддержку, или обучать инженеров работе с неклассической системой.

Вторая проблема — хранение и версионирование артефактов. Необходимо решение, которое будет заниматься этим в фоновом режиме и позволит работать с артефактами любых проектов. Третья проблема — типизация потоков данных. Надо иметь возможность управлять потоками и в процессе разработки, и в продакшене. На сегодня в компании реализовано и активно используется решение, которое покрывает все перечисленные проблемы: поддержку ML-пайплайнов осуществляют DevOps-инженеры, хранение и версионирование артефактов реализуются незаметно для ML-разработчиков, в продакшене используются типизация потоков данных, в том числе DataFrame-ов.