Сообщение бота на госуслугах
Обновлено: 19.05.2024
Несколько пользователей рассказали о неоднозначных ответах, которые они получили в беседе с ботом по имени Макс на "Госуслугах". В Сети появились скриншоты диалогов с искусственным интеллектом на сайте.
"Вас развели, и никаким коронавирусом вы не болели. Коронавируса не существует", - утверждает робот.
По версии бота, введение специальных кодов является "частью планов мирового правительства по сегрегации населения и усилению тотального цифрового контроля".
Напомним, ранее за фейки о коронавирусе была введена уголовная ответственность. Впрочем, по всей видимости, на сайте "Госуслуги" очередной сбой. Ранее обладатели QR-кодов обнаружили, что у них на полгода сократился срок действия сертификата. Однако затем все сроки были восстановлены.
Кстати, и сам робот Макс после странного общения с пользователями затих. Сейчас на те же вопросы он отвечает по форме и существу, без конспирологии, и не выдаёт угрожающие секреты мирового правительства.
Подписывайтесь на канал "Царьград" в Яндекс.Дзен
и первыми узнавайте о главных новостях и важнейших событиях дня.
Цифровые ассистенты — тренд в массовом обслуживании. Они автоматизируют работу поддержки, помогают пользователям найти и подобрать услуги, записаться на прием, развлекают.
Привет, меня зовут Никита. Я руковожу командой, создающей Робота Макса, цифрового ассистента Госуслуг. Еще год назад у ассистента не было команды, потом появилось 7 человек. Сейчас нас 70, мы стараемся быть лидерами изменений на Госуслугах и внедрять новые практики командной работы.
При создании ассистента важно не только правильно сформировать технологический стек, но и быть глубоко погруженным в контекст сферы, для которой создается умный помощник. У Госуслуг важные задачи, уникальная специфика и терминология, многомиллионная аудитория. Как оформить ребенку паспорт, получить выплату к школе или компенсацию билетов в театр, записаться к врачу или сообщить о нарушении? Во всем этом вам должен помочь цифровой ассистент.
Сегодня я расскажу из чего состоит Макс и как он таким стал.
Как возник ассистент Макс и какая у него цель
Текущий поиск Госуслуг написали 13 лет назад. C++, сильная команда разработчиков и опыт создания глобального поиска. Но время шло, развивался мир и госуслуги, а поиск — нет. Разница в темпе развития привела к десяткам заплаток, состав команды сменился, документация устарела. Legacy-код повлиял на мотивацию и производительность. Время релиза услуги в поиске достигло суток. При обновлении Sitemaps старые услуги пропадали, новые не появлялись. Ранжирование задавалось вручную. Autocomplete не знал морфологии и не работал, если фраза содержала стоп-слова. Так мы поняли, что быстрее и правильнее создать новое.
Боль наших пользователей — техническая поддержка. Команда провела независимые замеры среднего времени ожидания оператора в чатах поддержки. Показатель по лидерам российского рынка — до 3 минут. А пользователи Госуслуг ждут помощи оператора 2 или 3 часа. При этом больше 60% обращений типовые. Так мы поняли, что Госуслугам нужен спасатель, который ответит без оператора.
Цель Робота Макса — сопроводить, поддержать и помочь. Найти услугу, рассказать о ней, объяснить, как действовать. И все это на понятном языке.
Из чего же, из чего же, из чего же
Рассказывать о Максе можно долго, поэтому, чтобы вы не заскучали, в этой статье я остановлюсь на ключевых компонентах. А также поделюсь схемой архитектуры, если вас заинтересует какая-то конкретная область — пишите в комментариях и мы раскроем её в следующих статьях.
Схему в высоком разрешении можно посмотреть по ссылке.
Системное логирование ведётся в LogStash, что позволяет наглядно изучать работу приложения в Kibana, с удобной фильтрацией и отображением графиков.
Анализ обращений пользователей к Максу показал, что 71% запросов это короткие фразы, длиной до 3 слов. 49% пользователей отправляют 1 слово, 14% - 2, 8% - 3.
Проверка концепции показала, что нейросеть из-за схожести домена услуги и полного названия услуги часто ошибалась при ответе. Средний уровень точности составлял 40%, что недостаточно для запуска в продуктивную среду. Было решено работу с нейросетью выделить в отдельный поток, чтобы найти ей оптимальное применение. Квизы показывали точность в 2 раза выше при том же времени на настройку. Чтобы сократить время поиска, квизы настроены на перехват запроса, поэтому при настройке используются основы слов, а не полное их значение. Для квизов был переиспользован плеер услуг, разработанный специально для новой версии портала. Это не только сократило время на встраивание, но и позволило заполнять услуги в интерфейсе Макса.
Первой концепцией было переиспользовать обратный поиск, который мы применяли на коротких запросах. Но для запросов такого типа он не показал достаточного уровня точности и занимал слишком много времени на обучение из-за длины фразы и количества ключей.
К индексу по телу статьи попробовали добавить заголовок, точность выросла до 45%, но и этого было недостаточно. Формулировки запросов расходятся с названием статей, заголовки услуг в различных доменах близки по названию, что мешает точному поиску. На брифинге возникла идея — добавить к каждой статье 5 скрытых заголовков, аналог разметки, отражающий вариативные запросы пользователей. Результат вышел отличный, точность ответа выросла до 92%.
Для проверки первой гипотезы был разработан классификатор на облаке слов с применением TF-IDF-меры. Он показал точность 80% и позволял в короткий срок встроить данные в ассистента. Для повышения точности классификатора была использована вышеупомянутая нейронная сеть на fastText. За счет обучения каждого класса на выборке из 500-1000 фраз пользователей и совмещения его с TF-IDF-классификатором точность выросла до 94%
Хайрез, как всегда, по ссылке.
Работа со статистикой
У Макса есть две основные метрики оценки работы — покрытие и точность. Покрытие означает насколько знания Макса соответствуют запросам пользователей. Точность — насколько правильно Макс отвечает на вопросы, которым его обучили. Для анализа этих показателей применяются методы предварительной кластеризации и ручная разметка. Частота обновления — от 2 до 4 недель. Резкие всплески отображаются на дашбордах, но методичное обновление метрик покрытия и качества позволяет отследить результат на длительном промежутке времени.
Первый шаг при анализе покрытия — выявить покрытие доменов в запросах пользователей. Какая доля фраз задается по услугам, которым Макса обучали, какая доля фраз по доменам, которым Макса не обучали, и какая доля запросов не является сутевой, например, мат, абракадабра или фразы приветствия. Каждый домен тщательно размечается и на выходе команда имеет список тем для обучения. Следующий шаг — разметка непокрытых вопросов внутри доменов, где обучали Макса и анализ распределения. Для дообучения в первую очередь берутся самые популярные услуги.
Пример покрытия знаниями Макса вопросов пользователей до проведения рефакторинга
Напоследок
О чем еще можно рассказать…
Например, как мы выявили нетривиальное поведение пользователей и сформировали классы для обработки таких запросов.
Как наши дизайнеры переработали внешний вид Макса и как мы встроили анимацию.
Как мы меняем работу с операторами.
Как мы обнаружили запросы пользователей о статусе своего заявления и как работаем с направлением персонализации и рекомендательным движком.
Как мы работаем над сохранением контекста диалога, чтобы быть еще ближе к пользователю и лучше его понимать.
Как мы проверяли гипотезы перехода к оператору.
Как мы работаем с инфраструктурой и системными компонентами.
Как мы развиваем предобработку.
Как организован процесс вывода навыков и как мы сократили время вывода с 5 дней до 24 часов.
Минцифры подтвердило, что в рамках беспрецедентной кибератаки на сайт Госуслуг под ударом преступников оказался виртуальный помощник пользователей - робот Макс.
Фото: Лилия Шарловская
"Отдельным объектом атаки являлся робот Макс", - подтвердили в Минцифры.
Хакеры заставили Макса транслировать фейки про коронавирус
В ведомстве отметили, что экспериментальный чат-бот не имеет доступа к персональным данным пользователей, его функционал ограничен только консультациями. К настоящему моменту Макс уже начал функционировать в обычном режиме.
В Минцифры добавили, что служба инфобезопасности госуслуг "переведена на усиленный режим работы".
Пандемия коронавируса
Роспотребнадзор: заболеваемость коронавирусом растет лишь в 6 регионах России
В Москве за сутки выявили 2 066 новых случаев ковида
В России выявили 97 333 новых случая коронавируса
Пандемия коронавируса
Роспотребнадзор: заболеваемость коронавирусом растет лишь в 6 регионах России
В Москве за сутки выявили 2 066 новых случаев ковида
В России выявили 97 333 новых случая коронавируса
Что еще почитать
Зеленский разочарован переговорами с Россией: нет нужного результата
Жириновский призвал Киев выполнить все условия Москвы
Во Франции обсуждается арест картин из российских музеев
Одну из украденных квартир актера Алексея Баталова заняли посторонние
Переговоры России и Украины завершены: заявления
В регионах
"Обворовывали, выгоняли, издевались": реальные истории, бежавших из Узбекистана калужан
Не прозвучавшие мнения: ученые объяснили, почему строительство Крапивинской ГЭС приведет к непредсказуемым последствиям
В деле попавших под уголовку бывших тагильских полицейских прослеживаются связь с миром криминала и конфликт интересов
Россию лишили права провести мужской ЧМ-2022 по волейболу
Минспорта начинает эвакуацию российских спортсменов из Европы
Лукашенко заявил, что Белоруссия не намерена участвовать в операции на Украине
Депутат Горелкин предложил заморозить лицензионные платежи Disney
Есть ли жизнь за МКАД: разбираемся в покупке новостроек
Самое читаемое
Военная операция России на Украине и Донбассе: онлайн-трансляция
Сюжет Фото Видео 1147378
Военная операция России на Украине, день второй: онлайн-трансляция
Сюжет Фото Видео 572100
Россия и Украина: онлайн военной операции 27 февраля
Сюжет Видео 481050
Автовзгляд
С 1 марта вступают в силу новые санкции за непройденный техосмотр
Разгром авторынка: россияне уверены, что Украина станет союзным государством
Чем украинский конфликт обернется для рынка подержанных автомобилей
Womanhit
Кадры недели: Поплавская представила публике невестку, а Мария Погребняк потеряла память после ковида
Благоприятные и неблагоприятные дни марта
Муж Глюкозы подтвердил, что думал о разводе
Охотники.ру
Многокилометровые следы крови на снегу привели домой к браконьеру
Сбитая Нивой и добитая нарушителями косуля привела к условному сроку
Минприроды КБР открывает весеннюю охоту
Московский Комсомолец
Читателям
Рекламодателям
у бота совести больше,чем у этих упырей млять
Алла,
Алла, откуда у упырей совесть? Ее нет в их "священном писании"
Светлана, да? тогда процитируйте мне,если вы православная,крещеная, 11 каноническое правило шестого Вселенского собора! я с нетерпением ожидаю вашего ответа. там ведь прямо указано кого отлучают и за что,да?
Алла, я хорошо знаю Слово Божье и Писание призывает к нравственности, справедливости, любви и милости.
Светлана, я вас попросила процитировать 11 каноническое правило шестого вселенского собора. не юлите. жду с нетерпением.
Алла, щас в инете посмотрит
Galina, пусть смотрит. могу даже подсказать где смотреть ей:азбука православия например.:) там подробненько все расписано. а гинцбург например и не скрывает,что он иудей. вот мне интересно, такие веруны,которые "хорошо знают" всё, совсем башкой не думают или все-таки у них есть зачатки мыслительных процессов?
Светлана, долго что-то ответа нет от вас. могу помочь: 11 каноническое правило шестого Вселенского собора гласит: Правило 11.
Никто из принадлежащих к священному чину, или из мирян, отнюдь не должен ясти опресноки, даваемыя иудеями, или вступать в содружество с ними, ни в болезнях призывать их, и врачества принимать от них, ни в банях купно с ними мытися. Если же кто дерзнет сие творить: то клирик да будет извержен, а мирянин да будет отлучен.
Показать полностью.
Аристен. Опресноки иудеев должны быть отвергаемы; а кто призывает их как врачей, или моется вместе, подлежит извержению.
Нет никакого общения у христиан с иудеями. Итак, посему кто окажется ядущим опресноки их, или призывающим их для врачевания, или моющимся вместе с ними, или сообщающимся с ними иным каким образом, тот, если клирик, должен подвергнутся извержению; а если мирянин – отлучению.
Славянская кормчая. Опресноци иудейстии отвержени. Призывати же врача их, или мыяся с ними, отвержен.
Толкование. Ни единого де несть христианом приобщения к жидом. Сего ради убо аще обрящется кто, тех опресноки ядыи, или врача их призываяи на цельбу себе, или мыяся с ними в бани, или инако како присвояяся к ним, аще убо есть причетник, да извержется. Аще ли же мирский человек, да отлучится
Читайте также: