Григорий Бакунов — визионер и один из главных в России экспертов по новым технологиям. В разное время он участвовал в работе над телемедицинским проектом «Яндекса», беспилотными автомобилями, распознаванием и синтезом голоса. Кроме этого, Бакунов — автор  популярного телеграм-канала про технологии addmeto. Reminder узнал у него, нужно ли бояться систем видеонаблюдения, с помощью которых власти следят за сидящим в карантине населением, можно ли бороться с распространением фейковых новостей об эпидемии, и как коронавирус заставляет технологические компании меняться.

— Московские власти заявили, что активно используют видеосистему распознавания лиц для борьбы с нарушителями карантина. Как это работает и насколько точен результат?  

— На самом деле мы не знаем, какие системы применяются в Москве. Мы в этом никак не участвуем, и об этом не говорят публично. Можно только предполагать, как они могут работать.

Как и в случае с камерами, которые следят за скоростью автомобилей, все это обычно делается не без человека. То есть, система выявляет нарушителя и сообщает, что это вероятно тот-то. Потом уже человек проверяет все и выписывает штраф. Без этого совсем не обойтись, когда случаются какие-то недоразумения, например, если на машине не читается номер. У человека с большой вероятностью получится узнать номер, он посмотрит на цвет машины, на записи в ГИБДД. Такая же история с людьми. Когда система указывает на человека, первое, что нужно сделать, проверить, действительно ли это тот человек и действительно ли он тут живет. Такие системы достаточно точные для того, чтобы среди тех нескольких миллионов людей, которые живут в Москве, находить совпадения с базой.

— То есть это те же суперсовременные системы, которые применяются в Китае?

— Мы можем судить исключительно по внешним наблюдениям и, видимо, это примерно такая же по качеству система, а, может быть, даже лучше, чем в Китае. В Китае свои сложности. Там города сильно больше, чем Москва, а все такие системы пока работают не на федеральном, а на региональном уровне. У нас население меньше, меньше выборки людей, легче находить нужного человека. Это позволяет надеяться на качество даже выше, чем там. Ведь как работает алгоритм? Он не определяет, кто этот конкретный человек, а определяет, грубо говоря, вероятности, что вот это лицо, которое ты сейчас показываешь на фотографии, с вероятность 99,8% — это этот человек, а с вероятностью 64% — этот человек. Чем меньше людей в этой базе, тем точнее она работает.

— А что известно про регионы? Там тоже такая система?

— Мы не знаем. Камеры есть почти во всех крупных регионах. Но вопрос в их количестве. Для того, чтобы система работала эффективно, камер должно быть много. Судя по всему, их много в Москве, есть какое-то количество в Санкт-Петербурге, в Казани. Все такие установки начинаются с камер на дорогах, постепенно этими камерами оборудуют дворы, подъезды и так далее. При этом камеры могут быть очень разными. В Москве есть камеры, которые смотрят на выход из подъезда, и камеры, которые находятся довольно высоко, и наблюдают за ситуацией во дворе. Что это дает? Когда человек входит или выходит из подъезда, можно увидеть его лицо, а дальше вести его через камеру общего наблюдения и знать, куда он дальше пошел. Ровно такая же система, если я ничего не путаю, применяется в Лондоне. Применяется очень эффективно. 

— Насколько, на ваш взгляд, оправданно использование такого рода систем слежения в ситуации эпидемии?

— Судя по тому, как вы задаете вопрос, вы человек достаточно либеральный. Давайте я вам задам ответный вопрос. Вы бы сами, что предпочли: чтобы за вами смотрели камеры или чтобы у каждого подъезда стоял охранник? Я камеры выбираю, честно говоря.

— Согласна.

— Многим это техническое решение кажется очень страшным: «Боже мой, за мной следят!» Но, на самом деле, альтернатива-то ужасная: поставить живого человека непонятной квалификации и непонятных личных качеств, который будет за вами следить. Эта система молчит, не пытается взять с вас взятку, не пытается имитировать бурную деятельность и спрашивать у вас документы. Эта система стоит, ничего не делает, пока никому даже не вредит — мы даже не знаем, используют ли ее в реальности для того, чтобы обнаружить нарушителя, или это просто доказательная база после того, как нарушитель уже пойман. Прямо сейчас она работает уникальным образом: те москвичи, которые не хотят соблюдать карантин, остаются дома, потому что боятся камер. Мне кажется, что это идеальное решение сейчас.

— Я продолжу задавать вопросы как человек достаточно либеральный. Есть ли опасность, что эта слежка продолжится, когда необходимость в карантине отпадет?

— Давайте потеоретизируем. Эта система, действительно, в первую очередь нужна  для поиска преступников. Чтобы вы понимали, обычно они не работают в режиме онлайн, то есть когда Василий Васильевич Пупкин вышел из подъезда и куда-то движется, никому не посылают сигнал об этом. Они работают в обратном режиме. Когда кто-то совершает преступление, и это видно на записи, можно эту запись найти и промотать до и после. Cистемы видеонаблюдения, в первую очередь, предназначены для этого. При этом каждая операция распознавания лица очень дорогая. Давайте для простоты скажем, что распознавание лица стоит 1-2 цента. В Москве живет 12 миллионов человек, чтобы система распознавала всех этих людей хотя бы раз в час, нужно в сутки потратить почти $6 млн. Теперь посчитайте, сколько это будет за год, это невероятно дорогая система. Именно поэтому можно предположить, что в режиме реального времени за всеми сразу никто не будет следить. Это очень дорогая по ресурсам технология, это деньги, которые тратятся на электроэнергию, по большому счету. К тому же эта система будет требовать огромный дата-центр — настолько большой, что мы бы все про него знали.

То есть вряд ли все жители города будут находиться под слежкой. А вот проследить за каждым конкретным человеком можно было, как мы знаем из уголовных дел последних лет, и до эпидемии — эпидемия ничего нового нам в этом плане не принесет. Но я искренне надеюсь, что из-за того, что стали чаще упоминать эти камеры наблюдения, люди начнут чаще просить у государства задействовать камеры для поиска преступников. Если вы не знаете, то в Москве, если у вас что-то произошло, поцарапали машину во дворе, например, вы имеете полное право пойти в милицию и запросить данные с камер. Хотя бы для того, что они в милицию попали для дальнейшего разбирательства. Я думаю, что общество как минимум начнет давить на дорогое государство: если ты выстроило такую систему, давай-ка мы тоже будем ею пользоваться. В конце концов, государство — это мы, в каком-то смысле.

— Да, система построена на деньги налогоплательщиков. 

— Да, камера во дворе стоит на мои и на ваши деньги.

— Сейчас говорят, что в мире помимо эпидемии коронавируса происходит так называемая инфодемия — на волне паники и страха в мессенджерах очень быстро распространяются различная фейковая информация. Можно ли с этим бороться, не ограничивая свободы слова?

— Самая большая проблема распространения фейковых новостей заключается в том, что когда эта новость приходит, вы не знаете, фейковая она или нет. Один человек написал другому человеку, что у него есть знакомая, которая работает в консульстве Франции, которой разослали документ, что вирус умирает при 27 градусах. Как вы можете запретить людям подобную ерунду? Мне кажется, никак. Единственное, на что можно надеяться — что вся текущая инфодемия выработает у людей иммунитет на сообщения, которые подтверждены ложными авторитетами. «Моя знакомая, у которой есть знакомый». С другой стороны, за прошедшие столетия у человечества никакого иммунитета на слухи не выработалось.

— А как вы оцениваете усилия соцсетей в попытках ограничить распространение недостоверной информации? Например, фейсбук ограничил возможность публикации новостей о том, что найдено некое лекарства, которое 100% поможет вылечиться от вируса.

— Самое активное распространение, с позволения сказать, новостей, идет в мессенджерах, в которых подобная борьба почти невозможна. Встраиваться внутрь переписки обычных людей — этически невозможно. Неслучайно в популярных мессенджерах даже рекламы нет, потому что это воспринимается как private space. То ли в WhatsApp, то ли в мессенджере фейсбука попытались модерировать ссылки на телеграм-каналы, и это очень быстро откатили, потому что народ начал возмущаться. Причем не тем, что блокируется телеграм, а тем, что редактируются ссылки. 

Единственный способ ограничивать быстрый рост таких сплетен нашли в Индии. Там в какой-то момент ввели правило: если вы в WhatsApp получили какую-то ссылку, вы ее не можете отправить более чем 20 людям. В остальном, никто ничего нового не придумал, к сожалению.

— Следующий вопрос довольно личный. Многие годы у меня было ощущение, что мы живем в эпоху технооптимизма. Новые технологии развиваются так быстро и так круто, что это обеспечивает человечеству некую стабильность. Но с началом эпидемии появилось ощущение, что этот технооптимизм был надуманным и на самом деле технологии не развились до такой степени, чтобы обеспечить человечеству выживание. Это ощущение имеет под собой какие-то реальные основания? 

— Сейчас будет личное мнение. Я никогда не был особенным оптимистом, потому что я довольно глубоко погружался в темы здравоохранения и медицины. И странно это говорить, но здравоохранение и медицина — это, наверное, самая медленно развивающаяся область в современном бурно растущем мире. Причина в том, что медицина очень долгое время была сосредоточена не на доказательном научном подходе, а исключительно на споре наблюдений о том, что же такое человек и как он живет. Она и сейчас в чисто академическом виде не является наукой, потому что в основе естественно-научного подхода — воспроизводимость эксперимента. Что такое наука? Наука — это система, которая описывает некий набор экспериментов, которые воспроизводимы при любых условиях. Мы настолько мало знаем про человека, что описать эксперимент, который был бы воспроизводим, пока не представляется возможным. Давайте пример приведу. Если два человека встречаются, и один из них болен гриппом, то вероятность того, что один заразит другого составляет 0,8%, но это очень низкие числа. Мы не можем с достаточной степени уверенности говорить, что цифры именно такие. То есть проблема не в технологиях, проблема в том, что мы очень мало знаем пока о человеке. При этом тот технооптимизм, который был, показывает, что мы пытается компенсировать наши проблемы с медициной разными другими областями, иногда успешно. 

Посмотрите, например, на Сингапур, в котором работает система, оповещающая, что, возможно, ты общался с человеком, у которого позднее был диагностирован коронавирус. Она заработала очень рано и  довольно хорошо. В Сингапуре тоже карантин, тоже слежка, тоже приложение, но эти технические средства очень сильно помогают. Другое дело, что спасения на 100% нет, потому что человечество придумало способы борьбы лишь с одним вирусом — с оспой. Мы знаем, что такое вирус, как они распространяются, как действуют на организм, но мы так и не придумали пока ничего для борьбы с вирусами.

В книжке Нассима Талеба «Антихрупкость» есть интересный философский заход, что природа сама по себе — недобрая. Мы живем в достаточно агрессивной среде, так было всегда. Нам нужна эта агрессивность, чтобы становиться лучше и эффективнее. Есть шансы, что в следующем году эпидемия вернется, но мы не увидим такого большого количества смертей, потому что мы наработаем опыт, подготовим технические средства и сдержим распространение.  

— О каких технических средствах вы говорите?

— Как раз те самые системы трекинга, как люди перемещаются по городу, как именно они контактируют друг с другом, какими услугами они пользуются и так далее. Раньше все системы отслеживания и перемещения были не привязаны к человеку, они следили за массами. Но в условиях пандемии оказалось гораздо важнее проследить, какие люди ехали друг с другом в одном автобусе. И для этого используются совсем другие технологии. 

В каких-то странах, чтобы войти в автобус, нужно поставить специальное приложение и продемонстрировать, что оно у тебя есть. Это приложение с помощью блютуса определяет всех людей, которые находятся вокруг тебя, и потом, если у одного из этих людей находится коронавирус, то в его приложении включают галочку «у меня коронавирус», и все люди, с которыми он контактировал, получают подобное извещение — ты контактировал с инфицированным человеком. Это очень простое техническое решение, но для того, чтобы его ввести, чтобы люди начали этим пользоваться, нужен был повод, потому  что до этого мы хватались за прайвеси, за нашу частную жизнь. В реальности же приватная жизнь — это пережитки прошлого. Чем старше человек, тем больше он заботится о частной жизни. Это не потому, что подростки в 14 лет такие глупые, а потому что они всю жизнь прожили в мире, где кругом социальные сети, и они не опасаются никакой слежки, им это не очень важно. Следят, и хорошо. Главное, чтобы везде допустили.

— Какие еще технологии перспективны в условиях эпидемии?  Например, в Китае пробовали использовать роботов для забора анализов у больных Covid-19, чтобы медработники могли реже с ними контактировать и подвергаться риску заражения.

— Все те технологии, которые в последние годы развивались, сейчас применяются. Там, где можно использовать роботов — они используются. Это же уникальная возможность не контактировать с живым человеком. Но вообще особенно активно технологии применяются не для забора биоматериалов, а для ускорения обработки анализов. Та единственная метода, с помощью которой сейчас выявляется новый коронавирус, — ПЦР-анализ мазка из носоглотки вероятного больного, — очень медленная и требует большого объема ручной работы. Потому что до сих пор этот вид анализов в истории человечества массово не производился. В других областях диагностики, где нужно было проверять большое количество людей, процессы уже давно автоматизированы. Поэтому перспективны системы компьютерного зрения, которые способны автоматически распознавать на снимках легких воспаления с характерными для коронавирусной инфекции признаками, и сделать заключение о наличии или отсутствии заболевания. Причем, в отличие от живого врача такие системы могут обработать огромное количество снимков за достаточно короткий срок. И это помогает быстрее ставить предварительный диагноз и начинать лечение. Если у кого-то имеются такие разработки — они идут в ход. Пример: в Сколково есть ребята, которые называются Botkin.AI. Они как раз создают как раз систему компьютерного зрения для медицины и сейчас бегают по медучреждениям и говорят им: «Мы научились распознавать очаги поражения инфекцией. Берите и пользуйтесь». Кое-кто уже берет и пользуется. 

— То есть, у нас в стране есть медучреждения, которые используют разработанную у нас же в России технологию компьютерного зрения? 

— Да. За пределами России, правда, эта технология для анализа снимков легких применяется гораздо шире. Особенно в странах с большим, чем у нас, количеством легочных заболеваний. Но надо понимать, что наличие системы компьютерного зрения в диагностике не исключает из процесса человека. Технологии только ускоряют и облегчают его работу. Если алгоритм обнаружит очаг с воспалением в легких, это будет сигналом врачу, чтобы он внимательно посмотрел на снимок свои живым глазом и сам поставил окончательный диагноз. Система в одиночку это сделать не может. Не из-за технических, а из-за юридических ограничений. По закону, мнение о здоровье одного человека должен высказать другой человек. Мы самим себе пока доверяем больше, чем компьютеру. Это не всегда оправданно, но люди так устроены.

— Насколько точно системы компьютерного зрения на нынешнем их этапе развития способны обнаружить на снимках признаки заболевания? 

— Правильнее было бы сформулировать так: эти системы лучше или хуже живых врачей? Я думаю, что они сейчас способны распознать заболевание также хорошо или даже чуть лучше, чем среднестатистический врач. А значит, внедрение этой технологии в систему здравоохранения приведет к тому, что средний уровень качества медицинской услуги увеличится. Но по сравнению с суперпрофессиональным врачом системы компьютерного зрения безусловно хуже. Пока. 

— Что происходит в немедицинских сферах? Мы видим, как некоторые технологизированные отрасли сейчас идут в рост. Это сервисы для связи и доставки. Будут ли у эпидемии другие бенефициары?

— Вы думаете, кто-то от творящегося сейчас выигрывает? На самом деле, сервисы ведут себя в нынешних условиях просто невероятно. В нормальном режиме все как работает? Вот есть сервис такси, например. Если спрос растет настолько, что мы не успеваем развозить всех желающих, то система автоматически поднимает цену на поездку. Те, для кого становится слишком дорого, отсекаются — и у нас появляется возможность развезти оставшихся. Так система самобалансируется и зарабатывает больше. Но в текущих условиях все заморозили увеличение цен при повышении спроса. Точно также, насколько я знаю, все, кто занимается доставкой, работают сейчас по модели, близкой к себестоимости. Это невыгодно. Единственно, с точки зрения маркетинга нынешняя ситуация может принести пользу в будущем. Да и то, вот даже сервис Zoom, с помощью которого мы с вами общаемся...

— У них капитализация как раз выросла. 

— Но не настолько существенно, как может показаться. Да, у них в момент в разы стало гораздо больше пользователей. Но самый важный вопрос: а какой процент из них останется с Zoom, когда карантин закончится? Я не знаю. Поэтому назвать эту компанию бенефициаром ситуации нельзя. Вообще если по-честному, я думаю, что происходящее сейчас не выгодно никому. Кроме фармкомпаний — если у них получится придумать вакцину или набор препаратов, которые облегчают симптомы. Но даже для них это будет довольно тяжело, потому что нельзя делать деньги на беде, понимаете. Давайте пример «Яндекса» возьмем. Казалось бы, миллионы людей сидят дома. Пользуются «Кинопоиском», заказывают что-то в «Яндекс.Маркете» и «Яндекс.Еде». В крайнем случае, из точки А в точку Б ездят на «Яндекс.Такси». Спрос вырос — «Яндексу» сплошная прибыль. Но одновременно же с этим компания тратит безумные деньги, чтобы помочь государству и людям. Я вот сейчас очень заспанный, потому что сегодня мы запускаем вещание одиннадцати интернет-каналов со школьными уроками, которые будут вести живые преподаватели. Вы не представляете, сколько это стоит. 80 человек безостановочно неделю сидели и организовывали вещание, и будут продолжать работать также до конца мая. Делаем мы это совершенно бесплатно, рекламы на наших каналах нет. И так поступаем не только мы. В условиях эпидемии все крупные IT-компании вдруг стали такими суперсознательными, что мне страшно становится. Серьезно, я был удивлен, как быстро все вокруг решили, что невозможно зарабатывать в этот период, а нужно людям пользу приносить.

— Никто не зарабатывает. А технологический рост в немедицинских отраслях сейчас происходит? Или каких-то важных технологических прорывов из-за эпидемии и экономического кризиса, который она вызвала, теперь не случится?  

— Не знаю, заметили вы или нет, но бизнес уже начал вымирать. 

— Еще как. 

— Для меня самая большая потеря — компания OneWeb. Это те ребята, которые хотели организовать для всего мира дешевый спутниковый интернет. Они в конце марта обанкротились. То же в ближайшем будущем, очевидно, произойдет и с многими другими. Экономика же устроена как карточный домик. Вот рядом с вами закрывается ресторан, оставшийся без клиентов, которые сидят в карантине. Это может привести к банкротству кредитующего его банка. И у какой-нибудь технологической компании, которая тоже там кредитуется, начнутся серьезные финансовые проблемы. Кто-то из них не выплывет. 

Но при этом я наблюдаю параллельный процесс. Знаете, ходит шутка, что этот карантин приведет к буму рождаемости. Но одновременно вместе с этим, я уверяю вас, будет и бум научных работ вообще никак не связанных с эпидемиологией и вирусологией, случится много технологических открытий. Сейчас — вот буквально в последние несколько недель — появляется огромное количество новых стартапов. Сходите на Product Hunt и посмотрите на списки проектов, которые запускаются — глаза разбегаются. Дело в том, что в первые несколько месяцев жизни стартапу не всегда нужно внешнее финансирование, да и вообще существенные вложения. Все делается на личном энтузиазме. Вот, видимо, люди, сидя дома, сейчас на этом самом личном энтузиазме начинают придумывать и запускать интересные вещи. 

Причем, многие эти проекты — небольшие, но они идут в каком-то совершенно неожиданном направлении. А когда человечество двигается в неожиданных направлениях, там часто находится что-то, что радикально меняет жизнь всего мира. Помните, еще десять лет назад тем, кто занимался системами на нейронных сетях, все вокруг твердили: «Ну на какую фигню ты тратишь время. Это никогда работать не будет». Но десять лет прошло, и вдруг оказалось, что нейронные сети отлично работают. Если говорить глобально, есть шанс, что человечество как сложную интеллектуальную систему эта эпидемия продвинет вперед.  

— Есть такой известный общественный страх: развитие искусственного интеллекта приведет к тому, что большое количество людей останется без работы. Не ускорила ли эпидемия приближение этого момента?

— Эпидемия и кризис, скорее, отодвигают приближение этого момента. Смотрите, общее правило: технологии заменяют человека в тех отраслях, где это приводит к росту экономической эффективности. А сейчас ситуация такая: кризис, вызванный эпидемией, оставит без работы многих специалистов. И они начнут заниматься менее квалифицированным трудом. Станут, например, таксистами. И чем больше людей начнут водить такси, тем менее выгодно будет их заменять, скажем автомобилями с автопилотом. Потому что чем больше народу на рынке труда, тем дешевле рабочая сила. Так сейчас какое-то время будет происходить везде. Потом, когда экономика восстановится, начнется откат. Люди смогут вернуться к более интеллектуальной работе. А в менее интеллектуальных процессах снова станет выгодно использовать технологии. 

Вот что еще важно. Человечество много раз переживало апокалипсисы разного масштаба из-за внедрения новых технологий. Например, в 1960-х в Лондоне случился смог, и печи запретили топить углем, домохозяйства стали переходить на более современные системы обогрева. Десятки тысяч трубочистов и печников остались без работы. И ничего, через год все эти люди уже куда-то трудоустроились. Тут будет такая же история. Сейчас все системы искусственного интеллекта, как бы круто они ни были устроены, требуют обучения, накопления в них данных — этим занимаются живые люди. И поэтому,  если так случится, что будет создан, например, совершенный автопилот и живые водители окажутся не нужны, им все равно будет чем заняться. Они будут пить чай с утра, садиться за компьютер, оборудованный рулем — и заниматься обучением этого самого автопилота: показывать ему, как вести себя в разных ситуациях на дорогах. 

— Можете ли вы дать какой-нибудь совет по технологической безопасности людям, которые соблюдают сейчас режим самоизоляции? 

— Я странное могу посоветовать. Подключите себе домой второго интернет-провайдера. Конкуренция даже в рамках одной отдельно взятой квартиры — страшное дело. Когда двум продавцам услуги приходится за вас бороться, это всем идет только на пользу. Продавцам — потому что им приходится развиваться и придумывать новые предложения, чтобы перетянуть на свою сторону клиента. Клиент — потому что он получает более качественные услуги. По-моему, сейчас идеальный момент это организовать — и заключить договор со вторым провайдером. Велика вероятность, что интернет у вас станет гораздо быстрее и надежнее.

— Потому что всем в карантине нужна стабильная связь с внешним миром? 

— Ну да, конечно. Интернет сейчас — то, что позволяет хоть как-то нам всем работать. Я не понимаю, что сейчас делают люди, у которых нет доступа к нему. Мне их очень жаль.