Игорь Ашманов: «Начинается какая-то чудовищная антиутопия в реальности»
Куда нас заведут искусственный интеллект и монополии типа «Яндекс.Всё» и «Сбер.Всё»?
«Как ни странно, ИИ не освобождает труд, а закрепощает еще сильнее. Одни люди используют электронный хлыст, чтобы хлестать других людей с целью выжать больше денег», — говорит президент компаний «Ашманов и партнеры» и «Крибрум» Игорь Ашманов. Он рассказал «БИЗНЕС Online о том, что «уберизация» экономики лишает людей защиты, тотальная слежка — уже реальность, «цифровое бессмертие» — плохая идея, а через 15 лет Россию могут уничтожить сверхоружием на основе ИИ.
«В ЛЮБОМ СМАРТФОНЕ ДЕСЯТКИ ПРОГРАММ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА»
— Игорь Станиславович, хочется начать нашу беседу с цитаты руководителя лаборатории машинного обучения «Яндекса» Александра Крайнова. Он говорит: «Про искусственный интеллект говорят и пишут очень много. Заголовки почти всегда стараются сделать максимально эффектными, что, увы, приводит к неправильному пониманию того, что такое искусственный интеллект. Для многих ИИ — это пока что-то вроде чуда, с ним связаны различные заблуждения, страхи, надежды и фантазии. Так что же такое искусственный интеллект?
— Если брать техническое определение, а не голливудские выдумки, то ИИ — это такой набор алгоритмов, программных правил, методов оптимизации, машинного обучения и так далее, который позволяет машине имитировать некоторые когнитивные (то есть умственные) функции человека. Именно имитировать.
При этом, есть такая специфическая романтика ИИ, которую привносят разнообразные книжки про ИИ, фильмы про человекоподобных роботов, и так далее, которая обычно касается нерешённых задач искусственного интеллекта.
Как только задача имитации какой-то конкретной когнитивной функции решена, романтический флёр с неё сдувается, ей тут же начинают пользоваться в быту, и большим художникам это становится уже не интересно, нет драмы. Вот робот, который совсем-совсем как человек…
Вообще программой искусственного интеллекта можно назвать любую компьютерную программу, которая автоматически анализирует какие-то данные и принимает решения. Например, если у вас жилой дом или офисное здание имеют много этажей и несколько лифтов, то ими, конечно, управляет программа искусственного интеллекта. Ей надо понять, где какие лифты, где уже люди едут, какой вам лифт прислать, если вы нажали кнопку вызова, или какой и где остановить, чтобы оптимизировать время подачи и доставки. Вокруг нас уже есть своеобразное облако бытового искусственного интеллекта.
— Уже есть?
— Да, конечно, уже есть, причём десятки лет, поскольку заниматься этим люди стали уже довольно давно. Лично я пришел после вуза в отдел искусственного интеллекта Вычислительного центра Академии наук в 1983 году. Вычислительный центр АН СССР — это был такой большой академический институт на 500 с чем-то сотрудников. Он и сейчас существует в Москве, на улице Вавилова, дом 40. Там был Отдел искусственного интеллекта, которым руководил Гермоген Сергеевич Поспелов — академик, глава Совета по искусственному интеллекту при Академии наук. То есть к 1983 году ИИ уже разрабатывали много лет, и уже было довольно многое сделано.
Движуха в нашем ВЦ шла вовсю — в соседней с нами комнате делали распознавание речи, в другой диалоговый процессор, в третьей — развивали антивирус «Доктор Веб», в четвёртой Пажитнов делал игру «Тетрис», в пятой Веселов писал редактор «Лексикон» и так далее. В нашем отделе занимались, в частности, анализом речи, анализом текстов и анализом чертежей. Уже тогда в ВЦ АН была работающая система, которая находила размерные линии, считывала размер, отделяла друг от друга разные детали, и так далее. В это же время по всей стране делали системы управления, автоматической посадки и т. п.
То есть этим всем в нашей стране занимаются уже довольно давно. Вот Гермоген Сергеевич Поспелов, академик, боевой генерал, который участвовал в Великой Отечественной войне, ныне уже покойный, занимался ИИ ещё в годы ВОВ — а именно, автоматической посадкой самолётов на аэродром. И если вы помните, наш космический челнок «Буран» в ноябре 1988 года летел и садился в полностью автоматическом режиме, с точностью до 1 секунды и полутора метров полосы, им управлял искусственный интеллект. В любой крылатой ракете с момента их появления есть искусственный интеллект. Другое дело, что в некоторых случаях (например, в системе С-300) этот ИИ мог быть в некоторых подсистемах не цифровой, а аналоговый. То есть, условно говоря, там вместо модных сейчас нейронных сетей, машинного обучения или каких-то цифровых алгоритмов, написанных на языке программирования, использовалось что-то другое — аналоговым способом решались дифференциальные уравнения. Но это неважно, важно, что крылатая ракета вот уже 50 лет как распознаёт по фотографиям местность, и летит на небольшой высоте туда, куда ей задано, а С-300 автоматически наводится на многие цели сразу.
— То есть не «пройдёт время — и технологии искусственного интеллекта станут такой же привычной частью жизни, как лампочка и розетка», а они уже ими стали, просто мы об этом не задумываемся и воспринимаем как должное?
— Да. «Бытового» искусственного интеллекта уже очень много вокруг нас. Скажем, в любом смартфоне десятки программ искусственного интеллекта. Там есть распознавание пальца, распознавание лиц по фотографии, сейчас в последней модели смартфонов от Huawei или Samsung вы наводите камеру, а она вам пишет: «люди, зелень, снег, вода, зима, осень», и так далее. То есть там стоит «распознавалка» объектов, пейзажей, сезонов и т. п. Есть «болталка» — Алиса, «Ок, Гугл» или какая-то другая. И так далее. В каждом таком смартфоне или компьютере есть, к примеру, программа проверки правописания. Лично я занимался этим довольно много. Как раз в Вычислительном центре АН СССР мы сделали эту программу, которая сейчас работает в каждом русскоязычном Microsoft Office. Мы впервые её выпустили в 1988 году.
Это иллюстрация того, что когда что-то уже сделано, оно не вызывает никакого восхищения, трепета или ужаса, его просто перестают замечать. Работает, мы все пользуемся, ну понятно, что тут такого.
Алгоритм Т9, который есть у всех на смартфонах, сокращает время набора и мучает внезапными дурацкими подстановками слов — тоже довольно сложный искусственный интеллект. Поисковик «Яндекса» — мощнейший искусственный интеллект, гигантский, в который ежемесячно вкладывается труд 500-600 человек.
Антивирус Касперского — тоже искусственный интеллект, потому что вообще любая программа распознавания — это искусственный интеллект, а антивирусная программа должна распознавать разнообразнейшие вирусы и трояны, которых в год пишется несколько миллионов. Это очень сложный искусственный интеллект.
У каждого есть в смартфоне «Яндекс.Карты» и «Яндекс.Навигатор» — это сложные программы искусственного интеллекта, которые за человека выбирает маршрут. Тут так же, как с проверкой правописания — 50 лет назад это могли делать только очень образованные люди, а сейчас это делает любое устройство. То же самое с прокладкой маршрута. Это довольно сложная задача даже для опытного водителя, знающего город, где какие пробки, возможные объезды, развороты и ремонты, а это сейчас за секунду-две делает ИИ, и к этому все привыкли.
— Это уже решенные задачи ИИ, которые стали частью нашей жизни. Но есть же ещё масса не решенных.
— Да, на другой стороне, где ещё сохраняется эта романтика и страх перед машиной, есть нерешённые задачи искусственного интеллекта, которые сейчас пытаются решить. Это происходит всю историю ИИ — переползание задачи с одной стороны на другую, в категорию решённых.
Скажем, распознавание лиц было такой совершенно непонятной и нерешаемой задачей десять лет назад. Какие-то программы распознавания лиц делались, но они работали плохо, с большим количеством ложных тревог. В 1990 и 2000 годах были попытки поставить камеры и распознавание лиц в аэропортах и по городу (в Лондоне, Атланте и т. п.), их через несколько месяцев везде в ужасе отключили — было столько ложных обнаружений «преступников», что отделы полиции захлебнулись. А сейчас, спустя 15-20 лет, после появления новой техники (графических карт) и глубоких нейронных сетей, это делают повсеместно, всё работает.
Распознавание тематики текста 20 лет назад было серьёзной задачей. Распознавание объектов на фотографии — сейчас практически все интернет-сервисы и гигантское количество интернет-программ распознают живые и неживые объекты. Узнают кошку, собаку, человека, и так далее, и это уже кажется тривиальным. Десять лет назад, когда я пытался нанять лучших в России специалистов по распознаванию образов, они не брались это сделать. Они брались распознавать лица, потому, что известно, что такое лицо, а любую кошку автоматически назвать на фотографии кошкой они не брались. Потом, где-то 8 лет назад произошел прорыв в нейронных сетях, и объекты на фотографиях и видео стали распознавать. Это в некотором смысле уже ширпотреб сейчас.
Сейчас не решена пока задача нормального диалога на естественном языке с машиной. Машина сейчас не может поддерживать связный диалог, держать фокус, понимать необычные вопросы. Хотя тема чат-ботов модная, чат-ботов предлагают много, которые как бы говорят (в том числе голосом — задача синтеза и анализа речи в общем, решена), но обменяйтесь с ботом хотя бы несколькими связанными репликами — и вы поймёте, насколько он всё ещё тупой.
Не решена задача хорошего, настоящего перевода, машинного перевода с языка на язык, хотя сейчас за счет тех же нейронных сетей машинные переводы стали довольно гладкими. Они стали намного лучше, чем 25 лет назад, когда я этим занимался.
— Я лично столкнулся с машинной расшифровкой диктофонной записи текста. Это же просто ужас. Проще всё это сделать вручную, чем потом исправлять ошибки за машиной.
— Это отдельная интересная история про порог использования системы ИИ. Когда мы делали проверку правописания, мы понимали, что у неё есть порог использования, потому, что реальных ошибок на странице всего несколько — от 2-3 до 4-6. Если у системы будет больше неизвестных слов, то есть ложных срабатываний, лишних «подсветок», чем реальных опечаток на странице, никто не будет использовать. Нужно было преодолеть этот порог, добиться такой полноты словаря, чтобы у системы не оказывалось не более 1-2 неизвестных ей слов на странице. С машинным переводом такая же история. До какого-то момента переводить текст, например, с английского на русский было выгоднее просто с нуля. Потому что переводчику нужно было нажать меньше клавиш при переводе с нуля, чем при исправлении корявого результата машинного перевода.
Но сейчас этот порог преодолён, и тут же произошла другая ужасная вещь — сейчас стало невозможно заказать чисто человеческий литературный перевод. Качество перевода — резко упало. Сейчас все, даже самые дорогие переводческие конторы, которые называют себя супер-специалистами, вначале дают текст перевести машине, а потом человек дорабатывает то, что получилось. По сути, ты платишь только за качество «выглаживания» машинного перевода. Фрилансер подсунет вам сырой результат, прямо со всеми глупостями МП, переводчик из бюро всё-таки как-то подчистит косяки МП. Все используют Google или «Яндекс», в результате в тексте всегда видны артефакты — следы машинного перевода. И эти «косяки» плохого машинного перевода вылезают даже после перевода тех, кто утверждает, что от начала до конца это переводил человек. МП всё равно делает ляпы, заговаривается, подставляет не те значения, а те, кто выглаживает текст после МП, уже даже не заморачиваются полезть в словарь и проверить странное место. Машинный текст перевода стал настолько относительно хорош (оставшись плохим), что его выгоднее «докрутить», чем делать перевод человеком от начала и до конца. В итоге этому искушению не может противостоять ни одно, даже самое крутое переводческое бюро, даже самое пафосное. Так экономика вместе с ИИ сожрала или «перепрошила» человеческих переводчиков.
Так вот, у упомянутых вами программ, которые транскрибируют свободную звуковую речь, пока этот порог, похоже, не преодолён. Примерно каждое третье-четвёртое слово не соответствует тому, что было действительно сказано (это легко видеть в автоматических титрах на YouTube), и править в итоге такой текст на сегодняшний день более трудозатратно и долго, чем обработать его вручную, без использования машины.
Этот порог использования в ИИ есть везде. В очень многих программах, которые как бы демонстрируют отличную работу, на самом деле этот порог не преодолён. Он не преодолён в диалоговых ботах, он не преодолён, как мне кажется, в дистанционном образовании. Он по многим параметрам не преодолён в беспилотниках. Беспилотники пока на улицы не выпускают.
«произойдёт дальнейшая монополизация, своего рода «Яндекс.Всё» или «Сбер.Всё»
— Я уже упоминал надежды и фантазии, связанные с искусственным интеллектом. Что в них имеет под собой реальную основу, а что не реализуемо в обозримой перспективе или в принципе?
— Про всех людей вообще, которые что-то думают и фантазируют себе по поводу искусственного интеллекта, я сказать не могу. Есть, так скажем, категории людей, которые с искусственным интеллектом, так или иначе, соприкасаются, не считая массового пользователя. Это разработчики ИИ, которые смотрят на него очень практически, скучно, прагматично, они делают системы искусственного интеллекта, они понимают, что у этого продукта есть определённый уровень качества, условно говоря, полнота и точность того, что он делает, порог использования.
Почти все элементы ИИ — это системы распознавания, у них основные критерии качества — полнота и точность (то есть степень распознавания всех нужных явлений и уровень ложных срабатываний). У этих людей нет особых романтических иллюзий по поводу того, что они делают, как в известном стихотворении Анны Ахматовой: «Когда б вы знали, из какого сора, растут стихи, не ведая стыда», потому что они знают, что там «под капотом». Часто, если заглянуть внутрь работающей системы, которую прямо вот используют массово, там будет ужас — ужас — ужас. Огромное количество дыр, «заплат», «костылей», временных решений, тем не менее, ИИ работает, результат какой-то даёт и в целом выполняет свою задачу.
Есть так называемые «евангелисты» искусственного интеллекта (хотя это неудачное название, эти инфоцыгане с настоящими евангелистами не имеют ничего общего, но оно прижилось на Западе), которые рассказывают, как от ИИ всё скоро заколосится, зацветёт, как всё будет идеально, как ИИ будет делать буквально всё, вот тогда-то заживём и т. п. Как правило, в этом амплуа выступают не технари, а журналисты, банкиры, маркетологи, всякие гуманитарии, которые некритично пересказывают басни своих технических подчинённых.
Есть ещё более адекватные гуманитарии, которые пытаются всё это осмыслить. Они пишут книжки-утопии или антиутопии, снимают фильмы про ИИ, в первую очередь — в Голливуде. Но почти во всём, что они делают, конечно, огромный разрыв с реальностью. Там, к большому сожалению, ещё есть разрыв вот в чём: очень умные люди, писатели-фантасты высокого класса, в пятидесятые-шестидесятые годы все эти проблемы, связанные с искусственным интеллектом, уже разобрали. Шекли, Брэдбери, Саймак, Азимов и другие всё возможное будущее систем ИИ уже принципиально разобрали и очень наглядно описали. К сожалению, современные «евангелисты», похоже, ничего этого в детстве и юности не читали и фантазируют с нуля, а ноль у них расположен довольно низко.
Скажем, есть типовые басни «ИИ-евангелистов» о том, как будет развиваться интернет и искусственный интеллект, которым уже, наверное, лет 30. Это уже просто маркер такого безграмотного «евангелиста», таких маркеров много. Например: «Ура, холодильник скоро будет умным, он будет соединён с интернетом, будет смотреть, когда у вас заканчиваются продукты, то сам станет их через интернет заказывать, и вам их будут доставлять. Таким образом, холодильник у вас будет всегда полон, потому что он будет умный и будет следить за вашим питанием за вас». Эту дурацкую выдумку рассказывают уже лет тридцать. Таких холодильников по-прежнему нет (точнее, такие стартапы даже запускали, ничего не вышло), и я думаю, что их не будет. Просто потому, что они никому не нужны. Большинство людей не захотят есть то, что им назаказывает искусственный интеллект.
Другая ИИ-басня — о том, как ваш персональный ИИ-агент сам подберёт вам страну и отель для отдыха. Но большинство людей хотят сами всё это подбирать и не хотят ехать куда-то по чужому, даже самому умному выбору.
Не взлетела виртуальная реальность, несмотря на крайнюю зрелищность и активность втюхивания. Очки с VR, начиная с девяностых, на рынок заходили трижды. Все три раза эти заходы провалились. Подташнивает, неудобно, оббиваешь коленки о мебель, портится зрение и т. п. Похоже, это просто не очень нужно.
То же — с дополненной реальностью. Вы надеваете очки, и вам там сбоку, по краю поля зрения, что-то пишут или показывают что-то, круто же! Прямо как у Терминатора в кино, вы имеете дополнительную информацию обо всём. Умные очки Google Glass с такими функциями продвигали с большой помпой, если помните, но закрыли через несколько лет. Во-первых, похоже, такое — вообще не нужно. Во-вторых, портится зрение, на обычные очки не наденешь, в-третьих окружающим людям не нравится, когда на них смотрят через компьютерные очки и что-то там про них себе смекают.
Когда ИТ-хипстеры стали покупать Google Glass и с гордостью носить везде, то в целом ряде заведений, ресторанах, кафе в Калифорнии, на входе стали писать: «Сюда с Google Glass нельзя». Потому что это пугает клиентов, когда их кто-то снимает встроенной в очки камерой, распознает по лицу и что-то ещё.
В общем, у «ИИ-евангелистов» очень много фантазий о том, что людям на само деле оказывается не нужно: даже если технологии в рекламе и фильмах выглядят впечатляюще, вызывают ощущение «ух, круто!», они потом оказываются никому не нужны. Например, 3D-телевидение (да и кино) — практически умерло. Телевизоры с 3D сняты с производства всеми основными производителями, остались только немногие топовые модели с 4К. А ведь как это круто, казалось бы. Может быть, оживёт на новом витке технологии, когда не будут нужны очки.
Вот ещё пример: во всех фантастических фильмах есть видеофон. Большие экраны по всем комнатам, рубкам кораблей, в офисах и т. п. Ну вот, технологии доросли, передача видео — есть, скорости есть, казалось бы — и что, у нас такой видеофон есть? Как бы есть, но на самом деле — нет. У нас есть видеосвязь, которая используется достаточно узко — для удалённой работы, для видеоконференций в офисе, чтобы поговорить с далёкими родственниками. Никто не ставит себе в спальню и на кухню огромный экран и камеру, чтобы было видно, в каких трусах вы сегодня сидите.
— Сейчас, кстати, «удалёнка» в связи с карантином активно заставляет людей всем этим пользоваться.
— Да, и она уже вызывает всё большее раздражение. Всем этот эффект присутствия 24×7 начальника и коллег у себя в доме надоел, никто этого не хочет. Общие отзывы таковы, что в удалённом режиме качество работы падает. Многие люди не в состоянии наладить нормальную продуктивную коммуникацию исключительно по компьютерной сети.
В образовании, мне кажется, «удалёнка» показала крайнюю неэффективность. И это будет катастрофа, если продолжать в том же духе. Отличники останутся отличниками, хотя и получат значительно меньше знаний, а вот отстающие вообще перестанут учиться, в принципе. По-моему, всем стало ясно, что этого нельзя делать. Это профанация. Многие работники образования говорят, что это даже хорошо — произошла своеобразная вакцинация от удалённого образования.
— Сегодня тестируются самые разные беспилотные автомобили, самолёты, надводные и подводные суда. Как скоро это всё массово войдёт в нашу жизнь, и мы станем ездить на работу, летать и плавать в отпуск и деловые поездки на транспорте без управления человеком?
— Уже сейчас довольно много летает этих беспилотников. Они пока что в основном управляемые, но есть и автоматические, которым вы можете задать маршрут, и они будут летать и снимать посевы, или будут лететь вдоль трубы «Газпрома» в тайге и искать утечки газа. Будут беспилотные автомобили на улицах. Беспилотные поезда уже есть, я лично в них уже много раз ездил. В Нью-Йорке, Мюнхене и в Шанхае между терминалами аэропорта ездят поезда без машиниста. Там небольшое расстояние, всё понятно, нужно только не придавить дверью какого-нибудь пассажира, что достигается датчиками, и всё.
Про авиацию уже сейчас говорят, что 90-95% всех посадок Airbus и Boeing на полосу осуществляется автопилотами, а не людьми.
– Если весь транспорт станет беспилотным, то куда девать людей, которые сейчас им управляет и обслуживает? Их ведь многие миллионы, а с учётом семей десятки миллионов.
— Вообще про искусственный интеллект постоянно говорят, что он может лишить работы миллионы людей, и это создаст социальные проблемы. Это не так, это «замыливание» реальной социальной и общественной проблемы. Ведь искусственный интеллект сам никого не увольняет, не крадёт рабочие места. Социальные проблемы не создаются техническими устройствами. Они создаются теми кадровиками и управленцами, которые увольняют людей ради дешёвой экономики по приказу акционеров. Если в какой-то стране считается приемлемым (с точки зрения закона и общественной морали) увольнять десятки миллионов людей ради грошовой экономии, то это вопрос к социальному строю и к обществу, а вовсе не к ИИ.
Да, наверное, искусственный интеллект может сделать какие-то процессы более эффективными, но когда, взяв это за основу, говорят, а давайте тогда всех работников уволим, то вот здесь начинается проверка этого социального строя. Он вообще чем занимается, он только на оптимизацию и эффективность извлечения прибыли настроен? Вообще говоря, государственный и социальный строй не должен быть настроен на бизнес-эффективность (притом не для всех, а для собственников предприятий), он должен быть настроен на то, чтобы составляющим его людям жилось лучше, а не хуже. И в этом смысле, даже если бы у нас было идеальное государство, и была бы возможность всех уволить и всех заменить роботами, государством и обществом было бы принято решение этого не делать.
Возьмём конкретную проблему массового беспилотного транспорта. Сейчас только у «Яндекс.Такси» (только что они его зачем-то переименовали в нелепый лексический гибрид ЯндексGo) по стране ездит полмиллиона водителей. У него этих «как бы работников» больше, чем у «Газпрома». Почему как бы? Потому, что «Яндекс», по сути, являясь их работодателем, всячески от этой роли открещивается, заявляя, что его функция — исключительно информационного посредника. Почему? Потому, что если ты являешься работодателем, то ты несёшь социальную ответственность, а «Яндекс» не хочет её на себя брать. И он не единственный в своём роде. Всё это разделение на гигантских инфопосредников и «независимых» исполнителей называется уберизацией экономики и социальных процессов, потому что первым это делать стал мировой сервис такси Uber.
Что это значит? Это значит, что подобные Uber компании перевели массы людей в положение как бы индивидуальных предпринимателей, которые социально не защищены. Они работают, по сути, за такую же зарплату, как если бы они были просто наёмными водителями, но отпусков, бюллетеней, социального пакета, защиты от несправедливых увольнений и штрафов работодателя — у них нет. Устал, заболел, семейные неприятности — твои проблемы, деньги перестают поступать в ту же минуту, пожалуйте на улицу или биржу труда. А сами эти гигантские информационные посредники, зарабатывающие огромные деньги, за социальное положение и права работников не отвечают. На мой взгляд, это просто такой бизнес-трюк, который должен быть запрещён.
Сейчас эти информационные посредники говорят: а теперь мы научим машину саму ездить, причём обучим её на примерах (дата-сетах) работы этих самых рабов навигатора. А потом этот миллион водителей станет не нужен. Они втянули миллионы людей в этот бизнес, а потом, когда они выгонят на улицы беспилотники и уволят этих бедолаг через 4-6 лет, те уже ничего другого уметь не будут. Они будут только уметь водить машину, а этот навык станет никому не нужен. Они и сейчас довольно сильно социально подавлены. Ими управляет искусственный интеллект. Он рассчитывает их доход, накладывает всё больше ограничений, считает социальный рейтинг водителя (что само по себе нехорошо). Положение работников не улучшается. В России уже есть несколько общественных движений и организаций, которые борются с «Яндекс.Такси» и другими аналогами. Там на самом деле очень серьёзная эксплуатация с искусственным интеллектом в качестве надсмотрщика. И это не очень хорошая история.
Это первые предвестники грядущего, так называемого супер-капитализма, перед которым текущий капитализм покажется нам детским садом.
— Получается, что искусственный интеллект помогает одним людям более эффективно эксплуатировать других людей?
— Да. Как ни странно, он не освобождает труд, а закрепощает ещё сильнее. Есть много примеров этому. Взять хотя бы историю с американской компанией Amazon, которая частично перевела свои склады на автоматическое обслуживание. Там ездят такие большие быстрые плоские таблетки, типа роботов-пылесосов, и перевозят товар. Всё равно кто-то должен эти товары на эти таблетки грузить, и этих — и так уже социально достаточно ущемлённых и подавленных людей, в основном мексиканцев — поставили под контроль ИИ. Там установили камеры, которые научили распознавать перекуры, перерывы в работе, хождение, не связанное с выполнением прямых служебных обязанностей, и так далее. Сейчас этих людей непрерывно гоняют электронным хлыстом, штрафуют, наказывают, увольняют за мельчайшие нарушения, делают из них роботов, короче говоря. Про это было уже достаточно много публикаций. Более того, кто-то даже уже в суд подавал.
В такой конфигурации ИИ не облегчает труд людей, а становится электронным надсмотрщиком, который не знает жалости, не знает усталости, не отворачивается, с которым нельзя договориться, нельзя упросить и разжалобить. Начинается какая-то чудовищная антиутопия в реальности. При этом никакого собственного интеллекта в искусственном интеллекте нет. Просто одни люди используют электронный хлыст, чтобы хлестать других людей с целью выжать больше денег. У них нет другой цели.
При этом есть ещё такое соображение: позволить себе создать собственный беспилотник смогут не все службы такси. В нашей стране, скорее всего — только одна. Не все электронные магазины смогут поставить себе роботизированный склад, это очень дорого, таких будут единицы, вроде Amazon. Это значит, что произойдёт дальнейшая монополизация, своего рода «Яндекс.Всё» или «Сбер.Всё»: собственно, Греф только что нам это пообещал, как обычно, с энтузиазмом ИТ-евангелиста, как будто мы должны этому радоваться вместе с ним.
Во всех сферах всё захватят несколько частных, огромных, безжалостных «платформ» или «экосистем», как они сами любят говорить, которые будут иметь одну задекларированную цель — прибыль.
Эта монополизация, естественно, также будет происходить со всё возрастающей степенью эксплуатации и ущемления прав людей. Как бы не пришлось государству эти разные экосистемы, в конце концов, национализировать, чтобы эти социальные проблемы, монополизацию и ужесточение ИИ прекратить.
Вот когда Яндекс всех этих людей, «которых он приручил», через 5-7 лет выгонит на улицу, потому что выкатит на улицы свои беспилотные такси — что мы будем делать? Непонятно. Я не знаю, думает ли наше государство на эту тему вообще. Полагаю, что в Европе или США из государственных людей на эту тему никто особенно-то не думает и не тревожится в принципе, поскольку в неолиберальной экономике и социальном устройстве это же естественный процесс — ты не вписался в рынок, ну извини, каждый сам за себя. Ну, может, дадим тебе Безусловный Базовый Доход (очень модная на Западе тема), чтоб на жильё, еду, и пиво как-то тебе хватало. И не бухти, не высовывайся.
Хотя нам в 1991 году тоже объявили, что теперь каждый сам за себя, но мы исторически, ментально всё-таки несколько другие, у нас Цивилизация «Мы», по Александру Зиновьеву. Ответственность друг за друга, за свой ближний круги и за общество в целом у нас пока ещё развита больше, чем в Цивилизации «Я» на Западе. Мы должны предвидеть и «стерилизовать» надвигающиеся социальные проблемы, связанные с цифровизацией всего. Но вот как это делать в новых условиях, я пока не очень понимаю.
Вообще на это всё должна быть направлена напряжённая деятельность государства и законов, потому что остаётся мало времени, всё слишком быстро развивается, но пока непонятно, кто бы мог и был бы должен этим заниматься.
Мы недавно разговаривали в Совете по правам человека при президенте России про то, что нам нужен некий Цифровой кодекс, который защищает человека, попавшего в эту цифровую круговерть. Нужно защитить его цифровую идентичность, приватную жизнь и так далее. В частности закрепить на законодательном уровне, что нельзя использовать цифровые технологии для ухудшения жизни граждан. Не должны системы искусственного интеллекта, работающие в автоматическом режиме, принимать жизненно важные решения относительно людей. Я надеюсь, что этот цифровой кодекс когда-нибудь появится. Рассчитывать на «саморегулирование бизнеса» нам не стоит. У владельцев новых технологий возникает очень много соблазнов использовать искусственный интеллект там, где он будет дискриминировать человека. Например, ИИ банка проанализирует все данные о вас (купленные у разных платформ), и банк откажет вам в кредите, а поскольку это «чёрный ящик», он даже не объяснит вам (да и своему владельцу), почему не дал кредит. Та же история может быть с приёмом в ВУЗ, и так далее.
Если мы всё про вас знаем, то цена для вас на товары и услуги может быть другой. Уже сейчас, когда вы летите в самолёте, сидящий рядом с вами человек мог заплатить за такое же место в три раза больше или меньше, чем вы, потому, что цена билетов всё время меняется. Сейчас она меняется в связи с заполненностью рейса, ещё чего-то, но обязательно будет меняться, исходя также из того, какой толщины у вас кошелёк. Та же история с медициной — с тех, у кого острые заболевания, можно брать больше денег, они всё равно в отчаянии.
Ещё один очень важный аспект — это ошибки искусственного интеллекта, за которые никто пока не несёт ответственности, потому что ответственность «размазана» по разработчику системы, производителю, владельцу и оператору.
Упомянутые «евангелисты ИИ» в своём вдохновенном камлании выкрикивают, что если искусственный интеллект хорошо работает, то он работает лучше, чем человек на этом месте. Он лучше ставит диагноз и делает операции лучше, чем врач, он может судить лучше, чем судья, он неподкупный, у него нет пристрастий, и так далее. Но с судьи или врача можно хотя бы спросить за неудачное решение. Он отвечает репутацией, карьерой, даже свободой. А что вы спросите с ИИ? Вам в ответ скажут: «Да, это была недоработанная версия, мы уже поставили новую, не переживайте, в следующий раз будет всё нормально», но для кого-то следующего раза уже не будет! В данный момент цена ошибки искусственного интеллекта почти никем из тех, кто отвечает за развитие нашего общества и государства — не осмысливается, из-за огромного хайпа вокруг «ништяков», которые обещает ИИ.
Сейчас есть попытки некоторых разработчиков ИИ развить что-то вроде теории игр для ИИ, называемой лукавой «этикой ИИ», но это довольно нелепые и гуманитарно слабые попытки ставить и решать задачки типа «кого давить беспилотнику — двух бабушек-пенсионерок или красивую юную блондинку». Естественно, всё в итоге сведётся к деньгам — кто и кому будет платить за пострадавших бабушек, потому что другого критерия на Западе нет, да и в ИИ нет другой ответственности — там же нет внутри человека.
Этого не должно быть. Надо как-то защищаться от наступления эпохи тотального (тоталитарного) искусственного интеллекта.