Бессмертие «новых людей». К чему приведет наш мир искусственный интеллект
В России прошёл образовательный марафон «Новое знание», собравший 20 млн просмотров. Программа насчитывала более 100 мероприятий — «открытые уроки», лекции, мастер-классы, дискуссии. На марафоне выступили 150 именитых спикеров. Среди них — известный нейролингвист, директор Института когнитивных исследований СПбГУ Татьяна Черниговская. «АиФ» публикует фрагмент её лекции. Цивилизация праздности — Современная жизнь такова, что мы, можно сказать, оказались на другой планете. Более того, нет той ракеты, которая привезла бы нас обратно. Поэтому нам надо учится жить в том мире, в который мы попали, — в свой мы уже не вернёмся. В наше время перед человечеством поставлено много вопросов, но все они сводятся к одному: кто в доме хозяин? Я имею в виду мозг. Уверяю вас, во всех развитых странах сейчас есть проекты по изучению мозга. Это очень дорогие исследования, но мы должны знать, как он работает, как у нас всё в голове устроено. Если этого не знать, не будет ничего хорошего. Так вот кто в доме хозяин? Есть данные, что мозг принимает решение за несколько секунд до того, как человек, который вроде бы этим мозгом владеет, это решение, как он считает, принял. Получается, что решение принято до того, как мы сами об этом узнаём. Как я сказала, вопросов перед нами на «новой планете» множество. Кто мы такие? Чем отличаемся от других живых существ? Есть ли у нас какие-то цели? И я надеюсь, они не сводятся к тому, чтобы как можно больше гамбургеров съесть или купить сумочек больше, чем другие. Согласитесь, это было бы не очень хорошо. Каким мы хотим видеть собственное будущее? Если бы у нас была возможность им управлять, наверное, мы хотели бы, чтобы на планете не было болезней, чтобы всем хватало энергии. Даже пусть не будет денег, но все счастливо и весело живут. Но возможно ли такое? И кого мы должны растить и воспитывать, чтобы то будущее, которое мы хотим, состоялось? Они должны быстро уметь думать? Или быстро печатать на компьютере? Или что делать? Не менее серьёзный вопрос: как мы будем сосуществовать вместе с искусственным интеллектом? Он становится всё мощнее, он никогда не устаёт, у него не болит голова, не бывает плохого настроения. Если представить, что он будет делать за нас всю работу, мы-то чем займёмся? Обычно на это отвечают, что люди займутся творчеством. Мы будем писать поэмы, играть на лютне, заниматься высоким искусством. Но что-то мне не верится, что так будет. В связи с этим используют такой термин, как «цивилизация праздности». Это когда людям уже и делать нечего. Что-то похожее уже происходит. Сейчас в некоторых странах людям платят базовый доход: пусть человек живёт и ничего не делает, машины всё сделают вместо него. Вся жизнь на флешке Что из этого следует? Мы попали в дивный цифровой мир. Когда компьютер впервые обыграл чемпиона мира по шахматам, все вздрогнули: получается, что машина победила один из сильнейших человеческих умов. Потом стали говорить: шахматы — это, конечно, сложная игра, но вот игра го сложнее, она не поддастся искусственному интеллекту. Но и она поддалась! В 2016 г. Ли Седоль, абсолютный чемпион по игре в го, был разбит компьютерной программой AlphaGo. С тех пор интеллектуальные самообучающиеся программы типа AlphaGo и AlphaZero взяли почти все рубежи — кроме шахмат и го, они обучились игре в сёги (японская настольная логическая игра. — Ред.) и даже в покер. Дело не в игре, а в том, что они наступают на нашу территорию. Те вещи, которые, как раньше считалось, может делать только человек, оказывается, может делать и машина. Зачем нам вообще исследовать искусственный интеллект? Есть разные ответы. Во-первых, так мы лучше поймём, как устроен наш мозг, т. е. как функционирует оригинал. Во-вторых, мы делаем это для того, чтобы биологически и технологически улучшить самих себя. Есть даже идея создать новых людей, которые всё будут делать лучше, чем мы. Они будут быстрее, умнее, у них будет лучше память. Есть и те, кто предлагает оцифровать наш эмоциональный и ментальный мир. Условно говоря, «записать» человека на флешку. Тем самым они надеются достигнуть бессмертия. Вот тебе, внучок, флешка — включай и будешь видеть всю мою жизнь. Причём вообще всю — не историю моей жизни, а все ощущения, вкусы, запахи. И третий вариант ответа: мы хотим улучшить нашу жизнь, передав многие свои функции искусственным системам. Если так, я не против. Если мы занимаемся этим, чтобы узнать, как устроен наш мозг, я тоже за. А вот всё остальное вызывает у меня резко отрицательную реакцию. Меня глубоко потрясло, что программа AlphaZero побеждала другую программу за счёт своей «глубокой интуиции». Сами создатели этой программы были поражены. Они описывали её манеру игры как инопланетную: такие ходы никогда не встречались ни у людей, ни у других программ. Интуиция всегда считалась чертой, присущей только человеку. Но оказалось, что машина может нас на этом поле переиграть. Удар по нейросетям Перемены происходят с огромной скоростью. Мы всегда жили в многозначной и противоречивой среде. Но разница в том, что сейчас огромная скорость изменений. То, на что раньше уходили сотни лет, потом десятки, потом годы, месяцы и недели, сейчас происходит за часы. Мы всё время находимся в этой гонке. Неприятная черта современной жизни: у нас фактически исчезла способность проверки информации. Современные технологии позволяют создать любое видео, которое будет выглядеть правдоподобно. И в этом видео вы будете говорить то, чего не говорили никогда. Можно ли в таком случае доверять информации? Мой ответ такой: надо знать, где её брать, другого варианта нет. Мы живём в мире социальных связей. Есть такое понятие, как число Данбара: это допустимое количество социальных связей в зависимости от размеров мозга. Например, у шимпанзе мозг в 3 раза меньше, чем у нас. Размер их социальной группы — около 50 особей, ближний круг — 3–4 особи. У человека допустимое число социальных связей — 150, близких — 12–15. Но загляните в свой телефон или на страницу социальной сети. Сколько там контактов? Их тысячи! Мы в состоянии это выдерживать? Это же огромный удар по нашим нейронным сетям. В технологическую эпоху рождаются дети, которые вынуждены расти в этих новых условиях, с гаджетами в руках. А ведь эволюция не поменялась, дети рождаются всё с теми же мозгами. И почти сразу они получают мощнейший удар по нейронной сети. Эти дети гораздо быстрее развиваются, но я не знаю, что будут с ними делать учителя, когда они пойдут в школу. Мы столкнулись ещё и с тем, что провалились юридические и этические нормы. Никто никому не верит, вокруг полно фейков. Какие эксперименты можно ставить над животными или над людьми? Например, можно ли внедрять чип в мозг человека? С этим что-то надо делать, пора разрабатывать новые этические нормы. Перед педагогикой и образованием встали новые вызовы. Нужно учить детей понимать, а не запоминать, воспитывать в них способность к постоянным переменам, формировать навыки проверки информации. При этом в цифровом мире важно сохранять человечность. Проводился опрос среди школьников и студентов: каким вы видите идеального преподавателя? Они отвечали: хороший преподаватель — это тот, кто меня понимает, готов выслушать и утешить, дать совет. Не о знаниях идёт речь, а о человеческих качествах. Ведь учителя никакая компьютерная программа не заменит — ни Гугл, ни Алиса.