Думы об ИИ

Пока все занимаются выковыриванием «инсайдов» (раньше это иначе называлось и люди стыдились такое показывать) относительно встречи на Аляске, мы поговорим об ИИ, его блестящих перспективах (нет) и почему «искусственный интеллект» ни разу не интеллект.

«Ужасное недалёко, побудь хоть к ней жестоко», детский хор им. Кира Булычёва в адрес Маргариты Симоньян.

Тут некоторые (не буду показывать пальцем, вы сами их знаете) целые книги выпускают о том, как ИИ заменит нас всех.
«Вкалывают роботы, а не человек», вот это вот всё на новый лад.
А я напишу маааааленькую (но аргументированную) статью, почему этого не случится.

В серваке не гаснут звезды,
Робот никогда не спит.
Все, теперь спасаться поздно,
Нас ИИ поработит.

Я так неделю могу (а ИИ не может).

Нет, безусловно, Маргариту Симоньян может заменить любой, даже самый глупый ИИ. Она всё равно ничего не умеет и ничего не делает. Такую может и кусок булыжника посреди дороги заменить.
Небось и потужную «книжку» вместо неё литературные негры писали. Возможно даже при участии этого самого «ИИ».
Но он не может заменить настоящее творчество.

Мыслительный процесс

Человеческий мозг (нормальный, а не у хохлов) активен практически непрерывно. Даже во сне он не может успокоиться и генерирует сновидения.
В голове ДУМАЕТСЯ.
Зачастую без каких-то конкретных целей или постановки задач. Просто мысли, «приходят», и ты их думаешь. Потом тебя по цепочке ассоциаций уносит зачастую куда-то весьма далеко от первоначальной идеи. Ты вспоминаешь, рефлексируешь, планируешь, фантазируешь и так далее.
У «ИИ» ничего подобного нет. Он получает входящий импульс-раздражитель, отрабатывает запрос и снова замирает. Никакой самостоятельной мыслительной деятельности там нет.
Что подводит нас к следующему пункту…

Инициатива

Я выбираю темы, о чём писать, произвольно.
Позавчера писал о грядущих переговорах между Россией и США, вчера философствовал про материализм и идеализм, сегодня про ИИ, завтра возможно буду писать про телефонных мошенников и глупые запретительные меры РКН, которые мошенникам не мешают, а всем остальным портят жизнь.
«А что с нами будет через неделю – ведает только Аллах»(с)
«ИИ» пишет сочинения на заданную тему, по внешнему запросу. Причём там нет творчества, там компиляция.
Его нельзя называть «искусственный интеллект», это «текстовый процессор» или «текстовый компилятор», просто на «компилятор» сложно выдурить миллиардное финансирование, а «интеллект» звучит загадочно и многообещающе.

Поиск информации

Возможности псевдо-ИИ к поиску информации ограничены. Он не может погулять по городу, встретиться со знакомыми, обсудить самостоятельно что-то с друзьями или коллегами, не ведёт спонтанный поиск.
Ему не «приходит в голову».
Последние данные показывают, что почти половину своих данных он черпает на Реддите, где любой дурак может писать любой бред. И у него нет механизмов различения.

Верификация

Причём этот самый псевдо-ИИ не может самостоятельно определять истинность или ложность информации. Вместо него это делает человек, который его настраивает. В том числе вручную ранжируя источники по степени достоверности. «Верь CNN, дурачок!» и прочее «Так написано в The Times»(с)
Я, например, при определении степени достоверности той или иной информации учитываю:
- биографию автора, его компетентность
- его ангажированность и мотивацию
- кто владелец издания, где это опубликовано, и за что/кого он «топит»
- и это помимо использованной доказательной базы, которую тоже нужно перепроверять (как я на днях продемонстрировал на примере статьи Савчука, где были надёрганы разрозненные факты, из которых ничего не следовало).
Кто пишет, почему пишет, зачем пишет.
И так далее.

ИИ «верит в текущую хрень» (support current thing) и не способен к принятию самостоятельных решений.

Важно и неважно

Мои учителя говорили, что в ближайшие десятилетия чрезвычайно важным и востребованным будет умение отделять важное от неважного, первостепенное от второстепенного.
Для ИИ любые события или информация – это просто текст. Для него описание технологии массового убийства людей в Освенциме такой же текст, как и рецепт приготовления пирога.
А саммит Путина и Трампа на Аляске ничем не отличается от встречи Зеленского и Мерца (только одни решают судьбы мира, а вторые собрались поплакать вместе и закинуться коксом для утешения).

Реальность и вымысел

Текстовый процессор не работает с реальностью, он работает с текстом. Где нет понятий «соответствует реальности» или «вымысел». Он не различает.

Девушка обратилась к ИИ, чтобы тот подобрал ей книгу, похожую на «Вино из одуванчиков». В первой подборке половины книг не существовало в природе.
Девушка указала ИИ на эту ошибку и попросила заниматься фактчекингом. Тогда ИИ извинился и предложил подборку книг со ссылками на онлайн-магазины. Половина ссылок вела в никуда…

Я уже публиковал тексты ИИ, когда его просят подсказать рецепт приготовления свиных крылышек. И он беззастенчиво придумывает на ходу, ещё и добавляя, что «задние крылышки вкуснее».

В общем, ИИ систематически врёт (Не может быдь! Как он мог?!). Не по злому умыслу (у него его не может быть, он рободурак), а просто потому, что не различает реальность и вымысел.
Нет критериев, нет инструментария, а даже если и пытаться их создавать, то это будет подвержено «программисты вручную прописали верить Байдену и Обаме» (условно).

Критическое мышление

У человеческого мышления есть такое явление, как «картина мира».
Которая любую новую входящую информации постоянно соотносит с уже имеющимися фактами и убеждениями. И в случае выявления противоречий возникает (если вы не хохол, конечно) когнитивный диссонанс, требующий осмысления. Когда ты новую информацию встраиваешь в общую мозаику, иногда перерисовывая её целыми кусками (переосмысление, метанойя).
Только у чубатого дегенерата Россия может быть одновременно всемогущей и разваливающейся, а Путин, у которого нет денег, подкупать всех мировых политиков.
Человек разумный критично смотрит на мир.

У «ИИ» ничего такого нет (он робохохол без чуба). Он не работает со всем массивом наличной инфы при обработке новой.
Это текстовый процессор, он не умеет думать. Он не думает, он компилирует текст.
Кодить может (но тоже на уровне индуса-эникейщика), а вот «Анну Каренину» не напишет.

Поэтому Симоньян заменить может, а Роджерса нет.
Мвухахахаха!

P.S. Нужно естественный интеллект развивать (как ментаты у Херберта), а не пытаться создать робокостыль.