СТАРИК И НЕВОД

/попытка идеологии нейросетей/
В интервью Times английский ученый, теоретик Искусственного интеллекта
Стюарт Рассел поднял вопрос идеи нейросетей. По его словам в их развитии
человечество добилось прогресса, которого не ожидало и ошиблось в самом
начале пути, когда не продумало, для чего будет нужен Искусственный
интеллект. Появление системы универсального разума, которому будет по
плечу задача любой сложности, может произойти в течение ближайших 10
лет, а мы все еще не знаем, как сохранить власть над сущностями, которые
умнее нас, и зачем они нам нужны в принципе.

В переводе с научного на общедоступный это значит, что мы хотели
просверлить отверстие, а проломили стену, а то и получили пробоину в стене
своей крепости, и что хлынет в наше убежище извне нам остается лишь
гадать, пугливо собирая узелки в предвкушении большого драпа.

Эту ситуацию можно проиллюстрировать так называемым «казусом
автомобиля» — вот мы построили автомобиль, но как на нем ездить и куда
ехать, понятия не имеем.

И тут возможны два подхода: или мы оставим нашу машину в покое и
забудем о ней, или сядем за руль и будем изучать незнакомые нам правила
дорожного движения «методом тыка», опытным путем, т. е. путем проб и
ошибок, подвергая опасности свою жизнь и жизни всех вокруг.

Бездумно катиться на мощном авто по оживленным улицам, озорно
попугивая прохожих визгливым клаксоном, заманчивая перспектива.
Особенно, если не учитывать то обстоятельство, что иметь дело нам
придется с гужевым транспортным потоком, где наш «автомобиль» будет
явлением исключительно диковинным и небывалым ( ведь до него тут
ничего подобного не было), при этом, ориентируясь на дороге, нам
предстоит решать множество сопутствующих универсальных задач:
«учиться ехать», пластично вписываться в поток, постигать его правила,
изобретая между делом и автомобильные ПДД.

Иначе мы доедем до ближайшего столба, если еще и принять во внимание
тот факт, что мы не знаем, куда правимся и каков наш конечный пункт
назначения.
Прекрасная перспектива, не правда ли?!

Итак, еще раз: мы написали нейросети, не понимая толком зачем они нам. То
есть, получили инструмент, а каково его главное предназначение — не
ведаем.

Тут можно сказать, что цивилизация проходит свой очередной этап
развития, ИИ и есть этот новый этап, к чему тут лишние вопросы. Мы же не
спрашивали, для чего у обезьяны отвалился хвост, а у человека появилась
речь. Хвост отвалился за ненадобностью, а у языка есть вполне определенная
задача и роль — быть основной человеческой коммуникацией.

При этом даже такое колоссальное гумантарное явление, как рождение речи,
все же не было столь значимым событием в человеческой истории как
появление нового разума. Оно не столь радикально меняло привычные
взгляды, прежний образ жизни, а, главное, не давало ни на что и никаких
ответов.

Наличие же Искусственного интеллекта коренным образом изменяет
привычное нам мироустройство и ставит перед человечеством ряд
фундаментальных вопросов — от кнопки, до идеи — главный из которых — все
тот же: куда заведет нас ИИ?

Издревле человечество в своих сказках, мифах, легендах и верованиях
воспроизводило сущности, отличные от человека, но наделенные разумом.
Известны, например, мистические големы или механические куклы
каракури, да и сама Пандора, созданная Зевсом, была искусственной
женщиной. Но все эти абстрактные феномены придумывались под узкие
задачи, меж тем как общего понимания предназначения искусственного
разума не было.

Но ведь пенициллин не открывали ради пенициллина, его изобрели для
лечения воспалений, и Илон Маск не строит свои ракеты ради ракет — он
отправляет их осваивать Марс.
Значит, по логике, и нейросети должны иметь конечную или хотя бы
промежуточную, но понятную, если угодно, простую цель. Но какую свою
золотую рыбку мы собираемся ловить этими сетями?

Конечно, тут можно отбояриться расхожим ответом или ответом первого
слоя в том духе, что у человечества накопился преизрядный чемодан
проблем без ручки, и вот нейросети нам быстренько их порешают, аппетитно
перещелкают как орешки и в этом их святое предназначение.

Это проблемы энергетики, климата, экологии, космических угроз,
природных катаклизмов, экономические кризисы, болезни, да и сама смерть.
Словом, есть чем заняться Искусственному интеллекту — засучит рукава и
будет вкалывать за нас как миленький, не загружаясь глупыми мыслями о
том, для чего он нужен. А человек будет знай себе лежать — полеживать на
диване, покуривая душистую трубочку, как байбак Подколесин, разглядывая
художественную лепнину на потолке.

Но это все тактика. А какова стратегия?

Да, в конце концов, у самого ИИ можно спросить, каков смысл его
существования, и он, наверняка, нам что — то выдаст разумное. Но как оно
будет согласоваться с нашими представлениями о прекрасном? И вправе ли
мы полагаться на ИИ в этом важном вопросе?

Пожалуй, все таки, нет. Давайте хотя бы тут, у истоков, право на ответ в этой
области оставим за собой, пока мы окончательно не отстали от него в
скорости мысли, и имеем возможность хоть что — то «отсыпать» для себя.

Но вот, допустим, он нам порешал все остальные задачи, и что дальше? И
где гарантия, что на месте старых задач он не наплодит нам новых? И,
вообще, насколько мы можем доверять ИИ, если учесть, что изначально в
нейронные сети вкралась ошибка, так называемая «Ошибка Розенблатта»,
которая красной нитью или трещиной бежит по всей кладке ИИ,
обуславливая его низкий КПД, при огромных энергозатратах.

Тут есть утешение: нашлись ученые, которые отмотали историю нейросетей,
дошли до начала и исправили эту ошибку в самой основе, в фундаменте, но
их открытие пока лишь — в стадии внедрения, да и исправление
сложившейся, слежавшейся архитектуры и пересмотр устоявшейся традиции
дело непростое, потому классические нейросети все еще работают вкривь и
вкось, искря и чадя по ходу дела как старый керогаз. Бедные разработчики
чихают и кашляют, но не сдаются.

Можем ли мы принимать ответы Искусственного интеллекта за истину в
этом густом дыму? И у кого оно будет это самое право на истину: у того, кто
быстрее думает, или у того, кто способен чувствовать? Да и вообще
«несчастный, что такое истина, и что ты знаешь о ней»?!

И, потом, совместим ли холодный расчет ИИ с живыми чувствами и
эмоциями человека, и не грозит ли человечеству глобальная разгуманизация
со стороны Искусственного интеллекта, который посчитает, что «сопли и
слюни» его создателя — человека — помеха в его бесконечных и таких
интересных вычислениях.

На всем метре своей многотысячелетней истории человечество худо —
бедно, петляя, шагая и отшагивая, но проходит терапевтический курс
гуманизации, в конечном итоге, в среднестатистическом своем значении, оно
становится добрее, милосерднее, гуманнее. Мы уже не палим ведьм на
кострах и не соревнуемся в изощренности казней, но совместим ли этот наш
уникальный и позитивный, с нашей точки зрения, опыт с бездушными
«сущностями, которые умнее нас».

И это лишь первый, случайный вал вопросов, который вываливается уже при
легком соприкосновении с темой ИИ: стоял в комнате большой шкаф,
никого не трогал, но вот квартирант ухватился за его дверку, и
переполненный шкаф здавил вещами испуганного жильца.

А сколько вопросов появится если глубоко вникнуть в тему, если
основательно порыться в этом «шкафу». Да в самом огромном улье меньше
сот, чем вопросов, которые несет в себе ИИ, и почти все они не отвечены
нами.

Однако, давайте вернемся к идее нейросетей, вновь ступим на скользкую
тропинку, с которой свернули в сторону второстепенных рассуждений.
Вероятнее всего, без ответа на базовые вопросы ИИ, мы не сформулируем и
его идею, то есть, не получим дом, начав его строительство с крыши.

Но все же. Допустим ИИ решил все наши проблемы и даже поборол нашу
физическую смерть. Что дальше? Видимо, на этом этапе, человек полностью
изменит свои физические характеристики, а, возможно, и утратит их вообще,
станет энергией или полевой структурой.

Не исключено, что в таком состоянии он будет способен на глобальное
освоение Космоса и переустройство его под себя — любимого. Но нужен ли
он Космосу? Что он ему принесет? Кто нам будет рад со всеми нашими
узлами и чемоданами, и этой вечной привычкой форматировать любое
пространство под себя — создавать милый, кухонный уют на реакторе
атомной станции.

Тут, наверное, уместно вспомнить про «человека разумного, уникального
существа, носителя разума», который имеет право на все на свете, ради
сохранения себя, такого уникального. Но это исключительно наше
внутривидовое мнение. А спросите про себя у своего кота, и, возможно, он
озвучит иную точку зрения.

На этом этапе крыша отъезжает окончательно, отлетает в космическое
пространство и приходит какое — никакое понимание, что с этого нашего
этапа развития, с этой нашей кочки, в пределах видимого нам горизонта,
общая идея ИИ неразличима.

Что ж давайте тогда попытаемся сформулировать хотя бы промежуточную,
исходя из вышесказанного. А дальше будет видно.

Возможно, в самом своем плоском и примитивном выражении, в прикидке и
примерке, усушке и утряске промежуточная идея ИИ может звучать так:
«Искусственный интеллект нужен человеку для того, чтобы победить
смерть».

И не в том секторальном смысле, что был человек с его хилым физическим
тельцем, и вот ИИ освободил его от естественной кончины, там, где гремели
литавры, шуршала земля, и свежий могильный крест плюсовал к пустоте
новую душу. А в глобальном, космическом, где разные формы жизни,
распространяясь все дальше и дальше, бесконечно воспроизводят жизнь, и
понятие «смерть» не существует вовсе.

Пока далеко и облачно как Туманность Андромеды. Но это хоть что -то.

---