Мы в Akashi строим крупнейший дата-центр в Центральной Азии, и потребность в нем вызвана растущей популярностью в мире искусственного интеллекта. Но сегодня всё чаще звучат тревожные голоса — о том, что ИИ может погубить человечество. Что говорить, если даже владелец крупнейшей ИИ-системы Илон Маск предупреждает, что «искусственный интеллект представляет экзистенциальный риск для человечества».
И, конечно, начинаешь задумываться: а не создаём ли мы зверя, который однажды погубит нас? Правильным ли путём мы идём? Такие вопросы человечество задавало всегда — когда автомобили заменяли извозчиков, когда трактор на селе вытеснил лошадь. Любой новый феномен, меняющий привычный уклад жизни, обретает и сторонников, и противников, вызывая потребность в осмыслении.
И я хотел бы предложить читателю — несомненно, уже составившим своё мнение об искусственном интеллекте — поразмышлять вместе со мной над несколькими темами.
Во-первых, что вообще имеется в виду под термином «искусственный интеллект»?
Мы все помним о «человеке разумном» и разуме, который делает человека высшим созданием. Так считали мыслители, начиная с очень древних времен, например, аль-Фараби в трактате «О разуме» («Fī al-ʿaql», перевод Тауфика Ибрагима) пишет о том, что «разумная душа является высшей частью человеческой природы». И вдруг оказывается, что это не совсем так?
Как правильно описать феномен ИИ? Чем искусственный интеллект отличается от органического? И что тогда есть человеческий интеллект, где его границы и области применения и есть ли среди них те, которые никогда не станут доступны искусственному?
Во-вторых, может ли ИИ заменить человека в труде?
Хорошо это или плохо? Где действительно стоит доверить работу машине, а где человеческий разум, эмпатия и опыт остаются незаменимыми? И коль скоро работу может выполнять ИИ вместо человека, может быть, человечество просто длительное время занималось не своим делом и сейчас нам пора признаться себе в этом?
И наконец, как ИИ помогает нам переосмыслить свое место в мире?
Каждый человек с детства и до поздних лет жизни задается вопросом «кто я?», «в чем смысл моего существования?». Появление искусственного интеллекта снова заставляет нас задуматься об этих фундаментальных вопросах и в то же время дает нам возможность, идя от обратного осознать, что не является смыслом деятельности и предназначением человека.
Мартин Хайдеггер писал, что «техника не есть лишь средство; в сущности своей она есть способ раскрытия бытия». Можно ли с помощью ИИ лучше разобраться в сути окружающего нас мира?
Мы не знаем ответов на эти вопросы сегодня — можем только выдвигать гипотезы. Но в этом, пожалуй, и есть главный смысл — думать, искать, сомневаться. Я приглашаю читателя рассуждать вместе со мной.
Intellect VS Intelligence
Давайте начнем с того, что точный перевод слов «искусственный интеллект» на английский язык звучал бы Artificial Intellect. Но весь мир говорит Artificial Intelligence. И уже в этом заключается подвох. Рассуждая об «искусственном интеллекте», мы (носители русского языка) изначально говорим не о той сущности, которую создали его авторы!
Intelligence восходит к лат. intelligentia — «способность понимать, различать»; тогда как intellectus - это «умопостижение», способность к осмыслению и постижению сущности вещей. Разница тонкая, но принципиальная: intelligentia описывает скорее функцию поведения, внешнее проявление понимания, тогда как intellectus - внутреннее осознание, акт мышления, рождающий смысл.
Называя технологию именно Artificial Intelligence (а не Intellect), её создатели имели в виду не разум в человеческом смысле, а систему, способную воспроизводить признаки разумного поведения — делать вид, что она понимает. То есть мы имеем дело не с искусственным разумом, а с искусственной видимостью, имитацией понимания.
Знаменитый Алан Тьюринг еще в 1950 в статье Computing Machinery and Intelligence писал: «Вопрос „могут ли машины мыслить?“ не имеет смысла. Мы заменим его другим: могут ли машины вести себя так, как будто они мыслят?»
Я начал программировать в пять лет. Уже тогда мне хотелось, чтобы компьютер умел разговаривать со мной — отвечал на вопросы, как живое существо. Первая программа могла понять всего три-четыре простейших фразы, которые я сам в неё заложил. В этом я был похож на любого ребёнка, которому нравятся куклы, говорящие несколько слов и имитирующие поведение человека.
Позже я узнал, что моё детское желание создать подобие мыслящего существа - не новость. Герон Александрийский в I веке до н. э. создавал фигуры, которые воспроизводили действия актёров и жрецов. Аль-Джазари в ХII-XIII веках в Мосуле строил роботов-музыкантов и служанок, Леонардо в XV веке спроектировал робота-рыцаря. Автомат в виде ребёнка, способный писать пером тексты из 40 слов, меняя выражения лица, созданный в XVIII веке Пьером Жаке-Дро выставлялся по всей Европе и уже тогда вызывал философские дискуссии: кто пишет – «мальчик» или механизм?
С развитием поисковых систем человечество создало колоссальную базу данных вопросов, которые люди задают компьютеру. Анализируя поведение пользователей и те страницы, которые они выбирают в ответ на свои запросы, машины научились выстраивать сложные связи между вопросами и наиболее подходящими ответами. Постепенно сформировались гигантские базы сопоставлений, и теперь компьютер способен не только находить, но и составлять ответ, компилируя его из уже проиндексированного контента так, чтобы он максимально соответствовал ожиданиям человека.
По сути, это не так уж далеко от той детской программы, которую я когда-то написал десятки лет назад, - где компьютер отвечал на несколько простейших вопросов, потому что я сам заранее заложил в него эти ответы. Если копнуть ещё глубже, то и от «пишущего мальчика» XVIII века ChatGPT отличается лишь масштабом. Человек просто создал себе новую, гигантскую игрушку - умную куклу, с которой теперь играют миллионы пользователей, радуясь тому, как убедительно она изображает разум.
Станислав Лем, предсказавший многие явления, с которыми мы сталкиваемся сегодня, в книге «Сумма технологий» (1961 г.) писал: «Мы строим зеркала, в которых отражается не Вселенная, а наше собственное лицо». Огромная машина ИИ не «думает» - она лишь отражает коллективный разум человечества, очищенный от контекста, эмоций и сомнений.
Труд и имитация труда
Вдумавшись в название сущности Artifical Intelligence мы поняли, что эти алгоритмы разрабатывались с целью имитации интеллектуального поведения. Авторы и не закладывали в них, и не имели амбиции создать настоящий интеллект (иначе бы сразу назвали их иначе). Но как тогда получается, что эти имитаторы начинают заменять человека на рабочем месте? Здесь нужно сделать исторический экскурс.
Труд в древние времена был актом творчества для ремесленных профессий, способом слияния с природой и ее одухотворения для людей, связанных с земледелием и животноводством, почти религиозным действием для тех, кто занимался профессиями умственного труда. В Древней Греции каждый вид трудовой деятельности имел своего божественного покровителя и свой праздник. Например, гомеровский Одиссей (к слову, сам смастеривший и свое брачное ложе, и свою ладью), гордился своей выносливостью среди жнецов не меньше, чем военными подвигами.
Уважение к труду, творческий подход к строительству и отделке помещений, изготовлению одежды и домашней утвари привел к возникновению шедевров, которыми мы наслаждаемся до сих пор в музеях и древних дворцах.
Внедрение массового, конвейерного производства, дало свои несомненные блага, но вместе с тем постепенно вытеснило трудовой деятельности творческое начало. Человек превратился в биоробота, от которого требуется точность и скорость работы. И сегодня это касается практически каждого: ведь даже работая в офисе мы являемся лишь винтиком в бизнес-процессе обмена информацией и принятия решений. Учителя в школах жалуются на то, что основную часть времени они вынуждены заполнять отчеты, а не учить. И эти примеры можно продолжать бесконечно.
Алгоритмизация человеческой деятельности во всех ее сферах вполне логично приводит к тому, что в этой реальности человек всегда будет проигрывать технике и будет заменяться устройствами и алгоритмами, как грузчиков заменили автопогрузчики, счетоводов – компьютеры, водителей заменяют автопилоты и так далее.
Следовательно, нам нужно не опасаться ИИ, а наоборот, благодаря ИИ осознать, что коль скоро та или иная деятельность может быть заменена имитационным механизмом, следовательно, изначально эта работа была недостойна человека.
Размышляя дальше, можно прийти к заключению, что такая деятельность расчеловечивает, отдаляет человека от его истинного предназначения. Поместив человека за кассу и заставив его целый день прокликивать сканером бар-коды на товарах покупателей; поставив человека за конвейер для перекладывания предметов с места на место; посадив человека за компьютер для перебивания информации из одних файлов в другие - работодатель совершает грех, и нужно как можно скорее прекратить это и заменить человека на этой позиции роботом, коботом или ИИ. Если деятельность может быть автоматизирована, значит она недостойна того, чтобы человек ей занимался.
Возможно, именно сейчас, у Человека появляется уникальный исторический шанс, словами Сенеки, «отвоевать себя для себя самого» и вернуться к своему истинному предназначению – стать Творцом, а не оператором?
Новый вызов: Творчество с большой буквы
Задумавшись о Творчестве и творческой деятельности в связи с развитием ИИ, невозможно не вспомнить о том, что ИИ замечательно умеет писать тексты, стихи и музыку, создавать изображения, анимированные ролики. Одним словом, о каком творчестве может идти речь?
Раньше человек считал акты творчества своей прерогативой. Хотя мы знаем массу примеров, когда под творчество маскировалась полная или частичная компиляция созданного ранее автором. Это замечательно описано у Ильфа и Петрова «Служил Гаврила …». Кстати, и в операх Чайковского можно услышать одни и те же мотивы и фрагменты, написанные явно «для объема», а не в высоком творческом порыве. А заимствования одних авторов у других авторов настолько распространены, что появились институты защиты авторских прав и системы типа «антиплагиат».
Но тем не менее, философы часто называли человечество высшим существом, обосновывая это возможностью творить, создавать произведения искусства в музыкальных, текстовых танцевальных проявлениях. И вдруг оказывается, что машина с этим тоже неплохо справляется. Но это и прекрасно, потому что теперь мы можем более точно и тонко осмыслить, а что же такое акт творения, и что же является именно особенностью человека, которая отличит его от творчества машины?
Ключевым отличием творения человеком является постановка цели, изначальное видение, сверхзадача, вдохновение – нечто, с чего все начинается. Далее для достижения этой цели человек может творить сам, может собрать команду, в том числе привлечь роботов, компьютеры и так далее
Робот, ИИ не может поставить цель. ИИ может выполнить только задачи, поставленные ему оператором, но поставить большую, амбициозную, вдохновляющую цель, которая объединит команду может только человек.
Но человек должен также сопоставить эту цель со своими моральными ориентирами и стандартами своего сообщества и оценить, достойна ли она для реализации. Роль творца предполагает огромную ответственность. Будем ли мы использовать всю мощь дата-центров для слежки и построения цифрового концлагеря или же мы смоделируем новые ракеты для полета в космос? Будем ли мы создавать армии дронов и превратим Землю в выжженную планету, как в «Звездных войнах» или роботы будут собирать урожай и кормить всех людей? В новом мире крайне важны этические и моральные ценности и высвобождение человека для творчества должно обязательно сопровождаться его духовным развитием.
Мудрость сердца
«Воля, сердце и разум спорили, кто из них важнее… Посоветовавшись, соединитесь все трое вместе, но помните, что сердце — повелитель.» Абай Кунанбаев, Слова назидания, Слово семнадцатое, пер. В. Шкловского.
Мы начали с детского вопроса — «кто я и зачем существую?» Благодаря появлению «мыслящей» машины, глядясь в нее, как в зеркало, мы можем лучше осознать свое предназначение, осмыслить нашу деятельность. Размышления приводят нас к базовым постулатам авраамических религий – человек создан по образу и подобию Творца и его задача в течение жизни развиваться и приближаться к идеалу.
Мы вспомнили Древнюю Грецию, философов Арабских стран, средние века и 19 век, 20 век. Мыслители говорят о важности любви, творчества, сострадания. Именно эти качества не может симулировать машина и именно их мы должны развивать в себе, чтобы отличаться от нее. Их идеи могли раньше казаться оторванными от реальности, философией, но наши размышления сегодня снова приводят к тем же выводам.
Нам не нужно опасаться прогресса или замены человека роботами. Наоборот, эти технологии позволят нам, при условии их этичного использования, более полно реализовать наше предназначение.
Мы возвращаемся к простому выводу: машина может искать ответы, но только человек ищет смысл. Как пишет Папа Франциск в письме «Artificial Intelligence and the Wisdom of the Heart: Towards a Fully Human Communication»: «Только восстановив мудрость сердца, мы сможем встретить и истолковать новизну нашего времени. Этой мудрости нельзя искать у машин».
И именно эту «мудрость сердца» нам предстоит сохранить и передать дальше.
Вадим Богданов, Председатель Правления Проектной Ассоциации