Гарри Каспаров, первый человек, как он говорит о себе, чья работа «была поставлена под угрозу» искусственным интеллектом, рассказал в интервью изданию WIRED, что он примирился со своим поражением и новыми технологиями.
Спустя двадцать три года после того, как Гарри Каспаров проиграл партию в шахматы компьютеру Deep Blue, гроссмейстер говорит, что людям нужно работать с машинами, чтобы «расшевелить стадо интеллектуальных алгоритмов».
Гарри Каспаров, пожалуй, величайший шахматист в истории. В течение почти двух десятилетий после того, как он стал чемпионом мира в 1985 году, он доминировал в игре с яростным стилем игры и столь же яростным высокомерием.
Однако за пределами шахматного мира Каспаров известен тем, что проиграл машине. В 1997 году, в разгар своей шахматистской карьеры, Каспаров был раздавлен и напуган суперкомпьютером IBM под названием Deep Blue. Это поражение вызвало шок во всём мире и, казалось, предвещало новую эру превосходства машины над человеком.
С тех пор персональные компьютеры шагнули далеко вперёд, они стали намного мощнее, а смартфоны теперь могут работать с такими же мощными шахматными движками, как Deep Blue. Что ещё более важно, благодаря прогрессу в области искусственного интеллекта, машины изучают игру и обучаются ей сами по себе.
Deep Blue следовал запрограммированным для него правилам игры в шахматы. В отличие от него, AlphaZero, программа, созданная дочерней компанией Alphabet DeepMind в 2017 году, научилась играть в игру на уровне гроссмейстера, просто тренируясь снова и снова. Наиболее примечательно, что AlphaZero раскрыл новые подходы к игре, которые поразили шахматных экспертов.
На прошлой неделе Каспаров вернулся на сцену своего знаменитого поражения — бальный зал нью-йоркского отеля — для дебатов с экспертами по искусственному интеллекту, организованных Ассоциацией по развитию искусственного интеллекта. Он встретился с главным автором WIRED Уиллом Найтом, чтобы обсудить шахматы, искусственный интеллект и стратегию, позволяющую оставаться на шаг впереди машин.
Приводим ниже отредактированную стенограмму интервью.
WIRED: Каково было вернуться на то место, где вы проиграли Deep Blue?
Гарри Каспаров: Я примирился со своим поражением. В конце концов, матч был не проклятием, а благословением для меня, потому что я стал частью чего-то очень важного. Двадцать два года назад я думал иначе. В жизни случается всякое. Мы все делаем ошибки. Мы проигрываем. Важно лишь то, как мы справляемся с нашими ошибками, с отрицательным опытом.
1997 год стал неприятным опытом для меня, но он помог мне понять будущее сотрудничества человека с машиной. Мы думали, что мы непобедимы в шахматах, го, сёги. Все эти игры постепенно вытесняются в сторону [всё более мощными программами ИИ]. Но это не значит, что жизнь окончена. Мы должны выяснить, как мы можем использовать это в своих интересах.
Я всегда говорю, что я был первым работником, чья работа была поставлена под угрозу машиной. Но это помогает мне донести сообщение до людей. Потому что, знаете, меня-то уж никто не может заподозрить в том, что я выступаю на стороне компьютеров.
И что бы вы хотели сказать людям о влиянии ИИ?
Я думаю, что важно, чтобы люди осознавали элемент неизбежности. Когда я слышу крик отчаяния, что ИИ врывается в нашу жизнь и разрушает её, что всё происходит так быстро, я говорю нет, нет, это происходит слишком медленно.
Любая новая технология разрушает рабочие места, прежде чем создавать их. Если вы посмотрите на статистику, только 4 процента рабочих мест в США требуют человеческого творчества. Это означает, что 96 процентов рабочих мест… я называю их работой зомби. Они мертвы, просто они не знают этого.
В течение нескольких десятилетий мы обучали людей вести себя как компьютеры, и теперь мы жалуемся, что эти рабочие места находятся в опасности. Конечно, они в опасности. Мы должны искать возможности для создания рабочих мест, которые подчеркнут наши сильные стороны. Технология — главная причина, почему мы до сих пор живы и имеем возможность жаловаться на технологии. У этой монеты две стороны. Я думаю, что важно, чтобы вместо того, чтобы жаловаться, мы прикинули, как мы можем двигаться вперёд быстрее.
Когда эти рабочие места начинают исчезать, нам нужны новые отрасли, нам нужно создавать фонды, которые помогут людям. Может быть, это будет универсальный базовый доход или ещё что-то, но нам нужно создать финансовую подушку для тех, кто останется за бортом. Сейчас люди демонстрируют защитную реакцию, будь то широкая публика или топ-менеджеры, которые смотрят на ИИ и говорят, что это чёрный ящик. Я думаю, что мы всё ещё пытаемся понять, как ИИ впишется в нашу жизнь.
Многим людям придётся столкнуться с тем, что ИИ возьмёт на себя часть их работы. Какой совет вы бы им дали?
Существуют разные машины, и это задача человека — понять, как сделать так, чтобы она работала как можно лучше. В итоге речь всё равно идёт о комбинировании. Например, посмотрите на радиологию. Если у вас есть мощная система искусственного интеллекта, я бы предпочёл, чтобы ей пользовалась опытная медсестра, а не первоклассный профессор. Человек с большим багажом знаний поймёт, что он или она должны добавить только немного. Но медицинское светило может захотеть бросить вызов машине. И это разрушит коммуникацию.
Меня спрашивают: «Что вы можете сделать, чтобы помочь другому шахматному движку против AlphaZero?» Я могу посмотреть на игры AlphaZero и понять возможные слабые стороны. И я считаю, что он дал некоторые неточные оценки, что естественно. Например, он ценит слона, а не коня. Он видит более 60 миллионов игр, в которых, по статистике, знаете, слон доминировал. Думаю, поэтому слон получил столько преимуществ у программы. Итак, вы должны попытаться привести свой движок в такое положение, при котором AlphaZero будет совершать неизбежные ошибки [на основании этой неточности].
Я часто использую этот пример. Представьте, что у вас есть очень мощное оружие, винтовка, которая может стрелять в цель с расстояния в полтора километра. Изменение направления на 1 миллиметр может привести к разнице в 10 метров на таком расстоянии. Поскольку ружьё настолько мощное, крошечный сдвиг может реально изменить ситуацию. И это будущее сотрудничества человека с машиной.
С AlphaZero и будущими машинами я описываю роль человека как пастуха. Вы просто должны подтолкнуть стадо интеллектуальных алгоритмов. Просто подтолкнуть их в ту или иную сторону, и они сделают всю остальную работу. Вы помещаете правильную машину в правильное место, чтобы сделать правильную задачу.
Как вы думаете, какого прогресса мы достигли в том, чтобы ИИ достиг уровня человека?
Мы точно не знаем, что такое разум. Даже лучшие компьютерные эксперты, люди, идущие в авангарде компьютерных наук, у них всё ещё есть сомнения относительно того, что именно мы делаем.
Сегодня мы понимаем, что ИИ всё ещё является инструментом. Нам комфортно с машинами, которые делают нас быстрее и сильнее, но умнее? Это какой-то человеческий страх. В то же время, а какая разница? Мы всегда изобретали машины, которые помогают нам улучшать различные качества. И я думаю, что ИИ — просто отличный инструмент для достижения того, что было невозможно 10, 20 лет назад.
Как это будет развиваться дальше, я не знаю. Но я не верю в AGI (искусственный интеллект, который может прийти к осознанию себя — ред.). Я не верю, что машины способны передавать знания из одной открытой системы в другую. Таким образом, машины будут доминировать в закрытых системах, будь то игры или любой другой мир, созданный людьми.
Дэвид Сильвер (создатель AlphaZero) не ответил на мой вопрос о том, могут ли машины устанавливать свои собственные цели. Он говорит о подцелях, но это не то же самое. Это определённый пробел в его определении интеллекта. Мы ставим цели и ищем пути их достижения. Машина может сделать только вторую часть.
Пока что мы видим очень мало доказательств того, что машины действительно могут работать вне этих рамок. Допустим, вы накопили знания в одной игре. Может ли машина перенести эти знания в другую игру, которая может быть похожей, но не одинаковой? Люди могут. С компьютерами в большинстве случаев начинать нужно с нуля.
Давайте поговорим об этике ИИ. Что вы думаете о том, если эта технология используется для наблюдения или в качестве оружия?
Из истории мы знаем, что прогресс нельзя остановить. Таким образом, есть определённые вещи, которые мы не в состоянии предотвратить. Если вы [полностью] ограничите эти аспекты в Европе или Америке, это только даст преимущество китайцам. Но я думаю, что нам нужно осуществлять больший общественный контроль над Facebook, Google и другими компаниями, которые генерируют так много данных.
Люди говорят, о, нам нужно сделать этический ИИ. Какая ерунда! Люди по-прежнему сохраняют монополию на зло. Проблема не в ИИ. Проблема в том, что люди используют новые технологии для нанесения вреда другим людям.
ИИ как зеркало, оно усиливает как хорошее, так и плохое. Мы должны смотреть и просто понимать, как мы можем это исправить, а не говорить: «О, мы можем создать ИИ, который будет лучше нас». Мы как-то застряли между двумя крайностями. Это не волшебная палочка и не терминатор. Это не предвестник утопии или антутопии. Это инструмент. Да, это уникальный инструмент, потому что он может усилить наш ум, но это инструмент. И, к сожалению, у нас достаточно политических проблем, как внутри, так и за пределами свободного мира, которые могут быть значительно усугублены неправильным использованием ИИ.
Возвращаясь к шахматам, что вы думаете о стиле игры AlphaZero?
Я посмотрел на его игры и написал о них в статье, в которой шахматы назывались «дрозофилой рассуждений». Каждый компьютерный игрок теперь слишком силён для человека. Но мы могли бы узнать больше о наших играх. Я вижу, как миллионы игр, в которые АльфаГо играет во время тренировок, могут принести определённые полезные знания.
Было ошибкой думать, что если мы разработаем очень мощные шахматные машины, игра станет скучной, что будет много ничьих, маневров, или в игре будет 1800, 1900 ходов, и никто не сможет пробиться. AlphaZero продемонстрировал обратное. Для меня это было очень комплиментарным, потому что он играл скорее как Каспаров, чем Карпов! Он обнаружил, что может фактически пожертвовать фигурами ради агрессивных действий. Он просто видит схему, шансы. И это делает шахматы более агрессивными, более привлекательными.
Магнус Карлсен [действующий чемпион мира по шахматам] сказал, что он изучал игры AlphaZero и обнаружил определённые элементы игры, определённые связи. Он мог подумать о ходе, но никогда не осмеливался сделать его; теперь мы все знаем, что это работает.
Когда вы проиграли DeepBlue, некоторые думали, что шахматы больше не будут интересными. Как вы думаете, почему люди всё ещё интересуются Карлсеном?
Вы ответили на вопрос. Мы всё ещё заинтересованы в людях. Машины движутся быстрее людей, ну и что? Элемент человеческой конкуренции всё ещё присутствует, потому что мы хотим знать, что наша команда, наш парень, он или она лучшие в мире.
У нас есть компьютеры, которые доминируют в игре. Это создаёт чувство беспокойства, но, с другой стороны, это расширило интерес к шахматам. Это не так, как 30 лет назад, когда Каспаров играет с Карповым, и никто не осмеливается критиковать нас, даже если мы допустили ошибку. Теперь вы можете посмотреть на экран, и машина скажет вам, что происходит. Так что машины каким-то образом привели в игру больше людей.
По материалам WIRED