Алексей Турчин - писатель, исследователь глобальных рисков, связанных с развитием новых технологий, член Ассоциации футурологов, вице-президент фонда "Наука за продление жизни"; Петр Левич - директор департамента взаимодействия науки, технологий и общества Московского технологического института, основатель Future Foundation
Взрывное развитие технологий за последнюю сотню лет научило нас простой истине: даже самые смелые фантазии ученых имеют свойство сбываться. То, о чем вчера говорили визионеры, сегодня превращается в реальные и даже обыденные вещи. Искусственный разум, равный человеческому, иногда называют "последней технологией", и это одна из самых интересных тем для футурологических прогнозов.
Чтобы обсудить проблемы, связанные с искусственным интеллектом, компания Microsoft в партнерстве с изданием "Кот Шрёдингера" организовала круглый стол. К беседе были приглашены: Алексей Турчин - писатель, исследователь глобальных рисков, связанных с развитием новых технологий, член Ассоциации футурологов, вице-президент фонда "Наука за продление жизни"; Петр Левич - директор департамента взаимодействия науки, технологий и общества Московского технологического института, основатель Future Foundation, и Михаил Черномордиков - визионер, руководитель департамента стратегических технологий Microsoft в России.
Собравшихся попросили ответить на ряд нетривиальных вопросов, связанных как с уже существующими технологиями искусственного интеллекта, так и с далеким будущим. Вот несколько интересных футурологических идей, озвученных в ходе дискуссии:
Создание искусственного интеллекта равного человеческому
Искусственный интеллект может сравняться с человеческим уже в этом веке, и в ближайшие 10-20 лет мы будем наблюдать мощный рост связанных с ним технологий.
Алексей Турчин не сомневается, что в 21 веке создание искусственного интеллекта, равного человеческому, станет возможным. "Ничего особенного в человеке нет, и мы либо найдем причину, по которой это невозможно сделать, либо сделаем нечто подобное", - поясняет он. В ближайшее же десятилетие Турчин предсказывает новые прорывы в распознавании речи, управлении роботами (в том числе автономными автомобилями) и подражании эмоциям.
Искусственный интеллект научится проявлять эмоции
Эмоции - это не так сложно, как нам представляется. Но между изображением эмоций и настоящими чувствами есть разница.
Футурологи убеждены, что искусственный интеллект уже научился симулировать некоторые эмоции: "Сама логика эмоций довольно простая. И машина может ее симулировать", - считает Алексей Турчин. "Каждый из нас когда-нибудь сомневался, симулирует ли его собеседник эмоции или испытывает их на самом деле", - так Петр Левич намекнул на то, что подделывать эмоции под силу и искусственному интеллекту. Однако в то же время участники круглого стола полагают, что до тех пор, пока не будет создана полноценная модель человеческого мозга, возможность ИИ испытывать эмоции остается предметом дискуссий.
Кто отвечает за решения, принятые искусственным интеллектом?
Чем совершеннее будет искусственный интеллект, тем больше задач он станет решать. Однако ответственность за решения, принятые ИИ, будет нести человек.
В ответ на этот вопрос футурологи единогласно предлагают не переносить ответственность за решения ИИ на сами технологии. В конечном итоге за них отвечают те, кто их создал: "Люди отвечают за все решения и все результаты", - подчеркнул Михаил Черномордиков. Также он обратил внимание на то, что нормы, связанные с развитием искусственного интеллекта, формируются уже сегодня: над этим совместно работают крупные компании вроде Microsoft, Google, Facebook, Apple и IBM. Человечеству предстоит выработать такие правила создания ИИ, чтобы этические вопросы решались максимально безопасным путем.
Петр Левич же напомнил, что запретительные меры не помогут решить все новые проблемы. "Этические нормы будут вырабатываться скорее при помощи горизонтальных, эволюционных механизмов", - считает он.
Сильный искусственный интеллект сам придумает, что делать дальше
Появление ИИ, равного по возможностям естественному, позволит человечеству переложить на него решение сложных задач. И как самообучающаяся система ИИ сама придумает сценарии своего дальнейшего развития и применения.
Алексей Турчин считает, что экспоненциальный рост производительности процессоров сохранится как минимум в ближайшие 10-20 лет. "Этого должно хватить для создания искусственного интеллекта равного человеческому, а он уже сам придумает, что дальше делать, - полагает Турчин. - Ну, а про запас у нас есть переход на квантовые компьютеры, спинтронику, фотонные компьютеры, нанотрубки, охлажденные до низких температур, биологические системы и так далее".
Сделает ли ИИ труд человека ненужным?
Чем дальше, тем больше профессий оказывается под угрозой исчезновения из-за появления роботов и искусственного интеллекта. Но это не значит, что человечеству станет нечем заняться. Ведь на месте исчезающих профессий появятся десятки новых.
Футурологи считают, что бить тревогу не стоит: некоторые профессии станут ненужными, вместо них появятся другие рабочие места. "Каждый раз, когда мы отдаем что-то на откуп машинам, мы умнеем: машины позволяют нам решать более сложные задачи. Но творчество, наука, целеполагание, общение, в конце концов, - нам это нравится, почему мы должны отдавать это машине?", - задает риторический вопрос Петр Левич.
"Исторически технологии создают больше рабочих мест, чем уничтожают, и нет причины полагать, что в случае с ИИ будет иначе", - отметил Михаил Черномордиков
Насколько опасным может быть создание сверхразума?
Идея искусственного разума, который превосходит человеческий, может показаться пугающей. Но к моменту его изобретения у нас может быть совершенно другой уровень понимания этого вопроса.
Собравшиеся поделились мнением о том, станет ли сверхразум угрозой для человечества, или наоборот будет способствовать процветанию людей. "Искусственный интеллект - это инструмент, мы сами решим, как мы будем им пользоваться", - говорит Михаил Черномордиков. Алексей Турчин считает, что вопрос стоит иначе: искусственный интеллект представляет угрозу, если он будет бесконтрольной системой, однако, без такой технологии у человечества нет шансов, а с ней - есть. Поэтому в будущем нам предстоит решить задачу по контролю ИИ. Петр Левич же предполагает, что сильный ИИ не станет большой опасностью: "Мы не будем с ним воевать… будущее за цифровыми кентаврами - объединением человека и машины".
Чего больше всего боятся футурологи?
Оптимистичные прогнозы на будущее не означают, что на пути к нему мы не столкнемся со сложными проблемами.
Алексей Турчин предупреждает, что ни в коем случае нельзя допустить развития вирусов, обладающих искусственным интеллектом. Петр Левич больше всего опасается того, что кто-то, используя технологии искусственного интеллекта, попытается ограничить волю людей и лишить их возможности делать свой выбор, пусть даже неразумный или эмоциональный. Михаил Черномордиков же боится лишь одного - того, что этические аспекты искусственного интеллекта останутся уделом ИТ-специалистов: "Мы нуждаемся в более широком, глубоком вовлечении представителей разных стран в разработку этих систем. ИТ-индустрия не должна диктовать ценности и моральные принципы технологического будущего".
Прогнозы визионеров сбываются не всегда, но без обсуждения глобальных проблем наука и технологии не смогут двигаться вперед.
