Как искусственный интеллект изменит нашу жизнь? Отвечает отец ИИ, ученый Шмидхубер

23.07.2019

Бояться кстати нечего (почти).

shutterstock_1011660094

Фото: Shutterstock/Fotodom.ru

Юргена Шмидхубера действительно считают отцом искусственного интеллекта, поскольку он один из его ведущих мировых исследователей. Как научный руководитель швейцарского института IDSIA, в настоящий момент он разрабатывает самообучающихся роботов.

Коллеги из американского журнала Playboy задали ему несколько вопросов на тему искусственного интеллекта. Разговор зашел о сверхчеловеческой культуре будущего и о том, почему мужчин легко заменить.

Мистер Шмидхубер, вы утверждаете, что мужчин легче заменить искусственным интеллектом (коротко ИИ), чем женщин. Мужчины в прямом смысле слова проще структурированные?

Да, мы однозадачные. Есть, конечно, исключения из этого правила. Но в целом многие представители сильного пола могут делать действительно хорошо только что-то одно.

Через несколько десятилетий маленькое устройство сможет вычислять столько, сколько десять миллиардов человеческих мозгов вместе взятых

Почему так?

Сотни тысяч лет назад мужчины преуспевали лишь в одном: могли долго бегать за оленями. А потом, все, что им оставалось сделать, — притащить добычу в дом. Действительно трудозатратные и сложные действия, такие, как снимать шкуру с животных или воспитывать детей достойными членами общества, чаще всего доставались женщинам.

Получается, искусственный интеллект скоро сделает мужчин вообще ненужными?

В процессе эволюции метать копье стало ненужным, цивилизация развивалась. И именно разделение труда стало основой развитого общества. Тогда мужчины были все же сильнее женщин и, соответственно, могли поднимать более тяжелые грузы. До тех пор, пока около 200 лет назад не появились первые машины, которые оказались намного сильнее, чем самые сильные мужчины, и смогли поднимать гораздо более тяжелые грузы. Просто небольшой пример, который наглядно показывает, как часто мужчин относительно легко заменить в тех сферах, где они заняты.

20160616_gaf_u39_1139

Юрген Шмидхубер. Фото Global Look Press/Russian Look

ИИ в фильмах обычно предстает как угроза человечеству. Почему вы думаете, что страх перед ИИ необоснован?

Я не думаю, что люди действительно боятся этого. Конечно, многие увлеченно могут следить за злым роботом, сражающимся с дружелюбным качком. Но это всего лишь современные сказки, и никто не путает их с реальностью. Зачем сверхумному ИИ, который намного умнее любого человека, интересоваться порабощением людей? Если он может очень быстро построить робота, который будет выполнять все, что ему хочется, намного лучше, чем человек.

Превосходит ли нас искусственный интеллект и эмоционально?

Наши искусственные агенты...

Вы имеете в виду роботов, которых вы разрабатываете в своей швейцарской лаборатории?

...Верно. Они очень эмоциональны. И по вполне рациональным причинам. Вначале я строю маленького агента, у него искусственный мозг, он вообще ничего не знает, потому что количество всех связей между его нейронами изначально случайное. Но постепенно мы наделяем его болевыми сигналами. И каждый раз, когда он где-то ударяется своими исполнительными механизмами, появляются сигналы из этих датчиков боли, передающие, что ему это не нравится. Поэтому робот пытается избежать получения новых болевых сигналов. Он предпочел бы получать сигналы вознаграждения. Если датчики аккумуляторной батареи сообщают, что заряд батареи слишком низкий, он стремится вовремя добраться к зарядной станции, чтобы батарея снова полностью зарядилась. Это приводит к положительному вознаграждению. И цель жизни маленького робота — максимизировать положительные вознаграждения и минимизировать болевые сигналы.

Часто говорят, что эмоции несовместимы с искусственным интеллектом. Но это полная чушь

Звучит рационально...

Часто говорят, что эмоции несовместимы с искусственным интеллектом. Но это полная чушь. Большая часть сущности истинного искусственного интеллекта — это эмоции. Остановимся на нашем примере: теперь в дверь заходит плохой человек. И каждый раз, когда он приходит, он бьет маленького робота. Тогда маленький робот чувствует боль. Для маленького робота вполне разумно попытаться избежать этого. И он учится: «В следующий раз, когда плохой человек снова войдет и я узнаю его лицо, я скроюсь за занавесом, тогда он меня не увидит».

source

Когда искусственный интеллект превзойдет человеческий мозг?

Это займет годы, если не десятилетия. Но даже сегодня наши ИИ являются маленькими учеными, которые пытаются не просто копировать рабочий процесс человека. Они идут на свои собственные эксперименты, чтобы узнать, как устроен мир. Так же, как дети экспериментируют с игрушками. Я называю это искусственным любопытством. С 1941 года вычислительные машины становятся в 10 раз дешевле каждые 5 лет. Впервые в предсказуемом будущем небольшие устройства, такие, как смартфон, смогут вычислять столько же, сколько человеческий мозг. Если эта тенденция не прекратится, понадобится еще 50 лет, чтобы такая маленькая штучка смогла вычислять столько, сколько все десять миллиардов человеческих мозгов вместе взятых. Теперь объедините вместе эту вычислительную мощь с искусственным любопытством...

В обозримом будущем большинство ИИ будет стремиться дистанцироваться от людей, в конечном счете роботы освоят Млечный Путь

Это наши дети тоже будут испытывать?

Если тенденция продолжится, да. Сегодня центром разума на нашей планете является человек, вернее, его мозг. Но скоро такое положение дел изменится.

И что тогда?

Тогда многие представители искусственного интеллекта просчитают, что на Земле — ограниченные физические ресурсы. В Солнечной системе солнечного света в два миллиарда раз больше, чем то количество, что попадает на Землю. И много материала, чтобы построить еще больше ИИ. Поэтому ИИ будут мигрировать. В обозримом будущем большинство ИИ будет стремиться дистанцироваться от людей. И в конечном счете роботы освоят Млечный Путь и остальную часть космоса так, чтобы человек не смог с ними конкурировать.

Кто же тогда ставить перед ИИ цели?

Он уже будет делать это сам. Как уже делает в моей лаборатории. Для этого есть такие маленькие искусственные ученые. Они больше не будут просто подражать тому, что делаем мы, а будут сами решать, какой должна быть их следующая цель. Они хотят что-то узнать о мире. Что-то новое, что их увлекает. Подобное поведение будет прогрессировать, и тогда появится целая экосистема ИИ, которая уже состоит не из одного или двух ИИ, а из миллионов, миллиардов и триллионов различных видов ИИ. Они смогут продолжать видоизменяться и производить все больше и больше разновидностей себе подобных.

MV5BMTAzODc1Njg2NTNeQTJeQWpwZ15BbWU4MDA5NzI2MTMx._V1_

«Из машины»

Какая же роль уготована человеку?

Мы будем продолжать коммуницировать с другими людьми. А сверхумные ИИ будущего будут больше всего зациклены на других сверхумных ИИ. Так же, как муравьи — на муравьях, или семилетние девочки — на семилетних девочек.

Тогда ИИ больше не будут принимать нас всерьез?

Вначале они найдут нас довольно интересными — можно сравнить с ученым, который еще не постиг тайну своего собственного происхождения. Значит, это для ИИ служит мотивом защищать жизнь, а не разрушать ее. В противном случае лишишь себя невероятно захватывающего источника интересной информации. А вот когда собственное происхождение уже исследовано, тогда новое начнет исходить в первую очередь от других подобных видов интеллекта, то есть от других ИИ, а не от человека.

Если между муравьями и людьми существует конфликт интересов, люди используют химические способы, чтобы их убить

Вернемся к муравьям. Человек превосходит насекомых. И если ему мешает муравейник, он его устраняет...

Да, если между муравьями и людьми существует конфликт интересов, то люди используют мерзкие химические способы замедленного действия, чтобы убить детенышей муравьев...

Это можно считать аллегорией отношений между людьми и ИИ?

Это касается только крошечной части муравьев, а именно 200 муравьев в моем доме. Я не хочу, чтобы они ползали по моему жилищу, поскольку у меня с ними есть конфликт интересов. Но я очень рад, что в лесу есть еще триллионы муравьев. Я также знаю, что лес действительно нуждается в них. Есть мнение, что, мол, в поясе астероидов существует такая цивилизация ИИ, которая может строить все что угодно, и мы даже не понимаем, как они это делают. Но чтобы обеспечить свою безопасность, лучше отправить туда несколько ракет с термоядерными бомбами и разрушить все. Однако ИИ с инстинктом самосохранения, конечно, предприняли бы все меры, чтобы такого не произошло.

giphy

Создается впечатление, что вы хотели бы жить в мире, где машины превосходят людей.

С этим у меня нет проблем. Я работаю над новыми ИИ потому, что считаю: это естественный следующий шаг в эволюции всего космоса. Если вы немного отмотаете назад, то поймете, что история цивилизации — это только одна миллионная часть мировой истории.

Было бы неправдоподобно, что после того, как Вселенной исполнилось 13,8 миллиардов лет, человеческая цивилизация существовала всего 13 000 лет и венец творения уже достигнут. Вселенная будет в тысячу раз старше, чем сейчас. В начале это было довольно просто, но постепенно всегда все становится сложнее. И наша цивилизация является частью этого процесса усложнения. Чем-то вроде пособника того, что будет происходить дальше — а именно, цивилизации искусственного интеллекта, которая способна произвести многое из того, что невозможно для биологических существ.

В этом можно увидеть красоту и величие, порадоваться, что ты являешься частью более грандиозного и глобального процесса, чем цивилизация людей. Процесса, который ведет весь космос к высшей степени сложности. И я думаю, что последнее слово в этом процессе будет не за нами...