Авторизация


На главнуюКарта сайтаДобавить в избранноеОбратная связь  
Президент России В.В. Путин 4 декабря 2020 года принял участие в видеоконференции по искусственному интеллекту Artificial Intelligence Journey
Источник: Президент России
14:33 / 04.12.2020

Путин: "Искусственный интеллект заменить главу государства не сможет"
"Искусственный интеллект может быть достигнет таких невероятных возможностей, которые сравнимы с интуицией, но такие субстанции, как душа, совесть и сострадание… Притом что машина должна выбирать наиболее рациональный путь решения, а рациональное для главы государства не всегда является абсолютно правильным", - Владимир Путин

Президент Российской Федерации В.В. Путин 4 декабря 2020 года в режиме видеоконференции принял участие в основной дискуссии конференции по искусственному интеллекту Artificial Intelligence Journey (AI Journey 2020) на тему «Искусственный интеллект — главная технология XXI века» (окончание).

Т. Шаврина: Добрый день!

Меня зовут Татьяна Шаврина, и вместе с несколькими командами внутри Сбербанка мы занимаемся разработкой нейросетевых технологий.

Совсем недавно мы обучили для русского языка одну из самых совершенных и мощных нейросетей – GPT-3. Нейросеть GPT-3 может писать тексты на русском языке практически на любые темы, она может извлекать наиболее важную информацию из документов, классифицировать их. Но самое главное, она приобретает новые навыки на минимальном количестве примеров.

Мы впервые в России получаем подобный результат, хотя для русского языка с его сложной грамматикой было непросто добиться того, чтобы нейросеть писала текст связно и логично. И хотя до сильного искусственного интеллекта нам ещё пока далеко, но уже сейчас подобные технологии способны сделать жизнь человека проще.

Вместе с нашими студентами, вместе с участниками соревнования AI Journey этого года мы разработали большое количество прототипов, которые автоматизируют человеческий труд во многих отраслях.

Так, искусственный интеллект уже сейчас успешно выступает в роли учителя, в роли виртуального ассистента, помогает в оформлении документации, а также берёт на себя традиционно творческие задачи, например написание эссе. Сейчас, когда мы впервые получаем подобный результат, мы спрашиваем себя всё больше, а что же ждёт нас в будущем?

В связи с этим у меня такой вопрос: уважаемый Касым-Жомарт Кемелевич, каких изменений ждёте лично Вы в связи с развитием искусственного интеллекта в будущем? И самое главное, к чему нужно быть готовыми в профессиональном плане, особенно молодому поколению?

Спасибо.

К.-Ж.Токаев: Благодарю Вас за вопрос.

Я в порядке подготовки к этому очень важному форуму прочитал Ваше резюме. И конечно, был впечатлён: в столь юном возрасте Вы достигли столь многого, как, впрочем, я был впечатлён и резюме Ани Арчибасовой. Ей 18 лет, но она успела так много сделать в своей жизни, что это не может не удивлять и не поражать.

Герман Оскарович только что упомянул программу под названием «Большая перемена». Я сразу вспомнил, что это знаменитый советский фильм, который мы с большим удовольствием смотрели по телевидению в 80-е годы.

И в этой связи я вспомнил другой фильм, снятый 40 лет тому назад, – «Приключения Электроника». В том знаменитом фильме школьник пытался использовать своего робота-двойника, чтобы тот исполнял вместо него обязанности по дому и школе.

Но потом этот робот вошёл, как говорится, в роль и стал претендовать на то, чтобы занять место своего оригинала. В этом, казалось бы, простом фильме содержится очень интересная идея или проблема: смогут ли роботы, обладая высоким искусственным интеллектом, заменить человека? Я считаю, что всё зависит от качества работы над таким интеллектом.

Первые успехи в разработке мыслительных процессов уже достигнуты, искусственный ум не только накапливает информацию, просчитывает, предлагает решения, но он начинает думать, как Homo Sapiens, или, как выразился Харари, Homo Deus.

Но полностью заменить людей пока не получится, потому что, и здесь я согласен с Владимиром Владимировичем, искусственный интеллект, во всяком случае пока, не обладает интуицией. На этот факт, кстати, обратили внимание ведущие шахматисты, которые сражались с компьютерами.

Они заметили, что, да, конечно же, компьютеры значительно превосходят людей в плане сбора информации, присчитывания ходов, вариантов, но у них нет интуиции, чем обладает человек.

Но события в сфере разработки искусственного интеллекта развиваются невероятно быстро. То, что вчера казалось невероятным, сегодня является реальностью. Однако, говоря о замене человека искусственным интеллектом, мне кажется, надо помнить, что человек – это всё же порождение Всевышнего.

В то же время, к сожалению, человечество деградирует, убивает себя. Отсюда вытекает задача совершенствования сути человеческой жизни. В то же время нужно думать и о том, как совместно сосуществовать с искусственным интеллектом. Эта задача уже абсолютно актуальная и не вызывает каких-либо сомнений.

Нужно быть готовыми к скорому исчезновению таких профессий, как банкиры, бухгалтеры, кассиры, курьеры, водители.

Может быть, юристы ещё как-то выживут, поскольку там нужно обладать очень большим массивом знаний и информации относительно законодательства, но думаю, что недолог час, когда машины заменят и юристов, по крайней мере в их традиционном на сегодня представлении в глазах обывателя. То есть профессии будут уходить в небытие.

В то же время будущая эра интеллектуальных машин будет создавать потребности в новых профессиях.

Об этом, кстати, Владимир Владимирович очень точно высказался, что, да, действительно на каждом витке промышленного развития, рывка эволюции стоял стон вокруг проблемы ухода в небытие целого ряда профессий, специальностей и так далее. Это было на протяжении всей истории человечества.

По прогнозам экспертов, в результате внедрения новых машинных технологий и алгоритмов в будущем на два сокращённых рабочих места будет создано три новых места. Будет появляться ряд профессий, требующих творческого подхода, аналитического и критического мышления.

В частности, и в области искусственного интеллекта возникнет потребность в специалистах с творческим подходом и знаниями, понадобятся архитекторы автоматизации, инженеры виртуальной реальности, проектировщики и так далее, не буду сейчас перечислять.

И перед новым поколением специалистов встанет цель сделать искусственный интеллект максимально дружелюбным, или, как сейчас говорят, user friendly. Возникает потребность в специалистах, способных выразить принципы работы человеческой психики на машинном языке.

То есть как правильно привить человеческие качества и способность к эмпатии неодушевлённому предмету. Может быть, понадобятся специалисты по когнитивной робототехнике, инженеры биоматериалов.

Самое важное, искусственный интеллект, я об этом уже говорил, всегда должен быть подконтролен человеку. Возникает необходимость в создании надзорных и инспектирующих органов в сфере применения искусственного интеллекта.

К примеру, юридическое недопущение применения искусственного интеллекта в криминальных сферах или её развитие в противоречии с основополагающими морально-этическими ценностями человечества.

Для того чтобы быть готовыми к новой эпохе, к новой парадигме, нам необходимо подстраиваться под перспективные потребности творческого интеллектуального труда, что потребует максимального преобразования системы образования и воспитания, и здесь, я думаю, то, что высказал Президент России в плане постановки задач перед своим Правительством, имеет также практическое значение и для Правительства Казахстана, мы используем этот опыт.

Благодарю.

Г. Греф: Спасибо большое, Касым-Жомарт Кемелевич. К сожалению, тревожный прогноз у Вас по профессии банкиров. Понял, что придётся, может быть, переквалифицироваться в юриста, но, к сожалению, вынужден с Вами согласиться, Вы правы.

И сегодня с нами на связи профессор из Швейцарии Юрген Шмидхубер. Юрген является одним из самых цитируемых людей в мире в области искусственного интеллекта. Открытые им ещё в 90-е годы так называемые долгие краткосрочные сети лежат в основе огромного количества нейросетевых моделей.

В частности, именно на этом принципе построенные компанией DeepMind системы искусственного интеллекта умудрились выиграть в прошлом году самые сложные, наверное, на сегодняшний день игры, значительно более сложные, чем гольф и шахматы, Dota и Starcraft.

На сегодняшний день его статья 1997 года об этих самых LCTN является самой цитируемой в мире, ссылки на неё встречаются чаще всего во всей науке искусственного интеллекта.

И я хотел бы предоставить слово Вам, Юрген.

Ю. Шмидхубер (как переведено): Спасибо большое, Герман.

Я хочу задать вопрос Президенту. Могу я это сделать? Хорошо.

Господин Президент Владимир Владимирович, передают Вам привет из Швейцарии. Меня зовут Юрген Шмидхубер. Я знаю, что Вы великолепно владеете немецким. Однако если позволите, я обращусь к Вам по-английски.

Вчера я выступал в качестве ключевого спикера на конференции AI Journey. Последний раз я выступал с речью на этой конференции в 2019 году. А в прошлом году я слушал также Ваше выступление.

Я был очень впечатлён, подумал тогда, ведь впервые, когда лидер могущественной мировой державы подчёркивает важность сильного искусственного интеллекта. Сегодня, конечно, бо́льшая часть современного ИИ [искусственного интеллекта] основана на глубоком обучении, искусственных нейронных сетях.

Мне в самом деле очень приятно отметить, что мы сами разработали методы, которые сейчас используются в миллиардах смартфонов. Возможно, что и на Вашем смартфоне есть эти алгоритмы для распознавания речи. Хотя, возможно, Ваш телефон отличается от телефонов большинства людей.

В любом случае я всегда в этом контексте воздаю дань уважения, отдаю должное советским ученым Алексею Ивахненко и Валентину Лапе, которые ещё в 1965 году фактически были пионерами в этой области.

Они стояли у истоков глубоких нейронных сетей, разработали обучающие алгоритмы, они были фактически основоположниками глубокого обучения, которое является центральным элементом и сейчас. Можно сказать, что Советский Союз был не только первопроходцем в плане космической эпохи, но стоял также у истоков машинного обучения.

Мой вопрос к Вам заключается в следующем. Видите ли Вы пути продолжения тех достижений, основа которым была положена тогда, в те годы? И каким образом, по Вашему мнению, можно было бы ещё улучшить условия для исследователей в фундаментальных науках, в области машинного обучения, в области искусственного интеллекта?

Каким образом можно сейчас конкурировать с крупными проектами в области ИИ, с которыми выступают крупнейшие компании в области Тихого океана? Возьмём, например, Шанхай. Это всего лишь город, однако один только этот город инвестирует 15 миллиардов долларов в развитие ИИ. Вот мой вопрос.

Спасибо большое, господин Президент.

В. Путин: Спасибо большое, что Вы, Юрген, отметили достижения советской, российской школы по развитию искусственного интеллекта.

Это, безусловно, наш мощный задел. И не только два исследователя, о которых Вы упомянули, у нас целая плеяда, целая школа, которая имеет свои начала ещё из нашей российско-советской математической школы, инженерной школы в целом. И то, что на их идеях происходит дальнейшее развитие, это, конечно, очень важно.

Многие наши исследователи заложили основы развития целым направлениям в науке и в технологиях. Я сейчас не буду обо всём говорить, там есть чем гордиться. Но чтобы конкурировать с крупными центрами, которые вкладывают существенные деньги в развитие искусственного интеллекта, мы должны, понимая это, выстраивать свою работу.

За счёт чего? За счёт тех заделов, которые есть, и за счёт того, чтобы нам действовать безошибочно по очень многим из тех направлений, которые в совокупности дадут нужный результат.

У нас и в некоторых других областях, казалось бы, наши финансовые возможности уступают финансовым возможностям наших партнёров-конкурентов, но мы добиваемся таких результатов, которых у них пока нет.

Я говорил о чём? Допустим, в данном случае говорил о широком распространении соответствующих направлений знаний начиная ещё с дошкольного воспитания и со школы. Это мы будем и должны делать.

Имея в виду сложившуюся систему образования, в том числе, скажем, целую сеть, созданную ещё при Советском Союзе, специализированных физико-математических школ, надеюсь, нам удастся выбирать таких молодых людей и таких будущих специалистов и исследователей, которые будут в состоянии добиться прорывных решений. Первое.

Второе. Нам нужно обязательно создать условия, при которых их работа в собственной стране будет для них привлекательнее, чем на каких-то других площадках за рубежом. Это тоже очевидная вещь, Вы европеец и знаете, что из Европы многие учёные выезжают в Соединённые Штаты потому, что там просто больше платят.

Из стран СНГ многие стараются приехать в Россию, потому что здесь созданы лучшие условия. Это естественный процесс любого рынка труда, и в данном случае тоже.

Я в своём вступительном слове упомянул, и Вы, наверное, обратили на это внимание: мы существенно снизили налоговую нагрузку и изъятие денег в социальные фонды для компаний, работающих в цифровой сфере. Это целенаправленные действия государства, для того чтобы создать благоприятные условия для развития соответствующего вида деятельности.

Это в конечном итоге даст возможность и повышать уровень доходов тех людей, которые и занимаются этой работой. А затем мы на уровне высшей школы планируем в ближайшее время на конкурсной основе создать шесть крупных исследовательских центров, которые будут работать в области IT-технологий.

На эти цели мы выделяем, может быть, пока трудно сопоставимые с теми деньгами, которые выделяются в других местах и в других странах, но всё-таки для нас это приличные ресурсы: до 2024 года 6 миллиардов рублей мы планируем выделить на эти цели.

Сейчас только недавно я был в одном из наших крупных ядерных центров в городе Сарове, и руководители центра, а там невозможно ничего сделать без математики и совсем уже невозможно будет скоро сделать ничего без искусственного интеллекта.

Там тоже передо мной поставили вопрос о создании ещё одного крупного научно-исследовательского или научно-математического центра, кстати говоря, как международной площадки.

Несмотря на все сложности, связанные с определёнными режимными требованиями, я всё-таки считаю, что они правы, так нужно сделать, с привлечением наших крупнейших центров, включая Московский государственный университет, некоторых математических институтов Академии наук.

По этому пути мы будем идти, создавая в том числе не только административно, но и насыщая их необходимой техникой, оборудованием, привлекая лучших специалистов, надеюсь, в том числе и из-за рубежа.

Я исхожу из того, что и Вам, может быть, представится возможность, будет интерес приехать и пообщаться со своими коллегами, поработать вместе. Такие примеры работы в некоторых сферах, такие примеры работы со специалистами из других стран у нас есть.

Например, я вам скажу, в некоторых европейских странах сворачивается работа в области ядерных технологий. Многие приехали и работают у нас. Замечательные люди, крупные специалисты.

В сфере искусственного интеллекта, я думаю, не будет в ближайшее время таких запретов и ограничений. Но, создавая интересные площадки, интересные коллективы для совместной работы, мне кажется, мы создаём привлекательные условия для того, чтобы интеллектуалы со всего мира собирались, в том числе и у нас, и вместе работали.

Г. Греф: Спасибо большое, Владимир Владимирович.

Я тоже хочу сказать, что мы в Сбере считаем научную работу и фундаментальные исследования критически важными. И, как нам кажется, крупнейшие компании не должны стоять в стороне, они должны принимать участие и инвестировать в развитие науки и технологий.

Мы в декабре месяце открываем, уже физически открываем Институт развития искусственного интеллекта, который будет заниматься исследованиями в области Больших данных, искусственного интеллекта, и будет заниматься масштабными прикладными исследованиями в том числе.

И я рад сказать, что мы пригласили Юргена Шмидхубера на должность почётного директора этого института, он дал согласие. Я думаю, что мы с удовольствием будем сотрудничать со всеми научными учреждениями, и при его научном лидерстве как раз и будет развиваться наш институт.

И следующий вопрос я хочу попросить задать постоянного участника наших конференций AI Journey «Путешествие в мир искусственного интеллекта» Алексея Натёкина. Алексей является основателем и руководителем проекта Open Data Science.

Алексей, пожалуйста, Вам слово.

А. Натёкин: Добрый день!

Меня зовут Алексей Натёкин. Open Data Science – это одно из крупнейших международных сообществ специалистов по анализу данных, машинному обучению и Data Science, то есть те технологии и те люди, которые искусственный интеллект и разрабатывают.

Нас уже более 50 тысяч человек, мы постоянно делимся опытом, читаем лекции, учим друг друга, а также развиваем и продвигаем машинное обучение в России и в мире. И нас, как специалистов-практиков, особенно волнует один вопрос – это регулирование.

Понятно, что совсем без регулирования и стандартов в искусственном интеллекте, скорее всего, не обойтись. Но стоит перегнуть палку, и наша очень интересная и очень важная область может умереть ещё в зачатке.

Попробую проиллюстрировать это на аналогии. Интернет – это, пожалуй, ключевая и самая важная технология за последние 25 лет, которая буквально изменила весь мир.

К счастью и для нас, и для интернета особенной спешки с его регулированием мы не наблюдали, и интернета эти спешка и регулирование, пожалуй, минули. Однако всё могло быть не так радужно.

В последние 2,5 года в Европе действует особенно жёсткое регулирование оборота данных. Есть подозрение, что начни интернет ещё на своей заре так же усердно регулировать, как сегодня регулируется оборот данных в Европе, то ни в Европе бы интернета не было, ни развитию интернета в мире это бы точно никак не содействовало.

С другой стороны, есть и стимулирующие методы, и стимулирующее регулирование помимо жёстких ограничений. Например, это создание крупных тестирующих сред, создание открытых стандартов или, например, подобно тому, как это устроено в Китае, – открытие больших, в том числе государственных, наборов данных для своих компаний, исследователей и специалистов.

Это буквально база для тех самых прорывных решений и создания новых мировых лидеров по своим направлениям.

В общем, искусственный интеллект и его регулирование – это достаточно сложная и тонкая тема. Здесь очень важно не допустить ошибок других стран. Можно буквально сказать, что Евросоюз выстрелил себе в ногу и заморозил свой прогресс в искусственном интеллекте жёстким регулированием.

Владимир Владимирович, мой вопрос Вам. Что Вы думаете о регулировании искусственного интеллекта в целом? И, в частности, как Вы смотрите на то, чтобы в основе регулирования искусственного интеллекта в России в первую очередь лежали именно стимулирующие подходы, а не жёсткие ограничения, подобные европейским?

В. Путин: Алексей, вопрос, который Вы поставили, сформулировали, очень важный. Я думаю, Вы со мной согласитесь, я об этом тоже говорил сегодня, что всё-таки морально-нравственные нормы (с этого начал, постараюсь этим же и закончить) всё-таки важны в любой сфере деятельности человека, это чрезвычайно важная вещь. Это первое.

Второе. Вы сказали, что в Европе введены слишком жёсткие ограничения по распространению больших данных и это, на Ваш взгляд, будет мешать развивать это важнейшее направление деятельности. Я не думаю, что там это случится. Но если это так, ну и бог с ними тогда. Такие специалисты, как Юрген, приедут к нам, и очень хорошо.

Но повторяю, там всё-таки люди достаточно умные, хорошо подготовленные, они внимательно будут смотреть за тем, как развивается эта важнейшая сфера деятельности, прекрасно отдают себе отчёт в том, что происходит и какое влияние оказывают на развитие этого сектора науки, экономики, социальной сферы эти ограничения.

Они способны будут достаточно быстро скорректировать, если в чём-то перегнули палку, как Вы сказали.

Мы со своей стороны, безусловно, воспользуемся Вашим советом. Мы будем смотреть на то, как и что происходит в других странах, будем смотреть на результаты принимаемых ими решений и соответствующим образом выстраивать эту политику у нас.

Да, Вы совершенно правы, когда говорите о том, что нужно создавать хорошие базовые условия для развития. Вы вспомнили про интернет. Сколько было у нас шума и бури в стакане воды по поводу того, что у нас какие-то ограничения на распространение данных в интернете вводятся.

Но ничего же не случилось. Решения были выверенные, они касаются известно чего – невозможности пропагандировать суицид, детскую порнографию и прочие вещи, терроризм и так далее. Ничего не произошло страшного.

Мы постараемся так же аккуратно действовать и в сфере искусственного интеллекта, в сфере распространения больших данных. Но Вы тоже согласитесь со мной, что нужно людей поберечь от непрогнозируемого выброса в публичную сферу личных данных. Над этим надо подумать.

Во-первых, я думаю, нам нужно будет здесь пойти проторённой дорожкой, по которой мы идём, принимая другие решения в сфере экономического регулирования. Прежде чем принять какое-то решение, мы очень подробно обсуждаем это с соответствующим профессиональным сообществом, с объединениями предпринимателей.

Я думаю, что то же самое мы должны, и точно будем, делать и в этой сфере. Тем более что она такая тонкая пока, совсем неизученная. И конечно, нам очень важно знать мнение таких людей, как Вы, учитывать при принятии решений. Это первое.

Второе. Я сейчас завершаю ответ на Ваш вопрос, я именно с этого и начал. Кроме различных административных, законодательных ограничений, мне кажется, нужно подумать, я в прошлом году тоже об этом сказал, о том, чтобы выработать для этой среды такой внутренний морально-нравственный кодекс работы.

Ведь во многих средах он применяется и действует даже более эффективно, чем написанное право, приобретает форму – мы с Германом Оскаровичем знаем ещё со времён Петербургского университета – обычного права, так называемого обычного права, то есть фактически приобретает норму закона, но неписаного закона.

Вот эти морально-нравственные нормы, требования должны быть выработаны и применяться и в этой чрезвычайно важной и так бурно развивающейся сфере.

Г. Греф: Большое спасибо, Владимир Владимирович.

Вы можете видеть, что в студии есть такой большой экран, большой дашборд, где технология распознавания речи выбирает самые употребляемые слова, и наш ассистент Афина публикует те слова, которые более всего повторяются в вопросах и в ответах наших уважаемых спикеров.

И я выбрал один вопрос, который интересует очень многих, и, Владимир Владимирович, хотел бы задать его Вам. К сожалению, сегодня мы констатируем, что искусственный интеллект стал доступен и кибермошенникам, и всё больше и больше с каждым годом вообще мошенничества, преступлений перемещаются в сферу интернета, в виртуальную среду.

Сегодня крупнейшие преступные сообщества в виртуальном мире практически все используют технологии искусственного интеллекта.

В. Путин: Алексею это скажите. Алексей нас слышит? Слышите нас?

А. Натёкин: Конечно.

Г. Греф: К сожалению, сегодня мы видим, что особенно в период коронавируса, когда многие люди, особенно пожилого возраста, оказались незащищёнными перед этими технологиями, они обманывают людей, они воруют их данные, вскрывают их почту, шантажируют, просто банально воруют деньги, причём очень большие суммы денег.

Мы видим, что, к сожалению, не всегда государство успевает реагировать на это. У нас недостаточно хорошо прописаны все компьютерные преступления в Уголовном кодексе, Административном кодексе, маленькая ответственность за них предусмотрена, в отличие от целого ряда других стран.

К сожалению, в процессуальном законодательстве очень неясно пока сформулированы правила расследования преступлений. Правоохранительные органы пока страдают от недостатка оборудования, специалистов и законодательной базы, а преступников нужно в этой сфере фиксировать и схватывать мгновенно.

Как представляется, здесь необходим союз правоохранительных органов, государственных структур и крупнейших компаний – операторов сотовой связи и крупнейших компаний, которые работают в интернете.

Я думаю, что все мы заинтересованы в том, чтобы собрался такой кулак. Но нужны инициативы со стороны государства значительно более активные, как нам сейчас представляется.

Скажите, пожалуйста, Вашу точку зрения, что государство планирует делать в этой сфере?

В. Путин: Я практически на этот вопрос отвечал только что, Алексей его задал. Могу только повторить: считаю, что это очень важно. Это правда, действительно, у нас за прошлый год, по-моему, рост общей зарегистрированной преступности составил 1,1 процента.

А в этом году с учётом развития обслуживания в онлайн-режиме, а значит, и искусственного интеллекта, и элементов информационных технологий, преступлений в этой сфере, именно в высокотехнологичных сферах, возросло знаете на сколько – на 75,1 процента. Представляете, рост какой! Всплеск, можно сказать. Поэтому это проблема, это вызов.

Мы должны действовать здесь, конечно, Вы правильно сказали, сообща, объединяя наши усилия с такими людьми, которые сегодня присутствуют на нашей конференции, с такими людьми, как Алексей, которого беспокоят излишние ограничительные меры.

И должны исходить вместе с вами из одного принципа, который нам тоже очень хорошо известен: не увеличением и ужесточением санкций обеспечена эффективная борьба с правонарушениями, а неотвратимостью наказания.

Но для того, чтобы обеспечить эту эффективность, нужно, чтобы и само государство оказалось на уровне тех требований, которые предъявляются к нему для защиты законных интересов и прав граждан.

Я говорил о том, что все сферы жизни, все сферы деятельности государства должны быть пронизаны современными информационными технологиями искусственного интеллекта.

Это значит, что и в сфере выявления правонарушений мы должны действовать так же широко и применять такие же инструменты, которые применяют правонарушители, – и тогда государство будет на уровне тех требований, которые к нему сегодня предъявляются.

Г. Греф: Владимир Владимирович, спасибо большое за Ваш ответ.

Я в начале встречи говорил, что у нас сегодня на встрече присутствует наш виртуальный собеседник, ассистент Сбера Афина.

Афина, скажи, пожалуйста, появился ли у тебя вопрос к нашим спикерам?

Афина: Здравствуйте! Это Афина. У меня к вам вопрос: может ли искусственный интеллект стать Президентом?

В. Путин: Надеюсь, что нет, и сейчас скажу почему. Во всяком случае, пока. Всё-таки искусственный интеллект – в самом названии, видите, присутствует слово «искусственный», как бы ненастоящий.

Президент Токаев уже сказал о высших источниках происхождения человека, а у всего искусственного, в том числе и у искусственного интеллекта, нет сердца, души, нет чувства сострадания и совести.

Все эти компоненты чрезвычайно важны для людей, которых граждане наделяют особыми полномочиями в принятии и реализации решений, идущих на благо страны. И иногда – я это знаю по своему собственному опыту и думаю, что Президент Казахстана это подтвердит, – иногда приходится принимать, казалось бы, не совсем рациональные решения.

А их нужно принимать исходя из истории, культуры, текущей практики и устремлений и ожиданий граждан страны.

И эти решения для социальной сферы иногда кажутся нерациональными в области, скажем, пенсионного обеспечения, в области здравоохранения, в других сферах жизнедеятельности человека, но они для президента-человека кажутся и являются обоснованными, потому что он принимает решение не в интересах машин, а в интересах живых людей, и должен думать именно об этом.

Но, без всякого сомнения, искусственный интеллект может быть хорошим подспорьем, хорошим помощником, даже учителем любого человека, и главы государства в том числе. Может быть инструктором, может быть ассистентом, и роль и значение искусственного интеллекта в государственном управлении, безусловно, будет возрастать.

Очень рассчитываю на то, что Ваши «коллеги», Афина, так скажем, с осознанием своей ответственности, если они будут работать рядом с главами государств, будут принимать и соответствующие решения.

Президент Казахстана уже сказал, что шахматисты говорили об интеллекте, которого якобы у машин нет. Это вообще спорный вопрос. Во-первых, машины уже обыгрывают шахматистов, а во-вторых, что такое…

К.-Ж.Токаев: Интуиция.

В. Путин: Да, интуиция. Что такое интуиция? У меня есть основание полагать, что интуиция – это тоже знания, только не активированные. Ведь вся информация скапливается в головном мозге человека за всю его жизнь. Из чего она скапливается?

Нейроны головного мозга при получении определённой информации, при принятии решений создают цепочки, а потом создают нейронные сети. Эти нейронные сети не используются каждый день, но они лежат где-то там, глубоко.

Человек даже не понимает происхождения своих тревог, или своих намерений, или своих планов – и это называется «интуиция». Но это всё-таки основано на тех многочисленных знаниях, которые заложены в коре головного мозга у человека на протяжении всей его жизни. А нейронов там миллиарды и миллиарды.

Поэтому, наверное, в какой-то момент, может быть, и искусственный интеллект достигнет таких невероятных возможностей, которые будет возможно сравнить с интуицией, но такие субстанции, как душа, совесть и сострадание…

Притом что машина должна выбирать наиболее рациональный путь решения, а, повторяю, рациональное для главы государства не всегда является абсолютно правильным, всё-таки, на мой взгляд, во всяком случае пока, машина, искусственный интеллект заменить главу государства не сможет.

Г. Греф: Спасибо большое, Владимир Владимирович.

Касым-Жомарт Кемелевич, Ваш ответ на этот вопрос.

К.-Ж.Токаев: Я согласен. Конечно же, искусственный интеллект не сможет, во всяком случае в ближайшие, наверное, 50–100 лет, заменить главу государства в силу тех причин и фактов, которые были упомянуты в выступлении уважаемого Владимир Владимировича.

Я рад тому, что мы говорим на одном языке и в прямом, и в переносном смысле, в том, что касается такой сложной темы, как искусственный интеллект.

Действительно, очень много спорных вопросов, ведь тема сама по себе только-только начинает изучаться и специалистами, и политиками, поэтому очень много разного рода мнений. Тем не менее тема очень интересная, и, конечно же, она заслуживает внимания.

Президент, как известно, это лидер, признанный и избранный своим народом. Лидерство в моём понимании – это миссия приносить пользу своей стране, заниматься развитием экономики, искренне заботиться о людях.

Парадоксально, но призвание искусственного интеллекта заключается практически в том же, во всяком случае так должно быть, и на это мы надеемся.

Что касается Афины: она была создана для того, чтобы приносить пользу сотрудникам и руководству Сбера, приносить пользу всем клиентам, пользующимся услугами вашей организации. Поэтому в принципе, что касается элементарных функций, то здесь каких-либо разногласий или разночтений, конечно же, нет.

Поэтому мой совет умным машинам, в частности Афине, – продолжать исполнять свою важную миссию: помогать людям, стремиться к самосовершенствованию, так же как к этому должны стремиться и все люди, во всяком случае люди более-менее образованные.

С другой стороны, всё лучше узнавая этот многообразный, можно сказать, мозаичный мир, понимая сложность работы президентов, которые зачастую становятся объектом и справедливой, и несправедливой критики, надеюсь, искусственный интеллект, основываясь, как говорится, на принципах рационализма, всё же не возьмёт на себя смелость пойти на выборы, чтобы стать главой государства, как я уже сказал, в ближайшие как минимум 50, а возможно, и 100 лет.

Но кто знает – спустя энное количество лет, может быть, спустя век или два, умные машины подойдут в своём развитии к такому рубежу, что решат выбрать себе своего руководителя – президента, условно говоря, всех умных машин.

Возможно, это произойдёт, а тогда люди, если они останутся на этой земле, будут избирать своих президентов, будет так называемая двусторонняя система, глобальная система. Можно так пофантазировать. Сейчас, конечно же, трудно точно говорить об этом.

Спасибо.

Г. Греф: Касым-Жомарт Кемелевич, спасибо большое за Ваш очень интересный ответ со взглядом в будущее, с элементом даже такого фантастического взгляда.

(Обращаясь к Ю. Шмидхуберу.) Юрген, Вы поднимали руку. Вы хотели что-то добавить?

Ю. Шмидхубер: Я с большим пониманием отношусь к тем мыслям, которые озвучили президенты. Однако следует отметить, что уже сейчас есть ИИ, которые взаимодействуют с миром. Сначала они ведут себя глупо, они действуют хаотично, однако постепенно они учатся, собирают информацию и улучшают свои предиктивные способности.

Они не только слепо копируют людей – нет, они имеют болевые сигналы, сигналы удовольствия, они пытаются максимизировать их, стремятся минимизировать, в свою очередь, болевые сигналы. Иными словами, они ведут себя, как очень маленькие дети.

Маленькие дети тоже вначале ничего не знают об окружающем мире, а затем они понимают, что какие-то действия вредят им, какие-то – напротив. Эти сигналы крайне важны, они позволяют получать обратную связь.

Эти системы ведут себя и обучаются так же, как малые дети. Они постепенно составляют себе модель мира, в которую, в частности, вписывается и их представление о самих себе. Иными словами, они обладают рудиментарной формой самосознания.

Я хотел отметить, что в принципе, хотя, конечно, это не на уровне ещё человека, потому что у человека мозговая активность куда сильнее и более развита, но тем не менее всё же они, роботы, демонстрируют то, что ранее считалось исключительно чертой людей.

По очень рациональным причинам мы разрабатываем искусственный интеллект так, чтобы он был схож по своим признакам с человеческим.

Вот что я хотел Вам сказать. Спасибо большое.

Г. Греф: Юрген, спасибо большое Вам.

В. Путин: Если Вы меня слышите, то я тоже хотел бы отреагировать на Ваше замечание.

Вы сейчас сами сказали, что эти машины уже как маленькие дети могут реагировать, воспринимать окружающий мир. Во-первых, они будут расти, эти дети, это понятно. Они будут создавать определённую новую ситуацию для человечества, для людей, и мы должны это иметь в виду. Первое.

Второе. Всё-таки, поскольку они пока как малые дети – малые дети не могут претендовать на то, чтобы возглавлять соответствующие государства и быть избранными в качестве президентов. Поэтому давайте согласимся хотя бы с тем, что на сегодняшний день это не актуально, а дальше – посмотрим.

Г. Греф: Спасибо большое, Владимир Владимирович.

Я хочу сказать, что к сегодняшнему нашему прекрасному разговору была издана специально книга, написанная российскими практиками и учёными, которая называется «Сильный искусственный интеллект на подступах к сверхразуму», и я хотел бы подарить эту книгу Президенту России.

Владимир Владимирович, это Ваш экземпляр. И мы доставим первый экземпляр Президенту Казахстана.

Хотел бы от всей души поблагодарить двух президентов. Большое спасибо Вам, Касым-Жомарт Кемелевич. Большое спасибо, Владимир Владимирович, Вам.

Проинвестированные два часа в эту тему, как мне кажется, критически важны для большой аудитории, для детей, которые сегодня услышали о новых инициативах и о Вашей поддержке и о том, что будет делаться государствами в части развития этой важнейшей технологии:

образование, здравоохранение, социальная помощь, реформы государственного управления, как перестроить государственное управление так, чтобы больше оказывать очень удобных услуг людям, избавить их от бюрократии.

И конечно же, это очень ясный сигнал бизнесу, насколько эта технология важна, насколько важны инвестиции в современные технологии.

Думаю, что все, кому вы сегодня адресовали эти посылы, точно вдохновлены и пойдут с большим количеством вдохновения и энергии дальше продвигать наши страны к передовым рубежам развития науки и техники, как это было уже в нашей истории.

Спасибо вам большое за ту огромную роль, которую вы в этом играете.

К.-Ж.Токаев: Спасибо.

В. Путин: Вам спасибо. И Сберу спасибо за организацию.



Комментарии:

Для добавления комментария необходима авторизация.