Новости

"Мы не готовы к таким быстрым изменениям". Герман Греф - об угрозах технологий

"Сберу" исполняется 180 лет. Мы поговорили с главой компании Германом Грефом о том, что сегодня умеет искусственный интеллект и к чему нужно быть готовым людям в мире, где технологии развиваются слишком быстро

Сегодня "Сбер" - одно из главных мест в России, где развивается то, что называется искусственным интеллектом. В собственных лабораториях разрабатывают программы, способные выполнять задачи человека. И довольно быстро внедряют их.

Кроме того, "Сбер" участвует в разработке законов, регулирующих создание и применение искусственного интеллекта. Наш корреспондент Иван Сурвилло поговорил с главой компании Германом Грефом о настоящем и будущем искусственного интеллекта. Вот главное из интервью.

О слишком быстрых изменениях

Мы сейчас переживаем одну из самых радикальных трансформаций за всю историю человечества. Главная технология четвертой промышленной революции, вообще революции, которую мы сегодня видим, - это, конечно же, искусственный интеллект.

Потому что искусственный интеллект привносит еще большую скорость в и так уже очень быстро движущийся технологический прогресс. И в общем мы с вами, люди, остались такими же, мы биологически не изменились. Наши реакции остались теми же.

Мы абсолютно не адаптированы к этой новой скорости. Мы не готовы к таким быстрым изменениям.

Дети и молодые люди испытывают значительно меньший дискомфорт и страх перед новыми технологиями, чем люди старшего поколения, которым достаточно сложно приспособиться к этому абсолютно новому миру.

Это ведь не только гаджеты, меняется буквально полностью социальный, экономический уклад. Меняется вся модель человеческой жизни.  

О том, что умеет искусственный интеллект

Если мы сегодня возьмем работу практически любых коммерческих или некоммерческих организаций, то увидим, что почти везде уже используются те или иные методы искусственного интеллекта.

Практически все цифровые продукты, которые вы потребляете, не важно, что это - просмотр видео, новостей, покупка или чтение книг в интернете или потребление финансовых продуктов, - включают в себя все в большей и большей степени продукты искусственного интеллекта.

Конечно, искусственный интеллект ничего общего не имеет с определением "интеллект". Сегодня это все-таки алгоритм.

Комбинация огромного количества методов и алгоритмов, позволяющих обучать машину определенным навыкам. Эти навыки пока имеют только специфический характер, в отличие от человека, который обладает генеральными навыками.

До недавнего времени среди специалистов считалось неприличным обсуждать тему так называемого AGI (Artificial General Intelligence) – общего искусственного интеллекта.

Считалось, что это нерешаемая задача. Буквально в последние несколько лет среди крупных имен появились адепты общего искусственного интеллекта. Появились подходы к тому, как на существующих алгоритмах могут строиться AGI-трансформеры.

Я убежден в том, что искусственный интеллект переживет своих родоначальников и те подходы, с которыми он начинал.

Скорее всего, его будущее - в симбиозе математических и биологических методов.

Но хочу оговориться, что существующие методы не исчерпали свой потенциал, и я думаю, что мы увидим очень серьезное развитие навыков искусственного интеллекта на основе тех методов, которые открыты сегодня.

Об этике искусственного интеллекта

Сегодня этика искусственного интеллекта - одна из самых важных и проблемных зон, которая должна получить опережающее развитие.

Долгое время мы не понимали, что происходит, а просто пытались догонять, создавать саму технологию.

Сегодня уже очевиден ряд потенциально негативных последствий, и самое время для детального взвешенного разговора и системной работы, чтобы регулировать этику искусственного интеллекта.

Кто виноват в том, что беспилотный автомобиль проезжает на красный свет? Искусственный интеллект не может нести ответственность.

Ответственность несет человек, который заложил туда правила.

Но нужно понимать, что и в каких случаях является правонарушением или преступлением, а что и в каких случаях - неосторожностью или ситуацией, которую человек не мог предусмотреть.

Это очень большая, серьезная работа для специалистов, которые занимаются нейросетями, правоведов, специалистов в области социальных наук, философов.

О личном использовании искусственного интеллекта

Использую каждый день, как только беру в руки любой гаджет.

Я начинаю работать в наших внутренних системах, системы искусственного интеллекта ставят приоритетные задачи в моем графике, приоритетность изучения мной тех вопросов, которые я получаю, скажем, по электронной почте.

То есть фактически с того момента, как я начинаю вести осознанный образ жизни, включается искусственный интеллект. Но, к сожалению или к счастью, даже и бессознательную часть моего бытия тоже контролирует искусственный интеллект.

У меня на руке кольцо, которое мониторит фазы сна. Показывает, сколько часов я сегодня спал, сколько из них в фазе глубокого сна и так далее.

Утром я в том числе смотрю свою готовность, качество сна за сегодняшний день, это очень часто совпадает с моими субъективными ощущениями.  

О безработице из-за искусственного интеллекта

Искусственный интеллект порождает не только высокотехнологичные рабочие места, которые требуют большой образовательной базы, но и новые места, которые требуют относительно непродолжительных курсов переобучения.

Мы с вами видим сегодня, допустим, армию людей в доставке. И это на сегодняшний день одна из самых востребованных и дефицитных специальностей, идет охота за людьми на рынке между различными компаниями.

Есть два обоснованных опасения, связанных с темой развития искусственного интеллекта.

Первое - это замена системами искусственного интеллекта человека, лишение его источника дохода.

Что люди будут делать, когда они получат такое огромное количество свободного времени? Сегодняшние исследования показывают, что с помощью систем искусственного интеллекта будет создано значительно больше рабочих мест, чем сокращено.

Если посмотреть на последний отчет World Economic Forum и компании McKinsey, то они видят сокращение в ближайшие годы примерно 55 млн рабочих мест и 95 млн вновь создаваемых. Здесь выходит второе обоснованное опасение - это структурная безработица.

Мы знаем, что водителей в мире примерно 250–300 млн. Появление полностью автономного беспилотного транспорта создает армию безработных. Что делать с водителями? Переучивать их в дата-сайентистов?

Количество дата-сайентистов тоже уже начинает сокращаться, потому что появились модели AutoML - автоматического создания нейронных сетей. И вот это очень серьезный вопрос - вопрос структурной безработицы.

Он бы не был так страшен и серьезен, если бы, опять-таки, не главное слово - "скорость". Человечество сталкивалось с такого рода трансформациями, можно привести огромное количество специальностей, которые сегодня кажутся экзотичными.

Но в такой короткий промежуток времени этого еще не происходило. И поэтому нет полноценного ответа на вопрос "что делать?".

Но очевидно, что нужно создавать огромное количество онлайн- и офлайн-курсов - обучения, переобучения тем новым специальностям, которые появляются.

О том, нужно ли ограждать детей от гаджетов

Если говорить о непосредственном взаимодействии детей с гаджетами и с искусственным интеллектом, то до шести-семи лет нужно минимизировать эти контакты.

Отвечаю исходя из нашего сегодняшнего понимания того, как процесс устроен.

В начальной школе этого уже избежать невозможно, и здесь нужны ограничения. Ограничения с точки зрения количества контактов и, самое главное, - качества контактов.

Нужно отсматривать и разрешать только тот контент, который приемлем для детей, для их психики.

Начиная уже со средней школы контакты могут быть более регулярными, но контентный анализ должен быть, на мой взгляд, очень жестким. Сегодня, к сожалению, его нет.

Дети уже в младших классах допущены к контенту, который даже для взрослых иногда очень тяжело переносим с точки зрения психического воздействия.

Я за строгий контроль контента, который попадет к детям. Это непростая задачка, потому что дети значительно более адаптированы, чем родители, учителя, и изоляция может привести к тому, что мы получим обратный эффект.

Это очень серьезная тема, в которую тоже должны быть включены специалисты из очень разных сфер, чтобы все грамотно отрегулировать. Важно уйти от запретов и дозировать объем и, в первую очередь, содержание.

О будущем гаджетов

Гаджеты, с которыми мы сегодня имеем дело, - это уже прошлое, они очень неудобны. Может быть, одно из самых узких мест сегодня во взаимоотношениях человека и искусственного интеллекта - это интерфейс.

Мне как человеку с не очень хорошим зрением очень неудобны сложившиеся способы. Они отстают от методов, собственно говоря, искусственного интеллекта. Хардовое в этом смысле "железо" серьезно отстает от программного обеспечения.

В этом смысле, думаю, прорыв следующий должен быть именно в этой сфере. Сегодня есть попытки создания очков [виртуальной и дополненной реальности] как значительно более удобного интерфейса.

Я не очень представляю себе процессы биологического вживления каких-то чипов. Я, например, не готов к этому. Не готов и предлагать такие решения, не готов и сам к этому.

Но мне кажется, что будущее, наверное, за бесконтактным взаимодействием через считывание сигналов головного мозга. Как мне кажется. Следующее поколение людей, может, будет искать [эти решения] в каких-то других отраслях.