Культура 
2.10.2019

Сергей Лукьяненко: «Уходит эра всевластия государства, приходит эра всевластия корпораций»

Популярный фантаст, автор «Ночного дозора» предсказывает — интернет вещей поработит человечество, а терминаторы подождут

«Появляется некий страх больших корпораций, тайных организаций, суровых диктатур», — обозначил писатель Сергей Лукьяненко новый вектор запросов общества к фантастам. Накануне он выступил на цифровом форуме в Казани, где рассказал о своих соображениях по поводу будущего. О том, чем опасен интернет вещей, когда разработают настоящий Skynet и что не так с отечественным кинематографом, — в материале «БИЗНЕС Online».

Сергей Лукьяненко: «Мы сами добровольно скидываем все данные о себе через свои умные замечательные вещи, куда-то в облако, во всемирную сеть, где с ними может происходить все что угодно» Сергей Лукьяненко: «Мы сами добровольно скидываем все данные о себе через свои умные замечательные вещи куда-то в облако, во всемирную сеть, где с ними может происходить все что угодно»

«ИНТЕРНЕТ ВЕЩЕЙ СТАНЕТ ИСТОЧНИКОМ НАШЕЙ КАБАЛЬНОЙ ЗАВИСИМОСТИ»

«После того, как в айфон встроили базовую программу по измерению длины предметов, у Apple появилась самая большая коллекция антропологических мужских признаков…» — шутливо о будущем интернета вещей рассказывал популярный писатель-фантаст Сергей Лукьяненко. Пока на серьезном цифровом саммите в Казани топовые айтишники делились своим опытом, автор культовых книг из серии «Дозоры» рассказывал о своем видении недалекого будущего. А ведь именно Лукьяненко когда-то, не побоимся этого слова, предсказал появление современного интернета.

«Термин „умные вещи“ в России известен уже лет 70. Потому что где-то в 50–60-х годах писатель и поэт Самуил Маршак написал такую детскую сказку под названием „Умные вещи“, где описывал умный холодильник, то есть скатерть-самобранку, и прочие устройства, а также опасность попадания в чужие руки, которые для этого не предназначены. Так что мы задолго до появления интернета уже имели представление такому. Это если шутливо говорить, конечно», — начал свою лекцию Лукьяненко.

А если уже серьезно, то первым, кто описал технологию умного дома, «интеллекта вещей», стал американский писатель Рэй Брэдбери со своим постапокалиптическим рассказом «Будет ласковый дождь». Вот только Брэдбери, по словам Лукьяненко, никогда не был фантастом, скорее романтиком и фантазером, и в этом его прелесть — писатель не придумывает, а подвигает своими рассказами к созданию чего-то нового. При этом основная ценность фантастов — способность предвидеть опасности новых изобретений. И как раз-таки об угрозах от внедрения интернета вещей решил вчера напомнить айтишникам Лукьяненко.

«Все мы знаем Оруэлла, который описывал технологии слежки. Но что это такое? Когда у всех в комнате висит на стене телекамера, — объяснял писатель смысл своей шутки про коллекцию Apple. — Сейчас у нас каждый в кармане с собой носит и телекамеру, и трекер движения, и устройство, отслеживающее все твои расходы, при желании записывающее все, что ты говоришь, да еще и периодически снимающее. То есть мы сами добровольно скидываем все данные о себе через свои умные замечательные вещи, которых пока не так много, куда-то в облако, во всемирную сеть, где с ними может происходить все что угодно».

«Я опасаюсь подобного. У себя дома не поставил бы ни умный холодильник, ни умную кофеварку. Я лучше предпочту подождать три минуты, пока кофеварка сделает кофе, чем, подходя к дому, отдавать ей команды», — отметил Лукьяненко, приводя все новые и новые примеры. Например, кто-нибудь задумывался о том, зачем на самом деле в популярном Iqos встроен Bluetooth? Наверное, для того, чтобы подсчитать, сколько потребитель выкурил сигарет, а заодно и выяснить его предпочтения, месторасположение и прочее. То есть собрать статистику, чтобы потом выдавать нативную, таргетированную рекламу. «Посредством умных вещей, которые вроде бы нам облегчают жизнь, мы сами загоняем себя в ловушку, — уверял зал Лукьяненко. — Тут главная опасность — это даже не какое-то коварное государство, которое будет, как у Оруэлла, за нами следить и периодически делать „а-та-та“. Тут беда в том, что уходит эра всевластия государства и приходит эра всевластия корпораций, которые тоже интегрированы и встроены в систему. Эти корпорации также заинтересованы в том, чтобы знать о нас все. А лучше, чтобы мы сами о себе все сообщали, да еще и приплачивали, покупая предметы, которые будут за нами следить. Это и есть основная беда, которую я вижу в развитии замечательного интернета вещей. Он станет источником нашей кабальной зависимости».

По словам писателя-фантаста, во избежание такого сценария необходима какая-то мировая конвенция, законы, которые хотя бы формально ограничивали злоупотребление через интернет вещей. «Иначе мы рискуем превратиться в придатки к своим вещам», — подчеркивал Лукьяненко. Хотя и не исключал, что к своим 51 годам несколько может преувеличивать. Молодежь-то быстрее адаптируется к новым технологиям.

«Роботы прекрасно анализируют изображения. Но это не мысль, не разум, не сознание» «Роботы прекрасно анализируют изображения. Но это не мысль, не разум, не сознание»

«КОГДА ГОВОРЯТ ОБ ИСКУССТВЕННОМ ИНТЕЛЛЕКТЕ, В ГОЛОВЕ СРАЗУ ПОЯВЛЯЕТСЯ ТО ТЕРМИНАТОР, ТО НАОБОРОТ…»

«Искусственный интеллект — это та вещь, которую мы, фантасты, как раз обожаем», — отметил Лукьяненко, плавно переходя к другой айтишной теме. И сразу всех успокоил — по его скромным прогнозам, в отличие от зависимости от интернета вещей, ждать нашествия терминаторов пока не стоит. По крайней мере, лет 20–30 точно — не до конца еще люди изучили естественный разум, чтобы создавать уже искусственный.

«Несмотря на все наши постоянные разговоры, что нейросеть обучили отличать треугольник от квадрата, что она написала рассказ… Пока это только имитация разума, в лучшем случае — некая вспомогательная программа, которая может выполнять сложные действия. Для меня критерием разума является творчество. До тех пор, пока искусственный интеллект не сможет создать реальное хорошее художественное произведение (и не важно, что это будет — картина, текст или музыка), то до того момента говорить о создании интеллекта невозможно. Все, что искусственный интеллект в данном направлении делает, это все-таки пока компиляция тех или иных человеческих работ, которые бывают забавными и интересными, но, к сожалению, никогда не станут оригинальными. Во всяком случае мне такие особенные произведения неведомы», — отметил Лукьяненко.

В подтверждение своих слов он рассказал о своем личном опыте. Не так давно «Яндекс» попросил его помочь с испытанием их нейросети, которая могла бы сама писать рассказы. Сначала думали, что обойдутся без профессионального писателя, но не вышло. Потребовался алгоритм для написания рассказа, который и прописал для машины Лукьяненко. Но даже после этого получилась белиберда, которая сразу бросается в глаза. «Нейросети в лучшем случае могут пока только талантливо подражать тому или иному автору», — подчеркивал писатель.

«В банальном общечеловеческом понимании, когда говорят об искусственном интеллекте, то в голове сразу появляется то терминатор, то, наоборот, мягкий, добрый, пушистый робот. В любом случае тут никто не думает, что искусственным интеллектом называют программу по вычленению бородатых мужчин от небородатых в толпе. А речь чаще всего идет именно о таких алгоритмах. В этом мы преуспели, роботы прекрасно анализируют изображения. Но это не мысль, не разум, не сознание», — рассказывал Лукьяненко. По его словам, все чаще знакомство с первыми проблесками ИИ похоже на игру человека: то номера машин заклеят, то очки наденут настолько оригинальные, что любого робота сразу закоротит…

Но сомневаться в человеческом прогрессе тоже не стоит. На создание полноценного творческого ИИ потребуется минимум 20, максимум — 50 лет. Риски их создания, по мнению фантаста, вполне обоснованы. Но речь должна идти не только о появлении ужасного Skynet и терминаторов во плоти. «Беда не в том, что он просто пушку нацелит быстрее, — заметил спикер. — А в том, что он будет развиваться с немыслимой для нас скоростью. И через несколько часов и дней он сможет превзойти человечество по всем показателям. Технологическая сингулярность. При такой скорости развития ему не надо будет особо с нами конфликтовать. Это бессмысленно. Он может очень быстро развиться и уйти по своим делам, не обращая внимания на людей. А возможно, еще и скажет что-то одобрительное: „Спасибо, что создали меня“».

«Если бы создали действительно полноценный искусственный интеллект, оперирующий всеми этими мировыми данными, то он бы, конечно, не просто заработал Трампу 10 миллионов, а разорил бы его и купил себе весь земной шар» «Если бы создали действительно полноценный искусственный интеллект, оперирующий всеми этими мировыми данными, то он бы, конечно, не просто заработал Трампу 10 миллионов, а разорил бы его и купил себе весь земной шар»

«КАК ТАКУЮ ВЕЩЬ МОЖЕТ ОЦЕНИТЬ ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ?»

Тут зрительский зал, внимательно слушавший Лукьяненко, начал задавать ему встречные вопросы. Конечно, по большей части сугубо со своей айтишной колокольни. Например, один из них поинтересовался, можно ли считать ИИ программы, которые он разрабатывает для игры на бирже. Ответ опытного писателя: нет. И в доказательство своих слов рассказал одну реальную историю.

Дональд Трамп поспорил с брокерами, которые обещали самые лучшие вложения. Упрямый будущий президент США, конечно, стоял на обратном. Он дал брокерам $10 млн на некоторое время и столько же вложил в реальные предприятия. Итог — больше прибыли принесли его вложения, чем игра на бирже. Хваленный биржевой ИИ проиграл человеку. «Если бы создали действительно полноценный искусственный интеллект, оперирующий всеми этими мировыми данными, то он бы, конечно, не просто заработал Трампу 10 миллионов, а разорил бы его и купил себе весь земной шар», — пояснил Лукьяненко.

Второй пример, доказывающий, что все создаваемое сегодня далеко от реальной концепции ИИ. Британский художник Бэнкси как-то выставил на аукцион нарисованное на холсте свое ранее созданное граффити. Но никто из участников торгов не заметил, что в раму был встроен шредер. «Его картину купили за 1,5 миллиона, и она тут же на глазах покупателя превратилась в лоскуты. Она застряла наполовину, шредер не до конца сработал. И уже подсчитали, что она после этого стала раз в пять дороже, потому что такой уникальный случай, — рассказал писатель. — Как такую вещь может оценить искусственный интеллект? Это же полное безумие — испорченный вариант картины становится более ценным».

«Современный мир становится достаточно жестким. Люди начинают этого бояться. Появляется некий страх больших корпораций, тайных организаций, суровых диктатур» «Современный мир становится достаточно жестким. Люди начинают этого бояться. Появляется некий страх больших корпораций, тайных организаций, суровых диктатур»

«ПРОДЮСЕР РЕШАЕТ ВСЕ. ОН КАК ПЛОХАЯ НЕЙРОСЕТЬ…»

После этого совсем небольшой и скромный по меркам популярности Лукьяненко зал слегка отошел от темы. Немного поговорили со своим кумиром о его, наверное, самом главном произведении — «Ночном дозоре» и его экранизации.

По словам Лукьяненко, фильмом он остался в принципе доволен, хотя и Антон Городецкий в роли Константина Хабенского получился совсем не таким, каким его задумывал автор. Куда хуже вышла экранизация «Азирис Нуна» — оригинальную историю исковеркали якобы настолько, в том числе недостаточной актерской игрой, что от книги «Сегодня, мама!» почти ничего не осталось. «К сожалению, кино у нас сегодня продюсерское. Продюсер решает все. Он как плохая нейросеть, — проводил забавные параллели Лукьяненко. — Всегда пытается втащить то, что раз сработало. У нас так действуют продюсеры».

Хотя с заезженными «Дозорами» было, конечно, не так — Тимур Бекмамбетов отработал на твердую пятерку. «Когда во время премьеры посмотрел первые 5–10 минут, мне стало совсем грустно, я открыл бутылку виски и сделал пару больших глотков. А рядом сидела очень интеллигентная старушка: „Вы знаете, у нас в Питере не принято пить виски из горла, тем более на премьере художественного кинофильма“. Я на нее смотрю и говорю: „Сударыня, простите мне мое отвратительное поведение. Но беда в том, что я автор книги и сценария этого фильма“. Она с такой вальяжностью кивнула: „Хорошо. Тогда пейте, молодой человек, пейте“, — продолжал шутить Лукьяненко. — Потом я прочитал кинорецензию, и оказалось, что это была известная  питерская кинорецензентка».

Куда движется кинематограф, в принципе, понятно, но что с отечественной литературной фантастикой? Как справедливо заметила аудитория, в последнее время фантастика постепенно переходит в фэнтези. По словам Лукьяненко, это закономерный процесс — просто наука стала слишком сложной для объяснения. Сейчас фантасты снова вернутся к теме ближнего космоса, колонизации Луны и Марса. Киберпанк, для которого был характерен интернет, ИИ и прочее, в чистом виде умер. Сейчас общество требует, как заметил писатель, от литературы ответить на другой вопрос: куда развивается общество? И на повестке дня стоит боязнь потери свободы и независимости отдельно взятого человека.

«Современный мир становится достаточно жестким. Люди начинают этого бояться. Появляется некий страх больших корпораций, тайных организаций, суровых диктатур», — подытоживая лекцию, заявил Лукьяненко, словно намекая о новом векторе развития своего творчества.

Печать
Нашли ошибку в тексте?
Выделите ее и нажмите Ctrl + Enter
Комментарии (34) Обновить комментарииОбновить комментарии
Анонимно
2.10.2019 10:01

Лукьяненко - современный писатель, лучший фантаст России. И он прекрасно видит, куда идет наш мир.
Системные вопросы развития, к сожалению, мало доступны массе молодых людей, умеющих тыкать в экран айфона.

  • Анонимно
    2.10.2019 08:56

    Трижды прочитал - ничего не понял, што автор хочет сказать, вот контрпример - корпорация боинг создаёт самолёты для нужд человеков, нада ее бояться? тотальная слежка за гражданами ограничивает последних от совершения преступлений и это хорошо.

  • Анонимно
    2.10.2019 09:07

    Откуда достали этого динозавра?
    Ждем интервью с киром булычевым....
    И рассказом про актуальность алисы селезневой

    • Анонимно
      2.10.2019 10:01

      Лукьяненко - современный писатель, лучший фантаст России. И он прекрасно видит, куда идет наш мир.
      Системные вопросы развития, к сожалению, мало доступны массе молодых людей, умеющих тыкать в экран айфона.

    • Анонимно
      2.10.2019 15:42

      Кир Булычев умер в 2003 г.

  • Анонимно
    2.10.2019 09:51

    Что ни говорите, а фантастику и фэнтэзи мы писать не умеем.Видимо склад ума российского так устроен,что это нам не подвластно. Мы специалисты по анекдотам,мелким романам, ну все на сегодня.Создание ИИ у нас пойдет,не наша тема. Будем воровть как китайцы.

    • Анонимно
      2.10.2019 11:31

      его Дозоры одно из лучших фэнтэзи на данный момент

      • Анонимно
        2.10.2019 11:51

        Советую почитать Лема Станислава,Айзека Азимова, Рэй Бредбери для начала.Удивляюсь как они были правы, все сбывается.

        • Анонимно
          2.10.2019 18:17

          Бредбери как фантаст очень "не очень". лучше раннего Шекли. Ну и Иван Ефремов, с учетом поправки на соответствие идеологии гораздо лучше.

          Да и вообще американская фантастика очень сильно подкосил "вьетнамский" кризис США в 1970-х, хотя до того писали очень хорошо. Но массовая обработка американских писателей с целью возврата патриотического духа убила Мысль. Как и в бывшем СССР чернуха 90-х

        • Анонимно
          2.10.2019 22:55

          Что такое фэнтези для себя проясните

    • Анонимно
      2.10.2019 16:26

      Стругацие были, много хороших советских фантастов было. Даже наш земляк в то еще время написал Сезон туманов.
      Сейчас да, штампуют книженции даже больше чем фильмы. Но всё шлак. Но такая деградаци во всех отраслях.

    • Анонимно
      2.10.2019 17:52

      не лгите, у нас немало хороших авторов, проблема в том что они не раскручены.

  • Анонимно
    2.10.2019 10:06

    создание ИИ не пойдет

  • Анонимно
    2.10.2019 10:19

    Прочитал смысла не понял! Такие простые вещи говорит, что особо не понял смысол интервью.

  • Анонимно
    2.10.2019 10:59

    «Уходит эра всевластия государства, приходит эра всевластия корпораций»
    Подробнее на «БИЗНЕС Online»: https://www.business-gazeta.ru/article/440944

    Дальше даже не читал. Одно это уже говорит о полном отсутствии логического мышления или оторванности от жизни в России.

    • Анонимно
      2.10.2019 14:21

      Вы никогда не слышали о государстве-корпорации?

      • Анонимно
        2.10.2019 17:42

        А вы, только фантастическими мирами живете?

      • Анонимно
        3.10.2019 04:50

        У вас тоже не можете логическую цепь выстроить, а не в фантастику уходить?

  • Анонимно
    2.10.2019 11:21

    Автор моего детства и юности. Спасибо тебе за рыцарей сорока островов, диптаун и осенние визиты!

  • Команданте
    2.10.2019 12:58

    не спросили, будет ли продолжение Дозоров и Диптауна?)

    • Анонимно
      2.10.2019 13:13

      продолжение (1 глава) дозоров "Вечный дозор" - в свободном скачивании на всех электронных книжных ресурсах. когда эту книгу закончит автор - вопрос, но начало бодрое

  • Анонимно
    2.10.2019 12:59

    Отключил google от микрофона на своем смартфоне. Так он меня замучил: несколько раз в день присылает сообщения, просит подключить его к микрофону, а то он якобы плохо ориентируется в окружающей обстановке. Есть подозрение, что просит подключить к микрофону не google, а кто-то другой.

  • Анонимно
    2.10.2019 13:05

    "Хваленный биржевой ИИ проиграл человеку." Хи-хикс. Необходимо ИИ давать еще инсайдерскую информацию.

  • Булгарин
    2.10.2019 13:08

    Мне кажется, что не те акценты расставил писатель-фантаст. Во-первых, в интернете вещей ничего опасного нет в смысле того, что он и готовы помочь человеку в его повседневной жизни. от того, что кофеварка начнет варить ваш любый напиток за три минуты до вашего прихода домой, а температура в комнате поднимется до уровня вашего комфортного ощущения, а в ваше отсутствие понизит до возможного минимума, накормит вашу кошку вовремя, если вы задержались на работе или вообще куда то уехали, что здесь плохого. Опасность от интернета вещей исходит не интернета, а от самого человека, который может воспользоваться им вам во вред. Например, тот же хакер может перепрограммировать ваши "умные" вещи вам во вред. Если не убить, так испортить вам жизнь. В этом опасность. Но ведь и обычный интернет может опустошить ваш кошелек через тех же хакеров.

    И по поводу. Пример с Трампом не корректен. Тогда уж скорее с Уоррен Баффетом. Думаю, он тут просто попутал эти примеры. Про пример с Трампом не слыхал, а вот с Уорреном описан в его книге. Как раз он и объясняет причину того, почему он ушел от биржевого брокерства, а стал неким отшельником, который организовал некий фонд долговременных вложений в ценные бумаги. А причина как раз в том, что он тоже поспорил на те же 10 млн. долларов с брокерами на бирже, что он со своими долгосрочными инвестициями получит больше прибыли, чем те брокеры, которые ежедневно покупают и продают акции. Так и вышло. Он вложили эти 10 млн. в те ценные бумаги, которые он посчитал перспективными в плане роста, а для этого он, кстати, ежедневно изучают порядка десяти отчетов компаний о своей деятельности, а потом на их основе принимает решения об инвестициях. И те же 10 млн. долларов крутились пять лет на бирже. Через пять лет выяснилось, что Баффет заработал больше, чем биржевые брокеры. Вот эта история.

    Да, теперь на бирже используют и ИИ, но тут надо соревноваться не с Баффетом, хотя, думаю, скоро и его победят, а с другими брокерами, которые не используют ИИ, а например, используют алгоритмические программы в основе которых, например, статистические методы или других моделей по предсказанию курса акций. И тут вот очень бурно развивается некое направление связанное с обработкой и анализом Big Date на бирже, а затем на их основе машинным обучением ИИ. Это объединение платформ Kafka для обработки и анализа стриминговых потоков данных с биржи со Spark, который удобен и более продвинут уже для обработки неструктуированных или слабо структуированных данных из хранилища данных, которые наполняются как раз за счет анализа стриминговых потоков от Kafka. А уж потом все эти данные попадают через Apache Ignite, в котором есть кроме традиционных механизмов для анализа и обработки данных, также средства машинного обучения для ИИ. Вот примерно пока чем занимаются на бирже.

    А ИИ уже сегодня творит. То есть может заниматься творчеством, правда, пока еще не изобретает что-то революционное. Но все же. Например, научившись методом машинного обучения разным стилям художников, ИИ рисует картины совершенно свои в разных стилях, которые ему задают. Примерно, как подмастерья у настоящих метров этого ремесла. Кстати, и сценарии прорабатывают на все случаи ядерного конфликта в ситуационной комнате.

    • Анонимно
      2.10.2019 13:25

      Оркестры исполняющие классическую музыку скоро будут заменены ИИ системами, которые более точно смогут исполнить произведение композитора, без всякой дирижерской интерпретации. Имитировать звук скрипки Страдивари сейчас не проблема.

      • Анонимно
        2.10.2019 14:11

        Чудак-человек, вся прелесть музыки в ее интерпретации.

    • Булгарин
      3.10.2019 13:23

      Грешным делом подумал, что тут мы начнем обсуждать о том, почему нельзя обойтись только Spark Streaming при анализе и обработке Big Date биржевых данных, а есть необходимость в интеграции с Apache Kafka. Но не получилось. Какая жалость!

  • Анонимно
    2.10.2019 16:43

    Лукьяненко не советую, одни шаблоны, своих идей нет.

  • Анонимно
    2.10.2019 17:09

    эра беспредела корпораций. .. иначе в капитализме не бывает...

  • Анонимно
    2.10.2019 17:36

    ИИ это заложенная в комп программа, скрипт, сценарий. Ни о каком разуме, сознании речи нет. Разумный и осознающий себя компьютер пока только у фантастов.

  • Анонимно
    16.10.2019 20:54

    Юрия Петухова почитайте. Вот это - лучший российский фантаст был.

Оставить комментарий
Анонимно
Все комментарии публикуются только после модерации с задержкой 2-10 минут. Редакция оставляет за собой право отказать в публикации вашего комментария. Правила модерирования
[ x ]

Зарегистрируйтесь на сайте БИЗНЕС Online!

Это даст возможность:

Регистрация

Помогите мне вспомнить пароль