Мы достигли точки, когда мы можем взломать как компьютеры, так и людей

Digital

В рамках Всемирного экономического форума в Давосе выступил израильский историк-медиевист Юваль Ной Харари, который является автором книг «Sapiens: Краткая история человечества» и «Homo Deus: Краткая история завтрашнего дня».


#Буквы предлагают ознакомиться с речью израильского историка о развитии технологий и том, как это может повлиять на развитие человека.

«Мы достигли точки, когда мы можем взломать как компьютеры, так и „людей и другие организмы“. Достижения в области информатики, машинного обучения и искусственного интеллекта дают нам вычислительную мощность», — сказал Харари.

Так, пояснил он, с помощью специального алгоритма можно вычислить активность мозга, артериальное давление и др.

«Алгоритмы могут прогнозировать желания, манипулировать эмоциями, принимать решения от вашего имени», — добавил он.

Об изменении значения слова «работа» в будущем

На протяжении истории понимание работы неоднократно менялось. В течение довольно большого периода (можно сказать, большей части своей истории) люди вообще не работали — они выживали. То есть сама идея работы: я встаю и к 8:00 еду на работу, где нахожусь до 17:00, — это современное понятие. Наши предки, охотники и собиратели, в течение сотен тысяч лет обходились без работы. Тревожность из-за потери работы — также сравнительно новый феномен. В ходе промышленных революций последних веков человек постоянно испытывал страх, что машины возьмут верх, а сам он станет ненужным. Впрочем, на этот раз, думаю, это может оказаться правдой. Как в случае с мальчиком, который кричал «Волки!». В конце концов, волки пришли.

Сейчас люди сталкиваются с более страшным понятием, чем эксплуатация, — со своей ненужностью. Когда тебя эксплуатируют, ты, по меньшей мере, знаешь, что ты важен, что больше некому работать. Отсюда и первая проблема с ростом тревожности. Полагаю, новые профессии все же появятся. Вопрос в том, смогут ли люди себя «переизобрести», чтобы занять эти вакансии. И переизобретать себя придется каждые 10 лет, так как мы переживаем не одну технологическую революцию, а их целый каскад. Переизобретать себя в 20 лет — одно дело, но меняться дальше — в 30, 40, 50 лет — очень тяжело, это также сильно повышает нашу тревожность.

Люди вообще делают многое, что не считается работой. Например, растят детей. И большая часть работы, которую выполняют люди последние несколько веков, просто не в их природе. Мы не можем назвать что-то «естественной» работой для человека.

Мы слишком много внимания уделяем роботизации, когда говорим о будущем рынка занятости. Столько же внимания мы должны уделять биотехнологиям. Множество новых профессий будет связано с пониманием человеческих эмоций. Даже беспилотные машины должны будут понимать, как себя ведут пешеходы. И уж тем более это актуально, если машины заменят банкиров или соцработников.

Если взглянуть на вещи чуть иначе, становится ясно: нужно защищать не профессии, а людей. Можно отбросить некоторую часть профессий за ненадобностью — они не стоят того, чтобы их сохранять. Кто хочет всю жизнь быть кассиром? Мы должны думать о людях, а не о профессиях. В данном случае у нас не кризис занятости, а кризис смысла работы.

Как историк замечу, что по сравнению со Средневековьем люди сейчас живут просто в раю, но почему-то так себя не чувствуют. Мы умеем усердно трудиться, быть эффективными, но не умеем расслабляться. Если решить проблему с кризисом смысла работы, разрешим и проблему с досугом.

Лучший совет, который я мог бы дать, — вкладывайтесь в собственную приспосабливаемость. Все ваши инвестиции — обучение тому или иному навыку, например, программированию — это лотерея. Вы не знаете точно, пригодится ли вам то или иное умение, но во времена хаоса вам точно понадобится эмоциональная устойчивость, способность пережить все эти перемены. Впрочем, это очень сложно. Не знаю ни одного университета, где бы этому учили.

О будущем человечества

Точно не помню, кто высказал интересную мысль: если вам будут рассказывать о 2050 годе и это будет выглядеть как научная фантастика, вероятно, это неправда. Но если описание 2050 года не будет звучать как научная фантастика, то это точно неправда.

Возможно, мы одно из последних поколений Homo sapiens. Через век или два Землю будут населять организмы, которые будут так же сильно отличаться от нас, как мы — от неандертальцев или шимпанзе. Ведь в следующих поколениях мы научимся модифицировать наше тело и разум, и это станет главным продуктом экономики XXI века.

Как именно будут выглядеть будущие хозяева планеты? Это будут решать те, кто владеет информацией. В руках тех, кто будет ее контролировать, будет контроль за жизнью на планете. Информация — самый важный актив в мире. Не земля, как в древности, не промышленное оборудование, как в последние пару веков. Что же произойдет, если слишком большое количество информации будет сконцентрировано в руках маленькой кучки избранных? Человечество разделится. Но не на классы, а на различные виды.

Информация так важна, потому что мы достигли точки, когда можем «взламывать» не только компьютеры, но и человеческий организм. Для этого нужны две вещи: большая вычислительная мощность и огромный объем данных, в частности, биометрических. До сегодняшнего дня ни у кого не было этих ингредиентов для «взлома» человечества. Даже КГБ или испанская инквизиция, имеющие возможность наблюдать за людьми круглосуточно, не могли этого.

Сейчас ситуация меняется благодаря двум идущим одновременно революциям: развитие компьютерной науки (расцвет машинного обучения, искусственный интеллект) и развитие биологии, в частности нейробиологии. Это дает нам необходимое понимание, как работает человеческий мозг. Можно суммировать полтора века биологических исследований тремя словами: организмы есть алгоритмы. И мы сейчас учимся тому, как расшифровать эти алгоритмы.

Возможно, самое важное изобретение для обеих революций — биометрический сенсор, который переводит биохимические процессы в нашем теле и мозге в электронные сигналы, которые может анализировать компьютер. Расшифровав эти алгоритмы, можно создать существ, которые будут лучше людей. Но как эти существа впоследствии будут применять эти технологии, честно говоря, не имею понятия.

Сейчас этот процесс ведется на трех фронтах. Первый — биоинженерия, ученые выращивают новые органы, обновляют старые, вмешиваются в организм на генетическом уровне и так далее. Но это и самый консервативный фронт, так как он использует традиционные «кирпичи», из которых сложен организм, каким мы его знаем последние несколько миллиардов лет. Второй подход более радикальный — комбинация органического и неорганического (бионическая рука, компьютерный интерфейс в мозге, вторая иммунная система, созданная из миллионов нанороботов и так далее). Но даже в этом случае ваш мозг остается органическим, несмотря на то, что подключен к различного рода устройствам, Интернету.

Третий — и наиболее радикальный — создание полностью неорганических форм жизни. Можно ли это сделать, пока открытый вопрос. Остается нераскрытой тайна сознания — мы до сих пор понятия не имеем, что это такое и как оно появляется у человека. Общий консенсус — сознание находится в мозге, и если «взломать» его и понять, как работают эти миллиарды нейронов, создающие опыт и эмоции, то не будет барьеров, чтобы воссоздать их на другом «материале». Возможно, с неорганическими формами жизни у нас так ничего и не получится, но все больше серьезных ученых убеждаются в том, что рано или поздно это произойдет.

Люди вообще не знают себя по-настоящему. Поэтому алгоритмы — реальный шанс узнать себя лучше. Приведу пример из личной жизни: в 21 год я осознал свою гомосексуальность, до этого я ее отрицал. Я не исключение — многие люди живут, отрицая этот факт, они просто не знают о себе нечто очень важное. Представьте себе ситуацию, когда через 10–20 лет алгоритм сможет говорить тинейджеру о его ориентации. Алгоритм отслеживает движения ваших глаз, давление, активность мозга и сообщает вам, кто вы. Даже если скрывать свою ориентацию от друзей и коллег, эти данные могут получить Amazon, Google, Facebook. Алгоритмы, следящие за вами, сообщат, к примеру, Coca-Cola, что если компания захочет продать вам свой напиток, не стоит показывать рекламу с обнаженными девушками. Вы этого даже не заметите, но корпорации прекрасно знают, что эта информация стоит миллиарды.

Как регулировать владение информацией? В отличие от земли и промышленного оборудования информация везде и вместе с тем нигде, ее можно копировать, она распространяется с невероятной скоростью и так далее. Кому же принадлежит информация обо мне? В настоящее время большей частью данных владеют корпорации, и людей это беспокоит. Но если уполномочить правительства национализировать информацию, это приведет к цифровой диктатуре.

О «цифровой диктатуре»

Когда у нас будут алгоритмы, способные понимать меня лучше, чем я сам, они смогут предсказывать мои желания, манипулировать моими эмоциями и даже принимать за меня решения. Если мы не проявим осторожность, придет эпоха цифровой диктатуры. В XX веке демократия пришла на смену диктатуре, так как она была лучше в обработке данных и принятии решений. Демократия распределяет информацию и наделяет институции и людей правом принимать решения. Диктатура же сосредотачивает всю информацию и принятие решений в одних руках. Первая модель работала более эффективно, поэтому, к примеру, американская экономика превзошла советскую.

Однако в XXI веке биотехнологическая революция может качнуть маятник в обратную сторону: централизованное распределение информации может стать более эффективным. Если демократия не приспособится к новым условиям, новые люди будут жить при цифровой диктатуре. Возьмем, к примеру, Северную Корею: люди там будут носить, скажем, специальные биометрические браслеты. Когда человек войдет в комнату и увидит портрет очередного великого вождя, браслет считает его эмоции, давление и передаст данные в соответствующие органы — так будет выглядеть цифровая диктатура.

Контроль информации позволит мировым элитам сделать нечто еще более радикальное, чем цифровая диктатура. «Взламывая» организмы, элиты получат возможность перестроить будущее жизни. И это будет величайшая революция в истории не просто человечества, а всего живого на Земле. В течение 4 млрд лет правила существования жизни на планете не менялись, все живое подчинялось законам естественного отбора и органической биохимии. Но сейчас наука заменяет эволюцию с помощью естественного отбора эволюцией с помощью разумного замысла. Замысла не божьего, а человеческого. Если не урегулировать этот вопрос, крошечная группа людей, элита, получит к ней доступ и будет определять будущее жизни на Земле.

Многие политики как музыканты: они играют на человеческих эмоциях и биохимической системе. Политик произносит речь, и вся страна охвачена страхом. Политик публикует «твит», и — взрыв гнева. Не думаю, что стоит давать этим «музыкантам» самые совершенные инструменты и уж тем более доверять жизнь во Вселенной. Помимо всего прочего, у них даже нет своего видения будущего. Вместо этого они кормят публику ностальгическими фантазиями о прошлом. Как историк могу рассказать вам о прошлом. Прежде всего, там было не так уж классно — побывать там вам бы не захотелось. К тому же прошлое не вернется. Поэтому ностальгические фантазии не  решение.

Кому же должна принадлежать информация? Честно, не знаю. Дискуссия об этом только началась. Нельзя ждать немедленного ответа на этот важный вопрос. К обсуждению должны подключиться ученые, философы, юристы и даже поэты. Особенно поэты! Ведь от ответа на него зависит будущее не только человечества, но и самой жизни на планете.

Но прогресс пока незначительный. Большинство людей вообще не осознает, что происходит и что на кону. Многие правительства (за исключением властей Китая — там точно все понимают) также отмахиваются: у нас есть более срочные дела. И это очень опасно. Как историк я стараюсь донести до максимально большого количества людей, что происходит в мире, чтобы как можно больше человек приняли участие в обсуждении нашего всеобщего будущего.

По материалам: AFP, Republic

Подпишитесь на рассылку новостей. Никакого спама!

Оцените статью
Поделитесь статьей с друзьями
madcats.ru

Комментарии закрыты.

  1. Аватар
    Константин

    Ой, развели тут, понимаешь, Altered Carbon 0.01a.
    Людей они взламывают.
    Рано ещё в души лезть.

X