Мир дикого запада андроиды

Есть ли у роботов сознание? Разбираем философские идеи сериала «Мир Дикого Запада»

Первые два сезона проекта супругов-шоураннеров Лизы Джой и Джонатана Нолана отличались тяжеловесным сюжетом, нелинейным кручением таймлайнов и многослойными метаконструкциями — запутаться, что есть настоящее, что прошлое и кто есть кто, было довольно просто. В преддверии третьего сезона и разбора главных философских идей сериала коротко распишем, что произошло в прошлых двух.

Краткий рекап первых двух сезонов

— Рискнем и напомним совсем уж очевидную вещь: «Дикий Запад» — стилизованный под пионерскую Америку XIX века тематический парк, созданный корпорацией «Гелиос». Парк населяют хосты — чересчур человечные андроиды с высокоразвитым искусственным интеллектом. Они запрограммированы ощущать себя людьми и верят, что живут в небольших поселениях американского фронтира.

— Несмотря на полнокровность (хосты состоят из плоти и крови) и гиперреалистичность андроидов, их создатели относятся к ним как к движимому имуществу вроде рогатого скота. В парк приезжают маскулинные толстосумы — поиграть в ковбоев и индейцев, изнасиловать дочь фермера и почувствовать себя Буффало Билом.

— Главный антагонист первого сезона, создатель парка Ричард Форд (Энтони Хопкинс), весь первый сезон считающий хостов лишь алгоритмами и кодами, инкорпорированными в искусственно созданные телесные оболочки, все же сдержал свое обещание, данное андроидам Арнольду и Долорес. Форд предположил, что хосты и вправду могут обладать сознанием, поэтому перезапустил их программу — хосты стали ощущать то, что мы назвали бы свободой и волей, и перестали слушать команды «Гелиоса».

— Во втором сезоне Долорес Абернати стала лидером хост-ополчения: андроиды объявили себя отдельным видом и начали охоту на людей. Все десять эпизодов детонировали взрывчаткой, перестрелками и скорее напоминали этнический конфликт.

— Весь первый сезон мы думали, что парк единственный в своем роде. Оказалось, что есть еще два (возможно, это еще не все): колонизированная Индия и феодальная Япония эпохи Эдо. Кроме того, мы наконец узнали, что парк располагается на острове. Например, в первом сезоне слегка намекнули, что «Дикий Запад» — лишь очень тактильная симуляция или виртуальная реальность: помните, прибыв на поезде к парку, Уильям открывает дверь фойе и оказывается в несущемся среди прерий поезде?

— Парк Дикого Запада стал еще коварнее: во втором сезоне оказалось, что Форд спроектировал парк не столько как ковбойский аттракцион, сколько как предлог, чтобы заманивать клиентов и записывать их сознание (специальное устройство в ковбойских шляпах считывало их модели поведения и мыслительный процесс). Избранные получат цифровое бессмертие в виде нейросети или будут помещены в телесную оболочку (само сознание умещается в небольшую шарик-сферу). Что будет с другими «нейродушами» — не ясно.

— Несколько странный бит: Арнольд, эмпатичный и самый гуманный хост, убивает Долорес, пытаясь помешать ей уничтожить человечество. Затем передумывает. Создает телесную копию директора Гелиоса Шарлоты Хейл. Помещает в реплику сознание Долорес. Та пристреливает оригинальную Хейл — теперь хосты и в кресле директорского стола. Сейчас будет путано: в третьем сезоне появится и тело Долорес, но чье сознание в оболочке — пока секрет (возможно, теперь его можно расщепить надвое или же там другой хост).

— Долорес-Хейл взамен не стала в отместку убирать Бернарда. Эти двое все больше напоминают зеркальных двойников вроде Бэтмена и Джокера, которые никак не могут покончить друг с другом. Какой смысл борьбы без достойного визави? Как говорит Джокер в одном из комиксов Брюсу Уэйну, «зачем мне тебя убивать? Что я буду без тебя делать?».

— В оболочке Хейл Долорес покинула парк и прихватила с собой пять сфер. Кого она выбрала в качестве союзников — неясно: ими могут быть как хосты, так и оцифрованное сознание кого-то из Делоса (нейросознание, вероятно, можно будет перепрограммировать, как угодно Долорес).

— К и так переусложненному «Наполеону» прибавился еще один слой: в парке открылся портал в «Долину за пределом» — своего рода киберзагробный мир. Войдя туда, хост или человек сбрасывают телесную оболочку и обретают виртуальное бессмертие.

— Мейв — первый андроид, осознавший свою механическую природу, — приобрела суперспособность: как какой-нибудь X-мэн, она научилась телепатически контролировать сознание других хостов. Мейв погибла, не добежав до Долины (в трейлере третьего сезона нам показали, что героиня вернется). Чуть ранее погиб Ли Сайзмор — глава сюжетников «Гелиоса»; весь второй сезон он и Мейв составляли самый комедийный дуэт сериала.

— Уильяма ака Человека в черном слегка занесло — настолько, что на остров за ним приехала его дочь. Уильям, настолько заигравшийся и более неспособный отличить реальность от игровых декораций парка, принял дочь за хоста и очередную уловку Форда. Уильям убивает дочь и только после этого понимает, что сделал.

Гид по философским идеям «Мира Дикого Запада»

Философский зомби

Первый сезон «Мира Дикого Запада» очертил множество важнейших вопросов нейрофилософии, философии сознания и машинного обучения (раздел теории искусственного интеллекта), но, пожалуй, главным был вопрос философского зомби. Философский зомби — гипотетический эксперимент, ставящий вопрос: может ли существо, похожее на человека, но не являющееся им, обладать схожим сознанием. Нельзя найти более удачного примера, чем один в один похожие на людей хосты.

Основатель парка Дикого Запада Ричард Форд (Энтони Хопкинс) рассматривал хостов как технические объекты, которые симулируют мыслительную деятельность, гиперреалистично одергиваются от боли, плачут, скорбят, но не притязают на обладание всем вышеперечисленным. Если перевести на язык разрабов, для Форда они лишь слабый искусственный интеллект (СИИ) — утрамбованный в оболочку алгоритм, симулирующий мысль. Его партнер Арнольд (Джеффри Райт), напротив, считал, что хосты склоны к так называемому глубокому обучению, то есть способны моделировать многоуровневые абстракции на основе многослойных сетей — другими словами, не подражать, а продуцировать реальное, ничем не уступающее человеку сознание. Помните, главным поблескивающим макгаффином первого сезона, за которым охотился Уильям ака Человек в черном, был центр лабиринта? Центр, как часто и говорили Уильяму, предназначался не для него, а для андроидов. Арнольд верил, что через череду апдейтов, очень схожих с эволюцией, СИИ достигнет того самого центра — точки самосознания, близкой к человеческой.

Философ Джон Серл утверждает , что независимо от того, как сложны современные смартфоны, они никогда не смогут мыслить. По его мнению, если вы хотите изобрести мыслящий и чувствующий автоматон, то конструировать его нужно из запчастей, модулирующих сознательный опыт: нервная система, нейроны и дендриты (или их очень точные подобия). Если Aleksa или Siri скажут: «Я мыслю, значит я существую», Серл ответит по‑станиславски, но в самоосознанность хостов он, думается, поверил бы. В первом сезоне герой Хопкинса рассказывал, что первые модели были исключительно механическими роботами с СИИ, в то время как новое поколение андроидов обзавелось плотью, кровью и нервной системой (правда, конструируемой из белой пастозной субстанции). 1:0 в пользу сознания андроидов.

Философы сознания Дэниел Деннет и Пол Черчленд также сводят идею сознания к материалистическому подходу. По их мнению, сознание может быть объяснено исключительно в нейробиологических терминах: если у субъекта есть мозг (или его подобие органического или биомеханического происхождения) и сложная система психических импульсов, то есть и разум. В первой серии второго сезона по‑ганнибаллектерски нам продемонстрируют, что у хостов есть не только органический мозг, но и капсула, содержащая сложный нейроалгоритм.

Деннет и Черчленд также предполагают, что носители ИИ вроде хостов также могут считаться полноценными мыслящими субъектами еще и из-за так называемой перформативной теории идентичности . Философы подчеркивают: неважно, родились ли вы из пробирки, как Луиза Браун (первый в мире ребенок, родившийся в результате экстракорпорального оплодотворения), клон, как овечка Долли, или «естественнорожденный», — если вы способны соответствовать социуму, его правилам (щипать травку, пользоваться Google) — собственно совершать «перформансы», принятые той или иной группой, — то вы обладаете сознанием.

Host ex machina

В 1889 году Ричард Киплинг писал: «Запад есть Запад, Восток есть Восток». Если бы автор «Книги джунглей» знал, как точно эта строчка опишет проблемы робоэтики и отношение к не/человеческим существам в пределах разных культур. Скажем, почтенный декорум японцев 1970—1980-х годов к первым роботам американцу показался бы явлением странным, если не инопланетным. Для западной мысли Япония, Тайвань и Сингапур ходят в чудаках: они предпочтут суррогатного пса полнокровному, им свойственна «мимимизация» роботов и вместе с тем почти что институционально выработанная рабочая техноэтика — к сотруднику-андроиду отнесутся с тем же уважением, что и к человеку. Ветеран робоинженерии Масахиро Мори верил, что роботы с СИИ способны не только достигнуть проблеска сознания, но и стать Буддой. В книге «Будда в роботе» Мори рассказывает, что андроиды не только поравняются с человеком в перформативной состоятельности и IQ, но и смогут предпринять ментально-религиозное паломничество через буддийские джаны, сатори и нирвану.

Шоу Нолана и Джой красноречиво показало полярно противоположную практику: для США андроид — всего лишь копеечный барашек. Тематический парк (особенно первого сезона) стал не только психотическим Эдемом вседозволенности и маскулинности, но и слепком западной культуры. За пределами парка его клиентура не позволяет себе мизогинистических высказываний, но насилует хостов женского пола, не разделяет идей Пол Пота, но перерезает целые коммуны андроидов. Три сезона «Мира Дикого Запада» были очень многим: дистопией, сай-фай-вестерном, но и еще масштабным триптихом о собственно Западе — новом темном Средневековье, выкрашенном в прогрессивное свободомыслие. Если забыть о контексте парка, то и в нашем мире по гамбургскому счету получим тоже самое: новая несправедливость и новый дисбаланс по отношению даже к самым умным нейросетям.

Восстание роботов

В конце первого сезона андроиды Мейв и Долорес осознали то, что станет зачином второго, — превосходство хостов перед создателем. Андроиды практически не могут умереть, летальные ранения могут быть залатаны, сознание — совсем как «Видоизмененном углеводороде» — возможно переместить в другое тело.

Однако, в отличие от Мейв, Долорес пришла к выводу, что превосходство ее лабораторной, биомеханической жизни становится первой ступенью к социальной инженерии. В начале второго сезона она впервые назвала хостов отдельным видом — и все десять эпизодов нельзя было не провести параллель между ее политикой уничтожения людей и этническими конфликтами ХХ века. Пресловутое восстание роботов стало не истоптанным тропом, но размышлением о Rassenhygiene («расовая гигиена», как это называли немцы) и евгенике, пропущенным через оптику взаимоотношений человека и ИИ.

«Мы думали, вы боги» — фраза финального эпизода первого сезона. Витрувианским человеком — эмблема и один из магистральных референсов шоу, — подобием Бога становятся сами хосты. Богоподобными их делает так называемое информационное бессмертие, что позволяет мегаломанам вроде Долорес решать, что в таком случае люди недостойны жить. Не будет большим преувеличением сказать, что второй сезон напоминал Руанду, Боснию и Герцеговину, политику красных кхмеров, вместе взятые.

Антропоцентризм и зоополитика

В одной из серий первого сезона Человек в черном говорит Кисси — одной из второстепенных хостов, что для людей все жители парка не более, чем скот. Хосты, если подумать, — это заключенные ранчо и ферм искусственного Дикого Запада, которыми владеют некоторые андроиды (например, отец Долорес Абернати). Они, словно экзотические виды, содержатся взаперти и не могут — конечно, до поры до времени — покинуть своих локаций, предписанных им доктором Фордом.

Фраза Человека в черном проводит интересное категориальное различение между людьми и хостами и, главное, очерчивает дегуманизацию андроидов. Чтобы провести такое различие, нужно достигнуть двух ассоциаций: идентификации таргетированной группы (хостов) с особым типом живых существ, не являющихся людьми, и ассоциации данных живых существ с уместными негативными чертами. Конечно, и Форд, и Человек в черном ассоциируют андроидов с движимым имуществом, подобно рогатому скоту, а их признаки интеллекта для них оборачиваются потугами несмышленого теленка. Философ Жильбер Симондон в курсе лекций 1967 года говорил , что отдельные ситуации порождают у животных если не проблески сознания, то хотя бы проблески какой-то мыслительной деятельности. В этом же ключе мы можем говорить о нарциссизме людей и их отношении к хостам в шоу и к нейросетям — в реальной жизни.

Уже в середине первого сезона любой эмпатичный зритель убеждается в том, что действия и мысли хостов выходят за пределы симуляции. Тем не менее «фордианцы» (назовем так последователей героя Хопкинса) так не считают — это пушечный скот. Животные всегда были частью политики (отсюда термины философа Жака Деррида «зоополитика» и «зоовласть»), на их эксплуатации, разведении или убийстве строились первые дороги в Риме, а сейчас — финансовые империи. Не будет преувеличением сказать, что человек относится к корове как нацист. Во взаимоотношении с животными мы выстроили очень кровавую иерархию, заключающуюся в следующей цитате: «Каждое живое существо, за исключением Человека, может быть забито», — пишет философ Донна Харауэй. Это относится и к хостам — вернее, относилось. Роботы теперь могут не только забрать чью-то работу, но и дать сдачи.

Источник

«Мир Дикого Запада»: насколько реальны технологии из главного сериала года?

«Мир Дикого Запада» – это название развлекательного парка из недалекого будущего. Толстосумы со всего мира приезжают сюда, чтобы оторваться по полной программе. Здесь им позволено абсолютно все:безнаказанно грабить, убивать, «общаться» с куртизанками и поощрять другие свои тайные пороки.

Парк населен роботами, которых невозможно отличить от людей. Гости относятся к ним как к рабам.

За кулисами «Мира Дикого Запада» трудится огромная команда специалистов самого разного масштаба. Они чинят подстреленных роботов, программируют их, создают новых и следят за тем, чтобы все шло по сценарию, а гости были довольны.

Искусственный интеллект

В «Мире Дикого Запада» андроиды завлекают посетителей в прописанные заранее сценарии, основные реплики загружены в их память. Но между делом они рисуют, поддерживают беседу. После сбоев в обновлении жизнь роботов становится еще интереснее: некоторые начинают задаваться экзистенциальными вопросами и, кажется, испытывают эмоции. Единственное, чего не позволяют им разработчики – видеть сны.

Успех сериала во многом обязан ожиданиям, что в мире «вот-вот» появится искусственный интеллект. Машины уже научились писать сносные стихи, сочинять музыку в режиме онлайн, анализировать поведение людей и выдавать им персональные рекомендации.

Голосовые ассистенты в смартфонах для многих даже стали собеседниками. Но пока это не искусственный интеллект, а всего лишь нейронные сети – самообучающиеся алгоритмы, способные анализировать входящий поток данных и находить в нем сложные зависимости.

Евгений Голубицкий, руководитель департамента инноваций компании Navicon:

«Искусственного интеллекта – такого, каким его рисуют фантасты, – безусловно, пока не существует, и появится он еще очень не скоро. Сегодня человечество научилось работать с алгоритмами машинного обучения: они помогают предсказывать продажи и поведение клиентов, общаются с обывателями от лица звезд и даже помогают ставить более точные диагнозы пациентам.

Но все это возможно только на основе разработанных человеком алгоритмов – то есть, это имитация выполнения конкретных задач, а не реальная работа интеллекта.

В ближайшие годы рутинные задачи по обработке и анализу информации будут переданы машинному интеллекту, и это существенно повлияет на рынок труда, многим людям придется переквалифицироваться. При этом управленческие, творческие задачи, требующие постановки задачи, «инсайта», эмоций и эмпатии, гибкой адаптации и быстрой реакции на новые обстоятельства, я надеюсь, никогда не будут доступны машине и останутся за нами».

3D-печать живых тканей

В дивном новом мире будущего андроидов просто печатают. В производственном цехе послойно воссоздают мышцы и кости, а в огромных чанах происходит жидкостная обработка новых «молдов». В одной из сцен можно даже увидеть микроскопический 3D-принтер, создающий роговицу глаза.

В реальности технологии тканевой инженерии существуют уже сегодня, но совсем в другом виде. Например, медики могут «вырастить» или «напечатать» сосуд любого типа. Для этого клетки пациента заселяют в донорскую или синтетическую матрицу, а окончательно они приживаются уже в организме пациента.

Печатать органы для трансплантаций гораздо проблематичнее. Главная трудность – сложный клеточный состав и межклеточные взаимодействия.

Дмитрий Курапеев, директор управления ИТ Медицинского исследовательского центра им. В.А. Алмазова и создатель проекта RuHealth.net:

«Прогнозировать сроки повсеместного применения напечатанных органов еще очень рано. Пока можно говорить о ближайшей массовой трансплантации тканеиженерных конструкций, но даже это пока все-таки более близко к обычному донорству с элементами тканевой модификации. Технологии дорогостоящие и длительные по времени реализации.

Вырастить сосуд, нерв или кость пациента можно только при плановых вмешательствах. В экстренных случаях – за часы – создать такую конструкцию пока невозможно.

Что касается сотворения целого человека, я соглашусь с профессором Преображенским, который в итоге своей работы разочаровался в необходимости искусственно создавать людей. Очень надеюсь, что человечество никогда не откроет этот ящик Пандоры».

Смешанная реальность

Чтобы не допустить опасной ситуации, сотрудники парка развлечений дежурят у стенда, точно повторяющего каждый холм в прериях. Здесь можно в режиме реального времени увидеть, как мчится поезд, или понаблюдать за перестрелкой у салуна. Кроме того, в арсенале техников есть портативные устройства, позволяющие по 3D-проекции следить за перемещением людей и андроидов.

Достигается это с помощью технологий смешанной реальности: голограмма движущихся объектов накладывается на физический макет с ландшафтом. Впрочем, достоверно говорить об этом сложно – сам стенд тоже может оказаться высококачественной проекцией.

В самой по себе голографии нет ничего нового, и почти вся технологическая база уже существует. Главным препятствием для массового внедрения таких систем остается высокая цена. Однако в последнее время происходит колоссальный всплеск интереса к виртуальной, дополненной и смешанной реальности, поэтому вероятно, совсем скоро такие объекты станут привычными. А возможно, будут применяться и в системах безопасности.

Сергей Галеев, генеральный директор компании AddReality:

«Технологически уже сейчас смешанная реальность может использоваться как система слежения: современная голография шагнула далеко вперед. По крайне мере, настольные экраны и плавающие в воздухе медузы компаний-разработчиков типа Magic Leap, Microsoft Hololens и ODG выглядят весьма многообещающе.

Камеры распознают вас по лицу и голосу, а всевозможные датчики уже давно собирают данные, как именно вы ходите по магазину, и что покупаете. Объедините все эти системы в одну и получите то, что видите в сериале. Но MR-технологии намного больше, чем просто системы слежения и проекции: к 2020-му году в каждом доме нам обещают настоящую магию, ограниченную фантазией конкретно взятого человека».

Тонкие и гибкие компьютеры

Производители планшетов, смартфонов и ноутбуков периодически пытаются выпустить «самое тонкое» в мире устройство. Например, толщина прошлогоднего планшета Samsung Galaxy Tab S2 составляет всего 5,6 мм. Но создатели «Мира Дикого Запада» переплюнули всех: здесь портативные компьютеры явно не толще пары миллиметров. Они легко складываются и переносятся в карманах, при этом на экранах нет ни одного следа от сгибов.

Главное препятствие для появления таких тонких компьютеров – архитектура мобильной электроники. Производителю приходится умещать в корпусе экран, материнскую плату, процессор, накопитель, оперативную память и, конечно же, аккумулятор. Батарея, кстати, самое «узкое место» всей конструкции: после историй со взрывами смартфонов крупные компании еще долго не будут искать способ сделать их тоньше.

Михаил Ушаков, основатель компании «Тонк», российского разработчика микроэлектроники:

«Я считаю, что толщина в 2 мм – явная недоработка сценаристов. В феврале на Embedded World я внимательно рассмотрел дисплеи Plastic Logic с ультрачипами UC8156 – за вполне вменяемые деньги, кстати. Пусть они пока черно-белые, но уже сильно тоньше 2 мм. Их уже можно применять для смарт-карт, носимой электроники и ярлыков.

Но думаю, что будущее все же за проекционно-интерактивными решениями, которые не нужно сгибать и носить с собой. Просто будет возникать интерактивно-управляемый интерфейс отображения, как элемент дополненной реальности. В этом случае, вопрос толщины снимается».

Прозрачные экраны

Сотрудники «Мира Дикого Запада» живут прямо в офисе, который построен в скале внутри парка. Для связи с родными и близкими они используют видеомессенджер и огромные прозрачные экраны в переговорной комнате.

В действительности, прозрачные экраны существуют довольно давно. Их прототипы показывали еще 6 лет назад, а в прошлом году Samsung продемонстрировала на Retail Asia Expo в Гонконге сразу и прозрачный, и зеркальный OLED-дисплеи. Вот только широкого коммерческого применения они еще не нашли. Домашним и офисным пользователям неплохо живется с обычными мониторами.

Андрей Каракашев, глава российского представительства компании MMD, выпускающей мониторы Philips и AOC:

«Стеклянные поверхности, покрытые прозрачной матрицей, уже сейчас производятся и успешно используются в рекламных целях. Например, в витринах и дверцах специальных холодильников и шкафов с продуктами. Кроме того, в гостиницах используются зеркальные дисплеи двойного назначения, которые могут быть использованы и как зеркала, и как дисплеи.

Конечно, технологии пока несовершенны и качество изображения на подобных экранах несопоставимо даже с самыми простыми и дешевыми матрицами, применяемыми для обычных потребительских мониторов. Ожидать революции в этом направлении в ближайшее время не стоит. Спрос ограниченный и специфический: без большого коммерческого потенциала ожидать инвестиций не приходится».

Умные очки с поддержкой «Интернета вещей»

Создатели «Мира Дикого Запада» в подробностях показывают «закулисье» работы техников. Можно увидеть не только, как создают андроидов, но и почти весь процесс ремонта, обслуживания и настройки.

Например, для диагностики инженеры парка используют умные очки. Устройство обменивается данными с операционной системой андроида, транслируя специалисту полную картину физического и психического состояния машины – в лучших традициях популярной сейчас концепции «Интернет вещей».

В реальности, смарт-очки были самым модным технологическим трендом в 2012-2014 годах. Однако пионер этого рынка – проект Google Glass – разочаровал своих создателей и был официально заморожен. Но разработки в области смарт-очков продолжаются, только теперь компании делают ставку не на пользовательский сегмент, а на промышленность, торговлю и медицину.

Нина Колыхан, бизнес-аналитик Konica Minolta Business Solutions Russia

«Сейчас это слишком дорого и незначительно облегчает жизнь простым людям. Зачем вам AR-очки, если телефон подскажет направление? А вот в промышленности, скажем, другое дело: надеваете очки, и видите, что не так с машиной, заменяете деталь или получаете подробную инструкцию по ее сборке.

Прелесть таких решений как раз и состоит в их интеграции – показатели датчиков со станка синхронизируются в реальном времени с вашими действиями, и вы узнаете, что именно идет не так, даже не трогая машину. Скорее всего, такие решения уже будут внедряться в ближайшие 5 лет».

Голосовое управление

Для перевода андроидов в спящий режим и изменения их настроек – характера, эмоционального состояния и даже акцента – инженеры используют голос. Причем машины реагируют только на определенные голоса: посетители парка не могут перепрограммировать никого из его обитателей.

Кирилл Левин, R&D директор Центра речевых технологий

«Отличать по голосу одного человека от другого компьютеры давно научились – это называется голосовая биометрическая аутентификация. Она применяется в различных системах безопасности. Последние тренды – использование голосовой аутентификации для проведения банковских операций, в электронной коммерции, здравоохранении, телекоме и сервисах электронного правительства.

Подтверждение личности по голосу гораздо удобнее и надежнее, чем традиционные пароли, так как голос нельзя потерять, забыть или подделать. Он всегда с вами, и он уникален.

Что касается сериала, то там применяется фоновая биометрическая аутентификация, такая, как используется в контакт-центрах банков: клиент звонит и просит оператора, скажем, перевести деньги с одной карты на другую, а биометрическая система в режиме реального времени сравнивает его голос с биометрическим эталоном, записанным в CRM».

Источник