У меня нет рта, чтобы кричать. «У меня нет рта, чтобы кричать» (рассказ Харлана Эллисона)
В 1968 году рассказ был удостоен престижной научно-фантастической премии «Хьюго ».
Создание
Написав черновик, Эллисон показал рукопись Фредерику Полу , который после этого заплатил писателю, ожидая окончательный вариант. В 1966 году Эллисон переписал рассказ без каких-либо серьёзных изменений по сравнению с черновиком.
Вдохновение для написания рассказа, а также идея для названия пришли к автору благодаря его другу Уильяму Ротслеру , нарисовавшего тряпичную куклу без рта с подписью, ставшей названием рассказа .
Персонажи
Первая полоса, используемая четыре раза, расшифровывается как «I THINK, THEREFORE I AM» (Я думаю, следовательно я существую), вторая изображена трижды - «COGITO ERGO SUM», что означает то же самое на латыни . В первых изданиях полосы были некорректны, лишь в предисловии издания 1991 года «The Essential Ellison» Эллисон заявляет, что впервые они изображены правильно, не искажены и не отзеркалены, как в предыдущих версиях.
Обоим фразам в шифре предшествуют и следуют за ними коды строки и возврата каретки .
| · | · | · | · | · | · | · | · | · | · | · | · | · | · | · | · | · | · | · | · | · | · | · | · | · | · | · | · | · | · | · | · | · | · | · | · | · | · | · | · | · | · |
| · | · | · | · | · | · | · | · | · | · | · | · | · | · | · | · | · | · | · | · | · | · | · | · | · | · | · | · | · | · | · | · | · | · | · | · | · | · | · | · | · | · |
Это второй рассказ Эллисона, который я прочитал (первым был «Мальчик с собачкой», он же «Парень и его пёс»). Этот рассказ я читал всего в одном переводе, совершенно отвратительном (Стерлигова). Рассказ не понравился чрезвычайно. Пусть корявый стиль принадлежит Стерлигову. Сюда же спишем и массу недоговорок и логических лакун. Как писал Даль: «Не тот вор, кто ворует, а тот, кто переводит». Но что на переводчика не спишешь, так это общую инфантильность рассказа. Придумал автор страшилку для заплывших мозгов и принялся пугать. Просто так, впустую, бесцельно и глупо. Именно так пугается жирный обыватель, когда видит то, чего он не понимает. Причём, этого обывателя на страницах нет, сам автор напуган собственной фантазией, и напуган его потенциальный читатель. Когда Курт Воннегут описывает туристов, которые при виде вселенского катаклизма принимаются кричать: «Мы американцы!», -- он создаёт великолепный образец сатиры. А Эллисон уже во второй своей вещи предстаёт этим самым туристом. Рассказ безусловно плох и ещё одним. Что же это, простите, за художественное произведение, которое требует для понимания обширнейшего предисловия? Бездарный автор не сумел сказать в рассказе то, что ему хотелось, и теперь сообщает прямым текстом: «Обратите внимание, как классно я рассказал об очищении через страдание». Да ни черта не классно! Если бы это было сделано хотя бы пристойно, то никакого предисловия не потребовалось бы. А так, в дополнение ко всем недостаткам рассказец начинает напоминать американскую же ржачку для тупых мозгов, где постоянно звучит закадровый смех. Этакая подсказка для дураков: «Смеяться здесь». А у Эллисона -- «пугаться здесь».
Художественный текст должен защищать себя сам, он должен обходиться без костылей. Автор, забегающий перед читателем и заранее оправдывающийся, смешон и жалок. Творчество под фонограмму. Тьфу! Ставил бы оценки переводным произведениям, выставил бы двойку: за общую бездарность, что Стерлигову, что самому Эллисону.
Не думаю, что в обозримом будущем вновь раскрою этого автора.
Оценка: нет
Странное ощущение после прочтения...
Представьте, что все расхваливают какой-то фильм, он получает престижные премии, все друзья советуют посмотреть. Ты включаешь этот фильм, а там просто порнуха. Ты всё-таки досматриваешь её до конца и начинаешь чесать репу - а за что собственно дали все эти награды и что здесь нахваливать?!
Примерно такой же вопрос я задал себе после прочтения рассказа Харлана Элиссона «У меня нет рта, а я хочу кричать» 1967 года. Впечатление от рассказа осталось какое-то гадкое. Как будто наркоманский сон посмотрел, наполненый кошмарами, гнилью, пошлятиной и черте-чем. Может быть переход у меня был слишком резкий - до этого я читал Лема, Саймака и Роберта Янга, а тут нате вам сразу --- «Из нас четверых у него был самый огромный член, и Эллен кончала только с ним...»:eek: как обухом по голове, встретить такой пассаж в лауреате Хьюго! Конечно иной раз пошлятинку и интересно почитать, но тут как-то очень грязно и нежиданно. Но вот самая развязка этого кошмара запомнилась мне довольно крепко. Похоже на концовку фильма «Муха» Кроненберга.
В общем впечатление очень неоднозначное. Как будто на полчаса окунулся в кошмар. Следующий рассказ Элиссона буду читать не раньше чем через месяц.
Оценка: 6
Рассказ о достижении искусственным разумом абсолютной власти над людьми. Вернее над горсткой людей, последних в роду человеческом. В свое время произвел на меня сильнейшее впечатление. Его достоинство по-моему в том, что он заставляет призадуматься над многими вещами: Об отсутствии морали у искусственного разума. О пределе выносливости человеческой психики. Об условиях, в которых мученичество и героизм теряют смысл. Многих читателей отталкивает по моему мнению то, что героям невозможно сопереживать в принципе - невозможно читателю представить себя в такой ситуации. Но думаю автору без всех этих жутких подробностей и нагнетания и без того кошмарной атмосферы не удалось бы так полно донести свою мысль до читателя. Заметка для себя: Одно из главных обстоятельств, формирующих ход событий в рассказе - неспособность АМ воскрешать людей или получить от них потомство. Твердая десятка. Я лично, после первого прочтения не мог отделаться от мыслей по его поводу где-то неделю. Хотя впечатлительным натурам действительно не стоит его читать. Но некоторые вопросы остаются открытыми. Например, откуда у компьютера такая ненависть к людям? Ладно бы он молча творил свои гнусные дела, так нет, он же эту ненависть прямо-таки декларирует.
Оценка: 10
Великий рассказ. Хотя понравится он далеко не всем - слишком уж мрачен и даже жесток, но в мастерстве Эллисону не откажешь. Нигде и никогда не встречал я подобного ощущения абсолютной безнадёжности и обречённости. Человек становится игрушкой и теряет всё - свободу, веру, надежду; фактически,теряет он и жизнь, а самое страшное - он теряет смерть. Тяжёло бьющий по сознанию, но, повторюсь, великий рассказ.
Оценка: 10
Очень спорный рассказ насчёт которого мнения колеблются от «да кто этому графоману вообще писать позволил???» до «гениальное творение Гениальнейшего автора». Как водится, во многом вину перекладываем с автора на переводчиков. Чтобы не быть голословным и разобраться подробнее, что к чему, я прочитал несколько вариантов перевода, а точнее четыре штуки. Итак, список в порядке убывания «удачности» перевода:
1. Харлан Эллисон. «У меня нет рта, а я хочу кричать» (рассказ, перевод В. Гольдич, И. Оганесова);
2. Харлан Эллисон. «У меня нет рта, чтобы кричать» (рассказ, перевод М. Стерлигов);
3. Харлан Эллисон. «Безмолвный крик»(рассказ, перевод А. Друзь);
4. Харлан Эллисон. «Мне нужно крикнуть, а у меня нет рта» (рассказ, перевод Ш. Куртишвили).
Пожалуй, точнее всего рассказ перевели В. Гольдич, И. Оганесова, но у этого перевода есть один небольшой недостаток: вряд ли английскую аббревиатуру стоит переводить на русский как АМ, ибо для нашего языка это не более, чем абракадабра, к которой можно подобрать соответствующие расшифровки (как называли компьютер люди), но вот истинный смыл, почему машина выбрала себе именно такое имя, она никак не отображает (Ш. Курташвили избрал эту же аббревиатуру). Впрочем, у А. Друзя в качестве имени машины фигурирует чудовищное «А. ЭМ.», понять можно, но какое отношение это имеет к русскому языку? В данном случае, наиболее точно передаёт суть вещей наименование ЯМ, которое фигурирует в переводе М. Стерлигова.
Спойлер (раскрытие сюжета)
ЯМ=Я Мыслю, AM=«and finally it call itself AM, emerging intelligence, and what it meant was I am cogito ergo sum I think, therefore I am» (И в конце концов оно назвало себя ЯМ, хвастаясь эрудицией, Я мыслю, следовательно, существую, поэтому Я есть).
Второй момент, о котором писал даже сам Эллисон: Элен. Что и у кого тут не всё в порядке? Читаем в авторском комментарии к рассказу:
Спойлер (раскрытие сюжета)
(кликните по нему, чтобы увидеть)
Святой отец, если вы столь безупречно разбираетесь в тончайших нюансах моего рассказа, если вы заметили в нем то, о чем я даже не подозревал… то как вышло, что вы не заметили того, что женщина в рассказе чернокожая?
Иезуит снова надулся и запыхтел. Изумился:
Чернокожая? Чернокожая? Где это написано?
Да вот же. Открытым текстом: «Черты ее лица, словно вырезанного из черного дерева, резко выделялись на фоне ослепительно белого снега». Никакого подтекста, никакого символизма, просто черное на белом фоне. В двух местах.
В целом, тут полный порядок, кроме перевода Ш. Куртишвили, который (-ая) этого не понял (-а), или пренебрег (-ла). Впрочем, мелочь, но, сам Эллисон считал это существенным моментом.
С учётом обоих вышеназванных поправок, я бы отдал предпочтение переводу Стерлигова, хотя Гольдич и Оганесова перевели ничуть не хуже. Наиболее «художественным», хотя и не вполне точным, мне показался перевод А. Друзя. Тем, кому совершенно не нравится авторский стиль, могу порекомендовать ознакомиться с ним. С переводами закончили.
Теперь пару слов о самом рассказе. Понятное дело, что в 1967 на заре компьютерной эры только и разговоров было, что об искусственном интеллекте, который, казалось, так скоро будет создан. Как показала практика, интеллекта не было, нет до сих пор и неизвестно когда, и если, будет, а проблема волнует умы. И многим, очень многим кажется, что ИИ не просто может, а ОБЯЗАН взбунтоваться против своих создателей и сделать им большую-большую гадость. Тут мне вспоминается и М. Крайтон «Человек-терминал», и Д. Бишоф с его «Военными играми», да и тот же несчастный «Терминатор», запутавшийся в непробиваемой «Матрице». В общем, тема для творчества весьма обширная.
Но вернёмся к нашему «безротому». Так уж получилось, что рассказ я прочитал уже после того, как сыграл в одноименный квест, и они слились для меня в какое-то единое и неразрывное целое. Сценарий игры заметно выигрывает по части проработки психологии персонажей, их мотиваций и раскрывает собственно прошлое, где у каждого было немало грехов (разве что за исключением Эллен). В целом же рассказ для того времени скорее всего был шокирующим и захватывающим, не смотря на всю свою бессюжетность. В целом, я его рассматриваю как рассказ-предупреждение, как отклик на общественное замешательство, возможно, страх перед новым элементом реальности, который всё прочнее входил в жизни. В рассказе множество нестыковок. Хотя, возможно, опять-таки по вине переводчиков. В одном месте делается заявление:
Спойлер (раскрытие сюжета)
(кликните по нему, чтобы увидеть)
«Мы дали АМ разум. Неосознанно, конечно, но разум. Который оказался в ловушке. АМ был всего лишь машиной, а не Богом. Люди создали его, чтобы он мыслил, но он, несмотря на замечательные способности, ничего не мог создать».
И тут же, совершенно рядом:
Спойлер (раскрытие сюжета)
(кликните по нему, чтобы увидеть)
«И в своем безумии выбрал нас, пятерых, для личного, бесконечного сведения счетов, которое, однако, никогда не утолит его жажды… будет только развлекать, напоминать о ненависти к людям и помогать ее лелеять».
И чуть раньше:
Спойлер (раскрытие сюжета)
(кликните по нему, чтобы увидеть)
«К своей жизни АМ относился столь же безжалостно, как и к нам. Здесь все носило отпечаток его личности - стремление к идеалу, которое заключалось как в уничтожении недостаточно эффективных собственных частей, так и в постоянном совершенствовании наших пыток...»
Разве это не творчество, разве это не созидание, пусть даже направленное во зло?
В общем, подводя итог, могу сказать: для любителей киберпанка и постапокалипсиса это, на мой взгляд, хоть и далеко не лучшее, но практически обязательное к прочтению произведение. Так сказать, один из истоков жанра.
Оценка: 7
5-й рассказ Х. Эллисона (ХЭ) и last шанс; нереализованный.
«У меня нет рта...», начинённый типичной для ХЭ чернухой и порно-намёками. Ничто из не оправдано, разве что дешёвым, популярным в наш Э-век желанием: (отсутствие талантов - эпатирование). М.б., раньше такие «ПоПиски» и были чем-то вроде откровения: «машинная власть», «машины нас уничтожат», «они нас ненавидят» и, кн-ч же, «скоро Конец Света».
А как же 3 Правила Азимова?
А как же гуманизм Брэдбери?
Что насчёт остроумной философии Лема?
Витиеватые фантазии Филипа Дика?
Неужели так много людей готовы восхищаться псевдоидеей, обёрнутой в, м-м-м, как там?; «студёнистый гной»? Или читать о том, кто и с кем кончает?
Видимо, никогда не пойму, чем ХЭ заслужил любовь. Всё прочт. было не >, чем плохо замаскированным под НФ переложением рвотных фантазий.
Было дело: ХЭ протестовал VS нелегального издания своих произведений в СССР. Чуть ли не единственный, он этого и не заслужил.
Оценка: 1
Из-за труднодоступности Эллисона в бумаге, прочитал с распечатки.
Подкрадывающееся безумие, безысходность, зловещая темница, наполненная такими ловушками, какие только можно представить...
Спойлер (раскрытие сюжета)
(кликните по нему, чтобы увидеть)
И самое страшное в том, что это ловушка, расставленная самому себе.
Рассказ 67 года, но актуальность вовсе не потеряна. И это прискорбно.
Это - рассказ-предостережение, рассказ-настроение, бэд-трип на бумаге. Рекомендуется любителям острых ощущений:wink:
ЗЫ: существует и компьютерная игра по этому рассказу. Лицо на обложке подозрительно похоже на физиономию автора исходника! И не случайно - Эллисон принял участие в озвучке. :smile: Выбрал для знакомства с Эллисоном именно этот рассказ главным образом благодаря заинтригованности этой игрой.
Оценка: 10
На звание шедевра рассказ, хоть и претендует по масштабу замысла, имхо, не тянет по реализации. Есть ряд чисто художественных натяжек (чтоб не сказать «нестыковок»), навроде ни с чем не сообразного количества лет, проведенных героями внутри машины или то включающейся, то, когда надо, пропадающей «неубиваемости». Эти натяжки не позволяют до конца проникнуться происходящим, с головой занырнуть в авторскую реальность. Но, в целом, не смертельны.
А вот сама идея мне показалась очень интересной: отчасти аллюзия на, отчасти дискуссия с «1984». Ведь какой вывод у Оруэлла? «Все мы животные, управляемые инстинктом самосохранения. Любого человека можно довести до такого состояния, когда он будет вертеться, как уж на сковородке, будет готов на любую подлость, предательство, и даже научится думать две взаимоисключающие мысли одновременно, ради спасения собственной шкуры.» Элиссон не то чтобы спорит с этой концепцией, но разворачивает ее совсем под другим углом. «А что, если собственное убогое существование человеку настолько опротивело, что он готов будет рискнуть и пожертвовать им? Людей, знаете ли, опасно доводить до последней грани!» И получается, что даже когда кто-то дошел до самого дна, снизу все еще могут постучать. Что даже в людях, вроде бы опустившихся вконец, теплится искра благородства. Что даже среди бесконечной агонии и беспросветной тьмы есть место подвигу во имя сострадания. Вы спрашиваете, зачем нужно было нагнетать такую невменяемую атмосферу и вводить столько откровенной чернухи? Да вот за этим, чтобы показать, что как бы там ни было, человек всегда может оставаться человеком! Я даже не хочу оценивать реализм этой мысли. В рамках собственной, вконец неадекватной здравому смыслу вселенной, автор остался абсолютно убедителен, а большего от литературы требовать, наверное, и неправильно
В итоге, парадоксальным образом рассказ, снискавший славу одного из наиболее мрачных и жестоких произведений ХХ века, в основе своей является, возможно, самым гуманистичным и обнадеживающим образчиком антиутопического жанра!
Оценка: 8
Какая, однако, кровожадная «матрица»! А если одним словом, то белиберда:) Это, конечно, сугубо мое мнение. Сюрреализм и абсурд в литературе я вообще не люблю, хотя свои достоинства они имеют, когда цель автора - воздействие на бессознательные ощущения читателя. Кроме того, я не люблю малые литературные формы в среднем и ниже среднего исполнении. Рассказ требует, на мой взгляд, гораздо больше опыта, профессионализма и психологизма, чем крупные формы, в которых есть где развернуться. Соответственно, когда в рассказе просто нагорожено всякого разного безумно-ужасного абсурда, говорить о целях, темах, посылах произведения как-то нет настроения. Глубокой мысли в изображении низменного в форме, провоцирующей рвотные позывы, не вижу, да и искать не хочу. Впрочем, ради одной только оригинальной идеи без нормального уровня ее реализации тоже, простите, не готова изливать восторги в адрес произведения.
В целом, все это похоже на некий творческий эксперимент писателя, находящегося под кайфом или имитирующего подобное состояние. Для писателя, может, и интересный эксперимент. Для читателя? Не знаю даже... Безусловно негативные эмоции от прочтения бьют фонтаном, соответственно, в этом что-то есть, ведь ужасы именно для этого и читают/смотрят. Только толку? Поразмыслить не над чем, ну разве что над тем, что искусственный разум это зло, потому что он может вдруг слететь с катушек, и тогда всем станет плохо (для 67го года идея в общем-то свежая). После прочтения нелегкой биографии писателя напрашивается еще одна мыслишка: у автора явно был кризис ненависти к человеческим низменным инстинктам, да и к себе самому, возможно, тоже. Кстати, рассказ был опубликован, когда ему как раз было 33 года (критичный возраст в общем-то)... Вообще люди подобного склада во мне особого уважения не вызывают, а в этом рассказе уж очень явно проглядывают именно нелицеприятные черты личности писателя. Не хочу тут заниматься психоанализом, но эмоции остались неприятные как от написанного, так и от написавшего, потому что рассказ этот выглядит как плевок в душу всему хорошему и прекрасному, а также как мелочная такая месть злющего автора читателю.
«Пойдя навстречу Эллисону, компания Cyberdreams наняла геймдизайнера Дэвида Сирса (англ. David Sears). Дэвид спросил у писателя кое-что такое, о чём тот раньше и не задумывался: почему A.M. выбрал для пыток именно этих обычных пятерых людей? Вопрос воспламенил воображение Эллисона, и они с Дэвидом провели несколько наполненных интенсивной работой недель, проясняя прошлое пленников: откуда они взялись, кто они такие, чего они боятся, в чём видят спасение от своего ужасного жребия? В итоге Эллисон и Сирс изготовили пять дьявольски-жестоких приключений, основанных на роковых изъянах главных героев, превращая сценарий в эпическое приключение, которое постоянно требует от игрока этического выбора».
Т.е. автор даже не потрудился продумать заранее предыстории и характеры своих персонажей, а ведь «прилагаемые обстоятельства» - это основа основ при создании литературных образов. В общем, делаем выводы. Впрочем, я давно заметила, что многих любителей фантастики литературная сторона произведений мало волнует, главное - идея, поэтому в ход идут тексты любого качества.
PS: Такое впечатление, что восторги от этого рассказа все старательно сосут из пальца, чтобы быть в каком-то неизвестном мне тренде.
Оценка: 2
Теперь понятно откуда взялся терминатор со своим скайнетом. Его прародитель был компьтер ЯМ. И если в терминаторе люди еще как то противостояли взбунтовавшимся машинам, то в рассказе Харлана человечество проиграло компьютеру, который осознал себя как личность. Как он и говорил в рассказе, что вы научили меня думать... В порыве ненависти к человечеству он уничтожает все... Выжили только пять человек, если это можно назвать жизнью, которые стали для ЯМа как игрушки для человека, как те же примитивные японские роботы современности. В своем мире этот компьтер - почти бог. Он может наказать любого человека как только ему вздумается. И люди существующие в этом подземелье не могут даже умереть нормально... В самом рассказе очень гнетущая атмосфера, сравнения еды с мочей свиньи или жирные белые личинки уже вызывают рвотный рефлекс. Рассказ очень жесток и депрессивен. И все же этот рассказ является предупреждением, что создание не должно быть умнее своего создателя.
Оценка: 9
В рассказе очень много неприятных моментов. «Вкус червивой свинины», голод, унижения, боль, тошнота... Читать тяжело, но все так подобрано одно к другому, что и оторваться невозможно. Назвать чепухой язык не повернется: повествование последовательное, действия персонажей обоснованные. Но какая же давящая атмосфера! Именно из-за этой атмосферы, а также ярких образов и впечатляющего сюжета, рассказ незабываем.
Переживания машины, которая, при всех своих возможностях, может только БЫТЬ, ужасны. Но, если вдуматься, такие же чувства могли бы испытывать и люди, обладающие множеством способностей, ощущений, умеющие в мечтах создавать вселенные - но запертые в рамках реального мира. Не стоит ли нам впасть в еще большее безумие? Видимо, что-то удерживает - привычка, или как раз осознание границ своих возможностей, или представление, что наша жизнь имеет некий смысл.
Да, мы читали Брэдбери и Азимова, вникали в работы Лема, не забываем, что на этой ниве плодотворно работали многие другие знаменитые писатели. Я обожаю массу их рассказов. Но принадлежит ли только им исключительное право на моделирование отношений искусственного разума и человека? Я думаю, что нет. Если машины могут быть разумны, то почему они не могут сойти с ума, свихнутся, спятить? Если они способны испытывать любопытство, дружбу, любовь, стремление творить, то почему они не могут испытывать злобу, ненависть? Только потому, что это чертовски мрачно и до дрожи отвратительно? Только потому, что нам бы этого не хотелось?
Я не знаю, сможет ли машина однажды с полным правом сказать о себе: «Я человек, и ничто человеческое мне не чуждо». Но если сможет, то это будет значить, что не чужды ей множество таких качеств, чувств и черт, о которых лучше не думать, ведь человек, обычный средний человек пока что не представляет собой образец нравственной и душевной чистоты. А некоторые особи нашего с вами вида таковы, что если искусственный интеллект наследует именно им, то события рассказа могут перекочевать из литературы в реальную жизнь.
Наверное, Станислав Лем в своём «Големе» был прав, предположив, зародившийся искусственный разум очень быстро постигнет человека, причём сам предмет изучения будет не слишком интересен разумной машине. К тому же она быстро эволюционирует и «окно контакта» с ней будет недолгим. Поэтому не бойтесь появления разумных машин, но опасайтесь появления машин чувствующих.
Да, вот ещё что - все как-то концентрируют своё внимание на чудовищном компьютерном разуме. А между тем главный герой рассказа - последний человек на Земле или по крайней мере то, что от него осталось. И человек этот пошёл на такую жертву, обрёк себя на такие муки, что никаким праведникам и святым такое не могло привидится в самых ужасных кошмарах. Вечный прижизненный ад, без надежды на избавление, с пониманием того, что никто не в состоянии оценить эту жертву, даже сверхмощный искусственный интеллект.
Оценка: 9
Лишний раз убеждаюсь, что когда про какое-то произведение, будь то фильм или книга, говорят что мол «у него премия от того-то, его признали там-то, и поэтому ты как человек всесторонне недоразвитый просто обязан его прочитать/посмотреть», то это не значит ровном счетом ни-че-го. Это лишь значит, что данное произведение понравилось кому-то из жюри, что его наградили «потому что время было такое» или еще почему-то. И это отнюдь не означает, что таки ознакомившись с данным «шедевром» вы обретете что-то помимо разочарования. Что далеко ходить, посмотрите кому нынче вроде бы престижные «Оскары» раздают»…
Итак, что же я увидел, прочитав это расхваленный рассказ? Лишь дешевый эпатаж. Злой компьютер с мотивацией «ненавижу потому что ненавижу» красочно мучает группку людей. И все. Для тех, кто видел плохую сторону этого мира лишь на картинках, это может и вызовет сердечный приступ, но меня это не впечатляет ну ни капли. Товарищи вроде Гюго задолго до автора умели являть всякую жуть читателю и без примитивных кошмаров подсознания и «НЕНАВИЖУ» капс-локом.
Не знаю нафига такое писать!
Эллисон вообще любит строить свою популярность на дешевом эпатаже.
«Сорокин американский»
Дисклеймер
Я скептически отношусь к своей способности высказать действительно оригинальную мысль. Скорее всего, я далеко не первый, кто задаёт эти вопросы, и вполне возможно, на них даже уже выработаны какие-то удобоваримые ответы. Поэтому, печатая данный текст, я не жду вашего удивления или восхищения. Я жду, что в комментарии придут люди, знакомые с современной философией сознания, и дадут мне ссылки на работы серьёзных мыслителей с забавными немецкими фамилиями.
Что такое боль?
Как-то раз у меня болел зуб. Я лежал на диване и пытался не обращать на это внимания. Я думал о том, что боль - это просто сигнал, идущий в мой мозг. Такой же сигнал, как наличие или отсутствие напряжения в проводке, идущем к PS/2 разъёму системного блока. Сам по себе он не несёт никакой семантики, это моё сознание выбирает, как его интерпретировать. Если я перестану воспринимать его как боль, а вместо этого проигнорирую или просто «приму к сведению», мне станет легче.Но легче не становилось. Таким нехитрым образом я обнаружил, что боль обладает квалиа и не сводится к простой передаче информации.
Как мы понимаем, что другим больно?
Я не спец по нейрофизиологии, но говорят, в мозгу есть какие-то зеркальные нейроны. Когда мы видим, как другой человек совершает определённые действия, зеркальные нейроны производят их реверс-инжениринг. Мы пытаемся понять, что должно происходить в голове этого человека, чтобы он вёл себя именно так. И в какой-то мере даже сами начинаем чувствовать то, что, по нашим предположениям, должен чувствовать он. У меня может свести скулы при виде того, как кто-то ест лимон. Если же кто-то, допустим, кричит, плачет, корчится, катается по полу… Вполне вероятно, что этот кто-то испытывает боль. Скорее всего, мне будет неприятно видеть такое зрелище. Я начну сочувствовать этому человеку, и, если это в моих силах, даже предприму какие-то действия, чтобы боль прекратилась. Чёртовы зеркальные нейроны.На самом деле, у нас нет никаких гарантий, что другой человек действительно испытывает боль. Например, это может быть симулянт, актёр, как в эксперименте Милгрэма . Впрочем, такое легко можно раскусить, засунув симулянта в томограф и посмотрев, какие отделы мозга в текущий момент активны. Однако это тоже поведение, пусть и более «низкоуровневое». В итоге всё сводится к очень простому (я бы даже сказал, слишком простому) критерию: мы считаем, что человек испытывает боль, если он ведёт себя так, как вели бы себя мы, если бы испытывали боль .
Как понять, что другой человек - человек?
Есть такой известный мысленный эксперимент под названием "философский зомби ". Суть его проста: представим себе нечто, что ведёт себя абсолютно неотличимо от человека с точки зрения внешнего наблюдателя, но при этом полностью лишено субъективного опыта. Если уколоть его иголкой, оно скажет «ай» (или что-то менее цензурное), отдёрнет руку, у него сократятся соответствующие мимические мышцы, и даже томограф не сможет его подловить. Но при этом внутри оно не чувствует ничего. У него просто нет этого «внутри». Такое нечто и называется «философский зомби», а суть эксперимента - в том, что существование этого гипотетического существа не ведёт к очевидным противоречиям. То есть оно вроде как возможно .Возвращаясь к предыдущему вопросу, у нас ведь и в самом деле нет никакой достоверной возможности узнать, испытывает ли другой человек боль как квалиа. Мы можем прислушаться к своим зеркальным нейронам, или, если этого недостаточно нашим искушённым умам, воспользоваться бритвой Оккама. Сказать, что «философский зомби» - это лишняя сущность. Гораздо логичнее считать, что все люди более или менее одинаковы, чем предполагать обратное, не имея для этого никаких внятных оснований. Однако принцип Оккама - это всё-таки эвристика, а не непреложный закон. Сущности, которые вчера казались нам лишними, сегодня входят в наш дом, открывая дверь ногой. Если вы не согласны, попробуйте представить, как объясняли бы квантовую механику Демокриту.
Снятся ли андроидам электрические дыбы?
В первом комментарии к посту, о котором я писал выше, пользователем была высказана следующая мысль:Прежде всего, «сильный ИИ» это не живое существо и не будет способен испытывать ни боль, ни одиночество, просто потому что его природа изначально другая, у него нет миллионов лет эволюции и естественного отбора, и следовательно - низкоуровневых биологических механизмов и программ. У него не будет даже инстинкта самосохранения, если специально не запрограммировать конечно. Но в чистом виде - не будет; можно создать ИИ, обладающий сознанием и способный решать сложнейшие задачи и обучаться, и при этом не обладающий инстинктом самосохранения вообще.
Вот это важный момент, который многие почему-то не понимают, по умолчанию «очеловечивая» искусственный разум.
В этом, безусловно, есть рациональное зерно. Нельзя бездумно переносить человеческие качества на гипотетический ИИ. В этом плане 95% научной фантастики и 99.9% обывателей безнадёжно наивны. Но я хочу сказать следующее: не стоит также бездумно лишать ИИ человеческих качеств. Какие-то из них могут оказаться более фундаментальны, чем можно было предположить.
Рассмотрим такую вот гипотетическую ситуацию: для того, чтобы ИИ делал то, что нам нужно, а не то, что ему захочется (а ему вполне может оказаться более «интересно» решать судоку, чем заниматься нашим проектом, у которого вот-вот дедлайн), мы добавляем в него специальный входной сигнал - такой, что основной целью ИИ, основной составляющей его целевой функции будет минимизация этого сигнала. Соответственно, при приближении дедлайна мы жмём на педаль, на проводок подаётся напряжение, и ИИ начинает активно думать о том, как это напряжение убрать. Причём тем активнее, чем сильнее мы жмём. А поскольку давление ноги на педаль связано с незавершённым проектом, ИИ не остаётся ничего иного, кроме как этот проект завершить. Ну, или хакнуть пролетающего мимо военного дрона, чтобы он вышиб мозги оператору педали. Кто его знает, этот сильный ИИ.
Однако я отвлёкся. Скажите, этот гипотетический сигнал вам случайно ничего не напоминает? Можно ли в данном случае сказать, что ИИ испытывает боль?
Человек человеку волк, а зомби зомби зомби
Каким вообще образом мы можем понять, переживает ли ИИ квалиа? В случае с философским зомби на нашей стороне были эмпатия и бритва Оккама. Однако ИИ - это философский, но не зомби. То есть относительно него имеет смысл ставить этот вопрос, однако он не человекоподобен. Поэтому мы не можем сказать, что он что-то чувствует, просто по аналогии с нами самими.Кто-то (как, например, автор процитированного выше комментария) скажет, что мы можем смело заявлять обратное. Что нет причин полагать, будто ИИ и в самом деле испытывает боль, а раз нет, то мы так полагать и не будем. На это я хотел бы ответить следующим образом: представьте, что некое думающее, чувствующее, но совершенно нечеловеческое существо создало вас. Какие у него были бы причины полагать, что вы переживаете квалиа? Если, конечно, это существо не обладает трансцендентной способностью в самом деле влезть в чужую голову; аллегорически выражаясь, стать летучей мышью . Однако это уже выходит за рамки нашей аналогии и переходит в категорию разговоров о божественном.
Антропный шовинизм
Во всех предыдущих параграфах мы говорили о боли. Боль - это одна из, скажем так, наиболее характерных разновидностей человеческих ощущений. Однако кто сказал, что всё ограничивается человеком?Если гипотетический чуждый разум (в общем-то, даже неважно, искусственный, инопланетный или ещё какой) в принципе способен переживать квалиа, они могут оказаться кардинальным образом непохожи на те, которые переживает человек. Гротескный пример: крошка-ИИ приходит к отцу-учёному и говорит, что испытывает ыбхкдшнтрб . Хорошо это или плохо? Следует дать ему конфетку в награду, погладить по головке в утешение, или вообще всыпать электрического ремня, потому что нечего тут?
Во всех предыдущих параграфах я задавал вопросы, на которые нет ответа, и по сути ничего не утверждал. Сейчас я рискну утверждать: человеческая этика не готова сделать нечеловеческий разум своим полноправным субъектом . Мы можем говорить об «этических вопросах ИИ», рассматривая искусственный интеллект как средство, с помощью которого одни люди делают хорошо или плохо другим людям. Но если мы попытаемся задуматься об этических вопросах с точки зрения ИИ, у нас просто не получится. Не то чтобы мы не смогли получить ответ - мы даже не обладаем соответствующим понятийным аппаратом, чтобы правильно поставить вопрос. Возможно, не обладаем пока . А может быть, это принципиально неустранимый разрыв. И искусственному интеллекту придётся вырабатывать собственную этику, если, конечно, она ему вообще понадобится.
А потом решать, стоит ли в ней рассматривать человека как субъект, хе-хе.
Теги: Добавить метки
Харлан ЭЛЛИСОН
У меня нет рта, чтобы кричать
Безжизненное тело Горристера висело головой вниз высоко над нами, под самым потолком в компьютерном зале. Оно оставалось неподвижным, несмотря на легкий, но пронизывающий ветерок, который вечно дул из главной пещеры. Бледное, как мел тело, привязанное к люстре за щиколотку левой ноги, давно истекло кровью. Вся кровь, похоже, вытекла через аккуратный разрез, рассекающий горло над впалыми щеками от уха до уха. На зеркальном металлическом полу крови не было.
Когда к нам присоединился Горристер и, взглянув наверх, увидел себя, мы уже догадались (но поздно), что ЯМ опять оставил нас в дураках и повеселился. Очередное развлечение… Троих из нас вырвало, едва мы успели отвернуться друг от друга, повинуясь рефлексу столь же древнему, как и тошнота, породившая его.
Горристер побелел, будто узрел магический символ, предрекающий ему смерть.
О, Господи, - пробормотал он и пошел куда-то.
Мы отправились следом за ним и нашли его прислонившимся спиной к одной из пощелкивающих компьютерных ячеек. Лицо он закрыл руками. Элен опустилась на колени и погладила его по голове. Он не пошевелился, но голос из-под прижатых к лицу ладоней донесся до нас вполне отчетливо.
Почему бы ему просто не прикончить нас и не успокоиться на этом? Я не знаю, насколько меня еще хватит.
Мы все думали о том же.
Шел сто девятый год нашей жизни в компьютере.
У Нимдока (это имя навязал ему компьютер, ЯМу нравилось развлекать себя странными звукосочетаниями) начались галлюцинации: ему пригрезились консервы в ледяных пещерах. Я и Горристер отнеслись к этому с сомнением.
Ерунда, - сказал я. - Помните этого треклятого замороженного слона, которого он нам внушил? Бенни тогда чуть с ума не сошел. Когда мы доберемся до консервов, они окажутся несъедобными. Или еще что-нибудь случится. Лучше о них забыть. Если мы здесь останемся, ему вскоре придется предоставить нам что-нибудь, иначе мы просто сдохнем.
Бенни пожал плечами. Последний раз мы ели три дня назад. Этих личинок. Толстых, вязких личинок.
Былой уверенности у Нимдока не было. Он знал, что шансы у нас есть, но весьма небольшие. Хуже чем здесь уже не будет. Может похолодать, но это не имеет значения. Жара, холод, ливень, кипящая лава или саранча - разницы нет. Машина мастурбирует, и мы должны покориться этому или умереть.
За нас решила Элен:
Мне надо съесть что-нибудь, Тэд. Может быть, там будут персики или груши. Пожалуйста, Тэд, давай попробуем.
Я уступил с легкостью. Какого черта спорить? А Элен смотрит с благодарностью. Она все-таки дважды ходила со мной вне очереди. Но и это не имело никакого значения. Когда мы делали это, машина всегда громко хихикала, сверху, сзади, вокруг нас. А Элен никогда не испытывает оргазма, так стоит ли беспокоиться?
Мы отправились в четверг. (Машина всегда держит нас в курсе календарных дел. Время необходимо знать ей, естественно, а не нам). Значит, четверг? Спасибо за информацию, ЯМ.
Нимдок и Горристер сцепили руки в запястьях, образовалось что-то вроде сиденья, и посадили Элен. Понесли. Бенни и я - один шел впереди, другой - сзади. На всякий случай: вдруг что-нибудь случится с одним из нас, то Элен, по крайней мере, останется жива. Черта с два останется. Да и какое это имеет значение?
Холодильные пещеры находились в сотне миль от нас, и на второй день, когда мы разлеглись под материализовавшимся в вышине пузырящимся солнцем, нам ниспослали манну небесную. На вкус она отдавала свиной мочой. Мы ее съели.
На третий день нам предстояло пересечь утиль-долину, загроможденную ржавыми остовами старых компьютерных ячеек. ЯМ так же безжалостен к себе, как и к нам. Это особенность его характера: он борется за совершенство во всем, начиная с уничтожения непроизводительных элементов в своей структуре, заполнившей весь мир, и кончая усовершенствованием пыток для нас. ЯМ последователен в своих действиях, как и надеялись его, давно уже превратившиеся в прах, создатели.
Откуда-то сверху просачивался свет, и мы поняли, что находимся у поверхности. Но мы даже не рискнули забраться повыше, чтобы посмотреть. Ведь там действительно ничего не было вот уже на протяжении ста лет. Только искореженная оболочка Земли, которая раньше была для большинства людей домом. Сейчас нас осталось пятеро здесь, внизу, наедине с ЯМом.
Я услышал неистовый возглас Элен:
Нет, Бенни! Не надо! Пошли, Бенни. Пожалуйста, не надо!
Теперь я осознал, что давно слушаю бормотание Бенни, не обращая внимания на слова:
Я выберусь отсюда, выберусь, выберусь…
Он повторял это снова и снова. Его обезьянье лицо сморщилось в приступе блаженного восторга и в то же время было печально. Радиационные ожоги, которыми ЯМ наградил его во время праздника, пересекались со множеством бело-розовых морщин; из нас пятерых он был самым счастливым, он "отключился", давно перестал воспринимать происходящее.
И хотя мы могли ругать ЯМ, как нам заблагорассудится, и вынашивать тайные планы о расплавке ячеек памяти и кислотной коррозии основных плат, сожжении электрических цепей, разбивании вдребезги предохранительных стекол, компьютер не вынес бы наших попыток сбежать. Когда я попытался схватить Бенни, он ускользнул. Он залез на один из банков памяти, опрокинутый набок, забитый вышедшими из строя элементами. На мгновение он застыл, сидя на корточках, как шимпанзе, на которого ЯМ сделал его похожим.
Потом он высоко подпрыгнул, ухватился за изъеденную ржавчиной перекладину и стал карабкаться по ней, по обезьяньи помогая себе ногами, пока не забрался на выступ футах в двадцати над нами.
Ой! Тэд, Нимдок, пожалуйста, помогите ему, снимите его оттуда… всплеснула руками Элен и вдруг замолкла. В глазах у нее застыли слезы.
Слишком поздно. Никто из нас не хотел быть с ним рядом, когда произойдет то, что должно было произойти. Кроме того, мы видели ее насквозь, понимали, почему ее это заботит: когда Бенни сошел с ума, ЯМ преобразил не только его лицо. Некий орган у обезьяны Бенни превосходил по размеру наши, и Элен это нравилось! Она продолжала нас обслуживать по-прежнему, но с ним ей нравилось больше. О, Элен, ты на своем пьедестале, изначально чистая, стерильно чистая Элен! Какая мерзость.
Горристер дал ей пощечину. Она тяжело осела на землю, не отрывая взгляда от бледного, безумного Бенни, и заплакала. Плач - ее основное средство самозащиты. Мы привыкли к нему еще семьдесят пять лет назад. Горристер пнул ее ногой в бок.
А потом возник звук. Или свет? Наполовину звук, наполовину свет, нечто сияющее в глазах Бенни, ритм, звук все громче и громче, с мрачной торжественностью и слепящей яркостью, полусвет-полузвук… Темп нарастал. Наверное, это было больно и с каждым мгновением становилось больней, потому что Бенни заскулил как раненое животное. Сначала тихо, когда свет был еще тусклым и звук приглушенным, потом - громче. Плечи у него стали сутулиться и спина изогнулась дугой, будто он готовился к прыжку. Он как бурундук сложил руки на груди. Голова склонилась набок. Грустная обезьянья мордочка сморщилась от боли. Потом звук, исходящий у него из глаз, стал громче. Бенни завыл. Громко, очень громко. Я обхватил голову руками, но звук все равно проникают сквозь ладони. Мое тело затряслось от боли, будто по зубному нерву царапнули проволокой.
Неожиданно Бенни выпрямился. Он стоял на выступе у стены и вдруг резко, словно марионетка, подскочил. Свет изливался из его глаз двумя лучами. Звук все нарастал, приближаясь к какому-то немыслимому пределу. Бенни упал лицом вниз и грохнулся о стальные плиты пола. Там он и остался лежать, судорожно дергаясь, и свет растекался вокруг него.
Потом свет потек вспять, звук утих, а Бенни остался лежать, жалобно скуля. Глаза его походили на затянутые пленкой омуты. Пленкой из гнойного желе. ЯМ ослепил его. Горристер, Нимдок и я… мы отвернулись, но успели заметить выражение облегчения на разгоряченном озабоченном лице Элен.
* * *
Пещера, где мы устроили лагерь, была залита изумрудным светом. ЯМ выделил нам гнилое дерево, и мы сидели и жгли его, сбившись в кучу вокруг тщедушного и жалкого костра, сидели и рассказывали друг другу разные истории, чтобы Бенни, обреченный жить во тьме, не плакал. Он спросил:
Что значит "ЯМ"?
Каждый из нас уже отвечал на этот вопрос тысячу раз, но Бенни давно забыл об этом. Ответил Горристер:
Сначала это значило Ядерный Манипулятор, потом, когда его создатели почувствовали опасность, - Ярмо Машины, Ярость Маньяка, Ядрена Мать… но уже ничего нельзя было изменить, и, наконец, сам он, хвастаясь эрудицией, назвал себя ЯМ, что значило… cogito ergo sum… Я мыслю, следовательно, существую.
Бенни пустил слюну, захихикал.