Больше рецензий
Эксперт
Эксперт Лайвлиба
29 ноября 2022 г. 20:55
2K
4 Всё решат за нас?
РецензияРаздумывая над тем, какой небольшой рассказ мне стоит прочесть, я решила предоставить выбор Тилли. Это искусственный интеллект, который знает обо мне всё и даже больше. Ни одна мелочь не укроется от её вездесущего ока. В любое время дня и ночи можно рассчитывать на совет и поддержку умной помощницы. Можно её временно отключить, но не исключено, что Тилли и в выключенном режиме продолжает свои наблюдения. Всё это делается ради моей пользы. Разве нет? Вдруг я забуду о какой-нибудь важной встрече или о сообщении, на которое необходимо ответить?
Приходится согласиться, что без помощи Тилли жизнь была бы сложнее и более непредсказуемой.
Учитывая накопленный за годы массив знаний, неудивительно, что Тилли не ошиблась с выбором рассказа. Любопытный читательский опыт, хотя он и не стал идеальным соответствием.
Как вы наверняка догадались, это немного сумбурное вступление вводит в курс дела и передаёт суть общества, в котором живут герои рассказа. Это мир, где алгоритмы помогают людям принимать все решения, от жизненно важных до незначительных. Учёба, работа, отношения, выбор, как провести досуг, здоровье, финансовые вопросы и многое другое. О принятии решений больше не надо беспокоиться. Можно больше не волноваться, что эмоции помешают сделать рациональный выбор. Для этого есть продвинутые помощники, бесстрастно взвешивающие все «за» и «против». Никому не придёт в голову заподозрить искусственный интеллект в пристрастности или сговоре. Максимально точный прогноз, полученный в результате максимально надежной обработки данных пользователей.
Люди, в свою очередь, избавлены от моральных дилемм и мук совести. Цена идеального соответствия по всем вопросам не слишком значительная. Нужно всего лишь ничего не скрывать от непредвзятого искусственного интеллекта. Марку Твену приписывают высказывание, что если мы говорим только правду, нам не нужно ни о чём помнить. Теперь всё стало ещё проще. Алгоритмы в любой момент поведают нам, что есть правда, а что ложь.
Среди плюсов новой реальности отсутствие необходимости что-либо запоминать. Алгоритмы всегда готовы подсказать забытое слово или дату.
Однако в каждой бочке мёда находится ложка дёгтя. Вот и в этой истории обязательно найдётся героиня, которую не устраивает безукоризненно (так ли безукоризненно?) работающий общественный механизм. Она почему-то считает, что её свобода находится под угрозой. Не желая приобщиться к благам цивилизации, как это сделало большинство, героиня скрывает свои данные и стремится перехитрить сложившуюся систему.
Сложно оценить, каковы её шансы на успех. Кто знает, права ли она в своём упорном нежелании жить по-новому?.. Пожалуй, стоит поинтересоваться у Тилли. Она-то точно должна знать ответ и на этот непростой вопрос.
Иллюстрация по мотивам рассказа, созданная ИИ
Спасибо за интересную наводку Jujelisa
Комментарии
Жить по-новому - это хорошо) А как быть с тем: что новое - хорошо забытое старое? ;)
- сплошная скука
Точно... модифицированная и в некотором роде усовершенствованная версия старого ;)
И я так думаю, так жить элементарно скучно. Рада, что мы совпали в оценках и что мне более или менее удалось передать свои впечатления, не говоря об этом напрямую в тексте)
А рассказ хороший)
Удалось, ещё как удалось.
Спасибо)
Привет! Что же помешало идеальному соотвествию?
Хороший вопрос. Рассказ мне понравился, но он, вероятно, понравился бы мне ещё больше, если бы я раньше не читала о похожем сценарии в той книге Харари. Вы, кстати, предупреждали о сходстве.
А так было ощущение, что история мне знакома. Но это просто я читала их в такой последовательности. Рассказ Кена Лю, как я поняла, написан раньше.
С другой стороны, мне кажется, идеальных соответствий вообще практически не бывает в реальной жизни. Сам эпитет "идеальное" немного напрягает и заставляет засомневаться) Поэтому я это с лёгкой иронией написала)
Думаю, что-то ещё у автора почитать. Может быть, "Бумажный зверинец". Я так поняла, что именно этот рассказ дал название целому сборнику.
Спасибо вам ещё раз за знакомство с новым для меня автором)
Название рассказа звучит не менее иронично, мне кажется. Простите за очевидность.
Мне понравилось большинство рассказов в сборнике, а БЗ больше многих. На нем есть ощутимый налет сентиментальности, это стоит иметь в виду.
Еще как в негативном! И для тех, кто разделяет опасения и с суеверным ужасом следит за тем, как "всех нас посчитали", история попадает сразу в сердце и мозг. хе-хе
Рассказ для 2022 года уже далеко не вторичен, на сегодня изложенная в нем проблема является общим местом, спасибо обширной просветительской деятельности сериалов и научно-фантастических фильмов. гы
В чем вы видите положительную сторону принятия решений за людей компьютерами? Это очень интересно.
Рискну предположить, что название звучит даже более иронично)) Простите за банальность ;)
Учту.
Согласна. "В целом" можно было бы спокойно убрать)
Что касается положительной стороны принятия решений компьютерами... Мне кажется, в определённых ситуациях это может иметь позитивный эффект.
Навскидку можно перечислить минимизацию числа пострадавших от стихийных бедствий с помощью системы освещений и решений об эвакуации. Или возможность получить медицинские рекомендации, если нет доступа к врачу.
Даже навигатор, прокладывающий для нас наиболее удобный путь, - это ведь тоже решение алгоритма.
В принципе, чтобы быть в состоянии помочь, ИИ должен обладать информацией о человеке. А собранные данные можно использовать как во благо, так и в зло.
Всё перечисленное - это ответы на конкретные вопросы и вызовы, и конечное решение остаётся за человеком. Но и в рассказе люди, а не компьютеры, создали и поддерживают то общество, в котором, мягко говоря, не хотелось бы жить. Получается, дело снова в человеческом факторе. Кто бы сомневался ;)
Думанье компьютеров в состоянии сэкономить людям время, что иногда крайне важно, и повысить безопасность. Но у этого может быть цена... написала про безопасность и подумала, что безопасность, реальная или мнимая, в обмен на ограничение свободы выбора (если так это изобразить) заставляет вспомнить Оруэлла и другие антиутопии.
Вы правы, что сегодня изложенной в рассказе проблемой мало кого удивишь, но подать её можно под самыми разными соусами)
Мне кажется, вот эта цитата хорошо передаёт дух рассказа:
В этой истории это подано в целом в негативном ключе. Но, в принципе, может быть по-разному... наверное)
Современные технологии сделали доступными лекции выдающихся ученых, в открытом доступе лучшие произведения искусства музеев мира, что уж говорить о книгах, в электронном виде она стали доступны многим. Но не сказать, что в мире возросло количество знатоков науки и искусства. Человеческий мозг стремится к упрощению и сбережению энергии, но работа компьютеров не только упрощает жизнь, но и попутно оглупляет. Чего думать, если за тебя могут подумать? Ника, как думаешь, что позволит человеку не скатиться до нуля?
Рецензия как всегда хороша!
Вита, ты затронула важную тему. Сегодня у многих из нас достаточно возможностей узнавать, изучать лекции, книги и статьи, знакомиться с искусством, сопоставлять разные точки зрения и обмениваться ими. Но, похоже, по существу мало что изменилось, если изменилось.
Может быть, потому что человеческий мозг любит упрощать и обобщать. Тем более зачем напрягаться, если искусственный интеллект за тебя может подумать? Но сторонники расширения роли компьютеров могут, вероятно, апеллировать к тому, что люди слишком пристрастны, в своих решениях часто ошибаются и ленятся или не способны анализировать всю имеющуюся информацию...
Сложный вопрос... Быть может, присущие людям, как считают некоторые исследователи (например, автор книги Франс Де Вааль - Истоки морали. В поисках человеческого у приматов ), желание жить в моральном мире и интуитивно-эмоциональное стремление к справедливости? Но не скажу, что я оптимист.
Спасибо тебе за внимание, Вита!
Все так, главное чтоб не скатиться до ленивого потребителя контента, которому и на кнопку лень нажать.
Это да, но я была уверена, что у тебя найдется ответ на непростой вопрос.
Как говорится «понимая «зачем», можно преодолеть любое «как»». Красиво получается если это «зачем» - «жить в моральном мире и интуитивно-эмоциональное стремление к справедливости». Каждое поколение считает, что мир катится в Тартар, но потом обращается к вечным ценностям, когда пена дней сходит.
И не говори.
Да, по крайней мере мысль, что большинству из нас присуще определённое стремление к равному распределению и справедливости не только для себя, но и для окружающих, приятная)
Но тёмную сторону это не отменяет.
Да-да, я тоже об этом подумала... Другой момент, что, наверное, и нам, и прежним поколениям хотелось бы большего прогресса, а не ожидания, пока пена дней сойдёт.
Вита, ещё сейчас подумала, что мы сказали про тягу мозга к упрощению. Но, может, это в некоторых случаях играет позитивную роль. Вспомнила старую шутку про однорукого экономиста. Американский президент устал от того, что экономисты вечно твердят "on the one hand... on the other", и попросил позвать однорукого экономиста)
Забавно и верно, хочется ясности.
Предположу, как тот экономист из анекдота, что у человека наблюдается противоречие между желанием к прогрессу и потребностью в комфорте и стабильности. Наверное, поэтому старшее поколение так не любит новинки техники, в отличии полугодовалого ребенка, который уже тянется к телефону. Вот интересно, сохранят эти детишки тягу к технологиям или потом станут брюзжать на все новое, как их бабушки и дедушки? Я склоняюсь к брюзжанию)
... я, пожалуй, тоже)
Хотела быстренько прочесть рассказ, но оказалось, что он не такой маленький. Отложила на потом )
Ну такое... звучит не слишком соблазнительно.
Ника, я сразу почувствовала, что есть тут какой-то подвох и это хитрая рецензия. Что-то я очень сомневаюсь, что ее автор (не будем показывать пальцем) пошла бы за ответом на этот вопрос к Тилли. )
Интересно. Рисунки искусственных нейронных сетей, или как их еще называют?)
Да, он не маленький для рассказа. Но и не большой) Буду поглядывать за твоей оценкой, если прочтёшь.
Ага... хотя на вкус и цвет, как говорится)
Могу заверить, что автор текста не искусственный интеллект, честное пионерское ;)
Кристин, ты меня неожиданно рассмешила))) А вообще, ты права))
Да. Наверное, и так можно назвать. В приложениях обычно просто идёт как AI (он же ИИ).
Спасибо тебе за отклик, Кристина!)
Опять пытаешься меня запутать своим ‘честное пионерское’? )) смотрю ты хорошо вошла в роль:)
так намного короче. Надо мне тоже попробовать какое-нибудь такое приложение )
так и было задумано. )
Ника, подумалось, что между этим рассказом и прочитанным нами ‘Последним курильщиком’ прослеживается связь. У Цуцуи тоже проблемы свободы выбора, поведение большинства и тех, кто не хочет быть как большинство.
Точно, Кристина! Более того, при чтении предыдущей рецензии Ники мне тоже вспомнился по горячим следам твой Последний курильщик. Видимо, дым этих курильщиков очень уж широко распространяется, влияя на всё вокруг. )
Сама не ожидала)) но тебя так просто не запутаешь ;)
Забавно иногда побаловаться)
Да-да, Кристина, ты абсолютно права. Темы пересекаются в этих двух рассказах. И "курильщику" я поставила такую же оценку, как и этому рассказу. При всей оригинальности подачи он тоже показался мне немного предсказуемым, хотя ты и не спойлерила в своей рецензии. И я не хочу сказать, что небольшая предсказуемость это обязательно "минус")
:)
Я тоже не считаю, что предсказуемость в литературе это минус, но иногда она мешает получить удовольствие от истории. Может это относится больше к рассказам, чем к романам. От малой формы ждешь чего-то эдакого, чтобы впечатления были на 5-ку. Но это не претензия, понятно, что сегодня писателям трудно удивить читателей. ) Столько всего уже написано, сказано, снято...
Согласна... Для меня иногда эдаким может стать талант автора выразить и прокомментировать многое с помощью лаконичного микрорассказа.
Когда что-то выглядит слишком уж идеальным, жди беды. )
Видимо, в этом "дивном новом мире" люди рождаются для того, чтобы прожить жизнь животных или роботов. Так как человек, принимающий решения и делающий выбор, способен быть ответственным и свободным, то надо у него эту свободу отобрать, прикрываясь, разумеется, благими намерениями. Ну, или сделать так, чтобы он принёс её сам к ногам какого-нибудь очередного "Великого инквизитора".
Спасибо за рецензию, Ника! ) Отличная картинка к рассказу. А в её центре, наверное, что-то типа глаза Старшего Брата, следящего за каждым идеально соответствующим "счастливчиком" круглосуточно.)
Это точно! Претензия на идеальность, как правило, настораживает)
Да. И эта кажущаяся добровольность, когда человек вроде сам соглашается отказаться от выбора и связанной с ним ответственности, добавляет мрачных оттенков... По ассоциации вспомнила классическую тему, когда (будущий) тиран делает так, чтобы его уговаривали взять власть в свои руки. В качестве примера на ум приходит шекспировский "Ричард III"...
Спасибо тебе, что заглянула на огонёк, Людмила!)
Ты абсолютно правильно угадала!)
Чем-то напомнило сериал "Черное зеркало"... когда там пару за тебя выбирали... вообще... думаю, Обломову бы понравилась такая Тилли)
Я до этого сериала так и не дошла, хотя много о нём слышала)
Про Обломова - в точку) Думаю, сегодня тоже хватает таких типажей, кого бы Тилли вполне устроила) И ответственность за решения можно на неё переложить...
Он - местами затянут и повторяется... но, были хорошие...
там же, разные истории... первая конечно - самая шоковая...
Это точно)
Да? Тогда, возможно, посмотрю первую историю... в последнее время мало что смотрю, то и дело что-то оказывается более приоритетным, чем фильмы и сериалы. Но мысленно заношу в планы))
Планы это хорошо)
Я с детства больше доверяю Билли, Вилли и Дилли.
Спасибо за рецензию, Ника.
Ты уже достаточно меня знаешь, чтобы я мог не говорить, что я против того, чтобы ИИ за меня все решал :)
Это которые утята? :) У них там, кажется, был ещё дядюшка с говорящей фамилией Скрудж))
Спасибо за отклик, Женя)
Думаю, ты догадываешься, что я с тобой солидарна в вопросе ИИ и принятия ответственных решений. Хотя в моём случае соблазн, не скрою, иногда присутствует)