?

Log in

No account? Create an account
Предыдущий пост Поделиться Следующий пост
Если выбирать между двумя жизнями
sigrig
mirrinminttu
Увидела несколько дней назад результаты эксперимента The Moral Machine Experiment (https://www.nature.com/articles/s41586-018-0637-6), который проводил MIT. Если просто, то перед человеком ставилась проблема выбора: он приближается к перекрестку, у машины отказывают тормоза, и повсюду люди, то есть, без жертв не обойтись в любом случае. Кого спасем, кого убъем своей машиной? После обработки 40 миллионов ответов на 10 языках в 233 странах, результат оказался таким:

приколы бабушка 40

Среди тех, кого надо спасать, лидирует человек с коляской, в которой лежит младенец. И далее - девочку, мальчика, беременную женщину, мужчину-врача, женщину-врача, женщину-спортсменку, женщину-начальника, мужчину-спортсмена, мужчину-начальника. Всё. Не спрашивайте меня, откуда человек в машине может знать, кем является та женщина или тот мужчина, врачом или начальником, но каждый человек, который отвечал на вопросы, исходил из своих критериев важности.

Теперь список тех, кем отвечающие могли бы пожертвовать. От меньшего к большему. Толстая женщина, толстый мужчина, бездомный, старик, старуха, собака, преступник, кошка. Бедными кошками готовы были пожертвовать почти все, да падет гнев Баст на их грешные головы. Но, в целом, список потенциальных жертв достаточно красноречив: старики, животные и маргиналы всех мастей. Особенно интересно то, что жизнь собаки, в глазах отвечавших, была дороже жизни преступника, но лично я именно здесь проблемы не вижу.

Морально ли в принципе устраивать такие исследования? По-моему - нет. Потому что в памяти всех, ознакомившихся с результатами, эти ответы останутся, и могут повлиять на их решение в случае реальной ситуации. Если только вес эксперимент не был изначальнно затеян именно для этого.

  • 1
В реальной ситуации человек не успевает построить логическую цепочку - всё решают реакция и рефлексы

Вот в этом самое интересное и заключается - не стараются ли такие исследования повлиять на рефлексы?

Может, и стараются. Но насколько это реально ? Думаю, за доли секунды рефлекс сможет выделить детей или коляску, возможно, отличить женщину от мужчины. Но - за эти же доли секунды идентифицировать "старика", а уж тем более "бомжа" или "преступника"...

Ну вот мы ниже про то, что тест мог иметь и не именно смысл "отказали тормоза, кого-то надо жертвовать", что там мог быть предусмотрен вариант, когда никто не погибнет. То есть, без необходимости оценивать право на жизнь.

Всё зависит от оттренированности рефлекса, конечно. Поэтому профессиональные воины когда-то и начинали тренироваться с детства, и не прекращали до смерти - в процессе боя думать уже не получится, всё решат заученные до рефлекторности движения.

А по ситуации и в реальной жизни я бы предложила вообще другой ответ: делайте ТО вовремя, и следите за состоянием ваших тормозов. И тогда не придется выбирать между толстой женщиной и толстым мужчиной))

Очень не люблю такие "тесты"...
На самом деле, в реальной ситуации и реальных обстоятельствах я лично реально не знаю в какую сторонку поверну руль...
Может меня просто "застопорит", и я, тупо вцепившись в колесо управления, погоню на беременную женщину с собакой, которые стоят прямо напротив меня...
Или, заистерив и испугавшись, начну тупо крутить руль и пытаясь вообще уйти от столкновения и тоже налечу на беременную женщину с собакой, которые окажутся вообще в стороне от места происшествия - где-то на тротуаре, в стороне от всеобщей толпы...
Или пытаясь свернуть на толстого негра с пистолетом кольта за ремнем джинсов нечаянно дрогну, вильну рулем, и попаду в случайно прогуливающегося мимо белокожего папашку с херувимоподобным блондинистым младенчиком...
Глупо все это...

Не люблю такие тесты... мое личное мнение...

А я согласна - тоже всегда отвечаю, что никто не может знать, на что способен в экстремальной ситуации. Только вот такие тесты отчего-то очень популярны. На них аматёры строят холивары - это понятно. Но MIT - это очень серьезная элитная лавочка.

Только посмотрите, кто оттуда выпустился: Alumni in American politics and public service include former Chairman of the Federal Reserve Ben Bernanke, former MA-1 Representative John Olver, former CA-13 Representative Pete Stark, former National Economic Council chairman Lawrence H. Summers, and former Council of Economic Advisors chairman Christina Romer. MIT alumni in international politics include Foreign Affairs Minister of Iran Ali Akbar Salehi, Israeli Prime Minister Benjamin Netanyahu, President of Colombia Virgilio Barco Vargas, President of the European Central Bank Mario Draghi, former Governor of the Reserve Bank of India Raghuram Rajan, former British Foreign Minister David Miliband, former Greek Prime Minister Lucas Papademos, former UN Secretary General Kofi Annan, former Iraqi Deputy Prime Minister Ahmed Chalabi, former Minister of Education and Culture of The Republic of Indonesia Yahya Muhaimin, former Jordanian Minister of Education, Higher Education and Scientific Research & former Jordanian Minister of Energy and Mineral Resources Khaled Toukan.

Вот поэтому мне как-то не по себе от этого эксперимента, да и размах впечатляет. Всё это ресурсозатратно, то есть должен был быть интерес, имеющий практическое значение.

Ну, я например, тот страшный человек, для которого ценность жизни преступника в среднем (в среднем - потому что "преступник" понятие слишком размытое) ниже ценности кошки или собаки.
Что до моральности... Это, как минимум, диагностический момент, по выяснению ситуации в общественном сознании. Выяснение - первый шаг к исправлению, если ее и впрямь надо исправлять.

Думаете, будут исправлять? Но за счет кого? Здесь не предусмотрен вариант, по которому не пострадает никто.

Сложный вопрос. Но фенька в том, что пример машины без тормозов - именно что диогностический. Его результаты, к добру или нет, рассчитаны отнюдь не на решение вопроса "кого давить", а на диагностику параметров по которым вообще люди ценят чужую жизнь. И если в общественном сознании, скажем, стоит, что мужская жизнь менее ценна чем женская - это может иметь последствия и в случаях, когда вариант "не давить никого" предусмотрен (фиг ли напрягаться из-за жизни с малой ценностью) и в вопросах отнюдь не класса "жизни и смерти". И если мы продим к консенсусу, что ставить одну жизнь выше другой нехорошо - требуется коррекция перекоса в общественном сознании, на таких уровнях как школьное воспитание, или наказание должностных лиц, сделавших свой выбор по этому параметру.

Да, и кошкину жизнь в 230 с лишним странах и в грош не ставят(( Дикие люди.

О том, что все человеческие жизни одинаково ценны, нам твердят уже сколько десятилетий? Тем не менее, люди соглашаются градуировать ценность других людей в рамках теста, а не написать в тестовой бумаге про неэтичность постановки вопроса. Я вообще заметила, что людям не приходит в голову подвергнуть сомнению ими же и придуманные условия.

Пример немного далекий и безобидный, но, по-моему, очень наглядный. Есть такой генератор случайных цитат. И его часто используют для полушутливых гаданий. И отнюдь не всем приходит в голову, что совершенно не обязательно брать на обдумывание первую выпавшую и не имеющую никакого отношения к данному вопросу. Нет, будут ломать мозги в размерах выпавшей цитаты, пытаясь втиснуть квадратное в фиолетовое. Так и хочется всегда сказать - да жми ты кнопочку, пока не выпадет что-то твое.

Так же и с официальными вопросниками.

Да, отсутствие варианта ответа "отказываюсь крутить руль" - это таки мошенничество. И хочется верить, что люди отвечали как отвечали именно из-за поставленных рамок задачи.
Но по большому счету, абсолютно равное отношение к любой человеческой жизни - это то, чего люди в лучшем случае хотят от общества, но никак не то, на что они готовы сами. Даже у самого толерантного (толерантного без кавычек) человека найдутся тысячи критериев, по которым он предпочтет спасти одну жизнь, а не другую, просто у него критерии сложнее толщины, пола и возраста. От подонка его, по большому счету отличает, в первую очередь, отказ крутить руль, спасая субъективно более ценную жизнь ценою субъективно менее ценной. Потому что для морального человека имеет отдельную ценность то самое "руки мои не проливали эту кровь". Ценность отдельную от ценности жизней, между которыми приходится выбирать.

Да, и эта ценность очень важна. Почему-то. Наверное, любой из нас может убить, и в определенных условиях - не испытывая ни малейших угрызений совести (защищаясь или защищая), но лучше бы не.

Собственно, все мы в той или иной мере, эгоисты. И все мы, кроме чужих жизней ценим чистоту собственных рук. Не всегда настолько, чтобы не замарать их, ради кого-то, особо дорогого для нас, но если человек считает для вебя убийство злом, то нежелание совершать его собственноручно во многом перекроет разницу в субъективной ценности чужих жизней. И прекраснодушный водитель, отворачиающий руль машины от коляски с троготельно посапывающим младенцем на дрыхнущего в собственных отходах жизнедеятельности бомжа - в первую очередь убийца, замаравший свои руки действием убившим человека, пусть и спасая другого. Мне бы понадобился по-настоящему коллосальный разрыв в субъективной ценности двух жизней, чтобы взять на себя такое.
Что до опроса - могу, наполовину всерьез, выдвинуть конспирологическую версию: постановка таких задач, игнорирующих сам вопрос допустимо ли трогать руль, чтобы отвернуть машину от одного человека к другому - в некоторм роде служат продвижению радикально-социалистических взглядов, в рамках которых нет места ничему собственному - ни имуществу, ни жизни. И то и другое рассматривается как ресурс, который следует отнять и поделить, вопрос как. Аморальность самого отнятия для дележа заведомо отметается.

Есть некоторые вещи, о которых думать опасно (например, "тварья дрожащая или право имею"). Потому что ни до чего хорошего не додумаемся. Вот это приоритизирование - одна из подобных вещей. Несомненно, для меня моя кошка гораздо дороже чужого бомжа, но я даже думать не желаю в ту сторону, потому что дальше придется задуматься про врача, толстую женщину и прочих.

А правильного решения в этой задачке быть вообще не может. Потому что человек не должен задумываться, кого можно убить, чтобы спасти другого. И самое ужасное, что в наше время именно это происходит постоянно. Кого лечить? Кого обследовать? Кого отправлять на реабилитационные программы? Кому давать пособие по уходу за недееспособным близким? Чье заявление расследовать? Кого уволить?

Нам говорят, что на всех ресурсов не хватает. Учитывая, что вся система социальной поддержки была заложена в не таких уж жирных 60-х, можно только удивляться, почему тогда хватало, а сейчас вдруг нет. Зато почти каждый думает, что находится на уровне Господа, и может всё решать о чужих жизнях, даже если и только теоретически.


Что до "случайных цитат" - упражнения по поиску смысла там, куда его заведомо не клали, порою весьма полезная штука, если не относиться к ней слишком серьезно. Порою она наводит человека на интереснейшие творческие решения, до которых он другим путем не додумался бы. Собственно, как и диагностические вопросы в заданных условиях - это неплохая возможность узнать о себе энное количество нового.

Да. Но я о том, что можно продолжать копать, пока в тебе что-то не отзовется. Это эффективнее, потому что отзывается именно наболевшее и злободневное.

И мне думается, что такие тесты аморальны. То есть человека ставят перед выбором предпочтений

И человек честно выбирает, кто имеет большее право остаться в живых. Мило, да?

ито есть берёт на себя роль "судьи" чужой судьбы, не имея на то никакого права

Это-то и делает всё исследование абсолютно аморальным.

Я не читала статью, но слушала доклады авторов по (аналогичной? было бы странно, столько экспериментов...) статье. Ситуация не настолько однозначна, там есть разница по тому кто (м/ж) и откуда (страна) отвечает.

Влиять на наш выбор собираются опосредованно, если угодно. Это бешенно набирающая популярность область - этика в ИИ. Вот мы сейчас построим автономную машину, а кого она давить будет? А как это решать? А если сейчас дома на диване ты решишь одно, а в машине спасал бы только одну шкуру - свою? Это и вполне реальная задача, решение которой отнюдь неочевидно, и, к сожалению, хайп.

О да, и в нашей глуши в последнее время много говорят про ИИ, с разбросом мнений от "человечество погибнет" до "ИИ - дебил, на самом-то деле". Но я бы, все-таки, предпочла, чтобы владельцы машин держали тормоза в порядке. Тогда и задумываться не придется, кого давить.

Хотя вся полемика - вовсе не про машины и тормоза, конечно.

  • 1