ФИЛОСОФИЯ: ТЕХНОЛОГИИ МЫШЛЕНИЯ Л.9. Моральные дилеммы цифровой эпохи ИВАНОВ

философии: аудитории 601 и 603б корпуса 11 (Ленина, 23)

— философская дисциплина, предметами исследования которой являются нравственность и мораль
Мора́ль

(лат. moralitas, термин введён Цицероном от лат. mores «общепринятые традиции») — принятые в обществе представления о хорошем и плохом, правильном и неправильном, добре и зле, а также совокупность норм поведения, вытекающих из этих представлений.

Нравственность - термин, чаще всего употребляющийся в речи и литературе как синоним морали, иногда — этики. В ряде философских систем понятие нравственности обособляется от морали.

Нравственность — это внутренняя система регуляции человеческого поведения на основании должного.

Мораль — это внешняя система регуляции человеческого поведения на основании должного.

Один из вариантов соотнесения «морали» и «нравственности»

этос (ethos), означавшего в далекие времена местопребывание — человеческое жилище,

звериное логово, птичье гнездо. В этом значении оно употреблялось еще Гомером. Оно имело также другой смысл, ставший со временем превалирующим — устойчивая природа какого-либо явления, в том числе характер, внутренний нрав живых существ. В данном значении оно широко используется в философии. Эмпедокл говорит об этосе первоэлементов. Гераклит говорит об этосе человека, имея в виду то, что на русский язык переводится словами «образ жизни», «характер»: «Характер человека есть его демон». Вместе с новым значением слово «этос» приобретает нормативный оттенок, обозначая такую устойчивую природу явления, которая вместе с тем выступает в качестве образца.

Смещение и углубление значения слова «этос» (от местопребывания к характеру, устойчивой природе) является многозначительным: здесь можно усмотреть зависимость характера, устойчивой природы человека и животных от их совместного проживания, общежития.

Аристотель, отталкиваясь от слова «этос» в значении характера, внутренней природы, нрава, образовал прилагательное «этический» или «этосный» (ethicos) — относящийся к этосу. Им он обозначил особый класс качеств, относящихся к характеру человека, описывающих его совершенное состояние — этические добродетели.Этические добродетели (мужество, умеренность, щедрость и другие) отличаются как от природных свойств человека, аффектов, так и от качеств его ума (дианоэтических добродетелей). Уже от прилагательного «этический» Аристотель пришел к существительному «этика», являющемуся, с одной стороны, обобщением соответствующего класса добродетелей, а с другой — обозначением той области знаний, которая изучает человеческие добродетели (произведения Аристотеля — «Никомахова этика», «Большая этика», «Эвдемова этика» — являются первыми научными сочинениями, предметная область которых обозначена словом «этика»).


Термин «мораль» — и по содержанию и по истории возникновения — представляет собой латинский аналог термина «этика». В латинском языке есть слово «mos» (множественное число — «mores»), соответствующее древнегреческому этосу и обозначающее нрав, обычай, моду, устойчивый порядок. На его базе Цицерон с целью обогащения латинского языка и с прямой ссылкой на опыт Аристотеля образовал прилагательное «моральный» (moralis) для обозначения этики, назвав ее philosophia moralis. Уже позднее, предположительно в IV веке, появляется слово «мораль» (moralitas), в качестве собирательной характеристики моральных проявлений. Множественное число от него — moralia — употреблялось как обозначение и моральной философии и ее предмета.

В русском языке есть самобытный термин «нравственность», являющийся в целом эквивалентом греческого слова «этика» и латинского слова «мораль». Насколько можно судить, он повторяет их историю. В русском словаре 1704 года (словарь Поликарпова) есть слово «нрав», но нет еще слов «нравственный» и «нравственность». В словаре 1780 года (словарь Нордстета) есть уже слово «нравственный», но нет слова «нравственность». И только в словаре 1793 года (академический словарь) в добавление к двум вышеназванным появляется слово «нравственность». Многие европейские языки (английский, итальянский, французский и др.) для описания интересующего нас предмета обходятся двумя словами: этика и мораль. В немецком языке, как и в русском, существует еще и третье слово: нравственность. Интересно заметить: немецкий термин (Sittlichkeit), также воспроизводит историю и логику своих иноязычных и более древних эквивалентов. Согласно толковому словарю братьев Гримм, в XIII веке существовало слово «нрав» (Sitte), в XIV веке появляется слово «нравственный» (sittlich) и только в XVI веке возникает существительное «нравственность» (Sitllichkeit), обобщающее определенную реальность внутренней жизни человека и его отношений с другими людьми.

https://fil.wikireading.ru/11344

Фуко называл «стилями жизни», есть определенная эстетика жизни, о которой

вы и напоминаете: жизнь как произведение искусства. Но есть ведь и этика!

— Да, формирование модусов существования или стилей жизни не является только эстетическим, это Фуко и имел в виду, говоря об этике и противопоставляя ее морали. Различие в следующем: мораль представляется набором обязательных правил особого типа, которые предназначены для суждений о действиях и намерениях на основе сопоставления их с трансцендентными ценностями (это хорошо, это плохо...); этика является набором факультативных правил, которые оценивают то, что мы делаем, что говорим, по образцу того модуса существования, который здесь подразумевается. Говорят одно, делают другое: какой модус существования при этом имеется в виду? Есть вещи, сделать которые или даже сказать можно только в силу низости души, озлобленности против жизни или мстительности. Иногда бывает достаточно одного жеста или слова. Эти стили жизни, всегда предполагаемые, формируют нас такими или иными.

(Жиль Делез «Жизнь как произведение искусства»)

б) общественные отношения;
в) Бог.

Источник морали – в ней самой.
Автономия, самозаконность
морали

делают ее независимой
от внешних принципов

определенно считает что может, ведь
наблюдения за приматами показывают наличие

у них
сложного социального поведения, включающего в
себя действия по сохранению группы. Мораль
эволюционно обусловлена.

«Мы — млекопитающие, то есть животные, отмеченные чувствительностью к эмоциям друг друга»

Знаменитый эксперимент с «огурцом» и «виноградом»,
к примеру, показывает «чувство социальной справедливости».
https://www.youtube.com/watch?v=lVlp7ezvL_M

«Нравственный закон не насаждается сверху и не выводится из разумных логических принципов; скорее можно сказать, что он вырастает из прочно укоренившихся ценностей, зародившихся еще в начале времен. Самый фундаментальный из них — эволюционное преимущество жизни в группе. Желание принадлежать к общности, быть вместе, любить и быть любимым заставляет нас делать все возможное, лишь бы сохранить хорошие отношения с теми, от кого мы зависим».

ОБРАЗЦОМ?
1. «Природа» в целом ускользает. «Биоэтика без Природы» актуальнее и

честнее
чем мышление в духе «Платоновской пещеры», которое тотализирует и политизирует
известные нам аспекты природного. Как Природа может быть образцом, если мы не
знаем, что она есть? «Слава богу Природа умрет» (Латур)

2. У нас уже есть печальный опыт абсолютизации известных нам аспектов природного
и превращения их в этический и политический образец. Социал-дарвинизм, евгеника,
расовые чистки, «милосердная» эвтаназия, etc.

3. Но это не значит, что природное не может быть вовлечено в моральное, может, но
иным способом. «Ктулуцен» Донны Харауэй как раз об этом. Сотрудничество и
«симпойэзис».

Мораль является надстроечной подсистемой в системе ОЭФ. Мораль выражает доминирующий

в обществе способ производства, отраженный в имущественном расслоении и классовом антагонизме и закрепленный в политике, праве, религии, образовании, культуре. Мораль всегда имеет классовый характер.

норм и легитимных политических институтов является социальный контракт — взаимовыгодное

соглашение рационально оценивающих выгоды и риски, заинтересованных в достижении максимального результата в своей деятельности индивидов.

Предполагается, что именно рациональная оценка наилучшей стратегии достижения максимальной пользы заставит их действовать морально и соглашаться с государственной властью.

Источником современного контрактарианизма выступают теории общественного договора Т.Гоббса, Дж.Локка и Ж.-Ж.Руссо, хотя теорию взаимовыгодного
договора озвучивал еще Платон. В современном мире наиболее актуальна теория Джона Ролза.

регулироваться общественной концепцией справедливости, которой будут соответствовать (и пониматься как

соответствующие) основные институты общества;
в. характеризоваться тем, что каждый будет придерживаться одинаковых принципов справедливости;
г. стабильным.

Предположим, что группа рациональных и нацеленных на успех индивидов должна построить некое общество, каждому в котором должно найтись устраивающее его место.







Это общество должно быть:

прочих вещей, они не будут знать своего:




а. места в обществе;

б. классового или социального статуса;
в. природной одаренности, такой как ум или сила;
г. личного понимания добра;
д. личной психологии (например, отвращения к риску);
е. поколения, к которому они принадлежат в обществе.





А какие принципы выберете вы, если «вступая в игру»,
вы знаете, что можете получить как наилучшие карты, так и средние,
так и наихудшие?

выбор в соответствии с правилом максимина: предпочитать такую альтернативу, наихудшее

возможное последствие которой лучше наихудшего возможного последствия любой другой альтернативы. Соответственно, они выбрали бы два принципа:

1. каждый индивид должен обладать равным правом в отношении общей системы равных основных свобод, соотносимой со свободой всех;
2. социальные и экономические неравенства должны быть устроены так, чтобы: а) от них можно было бы разумно ожидать преимуществ для всех и б) доступ к положениям и должностям был бы открыт для всех.

4. При этих условиях, выбор принципов станет примером чисто процедурной справедливости, утверждающей, что если процедура совершенно справедлива, то и ее результат (например, распределение выгод) справедлив.

которой мне до сих пор приходилось встречаться, автор в течение

некоторого времени рассуждает обычным образом, устанавливает существование Бога или излагает свои наблюдения относительно дел человеческих; и вдруг я, к своему удивлению, нахожу, что вместо обычной связки, употребляемой в предложениях, а именно «есть» или «не есть», не встречаю ни одного предложения, в котором не было бы в качестве связки «должно» или «не должно». Подмена эта происходит незаметно, но тем не менее она в высшей степени важна. Раз это «должно» или «не должно» выражает некоторое новое отношение или утверждение, последнее необходимо следует принять во внимание и объяснить, и в то же время должно быть указано основание того что кажется совсем непонятным, а именно того, каким образом это новое отношение может быть дедукцией из других, совершенно отличных от него.

«Гильотина» Юма

Принцип Юма запрещает
переходить от суждений
о фактах к суждениям
о ценностях. Из того, что
установлен некий факт,
не следует того, что кто-то
«должен» что либо
в отношении этого факта.

Но даже если мораль можно проследить до ее
биологической или социальной основы теоретически,
разве практически это нас к чему то обязывает?

Пусть обезьяны умеют сострадать — но следует
ли из этого, что я должен быть сострадательным?

Пусть был «социальный контракт» - следует ли из
этого, что я должен ему следовать?

к
природному и социальному. Свободна только автономная моральная воля.
Царство Необходимости
Человек
Царство Свободы
Мы

зависимы в той мере,
в какой мы части физической,
биологической,
социальной реальностей.

В этом смысле мы такие же
„объекты“ мира как камни,
деревья, социальные
животные.

Мы свободны в той мере, в
какой способны на моральные
поступки. Нравственность
требует от нас поступать
„как должно“ вне зависимости
от условий объективного мира.

Бытие человека в мире конфликтно, так как
есть противоречие между требованиями мира
и требованиями совести

укради», «не лги» и т. п.
невозможно вывести из природной или

социальной необходимости или
целесообразности. Мораль никому и ничему не служит, но служение моральному
долгу освобождает и придает человеку достоинство.

2. Мораль безусловна. «Не лги» - означает «не лги никому и никогда». «Ложь во
спасение» - идея, противоречащая самой идее морального долга. Допустив
однажды нарушение правила, мы делаем само правило ни к чему не годным.

3. Нравственный поступок — поступок, совершенный из чувства морального
долга. Поступок хороший, но совершенный по иным мотивам — еще не
нравственный.

4. Категорический императив — безусловное моральное правило, основной
нравственный закон. Он гласит:
а) «Поступай всегда так, как бы ты хотел, чтобы все поступали всегда».
б) «Относись к другому как к цели, а не как к средству».

5. Шестое доказательство — моральные нормы избыточны по отношению к миру.
Сама их абсолютность свидетельство их «сверхъестественности». Их источником
Может быть только Бог. И мы, действуя нравственно, «по совести», действуем
так, как если бы Бог существовал.

внешне нравственный, но
совершенный из неверной мотивации, из
выгоды или страха, не

является подлинно
нравственным, а безнравственный поступок
разрушает прежде всего самого субъекта поступка

«В этическом плане в концепции добродетели подчеркивается важный аспект нравственности, а именно личностный. Этика добродетелей указывает на то, каким должен быть человек, чтобы реализовать должное и правильно себя вести». (Р.Апресян)

субъективны
и переменчивы
А последствия зависят
не только от нашей воли
Нравственен только

сам поступок

Нормативная этическая теорией, согласно которой действие должно основываться на том, является ли само действие правильным или неправильным в соответствии с рядом правил, а не на последствиях действия.

ДЕЛАЙ ЧТО ДОЛЖНО И БУДЬ ЧТО БУДЕТ

или ожидаемым), а не тем, следует ли оно за рядом

письменных указов или законов. Сами по себе поступки морально нейтральны.

Одним из примеров может быть ЛОЖЬ ПОД ПРИСЯГОЙ ради спасения жизни невинного человека, даже если ложь под присягой запрещена.

УТИЛИТАРИЗМ
СИТУАТИВНАЯ ЭТИКА
ЭТИЧЕСКИЙ ЭГОИЗМ
ЭТИЧЕСКИЙ АЛЬТРУИЗМ
ЭТИЧЕСКИЙ РАЦИОНАЛИЗМ
КОНСЕКВЕНЦИАЛИЗМ ПРАВИЛА
КОНСЕКВЕНЦИАЛИЗМ ДВУХ УРОВНЕЙ

...ET CETERA

и счастья

а кто
потеряет душу свою ради Меня, тот обретет ее;

какая польза
человеку, если он приобретет весь мир, а душе своей повредит?
или какой выкуп даст человек за душу свою?

(Матфей 16:25-26)

чтобы он стал шатким и ни на что не годным.

для него и
есть таково, пока он так считает

(Платон «Теэтет»)

и сам приходит в оцепенение. Ведь не то, что я,

путая других, сам ясно во всем разбираюсь, - нет: я и сам путаюсь и других запутываю. Так и сейчас - о том, что такое добродетель, я ничего не знаю, а ты, может быть, и знал раньше, до встречи со мной, зато теперь стал очень похож на невежду в этом деле. И все-таки я хочу вместе с тобой поразмыслить и поискать, что она такое

НОРМАТИВНАЯ МОРАЛЬ?

2. НОВЫЕ ЭТИЧЕСКИЕ ВЫЗОВЫ

как хочешь, чтобы относились к тебе».

б) «Не делайте

другим того, чего не хотите себе».

как бы ты хотел, чтобы все поступали всегда».

б) «Относись к

другому как к цели, а не как к средству».

соответствовать следующим критериям:

1) это принципы, признания которых желают все

люди постольку, поскольку они разумны;

2) это принципы, следование которым приводит к тому, что дела идут лучше;

3) это принципы, которые нельзя рационально отвергнуть.


«действие является ложным в том случае, если действия такого рода запрещаются принципом, который является оптимистическим, единственно универсально желаемым, и рационально неотвергаемым»

идеологии в связи с развитием технологий.

а) три проблемы гуманизма (Ю.Н.Харари)
б) проблема делегирования морального поведения (вагонеткология)
в) размытость «субъектности». Кто Актор? Кто «моральный субъект»?
г) появление новых этических систем («Датаизм»)

2. Изменение форм и принципов сетевого поведения (Интернет — зона свободы или зона контроля?) Актуален ли еще «Киберманифест?» Что хуже:
свободный тролль или тролль на службе власти?

3. Совмещение экологической и технологической проблематики. «Выравнивание зловещей долины» (Тим Мортон)

4. Моральные аспекты взаимоотношений человека с машинами («А почему бы не вступить в брак с роботом?»)

результате чего политико-
экономическая система перестанет их высоко ценить.

2. Система будет

продолжать ценить людей всех вместе, их совокупность, но не уникальных индивидов.

3. Система будет по-прежнему высоко ценить
отдельных индивидов — но это будет новая элита
усовершенствованных сверхлюдей, а не представители
масс.

Homo Deus. Краткая история будущего

Проблема «делегирования»

мыслью, — не что иное, как самообман. Сегодняшний научный ответ на

эту пустую мечту может быть сведен к трем простым положениям:

1. Организмы суть алгоритмы. Каждое животное, включая Homo Sapiens, — это собрание органических алгоритмов, сформированных естественным отбором за миллионы лет эволюции.

2. Алгоритмические вычисления не зависят от материалов, из которых сделан калькулятор. На каких бы счетах вы ни считали — деревянных, железных или пластмассовых, — если к двум прибавить еще два, получится четыре.

3. Следовательно, нет оснований полагать, что алгоритмы органические могут что-то такое, чего неорганические алгоритмы никогда не смогут повторить или превзойти. Если вычисления правильны, то какая разница, где работают алгоритмы — в углеродной или кремниевой среде?

В XXI веке мы можем стать свидетелями появления многомиллионного неработающего класса: людей, лишенных какой бы то ни было экономической, политической и даже культурной ценности, никак не содействующих процветанию, силе и славе общества. Этот «бесполезный класс» будет не просто неработающим — он будет неработоспособным.

вероятности, вычислил, что в США в зоне высокого риска находится

47 процентов профессий. Например, существует 99-процентная вероятность, что к 2033 году свои места алгоритмам уступят специалисты по телефонному маркетингу и страховые агенты, с 98-процентной вероятностью та же участь постигнет спортивных рефери, с 97-процентной — кассиров, с 96-процентной — шеф-поваров. Вероятность, с которой потеряют работу официанты, составляет 94 процента. Секретари юридических контор — 94 процента. Экскурсоводы — 91 процент. Пекари — 89 процентов. Водители автобусов — 89 процентов. Строительные рабочие — 88 процентов. Ветеринарные фельдшеры — 86 процентов. Охранники — 84 процента. Моряки — 83 процента. Бармены — 77 процентов. Архивариусы — 76 процентов. Плотники — 72 процента. Спасатели на воде — 67 процентов. И так далее, и так далее, и так далее...

Существует, безусловно, некоторое число надежных специальностей. Вероятность, что к 2033 году компьютерные алгоритмы вытеснят археологов, составляет всего 0,7 процента.

разитием технологий
мониторинга человеческих состояний есть опасность перепоручить «умным
советникам» необходимость

делать выбор. Субъектом морального поступка
считался человек, обладающий самосознанием, способный заботиться о себе и
других. Условием этой заботы считалось самопознание.

….теоретически внешний алгоритм вполне способен познать меня лучше, чем я сам когда-либо познаю себя. Алгоритм, который мониторил бы каждую из систем, образующих мое тело и мозг, мог бы точно знать, кто я такой, как себя чувствую и чего хочу. Будучи
создан, такой алгоритм заменит избирателя, потребителя и зрителя. Тогда алгоритму будет виднее, алгоритм будет всегда прав и красота будет в алгоритмических расчетах.

ПОЗНАЙ САМОГО СЕБЯ!

НЕТ СМЫСЛА, ВЕДЬ:

выбора уже вполне актуален. Развитие технологий беспилотных машин
ставит вопрос о

том, как «передать» им нашу способность делать моральный выбор
в сложной ситуации. Каким моральным правилом должна руководствоваться машина?
Она должна быть Кантианской или Бентамовской? Деонтология или Консеквенциализм?

Деонтология:
Азимовские правила робототехники:

1) Робот не может причинить вред человеку
или своим бездействием допустить,
чтобы человеку был причинён вред.
2) Робот должен повиноваться всем приказам,
которые даёт человек, кроме тех случаев,
когда эти приказы противоречат Первому Закону.
3) Робот должен заботиться о своей безопасности
в той мере, в которой это не противоречит
Первому или Второму Законам.

Но что если нужно делать выбор
и расчитывать риски? Вред одному
или другому человеку? Взрослому
или ребенку? Одному или группе?
В этих условиях становится актуальной
проблема «вагонетки».

философом Филиппой Фут.
Как решается вопрос с точки зрения деонтологии

Канта? Утилитаризма?

– меняется представление о собственном социальном облике, респектабельности, личной жизни.
ИНТЕРНЕТ

— СФЕРА СВОБОДЫ ИЛИ СФЕРА КОНТРОЛЯ?

Джон Барлоу (1947-1918)

.

Правительства Индустриального мира, вы – утомленные гиганты из плоти и стали; моя же Родина Киберпространство, новый дом Сознания. От имени будущего я прошу вас, у которых все в прошлом, оставьте нас в покое. Вы лишние среди нас. Вы не обладаете верховной властью там, где мы собрались.

Я заявляю, что глобальное общественное пространство, которое мы строим, по природе своей независимо от тираний, которые вы стремитесь нам навязать. Вы не имеете ни морального права властвовать над нами, ни методов принуждения, которые действительно могли бы нас устрашить.

Киберпространство лежит вне ваших границ. Не думайте, что вы можете построить его, как если бы оно было объектом государственного строительства. Вы не способны на это. Киберпространство является делом естества и растет само посредством наших совокупных действий.

Манифест
независимости
киберпространства
(1996г.)

контроль.
1) Деанонимизация; 2) Поисковые алгоритмы; 3) Манипулирование мнением;
4) Упорядочивание

процессо самоорганизации

А интернет-гиганты, по сути, отняли у людей право на самоорганизацию — она происходит только в пределах тех инструментов, которые дают «Твиттер», «Инстаграм» или «Фейсбук». В этом смысле пользователи — заложники этой системы. Она производит те правила, которые ей удобны, и которые с одной стороны упираются в текущую повестку, с другой — стоят на понятной логике цифрового тоталитаризма. Раз вы все граждане «Фейсбука» — играйте по правилам, которые мы создаем сами и с которыми ничего не сделать. Вы можете не согласиться и выпилиться из ФБ, но мы все понимаем, что для многих людей это будет равносильно самоубийству. (Оксана Мороз)

«Брак роботов и закон» Марк Голдфедер и Йосеф Разин обсуждают

три пороговых требования к браку - требования, которым должны будут соответствовать роботы, чтобы браки между человеком и роботом соответствовали легализованному статусу.
Этими требования являются: согласие, понимание и способность принимать решения.

Как полагает профессор Гэри Марчант, «брак между роботом и человеком не связан с правами робота. Речь идет о праве человека выбирать жениться на роботе».