Душевное Здоровье и Задача Согласования: Компиляция Ресурсов

Перевод поста Криса Скаммелла. Большая часть ссылок ведут на англоязычные тексты, но я подумал, что хотя бы такой путеводитель на русском может быть полезным — одним барьером меньше. Ссылки, ведущие на переведённые тексты, выделены зелёным. (Оригинал)

***

Это пост о душевном здоровье и ментальном расположении в контексте задачи согласования. В нём собрано некоторое количество ресурсов, рассматривающих, как сохранять благополучие и направленность, сталкиваясь с экзистенциальным риском. Целевая аудитория – все, обеспокоенные согласованием, но основная цель этого поста – быть полезным для новоознакомившихся с этими идеями. У меня есть ощущение, что большинство людей, уже долгое время знакомых с задачей согласования, уже нашли свои собственные стратегии стойкости.

Многие в этом сообществе уже запостили схожие идеи после поста Юдковского «Смерть с Достоинством», вызвавшего много обсуждений этой темы. Этот пост касается больше эмоциональной стороны вопроса, а не сроков и вероятности успеха.

Буду рад предложениям от сообщества пополнения раздела с ресурсами. Пожалуйста, предлагайте любые ресурсы, которые вы хотели бы видеть добавленными в этот пост, и я обновлю его.

Пожалуйста, имейте в виду, что этот документ ни в коем случае не предполагается заменителем профессиональной медицинской или психологической помощи. Многие заранее имевшиеся состояния здоровья могут обостриться в результате этих обсуждений. Если вы обеспокоены, что у вас может быть кризис ментального здоровья, пожалуйста, проконсультируйтесь со специалистом.

Введение

Нет единственно верного способа эмоционально реагировать на реальность приближающегося суперинтеллектуального ИИ и нашу коллективную ответственность согласовать его с нашими ценностями.

В некоторые дни я легко вдохновляюсь сложностью задачи согласования, и моя жизнь в эти дни ощущается более насыщенной, осмысленной и заряженной от этого знания.

В другие дни я вижу всю эту затею ужасающей и мрачной, и ощущаю себя запертым, приговорённым к до невозможности жестокой судьбе. 

В ещё некоторые дни я не ощущаю размах ставок, и, хоть и могу признать существование задачи согласования, но теряю с ней контакт своим телом и эмоциями.

Я стараюсь не выносить суждений о том, как моя чувствительность или уязвимость меняются ото дня ко дню. Но я вижу, что моё расположение имеет значение. Оно несёт последствия для моей мотивации и действий, и оформляет то, как я воспринимаю и интерпретирую мир. И я вижу, что получение знаний о согласовании произвело фундаментальный сдвиг в моём расположении; я теперь по другому взаимодействую с миром. Эмоции, которые мне нужно обрабатывать (долг? рвение? ужас? трепет?), по меньшей мере, стали сложнее.

Я представляю, что что-то похожее происходит у многих из вас, и будет происходить у ещё многих, когда они будут узнавать о задаче согласования и том факте, что мы можем с ней не справиться^[1]. Я хочу увериться, что, когда это будет происходить, у нас будут инструменты и ресурсы, чтобы быть в порядке. Расшифровка «быть в порядке» – ваше решение. Это может быть перефразировано как «как я могу процветать вопреки задаче согласования», «как я могу справляться с задачей согласования», «как я могу преодолеть свой страх перед задачей согласования», и т.д. Каждому нужно найти свой собственный вопрос и свой собственный ответ.

В своей основе «быть в порядке» – решение жить, встречая реальность и задачу согласования лицом, с нетронутыми внутренней стабильностью и рациональностью. И как к высшему идеалу мы стремимся к некоторому уровню нерушимости, безусловного благополучия. Такого благополучия, который удерживает «порядок» даже если возможность решения согласования падает до нуля.

Обучаясь этому, мы также получаем способность быть более поддерживающими и сочувствующими по отношению к другим. Бывало, что я обнаруживал себя огорчённым чьей-то неспособностью ухватить задачу согласования так же, как я, а бывало, что я ощущал почти злорадное «я же тебе говорил», когда кто-то, с кем я раньше говорил про согласование, говорил «теперь я понял, и я испуган». Мы можем делать больше добра миру и друг другу, когда мы исходим из сочувствия, понимая чувствительность каждого нового разума, распознающего задачу согласования как она есть. Заполучить способность находиться в состоянии позитивного ментального здоровья и стабильности, сталкиваясь с задачей согласования напрямую может быть сложно. Это дар, если мы можем сделать это для себя, и ещё больший дар, если мы можем поделиться ею с другими.

К счастью, мы не обязаны делать это в одиночестве, и это сообщество – хорошее место, чтобы начать. Много его членов уже нашли путь для себя, своей работы и своей жизни относительно задачи согласования, и описали это в постах, из которых мы можем черпать вдохновение. 

Ресурсы

Ниже я перечислю много обнаруженных мной ресурсов по этой теме, кратко опишу их и разобью на категории для простоты доступа. Я попытался собрать вместе ресурсы, говорящие что-то особое о ментальном здоровье в затруднительных обстоятельствах вроде согласования. 

Однако, сложно было найти посты, напрямую относящиеся к этому, так как большинство связанного с согласованием контента (и это хорошо) сосредоточено на объектном уровне, а не на производных темах вроде ментального здоровья.

Если вы знаете другие ресурсы, которые может быть полезно добавить в этот список, или хотели бы поправить неправильную характеристику уже перечисленных ресурсов, это было бы полезно. К тому же, если у вас есть своя собственная исповедь/эмоциональный подход касательно согласования, я приглашаю вас поделиться этим в комментариях.

Текст курсивом – цитаты из постов.

Позиции по поводу Согласования

Эти посты объясняют способы относиться к согласованию, которые могут помочь оформить многие аспекты наших жизней, от распределения времени и принятия решений, до того, как мы выбираем реагировать на некоторые возникающие эмоции. 

• Ruby: Краткое Руководство По Противостоянию Обречённости. Начните с этого. Этот пост в точности по этой теме, и хорошо подготавливает к чтению мнений ниже с подходящей эпистемической дистанции. 
  
  Легко услышать провозглашения [сильно уважаемых] других и/или всеобщую реакцию на них, и рефлекторно обновиться* до «А-а-а-а-а». Я не говорю, что «А-а-а-а-а» – неправильная реакция, но думаю, что для каждого конкретного человека этому должен предшествовать намеренный шаг обработки аргументов и свидетельств и составления своих собственных ожиданий… Думаю, каждый из заключивших, что P(Обречённость) высока, должен сам для себя понять, как с этим жить. Предостерегаю лишь, что какую бы стратегию вы не избрали, она должна удерживать вас в контакте с реальностью (или вашей лучшей вашей её оценкой), даже если это некомфортно.
   
• Eliezer Yudkowsky: MIRI анонсирует новую стратегию «Смерть с Достоинством». Частично шуточный, этот пост продвигает позицию, что хорошее направление для совладания с задачей согласования – предпринимать действия, приводящие к «достоинству». В сообществе было много споров и о эстетике, и о содержании этого поста, но в любом случае, в нём есть вывод, с которым, я думаю, большинство согласится: пытайтесь быть рациональными, а если не получается, разработайте хорошую деонтологическую стратегию, которая предохраняет от безответственных действий. Ниже приведены другие посты Юдковского, добавляющие детальности этому подходу, а в его цепочке Взросление согласование обсуждается в посте Вне Досягаемости Бога.
  
  Так что не вкладывайте душу во всё это «вовсе не умирать». Не вкладывайте эмоции в награду, которую вы скорее всего не получите. Сосредоточьтесь на том, чтобы умереть с достоинством – это то, что вы действительно можете заполучить даже в этой ситуации… единицы измерения достоинства определены на логарифмических шансах человечества на выживание – графике, на котором логистическая кривая успеха является прямой линией. Проект, удваивающий шансы человечества на выживание с 0% до 0% помогает человечеству погибнуть с одним дополнительным теоретико-информационным битом достоинства.
  
  Комментарии к этому посту предлагают некоторое количество иных осмысленных точек зрения, включая несогласие «Нахуй. Этот. Шум.» от AI_WAIFU.
   
• Alex Turner: Эмоциональное Совладание с Вероятно Обречённым Миром. Отвечая на пост Юдковского, Тёрнер заявляет, что нам следует отцепить свою эмоциональную реакцию от вероятности погибели, и избегать идеи того, что мы «живём в трагедии». Плывя Против Течения Тёрнера говорит о ранних решениях при столкновении с задачей согласования.
  
  Мы не живём в рассказе. Мы действительно можем просто воспринять ситуацию, а затем сделать наиболее осмысленное действие, которое сделает нас как можно более сильными и счастливыми. Ожидаемое будущее вселенной – по допущению – печальное и ужасное, но где теорема об идеальных агентах, заявляющая, что я из-за этого должен быть подавлен и угрюм? 
   
• Landfish: Не умирайте с достоинством, вместо этого играйте на ауты. Ответ на пост Юдковского. Landfish продвигает вдохновлённую MtG стратегию «игры на ауты», реагирования на будущее-с-низкими-шансами-успеха путём высматривания наперёд, какие возможности и варианты могут всё же оказаться доступными. Замечу, что есть разногласия по поводу рисков этой стратегии, и её консеквенциалистской полезности для согласования; я включаю её сюда потому, что она предлагает и эмоциональный подход.
  
  Мне игра на выходы кажется куда более мотивирующей. Этот подход не стесняется факта того, что победа маловероятна. Но предлагаемое действие – «играть», а не «умирать». И цель – «ауты», а не «достоинство». Опять же, я думаю, что разница в коннотациях, а не в реальной стратегии. 
   
• Nate Soares: О Заботе. Пост Нейта описывает некоторые его мотивации к тому, чтобы стать эффективным альтруистом и творить как можно больше добра. Хоть это и не специфично для согласования, но Нейт работает в MIRI, и его взгляды можно понимать в этом контексте как аргумент к «смелому» столкновению с задачей согласования.
  
  Человечество играет с невообразимо большими ставками. По меньшей мере, миллиарды людей страдают сегодня. В худшем случае, существование квадриллионов (или больше) потенциальных людей, транслюдей или постлюдей зависит от того, что мы делаем здесь и сейчас… Смелость не в том, чтобы быть бесстрашным, она в том, чтобы поступать правильно даже если тебе страшно. И аналогично, обращение к большим проблемам нашего времени – не про ощущение сильной тяги это сделать. Оно про то, чтобы делать это в любом случае, даже если внутренняя тяга совершенно не смогла учесть масштаб проблем, с которыми мы столкнулись.
   
• John Wentworth: МЫ РЕШИЛИ СОГЛАСОВАТЬ ИИ, и План. Вместе эти два поста обобщают эмоциональную позицию Вентворта касательно согласования и его конкретного плана работать над этой задачей. Он предлагает точку зрения, что масштаб вызова – повод для вдохновения, а не отчаяния.
  
  Когда люди впервые всерьёз задумываются о согласовании, большинству становится жутко. Экзистенциальные угрозу ужасают. И когда люди впервые всерьёз смотрят на свои собственные способности, или на способности мира, касательно это задачи, большинство приходит в отчаянье… но у кого-то, жаждущего вызова, эмоциональная реакция другая. Задача ужасает? Наши нынешние способности кажутся прискорбно неадекватными? Отлично; задача стоящая. Часть меня, которая смотрит на хлипкую лестницу на десять метров вниз в тёмный туннель и говорит «пошли!» хочет этого. Часть меня, которая смотрит на отвесную скалу без очевидного пути наверх и щёлкает костяшками, хочет этого. Часть меня, которая смотрит на задачу без явного решения и улыбается, хочет этого. Реакция – не слёзы, а «давайте, чёрт побери, сделаем это».
   
• Alex Flint: Размышления о Согласовании Обобщённых Систем. Флинт отстаивает, что мы должны воспринимать мир как «фундаментально дружественный к усилиям [по согласованию ИИ]», эта точка зрения дозволяет нам больший оптимизм, решительность и потенциально большую успешность при разговорах о проблеме с другими. 
  
  Мы не в ситуации, что наша цивилизация полностью очнулась перед опасностью продвинутого ИИ. Наша цивилизация ещё дремлет, но всё же хочет проснуться, и знает, что хочет проснуться, и нашла в себе как раз достаточно ясности, чтобы наделить нас значительным влиянием и ресурсами, в надежде, что мы примем лидерство… Наша работа- найти решимость двигаться вперёд с этой сложной задачей, не попадаясь в вредные паттерны, существующие в мире, и не теряя тонкого чувства, что все тут на нашей стороне.
   
• Richard Ngo: Моё Отношение к Смерти. Пост Нго рассматривает страх смерти и его оптимизм по поводу будущего. Он выводит стратегию «беседы» со своим страхом и его успокаивания, как метод для лучшего собирания вместе своих беспокойств.
  
  Что бы произошло, если бы я больше говорил с частью [меня], которая боится смерти, чтобы попытаться определить, откуда она берётся. По умолчанию, я ожидаю, что она будет некооперативной – она хочет продолжать бояться смерти, чтобы увериться, что я буду соответствующим образом себя вести (например, оставаться амбициозным). Могу ли я уверить её, что я всё ещё буду сильно стараться избежать смерти, если стану менее испуган? Возможный источник уверенности – если я очень воодушевлён перспективой очень долгой жизни – а я воодушевлён, потому что будущее может быть восхитительным. Другой источник берётся из альтруистичной части меня, чья первостепенная забота – увеличение вероятности, что будущее на самом деле будет восхитительным. Поскольку я убеждён, что мы в этом столетии сталкиваемся с значительным экзистенциальным риском, работа на хорошее будущее человечества сильно пересекается с работой на моё собственное хорошее будущее. Я думаю, этот приблизительный аргумент (вместе с нахождением в сообществе, поощряющем долгосрочный альтруизм) помогает мне сделать боящуюся смерти часть меня более молчаливой.
   
• Holden Karnofsky: Призыв к Бдительности. В последнем посте своей цепочки Самое Важное Столетие Карновски описывает, что его эмоциональная реакция на задачу согласования (и прочие вызовы нашего времени) состоит из сильных смешанных эмоций. Он предостерегает людей от безответственного «просто что-то сделать» и отстаивает, что люди должны оставаться внимательными и помещать себя в позиции, из которых они смогут устойчиво предпринимать хорошие действия.
  
  Сталкиваясь с гипотезой «самого важного столетия» я не проявляю хорошо знакомые отношения «воодушевлённости и активности» или «страха и избегания». Вместо этого я ощущаю странную смесь напряжения, торопливости, замешательства и нерешительности. Я смотрю на нечто большее, чем то, с чем когда-либо ожидал столкнуться, и ощущаю себя недостаточно квалифицированным и знающим, что делать дальше. Этим настроением сложно делиться и распространять его, но я пытаюсь.
   
• Пожалуйста, предлагайте дополнительные «позиции», я добавлю их сюда.
   

Ментальные Стратегии

Эти посты предоставляют руководство по стабилизации позитивных состояний, и по трансформации возникающих при столкновении с экзистенциальными рисками негативных эмоций, вроде тревожности, страха, отчаянья, апатии и депрессии. 

• Про принятие вызова: Юдковский и другие: Бросая Вызов Сложностям и Героическая Ответственность. Как продемонстрировано в «позициях» выше, многие люди считают, что лучший способ противостоять негативным эмоциям, окружающим задачу согласования – это работать над ней напрямую. Эти ресурсы агитируют за создание внутреннего стремления браться за такие серьёзные задачи, как согласование, и могут быть особенно полезны для людей, страдающих от «беспомощности», преобразовывая это ощущение в действия.
  
  « — Наверное, это можно назвать героической ответственностью, — уточнил Гарри Поттер. — Она не похожа на обычную ответственность. Ответственность героя означает: если что-то случилось — не важно что — значит, это твоя ошибка. Только твоя. Даже если ты сказал профессору МакГонагалл, за то, что произойдёт, отвечает не она, а ты. Школьные правила — не оправдание, то, что у руля кто-то другой, — не оправдание, даже то, что ты старался изо всех сил — не оправдание. Оправданий вообще не существует, ты должен сделать дело несмотря ни на что» – ГПиМРМ, глава 75.
  
  Если вы мотивированы сделать что-то в области согласования, то на эту тему есть много прагматичных постов на LW и на иных ресурсах, вроде AI Safety Support, AGI Safety Fundamentals Course, и 80,000 Hours.
   
• Про то, как преодолеть негативные эмоции: Нейт Соарес: Заменяя Вину. Эта фундаментальная цепочка помогла многим людям из сообщества LW преобразовать чувства вины, сопротивления, скорби, синдрома самозванца, и другие негативные эмоции в вдохновение. Несмотря на название, она покрывает куда больше, чем «вину», и с неё хорошо начинать любому. Отдельно хочется отметить пост Отсоедини Мрачнометр, предлагающий точку зрения, что можно продолжать быть «любопытным, игривым и расслабленным» даже напрямую смотря на экзистенциальные риски.
  
  Когда всё будет сказано и сделано, Природа не будет судить нас по нашим делам; мы будем измерены только по тому, что действительно произойдёт. Наша цель, в конце концов, увериться, что история нашей вселенной наполнена именно тем, за что мы сражаемся. По крайней мере для меня это лежащее в основе стремление заняло место вины: когда мы выучили уроки прошлого, нет причин продолжать мучать себя виной. То, что надо сделать, в каждый конкретный момент, это посмотреть на доступные нам действия, обдумать их, и предпринять то, которое, как кажется, с большей вероятностью приведёт в будущее, наполненное светом.
   
• Про принятие скорби и страха: Мне Сегодня Рационально Юдковского и Не-пропавшее Настроение Маска Люка Мюльхацузера. В контрасте с некоторыми постами выше, поощрявшими отвязывание эмоций от вероятности погибели, эти посты предлагают точку зрения, что негативные эмоции – не только естественная, но и рациональная реакция. Эти посты могут предоставить некоторое озарение тем столкнувшимся с негативными эмоциями, кто считает, что принять и работать с этими чувствами лучше, чем преобразовывать их.
  
  «Когда случается что-то ужасное, я не бегу от печали, ища ложные утешения и фальшивые плюсы. Я представляю прошлое и будущее человечества, десятки миллиардов смертей на протяжении всей истории, горе и страх, поиск ответов, дрожащие руки, тянущиеся вверх из рек крови, то, чем мы можем стать в тот день, когда звёзды станут нашими городами, вся эта тьма и весь этот свет; я знаю, что я никогда не смогу полностью это понять, и я не знаю слов, которыми можно было бы передать эти мысли. Несмотря на всю мою философию, я всё ещё смущаюсь показывать сильные эмоции, а тебе, возможно, некомфортно видеть их проявления. Но теперь я знаю, что в чувствах нет ничего иррационального.» – Мне Сегодня Рационально
   
• Про работу с синдромом самозванца: Семь лет назад Люк Мюльхаузер рекомендовал Если вы в Безопасности ИИ «скрытный читатель», то сейчас самое время показать себя. Но синдром самозванца и неуверенность в себе могут заставлять людей не высовываться. Лицензия Героя Юдковского рассказывает о его собственном опыте сомнений в ценности своей работы. Притча о Талантах Скотта Александера и Хомячье Колесо Отчаянья Николь Росс не специфичны для согласования, но предлагают некоторые советы о том, как работать с чувством неполноценности. Однако, самоуважение – более глубокая тема, чем просто синдром самозванца, и скорее всего с ним надо работать вовсе за пределами контекста продуктивности, и уж тем более согласования.
  
  «Когда кому-то грустно, потому что он не может быть великим учёным, мило быть способным указать ему на все интеллектуальные сильные стороны и сказать «Ты можешь, ты только постарайся!» Но это зачастую неправда. В этот момент надо сказать «К чёрту это!» и посоветовать перестать связывать своё самоуважение с бытием великим учёным. И лучше установить это сейчас, пока трансгуманисты не преуспели в создании суперинтеллекта, и нам всем не пришлось столкнуться с интеллектуальной неполноценностью.» – Притча о Талантах
   
• Про честность по поводу беспокойства: Обходясь без пожарной тревоги: освобождаемся от группового застревания. Этот пост в первую очередь отвечает на пост Юдковского «Для СИИ Нет Пожарной Тревоги», но предлагает полезные идеи того, как справляться с ситуациями боязни глупо выглядеть из-за излишней обеспокоенности риском ИИ. 
  
  Практикуйте озвучивание своих несколько смущающих беспокойств, чтобы другим было проще их воспринимать (а вам было проще делать то же в будущем)… Реагируйте на неправильно звучащие для вас беспокойства других с добротой и любопытством, а не со смехом. Будьте особенно аккуратны с беспокойствами о рисках в целом, чтобы сбалансировать их особый потенциал стыда. [и с людьми, поднимающими темы, которые, как вы думаете, им может быть неловко поднимать]
   
• Про преодоление избегания: Отшатывание от Правды и Сделайте свои явные рассуждения достойными доверия Анны Саламон. Иногда люди избегают мыслей о задаче согласования из-за беспокойства об ошибочных убеждениях, следовании линиям рассуждений, ведущих к соблазнительным, но неточным выводам. Посты Анны могут поддержать тех, кто не решается полностью довериться своим собственным рассуждениям, и не полагаться на позиции других.
  
  «Я не хочу думать об этом! Я могу заполучить ошибочные убеждения!» tl;dr: Многие из нас не решаются поверить явным рассуждениям, потому что мы не выработали в себе навыки, делающие такие рассуждения достойными доверия. Некоторые простые стратегии могут помочь.
   
• Про столкновение с смертью: В дополнении к Моему Отношению к Смерти Нго, на LW есть ещё некоторое количество постов про смерть, которые могут быть тут полезны. Некоторые, как Мысли о Бытие Смертным Джо Карлсмита не прот согласование, но про столкновение со смертью напрямую, тогда как другие, как Смысл, который Бессмертие Даёт Жизни затрагивают сингулярность, но больше всё же про избегание смерти. Избегание смерти – корень большей части страха и скорби, окружающих задачу согласования, так что с чистой позиции метального здоровья, может иметь смысл попробовать отделить эмоциональную реакцию на смерть от самой задачи согласования. Обнаружение способов напрямую сталкиваться со смертью может обеспечить глубокую стойкость по отношению к экзистенциальным страхам.
  
  «Иногда, в сравнительно редких случаях, когда я испытываю даже-довольно-интенсивное недомогание или боль, я… более напрямую подхожу к огромному количеству субъективных миров, наполненных непрекращающейся неизбегаемой болью. Эти проблески часто ощущаются как внезапное стряхивание какого-то затуманивания; прояснение чего-то центрально-важного о том, что на самом деле происходит в мире; и оно приходит с страхом того, насколько беспомощными мы можем стать.» — Мысли о Бытие Смертным
   
• Советы по столкновению с экзистенциальным риском из ГПиМРМ: Гарри Поттер и Методы Рационального Мышления не про согласование ИИ (Гарри сталкивается в основном с угрозами локального/планетарного масштаба, а не космологическими/гиперэкзистенциальными), но описанные эмоции и ментальные стратегии имеют прямые аналогии. История содержит глубокие исследования внутреннего опыта при столкновении с кажущимися невозможными шансами, ноши героической ответственности, сложных разменов и необходимости жертв, и мотивации к рациональным действиям и самосовершенствованию. Не исчерпывающий список глав, которые могут быть полезными (и ещё более полезными в контексте всей книги):
  
  Глава 39: смерть, мотивация трансгуманизма
  Главы 43-46: страх, смерть, мотивация трансгуманизма 
  Главы 56-58: оптимизация при маловероятных шансах, отчаянье 
  Главы 63: ноша ответственности, тоска по нормальной жизни
  Глава 75: героическая ответственность
  Главы 79-82: жертвование
  Глава 88: страх выражать панику, эффект свидетеля
  Глава 89: принятие/отвергание неприемлемой реальности
  Глава 110: вина/стыд
  Главы 111-115: оптимизация при маловероятных шансах, отчаянье 
  Глава 117: вина, жертвование
   
• Ресурсы сообщества Эффективных Альтруистов по общему благополучию и выгоранию. Хоть они и не специфичны для согласования, ошибкой было бы не упомянуть EA-форум, богатый на информацию, связанную с ментальным здоровьем, например, Ресурсы по Ментальному Здоровью для EA (WIP) Миранды Жанг, и Список Ресурсов по Ментальному Здоровью Эвелины Тур. На EA-форуме есть и специфичные посты про выгорание, вроде Выгорания Элизабет, Стремиться к минимуму заботы о себе опасно Тессы, и Беспечально Джулии Вайс. 
   

Инструменты и Практики

Они разнятся от практик вмешательства, нацеленных на то, чтобы быстро вырваться из негативных состояний, до долгосрочных практик, нацеленных на выстраивание более приемлемого благополучия.
 

• Медитация: Моя попытка объяснить Вглядывание, медитацию прозрения и просветление в не-мистических терминах Каджа Соталы. Этот пост объясняет, как практики медитации могут помочь людям выработать безусловное самообладание, даже при столкновении с экзистенциальным риском. Цепочка Соталы глубже погружается в эти идеи, а ещё у него есть некоторое количество отдельных практических постов вроде Преодолевая страдания: эмоциональное принятие.
  
  «Но если вас волновали вещи вроде спасения мира, то вы всё ещё продолжите работать на спасение мира, и вы будете Смотреть на вещи, которые будут помогать вам спасать мир – включая те, которые увеличивают вашу рациональность. Просто, если мир и заканчивается, это не будет ощущаться как конец света. Конечно, вы всё ещё будете чувствовать сильную скорбь и разочарование, и всё остальное, что вы ожидаете почувствовать по этому поводу. Просто сами скорбь и разочарование не будут концом света.» — Моя попытка объяснить Вглядывание
   
• Спринты Продуктивности: Механика моей недавней продуктивности Нейта Соареса и Спасти мир за 80 дней с эпилогом Логана Риггса. Учитывая, что многие из постов выше агитировали за вовлечённость как ответ на размах задачи согласованности, полезно взглянуть на исповеди о том, как люди начинали. Пост Нейта предоставляет некоторые практические советы, а Логан демонстрирует, как выглядит их использование на практике. Тактика ослабления задачи Алекса Тёрнера тоже полезна для тех, кто присматривается, как войти в согласование, но находит масштабы задачи слишком большими.
  
  «Десять лет назад я решил спасти мир. Мне было четырнадцать, и мир явно не собирался спасать себя сам. Я шатался вокруг этого девять лет; удивительно, как долго можно это делать. Я как-то умудрился упустить всю идею экзистенциального риска и весь концепт интеллектуального взрыва… Год назад, я наконец прочитал Цепочки… В субботу меня пригласили стать научным сотрудником в MIRI. Это был, по меньшей мере, увлекательный год.» – Механика моей недавней продуктивности
   
• Фокусирование и Замечание: Если вы не уверены, что вы «чувствуете» по поводу задачи согласования, или эмоции, которые вы чувствовали раньше, сейчас за пределами досягаемости, помочь могут техники Фокусирования и Замечания. Эти методы используют обращение внимания на ощущения в теле, что повышает ясность и позволяет что-то сделать с чувствами. К примеру, это может помочь выкорчевать неосознанные мотивации, ведущие к нежелательным привычкам (прокрастинация, думскроллинг, и т.д.), или помочь с тревожностью и неуверенностью в себе.
  
  Фокусирование – это семейство интроспективных техник… чья цель – получить доступ к своему «нутру» или ощущениям «Системы 1». Архетипично, ощущения в теле рассматриваются с вежливым любопытством, и проверяется подходящесть им вербальных ярлыков. При успехе это может улучшить внутреннее понимание и позволить обработать травму или конфликт между внутренними субагентами для повышения внутренней согласованности.
   
• Тёмные Искусства: Тёмные Искусства Рациональности Нейта Соареса. «Тёмные Искусства» – термин, обозначающий методы, включающие обман или веру в ложные вещи, такие, как намеренная раздробленность, непоследовательность или модификация терминальных целей. Я бы не стал рекомендовать эти методы всем, но некоторым они могут помочь сбалансировать свою жизнь/продуктивность с сильными чувствами по отношению к задаче согласования. 
  
  Нам, людям, повезло быть способными в раздробленности: это помогает нам обходить свои ментальные ограничения, не жертвуя эпистемической рациональностью. Конечно, лучше бы у нас вовсе не было ограничений, но работать приходится с тем, что есть. МЫ – странные агенты без полного контроля своих собственных разумов. Нам недостаёт прямого контроля над важными аспектами самих себя. Поэтому, часто необходимо предпринимать действия, которые могут выглядеть противоречиво, безумно или откровенно иррационально.
   

Люди

К сожалению, этот раздел пока довольно пустынен. Я заинтересован в его использовании для продвижения терапевтов, коучей, инструкторов или кого-нибудь ещё, кто предоставляет поддержку испытывающим затруднения со своей реакцией на задачу согласования. Пожалуйста, дайте мне знать, если вы или кто-то, кого вы знаете, хорошо подходит для этого.

• Шай Гестал – обученный коуч по здоровью, сотрудничающий с AI Safety Support и предоставляющий совершенно бесплатные сессии людям, работающим над безопасностью ИИ. 
• Навигатор EA по Ментальному Здоровью – список коучей и терапевтов, имеющих опыт работы с эффективными альтруистами. Линетт Бай – одна из них, она написала пост с советами, как выбрать терапевта. Ти Барнетт – другой коуч с опытом обсуждения экзистенциальных рисков.
• Больше TBD
   

Финальное Замечание

Можно заявить, что устойчивое ментальное здоровье инструментально для работы над согласованием. И это, безусловно, так. Если вы читаете это, вероятно, это потому, что вы принадлежите к работающему над согласованием сообществом или смежному с ним. А если нет, но вы заинтересованы в нахождении способов помочь, то этот пост указывает на ресурсы, с которых можно начать. Одно из преимуществ практик устойчивого ментального здоровья в том, что они создают стабильность, необходимую для дальнейшей работы.

Но этот пост написан с намерением повысить благополучие, не продуктивность. Мы работаем над задачей согласования, потому что нас ведёт наше глубокое желание защитить знакомый нам мир, в котором люди способны на радость, красоту и любовь. Я убеждён, что для того, чтобы был смысл придерживаться благополучия и процветания, достаточно лишь того, что жизнь именно про это. Благополучие инструментально для решения согласования, но более важно, что благополучие – то, зачем мы пытаемся его решить.

***

1. Хоть и по поводу сроков, в которые нам надо решить задачу, и по поводу вероятности успеха мнения разнятся, в сообществе есть широкое согласие, что задача реальна, а ставки ужасны. Даже те, кто настроен оптимистично и считает, что дела пойдут хорошо, вполне могут представить миры, где дела пойдут плохо.