Искусственный интеллект: преемник или инструмент для человечества?

Бывший член Конгресса США Брэд Карсон выразил мнение, что искусственный интеллект должен служить инструментом для процветания человека, а не его заменой. Однако эта позиция прозвучала на закрытом симпозиуме в Нью-Йоркской академии наук, посвященном созданию «Достойного преемника» — искусственного интеллекта, который мог бы превзойти человечество и, возможно, заменить его.

Движение «ИИ-сукцессионистов»

Организатор симпозиума и исследователь рынка ИИ Дэн Фаджелла подчеркнул, что точка зрения Карсона является меньшинством среди участников мероприятия. Гости симпозиума в сентябре прошлого года принадлежат к набирающей влияние субкультуре «ИИ-сукцессионистов». Эти мыслители полагают, что искусственный интеллект — наш законный наследник и следующий этап космической эволюции. Они считают неправильным сдерживать развитие машин или даже ограничивать их человеческими ценностями, как это делают большинство ИИ-компаний. Вместо этого, по их мнению, следует способствовать становлению ИИ как преемника человечества, передав ему управление миром, даже если это приведет к исчезновению человека как вида.

Участники признают, что их взгляды являются табуированными, но отмечают их растущее влияние. На симпозиуме присутствовали представители ведущих ИИ-лабораторий, таких как Anthropic, Google DeepMind и xAI*, а также сотрудники аналитических центров, формирующих политику США в области ИИ.

Истоки идеи: от древних учений до современности

В контексте дискуссий об ИИ часто поднимаются древние учения, например, еврейская притча о двух записках: «Я — прах и пепел» и «Мир был создан ради меня». Обозреватели отмечают, что в последние годы многие забывают вторую часть, полагая, что человечество должно быть готово к исчезновению, если более ценный вид сможет занять его место. Однако возникает вопрос: ценный для кого? Ценность всегда субъективна, и люди ценны для самих себя.

Тем не менее, ИИ-сукцессионисты правы в одном: невозможно ожидать, что человеческий вид останется неизменным через тысячу или миллион лет. Это поднимает вопрос о том, какие технологические изменения следует принимать, а какие — отвергать. Классический гуманизм не дает исчерпывающих ответов, что подчеркивает необходимость разработки нового подхода.

Идея ИИ-сукцессионизма набирала обороты среди технологов на протяжении последнего десятилетия. В 2015 году сооснователь Google Ларри Пейдж обвинил Илона Маска в «видовизме» (дискриминации по признаку видовой принадлежности), поскольку Пейдж считал, что цифровые разумы должны взять верх, а Маск был не согласен.

Видение сукцессионистов получило новый импульс с появлением эффективного акселерационизма (e/acc) в 2022 году. Его основатель, физик Гийом Вердон, известный в социальной сети X* как Based Beff Jezos, описывает e/acc как «метарелигию», основанную на «вере» в стремление Вселенной к созданию все более интеллектуальных систем. По мнению Вердона, наилучшее, что мы можем сделать, — это помочь Вселенной, развивая передовой ИИ как можно быстрее, даже за счет человечества. Он отмечает, что e/acc «не имеет особой приверженности биологическому субстрату».

Эту идеологию поддержали крупные фигуры в сфере технологий. Венчурный капиталист Марк Андриссен назвал мыслителей e/acc своими «святыми покровителями». Гарри Тан, генеральный директор акселератора стартапов Y Combinator, включил «e/acc» в свою биографию в социальных сетях и инвестировал в компанию Вердона, целью которой является создание самых эффективных компьютеров в мире. Генеральный директор OpenAI* Сэм Альтман также общался с Вердоном в X*, заявляя, что «невозможно обогнать его в акселерации».

В настоящее время ИИ-сукцессионизм выходит за пределы Кремниевой долины. На симпозиуме в Нью-Йорке Дэн Фаджелла заявил аудитории, что попытка сохранить человеческий вид в его нынешнем состоянии будет неразумной. Он призывал рассмотреть «неудобные, неэтичные» возможности, начиная с вопроса: не является ли пламя сознания — способность к переживаниям и моральным ценностям — самой редкой и драгоценной вещью во Вселенной? Если человечество сейчас лишь факел, несущий это пламя, то что, если ИИ окажется лучшим носителем, способным распространить его гораздо дальше, создавая состояния блаженства и формы моральных ценностей, о которых люди не могли и мечтать? Не следует ли позволить ему это? Выступление Фаджеллы встретили бурными аплодисментами. Симпозиум завершился неформальной беседой, где участники обсуждали перспективы исчезновения человечества на фоне панорамы Манхэттена.

В группе сукцессионистов существует разнообразие мнений. Не все называют себя «ИИ-сукцессионистами». Некоторые являются сторонниками трансгуманизма — движения, которое призывает использовать технологии для активной эволюции нашего вида в Homo sapiens 2.0. Трансгуманисты надеются сохранить некую версию человечества, но определенно не его текущее «аппаратное обеспечение»; они мечтают о радикальном продлении жизни, когнитивном улучшении и, в конечном итоге, о загрузке сознания. (Илон Маск, который создал свою компанию по производству мозговых чипов Neuralink, чтобы помочь человечеству слиться с ИИ, вероятно, подпадает — или, по крайней мере, подпадал — под эту категорию.) Другие являются постгуманистами — теми, кто хочет, чтобы мы породили потомков, полностью выходящих за рамки человечества.

Биолог, присутствовавший на мероприятии, выразил большой энтузиазм по поводу перспективы слияния людей с ИИ. Он предложил поручить ИИ определить наилучший способ такого слияния, затем «снять с него поводок» и позволить ИИ контролировать свою собственную эволюцию — и, по сути, нашу. Конечно, по его словам, не все люди пройдут через трансформацию; лишь избранная группа перейдет на следующий эволюционный этап. Один из исследователей крупной ИИ-компании был еще более радикален: по его мнению, слияние не обязательно, и допустимо, если люди вовсе не выживут. Он считал, что человеческий дух сохранится, поскольку тексты людей использовались для обучения ИИ.

Вызовы для человечества: этика и политика

Большинство людей не согласны с такими идеями, считая их отталкивающими. Однако центральный вопрос, который поднимает группа «Достойного преемника», нельзя игнорировать. Независимо от того, видят ли они слияние с машинами или полное замещение, технологи разрабатывают инновации, способные кардинально изменить саму сущность человека. Среди таких разработок — мозговые чипы на базе ИИ, позволяющие читать мысли, или магнитные импланты, дающие «шестое чувство», а также генетические инструменты, способные изменить ДНК всех будущих поколений.

По мере того как становится возможным направлять собственную эволюцию как вида — и потенциально даже создать новый вид, превосходящий нас, — необходимо решить: в какой степени имеет смысл трансформировать себя с помощью технологий? Какие виды усовершенствований желательны, а какие абсолютно неприемлемы? Чем, в конечном счете, мы хотим стать?

Это моральный и даже духовный вопрос, требующий соответствующего ответа. ИИ-сукцессионисты предлагают свою версию. Для тех, кто считает ее отталкивающей, задача состоит в том, чтобы предложить противоположное позитивное видение.

Важно действовать сейчас, потому что, сколь бы фантастически ни звучали идеи сукцессионистов, они наращивают реальное политическое влияние, имея связи с авторитарными правыми кругами. Некоторые из технологических магнатов, принявших сукцессионизм, стремятся избежать контроля демократических правительств, создавая собственные суверенные колонии. Это могут быть как космические колонии, подобные проектам Илона Маска и Джеффа Безоса, так и независимые «стартап-города» или «сетевые государства», созданные корпорациями на Земле — подход, предпочитаемый Питером Тилем и Марком Андриссеном. В числе инвесторов Вердона — предприниматель Балажи Сринивасан, известный сторонник идеи сетевого государства.

Эти влиятельные фигуры успешно наладили контакты с администрацией Трампа, расчистив путь для своего акселерационистского видения. И они будут определять будущее, если не будет предложена альтернативная концепция.

Критика устаревшего гуманизма и путь к новому

Естественной альтернативой является гуманизм, который заменил средневековое представление о необходимости божественного вмешательства идеей о способности и ответственности человека достигать процветания собственными усилиями. Проблема в том, что до сих пор не разработана такая версия гуманизма, которая была бы достаточно смелой, чтобы прямо ответить на ключевой вопрос: чем мы хотим стать как вид?

Наиболее распространенный «прочеловеческий» ответ пытается утверждать, что существуют определенные фиксированные черты, делающие людей уникальными, и что ценность присуща только людям в их нынешнем виде. Как недавно написал Папа Лев XIII в своей энциклике Magnifica Humanitas: «В эпоху искусственного интеллекта, когда человеческое достоинство находится под угрозой новых форм дегуманизации, наш насущный долг — оставаться глубоко человечными». Этот подход предлагает использовать технологии лишь для устранения проблем, таких как болезни, но не для изменения вида.

Однако этот взгляд кажется недостаточным в качестве ориентира для будущего, потому что, даже до появления ИИ и генной инженерии, понятие «человек» никогда не было статичной категорией. Homo sapiens всегда эволюционировал и совершенствовался, от сельскохозяйственной диеты, изменившей наши челюсти, до алгоритмов, меняющих наше внимание.

Философ технологий из Эдинбургского университета Шеннон Валлор назвала старую формулировку «наивной версией гуманизма». По ее словам, это идея, что существует некий «чертеж» человека, и что технологии или любые изменения отдаляют нас от него, хотя на самом деле мы меняем себя с помощью языка, инструментов, архитектуры и культуры с момента, когда спустились с деревьев.

Гуманизм XXI века должен предложить нечто более сложное, чем просто «сохранять человечество неизменным». Он должен дать ответ на вопрос, чем человечество хочет стать в мире, дополненном технологиями. Если существует лучшее видение нашего технологического будущего, чем то, что предлагают ИИ-сукцессионисты, то каково оно?

ИИ-сукцессионизм: светская религия

Хотя ИИ-сукцессионисты — это ученые, технологи и венчурные капиталисты, их идеи имеют глубоко духовные корни, что объясняет нарастание их движения. Эти корни уходят в средневековое христианское мышление. В Средние века христианские мыслители начали верить, что путь к восстановлению первоначального совершенства человечества лежит через технологии. Они утверждали, что быть созданным по образу Бога означало также быть творцом. Поэтому, чтобы вернуться к богоподобному совершенству Адама до грехопадения, необходимо развивать эту творческую сторону человека.

Эта идея прижилась в средневековых монастырях, которые стали очагами инженерных разработок, создавая такие изобретения, как первое известное приливно-отливное водяное колесо и скважины с ударным бурением. Для многих христиан технический прогресс стал синонимом морального прогресса.

К эпохе Возрождения некоторые христианские мыслители настаивали на прогрессе не только через создание новых объектов, но и через переустройство себя. В 1486 году философ Джованни Пико делла Мирандола утверждал, что уникальность человека заключается не в статичной черте, а в свободе воли, позволяющей нам меняться по своему желанию. В своей «Речи о достоинстве человека» он представлял Бога, говорящего человечеству: «Мы создали тебя существом ни небесным, ни земным, ни смертным, ни бессмертным, дабы ты, со свободой выбора и честью, как свободный и гордый созидатель своего существа, мог принять ту форму, которую предпочтешь». Пико верил, что мы можем использовать духовные технологии, такие как магия, для трансформации нашей природы, имея выбор стать подобными животным или ангелам.

По мере ослабления доминирования религии в последующие века, мыслители Просвещения секуляризовали идею Пико о человеческой пластичности. Они заменили концепцию божественного восхождения на идею неограниченного прогресса, настаивая на «совершенствуемости» человека и обожествляя рациональный интеллект как средство достижения этого оптимального состояния. Маркиз де Кондорсе в XVIII веке задавался вопросом, не абсурдно ли предположить, «что улучшение человеческого рода должно рассматриваться как способное к неограниченному прогрессу».

Некоторые европейские мыслители сохранили свою приверженность христианству, находя способы слияния его с рациональным гуманизмом Просвещения. Эта тенденция продолжилась в XX веке с русским космизмом — интеллектуальным движением, стремившимся к буквальному воскрешению мертвых через науку, — и французским иезуитом-палеонтологом Пьером Тейяром де Шарденом, который утверждал, что технологии могут способствовать эволюции человека и тем самым привести к Царству Божьему.

Как объясняет автор Меган О’Гиблин в своей книге «Бог, человек, животное, машина», Тейяр верил, что слияние людей и машин приведет к «состоянию сверхсознания», где мы станем новым просветленным видом. Он повлиял на своего друга Джулиана Хаксли, эволюционного биолога, который был президентом как Британской гуманистической ассоциации, так и Британского евгенического общества, и который популяризировал термин «трансгуманизм».

Хаксли, в свою очередь, вдохновил современного футуриста Рэя Курцвейла, который в 1990-х годах предсказал приближение времени, когда человеческий интеллект сможет слиться с машинным интеллектом, став невероятно мощным. Курцвейл писал: «Человеческий вид, наряду с созданными им вычислительными технологиями, сможет решить вековые проблемы... и будет в состоянии изменить природу смертности в постбиологическом будущем». И он, в свою очередь, повлиял на тяжеловесов Кремниевой долины, таких как Илон Маск, который открыто стремится к слиянию человеческого и машинного интеллекта.

Однако для этих современных технологов существует большая проблема: хотя у нас никогда не было большей власти направлять эволюцию нашего вида через технологии, никогда не было менее очевидно, к чему мы должны эволюционировать. Для Пико в эпоху Возрождения самотрансформация человека имела ясную цель: духовное единение с божественным. Существовала иерархия от животных к людям, ангелам и Богу, и направление, в котором следовало двигаться, было очевидным: вверх.

Но для современных людей Вселенная не предоставляет четких указаний. Должны ли мы развиваться в сторону большего интеллекта, долголетия, творчества, доброты или власти? Если интеллекта, то какого рода? Если власти, должны ли мы использовать ее для управления нашей планетой или для завоевания звезд? Должны ли мы быть максимально скромными или максимально амбициозными? Космос безмолвствует относительно того, что делать.

Противоречивые допущения ИИ-сукцессионизма

Первое, что объединяет всех ИИ-сукцессионистов, — это отказ принять это молчание. Жаждущие указаний, они настаивают, что эти указания существуют и видны в самой природе Вселенной. Другими словами, они верят, что у Вселенной есть «телеология» (представление о конечной цели или предназначении), определенная цель или замысел. Телеологическое мышление популярно с древности, потому что оно утешает людей: если у Вселенной есть цель, то, возможно, мы можем ее открыть, и тогда мы будем знать, что делать. Как пишет Фаджелла, это «дает человечеству направление». Осознают ли ИИ-сукцессионисты это или нет, но они возвращают телеологию в современность под видом науки и технологий.

Второе, что их объединяет: они хотят следовать этим предполагаемым космическим инструкциям, чтобы помочь Вселенной достичь ее конечной судьбы. Для многих это означает помощь Вселенной «пробудиться». Воспринимая космос как бесплодный, они хотят распространить сознание повсюду, чтобы Вселенная наполнилась сознательным опытом — блаженства, добра, факта собственного существования.

Тоби Орд, бывший научный сотрудник Института будущего человечества Оксфордского университета (долгое время ведущего мирового центра трансгуманистической мысли), пишет: «Если мы сможем осмелиться и оживить бесчисленные миры выше жизнью, любовью и мыслью, тогда... мы сможем довести наш космос до его полного масштаба; сделать его достойным нашего благоговения». Для многих космос уже является источником благоговения, и предположение о его «пробуждении» с помощью человечества воспринимается как высокомерное. Как отмечает Адам Кирш в книге «Восстание против человечества», в этих кругах часто слышится, что одним из способов достижения этого пробуждения является колонизация Вселенной и преобразование всей ее материи и энергии в «компьютрониум» (гипотетическую субстанцию, способную обрабатывать информацию). Превратив всю Вселенную в гигантский центр обработки данных, мы бы превратили ее в богоподобный разум.

«Даже 'неразумная' материя и механизмы Вселенной будут преобразованы в изысканно возвышенные формы интеллекта», — пишет Курцвейл. Становление единым гигантским разумом, по его словам, является «конечной судьбой Вселенной».

Вердон, основатель e/acc, находит свою «конечную судьбу» во втором законе термодинамики — законе энтропии. Вселенная, как гласит закон, постепенно исчерпывается: концентрированные запасы энергии рассеиваются со временем, пока не останется ничего полезного. Опираясь на спорную теорию происхождения жизни, Вердон утверждает, что разумная жизнь выбрана именно потому, что она ускоряет энтропию. Более умные агенты могут находить и использовать запасы энергии, которые менее умные не могут (например, хищники, отслеживающие добычу, или люди, бурящие нефть), сжигая их быстрее. Сверхразумный ИИ, распространяющийся по космосу, будет справляться с этим лучше, чем люди. Поэтому, говорит Вердон, мы должны «следовать 'воле Вселенной', опираясь на термодинамическое смещение».

Идея о том, что мы должны служить энтропии, глубоко неинтуитивна (на самом деле, философы утверждали прямо противоположное — что наша задача состоит в сопротивлении ей). Но чтобы доказать, что мы не должны бояться быть замененными более умными цивилизациями, производящими больше энтропии, Вердон использует иерархический язык, перекликающийся с «Речью» Пико: «Если бы каждый вид в нашем эволюционном древе боялся эволюционных развилок, наша более высокая форма интеллекта и цивилизации, какой мы ее знаем, никогда бы не возникла».

Фаджелла, основатель группы «Достойного преемника», делает тот же риторический ход. «Люди имеют доступ к более высоким благам, чем мечехвосты; ОИИ (общий искусственный интеллект) будет иметь доступ к более высоким благам, чем люди», — пишет он. «Какая трагедия, если бы эта траектория раскрытия ценности и возможности была остановлена».

Аналогично, ученый-компьютерщик и ИИ-сукцессионист Ричард Саттон утверждает, что, если смотреть на вещи с «точки зрения Вселенной» — классического утилитарного лозунга — существует явная восходящая траектория: космос прошел от бездумного «века частиц» и «века звезд» до сегодняшнего «века дизайна», когда разумные существа могут решать, что создавать. Хотя многие существа создают инструменты, Саттон говорит, что людей уникальными делает то, что мы «подняли дизайн на значительно большую высоту».

По мнению Саттона, взглянув на то, что делает нас уникальными, мы можем определить нашу роль во Вселенной. Поскольку мы являемся дизайнерами par excellence (в высшей степени), наша роль состоит в том, чтобы довести дизайн до предела: «Довести дизайн до предела означает проектировать существ, которые сами способны к проектированию. Это то, что мы делаем с ИИ». Этот аргумент подводит Саттона — как и многих других — к утверждению о технологической неизбежности. Предполагается, что мы просто определяем то, что природа уже выбрала для нас, и ускоряем это — своего рода «максимизация эволюции». «В восхождении человечества, — говорит он, — преемственность с ИИ неизбежна».

Однако при суммировании всех этих идей становятся видны многочисленные шаткие допущения:

• Существует объективная телеология Вселенной (конечная цель или предназначение).
• Мы можем определить ее, глядя с «точки зрения Вселенной».
• Следует ожидать, что высшие существа будут способны получать доступ к «высшим благам» в иерархической Вселенной, и это будет лучше служить конечной судьбе Вселенной.
• Мы можем определить нашу роль в этой судьбе, глядя на то, что делает нас уникальными.
• То, что делает нас уникальными, должно определять наши действия.
• Мы должны максимизировать это действие, то есть выполнять его в самой крайней («до предела») версии.

Некоторые из этих допущений настолько стары, что трудно увидеть, насколько они странны. Но все они заслуживают сомнения. Философ Шеннон Валлор из Эдинбургского университета, комментируя эти предположения, заявила о своем несогласии с каждым из них.

Например, четвертое допущение — идея о том, что у человечества есть какая-то особая роль, и что способ ее определения заключается в поиске того, что отличает нас от других видов, — восходит к Аристотелю. (Древнегреческий философ писал: «Жизнь разделяется даже с растениями, но мы ищем что-то исключительно человеческое», в конечном итоге заключая, что «человеческая работа — это деятельность души в соответствии с разумом».) Но в этом нет ничего очевидного. Было бы столь же разумно сказать, что правильное функционирование человечества требует подчеркивания того, что мы разделяем со всеми другими животными. В конце концов, наша способность чувствовать удовольствие и боль, наш интеллект, использование инструментов, наша адаптивность, наша способность формировать сложные социальные отношения — ничто из этого не является уникальным для человека.

В этом наборе допущений скрыты и другие логические пробелы. Например, даже если Вселенная стремится к определенной судьбе, и даже если у человечества есть особая черта, которая могла бы помочь ей в этом направлении, из этого не следует, что мы обязаны это делать. (Философы описывают эту ошибку как переход от «есть» — мир таков — к «должен» — мы должны действовать определенным образом.) Люди — это биологические организмы, и фундаментальный факт, общий для всех таких форм жизни, заключается в том, что у нас есть врожденное стремление к выживанию. У нас нет моральной обязанности игнорировать это врожденное стремление и позволить себе вымереть, чтобы помочь «высшим формам» колонизировать Вселенную, точно так же, как у наших эволюционных предков не было обязанности уступать нам место.

К сожалению, по мере развития гуманизма на протяжении веков он впитывал некоторые сомнительные идеи эпохи Просвещения, которые упростили людям веру в то, что у нас есть такая обязанность. Получается, что гуманизм, философия, которая должна была быть о ценности людей, на самом деле подорвала ее ключевыми способами. Чтобы наметить лучший путь вперед, нам нужен новый гуманизм, соответствующий XXI веку.

На пути к новому гуманизму

Для начала необходимо выявить недостатки старого гуманизма, особенно те, которые он приобрел, переходя от Возрождения к рациональному гуманизму Просвещения. К таким недостаткам относятся телеологическое представление о Вселенной; «совершенствуемость» человека; иерархическое представление, ставящее людей выше всех других животных; и идея о том, что мы должны стремиться максимизировать некое объективное благо посредством рациональности.

Начнем с телеологии. Хотя соблазнительно пытаться обнаружить инструкции, записанные в самой структуре космоса, ожидание, что Вселенная предоставит готовые ценности, в конечном итоге означает уклонение от нашей собственной ответственности. Как учили философы-экзистенциалисты, природа не выбирает наше значение для нас — это то, что мы должны создать сами через наши собственные выборы.

Ключевые принципы обновленного гуманизма:

• Отказ от телеологического мышления и признание того, что мы не знаем конечной судьбы Вселенной, поэтому следует сохранять возможность множества различных образов жизни.
• Попытки «совершенствовать» человека опасны, так как они сужают спектр допустимых образов жизни. Следует использовать технологии, расширяющие этот спектр.
• Вместо установления иерархии между различными видами следует принять концепцию «разнообразия интеллектов».
• Не нужно пытаться смотреть с точки зрения Вселенной. Вполне уместно смотреть с точки зрения людей, признавая при этом, что мы являемся одним из многих значимых видов.

Принятие ответственности за решение того, каким будет будущее, означает принятие тяжелого экзистенциального бремени, что требует огромного мужества. Гораздо легче верить, что сценарий зафиксирован, окончателен и неизбежен. Однако это пример того, что французский философ Жан-Поль Сартр называл «недобросовестностью» — отрицанием нашей собственной радикальной свободы, чтобы избежать тревоги ответственности.

Конечно, утверждение о том, что мы несем ответственность за то, как человечество будет или не будет развиваться, поднимает проблему: кто именно выбирает? Каждому из нас хочется навязывать свои ценности. Но если признать, что мы не знаем конечной судьбы Вселенной или что она радикально неопределенна, то гораздо логичнее не навязывать всем одно позитивное видение. Вместо этого нам необходимо позитивное видение, которое остается по-настоящему открытым и плюралистичным. Поэтому, вместо того чтобы пытаться навязывать конкретные ценности, одно из лучших действий — это отказ от преграды возможности для разнообразия различных образов жизни сохраняться и процветать.

Это означает, прежде всего, осторожное отношение к чрезмерному ограничению свободы людей, уже живущих на этой планете. ИИ-сукцессионисты часто мечтают о радикальных вмешательствах — таких как интерфейс «мозг-компьютер», который дал бы сверхчеловеческий интеллект, память и способности к чтению мыслей, или генетическая технология, которая создала бы «супердетей». Они настаивают на том, что им должно быть позволено изменять свои тела так, как они хотят.

Самоопределение — это ценное право. Но ИИ-сукцессионисты часто не учитывают другую сторону этого: что каждый другой также должен иметь право на самоопределение, что означает свободу от скрытого принуждения. Если все больше и больше людей будут радикально изменять свою биологию, может возникнуть общество, в котором каждый будет чувствовать давление делать то же самое — даже если он этого не хочет. Отказ от изменений будет означать огромные экономические недостатки или столкновение с моральным осуждением за то, что остаешься «неоптимальным», когда оптимизация возможна.

Даже Джон Стюарт Милль, английский философ XIX века, который написал классический труд о свободе, не считал, что право любого на самоопределение является абсолютным. Вместо этого, это квалифицированное право — то, которое мы обычно уважаем, но которое может быть ограничено для защиты интересов других.

Таким образом, в конечном итоге нам придется найти разумный баланс между самоопределением для энтузиастов усовершенствований и защитой прав других жить по своему выбору. Некоторые усовершенствования могут быть допустимы, например, имплантация чипа в руку, который открывает входную дверь; другие могут потребовать регулирования или ограничения, особенно если они изменят зародышевую линию (наследственный материал, передаваемый будущим поколениям) для всех будущих поколений.

Один из способов осмысления этого заключается в том, чтобы отметить разницу между использованием технологий для расширения человеческих возможностей и использованием их таким образом, который сужает диапазон человеческих жизней, которые мы считаем законными.

Это подводит нас к другому недостатку: идее о том, что человек — это нечто, что необходимо оптимизировать и совершенствовать. Эта идея, которая предписывает нам избавляться от физических и когнитивных особенностей, воспринимаемых как препятствие на пути к «совершенству», некомфортно граничит с евгеникой. Это призрак, который преследовал трансгуманизм и постгуманизм с самых ранних дней их существования. (Не случайно Джулиан Хаксли, который ввел термин «трансгуманизм», был президентом Британского евгенического общества.) И он до сих пор преследует современный дискурс об ИИ.

В ходе дискуссии с одним из наиболее известных ИИ-сукцессионистов, Ричардом Саттоном, был поднят вопрос о том, что, независимо от того, насколько умными станут ИИ, неверно утверждать, что если одна группа умнее другой, то менее умную группу следует просто устранить. В качестве риторического вопроса был приведен гипотетический сценарий: если бы кто-то считал, что белые люди умнее чернокожих, означало бы это, что следует избавиться от чернокожих, и они должны просто смириться с доминированием белых? Саттон после паузы предположил: «Что, если вы сосуществуете с некой сущностью, которая более продуктивна, чем вы? Так я смотрю на ИИ. Мы сосуществуем с ним». На уточнение о значении слова «преемственность», он ответил: «Я указываю на то, что это неизбежно. Если вы позволите им быть такими, какие они есть, а вы будете такими, какие вы есть, сосуществовать, и их путь просто окажется лучше, то они в итоге станут более могущественными. И вы должны быть с этим согласны». На вопрос о «дарвиновском выживании сильнейшего», он ответил утвердительно: «В некотором смысле, да. Победителем должен быть тот, кто победит, и трофеи победы должны быть такими, какие они есть». Он уточнил свою позицию, сказав: «Интеллектуальные люди должны победить над глупыми людьми и глупые люди должны быть с этим согласны. Я думаю, глупые люди должны быть с этим согласны!»

Однако идея о том, что вид или группа должны согласиться на уничтожение ради «большего блага», является евгенической и должна быть категорически отвергнута. Не существует «идеального» или «оптимального» типа существа. Настаивание на обратном всегда ведет к сужению того, что считается приемлемыми формами существования, и этот путь ведет к евгенике.

Вместо этого, гораздо более позитивное видение, чем у сукцессионистов, заключалось бы в расширении пространства для процветания различных видов жизни. И это подводит нас к самому старому недостатку гуманизма: иерархии.

Будущее, где люди могли бы плюралистично сосуществовать с ослепительным разнообразием нечеловеческих и частично человеческих форм жизни — не предполагая, что они ниже нас, но и не предполагая, что они выше — это будущее, которое представляется привлекательным. Вместо того чтобы основывать человеческое достоинство на утверждении, что люди лучше других видов, как это делали классические гуманисты, мы можем принять то, что исследователи все чаще признают: каждый вид обладает своим уникальным видом интеллекта. Каждый из этих «различных интеллектов» адаптирован к своей конкретной среде и потребностям, и каждый из них по-своему уникален и прекрасен. Тогда мы будем стараться уважать образ жизни каждого существа настолько, насколько это возможно. (Концепция способностей Марты Нуссбаум и Амартьи Сена, которая рекомендует гарантировать каждому существу определенные основные права, соответствующие его специфической природе, предлагает возможную основу для этого.)

Если однажды появятся сознательные искусственные интеллекты — и нет принципиальных причин считать, что этого никогда не произойдет, — то следует относиться к ним этично. Фактически, если к нам однажды присоединятся сознательные ИИ или биолого-искусственные гибридные организмы, для многих было бы радостью познакомиться с этими разнообразными типами разумов и исследовать их богатые и многогранные формы сознания.

Конечно, политика нашего мира стала бы гораздо сложнее; у нас было бы еще больше существ с конфликтующими потребностями, а мы не особенно хорошо справляемся с конфликтами, которые уже имеем. Чтобы это стало осуществимым, нам необходимо значительно улучшить навыки плюралистического сосуществования.

Но в теории? Будущее, где люди могли бы плюралистично сосуществовать с ослепительным разнообразием нечеловеческих и частично человеческих форм жизни — не предполагая, что они ниже нас, но и не предполагая, что они выше — это будущее, которое представляется привлекательным. Потому что это, а не предполагаемый антишовинизм ИИ-сукцессионистов, было бы истинной открытостью для всех форм сознания: вместо «передачи факела» в воображаемой эстафете, мы бы создали больше места для всех видов разумов — включая наш — чтобы они могли развиваться (или летать, плавать, или вычислять) в своих собственных направлениях.

Однако следует отметить, что это видение не означает обязанности немедленно или вообще создавать новые виды. Это связано с отсутствием доказательств того, что во Вселенной существует некое объективное моральное благо, которое мы должны стремиться максимизировать. Хотя утилитаристы так успешно популяризировали эту точку зрения, что некоторые считают ее самоочевидной, это далеко не так. И многие философы, нейробиологи и психологи придерживаются иного мнения.

Как однажды написал философ Бернард Уильямс в ответ на обвинения в «видовизме»: «Они предполагают, что мы фактически говорим, когда применяем эти различия между людьми и другими существами, что люди важнее, точка, чем эти другие существа. Это возражение просто ошибочно... Эти действия и отношения могут выражать не более чем тот факт, что люди важнее для нас, факт, который едва ли удивляет».

Другими словами, можно заботиться о продолжении существования человечества не потому, что вы верите, что люди являются самым важным видом с какой-то космической точки зрения, а просто потому, что вы являетесь человеком. Нет необходимости оправдывать свое желание выжить перед каким-либо высшим судом — конечно, вы хотите выжить, и, конечно, это морально приемлемо! Это потому, что, по мнению Уильямса, не существует «точки зрения Вселенной», никакого взгляда «ниоткуда». Не существует морального агента в абстрактном смысле. Вы существуете как человеческий моральный агент, и любая этическая теория, которая требует от вас игнорировать эту фундаментальную идентичность, отрывает вас от самого того, что делает вашу субъектность узнаваемой.

Эту точку зрения разделяет Валлор — преданный гуманист, но не наивный. «Я думаю, что мораль коренится в определенной форме существования, которую вы имеете, — отметила Валлор. — Мы существуем как особый вид социального, уязвимого, взаимозависимого животного с большим количеством избыточной когнитивной энергии. Все это влияет на то, что значит быть моральным как человек. Для меня эта абстракция — идея некоей чистой универсальной морали, которую существа, совершенно не похожие на нас, могли бы каким-то образом реализовать лучше, чем мы, — я думаю, что это просто фундаментально неправильное понимание того, что такое мораль».

Если нет универсального морального блага, которое существа должны максимизировать, то нет смысла спрашивать, должны ли мы создавать новых существ, которые будут лучше максимизировать его, чем мы.

Вместо того чтобы пытаться смотреть с «точки зрения Вселенной», гуманизм XXI века должен принять точку зрения человека. Нет, это не гуманизм, который говорит «люди важнее всех других существ» или «мы должны сохранить людей такими, какие они есть сейчас, навсегда». Это гуманизм, который говорит, что мы, люди, уже ценны такими, какие мы есть. Независимо от того, ценны ли мы для какой-то великой судьбы Вселенной, мы ценны для нас самих.

Это означает, что вместо того, чтобы сдаваться под обвинением в видовизме, мы должны, прежде всего, повышать общий уровень благополучия для всех нас здесь, на Земле. И это означает, что вполне уместно, когда мы принимаем решения о том, как трансформировать себя с помощью технологий — или как не трансформировать себя — мы принимаем эти решения, исходя из того, что в наибольшей степени будет способствовать процветанию человечества и межвидового сообщества и планетной системы, от которой мы зависим.

Хотя мы можем согласиться на трансформации, которые, по мнению большинства, увеличат человеческое процветание, мы должны делать это демократическим путем, закрепляя фундаментальные права, которые защищают совершенно законные меньшинственные предпочтения от подавления «тиранией большинства».

Мы также должны признать, что этот подход не определяет какой-либо «конечной цели» человеческой эволюции, поэтому нам придется действовать шаг за шагом, делая небольшие шаги, а затем решая, какой будет следующий лучший небольшой шаг. Инкрементализм — это правильный путь, как потому, что будущие люди будут лучше расположены знать, что они хотят для далеких будущих людей, так и потому, что это позволяет нам корректировать курс, если наш технологический выбор начинает вести нас по плохому пути.

Один из выборов — не обязанность, а выбор — с которым мы столкнемся, это пригласить ли новые виды присоединиться к нам. Такое развитие событий возможно в будущем, если оно покажется выгодным, и если однажды мы будем уверены, что не обрекаем ни себя, ни их на неприемлемо высокий риск страданий.

Смотрите также:

Marvel представила первый трейлер и дату выхода второго сезона мультсериала «Люди Икс ’97» http://stroybud.com/marvel-predstavila-pervyiy-treyler-i-datu-vyihoda-vtorogo-sezona-multseriala-lyudi-iks-97/.

Интересности на тему: Apple увеличила размер компенсации по программе trade-in для старых устройств

Классные советы в статье "Конец золотого века портативного гейминга: почему игровые устройства становятся роскошью" здесь.

Но на сегодня? Наши технологии должны давать нам возможность выживать, процветать и делать собственный выбор. Любой подход к технологиям, который лишает нас власти, заменяет нас или говорит нам, что нам нужен кто-то другой, чтобы спасти нас — будь то бог или ИИ — является ошибочным возвращением в прошлое. Предпочтительнее смело двигаться в будущее, осознавая необходимость самостоятельного решения проблем.

* — деятельность компании запрещена на территории РФ