ChainCatcher провел整理 и компиляцию содержимого (с сокращениями).
Ключевая идея:
Радикальные технологии могут быть более доступны богатым и влиятельным, что усугубляет социальное неравенство, приводит к разрыву в продолжительности жизни и преимуществах между богатыми и бедными, и даже формирует глобальный низший класс.
Злоупотребление технологиями существует в другой форме, когда производители проецируют власть на пользователей через сбор данных, сокрытие информации и так далее, что отличается от неравного доступа к технологиям.
Открытый исходный код — это недооцененный третий путь, который может улучшить равенство доступа к технологиям и равенство производителей, повысить проверяемость и устранить зависимость от поставщиков.
Противники открытого кода считают, что он подвержен риску злоупотребления, но централизованный контроль со стороны хранителей ненадежен, легко подвержен злоупотреблению в военных целях и трудно гарантировать равенство между государствами.
Если существует высокий риск злоупотребления технологиями, лучшим решением может быть их отсутствие; если динамика власти вызывает дискомфорт, можно использовать открытый исходный код, чтобы сделать его более справедливым.
Открытость не означает свободу действий; она может сочетаться с законами и другими нормами, ключевым моментом является обеспечение демократизации технологий и доступности информации.
Одно из беспокойств, о которых мы часто слышим, заключается в том, что некоторые радикальные технологии могут усугубить неравенство власти, поскольку эти технологии неизбежно будут доступны только богатым и привилегированным слоям.
Вот цитата человека, который выражает беспокойство о последствиях продления жизни:
«Некоторые люди не будут оставлены позади? Сделаем ли мы общество еще более неравным, чем сейчас?» — спросил он. Тульяпуркар прогнозирует, что резкий рост продолжительности жизни будет ограничен богатыми странами, граждане которых могут позволить себе технологии против старения, а правительства могут финансировать научные исследования. Этот разрыв еще больше усложняет текущие дебаты о доступности медицинского обслуживания, поскольку богатые и бедные не только увеличивают разрыв в качестве жизни, но и все больше удаляются друг от друга по продолжительности жизни.
«Крупные фармацевтические компании имеют последовательную репутацию, проявляя большую строгость в предоставлении продуктов людям, которые не могут за них заплатить», — сказал Тулйапуркар.
«Если технологии антивозрастной терапии будут распространяться на неконтролируемом свободном рынке, то, на мой взгляд, вполне вероятно, что в конечном итоге у нас сформируется постоянный глобальный нижний класс, страны, которые будут заблокированы в условиях сегодняшней смертности», — сказал Тульяпуркар. «Если это произойдет, возникнет обратная связь, создающая порочный круг. Те страны, которые будут исключены, навсегда останутся вне».
Вот аналогичное яркое выражение из статьи, выражающей обеспокоенность последствиями улучшения человеческих генов:
В начале этого месяца ученые объявили о том, что они отредактировали гены в человеческих эмбрионах, удалив патогенную мутацию. Эта работа удивительна и является ответом на молитвы многих родителей. Кто не хотел бы иметь возможность предотвратить страдания своих детей, которые сегодня можно избежать?
Но это не будет конечной точкой. Многие родители хотят использовать генетические улучшения, чтобы обеспечить своим детям наилучшие преимущества. Люди с возможностями могут получить доступ к таким технологиям. С появлением возможностей этические проблемы выходят за рамки окончательной безопасности таких технологий. Высокая стоимость программ приведет к дефициту и усугубит уже существующее неравенство в доходах.
Другие технические области с аналогичными точками зрения:
Цифровые технологии в целом:
Космические путешествия:
Солнечно-земная инженерия:
Во многих критических отзывах о новых технологиях можно найти эту тему. Связанная с ней, но по своей сути отличная тема заключается в том, что технологические продукты используются как инструменты для сбора данных, запирания поставщиков, умышленного сокрытия побочных эффектов (например, современные вакцины подвергались такой критике) и других форм злоупотреблений.
Новые технологии часто создают больше возможностей, позволяя человеку получить что-то, не предоставляя прав на это или полной информации, поэтому с этой точки зрения старые технологии кажутся более безопасными. Это также форма усиления власти элиты за счет других, но проблема заключается в том, что производители проецируют свою власть на пользователей через технологии, а не в неравенстве доступа, как в предыдущем примере.
Я лично очень поддерживаю технологии. Если выбирать между «дальнейшим продвижением» и «сохранением текущего положения», несмотря на риски, я с радостью поддержу продвижение всего, кроме очень немногих проектов (например, исследований в области функциональности, оружия и суперумного ИИ).
Это связано с тем, что в целом преимущества заключаются в более долгой, более здоровой жизни, более процветающем обществе, сохранении большей человеческой значимости в эпоху быстрого прогресса ИИ и поддержании культурной преемственности через пожилое поколение как живых людей, а не воспоминания из учебников истории.
Но если я поставлю себя на место тех, кто не слишком оптимистично настроен по поводу позитивного влияния, или тех, кто больше беспокоится о том, что элита использует новые технологии для управления экономикой и осуществления контроля, или о тех, кто совмещает обе эти точки зрения? Например, я уже испытывал такие чувства по поводу умных домашних устройств, где преимущества общения с лампочкой компенсируются моими опасениями о том, чтобы не передать свою личную жизнь Google или Apple.
Если бы у меня была более пессимистичная гипотеза, я мог бы представить, что у меня есть аналогичные чувства по поводу некоторых медиатехнологий: если они позволяют властям более эффективно распространять информацию, то их можно использовать для осуществления контроля и подавления других. Для многих подобных технологий выгоды, которые мы получаем от лучшей информации или лучшего развлечения, недостаточны для компенсации того, как они перераспределяют власть.
Открытый исходный код как третий путь
Я считаю, что одной из серьезно недооцененных точек зрения в этих случаях является: технологии, поддерживающие только открытые способы разработки.
Аргумент о том, что открытый код ускоряет прогресс, кажется очень убедительным: он облегчает людям построение на основе инноваций друг друга. В то же время аргумент о том, что требования открытого кода замедляют прогресс, также кажется весьма убедительным: он препятствует людям использовать множество потенциально прибыльных стратегий.
Но наиболее интересным последствием открытого кода являются направления, которые не связаны с темпами прогресса:
Открытый код улучшает доступ к равенству. Если что-то является открытым кодом, оно естественно доступно для любого человека в любой стране. Для физических товаров и услуг людям все еще нужно платить предельные издержки, но во многих случаях высокие цены на патентованные продукты связаны с тем, что фиксированные издержки на изобретение этого продукта слишком высоки, чтобы привлечь больше конкуренции, поэтому предельные издержки часто довольно низки, как это происходит в фармацевтической отрасли.
Открытый исходный код улучшает равенство доступа для производителей. Одной из критик является то, что предоставление конечных продуктов людям бесплатно не помогает им приобрести навыки и опыт, необходимые для продвижения в глобальной экономике к процветанию, что является действительно надежной гарантией качественной жизни на длительный срок. Открытый исходный код не таков, он по своей сути предназначен для того, чтобы люди из любой точки мира могли стать производителями на всех этапах цепочки поставок, а не только потребителями.
Открытый исходный код улучшает проверяемость. Если что-то является открытым исходным кодом, в идеале оно должно включать не только вывод, но и процесс его создания, выбор параметров и т. д., что делает более простым проверку того, что вы получили именно то, что заявляет поставщик, и позволяет третьим сторонам исследовать скрытые недостатки.
Открытые источники устраняют возможность привязки к поставщику. Если что-то является открытым, производитель не может сделать его бесполезным с помощью удаленной функции или простого банкротства, как в случае с высоко компьютеризированными / сетевыми автомобилями, которые перестают работать после закрытия производителя. У вас всегда есть право самостоятельно исправить или запросить помощь у других поставщиков.
Мы можем проанализировать это с точки зрения некоторых более радикальных технологий, перечисленных в начале статьи:
Если у нас будет запатентованная технология продления жизни, то она может быть доступна только миллиардерам и политическим лидерам. Хотя я лично ожидаю, что цена на эту технологию быстро упадет. Но если она будет с открытым исходным кодом, то любой сможет использовать ее и дешево предложить другим.
Если у нас будет специализированная технология человеческого генного улучшения, то она, возможно, будет доступна только миллиардерам и политическим лидерам, создавая верхний класс. Точно так же, я лично считаю, что такие технологии будут распространяться, но определенно будет разница между тем, что получают богатые и обычные люди. Но если это будет с открытым исходным кодом, разница между тем, что получают хорошо подключенные и влиятельные люди, и тем, что получают другие, будет намного меньше.
Для любой биотехнологической экосистемы открытая научная безопасная тестовая экосистема может быть более эффективной и честной, чем компании, которые поддерживают свои собственные продукты и получают одобрение покорных регулирующих органов.
Если только немногие смогут попасть в космос, в зависимости от политического направления, некоторые из них могут получить возможность монополизировать целую планету или Луну. Если технологии будут более широко распространены, их шансы на это будут меньше.
Если умные автомобили являются открытым программным обеспечением, вы можете проверить, что производитель не следит за вами, и вам не нужно полагаться на производителя, чтобы продолжать использовать автомобиль.
Мы можем подвести итоги аргумента в виде таблицы:
Обратите внимание, что пузырь «строить это только в случае открытого исходного кода» шире, что отражает большую неопределенность относительно того, сколько прогресса принесет открытый исходный код и насколько он предотвратит концентрацию власти. Тем не менее, во многих случаях в среднем это все равно хорошая сделка.
Открытый исходный код и риски злоупотребления
Одним из основных аргументов против мощных технологий с открытым исходным кодом иногда выдвигается риск нулевой суммы и форм неиерархического злоупотребления. Дать каждому ядерное оружие определенно приведет к окончанию ядерного неравенства. Это реальная проблема, мы видим, как несколько мощных стран используют асимметрию доступа к ядерному оружию для запугивания других, но это также почти наверняка приведет к миллиардам смертей.
В качестве примера негативных социальных последствий без умысла причинения вреда, предоставление каждому возможности на пластическую операцию может привести к игре с нулевой суммой, где каждый тратит значительные ресурсы и даже рискует здоровьем, чтобы стать красивее других, но в конечном итоге мы все привыкаем к более высокому уровню красоты, и общество на самом деле не становится лучше. Некоторые формы биотехнологий могут в массовом масштабе вызвать подобные эффекты. Многие технологии, включая множество биотехнологий, находятся между этими двумя крайностями.
«Я поддерживаю только если это тщательно контролируется надежными контролерами». Это действующий аргумент, поддерживающий движение в противоположном направлении. Контролеры могут позволять позитивные примеры использования технологий, одновременно исключая негативные примеры. Контролерам даже может быть поручена общественная миссия, чтобы обеспечить недискриминационный доступ для всех, кто не нарушает определенные правила.
Однако у меня есть серьезные сомнения по поводу этого метода. Основная причина заключается в том, что я сомневаюсь, существует ли действительно надежный страж в современном мире. Многие из самых нулевых и рискованных случаев — это военные примеры, и армии исторически плохо справляются с самоограничением.
Хорошим примером является советская программа биологического оружия:
В связи с сдержанностью Горбачева по отношению к СДИ и ядерному оружию, его действия, связанные с незаконной бактериологической программой СССР, вызывают недоумение, отмечает Хоффман. Когда Горбачев пришел к власти в 1985 году, несмотря на то, что СССР был подписантом Конвенции о биологическом оружии, в стране уже существовала обширная программа биологического оружия, начатая при Брежневе. Кроме сибирской язвы, СССР также изучал оспу, чуму и болезнь кроликов, но намерения и цели таких оружий остаются неясными.
«Документы Катеевя показывают, что в середине 80-х годов было несколько решений Центрального комитета о программе биологической войны. Трудно поверить, что все это было подписано и опубликовано без ведома Горбачева», — сказал Хоффман.
«Даже существует меморандум от мая 1990 года для Горбачева о программе биологического оружия — этот меморандум все еще не рассказывает всю историю. Советский Союз вводил в заблуждение мир, а также вводил в заблуждение своих собственных лидеров.»
Российская программа биологического оружия: исчезла или исчезла? Утверждается, что после распада Советского Союза программа биологического оружия могла поставляться в другие страны.
Другие страны также имеют серьезные ошибки, которые им необходимо объяснить самостоятельно. Мне не нужно упоминать все страны, участвующие в функциональных исследованиях и раскрытии связанных рисков. В области цифрового программного обеспечения, как в финансах, история вооруженной взаимозависимости показывает, что то, что изначально предназначалось для предотвращения злоупотреблений, легко скользит в одностороннее осуществление власти оператора.
Это еще одна слабость стражей: по умолчанию они будут контролироваться государственными правительствами, политические системы которых могут иметь мотивацию обеспечить равный доступ внутри страны, но нет мощных структур, имеющих миссию обеспечить равный доступ между государствами.
Проясню, я не говорю, что хранитель тоже плох, поэтому давайте будем свободными, по крайней мере, в отношении исследования функциональных возможностей. Напротив, я говорю о двух вещах:
Если что-то имеет достаточный риск «пирогов для всех», что до такой степени, что вы чувствуете себя комфортно только в случае, если это будет сделано через централизованного хранителя, возможно, правильным решением будет вовсе не делать это и инвестировать в альтернативные технологии с меньшими рисками.
Если что-то имеет достаточно "динамики власти" рисков, чтобы вы в данный момент не чувствовали себя комфортно, видя, как это происходит, подумайте о правильном решении - сделать это и использовать открытый подход, чтобы у всех была равная возможность понять и участвовать.
Также стоит отметить, что открытый код не означает полную свободу. Например, я поддерживаю подходы к геоинженерии в духе открытого кода и открытой науки. Но это отличается от того, что «любой может изменить русло реки и выбрасывать в атмосферу то, что им нравится»; на практике это также не приведет к такому результату: существуют законы и международная дипломатия, которые делают такие действия легко обнаруживаемыми и обеспечивают соблюдение любых соглашений.
Открытая ценность заключается в обеспечении демократии технологий, доступных для многих стран, а не только для одной; а также в увеличении доступности информации, чтобы люди могли более эффективно формировать собственные суждения о том, является ли то, что делается, эффективным и безопасным.
В своей основе я рассматриваю открытый код как способ достижения сильнейшей точки Шеллинга в технологии с меньшими затратами, концентрацией власти и риском асимметрии информации. Возможно, мы можем попытаться создать более изящные институты для разделения положительных и отрицательных аспектов технологии, но в хаотичном реальном мире наиболее вероятным подходом является обеспечение права общественности на информацию, то есть открытое происходящее, где любой может понять, что происходит, и участвовать в этом.
В большинстве случаев огромная ценность ускоренного развития технологий значительно превышает эти опасения. В редких случаях крайне важно замедлить развитие технологий до тех пор, пока не станут доступны меры противодействия или альтернативные способы достижения тех же целей.
Тем не менее, в рамках существующей структуры технологического развития выбор открытого исходного кода как способа технологического прогресса приводит к инкрементальным улучшениям, представляя собой третий вариант: меньшее внимание к скорости прогресса и большее внимание к стилю прогресса, а также использование ожидания открытого исходного кода в качестве более приемлемого рычага для продвижения вещей в лучшем направлении — это недооцененный подход.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
Виталик опубликовал новое сообщение: Открытый исходный код как третий путь к смягчению технической централизации недооценен.
Автор: Виталик Бутерин
Собрано и составлено: Джанна, ChainCatcher
ChainCatcher провел整理 и компиляцию содержимого (с сокращениями).
Ключевая идея:
Радикальные технологии могут быть более доступны богатым и влиятельным, что усугубляет социальное неравенство, приводит к разрыву в продолжительности жизни и преимуществах между богатыми и бедными, и даже формирует глобальный низший класс.
Злоупотребление технологиями существует в другой форме, когда производители проецируют власть на пользователей через сбор данных, сокрытие информации и так далее, что отличается от неравного доступа к технологиям.
Открытый исходный код — это недооцененный третий путь, который может улучшить равенство доступа к технологиям и равенство производителей, повысить проверяемость и устранить зависимость от поставщиков.
Противники открытого кода считают, что он подвержен риску злоупотребления, но централизованный контроль со стороны хранителей ненадежен, легко подвержен злоупотреблению в военных целях и трудно гарантировать равенство между государствами.
Если существует высокий риск злоупотребления технологиями, лучшим решением может быть их отсутствие; если динамика власти вызывает дискомфорт, можно использовать открытый исходный код, чтобы сделать его более справедливым.
Открытость не означает свободу действий; она может сочетаться с законами и другими нормами, ключевым моментом является обеспечение демократизации технологий и доступности информации.
Одно из беспокойств, о которых мы часто слышим, заключается в том, что некоторые радикальные технологии могут усугубить неравенство власти, поскольку эти технологии неизбежно будут доступны только богатым и привилегированным слоям.
Вот цитата человека, который выражает беспокойство о последствиях продления жизни:
«Некоторые люди не будут оставлены позади? Сделаем ли мы общество еще более неравным, чем сейчас?» — спросил он. Тульяпуркар прогнозирует, что резкий рост продолжительности жизни будет ограничен богатыми странами, граждане которых могут позволить себе технологии против старения, а правительства могут финансировать научные исследования. Этот разрыв еще больше усложняет текущие дебаты о доступности медицинского обслуживания, поскольку богатые и бедные не только увеличивают разрыв в качестве жизни, но и все больше удаляются друг от друга по продолжительности жизни.
«Крупные фармацевтические компании имеют последовательную репутацию, проявляя большую строгость в предоставлении продуктов людям, которые не могут за них заплатить», — сказал Тулйапуркар.
«Если технологии антивозрастной терапии будут распространяться на неконтролируемом свободном рынке, то, на мой взгляд, вполне вероятно, что в конечном итоге у нас сформируется постоянный глобальный нижний класс, страны, которые будут заблокированы в условиях сегодняшней смертности», — сказал Тульяпуркар. «Если это произойдет, возникнет обратная связь, создающая порочный круг. Те страны, которые будут исключены, навсегда останутся вне».
Вот аналогичное яркое выражение из статьи, выражающей обеспокоенность последствиями улучшения человеческих генов:
В начале этого месяца ученые объявили о том, что они отредактировали гены в человеческих эмбрионах, удалив патогенную мутацию. Эта работа удивительна и является ответом на молитвы многих родителей. Кто не хотел бы иметь возможность предотвратить страдания своих детей, которые сегодня можно избежать?
Но это не будет конечной точкой. Многие родители хотят использовать генетические улучшения, чтобы обеспечить своим детям наилучшие преимущества. Люди с возможностями могут получить доступ к таким технологиям. С появлением возможностей этические проблемы выходят за рамки окончательной безопасности таких технологий. Высокая стоимость программ приведет к дефициту и усугубит уже существующее неравенство в доходах.
Другие технические области с аналогичными точками зрения:
Цифровые технологии в целом:
Космические путешествия:
Солнечно-земная инженерия:
Во многих критических отзывах о новых технологиях можно найти эту тему. Связанная с ней, но по своей сути отличная тема заключается в том, что технологические продукты используются как инструменты для сбора данных, запирания поставщиков, умышленного сокрытия побочных эффектов (например, современные вакцины подвергались такой критике) и других форм злоупотреблений.
Новые технологии часто создают больше возможностей, позволяя человеку получить что-то, не предоставляя прав на это или полной информации, поэтому с этой точки зрения старые технологии кажутся более безопасными. Это также форма усиления власти элиты за счет других, но проблема заключается в том, что производители проецируют свою власть на пользователей через технологии, а не в неравенстве доступа, как в предыдущем примере.
Я лично очень поддерживаю технологии. Если выбирать между «дальнейшим продвижением» и «сохранением текущего положения», несмотря на риски, я с радостью поддержу продвижение всего, кроме очень немногих проектов (например, исследований в области функциональности, оружия и суперумного ИИ).
Это связано с тем, что в целом преимущества заключаются в более долгой, более здоровой жизни, более процветающем обществе, сохранении большей человеческой значимости в эпоху быстрого прогресса ИИ и поддержании культурной преемственности через пожилое поколение как живых людей, а не воспоминания из учебников истории.
Но если я поставлю себя на место тех, кто не слишком оптимистично настроен по поводу позитивного влияния, или тех, кто больше беспокоится о том, что элита использует новые технологии для управления экономикой и осуществления контроля, или о тех, кто совмещает обе эти точки зрения? Например, я уже испытывал такие чувства по поводу умных домашних устройств, где преимущества общения с лампочкой компенсируются моими опасениями о том, чтобы не передать свою личную жизнь Google или Apple.
Если бы у меня была более пессимистичная гипотеза, я мог бы представить, что у меня есть аналогичные чувства по поводу некоторых медиатехнологий: если они позволяют властям более эффективно распространять информацию, то их можно использовать для осуществления контроля и подавления других. Для многих подобных технологий выгоды, которые мы получаем от лучшей информации или лучшего развлечения, недостаточны для компенсации того, как они перераспределяют власть.
Открытый исходный код как третий путь
Я считаю, что одной из серьезно недооцененных точек зрения в этих случаях является: технологии, поддерживающие только открытые способы разработки.
Аргумент о том, что открытый код ускоряет прогресс, кажется очень убедительным: он облегчает людям построение на основе инноваций друг друга. В то же время аргумент о том, что требования открытого кода замедляют прогресс, также кажется весьма убедительным: он препятствует людям использовать множество потенциально прибыльных стратегий.
Но наиболее интересным последствием открытого кода являются направления, которые не связаны с темпами прогресса:
Открытый код улучшает доступ к равенству. Если что-то является открытым кодом, оно естественно доступно для любого человека в любой стране. Для физических товаров и услуг людям все еще нужно платить предельные издержки, но во многих случаях высокие цены на патентованные продукты связаны с тем, что фиксированные издержки на изобретение этого продукта слишком высоки, чтобы привлечь больше конкуренции, поэтому предельные издержки часто довольно низки, как это происходит в фармацевтической отрасли.
Открытый исходный код улучшает равенство доступа для производителей. Одной из критик является то, что предоставление конечных продуктов людям бесплатно не помогает им приобрести навыки и опыт, необходимые для продвижения в глобальной экономике к процветанию, что является действительно надежной гарантией качественной жизни на длительный срок. Открытый исходный код не таков, он по своей сути предназначен для того, чтобы люди из любой точки мира могли стать производителями на всех этапах цепочки поставок, а не только потребителями.
Открытый исходный код улучшает проверяемость. Если что-то является открытым исходным кодом, в идеале оно должно включать не только вывод, но и процесс его создания, выбор параметров и т. д., что делает более простым проверку того, что вы получили именно то, что заявляет поставщик, и позволяет третьим сторонам исследовать скрытые недостатки.
Открытые источники устраняют возможность привязки к поставщику. Если что-то является открытым, производитель не может сделать его бесполезным с помощью удаленной функции или простого банкротства, как в случае с высоко компьютеризированными / сетевыми автомобилями, которые перестают работать после закрытия производителя. У вас всегда есть право самостоятельно исправить или запросить помощь у других поставщиков.
Мы можем проанализировать это с точки зрения некоторых более радикальных технологий, перечисленных в начале статьи:
Если у нас будет запатентованная технология продления жизни, то она может быть доступна только миллиардерам и политическим лидерам. Хотя я лично ожидаю, что цена на эту технологию быстро упадет. Но если она будет с открытым исходным кодом, то любой сможет использовать ее и дешево предложить другим.
Если у нас будет специализированная технология человеческого генного улучшения, то она, возможно, будет доступна только миллиардерам и политическим лидерам, создавая верхний класс. Точно так же, я лично считаю, что такие технологии будут распространяться, но определенно будет разница между тем, что получают богатые и обычные люди. Но если это будет с открытым исходным кодом, разница между тем, что получают хорошо подключенные и влиятельные люди, и тем, что получают другие, будет намного меньше.
Для любой биотехнологической экосистемы открытая научная безопасная тестовая экосистема может быть более эффективной и честной, чем компании, которые поддерживают свои собственные продукты и получают одобрение покорных регулирующих органов.
Если только немногие смогут попасть в космос, в зависимости от политического направления, некоторые из них могут получить возможность монополизировать целую планету или Луну. Если технологии будут более широко распространены, их шансы на это будут меньше.
Если умные автомобили являются открытым программным обеспечением, вы можете проверить, что производитель не следит за вами, и вам не нужно полагаться на производителя, чтобы продолжать использовать автомобиль.
Мы можем подвести итоги аргумента в виде таблицы:
Обратите внимание, что пузырь «строить это только в случае открытого исходного кода» шире, что отражает большую неопределенность относительно того, сколько прогресса принесет открытый исходный код и насколько он предотвратит концентрацию власти. Тем не менее, во многих случаях в среднем это все равно хорошая сделка.
Открытый исходный код и риски злоупотребления
Одним из основных аргументов против мощных технологий с открытым исходным кодом иногда выдвигается риск нулевой суммы и форм неиерархического злоупотребления. Дать каждому ядерное оружие определенно приведет к окончанию ядерного неравенства. Это реальная проблема, мы видим, как несколько мощных стран используют асимметрию доступа к ядерному оружию для запугивания других, но это также почти наверняка приведет к миллиардам смертей.
В качестве примера негативных социальных последствий без умысла причинения вреда, предоставление каждому возможности на пластическую операцию может привести к игре с нулевой суммой, где каждый тратит значительные ресурсы и даже рискует здоровьем, чтобы стать красивее других, но в конечном итоге мы все привыкаем к более высокому уровню красоты, и общество на самом деле не становится лучше. Некоторые формы биотехнологий могут в массовом масштабе вызвать подобные эффекты. Многие технологии, включая множество биотехнологий, находятся между этими двумя крайностями.
«Я поддерживаю только если это тщательно контролируется надежными контролерами». Это действующий аргумент, поддерживающий движение в противоположном направлении. Контролеры могут позволять позитивные примеры использования технологий, одновременно исключая негативные примеры. Контролерам даже может быть поручена общественная миссия, чтобы обеспечить недискриминационный доступ для всех, кто не нарушает определенные правила.
Однако у меня есть серьезные сомнения по поводу этого метода. Основная причина заключается в том, что я сомневаюсь, существует ли действительно надежный страж в современном мире. Многие из самых нулевых и рискованных случаев — это военные примеры, и армии исторически плохо справляются с самоограничением.
Хорошим примером является советская программа биологического оружия:
В связи с сдержанностью Горбачева по отношению к СДИ и ядерному оружию, его действия, связанные с незаконной бактериологической программой СССР, вызывают недоумение, отмечает Хоффман. Когда Горбачев пришел к власти в 1985 году, несмотря на то, что СССР был подписантом Конвенции о биологическом оружии, в стране уже существовала обширная программа биологического оружия, начатая при Брежневе. Кроме сибирской язвы, СССР также изучал оспу, чуму и болезнь кроликов, но намерения и цели таких оружий остаются неясными.
«Документы Катеевя показывают, что в середине 80-х годов было несколько решений Центрального комитета о программе биологической войны. Трудно поверить, что все это было подписано и опубликовано без ведома Горбачева», — сказал Хоффман.
«Даже существует меморандум от мая 1990 года для Горбачева о программе биологического оружия — этот меморандум все еще не рассказывает всю историю. Советский Союз вводил в заблуждение мир, а также вводил в заблуждение своих собственных лидеров.»
Российская программа биологического оружия: исчезла или исчезла? Утверждается, что после распада Советского Союза программа биологического оружия могла поставляться в другие страны.
Другие страны также имеют серьезные ошибки, которые им необходимо объяснить самостоятельно. Мне не нужно упоминать все страны, участвующие в функциональных исследованиях и раскрытии связанных рисков. В области цифрового программного обеспечения, как в финансах, история вооруженной взаимозависимости показывает, что то, что изначально предназначалось для предотвращения злоупотреблений, легко скользит в одностороннее осуществление власти оператора.
Это еще одна слабость стражей: по умолчанию они будут контролироваться государственными правительствами, политические системы которых могут иметь мотивацию обеспечить равный доступ внутри страны, но нет мощных структур, имеющих миссию обеспечить равный доступ между государствами.
Проясню, я не говорю, что хранитель тоже плох, поэтому давайте будем свободными, по крайней мере, в отношении исследования функциональных возможностей. Напротив, я говорю о двух вещах:
Если что-то имеет достаточный риск «пирогов для всех», что до такой степени, что вы чувствуете себя комфортно только в случае, если это будет сделано через централизованного хранителя, возможно, правильным решением будет вовсе не делать это и инвестировать в альтернативные технологии с меньшими рисками.
Если что-то имеет достаточно "динамики власти" рисков, чтобы вы в данный момент не чувствовали себя комфортно, видя, как это происходит, подумайте о правильном решении - сделать это и использовать открытый подход, чтобы у всех была равная возможность понять и участвовать.
Также стоит отметить, что открытый код не означает полную свободу. Например, я поддерживаю подходы к геоинженерии в духе открытого кода и открытой науки. Но это отличается от того, что «любой может изменить русло реки и выбрасывать в атмосферу то, что им нравится»; на практике это также не приведет к такому результату: существуют законы и международная дипломатия, которые делают такие действия легко обнаруживаемыми и обеспечивают соблюдение любых соглашений.
Открытая ценность заключается в обеспечении демократии технологий, доступных для многих стран, а не только для одной; а также в увеличении доступности информации, чтобы люди могли более эффективно формировать собственные суждения о том, является ли то, что делается, эффективным и безопасным.
В своей основе я рассматриваю открытый код как способ достижения сильнейшей точки Шеллинга в технологии с меньшими затратами, концентрацией власти и риском асимметрии информации. Возможно, мы можем попытаться создать более изящные институты для разделения положительных и отрицательных аспектов технологии, но в хаотичном реальном мире наиболее вероятным подходом является обеспечение права общественности на информацию, то есть открытое происходящее, где любой может понять, что происходит, и участвовать в этом.
В большинстве случаев огромная ценность ускоренного развития технологий значительно превышает эти опасения. В редких случаях крайне важно замедлить развитие технологий до тех пор, пока не станут доступны меры противодействия или альтернативные способы достижения тех же целей.
Тем не менее, в рамках существующей структуры технологического развития выбор открытого исходного кода как способа технологического прогресса приводит к инкрементальным улучшениям, представляя собой третий вариант: меньшее внимание к скорости прогресса и большее внимание к стилю прогресса, а также использование ожидания открытого исходного кода в качестве более приемлемого рычага для продвижения вещей в лучшем направлении — это недооцененный подход.