ChainCatcher впорядкував і скомпонував вміст (з скороченнями).
Основна думка:
Радикальні технології можуть бути легше доступні для багатих і впливових, що посилює соціальну нерівність, призводить до розриву в тривалості життя та перевагах між багатими і бідними, а також може сформувати глобальний нижчий клас.
Зловживання технологіями має іншу форму, коли виробники через збір даних, приховування інформації тощо проектують владу на користувачів, що відрізняється від нерівності доступу до технологій.
Відкритий код є недооціненим третім шляхом, який може покращити рівність доступу до технологій та рівність виробників, підвищити перевіряємість та усунути прив'язку до постачальників.
Протилежна точка зору щодо відкритого коду вважає, що він містить ризики зловживання, але централізований контроль є ненадійним, його легко зловживати у військових та інших цілях, і важко забезпечити рівність між країнами.
Якщо технологія має високий ризик зловживання, кращим рішенням може бути відмова від її використання; якщо динаміка влади викликає дискомфорт, можна використовувати відкритий код для забезпечення більшої справедливості.
Відкритий код не означає свободу вільного плину, його можна поєднати з законами та іншими нормами, основна мета - забезпечити демократизацію технологій та доступність інформації.
Ми часто чуємо про одну з тривог, що деякі радикальні технології можуть посилити нерівність влади, оскільки ці технології неминуче будуть доступні лише багатим і представникам еліти.
Ось цитата особи, яка висловлює занепокоєння щодо наслідків подовження життя:
«Чи не залишаться деякі люди позаду? Чи не зробимо ми суспільство ще більш нерівним, ніж зараз?» – запитав він. Тулжапуркар прогнозує, що збільшення тривалості життя буде обмежено багатими країнами, громадяни яких можуть дозволити собі технології проти старіння, а уряди можуть фінансувати наукові дослідження. Ця різниця ще більше ускладнює поточну дискусію про доступність медичного обслуговування, оскільки багаті й бідні не лише віддаляються один від одного в якості життя, але й все більше віддаляються в тривалості життя.
«Великі фармацевтичні компанії мають послідовну репутацію того, що вони дуже суворі у наданні продукції людям, які не можуть оплатити», – сказав Тульяпуркар.
Якщо технології проти старіння будуть розподілятися на неконтрольованому вільному ринку, «на мою думку, цілком ймовірно, що врешті-решт ми сформуємо постійний глобальний нижчий клас, країни яких будуть заблоковані в умовах смертності сьогоднішнього дня», - сказав Тулйапуркар. «Якщо це станеться, виникне негативний зворотний зв'язок, що призведе до порочного кола. Країни, які будуть виключені, назавжди залишаться виключеними.»
Ось таке ж сильне висловлювання з статті, що стосується занепокоєння наслідками покращення людських генів:
На початку цього місяця вчені оголосили, що вони редагували гени в людських ембріонах, видаливши патогенну мутацію. Ця робота вражає і є відповіддю на молитви багатьох батьків. Хто не хоче мати можливість запобігти стражданням своїх дітей, які сьогодні можна було б уникнути?
Але це не буде кінцем. Багато батьків хочуть забезпечити своїм дітям найкращі переваги через генетичні модифікації. Люди, які мають можливості, можуть отримати ці технології. З появою можливостей етичні питання виходять за межі остаточної безпечності таких технологій. Високі витрати на програми призведуть до дефіциту та поглиблять вже існуючу нерівність у доходах.
Схожі погляди в інших технічних сферах:
Цифрові технології в цілому:
Космічні подорожі:
Сонячно-земні технології:
У багатьох критиці нових технологій можна знайти цю тему. Однією з пов'язаних, але сутнісно відмінних тем є те, що технологічні продукти використовуються як інструменти для збору даних, блокування постачальників, навмисного приховування побічних ефектів (як сучасні вакцини критикувались таким чином) та інших форм зловживання.
Нові технології часто створюють більше можливостей, дозволяючи людині отримати щось, але не надаючи їй прав або повної інформації про це. Тому з цієї точки зору старі технології часто виглядають більш безпечними. Це також форма посилення технікою привілейованих верств суспільства за рахунок інших, але проблема полягає в тому, що виробники проекціюють свою владу на користувачів через технології, а не в нерівності доступу, згадуваній у попередньому прикладі.
Я особисто дуже підтримую технології, і якщо мова йде про бінарний вибір «подальшого просування» або «підтримки статус-кво», незважаючи на ризики, я був би радий просувати все, крім дуже небагатьох проектів (таких як дослідження функцій, зброя та суперінтелектуальний ШІ).
Це тому, що в загальному, переваги полягають у більш тривалому, більш здоровому житті, більш процвітаючому суспільстві, збереженні більшої людської релевантності в епоху швидкого прогресу ШІ, підтриманні культурної безперервності через старше покоління як живих людей, а не спогадів з історичних книг.
Але якщо я поставлю себе на місце тих, хто не дуже оптимістично ставиться до позитивного впливу, або більше стурбований тим, що можновладці використають нові технології для домінування в економіці та контролю, або ж тим і іншим? Наприклад, я вже маю таке відчуття щодо продуктів розумного дому, що переваги спілкування з лампочками компенсуються моїми побоюваннями, що я не хочу дати можливість Google або Apple контролювати моє особисте життя.
Якщо я маю більш песимістичні припущення, я також можу уявити, що маю подібні почуття щодо певних медіа-технологій: якщо вони дозволяють еліті більш ефективно транслювати інформацію, то їх можна використовувати для здійснення контролю та затоплення інших. Щодо багатьох таких технологій, вигоди, які ми отримуємо від кращої інформації або кращих розваг, не компенсують їх спосіб перерозподілу влади.
Відкритий код як третій шлях
Я вважаю, що в цих випадках серйозно недооцінюється одна точка зору: технології, які підтримуються лише відкритим способом розробки.
Аргумент щодо відкритого коду, що прискорює прогрес, є дуже переконливим: він полегшує людям створення на основі інновацій один одного. Водночас аргумент, що вимога відкритого коду гальмує прогрес, також є дуже переконливим: це заважає людям використовувати велику кількість потенційно прибуткових стратегій.
Але найцікавіші наслідки відкритого коду стосуються напрямків, які не пов'язані з швидкістю прогресу:
Відкритий код покращує рівність доступу. Якщо щось є відкритим, воно природно доступне для будь-якої країни і будь-якої людини. Для фізичних товарів і послуг людям все ще потрібно оплачувати граничні витрати, але в багатьох випадках висока ціна патентованих продуктів пояснюється тим, що фіксовані витрати на їх створення занадто високі, щоб залучити більше конкурентів, тому граничні витрати часто є досить низькими, як це відбувається в фармацевтичній промисловості.
Відкритий код покращує рівний доступ для виробників. Однією з критик є те, що безкоштовна пропозиція кінцевих продуктів людям не допомагає здобути навички та досвід, які дозволять їм піднятися в глобальній економіці до процвітання, що є справжньою надійною гарантією тривалого отримання якісного життя. Відкритий код не є таким; його суть полягає в тому, щоб люди в будь-якій точці світу могли стати виробниками на всіх етапах постачальницького ланцюга, а не лише споживачами.
Відкритий код покращує перевірку. Якщо щось є відкритим кодом, в ідеалі це не лише включає вихідні дані, але й процес його винаходу, вибір параметрів тощо, тоді легше перевірити, що ви отримали те, що постачальник стверджує, і дозволити третім особам досліджувати приховані недоліки.
Відкритий вихід з-під контролю постачальника. Якщо щось є відкритим, виробник не може зробити його непридатним шляхом віддаленого видалення функцій або просто банкрутства, як, наприклад, надзвичайно автоматизовані/мережеві автомобілі, які не можуть працювати після закриття виробника. Ви завжди маєте право самостійно виправити або запросити інших постачальників.
Ми можемо проаналізувати це з деяких більш радикальних технологічних перспектив, які наведені на початку статті:
Якщо ми матимемо власну технологію подовження життя, то вона може бути доступна лише мільярдерам і політичним лідерам. Хоча я особисто очікую, що ціна на цю технологію швидко знизиться. Але якщо вона буде з відкритим вихідним кодом, то будь-хто зможе її використовувати і дешево надавати іншим.
Якщо у нас є спеціалізовані технології підвищення людських генів, то вони можуть бути доступні лише мільярдерам і політичним лідерам, створюючи вищий клас. Так само, я особисто вважаю, що такі технології розповсюдяться, але між тим, що отримують багаті та звичайні люди, безумовно, існуватиме розрив. Але якщо це буде з відкритим кодом, розрив між тим, що отримують добре з'єднані та впливові особи, і тим, що отримують інші люди, буде значно меншим.
Для будь-якої біотехнологічної екосистеми, відкритий науковий тестовий екосистем може бути більш ефективним і чесним, ніж коли компанії підтримують свої власні продукти і їх санкціонують підпорядковані регулятори.
Якщо лише кілька людей зможуть потрапити в космос, залежно від політичних напрямків, деякі з них можуть отримати можливість монополізувати цілу планету або Місяць. Якщо технології будуть більш широко розподілені, їхні можливості для цього будуть меншими.
Якщо розумний автомобіль є з відкритим кодом, то ви можете перевірити, що виробник не стежить за вами, і не залежати від виробника для продовження використання автомобіля.
Ми можемо підсумувати аргументи в таблиці:
Зверніть увагу, що «будувати це лише у випадку відкритого коду» - бульбашка ширша, що відображає більшу невизначеність щодо того, скільки прогресу принесе відкритий код і скільки ризиків концентрації влади він запобігатиме. Але навіть у багатьох випадках, в середньому, це все ще вигідна угода.
Відкритий код і ризики зловживання
Основний аргумент проти відкритих потужних технологій іноді полягає в ризику нульової суми та неієрархічних форм зловживання. Надання кожному ядерної зброї безсумнівно призведе до закінчення ядерної нерівності. Це реальна проблема, ми бачимо, як кілька потужних країн використовують асиметричний доступ до ядерної зброї, щоб залякувати інших, але це також, безсумнівно, призведе до мільярдів смертей.
Як приклад негативних соціальних наслідків без умисного заподіяння шкоди, надання кожному можливості на пластичну хірургію може призвести до гри з нульовою сумою, коли кожен витрачає великі ресурси, навіть ризикує здоров'ям, щоб стати красивішим за інших, але врешті-решт ми всі звикаємо до більш високих стандартів краси, і суспільство насправді не стає кращим. Деякі форми біотехнологій можуть мати подібні ефекти в масштабах. Багато технологій, включаючи багато біотехнологій, знаходяться між цими двома крайнощами.
«Я підтримую лише в тому випадку, якщо це ретельно контролюється надійними воротарями». Це дійсний аргумент, який підтримує протилежний напрямок. Воротарі можуть дозволяти позитивне використання технологій, одночасно виключаючи негативні випадки. Воротарям навіть може бути доручена громадська місія, щоб забезпечити недискримінаційний доступ для всіх, хто не порушує певні правила.
Проте я маю сильні за замовчуванням сумніви щодо цього підходу. Основна причина полягає в тому, що я сумніваюся, чи насправді існують надійні охоронці в сучасному світі. Багато з найзапекліших і найризикованіших випадків є військовими, а армія історично має погану репутацію в обмеженні самої себе.
Хорошим прикладом є біологічна програма озброєнь Радянського Союзу:
З огляду на стриманість Горбачова щодо SDI та ядерної зброї, його дії, пов'язані з незаконною біологічною програмою зброї в СРСР, викликають подив, зазначає Хоффман. Коли Горбачов прийшов до влади в 1985 році, незважаючи на те, що СРСР був підписантом Конвенції про біологічну зброю, вже існувала широка програма біологічної зброї, розпочата Брежнєвим. Окрім сибірської виразки, СРСР також досліджував віспу, чуму та кролячий геморагічний септицемію, але наміри та цілі таких видів зброї залишаються невизначеними.
«Документи Катеєва показують, що в середині та наприкінці 80-х років було ухвалено кілька рішень Центрального комітету щодо біологічної війни. Важко повірити, що все це було підписано та опубліковано без відома Горбачова», — сказав Хофман.
«Навіть є записка від травня 1990 року до Горбачова про програму біологічної зброї — ця записка все ще не розповідає всього. Радянський Союз ввів в оману світ, а також своїх власних лідерів.»
Російська програма біологічної зброї: зникла чи пропала? Аргументується, що після розпаду Радянського Союзу ця програма біологічної зброї могла бути передана іншим країнам.
Інші країни також мають суттєві помилки, які потребують їх власного пояснення. Мені не потрібно згадувати всі країни, які беруть участь у функціонуванні одержання досліджень та їхньому розкритті прихованих ризиків. У сфері цифрового програмного забезпечення, як фінансовому, так і в озброєній взаємозалежності, історія свідчить, що те, що спочатку призначалося для запобігання зловживанням, легко перетворюється на одностороннє здійснення влади з боку операторів.
Це ще одна слабкість «воротарів»: за замовчуванням вони будуть контролюватися державними урядами, політичні системи яких можуть мати мотиви забезпечити рівний доступ всередині країни, але немає потужних суб'єктів, які мають місію забезпечити рівний доступ між країнами.
Дозвольте прояснити, я не кажу, що охоронці також погані, тому давайте будемо вільними, принаймні щодо дослідження функціональних здобутків - ні. Навпаки, я кажу про дві речі:
Якщо щось має достатній ризик "взаємного зловживання", що робить вас комфортним лише в умовах блокування під контролем централізованого адміністратора, правильним рішенням може бути зовсім не робити це і інвестувати в альтернативні технології з кращими ризиками.
Якщо щось має достатньо ризику «динаміки влади», що ви наразі зовсім не відчуваєте себе комфортно, спостерігаючи за його розвитком, розгляньте правильне рішення, щоб зробити це, і робіть це у відкритий спосіб, щоб кожен мав рівні можливості зрозуміти та взяти участь.
Слід також звернути увагу на те, що відкрите програмне забезпечення не означає свободу дій. Наприклад, я підтримую реалізацію інженерії Землі у відкритий та відкритий науковий спосіб. Але це не те ж саме, що «будь-хто може змінити русло річки і скинути в атмосферу все, що хоче», на практиці це також не призведе до цього: існують закони та міжнародна дипломатія, такі дії легко виявити, що робить будь-яку угоду досить виконуваною.
Відкрита цінність - це забезпечення демократизації технологій, доступних для багатьох країн, а не лише для однієї; а також підвищення доступності інформації, щоб люди могли ефективніше формувати свої судження про те, чи є те, що робиться, ефективним і безпечним.
Насамперед я вважаю відкритий код тим, як досягти найсильнішої точки Шелліна в технологіях з меншими фінансовими витратами, концентрацією влади та ризиками інформаційної асиметрії. Можливо, ми можемо спробувати створити більш витончені установи, щоб відокремити позитивні та негативні ефекти технологій, але в хаотичному реальному світі найбільш імовірним підходом є гарантія права громадськості на інформацію, тобто те, що речі відбуваються публічно, і будь-хто може зрозуміти, що відбувається, і взяти участь у цьому.
У багатьох випадках величезна цінність прискорення розвитку технологій значно перевищує ці занепокоєння. В окремих випадках важливо якомога більше уповільнити розвиток технологій, поки не будуть доступні заходи або альтернативні способи досягнення тих самих цілей.
Однак, у рамках існуючої технологічної розробки, вибір відкритого коду як способу технологічного прогресу приносить інкрементальні покращення як третій варіант: менше уваги до швидкості прогресу, а більше до стилю прогресу, використовуючи очікування відкритого коду як більш прийнятний важіль для просування справ у кращому напрямку, це недооцінений підхід.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
Віталік опублікував нову статтю: Відкритий вихідний код як третій шлях для пом'якшення технологічної централізації недооцінюється
Автор: Віталік Бутерін
Упорядкування та компіляція: Джанна, ChainCatcher
ChainCatcher впорядкував і скомпонував вміст (з скороченнями).
Основна думка:
Радикальні технології можуть бути легше доступні для багатих і впливових, що посилює соціальну нерівність, призводить до розриву в тривалості життя та перевагах між багатими і бідними, а також може сформувати глобальний нижчий клас.
Зловживання технологіями має іншу форму, коли виробники через збір даних, приховування інформації тощо проектують владу на користувачів, що відрізняється від нерівності доступу до технологій.
Відкритий код є недооціненим третім шляхом, який може покращити рівність доступу до технологій та рівність виробників, підвищити перевіряємість та усунути прив'язку до постачальників.
Протилежна точка зору щодо відкритого коду вважає, що він містить ризики зловживання, але централізований контроль є ненадійним, його легко зловживати у військових та інших цілях, і важко забезпечити рівність між країнами.
Якщо технологія має високий ризик зловживання, кращим рішенням може бути відмова від її використання; якщо динаміка влади викликає дискомфорт, можна використовувати відкритий код для забезпечення більшої справедливості.
Відкритий код не означає свободу вільного плину, його можна поєднати з законами та іншими нормами, основна мета - забезпечити демократизацію технологій та доступність інформації.
Ми часто чуємо про одну з тривог, що деякі радикальні технології можуть посилити нерівність влади, оскільки ці технології неминуче будуть доступні лише багатим і представникам еліти.
Ось цитата особи, яка висловлює занепокоєння щодо наслідків подовження життя:
«Чи не залишаться деякі люди позаду? Чи не зробимо ми суспільство ще більш нерівним, ніж зараз?» – запитав він. Тулжапуркар прогнозує, що збільшення тривалості життя буде обмежено багатими країнами, громадяни яких можуть дозволити собі технології проти старіння, а уряди можуть фінансувати наукові дослідження. Ця різниця ще більше ускладнює поточну дискусію про доступність медичного обслуговування, оскільки багаті й бідні не лише віддаляються один від одного в якості життя, але й все більше віддаляються в тривалості життя.
«Великі фармацевтичні компанії мають послідовну репутацію того, що вони дуже суворі у наданні продукції людям, які не можуть оплатити», – сказав Тульяпуркар.
Якщо технології проти старіння будуть розподілятися на неконтрольованому вільному ринку, «на мою думку, цілком ймовірно, що врешті-решт ми сформуємо постійний глобальний нижчий клас, країни яких будуть заблоковані в умовах смертності сьогоднішнього дня», - сказав Тулйапуркар. «Якщо це станеться, виникне негативний зворотний зв'язок, що призведе до порочного кола. Країни, які будуть виключені, назавжди залишаться виключеними.»
Ось таке ж сильне висловлювання з статті, що стосується занепокоєння наслідками покращення людських генів:
На початку цього місяця вчені оголосили, що вони редагували гени в людських ембріонах, видаливши патогенну мутацію. Ця робота вражає і є відповіддю на молитви багатьох батьків. Хто не хоче мати можливість запобігти стражданням своїх дітей, які сьогодні можна було б уникнути?
Але це не буде кінцем. Багато батьків хочуть забезпечити своїм дітям найкращі переваги через генетичні модифікації. Люди, які мають можливості, можуть отримати ці технології. З появою можливостей етичні питання виходять за межі остаточної безпечності таких технологій. Високі витрати на програми призведуть до дефіциту та поглиблять вже існуючу нерівність у доходах.
Схожі погляди в інших технічних сферах:
Цифрові технології в цілому:
Космічні подорожі:
Сонячно-земні технології:
У багатьох критиці нових технологій можна знайти цю тему. Однією з пов'язаних, але сутнісно відмінних тем є те, що технологічні продукти використовуються як інструменти для збору даних, блокування постачальників, навмисного приховування побічних ефектів (як сучасні вакцини критикувались таким чином) та інших форм зловживання.
Нові технології часто створюють більше можливостей, дозволяючи людині отримати щось, але не надаючи їй прав або повної інформації про це. Тому з цієї точки зору старі технології часто виглядають більш безпечними. Це також форма посилення технікою привілейованих верств суспільства за рахунок інших, але проблема полягає в тому, що виробники проекціюють свою владу на користувачів через технології, а не в нерівності доступу, згадуваній у попередньому прикладі.
Я особисто дуже підтримую технології, і якщо мова йде про бінарний вибір «подальшого просування» або «підтримки статус-кво», незважаючи на ризики, я був би радий просувати все, крім дуже небагатьох проектів (таких як дослідження функцій, зброя та суперінтелектуальний ШІ).
Це тому, що в загальному, переваги полягають у більш тривалому, більш здоровому житті, більш процвітаючому суспільстві, збереженні більшої людської релевантності в епоху швидкого прогресу ШІ, підтриманні культурної безперервності через старше покоління як живих людей, а не спогадів з історичних книг.
Але якщо я поставлю себе на місце тих, хто не дуже оптимістично ставиться до позитивного впливу, або більше стурбований тим, що можновладці використають нові технології для домінування в економіці та контролю, або ж тим і іншим? Наприклад, я вже маю таке відчуття щодо продуктів розумного дому, що переваги спілкування з лампочками компенсуються моїми побоюваннями, що я не хочу дати можливість Google або Apple контролювати моє особисте життя.
Якщо я маю більш песимістичні припущення, я також можу уявити, що маю подібні почуття щодо певних медіа-технологій: якщо вони дозволяють еліті більш ефективно транслювати інформацію, то їх можна використовувати для здійснення контролю та затоплення інших. Щодо багатьох таких технологій, вигоди, які ми отримуємо від кращої інформації або кращих розваг, не компенсують їх спосіб перерозподілу влади.
Відкритий код як третій шлях
Я вважаю, що в цих випадках серйозно недооцінюється одна точка зору: технології, які підтримуються лише відкритим способом розробки.
Аргумент щодо відкритого коду, що прискорює прогрес, є дуже переконливим: він полегшує людям створення на основі інновацій один одного. Водночас аргумент, що вимога відкритого коду гальмує прогрес, також є дуже переконливим: це заважає людям використовувати велику кількість потенційно прибуткових стратегій.
Але найцікавіші наслідки відкритого коду стосуються напрямків, які не пов'язані з швидкістю прогресу:
Відкритий код покращує рівність доступу. Якщо щось є відкритим, воно природно доступне для будь-якої країни і будь-якої людини. Для фізичних товарів і послуг людям все ще потрібно оплачувати граничні витрати, але в багатьох випадках висока ціна патентованих продуктів пояснюється тим, що фіксовані витрати на їх створення занадто високі, щоб залучити більше конкурентів, тому граничні витрати часто є досить низькими, як це відбувається в фармацевтичній промисловості.
Відкритий код покращує рівний доступ для виробників. Однією з критик є те, що безкоштовна пропозиція кінцевих продуктів людям не допомагає здобути навички та досвід, які дозволять їм піднятися в глобальній економіці до процвітання, що є справжньою надійною гарантією тривалого отримання якісного життя. Відкритий код не є таким; його суть полягає в тому, щоб люди в будь-якій точці світу могли стати виробниками на всіх етапах постачальницького ланцюга, а не лише споживачами.
Відкритий код покращує перевірку. Якщо щось є відкритим кодом, в ідеалі це не лише включає вихідні дані, але й процес його винаходу, вибір параметрів тощо, тоді легше перевірити, що ви отримали те, що постачальник стверджує, і дозволити третім особам досліджувати приховані недоліки.
Відкритий вихід з-під контролю постачальника. Якщо щось є відкритим, виробник не може зробити його непридатним шляхом віддаленого видалення функцій або просто банкрутства, як, наприклад, надзвичайно автоматизовані/мережеві автомобілі, які не можуть працювати після закриття виробника. Ви завжди маєте право самостійно виправити або запросити інших постачальників.
Ми можемо проаналізувати це з деяких більш радикальних технологічних перспектив, які наведені на початку статті:
Якщо ми матимемо власну технологію подовження життя, то вона може бути доступна лише мільярдерам і політичним лідерам. Хоча я особисто очікую, що ціна на цю технологію швидко знизиться. Але якщо вона буде з відкритим вихідним кодом, то будь-хто зможе її використовувати і дешево надавати іншим.
Якщо у нас є спеціалізовані технології підвищення людських генів, то вони можуть бути доступні лише мільярдерам і політичним лідерам, створюючи вищий клас. Так само, я особисто вважаю, що такі технології розповсюдяться, але між тим, що отримують багаті та звичайні люди, безумовно, існуватиме розрив. Але якщо це буде з відкритим кодом, розрив між тим, що отримують добре з'єднані та впливові особи, і тим, що отримують інші люди, буде значно меншим.
Для будь-якої біотехнологічної екосистеми, відкритий науковий тестовий екосистем може бути більш ефективним і чесним, ніж коли компанії підтримують свої власні продукти і їх санкціонують підпорядковані регулятори.
Якщо лише кілька людей зможуть потрапити в космос, залежно від політичних напрямків, деякі з них можуть отримати можливість монополізувати цілу планету або Місяць. Якщо технології будуть більш широко розподілені, їхні можливості для цього будуть меншими.
Якщо розумний автомобіль є з відкритим кодом, то ви можете перевірити, що виробник не стежить за вами, і не залежати від виробника для продовження використання автомобіля.
Ми можемо підсумувати аргументи в таблиці:
Зверніть увагу, що «будувати це лише у випадку відкритого коду» - бульбашка ширша, що відображає більшу невизначеність щодо того, скільки прогресу принесе відкритий код і скільки ризиків концентрації влади він запобігатиме. Але навіть у багатьох випадках, в середньому, це все ще вигідна угода.
Відкритий код і ризики зловживання
Основний аргумент проти відкритих потужних технологій іноді полягає в ризику нульової суми та неієрархічних форм зловживання. Надання кожному ядерної зброї безсумнівно призведе до закінчення ядерної нерівності. Це реальна проблема, ми бачимо, як кілька потужних країн використовують асиметричний доступ до ядерної зброї, щоб залякувати інших, але це також, безсумнівно, призведе до мільярдів смертей.
Як приклад негативних соціальних наслідків без умисного заподіяння шкоди, надання кожному можливості на пластичну хірургію може призвести до гри з нульовою сумою, коли кожен витрачає великі ресурси, навіть ризикує здоров'ям, щоб стати красивішим за інших, але врешті-решт ми всі звикаємо до більш високих стандартів краси, і суспільство насправді не стає кращим. Деякі форми біотехнологій можуть мати подібні ефекти в масштабах. Багато технологій, включаючи багато біотехнологій, знаходяться між цими двома крайнощами.
«Я підтримую лише в тому випадку, якщо це ретельно контролюється надійними воротарями». Це дійсний аргумент, який підтримує протилежний напрямок. Воротарі можуть дозволяти позитивне використання технологій, одночасно виключаючи негативні випадки. Воротарям навіть може бути доручена громадська місія, щоб забезпечити недискримінаційний доступ для всіх, хто не порушує певні правила.
Проте я маю сильні за замовчуванням сумніви щодо цього підходу. Основна причина полягає в тому, що я сумніваюся, чи насправді існують надійні охоронці в сучасному світі. Багато з найзапекліших і найризикованіших випадків є військовими, а армія історично має погану репутацію в обмеженні самої себе.
Хорошим прикладом є біологічна програма озброєнь Радянського Союзу:
З огляду на стриманість Горбачова щодо SDI та ядерної зброї, його дії, пов'язані з незаконною біологічною програмою зброї в СРСР, викликають подив, зазначає Хоффман. Коли Горбачов прийшов до влади в 1985 році, незважаючи на те, що СРСР був підписантом Конвенції про біологічну зброю, вже існувала широка програма біологічної зброї, розпочата Брежнєвим. Окрім сибірської виразки, СРСР також досліджував віспу, чуму та кролячий геморагічний септицемію, але наміри та цілі таких видів зброї залишаються невизначеними.
«Документи Катеєва показують, що в середині та наприкінці 80-х років було ухвалено кілька рішень Центрального комітету щодо біологічної війни. Важко повірити, що все це було підписано та опубліковано без відома Горбачова», — сказав Хофман.
«Навіть є записка від травня 1990 року до Горбачова про програму біологічної зброї — ця записка все ще не розповідає всього. Радянський Союз ввів в оману світ, а також своїх власних лідерів.»
Російська програма біологічної зброї: зникла чи пропала? Аргументується, що після розпаду Радянського Союзу ця програма біологічної зброї могла бути передана іншим країнам.
Інші країни також мають суттєві помилки, які потребують їх власного пояснення. Мені не потрібно згадувати всі країни, які беруть участь у функціонуванні одержання досліджень та їхньому розкритті прихованих ризиків. У сфері цифрового програмного забезпечення, як фінансовому, так і в озброєній взаємозалежності, історія свідчить, що те, що спочатку призначалося для запобігання зловживанням, легко перетворюється на одностороннє здійснення влади з боку операторів.
Це ще одна слабкість «воротарів»: за замовчуванням вони будуть контролюватися державними урядами, політичні системи яких можуть мати мотиви забезпечити рівний доступ всередині країни, але немає потужних суб'єктів, які мають місію забезпечити рівний доступ між країнами.
Дозвольте прояснити, я не кажу, що охоронці також погані, тому давайте будемо вільними, принаймні щодо дослідження функціональних здобутків - ні. Навпаки, я кажу про дві речі:
Якщо щось має достатній ризик "взаємного зловживання", що робить вас комфортним лише в умовах блокування під контролем централізованого адміністратора, правильним рішенням може бути зовсім не робити це і інвестувати в альтернативні технології з кращими ризиками.
Якщо щось має достатньо ризику «динаміки влади», що ви наразі зовсім не відчуваєте себе комфортно, спостерігаючи за його розвитком, розгляньте правильне рішення, щоб зробити це, і робіть це у відкритий спосіб, щоб кожен мав рівні можливості зрозуміти та взяти участь.
Слід також звернути увагу на те, що відкрите програмне забезпечення не означає свободу дій. Наприклад, я підтримую реалізацію інженерії Землі у відкритий та відкритий науковий спосіб. Але це не те ж саме, що «будь-хто може змінити русло річки і скинути в атмосферу все, що хоче», на практиці це також не призведе до цього: існують закони та міжнародна дипломатія, такі дії легко виявити, що робить будь-яку угоду досить виконуваною.
Відкрита цінність - це забезпечення демократизації технологій, доступних для багатьох країн, а не лише для однієї; а також підвищення доступності інформації, щоб люди могли ефективніше формувати свої судження про те, чи є те, що робиться, ефективним і безпечним.
Насамперед я вважаю відкритий код тим, як досягти найсильнішої точки Шелліна в технологіях з меншими фінансовими витратами, концентрацією влади та ризиками інформаційної асиметрії. Можливо, ми можемо спробувати створити більш витончені установи, щоб відокремити позитивні та негативні ефекти технологій, але в хаотичному реальному світі найбільш імовірним підходом є гарантія права громадськості на інформацію, тобто те, що речі відбуваються публічно, і будь-хто може зрозуміти, що відбувається, і взяти участь у цьому.
У багатьох випадках величезна цінність прискорення розвитку технологій значно перевищує ці занепокоєння. В окремих випадках важливо якомога більше уповільнити розвиток технологій, поки не будуть доступні заходи або альтернативні способи досягнення тих самих цілей.
Однак, у рамках існуючої технологічної розробки, вибір відкритого коду як способу технологічного прогресу приносить інкрементальні покращення як третій варіант: менше уваги до швидкості прогресу, а більше до стилю прогресу, використовуючи очікування відкритого коду як більш прийнятний важіль для просування справ у кращому напрямку, це недооцінений підхід.