Співзасновник Ethereum Віталік Бутерін підняв тривогу щодо ризиків, пов’язаних із суперінтелектуальним ШІ, та необхідності сильної захисної механіки.
Коментарі Бутеріна з’являються в час, коли з швидким розвитком штучного інтелекту, занепокоєння щодо безпеки ШІ значно зросли.
План регулювання ШІ від Бутеріна: відповідальність, кнопки паузи та міжнародний контроль
У блозі від 5 січня Віталік Бутерін виклав свою ідею «d/acc або захисного прискорення», де технології повинні розвиватися для захисту, а не для завдання шкоди. Однак це не вперше, коли Бутерін висловлює занепокоєння щодо ризиків, пов’язаних із Штучним Інтелектом.
“Один із способів, яким ШІ, що пішов не так, може погіршити світ, є (майже) найгіршим можливим: він може буквально спричинити вимирання людства,” сказав Бутерін у 2023 році.
Бутерін тепер продовжив свої теорії з 2023 року. За словами Бутеріна, суперінтелект може з’явитися вже через кілька років.
“Схоже, що у нас є трирічні терміни до AGI і ще три роки до суперінтелекту. І тому, якщо ми не хочемо, щоб світ був знищений або потрапив в незворотну пастку, ми не можемо просто прискорювати хороше, ми також повинні уповільнювати погане,” написав Бутерін.
Щоб зменшити ризики, пов’язані з ШІ, Бутерін виступає за створення децентралізованих систем ШІ, які залишаються тісно пов’язаними з людським прийняттям рішень. Забезпечуючи, що ШІ залишається інструментом в руках людей, загроза катастрофічних наслідків може бути мінімізована.
Бутерін потім пояснив, як військові можуть бути відповідальними за сценарій «загибелі від ШІ». Використання ШІ у військових цілях зростає в усьому світі, як це було видно в Україні та Газі. Бутерін також вважає, що будь-яке регулювання ШІ, яке набуде чинності, швидше за все, звільнить військових, що робить їх значною загрозою.
Співзасновник Ethereum далі виклав свої плани щодо регулювання використання ШІ. Він сказав, що першим кроком у уникненні ризиків, пов’язаних з ШІ, є зробити користувачів відповідальними.
“Хоча зв’язок між тим, як модель розробляється, і тим, як вона врешті-решт використовується, часто неясний, користувач вирішує, як саме використовується ШІ,” пояснив Бутерін, підкреслюючи роль, яку відіграють користувачі.
Якщо правила відповідальності не спрацюють, наступним кроком буде впровадження “м’яких пауз”, які дозволять регулюванню ШІ уповільнити темпи потенційно небезпечних досягнень.
“Метою було б мати можливість зменшити доступні обчислювальні потужності у світі на ~90-99% на 1-2 роки в критичний період, щоб виграти більше часу для підготовки людства.”
Він сказав, що паузу можна реалізувати за допомогою верифікації та реєстрації місцезнаходження ШІ.
Іншим підходом було б контроль за апаратним забезпеченням ШІ. Бутерін пояснив, що апаратне забезпечення ШІ може бути оснащене чіпом для контролю.
Чіп дозволить системам ШІ функціонувати лише за умови отримання трьох підписів від міжнародних органів щотижня. Він додав, що принаймні один з органів повинен бути не пов’язаний з військовими.
Тим не менш, Бутерін визнав, що його стратегії мають недоліки і є лише «тимчасовими запобіжниками».
Дисклеймер
Відповідно до принципів проєкту Trust Project, ця авторська стаття представляє точку зору автора і не обов'язково відображає погляди BeInCrypto. BeInCrypto залишається прихильником прозорої звітності та дотримання найвищих стандартів журналістики. Читачам рекомендується перевіряти інформацію самостійно і консультуватися з професіоналами, перш ніж приймати рішення на основі цього контенту. Зверніть увагу, що наші Загальні положення та умови, Полiтика конфіденційності та Дисклеймер були оновлені.
