Суперінтелект може з'явитися вже до 2040 року, але людство досі не має реалістичного плану безпечного переходу до цієї ери. Таку думку висловив співзасновник Ethereum Віталік Бутерин, коментуючи дискусію між прихильниками концепції AI 2040 та їхніми критиками. Як писав UkrainianWall, Бутерин закликав не віддавати контроль над найпотужнішими системами штучного інтелекту у руки вузького кола корпорацій.
За даними Incrypted, Бутерин звернув увагу на фундаментальне протистояння між двома таборами: одні прогнозують появу суперінтелекту (ASI) ще до кінця цього десятиліття, інші вважають сучасний AI звичайною технологією без проривного потенціалу. «Якби я був упевнений, що сучасний AI — це звичайна технологія, то був би серед критиків AI 2040. Якби був упевнений, що суперінтелект за замовчуванням з'явиться вже до 2030 року, то був би ближче до табору AI 2040», — зазначив він.
Сам Бутерин визнав, що не знає, який зі сценаріїв ближчий до реальності, і залишається відкритим до ідеї тимчасового уповільнення розвитку AI, якщо ризики суттєво зростатимуть.
Відкритий код замість корпоративної монополії
Найбільше занепокоєння у Бутерина викликає модель, за якої контроль над найпотужнішими системами AI залишається у вузького кола організацій. «Мені дуже некомфортно через тезу "відкритий код — це погано, а хороший результат — це коли наші люди мають глобальне домінування"», — підкреслив він.
Співзасновник Ethereum уже тривалий час підтримує концепцію d/acc (децентралізованого прискорення), яка передбачає розвиток технологій, здатних посилити безпеку суспільства незалежно від того, як розвиватиметься AI. Серед ключових напрямів він назвав формальну верифікацію коду, криптографію, безпечне відкрите апаратне забезпечення, біотехнології для протидії пандеміям, продовольчу безпеку та розвиток механізмів перевірки інформації.
План дій: тригери для уповільнення
Бутерин запропонував заздалегідь узгодити перелік об'єктивних тригерів, після яких суспільство могло б повернутися до питання уповільнення розвитку AI. Серед таких тригерів — надзвичайні пандемії, різке зростання безробіття через автоматизацію або інші масштабні загрози.
На його думку, це дозволить вести дискусію не на основі припущень, а спираючись на заздалегідь узгоджені критерії. Водночас Бутерин визнав: універсального рішення наразі не існує. «Зараз я не бачу жодного плану переходу до ери суперінтелекту, який не був би наївним. Можливо, людству доведеться обирати між наївністю і наївністю в квадраті», — сказав він.
Що це означає для звичайних користувачів
Дискусія навколо відкритого коду та децентралізації AI безпосередньо стосується кожного, хто користується інструментами штучного інтелекту. Якщо контроль над найпотужнішими моделями опиниться у руках 2-3 корпорацій, це означатиме, що алгоритми прийматимуть рішення про те, яку інформацію бачить користувач, за закритими правилами. Відкритий код, на якому наполягає Бутерин, дає змогу незалежним дослідникам перевіряти моделі на упередженість, помилки та приховані функції — те, що неможливо зробити із закритими системами на кшталт GPT.
Раніше UkrainianWall писав: МіГ-29 в обмін на технології БпЛА: Косіняк-Камиш підтвердив відновлення переговорів.
Ми вже повідомляли: 470 млн євро на дрони і захист підстанцій: ЄІБ вперше фінансує оборонні технології.