OpenAI розпочинає програму, що надає десять грантів на суму $100 тис. для фінансування експериментів з розробки демократичного процесу прийняття рішень щодо правил, якими мають керуватися системи штучного інтелекту.

Як повідомляє Techcrunch, запуск грантової програми відбувається після закликів OpenAI до створення міжнародного регулятора штучного інтелекту, подібного до органу, що регулює ядерну енергетику. У своїй пропозиції щодо створення такого органу співзасновники OpenAI Сем Альтман, Грег Брокман і Ілля Сатскевер стверджували, що темпи інновацій в ШІ настільки швидкі, що ми не можемо очікувати, що і наявні владні структури належним чином навчать технологію - це також відображається в сьогоднішньому оголошенні.

Зокрема, OpenAI заявляє, що прагне фінансувати окремих осіб, команди та організації для розробки доказів концепції «демократичного процесу», який міг би відповідати на питання обмежень для ШІ. Компанія бажає вчитися на цих експериментах та використовувати їх як основу для більш глобального й амбіційного процесу у майбутньому.

«Хоча ці початкові експерименти наразі не передбачають обов'язковості прийняття рішень, ми сподіваємося, що вони розглянуть питання, пов'язані з прийняттям рішень, та побудують нові демократичні інструменти, які зможуть більш прямо впливати на рішення у майбутньому, — написала компанія у своєму сьогоднішньому блозі. — Цей грант є кроком до встановлення демократичних процесів для нагляду за ... суперрозвідкою».

За допомогою грантів, що надаються некомерційною організацією OpenAI, компанія сподівається створити процес, який відображатиме платонічний ідеал демократії: «широко представницьку» групу людей, які обмінюються думками, беруть участь у сумісних дискусіях і в кінцевому підсумку приймають рішення шляхом прозорого процесу його ухвалення. 

В ідеалі, за словами очільника OpenAI, цей процес допоможе відповісти на питання, при яких умовах ШІ мають засуджувати або критикувати громадських діячів, враховуючи різні погляди між групами щодо цих осіб, а також, які спірні погляди мають бути представлені у результатах ШІ.

«Основна мета цього гранту полягає у стимулюванні інновацій у процесах - нам потрібні вдосконалені демократичні методи керування поведінкою ШІ», — пише OpenAI. «Ми вважаємо, що рішення про те, як поводитиметься ШІ, мають визначатися різними поглядами, що відображають суспільні інтереси».

У своєму оголошенні OpenAI підкреслює, що грантова програма повністю відокремлена від її комерційних інтересів. Однак це трохи складна ситуація, зважаючи на нещодавню критику Альтманом запропонованого регулювання ШІ в ЄС. Це стало особливо помітним, після виступу Альтмана перед Сенатським комітетом Конгресу минулого тижня, де він виступав за дуже специфічний варіант регулювання ШІ, який мав би мінімальний вплив на технологію OpenAI в тому вигляді, в якому вона існує сьогодні.

Нагадаємо, що OpenAI може спробувати залучити до $100 млрд найближчими роками для досягнення своєї мети з розробки генеративного штучного інтелекту.