Мустафа Сулейман, співзасновник та CEO компанії Inflection, опублікував матеріал у виданні Fortune, у якому розказав про своє бачення та занепокоєння щодо застосування штучного інтелекту під час політичних виборів. 

Ми публікуємо переклад та головні тезиси з цього матеріалу.

Динаміка влади ШІ

«Зворотний відлік до 2024 року триває, і він, мабуть, стане епохальним роком в американській історії. Але як засновник інноваційної компанії ШІ я закликаю суспільство: не дозволяйте ШІ викрасти центр уваги. У своїй останній книзі «Прийдешня хвиля: технологія, влада та найбільша дилема 21-го століття» я досліджую внутрішню політичну природу технологій, починаючи від часів Гутенберга до нашої цифрової ери.

Технологія, що здається нейтральною, по суті є динамікою влади. Вона може ненавмисно формувати суспільні парадигми та впливати на політичний ландшафт, часто з приголомшливими наслідками.

Історично технічні візіонери мали короткозорість. Вони часто визнавали ширший вплив технологій лише після того, як останні призводили до непередбачуваних наслідків. Нещодавні потрясіння, спричинені соціальними медіа у контексті виборів, є свідченням цього.

Сьогодні бурхлива хвиля розвитку ШІ загрожує ще більше заплутати цей сценарій та потенційно змінити саму структуру нації. І тривожно те, що ця хвиля готова впасти саме тоді, коли ми наближаємося до значущих президентських виборів.

Те, що не дає мені спати – перспектива дезінформації, створеної ШІ. Мова йде про дипфейки, які настільки вишукані, що здатні вплинути навіть на найвибагливіші розуми. Ми вже бачили новонароджені ітерації: як політики говорили різноманітними мовами. Але справжня небезпека ще попереду, у світі, де створювати бездоганні дипфейки так само просто, як вводити пошуковий запит Google.

Уявіть собі хаос, який виник із фейкового відео, оприлюдненого за кілька днів до виборів, на якому показано, як кандидат у президенти висловлює расистські образи. Попри різкі заперечення, громадське сприйняття змінюється, що змінює результати виборів. Пізніше з’ясувалося, що це відео було вигадкою, майстерним глибоким фейком, який неможливо виявити навіть передовими нейронними мережами. У такому сценарії наша фундаментальна довіра до реальності є зруйнованою.

Читайте також: Молодь погано відрізняє фейкові новини від правдивих. На відміну від покоління 65+

Крім цих безпосередніх загроз демократії, довгострокові наслідки ШІ охоплюють глобальну динаміку влади, переосмислення ринків праці, підтримку одних організацій і руйнування інших».

Демократичні ідеали похитнуться

«Однак гострою проблемою є потенційний потік дезінформації, створеної ШІ, яка загрожує виборчим процесам. Небезпека полягає не лише у відвертій брехні, а в тонких, правдоподібних розповідях, які спотворюють правду. У поєднанні з ризиком використання зловмисниками зброї  ШІ політична арена стає справжнім мінним полем.

Основа американської демократії, виборчий процес, поставлена на карту, поки ми переходимо на етапи зародження епохи ШІ. Ми вже є свідками жахливого потенціалу ШІ у маніпулюванні демократичними ідеалами. Дуже важливо, щоб ми зміцнювали цілісність системи та починали з однозначної позиції: ШІ та чатботам не місце у виборчій агітації, особливо не у 2024 році.

Останнім часом голоси, які вимагають регулювання ШІ, зросли, і навіть відлунюють у коридорах технічної спільноти. Консенсус одностайний: нагляд за ШІ є обов’язковим. Проте шлях уперед залишається невизначеним.

Хоча гучна підтримка регуляторних заходів заслуговує похвали, конкретні дієві кроки є потребою часу. Чіткий, гучний перший крок? Заборонити використання ШІ у виборчих кампаніях.

Прийняття законодавства для запобігання виборчій тактиці, керованій ШІ, є негайною гарантією, яка нам потрібна проти зростаючих політичних наслідків припливної сили ШІ. І повірте мені, це має бути лише початком».