Reface вже можна назвати одним із найбільш успішних мобільних додатків від українських розробників. Заснована в Києві технологія дозволяє за лічені секунди синтезувати відео за допомогою штучних нейромереж: приміром, поєднуючи обличчя користувача з мемами у форматах роликів і GIF. Завдяки Reface співзасновник Tesla і SpaceX Ілон Маск поєднав своє обличчя з тілом актора Двейна Джонсона й поділився результатами із понад 38 мільйонами підписників у Twitter. Після цього Reface тільки ріс: якщо після запуску в січні додаток (тоді ще під назвою Doublicat) залучив мільйон користувачів, то до серпня ним користувалися вже понад 20 мільйонів. У межах же останнього місяця літа Reface виріс майже вдвічі – ще близько 15 мільйонів залучених користувачів і 35 мільйонів завантажень загалом, розповідають засновники The Village Україна.

Reface став першим додатком українського виробництва, який посів перше місце в топі американського AppStore, випередивши застосунки Tik Tok, Netflix, Hulu та Amazon. На початок вересня він входить у топ-20 в загальних рейтингах безкоштовних додатків AppStore та Google Play Market у США. Про додаток уже написали Forbes, The Verge і Mashable.

Reface продовжує завойовувати аудиторію: за оцінками розробників, у найближчий рік загальна кількість користувачів повинна зрости до сотні мільйонів. Водночас у Reface кажуть, що нараз надали юзерам не більше 10% усього потенціалу технології. Восени вони планують запустити Reface Studio – повноцінний редактор відео на основі технології швидкої обробки синтезованих відео. Наступного року ж очікується запуск функції Full Body Swap – можливості замінювати вже не лише обличчя, а й усе тіло користувача. Та плани Reface навіть більш глобальні – технологію хочуть використовувати не лише для мемів, а для зміни уявлення про персоналізацію в інтернеті та переосмислення всього створеного людством контенту.

У київському офісі Reface працює понад 50 людей, він продовжує рекрутинг технічної команди. Співзасновниками компанії є Роман Могильний, Олесь Петрів, Ярослав Бойко, Дмитро Швець, Іван Алцибєєв, Денис Дмитренко та Кирило Сигида. The Village Україна поспілкувалися про технологію, додаток і відповідальність із виконавчим директором Reface Романом Могильним і технічним директором Олесем Петрівим.

Підтримай The Village!

– Можна сказати, що історія Reface розділилася на два періоди – до та після твіту Ілона Маска. Що ви подумали в момент, коли він поділився вашим додатком із майже 40 мільйонами підписників?

Роман Могильний: Це було щось особливе. Ми, звісно, розуміли, що робимо щось більше, ніж просто фан. Очікували, що це зацінять люди, що це підхоплять зірки. Але щоб відразу потрапити в Ілона Маска – цього ми не очікували. Для нас і технологічного бізнесу загалом – це суперкрутий візіонер, який не зупинився на одному екзиті, а пішов далі. Це людина, яка робить усе, про що ми мріємо в дитинстві: машини, космольоти…

Тому, звичайно, ми були захоплені. Але можу сказати, що довго цей стан не тривав: оскільки на зображеннях стояли наші водні знаки, до нас почали масово заходити нові користувачі.

– Наскільки великий був стрибок у користувачах?

Могильний: У сотні разів. Довелося розширювати структуру хмарних серверів, причому робити це швидко та якісно.

– Це був момент, коли ви зрозуміли – ми це зробили?

Могильний: Ми завжди вірили в те, що робимо. Думаю, це те, що нас завжди виділяло. Навіть у попередніх проєктах, коли все йшло туго. Навіть коли вони провалювалися [сміється]. І тут ми вірили.

І [твіт Маска] був першою валідацією – так, ми на правильному шляху. На різних етапах компанії були різні валідації. Але коли ти працюєш майже цілодобово й намагаєшся віддати всього себе, такі моменти надають сил, щоб рухатися далі.

Співзасновники Reface

– Одна з особливостей історії Reface – це додаток, який створили люди з Могилянки. Є цей стереотип, що всі айтішники здобули освіту в КПІ, а у вас інша історія.

Могильний: У мене червоний диплом, як і в нашого співзасновника Ярослава [Бойка, операційного директора Reface]. Власне, у цьому й сенс: КПІ – це суто технічний ВНЗ, а Могилянка – більш універсальна історія. Я навчався на маркетингу, Ярослав навчався на економіці, а Олесь встиг повчитися і на фізиці, і на програмній інженерії. І Могилянка – це якраз місце, де могли зустрітися такі люди.

Думаю, люди виключно з технічною освітою навряд чи зможуть побудувати круту компанію. Завжди повинна бути альтернативна точка зору, у нас це балансується між основними фаундерами та хлопцями, які до нас приєдналися.

Олесь Петрів: Я від Могилянки отримав усе, що тільки можна отримати від університету: дружину, найкращого друга, партнерів із бізнесу та коло спілкування, з якими я працюю та комунікую щодня [сміється].

Могильний: У нас зараз основний розподіл у компанії за навчальними закладами – це Могилянка або КПІ. Серед технарів досить багато могилянців, загальне співвідношення десь 30% на 30%.

Як працює Reface та як винайшли технологію

– Ви згадали про провали в попередніх проєктах, можете розповісти про нижні точки? Раніше ви працювали і зі створенням сайтів, і з постпродакшном для голлівудських студій. Як використали цей негативний досвід при побудові Reface?

Могильний: Звичайно, факапів було багато [сміється]. У нас була цікава модель: ми і працювали на аутсорс, і готували власні продукти й сервіси. Але, як бачите, робочий сервіс у нас зараз лише один. Тому так, на різних етапах ми закривали різні проєкти. Не знаходили те, що називається product/market fit, усвідомлювали це, перемикалися й рухалися далі.

До моменту, коли ми зайнялися Reface, у нас працював лише один додаток, ми вирішили залишити його та зосередитися на новому продукті. У подібних речах украй важливий фокус – обрати пріоритет і присвячувати йому час. Навіть у межах одного проєкту дуже складно водночас бігти у бік користувачів і бізнес-клієнтів. Тому зараз для нас B2C є основною історією, а B2B – додатковою.

Петрів: Ми перепробували неймовірну кількість різних напрямів у машинному навчанні. Намагалися перетворювати на продукти технології аналізу тональності, автоматичної конвертації відео в 3D. Ми мали продукти, мали клієнтів. Але більш важливо, що завдяки цьому досвіду ми отримали фідбек від кіностудій: «Переведення двовимірного зображення чи відео у тривимірне – це, звичайно, класно, але чи могли б ви, наприклад, перетворити людей однієї етнічності в іншу?». Тобто знайти рішення, які могли б серйозно зрізати витрати студій.

Відтак ми почали експеримент, рухаючись вбік від основного пайплайну. У результаті цього експерименту ми зрозуміли, що наша розробка може не лише вирішити проблему однієї кіностудії чи одного фільму, а і спростити процес модифікації рис обличчя; цей процес можна прискорити від кількох тижнів до кількох секунд.

Могильний: Історія нашої компанії виділяється тим, що ми завжди могли рано заходити в нові сфери. Ми почали працювати з машинним навчанням у 2011 році, задовго до того, як хтось вірив у цю історію – хіба що крім учених, які працювали з ним на теоретичному рівні. Тому за цей час у команди та Олеся зокрема накопичилося достатньо досвіду, щоб зайти в цю історію.

Зараз у сферу намагаються зайти багато компаній. Але навіть технологію заміни облич ми почали розробляти у 2018 році. Ми побачили перші deepfake-відео та зрозуміли, що за цим майбутнє персоналізації. Вирішили, що треба це комодитизувати. Завдяки цьому в нас досить велика база користувачів, що дозволяє відірватися від конкурентів. Ми вважаємо, що з точки зору технологій ми маємо кілька років відриву від конкурентів. У фінальній версії нашої технології ми отримуємо можливість замінювати обличчя у високій якості майже миттєво.

Демонстраційне відео Reface

Як користуватися Reface?

  1. Завантажити додаток Reface: face swap videos для платформ iOS чи Android.
  2. Встановити додаток.
  3. Надати додатку доступ до камери телефона, зробити селфі. «Кожне фото, яке ви знімаєте, буде завантажено на наші сервери для обробки й трансформації обличчя. Продовжуючи дію, ви погоджуєтеся з «Правилами та умовами користування» й «Політикою конфіденційності», – уточнюють перед завантаженням фото.
  4. Відразу після завантаження селфі Reface запропонує оформити підписку на платну версію. За 2,49 долара на тиждень, 3,99 на місяць чи 24,99 на рік пропонують преміумверсію, в якій доступна безлімітна кількість оброблень фото, відсутні реклама та вотермарки з логотипом, а також є можливість завантаження власних GIF-зображень. Від підписки можна відмовитися, у такому разі користувач отримає безкоштовну версію, в якій перед переглядом отриманого відео потрібно дивитися рекламу.
  5. Оброблені відео та GIF можна зберігати на телефон або надсилати як посилання.

– Як максимально просто пояснити, як працює Reface? Коли вас запитує про це, наприклад, мама чи тітка, як ви їм відповідаєте?

Петрів: Ми зробили систему, яка дозволяє персоналізувати будь-яке відео – в один клік і за кілька секунд.

Могильний: І так можна стати героєм будь-якого відео.

Петрів: Елементом будь-якого мему, кліпу чи будь-якого візуального контенту, де є люди.

– У перших інтерв’ю про Reface ви розповідали про гіпотетичні сценарії, коли студіям чи іншим замовникам можуть знадобитися інструменти із заміною облич у кадрі. Уже пів року ми живемо на карантині, і ці сценарії вже стали частиною життя: як, наприклад, заміна баскетболіста Деміана Лілларда в рекламі Hulu…

Рекламний ролик стримінгового сервісу Hulu

Петрів: Ми не маємо на меті замінити deepfake-технології. У нас принципова інша перевага: ми не просто можемо замінити одне обличчя на інше, ми можемо зробити це ледве не в real time, за лічені секунди. До того ж у наших нових розробках це можна буде робити безпосередньо на мобільному телефоні користувача.

Могильний: Замінити одне обличчя на інше можна було і рік тому, і десять років тому.

Відео з Бараком Обамою у форматі deepfake

Петрів: Просто для цього було потрібно багато грошей, а також великі команди, роки чи місяці часу. З появою відкритих репозиторіїв із deepfake ці роки та місяці перетворилися на тижні. Але все одно це тижні робити професіонала – заради кількох секунд відео. Ми ж можемо робити це значно швидше – в один клік і за секунду.

Понад те, ми надали доступ до використання цієї технології всім охочим. Вам не потрібно бути експертом у машинному навчанні, не потрібно мати суперпотужний комп’ютер за кілька тисяч доларів. І саме в цьому наша конкурентна перевага.

Могильний: За день ми обробляємо більше відео, ніж за весь час створили deepfake-відео.

Петрів: У рази більше, у десятки та сотні разів. Станом на червень усього зробили близько 200 тисяч deepfake-відео. З них 120 тисяч – спеціально згенеровані Google та Facebook відео, створені для тренування із розпізнавання фейків. Станом на сьогодні наші користувачі створюють близько 20 мільйонів відео в день.

Могильний: У нас це у сто разів більше.

Deepfake-відео із Джимом Керрі замість Хоакіна Фенікса у фільмі «Джокер»

Персоналізація

– Ви називаєте основним призначенням Reface персоналізацію. Що саме маєте на увазі?

Могильний: Ми вважаємо, що це майбутнє персоналізації – те, як люди будуть показувати себе в мережі.

Іван Алцибєєв

продуктовий директор Reface

Завдяки персоналізації ми можемо змінити не самі соцмережі, а інфлюенс-маркетинг як такий. Він зараз набирає дуже великих обертів: інфлюенсери – це вже не просто люди, які постять контент, вони об'єднують довкола себе мікроспільноти. До них входять люди, які не хочуть читати новини всього світу, їм цікаво лише те, що по-справжньому резонує. Медіа відходять на другий план, люди стають новою формою ЗМІ.

Reface стимулюватиме інфлюенсерів творити контент, частиною якого хотітимуть стати інші. Тобто, він змінюватиме рівень залученості користувачів. Люди люблять дивитися на себе в дзеркалі, бо наш мозок так натренований. Тому ми не конкуруємо з іншими додатками, ми конкуруємо з уявою людини. Коли користувач дивиться на інфлюенсера, то уявляє, як би він виглядав у цій машині чи у цій обстановці. У цьому сенсі персоналізація допомагає нам швидше перенестись у той чи інший контекст. Це викликає сильніший емоційний зв’язок.

У свою чергу, це вирішить головну проблему інфлюенс-меркетингу – монетизацію. Поки нема єдиного механізму, як рекламуються інфлюенсери. Тепер же – що крутіший контент ти створив, то більше людей захочуть бути його частиною. За контент з найвищим рівнем залученості інлфлуюнсери зможуть отримати певну частину долі.

Ми придумали назву Reface як дієслово, яке водночас й описує суть технології. Ми хотіли стати компанією, технологією, яка настільки змінює нішу, що починає в певний момент з нею асоціюватись – так, як колись у словник людей прийшли слова «ґуґлити» (Google) чи «ксерити» (Xerox). Раніше це здавалося чимось фантастичним, тепер же, коли додаток віральний, ми дедалі частіше бачимо у соцмережах користувачів нове дієслово «reface».

Як створити цифровий аватар для Facebook
Ще раніше цифрові аватари почали використовувати ігрові компанії, зокрема Nintendo

– На початку літа Facebook почав тестувати нову функцію з цифровими аватарами: користувач може створити свій портрет у стилізованому форматі й використовувати його як заміну емоджі. Я правильно розумію, ваша ідея – відійти у цьому від анімаційного стилю та запропонувати більш реалістичний аватар?

Могильний: Усе, що роблять Facebook, Google та Apple – це діджитал-аватари, це все одно мультяшна історія. Ми ж рухаємося в бік реалізму. Я не хочу критикувати нікого, але мені не віриться, що на мультяшній історії можна довго прожити. Думаю, це тренд, який швидко зміниться.

– Якщо повернутися до вашого базового інсайту – людям подобається дивитися на себе, подобається робити селфі та накладати різного типу фільтри, і ви вирішили надати новий інструмент?

Могильний: З фільтрами цікава історія. Якщо подивитися на блогерів та інфлюенсерів, то більшість їхнього контенту – це фото. Чому? Тому що дуже складно зробити так, щоб ти завжди добре виходив на відео. Тому фільтри й маски стали настільки популярними: вони урізноманітнюють картинку, до того ж це спосіб позбавити себе незручностей під час запису відео.

Наш кейс – це наступний рівень. Ми дозволяємо набагато глибше занурюватися в контент. Чому хороші фільми здаються нам хорошими? Найчастіше – тому що ми переймаємося долею героїв, асоціюємо себе з ними. Якщо ж ти можеш побачити себе в певному контенті, то ще більше в нього проникаєш.

Петрів: Заміна обличчя – це один із перших наших кроків. Це функція, яка чіпляє дуже велику кількість людей, вона дозволяє швидко розширити аудиторію. Але на цьому ми не збираємося зупинятися. Зараз активно працюємо над тим, щоб вводити нові функції та механіки.

– Функція повної заміни тіла – одна з цих функцій, так? Коли плануєте її ввести?

Могильний: Наступного року.

– Наскільки це складніше з точки зору технології? Наскільки там більше змінних, з якими треба взаємодіяти?

Петрів: Набагато складніше, змінних у рази більше. Риси обличчя мають свої особливості, але це все одно певна обмежена кількість можливих варіантів.

Могильний: Якщо ми говоримо про тіло, то це різні статури, неймовірна варіативність одягу, його поведінка тощо.

Петрів: Я бачу три великі фази в розвитку контенту. Перший етап – від початку книгодрукування до кінця епохи телебачення. На цьому етапі був чіткий поділ: автори й редактори контенту та аудиторія, що його споживає; єдине, що змінилося за ці кілька століть – це формати контенту та розмір аудиторії.

Наступним фундаментальним етапом, як на мене, стало винайдення комп’ютерних ігор. Це новий тип контентного продукту, в якому, крім набору образів, сюжетів і візуальних патернів, є певні ступені свободи. Елемент інтерактивності, взаємодії з цим світом. І так процес споживання контенту принципово відрізнявся від того, що було створено раніше: тисяча людей, які грають в одну й ту ж гру, можуть отримати тисячу різних досвідів.

Ми вважаємо, що наступним етапом буде поєднання патерну інтерактивності гри з контентом, який існував раніше. Це те, що ми називаємо реконтекстуалізацією контенту: умовно кажучи, можна взяти будь-який фільм і зробити його інтерактивним; коли він буде розвиватися, приміром, залежно від того, з якої ти країни, що тобі подобається, хто твої друзі, який у тебе настрій і що ти сьогодні їв. Мільйон людей, які подивляться цей новий вид контенту, отримають мільйон різних досвідів. Таким чином будь-який досвід сприймання контенту можна перетворити на процес створення нового.

Тизер спеціального епізоду серіалу «Чорне дзеркало», який використовував інтерактивну механіку. Керівники Reface кажуть, що подібні прояви інтерактивності ілюзії, оскільки автори серіалу заздалегідь зняли альтернативні сцени, надавши можливість користувачам обирати окремі з них. Справжня інтерактивність – це пряма залежність контенту від дій гравця, додають в Reface.

Могильний: Кожна нова технологія повинна не просто створювати щось нове, вона повинна реконтекстуалізувати все, що вже є.

Петрів: Якщо нова технологія не вдихає нове життя в контент, який був створений до неї, то їй буде важко завоювати велику аудиторію і стати частиною життя великої кількості людей. Якщо нова технологія дозволяє взяти ваші улюблені з дитинства фільми, ігри і комікси, то одразу вирішується проблема створення контенту для неї.

Наприклад, це виклик для VR – цей ринок розвивається повільно, тому що для нього потрібно з нуля створювати багато специфічного контенту. Не можна просто взяти фільм і моментально перетворити його в досвід у віртуальній реальності.

Своєю чергою, ми пропонуємо реконтекстуалізувати вже наявний контент через штучні нейромережі. Тому що цього контенту вже є дуже багато: його створювали протягом останніх 150 років, він уже літає у вигляді мемів або навпаки лежить призабутий. І в нього можна вдихнути абсолютно нові сенси. Те, що було нудним, може знайти нове життя.

Фейки і відповідальність

– Ще одна можлива хронологія – це до і після появи соціальних медіа, коли традиційні медіа втратили монополію на поширення інформації. Відповідно, люди стали і творцями, і аудиторією контенту, обмеживши роль медіа як посередників. Це відкриває багато можливостей, але водночас і загроз. У цих умовах критично важливою є відповідальність розробників і видавців.

Могильний: Ми вважаємо, що все залежить від кінцевої мети розробників. На ринку є багато додатків, метою яких є створення фабрики із заробітку грошей. Ми для себе визначили ідею та бачення – рухатися до чогось більшого.

Ми розуміємо, що з такою кількістю користувачів ми повинні бути відповідальними. До того ж ми як компанія працюємо у США, тому через це ставимося до питання ще більш суворо. Для мене важливо, щоб я врешті міг сказати для себе, що ми зробили все можливе для того, аби користувачам було комфортно і безпечно; що ми не дали цю технологію як щось негативне для людства. Є велика доля вірогідності, що ми будемо тими, кому вдасться її комодитизувати.

Уже зараз ми фактично є медіадомом, нам уже пишуть контент-холдери із запитом на свій контент у додатку.

– Як приклад – спільна робота Reface із Jerry Heil?

Могильний: Ми добре до неї ставимося і вирішили, що це буде класна колаборація. Я вважаю, що Jerry Heil одна з топових серед молодих українських співачок, до того ж вона класна як людина.

Jerry Heil feat. RefaceAI – Блогер

Зараз у нас 35 мільйонів користувачів і ми активно ростемо. Думаю, упродовж кількох наступних років у нас будуть сотні мільйонів користувачів.

– Останні цифри ви озвучували у серпні, тоді повідомляли про 20 мільйонів користувачів. Тобто в межах місяця ви виросли ще на 15 мільйонів?

Могильний: Ви ж нас теж не ображайте, за менш ніж місяць. [сміється]

Словом, ми ставимося до цього відповідально. І робимо це не тому, що повинні, а тому що хочемо. Навіть зараз, коли виникають якісь запитання, наприклад, аналіз певних помилок, ми не торкаємося даних користувачів. Про це все одно ніхто не дізнається. Але про це будемо знати ми. Тому дані, які нам надсилають – це закрита коробка, у яку ми не ліземо.

Петрів: Власне, інфраструктуру ми влаштували таким чином, аби заглянути під капот було неможливо. Усі дані зберігаються в хмарі у вигляді закритих сховищ. По-перше, будь-яке втручання було б технічно складним.

Могильний: Плюс це небезпечно для системи.

Петрів: У нас взагалі немає необхідності лізти в дані людей. До того ж у багатьох моментах нам тупо не вигідно зберігати дані користувачів, бо нам треба платити за зберігання у хмарі, бази даних тощо. Коли йдеться про мільйони користувачів щодня, то навіть збереження одного запису може бути зайвим.

– Ви користуєтеся хмарними сховищами Google Cloud Platform, так?

Могильний: Так.

– І фізичні сервери розташовані у США?

Могильний: Так, ми не процесимо все на своїх серверах.

Петрів: Навіщо? Якщо вже існує інфраструктура від компанії світового масштабу, що дає гарантії безпеки.

– Це я до того, що втручання у дані користувачів може бути не лише від вас, а й від зовнішніх агентів.

Могильний: Це для нас базова історія, історія про безпеку. Наступний крок – модерація контенту. Ми вже вводимо модерацію.

Зараз ми дали доступ до близько 10% потенціалу технології: вона працює або на GIF низької якості, або на відео високої якості, яке, втім, обмежене набором, який ми даємо. Коли ми дамо усі 100% можливостей, у нас буде визначення неправильного контенту: політичні виступу, порно тощо точно будуть заблоковані системою. До того ж ми обмежимо можливість завантажувати в систему окремих людей на зразок політиків, щоб обмежити шкідливу дію технології.

Петрів: Окрім того, ми витратили дуже багато сил на цифровий водний знак.

Могильний: Це спосіб маркувати відео – не помітний для користувачів, але доступний для зчитування нашою системою. Ми переконані – якщо ти створюєш будь-що, що може ввести людей в оману, ти повинен надати інструмент, за допомогою якого можна перевірити достовірність відео. Думаю, в майбутньому з’являться сервіси, що дозволятимуть валідувати відео – справжнє це відео чи синтезоване. Звичайно, ми будемо з ними працювати і надавати свій сервіс. Це серйозний виклик, як показали результати Facebook Deefpake Detection Challenge.

Deepfake зі співзасновником Facebook Марком Цукерберґом

– І є окремі заяви Марка Цукерберґа про те, що deepfake є безпрецедетним викликом для Facebook.

Петрів: І це не тільки технічна проблема, а й концептуальна. Припустімо, завтра якась компанія оголошує, що винаходить метод, як із точністю в 100% визначати синтезовані відео. Припустімо, що це правда. Не мине й тижня, як на Github чи (що гірше) у даркнеті з’явиться невелика модифікація до одного з методів deepfake, і увесь авторитет цієї системи верифікації зруйнується. Одна справа, коли ми не знаємо напевно, справжнє відео чи ні. І зовсім інша, якщо воно не справжнє, а авторитетна система називає її справжнім. І в цьому найбільша проблема спроб винайти «універсальний антивірус». Щойно він виникає, з’являється вірус, що є гіршим, ніж усе, що було до цього.

– І тоді постає запитання про ваші механізми перевірки достовірності відео.

Петрів: Ми пропонуємо альтернативний метод. Ми не стверджуємо, що можемо розпізнати 100% модифікованих відео. Оскільки ми маємо контроль над системою, що створює ці відео, ми тренуємо її так, аби вона не лише змінювала риси обличчя, а й кодувала у фінальне зображення патерн, який дуже важко прибрати. І в процесі тренуємо нашу систему розпізнавати ці кодовані патерни. Нині система розпізнавання перебуває на фінальному етапі. За інших ми поки не ручаємося. Але наше відео ми можемо визначити – з великою долею впевненості. Якщо ми сказали, що це наше, то це точно наше.

– Синтезовані відео вже зараз дуже складно відрізнити від справжніх, з настільки активним розвитком сфери за рік-два ми можемо отримати безпрецедентну хвилю фейків.

Петрів: Ми вважаємо, що менш небезпечною є ситуація, коли всі мають доступ до технології і можуть будь-що модифікувати, ніж коли до неї має доступ дуже обмежена кількість людей. Уявіть собі світ, у якому вже існує фотографія, не цифрова, а аналогова, і не існує жодних методів модифікації фотографії. Адже з появою Photoshop катастрофи не сталося. Тому що будь-яка людина зараз може завантажити Photoshop і як завгодно його використовувати. Але ми ж не віримо, що це правда, коли бачимо [оброблене] фото, на якому хтось летить верхи на лелеці.

– Просто у випадку з фото є досить прості дані, як можна перевірити правдивість зображення – наприклад, геодані світлин. У випадку з синтезованими відео це значно складніший процес.

Петрів: Як ви думаєте, який відсоток людей буде перевіряти геодані, якщо побачить фото з кимось верхи на лелеці? Важливіше те, що у масовій свідомості людей закріпилося уявлення – існують редактори фото, це можна зробити за десять секунд. Безумовний рівень довіри вже набагато менший. Якщо тобі дуже цікаво, то ти дійсно витратиш час і почнеш придивлятися, перевіряти, запитувати в експертів. Але ніхто не повірить, що хтось може літати, якщо побачить фото з людиною у небі. Немає вже таких людей. Хоча ще років сто тому люди б задумалися про це.

Пітер Померанцев – один із провідних сучасних дослідників феномену дезінформації – каже, що головна загроза фейків навіть не у введенні в оману, а в перенасиченні інформаційного фону до такого рівня, що створюється відчуття непевності. Виробники фейків і ботоферми мають на меті не так обдурити, як створити відчуття, що правду від неправди відділити неможливо. Ти просто не знаєш, кому і чому вірити. Інформаційна війна Росії в Україні з 2014 року та виборчий процес у США у 2016 році показали, що ми досі не готові до цих викликів у вже звичних соціальних медіа. Синтезовані відео – це виведення проблеми на ще складніший рівень.

Петрів: Досі існує інститут авторитетності певних медіа. Як на мене, основна цінність медіа не в тому, що вони дають на поталу публіці новий контент. Тепер новий контент може давати будь-хто. Авторитетні медіа будуть залишатися авторитетними завдяки тому, що читачі розумітимуть – інформації, яку вони надають, можна довіряти. У світі, де будь-що легко змінити, такий авторитет легко втратити. Для цього достатньо помилитися кілька разів.

Не думаю, що це катастрофа. Це зайве нагадування людям, у якому світі ми і так уже давно живемо. Те, що люди живуть у рожевих окулярах, що вони сприймають за чисту монету будь-який жовтий заголовок у Facebook – це не проблема технологій і Facebook.

Президент США Дональд Трамп поширив відео зі Спікеркою палати представників Ненсі Пелосі, що виявилося фейковим

– І ця проблема показала чинний низький рівень медіаграмотності. Але річ у тім, що Facebook та інші соціальні медіа зробили значно простішим поширення дезінформації. І поява ще більш просунутих технологій на кшталт синтезованих відео – це ризик ще більше погіршити цю проблему.

Петрів: І стимулювати імунну систему.

– Ми починали інтерв’ю із твіту Ілона Маска, але той же Маск головною загрозою називає штучний інтелект. Я розумію, що «штучний інтелект» – це дуже широкий і розмитий термін. Але чи згодні ви з Маском у тому, що він є екзистенційною загрозою людству?

Петрів: Я не вважаю, що термін «штучний інтелект» зараз виконує хоча б якусь корисну функцію. Слова корисні тоді, коли ми всі розуміємо їх так само. Зараз склалася ситуація, коли термін «штучний інтелект» позбавили жодного сенсу, бо кожна людина розуміє під ним щось інше. Хтось уявляє «Термінатора», хтось – набір тупих алгоритмів, а хтось – відеокарти та спалювання електроенергії.

Люди вже тисячі років розробляють інструменти, щоб спростити механічну працю. Велику кількість інтелектуальних функцій, які виконують люди, теж можна назвати механічними: однотипні завдання, які необхідно повторювати і які можна автоматизувати. І багатьох людей лякає, що певну інтелектуальну працю можна автоматизувати. Тому що вони чомусь вважали, що інтелектуальна праця – це щось унікальне і притаманне тільки людині. Але технології показують, що принаймні частину людського інтелекту можна автоматизувати, його можна перекласти на зовнішні процеси за межами черепа. І в цьому немає нічого поганого, завдяки цьому в людини з’являється час, аби зайнятися роботою на вищому рівні – замість того, щоб робити тупу роботу.

Можна говорити про машинне навчання як галузь, можна говорити про вирішення конкретних інженерних завдань. Якщо ж говорити про загальний штучний інтелект, який може колись виникнути (і це ще під питанням), то я скажу, що ми далекі навіть від розуміння, що таке природний інтелект. Через медіа у людей складається враження, що не сьогодні так завтра виникне самосвідомість усередині кремнію, яка почне з нами дружити чи воювати. Я переконаний, що це буде зовсім інакше.

Ілон Маск про загрозу штучного інтелекту на подкасті Джо Роґана

– Я згоден, що це розмитий термін і що в масовій культурі він отримав максимально химерні прояви. Але я свідомо поставив запитання через цитату Ілона Маска, який вважає штучний інтелект «найбільшою екзистенційною загрозою людству» і наводить часовий проміжок до п’яти років, коли AI «зможе перевершити людину».

Петрів: На прикладі Reface ми хочемо показати, що доступ до технологій генеративних медіа можна надавати з контролем і мінімізацією потенційно негативного використання. Жоден провайдер технології, хай це буде лопата, виделка чи кухонний ніж, не може дати 100% гарантії, що користувач не використає її в поганих цілях. Але можна зробити так, щоб мінімізувати та ускладнити неправильне використання.

Ми намагаємося показати приклад – як можна мінімізувати потенційно негативне використання. І з мільйонів відео, які створюються щодня, 99,999% використовується для того, щоб збільшувати кількість усмішок, а не створювати загрозу. Поки виглядає, що нам це вдається.

Обкладинка: Reface